La Chine vient de construire un modèle d'IA majeur sans puces Nvidia. Maintenant, OpenAI a trouvé des moyens de fonctionner avec beaucoup moins de puces, réduisant les coûts d'inférence de plus de la moitié. Pourtant, l'action Nvidia a augmenté.
C'est le mystère. OpenAI est l'un des plus grands clients de Nvidia (NVDA). Pourtant, les actions ont grimpé même alors qu'elle avait besoin de moins de puces.
OpenAI réduit les coûts d'inférence sur deux fronts
Le premier front est le logiciel. The Information a rapporté que les ingénieurs d'OpenAI ont réduit les coûts d'inférence de plus de la moitié grâce à de nouvelles méthodes d'optimisation. OpenAI n'a pas publié les détails techniques.
Les économies réduisent le nombre de puces Nvidia nécessaires pour gérer une partie du trafic de ChatGPT. Elles pourraient également permettre à OpenAI de baisser les prix ou d'augmenter les limites d'utilisation.
Le deuxième front est le matériel. Le 24 juin, OpenAI et Broadcom (AVGO) ont dévoilé Jalapeño, sa première puce personnalisée. OpenAI a déclaré que les premiers tests indiquent une performance par watt bien meilleure que celle des puces leaders actuelles, avec un design de neuf mois.
Les premières puces seront déployées à une échelle de gigawatt d'ici la fin de 2026, avec Microsoft comme partenaire principal. Nvidia gère toujours la plupart des inférences d'OpenAI, même si OpenAI finance son partenariat avec Broadcom.
Les grandes entreprises technologiques se précipitent pour construire leurs propres puces
OpenAI n'est pas seule. Google a construit des unités de traitement tensoriel depuis 2016, et Amazon a suivi avec les siennes. La société de recherche TrendForce prévoit que les systèmes basés sur ASIC atteindront 27,8 % des expéditions de serveurs IA en 2026, le plus haut depuis 2023.
Selon TrendForce, les puces personnalisées devraient croître plus rapidement que les GPU de Nvidia pour la première fois. Des fournisseurs comme Broadcom et Marvell sont devenus des fabricants clés de puces personnalisées dans le développement.
Les sanctions poussent la même tendance en Chine. Meituan a récemment formé son modèle LongCat-2.0 de 1,6 trillion de paramètres sur des puces domestiques chinoises, sans aucun matériel Nvidia.
Pourquoi l'action Nvidia continue de grimper
La menace est réelle, mais les chiffres expliquent le calme. L'action Nvidia a augmenté de près de 2 % le 30 juin, atteignant une valeur de près de 4,8 trillions de dollars. Les derniers résultats de Nvidia ont montré que les revenus des centres de données ont augmenté de 75 % pour atteindre un record de 62,3 milliards de dollars en un seul trimestre.
La plupart de la pression se situe au niveau de l'inférence, pas de l'entraînement. Nvidia domine toujours l'entraînement des modèles, où son logiciel CUDA a verrouillé les développeurs depuis 2006. Les puces personnalisées égalent rarement cette flexibilité.
Nvidia défend également le niveau d'inférence dont on l'accuse de perdre. Lors de la GTC, Nvidia a déclaré que sa prochaine plateforme Rubin réduit les coûts d'inférence par token jusqu'à 10 fois par rapport à Blackwell. Une inférence moins chère tend également à augmenter l'utilisation et le calcul total avec elle.
Tout le monde n'est pas convaincu. Certains investisseurs ont investi dans des actions de puces concurrentes, pariant que le changement d'inférence se renforce. Pourtant, Nvidia a prévu ce trimestre sans compter les ventes en Chine, et voit toujours une demande record.
Nvidia vend toujours chaque puce qu'elle peut fabriquer. Le véritable test est de savoir si ses plus grands clients peuvent l'éliminer plus rapidement que le marché ne croît.
Source : BeInCrypto
