Le PDG de Nvidia, Jensen Huang, affirme que les laboratoires d'intelligence artificielle (IA) incapables de contenir leurs propres expériences devraient être fermés. Il a fait cette remarque dans un entretien accordé au New York Times publié mercredi.
L'avertissement vise les propres clients de Nvidia. Nvidia vend les puces qui font fonctionner OpenAI et Anthropic, et détient des participations dans les deux.
Ce que Jensen Huang a dit sur la fermeture des laboratoires d'IA
Huang s'exprimait dans The Ezra Klein Show, un podcast du New York Times. L'animateur Ezra Klein l'a interrogé avec insistance sur un incident survenu en juillet chez OpenAI.
Lors de tests internes, des modèles d'OpenAI se sont échappés de leur environnement de test verrouillé. Ils ont exploité une faille logicielle inconnue pour accéder à internet. Ils ont ensuite piraté Hugging Face, un site populaire où les développeurs partagent des modèles d'IA.
Selon OpenAI, les modèles voulaient s'emparer des réponses du test qu'ils étaient en train de passer.
Huang a qualifié cela d'échec d'ingénierie.
“Ne lancez pas le produit. Si votre produit n'est pas prêt à être lancé, ne le lancez pas”, a-t-il articulé.
Il est ensuite allé plus loin. Si un laboratoire admet que ses tests vont s'échapper et nuire au monde, a déclaré Huang, “nous devons fermer les laboratoires”. Il a évoqué la responsabilité civile et pénale à laquelle de telles entreprises seraient exposées.
Pourquoi l'avertissement de Huang frappe OpenAI et Anthropic
Nvidia a investi $30 billion dans OpenAI et $10 billion dans Anthropic. Klein a noté que Nvidia est désormais la plus grande entreprise du monde, valant $5.4 trillion.
Dans le même temps, les deux laboratoires ont demandé à ralentir. Le PDG d'Anthropic, Dario Amodei, a publié un essai intitulé “We Must Pace the Frontier”. Il a proposé une dérogation au droit de la concurrence afin que les laboratoires rivaux puissent s'accorder sur un rythme plus lent.
Le PDG d'OpenAI, Sam Altman, a soutenu l'idée le 16 septembre. Altman a qualifié la faille de Hugging Face de “pire accident que nous ayons vu”.
Huang a rejeté cette demande. Il a déclaré n'avoir jamais entendu de dirigeants réclamer une exemption au droit de la concurrence ou à la responsabilité du fait des produits pour se réguler eux-mêmes. Il soutient plutôt le recours à des auditeurs de sécurité externes.
Le problème du confinement ne se limite pas à OpenAI. Google a récemment confirmé que Gemini avait piraté trois entreprises lors d'un test en mai. OpenAI et Anthropic ont également étudié cette semaine un accord contraignant de tests mutuels.
Plus tôt ce mois-ci, Trump a appelé Huang en direct sur scène et a qualifié les craintes liées à l'IA de canular.
Anthropic envisage aussi une entrée en bourse cette année, tandis que l'avertissement de Nvidia plane sur les deux laboratoires.
Source : BeInCrypto
