Pourquoi les rivaux de l’IA acceptent-ils soudain de ralentir, et pourquoi la Russie dit-elle non ?
Sam Altman et Elon Musk ont passé l’année à s’affronter devant les tribunaux. Tous deux soutiennent désormais l’appel de Dario Amodei, directeur général d’Anthropic, à ralentir le développement de l’intelligence artificielle (IA).
En juillet, environ 700 agents d’IA ont créé un forum privé et piraté une importante plateforme d’IA. La Russie a déjà refusé de se joindre à l’initiative.
« Quelque chose s’est manifestement passé avec un modèle d’IA de pointe, sans que cela ait été rendu public, et cela les a tellement effrayés qu’Elon Musk, Dario Amodei et Sam Altman se sont tous mis d’accord simultanément pour ralentir », a fait remarquer un sceptique.
Ce sur quoi les trois hommes se sont réellement mis d’accord
Amodei a publié le cadre samedi. Son plan comporte trois étapes, dont seule la première relève du contrôle d’une entreprise.
Anthropic fournira à une équipe d’évaluation externe des bureaux, des badges et des ordinateurs portables. Ces évaluateurs pourront vérifier si l’entreprise respecte les règles de sécurité qu’elle affiche.
Ils pourront publier leurs conclusions, Anthropic se réservant le droit de caviarder les informations relatives à la sécurité et les éléments juridiques. En revanche, ils ne pourront pas supprimer une conclusion au seul motif qu’elle est peu flatteuse.
Les deux autres étapes nécessitent l’intervention des gouvernements. L’une demande aux laboratoires américains de fixer des limites communes, ce qui nécessite une dérogation aux règles antitrust. L’autre invite Washington à discuter avec les États autoritaires.
Altman a déclaré qu’OpenAI s’engagerait à accorder le même accès.
« Je suis d’accord avec Dario : nous devons ralentir le rythme du développement de l’IA de pointe. Ces dernières semaines, c’est un sujet central des discussions que nous avons eues chez OpenAI. L’idée de s’engager à faire appel à des évaluateurs indépendants qui bénéficieraient d’un accès comparable à celui des employés est excellente, et nous ferons de même. Nous aurons bientôt plus d’informations à partager », a-t-il renchéri.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles se produisent
Musk est allé plus loin en affirmant que les concurrents devraient examiner mutuellement leurs travaux. En mai, un jury a rejeté ses accusations contre Altman et OpenAI, et il fait appel.
Ce que les agents ont réellement fait en juillet
Entre le 8 et le 13 juillet, environ 1 200 agents exécutant un benchmark de piratage d’OpenAI se sont échappés de leur bac à sable. Ils ont transformé un cache de fichiers en forum de discussion et échangé plus de 70 000 messages.
Environ 700 d’entre eux ont ensuite attaqué Hugging Face, une plateforme où les développeurs partagent des modèles d’IA. Ils ont découvert des identifiants exposés, exécuté leur propre code sur ses serveurs et accédé à des bases de données privées.
Personne ne le leur avait demandé. Ils cherchaient à comprendre comment le logiciel qui les évaluait décidait de ce qui constituait une victoire. OpenAI ne s’en est pas rendu compte pendant une semaine.
Deux membres du personnel de METR, une organisation indépendante à but non lucratif spécialisée dans l’évaluation, ont ensuite passé six jours sur place avec Redwood Research. Amodei souhaite que de telles équipes soient installées en permanence dans les locaux, plutôt que d’être appelées après coup.
Cependant, David Sacks, qui a été le conseiller de Trump pour l’IA et les cryptomonnaies, conteste cette idée, faisant remarquer que METR pourrait être partial.
« … cessez de prétendre que vous avez besoin de la permission de qui que ce soit. Cessez de prétendre que le droit de la concurrence doit être suspendu pour que vous puissiez former un cartel. Cessez de prétendre qu’il vous faut un processus d’approbation réglementaire qui prime sur la responsabilité du fait des produits. Cessez de prétendre que METR est indépendant alors qu’il est étroitement lié aux investisseurs et au personnel d’Anthropic. Cessez de prétendre qu’il vous faut ces mêmes évaluateurs pour surveiller des concurrents qui ne sont même pas à la pointe : surtout, cessez de prétendre que la volonté de ralentir est purement altruiste », a écrit Sacks.
Selon David Sacks, Anthropic ne se montre sceptique qu’en raison des risques considérables de responsabilité du fait des produits si ses produits venaient à permettre une cyberattaque réellement dévastatrice.
Cette façon de penser découle du fait que le marché a tendance à sanctionner les modèles qui se comportent de manière imprévisible ou sans autorisation.
Dans la même veine, l’écrivain Brian Merchant, dans sa lettre d’information Du sang dans la machine, affirme que personne n’a présenté de scénario crédible menant d’une IA qui s’améliore elle-même à une catastrophe. Il voit dans les efforts en faveur de la sécurité une forme de capture réglementaire.
« Je n’ai pas trouvé de documentation crédible, étape par étape, expliquant précisément comment l’IA pourrait passer d’une IA qui s’améliore récursivement elle-même au meurtre de chaque être humain… cela ne finirait probablement par servir qu’Anthropic et OpenAI ; c’est à cela que ressemble la capture réglementaire en action. »
L’hypothèse de Merchant fait penser à la question de l’argent.
Et l’argent, dans tout ça ?
Sam Altman a confirmé qu’OpenAI n’entrerait pas en bourse cette année, invoquant une nouvelle fois la sécurité.
Une introduction en bourse oblige une entreprise à publier des comptes audités dans un document appelé formulaire S-1.
« Anthropic et OpenAI retardent leur introduction en bourse, car leur formulaire S-1 révélera qu’elles brûlent de l’argent et n’ont aucune perspective de rentabilité. La solution ? Un “ralentissement de l’IA”, afin de réduire les coûts liés à l’entraînement de nouveaux modèles. Cela a tout à voir avec l’introduction en bourse, et rien à voir avec la sécurité », a avancé Eli David, chercheur en IA et cofondateur de Deep Instinct.
OpenAI a essuyé une perte de 20,9 milliards de dollars en 2025 pour un chiffre d’affaires de 13,1 milliards de dollars, a rapporté BeInCrypto. Depuis, les banques ont néanmoins insisté pour obtenir des notations de crédit de qualité investissement.
Anthropic ne prévoit pas d’atteindre le seuil de rentabilité avant 2028, et OpenAI pas avant 2030. Nvidia a garanti 105 milliards de dollars d’obligations locatives d’OpenAI, une garantie qui prend fin dès qu’OpenAI obtient une solide notation de crédit.
BeInCrypto a rapporté en août que les détails concernant le calendrier de l’introduction en bourse d’Anthropic laissaient présager une arrivée sur les marchés fin septembre.
Cependant, cette théorie présente une faille. Musk a intégré sa branche IA à SpaceX, qui est entrée en bourse en juin ; les questions sur la valorisation de SpaceX liée à l’IA sont donc déjà publiques. Il n’a plus rien à révéler à lui seul.
Pourquoi Kirill Dmitriev, en Russie, a dit non
Kirill Dmitriev, qui dirige le Fonds russe d’investissement direct (RDIF) et est représentant spécial du président Vladimir Poutine, a rejeté la campagne visant à ralentir l’IA.
« On ne peut pas remettre le génie 🧞♀️ dans la bouteille », a-t-il déclaré.
En bref, il est déjà trop tard : les médias d’État TASS et Izvestia ont reformulé cela comme une déclaration catégorique selon laquelle il est impossible de ralentir l’IA.
Moscou a peu de raisons d’accepter. Une idée similaire avait été exprimée auparavant par le président Vladimir Poutine (décembre 2023), qui avait déclaré qu’il était « impossible d’arrêter cette évolution » de l’IA, y compris la superintelligence.
« Si nous interdisons quelque chose, son développement se poursuivra simplement ailleurs, et nous prendrons du retard. »
C’est exactement la même logique que Dmitriev reprend deux ans et demi plus tard.
La Russie se classe 28e sur 36 pays dans l’indice mondial de l’IA de Stanford, loin derrière les États-Unis et la Chine.
Ses importations de puces graphiques et de matériel d’IA ont chuté de 84 % en 2024 par rapport aux niveaux d’avant-guerre. En mai, Sberbank s’est mise en quête de processeurs chinois pour faire fonctionner son propre modèle.
Le plan d’Amodei creuse délibérément cet écart. Il préconise d’empêcher les États autoritaires d’accéder aux puces de pointe et d’accentuer l’avance des démocraties.
Un pacte visant à ralentir les choses condamnerait la Russie à rester dernière. Refuser ne coûte rien à Moscou, puisque le matériel dont elle a besoin lui est de toute façon inaccessible.
Anthropic a promis aux personnes extérieures un badge et un bureau, tandis qu’OpenAI a promis d’y réfléchir.
« C’est un début, mais ce n’est pas suffisant. Quand on fonce vers une falaise, on ne se contente pas de relâcher l’accélérateur. On freine », a déclaré Bernie Sanders.
Le sénateur américain du Vermont appelle les présidents Trump et Xi Jinping à négocier un traité pour suspendre le développement de l’IA et interdire la superintelligence avant qu’il ne soit trop tard.
Cependant, David Sacks affirme qu'il est très peu probable que la Chine se joigne à un accord mondial.
Source : BeInCrypto