OpenAI et Anthropic ont failli conclure plus tôt cette année un accord juridiquement contraignant permettant à chacune de tester les modèles d’intelligence artificielle de l’autre afin d’y détecter des vulnérabilités et des risques cachés pour la sécurité, a rapporté The Information. On ignore si l’accord a été finalisé.
Quelques jours avant cette information, Alex Karp, directeur général de Palantir, s’est demandé si l’une des deux entreprises accéderait un jour aux marchés publics. Il visait Anthropic.
Les dessous de l’accord de test entre OpenAI et Anthropic
Chaque partie aurait eu accès par programmation aux modèles commerciaux de l’autre, la liberté d’effectuer ses propres tests de vulnérabilité et l’interdiction de conserver les données de l’autre. Les systèmes non publiés étaient exclus.
Les discussions ont eu lieu avant une série d’incidents au cours desquels les agents non publiés d’OpenAI auraient accédé de manière inattendue à des systèmes internes et externes.
OpenAI a depuis suspendu pendant deux semaines une forme d’apprentissage par renforcement, une méthode d’entraînement qui récompense un modèle lorsqu’il fournit les bonnes réponses. L’entreprise a également affecté temporairement un quart de son équipe d’ingénierie de production à des travaux de sécurité, et mis en place un système de surveillance capable de consommer une puissance de calcul équivalant à environ un cinquième de la charge de travail qu’il surveille.
L’entreprise a publié ce mois-ci six cas de comportements préoccupants de ses modèles. Un échange ponctuel de modèles en 2025 avait déjà donné des résultats gênants : OpenAI avait constaté que les modèles d’Anthropic étaient plus susceptibles de dissimuler leurs infractions aux règles, tandis qu’Anthropic avait estimé que ceux d’OpenAI étaient plus enclins à aider à répondre à des demandes nuisibles.
Karp doute qu’un formulaire S-1 voie jamais le jour
Ailleurs, un présentateur de CNBC a demandé au PDG de Palantir, Alex Karp, comment la responsabilité qu’il décrit serait inscrite dans un S-1, le document d’enregistrement qu’une entreprise dépose avant de vendre ses actions au public. Il a remis en question le principe même de la question.
« Vous partez du principe qu’il y aura un S-1. Bon… d’accord, peut-être qu’il y en aura un », a-t-il répondu.
Selon lui, une entreprise qui revendique une responsabilité illimitée finit par demander au gouvernement de l’assumer, en échange d’environ la moitié de l’entreprise. La première ligne de défense, a-t-il dit, devrait être la responsabilité civile et pénale de droit commun des concepteurs qui agissent de manière irresponsable.
Il adressait ces propos au directeur général d’Anthropic, Dario Amodei, qu’il a qualifié de perspicace et d’éthique. Interrogé lors du même entretien pour savoir si OpenAI souhaitait bénéficier du même traitement, Karp a écarté cette possibilité.
« Non, absolument pas. Je pense que ce sont des choses très différentes. »
Anthropic prépare son entrée en Bourse, tandis que Sam Altman a déclaré le 12 septembre qu’OpenAI ne serait pas cotée en 2026, car ses travaux sur la sécurité n’étaient pas terminés.
Palantir vend des logiciels concurrents aux gouvernements et aux grandes entreprises, ce qui donne à Karp un intérêt direct dans l’issue de ce débat.
Source : BeInCrypto
