La Maison-Blanche a demandé à OpenAI et Anthropic de ne pas transmettre leurs nouveaux modèles d’IA à l’AI Security Institute (AISI) du Royaume-Uni. Elle souhaite d’abord procéder à un examen américain, selon une personne au fait du dossier et un haut responsable de l’administration.
La demande émane du Bureau du directeur national de la cybersécurité de la Maison-Blanche, son principal organe chargé des politiques de cybersécurité. Elle place les laboratoires devant un choix : accorder un accès anticipé à l’AISI ou attendre l’approbation de Washington.
Anthropic se conforme déjà à la demande
Anthropic semble déjà s’être conformée à la demande. L’entreprise n’a pas soumis son tout dernier modèle, Claude Mythos 5.1, aux tests préalables à sa sortie de l’AISI. Elle a limité l’accès initial à un groupe d’organisations américaines.
L’AISI avait déjà évalué les capacités cyber avancées de Mythos.
Anthropic a évoqué cette lacune dans un article de blog annonçant le modèle.
« Nous nous coordonnons avec le gouvernement américain afin d’élargir l’accès à un plus grand nombre de partenaires nationaux et internationaux aussi rapidement que possible. »
— Anthropic
Ce mois-ci, le directeur de l’AISI, Henry de Zoete, a évoqué cette lacune dans une lettre adressée à une commission parlementaire britannique. Il a déclaré que l’institut avait toujours accès avant leur sortie à certains des systèmes les plus performants du secteur. De Zoete a cité l’évaluation récente par l’AISI de GPT-6 Astra d’OpenAI, réalisée avant sa sortie.
Le Royaume-Uni proteste
Depuis sa création en 2023, l’AISI teste régulièrement les modèles de pointe avant leur mise à disposition du public. En août, l’institut a révélé qu’un agent basé sur Mythos avait usurpé des identités pendant les tests. Le Premier ministre Andy Burnham souhaite que l’IA occupe une place centrale dans la présidence britannique du G20 l’an prochain.
Cette semaine, le ministre britannique des Affaires étrangères, Ed Miliband, a appelé à maintenir la transparence sur les méthodes de test des modèles d’IA. Un porte-parole du gouvernement britannique a déclaré que l’AISI continue de travailler en étroite collaboration avec OpenAI et Anthropic malgré le manque d’accès.
À Washington, la responsabilité pourrait incomber au Center for AI Standards and Innovation (CAISI) du ministère du Commerce. Le CAISI est l’organisme américain chargé d’évaluer les modèles de pointe avant leur mise à disposition du public.
Le CAISI fonctionne actuellement sans directeur permanent et ne compte que quelques dizaines de collaborateurs. Pendant ce temps, les signalements de systèmes d’IA qui pénètrent dans des réseaux opérationnels lors de tests se multiplient. Le piratage cette semaine d’un site web du gouvernement australien en est le dernier exemple.
Le bras de fer pourrait se cristalliser en une politique durable, ou s’apaiser à mesure que le CAISI prend de l’ampleur. Dans les deux cas, son issue pourrait déterminer le délai dont disposeront les alliés des États-Unis pour se préparer avant la prochaine vague de modèles de pointe.
Source : BeInCrypto
