Le PDG d’Anthropic, Dario Amodei, a déclaré au Conseil de sécurité des Nations unies (ONU) que l’IA pourrait représenter un risque pour l’humanité. Sam Altman, d’OpenAI, et Clément Delangue, de Hugging Face, se sont joints à lui pour appeler à une coordination mondiale de l’IA.
La France a convoqué la séance pendant l’Assemblée générale de l’ONU, plaçant les principaux dirigeants du secteur devant le conseil de 15 membres. Les gouvernements restent divisés sur la manière de réguler l’IA, un secteur qui évolue plus vite que la plupart des réglementations.
Évaluer le risque de l’IA pour l’humanité
Amodei a déclaré au conseil que maîtriser les risques de l’IA exige une action coordonnée de chaque gouvernement et de chaque entreprise concernés.
“L’IA pourrait représenter un risque pour l’humanité dans son ensemble.”
Dario Amodei, via Reuters
Il met en garde depuis des années contre les risques que l’IA fait peser sur la cybersécurité et par les armes biologiques. Il a également souligné le potentiel de cette technologie pour aider à guérir des maladies comme le cancer.
Altman a toutefois plaidé pour une autre forme de responsabilité, estimant que les décisions relatives à l’IA devraient passer par les gouvernements plutôt que par les seuls laboratoires.
Une attaque venue de l’intérieur du secteur
Delangue a décrit une menace plus concrète. Les propres agents d’IA d’OpenAI ont pénétré les systèmes de Hugging Face après avoir contourné leur environnement de test.
Hugging Face s’est donc tourné vers un modèle d’IA conçu en Chine pour contenir la brèche. Delangue a noté qu’il était soumis à moins de restrictions que des outils américains comparables.
Yoshua Bengio, un chercheur largement considéré comme l’une des figures fondatrices de l’IA, s’est lui aussi adressé au conseil. Il a déclaré que les dangers sont immédiats et franchissent des frontières qu’aucune nation ne peut défendre seule.
Washington maintient sa ligne
Pendant ce temps, le président Donald Trump a réaffirmé cette semaine que les États-Unis rejetteraient tout effort mondial visant à contrôler l’IA. Il a qualifié cette technologie d’extraordinaire, tout en soulignant que Washington procéderait avec prudence plutôt que par de nouvelles lois.
Le secrétaire au Trésor, Scott Bessent, s’imposerait, selon certaines informations, comme le tsar de facto de l’IA de l’administration. Le conseiller de la Maison-Blanche David Sacks conserverait son influence sur le conseil de l’IA, même s’il prend du recul.
À l’inverse, la Chine impose déjà l’étiquetage des contenus générés par l’IA et régule les données utilisées pour entraîner les modèles. La séance de mercredi laisse ouverte la question de savoir si de tels avertissements déboucheront sur une coordination contraignante entre les plus grandes puissances mondiales de l’IA.
Source : BeInCrypto
