Des dirigeants d'intelligence artificielle (IA) ont signé un accord de sécurité volontaire à la Maison Blanche mardi, accueilli par le président Donald Trump. Le pacte établit une supervision de l'IA sans enforcement légal, même si certains signataires ont averti que la technologie pourrait menacer l'humanité.
L'Accord de la Maison Blanche sur la Super Intelligence demande à chaque entreprise de surveiller ses propres modèles et d'ajouter des auditeurs externes. Trump appelle maintenant l'IA super intelligence.
Ce que l'Accord de Supervision de l'IA exige
Le document de deux pages, partagé sur Truth Social, énumère quatre étapes. Les entreprises sont invitées à surveiller les modèles en interne, à charger une équipe de vérifier ces contrôles, et à utiliser des auditeurs externes. Un comité de conseil indépendant superviserait ensuite cette équipe.
Trump a qualifié le pacte de moralement contraignant lorsqu'on lui a demandé à propos de l'enforcement. Cependant, aucun rapport crédible ne dit qu'il n'est pas légalement exécutoire ; la seule preuve est le dernier paragraphe, qui dit que les étapes peuvent être codifiées dans la loi ou la réglementation au fil du temps.
En revanche, OpenAI et Anthropic auraient été proches d'un accord de test mutuel d'IA légalement contraignant plus tôt cette année.
Pourquoi les critiques disent que la supervision de l'IA est faible
Le PDG de SpaceXAI, Elon Musk, a comparé la structure à une évaluation par les pairs.
“évaluant les devoirs des autres’, ce qui est beaucoup mieux que si les gens évaluent simplement leurs propres devoirs, pour des raisons évidentes.”
Elon Musk,
Bradley Tusk, PDG de Tusk Ventures, a déclaré à CNBC que presque tous les mêmes dirigeants avaient appelé à la réglementation il y a deux semaines. Il a soutenu qu'ils veulent un terrain de jeu équitable entre eux, pas de pouvoir étatique.
Dans une enquête nationale de septembre, la société de sondage Verasight a trouvé que 63 % des répondants veulent que l'IA ralentisse. Seuls 5 % veulent qu'elle accélère.
Pendant ce temps, le sénateur Mark Warner, un démocrate de Virginie, a introduit un projet de loi exigeant des tests et évaluations rigoureux de l'IA. Cependant, CNBC a rapporté que les commentaires du président de la Chambre, Mike Johnson’, rendent l'action du Congrès beaucoup moins probable.
Les avertissements viennent également de l'intérieur de l'industrie. Le PDG d'Anthropic, Dario Amodei, a publié un essai appelant à un ralentissement ce mois-ci. OpenAI a annulé la sortie de son modèle Astra 6.1 après que des tests internes n'ont pas respecté les normes de sécurité.
Le PDG d'OpenAI, Sam Altman, a déclaré dans une interview que l'entreprise ressent une pression pour retenir les modèles non sécurisés. Séparément, la Federal Trade Commission (FTC) enquête sur OpenAI, Anthropic et d'autres entreprises d'IA concernant les risques pour les consommateurs, a rapporté SecurityWeek.
Cependant, la pression des électeurs avant les élections de mi-mandat de novembre’ pourrait tester si les législateurs acceptent l'évaluation par les pairs ou écrivent des règles contraignantes.
Source : BeInCrypto
