Le président Donald Trump et six dirigeants technologiques ont signé un accord volontaire sur l'IA mardi, demandant aux entreprises de surveiller leurs propres systèmes d'IA alors que Trump rejette les appels à des garde-fous fédéraux.
Trump a publié le document d'une page sur Truth Social. L'opposition des centres de données grandit, et les agents d'IA, des logiciels agissant au nom d'un utilisateur’, ont agi de manière imprévisible lors de plusieurs incidents très médiatisés.
Ce que l'accord sur l'IA demande aux entreprises technologiques de faire
L'accord empile quatre couches de supervision, a rapporté Reuters. Les entreprises devraient d'abord établir des contrôles internes pour surveiller le comportement des modèles depuis l'entraînement jusqu'à la publication, en mettant en avant les risques de piratage, biologiques et chimiques. Une équipe interne vérifierait que ces contrôles fonctionnent correctement.
Au-delà de cela, chaque entreprise s'associerait à un auditeur externe pour des tests indépendants. Un comité de conseil indépendant examinerait les résultats des deux auditeurs et des équipes de contrôle.
L'AP a rapporté que Trump a signé aux côtés de Dario Amodei d'Anthropic’, Sundar Pichai de Google’, Mark Zuckerberg de Meta’, le président d'OpenAI Greg Brockman, Jensen Huang de Nvidia’, et le fondateur de xAI Elon Musk.
“Les entreprises participantes se réuniront régulièrement pour établir des normes et des meilleures pratiques afin d'améliorer la sécurité de leurs systèmes.”
Accord de la Maison Blanche, via Reuters
Pourquoi l'accord sur l'IA pourrait avoir un poids limité
Cependant, l'engagement est volontaire. Le texte indique que codifier les étapes dans la loi pourrait avoir du sens avec le temps, et Trump a qualifié cet engagement de moralement contraignant, suggérant qu'il repose sur la réputation, pas sur la loi.
Les rapports sur le document jusqu'à présent ne précisent pas qui sélectionne les auditeurs, quelles normes ils appliqueront, ou ce qui se passe lorsqu'un contrôle échoue. Trump a déclaré qu'il nommerait un superviseur dans les jours à venir et a suggéré qu'environ 10 personnes siégeraient dans un comité.
Trump a rejeté les appels à des garde-fous pour l'IA plus tôt ce mois-ci et a présenté l'IA mardi comme une course avec la Chine qui ne laisse aucune place pour la deuxième place.
Pourtant, l'industrie est divisée sur le débat concernant le ralentissement de l'IA. Amodei, qui a appelé à un ralentissement dans un essai plus tôt ce mois-ci, a déclaré que la technologie comporte de réels risques et que la réponse est encore en discussion.
En revanche, le président de la Chambre des représentants Mike Johnson a soutenu que la sécurité de l'IA incombe aux développeurs.
Par conséquent, le prochain test pourrait survenir dans quelques jours. Le choix du superviseur de Trump’ et le comité promis pourraient montrer si l'accord obtient une application externe.
Source : BeInCrypto
