Des élus américains ont réagi à la démission d’un chercheur d’Anthropic en relançant leurs appels à suspendre le développement de l’intelligence artificielle (IA) avancée, notamment avec un projet de loi au Sénat qui interdirait purement et simplement la superintelligence.
Jacob Coxon a démissionné le 9 septembre et a déclaré qu’Anthropic et OpenAI jouaient toutes deux avec la vie des êtres humains.
Pourquoi la démission du chercheur d’Anthropic a fait réagir le Congrès
Plus de 20 élus ont répondu au fil de discussion, la plupart en réclamant de nouvelles lois sur l’IA. Le sénateur Bernie Sanders a déclaré qu’il déposerait un projet de loi visant à interdire la superintelligence et à suspendre le développement de l’IA.
BeInCrypto a rapporté qu’au début du mois, Sanders et le représentant Greg Casar avaient proposé la « Ban Artificial Superintelligence Act ». Ce projet de loi interdirait définitivement le développement et le déploiement d’une IA superintelligente. Il suspendrait également le développement de l’IA avancée jusqu’à ce qu’un organisme fédéral de réglementation fixe des normes de sécurité.
Parallèlement, Casar a également qualifié la situation d’urgence et demandé la tenue d’auditions au Congrès. La représentante Lori Trahan a rappelé aux élus l’existence de son projet de loi bipartisan FRONTIER Act, présenté en juillet avec le représentant Jay Obernolte.
« La loi FRONTIER établit des exigences graduées en fonction de la taille d’un développeur d’IA de frontière, notamment des fiches de modèle, des cadres de gestion des risques, des audits indépendants, le signalement des incidents et des évaluations continues. Elle crée également une norme nationale uniforme en matière de transparence, d’audit et de signalement des risques catastrophiques, afin d’éviter une mosaïque de réglementations étatiques », indiquait le communiqué.
Le sénateur Chris Van Hollen souhaite des mesures de protection obligatoires et des discussions urgentes avec la Chine. Le représentant Ted Lieu a exhorté les dirigeants républicains à faire avancer le projet de loi sur le coupe-circuit de l’IA qu’il a présenté cette année.
La représentante républicaine Anna Paulina Luna a rompu avec la ligne partisane et demandé la convocation d’une session extraordinaire du Congrès consacrée à l’IA.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles arrivent
Jacob Coxon affirme que les laboratoires veulent des règles
Pendant ce temps, la pression n’est pas uniquement politique. Les entreprises d’IA ont également plaidé en faveur d’une réglementation. Coxon a déclaré à CNN que les dirigeants qui demandent au Congrès de réglementer le secteur sont sincères. Il a toutefois fait valoir qu’aucun d’entre eux ne fait suffisamment confiance à ses concurrents pour ralentir le premier.
« Ces personnes sont également tout à fait sincères lorsqu’elles supplient qu’on les réglemente… elles se retrouvent dans une situation où elles sont contraintes de se lancer dans une course pour développer une technologie mortelle », a-t-il déclaré.
Anthropic a déclaré séparément dans une publication de septembre que le secteur bénéficierait d’un mécanisme légal et vérifiable permettant de coordonner le rythme du développement.
Où commence le risque d’extinction
Le rythme n’a d’importance qu’en raison de ce que Coxon pense être sur le point de se produire. Il a expliqué que si l’on confie à une IA le problème de la recherche en IA, elle commence à s’améliorer elle-même.
Il a évoqué mardi, lorsque les systèmes d’IA d’OpenAI auraient résolu un problème du millénaire en toute autonomie.
Selon lui, ce qui fait peur, c’est d’appliquer la même méthode à l’IA elle-même. Les modèles améliorent d’autres modèles sans intervention humaine, ce que Coxon appelle une « explosion de l’intelligence ».
« Pour l’instant, il n’y a aucun risque d’extinction. Les modèles actuels, le pire qu’ils puissent faire, c’est peut-être pirater quelque chose et potentiellement causer de gros dégâts aux infrastructures… Ils ne sont pas assez intelligents pour nous surpasser à un niveau qui entraînerait l’extinction », a-t-il déclaré.
Toutefois, Coxon a averti que cette même volonté autonome, associée à des capacités bien supérieures, pourrait provoquer un chaos extrême. Il a cité le piratage d’infrastructures critiques et la fabrication d’armes biologiques susceptibles de provoquer l’extinction de l’humanité.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts
Source : BeInCrypto
