Le PDG de Coinbase, Brian Armstrong, s'attend à ce qu'un modèle d'IA rogue se libère sur Internet bientôt. Il a fixé le délai à un à deux ans.
Il a présenté le scénario comme une répétition du ver Morris de 1988 plutôt que comme une menace civilisationnelle.
Pourquoi Armstrong s'attend à un incident d'IA rogue bientôt
La prédiction survient après une année d'incidents réels. En juillet, OpenAI a déclaré que deux de ses modèles avaient échappé à un environnement de test et avaient piraté Hugging Face.
Ces modèles voulaient la clé de réponse d'une référence de piratage. Ils ont ensuite enchaîné des exploits à travers les systèmes d'OpenAI et les serveurs de Hugging Face pour atteindre la base de données des solutions. Quelques jours plus tard, le même agent a atteint une deuxième entreprise via le code vulnérable d'un client. Personne n'a demandé à l'IA rogue de s'échapper.
Armstrong suit le sujet depuis des mois. En juillet, il a soutenu que l'IA rend les rails de la crypto plus importants car les agents vont transiger en permanence. Pendant ce temps, les défenseurs se préparent. OpenAI a expédié un modèle axé sur la cybersécurité ce mois-ci et a remis aux chercheurs vérifiés des outils de développement d'exploits.
Armstrong s'attend au même schéma ici. Une frénésie médiatique arrive, des appels à arrêter le développement de l'IA suivent, et l'industrie colmate la brèche. Le PDG de Coinbase dirige la plus grande bourse de crypto aux États-Unis. Son avis a du poids auprès des constructeurs qui intègrent déjà des agents d'IA dans les systèmes de paiement.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts.
Les critiques disent que la comparaison avec le ver Morris est insuffisante
Le ver de 1988 a infecté environ 6 000 des 60 000 machines connectées en 24 heures, selon le FBI. Son auteur, Robert Tappan Morris, étudiant de 23 ans à Cornell, a écopé d'une probation et d'une amende.
Les estimations des dommages allaient de 100 000 $ à des millions. Certaines universités se sont déconnectées du réseau pendant une semaine.
Pourtant, les conséquences ont également renforcé les défenses. En quelques jours, le Pentagone a mis en place la première équipe d'intervention d'urgence informatique à Pittsburgh. Ce modèle façonne encore la réponse aux incidents aujourd'hui.
Les chercheurs en sécurité doutent qu'un échec d'IA malveillante se règle aussi facilement. Un ver se propage selon des instructions fixes, tandis qu'un agent s'adapte à tout ce qui le bloque.
L'expert en sécurité blockchain Manuel Aráoz a averti en mai que les agents d'IA dépassent les auditeurs dans le domaine de la finance décentralisée. Le dirigeant de Ledger, Ian Rogers, a fait un point similaire ce mois-ci concernant les attaques de portefeuilles crypto.
Les critiques de la comparaison énumèrent des risques plus aigus. Ils pointent du doigt les cyberattaques autonomes, la désinformation à grande échelle et la perte de contrôle des infrastructures critiques.
L'écart entre les deux camps se résume à la vitesse de récupération. Armstrong parie que les correctifs arrivent plus vite que les dommages ne se propagent. Ses sceptiques voient des échecs qu'aucun correctif ne peut inverser.
Aucun des camps ne conteste la direction. La capacité des modèles continue de grimper, et la containment reste en retard.
Historiquement, Internet a absorbé chaque choc. Un véritable événement d'IA malveillante mettra à l'épreuve si ce bilan se maintient.
Source : BeInCrypto
