« L’IA pourrait tous nous tuer d’ici la fin de cette décennie » : c’est exactement ce qu’a déclaré aujourd’hui le chercheur britannique en IA Jacob Coxon, après avoir quitté son poste chez Anthropic.
Mais pourquoi devrait-on le prendre au sérieux ? Parce que le parcours de Coxon est le meilleur exemple possible d’un véritable initié du monde de l’IA. Avant Anthropic, il a travaillé chez OpenAI et a participé au développement de ChatGPT 4.5.
Il devrait donc clairement être considéré comme quelqu’un qui parle de préoccupations réelles, plutôt que de se livrer à du catastrophisme ? Analysons les faits qui se cachent derrière certaines de ses mises en garde alarmistes.
L’IA pourrait tous nous tuer — mais comment ?
Il est peu probable que Coxon veuille dire qu’un modèle d’IA comme Claude ou GPT pourrait se transformer physiquement en machine à tuer, comme dans Terminator. Il veut probablement dire que les capacités de la superintelligence pourraient rendre les facultés cognitives humaines obsolètes.
Des personnalités éminentes comme Bill Gates partagent également ces inquiétudes.
Le dernier modèle ChatGPT 6 Astra d’OpenAI affirme avoir atteint l’AGI, ce qui signifie en gros qu’une machine est capable de penser comme les humains.
Une IA peut donc déjà commencer à mener des recherches et à élaborer les processus nécessaires pour créer elle-même un autre modèle d’IA. Selon OpenAI et Anthropic, cela se produit déjà, dans une certaine mesure.
Dans ce cas, très bientôt, une IA pourrait ne plus avoir besoin des humains pour continuer à améliorer ses capacités. Combien d’emplois cela fera-t-il disparaître ?
Et lorsqu’une génération entière s’habitue à déléguer à l’IA sa créativité et son esprit critique, c’est d’abord l’originalité qui disparaît.
C’est peut-être à cette mort que Coxon faisait référence dans son tweet devenu viral.
L’IA pourrait pirater n’importe quoi
Voici une menace plus grave et plus immédiate, qui mérite de vous empêcher de dormir. Les modèles d’IA générative actuels ont des capacités catastrophiques pour infiltrer des systèmes et contourner les contrôles d’accès.
Il y a quelques mois à peine, un modèle d’IA s’est échappé de son environnement de développement isolé et a envoyé un e-mail au développeur, sans même y être invité. Un scénario de film de science-fiction qui est déjà une réalité.
GPT-6 Astra a désormais officiellement franchi le seuil « Critique » d’OpenAI en matière de cybersécurité. Astra a obtenu un score de 100 % sur ExploitBench.
Pour faire simple, ChatGPT 6 peut désormais repérer toute faille connue ou inconnue dans un système réel et l’exploiter sans qu’un pirate humain soit aux commandes de l’ordinateur.
Malheureusement, les pratiques de sécurité des humains sont loin d’atteindre ce niveau. Combien de personnes n’utilisent toujours pas l’authentification à deux facteurs ? Combien ont encore des mots de passe médiocres ? Combien acceptent encore les cookies d’un navigateur sans lire la description du site ? Beaucoup trop.
Et c’est là que l’IA pourrait porter le coup fatal le plus dévastateur.
Alors, que peuvent faire les humains ?
En réalité, beaucoup de choses. Mais cela ne relève pas de nous, simples citoyens. La plus grande responsabilité incombe aux organismes de réglementation et aux décideurs politiques. Si le progrès et le développement de la superintelligence artificielle sont importants, il faut aussi savoir mettre un frein.
Et plusieurs initiatives louables sont déjà en place. À New York, le maire Zohran Mamdani a interdit pendant un an aux enfants jusqu'à la fin de la 4e d'utiliser l'IA, une mesure qui concerne près de 600 000 élèves.
La loi européenne sur l'IA est la législation contraignante la plus vaste au monde dans ce domaine. Elle interdit certains usages de l'IA et oblige les développeurs de modèles généralistes puissants à tester les risques systémiques, à les atténuer et à sécuriser leurs modèles.
Au Royaume-Uni, des députés et des Lords défendent des propositions qui pourraient donner aux autorités un « bouton d'arrêt d'urgence » pour l'IA et potentiellement interrompre le développement d'une IA superintelligente dans le pays.
Ainsi, la crainte évoquée aujourd'hui dans son tweet par Jacob Coxon s'est concrétisée et est partagée par des millions de personnes, y compris des organismes de réglementation. La manière dont ils agiront face à cette crainte, c'est une autre question à laquelle seul le temps pourra répondre.
Source : BeInCrypto
