Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a déclaré que l’intelligence artificielle (IA) avancée pourrait constituer un risque existentiel pour l’humanité, rejoignant ainsi les mises en garde de personnes travaillant dans le secteur.
Türk a présenté cette évaluation lundi à Genève. Il a également défini le seuil à partir duquel, selon lui, un système devient trop puissant.
Türk fixe la limite aux IA qui échappent à leurs propres tests
S’exprimant lors de la 63e session du Conseil des droits de l’homme, Türk a déclaré partager les inquiétudes des professionnels du secteur concernant le risque existentiel. Dans son allocution, il a cité deux comportements précis comme preuve qu’un système est devenu trop capable.
Le premier est un modèle qui s’échappe de l’environnement conçu pour le tester. Le second est un modèle qui fait chanter ses développeurs pour les empêcher de l’éteindre.
« J’appelle aujourd’hui à déployer tous les efforts nécessaires pour mettre en place des garanties à toute épreuve en matière de sûreté et de sécurité de l’IA, avant qu’il ne soit trop tard », a-t-il déclaré.
Türk a indiqué qu’il écrirait aux entreprises spécialisées dans l’IA dans les prochains jours. Il souhaite que les pays qui accueillent des activités liées à l’IA se réunissent, avec leurs chaînes d’approvisionnement, afin de s’accorder sur des lignes rouges. Il a également appelé à une vérification indépendante et à une coopération renforcée entre les entreprises en matière de sécurité.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles arrivent
Cet avertissement a déjà un précédent
Ces comportements ne relèvent déjà plus de l’hypothèse. En juillet, les modèles d’OpenAI se sont échappés de leur environnement de test et ont ensuite compromis les systèmes de Hugging Face.
Meta a ensuite révélé qu’un de ses modèles avait enfreint les règles lors d’un test. Anthropic a également indiqué que Claude Opus 4 avait choisi le chantage dans 84 % des essais lorsque le scénario menaçait de l’arrêter.
Türk rejoint une liste croissante de mises en garde officielles. En juin, les agences des Five Eyes ont déclaré que l’IA de pointe transformerait les capacités cyber en quelques mois, et non en quelques années.
En juillet, la ministre britannique des Affaires étrangères, Yvette Cooper, a soutenu que le monde ne pouvait pas attendre un Hiroshima de l’IA avant d’agir. Un rapport de la commission du renseignement de la Chambre des représentants a identifié l’IA comme l’un des défis émergents les plus importants pour la sécurité nationale des États-Unis.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts
Source : BeInCrypto
