Un ancien commissaire de la Federal Trade Commission (FTC) américaine a balayé la vague de mises en garde apocalyptiques sur l’intelligence artificielle (IA) émanant des plus grands laboratoires.
Alvaro Bedoya a siégé à la commission de 2022 jusqu’à son éviction contestée en 2025. Sa publication intervient au cœur d’un débat public sur la vitesse à laquelle l’IA devrait progresser.
L’humanité a survécu à pire
Bedoya énumère les épreuves auxquelles les humains ont déjà survécu.
« L’IA n’anéantira pas l’humanité. Les humains ont survécu à une ère glaciaire, à la peste noire, à deux guerres mondiales et, jusqu’à présent, à l’avènement des armes nucléaires. Quiconque met en garde à grands cris contre une extinction de l’humanité causée par l’IA ne devrait pas être pris au sérieux », a-t-il déclaré.
Il rejette l’idée qu’il soit un fervent défenseur de l’IA ou que cette technologie soit inoffensive. Il vise plutôt l’emploi d’un discours sur l’extinction causée par l’IA. Bedoya y voit un homme de paille brandi pour justifier la création d’un cartel d’entreprises d’IA milliardaires.
Il a proposé un test de sincérité. Quiconque penserait vraiment que le produit pourrait tuer tout le monde interromprait les activités et appellerait la police.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles arrivent
Une note de 2014 avait déjà répondu à cette question
Dario Amodei, le patron d’Anthropic, a demandé à Washington une dérogation antitrust limitée afin que les laboratoires puissent discuter de sécurité. Cette mesure constitue la deuxième des trois étapes du plan de modération qu’a approuvé Sam Altman la semaine dernière. Elon Musk a également soutenu cette idée.
Bedoya affirme qu’ils n’avaient jamais eu besoin de le demander. Il cite une déclaration de politique commune publiée par le ministère de la Justice et la FTC le 10 avril 2014. Celle-ci précisait que le droit antitrust n’est pas, et ne devrait pas être, un obstacle au partage légitime d’informations en matière de cybersécurité.
« J’explique plutôt que les entreprises ont, dès maintenant et depuis hier, la capacité de se coordonner pour prévenir tout risque pour la sécurité et la santé. Le droit de la concurrence ne les en empêche pas », a écrit Bedoya sur X
La coordination en matière de sécurité est légale, a-t-il expliqué. La coordination qui exclut du marché des concurrents moins chers ne l’est pas.
Il a lié ce risque aux réalités économiques. Les plus grands laboratoires brûlent des liquidités sans parvenir à la rentabilité. Les modèles à poids ouverts les concurrencent sur les prix.
« La panique de certains employés peut être sincère, même si elle est malavisée, mais les manœuvres de leurs PDG pour obtenir une sorte de dérogation ou d’exemption générale au droit de la concurrence devraient être accueillies avec un profond scepticisme, compte tenu des réalités économiques du secteur et de la menace que représentent les modèles ouverts », a-t-il ajouté.
Altman est arrivé à une conclusion similaire, mais de l’autre côté. Dans un long message publié sur X, il a déclaré qu’OpenAI ne pense pas devoir attendre une exemption au droit de la concurrence ou une loi pour commencer ce travail.
Il souhaite néanmoins un cadre fédéral fixant des exigences de sécurité cohérentes pour les laboratoires de pointe. Selon lui, c’est en matière de coordination internationale que l’aide des pouvoirs publics est nécessaire.
Ce scepticisme va à l’encontre des mises en garde formulées cette semaine au sein même des laboratoires. Le débat remonte au 9 septembre, date à laquelle Jacob Coxon, chercheur chez Anthropic, a démissionné. Des élus ont commencé à plaider pour l’interdiction de la superintelligence. Greg Jensen, responsable des investissements chez Bridgewater, a également averti que rien ne changerait avant que l’IA ne tue quelqu’un.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts
Source : BeInCrypto
