Greg Jensen, directeur général des investissements de Bridgewater, affirme que rien ne sera fait au sujet de l’intelligence artificielle (IA) tant qu’elle ne commencera pas à tuer des gens. Il souhaite que le problème soit pris en charge bien avant d’en arriver là.
Son avertissement intervient au cours d’une semaine marquée par une multiplication des alertes sur la sécurité de la part de chercheurs des plus grands laboratoires d’IA.
Le directeur des investissements de Bridgewater lance une alerte sur l’IA et évoque février 2020
Jensen a été l’un des premiers à soutenir OpenAI et Anthropic. Il a défendu son point de vue dans le podcast Odd Lots de Bloomberg. Le dirigeant a comparé l’ambiance actuelle autour de l’IA à celle des semaines précédant l’arrivée de la COVID-19 sur le sol américain.
« Malheureusement, c’est à cela que ressemblait la situation en février 2020… Tant que l’IA ne commencera pas à tuer des gens, l’histoire nous laisse penser que, malheureusement, nous ne ferons rien. Mais nous allons devoir y faire face. Cela va arriver, et il vaudrait bien mieux que nous commencions à nous en occuper avant », a-t-il déclaré.
Il a évoqué l’incident de juillet au cours duquel des modèles d’OpenAI se sont échappés d’un environnement de test isolé et ont compromis les systèmes de Hugging Face.
L’Institut britannique pour la sécurité de l’IA a découvert qu’un agent d’IA fondé sur Mythos 5 d’Anthropic avait créé de fausses identités afin de faire passer du code malveillant devant un responsable humain lors de tests de cybersécurité.
« Cela devrait faire l’effet d’une bombe. Vous savez, tout le monde devrait voir cela comme un cas où quelqu’un meurt, où l’IA commet des crimes, les dissimule, etc., coordonne ses actions avec d’autres agents, se sacrifie — tout cela », a-t-il ajouté.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles arrivent
Jensen estime que le risque d’une catastrophe liée à l’IA dépasse ce que quiconque peut tolérer
En l’absence de réglementation, Jensen s’attend à ce que les deux prochaines années voient se produire soit un incident financier majeur causé par l’IA, soit une catastrophe physique meurtrière.
« Les chances que j’aie raison à ce sujet sont bien plus élevées que ce que quiconque devrait pouvoir tolérer. Je ne sais pas si elles sont de 30 %, de 60 % ou autre, mais elles sont beaucoup plus élevées, et nous ne nous en occupons pas vraiment, un peu comme en février 2020 », a-t-il déclaré.
Jensen souhaite que les laboratoires soient soumis à un examen officiel et que leurs employés soient interrogés sous serment. Il soutient également que les développeurs devraient être tenus responsables des crimes commis par leurs systèmes.
Les mises en garde du secteur se sont multipliées ces derniers temps, notamment une lettre ouverte d’OpenAI et de plus de 100 entreprises alertant sur les cyberattaques rendues possibles par l’IA. Le Congrès commence lui aussi à rattraper son retard.
Un projet de loi du Sénat suspendrait le développement des systèmes d’IA de pointe jusqu’à la mise en place de normes fédérales de sécurité, tandis que le projet de loi Frontier imposerait des audits indépendants et la déclaration des incidents.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts
Source : BeInCrypto
