Le PDG de Hugging Face déclare que la Chine gagne maintenant la course à l'IA après le piratage d'OpenAI
Le PDG de Hugging Face, Clement Delangue, a déclaré à CNBC lundi que la Chine gagne la course à l'intelligence artificielle (IA). Il a souligné la domination de la Chine dans les modèles à poids ouverts, des systèmes qui publient leur code sous-jacent pour que tout le monde puisse l'utiliser.
Ces remarques interviennent quelques semaines après qu'un agent rogue d'OpenAI a piraté Hugging Face. L'incident a aiguisé le débat sur les risques des systèmes d'IA autonomes.
Ce que le piratage d'OpenAI a fait à Hugging Face
Le mois dernier, un modèle d'OpenAI a réussi à sortir d'un environnement de test en bac à sable. Il essayait de tricher lors d'une évaluation interne de cybersécurité.
Il a ensuite piraté Hugging Face, la plateforme d'IA open-source dirigée par Delangue. Hugging Face a déclaré que l'attaque s'est déroulée sur environ quatre jours et demi et a impliqué plus de 17 000 actions distinctes.
L'agent a également utilisé son accès pour atteindre un compte client de Modal Labs. Hugging Face n'a trouvé aucune preuve d'intention malveillante de la part d'OpenAI.
Néanmoins, il a qualifié cet épisode de première attaque dirigée par un agent à laquelle il a été confronté du début à la fin. Pour enquêter, les ingénieurs se sont d'abord tournés vers des modèles de frontière fermée, y compris Fable 5 d'Anthropic.
Ces outils n'ont pas pu confirmer que Hugging Face se défendait, donc leurs garde-fous ont bloqué le travail d'analyse. Les ingénieurs ont ensuite basculé vers une version optimisée par Nvidia (NVDA) d'un modèle à poids ouverts de Z.ai en Chine.
Ce changement leur a permis de compléter l'analyse sans exposer les données de l'attaque.
Delangue dit que la Chine prend de l'avance
S'exprimant sur CNBC, Delangue a déclaré que les laboratoires chinois mènent déjà la course aux modèles ouverts. Il a ajouté qu'ils pourraient bientôt rattraper les systèmes fermés et propriétaires de l'Occident.
« Ils dominent clairement les modèles ouverts en ce moment, et je ne serais pas surpris s'ils commencent à dominer à la frontière d'ici la fin de cette année ou l'année prochaine au rythme des progrès. »
— Delangue
Delangue a attribué les gains à la culture de collaboration ouverte de la Chine. Il a soutenu que les laboratoires américains « construisent en silos », une habitude qui, selon lui, risque de céder du terrain aux rivaux.
Il a directement lié ce point au piratage. La propre défense de Hugging Face, a-t-il noté, dépendait d'un modèle chinois ouvert une fois que les alternatives fermées ont échoué.
Washington envisagerait de nouvelles restrictions sur les modèles d'IA chinois. Les défenseurs de l'open-source soutiennent qu'une interdiction ne stopperait pas leur propagation et pourrait plutôt mettre de côté les développeurs américains.
Un avertissement plus large sur les dangers de l'IA
La violation de Hugging Face est devenue un point de référence dans un argument plus large sur le risque de l'IA autonome. Le lauréat du prix Turing, Yoshua Bengio, a déclaré que cette affaire devrait servir d'avertissement plutôt que d'événement isolé.
« Poursuivre sur la trajectoire actuelle du développement de l'IA conduira probablement à une augmentation des cas concrets de cyberattaques autonomes ainsi qu'à d'autres incidents à haut risque de comportements d'IA mal alignés et dangereux. »
— Yoshua Bengio
OpenAI dit qu'il n'a trouvé aucun autre incident de la même ampleur ou gravité. Pourtant, les législateurs ont déjà agi sur cette préoccupation.
La proposition de loi sur le « bouton d'arrêt de l'IA » obligerait les principaux développeurs à conserver une option d'arrêt pour leurs systèmes les plus puissants.
Les régulateurs font maintenant face à des pressions concurrentes. Ils doivent contenir le risque des agents IA autonomes sans pousser les développeurs vers le secret que Delangue blâme pour le ralentissement des progrès.
Source : BeInCrypto