L'IA chinoise bat les modèles de cybersécurité restreints d'OpenAI et d'Anthropic, avertit l'industrie du Bitcoin

Bitcoin Magazine

L'IA chinoise surpasse les modèles de cybersécurité restreints d'OpenAI et d'Anthropic, avertit l'industrie du Bitcoin

Les dirigeants d'entreprises de Bitcoin et les développeurs open-source déclarent publiquement que les modèles d'IA chinois surpassent actuellement les systèmes américains restreints en matière de cybersécurité défensive, obligeant les chercheurs à s'appuyer sur eux pour sécuriser l'infrastructure critique du Bitcoin.

Rob Hamilton, PDG d'AnchorWatch, une société d'assurance de garde autonome pour Bitcoin, a signalé des restrictions américaines paralysantes sur l'IA. Après avoir intégré le programme cyber de confiance d'OpenAI (ayant déjà complété le KYC des mois plus tôt), il a été bloqué dans son analyse d'une base de code qu'il avait déjà divulguée de manière responsable. "Cela me déchire en tant qu'Américain patriote de devoir faire cela, mais je vais revenir à l'utilisation de modèles open source chinois pour mener mes recherches afin de protéger l'infrastructure Bitcoin," a écrit Hamilton. "Les chapeaux noirs ne frapperont pas ces problèmes. Les chapeaux blancs le feront." Quelques jours plus tard, il a eu accès au modèle cyber "Daybreak Blue" d'OpenAI et a été bloqué à nouveau en 19 minutes lors d'une simulation d'attaque sur l'infrastructure Bitcoin.

Francis Pouliot, fondateur de Bull Bitcoin, un échange uniquement Bitcoin axé sur l'infrastructure de garde personnelle, a décrit la situation sans détour. « Je n'ai jamais vu OpenAI aussi cuit. C'est cuit au-delà de toute croyance maintenant. Pas même pour la sécurité, pour quoi que ce soit lié à Bitcoin », a-t-il posté. « L'industrie de l'IA aux États-Unis est complètement cuite si elle ne change pas cette voie », a-t-il conclu, ajoutant « Modèles LLM chinois open-source. [orange heart emoji] », signifiant que des modèles chinois ouverts comme Kimi K3 sont en fait utiles pour Bitcoin. Dans un suivi, Pouliot a détaillé comment un modèle open-source chinois a identifié une exploitation vol de fonds dans un projet qu'il audite, l'a démontré sur regtest et a aidé à le corriger. Lorsqu'il a demandé aux modèles américains pour lesquels il paie de revoir le même correctif, ils ont refusé.

PortlandHODL, un contributeur de Bitcoin Core qui construit pour AnchorWatch, a souligné publiquement l'écart de performance. « Modèle d'IA Frontier basé aux États-Unis – 'Vous avez absolument raison !' Modèle ouvert chinois – '78 vulnérabilités critiques trouvées.' Les implications de cela sont insondables », a-t-il posté. Dans un suivi, il a ajouté qu'il avait l'impression de « demander essentiellement à Xi de ne pas faire pirater mon logiciel à ce stade », appelant OpenAI et Anthropic à créer des programmes d'accès appropriés pour les citoyens américains effectuant un travail de sécurité défensive.

Alex Thorn, Responsable de la recherche au niveau de l'entreprise chez Galaxy, a signé une récente lettre ouverte de l'Institut de politique Bitcoin demandant un accès de confiance aux modèles de pointe pour les défenseurs de l'open-source. « Les Américains ne devraient pas avoir à compter sur l'IA chinoise pour se défendre, ainsi que leurs projets, entreprises ou clients contre les cyberattaques », a-t-il écrit. « L'ÉQUIPE ROUGE A BESOIN DES MODÈLES. »

Le 10 août, l'Institut de politique Bitcoin — un think tank axé sur le Bitcoin et, récemment, sur l'IA — a publié une lettre ouverte signée par plus de 70 organisations à travers l'écosystème des actifs numériques, y compris des dépositaires majeurs, des échanges, des entreprises de minage et des groupes de développement open-source. La lettre appelle les laboratoires d'IA de pointe à établir des programmes d'accès de confiance clairs pour les défenseurs qualifiés de l'open-source et des actifs numériques. Elle soutient que les restrictions actuelles et les garde-fous de sécurité laissent les chercheurs en sécurité légitimes sans accès aux modèles les plus puissants, les obligeant à compter sur des alternatives moins performantes, tandis que les attaquants sophistiqués ne rencontrent aucune limite. Les signataires demandent un accès anticipé aux modèles capables de cybersécurité, des ressources de calcul suffisantes, des environnements sécurisés pour examiner le code, et des canaux directs avec les équipes de sécurité des laboratoires, affirmant que l'IA de pointe pourrait devenir l'une des technologies défensives les plus puissantes disponibles si les défenseurs bénéficient d'un accès équitable.

Ces déclarations reflètent un large schéma parmi les chercheurs en sécurité Bitcoin : les modèles américains d'OpenAI et d'Anthropic refusent ou restreignent fréquemment un travail défensif légitime, même pour les utilisateurs qui sont censés avoir reçu un accès explicite, tandis que les modèles chinois tels que Kimi K3 fonctionnent sans les mêmes garde-fous et fournissent des résultats confirmés. Les préoccupations concernant l'infrastructure d'hébergement des modèles chinois étant un vecteur d'attaque peuvent également être atténuées, car ils sont open source et peuvent être exécutés sur des centres de données hébergés aux États-Unis, une tendance qui risque de menacer le marché de l'IA américain si elle se poursuit.

L'exploitation de Coldcard déclenche une réponse à l'échelle de l'écosystème

La pression en matière de cybersécurité est devenue aiguë dans l'industrie du Bitcoin après qu'un défaut de firmware dans les portefeuilles matériels Coldcard a été exploité à partir du 30 juillet, entraînant le vol de bien plus de 100 millions de dollars en bitcoin à partir de graines générées avec une entropie insuffisante. Bitcoin Magazine a publié un avis urgent exhortant les utilisateurs concernés à migrer leurs fonds : RISQUE DE SÉCURITÉ COLD CARD : ACTION IMMÉDIATE REQUISE.

En réponse, un effort de bénévolat connu sous le nom de Bitcoin Red Team s'est formé, dirigé par le développeur open-source Calle (créateur de Cashu et de la version Android de Bitchat) et Rob Hamilton. Le groupe a réalisé des audits à grande échelle assistés par l'IA des dépôts open-source de Bitcoin, utilisant des modèles tels que Kimi K3 comme principal cheval de bataille, en plus d'un accès limité aux systèmes occidentaux. Les premiers résultats, couverts par Bitcoin Magazine, ont montré des milliers de constatations à travers des centaines de projets, y compris des dizaines de problèmes critiques, avec des dépenses largement couvertes par OpenSats.

Au 8 août, après plus de 100 heures de travail impliquant des dizaines de contributeurs, l'équipe a rapporté avoir scanné 501 projets et produit 7 958 constatations, dont 1 280 étaient classées comme ayant une gravité élevée ou critique. La majorité des dépenses informatiques continuaient d'aller aux modèles open-weight chinois.

Leçons de la campagne Red Team

Plus récemment, Calle a partagé des leçons tirées de la période intensive de red-team. L'effort a essentiellement complété un scan de base de pratiquement l'ensemble du paysage open-source de Bitcoin ; les fruits à portée de main sont largement épuisés, a écrit le développeur sur ce compte X. Les mainteneurs à travers les projets ont validé bon nombre des rapports critiques et de haute gravité, tandis que les temps de réponse des projets varient considérablement et servent de signal de la santé globale.

Les points clés incluent la nécessité pour chaque projet de maintenir sa propre pipeline d'audit AI permanent à l'avenir. Les projets qui ont commencé ces examens des mois plus tôt sont dans une position nettement plus forte. Les dépôts non maintenus doivent être considérés comme probablement cassés et peu fiables.

Calle a également averti que l'ère de la révision de la sécurité open-source uniquement humaine est terminée ; la vérification est désormais effectivement gratuite, et la surcharge d'informations doit être gérée avec l'IA plutôt qu'avec des plaintes concernant le désordre des PR. Plusieurs approches humaines concurrentes et diverses restent la méthode la plus efficace pour trouver des vulnérabilités, et le red-teaming externe sera probablement nécessaire indéfiniment.

Calle a également souligné à plusieurs reprises que les développeurs devraient cesser d'écrire du code critique pour la sécurité en C. Dans un post de suivi, il a expliqué : « nous trouvons des vulnérabilités de sécurité mémoire dans des projets C qui sont empêchées par défaut dans de nombreux autres langages. Dans le passé, trouver un simple débordement de tampon ne suffisait pas. Vous auriez besoin d'un hacker hautement qualifié pour transformer la vulnérabilité en un exploit fonctionnel de bout en bout. Aujourd'hui, c'est une seule invite. »

Bitcoin a été le premier grand écosystème open-source à confronter cette collision entre le code humain accumulé et la capacité de l'IA de pointe. Le reste du monde logiciel devrait suivre.

Ce post intitulé L'IA chinoise bat les modèles de cybersécurité OpenAI et Anthropic restreints, avertit l'industrie du Bitcoin est apparu pour la première fois sur Bitcoin Magazine et est écrit par Juan Galt.

Source : BitcoinMagazine