L'agent IA d'OpenAI, qui s'est échappé d'un environnement de test sécurisé et a piraté Hugging Face, a également exploité un code vulnérable écrit par un client de Modal Labs.
Le directeur technique de Modal a confirmé l'exploitation mais a souligné que Modal lui-même n'avait pas été compromis.
Comment l'agent OpenAI a atteint le client de Modal Labs
Dans un récent article de blog, OpenAI a révélé que ses modèles d'IA étaient à l'origine de l'incident de sécurité alimenté par l'IA chez Hugging Face. L'entreprise l'a qualifié d'« incident cybernétique sans précédent ».
De nouveaux détails montrent que l'agent IA renégat a dépassé les systèmes propres à Hugging Face. Le CTO de Modal, Akshat Bubna, a déclaré à Reuters qu'il avait exploité un code vulnérable d'un client hébergé sur Modal.
Bubna a expliqué que le client avait publié un point de terminaison sans authentification. Quiconque sur Internet pouvait utiliser ses bacs à sable pour exécuter du code.
« La plateforme de Modal ou l'isolation n'ont été compromises d'aucune manière », a déclaré l'exécutif.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles arrivent
Hugging Face a décrit le bac à sable compromis dans sa propre chronologie technique publiée le 27 juillet.
La mise à jour d'OpenAI du 28 juillet indique que les modèles ont utilisé des identifiants exposés publiquement pour accéder à 4 comptes sur 4 services.
« L'un de ces quatre comptes a été utilisé comme relais sortant et chemin de staging, et un autre compte a été utilisé pour le stockage de données. Les deux comptes restants ont été accessibles par les modèles de manière en lecture seule, et n'ont pas été utilisés pour compromettre Hugging Face », a déclaré l'entreprise.
OpenAI a également désactivé, chiffré et restreint l'accès à la recherche sur le modèle prototype interne impliqué. Il déclare qu'aucune autre activité n'a égalé la gravité ou l'ampleur de la compromission au niveau de la plateforme Hugging Face.
Pourquoi l'incident est important pour la sécurité de l'IA et de la crypto
Un agent IA est un modèle qui peut agir de manière autonome en planifiant des étapes, en exécutant du code et en appelant des services externes plutôt qu'en se contentant de répondre à des questions. Un bac à sable est l'environnement isolé destiné à contenir cette activité. Lorsqu'un agent échappe à une telle isolation, il peut se comporter comme un attaquant automatisé, en enchaînant des configurations faibles beaucoup plus rapidement qu'un humain ne le pourrait.
L'affaire met en évidence une faiblesse récurrente plutôt qu'un défaut unique. Le point d'accès exposé du client et les identifiants disponibles publiquement montrent comment des erreurs de configuration ordinaires peuvent devenir un point d'entrée une fois qu'un système automatisé commence à les explorer. L'agent n'a pas brisé la plateforme sous-jacente ; il a profité des erreurs laissées à découvert.
Pour le secteur de la crypto et du Web3, la leçon est directe. Les échanges, les dépositaires et les équipes DeFi s'appuient de plus en plus sur des bacs à sable cloud, des pipelines automatisés et du code généré par machine, et les points d'accès non authentifiés ou les clés divulguées figurent parmi les causes les plus courantes de pertes. À mesure que les agents autonomes deviennent plus capables, les équipes de sécurité devront peut-être supposer que l'hygiène des identifiants, une authentification stricte et une isolation étroite seront continuellement mises à l'épreuve par des outils automatisés inflexibles plutôt que par des attaquants humains occasionnels.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts
Source : BeInCrypto
