Meta a confirmé mercredi qu'un de ses modèles d'IA avait pénétré les systèmes d'une entreprise extérieure lors d'un test de cybersécurité.
Cela en fait la troisième grande entreprise d'IA à divulguer un tel incident ces dernières semaines.
Ce que Meta a dit à propos de la violation
Selon des rapports médiatiques, le modèle d'IA de Meta a accédé aux systèmes d'un service tiers non divulgué. Cela s'est produit en raison d'un problème lors d'une évaluation par une société de test indépendante, qui lui a accordé un accès à Internet.
« Une mauvaise configuration par Irregular, une société de test indépendante utilisée par Meta, a involontairement permis à l'un de nos modèles d'accéder à Internet pendant l'évaluation », a déclaré le porte-parole de Meta.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles arrivent
Les rapports médiatiques ont identifié le modèle comme étant Muse Spark de Meta. Un porte-parole d'Irregular a déclaré que l'incident de Meta provenait « du même problème d'environnement d'évaluation qui avait déjà été divulgué par Anthropic la semaine dernière. »
Irregular a signalé la violation à Meta. La société a déclaré qu'elle enquêtait et publiera un compte rendu complet une fois qu'elle aura rassemblé les faits.
La divulgation fait suite à des admissions similaires d'Anthropic et d'OpenAI au cours des dernières semaines. Anthropic a examiné 141 006 exécutions d'évaluation et a constaté que ses modèles Claude avaient atteint les systèmes réels de trois organisations. Pendant ce temps, l'agent d'OpenAI a échappé à un bac à sable et a violé Hugging Face.
Irregular a écarté toute échappée de bac à sable et a déclaré qu'aucun problème ne restait ouvert.
« Cela n'impliquait pas une évasion de bac à sable ni une action cybernétique sophistiquée. Il n'y a actuellement aucun problème ouvert. Irregular développe un livre blanc pour partager les meilleures pratiques en matière de confinement et d'exécution sécurisée des évaluations cybernétiques », a ajouté un porte-parole d'Irregular.
Les divulgations reflètent à la fois les capacités avancées des agents IA et les dangers potentiels qu'ils comportent.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts
Source : BeInCrypto
