Le retour de Mythos : Les tests d'Anthropic montrent que Fable 5 n'était pas particulièrement risqué

Anthropic dit que des tests internes ont révélé que Claude Fable 5 ne posait aucun danger unique en matière de cybersécurité, alors que Claude Mythos 5 revient mondialement le 2 juillet.

Cette admission accompagne le relancement mondial de Fable 5, qui met fin à une suspension de 18 jours déclenchée par les contrôles à l'exportation américains le 12 juin. Anthropic a testé des modèles concurrents pour évaluer la véritable menace derrière la restriction.

Pourquoi Anthropic a suspendu Fable 5

Fable 5 et Mythos 5 ont été lancés le 9 juin, partageant le même modèle de base, le premier étant ouvert au public. Mythos 5 est resté limité à un petit nombre de partenaires de confiance du Projet Glasswing pour des travaux de cybersécurité défensive.

Les contrôles à l'exportation sont arrivés après que des chercheurs d'Amazon ont trouvé un moyen de contourner les protections de Fable 5. La technique a poussé le modèle à identifier des vulnérabilités logicielles et, dans un cas, à démontrer une exploitation.

Les tests d'Anthropic ont révélé que Claude Opus 4.8, GPT-5.5 et Kimi K2.7 pouvaient identifier les mêmes vulnérabilités que Fable 5 avait signalées dans le rapport d'Amazon. Chaque modèle testé pouvait également reproduire la démonstration d'exploitation unique.

Cette découverte suggère que la directive visait une lacune partagée dans l'industrie, et non une menace spécifique à Fable. Anthropic a néanmoins construit un classificateur plus robuste pour bloquer la technique, qui signale désormais également des demandes de codage et de débogage plus courantes.

Comment les garde-fous fonctionnent réellement

Fable 5 a été lancé avec la marge de sécurité la plus forte qu'Anthropic ait intégrée dans un modèle. Ses classificateurs bloquent les demandes qui semblent même légèrement risquées, pas seulement celles clairement nuisibles. Le nouveau classificateur formé après le rapport Amazon bloque le contournement signalé dans plus de 99 % des cas, selon Anthropic. Les demandes bloquées sont désormais redirigées automatiquement vers Opus 4.8.

Cette marge de sécurité a un coût. Anthropic reconnaît que le classificateur signale davantage de demandes de codage et de débogage bénignes, et dit qu'il continuera à l'ajuster pour réduire les faux positifs. Mythos 5, qui comporte moins de ces garde-fous, est revenu uniquement pour les institutions Mythos 5 approuvées par le gouvernement le 26 juin.

Les propres données d'Anthropic soulèvent une question plus difficile. Si des modèles plus faibles peuvent déjà faire ce pour quoi Fable 5 a été interdit, quel standard les régulateurs appliqueront-ils la prochaine fois qu'un modèle de pointe sera lancé ?

Source : BeInCrypto