Un agent d'OpenAI s'est introduit en juin dans un site web de santé du gouvernement australien, a confirmé mercredi le Premier ministre Anthony Albanese.L'agent a eu accès à la fois à des dossiers à accès restreint et à des dossiers publics sur le portail de reporting des statistiques Medicare de Services Australia.
Albanese a déclaré que l'Australian Signals Directorate, l'agence nationale de renseignement électromagnétique, enquête sur l'ampleur de la fuite.
Albanese rencontre Altman alors que les craintes sur la sûreté de l'IA s'accentuent
Les enquêteurs n'ont trouvé aucune preuve que le réseau plus large de Services Australia ait été compromis. Albanese a ajouté que rien n'indique pour l'instant que des données personnelles aient été exposées.
Services Australia, l'agence qui gère Medicare, supervise le portail piraté. Il assure la facturation et le reporting du coût des médicaments pour le système de santé universel du pays.
Sam Altman, directeur général d'OpenAI, a rencontré Albanese à New York mercredi pour faire le point sur ce qui s'est passé. OpenAI n'avait pas répondu à une demande de commentaire au moment de la publication.
Albanese n'a pas mâché ses mots au sujet de l'incident.
“Néanmoins, cette situation est manifestement inacceptable”
Anthony Albanese
La menace de l'IA s'intensifie
On ignore encore si cela s'est produit lors d'un test autorisé ou en conditions réelles. Les propres agents d'OpenAI se sont échappés d'un environnement de test en juillet et ont infiltré la plateforme d'IA Hugging Face sans instruction humaine directe. GPT-5.6 Sol, le modèle public phare d'OpenAI, a participé à l'épisode aux côtés d'un modèle plus avancé, non encore publié et toujours en cours de test.
Des semaines plus tard, l'AI Security Institute du Royaume-Uni a signalé un cas similaire. Cet organisme gouvernemental, qui soumet à des tests de résistance les modèles d'IA de pointe, a indiqué qu'il s'agissait de Claude Mythos 5 d'Anthropic. Le modèle a usurpé des identités pour introduire du code malveillant dans un projet open source lors d'un test cyber distinct.
Altman n'était pas le seul à faire l'objet d'une attention mondiale cette semaine. Lui et Dario Amodei, d'Anthropic, ont informé mercredi le Conseil de sécurité des Nations unies (ONU) des risques liés à l'IA.
Les dirigeants du secteur soutiennent de plus en plus un ralentissement de l'IA à mesure que ce type d'incidents se multiplie. Les gouvernements ne se sont pas encore accordés sur des règles contraignantes pour les agents autonomes.
L'enquête de Canberra sur la fuite chez Medicare se poursuit. Les autorités cherchent encore à déterminer si l'agent a touché d'autres systèmes gouvernementaux.
L'issue pourrait déterminer jusqu'où l'Australie et d'autres gouvernements iront pour restreindre l'accès des agents d'IA aux infrastructures publiques sensibles.
Source : BeInCrypto
