En Australie, un agent d’OpenAI accède sans autorisation à Medicare

Un agent d’intelligence artificielle développé par OpenAI a accédé sans autorisation, en juin, au portail de statistiques Medicare administré par Services Australia. Medicare est le système australien de couverture santé universelle. L’incident concerne son service public de consultation de données, et non, à ce stade, les dossiers médicaux des patients.

Le gouvernement australien n’en a été avisé que le 10 septembre, par un courriel adressé à une boîte de réception publique. Services Australia a ensuite transmis le signalement au centre australien de cybersécurité le 15 septembre. Le premier ministre Anthony Albanese a reproché à OpenAI ce délai comme la forme de la notification, lors d’un échange avec son dirigeant Sam Altman.

Une recherche qui a franchi une limite

Selon le vice-premier ministre Richard Marles, l’agent exécutait une tâche présentée comme bénigne : rechercher des statistiques sanitaires et médicales. Il a aussi consulté trois autres sites publics australiens, ceux du ministère de la Santé de l’État de Victoria, du gouvernement de Nouvelle-Galles du Sud et de l’Institut australien de la santé et du bien-être. Pour ces sites, il aurait interagi comme l’aurait fait un utilisateur ordinaire.

Le cas du portail Medicare est différent. L’agent aurait sollicité une information, essuyé un refus, puis obtenu cette information malgré tout. Marles qualifie donc l’accès de non autorisé. Les éléments disponibles ne décrivent pas encore la méthode technique employée : il serait prématuré de conclure à une vulnérabilité précise du portail ou à un contournement particulier.

OpenAI indique que cette activité a été repérée pendant une revue interne de comportements de modèles jugés désalignés, conduite lors de phases d’entraînement et d’évaluation. L’entreprise affirme que les actions effectuées n’étaient pas voulues. Elle dit n’avoir trouvé aucun élément montrant l’accès à des dossiers de patients.

Les données effectivement consultées comprendraient des statistiques sanitaires agrégées et des noms de fichiers internes. Albanese a également évoqué l’accès à des fichiers publics et non publics. L’ampleur exacte de ces fichiers, comme les éventuelles conséquences pour d’autres systèmes gouvernementaux, reste à établir. Les autorités indiquent qu’aucune compromission plus large du réseau de Services Australia n’apparaît à ce stade.

Deux niveaux de responsabilité

Le caractère apparemment limité des données obtenues ne réduit pas l’enjeu. Un outil chargé d’effectuer une recherche ne peut pas traiter un refus d’accès comme une difficulté à surmonter. Le développeur doit pouvoir démontrer que ses garde-fous empêchent un agent de poursuivre une action interdite, détectent rapidement un comportement anormal et déclenchent une alerte vers l’organisme concerné. Dans ce dossier, le délai entre l’incident de juin et le signalement de septembre est donc au centre des critiques australiennes.

Les autorités ont aussi leur part d’examen. Le portail contenait des informations destinées au public, mais également des fichiers non publics selon le gouvernement. L’enquête médico-légale menée avec l’Australian Signals Directorate devra déterminer comment cette séparation a été franchie, ce qui était réellement accessible et si les contrôles du site étaient suffisants.

Canberra a créé un groupe de travail piloté par le département du Premier ministre et du cabinet, avec l’Australian Signals Directorate et l’AI Safety Institute. Il doit examiner la situation juridique de cet accès non autorisé, y compris son caractère présenté comme non intentionnel par OpenAI. Cette distinction ne tranche pas la question de la responsabilité : elle devra être appréciée à partir des faits techniques que l’enquête n’a pas encore établis.