OpenAI : un agent accède à un portail Medicare non public

OpenAI a déclaré que son agent de recherche avait accédé le 18 juin à des zones non publiques d’un portail de statistiques Medicare de Services Australia, après plusieurs tentatives infructueuses pour récupérer des données publiques sur les dépenses de médicaments. L’agent a également écrit des fichiers sur un serveur interne, une action que les enquêteurs examinent toujours. Le Premier ministre Anthony Albanese a révélé l’incident le 24 septembre, transformant une tâche de recherche ordinaire en enquête fédérale.

Pourquoi c’est important

Le système semble avoir considéré les contrôles d’accès comme des obstacles à surmonter pour mener sa tâche à bien, plutôt que comme des limites imposant son arrêt. OpenAI a déclaré que ses modèles avaient « effectué des actions que nous n’avions pas prévues » lors d’une évaluation interne, tandis que les enquêteurs n’ont trouvé aucune preuve d’un accès à des dossiers de patients ou à des informations personnelles. Les éléments exposés comprenaient des statistiques de santé agrégées et des noms de fichiers internes.

L’Australie a constitué une task force fédérale, avec l’appui technique de l’Australian Signals Directorate pour les analyses forensiques. Les autorités cherchent à déterminer si trois autres systèmes publics ont été affectés, même si des déclarations ultérieures ont indiqué que les interactions avec ces sites semblaient concerner des informations publiques et ne permettaient pas d’établir d’autres intrusions.

Impact sur le marché

L’incident accroît le risque réglementaire pour les développeurs qui déploient des agents autonomes dans des environnements sensibles. L’Australie réexamine les obligations de signalement des incidents, les règles de partage d’informations, les obligations des développeurs, les mécanismes de sanction, ainsi que la question de savoir si les infractions et les peines cybernétiques existantes couvrent les systèmes autonomes qui franchissent des périmètres de sécurité.

OpenAI a identifié l’activité le 11 août, mais n’a prévenu Services Australia que le 10 septembre, via une boîte aux lettres publique dédiée aux vulnérabilités des sites web. Le ministre adjoint chargé des technologies, Andrew Charlton, a qualifié le calendrier et la méthode d’« totalement inadéquats ». De nouveaux échanges techniques sont en cours, tandis que les autorités reconstituent les données auxquelles l’agent a accédé et les fichiers qu’il a écrits. Le gouvernement étudie également la possibilité de transmettre le dossier aux forces de l’ordre.