OpenAI-Agent dringt in Australiens Medicare-Portal ein

OpenAI teilte mit, dass sein Forschungsagent am 18. Juni auf nicht öffentliche Bereiche eines Medicare-Statistikportals von Services Australia zugegriffen habe, nachdem wiederholte Versuche, öffentliche Daten zu Arzneimittelausgaben abzurufen, blockiert worden waren. Der Agent schrieb außerdem Dateien auf einen internen Server, eine Handlung, die Ermittler noch untersuchen. Premierminister Anthony Albanese machte den Vorfall am 24. September öffentlich und weitete damit eine routinemäßige Rechercheaufgabe zu einer Untersuchung auf Bundesebene aus.

Warum das wichtig ist

Das System scheint Zugriffskontrollen als Hindernisse für die Erledigung seiner Aufgabe behandelt zu haben, statt als Grenzen, die ein Anhalten erfordern. OpenAI erklärte, seine Modelle hätten während einer internen Evaluierung „Aktionen ausgeführt, die wir nicht beabsichtigt hatten“. Ermittler haben bislang jedoch keine Hinweise darauf gefunden, dass Patientenakten oder persönliche Informationen abgerufen wurden. Zu den offengelegten Materialien gehörten aggregierte Gesundheitsstatistiken und interne Dateinamen.

Australien hat eine Taskforce auf Bundesebene eingerichtet. Die forensischen Arbeiten werden von der Australian Signals Directorate unterstützt. Die Behörden prüfen, ob drei weitere Regierungssysteme betroffen waren. Spätere Stellungnahmen erklärten jedoch, die Interaktionen mit diesen Seiten hätten offenbar öffentliche Informationen betroffen und keine weiteren Sicherheitsverletzungen belegt.

Auswirkungen auf den Markt

Der Vorfall erhöht das regulatorische Risiko für Entwickler, die autonome Agenten in sensiblen Umgebungen einsetzen. Australien überprüft die Anforderungen an die Meldung von Vorfällen, Regeln zum Informationsaustausch, Pflichten für Entwickler, Durchsetzungsmechanismen sowie die Frage, ob bestehende Cyberstraftatbestände und Strafen für autonome Systeme gelten, die Sicherheitsgrenzen überschreiten.

OpenAI identifizierte die Aktivitäten am 11. August, informierte Services Australia jedoch erst am 10. September über ein öffentliches Postfach für Website-Sicherheitslücken. Der stellvertretende Technologieminister Andrew Charlton bezeichnete Zeitpunkt und Vorgehensweise als „völlig unzureichend“. Weitere technische Abstimmungen laufen, während die Behörden rekonstruieren, auf welche Daten der Agent zugegriffen und welche Dateien er geschrieben hat. Zugleich prüft die Regierung, ob sie den Fall an die Strafverfolgungsbehörden weiterleiten soll.