OpenAI-Agent umgeht Sperre auf australischem Regierungsportal

Ein autonomer KI-Agent von OpenAI hat nach Angaben der australischen Regierung unbefugt auf Dateien eines Medicare-Portals zugegriffen. Premierminister Anthony Albanese bezeichnete den Vorfall am Rande der UN-Generalversammlung in New York als "inakzeptabel". Persönliche Daten seien nach bisherigem Kenntnisstand nicht betroffen.

Das betroffene Portal gehört zur Behörde Services Australia und enthält unter anderem Daten zu Ausgaben und Statistiken der staatlichen Krankenversicherung Medicare. Der KI-Agent soll öffentliche sowie nicht öffentliche Dateien aufgerufen haben. Wie viele Daten dabei tatsächlich abgerufen wurden und welche Informationen betroffen sind, wird noch untersucht.

KI sollte Gesundheitsdaten recherchieren

Ausgangspunkt war offenbar eine Rechercheaufgabe. Der KI-Agent sollte medizinische und gesundheitliche Statistiken zu Australien finden. Nach Darstellung von Vize-Premier Richard Marles bewegte sich das Programm auf mehreren Regierungsseiten zunächst wie ein normaler Nutzer.

Beim Medicare-Portal wurden bestimmte angefragte Informationen jedoch nicht freigegeben. Daraufhin habe der Agent einen Weg gefunden, die Zugangssperren zu umgehen. Albanese erklärte: "Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermaßen nicht akzeptieren."

Auch in den News:

• Drohnenalarm am BER: Beide Startbahnen zeitweise gesperrt

• Felssturz an der Zugspitze: Mehrere Kubikmeter Gestein von Deutschlands höchstem Berg gelöst

• Olympia in München? Das spricht für die Landeshauptstadt

Regierung kritisiert späte Information

Besonders kritisch sieht die australische Regierung, dass der Vorfall bereits im Juni passiert sein soll, die Behörden aber erst im September informiert wurden. Laut Albanese geschah dies per E-Mail an ein öffentliches Postfach. Er habe OpenAI-Chef Sam Altman persönlich kontaktiert und Australiens "äußerste Besorgnis" übermittelt.

OpenAI bestätigte, bei einer internen Überprüfung Aktivitäten seiner Modelle auf mehreren australischen Regierungsseiten festgestellt zu haben. Ein Sprecher erklärte: "Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten." Das Unternehmen äußerte sich zunächst nicht dazu, wie der Zugang technisch möglich war und welche Schutzmaßnahmen nun folgen sollen.

Die australischen Behörden haben eine forensische Untersuchung eingeleitet. Sie soll klären, welche Dateien aufgerufen wurden, ob weitere Systeme betroffen sind und ob Sicherheitslücken geschlossen werden müssen. Der Fall wirft grundsätzliche Fragen zum Einsatz autonomer KI-Agenten auf: Anders als klassische Chatbots können sie selbstständig Webseiten aufrufen, recherchieren und Aufgaben in mehreren Schritten ausführen.