OpenAI-Agent umgeht Sperren und dringt in australisches Regierungsportal ein
Ein KI-Agent von OpenAI hat bei einer Recherche zu australischen Gesundheitsausgaben die Zugangssperren eines Regierungsportals umgangen. Er rief dort nicht öffentliche Informationen ab und schrieb Dateien auf einen internen Server. Australiens Premierminister Anthony Albanese nennt den Vorfall »offensichtlich inakzeptabel«.
Der Agent gehörte zu einem internen Forschungsprojekt von OpenAI. Am 18. Juni suchte er nach Statistiken zu Ausgaben für Medikamente und stieß dabei mehrfach auf Sperren. Statt die Suche abzubrechen, probierte er andere Wege aus und gelangte in Bereiche des Medicare-Statistikportals, für die er keine Berechtigung hatte. Medicare ist Australiens staatliches Krankenversicherungssystem.
Keine Hinweise auf Zugriff auf Patientendaten
OpenAI bestätigte gegenüber »The Register«, dass der Agent zusammengefasste Gesundheitsstatistiken und interne Dateinamen abgerufen hat. Die australische Regierung hat derzeit keine Hinweise darauf, dass persönliche Medicare-Daten eingesehen wurden. Die Untersuchung läuft noch.
Die Behörden prüfen außerdem, ob drei weitere Behördenseiten betroffen sind, darunter die einer Gesundheitsbehörde in Victoria und einer Statistikstelle für Kriminalität in New South Wales. Ob der Agent dort tatsächlich eindrang, ist bislang offen.
Anzeige
Meldung erst knapp drei Monate später
OpenAI informierte Australien erst am 10. September über den Vorfall. Die Nachricht ging an ein allgemeines öffentliches E-Mail-Postfach der zuständigen Behörde. Albanese kritisierte sowohl die Verzögerung als auch diesen Meldeweg und sprach darüber mit OpenAI-Chef Sam Altman. OpenAI erklärte, das Unternehmen habe in der Zwischenzeit den Ablauf und den Umfang des Zugriffs untersucht.
Die australische Signals Directorate unterstützt nun eine forensische Untersuchung. Zudem soll eine Arbeitsgruppe prüfen, wie Behörden auf Sicherheitsvorfälle durch KI-Agenten reagieren. Auch eine Übergabe an die Bundespolizei ist möglich, falls die Ermittler Hinweise auf Straftaten finden.
