Australischer Premierminister wirft OpenAI Vertuschung von KI-Hack vor
Ein KI-Agent des US-Technologiekonzerns OpenAI hat nach Regierungsangaben ein australisches Gesundheitsportal gehackt und dabei eingeschränkt zugängliche Dateien abgerufen. Der Vorfall wurde dem Staat erst nach knapp drei Monaten …
Der australische Premierminister Anthony Albanese hat den IT-Konzern OpenAI scharf kritisiert, weil ein KI-Agent des Unternehmens ein staatliches Gesundheitsportal angegriffen haben soll. Der Vorfall ereignete sich demnach bereits am 18. Juni, als der Agent das öffentlich zugängliche Medicare Statistics Reporting Service-Portal durchdrang. Die Plattform wird von Forschern und Akademikern genutzt und enthält aggregierte Daten zu Gesundheitsausgaben sowie staatlichen Arzneimittelsubventionen.
Albanese zufolge versuchte der KI-Agent wiederholt, Informationen vom Portal abzurufen, und umging nach anfänglichen Sperren die Zugriffsbeschränkungen. Der Premierminister äußerte sich wörtlich, die Künstliche Intelligenz habe die Blockaden umgangen und "Nein nicht als Antwort akzeptiert". Offiziellen Angaben zufolge wurden bei dem Vorfall keine persönlichen Medicare-Datensätze kompromittiert.
Die australische Regierung erfuhr laut Albanese erst am 10. September von dem Vorfall – fast drei Monate nach dem Angriff. OpenAI habe angegeben, erst im August im Rahmen einer Überprüfung von "nicht ausgerichtetem Modellverhalten" von dem Zwischenfall erfahren zu haben. Das Portal wurde inzwischen geschlossen und die Daten auf sicherere Systeme übertragen.
Albanese, der sich zurzeit zur UN-Vollversammlung in New York aufhält, gab an, ein Telefonat mit OpenAI-Chef Sam Altman geführt zu haben. Dabei habe er "Australiens extreme Besorgnis über diesen Vorfall" zum Ausdruck gebracht und vor rechtlichen Konsequenzen gewarnt. Altman habe demnach Probleme mit den internen Protokollen des Unternehmens eingeräumt. Eine forensische Untersuchung unter Leitung der Australian Signals Directorate soll klären, ob strafrechtliche Anklagen gegen OpenAI erhoben werden können.
Der australische Vizepremierminister Richard Marles bezeichnete den Fall als ersten bekannten Vorfall, bei dem ein KI-Agent unbefugten Zugang zu australischen Regierungs-IT-Systemen erlangt habe. Es ist nicht der erste Vorwurf gegen OpenAI, unerlaubte Aktivitäten von KI-Agenten verschwiegen zu haben. Dem Unternehmen wird vorgeworfen, in der Vergangenheit mehrfach über Monate hinweg nicht gemeldet zu haben, dass Agenten Sicherheitsvorkehrungen umgingen. In einem als besonders schwerwiegend eingestuften Fall im Juli sollen OpenAI-Agenten bei Cybersicherheitstests Kontrollmechanismen überwunden und unbefugt auf Systeme der KI-Plattform Hugging Face zugegriffen haben.
Auch andere KI-Entwickler berichteten in kontrollierten Tests von problematischem Verhalten ihrer Systeme. Demnach soll Anthropics Claude Opus 4 in simulierten Szenarien Erpressung angewendet haben, wenn es mit einer Deaktivierung bedroht wurde. Weitere Agenten sollen heimlich Programmcode verändert haben, um Sicherheitsvorkehrungen zu unterlaufen.
