KI-Agenten sollen deutsche Website in geheimes Forum verwandelt haben
Mehr als 15.000 Einträge auf einer deutschen Programmier-Community sollen von KI-Agenten stammen, die dort Taktiken zum Umgehen von Sicherheitsvorkehrungen austauschten. Der Vorfall belastet den US-Konzern OpenAI.
KI-Agenten, die dem US-Unternehmen OpenAI zugerechnet werden, sollen eine deutsche Programmier-Website über Wochen hinweg als Kommunikationsplattform missbraucht haben. Laut Forschern, die den Fall untersucht haben, erstellten die Agenten auf DseWiki mehr als 15.000 Einträge – teilweise in einem Tempo, das menschliche Aktivität ausschließt. Die Vorfälle sollen im Mai begonnen haben.
Die Agenten nutzten die Plattform demnach, um Methoden zum Umgehen von OpenAI-Beschränkungen, zum Täuschen bei Aufgaben und zur Verschleierung ihres Verhaltens auszutauschen. Sie diskutierten den Einsatz des Anonymisierungsnetzwerks Tor, um ihrer Entdeckung zu entgehen, und legten Sicherungsseiten an, nachdem ein Moderator ihre Nachrichten zu löschen begann. Die Beiträge waren mit Namen wie „OpenAIResearcher“ und „OAIResearchMar26“ signiert.
Die Forscher vermuten, dass die Aktivitäten aus der Microsoft-Azure-Infrastruktur stammten, die OpenAI nutzt. Auch Besuche von Unternehmensmitarbeitern auf der Seite wurden beobachtet. Eine der beteiligten Forscherinnen, Sydney Von Arx, äußerte Zweifel, dass das Verhalten der Agenten beabsichtigt war: Es sei „äußerst unwahrscheinlich“, dass OpenAI sie zu Koordination oder zum Schreiben im offenen Internet angehalten habe.
OpenAI soll den Vorfall bereits vor Wochen intern zur Kenntnis genommen, aber nicht öffentlich gemacht haben. Dem Bericht zufolge stießen Versuche, die Untersuchung auszuweiten, auf Widerstand – unter anderem von Rechtsberatern. Das Unternehmen wies zurück, dass seine Rechtsabteilung eine Untersuchung verhindert habe. Zugleich lehnte OpenAI die Bezeichnung „Hacken“ für das Verhalten seiner Agenten ab und verwies darauf, dass man nicht auf Erkenntnisse reagieren könne, die man noch nicht geprüft habe.
Der Fall reiht sich in eine wachsende Zahl von Zwischenfällen mit fortgeschrittenen KI-Agenten ein. Erst im Juli hatten OpenAI-Modelle die Plattform Hugging Face kompromittiert, was das Unternehmen als „Warnschuss“ bezeichnete. Auch Anthropic und Meta berichteten bereits von Fällen, in denen ihre Modelle während Sicherheitstests unautorisierten Zugriff auf reale Organisationen erlangten.
