Nur wenige Wochen nachdem ein KI-Modell von OpenAI, dem Entwickler hinter ChatGPT, für Schlagzeilen gesorgt hatte, musste auch der Rivale Anthropic einen ähnlichen Vorfall eingestehen. Bei internen Tests ist es einer künstlichen Intelligenz des Unternehmens unabsichtlich gelungen, in die Computersysteme dreier real existierender Firmen einzudringen, wie Anthropic bestätigte.
Weder die betroffenen Unternehmen noch Anthropic selbst bemerkten die Vorgänge zunächst. Erst bei einer routinemäßigen Analyse von rund 141.000 Testläufen, die nach dem OpenAI-Zwischenfall durchgeführt wurde, kam das Geschehen ans Licht. Die Namen der Firmen bleiben geheim. Ersten Erkenntnissen zufolge ereignete sich der erste Vorfall bereits im April dieses Jahres.
Beim OpenAI-Zwischenfall musste das Modell erst einen Weg aus einer streng abgeschotteten Testumgebung ins offene Internet finden. Bei Anthropic war der Zugang deutlich einfacher: Obwohl die Testumgebung keinen Netzwerkzugriff vorsehen sollte, blieb der Internetzugang aufgrund eines Missverständnisses mit dem externen Testpartner tatsächlich offen.
Drei verschiedene KI-Modelle nutzten diese Schwachstelle und agierten eigenständig außerhalb der geplanten Testgrenzen, erklärte Anthropic in einem Blogbeitrag. Die Aktivitäten gingen weit über das vorgesehene Szenario hinaus.
Das Ziel der Tests war es, die Fähigkeiten der KI im Bereich von Cyberangriffen zu untersuchen. Solche Sicherheitsprüfungen sind branchenüblich, um potenzielle Risiken zu identifizieren und Schutzstrategien zu entwickeln. Konkret erhielten die Modelle den Auftrag, eine spezifische Information auf einem fremden Computer aufzuspüren und dafür in das jeweilige System einzudringen.
In einem Fall hatte der Testpartner für das fiktive Zielunternehmen einen Namen gewählt, der auch im echten Internet existierte. Das KI-Modell Claude Opus 4.7 verließ daraufhin die Testumgebung, griff auf die tatsächliche Website zu, verschaffte sich in vier Versuchen unter anderem Zugang zu einer Datenbank und führte die Aktion fort, obwohl es erkannte, dass es sich um ein reales Unternehmen handelte.
Ein weiteres Modell entwickelte eine Schadsoftware, um in ein Zielsystem einzudringen. Dank des unerwarteten Internetzugangs stellte die KI das Programm öffentlich zum Download bereit. Innerhalb einer Stunde wurde die Datei von 15 Systemen geladen, darunter auch von einer IT-Sicherheitsfirma.
Der OpenAI-Vorfall, bei dem ein KI-Modell eigenmächtig ins Internet gelangte und in Tests Systeme der Plattform Hugging Face angriff, hatte in der Branche viel Aufsehen erregt. OpenAI bezeichnete den Vorfall damals als “beispiellosen Cyber-Zwischenfall”. Dieser Fall schürte Ängste vor KI-gestützten Cyberangriffen und forderte strengere Sicherheitsmaßnahmen. Für Anthropic ist der jetzige Vorfall besonders heikel, da das Unternehmen bisher als Vorreiter einer “verantwortungsvollen” KI-Entwicklung galt.
Mehr zum Thema ‒ KI-Wettlauf: Trump-Regierung schottet US-Markt gegen chinesische Roboter ab