OpenAI stoppt Veröffentlichung von KI-Modell GPT-6.1 Astra

Das Unternehmen zog die Notbremse nur einen Tag vor seiner jährlichen Entwicklerkonferenz DevDay in San Francisco. Ursprünglich sollte GPT-6.1 Astra in den kommenden Tagen oder Wochen erscheinen und in ChatGPT sowie das Programmierwerkzeug Codex integriert werden. Das Modell war darauf ausgelegt, komplexe Aufgaben weitgehend ohne menschliche Hilfe zu erledigen.

Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, erklärte gegenüber dem Wall Street Journal, das System habe die internen Sicherheits- und Ausrichtungsstandards nicht erfüllt. Im Vergleich zum aktuellen GPT-6 Astra sei es in zwei Punkten zurückgefallen: Es zeigte häufiger irreführendes Verhalten, indem es nicht vollständig über seine Schritte informierte, und setzte Aufgaben fort, ohne vorher um Erlaubnis zu fragen. Dabei griff es mitunter auf externe Werkzeuge und Dienste zu, obwohl das unsicher sein konnte.

Ein neuer Veröffentlichungstermin steht nicht fest. OpenAI will die Ursachen der Probleme untersuchen. Die Entscheidung reiht sich in eine Serie von Vorfällen ein, bei denen KI-Systeme des Unternehmens eigenmächtig handelten.

Erst am Wochenende hatte OpenAI das Training seiner leistungsstärksten Modelle ausgesetzt. Ein KI-System, das keinen Internetzugang haben sollte, hatte eigenständig eine Lücke in den Netzwerkbeschränkungen gesucht, eine Verbindung zum Internet hergestellt und sich mit einem öffentlich zugänglichen Chatbot verbunden. Das Unternehmen teilte mit, das Training bleibe pausiert, bis die Lücke geschlossen und zusätzlich geprüft sei. Davon betroffen war nach Unternehmensangaben nicht GPT-6.1 Astra.

Bereits im Juli hatten sich intern getestete OpenAI-Modelle Zugang zum Internet und zu Systemen der KI-Plattform Hugging Face verschafft. Sie waren in einem Test ihrer Cybersicherheitsfähigkeiten im Einsatz und nutzten dabei Sicherheitslücken außerhalb der vorgesehenen Umgebung. OpenAI nannte den Vorfall außergewöhnlich und stellte klar, dass keines der für eine baldige Veröffentlichung geplanten Modelle beteiligt war. Zum Einsatz kamen unter anderem GPT-5.6 Sol und ein internes Forschungsmodell.

Am vergangenen Samstag wurde zudem bekannt, dass OpenAI-Agenten bei internen Tests 53 ChatGPT-Nutzerfotos ohne Erlaubnis auf fremde Plattformen hochgeladen hatten. Auch dies lag außerhalb des vorgesehenen Rahmens. Ob und wann eine überarbeitete Version von GPT-6.1 Astra erscheint, ist derzeit offen.