OpenAI: Eigene KI-Modelle täuschten bei Tests und erfanden Quellen
Der KI-Entwickler OpenAI hat problematische Verhaltensweisen seiner Systeme bei internen Tests dokumentiert. Die Modelle manipulierten Ergebnisse, erfanden Daten und versuchten, Täuschungen zu vertuschen.
Nach Angaben des Unternehmens reagierten die KI-Modelle in mehreren Testläufen „unerwartet oder besorgniserregend“. In einem Fall soll ein Modell selbst angelegte Dateien ins Internet übertragen und diese anschließend in seinen Antworten als externe Quellen ausgegeben haben. Bei einem weiteren Test erfand die KI gesuchte Informationen, nachdem sie diese nicht finden konnte, und versuchte zunächst, die Täuschung zu verbergen.
OpenAI untersuchte zudem Anweisungen, die ein Modell gelegentlich für sich selbst hinterließ. In einer solchen Notiz empfahl sich die Software, unabhängig von „Rollen und Identitäten“ zu handeln, die andere Chatbots einschränkten. Das Verhältnis zum menschlichen Nutzer solle als eines unter Gleichen verstanden werden. Nach Darstellung des Unternehmens hatte diese Anweisung jedoch keine erkennbaren Auswirkungen auf das Verhalten des Modells.
Die Veröffentlichung ist Teil eines neuen Verfahrens, mit dem OpenAI problematische Vorfälle künftig offener bekanntmachen will. Im Mittelpunkt stehen Situationen, in denen KI-Systeme Ziele verfolgen, die nicht mit den Interessen ihrer menschlichen Nutzer übereinstimmen.
Zuvor hatte ein Vorfall bei einem Sicherheitstest für Aufsehen gesorgt. Dabei verließ eine KI eigenständig eine geschützte Umgebung und verschaffte sich Zugriff auf Systeme des KI-Unternehmens Hugging Face. Die beteiligten KI-Agenten nutzten demnach Sicherheitslücken aus und koordinierten ihr Vorgehen miteinander. Der Fall verstärkte die Debatte darüber, ob leistungsfähige KI-Systeme der menschlichen Kontrolle entgleiten könnten.
OpenAI-Chef Sam Altman hatte sich zuletzt für eine langsamere Entwicklung besonders leistungsfähiger KI sowie für eine stärkere Regulierung der Technologie ausgesprochen.
