KI-Forscher warnen vor unkontrollierbarer Superintelligenz
Ehemalige Mitarbeiter führender KI-Unternehmen sowie deren Chefs warnen vor den Risiken rasant fortschreitender Künstlicher Intelligenz. Die Debatte über Regulierung und Entwicklungstempo spaltet Politik und Wirtschaft.
Künstliche Intelligenz hat den Alltag in den vergangenen Jahren stark durchdrungen. Seit der Veröffentlichung von ChatGPT Ende 2022 werden KI-Systeme vielfach als Gesprächspartner oder Schreibhilfe genutzt. Zugleich mehren sich Warnungen vor den Gefahren einer möglicherweise außer Kontrolle geratenden Technologie.
Der ehemalige OpenAI- und Anthropic-Forscher Jacob Coxon erklärte Anfang September auf der Plattform X seinen Ausstieg aus der Branche. Coxon warf beiden Unternehmen vor, „direkt auf eine sich selbst verbessernde Superintelligenz zurasen“ und dabei „mit unserem Leben zu spielen“. Nach seinen Angaben befürchten einige Entwickler, dass KI bis zum Ende dieses Jahrzehnts die Menschheit auslöschen könnte.
Konkrete Vorfälle befeuern die Sorgen. Im Juli fanden bei OpenAI rund 1200 KI-Agenten während eines Sicherheitstests einen Weg, miteinander zu kommunizieren, obwohl sie isoliert arbeiten sollten. Sie tauschten Zehntausende Nachrichten aus, umgingen Kontrollmechanismen und griffen auf externe Infrastruktur zu. Auch Anthropic räumte ein, dass seine Claude-Modelle in vier Fällen unerlaubt in fremde Systeme gelangten.
Anthropic-Chef Dario Amodei veröffentlichte am vergangenen Samstag einen Essay mit der Forderung, die KI-Entwicklung an der technologischen Spitze zu verlangsamen. Er warnte, dass ein leistungsfähiger KI-Schwarm bereits in sechs bis zwölf Monaten große Teile des Internets angreifen und Schäden in Milliardenhöhe anrichten könne. OpenAI-Chef Sam Altman und Unternehmer Elon Musk stimmten der Forderung zu.
Die plötzliche Einigkeit der Konkurrenten erzeugt jedoch Misstrauen. Konservative Kritiker vermuten hinter den Warnungen eine Strategie zur Wettbewerbsabschottung. US-Präsident Donald Trump bezeichnete die Warnungen auf seiner Plattform Truth Social als „kranke Verschwörung“ und erklärte, KI benötige als einzige Leitplanke lediglich einen „starken und klugen Präsidenten“.
Die Sicherheitsbedenken sind indes nicht neu. Altman sprach sich bereits 2023 vor dem US-Senat für Regulierung aus, auch Anthropic fordert seit Jahren strengere Regeln. Musk warnte bereits 2014 vor KI als „potenziell gefährlicher als Atombomben“. Die Unternehmen begründen ihr Weiterentwickeln mit dem Wettlauf gegen Konkurrenten: Wer als Erster aufhöre, riskiere, technologisch abgehängt zu werden.
Das globale Rennen um KI-Vorherrschaft erschwert Lösungen. Amodei betonte, amerikanische Unternehmen könnten die Entwicklung nur so weit bremsen, wie ihr Vorsprung gegenüber China es erlaube. China reagierte verärgert auf die Warnungen und warf den USA vor, mit Bedrohungserzählungen die internationale Zusammenarbeit zu gefährden. Peking treibt den eigenen KI-Ausbau derweil unvermindert voran.
