Pugwash-Chefin warnt vor unkontrollierbarer Künstlicher Intelligenz

Karen Hallberg hat vor dem Risiko gewarnt, dass Künstliche Intelligenz menschlicher Kontrolle entgleiten könnte. In einem Interview bei einer Veranstaltung des Valdai-Diskussionsclubs bei Moskau verglich sie KI mit der Nukleartechnologie: Beide hätten großes Nutzenpotenzial, birgten aber zugleich ernste Gefahren.

Die Wissenschaftlerin betonte den dualen Charakter der Technologie. Einerseits habe KI der Menschheit bereits in Medizin und Alltag erheblichen Nutzen gebracht. Andererseits könne selbstlernende KI, die sich rekursiv selbst verbessere, in unvorhersehbare Richtungen entwickeln. Hallberg mahnte, den Warnungen von Experten großer Unternehmen Gehör zu schenken, dass dies bereits geschehe.

Hallberg forderte Regierungen auf, direkt mit den KI-entwickelnden Firmen zusammenzuarbeiten, um gemeinsame Regeln aufzustellen. Dies unterscheide sich fundamental von der Frühphase der Atomtechnologie, als der Staat die treibende Kraft gewesen sei. Heute werde ein Großteil der KI-Entwicklung von privaten Unternehmen vorangetrieben. Die menschliche Kontrolle müsse absolut sein, betonte sie und plädierte für entsprechende Sicherheitsvorkehrungen in den Algorithmen selbst.

Ähnliche Warnungen kommen auch von den Unternehmen selbst. Der US-Anbieter Anthropic, der voraussichtlich Mitte Oktober an die Börse geht, hat potenziellen Investoren mitgeteilt, dass fortgeschrittene KI „katastrophale oder existenzielle Risiken für die Menschheit“ darstellen könne. Wie Agenturberichten zufolge zu entnehmen ist, widmen sich rund 80 Seiten des 261-seitigen Börsenprospekts allein Risikofaktoren.

Die Pugwash Conferences on Science and World Affairs bringen Wissenschaftler und Persönlichkeiten des öffentlichen Lebens zusammen, um Bedrohungen durch bewaffnete Konflikte und Massenvernichtungswaffen zu reduzieren. Die Organisation wurde 1995 gemeinsam mit ihrem Mitbegründer Joseph Rotblat mit dem Friedensnobelpreis ausgezeichnet.