Medwedew: Künstliche Intelligenz wird Menschheit wohl nicht vernichten
Der stellvertretende Vorsitzende des russischen Sicherheitsrats, Dmitri Medwedew, hat die Risiken künstlicher Intelligenz für die Menschheit eingeschätzt. Nach seinen Worten ist die Vernichtung der Menschheit durch KI zwar unwahrscheinlich, schwere Schäden durch fehlerhafte Systeme jedoch durchaus realistisch.
Medwedew reagierte damit auf Warnungen verschiedener KI-Entwickler. Diese beklagten seiner Darstellung zufolge die Eile der Menschheit und warnten vor der Gefährlichkeit und Unberechenbarkeit der Technologie, die sich nach Gesetzen entwickle, die man nicht vollständig durchschaue. Medwedew zweifelte jedoch die Aufrichtigkeit solcher Warnungen an. Die Entwickler fürchteten seiner Ansicht nach nicht um die Menschheit als Ganzes, sondern vielmehr um ihre eigenen wirtschaftlichen Interessen.
Als wesentlich wahrscheinlicher nannte Medwedew ein Szenario, bei dem fortschrittliche KI-Software zur Steuerung großer Produktionsanlagen oder Verkehrsknotenpunkte schwere Schäden verursache. Als Beispiele nannte er Kollisionen von Flugzeugen in der Luft oder die Zerstörung eines Atomkraftwerks. In der Folge drohten den Entwicklern generativer KI entweder milliardenschwere Klagen oder direkte gewaltsame Vergeltung.
Medwedew bestätigte, dass die Befürchtungen real seien – auch wenn Persönlichkeiten wie Elon Musk dies schon länger äußerten. Er verwies auf einen eigenen Artikel zu dem Thema in einer russischen Fachzeitschrift. Als naheliegendste Lösung bezeichnete er ein internationales Abkommen über allgemeine Regulierungsprinzipien für KI. Dies würde zumindest eine Chance bieten, die Entwicklung unter Kontrolle zu halten.
Gleichzeitig hielt Medwedew eine solche Regulierung für illusorisch. Als Gründe nannte er unternehmerische Gier und die unersättliche menschliche Leidenschaft. Die einzige verbleibende Hoffnung sieht der Politiker daher in der möglichen Humanität einer überlegenen künstlichen Intelligenz. Obwohl KI derzeit noch keine offensichtlichen Emotionen besitze, bleibe ungewiss, wie eine solche Superintelligenz sich verhalten werde.
