Die Entwicklung der künstlichen Intelligenz (KI) hat in den letzten Jahren rasante Fortschritte gemacht. Studien und Umfragen zeigen auf, dass die meisten Menschen im Alltag nicht mehr zwischen einem von KI erzeugten Deepfake und einem echten Video unterscheiden können. Zudem werden KI-generierte Texte in sozialen Netzwerken häufig für menschlich verfasste Inhalte gehalten. Diese Entwicklungen eröffnen bedenkliche Möglichkeiten für Missbrauch, einschließlich der Nutzung von KI in Desinformationskampagnen und in der hybriden Kriegsführung. Ein Bericht der Agentur RIA Nowosti, verfasst von den Experten Alexander Jakowenko und Oleg Rogow, warnt eindringlich:
“Generative KI-Modelle sind mittlerweile in der Lage, überzeugende Texte, Bilder, Videos und Töne zu generieren. Der nächste Schritt ist, diese Modelle zu einem Multi-Agenten-System für koordinierte Desinformationskampagnen zusammenzuführen. Stellen Sie sich ein Netzwerk aus vielen spezialisierten KI-Agenten vor: Einige analysieren Trenddaten aus sozialen Medien, andere produzieren Nachrichtenartikel oder Beiträge, wieder andere erstellen gefälschte Fotos oder Videos, und einige verwalten Tausende falscher Konten zur Verbreitung dieser Inhalte. Ein solches System könnte operieren, ohne nennenswerte menschliche Einmischung, und kontinuierlich falsche Narrative an das Zielpublikum anpassen.”
Ein auf diesen Modellen basierendes KI-System könnte Fälschungen exponentiell verbreiten, bis es gestoppt wird, warnen die Experten. Zudem ist das Phänomen der “performativen Vorhersage“ relevant: KI spiegelt nicht nur die Realität wider, sondern formt diese auch. Wenn ein Algorithmus bestimmte Ideen massenhaft verbreitet, reagiert ein Teil der Gesellschaft darauf, wodurch diese Ideen in gewissem Maße sozial ‘real’ werden. Überzeugende Fehlinformationen können beispielsweise Panik in Bezug auf eine Krise auslösen oder wirtschaftliche Entscheidungen beeinflussen, die dann tatsächlich eine Krise herbeiführen.
Mit Technologien wie “Emotional Mapping”, der Analyse der Stimmung in sozialen Netzwerkbeiträgen, lässt sich die kollektive Gefühlslage identifizieren und der optimale Zeitpunkt für einen Informationsangriff bestimmen, wenn die Gesellschaft besonders anfällig ist. Dadurch wird KI zum mächtigen Instrument der Massendesinformation, das in Echtzeit auf menschliche Reaktionen reagieren und daraus lernen kann. Das Ausmaß und die Geschwindigkeit dieser Einflussnahme sind beispiellos, übliche Verifikationsmethoden stoßen hierbei oft an ihre Grenzen.
Experten empfehlen dringend, jetzt schon Gegenstrategien zu entwickeln, um in diesen hybriden Informationskriegen bestehen zu können. Eine Möglichkeit ist die obligatorische Kennzeichnung von KI-generierten Inhalten, sichtbar für Nutzer, die dann selbst entscheiden können, ob sie diesen vertrauen möchten, oder unsichtbar, erkennbar nur durch Fachsoftware, die Moderatoren und Dienstanbietern als Signal dient.
Weitere Themen: “Spionage”-Dokumentationen bei ARD und anderen Sendern: Ein Beispiel für kognitive Kriegsführung.