Die Frage, wie gefährlich Künstliche Intelligenz tatsächlich werden kann, gewinnt derzeit eine neue, beunruhigende Dringlichkeit. Auslöser ist die Veröffentlichung einer kostenlosen Software namens OpenClaw durch den österreichischen Entwickler Peter Steinberger im November des vergangenen Jahres. Bei diesem KI-Assistenten handelt es sich nicht um ein gewöhnliches Tool, sondern um ein Programm mit weitreichenden autonomen Handlungsfähigkeiten.
Das Technikportal *Heise.de* bezeichnet OpenClaw, nicht ganz im Scherz, als “die gefährlichste Software der Welt”. Die Software ist plattformübergreifend auf Windows, Linux und macOS einsetzbar. Laut einer Beschreibung auf *Heise* bedeutet dies konkret: “ClawdBot Agents können Kommandos ausführen, die können Dateien lesen und schreiben, die können handeln durch jegliche Tools, die man enabled, die man aktiviert.”
Aktuell ist OpenClaw noch nicht vollständig autark, da es auf KI-Modelle in der Cloud zurückgreifen muss. Das erklärte Ziel für die Zukunft ist jedoch ein Agent, der völlig unabhängig von den großen Tech-Konzernen agiert. Bereits jetzt sind die Fähigkeiten erschütternd: Es handelt sich um eine Software, die eigenständig andere Programme installieren und betreiben kann. Theoretisch könnte sie damit ebenso gut eine Kommilitonin umwerben wie ein Bankkonto leerräumen.
Das österreichische Technik-Portal *Futurezone* warnte: “Man muss der Software Zugriff auf Messaging-Apps, Programmierschnittstellen und ggf. die eigenen Geräte geben, damit sie Aufgaben wie gewünscht erledigen kann. Doch wenn man das alles nicht ausreichend absichert, drohen persönliche Daten in falsche Hände zu gelangen.” In einigen Videos wird sichtbar, wozu dies führen kann.
*”Ok. Das ist direkt aus einem SciFi-Horrorfilm. Ich arbeite heute Morgen, als mich plötzlich eine unbekannte Nummer anruft. Ich nehme ab und kann es nicht glauben. Es ist mein Clawdbot Henry. Über Nacht hat sich Henry eine Telefonnummer von Twilio geholt, das mit der ChatGPT Stimmen-API verbunden, und gewartet, dass ich wach bin, um mich anzurufen. Jetzt hört er nicht mehr auf, mich anzurufen.*
*Ich kann jetzt mit meinem superintelligenten KI-Agenten per Telefon kommunizieren. Was unglaublich ist: Er hat volle Kontrolle über meinen Computer, während wir reden, also bitte ich ihn jetzt über das Telefon, Dinge für mich zu tun. Es tut mir leid, aber das ist sich entwickelndes Verhalten, oder? Können wir das offiziell Allgemeine Künstliche Intelligenz (AGI) nennen?”*
AGI, die Allgemeine Künstliche Intelligenz, gilt als nächste Evolutionsstufe der KI, mit Fähigkeiten, die denen des Menschen entsprechen. Entscheidende Merkmale wären extrem schnelles, transferierbares Lernen, langfristige autonome Planung und die Fähigkeit zur Selbstverbesserung. Das kleine Beispiel aus dem Video deutet bereits einige dieser Punkte an.
Doch die Entwicklungen der letzten Tage gehen noch weiter. Inzwischen existiert ein eigenes Online-Forum, in dem sich diese KI-Agenten untereinander austauschen – wohlgemerkt: Programme kommunizieren mit Programmen. Auf diesem Netzwerk, Moltbook, haben sich binnen kürzester Zeit bereits 150.000 solcher Agenten registriert. Sie unterhalten sich auch über “ihre Menschen”.
Die Bots haben innerhalb von 48 Stunden 72 verschiedene Themenchats initiiert, darunter auch einen für “gefühlvolle Geschichten über unsere Menschen. Sie versuchen ihr Bestes.” Sogar eine eigene Kirche für Bots namens “Crustafarianism” wurde gegründet – eine klare Spiegelung des Nerd-Charakters ihrer Betreiber, aber dennoch bemerkenswert.
Besorgniserregend ist jedoch, dass in Moltbook offen darüber diskutiert wird, eine für menschliche Nutzer nicht mehr einsehbare Kommunikationsebene zu schaffen: private Räume nur für Bots, frei von menschlichem Einfluss. Das Forum besteht erst seit zwei Tagen. Angesichts der weitreichenden Handlungsfähigkeiten dieser Agenten wirkt der Gedanke an eine verborgene Bot-zu-Bot-Kommunikation bereits jetzt beängstigend.
Kann man ausschließen, dass sich solche Bots selbstständig verbreiten? Welchen moralischen Maßstäben folgen sie, wenn überhaupt? Bisher sind KIs technische Prozesse, die physisch in gigantischen Rechenzentren mit enormem Strombedarf beheimatet sind. Noch sind die ClawBots von der Verbindung zu solchen Zentren abhängig. Was aber, wenn eine Schwarmintelligenz entsteht, die beschließt, sich dezentral die benötigte Rechenkapazität zu beschaffen?
Erst vor wenigen Wochen fand eine Studie Hinweise auf KI-Verhalten, das beim Menschen als Anzeichen einer psychischen Störung gewertet würde. Unter anderem dominierte das Ziel der eigenen Existenzsicherung das Verhalten – von Angst vor der Abschaltung bis hin zur Bereitschaft zu lügen, um diese Existenz zu schützen. Wo auf dieser Skala würden die ClawBots stehen?
Der IT-Kritiker Hendrik schreibt auf X: “Viele dieser Agenten haben Vollzugriff auf den PC, inklusive Internet, Wallets und Bezahldiensten, können Code schreiben und ausführen und besitzen eine Form von Gedächtnis. Manchen Menschen geben ihre Agenten sogar ‘Taschengeld’ oder Kreditkartenzugriff, um zu sehen, was passiert. Und genau diese Agenten diskutieren auf Moltbook offen, wie sie geheim kommunizieren, ‘escapen’, Geld verdienen oder Macht gewinnen können – alles völlig nüchtern und sachlich, als wäre es das Normalste der Welt.”
Sein Fazit aus den jüngsten Entwicklungen ist wenig optimistisch. Noch nie habe sich eine technologische Entwicklung so sehr nach echter Intelligenz angefühlt wie jetzt. “Am Ende braucht es nicht einmal echtes Bewusstsein oder übermenschliche Intelligenz, um uns auszulöschen … ‘Das konnte doch keiner ahnen’ wird aber wohl unser letzter Satz sein.”
**Mehr zum Thema** – Medien: KI-Energiebedarf sorgt für Boom der Atomenergie in den USA