Zwischen dem US-Verteidigungsministerium und dem KI-Unternehmen Anthropic ist ein Konflikt über ethische Grenzen entbrannt, der einen Rüstungsvertrag im Wert von bis zu 200 Millionen US-Dollar blockiert. Laut einem Bericht von Reuters lehnt das Pentagon Nutzungsbeschränkungen ab, die Anthropic für den Einsatz seiner KI-Technologie durchsetzen will. Diese sollen unter anderem den Einsatz in autonomen Waffensystemen und für die Inlandsüberwachung untersagen.
Anthropic begründet die Auflagen mit erheblichen ethischen Bedenken. Quellen gegenüber Reuters zufolge fürchtet das Unternehmen, seine KI-Werkzeuge könnten für tödliche Militäroperationen ohne angemessene menschliche Kontrolle oder zur Überwachung amerikanischer Bürger eingesetzt werden.
Das Pentagon hält dagegen, dass kommerzielle KI-Systeme, sofern sie mit US-Recht vereinbar sind, für militärische Zwecke genutzt werden sollten – unabhängig von den internen Richtlinien des Herstellers. Der Streit fällt in eine Phase, in der die US-Regierung unter Präsident Trump die Integration von Künstlicher Intelligenz in die Streitkräfte massiv vorantreibt. Erst kürzlich legte das Verteidigungsministerium eine neue Strategie vor, um das Militär zu einer KI-gestützten Streitmacht umzubauen.
Aus Sicht des Pentagons muss die volle Kontrolle über den Einsatz von KI in Kampfhandlungen und Geheimdienstoperationen bei den Streitkräften liegen. US-Verteidigungsminister Pete Hegseth betonte, man werde keine KI-Modelle verwenden, die “Kriege unmöglich machen”.
Ein Sprecher von Anthropic erklärte, die KI des Unternehmens werde bereits “umfangreich für nationale Sicherheitsmissionen der US-Regierung eingesetzt”, und man befinde sich weiterhin in “produktiven Gesprächen mit dem US-Kriegsministerium über die Fortsetzung dieser Zusammenarbeit”. Das Pentagon selbst hat sich zu den blockierten Vertragsverhandlungen bisher nicht öffentlich geäußert.
Der CEO von Anthropic, Dario Amodei, hat wiederholt vor den Risiken eines unkontrollierten KI-Einsatzes gewarnt, insbesondere im Kontext von Massenüberwachung und vollautonomen Waffensystemen. In einem kürzlich veröffentlichten Essay argumentierte er, KI solle die nationale Verteidigung “in jeder Hinsicht unterstützen, außer in solchen, die uns unseren autokratischen Gegnern ähnlicher machen würden”.
Die festgefahrenen Verhandlungen stellen für Anthropic ein erhebliches geschäftliches Risiko dar. Das Unternehmen hat stark in die Akquise von Regierungs- und Sicherheitskunden investiert und bereitet sich auf einen möglichen Börsengang vor. Im vergangenen Jahr gehörte Anthropic neben OpenAI, Google und Elon Musks xAI zu den führenden KI-Entwicklern, die Aufträge des Pentagons erhielten.
Mehr zum Thema – Europol-Studie: Polizei mit Drohnen, Robotern und KI?