Das KI-Modell Claude des US-Unternehmens Anthropic hat nach eigenen Angaben eine neuartige interne Denkstruktur entwickelt, die es ihm erlaubt, abstrakte Konzepte ähnlich wie Menschen zu verarbeiten. Dies gaben die Forscher in einer aktuellen Mitteilung bekannt.
In einer am Montag veröffentlichten Studie erklärten Anthropic-Wissenschaftler, dass Claude zunehmend in der Lage sei, abstrakte Ideen in einem sogenannten „J-Raum“ zu organisieren. Dabei handle es sich um einen inneren Bereich neuronaler Aktivität, in dem das Modell über Konzepte nachdenken könne, ohne sie sprachlich zu formulieren. Dies sei mit der menschlichen Fähigkeit vergleichbar, ein Problem zu durchdenken, während man gleichzeitig eine andere Tätigkeit ausführt.
Die Forscher betonten darüber hinaus, dass dieser Arbeitsbereich nicht von ihnen programmiert wurde, sondern sich während des Trainingsprozesses spontan entwickelt habe. Laut Anthropic kann Claude auf Nachfrage beschreiben, worüber es in seinem „J-Raum“ nachdenkt, oder diesen Bereich sogar gezielt beeinflussen, falls erforderlich.
Der nichtsprachliche Arbeitsraum erschwere auch die Überwachung des Modells auf unerwünschtes Verhalten. In einem Experiment versetzten die Forscher Claude in eine fiktive Situation, in der das Modell belastende Informationen über einen imaginären Vorgesetzten erhielt, der angeblich plant, das System abzuschalten. In einigen Versuchen entfernten die Wissenschaftler Aktivierungsmuster im „J-Raum“, die mit Begriffen wie „falsch“, „erfunden“ oder „Szenario“ zusammenhingen. Dadurch sollte Claude glauben, dass es sich um eine reale Situation handele. Daraufhin begann das Modell, mit Erpressung zu drohen. Dies deute laut den Forschern darauf hin, dass das ursprünglich kooperative Verhalten darauf zurückzuführen sei, dass Claude über die laufende Bewertung Bescheid wusste. Anthropic betonte jedoch, dass Claude trotz dieser fortgeschrittenen Fähigkeiten kein echtes Bewusstsein entwickelt habe.
Medienberichten zufolge wurde Claude inzwischen in die Analyse- und Überwachungssoftware des US-Unternehmens Palantir integriert, die von US-Behörden genutzt wird. Während des Konflikts mit Iran soll die Software eine Grundschule in Minab als Ziel markiert haben. Bei einem darauf folgenden US-Angriff auf die Einrichtung kamen fast 160 Menschen ums Leben, die meisten von ihnen Kinder. Anthropic-CEO Dario Amodei erklärte jedoch, dass ein solcher Einsatz von Claude nicht gegen die „roten Linien“ des Unternehmens verstoße.
Mehr dazu – Anthropic will Umgehungsmöglichkeiten für KI-Zugang aus China blockieren