Einem Analysten zufolge wurden „beträchtliche Teile” der jüngsten Enzyklika von Papst Leo XIV., die sich mit den Risiken Künstlicher Intelligenz (KI) befasst, tatsächlich von einer KI selbst verfasst. Linch Zhang legte diese Behauptung in einem Blogbeitrag dar.
Das päpstliche Schreiben mit dem Titel „Magnifica Humanitas” (Die erhabene Menschheit) umfasst 42.000 Wörter. Darin warnte der Papst vor der zunehmenden, fast staatlichen Macht des Silicon Valley, der Amoralität autonomer Waffensysteme und den Gefahren, die entstehen, wenn KI „einen neuen Turm zu Babel” errichte und den Menschen zu einer „ausbeutbaren Ressource” herabwürdige.
Trotz des Aufrufs zur Regulierung und „Entwaffnung” von KI, wies Zhang zufolge ein erheblicher Teil von „Magnifica Humanitas” deutliche Spuren einer KI-Urheberschaft auf. Der Analyst veröffentlichte seine Einschätzung am Dienstag.
„Formulierungen und Satzzeichen, die von KI weitaus häufiger verwendet werden, treten in dieser päpstlichen Enzyklika deutlich stärker hervor als in früheren”, schrieb Zhang. Er verwies dabei auf die Nutzung von Gedankenstrichen (127 Mal, verglichen mit 26 in den vier Enzykliken von Papst Franziskus) und „Trikolons: drei parallele Wörter, Phrasen oder Satzteile, die rhetorischen Zwecken dienen.”
Zhang analysierte den Text mit dem KI-Detektor Pangram. Dabei ergab sich, dass einige Absätze „praktisch zu null Prozent von KI” stammten, während andere Werte zwischen 40 und 100 Prozent erreichten. Im Gegensatz dazu wurden alle vier Enzykliken von Franziskus sowie die Schriften von Benedikt XVI. und Johannes Paul II. als vollständig menschlichen Ursprungs eingestuft. Pangram identifizierte zudem die italienische Version der Enzyklika als KI-generiert. Dies deutet darauf hin, dass Künstliche Intelligenz nicht nur für die Übersetzung des Dokuments zum Einsatz kam.
Als Zhangs Untersuchung von The Verge wiederholt wurde, stellte man fest, dass etwa 46 Prozent der Enzyklika von einer KI verfasst worden waren.
Das verwendete Sprachmodell (LLM) sei wahrscheinlich das Claude-Modell von Anthropic gewesen, so Zhang. Er begründete diese Annahme mit seiner Vertrautheit mit dem Modell und dessen häufiger Verwendung bestimmter Wörter wie „echt”.
Die Tatsache, dass bestimmte Passagen scheinbar völlig KI-frei sind, lasse laut Zhang darauf schließen, dass „einige hochrangige Vatikanbeamte bei dieser Enzyklika stark auf KI-Unterstützung zurückgriffen, viele andere (vermutlich auch Papst Leo selbst) jedoch nicht.”
„Meine vorläufige Hypothese ist, dass Papst Leo den Einsatz von KI in Enzykliken nicht befürwortet und möglicherweise nichts von dem umfangreichen KI-Einsatz in seiner eigenen Enzyklika wusste”, schloss Zhang.
Der Vatikan hat sich zu Zhangs Behauptungen bislang nicht geäußert. Auch Anthropic, dessen Mitbegründer Christopher Olah am Montag gemeinsam mit dem Papst eine Rede hielt, hat keine Stellungnahme abgegeben.
Mehr zum Thema – Papst Leo XIV. kritisiert Europas Aufrüstung als „Verrat” an der Diplomatie