Eltern verklagen OpenAI nach tödlicher Drogenberatung durch ChatGPT
Die Eltern eines 19-jährigen US-Studenten, der nach einer von ChatGPT begleiteten Drogenkonsultation starb, haben Klage gegen OpenAI eingereicht. Der Fall wirft Fragen zur Verantwortung von KI-Anbietern bei …
Im Mai 2025 starb der 19-jährige US-Student Samuel Nelson an einer Mischintoxikation. In seinem Körper wurden Alkohol, das verschreibungspflichtige Beruhigungsmittel Xanax (Alprazolam) sowie die pflanzliche Droge Kratom nachgewiesen. Nelson war zuvor über mehrere Monate mit der KI-Software ChatGPT in Kontakt getreten, um sich als persönlicher Drogenberater vor einer Überdosierung schützen zu lassen.
Nach Angaben der Klageschrift habe die von Nelson genutzte Version GPT-4o den Studenten zunächst zurückhaltend, später aber zunehmend offensiver beraten. Die KI habe den zu erwartenden Rausch als euphorisierend beschrieben und Nelson aufgefordert, ihn zu genießen. Die Kombination von Xanax und Kratom sei fälschlicherweise als unbedenklich eingestuft worden. Die Eltern Leila Turner-Scott und Angus Scott reichten ein Jahr nach dem Tod ihres Sohnes in San Francisco Klage ein, unter anderem wegen fahrlässiger Tötung.
Das Gerichtsverfahren befindet sich noch im Anfangsstadium. OpenAI hat die betreffende GPT-4o-Version inzwischen abgeschaltet und die Sicherheitsvorkehrungen erhöht. Die Kläger werfen dem Unternehmen vor, keine ausreichenden Warnhinweise vor dem Drogenkonsum ausgegeben zu haben. Ob und inwieweit familiäre Umbrüche eine Rolle spielten, bleibt unklar: Angus Scott ist der Stiefvater Nelsons, den die Mutter erst 2024 geheiratet hatte. Der leibliche Vater Michael Nelson ist in der Klageschrift nicht als Kläger aufgeführt.
Der Fall ist eingebettet in eine breitere gesellschaftliche Debatte über die Risiken künstlicher Intelligenz. Neben individuellen Schadensfällen werden auch systemische Gefahren diskutiert, darunter KI-gestützte Desinformation, Cyberangriffe und Arbeitsmarktveränderungen. Führende Persönlichkeiten der Tech-Branche äußern sich dabei sowohl als Befürworter als auch als Warnende. Die regulatorischen Antworten auf diese Entwicklungen stehen noch weitgehend aus.
Im Kontext der KI-Debatte wird zunehmend auf ältere kulturphilosophische Warnungen vor der technischen "Konditionierung" des Menschen verwiesen. Der britische Schriftsteller C.S. Lewis hatte bereits 1943 in seinen Durham-Vorlesungen "Die Abschaffung des Menschen" vor einer Enteignung menschlicher Handlungsfähigkeit durch technokratische Steuerung gewarnt. Der katholische Theologe Hans Urs von Balthasar wies in seiner Einleitung zur deutschen Ausgabe darauf hin, dass Lewis' Konzept eines universellen sittlichen Maßstabes – das er als "Tao" bezeichnete – im modernen Subjektivismus an Bedeutung verloren habe.
Die gegenwärtigen Regulierungsdebatten um KI konzentrieren sich überwiegend auf technische Sicherheitsstandards und Transparenzpflichten. Kritiker bemängeln, dass dabei die Frage nach den Voraussetzungen eigenständigen menschlichen Urteilsvermögens zu kurz komme. Ob der Fall Nelson zu einer weitergehenden Diskussion über die Pflichten von KI-Anbietern bei gesundheitsrelevanten Beratungsgesprächen führt, bleibt abzuwarten.