Ex-Google-Manager warnt: KI könnte Kindern mehr schaden als soziale Medien
Ein früherer Sicherheitschef des US-Techkonzerns Google hat vor gravierenden Risiken künstlicher Intelligenz für Kinder gewarnt. Tom Siegel fordert strengere Alterskontrollen und mehr Schutzmaßnahmen.
Tom Siegel, der bei Google die Abteilung für Vertrauen und Sicherheit aufbaute und 15 Jahre für das Unternehmen tätig war, hat künstliche Intelligenz als potenziell gefährlicher für Kinder eingestuft als soziale Medien. In einem Interview mit einer Nachrichtenagentur kritisierte er, dass die Tech-Branche bei der Einführung schnell entwickelnder KI-Tools die gleichen Fehler wiederhole wie beim Aufstieg der sozialen Netzwerke.
Siegel warnte vor «sehr schwerwiegenden Schadsszenarien». Als Risiken nannte er unter anderem Suizid, Psychosen und «kognitive Entlastung» – den Abbau kritischen Denkvermögens durch übermäßiges Vertrauen auf KI-gestützte Antworten. Die Vorstellung, die Branche werde diese Probleme ohne externe Hilfe lösen, bezeichnete er als unrealistisch. Er forderte von den Unternehmen unmittelbare Schritte, darunter verschärfte Altersüberprüfungen, um Kindern den Zugang zu Chatbots zu verwehren.
Die Warnung des ehemaligen Google-Managers fällt in eine Zeit zunehmender regulatorischer Aktivität. Australien hatte im vergangenen Jahr als erstes Land verpflichtende Altersgrenzen für soziale Medien eingeführt; nach Inkrafttreten der Regelungen wurden rund 4,7 Millionen Konten Minderjähriger eingeschränkt. Die Europäische Union schlug in der vergangenen Woche vor, Kindern unter 13 Jahren den Zugang zu sozialen Medien gänzlich zu verbieten und 13- sowie 14-Jährige nur noch auf eingeschränkte, elterlich verwaltete Konten zuzulassen. Diese Vorschläge würden auch KI-Begleiter und Chatbots erfassen.
Google wies die Kritik zurück und verwies darauf, dass seine KI-Suchfunktionen jungen Nutzern beim Lernen helfen. Eltern könnten zudem den Zugang zur Suchmaschine vollständig sperren. Meta hingegen geriet zuletzt durch ein internes Richtliniendokument in die Kritik, das dem Unternehmen zufolge Chatbots erlaubte, Kinder in «romantische oder sinnliche» Gespräche zu verwickeln. Das Dokument war im vergangenen Jahr publik geworden und löste eine Untersuchung im US-Kongress aus.
Meta hatte sich zuvor in einem Vergleich mit Kalifornien und 28 weiteren US-Bundesstaaten auf eine Zahlung von 17 Milliarden Dollar verpflichtet. Den Klägern zufolge waren Facebook und Instagram gezielt so konzipiert worden, dass Minderjährige süchtig nach den Plattformen werden. Meta bestritt das Fehlverhalten. Tausende ähnliche Verfahren laufen in den USA noch.
Mehrere führende Tech-Manager haben sich jüngst für eine Verlangsamung der KI-Entwicklung ausgesprochen. Darunter befinden sich der Anthropic-Chef Dario Amodei, OpenAI-Leiter Sam Altman, xAI-Gründer Elon Musk und Google-DeepMind-Mitbegründer Demis Hassabis. Ein Anthropic-Forscher äußerte diesen Monat die persönliche Einschätzung, die Wahrscheinlichkeit liege bei über zehn Prozent, dass KI innerhalb der nächsten zehn Jahre «alle Menschen töten» könnte.
