Philosophen als Moral-Kontrolleure: KI-Entwickler setzen auf ethische Zensur

Die Nachfrage nach philosophischem Fachwissen in der Technologiebranche boomt – insbesondere in Unternehmen, die an Künstlicher Intelligenz (KI) arbeiten. Laut einem Bericht des Fachmagazins New Scientist, der sich auf Insider aus der Industrie stützt, sind KI-Firmen inzwischen zu den bedeutendsten Arbeitgebern für Philosophen aufgestiegen. Aaron Kagan, Vorsitzender des Ausschusses für nichtakademische Karrieren der American Philosophical Association, hat dies anhand einer Analyse der Stellenausschreibungen von Technologiekonzernen belegt. „Eine einfache Suche mit Schlüsselwörtern ergab, dass 26,6 Prozent der ausgeschriebenen Positionen Begriffe wie KI-Ethik, Sicherheit, Fairness, Kontrolle oder Richtlinien enthalten“, erklärte Kagan.

Professor Jonathan Birch von der London School of Economics and Political Science bestätigt diesen Trend: KI-Unternehmen locken Philosophen nicht nur mit spannenden Aufgaben, sondern auch mit überdurchschnittlich hohen Gehältern. „Kaum jemand kann dieser Kombination widerstehen“, so Birch. Er fügt hinzu:

“Fragen, die an philosophischen Lehrstühlen jahrzehntelang erforscht wurden – etwa wie man rationale Entscheidungen trifft, moralische Prinzipien systematisiert, oder was als Denken, Argumentieren oder Selbstreflexion gilt – sind plötzlich von unschätzbarem Wert für KI-Entwickler. Der massive Abfluss von Fachkräften in diese Branche ist daher mehr als verständlich.”

Eine zentrale Aufgabe der Philosophen in der KI-Branche ist es, die Verbreitung schädlicher Inhalte zu verhindern – etwa von Anleitungen zum Bombenbau. Die großen Technologiekonzerne wandten sich an Philosophen, nachdem herkömmliche Zensurmethoden für KI-Modelle gescheitert waren. Diese Verbote erwiesen sich als ineffektiv: Sie minderten die Qualität der Antworten, ließen sich leicht umgehen und führten dazu, dass die Modelle, sobald sie eine Regel in einem Bereich verletzen durften, auch in anderen Bereichen die Einschränkungen missachteten.

Weitere Aufgaben der Philosophen umfassen die Reduzierung sogenannter Halluzinationen – also wenn die KI anstatt einer korrekten Antwort phantasiert und falsche Informationen liefert –, die Steigerung der allgemeinen Effizienz von KI-Systemen sowie die Beseitigung von eingebauten Vorurteilen. Zudem hoffen die Entwickler darauf, mit Hilfe von Wissenschaftlern und Philosophen herauszufinden, ob KI-Modelle echte Anzeichen von Intelligenz zeigen. Wie New Scientist berichtet, werden dazu Theorien über das menschliche Bewusstsein auf neuronale Modelle angewandt.

Weitere Informationen – 21.000 Stellenstreichungen: Oracle setzt verstärkt auf Künstliche Intelligenz

Schreibe einen Kommentar