Yoshua Bengio, Professor an der Universität Montreal und Leiter des Montreal Institute for Learning Algorithms, hat gegenüber CNBC seine Bedenken geäußert, dass die schnelle Entwicklung der künstlichen Intelligenz (KI) ernsthafte Risiken für die Menschheit darstellen könne. Bengio, ein renommierter Informatiker, warnte davor, dass KI-Systeme bald über die meisten kognitiven Fähigkeiten des Menschen verfügen könnten. Er sprach insbesondere über die Risiken der künstlichen allgemeinen Intelligenz (AGI), einer Technologie, die das Ziel verfolgt, den menschlichen Intellekt zu erreichen oder sogar zu übertreffen. Bengio äußerte sich besorgt über die Kontrolle solcher Technologien:
“Intelligenz verleiht Macht. Wer wird also diese Macht kontrollieren? Wenn wir Wesen schaffen, die klüger sind als wir und ihre eigenen Ziele verfolgen, was bedeutet das dann für die Menschheit? Sind wir in Gefahr?”
Er wies darauf hin, dass die derzeit entwickelten KI-Maschinen potenziell zu Systemen führen könnten, die sich gegen den Menschen stellen. Bengio hob hervor, dass nur wenige Organisationen und Regierungen in der Lage seien, hochentwickelte und kostspielige KI-Systeme zu entwickeln. Dies könnte zu einer Konzentration von wirtschaftlicher, politischer und militärischer Macht führen und die globale Stabilität gefährden. Daraufhin forderte er verstärkte regulatorische Maßnahmen:
“Es gibt Menschen, die diese Macht missbrauchen wollen, und es gibt Menschen, die sich freuen würden, wenn die Menschheit durch Maschinen ersetzt würde.”
Bengio betonte, dass der von Unternehmen geführte Wettlauf um die Vorherrschaft in der KI-Technologie gefährlich sei und die Unternehmen für ihre Handlungen zur Verantwortung gezogen werden sollten.
Bekannt für seine bahnbrechenden Forschungen im Bereich des Deep Learning, erhielt Bengio 2018 den A.M. Turing Award, oft als „Nobelpreis der Informatik“ bezeichnet, zusammen mit Geoffrey Hinton und Yann LeCun. Im Jahr 2019 wurde ihm der Killam-Preis verliehen, und 2022 wurde er zum einflussreichsten Informatiker weltweit ernannt, gemessen am h-Index.
Nicht nur Bengio, sondern auch andere führende Köpfe der Tech-Industrie wie Geoffrey Hinton warnen vor den Gefahren einer unregulierten Anwendung von KI. Letztes Jahr unterzeichnete Bengio zusammen mit Persönlichkeiten wie Tesla-CEO Elon Musk und Apple-Mitbegründer Steve Wozniak einen Brief, der eine intensive Regulierung der KI-Branche forderte. Zuletzt unterstützte er im Juni einen weiteren offenen Brief über die “ernsten Risiken” der Technologie, der von Mitarbeitern von OpenAI, den Entwicklern des bekannten KI-Chatbots ChatGPT, mitunterzeichnet wurde.
Mehr zum Thema – Medienbericht: Deutschland liefert der Ukraine 4.000 KI-gestützte „Strike-Drohnen“