Das in London ansässige Unternehmen Builder.ai, einst mit einem Wert von 1,5 Milliarden US-Dollar und unterstützt von großen Investoren wie Microsoft und dem Staatsfonds von Katar, steht nun im Zentrum eines Skandals. Nachdem Berichte über aufgeblähte Umsatzzahlen zu Tage traten, was einen Hauptinvestor zum Rückzug bewog, enthüllten weiterführende Recherchen der India Times, dass die als revolutionär beworbene Künstliche Intelligenz des Unternehmens gar nicht existierte.
Builder.ai hatte versprochen, mit ihrem Assistenten “Natascha” die Softwareentwicklung “so einfach wie eine Pizzabestellung” zu gestalten. Allerdings stellte sich heraus, dass das Versprechen hohl war: “Menschliche Entwickler aus Indien programmierten manuell den Code nach Kundenwünschen, während das Unternehmen dies als ein Produkt seiner KI verkaufte”, berichtet die India Times.
Obwohl Builder.ai für 2024 einen Umsatz von 220 Millionen US-Dollar prognostizierte, zeigte eine durch den neu ernannten Geschäftsführer im Februar initiierte Wirtschaftsprüfung lediglich Einnahmen von 50 Millionen US-Dollar. Dies führte zu Untersuchungen durch die Staatsanwälte von New York und resultierte schlussendlich in einer Zwangsvollstreckung durch Gläubiger, was das Unternehmen in die Insolvenz trieb.
Dieser Zusammenbruch ist der spektakulärste Fall eines Start-ups, das versucht hat, vom KI-Boom zu profitieren, der mit der Einführung von ChatGPT im November 2022 begonnen hatte. Der Fall veranschaulicht, dass auch hinter vermeintlich fortgeschrittener KI oft menschliche Arbeit steht, wie es auch bei anderen Unternehmen der Fall ist, die zwar nicht explizit menschliche Arbeit als KI ausgeben, jedoch zur Trainierung ihrer Systeme auf die Mithilfe unzähliger Personen angewiesen sind.
Ein weiteres Beispiel für die Herausforderungen automatisierter Systeme bot Amazon mit seinem gescheiterten “Just Walk Out”-Bezahlsystem, das trotz hoher Investitionen letztlich wegen des Bedarfs an manuellen Überprüfungen nicht rentabel war. Tausende Mitarbeiter eines indischen Subunternehmens waren hierfür im Einsatz.
Milagros Miceli wies bereits 2023 in einem Interview mit Netzpolitik darauf hin, dass solche KI-Systeme oft nur Fassade sind:
“Wenn man hinter den Vorhang schaut, handelt es sich nur um eine Gruppe von Menschen, die rund um die Uhr Kameras überwachen. Diese Menschen sind unterbezahlt und arbeiten unter erschwerten Bedingungen, etwa in Afrika oder Süd- und Mittelamerika. Mein Forscherkollege Antonio Casilli hat so einen Fall aus Madagaskar dokumentiert: 35 Menschen leben in einem Haus mit nur einer Toilette. Diese Menschen stecken in Wirklichkeit hinter einem vermeintlich intelligenten Kamerasystem.”
Die Insolvenz von Builder.ai hat die Realität hinter der künstlichen Intelligenz offengelegt und damit die wahren, oft übersehenen, menschlichen Kosten dieser Technologie.
Mehr zum Thema – Oberlandesgericht Köln erlaubt Meta die Nutzung von privaten Kundendaten für “KI-Training”