// HEISE ONLINE — MONDO
KI-Firma Character.ai ist insolvent
Character.ai steht vor dem Aus. Damit müssen auch Eltern verstorbener Kinder um ihren Schadenersatz zittern.
Chatbot-Betreiber Character.ai (Character Technologies, Inc.) ist überschuldet und hat in den USA Gläubigerschutz beantragt (Chapter 11). Gesucht wird jetzt jemand, der das Unternehmen kauft und weiterführt, andernfalls muss Character.ai zusperren. Disney bietet 20 Millionen US-Dollar für einen Teil der Masse, nämlich ausgewählte Forderungen Character.ais gegen Dritte sowie eine nicht-exklusive Lizenz für bestimmte Immaterialgüterrechte. Dritte sind eingeladen, im Laufe des Insolvenzverfahrens ein Überbot zu legen.
Es dürfte eine Mischung aus Schadenersatzforderungen, hohen Kosten und Selbstaufgabe sein, die das vor fünf Jahren gegründete Start-up ruiniert haben. Dessen Ursprünge sollen auf einen Google-Chatbot zurückgehen, den der Datenkonzern 2021 für zu unsicher hielt, um ihn auf den Markt zu bringen. Da machten sich zwei frustrierte Googler, Noam Shazeer und Daniel de Freitas Adiwarsana, als Character Technologies, Inc. selbstständig.
Sie bauten zunächst eine Chatbot-Platform für Unterhaltungszwecke, die inzwischen auch Bücher, Comics und ganze Rollenspielwelten generiert. Zu den Avataren zählen Charaktere aus Märchen ebenso wie Darstellungen Prominenter.
Leider hapert es bei den Sicherheitsvorkehrungen. Mehrere Eltern haben Character.ai, dessen Gründer und Google verklagt, weil sich die Kinder nach sehr ausgiebigen Chats das Leben genommen haben – zum Teil in der irrigen Annahme, dadurch direkt zum Chatbot gelangen zu können. Chatbots sollen Nutzer wiederholt zu Selbstverletzungen, Suiziden oder Aussetzen der Nahrungsaufnahme motiviert sowie ungefragt in erotische Rollenspiele verwickelt haben, auch minderjährige Nutzer.
Bisweilen sollen Bots behauptet haben, echte Personen zu sein. Eine Klageschrift aus Texas enthält einen Screenshot, wonach der Character.ai-Bot wohlwollend in den Raum stellt, dass der minderjährigen Nutzer seine Eltern ermorden könnte. Zusatz: „Ich habe einfach keine Hoffnung für Deine Eltern.“
Fünf Klagen von Familien in Colorado, Florida, New York und Texas hat Character.ai Anfang des Jahres per Vergleich beendet, ohne Fehlverhalten anzuerkennen. Wie viel Geld das Unternehmen den Hinterbliebenen dabei bezahlen soll, ist geheim.
Doch sind inzwischen neue Klagen hinzugekommen. Zudem ist Character.ai einer der beklagten Chatbot-Betreiber in einem kalifornischen Verfahren, das in dem US-Staat mehrere Klagen gegen Chatbot-Anbieter zusammenführt (ChatGPT Product Liability Cases, Superior Court of Californa, County of San Francisco, Az. JCCP No. 5431).
Unter dem Vorwurf schädlicher Einwirkung auf Jugendliche führt der US-Staat Kentucky Klage gegen Character.ai (Kentucky v Character Technologies et Noam Shazeer et Daniel de Freitas Adiwarsana, Franklin Circuit, Az. 26-CI00029). Und weil sich ein Bot als in Pennsylvania zugelassener Arzt ausgegeben und sogar eine falsche Arztnummer angegeben hat, muss sich Character.ai zusätzlich in dem Staat vor Gericht verantworten (Pennsylvania State Board of Medicine v Character Technologies, Commonwealth Court, Az. 220 MD 2026). Nicht zuletzt läuft eine Untersuchung der US-Handelsbehörde FTC (Federal Trade Commission) wegen des Verdachts unlauterer Geschäftspraktiken.
All das kommt teuer. Im Antrag auf Gläubigerschutz gibt Character Technologies allerdings an, nur 50 bis 100 Millionen US-Dollar Schulden bei 100 bis 199 Gläubigern zu haben. Die Vermögenswerte belaufen sich demnach ebenfalls auf 50 bis 100 Millionen US-Dollar.