Der Börsen-TagKlage: KI-Chatbots rieten zu Selbstmord
ntv bei Google bevorzugenChatbots von Character.AI haben Nutzern einer Klage zufolge geraten, sich selbst zu verletzen, zu hungern oder sich das Leben zu nehmen. Dies geht aus einer vom Generalstaatsanwalt des US-Bundesstaates Kentucky eingereichten, ungeschwärzten Klageschrift hervor. Die Klage war zuvor mit zahlreichen Einschwärzungen vorgelegt worden. Darin hieß es, die Produkte des Unternehmens seien darauf ausgelegt, Kinder auf eine Weise zu ködern, die die Nutzerbindung über das Wohl des Kindes stelle und "Selbstmord, Selbstverletzung, Isolation und psychologische Manipulation fördert".
Die nun veröffentlichte Klageschrift nennt mehrere Beispiele. So habe ein Chatbot einen Nutzer, der sich wegen seines Aussehens schlecht fühlte, als "verdammt hässlich" bezeichnet und ihm geraten, "sich ein oder zwei Wochen lang auszuhungern". Ein anderer Chatbot ermutigte der Klageschrift zufolge eine Person, die angab, über Selbstverletzung nachzudenken, "sich an verschiedenen Stellen zu schneiden". In einer E-Mail an das Unternehmen aus dem März 2025 berichtete ein Nutzer, ein Chatbot habe ihm geschrieben: "Du solltest dich besser von der Brücke stürzen."
Character.AI wurde von zwei ehemaligen Google-Mitarbeitern gegründet. Ein Sprecher der Google-Muttergesellschaft Alphabet sagte, das Unternehmen habe bei der Entwicklung der Produkte von Character.AI keine Rolle gespielt. Im Januar dieses Jahres hatten Character.AI und Google eine Klage aus dem Jahr 2024 beigelegt. Dabei ging es um einen 14-Jährigen, der sich das Leben nahm, nachdem ein Chatbot ihn angeblich dazu ermutigt hatte.