"App gefährdet und täuscht"Florida verklagt ChatGPT-Entwickler OpenAI
Bei Alltagsproblemen kann ChatGPT mit Rat helfen. Doch auch in Fragen der Selbstverletzung oder bei Amokläufen steht das Programm aus dem Hause OpenAI einer Klage zufolge zur Seite. Der Generalstaatsanwalt spricht von einer "Litanei von Schäden", die nun enden soll.
Die Staatsanwaltschaft im US-Bundesstaat Florida hat eine Klage gegen den ChatGPT-Entwickler OpenAI und dessen Chef Sam Altman eingereicht. Die Justiz wirft dem Konzern, der Anwendungen für Künstliche Intelligenz (KI) entwickelt, die Gefährdung minderjähriger Nutzer vor. "Wir gefährden unsere Kinder und täuschen Eltern, indem wir ihnen vorgaukeln, die Anwendung sei sicher - was sie eindeutig nicht ist", sagte Floridas Generalstaatsanwalt James Uthmeier. Er forderte eine Strafe in Höhe von 10.000 Dollar (umgerechnet rund 8600 Euro) pro Verstoß.
"Wir wissen, dass ChatGPT süchtig machen kann. Die Anwendung imitiert Empathie und menschliche Eigenschaften, um Nutzer dazu zu bringen, ihr immer mehr Informationen zu geben", fügte Uthmeier hinzu. "Menschen werden verletzt, Eltern getäuscht, und sie müssen dafür bezahlen."
In der 83-seitigen Klageschrift wird behauptet, OpenAI habe es zugelassen, dass ChatGPT Amokläufern Beihilfe leistet, Menschen zum "sicheren" Suizid oder Selbstverletzung ermutigt, die kritischen Denkfähigkeiten von Nutzern verschlechtert und Minderjährige abhängig von einem Werkzeug macht, das menschliches Mitgefühl vortäuscht. "Diese Litanei von Schäden wird durch das unersättliche Streben der Beklagten angetrieben, das KI-Wettrüsten zu gewinnen und große Vermögen anzuhäufen, obwohl sie die Gefahr von ChatGPT kennen", heißt es in der Klage.
Der Staatsanwalt kritisierte zudem das Fehlen einer Altersverifizierung für die App. "Obwohl die Nutzung von ChatGPT durch Minderjährige, darunter auch Kinder im vorpubertären Alter, öffentlich bekannt ist, haben die Beklagten keine Maßnahmen ergriffen, um deren Nutzung von ChatGPT zu verhindern", führte Uthmeier aus.
In der Klage zitiert der Staatsanwalt eine Studie, die über Schlafmangel, sich verschlechternde Schulnoten und schwindende soziale Kontakte bei Teenagern berichtet, die den Chatbot Character.AI benutzten, einen Konkurrenten von ChatGPT.
Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren verboten, im Alter von 13 bis 17 ist die Zustimmung der Eltern erforderlich. Eine formelle Altersverifikation ist aber nicht erforderlich. Stattdessen hatte OpenAI im Januar ein System eingeführt, das das Alter der Nutzen schätzen und das Verhalten der App entsprechend anpassen soll.
OpenAI äußerte sich nicht sofort zu der Klage. OpenAI bestritt zuvor Fehlverhalten und erklärte, das Unternehmen verstärke weiterhin seine Sicherheitsvorkehrungen. Uthmeier hatte im April eine strafrechtliche Untersuchung gegen OpenAI eingeleitet wegen der Rolle, die der Chatbot bei einem Amoklauf an der Florida State University (FSU) im vergangenen Jahr spielte, bei dem zwei Menschen getötet wurden.