In den USA verklagen Eltern OpenAI, weil sie ChatGPT für den Selbstmord ihres 16-jährigen Sohnes mitverantwortlich machen. Die Entwicklungsfirma stattet den Chatbot nun mit schützenden Einstellungen aus. Diese ermöglichen Erziehungsberechtigten auch mehr Kontrolle.

OpenAI hat nach einem US-Prozess um den Suizid eines Jugendlichen neue Jugendschutz-Einstellungen vorgestellt. Eltern können künftig die ChatGPT-Konten ihrer Kinder mit ihren eigenen verbinden, teilte der KI-Entwickler mit. Dadurch würden die Minderjährigen automatisch vor bestimmten Inhalten geschützt. Hierzu gehörten Herausforderungen (Challenges), sexuelle, romantische oder gewaltverherrlichende Rollenspiele sowie extreme Schönheitsideale.

Wirtschaft 29.09.25

Urheberrechtsklage mit Chancen? Gericht sieht gute Chancen für Gema-Klage gegen OpenAI

Außerdem könnten Erziehungsberechtigte bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen. Zudem verfüge ChatGPT nun über ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert. Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhielten die Erwachsenen jedoch nicht.

In Kalifornien haben Eltern OpenAI verklagt. ChatGPT soll ihrem 16-jährigen Sohn Anleitungen geliefert haben, sich selbst zu schaden. Im vergangenen Monat hatte die Facebook-Mutter Meta ihre Jugendschutz-Regeln für den Umgang mit Künstlicher Intelligenz ebenfalls verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch "romantische oder sinnliche Gespräche" mit Minderjährigen.