ChatGPT spuckt auch falsche Informationen aus, zum Beispiel zum Geburtsdatum einer bekannten Person. Europäische Datenschützer wollen das unterbinden und werfen OpenAI Untätigkeit vor. Ein Bußgeld soll Besserung bringen.

Die europäische Datenschutz-Organisation NOYB hat zusammen mit einem betroffenen europäischen Bürger eine Beschwerde gegen den ChatGPT-Entwickler Open AI eingereicht, da das KI-Programm "falsche Informationen über Personen" erfinde. Die von Datenschutz-Aktivist Max Schrems mitbegründete Organisation None of Your Business (NOYB) mit Sitz in Wien kritisierte: "ChatGPT halluziniert und nicht mal OpenAI kann es stoppen".

01:48 min

Wirtschaft 07.12.23

Künstliche Intelligenz regulieren Was der EU-Gesetzentwurf für den "AI Act" vorsieht

NOYB zufolge ist sich das Unternehmen aus den USA des Problems bewusst. "Das Unternehmen gibt offen zu, falsche Informationen auf ChatGPT nicht korrigieren zu können", erklärte NOYB. "Das Unternehmen weiß nicht einmal, woher die Daten stammen oder welche Daten ChatGPT über einzelne Personen speichert."

Dies sei inakzeptabel, da es die europäische Datenschutz-Grundverordnung verletzte, hieß es weiter. Wenn ein System keine genauen und transparenten Ergebnisse liefern könne, dürfe es nicht dazu verwendet werden, Daten über Einzelpersonen zu generieren, sagte Maartje de Graaf, Datenschutzanwältin bei NOYB. "Die Technologie muss den rechtlichen Anforderungen folgen, nicht umgekehrt".

Innovation entbindet nicht von Gesetzen

NOYB wirft OpenAI vor, im Fall einer namentlich nicht genannten "Person des öffentlichen Lebens" falsche Angaben zu persönlichen Daten zu machen, ohne die gesetzlich vorgeschriebene Möglichkeit einer Berichtigung oder Löschung einzuräumen. Im konkreten Fall, in dem es auch um ein falsches Geburtsdatum ging, habe OpenAI damit argumentiert, dass eine Korrektur der Daten nicht möglich sei. Man könne zwar Daten bei bestimmten Anfragen blockieren, etwa den Namen des Prominenten. Man könne ChatGPT aber nicht daran zu hindern, alle Informationen über den Beschwerdeführer zu filtern.

Startup 24.04.24

Hoffnung auf Milliardenbewertung Boom bei Gründungen von KI-Startups in Deutschland

Nach Ansicht von NOYB hat OpenAI nicht angemessen auf das Auskunftsersuchen des Beschwerdeführers reagiert. "Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten", sagte de Graaf. "Es scheint, dass mit jeder 'Innovation' eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen."

Aktivist erfolgreich gegen Facebook

Schrems hatte zuvor bereits dem Facebook-Konzern Meta in zwei Klagen das Fürchten gelehrt und dabei zweimal vor dem Europäischen Gerichtshof wichtige Datenabkommen zwischen den USA und Europa gekippt. NOYB und der Betroffene forderten nun die österreichische Datenschutzbehörde zu einer Untersuchung der Datenverarbeitungspraktiken von OpenAI auf. Von besonderem Interesse sei dabei die Frage, welche Maßnahmen das Startup zur Sicherstellung der Richtigkeit persönlicher Daten getroffen habe. Gegen OpenAI müsse ein Bußgeld verhängt werden, um die zukünftige Einhaltung der Vorschriften sicherzustellen.

OpenAI sorgte im November 2022 mit der Einführung von ChatGPT für Furore: Das Programm ist in der Lage, mithilfe von Künstlicher Intelligenz aus sehr kurzen Eingabeaufforderungen beispielsweise Essays, Gedichte oder Unterhaltungen zu generieren.