KI-Modelle neigen dazu, historische Ereignisse zu erfinden. Auch können sie mit falschen Inhalten trainiert werden. Dies kann etwa die Wahrnehmung des Holocausts beeinflussen, warnt die UNESCO. Die Organisation hat aber eine Idee, wie das Problem gelöst werden könnte.

Die UN-Kulturorganisation UNESCO hat vor einer von Künstlicher Intelligenz (KI) generierten Holocaust-Leugnung und Verfälschung der Geschichte gewarnt. Wenn nicht ethische Grundsätze zur Anwendung von Künstlicher Intelligenz international durchgesetzt würden, wie sie die UNESCO bereits erarbeitet habe, könnten die historische Darstellung des Holocausts verfälscht und Antisemitismus geschürt werden, hieß es in einem Bericht der UNESCO und des Jüdischen Weltkongresses.

52 Bilder

Wissen 07.05.24

Benz-Patent und Nibelungenlied "Memory of the World": Das deutsche Weltdokumentenerbe

Generative KI - wie sie etwa beim Chatbot ChatGPT zum Einsatz kommt - stütze sich auf Daten aus dem Internet, die auch irreführende Inhalte sowie menschliche Voreingenommenheit enthielten. Dadurch könnten Informationen über bestimmte Ereignisse falsch dargestellt und Vorurteile verstärkt werden, hieß es in dem Bericht. Aufgrund mangelnder Überwachung und Moderation durch KI-Entwickler könnten generative KI-Tools auch auf Grundlage von Daten von Holocaust-Leugner-Websites trainiert werden.

KI-Neigung zu Erfindungen

Außerdem versetze KI böswillige Akteure in die Lage, Inhalte wie etwa Zeugenaussagen und historische Aufzeichnungen zum Holocaust zu verfälschen. Mit generativer KI erstellte gefälschte Bilder und Audioinhalte seien besonders für junge Menschen überzeugend, die ihnen auf Social-Media-Plattformen begegnen könnten. Generative KI-Modelle neigten außerdem dazu, Ereignisse und sogar historische Phänomene zu erfinden, wenn sie keinen Zugang zu ausreichenden Daten hätten.

"Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den unverantwortlichen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir die explosionsartige Ausbreitung von Antisemitismus und die allmähliche Verschlechterung unseres Verständnisses für die Ursachen und Folgen dieser Gräueltaten", sagte UNESCO-Generaldirektorin Audrey Azoulay. Die Umsetzung der UNESCO-Empfehlungen zur Ethik der künstlichen Intelligenz sei dringend erforderlich, damit die jüngere Generation mit Fakten und nicht mit Fälschungen aufwachse.