Manipulierte Bilder auf XRegierung will Strafrecht gegen sexualisierte KI-Fotos schärfen
Ende Dezember führt X eine Funktion ein, die die Erstellung sexualisierter Inhalte mit Fotos fremder Menschen zulässt. Vor allem für Frauen wird das zunehmend zum Problem, manche Nutzer manipulieren auch Bilder von Kindern. Die Bundesregierung will eingreifen.
Das Bundesjustizministerium will zeitnah Vorschläge vorlegen, wie das Strafrecht gegen KI-manipulierte sexualisierte Bilder auf Online-Plattformen eingesetzt werden kann. Man beobachte die aktuellen Entwicklungen mit Blick auf Bildmanipulation mittels künstlicher Intelligenz mit großer Sorge, sagte eine Sprecherin auf die Frage, was die Bundesregierung gegen die von der Künstlichen Intelligenz Grok auf X manipulierten Bilder gerade von Frauen und Kindern tun will.
Es sei nicht hinnehmbar, dass Manipulation im großen Stil für systematische Verletzungen von Persönlichkeitsrechten genutzt werde. "Wir wollen deswegen auch, dass hiergegen mit Mitteln des Strafrechts besser vorgegangen werden kann", fügte sie hinzu. Daneben wolle man es Betroffenen erleichtern, gegen die Verletzung ihrer Rechte im Netz direkt vorzugehen. Details nannte sie nicht.
Zuvor hatten schon Kulturstaatsminister Wolfram Weimer und das Digitalministerium die EU-Kommission zum Handeln aufgefordert. Weimer sprach gegenüber Reuters von einer "Industrialisierung der sexuellen Belästigung" und kritisierte den X- und Grok-Besitzer Elon Musk. Die EU-Kommission müsse mit der konsequenten Anwendung des "Digital Services Act" (DSA) der Europäischen Union dagegen vorgehen.
Mittlerweile gibt es weltweit Kritik von Behörden und Regierungen an dem von X eingesetzten KI-Instrument namens Grok. Dieses hatte auf Anforderung Bilder von Frauen und Minderjährigen in extrem knapper Kleidung erzeugt - auch von Personen des öffentlichen Lebens. Die EU-Kommission hatte dies bereits als illegal kritisiert.
US-amerikanische Journalisten beobachteten diese Woche nach tödlichen Schüssen eines Beamten der US-Einwanderungsbehörde auf eine Frau eine besonders geschmacklose Nutzung der KI. Sie habe gesehen, wie ein X-Nutzer Grok dazu aufgefordert habe, die erschossene Frau vornübergebeugt in ihrem Auto im Bikini zu zeigen, schrieb etwa die CNN-Korrespondentin Hadas Gold. Grok sei der Aufforderung nachgekommen. "So weit sind wir schon", klagte die Journalistin.