Bot erzeugt "scheußliche" BilderEU prüft Musk-KI wegen sexualisierter Darstellung von Kindern
Elon Musk verschiebt auf X die Grenzen des Sag- und Zeigbaren. Seit seiner Übernahme werden auf der Plattform viel weniger Inhalte gefiltert. Nun endet ein Experiment zur Bildherstellung durch den KI-Chatbot Grok mit geschmacklosen Darstellungen - möglicherweise mit strafrechtlichen Folgen.
Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über den KI-Chatbot Grok von US-Milliardär Elon Musk wegen der Erstellung und Verbreitung sexualisierter Bilder von Kindern. Die Kommission nehme die Beschwerden "sehr ernst", sagte ein Sprecher. Für derartige Bilder gebe es "in Europa keinen Platz".
Ende Dezember hatte Musks Onlinedienst X, über den Grok genutzt werden kann, eine Schaltfläche "Bild bearbeiten" für das generative KI-Werkzeug eingeführt. Seitdem häufen sich Beschwerden über den sogenannten "spicy mode" (doppeldeutig: scharfer Modus), der laut X "rohe" und "ungefilterte" Anfragen zulässt, bei denen "kein Thema" tabu sei.
Einige der im "spicy"-Modus erzeugten Sex-Inhalte zeigten "kindliche Bilder", sagte der Sprecher: "Das ist nicht scharf. Das ist illegal. Das ist scheußlich." An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben.
Nutzer forderten illegale Inhalte an
"Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. In einem weiteren Post hieß es zur Erläuterung, dass es vereinzelte Fälle gegeben habe, "in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten" hätten.
Die Pariser Staatsanwaltschaft hatte ein laufendes Ermittlungverfahren gegen X wegen der jüngsten Beschwerden bereits auf die Erstellung und Verbreitung kinderpornografischer Inhalte ausgeweitet. Musks für Grok zuständige KI-Firma xAI hatte nach den Vorfällen erklärt, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben.
Auch Großbritannien fordert von X eine Erklärung zu sexualisierten Darstellungen von Kindern. Das Unternehmen solle darlegen, ob es seiner gesetzlichen Pflicht zum Schutz der Nutzer nachkomme, erklärte die britische Medienaufsicht Ofcom.