Minderjährige in BikiniMusks KI-Chatbot räumt Fehler bei Nacktbilder-Tool ein
Nutzer können den KI-Chatbot von Elon Musk zur Erstellung von Fotos nutzen. Doch die Bilder können so verändert werden, dass Menschen ungewollt fast nackt zu sehen sind. Der Chatbot Grok räumt Schwachstellen ein - spricht aber nur von "vereinzelten" Fällen.
Die von Elon Musks Firma entwickelte Künstliche Intelligenz verändert Fotos so, dass die abgebildeten Personen beispielsweise nur noch in einem knappen Bikini dargestellt werden - ohne dass vorher um Erlaubnis gefragt wird. Es tauchten auch mit KI erstellte Nacktfotos von Minderjährigen im Netz auf. Nach öffentlicher Kritik an den anzüglichen KI-Fotos räumte der Chatbot Grok bei Musks Plattform X Fehler ein.
Es seien "Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt" worden. Diese sollten nun "mit größter Dringlichkeit" behoben werden. "Die Verbreitung von kinderpornografischem Material ist illegal und verboten", stellte die KI fest.
Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen - und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X.
In einem weiteren Post hieß es zur Erläuterung, dass es "vereinzelte" Fälle gegeben habe, "in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten" hätten.
Medienberichten zufolge sollen auch Frauen von sogenannten Deepfakes betroffen sein. Das Gesicht einer Person wird dabei mittels KI täuschend echt auf den Körper einer anderen in einem Video oder Foto übertragen. Laut "Politico" ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes. Demnach hatten zwei französische Abgeordnete an die Staatsanwaltschaft gewandt, nachdem Tausende Deepfakes von Grok erstellt worden waren.