Missbrauch könnte vorliegenBritische Medienaufsicht ermittelt nach KI-Bildern gegen Musks Grok
X-Besitzer Musk versteht den Furor nicht, die britischen Behörden hingegen keinen Spaß. Die Medienaufsicht ermittelt gegen die Plattform wegen der Erstellung sexualisierter Bilder, auch von Kindern, durch KI-Bot Grok. Bestätigt sich der Missbrauchsverdacht, drohen schwere Strafen.
Die britische Medienaufsichtsbehörde Ofcom hat eine offizielle Untersuchung gegen Elon Musks Plattform X eingeleitet. Grund dafür sind von der KI Grok generierte sexualisierte Bilder, wie die Behörde mitteilte. Es gebe "zutiefst beunruhigende Berichte", wonach die KI dazu genutzt werde, sexualisierte Bilder - unter anderem von Kindern - zu erstellen und weiterzugeben. Dies könne mitunter als Missbrauch gewertet werden.
In Großbritannien ist die Verbreitung intimer Fotos ohne die Zustimmung der Betroffenen illegal. Dies betrifft auch Bilder, die mithilfe von KI erzeugt oder manipuliert wurden. Ofcom kann bei Gesetzesverstößen Werbetreibende und Zahlungsabwickler gerichtlich anweisen lassen, ihre Zusammenarbeit mit einer Internet-Plattform einzustellen. Die Behörde kann zudem den Zugang zu Webseiten blockieren lassen.
Starmer findet KI-Bilder "widerlich"
X war in den vergangenen Tagen auch innerhalb der Europäischen Union massiv in die Kritik geraten, weil Nutzer den KI-Chatbot auffordern können, gepostete Bilder zu sexualisieren, auch, wenn diese Kinder zeigen. Der britische Premierminister Keir Starmer nannte dies "widerlich". Mehrere Minister hatten in den vergangenen Tagen deutlich gemacht, dass auch sie ein Verbot der Plattform unterstützen würden, sollte Ofcom zu einem entsprechenden Schluss kommen.
Die Behörde hatte X zuletzt deshalb um dringende Stellungnahme gebeten. Das US-Unternehmen habe innerhalb einer von Ofcom gesetzten Frist geantwortet, so die Behörde. Die "verfügbaren Beweise" habe Ofcom daraufhin einer dringlichen Prüfung unterzogen. Mit der Untersuchung soll nun festgestellt werden, ob Musks Plattform gegen den britischen Online Safety Act verstößt.
Indonesien und Malaysia haben am Wochenende als erste Länder weltweit den Chatbot vorübergehend gesperrt. Die indonesische Kommunikations- und Digitalministerin Meutya Hafid erklärte, der Schritt diene dem Schutz von Frauen, Kindern und der breiten Öffentlichkeit vor der Verbreitung gefälschter pornografischer Inhalte, die mithilfe von KI generiert würden. Der digitale Raum dürfe nicht zu einem rechtsfreien Raum werden, betonte sie.
X droht heftige Geldstrafe
Sollte die britische Behörde einen Verstoß feststellen, könnte X zur Kasse gebeten werden. Den Angaben zufolge kann Ofcom dann eine Geldstrafe in Höhe von bis zu 10 Prozent des weltweiten Umsatzes der US-Firma oder in Höhe von 18 Millionen Pfund (mehr als 20 Millionen Euro) verhängen - je nachdem, welcher Betrag höher ist. Im äußersten Fall könne die Behörde auch eine gerichtlich angeordnete teilweise oder komplette Sperrung der Plattform beantragen.
Vergangene Woche hatte X betont, illegale Inhalte zu löschen und Nutzer gegebenenfalls von der Plattform zu verbannen. Auf eine erneute Nachfrage zu diesem Thema antwortete der Kurznachrichtendienst: "Etablierte Medien lügen." Am Wochenende hatte Musk auf X gegen die britische Regierung ausgeteilt. Er warf London etwa Zensur vor und nannte die Regierung in einem Beitrag "faschistisch". Ähnliche Vorwürfe gegen Großbritannien hatte Musk immer wieder erhoben.
Der Schritt der Plattform, den Zugriff auf die KI-Bildergenerierung nur noch zahlenden Nutzerinnen und Nutzern zugänglich zu machen, wurde sowohl von der Europäischen Kommission als auch der britischen Regierung zuletzt als nicht ausreichend betrachtet. Es sei "eine Beleidigung für die Opfer von Frauenfeindlichkeit und sexueller Gewalt", teilte die Downing Street mit.