Ein mithilfe Künstlicher Intelligenz (KI) erstelltes Fake-Bild eines vermeintlichen Hitler-Doubles beim deutschen WM-Spiel gegen Curacao hat in den sozialen Medien für Aufregung gesorgt - und bei dem betroffenen Fußballfan Fassungslosigkeit ausgelöst. "Ich kann es überhaupt nicht glauben", sagte der aus Alsfeld in Hessen stammende Jan Weitzel in einem Beitrag des Radiosenders hr3. Er sei durch die KI-Bearbeitung zwar nicht zu erkennen gewesen, aber wohl sein Sohn.
In sozialen Netzwerken kursierte nach dem WM-Auftaktspiel der DFB-Elf in Houston ein virales Bild. Es zeigt auf der Tribüne im Stadion einen Deutschland-Fan, der mit seiner Frisur und seinem Bart an Adolf Hitler erinnert. "Deutsche Fans feiern den Elfmeter von Kai Havertz", heißt es dazu in einem englischsprachigen Post auf der Plattform X, der über eine Million Aufrufe erzielte.
Wie der Faktencheck der Deutschen Presse-Agentur ergab, wurde die ursprüngliche Jubelszene, die bei der TV-Übertragung für wenige Sekunden im Fernsehen zu sehen war, mit KI manipuliert. "Ich habe erst gar nicht mitbekommen, dass das Reichweite hat", sagte Weitzel bei hr3. Er habe es erst mal ignoriert. "Für mich ist es ja auch so, dass es völlig klar ist, dass das Bild nicht echt sein kann."
Täter kommt wohl aus den USA
Nachdem sich das Bild aber auf diversen Plattformen verbreitet hatte, stellte er laut eigenen Angaben in Deutschland und den USA Anzeige. So habe er dann auch mit dem FBI zu tun gehabt, berichtete Weitzel. Auch Familie und Freunde hätten Anzeige erstattet. Laut Weitzel wird vermutet, dass der Täter aus den USA kommt. Er selbst wolle das Thema mit einem guten Anwalt mit Blick auf Medien- und Persönlichkeitsrechte juristisch aufarbeiten.
Die Freude an der WM möchte sich Weitzel nicht verderben lassen. Am Samstag besucht er mit seinem Sohn in Toronto das zweite deutsche Vorrundenspiel gegen die Elfenbeinküste (22 Uhr MESZ, ZDF/MagentaTV). "Das gute Gefühl lassen wir uns nicht nehmen", sagte er. "Gute Laune und Spaß haben" sei trotz des Vorfalls das Motto für die verbleibenden Tage in Nordamerika.
KI-Bild enthält digitales Wasserzeichen von OpenAI
Die Bild-Manipulation bestätigte eine Analyse nach der sogenannten SynthID, einem unsichtbaren digitalen Wasserzeichen, mit dem Anbieter wie Google und OpenAI die von ihren Tools generierten KI-Inhalte kennzeichnen. "Dieser Inhalt wurde mithilfe von OpenAI-Tools generiert", heißt es, wenn das Bild im OpenAI-eigenen Verifizierungstool hochlädt. "Wir haben ein SynthID-Wasserzeichen entdeckt, das von OpenAI stammt."
Ebenfalls mithilfe von KI erstellt wurde ein Video, das auf Grundlage der gefälschten Aufnahme basiert. Es zeigt diese als animierte Szene, in der ein Teil der Fans den rechten Arm zum Hitlergruß ausstreckt. Dass auch dieser Clip mit KI erzeugt wurde, zeigen typische KI-Fehler, wie die willkürlich springende Sekundenzahl in der Spielzeitangabe.