In den USA erhält eine Mutter einen verstörenden Anruf. Ihre 15-jährige Tochter, die sich gerade in den Skiferien befindet, berichtet, sie sei entführt worden. Doch am Telefon ist nicht die Tochter, sondern eine KI.

Mit einem besonders perfiden Trick haben Verbrecher in den USA einen Telefonbetrug versucht. Jennifer DeStefano aus dem US-Bundesstaat Arizona berichtet, dass Betrüger die Stimme ihrer Tochter geklont haben, um eine Entführung vorzutäuschen und eine hohe Geldsumme zu erpressen.

Panorama 05.04.23

Vierjährige aus Zelt verschleppt Cleos Entführer muss lange ins Gefängnis

DeStefano berichtete dem Sender WKYT, sie habe einen Anruf von einer unbekannten Telefonnummer erhalten. Weil ihre 15-jährige Tochter Brie gerade in den Skiferien war, habe sie den Anruf angenommen, sie befürchtete, es könnte einen Unfall gegeben haben. Dann habe sie die Stimme ihrer Tochter gehört. Sie habe Mama gesagt und geschluchzt, erinnert sich DeStefano. "Ich sagte: 'Was ist passiert?' Und sie sagte: 'Mama, ich habe es vermasselt', und sie schluchzte und weinte."

Sie habe keinen Moment gezweifelt, dass da wirklich ihre Tochter spricht, betont die Frau später. "Es war komplett ihre Stimme. Es war ihr Tonfall. So hätte sie geweint", sagte sie. Eine Männerstimme habe dann gesagt, er habe ihre Tochter in seiner Gewalt. Gegen eine Zahlung einer Million US-Dollar sei er bereit, sie freizulassen. Als DeStefano sagte, sie habe nicht so viel Geld, habe er seine Forderung auf 50.000 US-Dollar reduziert.

Technik 29.03.23 01:08 min

Star-Sound auf Knopfdruck KI lässt Influencer rappen wie Kanye West

Weil sie gerade im Tanzstudio ihrer anderen Tochter war, rief eine befreundete Mutter sofort den Polizeinotruf an, während eine andere DeStefanos Ehemann erreichte. Innerhalb weniger Minuten war klar, dass die 15-jährige Brie in Sicherheit war.

Wenige Sekunden reichen aus

Später stellte sich heraus, dass die Stimme des Mädchens von einer KI erstellt worden war. WKYT zitiert Subbarao Kambhampati, einen auf KI spezialisierten Informatikprofessor an der Arizona State University, mit der Einschätzung, dass sich die Technologie zum Klonen von Stimmen rasant verbessere. "Ihr könnt euren Ohren nicht mehr trauen", sagte Kambhampati. Früher seien zahlreiche Proben nötig gewesen, mit denen die KI gefüttert werden musste. Inzwischen reiche ein Ausschnitt von drei Sekunden.

Vom FBI hieß es, die Betrüger bedienten sich häufig der Stimmen, die sie in sozialen Medien fänden. Um nicht Opfer dieser Verbrechen zu werden, solle man Profile im privaten Modus halten und für die Öffentlichkeit nicht sichtbar machen. Doch auch das reicht möglicherweise nicht aus. DeStefano zufolge hatte ihre Tochter keine öffentlichen Social-Media-Konten.

Die Ermittler raten auch dazu, bei ähnlichen Anrufen die Nerven zu behalten. So solle man aufmerksam werden, wenn man von einer unbekannten oder internationalen Nummer angerufen werde. Hilfreich sei auch, Fragen zu stellen, die persönliche Details betreffen und deren Antworten mögliche Entführer kaum wissen könnten. Aus den USA sind bereits mehrere solcher Erpressungsanrufe bekannt.

DeStefano stand nur wenige Minuten lang schreckliche Ängste aus, bis klar war, dass ihre Tochter in Sicherheit ist. Sie zahlte auch kein Lösegeld. Dennoch sei sie danach komplett zusammengebrochen, berichtete sie. "Es waren Tränen für all die Was-wäre-wenns. Es schien alles so real zu sein."