Einfach mal höflich fragenMetas KI-Bot hilft Hackern, Instagram-Konten zu kapern
Ist das noch Hacken oder viel zu einfach? Angreifer müssen Metas KI-Bot nur bitten, eine neue E-Mail-Adresse mit einem Instagram-Konto zu verbinden, und schon haben sie Zugriff darauf. Unter anderem wird Obamas früheres Weißes-Haus-Profil gekapert, auch der Chief Master Sergeant der US Space Force ist unter den Opfern.
Chatbots sind für Unternehmen eine bequeme Art, Support ohne Mitarbeiter zur Verfügung zu stellen. Dumm nur, dass die KI-Kollegen nicht die hellsten Kerzen auf der Torte sind und selbst einfachste Zusammenhänge nur "begreifen", wenn ihre Modelle entsprechend trainiert wurden. Das haben sich Hacker zunutze gemacht, um extrem einfach Zugriff auf Instagram-Konten zu erhalten. Im Prinzip mussten sie nur höflich danach fragen. Inzwischen hat Meta die Schwachstelle beseitigt, aber Zweifel am Einsatz von Bots in sicherheitsrelevanten Bereichen bleiben.
Wie leicht es Angreifer hatten, zeigt ein auf X veröffentlichtes Video, das ursprünglich aus einem Telegram-Chat stammt. Demnach genügte es, dem Bot mitzuteilen, das Konto sei gehackt worden und man benötige einen Code, um das Passwort zurückzusetzen. Dafür teilte man ihm eine neue E-Mail-Adresse mit, an die der freundliche KI-Support dann prompt den Code schickte.
Keine hohen Sicherheitshürden
Eine Sicherheitsmaßnahme, die Hacker umgehen mussten, war ein Standort-Abgleich, also die Überprüfung, ob die Anfrage von einer IP-Adresse aus dem Wohnort eines Kontoinhabers oder dessen Nähe kommt. Dafür habe der Einsatz eines VPN-Dienstes genügt, berichtet unter anderem "KrebsonSecurity".
Ein X-Nutzer schreibt, der Bot habe außerdem die Verifizierung über ein Selfie gefordert. Das sei auch kein großes Problem gewesen: "Sie nehmen ein Foto aus dem Profil des Opfers, nutzen einen KI-Videogenerator, um eine Animation der Bewegung des Gesichts der Person zu erstellen, und laden diese als Beweis auf Metas KI hoch." Vermutlich war auch eine Voraussetzung, dass ein Konto nicht durch eine Zwei-Faktor-Authentifizierung geschützt war.
Nicht das erste Mal
Bevor Meta die Schwachstelle am 29. Mai beseitigte, wurde unter anderem das Konto des Weißen Hauses gekapert, das Barack Obama während seiner US-Präsidentschaft nutzte. Ein prominentes Opfer ist auch der Chief Master Sergeant der US Space Force, John Bentivegna. Über beide Konten veröffentlichten Angreifer Propaganda des iranischen Regimes.
Die Chatbot-Panne ist nicht Metas erstes Problem mit der Kontowiederherstellung. Im Januar verschickte Instagram unaufgefordert Tausende E-Mails mit der Aufforderung, das Passwort zurückzusetzen. "Wir haben ein Problem behoben, das es Dritten ermöglichte, für einige Nutzer E-Mails zum Zurücksetzen von Passwörtern anzufordern", teilte die Plattform damals auf X mit. Ob die Schwachstelle dieses Mal tatsächlich beseitigt ist, wird sich zeigen.