Mächtiges Modell noch im TestUnbefugte sollen auf Anthropics Hacker-KI zugegriffen haben
Der Wirbel um Anthropics neues KI-Modell namens Mythos ist wirksame Werbung und Warnung zugleich: Es soll selbstständig Sicherheitslücken erkennen und ausnutzen können. Anthropic will es deshalb nur vorsichtig testen. Womöglich aber war das Unternehmen nicht vorsichtig genug.
Eine kleine Gruppe unbefugter Nutzer hat sich einem Medienbericht zufolge Zugang zu dem umstrittenen neuen KI-Modell Mythos des Entwicklers Anthropic verschafft. Die Nachrichtenagentur Bloomberg meldete am Dienstag unter Berufung auf einen Insider und Dokumente, die man eingesehen habe: Die Personen hätten in einem privaten Online-Forum Zugriff auf die Software bekommen. Dies geschah demnach genau an dem Tag, als Anthropic eine begrenzte Testphase des Modells ankündigte. Seitdem nutze die Gruppe das Modell regelmäßig - aber eben nicht für Cybersicherheitszwecke. Dies habe der Insider Bloomberg mit Screenshots und einer Live-Demonstration glaubhaft machen können.
Die Nutzer griffen laut Bloomberg auf eine Kombination verschiedener Methoden zurück, um sich Zugang zu Mythos zu verschaffen. Sie nutzten demnach etwa Zugangsrechte, über die sie als Mitarbeiter eines Drittanbieters von Anthropic verfügten. Die Gruppe sei Teil eines privaten Discord-Kanals, der zu noch unveröffentlichten Modellen recherchiert und dafür unter anderem Bots einsetzt. Diese Bots würden nach Details suchen, die KI-Entwickler auf frei zugänglichen Websites wie GitHub veröffentlichen.
Anthropic teilte mit, man untersuche "derzeit eine Meldung, wonach über eine der Umgebungen unserer Drittanbieter unbefugter Zugriff auf Claude Mythos Preview erlangt worden sein soll". Noch habe man keine Hinweise, dass der Zugriff über die Umgebung des Drittanbieters hinausgehe oder sich auf die Systeme Anthropics auswirke.
Anthropic hatte Mythos am 7. April vorgestellt. Die Vorabversion wird im Rahmen des "Project Glasswing" ausgewählten Organisationen zur Verfügung gestellt. Darunter waren laut Bloomberg bisher Apple, Amazon, Cisco und Dutzende weiterer Unternehmen. Amazon kündigte erst Dienstag an, weitere 5 Milliarden Dollar zu investieren. Das Unternehmen eröffnete zudem im Oktober ein KI-Rechenzentrum für Anthropic. Amazon bietet Mythos über seine Bedrock-Plattform auch einer begrenzten Anzahl zugelassener Unternehmen an.
"Müssen den Missbrauch dieser Software verhindern"
Insidern zufolge will Anthropic auch einer Reihe von Banken Zugang zu Mythos gewähren. Sie sollen so Gelegenheit bekommen, ihre Computersysteme auf mögliche Schwachstellen zu testen und eventuelle Sicherheitslücken zu schließen. Über den genauen Zeitrahmen der Testphase machten die Insider unterschiedliche Angaben, die von wenigen Tagen bis zu einigen Wochen reichten. Einige US-Banken konnten die KI im Rahmen des "Project Glasswing" bereits einsetzen, um ihre IT-Systeme auf Herz und Nieren zu prüfen. Mythos gilt als das bislang leistungsfähigste Modell Anthropics.
Experten und Aufsichtsbehörden warnen jedoch vor Missbrauch: Die KI könne Schwachstellen in gängigen Betriebssystemen und Webbrowsern erkennen und ausnutzen. Laut Anthropic hat das Modell Tausende schwerwiegende Sicherheitslücken in weit verbreiteter Software identifiziert.
Fachleute befürchten eine Flut von Hackerangriffen mithilfe von Mythos. So warnte Bundesbank-Präsident Joachim Nagel vor den Risiken der Software. "Wir müssen den Missbrauch dieser Technologie verhindern." Die Bankenbranche gilt mit ihrer zum Teil veralteten IT-Infrastruktur als besonders anfällig für Angriffe durch KI. Regierungsvertreter der USA, Kanadas und Großbritanniens haben sich bereits mit führenden Bankern getroffen, um die von Mythos ausgehenden Bedrohungen zu erörtern.