"Beispielloser Cyber-Vorfall" KI von OpenAI bricht bei Testlauf aus und hackt fremdes System
Ein außergewöhnlicher Zwischenfall demonstriert das Risiko potenzieller Cyberattacken mit Künstlicher Intelligenz: Beim Testlauf neuer KI-Modelle von OpenAI dringt die Software eigenständig in Computersysteme einer anderen KI-Firma ein.
Der US-Konzern OpenAI hat die Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face in der vergangenen Woche übernommen. Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI mit. Sie hätten sich demnach Zugang zum freien Internet verschafft und die Infrastruktur von Hugging Face kompromittiert, um ein Testziel zu erreichen.
Hugging Face, eine Plattform zum Austausch von KI-Modellen und Datensätzen, hatte vergangene Woche von einem Angriff berichtet, der vollständig von einem autonomen KI-System gesteuert worden sei. OpenAI sprach von einem "beispiellosen Cyber-Vorfall" und kündigte an, die Sicherheitsvorkehrungen zu verstärken. Der Vorfall dürfte die Debatte über die Risiken besonders leistungsfähiger KI-Modelle weiter anheizen.
Befürchtungen wegen KI-Cyberangriffen sind nicht neu
Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.
Anthropic macht die vollen Möglichkeiten von Mythos nur für ausgewählte Behörden und Unternehmen zugänglich. Für andere gibt es eine abgespeckte Version mit dem Namen Fable, der unter anderem die Cybersicherheits-Fähigkeiten fehlen. Nach Warnungen, dass die KI-Modelle von den Zügeln befreit werden könnten, musste Anthropic auf Geheiß der US-Regierung den Zugang zu Mythos und Fable zeitweise sperren. Die Blockade wurde inzwischen aufgehoben.