US-Regierung fürchtet MissbrauchAnthropic nimmt Top-Modelle vom Netz
Mitte der Woche schlägt der Anthropic-Chef vor, KI auch in den USA stärker zu regulieren und gefährliche Software einfach zu blockieren. Wenige Tage später muss seine Firma ihre neuesten Modelle vom Netz nehmen. Zu gefährlich erscheinen sie der US-Regierung.
Der KI-Entwickler Anthropic sperrt nach einer Anordnung der US-Regierung den Zugang zu seinen neuesten KI-Modellen. Das gilt vorerst für alle Nutzer weltweit. Das Handelsministerium in Washington habe aus Gründen der nationalen Sicherheit untersagt, ausländischen Staatsbürgern Zugriff auf die neuen Modelle "Fable 5" und "Mythos 5" zu gewähren, so das Unternehmen. Um diese Vorgabe zu erfüllen, bleibe nichts anderes übrig, als die Systeme komplett vom Netz zu nehmen.
Die US-Regierung habe ihre Sicherheitsbedenken nicht näher ausgeführt, so Anthropic. Offenbar sei sie jedoch besorgt wegen sogenannter Jailbreaks. Das sind Methoden, mit denen Nutzer die eingebauten Sicherheitsvorkehrungen umgehen können. Die US-Behörden befürchteten anscheinend, dass die KI-Modelle zur Aufdeckung von Schwachstellen in Software missbraucht werden könnten. Die Regierung habe allerdings nur mündliche Hinweise auf eine eng begrenzte Umgehungsmöglichkeit gegeben.
Die Künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. US-Behörden und ausgewählte Unternehmen setzten diese Fähigkeit bisher ein, um Sicherheitslücken zu stopfen. Eine Sorge war jedoch von Anfang an, dass eine solche KI in den falschen Händen eine gefährliche Cyberwaffe werden könnte.
Das Modell Fable 5 wurde erst diese Woche veröffentlicht. Es basiert auf der Mythos-Technologie, seine Cybersicherheits- und Biotechnologie-Fähigkeiten sind allerdings blockiert. Mythos 5 hingegen ist die nicht-öffentliche Vollversion. Sie sollte weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden.
Anthropic-Chef wollte Regulation - aber nicht so
"Wir sind nicht der Ansicht, dass die Entdeckung eines potenziellen, eng begrenzten Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzurufen, das bei Hunderten Millionen Menschen im Einsatz ist", so das Unternehmen. Würde dieser Maßstab branchenweit angelegt, käme die Einführung neuer Modelle faktisch zum Erliegen. Offenbar handle es sich um ein Missverständnis. Das Unternehmen kündigte an, den Zugang so bald wie möglich wieder herzustellen.
Anthropic-Chef Dario Amodei hatte erst am Mittwoch gefordert, die Regierung solle potenziell gefährliche KI-Software blockieren. Es müsse möglich sein, Modelle mit inakzeptablen Risiken zu sperren. Anthropic betont aber, dass dies auf transparenten, klaren Verfahren und technischen Fakten basieren müsse. Das sei jetzt nicht der Fall. Die Maßnahmen der Regierung entsprächen jedoch nicht den Grundsätzen einer fairen und faktenbasierten Regulierung, so das Unternehmen nun. Die Anordnung erreichte Anthropic zudem in einer sensiblen Phase: Im Mai hatte der Konzern vertraulich die Unterlagen für einen Börsengang eingereicht.
Die IT-Chefin des Verteidigungsministeriums, Kirsten Davies, verteidigte das Vorgehen der Regierung: "Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Unternehmensbewertungen vor einem Börsengang. America First. Immer", schrieb sie bei X.
Anthropic geriet in den vergangenen Monaten immer wieder in die Schlagzeilen. Die Firma riskierte einen Konflikt mit der US-Regierung: Sie bestand trotz Drucks darauf, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen.
Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko. Dies kann den Einsatz der Unternehmenssoftware in Regierungsbehörden schwer beeinträchtigen. Die Firma klagt dagegen. Die herausragenden Cybersicherheitsfähigkeiten von Mythos machten Anthropic dann aber wieder wichtig für die US-Regierung.
Anthropic betonte, bisher nur teilweise Informationen von der Regierung erhalten zu haben. Die Firma habe einen Bericht geprüft, der nach Einschätzung des Unternehmens der Auslöser der Anordnung gewesen sein dürfte. Dabei kamen die Anthropic-Experten demnach zu dem Schluss, es ginge um eine eingeschränkte Möglichkeit, die KI programmierten Code prüfen zu lassen und etwaige Fehler darin zu korrigieren.
Auch Modelle anderer Anbieter, etwa GPT-5.5 des Rivalen OpenAI, besäßen diese Fähigkeit. Anthropic ist nicht einverstanden damit, dass deswegen Software für Hunderte Millionen Nutzer blockiert wird. Die Firma betont: Die Sicherheitsvorkehrungen bei Fable 5 seien ausgiebig getestet worden.