Sorge vor SicherheitsrisikenUS-Regierung gibt Blockade von Anthropics KI-Modellen auf
Das US-Unternehmen Anthropic entwickelt mit Mythos sein bisher fortschrittlichstes KI-Modell. Die US-Regierung hält eine solche KI für eine potenziell gefährliche Cyberwaffe und lässt den Zugang blockieren. Nun wird das Modell aber wieder verfügbar gemacht.
Die US-Regierung hat ihre Exportbeschränkungen für besonders leistungsstarke KI-Modelle des Anthropic-Konzerns aufgehoben. Der weltweite Zugang zu den Modellen Fable 5 und Mythos 5 solle deshalb wieder möglich gemacht werden, teilte das US-Unternehmen mit. Zuvor hatten die US-Behörden den Zugang zu den KI-Modellen beschränkt und dies mit Gründen der "nationalen Sicherheit" begründet.
Anthropic werde die Workarounds beheben, die Forscher bei Amazon genutzt hatten, um die Sicherheitsvorkehrungen für "Fable" zu umgehen. Fable ist eine öffentliche Version von Anthropics leistungsstarkem Mythos-Modell, das in der Lage ist, Cyberangriffe durchzuführen, erklärte Handelsminister Howard Lutnick auf X. "In den vergangenen zwei Wochen haben wir eng mit Anthropic zusammengearbeitet, um Fable 5 zu analysieren und zu genehmigen, um eine Abstimmung innerhalb der US-Regierung zu gewährleisten und Amerikas Führungsrolle im Bereich der KI zu stärken".
Anthropic erklärte, man arbeite mit anderen Tech-Riesen wie Amazon, Microsoft und Google zusammen, um ein einheitliches Rahmenwerk zu entwickeln. Dieses soll die Schwere sogenannter Jailbreaks, bei denen Sicherheitsmaßnahmen umgangen werden, bewerten und festlegen, wie KI-Entwickler darauf reagieren sollten. "Wir haben die Mitteilung erhalten, dass das Handelsministerium die Exportbeschränkungen für Fable 5 und Mythos 5 aufgehoben hat", teilte Anthropic auf X mit. "Wir werden morgen damit beginnen, den Zugang wiederherzustellen."
Mögliche Cyberwaffe
Das Modell Mythos 5 kann Lücken in Cybersicherheitssystemen finden und ausnutzen, Experten zufolge mit bisher unerreichter Geschwindigkeit. Fable 5 ist eine abgespeckte Version davon. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu stopfen. Eine Sorge war von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.
Die US-Behörden hatten Mitte Juni ausländischen Staatsangehörigen den Zugriff auf die Modelle untersagt. Da Anthropic nach eigenen Angaben seine Nutzer nicht nach Nationalität unterscheiden kann, deaktivierte das Unternehmen beide Dienste komplett. Auslöser für das Vorgehen der Regierung waren Warnungen, dass Sicherheitsvorkehrungen, die etwa den Einsatz von Fable 5 zur Suche nach Software-Schwachstellen verhindern sollen, ausgehebelt werden könnten. Anthropic bestritt, dass es eine Gefahr gebe. Regierung und Unternehmen führten in den vergangenen Wochen zähe Gespräche.
Risiko militärischer Nutzung
Das Eingreifen des Weißen Hauses war beispiellos, da die US-Regierung sonst darauf drängt, die Aufsicht über Künstliche Intelligenz zu lockern. Das Vorgehen stieß auch bei westlichen Verbündeten auf Kritik. Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert.
Der Konzern erklärte, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen sich das Unternehmen juristisch wehrt. Die außerordentlichen Cybersicherheitsfähigkeiten von Mythos machen Anthropic aber wieder wichtig für die US-Regierung. Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell.