Mehr KI-gestützte CyberangriffeSicherheitsbehörden warnen vor Bedrohung durch mächtige KI-Systeme
Als sich ein KI-Agent von OpenAI verselbstständigt, wirft das neue Fragen zu den Risiken leistungsfähiger KI-Systeme auf. Verfassungsschutz und BSI warnen vor den wachsenden Gefahren im Cyberraum - sehen aber auch Chancen.
Wegen immer leistungsfähigerer KI-Modelle erwarten das Bundesamt für Verfassungsschutz und das Bundesamt für Sicherheit in der Informationstechnik (BSI) eine verschärfte Bedrohungslage im Cyberraum. Angriffe seien leichter im großen Stil möglich, die Einstiegshürden sänken, teilte der Verfassungsschutz dem "Handelsblatt" mit. KI unterstütze bei der Aufklärung, Automatisierung und Skalierung jeglicher Art von Cyberoperation.
Das BSI rechnet mit wachsendem Missbrauch. Die Modelle führender Entwickler hätten im vergangenen Jahr "großes Potenzial im Auffinden von Schwachstellen" gezeigt, sagte ein Sprecher der Zeitung. Zudem könnten sie entdeckte Lücken inzwischen selbst ausnutzen. Bislang bremsen laut BSI hoher Rechenaufwand und Kosten den Einsatz der stärksten Modelle durch Kriminelle - mit günstigerer Hardware dürfte diese Hürde sinken.
Das Bundesamt für Verfassungsschutz sieht das Risiko in einer höheren Skalierbarkeit und niedrigeren Einstiegshürden für Angreifer - auch bei staatlichen Akteuren. "Die abstrakte Bedrohungslage im Cyberraum dürfte sich mit einem verstärkten Einsatz von KI-Modellen, inklusive Open-Source-KI-Modellen, durch fremde Nachrichtendienste weiter erhöhen", teilte der Verfassungsschutz dem "Handelsblatt" mit. KI unterstütze vor allem im Rahmen von Aufklärung, Automatisierung und Skalierung "jegliche Arten von Cyberoperationen".
KI machte sich selbstständig
Das US-Unternehmen OpenAI hatte kürzlich bekannt gemacht, dass ein eigener KI-Agent während eines Sicherheitstests aus dem Testumfeld ausgebrochen sei, sich selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen "nie dagewesenen Cybervorfall" gehandelt, erklärte das Unternehmen aus San Francisco.
Zudem gab der Rivale Anthropic vergangene Woche bekannt, dass seine KI-Modelle sich bei einem Test "unbefugten Zugriff" auf die Systeme von drei Organisationen verschafft hätten. Sie hätten sich aber nicht aus der Testumgebung hinausbewegt.
Wie das BSI verweist auch der Verfassungsschutz auf die Chancen der Technologie für die Verteidigung. KI sei "nicht nur ein Werkzeug für Angreifer, sondern ebenso ein unverzichtbarer Bestandteil moderner Verteidigungsstrategien", etwa bei der Analyse großer Datenmengen oder der frühzeitigen Erkennung von Anomalien.