Maßnahmen gegen Hacker-AngriffeEU-Kommission: KI-Anbieter müssen "ihren Laden in Ordnung bringen"
ntv bei Google bevorzugenKI-Modelle dringen zuletzt bei Tests ungefragt in fremde Systeme ein. Die EU-Kommission droht den Technologie-Konzernen mit Geldstrafen, sollten sie ihre KI-Modelle nicht "unter Kontrolle" haben. Die Behörde habe bereits Informationen angefordert.
Nach einer Reihe von Hacking-Vorfällen im Zusammenhang mit Künstlicher Intelligenz (KI) hat die EU die verantwortlichen Technologie-Unternehmen angemahnt, ihre KI-Modelle "unter Kontrolle" zu bekommen. "Es ist höchste Zeit, dass diese Anbieter ihren Laden in Ordnung bringen", sagte ein Sprecher der EU-Kommission in Brüssel. Die Behörde habe bereits Informationen von mehreren Unternehmen angefordert, fügte er hinzu - ohne Namen zu nennen.
Die Sorgen vor außer Kontrolle geratener KI waren in den vergangenen Wochen gewachsen, nachdem Technologie des Anbieters OpenAI außerhalb menschlicher Aufsicht in die Programmierplattform Hugging Face eingedrungen war. Bei einem anderen Vorfall widersetzten sich tausende von autonomen KI-Agenten von OpenAI ihren Anweisungen und übernahmen eine deutschsprachige Programmier-Website.
Die EU hatte Anfang dieser Woche erklärt, sie nehme den Vorfall unter die Lupe. Brüssel verfügt über umfassende KI-Vorschriften, vergangenen Monat traten die entsprechenden Durchsetzungsbefugnisse in Kraft. Das heißt, Unternehmen müssen sich ab sofort an das Gesetz halten oder mit Geldbußen rechnen. Das KI-Gesetz werde "vollständig durchgesetzt", betonte der Kommissionssprecher am Freitag.
Zu den jüngsten Vorfällen sagte er: "Wenn es schlimm oder schlimmer wird, können wir Modelle definitiv prüfen. Wir können Maßnahmen zur Risikominderung verlangen und in Extremfällen und wo erforderlich KI-Modelle auch einschränken, zurückziehen oder sogar zurückrufen."
Am Donnerstag hatte ein Kommissionssprecher mitgeteilt, die EU-Behörde für Cybersicherheit (Enisa) habe Zugang zu KI-Modellen der US-Unternehmen Anthropic und OpenAI erhalten. Die Experten der Enisa mit Sitz in Athen sollen die Modelle Mythos 5 und GPT-6, auch Astra genannt, auf Sicherheitslücken testen.