Die EU-Mitgliedstaaten verständigen sich auf weitreichende Regeln für Künstliche Intelligenz - und nehmen damit eine globale Vorreiterrolle ein. Damit kommt eine Kennzeichnungspflicht für mit KI erstellte Bilder oder Texte. In anderen Bereichen wird die Nutzung hingegen komplett untersagt.

Die EU-Länder haben umfassende Regeln für Künstliche Intelligenz (KI) gebilligt. Die Ständigen Vertreter der Mitgliedsländer in Brüssel stimmten einstimmig dem KI-Gesetz zu, wie EU-Binnenmarktkommissar Thierry auf X mitteilte. Breton nannte die Einigung "historisch". Wegen Bedenken unter anderem in Deutschland und Frankreich hatte der Beschluss wochenlang auf der Kippe gestanden. Die beiden Staaten hatten gemeinsam mit Italien vergeblich versucht, moderatere Auflagen für bestimmte KI-Anbieter durchzusetzen. Ministerrat und Europaparlament müssen nun abschließend noch zustimmen.

Unterhaltung 27.01.24

KI generierte Fake-Aufnahmen Deutliche Worte aus dem Weißen Haus zu Swift-Nacktfotos

"Die KI-Verordnung soll dafür sorgen, dass wir in Europa das enorme Potenzial von KI heben und gleichzeitig auch Risiken in den Blick nehmen", erklärte Wirtschaftsminister Robert Habeck. Diese Balance sei nun gelungen, sagte der Grünen-Politiker. Das Regelwerk könnte zu einem Vorbild für die KI-Regulierung werden. Es wäre eine Alternative zu den eher lockeren Regeln der USA und den restriktiveren Auflagen Chinas.

Grundsätzlich sollen KI-Anwendungen unterschiedlichen Risiko-Kategorien von "Minimal" über "Hoch" bis "Inakzeptabel" zugeordnet werden. Je nach Einstufung müssen die Anbieter bestimmte Sicherheits- und Transparenz-Anforderungen erfüllen. Anbieter von KI-Programmen, die potenziell Gesundheit, Sicherheit, Bürgerrechte, Umwelt, Demokratie, Wahlen und Rechtsstaatlichkeit gefährden, müssen für eine Zulassung eine Reihe von Auflagen erfüllen.

Massenüberwachung durch KI bleibt verboten

Unterhändler der Mitgliedstaaten und des Europaparlaments hatten sich bereits im Dezember grundsätzlich auf die KI-Verordnung geeinigt. Damit müssen Entwickler künftig mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder eindeutig kennzeichnen, um Menschen nicht in die Irre zu führen. Für "risikoreiche" Anwendungen sollen verschärfte Vorschriften gelten, etwa für die Gesichtserkennung in Sicherheitsbehörden. Grundsätzlich verboten wird eine Massenüberwachung mit biometrischen Daten wie in China.

Eigentlich galt die Verabschiedung in Europa als Formsache - doch die FDP meldete bei den Koalitionspartnern SPD und Grünen in letzter Minute Bedenken an. Am Dienstag einigten sich die Ampel-Parteien dann, dem KI-Gesetz zuzustimmen. Der auch für Digitales zuständige Verkehrsminister Volker Wissing erklärte danach, er habe "Verbesserungen für kleine und mittlere Unternehmen" erzielt. Die Wirtschaft hatte vor zu hohen Auflagen gewarnt, etwa für Startup-Unternehmen wie Aleph Alpha in Heidelberg.

Die Bundesregierung hatte sich nach eigenen Angaben zudem mit dafür eingesetzt, sogenannte Allzweck-KI wie den Chatbot ChatGPT nicht als Hochrisiko-Anwendung einzustufen. Durch ChatGPT hatte KI vor gut einem Jahr schlagartig große Aufmerksamkeit bekommen. Die Anwendung kann mit Nutzern über Textnachrichten kommunizieren und in Sekundenschnelle ausführliche Antworten auf Fragen geben. Inzwischen kann sie auch Bilder erstellen, die täuschend echt aussehen.