Künstliche Intelligenz könne menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen, mahnt der Deutsche Ethikrat. Die Experten sehen aber durchaus Chancen im KI-Einsatz - ausgerechnet in der Medizin, wenn auch mit Einschränkungen.

Der Deutsche Ethikrat hat sich für strikte Begrenzungen bei der Verwendung von Künstlicher Intelligenz (KI) ausgesprochen. "Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern", sagte Alena Buyx, die Vorsitzende des Deutschen Ethikrates, zur Stellungnahme "Mensch und Maschine - Herausforderungen durch Künstliche Intelligenz". "KI darf den Menschen nicht ersetzen", betonte Buyx.

Der Deutsche Ethikrat ist ein unabhängiges Gremium in Deutschland, das sich mit ethischen Fragen und Herausforderungen im Bereich der Naturwissenschaften, Medizin und Gesundheitsversorgung beschäftigt. Die 26 Mitglieder werden von der Präsidentin des Deutschen Bundestages ernannt. Der Bundestag oder die Bundesregierung können den Ethikrat beauftragen, zu bestimmten Themen zu beraten.

Wissen 11.07.21

Zu wenige Arbeitskräfte So kann KI in der Pflege helfen

Für den Medizinbereich führt der Ethikrat auch Gründe auf, warum ein KI-Einsatz sinnvoll sein könne: So könnten mithilfe von KI Versorgungsengpässe aufgrund von Personalmangel gelindert und präzisere Diagnosen erstellt werden. Bei der Entwicklung und Nutzung von KI-Produkten müsse allerdings ein ärztlicher Kompetenzverlust vermieden werden. Die Privatsphäre von Patientinnen und Patienten müsse mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden.

Vorsicht vor Diskriminierung

Für den KI-Einsatz in der öffentlichen Verwaltung müssten die Bürgerinnen und Bürger vor Diskriminierung geschützt werden. Maschinellen Empfehlungen dürfe man nicht blind folgen. Weiterhin müssten Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden. "KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen", sagte Julian Nida-Rümelin, der stellvertretende Vorsitzende des Deutschen Ethikrates.

Der Einsatz von KI in der schulischen Bildung sollte nach den Empfehlungen nicht durch technologische Visionen gesteuert werden, sondern sich an grundlegenden Bildungsvorstellungen orientieren. Er sollte sich zudem auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern.

Im Bereich der öffentlichen Kommunikation und Meinungsbildung empfiehlt der Ethikrat unter anderem Weiterentwicklungen der Regeln für Online-Plattformen hinsichtlich der Auswahl und Moderation von Inhalten sowie zu personalisierter Werbung und zum Datenhandel. Außerdem fordert er besseren Zugang auf Plattformdaten für die Forschung und empfiehlt, den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zu erwägen.