Viele Warnungen, wenig KlarheitWelche Gefahren durch KI gibt es wirklich?
Von Kai Stoppel
ntv bei Google bevorzugenVon Deepfakes über Cyberangriffe bis zur hypothetischen Superintelligenz - die Liste möglicher Risiken durch KI ist lang. Eine Expertengruppe hat alle systematisch erfasst. Doch wie groß die Gefahr tatsächlich ist, bleibt oft noch unklar.
Ist KI die Büchse der Pandora, die Unheil über die Menschheit bringt? Zuletzt häufen sich weltweit Warnungen vor künstlicher Intelligenz - oft aus den Reihen der größten KI-Unternehmen selbst. Dabei geht es - anders als sonst - nicht so sehr um die Furcht vor Jobverlust als um unkontrollierte KI-Agenten, gefährliche Anfragen böswilliger Nutzer oder eine hypothetische Superintelligenz, der die Menschheit zum Opfer fallen könnte.
Bei der Flut an möglichen Risiken droht man schnell den Überblick zu verlieren. Eine saubere Einteilung versucht der "International AI Safety Report 2026" zu leisten, erstellt von mehr als 100 internationalen KI-Experten unter Leitung des Turing-Preisträgers Yoshua Bengio. Der Bericht unterscheidet drei Kategorien von KI-Risiken:
Missbrauch durch den Menschen
Fehlfunktionen wie KI, die außer Kontrolle gerät
Systemische Risiken für die Gesellschaft
KI, die außer Kontrolle gerät
Eine außer Kontrolle geratene Superintelligenz wäre ein KI-Risiko mit potenziell extremen Folgen. Genau davor warnten zuletzt ehemalige und aktuelle KI-Forscher. Unter anderem warnte der Anthropic-Forscher Evan Hubinger auf X, dass die Gefahr, dass KI in den kommenden zehn Jahren die Menschheit töte, seiner Einschätzung nach bei mehr als zehn Prozent liege.
Es geht dabei um ein hypothetisches Szenario, in dem eine KI in der Lage wäre, ein ihr gegebenes Ziel rücksichtslos zu verfolgen - und sich jeglicher Kontrolle des Menschen entzöge. Dazu bräuchte es wahrscheinlich eine ebenfalls hypothetische Superintelligenz, also eine KI, die dem Menschen intellektuell weit überlegen ist. Diese könnte jedoch eigenmächtig handeln und Entscheidungen treffen, die tödlich für die Menschheit sein könnten. Sie zu stoppen wäre aussichtslos, weil sie uns immer einen Schritt voraus wäre.
Allerdings sind sich Experten nicht einig, ob dieses Risiko tatsächlich real ist. So beschreibt auch der "International AI Safety Report 2026" die Wahrscheinlichkeit und den Zeitpunkt eines solchen Kontrollverlusts ausdrücklich als stark umstritten.
Geoffrey Hinton, einer der Pioniere des Deep Learnings, bezeichnete gegenüber der BBC Hubingers 10-Prozent-Angabe als "nicht unvernünftig", allerdings könne niemand wirklich wissen, ob ein solches Szenario eintritt. Der KI-Skeptiker Gary Marcus hingegen bezeichnete eine KI-Apokalypse gegenüber CNN als "sehr, sehr unwahrscheinlich". KI würde zwar viele Risiken mit sich bringen, jedoch sei das Aussterben der Menschheit nichts, worüber sich Menschen "nachts den Schlaf rauben lassen sollten", so Marcus.
Fehlfunktionen von KI-Agenten
Ein anderes Risiko, das derzeit große Aufmerksamkeit erhält, sind autonom handelnde KI-Agenten, die zum Problem werden. Bei KI-Agenten handelt es sich um KI-Software, die ohne oder nur mit eingeschränkter menschlicher Aufsicht eigenständig Entscheidungen treffen kann. Für Schlagzeilen sorgte der Hugging-Face-Vorfall im Juli 2026.
Was war passiert? KI-Agenten von OpenAI waren aus einer Testumgebung ausgebrochen und in die Systeme der Open-Source-Plattform Hugging Face eingedrungen. Es war der weltweit erste dokumentierte, komplexe Cyberangriff, der vollständig autonom von KI-Agenten durchgeführt wurde.
Das Verblüffende daran: Mehrere KI-Agenten organisierten sich untereinander und erschufen ein digitales Schwarzes Brett, um koordiniert die Angriffe zu planen und durchzuführen. Laut "New York Times" drangen die KI-Agenten außerdem in Webseiten von Behörden und Universitäten ein oder versuchte es. Zuletzt wurde bekannt, dass sie sich auch unbefugten Zugriff auf ein Portal mit statistischen Daten der staatlichen australischen Krankenversicherung verschafft hatten.
Größere materielle Schäden durch die KI-Agenten sind bislang nicht bekannt oder öffentlich beziffert. Dennoch warnen Experten, dass KI-Agenten erhebliche Kosten verursachen könnten. "Ein KI-Agent, der ein Tool falsch benutzt, kann zum Beispiel versehentlich Daten löschen oder eine falsche Bestellung auslösen", sagte der KI-Experte Kristian Kersting von der TU Darmstadt im Science Media Center. Und das sei kein Science-Fiction-Szenario, sondern ein ganz konkretes Betriebsrisiko.
Missbrauch durch den Menschen
Neben Schäden durch KI-Fehlfunktionen sieht der "International AI Safety Report 2026" ein großes Risiko darin, dass KI von Menschen absichtlich und böswillig missbraucht wird. So werde die Technologie bereits heute dafür genutzt, um Inhalte für Betrugsmaschen und Erpressung zu erstellen, schreiben die Autoren. Die US-Bundespolizei FBI hatte in ihrem jüngsten Bericht zu Internetkriminalität rund 22.400 Beschwerden erfasst, bei denen KI eine Rolle spielte.
Menschen nutzen KI auch zu der Erstellung von KI-generierten Bildern und Videos, sogenannter Deepfakes mit sexualisiertem Inhalt: Nach einer Haushaltsbefragung in elf Ländern schätzte UNICEF, dass von mindestens 1,2 Millionen Kindern im vergangenen Jahr Bilder in sexualisierte Deepfakes verwandelt wurden. Die Internet Watch Foundation meldete für 2025 über 3400 KI-generierte Videos von sexuellem Kindesmissbrauch, im Jahr davor waren es noch 13.
Auch können Menschen KI missbrauchen, um durch gezielte Manipulation von Inhalten politische Überzeugungen anderer zu beeinflussen, warnen die Experten im Safety Report. Eine Studie hatte gezeigt, dass KI-generierte Botschaften politische Einstellungen ähnlich stark beeinflussen konnte wie von Menschen verfasste Botschaften. Eine Untersuchung aus dem Jahr 2024 zum Einfluss KI-gestützter verdeckter Kampagnen auf Wahlen kam allerdings zu dem Schluss, dass der Effekt auf Wahlergebnisse begrenzt blieb.
Von Kriminellen oder im staatlichen Auftrag ausgeführte Cyberattacken mithilfe von KI werden ebenfalls als großes Risiko genannt. "Je leistungsfähiger die KI-Systeme sind, Schwachstellen in Computernetzwerken zu finden, umso größer ist auch die Wahrscheinlichkeit, dass wir eines Tages mit einem wirklich fatalen Sicherheitsvorfall konfrontiert werden", sagte der Professor für IT-Sicherheitsrecht an der Hochschule Bremen Dennis-Kenji Kipker gegenüber ntv. Allerdings betonen Experten, dass KI auch genutzt werden kann, um im Vorfeld Sicherheitslücken in Systemen zu finden und diese dann zu schließen.
Ein erhebliches Risiko stellt auch der Einsatz von KI für die Herstellung von neuartigen chemischen und biologischen Kampfstoffen dar. Laut einem Bericht von Anthropic hatten Claude-Nutzer versucht, sich über mögliche Wege zur Erhöhung der Schädlichkeit menschlicher Viren zu informieren, darunter für das Chikungunya- und Vogelgrippe-Virus. Im Jahr 2025 hatten die Betreiber der Modelle bereits zusätzliche Schutzvorkehrungen getroffen, damit KI keine Hilfe bei der Entwicklung biologischer Waffen liefert. Experten kritisieren jedoch, dass diese umgangen werden können.
Außerdem gibt es noch die Risiken durch KI-gestützte Kriegsführung. Das Internationale Komitee vom Roten Kreuz warnt in einem Bericht, der Einsatz von KI im militärischen Bereich könne das Tempo und das Ausmaß von Kriegshandlungen beschleunigen. Wenn Menschen Kontrolle über Waffen an KI abgeben, würde das "ernsthafte Risiken für die Zivilbevölkerung mit sich bringen". Aus dem Ukrainekrieg gibt es bereits mehrere Berichte, dass KI von beiden Seiten bei Drohnen-Angriffen gegen feindliche Ziele eingesetzt wurde.
Risiken für die Gesellschaft
Zuletzt nennt der "International AI Safety Report 2026" noch "Systemische Risiken", bei denen die weitverbreitete Nutzung von KI negative Folgen für eine Gesellschaft haben kann. Eines der in den vergangenen Jahren wohl am meisten diskutierten Risiken ist dabei der drohende Verlust von Arbeitsplätzen durch KI. Während manche Experten genau davor warnen, argumentieren andere, dass der Verlust von Arbeitsplätzen durch die Schaffung neuer Arbeitsplätze ausgeglichen werden könnte.
Bislang gibt es keinen Nachweis eines breiten Jobverlusts durch KI. Eine Analyse zum US-Arbeitsmarkt sieht jedoch Warnzeichen bei jungen Berufseinsteigern in den am stärksten von KI gefährdeten Berufen - wie etwa in der Softwareentwicklung und dem Kundenservice. Bei speziell dieser Gruppe wurde eine vergleichsweise geringere Dynamik bei der Beschäftigung beobachtet, heißt es.
Als weiteres systemisches Risiko nennt der Report eine mögliche Beeinträchtigung der Fähigkeit von Menschen, "fundierte Entscheidungen zu treffen und diese umzusetzen". Es gebe erste Hinweise darauf, dass die Abhängigkeit von KI-Tools das kritische Denken schwächen und die Tendenz fördern könne, den Ergebnissen von KI-Systemen ohne ausreichende Überprüfung zu vertrauen.