"Demokratischer Diskurs in Gefahr"Forschende warnen vor KI-Schwärmen im Netz
Wissenschaftler beschreiben eine neue Bedrohung für die Demokratie. Sogenannte KI-Schwärme könnten soziale Netzwerke durch perfekte Nachahmung von Menschen unterwandern und Propaganda verbreiten. Dabei lernen sie durch Millionen von Tests, welche Narrative am besten wirken.
Ein internationales Forscherteam warnt vor einer neuen Gefahr: bösartige KI-Schwärme im Internet, welche die öffentliche Meinung gezielt beeinflussen können. Das zentrale Risiko dabei sei nicht das Erstellen und Verbreiten von Fake News, sondern das Herstellen eines künstlichen Konsenses über bestimmte Themen, so die Autoren. Der Artikel wurde im renommierten Fachmagazin "Science" veröffentlicht.
Ein KI-Schwarm würde anders als bisher eingesetzte Bots agieren, die einfach nur Botschaften kopieren und verbreiten, so die Forschenden. Vielmehr könnten in Zukunft koordinierte Communitys entstehen: Flotten von KI-gesteuerten Persönlichkeiten, die sich in Echtzeit anpassen, Gruppen infiltrieren und in großem Maßstab den Anschein einer öffentlichen Übereinstimmung ("Alle sagen das") erzeugen können. Möglich werde dies durch große Sprachmodelle und Multi-Agent-Systeme, schreiben die Autoren.
Fünf Schlüsselkompetenzen
Die Forschenden haben fünf Schlüsselkompetenzen von KI-Schwärmen identifiziert:
"Bienenstock"-Koordination: Anstelle eines zentralen Computers arbeiten Tausende von KI-Persönlichkeiten wie ein Bienenstock zusammen. Sie können ihre Geschichten in Echtzeit ändern und sogar ihre eigenen sozialen Normen entwickeln, wodurch sie schwerer zu verfolgen sind.
Strategische Infiltration: Diese Schwärme kartieren soziale Netzwerke, um für Propaganda anfällige Gruppen zu finden. Sie verwenden spezifische Slangausdrücke und maßgeschneiderte Aussagen, um sich einzufügen und Anhänger für sich zu gewinnen.
Nachahmung von Menschen: Sie verwenden fotorealistische Profilbilder und natürlich klingende Sprache, um Sicherheitsfilter zu umgehen.
Optimierung: Die KI führt ständig Millionen von Tests mit ihrem Publikum durch. Sie erkennt, welche Narrative das größte Engagement erzielen, und verbreitet die erfolgreichsten Versionen sofort im gesamten Web.
Permanente Präsenz: Im Gegensatz zu einmaligen Propagandakampagnen schlafen diese Schwärme nie. Sie bleiben jahrelang in Online-Communitys eingebettet und verändern langsam und subtil die Sprache, die Symbole und die Identität einer Gruppe.
Gegenmittel: Schwärme simulieren
"Die Gefahr besteht nicht mehr nur in Fake News, sondern darin, dass die Grundlage des demokratischen Diskurses - unabhängige Stimmen - zusammenbricht", warnt Autor Jonas R. Kunst von der BI Norwegian Business School. Diese geschehe dann, wenn ein einzelner Akteur Tausende von einzigartigen, KI-generierten Profilen kontrollieren kann, so der Professor.
Was kann man gegen diese Gefahr unternehmen? Neben Maßnahmen, wie der verstärkten Kennzeichnung von KI-generierten und authentischen Inhalten, glauben die Forschenden, dass eine der wirksamsten Maßnahmen darin besteht, diese Angriffe lange vor ihrem Auftreten zu simulieren. Dadurch könne die Funktionsweise und Anpassungsfähigkeit dieser KI-Schwärme verstanden und vorhergesagt werden.