Beiträge wirken authentischerKI überzeugt bei Debatten mehr als echte Politiker
Sprachmodelle können die Aussagen von Politikern imitieren und klingen dabei sogar überzeugender als das Original. Das findet nun ein Forschungsteam heraus - und warnt: Mithilfe der KI könnten politische Debatten einfach manipuliert werden.
KI-generierte Antworten auf Publikumsfragen in einer Sendung überzeugten Studienteilnehmer mehr als die von Menschen. Sie wurden als authentischer, stimmiger und relevanter bewertet, wie ein Team der Universität Passau im Journal "PLOS One" beschreibt. Die Gruppe um Erstautor Steffen Herbold nutzte das Sprachmodell GPT-4 Turbo, um Antworten auf Publikumsfragen aus 30 Folgen der BBC-Sendung "Question Time" zu generieren. Auf dem Podium der britischen Sendung beantworten Persönlichkeiten aus Politik und Gesellschaft Fragen aus dem Publikum zu Themen der jeweiligen Woche.
Das Forschungsteam gab dem KI-Modell die Wikipedia-Biografien von 112 verschiedenen Persönlichkeiten, die in der Sendung waren, und bat es, deren Antworten auf die in der Sendung gestellten Fragen zu imitieren. Eine repräsentative Stichprobe von 948 Erwachsenen aus Großbritannien bewertete anschließend sowohl die 520 Originalantworten von Menschen als auch die 520 KI-generierten Antworten.
Dabei gab es drei Hauptkriterien: erstens die Authentizität, also die Wahrscheinlichkeit, dass die Antwort tatsächlich eine echte Äußerung der jeweiligen Person ist, zweitens die Kohärenz und damit die Stimmigkeit beziehungsweise den logischen Aufbau der Antwort und drittens fragte das Team nach deren Relevanz.
"Das enorme Desinformationspotenzial von KI"
Das Ergebnis: In allen drei Bereichen schnitten die Antworten von "GPT-4 Turbo" auf einer fünfstufigen Skala im Durchschnitt besser ab als die der Menschen. "Unsere Studie belegt eindeutig, dass Menschen KI-generierte Debattenbeiträge für authentischer halten als die tatsächlichen Aussagen bekannter Persönlichkeiten des öffentlichen Lebens", sagt Herbold und ergänzt: "Dies verdeutlicht das enorme Desinformationspotenzial von KI, dessen sich die Gesellschaft bewusst sein muss, um schriftliche Informationen kritisch zu hinterfragen und die ungehinderte Verbreitung KI-generierter Fehlinformationen zu verhindern."
Mitautorin Annette Hautli-Janisz verweist auf Gemeinsamkeiten und einige wichtige Unterschiede: "Interessanterweise unterscheidet sich die sprachliche Oberfläche von Original- und nachgeahmten Antworten nicht unbedingt - beispielsweise ist die Satzkomplexität in beiden Quellen vergleichbar." Allerdings kämen einige Satzteile wie "Ich denke" in Originalantworten deutlich häufiger vor. Und noch einen Aspekt habe die Studie offengelegt, sagt Hautli-Janisz: "Die Übereinstimmung zwischen Frage und Antworttext ist bei generierten Antworten deutlich höher, was darauf hindeutet, dass die Panelmitglieder die Frage nicht immer direkt beantworten."
Doch die Forscher haben noch mehr untersucht. "Unsere repräsentative Umfrage zeigt zudem einen überwältigenden Wunsch nach Transparenz: Die Menschen wollen wissen, wann KI eingesetzt wurde und wie sie trainiert wurde", sagt Herbold. Nach Studienangaben sind über 85 Prozent der Teilnehmenden der Ansicht, "dass der Einsatz von KI offengelegt werden muss und dass Informationen über die Entwicklung der KI bereitgestellt werden sollten".
Die Gefahren von KI im Netz
"Insgesamt sind die Auswirkungen unserer Ergebnisse auf die politische Kommunikation gravierend", schreibt das Team. Akteure mit schädlicher Absicht könnten mithilfe dieser Sprachmodelle öffentliche Informationsbereiche mit falschen, aber glaubwürdig klingenden politischen Aussagen überfluten, etwa um Verwirrung über ursprüngliche Aussagen zu stiften oder neue Narrative zu erzeugen. "In Kombination mit Deepfakes, die bereits in der Lage sind, realistische Stimmen und Videos öffentlicher Personen zu erzeugen, ist das gesellschaftliche Risiko enorm."
Eine solche KI hat längst das Internet erreicht, wie die Rechercheplattform "Correctiv" in Beispielen zeigt: In einem Video ist demnach scheinbar die Stimme von Bundeskanzler Friedrich Merz zu hören, die sagt: "Ab 2027 werden wir leider den Mindestlohn senken müssen, um die Infrastruktur in Deutschland zu verbessern", was nicht stimmt. "Correctiv" verweist zudem auf Bilder und Videos von Frauen im Netz, die mit Künstlicher Intelligenz bearbeitet oder sogar komplett KI-generiert sind, und die für rechte bis rechtsextreme Positionen werben.