Was hinter Dark Patterns steckt"Designtricks von sozialen Medien wirken auch bei Erwachsenen sehr effektiv"
Interview: Björn Lohmann
Der Deutsche Ethikrat hat in seiner Stellungnahme zur Nutzung sozialer Medien durch Kinder und Jugendliche vor allem die Methoden kritisiert, mit denen Plattformen und Apps ihre Nutzer dazu bringen, möglichst viel Zeit dort zu verbringen. Der Medienforscher Thomas Eßmeyer von der Universität Bremen erforscht diese sogenannten "Dark Patterns". Er wünscht sich soziale Medien, die nicht auf Gewinnmaximierung, sondern auf echten Mehrwert für das Miteinander der Nutzerinnen und Nutzer ausgerichtet sind.
ntv.de: Der Ethikrat kritisiert, dass viele digitale Plattformen auf maximale Aufmerksamkeit und lange Verweildauer ausgelegt sind. Wo beginnt aus Ihrer Sicht bei sozialen Medien ein harmloses Design - und wo wird daraus ein Dark Pattern?
Thomas Eßmeyer: Sehr spannende Frage. Kurz: an der Stelle, an der Nutzer ihre Autonomie verlieren und kein Gefühl mehr für die Zeit haben, die sie auf Plattformen verbringen. Studien zeigen vermehrt, dass Nutzer sich sehr wohl im Klaren sind, dass sie mehr Zeit auf sozialen Medien verbringen, als sie einplanen, was via Autoplay und scheinbar unendlichen Inhalten stark begünstigt wird. Demgegenüber zeichnet sich harmloses und gutes Design dadurch aus, dass Nutzer die Konsequenzen ihres Handels verstehen. Das muss nicht im Widerspruch zu intuitiven Designs stehen, wie es manchmal diskutiert wird.
Welche Mechanismen sind für Kinder und Jugendliche besonders problematisch: Endlos-Scrollen, Autoplay, Likes, Streaks, Push-Nachrichten, personalisierte Empfehlungen - oder etwas ganz anderes?
Autoplay und Endlos-Scrollen gehören definitiv zu den problematischsten Eigenschaften, während Push-Nachrichten häufig sehr aggressive Nudges (psychologische Stupser, die menschliches Verhalten sanft in eine bestimmte Richtung lenken, Anm. d. Redaktion) darstellen, um Nutzer immer wieder in den Bann der Apps zurückzuholen. Diese erscheinen auch gerne zu genau den Zeiten, zu denen wir höchstwahrscheinlich auf die Benachrichtigung klicken. Was weniger offensichtlich, aber umso effektiver ist, sind die Algorithmen - sehr verwandt mit Empfehlungssystemen in Online-Stores -, welche präzise, auf Nutzungsprofile angepasste Inhalte raussuchen, um Nutzer immer wieder zu beschäftigen. Dabei spielt es weniger eine Rolle, ob Inhalte positiv oder negativ wahrgenommen werden, denn auch ein "Daumen runter" ist eine Interaktion, welche dem System suggeriert, dass es sich lohnt, solche Inhalte weiterhin diesen und ähnlichen Profilen zu zeigen.
Unabhängig davon, aber ebenfalls problematisch ist das Layout der App. Soziale Netzwerke sind so gestaltet, dass wir sehr einfach, meist sofort, in unseren Feeds landen. Häufig läuft dann auch schon das erste vorgeschlagene Short/Reel/Tiktok. An der Stelle ist es beinahe egal, was wir vorher in der App machen wollten, unsere Aufmerksamkeit ist nun gesetzt. Einstellungen zu Inhaltspräferenzen oder zu unserer Privatsphäre sind dagegen sehr mühselig bedienbar. Das Layout ist hier geradezu labyrinthartig und nur schwer navigierbar.
Warum wirken solche Designtricks bei Kindern und Jugendlichen möglicherweise stärker als bei Erwachsenen? Liegt das an der noch nicht abgeschlossenen Entwicklung von Selbstkontrolle, Identität und Emotionsregulation?
Zunächst wirken diese Tricks bereits bei Erwachsenen sehr effektiv. Diverse Studien zeigen, dass selbst Menschen, die wissen, was Dark Patterns sind, mit hoher Wahrscheinlichkeit untergeordneten Tricks zum Opfer fallen. Zu Kindern gibt es weitaus weniger Studien, da diese aus ethischen Gründen deutlich aufwendiger sind. Daher sind meine Anmerkungen hier eher Annahmen.
Wir wissen aus der Medizin und Psychologie, dass die Entwicklung unseres präfrontalen Kortexes erst um unser 25. Lebensjahr abgeschlossen ist. Dieser Bereich unseres Hirns ist im Grunde für Impulskontrolle, langfristiges Planen und Risikoeinschätzung verantwortlich. Für uns als Kinder bedeutet das eine stark erhöhte Vulnerabilität. Im Kontext von sozialen Medien werden die effektiven Tricks für jüngere Menschen, gerade Kinder, somit beinahe unmöglich einzuschätzen und abzulehnen - besonders, wenn eine Handlung kurzfristig für gute Laune sorgt.
Sekundäre Probleme oder Schäden können darüber hinaus auftreten, wenn die Zeit auf sozialen Medien so weit die Überhand gewinnt, dass andere Aspekte unseres Lebens darunter leiden, zum Beispiel Hobbys oder Bildung. Natürlich können soziale Medien auch einen bedeutsamen Teil unseres sozialen Lebens abdecken. Wichtig ist hier, dass es ein Mittel zum Zweck sein sollte.
Der Ethikrat spricht von einer Aufmerksamkeitsökonomie. Würden Sie sagen, Plattformen gestalten ihre Angebote gezielt so, dass Kinder und Jugendliche länger bleiben, als sie eigentlich wollen?
Kurz: Ja! Aber nicht nur Kinder, sondern alle Nutzer. Der Begriff "Aufmerksamkeitsökonomie" beziehungsweise "Attention Economy" ist zwar bereits einige Jahrzehnte alt, wird derzeit aber im Kontext von Dark Patterns und sozialen Medien häufig verwendet, um die Problematik derzeitiger Trends der Apps zu beschreiben. Es ist schwierig, Böswilligkeit wissenschaftlich nachzuweisen. Daher möchte ich sie nicht unterstellen. Aber sämtliche Apps wirken, als unterlägen sie mehr ökonomischen Interessen als dem Wohl ihrer Nutzer; was ironisch ist, da wir an den Universitäten versuchen, genau das zu lehren.
Ein großes Problem scheint mir die Verantwortungsfrage innerhalb der Unternehmen zu sein. Wenn Quartalszahlen das Firmenethos zu diktieren scheinen, ist das Wohlbefinden der eigenen Nutzer zweitrangig. Es sei denn, relevante regulatorische Behörden schwingen ihren Hammer, wie wir es derzeit immer wieder erleben. Zuboffs Theorie zu "Surveillance Capitalism" passt hier übrigens auch sehr schön, um mögliche Entscheidungen der Verantwortlichen zu verstehen.
Viele Eltern erleben soziale Medien als etwas, das ihre Kinder kaum noch freiwillig aus der Hand legen.
Und das völlig zu Recht.
Wie viel davon ist individuelles Verhalten - und wie viel ist bewusst gebautes Plattformdesign?
Sicherlich ist es bewusstes Design. Ob bewusst schädlich, kann ich nicht sagen, aber es gibt genügend designtheoretische Ansätze, die zeigen, wie leicht Entscheidungen manipulierbar sind - was sich im Übrigen mit Erkenntnissen aus den Kognitionswissenschaften und der Psychologie deckt: Wir handeln häufig nach Heuristiken und lassen uns von unseren eigenen kognitiven Verzerrungen verleiten. Ohne auf diese zu tief einzugehen, können wir gerade in alltäglichen Situationen simple Elemente wie Farben, Textformulierungen und Ähnliches so nutzen, dass bestimmte Entscheidungen begünstigt oder andere abgewendet werden. Foggs "Persuasive Design" bietet hier eine kontrovers diskutierte Theorie, wie Nutzungsoberflächen so gestaltet werden können, um Nutzer zu bestimmten Zielverhalten anzuleiten.
Pauschale Altersgrenzen für soziale Medien sieht der Ethikrat skeptisch und setzt eher auf risikobasierte Regulierung. Reicht es aus, bestimmte manipulative Designmechanismen zu verbieten oder einzuschränken?
Das ist gerade natürlich ein sehr relevantes und kontroverses Thema. Persönlich sehe ich beide Seiten - was auch irgendwie zu meinem Job gehört -, denke aber, dass die Zeit vorbei ist, darauf zu hoffen, dass derzeitige Regulierungen wirksam greifen und Nutzer ausreichend schützen. Ich bin nicht zwingend für ein allgemeines Verbot von sozialen Medien - zum Teil, weil die grundsätzliche Idee eine fantastische sein kann. Auch für Kinder und Jugendliche, sofern sie verantwortungsbewusst umgesetzt werden.
Was gängige Plattformen wie zum Beispiel X, Tiktok, Youtube oder Instagram angeht, haben die Betreiber allerdings immer wieder gezeigt, dass sie ihre wirtschaftsorientierte Philosophie nicht aufgeben möchten und meist eher noch einen draufsetzen. Nun haben wir in der EU den "Digital Services Act", der eine fantastische Grundlage ist, um gegen Dark Patterns und vieles mehr vorzugehen. Aber im Grunde war die GDPR/DSGVO bereits ein - ehrlicherweise unzureichender - Schritt in die richtige Richtung, hin zu mehr Schutz für Nutzende.
Dennoch sind die bekannten Probleme weiterhin präsent und die Forschung zeichnet seit Jahren ein Bild von leidenden Selbstwertgefühlen und Wohlempfinden, bis hin zu gesundheitlichen Schäden sowohl bei Kindern als auch bei Erwachsenen. Hier ist meine Geduld mit den Plattformen ausgeschöpft, da es hier teils um sehr ernste Konsequenzen für Kinder und Jugendliche geht. Da gehören natürlich die Plattformen in die Verantwortung gezogen und nicht zum Beispiel ohnehin überforderte Eltern. Das verlagert den Streit in die falsche Richtung, gerade in Bezug auf meine vorherige Antwort.
Zwischen einem Markt, der sich innovativ entwickeln kann, und der Verantwortungslosigkeit solcher Firmen braucht es offensichtlich so starke regulatorische Gegenkräfte, die den Schutz von Menschen garantieren können, bis Betreiber ihrer Verantwortung gerecht werden.
Wie könnte ein soziales Netzwerk aussehen, das nicht auf maximale Verweildauer, sondern auf das Wohl von Kindern und Jugendlichen hin gestaltet ist? Was müsste sich konkret ändern?
Das ist eine fantastische Frage und etwas, mit dem ich mich allgemein viel beschäftige. Auch weil ich nach wie vor an die Grundideen sozialer Netzwerke glaube, Menschen überall auf der Welt die Möglichkeit zu geben, in Kontakt zu bleiben, sich auszutauschen, Wissen zu erlangen und wichtige Momente zu teilen.
Wie ich bei der Frage bezüglich der Aufmerksamkeitsökonomie geschildert habe, scheinen die derzeitigen Interessen gängiger sozialer Netzwerke vor allem wirtschaftlich orientiert zu sein als humanistisch. Monetäre Ziele erreichen gängige Plattformen vor allem durch die Zeit, die ihre Nutzer mit Scrollen verbringen, indem sie möglichst viele Daten sammeln und Werbung schalten können.
Wenn wir diese Aspekte eliminieren können, ähnlich wie zum Beispiel mit dem öffentlich-rechtlichen Rundfunk, könnten wir uns tatsächlich auf das Design von sozialen Interaktionen konzentrieren, welche sich auf das Wohlempfinden von Menschen konzentrieren. Dann kann ein soziales Netzwerk viel mehr ein Medium zwischen mehreren Personen sein als ein purer Zeitvertreib - nicht, dass es per se schlecht ist, Shorts zu sehen, aber das durchschnittliche Zeitvolumen von Nutzern suggeriert übermäßiges Verhalten.
Eine kinder- und jugendgerechte Plattform könnte allgemein eine etwas vereinfachte Version beinhalten, und sich auf relevante Themen konzentrieren. Dabei muss nicht alles ausschließlich zum Beispiel an Bildung orientiert sein. Es können auch soziale Online-Spiele gefördert werden, welche kollaboratives Verhalten in überregionalen oder auch internationalen Kontexten fördern. Um eine tatsächliche Alternative zu den genannten Plattformen zu bieten, muss natürlich auch Spaß ein wichtiger Teil einer solchen App sein.
Lassen sich Dark Patterns technisch und juristisch überhaupt klar genug definieren, damit Aufsichtsbehörden Plattformen wirksam kontrollieren können? Oder besteht die Gefahr, dass Anbieter immer neue Umgehungsformen entwickeln?
Ja, der Digital Services Act hat im Artikel 25 genau das getan beziehungsweise angefangen. Dabei hat die Europäische Kommission teils mit uns Wissenschaftlern gesprochen und auf unseren Arbeiten aufgebaut, wie beispielsweise unserer Dark-Pattern-Ontologie, welche die Tricks hierarchisch einordnet. Die Idee ist hier, unter anderem allgemeine Strategien zu definieren, welche zwar verschieden implementiert werden können, aber sich in ihrer Zielsetzung oder Wirkung nur geringfügig unterscheiden.
Nichtsdestotrotz sind die Unternehmen durchaus kreativ und werden versuchen, diese und andere Regulationen zu umgehen. Das macht es zu einem Katz-und-Maus-Spiel und bringt mich zurück zu meiner Antwort auf die Frage, ob pauschal reguliert werden muss.
Welche Rolle spielen KI-gestützte Empfehlungssysteme? Sind sie das eigentliche Problem, weil sie nicht nur Inhalte sortieren, sondern emotionale Reaktionen und Nutzungsmuster verstärken können?
Ob sie das eigentliche Problem darstellen, kann ich nicht sagen. Hier kommt so viel zusammen, dass es allgemein schwierig ist, einen Teilaspekt hauptverantwortlich zu machen. Aber KI-gestützte Empfehlungssysteme sind, wie zuvor beschrieben, ein sehr großes Problem. Gerade ihre Intransparenz und die nicht vorhandenen Möglichkeiten, sie zu individualisieren, machen es schwer für die meisten Nutzer zu verstehen, weshalb ihnen bestimmte Inhalte gezeigt werden. Zudem machen es Plattformen wie X nahezu unmöglich für uns Wissenschaftler, hier nachzubohren.
Was würden Sie Eltern raten, die ihre Kinder schützen wollen, ohne digitale Teilhabe komplett zu verbieten: Worauf sollten sie bei Plattformen und Apps besonders achten?
Kinder unter drei Jahren sollten wahrscheinlich eh besser was anderes tun, als Shorts zu sehen, aber irgendwann werden die Fragen schon kommen. Zwar bin ich noch nicht in der Situation, aber es könnte helfen, gemeinsam mit älteren Kindern und Jugendlichen einen Plan zu erstellen. "Was möchtest du auf der Plattform tun?" Macht das Kind selbst Kreatives, was es zeigen möchte, oder möchte es ein paar Minuten schauen, was seine oder ihre Peers tun? Ich erinnere mich, selbst in den 2000ern und 2010ern stundenlang Online-Tutorials auf Youtube zu diversen Grafikprogrammen und 3D-Modelling-Software gesehen und nachgemacht zu haben. Darüber habe ich viel gelernt, was heute noch praktisch ist. Darüber hinaus habe ich Leuten beim Spielen meiner Lieblingsspiele zugeguckt, bevor es Twitch gab. Was ich damit sagen möchte: Es muss gar nicht zu streng sein. Aber wenn ein Plan erst mal steht, können sich sowohl Eltern als auch ihre Kinder daran orientieren.
Muss ein Plan jedes Mal aufgehen? Wahrscheinlich nicht. Aber er hilft, eine Perspektive darauf zu entwickeln, wann und wie viel Zeit ein Kind auf Plattformen verbringt. Das kann vor allem dem Kind mehr Autonomie über seine oder ihre Zeit geben.
Das benötigt aber auch Anreize, sich anders zu beschäftigen.
Genau, demgegenüber braucht ein Kind Alternativen. Es ist einfach, aus Langeweile stundenlang zu scrollen. Stattdessen könnte man ein Eis essen gehen, rausgehen und mit Freunden abhängen, gemeinsam einen Film schauen, etwas spielen (gerade Computerspiele, die das Kind eh begeistert) oder was anderes Spaßiges unternehmen.