Microsofts Suchmaschine Bing zeigt laut einer Studie trotz des Einsatzes von Filtertechnologien illegale Aufnahmen von Kindesmissbrauch. Und zwar unter Umständen sogar dann, wenn Nutzer gar nicht danach suchen.

Suchmaschinen helfen Menschen, Dinge im Internet zu finden. Aber nicht alles, was es im Internet gibt, sollten Suchmaschinen ihren Nutzern auch anzeigen. Filtertechniken wie Microsofts PhotoDNA sollen zum Beispiel dafür sorgen, Bilder mit strafbaren Inhalten herauszusieben. Doch das funktioniert anscheinend nicht immer: Einer vom Technik-Portal Techcrunch in Auftrag gegebenen Studie zufolge zeigte ausgerechnet Microsofts eigene Suchmaschine Bing bei der Eingabe entsprechender Suchbegriffe Bilder mit kinderpornografischen Inhalten an und empfahl sogar verwandte Suchbegriffe für die Suche nach ähnlichen Bildern.

Filter versagen

Die Studie wurde von Techcrunch beim Sicherheits-Start-up AntiToxin in Auftrag gegeben, nachdem das Portal einen anonymen Hinweis erhalten hatte. Der Bericht zeige laut Techcrunch "vernichtende Beweise" dafür, dass Bing trotz automatischer Filter in seiner Bildersuche illegale Bilder von sexuellem Kindesmissbrauch anzeige, wenn Nutzer entsprechend eindeutige Suchbegriffe eingäben. Schlimmer noch: Auch Menschen, die nicht explizit nach solchen Inhalten suchten, könnten durch die Suchvorschläge von Bing auf entsprechende Seiten geleitet werden.

Neben eindeutigen Schlagworten nennt Techcrunch als Beispiele auch Suchbegriffe, die an sich nicht anstößig sind, etwa nach der bei Teenagern beliebten Videochat-App "Omegle Kids". Bing schlug daraufhin alternative Suchbegriffe vor, die wiederum zu strafbaren Missbrauchsaufnahmen führten. Und wenn ein Nutzer auf eines der Bilder klicke, zeige Bing laut Techcrunch weitere Bilder mit vergleichbaren Inhalten an.

Safe Search scheitert

AntiToxin führte die Studie zwischen dem 30. Dezember 2018 und dem 7. Januar 2019 durch. Die Suchanfragen wurden auf einem Desktop-PC ohne aktivierte "Safe Search" durchgeführt. Diese Funktion soll auf der Stufe "Streng" "nicht jugendfreie Texte, Bilder und Videos aus den Suchergebnissen" herausfiltern. Auf "mittlerer" Stufe werden nur Bilder und Videos gefiltert, auf der Stufe "Aus" soll Safe Search trotzdem nicht weiter bezeichnete "nicht jugendfreie Inhalte aus den Suchergebnissen herausfiltern".

Auf der Einstellungsseite zu Safe Search heißt es: "SafeSearch verwendet fortschrittliche Technologien, um nicht jugendfreie Inhalte zu filtern, es kann jedoch nicht alles erfasst werden. Wenn trotz einer SafeSearch-Einstellung von "Streng" oder "Mittel" nicht jugendfreie Inhalte angezeigt werden, teilen Sie uns dies mit, damit diese Inhalte zukünftig herausgefiltert werden können."

Die Ergebnisse zeigen laut Techcrunch ein "massives Versagen von Microsoft, seine Bing-Suchmaschine angemessen zu überwachen" und zu verhindern, dass Pädophile über vorgeschlagene Suchanfragen und die Anzeige ähnlicher Bilder einfachen Zugang zu illegalen Inhalten bekämen. Ähnliche Suchanfragen bei Google hätten nicht zu vergleichbaren Ergebnissen geführt.

"Internetunternehmen wie Microsoft Bing müssen mehr in die Bekämpfung dieser Art von Missbrauch investieren, sowohl durch skalierbare Technologielösungen als auch durch menschliche Moderatoren", fordert Techcrunch-Autor John Constine. Es gebe keine Entschuldigung dafür, dass ein umsatzstarkes Unternehmen wie Microsoft Sicherheitsmaßnahmen unterfinanziere.

PhotoDNA von Microsoft entwickelt

Bing-Vizechef Jordi Ribas reagierte auf die alarmierenden Ergebnisse und versicherte Techcrunch, dass die illegalen Inhalte sofort entfernt worden seien und das Bing-Team zusammen mit einer Gruppe von Experten an entsprechenden Maßnahmen arbeite, um ähnliche Fälle in Zukunft zu verhindern. Dazu gehörten etwa das Blockieren problematischer Suchanfragen und die Anzeige alternativer Suchbegriffe und ähnlicher Bilder. Außerdem sollen Nutzer anstößige Inhalte in Zukunft besser melden können.

Ein Microsoft-Sprecher gab gegenüber Techcrunch zu Protokoll, dass man bei Bing auf eine Mischung aus der automatisierten Filtertechnik PhotoDNA und "menschlicher Moderation" setze, um die Inhalte zu untersuchen, die Bing anzeigt. Wie viele Personen daran arbeiteten und ob in Zukunft mehr Personal eingesetzt werde, verriet der Sprecher laut Techcrunch nicht.

Es gibt aber offenbar auch Nachbesserungsbedarf bei dem von Microsoft selbst entwickelten Programm PhotoDNA. Die Software, die auch von Facebook und Twitter eingesetzt wird, dient laut "Heise" dazu, dem US-amerikanischen National Center for Missing and Exploited Children (NCMEC) Aufnahmen von sexuellem Missbrauch zu melden. Verdächtiges Material kann mittels PhotoDNA zudem mit der NCMEC-Datenbank abgeglichen und als Missbrauchsdarstellung eingestuft werden. So soll verhindert werden, dass entsprechendes Material weiterverbreitet wird.