Viele Faktoren unberücksichtigtGoogle entfernt falsche KI-Information zu Lebertests
KI wird von vielen täglich genutzt, um schnell Informationen zu erhalten. Google betont, die Ergebnisse seien oft "hilfreich" und "zuverlässig". Nach einer Recherche können sie die Gesundheit von Nutzern aber auch deutlich gefährden. In einem Fall muss das Unternehmen das Suchergebnis entfernen.
Google hat einige seiner KI-basierten Gesundheitszusammenfassungen (AI Overviews) entfernt, die falsche oder irreführende Informationen von Leberkrankheiten enthielten. Wie eine Recherche der englischen Zeitung "The Guardian" zeigte, hatte die KI nach der Frage "Was ist der normale Bereich für Leber-Bluttests?" Leberwerte angegeben, die Menschen mit ernsthaften Lebererkrankungen fälschlicherweise als gesund erscheinen ließen und betroffene Nutzer damit gefährden.
Nach der Veröffentlichung des Berichts hat Google die Ergebnisse entfernt, ohne den genauen Fall zu kommentieren. Vielmehr betonte ein Sprecher, dass stets an der Verbesserung der KI gearbeitet werde und gegebenenfalls in Prozesse eingegriffen werde, aber die KI-Zusammenfassung bei vielen Themen und Fragen für Nutzer "hilfreich" und "zuverlässig" sei.
Gesundheitsorganisationen bezeichneten den Vorfall als "gefährlich und alarmierend" und lobten das Eingreifen des Unternehmens. Sie kritisierten, dass KI-Zusammenfassungen oft Zahlen ohne Kontext liefern und wichtige Faktoren wie Alter, Geschlecht oder Ethnie nicht berücksichtigen. Somit würden sich die Ergebnisse teils drastisch von den tatsächlichen Gesundheits- beziehungsweise Krankheitswerten unterscheiden.
Trotz Entfernung einzelner fehlerhafter Ergebnisse blieben ähnliche irreführende Gesundheitsinformationen über andere Suchanfragen bestehen, betonte die Direktorin des British Liver Trusts - der größten englischen Wohltätigkeitsorganisationen für Lebergesundheit - Vanessa Hebditch. Lebertests seien sehr komplex, da sie individuell ausfielen, die KI-Zusammenfassungen aber bestimmte Ergebnisse fett gedruckt präsentieren und so Nutzer von ihren jeweiligen Testergebnissen ablenken, sagte sie.
Google erklärte, jegliche Inhalte würden intern von Klinikern überprüft und stützten sich auf hochwertige Quellen. Die Forderung von Hebditch, das Unternehmen solle die KI-Übersichten bei Gesundheitsfragen generell deaktivieren, um die Verbreitung möglicher Falschinformationen zu unterbinden, lehnte das Unternehmen ab.