Nach einer Befragung durch die britische „Guardian“-Untersuchung hat Google die AI-Übersichtsfunktion von einigen medizinischen Suchergebnisseiten im Zusammenhang mit der Leberfunktion entfernt. Eine Untersuchung von The Guardian ergab, dass Google AI Overview bei der Beantwortung bestimmter Gesundheitsfragen möglicherweise irreführende Informationen lieferte, was Bedenken hinsichtlich der Sicherheit seiner medizinischen Szenarien aufkommen ließ.
Laut einem früheren Bericht von The Guardian zeigt die von Google bereitgestellte KI-Übersicht direkt eine Reihe von Werten an, wenn ein Benutzer fragt „Was ist der normale Bereich für Leberbluttests“, ohne zwischen wichtigen Faktoren wie Nationalität, Geschlecht, Rasse und Alter zu unterscheiden. Experten befürchten, dass dieser „einheitliche“ Referenzbereich dazu führen könnte, dass einige Benutzer fälschlicherweise glauben, dass ihre Testergebnisse normal sind, und dadurch eine medizinische Behandlung verzögern oder potenzielle Risiken ignorieren.
In der neuesten Entwicklung sagte der Guardian, Google habe KI-Übersichten aus verwandten Abfrageergebnissen wie „Normalbereich von Leberbluttests“ und „Normalbereich von Leberfunktionstests“ (was ist der Normalbereich für Leberfunktionstests) entfernt. Die Untersuchung ergab jedoch auch, dass geringfügige Abweichungen bei der gleichen Art von Fragen, wie etwa die Eingabe von „LFT-Referenzbereich“ oder „LFT-Test-Referenzbereich“, immer noch KI-generierte zusammenfassende Antworten auslösen können.
TechCrunch-Reporter haben es Stunden nach der Veröffentlichung des neuesten Guardian-Berichts selbst getestet und festgestellt, dass das AI-Übersichtsmodul weder für die ursprüngliche Frage noch für ihre Variationen mehr auf der Suchergebnisseite angezeigt wurde. In mehreren Tests wird Google weiterhin einen Zugang zum „Stellen von Fragen im KI-Modus“ bereitstellen, die Standardsuchergebnisse bestehen jedoch hauptsächlich aus herkömmlichen Links. Das erste Ergebnis vieler Anfragen ist der Bericht des Guardian über die Entfernung der KI-Übersicht durch Google selbst.
Zum konkreten Entfernungsverhalten teilte Google dem Guardian mit, dass sich das Unternehmen nicht zu „einzelnen Entfernungsfällen“ in der Suche äußern, sondern weiterhin „umfangreiche Verbesserungen“ vornehmen werde. Ein Google-Sprecher gab außerdem bekannt, dass ein internes Team von Ärzten die relevanten Anfragen des Guardian überprüft hat und davon ausgeht, dass „die Informationen in vielen Fällen nicht ungenau sind und durch qualitativ hochwertige Websites unterstützt werden“.
Google wurde um weitere Kommentare zu dieser Angelegenheit gebeten. Der Bericht erinnert daran, dass Google im vergangenen Jahr eine Reihe von Verbesserungen angekündigt hat, die darauf abzielen, das Sucherlebnis in medizinischen Szenarien zu optimieren, darunter eine verbesserte Übersichtsdarstellung von Gesundheitssuchen und die Einführung spezialisierterer gesundheitsbezogener KI-Modelle.
Vanessa Hebditch, Direktorin für Kommunikation und Politik beim British Liver Trust, sagte dem Guardian, dass die Entfernung der entsprechenden KI-Übersicht durch Google „eine gute Nachricht“ sei. Sie betonte aber auch, dass die größere Sorge darin bestehe, dass die Außenwelt derzeit „bei einem einzelnen Suchergebnis kleinlich ist und Google das Bluten schnell stoppen kann, indem es die KI-Übersicht einzelner Suchanfragen abschaltet, aber das Gesamtproblem der Gesundheits-KI-Übersicht hat das nicht wirklich berührt.“