Google heeft AI-overzichten uit zoekresultaten voor specifieke medische vragen verwijderd nadat uit een onderzoek van Guardian misleidende informatie aan het licht kwam. Het onderzoek richtte zich op gezondheidsgerelateerde zoekopdrachten waarbij de AI-samenvattingen onvolledige details opleverden. The Guardian meldde dat de vraag ‘wat is het normale bereik voor leverbloedonderzoeken’ cijfers opleverde die geen rekening hielden met factoren als nationaliteit, geslacht, etniciteit of leeftijd. Deze weglating kan ertoe leiden dat gebruikers hun resultaten verkeerd interpreteren als gezond, terwijl dat niet zo is. Op dezelfde manier leverde “wat is het normale bereik voor leverfunctietests” hetzelfde probleem op. Na het onderzoek verschijnen er voor die exacte zoekopdrachten geen AI-overzichten meer. The Guardian controleerde variaties zoals ‘lft-referentiebereik’ en ‘lft-testreferentiebereik’, die aanvankelijk nog steeds AI-samenvattingen opleverden. Enkele uren na de publicatie van het verhaal bevestigden tests van TechCrunch echter dat geen van deze varianten AI-overzichten vertoonde. Google bleef een AI-modusoptie aanbieden voor de zoekopdrachten. In meerdere gevallen was het bovenste zoekresultaat het artikel van de Guardian over de verwijdering. Een woordvoerder van Google vertelde de Guardian dat het bedrijf geen “commentaar geeft op individuele verwijderingen binnen Search”, maar benadrukte de voortdurende inspanningen om “brede verbeteringen aan te brengen.” De woordvoerder voegde eraan toe dat een intern team van artsen de gemarkeerde vragen heeft beoordeeld en heeft vastgesteld dat “de informatie in veel gevallen niet onnauwkeurig was en ook werd ondersteund door websites van hoge kwaliteit.” TechCrunch heeft contact opgenomen met Google voor verder commentaar. Vorig jaar introduceerde Google functies om zoekopdrachten in de gezondheidszorg te verbeteren, waaronder verbeterde overzichten en op gezondheid gerichte AI-modellen. Vanessa Hebditch, directeur communicatie en beleid bij de British Liver Trust, noemde de verwijdering ‘uitstekend nieuws’. Ze waarschuwde echter dat “onze grootste zorg bij dit alles is dat het een enkel zoekresultaat belachelijk maakt en dat Google daarvoor gewoon de AI-overzichten kan afsluiten, maar het grotere probleem van AI-overzichten voor de gezondheid wordt niet aangepakt.”
Source: Google verwijdert AI-overzichten uit medische zoekopdrachten
