De meeste zoekmachines beschikken nu standaard over door AI gegenereerde overzichten, wat aanleiding geeft tot zorgen over de nauwkeurigheid en het doorklikverkeer vermindert. Hoewel uit tests blijkt dat de AI-overzichten van Google grotendeels betrouwbaar zijn, leidt het grote aantal zoekopdrachten dagelijks tot miljoenen onnauwkeurigheden.
Ongeveer één op de tien Google AI-zoekoverzichten bevat volgens The New York Times naar verluidt valse informatie. Google verwerkt jaarlijks ongeveer 5 biljoen zoekopdrachten, waardoor gebruikers theoretisch elk uur worden blootgesteld aan meer dan 57 miljoen onnauwkeurige antwoorden – bijna 1 miljoen per minuut.
Deze statistieken komen voort uit een analyse van AI-startup Oumi, die 4.326 zoekopdrachten onderzocht om de nauwkeurigheid van Google’s AI-assistent, Gemini, te evalueren. Oumi meldde dat Gemini versie 2 in oktober 85 procent van de tijd nauwkeurige overzichten opleverde. Een verbeterde versie, Gemini 3, verhoogde de nauwkeurigheid in februari tot 91 procent.
De analyse van Oumi is echter gebaseerd op AI-tools, die ook fouten kunnen introduceren. Bovendien produceert Google soms verschillende AI-overzichten voor dezelfde zoekopdracht wanneer deze enkele seconden na elkaar wordt herhaald.
Een woordvoerder van Google bekritiseerde de Oumi-tests en noemde deze gebrekkig en niet representatief voor het daadwerkelijke zoekgedrag. Uit interne beoordelingen van Google blijkt dat Gemini 3 28 procent van de tijd hallucineert wanneer het onafhankelijk van Google Zoeken functioneert.
Er zijn ook aanzienlijke problemen met de sourcing. Google wil zijn AI-overzichten ondersteunen met relevante links; Veel van deze links ondersteunen echter de beweringen van Gemini niet. De discrepanties tussen AI-overzichten en de door hen geciteerde bronnen namen toe van 37 procent voor Gemini 2 naar 56 procent voor Gemini 3 na de update van februari.
Onderzoekers benadrukten de kwetsbaarheid van AI-overzichten voor manipulatie; Bij één geval was een BBC-journalist betrokken wiens valse beweringen de volgende dag door Google werden herhaald. Zowel Google als andere AI-bedrijven erkennen het onbetrouwbare karakter van de technologie in hun disclaimers.
