Google Zoeken is een tool die we allemaal bijna reflexmatig gebruiken, en veranderingen in het gedrag ervan kunnen een grote impact hebben op de manier waarop we online informatie vinden.
Onlangs heeft Google een functie uitgerold, Google SGE, waar sommige zoekresultaten nu door AI gegenereerde samenvattingen bevatten. In een recente beperkte uitrol die enkele Amerikaanse gebruikers treftde nieuwe functie van Google met door AI samengevatte resultaten zorgen geuit over de gematigdheid.
Hoewel Google de bedoeling heeft dat dit nuttig is, lijkt het erop dat deze samenvattingen een onbedoelde donkere kant. Er is sprake van een zorgwekkende stijging zwendel- en malwaresites die worden aangeboden in deze AI-samenvattingen.
Wat is het probleem met door AI gegenereerde samenvattingen?
Het idee achter deze functie is redelijk eenvoudig: Google wil snelle antwoorden geven zonder dat je een heleboel websites hoeft te bezoeken. Voor sommige vragen – zoals ‘hoeveel eetlepels in een kopje’ – kunnen AI-samenvattingen erg nuttig zijn. Soms zijn door AI gegenereerde antwoorden echter onvolledig, misleidend of gewoonweg verkeerd.
Wat zorgwekkender is, is dat ze soms voorkomen gevaarlijke inhoud actief promoten.
Gespot door Lily Ray op Xbeveelt de AI-aangedreven zoekfunctie van Google, SGE, spamsites aan als onderdeel van een antwoord:
OH GOED.
SGE ZAL DE SPAMSITES ZELFS AANBEVELEN ALS ONDERDEEL VAN HET ANTWOORD. pic.twitter.com/wqgFFXqbMB
– Lily Ray (@lilyraynyc) 22 maart 2024
Dit heeft grote gevolgen voor de online veiligheid. Zoekmachines zijn onze toegangspoort tot internet en veel gebruikers vertrouwen impliciet op de topresultaten. Door AI gegenereerde samenvattingen die op legitieme antwoorden lijken, kunnen oplichtingspraktijken een extra laag geloofwaardigheid geven.
Hoe wordt de Google AI misleid voor oplichtingswaardige samenvattingen?
SEO-specialisten (Search Engine Optimization) en minder scrupuleuze website-eigenaren hebben lange tijd zoekalgoritmen gemanipuleerd om de ranking van hun site te verbeteren. Nu worden diezelfde technieken gebruikt om misleidende informatie naar de AI van Google te sturen met als doel deze samenvattingen te kapen.
Hier is een voorbeeld van hoe dit zou kunnen werken:
- Oplichting opgezet: Een oplichter maakt een website die een deal aanbiedt die te mooi is om waar te zijn, zoals een iPhone met hoge kortingen
- Algoritme gamen: ze vullen hun site met trefwoorden en inhoud die is ontworpen om de site relevant te laten lijken, zelfs als deze vol staat met neprecensies en technisch gebrabbel
- AI is te slim af: de AI van Google scant de site op informatie, mist de misleidende patronen en wordt misleid door te denken dat de site een geweldige bron is
- Gevaarlijke samenvatting: Wanneer iemand naar informatie met betrekking tot dat product zoekt, genereert de AI een samenvatting waarin de oplichtingssite prominent wordt vermeld
Vertrouw de machine niet (volledig)
Hoewel Google hopelijk het vermogen van zijn AI om kwaadaardige inhoud te detecteren en eruit te filteren zal verbeteren, is het van cruciaal belang om zich bewust te zijn van de risico’s.
Hier leest u hoe u veilig kunt blijven:
- Controleer bronnen nogmaals: Neem zelfs bij AI-samenvattingen even de tijd om de website te bekijken die deze suggereert. Zoek naar tekenen van onbetrouwbare webadressen (zoals ongebruikelijke topniveaudomeinen zoals .online), generiek site-ontwerp of een overvloed aan lovende recensies die te veel op elkaar lijken
- Traditioneel zoeken is nog steeds je vriend: Laat het scrollen door de standaardzoekresultaten niet helemaal achterwege. Gevestigde, gerenommeerde sites bieden vaak nog steeds de meest nauwkeurige informatie
- Scepsis is een schild: Als een deal onmogelijk goed lijkt, is dat vrijwel zeker het geval. Laat u niet meeslepen door aanbiedingen die te mooi zijn om waar te zijn, ook al lijkt een Google-samenvatting deze te onderschrijven
De afhaalmaaltijd? Vooruitgang op het gebied van AI vergt voorzichtigheid
Hoewel AI het potentieel heeft om veel online taken te stroomlijnen, is het van cruciaal belang om je bewust te zijn van de beperkingen en het potentieel voor misbruik ervan. Door AI gegenereerde samenvattingen kunnen een allegaartje zijn.
Pas een gezonde dosis kritisch nadenken toe op uw zoekresultaten totdat het vermogen om onbetrouwbare websites te herkennen verbetert.
Uitgelicht beeldtegoed: Google YouTube
Source: De samenvattingen van Google AI roepen alarmsignalen op omdat de zoekresultaten iets te ‘slim’ zijn