De Threat Intelligence Group (GTIG) van Google heeft de ontdekking aangekondigd van een zero-day-exploit die vermoedelijk is ontwikkeld door kunstmatige intelligentie. Dit markeert de eerste identificatie door het bedrijf van een dergelijke exploit, die bedoeld was voor een ‘massale exploitatie-gebeurtenis’. GTIG verklaarde dat de proactieve ontdekking mogelijke aanvallen mogelijk heeft voorkomen.
Hoewel Google niet gelooft dat zijn eigen Gemini-modellen betrokken waren bij het creëren van de exploit, heeft het “grote vertrouwen” dat een AI-model een rol heeft gespeeld bij het ontdekken en bewapenen van de kwetsbaarheid. Het specifieke doelwit van de exploit werd niet bekendgemaakt, maar Google bracht het getroffen naamloze bedrijf op de hoogte, dat vervolgens het probleem oploste.
GTIG heeft de identiteit van de dreigingsactoren niet onthuld, maar vermeldde dat groepen geassocieerd met China en Noord-Korea aanzienlijke interesse hebben getoond in het gebruik van AI voor cyberexploitaties. Het rapport benadrukte dat dreigingsactoren in toenemende mate AI gebruiken in verschillende stadia van cyberaanvallen, waardoor er alarm ontstaat over toekomstige risico’s die gepaard gaan met AI-gestuurde aanvallen.
John Hultquist, hoofdanalist van GTIG, beschreef het incident als “een voorproefje van wat komen gaat” en “het topje van de ijsberg”, wat het evoluerende gebruik van AI in cybercriminaliteit illustreert. Hij merkte op dat deze zaak het eerste “tastbare bewijs” van dergelijke aanvallen vertegenwoordigt.
Ondanks de gevaren die AI in bekwame handen met zich meebrengt, beweert Google dat AI ook een effectief instrument kan zijn voor de verdediging van cyberveiligheid. Andere bedrijven implementeren ook AI voor beschermende maatregelen. Zo kondigde Anthropic vorige maand Project Glasswing aan, dat zich richt op het gebruik van AI om ‘zeer ernstige kwetsbaarheden’ te identificeren en te beperken.
