Google heeft een civiele rechtszaak aangespannen tegen een in China gevestigde cybercriminaliteitsgroep, geïdentificeerd als de Outsider Enterprise, waarin wordt beweerd dat de groep zijn Gemini AI-systeem heeft misbruikt voor phishing-activiteiten. De rechtszaak, ingediend op 12 juni 2026, beweert dat de Outsider Enterprise Gemini heeft gebruikt om phishing-websites te genereren en miljoenen frauduleuze sms-berichten naar Android-gebruikers te sturen, terwijl ze zich voordoen als bekende merken, waaronder Google, YouTube en de US Postal Service.
De klacht beschrijft de activiteiten van de groep als een vorm van geïndustrialiseerde phishing-as-a-service. In mei stuurde de Outsider Enterprise naar verluidt ongeveer 2,5 miljoen oplichtingsberichten naar Android-gebruikers, wat resulteerde in ongeveer 55.000 spamklachten tegen de operatie. Google identificeerde ook ongeveer 9.000 nepwebsites en meer dan 1 miljoen frauduleuze URL’s die met de groep waren verbonden.
Volgens een gedetailleerd beveiligingsblog van Google gebruikten leden van de Outsider Enterprise Gemini om aangepaste code te genereren voor phishing-bestemmingspagina’s. Deze pagina’s zijn ontworpen om legitieme aanbiedingen na te bootsen, zoals het inwisselen van cadeaus en accountverificaties. Het platform van de operatie bood honderden kant-en-klare sjablonen en documentatie, waardoor zelfs niet-technische gebruikers grootschalige phishing-campagnes konden lanceren.
De FBI heeft samengewerkt met Google en beveiligingsonderzoekers om verschillende domeinen en winkelpuien in beslag te nemen die door de Outsider Enterprise worden gebruikt om zijn phishing-activiteiten uit te voeren. Daarnaast werkt Google samen met de grote providers AT&T, T-Mobile en Verizon om zwendelverkeer te blokkeren en maakt Google gebruik van AI-gestuurde detectiesystemen om kwaadaardige berichten te onderscheppen voordat ze gebruikers bereiken.
In de rechtszaak beschuldigt Google de Outsider Enterprise van verschillende misdaden, waaronder afpersing, telegrafische fraude en inbreuk op handelsmerken. Het bedrijf vordert een voorlopige voorziening en schadevergoeding gericht op de ontmanteling van de infrastructuur van de groep. Google verzoekt om rechterlijke bevelen om de belangrijkste infrastructuur die wordt gebruikt voor het hosten en publiceren van frauduleuze pagina’s in beslag te nemen of te blokkeren en om de mogelijkheden van de groep om nieuwe phishing-sites te maken te beperken.
Federale instanties, waaronder de Amerikaanse postinspectiedienst, hebben waarschuwingen afgegeven over veel voorkomende smishing-tactieken, zoals valse waarschuwingen voor het volgen van pakketten en dringende financiële berichten. Ze raden gebruikers aan om niet op links in onverwachte teksten te klikken en geen persoonlijke informatie te delen. Gebruikers wordt geadviseerd verdachte berichten te melden door deze door te sturen naar 7726 (SPAM) en klachten in te dienen bij de FTC.
Deskundigen merken op dat deze zaak het potentiële misbruik van generatieve AI bij het faciliteren van grootschalige fraude benadrukt. De rechtszaak vormt een eerste test van hoe het rechtssysteem omgaat met AI-ondersteunde criminele activiteiten, wat mogelijk vorm zal geven aan toekomstige rechtszaken en regelgeving met betrekking tot geautomatiseerde oplichting. Google streeft ernaar te voorkomen dat de Outsider Enterprise oplichtingspagina’s publiceert en het aantal kwaadaardige berichten dat de apparaten van gebruikers bereikt, te verminderen.
