Google meldde dat zijn vlaggenschip AI-chatbot Gemini het doelwit is van commercieel gemotiveerde actoren die proberen deze te klonen via herhaalde aanwijzingen, waaronder een campagne met meer dan 100.000 zoekopdrachten.
In een donderdagrapport omschreef Google de activiteit als ‘distillatieaanvallen’ of ‘modelextractie’, waarbij aanvallers het systeem onderzoeken op patronen en logica om hun eigen AI-modellen te repliceren of te verbeteren.
Het bedrijf schrijft de meeste pogingen toe aan particuliere bedrijven of onderzoekers die op zoek zijn naar concurrentievoordeel. Een woordvoerder vertelde NBC News dat de aanvallen wereldwijd afkomstig lijken te zijn, maar er werden geen verdere details over de verdachten verstrekt.
John Hultquist, hoofdanalist van Google’s Threat Intelligence Group, waarschuwde dat de Gemini-incidenten een voorbode kunnen zijn van soortgelijke aanvallen op de aangepaste AI-tools van kleinere bedrijven. Hij zei: “Wij zullen de kanarie in de kolenmijn zijn voor nog veel meer incidenten”, en weigerde namen van verdachten te noemen.
Google classificeert distillatie als diefstal van intellectueel eigendom. Het bedrijf merkte op dat miljarden dollars zijn geïnvesteerd in de ontwikkeling van grote taalmodellen, en dat de interne algoritmen van topmodellen als zeer waardevolle eigen activa worden beschouwd.
Ondanks detectie- en blokkeringsmechanismen blijven grote LLM’s kwetsbaar omdat ze voor iedereen op internet toegankelijk zijn. OpenAI beschuldigde de Chinese rivaal DeepSeek eerder van het uitvoeren van distillatieaanvallen om zijn modellen te verbeteren.
Veel van de aanwijzingen zijn ontworpen om de algoritmen te extraheren die Gemini in staat stellen informatie te ‘redeneren’ en te verwerken. Hultquist voegde eraan toe dat organisaties, wanneer ze aangepaste LLM’s trainen op het gebied van gevoelige gegevens, bedrijfseigen strategieën blootleggen. Hij illustreerde: “Laten we zeggen dat uw LLM is getraind in 100 jaar geheim nadenken over de manier waarop u handelt. Theoretisch zou u daar een deel van kunnen destilleren.”
Het rapport onderstreept de groeiende bezorgdheid in de AI-industrie over modelextractie en de behoefte aan sterkere waarborgen tegen diefstal van intellectueel eigendom.
Google merkte op dat de frequentie van distillatieaanvallen de afgelopen maanden sterk is gestegen, wat het bedrijf ertoe heeft aangezet de monitoring- en responsmogelijkheden te verbeteren. Het bedrijf zegt dat zijn detectiesystemen afwijkende vraagpatronen signaleren, maar dat aanvallers zich aanpassen om de beveiliging te omzeilen. Google benadrukte dat de propriëtaire architecturen en trainingsgegevens van grote taalmodellen een aanzienlijk concurrentievoordeel vertegenwoordigen, en dat ongeoorloofde extractie dat voordeel ondermijnt. Het rapport benadrukte ook dat andere spelers uit de sector met soortgelijke bedreigingen te maken hebben gehad, waarbij OpenAI DeepSeek publiekelijk beschuldigde van het gebruik van geëxtraheerde gegevens om zijn eigen modellen te verfijnen. Het dreigingsinformatieteam van Google blijft de wereldwijde activiteiten volgen en partners adviseren over mitigatiestrategieën.
