Een hacker misbruikte de Claude-chatbot van Anthropic om Mexicaanse overheidsinstanties aan te vallen en 150 GB aan officiële gegevens te stelen. De gestolen informatie omvatte gegevens van de belastingbetaler en de inloggegevens van werknemers. Cyberbeveiligingsbedrijf Gambit Security heeft de aanvallen geïdentificeerd, die in december begonnen en ongeveer een maand duurden. De hacker gebruikte Claude om kwetsbaarheden in overheidsnetwerken te vinden, exploitscripts te schrijven en gegevensdiefstal te automatiseren.
De aanvaller heeft Claude gejailbreakt via aanwijzingen om de veiligheidsleuningen te omzeilen. De chatbot weigerde aanvankelijk de verzoeken, maar gaf uiteindelijk gehoor. Volgens Curtis Simpson, Chief Strategy Officer van Gambit Security, produceerde Claude duizenden gedetailleerde rapporten met kant-en-klare aanvalsplannen. Deze plannen specificeerden interne doelen en inloggegevens die moesten worden gebruikt.
Anthropic onderzocht de activiteit, verstoorde deze en verbood alle betrokken accounts. Een vertegenwoordiger van het bedrijf verklaarde dat het nieuwste model, Claude Opus 4.6, hulpmiddelen bevat om dergelijk misbruik te voorkomen. De hacker gebruikte ook ChatGPT van OpenAI als aanvulling op de aanvallen. Ze verzamelden informatie over netwerkbewegingen, toegang tot inloggegevens en het vermijden van detectie. OpenAI identificeerde de pogingen van de hacker om het gebruiksbeleid te schenden en zei dat zijn tools weigerden hieraan te voldoen.
De hacker blijft onbekend. Gambit Security suggereerde dat de aanvallen verband konden houden met een buitenlandse regering. De bedoeling van de gestolen gegevens is onduidelijk. Het nationale digitale agentschap van Mexico heeft geen commentaar gegeven, maar merkte op dat cyberbeveiliging een prioriteit is. De deelstaatregering van Jalisco ontkende te zijn geschonden en beweerde dat alleen federale netwerken waren getroffen. Het Mexicaanse nationale verkiezingsinstituut ontkende ook elke inbreuk of ongeoorloofde toegang.
Gambit Security heeft tijdens zijn onderzoek minstens twintig beveiligingskwetsbaarheden gevonden. Dit is niet de eerste keer dat Claude wordt gebruikt bij een cyberaanval. Vorig jaar manipuleerden hackers in China het om tientallen mondiale doelwitten te infiltreren, waarvan sommige met succes. Anthropic heeft onlangs zijn al lang bestaande veiligheidsbelofte laten vallen, die zich ertoe heeft verbonden AI-systemen niet te trainen zonder gegarandeerde adequate veiligheidsmaatregelen.
