Microsoft heeft deze week een threat intelligence-rapport uitgebracht waaruit blijkt dat hackers steeds vaker kunstmatige intelligentie integreren in elke fase van hun activiteiten, van verkenning en phishing tot de ontwikkeling van malware en activiteiten na compromitteringen.
Het bedrijf omschreef AI als een ‘krachtvermenigvuldiger’ die technische barrières vermindert en de uitvoering versnelt voor aanvallers met verschillende vaardigheidsniveaus. De bevindingen geven aan dat de adoptie van AI de technische vaardigheid verlaagt die nodig is om grootschalige cyberaanvallen uit te voeren.
De Noord-Koreaanse dreigingsgroepen Jasper Sleet en Coral Sleet gebruiken generatieve AI om uitgebreide nep-werkgelegenheidsprogramma’s aan te drijven die gericht zijn op westerse bedrijven. Acteurs van Jasper Sleet gebruiken AI-tools om cultureel passende namenlijsten te genereren, nep-cv’s aan te passen aan specifieke vacatures en professionele communicatie op te stellen om langdurig werk te behouden zodra ze zijn aangenomen, aldus CyberScoop.
Microsoft zag dat Jasper Sleet de AI-toepassing Faceswap gebruikte om de gezichten van Noord-Koreaanse IT-medewerkers in gestolen identiteitsdocumenten in te voegen en gepolijste portretfoto’s voor cv’s te maken. De groep gebruikte ook stemveranderende technologie tijdens virtuele interviews om accenten te verhullen, waardoor agenten zich konden voordoen als westerse kandidaten, meldde The Guardian.
“Jasper Sleet gebruikt AI gedurende het hele aanvalsproces om werkgelegenheid veilig te stellen, werkgelegenheid te behouden en toegang op grote schaal te exploiteren”, aldus Microsoft.
Coral Sleet gebruikte AI-coderingstools om malwarecomponenten te genereren en te verfijnen, valse bedrijfswebsites te maken, externe infrastructuur aan te bieden en snel payloads te testen. De groep heeft grote taalmodellen gejailbreakt om kwaadaardige code te genereren die de ingebouwde veiligheidscontroles omzeilt, aldus Microsoft.
Microsoft merkte vroege experimenten op door bedreigingsactoren met agentische AI, waarbij modellen iteratieve besluitvorming en taakuitvoering ondersteunen, hoewel dit nog niet op grote schaal is waargenomen.
Google meldde in februari dat zijn Threat Intelligence Group dreigingsactoren heeft geobserveerd die AI gebruiken om informatie te verzamelen, phishing-campagnes te creëren en malware te ontwikkelen. Amazon documenteerde een campagne waarin een Russisch sprekende hacker generatieve AI-diensten gebruikte om in vijf weken tijd meer dan 600 FortiGate-firewalls in 55 landen te doorbreken. Hiermee werd aangetoond hoe AI een aanvaller met beperkte vaardigheden in staat stelde te opereren op een schaal die voorheen een groter, capabeler team vereiste.
Microsoft adviseerde organisaties om door AI aangedreven IT-werknemersprogramma’s als insiderrisico’s te behandelen en zich te concentreren op het detecteren van abnormaal gebruik van inloggegevens, het beschermen van identiteitssystemen tegen phishing en het beveiligen van AI-systemen die zelf doelwitten kunnen worden.
