87% af virksomhederne oplevede sidste år AI-baserede cyberangreb, og 95% af it-sikkerhedsspecialisterne fortæller, at de har oplevet en stigning i antallet af AI-angreb over de seneste to år.
Det er en klar og stigende tendens til, at cyberkriminelle benytter AI til at lave mere sofistikerede og hurtigere angreb, som samtidig er sværere at opdage. Det viser seneste ”AI Security Report” fra sikkerhedsvirksomheden Check Point Software Technologies.
”Det er ikke kun os selv, der for alvor har taget AI-løsninger til sig i vores dagligdag. Cyberkriminelle har I den grad også fundet ud af, hvordan de kan bruge det i deres forretning. Og det sætter nogle helt nye krav til, hvad virksomhederne skal gøre for at sikre sig fremover,” udtaler Morten Gransøe, Country Manager for Danmark i Check Point Software Technologies.
Check Point Software Technologies ser især fire AI-trusler udvikle sig med hastige skridt.
1. Brugen af ondsindede AI-modeller er stigende
It-kriminelle har været hurtige til at se mulighederne i de store mainstream LLM-modeller (f.eks. ChatGPT, Gemini, Copilot, DeepSeek, Qwen og Claude), som de har jailbreaket og modificeret.
Det betyder, at de nu kan tilbyde services som GhostGPT og HackerGPT på darknet fora og Telegram, og som gør sofistikerede cyberkriminalitetsværktøjer tilgængelige for en bredere gruppe af kriminelle.
De bliver ofte markedsført som den “ultimative hacking-AI”. Skaberne praler med, at de kan generere phishing-e-mails, skrive malware og udarbejde social engineering-manuskripter uden etiske begrænsninger, ligesom AI’erne kan bruges til bedrageri, oprettelse af botnet og cyberintrusion. Alt sammen løsninger der tilbydes som abonnementsordninger og med fuld kundersupport.
2. AI-drevet social engineering
Social engineering, der handler om at manipulere folk til at gøre noget, som de måske normalt ikke ville have gjort, ser også ind i en kraftig forandring.
Her bruger cyberkriminelle nu både tekst, lyd og billeder, skabt af AI, til at udgive sig for at være personer eller virksomheder, som ofret har eller får tillid til, og hvor man overtales til f.eks. at klikke på ondsindede links, installere malware eller overføre penge til de kriminelle netværk.
”AI er i gang med at revolutionere brugen af social engineering, bl.a. gennem avanceret brug af deepfake-teknologi til identitetsforfalskning og stemmekloning. Samtidig gør AI det nemt at skalere sin kriminelle forretning ved at automatisere chatsamtaler og hurtigt at generere flersprogede phishing-e-mails,” siger Morten Gransøe.
Flere cyberkriminelle grupper tilbyder f.eks. AI-generede Business Email Compromise (BEC) løsninger, hvor de udnytter e-mail-kommunikation til at bedrage virksomheder og organisationer.
Det sker typisk ved, at angriberne udgiver sig for at være en betroet person, som en leder (CEO fraud), en leverandør eller en vigtig samarbejdspartner, og overtaler medarbejdere til at udføre økonomiske transaktioner eller dele følsomme oplysninger.
Og det virker. I et kontrolleret eksperiment kunne forskere vise, at AI-generede phising mails fik over 75% af modtagerne til at klikke på de inficerede links.
3. Voksende marked for stjålne LLM-konti
I takt med at flere og flere benytter AI-services som f.eks. ChatGPT, bliver det også mere interessant for de it-kriminelle at få adgang til ens konti.
F.eks. er det attraktivt at få adgang til premium-funktioner og avancerede AI-modeller uden at betale, og bruge adgangen til at generere farligt indhold, som ellers ville være blokeret af sikkerhedsforanstaltninger (f.eks. skabelse af malware, phishing-scripts og social engineering). Hvis kontoen har API-adgang, kan kriminelle automatisere og skabe ondsindet indhold i stor skala.
Kriminelle kan også få adgang til brugerens tidligere samtaler, hvilket kan afsløre følsomme virksomhedsoplysninger, fortrolige data eller personlige oplysninger, som kan bruges til social engineering eller identitetstyveri.
4. AI bruges til udvikling af malware
Cyberkriminelle bruger i stigende grad også AI til at udvikle sofistikeret malware, herunder ransomware-scripts, infostealers og datamining-værktøjer.
Netop den massive automatisering af ondsindede AI-løsninger muliggør, at selv lavt kvalificerede kriminelle kan skabe kompleks malware, hvilket accelererer udviklingsprocessen og øger skalaen af angreb.
Derudover ser Check Point Software Technologies også en stigning i antallet af såkaldte Data Poisoning angreb, hvor statsstøttede grupper påvirker AI-løsninger, ved at uploade store mængder datasæt, som kan påvirke AI’ens fremtidige svar.
Det Moskva-baserede desinformationsnetværk, Pravda, producerede alene i 2024 3,6 millioner propaganda-fyldte artikler designet specifikt til at påvirke AI-chatbots’ svar. Operationen lykkedes, og forskere opdagede, at store AI-chatbots gentog Pravdas falske fortællinger cirka 33% af tiden.
AI er en ny dimension til cybersikkerheden
Sikkerhedseksperter og statslige myndigheder er enige om, at AI for alvor ændrer økonomien bag cyberkriminalitet ved at gøre angreb billigere, hurtigere og mere skalerbare, samtidig med at behovet for menneskelige ressourcer reduceres.
Center for Cybersikkerhed (CFCS) vurderer, at det er “meget sandsynligt”, at hackere udnytter generativ AI, især til at udforme phishing-e-mails og generere ondsindet kode.
”Når man skal beskytte sig mod cyberangreb, der bruger AI, er det først og fremmest vigtigt at huske, at der ikke anvendes nye og ukendte metoder. AI fungerer primært som et værktøj for angriberen og en katalysator, som gør angrebene hurtigere, mere målrettede og i en bedre kvalitet,” fortæller Jacob Herbst, CTO i Dubex A/S og forperson for IT-Branchens Policy Board for Cybersikkerhed.
Det betyder, at alle de anbefalinger, der i øvrigt beskytter imod bl.a. social engineering, også beskytter mod angreb der bruger AI.
Her er derfor fem gode generelle råd mod AI-kriminalitet:
- Awareness og uddannelse
Awareness og uddannelse er en af de bedste måder at beskytte sig mod svindel og falske informationer – også fra AI. Sørg for at kende de seneste svindelmetoder, og hvordan man genkender og reagerer på dem. Viden og oplysninger er også den bedste beskyttelse mod falske nyheder, konspirationsteorier og misinformation. - Vær opmærksom på phishing og social engineering
AI kan bruges til at skabe meget overbevisende phishing-e-mails og beskeder f.eks. på sociale medier. Vær altid ekstra opmærksom på uopfordrede e-mails, særligt hvis de linker til hjemmesider, anmoder om personlige oplysninger eller penge. Kontrollerer altid afsenderens e-mailadresse og vær forsigtig med at klikke på links eller åbne vedhæftede filer. - Vær særlig opmærksom på deepfakes
Deepfake-teknologi kan bruges til at skabe falsk video og lyd, der ser og lyder ægte både med fiktive personer, med kendte samt med personer man kender. Vær også opmærksom på video og lyd af familiemedlemmer og personer du kender kan efterlignes, så aftal evt. kodeord eller stil kontrolspørgsmål som kun vedkommende kan svare på, hvis du bliver mistænkelig. - Vær opmærksom på deling af personlige oplysninger
Svindlere kan bruge oplysninger fra sociale medier til at målrette deres angreb, og lyd- og videooptagelser kan bruges til fremstilling af deepfake. Ved en stor offentlige tilstedeværelse er det nemt for en angriber at finde materiale både til overbevisende social engineering og deepfakes. Vil du beskytte mod det, så del kun personlige oplysninger med folk du stoler på og vær opmærksom på, hvad du deler på sociale medier. I praksis er dette råd dog svært at følge, da angriberen ofte ikke behøver ret meget information. - God cyberhygiejne
Derudover er det altid vigtigt at opretholde en generel god cyberhygiejne bl.a. at holde systemer og applikationer opdaterede, sørge for at bruge to-faktor, hvor det er muligt, vælge stærke og unikke passwords, anvende sikkerhedsværktøjer som antivirusprogrammer, firewalls og anti-phishing software osv.
Hvis du vil vide mere
IT-Branchens Policy Board for Cybersikkerhed arbejder for at italesætte behovet for at højne it-sikkerheden i Danmark og skabe opmærksomhed om it-sikkerhedsindsatser, -trusler og -løsninger.
Kontakt Troels Johansen, hvis du vil vide mere om, hvad IT-Branchen laver i forhold til cybersikkerhed.
Derudover tilbyder vi også løbende it-sikkerhedsevents, som du kan finde på vores eventside. Og så kan du altid finde seneste tal og analyser om cybersikkerhed i vores omfattende talunivers.
