Perfekta mejl, osynliga bedrägerier

GenAI driver nästa generations nätfiskeattacker

DBIR 2025: 10 % av meddelandena skapas nu med GenAI. När hackare förfinar sina metoder skapar anställda omedvetet nya säkerhetsluckor.

Felfria mejl med oklanderlig jargong – nätfiske har fått ett nytt ansikte. Det som gör det mer övertygande än någonsin är generativ AI (GenAI), som allt oftare används av cyberbrottslingar. Med mänskligt språk, polerat ordförråd och branschspecifik ton är GenAI det perfekta verktyget för att imitera betrodda organisationer.

Enligt 2025 års Data Breach Investigations Report (DBIR) från Verizon Business har andelen AI-genererade nätfiskemejl mer än fördubblats på två år. Redan 2023 uppskattades andelen till 5 procent, ett tydligt tecken på den snabbt ökande sofistikeringen.

Hackare använder stora språkmodeller för att finjustera språk och ton, och anpassar meddelanden till mottagarens kulturella och språkliga sammanhang, vilket gör dem svåra att skilja från äkta kommunikation. Det ökar risken att ovetande användare lämnar ut känslig information, inloggningsuppgifter eller konfidentiella dokument.

Men hotet är inte bara externt. Ett växande riskområde är de anställda själva. Enligt DBIR 2025 använder 15 procent av medarbetarna regelbundet generativa AI-plattformar från arbetsgivarens enheter, ofta via obehöriga personliga konton som kringgår IT-säkerhetspolicyer.

Det är en utbredd och riskfylld praxis. Förutom att skriva, översätta eller programmera laddar anställda ofta upp potentiellt känsligt innehåll, som kunddata, interna mejl eller strategiska dokument. Väl uppladdat kan det användas för att träna modeller, lagras externt eller exponeras vid säkerhetsbrister.

En ytterligare utmaning är AI:s växande integration i mobila operativsystem. Funktioner som röstassistenter, automatisk innehållssammanfattning och kontextbaserade förslag är ofta aktiverade som standard och svåra att kontrollera. I så kallade BYOD-miljöer (Bring Your Own Device), där personlig och företagsrelaterad data samexisterar på samma enhet, kan dessa AI-funktioner medföra nya säkerhetsrisker. Varje interaktion mellan AI-appar och företagsinnehåll kan utgöra en möjlig angreppspunkt för intrång eller dataläckor.

Detta är inte längre ett teoretiskt hot. Under 2025 inträffade ett intrång där känslig information exponerades, inklusive användaruppladdade frågor och dokument. Det är ett tydligt bevis på att även GenAI-plattformar kan bli värdefulla mål och öka angreppsytan. Risken handlar nu inte bara om enskilt missbruk, utan om själva infrastrukturen bakom AI-lösningen.

2025-10-07 - Industritorget