Så används AI för riktade bedrägerier

Men motmedlen förbättras samtidigt

Generativa AI-tjänster som producerar text- och bildmaterial har enorma förutsättningar att förenkla och effektivisera arbetet inom en mängd olika branscher. Tyvärr gäller det även cyberbrottsligheten, och Cisco Talos har i en ny granskning kartlagt hur kriminella grupper snabbt anpassat sig till teknologin.

Under de senaste månaderna har bland andra OpenAI och Google lanserat kraftfulla AI-tjänster för konsumentbruk i form av chattar, med resultat som imponerat på både experter och allmänhet. Men även riskerna med sådana tjänster uppmärksammas nu i allt större utsträckning.

Cisco Talos, företagets avdelning för hotanalys, har i en ny bloggpost gått igenom hur AI-tjänsterna förändrar förutsättningarna för cyberbrott. Henrik Bergqvist, cybersäkerhetsexpert på Cisco Sverige, känner oro för utvecklingen.

”De basmodeller som är grunden för AI-verktygen bygger på enorma mängder data och information om alla tänkbara industrier. Med den informationsdatabasen blir det mycket enklare för bedragare att bygga ett riktat meddelande som både ser mycket mer initierat och kvalificerat ut, med relaterbart innehåll, och produceras väldigt mycket snabbare”, säger Henrik Bergqvist.

Trots att generativa AI-verktyg för konsumentbruk har ett antal spärrar för att undvika att de används för oetiska syften är det i dagsläget lätt att kringgå dem. Ett exempel är att man lurar AI-tjänsten att författa ett nätfiskemeddelande, med motiveringen att det ska användas i utbildningssyfte för att lära andra om cybersäkerhet.

Dessutom kan man helt enkelt utge sig för att vara någon annan än man är.

”Om jag till exempel vill angripa en livsmedelskedja kan jag utge mig för att vara en leverantör som behöver hjälp att formulera ett professionellt och intressant brev till en inköpsansvarig om en ny produkt, exempelvis en kyldisk. Produktbladet som följer med som bilaga har en smittad fil, och mer än så behövs inte för att genomföra intrånget”, säger Henrik Bergqvist.

Att det blir enklare och går snabbare att ta fram personligt anpassade angrepp leder till större utmaningar – men motmedlen förbättras samtidigt.

”Det är en spännande tid, och AI och maskininlärning är minst lika kraftfulla verktyg för oss som arbetar med säkerhet, och hjälper oss redan idag att genomföra allt djupare analyser och snabbt upptäcka misstänkta beteenden. För konsumenter finns redan idag tjänster som byggts för att kunna avslöja om en text är AI-genererad eller inte, och även dessa tjänster uppdateras och förbättras hela tiden. Man kan inte stoppa utvecklingen, utan måste följa med i den – samtidigt som man är medveten om riskerna”, säger Henrik Bergqvist.

2023-04-18 - Industritorget