Vårdslös användning av AI väcker oro, visar ny rapport

Hanteringen måste ske med eftertanke

Fler än en fjärdedel av företagen som deltog i en global undersökning om AI-säkerhet har förbjudit användningen av generativa AI-tjänster. Och ännu fler – nästan hälften - har matat AI-verktyg med konfidentiella data.

Söndagen den 28 januari infaller den internationella dataskyddsdagen, som uppmärksammas i fler än 50 länder, däribland Sverige. Men dataskyddet står inför nya komplexa utmaningar – inte bara genom återkommande cyberattacker,utan även genom den tekniska utvecklingen.

I undersökningen 2024 Data Privacy Benchmark Study från Cisco, som bygger på svar från 2 600 dataskydds- och IT-säkerhetsexperter i tolv länder, undersöks attityder till, och tillämpning av, olika former av dataskydd. Efter det snabba genombrottet för generativa AI-tjänster hamnar frågan i skarpt fokus i årets rapport.

48 procent av respondenterna uppger att det förekommit incidenter där konfidentiella data laddats upp i publika AI-tjänster, exempelvis uppgifter om anställda eller intern företagsinformation. I och med att det i många fall är oklart hur många publika tjänster lagrar data och använder dem för att träna AI-modeller efter att de laddas upp, kan den typen av informationsförlust leda till pinsamma situationer, men beroende på vilken typ av information det handlar om kan utfallet bli värre än så - ekonomisk förlust och skador på varumärken.

69 procent uppger att de ser risker utifrån ett juridiskt och immaterialrättsligt perspektiv, och nästan lika många, 68 procent, är oroade för att känslig information ska hamna i allmänhetens – eller konkurrenters – händer.

27 procent av respondenterna uppger att deras företag förbjudit användandet av publika AI-tjänster i arbetet helt, och långt fler har infört begränsningar kring vilka data som kan matas in i tjänsterna, och vilka verktyg som är tillåtna.

Andra orosmoment med den snabba AI-utvecklingen som lyfts fram i rapporten är att generativ AI kan ersätta den egna tjänsten (58 procent) eller kollegor (61 procent).

Det finns en stor enighet om att frågorna måste prioriteras högt. 91 procent av respondenterna anser att man måste göra mer för att försäkra kunder och konsumenter att deras data endast använts på ett ändamålsenligt och korrekt syfte.

”Näringslivet ser GenAI som en fundamentalt annorlunda teknik, med nya former av utmaningar att ta i beaktande. Fler än 90 procent av respondenterna anser att AI kräver en ny syn på data- och riskhantering.

Hanteringen måste ske med eftertanke, det är nödvändigt för att bevara kundernas förtroende”, säger Dev Stahlkopf, Chief Legal Officer på Cisco.

2024-01-29 - Industritorget