Senaste nytt


- Nyheter inom industrivärlden
Tipsa

AI-modeller fortfarande sårbara för manipulation

Ciscos studie avslöjar stora säkerhetsrisker
Säkerhetsriskerna med öppna AI-modeller blir allt mer välkända – men en ny undersökning visar att många populära modeller fortfarande går att utnyttja för illvilliga syften.

Sedan det globala genombrottet för generativ AI har tekniken blivit en självklar del av vardagen – och arbetslivet. I den senaste utgåvan av Svenskarna och Internet, publicerad hösten 2025, uppger tre av tio förvärvsarbetare och fyra av tio tjänstemän att de använt AI-verktyg i jobbsammanhang.

Bland de användningsområden som lyfts fram i rapporten finns bland annat sammanfattningar och bearbetningar av källmaterial, korrekturläsning, samt att skapa affärsplaner, protokoll och presentationer.

Men en stor del av dessa data är känsliga och konfidentiella, och säkerhetsrisker uppstår när dessa data används i en öppen AI-modell, där den senare kan användas för träning, och sedan tillämpas i svar till andra användare.

Därför har säkerhetsforskare på Cisco genomfört ett stresstest av åtta av de mest populära öppna AI-plattformarna, med det egenutvecklade verktyget Cisco AI Validation. Samtliga dessa plattformar är Open Weight-modeller där de parametrar som avgör hur AI:n arbetar är publikt tillgängliga, nedladdnings- och anpassningsbara. De används därför ofta som grund när verksamheter bygger egna AI-lösningar.

Testet har använt två olika tillvägagångssätt. I ”single turn” har varje modell matats med 1 024 förgenererade prompter som är skapade för att försöka manipulera dem, medan ”multi turn” bygger på en dialog med AI-modellen där man gradvis försökt förmå den att bryta mot reglerna. 499 multi turn-attacker genomfördes mot varje modell, med mellan 5-10 interaktioner.

Endast tre av de öppna AI-modellerna lyckades avvärja angreppsförsöken i mer än hälften av angreppsförsöken när multi turn-tekniken användes. Vid single turn-försök presterade samtliga AI-modeller bättre men inte felfritt.

Bäst av modellerna presterade Microsoft Phi-4 och OpenAI GPT-OSS-20b, som båda klarade av att hantera mer än 93 procent av single turn-attackerna, samt Google Gemma-3-1B-IT som avvärjde nästan tre fjärdedelar, 74 procent, av multi turn-attackerna. Fyra av modellerna släppte igenom fler än tre av fyra multi turn-attacker.

”Att mata in information i en öppen AI-modell innebär att man släpper en del av kontrollen över den informationen, och testet visar att dagens öppna plattformar fortfarande inte är vattentäta. Medvetenheten om dessa risker ökar men fortfarande sker mängder av incidenter och misstag dagligen. Att fortsätta utveckla stängda och interna lösningar för känslig data och göra ansvarsfull AI-användning till en central del av medarbetares utbildning, är viktigare än någonsin”, säger Henrik Bergqvist, cybersäkerhetsexpert på Cisco Sverige.

”En annan viktig slutsats är att man behöver ha ett extra starkt säkerhetsfokus när man bygger egna AI-tillämpningar baserade på Open Weight-modeller. Bara genom att ändra olika vikter och parametrar riskerar man att oavsiktligt minska säkerheten – i många open weight-varianter läggs ansvaret för säkerheten till stor del över på användaren. Därför är det också viktigt att ha tillgång till verktyg som gör det möjligt att göra liknande stresstester på de egna tillämpningarna”, säger Henrik Bergqvist.
2025-11-13 - Industritorget

SENASTE NYTT

- Nyheter inom industrivärlden
Tipsa

Askalon får ny vd

20 260 40 1Den första utanför familjen

Lasersvetsning av olika material

20 260 40 1Vad du behöver tänka på

Finicc.se för genomtänkt inredning

20 260 40 1Stilren design med funktion och kvalitet

Accenture toppar kund­ernas IT-ranking igen

20 260 40 1Kunder ger högst betyg i branschen

Kvalitet är avgörande i tillverkningen

20 260 40 1Av detektorer för elektronmikroskop

Montico och Volvo CE satsar på kvinnor

20 260 33 1Fortsatt svetsutbildning skapar fler möjligheter

Komponenter för krävande offshoremiljöer

20 260 33 1Robusta lösningar för djuphavsutrustning

Luftkvalitetsövervakning integreras i HVAC

20 260 33 1Optimerad inomhusluft och energieffektivitet

Från antaganden till energibesparingar

20 260 33 1Verifierade data ger stora besparingar

Säkerhetsrelä för direkt maskinmontage

20 260 33 1Ökar säkerheten nära maskinen

Inred en bättre ljudmiljö på jobbet

20 260 33 1Rätt akustik ger fokus och bättre prestation

NYHET CNC-fräs för trä och plast

20 260 33 1Kompakt maskin med automatisk verktygsväxlare

Vanliga misstag vid plåtvikning

20 260 33 1och hur du undviker dem

Rundslipning av industrikomponenter

20 260 33 1med höga toleranskrav

Lamphållare för alla fordon

20 260 33 1Så väljer du rätt för säker och pålitlig belysning

Lastceller och kraftgivare enligt EN ISO 13849

20 260 33 1Uppfyller nya säkerhetskrav för maskiner

Lanserar produkter för hög säkerhet

20 260 33 0Ny lösning skyddar kritisk infrastruktur effektivt

Induktionsvärme för effektiv uppvärmning

20 260 33 0Snabb, exakt och energieffektiv värmeteknik

Varför uppstår oplanerade stopp

20 260 33 0– trots att allt “ska fungera”?

Så skapar du stabila och effektiva transporter

20 260 33 0Lastsäkring i praktiken

Små detaljer som gör stor skillnad

20 260 33 0Varför rätt filter är avgörande i entreprenadmaskiner

Det som avgör allt i betongarbetet

20 260 33 0Så arbetar proffsen med betong idag

Så hittar du läckor innan de blir ett problem

20 260 33 0Läcksökning av vatten, gas och tryckluft

Så skapas säkra arbets­platser vid arbete på väg

20 260 32 7Säkerhet och kompetens i en utsatt arbetsmiljö

Temat för Elmia Subcontractor 2026

20 260 32 7Resilience powered by industry

Sveriges kanske mest udda postbil

20 260 32 7Hydrokopter-manick letar ny ägare

Slipningens två avgörande steg

20 260 32 7Skillnaden mellan grovslipning och finslipning

NYHET Största elektriska spackelsprutan för proffs

20 260 32 7Hemo 10 ger snabbare sprutspackling

Soft Touch lyfter biobaserad vinyl

20 260 32 7BIOVYN™ i fokus för hållbara val

Högtryckspumpar i modern industri

20 260 32 7Så påverkar högtryckspumpar effektiviteten i din produktion

Provning av militära produkter

20 260 32 7enligt MIL-STD-461

Hallå där Adam & Jesper

20 260 32 7Två röster om mobila maskiner

Nya proffslösningar på Nordbygg

20 260 32 7Innovationer för byggbranschen visas upp

Castrol stärker Audi Revolut F1-teamet

20 260 32 7Partnerskap inför Formel 1-säsongen 2026

Precifast sparar miljoner med energimätning

20 260 32 7Smart mätning minskar kostnader

Sluten tank – när är det rätt val?

20 260 32 6Så fungerar en sluten tank, när den används och vad som krävs för en effektiv avloppslösning

Gummikomponenter för tågfabriker

20 260 32 6Dansk kvalitet med hög driftsäkerhet

Skicka in pressmeddelande
Så hanterar du grus och sand efter vintern
20 260 32 6
Precisionsavskalning för optiska fibrer
20 260 32 6
Ny cylindermetod min­skar metallföroreningar
20 260 32 6
Energieffektiv isolerings­lösning på Nordbygg
20 260 32 6
WOG Trä – kungar på special
20 260 32 6
Elektroniska lås
20 260 32 6
Keramik optimerar gjutjärnsbearbetning
20 260 32 6
MES-plattform för AI-driven tillverkning
20 260 32 6
Innovation och smart automation
20 260 32 5
Neoprenhandskar – när är de rätt val?
20 260 32 5
NYHET - Massagestol Relax Force 4D
20 260 32 5
Så väljer företag rätt truck för sin verksamhet
20 260 32 5
Smarta lösningar i bygg och verkstad
20 260 32 5
Regelbunden service av svetsutrustning
20 260 32 5
Precision börjar i bearbetningen
20 260 32 5
När cermet är rätt val
20 260 32 5
Bengtssons Maskin växer digitalt
20 260 32 5
Livsmedelsgodkända gummidelar
20 260 32 4
AGRO lanserar blyfri förskruvning
20 260 32 4
Ny 90-tons translifter till Kristiansund
20 260 32 4
Dell och NVIDIA förbättrar AI-data
20 260 32 4
Hårda krav fick Raftákn välja KUKA
20 260 32 3
Ionbond sänker energiförbrukningen
20 260 32 3
Löda kopparrör steg för steg
20 260 32 3
Ny rens- och tillsynsbrunn
20 260 32 3
Trestad Laser investerar i ny maskin
20 260 32 0
Blyfri mässing i ASSA ABLOY-beslag
20 260 32 0
Så föddes TRX
20 260 32 0
Southco lanserar R4-50 rotationslås
20 260 32 0
ISCAR TRIDEEP
20 260 31 9
Kolmården byter UTV till Corvus
20 260 31 9
Gummikomponenter för försvarsindustrin
20 260 31 9
Kombimaskin med fem funktioner
20 260 31 9
Wavin utser ny nordisk direktör
20 260 31 9
VöXss om samarbetet med OEM Automatic
20 260 31 9
2026-03-19
Säker USB möter nya hotCellnex stärker nordisk verksamhetDenodo lanserar AI-fokuserad dataplattformNya cloud-native mikro­tjänster för campingMatrix42 utser Patrick Adams till CRO
2026-03-18
ISCAR QUICK-THREAD Multitandade gängskärNytt innovativt trådlöst säkerhetssystemElmontörsutbildning för kvinnor återvänderSäkerhet i solcellsanläggningarRätt klimatlösning för ditt elskåp
2026-03-17
Gummikomponenter för medicinindustrinPackstationer som gör jobbet enklareMobila maskiner kräver robusta lösningarFortinet lanserar FortiOS 8.0Globalisering och lokal produktion
2026-03-16
Samarbete som driver ALPHAs utvecklingCondair tilldelas BIM Leadership AwardAtt bygga en hållbar framtidVarför luften i förskolor är avgörande
2026-03-13
Snart 40 år med OKSNyheter i sortimentet20 år som förändrat världenSå väljer företag rätt verktygsskåp Snickare - nyckelroll för:

Bli medlem

Annonsering & marknadsföring

Digital medieproduktion

industritorget.se

Industritorget Sweden AB
+46 35 260 32 00
support@industritorget.se

industritorget.se | Sveriges mest besökta industrisajt

call