Senaste nytt


- Nyheter inom industrivärlden
Tipsa

AI-modeller fortfarande sårbara för manipulation

Ciscos studie avslöjar stora säkerhetsrisker
Säkerhetsriskerna med öppna AI-modeller blir allt mer välkända – men en ny undersökning visar att många populära modeller fortfarande går att utnyttja för illvilliga syften.

Sedan det globala genombrottet för generativ AI har tekniken blivit en självklar del av vardagen – och arbetslivet. I den senaste utgåvan av Svenskarna och Internet, publicerad hösten 2025, uppger tre av tio förvärvsarbetare och fyra av tio tjänstemän att de använt AI-verktyg i jobbsammanhang.

Bland de användningsområden som lyfts fram i rapporten finns bland annat sammanfattningar och bearbetningar av källmaterial, korrekturläsning, samt att skapa affärsplaner, protokoll och presentationer.

Men en stor del av dessa data är känsliga och konfidentiella, och säkerhetsrisker uppstår när dessa data används i en öppen AI-modell, där den senare kan användas för träning, och sedan tillämpas i svar till andra användare.

Därför har säkerhetsforskare på Cisco genomfört ett stresstest av åtta av de mest populära öppna AI-plattformarna, med det egenutvecklade verktyget Cisco AI Validation. Samtliga dessa plattformar är Open Weight-modeller där de parametrar som avgör hur AI:n arbetar är publikt tillgängliga, nedladdnings- och anpassningsbara. De används därför ofta som grund när verksamheter bygger egna AI-lösningar.

Testet har använt två olika tillvägagångssätt. I ”single turn” har varje modell matats med 1 024 förgenererade prompter som är skapade för att försöka manipulera dem, medan ”multi turn” bygger på en dialog med AI-modellen där man gradvis försökt förmå den att bryta mot reglerna. 499 multi turn-attacker genomfördes mot varje modell, med mellan 5-10 interaktioner.

Endast tre av de öppna AI-modellerna lyckades avvärja angreppsförsöken i mer än hälften av angreppsförsöken när multi turn-tekniken användes. Vid single turn-försök presterade samtliga AI-modeller bättre men inte felfritt.

Bäst av modellerna presterade Microsoft Phi-4 och OpenAI GPT-OSS-20b, som båda klarade av att hantera mer än 93 procent av single turn-attackerna, samt Google Gemma-3-1B-IT som avvärjde nästan tre fjärdedelar, 74 procent, av multi turn-attackerna. Fyra av modellerna släppte igenom fler än tre av fyra multi turn-attacker.

”Att mata in information i en öppen AI-modell innebär att man släpper en del av kontrollen över den informationen, och testet visar att dagens öppna plattformar fortfarande inte är vattentäta. Medvetenheten om dessa risker ökar men fortfarande sker mängder av incidenter och misstag dagligen. Att fortsätta utveckla stängda och interna lösningar för känslig data och göra ansvarsfull AI-användning till en central del av medarbetares utbildning, är viktigare än någonsin”, säger Henrik Bergqvist, cybersäkerhetsexpert på Cisco Sverige.

”En annan viktig slutsats är att man behöver ha ett extra starkt säkerhetsfokus när man bygger egna AI-tillämpningar baserade på Open Weight-modeller. Bara genom att ändra olika vikter och parametrar riskerar man att oavsiktligt minska säkerheten – i många open weight-varianter läggs ansvaret för säkerheten till stor del över på användaren. Därför är det också viktigt att ha tillgång till verktyg som gör det möjligt att göra liknande stresstester på de egna tillämpningarna”, säger Henrik Bergqvist.
2025-11-13 - Industritorget

SENASTE NYTT

- Nyheter inom industrivärlden
Tipsa

Logistik utan gränser

20 260 30 9Kapacitet, ergonomi och flexibilitet i fokus

Autonom tusenkonstnär sätter ny standard

20 260 30 9Renrumsroboten KMR iisy CR i fokus

Välkommen på cyber­säkerhetsevent i Tranås

20 260 30 9Experter delar insikter och lösningar

Hörle Wire om bespar­ingar med DAZOQ EI

20 260 30 6Så sänks effekttoppar och energikostnader

Kraftig tillväxt för fordon på Klaravik

20 260 30 6Upp 75 procent på en månad

Effektiva taklyft i Värmland

20 260 30 6TRP-plåt och isolering lyftes säkert

En arbetsplats där människor trivs

20 260 30 6– vad är hemligheten?

Så säkerställs elektronik i moderna system

20 260 30 6Genom emissionsmätningar och immunitetsprov

Bygg din egen ventilterminal

20 260 30 6Möt AVENTICS XV-serien

Fler AI-datorer med Ryzen AI 400‑serien

20 260 30 6Ny generation för AI-prestanda

Soft Touch AB lanserar NXG

20 260 30 5Nytt varumärke för skyddshandskar

Meltolit AB på Underhållsmässan

20 260 30 5Ställer ut med WAAMLABZ

Gummipackningar i exotiska material

20 260 30 5Tätningar i Viton för krävande miljöer

SimplyConnect för flexibla rörsystem

20 260 30 5För butik, inredning och proffsmiljöer

Uppgraderad säkerhets-PLC

20 260 30 5Nu med integrerad FSoE-master

FPT Industrial på CONEXPO

20 260 30 5Visar lösningar för byggindustrin

Flexibilitet när Gävle sjukhus byggs ut

20 260 30 5Utbyggnad möter framtidens vårdbehov

Elektrisk ventil från SMC Corporation

20 260 30 4Justera cylinderns hastighet enkelt

Öka säkerheten med Panduits cable cleats

20 260 30 4Ett säkerhetsbälte för dina kablar

WEG visar energilagring på EnergyWeek 2026

20 260 30 4Innovativa lösningar för framtidens energi

Garrett Motion lanserar MAXLIFE

20 260 30 4Ny serie för ökad hållbarhet

Låg kontorsnärvaro binder miljonbelopp

20 260 30 4Ny lokalstrategi krävs

Palo Alto Networks utser ny Vice President

20 260 30 4Ansvarar för Norden och Baltikum

Xiaomi breddar AIoT för aktiv vardag

20 260 30 4Smarta produkter för liv i rörelse

Full fart från skiss till färdig detalj

20 260 30 3Snabba prototyper varje vecka

Werinova sparade 800 000 kWh

20 260 30 3Sänkt energiförbrukning med smart övervakning

Känslan när allt bara funkar

20 260 30 3Upptäck nyheter och smarta lösningar

Octave lanserar ny varumärkesidentitet

20 260 30 3Siktar på att frigöra intelligens i skala

Red Hat och Telenor stärker suverän AI

20 260 30 3Satsar på AI i produktion

Cirkulära förpackningar minskar miljöpåverkan

20 260 30 3Mer återvunnet material i omlopp

Xiaomi Presenterar Xiaomi 17-serien

20 260 30 3En ny era för mobil bildbehandling

När millimetrar möter estetik – precisionens roll i modern möbelproduktion

20 260 30 2Möbelindustrin förknippas ofta med design, materialval och formgivning. Men bakom varje stol, bord eller specialanpassad inredningslösning finns en produktionskedja där precision är avgörande.

Förbered lagret inför 2026

20 260 30 2Optimera flöden och säkra kapacitet

Varför rätt motor avgör hela arbetsdagen

20 260 30 2Motorn bakom maskinen

Så skapar du en säkrare arbetsmiljö

20 260 30 2Gasdetektering för en säkrare arbetsmiljö

Vattenkyld laser­svetsning i praktiken

20 260 30 2Så fungerar en vattenkyld lasersvets

Elmia Produktionsmässor 19–22 maj 2026

20 260 30 2Nordens största affärsplats för industriproduktion

Skicka in pressmeddelande
Xiaomi Pad 8 Serien
20 260 30 2
Zoom lanserar Virtual Agent 3.0
20 260 30 2
Cellnex rapporterar årsresultat 2025
20 260 30 2
Hälften redo för lönetransparens
20 260 30 2
Så bygger industrin lång­siktig konkurrenskraft
20 260 22 8
Vanliga misstag vid inves­tering i svetsutrustning
20 260 22 8
Livsmedelsindustrins dolda risk:
20 260 22 8
Öppet hus hos Scantruck i Rosersberg
20 260 22 7
Större produktion kräver större laserskärmaskiner
20 260 22 7
Snedskurna kugghjul för effektiv drift
20 260 22 7
När hydrauliken börjar tappa prestanda
20 260 22 7
Lim för metall, plast och trä
20 260 22 7
När mörkret blir en arbetsmiljörisk
20 260 22 7
Tillbehör och slitdelar för MIG/MAG och TIG
20 260 22 7
Tre vanliga misstag vid val av transmission
20 260 22 7
Hur du framtidssäkrar ett enskilt avlopp
20 260 22 7
Fördelarna med en lasersvetsmaskin
20 260 22 7
Olsons levererar LVD-kantpress till Robotec
20 260 22 7
Dotterbolagets rekordaffär
20 260 22 7
Från ambition till effekt
20 260 22 7
Så väljer du rätt RAM-fäste
20 260 22 7
Klaravik bryter ny mark
20 260 22 7
CatalyzO2 lanserar ny DO-sensor
20 260 22 7
Cognizant och Wallenius Wilhelmsen tecknar avtal
20 260 22 7
Nytt samarbete för centimeterprecision
20 260 22 7
Red Hat och NVIDIA lanserar AI-plattform
20 260 22 7
OEM Automatic på mässåret 2026
20 260 22 6
Månadens lagermaskin
20 260 22 6
Mätning för hållbarhet
20 260 22 6
Fem funktioner i en maskin
20 260 22 6
Gravlund investerar i sina kunder
20 260 22 6
Kingston på marsmässor
20 260 22 6
Spa når nya höjder
20 260 22 6
Southco lanserar fällbart kompressionslås
20 260 22 6
Flir och UE Systems visar helhetslösning
20 260 22 6
2026-02-25
Avancerade rörsystem och tankarSnart 20 år i samarbete med EU RobotserviceRökutsug avgörande för svetsventilationSeal Partner – En del av TeknikprodukterSoft Touch AB blir officiell Jokasafe-representant
2026-02-24
En snabb lösning när det brinner i knutarnaErgonomi för hela arbetsplatsen
2026-02-23
Smartare användning av lagerytorDGJ Engineering stärker sin tillverkningskapacitetVinterdrift utan avbrott Rekordförsäljning för baklastareAI och molnteknik räddar korallrev
2026-02-22
När internlogistiken bromsar produktionen – det dolda lönsamhetstappet i industrinNär precision blir en konkurrensfaktor i tung industri
2026-02-20
Laserkraft sparade 520 000 kWh per årTryckluftspoolen AB din trygga partner i tryckluftHur många luftkvalitets­sensorer per byggnad?SLIMLINE NEO – redo för nya EU-kravEngångshandskar för professionellt bruk

Bli medlem

Annonsering & marknadsföring

Digital medieproduktion

industritorget.se

Industritorget Sweden AB
+46 35 260 32 00
support@industritorget.se

industritorget.se | Sveriges mest besökta industrisajt

call