Industritorget använder cookies för att föra statistik samt hantera användning av siten. Genom att du fortsätter att använda vår sajt, samtycker du till att cookies används. - Läs mer OK
Detaljerad sökning

SENASTE NYTT

- Nyheter inom industrivärlden
Tipsa

Förgiftad träningsdata

Ett hot mot stora språkmodeller
Dataförgiftning har blivit ett allt större hot mot stora språkmodeller (LLM). Det innebär att felaktig eller vilseledande data matas in i den träningsdata som språkmodellen använder när den svarar på en fråga. I förlängningen betyder det att prestandan och förtroendet för stora språkmodeller försämras. Dataförgiftning utgör också en säkerhetsrisk när en angripare till exempel påverkar en AI-driven kundtjänst att styra användarna till en webbplats för nätfiske.

– Ansvaret för att upptäcka och motarbeta dataförgiftning ligger hos utvecklarna av språkmodellerna. Men det är viktigt att alla som använder en modell som utsatts hämtar den nya, uppdaterade versionen så snart den blir tillgänglig, på samma sätt som man gör med all annan programvara som bygger på öppen källkod, säger Peter Graymon, ansvarig för Barracuda Networks i Norden.

Stora språkmodeller används för att exempelvis driva chattbottar och generera text. De tränas på stora mängder insamlad data som sedan används för att skapa mer data, allt enligt de regler och mönster de lärt sig. Kvalitetsdata leder till bra resultat medan undermålig eller felaktig data genererar dåliga resultat. Förgiftad träningsdata som används när man skapar en LLM gör också att en angripare kan kontrollera hur modellen beter sig när den används.

Ofta finns det ingen tydlig ekonomisk fördel med dataförgiftning men det kan bidra till att sprida felaktigheter, förstärka fördomar och skada varumärken. En språkmodell som beter sig på oväntade och farliga sätt urholkar förtroendet för både tekniken och den organisation som skapade eller implementerade den.

– Det tog inte lång tid för cyberkriminella och andra som vill påverka sin omgivning att börja med dataförgiftning. De kan nu undergräva tillförlitligheten, noggrannheten och säkerheten i tjänster som används av väldigt många människor, säger Peter Graymon.

Datamanipulation ett annat hot mot generativa AI-modeller
Datamanipulation är ett annat sätt att missbruka stora språkmodeller. Det innebär att en angripare skickar meddelanden till den generativa AI-botten för att försöka manipulera den att kringgå sin instruktion eller bryta logiken i prompten. Datamanipulation kan användas för att komma åt information som inte är publik men som ett företag kopplat till sin LLM. I förlängningen kan det användas för utpressning eller försäljning. Det kan också användas för att få en LLM att uttrycka sig skadligt för företaget eller fördelaktigt för användaren.

Ett exempel på datamanipulation är när ett kanadensiskt flygbolag tvingades följa en återbetalningspolicy som skapats av en AI-driven chatbott. Detta är känt som en ”hallucination” där AI-modellen ger ett felaktigt eller missvisande svar eftersom den inte har det faktiska svaret men ändå vill ge ett.

Sammanfattningsvis kan det vara så att det största hotet mot stora språkmodeller inte kommer från avsiktliga handlingar utförda av människor utan snarare från dålig data som genereras av andra AI-modeller.

Läs mer om dataförgiftning och datamanipulation på Barracudas hemsida»

Om du vill prata mer om IT-säkerhet, dataförgiftning och datamanipulation är du välkommen att kontakta Peter Graymon, Barracuda Networks, telefon: 0709-17 80 14, e-post: pgraymon@barracuda.com
2024-04-09 - Industritorget

SENASTE NYTT

- Nyheter inom industrivärlden
Tipsa

Container Basic Store för invallning av fat och IBC

20 240 42 9Säker och smidig kemikalielagring

Ljustorn med IO-link

20 240 42 9Ger operatören de ögon och öron han behöver

Hur mycket kostar 3D-utskrift?

20 240 42 9Viktiga faktorer att tänka på

Familjeägt företag satsar långsiktigt och hållbart

20 240 42 9Kvalitet och funktion är nyckeln

Nyckelbakterie upptäckt

20 240 42 9Skyddar tarmens slembarriär vid fiberfattig kost

Consat Engineering förv­ärvar Optonova Sweden

20 240 42 9Stärker ledande roll i visionssystem och maskininlärning

Tydlig potential för vät­gas och elektrobränslen

20 240 42 9Sverige kan bli nettoexportör av vätgas

Svenskarnas räckvidds­krav oförändrade

20 240 42 9Trots ökad kapacitet

Handel med effekt i elnätet ökar

20 240 42 9Men fler leverantörer behövs

Industrins digitala omvandling

20 240 42 9Nödvändig för att möta morgondagen

QNAP lanserar ny version av operativsystemet QTS

20 240 42 9QTS version 5.2 beta

Valtech slutför förvärvet av Kin + Carta

20 240 42 9Stärker ledande position inom upplevelseinnovation

Nu kan fler tvätta bilen med smart teknik

20 240 42 9Wash World öppnar på Vingavägen 1 i Växjö

Mestergruppen växer

20 240 42 9Med nya butiker inom färgfackhandeln

Årets Plåtinfluerare 2024

20 240 42 9Branschförebilden Emelie Persson

Sveriges bästa unga plåtslagare 2024

20 240 42 9Anton Sjöqvist från Värnamo

Sveriges bästa unga ventilationsmontör 2024

20 240 42 9Rohullah Rajabi från Karlstad

Jämför hotell i Stockholm, Göteborg och Malmö

20 240 42 9Välj rätt kontorshotell i storstäderna

Amazon Bedrock grunden för AI-boomen

20 240 42 9Demokratiserad AI med egenutvecklade modeller

Länken i framgångsrikt partnerskap

20 240 42 6"We are stronger together"

Industridatorers roll i tuffa driftmiljöer

20 240 42 6Det du behöver veta innan införskaffande av industridatorer

Skyddsslang ECOLINE

20 240 42 6Biologiskt nedbrytbar polyamid

Mjölby en av orterna som får ny utbildningsform

20 240 42 6Pilotprojekt introducerar ny yrkesutbildning för vuxna

Cognizants innovations­program Bluebolt

20 240 42 6Mer än 150 miljoner USD i årliga kostnadsbesparingar

Stabil start på året

20 240 42 6Trots fortsatt dämpad konjunktur

Beijer bidrar till viktig satsning

20 240 42 6På återbruk av byggmaterial i Eskilstuna

Årets utvecklingsföretag i Partille har wow-faktor

20 240 42 6Vis Productions prisbelönt för fantastisk kreativitet

De är vinnarna av "Årets Rederi" 2024

20 240 42 6Furetank vinner "Årets Rederi" för innovativ hållbarhet

Installera ett utsug direkt vid källan

20 240 42 6för att minska spridningen av de farliga partiklarna

Stolt leverantör av mark & va-material

20 240 42 6Nytt avtal med Skanska Sverige AB

Effektivisera städningen med en städrobot

20 240 42 5Städa smartare, inte hårdare

Använd vatten för att skära med precision

20 240 42 5Effektiv skärning med vattenskärare

ISCAR introducerar ny krymputrustning

20 240 42 5Ny generation av SHRINKIN krymputrustning

Möt EdmoLift på Elmia Produktionsmässor

20 240 42 5Vi ses i monter B05:71

Vi ställer ut på Elmia Automation

20 240 42 5Alla våra områden på plats!

Skalverktygens mång­sidiga och viktiga roll

20 240 42 5Fyll verktygslådan med rätt verktyg

Analysinstrument för industriell framgång

20 240 42 5Utforska fördelarna med högkvalitativa mätinstrument

Skicka in pressmeddelande
En nödvändighet för trädfällning
20 240 42 5
Vinnare av Nordbyggs Guldmedalj 2024
20 240 42 5
Midagon stärker sin närvaro
20 240 42 5
Castellum säljer fastigheter för 934 mkr
20 240 42 5
Jan Häckners bioenergist­ipendium vinnarna 2024
20 240 42 5
Progress introducerar avancerade AI-funktioner
20 240 42 5
Smart schaktfri metodkombination
20 240 42 5
Industrin väl rustad för AI, sämre för cyberhot
20 240 42 5
Timbersports® säsongen 2024 väntar
20 240 42 5
Övergår till en kontakt­punkt för försäljning
20 240 42 5
Geberit lanserar Silent-Pro SuperTube
20 240 42 5
Introducerar Wi-Fi 7-accesspunkter
20 240 42 5
Bank- och finanssektorn har bäst självförtroende
20 240 42 5
Ny konferens satte fokus
20 240 42 5
Swedish Agro investerar ytterligare
20 240 42 5
Tyréns och Siemens ingår partnerskap
20 240 42 5
Säljstart för eldrivna G-Klass i Sverige
20 240 42 5
För 3:e året i rad
20 240 42 5
Advenica får order gällande datadioder
20 240 42 5
Ny design, innovativ tek­nik och snabb utveckling
20 240 42 5
Southco säkrar EV
20 240 42 5
Ökad personlig hygien
20 240 42 5
Svenska företag ökade försäljningen
20 240 42 5
När konstant tryck och luftflöde är ett måste
20 240 42 4
Elektronisk övervakning av luftkvalitén
20 240 42 4
Från konstruktion till kund med Lännen
20 240 42 4
AB Vandskæring A/S investerar
20 240 42 4
Vill du framtidssäkra din produktion?
20 240 42 4
Kraften och mångsidig­heten hos vinkelslipar
20 240 42 4
Precision i varje snitt med kapmaskiner
20 240 42 4
Ny teknik inom fasta fallskyddssystem
20 240 42 4
Nya Volvo hjullastare på väg till armén
20 240 42 4
HEIDENHAIN på ELMIA Produktionsmässor 2024
20 240 42 4
KÄRLPRESS SVELOG 240
20 240 42 4
Möt förbättrade hjul­lastarna Volvo L30 & L35
20 240 42 4
2024-04-24
Nyckeln till precision inom träbearbetning Fördelar med kvalitativa magnetfältsmätareIntervju med Agne SvenbergEtt årtionde av inno­vativa propanlösningarBOLIST inleder samarbete
2024-04-23
Reality Capture Från isen till affärslivetVisste du det här om magnetventiler?Panasonic anställer ny medarbetare i SverigeCognizant och Microsoft utökar AI-partnerskap
2024-04-22
Ny joystick gör jobbet enklareMekanisk delrenoveringLegendarisk maskin som går på vattenHLR-utbildning för före­tag inom industrivärlden NYHET! - Apparatskåp
2024-04-19
Swecon stödjer en hållbar racerbanaIndustrivågar är viktiga för modern produktionAI-förstärkt säkerhets­plattform visas av Cisco6 handfasta tips inför sjösättningenRamirent levererar till Vindpark Horshaga
2024-04-18
Revolutionerande kabelmärkningKorrekt test och mätning av kraftelektronikLär dig mer om magnetventilerFarlig växthusgas förbjuds i ställverk NYAB utför omfattande muddringsarbeten

För besökare

För medlemmar

Utökad annonsering

Digital medieproduktion

industritorget.se

Industritorget Sweden AB
+46 35 260 32 00
support@industritorget.se

industritorget.se | Sveriges mest besökta industrisajt