Detaljerad sökning

SENASTE NYTT

- Nyheter inom industrivärlden
Tipsa

Förgiftad träningsdata

Ett hot mot stora språkmodeller
Dataförgiftning har blivit ett allt större hot mot stora språkmodeller (LLM). Det innebär att felaktig eller vilseledande data matas in i den träningsdata som språkmodellen använder när den svarar på en fråga. I förlängningen betyder det att prestandan och förtroendet för stora språkmodeller försämras. Dataförgiftning utgör också en säkerhetsrisk när en angripare till exempel påverkar en AI-driven kundtjänst att styra användarna till en webbplats för nätfiske.

– Ansvaret för att upptäcka och motarbeta dataförgiftning ligger hos utvecklarna av språkmodellerna. Men det är viktigt att alla som använder en modell som utsatts hämtar den nya, uppdaterade versionen så snart den blir tillgänglig, på samma sätt som man gör med all annan programvara som bygger på öppen källkod, säger Peter Graymon, ansvarig för Barracuda Networks i Norden.

Stora språkmodeller används för att exempelvis driva chattbottar och generera text. De tränas på stora mängder insamlad data som sedan används för att skapa mer data, allt enligt de regler och mönster de lärt sig. Kvalitetsdata leder till bra resultat medan undermålig eller felaktig data genererar dåliga resultat. Förgiftad träningsdata som används när man skapar en LLM gör också att en angripare kan kontrollera hur modellen beter sig när den används.

Ofta finns det ingen tydlig ekonomisk fördel med dataförgiftning men det kan bidra till att sprida felaktigheter, förstärka fördomar och skada varumärken. En språkmodell som beter sig på oväntade och farliga sätt urholkar förtroendet för både tekniken och den organisation som skapade eller implementerade den.

– Det tog inte lång tid för cyberkriminella och andra som vill påverka sin omgivning att börja med dataförgiftning. De kan nu undergräva tillförlitligheten, noggrannheten och säkerheten i tjänster som används av väldigt många människor, säger Peter Graymon.

Datamanipulation ett annat hot mot generativa AI-modeller
Datamanipulation är ett annat sätt att missbruka stora språkmodeller. Det innebär att en angripare skickar meddelanden till den generativa AI-botten för att försöka manipulera den att kringgå sin instruktion eller bryta logiken i prompten. Datamanipulation kan användas för att komma åt information som inte är publik men som ett företag kopplat till sin LLM. I förlängningen kan det användas för utpressning eller försäljning. Det kan också användas för att få en LLM att uttrycka sig skadligt för företaget eller fördelaktigt för användaren.

Ett exempel på datamanipulation är när ett kanadensiskt flygbolag tvingades följa en återbetalningspolicy som skapats av en AI-driven chatbott. Detta är känt som en ”hallucination” där AI-modellen ger ett felaktigt eller missvisande svar eftersom den inte har det faktiska svaret men ändå vill ge ett.

Sammanfattningsvis kan det vara så att det största hotet mot stora språkmodeller inte kommer från avsiktliga handlingar utförda av människor utan snarare från dålig data som genereras av andra AI-modeller.

Läs mer om dataförgiftning och datamanipulation på Barracudas hemsida»

Om du vill prata mer om IT-säkerhet, dataförgiftning och datamanipulation är du välkommen att kontakta Peter Graymon, Barracuda Networks, telefon: 0709-17 80 14, e-post: pgraymon@barracuda.com
2024-04-09 - Industritorget

SENASTE NYTT

- Nyheter inom industrivärlden
Tipsa

Hjälper till att förbättra industriella pumpar

20 240 61 2Förbättrad övervakning av pumpprestanda

sonnen i nytt partnerskap med Tibber

20 240 61 2Erbjuder virtuella kraftverk med dynamisk effekttariff

En ikon i skyarna över Le Mans

20 240 61 2Goodyears luftburna ambassadör i över hundra år

Specialbetong till konstgjorda korallrev

20 240 61 2Nya betongrev räddar hotad korall i Kosterfjorden

Avregistrerar sig efter fem e-postmeddelanden

20 240 61 2Kräver en rabatt på minst 16 procent

Akuart förhöjer sin danska design

20 240 61 2Med återvunnet aluminium

Splunk lanserar avan­cerade AI-förbättringar

20 240 61 2För observerbarhet, säkerhet och IT Service Intelligence (ITSI)

Ny serie av svarta beslag förenar stil och styrka

20 240 61 2Nya svartlackerade beslag från Simpson Strong-Tie

Kommuninvest emitterar 4,5 miljarder kronor

20 240 61 2I en utestående grön obligation

TCS lanserar banbrytande plattform för generativ AI

20 240 61 2TCS AI WisdomNext är tillgängligt för kunder nu

Rexel driver på för en hållbar framtid

20 240 61 2Hållbar framtid inom elbranschen

TL Bygg bygger 164 nya lägenheter i Sundbyberg

20 240 61 2Planeras att färdigställas under juli 2027

Befintlig produkt, men i nytt material

20 240 61 1En unik produkt till ett unikt projekt

Volvo CE presenterar utökad flotta

20 240 61 1Av medelstora eldrivna maskiner

Magasinera i Stockholm

20 240 61 1Fördelar med att magasinera

HLR utbildning Stockholm

20 240 61 1Arbetsmiljölagen och företagens ansvar

Fiberlaserteknik i plåtbearbetningsindustrin

20 240 61 1Hög precision, ökad produktivitet och miljövänlighet

Descartes om nya Paketindex

20 240 61 1Störst ökning bland e-handlare utanför Sveriges gränser

Jabra lanserar nya produkter

20 240 61 1Elite 8 Active Gen 2 och Elite 10 Gen 2

Konståkningsklubb vinn­are i årets XL-Hjälpen

20 240 61 1Får hjälp att bygga flyttbara domarpodier för tävlingar

Qlik och Snowflake stärker samarbetet

20 240 61 1För att accelerera AI-användningen

Nio av tio svenska före­tag saknar säkerhetsplan

20 240 61 1Ingen tydlig plan för säkerheten i utvecklingsarbetet

Gamechanger för processindustrin

20 240 61 1En kabel för data och kraftöverföring utlovades

Smart och långsiktigt tänk

20 240 61 1När du byter ytterdörr

Kunderna är dom bästa ambassadörerna!

20 240 61 0Få kundomdömen och NPS för din marknadsföring

Volvo CE utökar sortimentet

20 240 61 0Av tipptruckar till 60- och 70-tonsklasserna

Milltool fortsätter sin etablering

20 240 61 0Inom CNC-fräsmaskiner

Förstå hur TIG-svetsning fungerar

20 240 61 0Hur särskiljer sig TIG-svetsning från andra svetsmetoder?

IEC 62 433 höjer säkerheten

20 240 61 0Ewons fjärrstyrda lösningar från HMS Networks

Vi hjälper dig

20 240 61 0Med telefonnummer och e-post

AMD presenterar fram­tidens AI-acceleratorer

20 240 61 0Visades upp på Computex 2024

Momentum Group förvärvar Minrox

20 240 61 0Förstärker positionen inom flödesteknik

Cisco och NVIDIA visar upp ny AI-infrastruktur

20 240 61 0Cisco och NVIDIA förenklar AI med Nexus HyperFabric

Tre kritiska steg för att skydda leveranskedjan

20 240 61 0Säkerhet och reglering av leveranser prioriteras

Investeringarna i elnätet måste fördubblas

20 240 61 0För näringslivets utveckling och en hållbar framtid

Mattermost AI-accelererar arbetsflöden

20 240 61 0Med bibehållen datakontroll för högsäkerhetsverksamheter

Attackerna ökar och riktas mot myndigheter

20 240 61 0Överbelastningsattacker ökar, AI och moln utnyttjas

Skicka in pressmeddelande
Mer än dubbelt så många nya företag
20 240 61 0
Satsa på en smart hållare för din surfplatta
20 240 61 0
Ta det piano
20 240 61 0
Årets second hand-högtid är här
20 240 61 0
Det du behöver veta om Tablet PCs
20 240 60 7
Effektiva tjänster för industrirör
20 240 60 7
Lanserar en AI-assisterad säkerhetsplattform
20 240 60 7
Getacs robusta mobila arbetsstation
20 240 60 7
Softing Industrial intro­ducerar edgeConnector
20 240 60 7
Cisco startar investeringsfond för AI
20 240 60 7
Lanserar Qlik Talend Cloud och Qlik Answers
20 240 60 7
Harts 3D-utskrift
20 240 60 5
Stegar med plattform
20 240 60 5
Belysning och indikator i samma enhet
20 240 60 5
Bystronic väljer Water Jet Sweden
20 240 60 5
Nu introduceras en ny lanseringskampanj
20 240 60 5
Kantvik eller kantpress – vad är skillnaden?
20 240 60 5
Bekvämare liv med uppkopplat kodhandtag
20 240 60 5
Ny maskin från Ras
20 240 60 5
Skadlig kod sprids via Minecraft-tillägg
20 240 60 5
Stort event samlar skand­inaviska byggbranschen
20 240 60 5
Ciscos plattform för molnsäkerhet tar nya kliv
20 240 60 5
IFS lanserar nya industriella AI-funktioner
20 240 60 5
Axkid svarar på dyster europeisk krockstatistik
20 240 60 5
Neo4j tillkännager sam­arbete med Snowflake
20 240 60 5
Ransomware fortsätter orsaka oreda
20 240 60 5
SICK Inspector83x
20 240 60 5
UNFCCC och Qlik samarbetar
20 240 60 5
HPE Aruba Networking Enterprise Private 5G
20 240 60 5
ISCAR utökar ett redan stort sortiment
20 240 60 4
Rikstäckande service för centralsmörjning
20 240 60 4
3D print växer kraftigt
20 240 60 4
Ammann slutför förvärvet
20 240 60 4
Framgångsrikt Konvent och 60-årsfirande
20 240 60 4
Högkvalitativa packningssatser
20 240 60 4
2024-06-04
Specialanpassade mask­inskydd till ECMEC ABtwoday utser Elias Inderberg till ny VDNordens största kollegiumPolestar och Zaptec ingår samarbetsavtalSchneider Electric lanserar ny kanalskena
2024-06-03
Smidig materialhantering med ledstaplareSkärning när material är värmekänsliga ISCAR QUICK-X-FLUTEÄventyret börjar med Lesjöfors gasfjädrarOLSONS breddar programmet
2024-05-31
3D-printing för flexibel och innovativ tillverkning Karlslunds Marina på Dalarö väljer BioDisc® BN Framtidens svetsmetod Välj rätt kompressor för verkstaden Framstående teknik för effektiv kabelinstallation
2024-05-30
Ravema distribuerar ScandiTools Lännen deltar på Svenska Maskinmässan 2024 Nytillverkning av 77 år gammal reservdelDen optimala restaurangbelysningenVi hjälper företag
2024-05-29
Rengör och passiverar svetssömmarRätt borstar till din grävmaskin Volvo CE inviger nya anläggningarHögsta utmärkelse vid Red Dot Design AwardStort intresse för nya Plannja Infinity

För besökare

För medlemmar

Utökad annonsering

Digital medieproduktion

industritorget.se

Industritorget Sweden AB
+46 35 260 32 00
support@industritorget.se

industritorget.se | Sveriges mest besökta industrisajt