Cisco tar helhetsgrepp

På AI-säkerhet med ny plattform

Cisco har lanserat AI Defense, en plattform som ska hjälpa organisationer att upprätthålla en hög utvecklingstakt av AI-tillämpningar utan att göra kompromisser kring säkerhet och trygghet.

Den snabba utvecklingen och tillväxten inom AI-området innebär att en rad nya och komplexa säkerhetsutmaningar uppstår – utmaningar som måste hanteras på kort tid och under fortsatt förändring. Det handlar både om renodalad cybersäkerhet men också om det bredare begreppet trygghet. Till skillnad från traditionella applikationer finns det en inbyggd oförutsägbarhet i AI-modeller, och det är nödvändigt att säkerställa att AI-tillämpningar inte ger felaktiga, stötande eller olämpliga svar.

Många verksamheter använder också ett brett utval av modeller för att utveckla AI-tjänster, i en infrastruktur som kan ligga hos flera olika moln kombinerat med de egna datacentren, vilket fram till nu gjort AI-användningen ännu svårare att få en helhetsbild över.

Dessa frågor måste hanteras samtidigt som det finns ett hårt tryck på organisationer att hålla en hög innovationsakt.

”Du måste röra dig snabbt med AI men du har absolut inte råd med att offra säkerhet och trygghet till förmån för snabbhet. Säkerhetsansvariga kommer att behöva ett sammanhållet lager för överblick och kontroll.

De behöver inte bara se, utan förstå, var och hur AI används inom verksamheten – både av användare och av utvecklare”, säger Jeetu Patel, EVP och Chief Product Officer på Cisco.

Cisco har lanserat plattformen AI Defense för att hjälpa verksamheter att uppnå detta. AI Defense är byggt för att ge komplett visibilitet över AI-applikationer som används i en organisation, och på ett enkelt sätt stoppa och spärra riskfylld användning. Verktyget är integrerat med Ciscos plattform för åtkomsthantering, Cisco Secure Access.

Cisco AI Defense är också byggt för att kontinuerligt avläsa och validera de AI-källor som hanteras för att identifiera sårbarheter och avgränsa användningen i realtid både över publika och privata moln. Den skyddar därmed både under utvecklingsfasen och när applikationer används.

En av innovationerna är en AI-baserad stresstestare, ett ”red team” som ständigt försöker lura AI-modellerna för att försöka generera olämpliga svar. Arbete som skulle kräva lång tid för tusentals mänskliga stresstestare kan nu genomföras på sekunder, och det gör det möjligt att erbjuda kontinuerlig övervakning. När ett felaktigt svar upptäcks skapar funktionen förslag på åtgärder för att undvika att samma fel uppstår i verkligheten.

”Det är lite grann som att leka ’20 frågor’ men eftersom det är automatiserad innehåller spelet en biljon frågor”, säger Jeetu Patel.

Cisco AI Defense är också byggd från grunden för att hantera en utspridd infrastruktur i flera olika moln och lokala servrar, där flera modeller används parallellt. Den är fullt integrerad i Ciscos övergripande säkerhetsplattform för molnet, Cisco Security Cloud.

Cisco AI Defense presenterades i samband med bolagets event AI Summit den 15 januari, och kommer att finnas tillgängligt världen över i mars 2025.

2025-01-17 - Industritorget