Mattermost släpper lösning för att använda generativ AI

i strikta säkerhetsmiljöer

Mattermost lanserar nu en lösning för att integrera AI-botar som ChatGPT i samarbetsplattformar som körs på egna servrar. Det öppnar för att introducera AI-funktioner i exempelvis chatt- och samarbetstjänster även i verksamheter med mycket höga säkerhetskrav. Den nya lösningen innebär att Mattermost levererar en anpassningsbar arkitektur som öppen källkod för att hjälpa verksamheter ta fram en användbar AI-lösning.

Mattermost är en samarbetsplattform för meddelanden och projektstyrning som rekommenderas av eSam, samarbetsprojektet som svenska myndigheter startat för att öka takten i digitaliseringen. Den nya AI-lösningen har tagits fram för att underlätta för aktörer inom exempelvis offentlig sektor, försvarsindustrin eller andra branscher med höga säkerhetskrav att utforska generativ AI-teknik. Tidigare har denna typ av verksamheter på grund av säkerhetsriskerna haft svårt att utnyttja publika AI-tjänster.

"Verksamheter med höga säkerhetskrav får allt större behov av att hitta möjligheter och alternativ för att också kunna dra nytta av de senaste framstegen inom AI", säger Ian Tien, VD för Mattermost. "För att möta dessa behov erbjuder Mattermost nu en lösning med en AI-stack baserad på öppen källkod som samtidigt kan utnyttja flera olika tillgängliga öppna verktyg i skapandet av AI-modeller som kan distribueras till privata moln och datacenter - eller till och med köras på en bärbar dator.”

Den nya plattformen erbjuder en rad fördelar och funktioner:

• Sammanfattning och summering av konversationer med flera deltagare gör det möjligt att utvärdera olika domänspecifika AI-modeller i egen miljö, samtidigt som alla testdata och utdata förblir inom verksamhetens kontroll.

• Det blir möjligt att utvärdera hur väl olika AI-agenter hanterar frågor och svar och jämföra resultat som tagits fram med hjälp av olika generativa AI-tjänster eller LLM-modeller.

• Nya möjligheter till säkert samarbete mellan olika AI-botar och användare där all data från konversationer och arbetsflöden stannar inom det egna privata molnets infrastruktur.

• En skalbar modell som kan användas i datacenter och privata moln med hög kapacitet, alternativt skalas ner och köras på en vanlig bärbar dator.

• En transparent och kontrollerad utvecklingsmiljö med full tillgång till alla open source-komponenter med möjlighet att utöka eller modifiera valfria delar av stacken eller integrationerna.

Till skillnad från tidigare generativa AI-modeller, som krävt hundratals servrar, tusentals gigabyte för lagring och minne samt dedikerad hårdvara med egna grafikprocessorer (GPU) använder Mattermosts AI-ramverk en öppen källkodsteknik som öppnar för en ny generation AI-modeller som kan installeras och köras från en laptop med så lite som 16 gigabyte arbetsminne och 5 gigabyte lagringsutrymme.

Det nya ramverket är en första release i en serie referensarkitekturer som Mattermost publicerar som öppen källkod i syfte att påskynda utvecklingen av AI-förstärkta samarbetstjänster inom hårt reglerade branscher.

"Även om tekniken för att använda sig av AI i form av stora språkmodeller (LLM) för att generera mer avancerade textmassor ännu är i sin linda, ser vi att den har stor potential att skynda på utvecklingen av AI-understödda arbetsflöden och förbättra samarbetstjänster.”, fortsätter Ian Tien. "Tekniken kan hjälpa oss att plocka fram det viktigaste i såväl konversationer som ur det dagliga informationsflödet. Vi ser att verksamheter nu bör skaffa sig möjlighet att både använda öppna och privata AI-tjänster, samt att kunna nyttja både proprietära modeller och modeller baserade på öppen källkod. På sikt kommer vi att utöka vårt nya ramverk till att även erbjuda egna AI-tjänster. Vår avsikt med dagens tillkännagivande är att erbjuda en ny väg till privat och öppen AI-innovation.", avslutar Ian Tien.

Mattermosts AI-ramverk går att hitta på GitHub: https://github.com/mattermost/mattermost-ai-framework.

2023-06-08 - Industritorget