Så kan robotar vinna människors tillit

Neziha Akalin med roboten Pepper

Vi litar på en robot när vi spelar spel, men känner oss inte lika trygga om den ska hjälp oss med medicinering. En ny avhandling i datavetenskap vid Örebro universitet visar att förtroende, förutsägbarhet och känsla av kontroll är några av faktorerna som avgör om samspelet mellan människa och robot blir lyckad.

– Vi kan anpassa hur robotar beter sig när vi vet vad det är som får människor att känna sig otrygga med en robot, säger Neziha Akalin.

Robotarna är på frammarsch. Smarta högtalare, robotdammsugare och självkörande bilar är alla exempel på sociala robotar – en typ av robot som alla människor kan interagera och kommunicera med. I det samspelet är det viktigt att roboten inte bara är säker rent tekniskt. Vi behöver också känna oss trygga med robotens beteende.

– Upplevd trygghet är lika viktig som fysisk säkerhet. Känner vi oss inte trygga med en robot kommer vi inte att använda den, säger Neziha Akalin som nyligen har disputerat i datavetenskap vid Örebro universitet.

Sex faktorer påverkar tryggheten
I sin avhandling har Neziha Akalin undersökt vilka faktorer som påverkar hur trygga studiedeltagare känner sig i interaktionen med den sociala roboten Pepper. De har exempelvis fått träna med roboten som instruktör och spelat frågesportsspel. Resultaten visar att det är främst sex faktorer som avgör om studiedeltagarna kände sig trygga i samspelet: känsla av trygghet, känsla av kontroll, tillit till att roboten inte kommer att skada och är kompetent att utföra sin uppgift, förutsägbarhet, erfarenhet av robotar och interaktionens sammanhang.

– Människor vill veta vad som händer med en robot om något oförutsägbart skulle hända. I vilket sammanhang interaktionen sker är också viktigt för trygghetskänslan. Till exempel gillade deltagare att spela spel med roboten, men hade svårare att lita på roboten när den skulle hjälpa till med mediciner, säger Neziha Akalin.

Resultaten visar också att deltagarna gillade roboten mer när de fick positiv feedback av den.

– Då presterade de bättre under ett träningspass och tyckte att Pepper var som en riktig coach.

Förutom intervjuerna har Neziha Akalin även kartlagt deltagarnas ansiktsuttryck under samspelet med roboten och mätt fysiologiska data med hjälp av smartklockor.

– Syftet var att förstå vad det är som får deltagarna att känna sig otrygga och hur de reagerar i sådana situationer. I framtiden hoppas jag att vi tar hänsyn till det och utvecklar robotar och autonoma system som människor känner sig trygga att interagera med.

Viktig säkerhetsaspekt
Forskning inom robotik fokuserar i dagsläget främst på den fysiska säkerheten. Samtidigt börjar man ta allt större hänsyn till den upplevda tryggheten hos användarna av AI och robotar.

– I framtiden tror jag att vår tillit till robotar och upplevd trygghet kommer att vara en del av säkerhetsstandarder. Redan idag är det en viktig aspekt i utvecklingen av självkörande fordon, säger Neziha Akalin.

Kontakt: Neziha.Akalin@oru.se, 076 308 98 87

2022-05-13 - Industritorget