Forskare ger robotar bättre verktyg

Att hantera konflikter i dialoger

En ny avhandling visar hur robotar kan hantera konflikter och kunskapsluckor i dialoger med människor. Genom att förstå orsakerna till att dialoger inte utvecklar sig som förväntat, har forskare vid Umeå universitet tagit fram strategier och beräkningsmekanismer som kan bli viktiga när vi ska leva sida vid sida.

I en inte alltför avlägsen framtid kanske vi vaknar upp till en värld där en hjälpsam robotkompis, ”Robbie”, har integrerats sömlöst i vår vardag. Det som skiljer Robbie från andra maskiner är förmågan att föra meningsfulla konversationer. Men när Robbie och människan fokuserar på olika saker eller saknar gemensam kunskap kan det bli svårt.

Maitreyee Maitreyee, doktorand vid Institutionen för datavetenskap, har funnit att problem och konflikter i konversationer är kopplade till fyra teman: förväntan, förståelse, relation och interaktion.

– Tänk dig till exempel en konversation där Robbie frågar: Varför mår du inte bra? Människan säger: Jag vill inte prata om det. Jag mår nog bättre efter lite frukost. För människor är det naturligt hur man beter sig i sådana situationer. Men för robotar som Robbie är det fortfarande ett öppet forskningsproblem, säger hon.

Anpassa sig eller övertala

För att göra det lättare för Robbie att samarbeta och stötta människor i att uppnå sina mål har Maitreyee identifierat olika användbara strategier. Det kan handla om att anpassa sig eller övertala personen. Till exempel kan det vara viktigt för en äldre person som bor ensam att ta sin medicin i tid eller kontakta en närstående. Att agera ”intelligent” i en sådan situation kräver kunskap om situationen, en förmåga att resonera om möjliga konsekvenser av olika val, och sedan utvärdera effekten: Hur reagerade personen?

Denna kunskap kan vara till nytta för systemutvecklare när de bygger in dialogförmåga i Robbie-liknande robotar som ska fungera tillfredsställande tillsammans med människor i sociala miljöer, till exempel i våra hem eller vårdinrättningar. Det kan ge robotar verktyg att hantera konflikter och konversationer i framtiden, på ett liknande sätt som en människa skulle göra och på ett sätt som upplevs naturligt för människan.

Jämför robotar med barn

Maitreyees studier visade att människor relaterade till robotar som om de vore en annan person. Studiedeltagarna jämförde till exempel robotar med barn och förväntade sig att människor skulle ha tålamod med dem.

– Det var överraskande att se att äldre människor var mer öppna, empatiska och accepterande gentemot robotar jämfört med yngre människor, säger Maitreyee.

En studie visade också att om roboten eller personen delvis anpassar sig till vad den andra vill prata om under konflikter, tycks detta vara en tillräckligt bra lösning ur människans perspektiv. Något som kan vara intressant att studera vidare.

– Konversationer, som kan verka enkla för människor, är egentligen komplexa ur ett AI-perspektiv och kräver flera nivåer av förståelse vilket dagens system inte klarar av. Det krävs mer forskning, säger Maitreyee.

Läs mer om forskargruppen Interactive and Intelligent Systems

Om disputationen

Torsdag 14 december försvarar Maitreyee Maitreyee, Institutionen för datavetenskap, sin avhandling med titeln Situationer av sammanbrott i dialoger mellan människor och socialt intelligenta agenter.Disputationen äger rum kl. 13.00 i MIT.A.121, Umeå universitet. Fakultetsopponent är Olov Engwall, Institutionen för intelligenta system, Kungliga Tekniska Högskolan.

Läs hela avhandlingen

För mer information kontakta gärna:
Maitreyee Maitreyee, Institutionen för datavetenskap, Umeå universitet
E-post: maitreyee.maitreyee@umu.se

2023-12-12 - Industritorget