«Jeg har full forståelse for robot begrensninger. Tusen takk». En studie av chatboten til NAV fra et tillitsperspektiv.

Abstract

I offentlige sektor er automatiserte systemer i form av chatbot-løsninger blitt nokså utbredt for å øke effektivisering. Tillit er avgjørende i form av brukernes villighet til å benytte chatboten, samt realisere gevinsten den skaper. Denne studien søker å bidra til økt forståelse av hvordan tillit kan påvirke chatbot-interaksjoner, noe som kan bidra til å utvikle mer effektive og brukervennlige chatbotløsninger. I denne studien undersøkes hvilken rolle tillit spiller i interaksjonen mellom chatbot og menneske, og hvordan aspekter av brukerens tillit kan vises i chatbotsamtaler. NAV sin chatbot «Frida» som en casestudie for å belyse dette. Det er gjort en undersøkelse av begrepet tillit, datainnsamling av chatbotlogger i to runder, og analysert chatsamtaler i lys av studiens definisjon av tillit og ved bruk tabell for tillitsyper inspirert av Hoffman et al. (2009) sin oversikt over ulike typer av tillit. Analysen resulterte i tre hovedfunn: (1) Brukerens tillit i interaksjonen med Frida er dynamisk og kan forandre seg i løpet av chatsamtalen, (2) Frida kan justere brukernes forventninger og kan endre nivået av brukerens tillit og (3) Den tilliten som fungerer best i praksis for en chatbot-menneske-interaksjon befinner seg et sted mellom avgrenset og forbeholdende tillit. Avslutningsvis diskuteres det hvorvidt tillit er et passende begrep, hvor det konkluderes med at begrepet forventning potensielt vil være bedre egnet til å beskrive flere deler av interaksjonen mellom bruker og Frida.

In this study, I have explored the concept of trust and collected data of chatbot logs in two separate “rounds” of data collection of chat conversations between Nav’s chatbot Frida and users. I have analyzed these chat conversations in the light of the study's definition of trust and by using a table describing different types of trust inspired by Hoffman et al. (2009)'s overview of possible relationships of trust. The analysis resulted in three main findings: (1) The user's trust in the interaction with Frida is dynamic and can change during the chat conversation, (2) Frida can adjust the user's expectations and change the level of the user's trust, and (3)Trust characterized somewhere between limited and reserved trust works best in practice for a chatbot-human interaction.. The study concludes with questioning whether the term expectation, rather than trust, can be a more suitable term used when exploring chatbot-human interaction.