Hvordan skjer sosioteknisk rekonfigurering ved innføring av KI-system i sykehus?

Abstract

Norge står overfor store utfordringer med hensyn til tilgang på helsepersonell, og samfunnet ser seg om etter løsninger. Kunstig intelligens (KI) kan bidra til at oppgaver utføres mer effektivt og nøyaktig, og innenfor radiologi er det nå flere hundre KI-baserte produkter på markedet. Med innføringen av kunstig intelligens, og da kanskje spesielt dyp læring, vil det komme endringer og utfordringer, og det er derfor behov for å studere de som har tatt i bruk dyp læring på sykehus og lære av dem. Denne komparative studien undersøker erfaringer fra innføring av dyp-læring-systemer (DL-systemer) i to norske sykehus, og svarer på forskningsspørsmålet "hvordan skjer sosioteknisk rekonfigurering ved innføring av KI-system i sykehus" ved å ta utgangspunkt i (1) førsituasjonen uten KI-produktet og motivasjon for å ta i bruk kunstig intelligens, (2) viktigste endringer for å komme til den nye konfigurasjonen, og (3) nåværende konfigurasjon med KI-systemet. Studien er basert på dybdeintervjuer av ansatte som har erfaringer med KI-systemer basert på dyp læring i daglig, pasientnær bruk, og er skrevet for både IT-personell og ansatte i helsetjenesten som vurderer å ta i bruk kunstig intelligens. Jeg har brukt induktiv metode og tatt utgangspunkt i det intervjupersonene har vektlagt som viktig. Jeg fant at en sentral motivasjonsfaktor for innføringen av DL-systemet i begge casene var ressursutfordringer og forventning om at DL-systemet kunne bøte på disse. Det var vesentlige forskjeller på hvor tett de to sykehusene samarbeidet med leverandøren, leverandørens forretningsmodell og hvordan helsepersonellet brukte KI-systemet på konseptuelt nivå. DL-systemets uløselige forhold til sine treningsdata la føringer for endringsbehov og nødvendige tiltak for å ta DL-systemet i daglig bruk. Spenning mellom DL-systemets upålitelige natur og bruk på et så sikkerhetskritisk domene som medisin er et område som det er interessant å utforske videre, blant annet for å finne praktisk gjennomførbare løsninger for kvalitetssikring.