teknopsykologens briks bloghoved

Human-Computer-Interaction in action

Teknologien er der, og den ledelsesmæssig velvilje og handletrang er der. Begge står de klar til at implementere AI i kognitivt krævende arbejdsopgaver og processer inden for finans-, bygge-, klima- og sundhedsverdenen. Men de, der i praksis skal anvende AI, er der ikke helt.

Illustration: eget arkiv

Det drejer sig om fagspecialister, der i større eller mindre udtrækning skal interagere med AI-algoritmen om at løse komplekse problemstillinger.

Men ud over de åbenlyse potentielle årsager til modstand og skepsis ved at inddrage AI i sit arbejdsliv som at miste sit job eller blive degraderet til at skulle servicere en maskine (firkantet sagt), når AI skal være en fast bestanddel af opgaveløsningen - så er der også mere subtile, men måske mest tungtvejende elementer.

Jeg har dykket ned i AI i sundhedsverdenen ved at nærlæse forskningen og litteraturen inden for fagområderne computer science, implementeringsforskning og social- og kognitionspsykologien. På den baggrund har jeg sammenstykket et billede bestående af mindst fem elementer, der lader til at være potentielle årsager til skepsis og modstand blandt de praktiserende fagspecialister og dermed potentielt barrierer for en succesfuld implementering af AI i praksis:

  • 1) frygt for at miste sit job

  • 2) tab af kontrol over opgaveløsning

  • 3) manglende kognitiv og emotionel relation til AI

  • 4) frygt for uetisk praksis

  • 5) tab af oplevelsen af at have agens - det som i psykologien betegnes som Sense of Agency

Jeg vil sætte spot på især det sidste element: Sense of Agency - eller tab af sense of agency - fordi jeg tror, at det er her nogle af svarene på hvordan AI skal implementeres med størst mulig succes, skal findes.

Sense of Agency defineres inden for psykologifaget som the phenomenon of experience initiating and controlling an action (Braun et al., 2018, p. 1). Tab af sense of agency korrelerer generelt negativt med implementering af nye tiltag inkl. ny teknologi i opgaveløsningen (fx. Desantis et al., 2011), og særligt når ny teknologi opleves som uforudsigelig eller uigennemskuelig (fx Berberian et al., 2012). Der er kun foretaget få studier i sense of agency og AI, men her viser der sig også et billede af, at oplevet ukontrollabel AI fører til tab af sense of agency (fx Diaz et al., 2018).

Sense of agency viser sig generelt at stige så længe man oplever at ens handlinger har forventede konsekvenser, som man rent faktisk kan registrere med sine bare sanser eller på anden måde mikro-måle (Synofzik et al., 2008). Og måske kan denne dynamik også bruges i implementeringen ved at dem, der skal anvende teknologien har mulighed for at afprøve og eksperimentere med forskellige praksisser og forståelsesrammer for netop denne interaktion. Foruden at de selvfølgelig med deres specialviden skal være med til at udvikle teknologien med softwareeksperterne i første omgang.

Og netop udvikling af praksis for interaktion med AI - i praksis - er hvad sygeplejersker på Duke University Hospital har opnået. Et par af hospitalets sygeplejersker på gulvet blev trætte af, at en implementeret AI-algoritme i deres computersystem alarmerede højt og enerverende i tide og utide - uden at nogen på afdelingen foretog sig noget anden end at slukke den. Sygeplejersker besluttede derfor for at gøre en indsats for at forstå, hvad AI faktisk gjorde og kunne bruges til, og efter grundigt feltarbejde fik de drejet afdelingens generelle indstilling til og udvikling af praksis for daglige anvendelse af AI til detektion af indlagte patienter i kritisk tilstand (Wired, 2. oktober 2020).

Så hvordan kommer vi herhjemme i Danmark videre med brugen af AI-støtte? Teknologien og den ledelsesmæssige vilje er som sagt på plads, men det er ikke nok.

Jeg vil i et samarbejde med Radiologisk AI Testcenter (RAIT) undersøge, hvordan AIs potentiale udnyttes bedst muligt til at hjælpe os mennesker med at løse komplekse og vigtige opgaver, hvad end det er inden for sundhed, klima, økonomi eller sociale udfordringer. Og det vil jeg gøre ved at undersøge fagspecialisters interaktion med AI.

Min grundværdi er, at AI skal være tillids-vækkende fremfor tillids-svækkende (vi skal være kolleger fremfor konkurrenter).

Mit fokus er at bidrage til meningsfuld og psykologisk set bæredygtig implementering af AI (udover økonomisk og fagligt bæredygtig).

Mit faglige ståsted er teknopsykologien dvs interaktionen mellem menneske/organisation og intelligent maskine og deres gensidige påvirkning og hver især transformation (som jeg udfolder og udvikler løbende i denne blog).

Min arena er sundhedsvæsenet med radiologien som omdrejningspunkt.

Hvordan jeg kommer i mål med min mission og hvilke udfordringer og erkendelser jeg opnår undervejs - vil jeg løbende dele med jer her på bloggen.

Tak for at læse med i denne omgang.

Venligst, Astrid

Astrid har en baggrund som militærpsykolog og udvikler af disciplinen Teknopsykologi. Her på ING.dk blogger hun om de psykologiske mekanismer, der ligger til grund for udvikling af kunstig intelligens og behandler problemstillinger, der opstår når mennesker skaber maskiner i deres eget billede - og når maskiner skaber mennesker i deres. Med Teknopsykologi behandler Astrid feltet hvor psykologien og den intelligente teknologi tørner sammen, og hun diskuterer hvordan de gensidigt påvirker hinanden i en smuk men kompleks dynamik.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Jeg håber at det lykkes!

Det ville være et helt enormt fremskridt hvis "digtaliseringen" virkeligheden kom til at handle om Forbedringer i stedet for "Gevinst"realiseringer og Bonusordninger - som ingen uden for det teknisk-adminstrative segment af befolkningen har nogen glæde af!

  • 4
  • 0

Min grundværdi er, at AI skal være tillids-vækkende fremfor tillids-svækkende

Man stadig kun markere sympati for et oplæg ved at skrive noget her. Meeen Astrid har kraftig modvind. Primært fra "branchen", hvor man i takt med udviklingen i "regnekraft" får mindre "i" og større "A" indenfor AI. Det ligner et studie i griskhed. Der er meget at vinde på forbedring af hardware'ens udnyttelsesgrad. Praksis halter.

Men så længe håbet er lysegrønt, er vejen sikkert åben for det laaange seje træk!

  • 1
  • 0

Meget af problemet ligger i, at AI blot er en teknik, men vi omtaler det som løsningen på alle problemer. Det kan sammenlignes med en diskussion om hvorvidt matematike løsninger kan sælges.

Et produkt er så meget mere end blot en algoritme eller teknik. Produkterne i vores virksomhed bruger i høj grad AI, og vi har allerede solgt til over 200 klinikker. En del af vores success skyldes dog, at vi fokuserer på problemstillingen og løsningen, og vi omtaler nærmest ikke AI.

Kunder vil have konkrete løsninger til deres problemer, og ikke løfter om, at en teknik nok skal løse alle udfordringer. De er helt ligeglade med om det er AI-baseret :)

  • 1
  • 0

Køre Adnan, tak for gode pointer - jeg helt enig; fokus bør være på konkrete problemstillinger, som der jo er nok af og som AI-algoritmer heldigvis har potentiale til at støtte os i at løse.

Vh Astrid

  • 1
  • 0
Bidrag med din viden – log ind og deltag i debatten