teknopsykologens briks bloghoved

Human-Computer-Interaction in action

Teknologien er der, og den ledelsesmæssig velvilje og handletrang er der. Begge står de klar til at implementere AI i kognitivt krævende arbejdsopgaver og processer inden for finans-, bygge-, klima- og sundhedsverdenen. Men de, der i praksis skal anvende AI, er der ikke helt.

Illustration: eget arkiv

Det drejer sig om fagspecialister, der i større eller mindre udtrækning skal interagere med AI-algoritmen om at løse komplekse problemstillinger.

Men ud over de åbenlyse potentielle årsager til modstand og skepsis ved at inddrage AI i sit arbejdsliv som at miste sit job eller blive degraderet til at skulle servicere en maskine (firkantet sagt), når AI skal være en fast bestanddel af opgaveløsningen - så er der også mere subtile, men måske mest tungtvejende elementer.

Jeg har dykket ned i AI i sundhedsverdenen ved at nærlæse forskningen og litteraturen inden for fagområderne computer science, implementeringsforskning og social- og kognitionspsykologien. På den baggrund har jeg sammenstykket et billede bestående af mindst fem elementer, der lader til at være potentielle årsager til skepsis og modstand blandt de praktiserende fagspecialister og dermed potentielt barrierer for en succesfuld implementering af AI i praksis:

  • 1) frygt for at miste sit job

  • 2) tab af kontrol over opgaveløsning

  • 3) manglende kognitiv og emotionel relation til AI

  • 4) frygt for uetisk praksis

  • 5) tab af oplevelsen af at have agens - det som i psykologien betegnes som Sense of Agency

Jeg vil sætte spot på især det sidste element: Sense of Agency - eller tab af sense of agency - fordi jeg tror, at det er her nogle af svarene på hvordan AI skal implementeres med størst mulig succes, skal findes.

Sense of Agency defineres inden for psykologifaget som the phenomenon of experience initiating and controlling an action (Braun et al., 2018, p. 1). Tab af sense of agency korrelerer generelt negativt med implementering af nye tiltag inkl. ny teknologi i opgaveløsningen (fx. Desantis et al., 2011), og særligt når ny teknologi opleves som uforudsigelig eller uigennemskuelig (fx Berberian et al., 2012). Der er kun foretaget få studier i sense of agency og AI, men her viser der sig også et billede af, at oplevet ukontrollabel AI fører til tab af sense of agency (fx Diaz et al., 2018).

Sense of agency viser sig generelt at stige så længe man oplever at ens handlinger har forventede konsekvenser, som man rent faktisk kan registrere med sine bare sanser eller på anden måde mikro-måle (Synofzik et al., 2008). Og måske kan denne dynamik også bruges i implementeringen ved at dem, der skal anvende teknologien har mulighed for at afprøve og eksperimentere med forskellige praksisser og forståelsesrammer for netop denne interaktion. Foruden at de selvfølgelig med deres specialviden skal være med til at udvikle teknologien med softwareeksperterne i første omgang.

Og netop udvikling af praksis for interaktion med AI - i praksis - er hvad sygeplejersker på Duke University Hospital har opnået. Et par af hospitalets sygeplejersker på gulvet blev trætte af, at en implementeret AI-algoritme i deres computersystem alarmerede højt og enerverende i tide og utide - uden at nogen på afdelingen foretog sig noget anden end at slukke den. Sygeplejersker besluttede derfor for at gøre en indsats for at forstå, hvad AI faktisk gjorde og kunne bruges til, og efter grundigt feltarbejde fik de drejet afdelingens generelle indstilling til og udvikling af praksis for daglige anvendelse af AI til detektion af indlagte patienter i kritisk tilstand (Wired, 2. oktober 2020).

Så hvordan kommer vi herhjemme i Danmark videre med brugen af AI-støtte? Teknologien og den ledelsesmæssige vilje er som sagt på plads, men det er ikke nok.

Jeg vil i et samarbejde med Radiologisk AI Testcenter (RAIT) undersøge, hvordan AIs potentiale udnyttes bedst muligt til at hjælpe os mennesker med at løse komplekse og vigtige opgaver, hvad end det er inden for sundhed, klima, økonomi eller sociale udfordringer. Og det vil jeg gøre ved at undersøge fagspecialisters interaktion med AI.

Min grundværdi er, at AI skal være tillids-vækkende fremfor tillids-svækkende (vi skal være kolleger fremfor konkurrenter).

Mit fokus er at bidrage til meningsfuld og psykologisk set bæredygtig implementering af AI (udover økonomisk og fagligt bæredygtig).

Mit faglige ståsted er teknopsykologien dvs interaktionen mellem menneske/organisation og intelligent maskine og deres gensidige påvirkning og hver især transformation (som jeg udfolder og udvikler løbende i denne blog).

Min arena er sundhedsvæsenet med radiologien som omdrejningspunkt.

Hvordan jeg kommer i mål med min mission og hvilke udfordringer og erkendelser jeg opnår undervejs - vil jeg løbende dele med jer her på bloggen.

Tak for at læse med i denne omgang.

Venligst, Astrid

Astrid er psykolog og PhD-forsker i de psykologiske implikationer ved menneskets interaktion med Kunstig Intelligens særligt i arbejdslivet. Feltet hun udvikler kalder hun ‘Teknopsykologi’, og dét er hvad, hun skriver om her på Ing.dk.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Jeg håber at det lykkes!

Det ville være et helt enormt fremskridt hvis "digtaliseringen" virkeligheden kom til at handle om Forbedringer i stedet for "Gevinst"realiseringer og Bonusordninger - som ingen uden for det teknisk-adminstrative segment af befolkningen har nogen glæde af!

  • 5
  • 0

Min grundværdi er, at AI skal være tillids-vækkende fremfor tillids-svækkende

Man stadig kun markere sympati for et oplæg ved at skrive noget her. Meeen Astrid har kraftig modvind. Primært fra "branchen", hvor man i takt med udviklingen i "regnekraft" får mindre "i" og større "A" indenfor AI. Det ligner et studie i griskhed. Der er meget at vinde på forbedring af hardware'ens udnyttelsesgrad. Praksis halter.

Men så længe håbet er lysegrønt, er vejen sikkert åben for det laaange seje træk!

  • 2
  • 0

Meget af problemet ligger i, at AI blot er en teknik, men vi omtaler det som løsningen på alle problemer. Det kan sammenlignes med en diskussion om hvorvidt matematike løsninger kan sælges.

Et produkt er så meget mere end blot en algoritme eller teknik. Produkterne i vores virksomhed bruger i høj grad AI, og vi har allerede solgt til over 200 klinikker. En del af vores success skyldes dog, at vi fokuserer på problemstillingen og løsningen, og vi omtaler nærmest ikke AI.

Kunder vil have konkrete løsninger til deres problemer, og ikke løfter om, at en teknik nok skal løse alle udfordringer. De er helt ligeglade med om det er AI-baseret :)

  • 4
  • 0

Køre Adnan, tak for gode pointer - jeg helt enig; fokus bør være på konkrete problemstillinger, som der jo er nok af og som AI-algoritmer heldigvis har potentiale til at støtte os i at løse.

Vh Astrid

  • 2
  • 0

Timnit Gebru, som indtil for nylig var en af cheferne for Googles hold for etisk kunstig intelligens, er blevet fyret fra sit job efter at have været medforfatter på et udkast til en kritisk videnskabelig artikel og derefter have skrevet om sagen i en intern Google-gruppe.

Ud over at have en ledende funktion for et Google-hold er Timnit Gebru kendt som medforfatter til en videnskabelig artikel fra 2018, der viste, at ansigtsgenkendelse var mindre nøjagtig til at identificere kvinder og mennesker med brun hud end andre, hvilket indebærer, at brugen af teknikken kan ende med at diskriminere disse grupper.

Chefen for ​​Google AI, Jeff Dean, har meddelt at det nævnte udkast efter hans mening ikke opfyldte Googles niveau for artikler til offentliggørelse...

sådan! ;)

https://pro.ing.dk/datatech/article/google...

  • 1
  • 0
Bidrag med din viden – log ind og deltag i debatten