teknopsykologens briks bloghoved

Taber mennesket agens, når AI vinder terræn?

Kunstig intelligens algoritmer (AI) vil før end siden blive betragtet som agenter side om side med mennesker, idet de har potentiale til at gribe ind og præge - hvis ikke overtage - hele jobfunktioner i et fagområde, lære sig til at blive bedre og bedre hertil og det på en for os døde væsener på en temmelig uigennemskuelig måde.

Derfor vil AI kunne opleves som en form for agent i vores liv, der agerer deri og påvirker vores valg, adfærd og psykologiske stemning. Og dét vil udfordre vores oplevelse af selv at være agenter i vore hver især liv og altså vores oplevelse af at være 'føreren bag rattet'.

Blandt AIs specialiteter er mønstergenkendelse og det er en færdighed, der kan bruges i fx. radiologien når der skal diagnosticeres ud fra scanningsbilleder. Det er derfor nærliggende, at radiologerne oplever sig udfordres at at skulle støttes af denne nye form for ekspert, der potentielt er bedre end radiologen til funktionen. Eller omvendt en AI, der kræver en masse ekstraarbejde fordi den netop ikke er intelligent nok (endnu).

AI som agent behandlede jeg i forrige blogpost, ser her: AI - en hemmelig agent?

Radiografen og radiologens holdning, viden og praksis bliver her afgørende for hvordan dette "samarbejde" mellem de to agenter; AI og fagspecialisten, manifesterer sig - og om det faktisk bærer frugt.

Algoritmer vægter forskelligt - og svaret bliver derefter

Litteraturen viser, at det mere er reglen end undtagelsen, at fagspecialister er skeptiske overfor at implementere AI i deres arbejdsgange. (fx. Pesapane et al., 2020; Pakdemirli, Recht & Bryan, 2017; Verghese, Shah & Harrington, 2018; Sauraub & Topol, 2016; Jha & Topol, 2016).

Fx opstår der især i sundhedsfagene en frygt for at overse sygdomme og dermed forårsage fatale fejl en mulig årsag. Algoritmer bygges med forskelligt formål og fov.

Som ved andre metoder til at teste hypoteser, så involverer bygning af AI-algoritmer også mål som sensitivitet (også kaldet sand positiv rate) og specificitet (også kaldet sand negativ rate). Hvor sensitivitet måler på andelen af korrekt påvist positive tests ('der er sygdom'), da måler specificitet på andelen af korrekt påvist negative test ('der er ikke sygdom'). Prioriteringen af disse to mål afgør udfaldet af hvorvidt AI er sensitiv og specifik nok til at registrere hhv. 'sygdom' og 'ikke-sygdom' ud fra detektion af symptomer på scanningsbilledet.

Dét stiller en række forskellige krav til de fagspecialister, der skal arbejde med AI, når de løser deres opgaver.

Radiologi - et fag i transformation?

Ud over de åbenlyse fordele såsom tids- og økonomisk besparelse, så forventer jeg, at brugen af denne type AI vil skabe en række forandringer i og udfordringer for fagspecialisternes psykologiske velvære herunder fagidentitet samt måde hvorpå de praktiserer deres fag. En transformation, jeg foreslår gælder såvel i andre fag som inden for sundhed.

Inden for radiologien ser jeg følgende umiddelbare udfordringer for fagspecialisterne når de skal bruge AI i deres opgaveløsning:

1) De kan komme på overarbejde hvis AI så at sige "lukker" for mange raske patienter igennem til eftersyn af fagspecialisterne fordi den ikke skal overse nogle syge patienter (ved en AI der er instellet til at virke med lav specificitet og høj sensitivitet).

2) De kan være i en tilstand af uhensigtsmæssig over-årvågen (stress), når de arbejder fordi de frygter, at AI ikke fanger alle de syge patienter, hvorved fagspecialisterne risikerer at overse behandlingskrævende sygdomme (ita AI virker med lav sensitivitet og høj specificitet).

3) De kan opleve en forringelse af deres faglige kompetencer til at analyse og fortolke scanningsbilleder pga. forstyrrelse fra AI, som enten over- eller under-stimulerer fagspecialisten.

4) De kan blive eller frygte at blive dovne pga. en holdning om, at AI 'klarer arbejdet selv'.

5) Og sidst kan de opleve at miste agens i deres arbejdsliv idet AI kan synes konkret at fratage dem kontrol over deres opgaver. Det kan da føre til tab af ansvarsfølelse og måske anseelse som 'fagspecialist'.

Men...

Jeg mener ikke, at disse udfordringer vil stå alene eller par tout er barrierer for en positiv udvikling af faget. En udvikling - og ikke afvikling! - der kan virke transformativ af såvel fagspecialisten, faget, teknologien og den indrammende organisation, hvis de formår at implementere - og anvende - AI i deres specifikke opgaveløsning.

For det er ingen hemmelighed, at AI er hvad, der skal hjælpe os til næste trin på udviklingstrappen hvad angår effektivitet og præcision, når vi skal løse komplekse problemer - i sundhedsvæsenet, energisektoren, infrastruktur, fødevareindustrien og mange andre vitale dele af vore samfund verden over.

Dét stiller krav til dem, der bygger AI-algoritmerne og til os, der skal forstå at implementere og gøre brug af den.

Så det kigger vi nærmere på næste gang.

Fortsat god dag.

Astrid

Astrid er psykolog og PhD-forsker i de psykologiske implikationer ved menneskets interaktion med Kunstig Intelligens særligt i arbejdslivet. Feltet hun udvikler kalder hun ‘Teknopsykologi’, og dét er hvad, hun skriver om her på Ing.dk.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Det, der ofte går galt, er at teknologien bliver præsenteret, som noget der kan udføre en faggruppes arbejde - det giver en naturlig modvilje med at lade sig erstatte af en dum maskine.

Nye teknologier bør i stedet indtænkes og præsenteres, som et optionelt værktøj, der kan assistere faggruppen i veldefinerede (helst rutineprægede) arbejdsområder.

  • 1
  • 0

Det, der ofte går galt, er at teknologien bliver præsenteret, som noget der kan udføre en faggruppes arbejde - det giver en naturlig modvilje med at lade sig erstatte af en dum maskine.

Nye teknologier bør i stedet indtænkes og præsenteres, som et optionelt værktøj, der kan assistere faggruppen i veldefinerede (helst rutineprægede) arbejdsområder.

Indenfor sundhedssystemet er dette særligt vigtigt. Det er vigtigt at huske, at det er mennesker vi har med at gøre. Og denne forståelse mangler AI. Det er ikke kun et spørgsmål om at diagnostificere og medicinere - det er også vigtigt, at patienten er med, og man lytter til dem. Og er en patient imod en behandling, så er vigtigt at kunne indformere om, hvad at den manglene behandling medfører, om der er alternativer som patienten måske ønsker. Mit indtryk er, at sygehusene i dag bruger AI - selvom der er læger - for der er sjældent tid til at lytte til patienterne, og mange patienter føler, at de bliver behandlet automatisk, og sat i en kasse bestemt af et ekspertsystem, så snart de kommer på sygehuset. Dette er måske ok - men ikke uden, at der også lyttes til patienterne, og at man har tid til at give dem en god indformation om konsekvenserne af forskellige behandlingsmuligheder. Det er vigtigt, at patienterne føler, at de er med i det som lægen beslutter.

Oftest har vi ingen garanti for korrektheden af svar fra AI. Og derfor er også nødvendigt, at kvalificerede personer kun anvender AI som rettesnor.

  • 0
  • 0
Bidrag med din viden – log ind og deltag i debatten