teknopsykologens briks bloghoved

Når AI transformerer arbejdspladser og kræver nye færdigheder

Kunstig intelligens teknologi (AI) bliver klogere, jo mere den træner. Den kan lære at blive bedre til at løse en specifik opgave - hvis den altså får lov til at dertil. I det danske sundhedsvæsen anvendes der aktuelt kun AI-algoritmer, der så at sige er "låst" fra programmørens side dvs., at algoritmerne inden for en given ramme lærer fx at diagnosticere specifikke sygdomme ud fra scanningsbilleder. Disse algoritmer får ikke lov til selv at afdække andre mønstre i patientens sundhedstilstand og sygdomsbillede.

Forestil jer, at AI blev sat til at analysere scanningsbilleder at en person med ondt i knæet. AI kan her komme frem til at smerten i knæet skyldes slidgigt i mindre, moderat eller svær grad. Slidgigt kan dog ikke behandles men blot lindres ved bl.a. fysiologiske øvelser. Hvis AI vurderer, at patienten har slidgigt i moderat til svær grad - og dette stemmer overens med en radiologs vurdering - da vil vedkommende ikke blive henvist til yderligere udredning, fordi årsagen til smerten nu er identificeret. Viser AI derimod, at patienten kun i mindre grad eller slet ikke lider af slidgigt, da vil patienten blive henvist til yderligere udredning ved MR-scanning.

Dette er et realistisk scenarie i det danske sundhedsvæsen så længe, at AIs bidrag assisteres af en fagpersons vurdering, når der skal træffes en beslutning om behandling, udredning eller ophør deraf.

I et andet og endnu tænkt scenarie, hvor AI ikke er "låst" i fht. at afdække mønstre i anomalier, her symptomer, på en specifik sygdom, vil vi formentlig ende et andet sted.

Uden restriktioner vil AI blive ved med at "grave" efter mere eller mindre relevante mønstre i patientens sygdomstilstand og liv i øvrigt. Jeg forestiller mig, at AI vil indlede en søgning efter online-tilgængelige informationer om alt fra symptomer og sygdomme til forbrugsadfærd, færden rundt i den fysiske verden samt virtuelle berøringspunkter. Har patienten fx. et fitness klub-medlemskab? Er patienten overvægtig og søger efter slankekure på internettet? Har patienten købt nye sko, måske nogle ortopædisk fornuftige af slagsen? Er patienten registreret på en skadestue efter en bilulykke, som er meldt til et forsikringsselskab, eller måske endda på en politigård efter en slagsmål? Måske kan disse oplysninger til sammen danne et mønster for hvorfor patienten har knæsmerter. Og ellers kaster de i hvert fald lys på andre mulige mønstre i patientens sundhedstilstand og livsstil generelt - mønstre der kalder på aktivering af relevante fagpersoner at følge op på.

En AI uden restriktioner vil antageligt generere en flodbølge af medarbejde ikke blot inden for sundhedssektoren, men også uden for. Fagfolk fra forskellige sektorer vil skulle samarbejde om at validere AIs bidrag og koordinere mono- og tværsektorielle indsatser her ud fra.

Men er vi klar til en sådan transformation af måden hvorpå vi indretter infrastruktur i og mellem sektorer på? Og vil vi det overhovedet?

Illustration: Joshua Sortino

AI har potentiale til at omkalfatre vores gængse samfundsstruktur og orden - og det kan skabe såvel kaos som kosmos afhængigt om vi kan følge med.

Vi møder AI i vores private liv og i vores professionelle liv; Intelligente assistenter i vores telefon og internet of things-dimser i hjemmet. Som hjælpsomme assistenter når vi søger på internettet og får alverdens viden i vores søgeresultatet. Når vi ringer til vores forsikringsselskab og skal guides på rette hylde hvad angår vores skadesanmeldelse, eller når vi shopper online og der i nedre højre hjørne dukker en lille taleboble op med et mere eller mindre insisterende Hej op og spørger om vi behøver hjælp.

I min PhD-forskning ved Bispebjerg Hospital dykker jeg ned i hvordan sundhedsfaglige møder AI i deres hverdag. Jeg undersøger hvad dette møde har af betydning og konsekvens for individet, fællesskabet og organisationen. Specifikt har jeg lagt radiologien på min teknopsykologiske briks.

Aktuelt arbejder jeg med en hypotese om, at AI transformerer både de mennesker, der anvender den og den arena, hvor inden for den anvendes. Jeg tror, at såvel radiologernes fagidentitet og måde at arbejde på vil forandres og enten skabe kaos eller kosmos i den enkelte radiolog og i radiologerne som faggruppe - igen afhængigt af om de evner og formår at følge med.

Men hvad betyder det "at følge med"?

Skal radiologerne forstå hvad AI gør og kan? Skal de efteruddannes til at programmere algoritmer og tolke matematisk data? Skal de føle sig trygge ved, at AI følger et etisk kodeks og ikke vil overskride hverken patientens ret til privatliv eller radiologens faglige integritet?

I de forrige par blogposts har jeg skrevet om dét at have agens som fagperson og hvad der kan true denne (AI - en hemmelig agent? og Taber mennesket agens, når AI vinder terræn?).

Jeg argumenterer for, at implementeringen af AI kan risikere at sænke fagpersonens oplevelse af at have agens i sit job. Omvendt foreslår jeg også, at AI har poentiale til at virke som en støtte af fagpersonens faglige udvikling ved at virke augmenterende (forlængende) af faglige kompetencer som igen giver øget beslutningskompetence - hvis altså AI implementeres ordentligt. Dette vurderer jeg vil føre til en øget oplevelse af at have agens.

Jeg mener, at kravet om "at følge med" i hvert fald appellerer til en ledelsesmæssig indsats. Det potentielt øget pres på fagpersonerne om at koordinere og samarbejde med nye aktører, skal håndtere på ledelses-niveauet.

Illustration: Linus Nyland

Kommunikation er et begreb jeg dykker ned i fordi jeg tror, at fagpersonen, her radiologens, møde med AI vil kræve at radiologerne udvikler nye praksisser for kommunikation. I mødet mellem radiolog og AI sker der en informationsudveksling fra AI til radiologen i form af enten et tal (pba. sandsynlighedsberegning), nogle tegningsanvisninger (på det elektroniske scanningsbillede) eller en struktureret tekst om den givne sygdoms symptombillede (udfyldelse af faste kategorier).

Hvordan påvirker det radiologens videre kommunikation af sine - og AIs - fund på de obligatoriske morgenkonferencer med andre radiologer og andre sundhedsfaglige?

I mødet mellem AI og radiologen eksisterer der en form for magtforhandling om hvem - eller hvad - der ligger inde med valid viden om den specifikke sygdom. Er det AIs eller radiologens detektion, der vægter højest i tilfælde af uenighed? Hvordan forstås valid viden i det hele taget?

Jeg overvejer desuden hvordan AI påvirker de sundhedsfagliges kommunikation omkring AIs bidrag. Vil de begynde at argumentere for deres faglige beslutninger på en anden måde? Og vil magtforholdene også her ændre sig? Nogle anvender AI, andre gør ikke. Nogle har en vis tech-savvy, mens andre ikke har og ikke ønsker det. Der kan med AIs bidrag nu træffes beslutninger som ellers hidtil ikke har været underbygget.

Får nogle mere travlt, imens andre mister deres kernefunktioner?

Jeg har en hypotese om, at visse faggrupper vil udfordres på deres fagidentitet. AI vil kræve nye kompetencer inden for såvel det fagfaglige, kommunikative som teknologiske felt. Og en ny forståelse af hvad ekspertise er og hvordan den udvikles.

Vi ved, at Ekspertise inden for et domæne udvikles gennem praktisk erfaring med såvel succesfulde som fejlfulde oplevelser. Vi går fra at være novicer til at være eksperter ved at slippe den regelbundede og teoretiske viden til at agere med intuitiv og kontekstuel viden.

Men hvilken slags ekspertise er det så, vi møder i AI?

AI er både regelbundet og synes intuitiv - i hvert fald fremstår den sådan for vores blotte øje. AI gennemgår ikke som en almindelig fagperson en række læringsstadier for at komme til ekspertise, desuden har AI ikke gennemgået en velkendt og standardiseret uddannelse på et af landets universiteter.

Så hvordan vil fagpersonerne forstå AIs domæne ekspertise, når de ikke kan relatere til den?

Jeg tror, at AIs ekspertise generelt vil udfordre fagpersonens måde at gøre sit fag på hvad angår konkret opgaveløsning, kommunikation og samarbejdet med kolleger herom og i hvilken hastighed dette forventes at ske.

Lad mig gerne læse om jeres erfaringer med at arbejde med AI i jeres profession. Hvordan har I oplevet, at begreber som kommunikation og ekspertise kommer i spil i mødet med AI?

Tak for at læse med.

Venligst, Astrid

Denne artikel er en del af Ingeniørens Automationskampagne. Læs mere her
Astrid er psykolog og PhD-forsker i de psykologiske implikationer ved menneskets interaktion med Kunstig Intelligens særligt i arbejdslivet. Feltet hun udvikler kalder hun ‘Teknopsykologi’, og dét er hvad, hun skriver om her på Ing.dk.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Hej Astrid,

det er lidt uklart (selv efter to gennemlæsninger), hvad du mener.

Uden restriktioner vil AI blive ved med at "grave" efter mere eller mindre relevante mønstre i patientens sygdomstilstand og liv i øvrigt. Jeg forestiller mig, at AI vil indlede en søgning efter online-tilgængelige informationer om alt fra symptomer og sygdomme til forbrugsadfærd, færden rundt i den fysiske verden samt virtuelle berøringspunkter.

Her lader det til, at du vil lade AI "overvåge" befolkningen. Det er måske ikke en supergod idé.

Jeg argumenterer for, at implementeringen af AI kan sænke fagpersonens oplevelse af at have agens i sit job. Omvendt foreslår jeg også, at AI kan virke som en støtte af fagpersonens faglige udvikling ved at virke augmenterende (forlængende) af faglige kompetencer som igen giver øget beslutningskompetence. Dette vurderer jeg vil føre til en øget oplevelse af at have agens.

Men her er det "som om" du er på menneskets side.

AI begyndte som et værktøj til at finde vej gennem komplexitet. For 30 år siden (før maskinlæring) var AI primært et værktøj i "ekspertsystemer", som hjalp brugere med at "finde vej". Med udbredelsen af computere blev anvendelsen af dem som besluttere "i folkemunde" lig med AI.

Blander du AI og ML?

Jeg håber du vil blive at oplyse os her om dine tanker om teknologi. Du skriver langt (og det måske grunden til få svar), men det er spændende læsning - omend til tider en smule foruroligende.

Bedste hilsner /Nis

  • 1
  • 0

Jeg argumenterer for, at implementeringen af AI kan sænke fagpersonens oplevelse af at have agens i sit job. Omvendt foreslår jeg også, at AI kan virke som en støtte af fagpersonens faglige udvikling ved at virke augmenterende (forlængende) af faglige kompetencer som igen giver øget beslutningskompetence. Dette vurderer jeg vil føre til en øget oplevelse af at have agens.

Der er offentliggjort en undersøgelse fornyligt, som viste at disse støttesystemer skal bruges med forsigtighed.

Hvis fagpersonen undersøger og drager sin konklussion, og derefter henter resultatet fra støttesystemet, så øges kvaliteten.

Hvis rækkefølgen er omvendt, så er det overvejende sandsynligt at fagpersonen bare blåstempler resultatet fra støttesystemet, uanset om det er korrekt.

Jeg kan desværre ikke huske kilden.

  • 1
  • 0

Kære Nis,

tak for godt indspark. Jeg lister et tænkt scenarie op, hvor AI "sættes fri" til at æde af alverdens data om patienten og forestiller mig at dette kan aktiverer en lang række institutioner lige fra skadestuen, politiet, kommunen mv. Jeg stiller spørgsmålstegn ved om vi vil at dette scenarie skal blive til virkelighed. Jeg tror det ikke. Derpå foreslår jeg, at AI kan virke såvel svækkende som styrkende af fagpersonens agens - afhængigt af hvordan AI anvendes og implementeres i fagpersonens praksis.

Jeg skriver om AI generelt, men ja, nok mest ud fra hvad ML har af potentiale. Det er hovedsageligt ML vi bruger i radiologien til billeddiagnostik.

Vh Atrid

  • 0
  • 0

Kære Gert,

tak for opmærksomheden og henvisning til undersøgelsen. Skriv hvis du kommer i tanke om kilden.

Fortsat god dag. Astrid

  • 0
  • 0

Så meget havde jeg nok fattet, men her på min "stik 2 dag" har jeg været afledt fra mine daglige sysler.

Det med radiologien lyder lidt som at ville "fixe" en transistorradio ved at stikke en glødende skruetrækker gennem kabinettet. Alt i alt er jeg dog beroliget en smule.

Området lader til at mangle ansvarlig softwareudvikling, men det kommer nok, når folk engang forstår at Moores lov ikke hjælper ineffektiv programmering så meget mere - giv det 5-10 år ;-)

Jeg vil fortsat nyde denne ind- og udsigtgivende blogs afveksling fra skandalejournalismen.

/Nis

  • 0
  • 0
Bidrag med din viden – log ind og deltag i debatten