teknopsykologens briks bloghoved

AI implementering kræver en ekstraordinær ledelsesmæssig indsats

Står en virksomheds ledelse over for en anden opgave, når den ønsker at implementere såkaldt intelligent teknologi (AI) sammenlignet med tidligere tiders teknologiske implementeringer?

Både nej og ja. På den ene side, kan ledelsen trække på erfaringer fra tidligere tiders implementering af nye teknologiske opfindelser til at effektivisere arbejdspraksisser. Mens ledelsen på den anden side må forholde sig til, at AI radikalt ændrer måden hvorpå vi forstår grundlæggende begreber såsom ekspertise, agens og samarbejde. Det er i hvert fald min hypotese.

Nej, AI er som andre teknologier

Vi har mange gange i menneskets historie set teknologiske fremspring, der ændrede levevilkår, revolutionerede arbejdspraksisser og fordrede nye forståelser af begreber som ekspertise, tid, sundhed etc.

Gutenbergs opfindelse af bogtrykkekunsten i 1400 tallet (længe efter kineserne havde opfundet lignende metoder) overflødiggjorde i vid udstrækning det manuelle arbejde i at skrive og produere bøger. Hvad der før var forbeholdt en lille gruppe af eksperter i skrivekunsten, var nu overladt til teknologisk "ekspertise".

James Watts opfindelse af dampmaskinen i 1700 tallet ændrede folks oplevels af tid; beretninger lyder på, at der herskede en frygt for at vores mentale tilstand ikke kunne følge med den høje fart, som damplokomotivet bevægede sig i. Desuden betød det at folk flyttede længere fra hinanden og derved fik mere plads at leve på og dét under sundere forhold. Folks fysiske rammer og færden blev formet af teknologiens muligheder.

Hr. Röntgens opfindelse af hvad vi i dag kalder røntgenstråling eller X-stråling omkring 1900 tallet var et kvantespring for medicinske undersøgelser og operationer. Implementeringen af røntgen skabte både jubel og frustration blandt lægefaglige fordi teknologien på en og samme tid øgede effektivitet og kvaliteten af deres arbejde, men også krævede radikal ændring af deres arbejdspraksis - og så var den lidt farlig.

Til sammenligning med disse tre eksempler skiller AI sig ikke ud; AI udfordrer, som jeg tidligere har argumenteret for også forståelse af hvad det vli sige at besidde ekspertise; hvad vi kan kapere eller ikke kan kapere mentalt når der er mange data i spil; hvordan vi indretter vores arbejdspraksisser. Og så generer AI også en hel del bekymring i det omgivende samfund. Læs fx min forrige blog: Når AI transformerer arbejdspladser og kræver nye færdigheder.

Ja, AI er noget særligt

AI generer potentielt alle ovennævnte konsekvenser på samme tid, men jeg vurderer også, at AI er noget særligt og kræver andre og nye ledelsesmæssig greb.

Fordi:

1) AI er i stand til at kunne løse hele funktioner selv

2) AI bearbejder data på en måde, der selv for domæne eksperten er uigennemskuelige og svære at kontrollere for fx biases

3) kan ML lære og blive klogere af sig selv (hvis den får lov dertil)

For lidt og for meget menneske-lighed

Især det sidste punkt er unikt for AI. Når AI er i stand til at udvikle sig i kraft af dens menneskelignende kognitive kapacitet til at finde, knuse og analysere store mængder data, bliver vi udfordret på vores selvforståelse og oplevelse af at 'have styr på tingenes tilstand'. En vis grad af menneskelige egenskaber er godt, da det får os til at føle os trygge ved den hvorved vi gerne vil samarbejde med den (Hu et al., 2016). Vi oplever sådanne AI-algoritmer i form af humanoide hylstre, som robotter, voicebot'er, avatarer etc. Men bliver den menneskelighed for meget dvs. uigennemskuelig for os og derved føles som manipulerende eller forloren, så bliver vi bange for den og vender den ryggen.

Set fra et evolutionært perspektiv skal vi være på vagt for det vi ikke kan forstå, det fremmede og det der foregiver at ligne os, men slet ikke er som os. Og frygten er jo ikke helt grundløs; i bedste fald kan AI blive en ny kollega på arbejdspladsen, i værste fald en erstatning af en kollega eller af dig selv.

AI opleves som uetisk og svær at kommunikere med, når den bliver lidt for "smart"

Andre udfordringer i implementering af AI skal findes i teknologiens manglende gennemsigtighed hvad angår dens databearbejdning (fx. Dignum, 2019 og dens til tider uhensigtsmæssige kommunikationsform (Blomberg et al., 2019; Sendak et al., 2020).

Ledelsen skal tage ansvar og gøre medarbejderne trygge og kompetente

Tilbage står ledelsen med en opgave at være tydelig over for sine medarbejder om hvad AI skal bruges til på arbejdspladsen - hvad er formålet med at AI implementeres; hvad er medarbejderens mandat når det kommer til inddragelse/ikke-inddragelse af AI i beslutningstagning; hvornår er det medarbejderens vurdering der vægtes højest og hvornår er det AI's.

Derudover bør ledelsen tænke i udvikling af AI-medarbejder-teams, hvor medarbejderens behov og interesser varetages i fht. vedkommendes samarbejde med AI. Vi ved fra litteraturen at et samarbejde mellem AI og menneske kan bringe de faglige præstation til helt nye højder (fx. Patel et al., 2019; Topol, 2019). Vi er derfor nødt til at knække koden for hvordan vi opnår et sådan samarbejde mellem AI og menneske - hvad står i vejen og hvad skal der til fra de to aktørers side?

Lad mig gerne høre jeres bud. Er det teknologien eller mennesket der skal "skrues på"? Eller skal begge aktører søge at nærme sig hinanden fx igennem udvikling af nye faglige praksisser og begrebslige forståelser?

Tak for at læse med.

Astrid

Astrid er psykolog og PhD-forsker i de psykologiske implikationer ved menneskets interaktion med Kunstig Intelligens særligt i arbejdslivet. Feltet hun udvikler kalder hun ‘Teknopsykologi’, og dét er hvad, hun skriver om her på Ing.dk.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Bidrag med din viden – log ind og deltag i debatten