teknopsykologens briks bloghoved

Er AI en Ekspert?

Spørgsmålet er på én og samme tid let og svært at besvare.

Teknologien (deep learning, machine learning) omtales som værende intelligent ja, men hvordan forstår og vurderer vi mennesker denne form for intelligens, som AI besidder?

Intelligens er et vidt begreb, så lad os i denne omgang snævre fokus ind på én form for praksis af intelligens, nemlig ekspertise.

I første omgang kommer det selvfølgelig an på hvordan man definerer 'en ekspert'. Derudover hvor 'intelligent' den pågældende algoritme opleves af brugeren at være, og om den reelt løser et problem - eller måske forårsager yderligere...

Er man fx. bevidst - selvbevidst - om sin egen ekspertise? Ikke nødvendigvis som udgangspunkt.

Er ens omgivelser bevist om ens ekspertise? Ja. I hvert fald hvis man forstår ekspertise som noget der kommer til udtryk i en praksis, der har en funktion som fx. at løse et defineret problem eller undersøge et problemfelt. Det kunne fx. være sundhedsøkonomen, der mere end os andre har styr på sammenhængen mellem landet udgifter til sygdomsbekæmpelse og afgifter på usunde varer. Eller den kemikundige ingeniør, som kan udvikle power-to-X løsninger, der kan støtte os i en grøn omstilling. Eller historikeren der sammen med arkæologen hjælper os med at datere og forklare nye danefund. Alle fag og subdomæner har eksperter - fælles for dem er, at deres kunnen har en funktion - mere eller mindre åbenlys - for os andre mennesker og samfundet.

Ekspertens egenskaber - erfaringer og praksisser og intellektuel viden - knytter sig selvsagt til eksperten selv, men det er i de sociale omgivelser at eksperten 'tildeles' sin position som ekspert dvs. at hendes eller hans ekspertise får en værdi - og værdsættes. Eksperten positioneres kva sine egenskaber som nyttige og/eller interessante for samfundet (på universitetet, arbejdspladsen, i Danmark eller i hele verden).

Eksperten har altså brug for andre mennesker for at blive betragtet og defineret - og eventuelt blive selvbevidst - som ekspert.

På samme måde må vi gå til AIs potentielle position som ekspert.

AI har - endnu - ikke potentiale til at være bevidst om sin ekspertise, men det har vi andre. Er AIs funktioner fx. noget vi kan betragte som værdifulde og dermed agtværdige i vores samfund? Kan AI løse reelle problemer for os eller gøre os klogere på noget?

Illustration: eget arkiv

I min forskning af implementering af AI i radiologien vender netop dette spørgsmål ofte tilbage i mine samtaler med fagpersonerne, der anvender AI i deres opgaveløsning. Er AI en hæmsko eller en støtte? Gør AI arbejdsprocessen hurtige og bedre? Og oplever fagpersonen af hendes eller hans præstationer forbedres? Der er delte oplevelse og dermed svar på disse spørgsmål, er min erfaring indtil videre. Og igen; det afhænger selvklar af hvordan AI'en fungerer og hvilken type opgave den er tænkt at skulle støtte ind i.

Jeg er begyndt at kunne se et mønster i hvordan fagpersoner oplever AIs ekspertise.

Nogle betragter den som en af-dem-selv-uafhængig agent, der blot løser sin del af opgaven, og hvor fagpersonen tilsvarende løser sin del. Denne form for fordeling af ekspertisen (og dermed ansvaret) kalder jeg Parallel Ekspertise ('Parallel Expertise').

Andre derimod betrager AI som en af-dem-selv-afhængig agent, hvis støtte består i at supplerer fagpersonens i dennes opgaveløsning og evt. bidrage med ny viden ('ekspertise'), som fagpersonen ikke selv ville være kommet frem til. Denne form for fordeling kalder jeg Augmenteret Ekspertise ('Augmented Expertise') eller Kollektiv Ekspertise ('Collective Expertise').

Jeg forestiller mig desuden, at der kan findes en fordeling af viden og dermed magt i opgaveløsningen, som kan sætte AI's ekspertise i centrum. Her løser AI opgaven selv og altså uafhængigt af fagpersonen, hvorved fagpersonen bliver en formidler eller en stedfortræder for AI fx. når AIs analyse skal kommunikeres til omverden. Denne form for fordeling kalder jeg Videresendt Ekspertise ('Forwarded Expertise').

Illustration: eget arkiv

Jeg uddyber min foreløbige teori denne netop udgivet publikation i European Journal of Radiology: Galsgaard et al., 2022

Som teknopsykolog er jeg særdeles nysgerrig på denne fordeling af ekspertise og dermed ansvar og magt mellem fagperson og AI. Så det er hvad jeg forsker videre i - og vil holde jer opdateret om herinde på Ing.dk .

Tak for at læse med.

Venligst, Astrid

Astrid er psykolog og PhD-forsker i de psykologiske implikationer ved menneskets interaktion med Kunstig Intelligens særligt i arbejdslivet. Feltet hun udvikler kalder hun ‘Teknopsykologi’, og dét er hvad, hun skriver om her på Ing.dk.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Åh nej, ham igen.

Anvendt ML kaldes i dag AI, men der er utrolig stor forskel.

Man behøver ikke selv være intelligent, for at bruge hverken den ene eller den anden. Det giver sig udslag i mærkeligheder, når en person bruger autoritet til at støtte ML.

Traditionel AI var fx beslutningtræer, hvor man kunne se den logiske opbygning og fx forstå og fejlfinde den. De slags AI er som en facitliste (når den er korrekt), man kan finde resultatet og tjekke om det passer med algoritmen.

Moderne ML er med maskinernes voksende formåen blevet i stand til at finde resultater, hvor man ikke kan "regne efter". Det er den nyttige slags, men hvis den "kræver al verdens energi" (at træne) - og mennesker alligevel kan gennemskue dens bias, kan man spørge om den er "nyttig"?

Er maskinerne blevet "for intelligente", på en måde ja, hvis de bruges som mumble-jumbel-generatorer. Er det fordi "vi" ikke forstår "intelligens" og har glemt at udvikle noget af den? Sandsynligvis; psykologi fx vil nok kræve dybere "forståelse" af problematikker - meget mere kode, for at kunne gennemskue "årsag og virkning".

Det er netop derfor teknopsykologens arbejde er interessant og væsentligt; for ellers er der risiko for at komme ud på "for dybt vand" uden eftertanke. Måske vil vi om få år erkende, at vi står i en blindgyde og ikke kan finde ud igen.

  • 4
  • 0
Bidrag med din viden – log ind og deltag i debatten