Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og du accepterer, at Teknologiens Mediehus og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, job og tilbud m.m. via telefon og e-mail. I nyhedsbreve, e-mails fra Teknologiens Mediehus kan der forefindes markedsføring fra samarbejdspartnere.
teknopsykologens briks bloghoved

I den elektriske skriftestol

Hvem ville du helst bekende dine synder til?

Din hustru? Mor? Ven? Præst? Læge? Chef?

Det afhænger nok af, hvad du søgte at opnå med din bekendelse og hvad den drejede sig om.

Hvem ville bedst forstå dig? Hvem ville bedst kunne hjælpe dig? Hvem ville mindst fordømme dig?

Svaret er givetvis forskelligt for hver af spørgsmålene, og du ville formodentlig have det mere eller mindre skidt uanset hvem, du sad over for. Men det er vel også forudsætningen for en bekendelse; at det er en prekær situation.

Og så ville omfanget af ubehag nok også afhænge af omfanget af din “synd”. Og af din samvittighed.

Men hvad med en maskine?

Hvordan ville det være at bekende sig til en maskine forklædt som menneske?

For eksempel Hanson Robotics humanoide robot Sophia, Softbanks semi-humanoide robot Pepper, eller den voicebot du får i røret, når du ringer til dit forsikringsselskab for at meddele en selvforskyldt skade på en af dine ejendele?

Illustration: Franck V. Hu

Sidste gang jeg ringede til mit forsikringsselskab var det i forbindelse med netop en (delvist!) selvforskyldt skade på min motorcykel.

Skaden var træls i sig selv, men at skulle bekende min uforsigtighed til personen i røret, var næsten ligeså pinligt og noget, jeg skulle tage et par dages tilløb til.

Så spørgsmålet er, om det havde været nemmere hvis det havde været en maskine, jeg havde fået i røret?

Det tror jeg faktisk. Jeg havde måske endda også været mere ærlig omkring hvor tumpet, jeg rent faktisk havde båret mig ad dér i vejkrydset.

Dette er en forholdvist uskyldigt eksempel, men situationen kunne også involvere mere alvorlige tilfælde såsom oplysning og rådgivning om skatteforhold, sundhed eller sociale indberetninger.

Rådgivning fra en computer eller et menneske

Faktisk viser det sig, at det ikke kun er mig, der i visse tilfælde ville finde det nemmere at bekende sig til en maskine frem for et menneske.

Udbredelsen af digitale rådgivere i form af chatbots og voicebots er vokset markant de seneste år især i USA. Og med god grund. Det viser sig nemlig, at brugere fremstår mere ærlige hvad angår deres økonomiske forhold, når det “taler” med en computer fremfor med et menneske. (Se artikel).

Så nu er forvirringen total.

I mine foregående blog har jeg jo skrevet om hvor vigtigt det er, at vi mennesker oplever at have tillid til den intelligente maskine, førend vi gider interagere med den (At puste liv i maskiner og State of the Art på humanoide robotter). Men på baggrund af min egen erfaring og artikler som den her præsenterede, kan man nu opstille en hypotese om, at vi har mere tillid til maskinen blandt andet fordi den IKKE er menneskelig.

Hvad handler det om?

Kort sagt;

Vi føler, derfor dømmer vi

Fordelene ved os mennesker er nogle gange også ulemperne. Vores evne til at føle og sætte os i andres sted, som jeg har skrevet om her Bamse er en bamse er en bamse er en bamse, gør os til fantastiske sociale væsner og ikke mindst socialiserende væsner. Vi kan leve sammen og hjælpe hinanden med at blive inden for fællesskabets rammer; vores sæder og vaner.

Når vi dømmer hinanden handler det om at opretholde vores fælles moralske kodeks og i sidste ende vores overlevelse.

Hvis vi oplever, at nogle handler på en måde, som ikke passer ind i fællesskabets ramme, evner vi at “hjælpe” dem tilbage ved at bedømme og om nødvendigt fordømme deres handlinger. Fordømmelse er en form for udskamning og udskamning er en form for opdragelse til at passe ind i fællesskabet.

Kan du skamme dig! - over for en maskine?

Skam er en ubehaglige følelse og betragtes - især i denne tid - som noget man i sig selv bør skamme sig over.

Ikke desto mindre er det godt at kunne skamme sig eftersom, at skam er én af ingredienserne i vores naturlige intelligens, som går ud på, at vi skal overleve længst og bedst muligt inden for fællesskabets ramme. Den naturlige intelligens kontra den kunstige intelligens skriver jeg mere om her Hvad er forskellen på naturlig og kunstig intelligens .

SÅ; i forhold til hvorfor det er nemmere at bekende sig til maskinen fremfor mennesket, er der at sige, at maskinen ikke udsætter dig for udskamning, som et menneske naturligt - og pligtskyldigt - gør.

Dét sagt, så går der nok ikke længe førend KI-programmørers bud på skam-algoritmer ser dagens lys, og vil blive prøvet af først og fremmest i humanoide robotter og siden rådgivende maskiner.

Det er et delikat emne, for hvem vil frivilligt gå med til at lade sig udskamme eller investere penge i en robot, der udskammer?

En sådan robot vil altså ikke fremstå udelukkende imødekommende over for mennesket, sådan som de eksisterende intelligente humanoide robotter og assistenter ellers synes at have til formål at være.

Måske er det først, når robotten formår at reagere på - og med - både positiv og negativ respons (følelser) i mødet med os mennesker, at den for alvor fremstår menneskelig?

Den man elsker, fordømmer man

Når en maskine formår at reagere på os på en måde, der synes intelligent skyldes det, at den har lært at aflæse vores adfærd, ikke vores følelser og mentale tilstand. Forsøg på at give maskinen evne til at sætte sig ind i vores mentale tilstand, skriver jeg mere om her Bamse er en bamse er en bamse er en bamse

Så når den rådgivende maskine ikke evner at fordømme os, vil jeg hævde, at det hænger sammen med, at den ikke forstår vores mentale tilstand. Maskinen formår dermed ikke kan gribe ind og korrigere vores mentale tilstand og adfærd således, at vi “hjælpes” tilbage i socialt acceptable ramme.

Illustration: Aubrey Rose Odom

Men måske er det også okay?

Måske skal maskiner være maskiner og mennesker være mennesker.

Hvis vi lader maskiner hjælpe os med visse ting såsom løsning af konkrete problemer i form af for eksempel rådgivning i økonomiske eller forsikringsmæssige forhold eller bidrage med faktuelle oplysninger om diverse. Så kan vi overlade alle de andre “opgaver” til os mennesker; dem der involverer empati, følelser og eksistentielle erkendelser, kreativitet, udvikling og ledelse med videre.

Balladen opstår dog alligevel, når de konkrete problemer, som for eksempel en skadesanmeldelse på en motorcykel, involverer komplicerede følelser såsom skam.

Antropomorfisering som løsning eller problem?

Denne ballade har et navn; Antropomorfisering, hvilket betyder menneskeliggørelse her af maskiner.

Når KI-udviklere ønsker at gøre deres intelligente maskiner så anvendelige som muligt er det ud fra hypotesen om, at vi mennesker helst vil kommunikere med mennesker eller som minimum menneskelignende maskiner. Læs for eksempel Artikel .

Jeg medgiver, at denne præmis giver mening et langt stykke hen ad vejen, men - som vi ser her med skamfuldhed ved bekendelse over for en maskine kontra et menneske - åbenbart ikke helt.

Med antropomorficeringen af maskiner følger, at vi automatisk kommer til at have forventninger om, at de også agerer moralsk og kan drages til ansvar for deres handlinger. Og her ender vi desværre ofte med at blive frygtelig skuffede eller vrede, fordi så menneskelige er maskinerne jo ikke. endnu.

Giv maskinen, hvad maskinens er og mennesket, hvad menneskets er

Hvornår vi vil være fortrolige med et menneske fremfor en maskine, eller foretrækker at bekende vore “synder” til en maskine fremfor et menneske, afhænger af tre ting; synden, mennesket og maskinen.

Synden er en fast og afgrænset størrelse; mennesket er fuld af følelser og forventeligt temmelig uforudsigelig, mens maskinen er helt uden følelser og temmelig forudsigelig - i hvert fald i det omgang, omfanget af dens kunstige neurale netværk byder.

Om det er en god eller dårlig idé på sådan at dele vores mellemmenneskelige “opgaver” op i mindre dele og distribuere nogle af dem til mere eller mindre intelligente maskiner, kan jeg ikke svare entydigt og udtømmende på. Det kommer an på 1. opgaven, 2. maskinen der udfører den og 3. hvilke behov mennesket i ligningen har.

Entydigt kan der dog konkluderes, at opdeling og distribuering af vores opgaver - arbejdsmæssige, sociale og delvis følelsesmæssige - allerede er godt igang.

Og der er penge at spare - og tjene - så udviklingen går stærkt, og vi er nødt til at tænke hurtigt - eller bremse op - og tage stilling til i hvilket omfang, vi vil lade os erstatte af maskiner, og hvor langt vi vil gå med til at lade os forlænge (!) af maskiner.

Vi skal over de næste par blogspost gå i dybden med denne udvikling fordi den, om vi vil det eller ej, griber mærkbart ind i vores liv og psykiske velbefindende.

Men lad mig høre;

Hvor ville I sætte grænsen for hvilke opgaver, maskiner skal overtage fra mennesket?

Fortsat god dag. Venligst, Julie-Astrid

Julie-Astrid har en baggrund som militærpsykolog og udvikler af disciplinen Teknopsykologi. Her på ING.dk blogger hun om de psykologiske mekanismer, der ligger til grund for udvikling af kunstig intelligens og behandler problemstillinger, der opstår når mennesker skaber maskiner i deres eget billede - og når maskiner skaber mennesker i deres. Med Teknopsykologi behandler Julie-Astrid feltet hvor psykologien og den intelligente teknologi tørner sammen, og hun diskuterer hvordan de gensidigt påvirker hinanden i en smuk men kompleks dynamik.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Hvor ville I sætte grænsen for hvilke opgaver, maskiner skal overtage fra mennesket?

Joseph Weizenbaum (en af de store i den første AI-bølge) skrev det så rammende i sin bog Computer Power and Human Reason: Since we have no way of making computers wise, we should not give them tasks that require wisdom.

Weizenbaums pointe i bogen er, at vi har indsigt, viden og empatisk forståelse, som vi alene har opnået gennem at leve et liv som mennesker, som kun kan opnås på den måde, og som vi ikke kan sætte på formel.

Jeg tror, at det er værd at man ikke ukritisk kommer til at sætte lighedstegn mellem information, viden og visdom - uden at jeg skal kunne definere hver af dem .

/Bo

ps. Selv om bogen er, i denne kontekst, tudsegammel, er den stadig værd at læse.

  • 4
  • 0

Kære Bo, tak for spændende indspark. Jeg er helt enig, der er en klar semantisk forskel mellem information, viden og visdom. Og hvor er det vigtigt at vi ikke blander dem sammen eller tror at de betyder det sammen, for så bliver menneskelivet en kedelig omgang. Jeg har skrevet lidt mere om hvad du fremhæver af Weisenbaums - som jeg fluks vil dykke ned i - tanker om det levede liv, i denne blog: https://ing.dk/blog/naturlig-kunstig-intel....

God dag!
JA

  • 0
  • 0
Bidrag med din viden – log ind og deltag i debatten