I den elektriske skriftestol
Hvem ville du helst bekende dine synder til?
Din hustru? Mor? Ven? Præst? Læge? Chef?
Det afhænger nok af, hvad du søgte at opnå med din bekendelse og hvad den drejede sig om.
Hvem ville bedst forstå dig? Hvem ville bedst kunne hjælpe dig? Hvem ville mindst fordømme dig?
Svaret er givetvis forskelligt for hver af spørgsmålene, og du ville formodentlig have det mere eller mindre skidt uanset hvem, du sad over for. Men det er vel også forudsætningen for en bekendelse; at det er en prekær situation.
Og så ville omfanget af ubehag nok også afhænge af omfanget af din “synd”. Og af din samvittighed.
Men hvad med en maskine?
Hvordan ville det være at bekende sig til en maskine forklædt som menneske?
For eksempel Hanson Robotics humanoide robot Sophia, Softbanks semi-humanoide robot Pepper, eller den voicebot du får i røret, når du ringer til dit forsikringsselskab for at meddele en selvforskyldt skade på en af dine ejendele?
Sidste gang jeg ringede til mit forsikringsselskab var det i forbindelse med netop en (delvist!) selvforskyldt skade på min motorcykel.
Skaden var træls i sig selv, men at skulle bekende min uforsigtighed til personen i røret, var næsten ligeså pinligt og noget, jeg skulle tage et par dages tilløb til.
Så spørgsmålet er, om det havde været nemmere hvis det havde været en maskine, jeg havde fået i røret?
Det tror jeg faktisk. Jeg havde måske endda også været mere ærlig omkring hvor tumpet, jeg rent faktisk havde båret mig ad dér i vejkrydset.
Dette er en forholdvist uskyldigt eksempel, men situationen kunne også involvere mere alvorlige tilfælde såsom oplysning og rådgivning om skatteforhold, sundhed eller sociale indberetninger.
Rådgivning fra en computer eller et menneske
Faktisk viser det sig, at det ikke kun er mig, der i visse tilfælde ville finde det nemmere at bekende sig til en maskine frem for et menneske.
Udbredelsen af digitale rådgivere i form af chatbots og voicebots er vokset markant de seneste år især i USA. Og med god grund. Det viser sig nemlig, at brugere fremstår mere ærlige hvad angår deres økonomiske forhold, når det “taler” med en computer fremfor med et menneske. (Se artikel).
Så nu er forvirringen total.
I mine foregående blog har jeg jo skrevet om hvor vigtigt det er, at vi mennesker oplever at have tillid til den intelligente maskine, førend vi gider interagere med den (At puste liv i maskiner og State of the Art på humanoide robotter). Men på baggrund af min egen erfaring og artikler som den her præsenterede, kan man nu opstille en hypotese om, at vi har mere tillid til maskinen blandt andet fordi den IKKE er menneskelig.
Hvad handler det om?
Kort sagt;
Vi føler, derfor dømmer vi
Fordelene ved os mennesker er nogle gange også ulemperne. Vores evne til at føle og sætte os i andres sted, som jeg har skrevet om her Bamse er en bamse er en bamse er en bamse, gør os til fantastiske sociale væsner og ikke mindst socialiserende væsner. Vi kan leve sammen og hjælpe hinanden med at blive inden for fællesskabets rammer; vores sæder og vaner.
Når vi dømmer hinanden handler det om at opretholde vores fælles moralske kodeks og i sidste ende vores overlevelse.
Hvis vi oplever, at nogle handler på en måde, som ikke passer ind i fællesskabets ramme, evner vi at “hjælpe” dem tilbage ved at bedømme og om nødvendigt fordømme deres handlinger. Fordømmelse er en form for udskamning og udskamning er en form for opdragelse til at passe ind i fællesskabet.
Kan du sp skamme dig! - over for en maskine?
Skam er en ubehaglige følelse og betragtes - især i denne tid - som noget man i sig selv bør skamme sig over.
Ikke desto mindre er det godt at kunne skamme sig eftersom, at skam er én af ingredienserne i vores naturlige intelligens, som går ud på, at vi skal overleve længst og bedst muligt inden for fællesskabets ramme. Den naturlige intelligens kontra den kunstige intelligens skriver jeg mere om her Hvad er forskellen på naturlig og kunstig intelligens .
SÅ; i forhold til hvorfor det er nemmere at bekende sig til maskinen fremfor mennesket, er der at sige, at maskinen ikke udsætter dig for udskamning, som et menneske naturligt - og pligtskyldigt - gør.
Dét sagt, så går der nok ikke længe førend KI-programmørers bud på skam-algoritmer ser dagens lys, og vil blive prøvet af først og fremmest i humanoide robotter og siden rådgivende maskiner.
Det er et delikat emne, for hvem vil frivilligt gå med til at lade sig udskamme eller investere penge i en robot, der udskammer?
En sådan robot vil altså ikke fremstå udelukkende imødekommende over for mennesket, sådan som de eksisterende intelligente humanoide robotter og assistenter ellers synes at have til formål at være.
Måske er det først, når robotten formår at reagere på - og med - både positiv og negativ respons (følelser) i mødet med os mennesker, at den for alvor fremstår menneskelig?
Den man elsker, fordømmer man
Når en maskine formår at reagere på os på en måde, der synes intelligent skyldes det, at den har lært at aflæse vores adfærd, ikke vores følelser og mentale tilstand. Forsøg på at give maskinen evne til at sætte sig ind i vores mentale tilstand, skriver jeg mere om her Bamse er en bamse er en bamse er en bamse
Så når den rådgivende maskine ikke evner at fordømme os, vil jeg hævde, at det hænger sammen med, at den ikke forstår vores mentale tilstand. Maskinen formår dermed ikke kan gribe ind og korrigere vores mentale tilstand og adfærd således, at vi “hjælpes” tilbage i socialt acceptable ramme.
Men måske er det også okay?
Måske skal maskiner være maskiner og mennesker være mennesker.
Hvis vi lader maskiner hjælpe os med visse ting såsom løsning af konkrete problemer i form af for eksempel rådgivning i økonomiske eller forsikringsmæssige forhold eller bidrage med faktuelle oplysninger om diverse. Så kan vi overlade alle de andre “opgaver” til os mennesker; dem der involverer empati, følelser og eksistentielle erkendelser, kreativitet, udvikling og ledelse med videre.
Balladen opstår dog alligevel, når de konkrete problemer, som for eksempel en skadesanmeldelse på en motorcykel, involverer komplicerede følelser såsom skam.
Antropomorfisering som løsning eller problem?
Denne ballade har et navn; Antropomorfisering, hvilket betyder menneskeliggørelse her af maskiner.
Når KI-udviklere ønsker at gøre deres intelligente maskiner så anvendelige som muligt er det ud fra hypotesen om, at vi mennesker helst vil kommunikere med mennesker eller som minimum menneskelignende maskiner. Læs for eksempel Artikel .
Jeg medgiver, at denne præmis giver mening et langt stykke hen ad vejen, men - som vi ser her med skamfuldhed ved bekendelse over for en maskine kontra et menneske - åbenbart ikke helt.
Med antropomorficeringen af maskiner følger, at vi automatisk kommer til at have forventninger om, at de også agerer moralsk og kan drages til ansvar for deres handlinger. Og her ender vi desværre ofte med at blive frygtelig skuffede eller vrede, fordi så menneskelige er maskinerne jo ikke. endnu.
Giv maskinen, hvad maskinens er og mennesket, hvad menneskets er
Hvornår vi vil være fortrolige med et menneske fremfor en maskine, eller foretrækker at bekende vore “synder” til en maskine fremfor et menneske, afhænger af tre ting; synden, mennesket og maskinen.
Synden er en fast og afgrænset størrelse; mennesket er fuld af følelser og forventeligt temmelig uforudsigelig, mens maskinen er helt uden følelser og temmelig forudsigelig - i hvert fald i det omgang, omfanget af dens kunstige neurale netværk byder.
Om det er en god eller dårlig idé på sådan at dele vores mellemmenneskelige “opgaver” op i mindre dele og distribuere nogle af dem til mere eller mindre intelligente maskiner, kan jeg ikke svare entydigt og udtømmende på. Det kommer an på 1. opgaven, 2. maskinen der udfører den og 3. hvilke behov mennesket i ligningen har.
Entydigt kan der dog konkluderes, at opdeling og distribuering af vores opgaver - arbejdsmæssige, sociale og delvis følelsesmæssige - allerede er godt igang.
Og der er penge at spare - og tjene - så udviklingen går stærkt, og vi er nødt til at tænke hurtigt - eller bremse op - og tage stilling til i hvilket omfang, vi vil lade os erstatte af maskiner, og hvor langt vi vil gå med til at lade os forlænge (!) af maskiner.
Vi skal over de næste par blogspost gå i dybden med denne udvikling fordi den, om vi vil det eller ej, griber mærkbart ind i vores liv og psykiske velbefindende.
Men lad mig høre;
Hvor ville I sætte grænsen for hvilke opgaver, maskiner skal overtage fra mennesket?
Fortsat god dag.
Venligst, Astrid
