teknopsykologens briks bloghoved

En Cyborgs bekendelser. Cyborg #4

Hvordan vil det være at leve i en verden, hvor vi mennesker på væsentlige punkter differentierer os fra hinanden hvad angår vores fysiologiske og mentale kapacitet?

Hvor vores evne til at lære, huske og udholde fysisk pres er grundlæggende og nærmest artsligt forskellig fra hinandens?

I dette fjerde og sidste afsnit af Cyborg-serien fortsætter vi undersøgelsen af, hvilke psykologiske og samfundsmæssige konsekvenser det vil have at augmentere mennesket ved hjælp af kunstig intelligens-teknologi til ukendelighed - bogstavligt talt. 

Illustration: eget arkiv

Vores natur skaber vores kultur

Vores måde at være sammen med hinanden på, er et udtryk for vores fysiske og mentale behov og funktion. 

Så hvordan hænger det sammen?

Det giver næsten sig selv i det tilfælde, hvor dit behov er at få mad, drikke, søvn - basale behov. Hvis du ikke selv kan dække disse behov, så beder du nogle om at hjælpe dig; 

Giv mig mad’ - ‘jeg er træt' - 'jeg vil gerne køres hjem nu’ og så videre. 

Det bliver mere kompliceret, når det handler om mere socialpsykologiske behov såsom omsorg, opmuntring, trøst, ros og lignende. 

Her kan du ikke selv dække dine behov, da du, hvis det skal give psykologisk mening, IKKE kan trøste eller rose dig selv. Man bliver trøstet og får ros - af andre, af fællesskabet, af sin “klan”. Til gengæld kan du ligeledes her bede folk, enten ved ord eller igennem din adfærd, om for eksempel at drage omsorg for dig eller støtte dig i nye udfordringer. 

Kort sagt; vores komplicerede og oftest smukke måde at være sammen med hinanden på, er et resultat af egne og andres behov og ønsker for sig selv - og for “klanen”. 

Netop det typisk menneskelige behov for tryghed og udvikling - forudsætningen for vores naturlige intelligens - skiver jeg meget mere om i postet Fra Naturlig intelligent til Kunstig intelligens.

Vores fysik og kognition er derfor afgørende - selve byggestenene - for vores sociale adfærd, vores mentalitet og i sidste ende måden, hvorpå vi har bygget vores samfund og kultur op på.

Forandring fryder. Forskellighed forandrer.

Men hvor meget kan du tolerere, før du du ser på dig selv og verden på NYE måder?

Tænk blot på din nye cyborg-kollega, som jeg introducerede dig for i forrige blogpost; Sig Hej til din nye kollega - hun ved alt om dig! Cyborg #3

Allerede på førstedagen for jeres samarbejde har i differentieret jer markant fra hinanden. Hun behøver mindre søvn. Hun arbejder længere og hurtigere og bevæger sig ditto. Hendes tanker og fokus er på andre ting (et andet niveau?) end dine er, og hun ved ting om dig, som du ikke selv har fortalt. Ting, du endnu ikke selv kender til såsom dine følelser. 

Så hvad har I i grunden til fælles?

Hvad kan I mødes om - fritidsinteresser? humor? livsanskuelser? Kan I være noget for hinanden? Kan I dække hinandens behov sådan som man gør i et samfund, i “klanen”?

Jeg mener, at når vi på en til to generationer augmenterer vores fysiologiske og intellektuelle kapacitet i væsentligt grad - noget der ellers følger af årtusinders evolution - så opstår NYE behov og ønsker for livet. Som konsekvens heraf vil vi opleve, at vores evne til at forstå og varetage hinandens behov og ønsker vl være udfordret om ikke kraftigt forringet. 

Og med NYE behov og ønsker for livet opstår NYE måder at opleve ‘velvære’ på. Det vil generere NYE måder at indrette sit liv på og dermed NYE måder at se på for eksempel ‘velfærd’, 'fællesskab' og ‘retfærdighed’.

Og så bliver vi nødt til at skrive NYE love, indrette vores rets- og velfærds-samfund anderledes og tale til hinanden på NYE måder, da vi nu for eksempel kan 'krænke' hinanden på NYE måder.

Illustration: Kirill Sharkovski

Men det hele bliver ikke blot på NYE måder, men også på DIFFERENTIEREDE måder. 

Måske bliver vi nødt til at udvikle en NY etik til at hjælpe os med hvordan vi skal leve sammen?

Og måske ikke “blot" en NY ETIK, men også en DIFFERETIERET ETIK.

Hvis dét da vil være etisk forsvarligt?

A-hold og B-hold 

Når vi mennesker øger vores kapacitet ved at lade os augmentere med kunstig intelligens-teknologi, så øger vi også afstanden mellem, hvad vi hver især er i stand til.

Det betyder, at vi vil tage forskellige målestokke i brug, når vi for eksempel vurderer vore muligheder og begrænsninger - vore succeser og fiaskoer - som individer og samfundsborgere.

Med forskellige muligheder følger forskellige rettigheder og pligter. Forskellige drømme, mål og positioner. 

Kan du forestille dig hvordan relationen mellem din cyborg-kollega og dig - såvel professionelt som menneskeligt - vil se ud om blot et år?

Og hvad så med om ti år?

Ville det være helt skævt at forestille sig, at vi mennesker på et meget konkret og åbenlyst plan, vil blive opdelt i henholdsvis et A-hold og et B-hold? 

Altså; hvor én gruppe af befolkningen på grundlæggende vis er markant bedre stillet kognitivt, fysiologisk, udseendemæssigt med mere end den anden. En forskel, der ikke blot kan tilskrives tilfældet eller evolutionen, men udelukkende menneskelig design. 

Illustration: eget arkiv

En udfordring med relaterbarhed

Selvom din cyborg-kollega i kraft af sin direkte adgang til intelligent sentimentanalyse-software (læs forrige blogpost for uddybning) er knivskarp på, hvad du føler og har brug for, så betyder det ikke, at hun nødvendigvis føler med dig. At hun faktisk kan sætte sig i dit sted og altså føle empati med dig. Hun har blot kendskab til din mentale tilstand. 

Og det samme kan man sige om dig; du har, som bekendt, ingen anelse om, hvad der sker i hende hvad angår holdninger, motivationer og evner. 

Og så har vi balladen, for det vil fører til yderligere afstand mellem jer og skabe en oplevelse af at være fremmedgjort fra hinanden. Og dét vil yderligere mindske muligheden for at kunne relatere til og dermed føle empati med hinanden. 

Mentaliseringsevne hedder det på psykolog-sprog, når man kan sætte sig ind i andres mentale tilstand og denne evne er en forudsætning for at kunne føle empati. Jeg skriver meget mere om denne særlige menneskelige egenskab hér At puste liv i maskiner.

Kommer vi dertil hvor vi adskiller os fra hinanden, hvad angår vores grundlæggende fysiologiske og kognitive kapacitet, så risikerer vi at miste evnen til at leve os ind i hinandens liv. Vi vil blive dårligere til at sætte os i hinandens sted hvad angår vores respektive behov og ønsker for at have et godt liv. Og dermed vil vi blive dårligere til at indrette vore samfund til alles bedste.

Dem og os

Lad os lige vende tilbage til dig og din cyborg-kollega, for det er ikke kun jer to, der vil opleve at afstanden mellem jer øges. Jeg omgivelser vil også bemærke jeres væsens-forskelligheder og mere eller mindre direkte puste dem større.

Med jeres forskellige kapacitet, vil følge forskellige arbejdspraksisser, arbejdsvilkår, -rettigheder og positioner.

OG NEJ; det handler ikke om, at der ikke må være forskel på os mennesker - det er og vil der altid være. 

PROBLEMET OPSTÅR, når vi selv eller andre manipulerer med vores væsen, som her at optimere vores fysiologi og kognition i en sådan grad, at vi bevæger os væk fra at være mennekser og henimod noget ‘andet’. Altså; når vi tildeles (designes!) væsensforskellige udgangspunkter og dermed kommer til at adskille os grundlæggende fra hinanden.

Sker dette, frygter jeg, at der vil opstå en tendens til også at tildele hinanden DIFFERENTIEREDE MULIGHEDER som samfundsborgere og mennesker - forskellige rettigheder og pligter - FORSKELLIG VÆRDI.

Jeg vurderer, at vi da vil komme til at leve egentlige parallel-liv, hvor vi opholder os med vore “egne” og bestandigt øger distancen til “de andre”. Det lyder historisk set bekendt, og tanken giver kun en dårlig fornemmelse.

Vi skal bruge teknologien intelligent

Så er det hele sort og den teknologisk udvikling lig med enden på vores lykkelige sameksistens og retfærdige samfund?

Selvfølgelig ikke. Hvis vi altså formår at udvikle og anvende den kunstig intelligens i samklang med vores naturlige intelligens og have menneskehedens bedste for øje hele vejen.

Illustration: Nathan Dumlao

Ny art - ny etik?

Hvis vore forudsætninger for at være i verdenen forandrer sig - det vil sige for at arbejde, være sammen med hinanden, være alene, kort sagt; for AT LEVE - da vil vores værdier også forandre sig. 

Hvad forstår du for eksempel ved ‘menneskelighed’ hvis mennesket er forandret af intelligente teknologi i en sådan grad, at det nu kan kapere, hvad det tidligere anså for overmenneskeligt?

Og hvordan mon dette menneske betragter sig selv?

Jeg har her forsigtigt foreslået, at kunstig intelligens kalder på en revision - måske endda rekreation - af vores etik.

Oxford-professoren og renæssancemennesket Nick Bostrom, der kan sige kloge ting hvad enten det drejer sig om teoretisk fysik, computer neurovidenskab, logik, kunstig intelligens og filosofi kræver, at vi laver en helt NY ETIK.

Bostroms pointer skal vi kigge nærmere på næste gang og forhåbentlig være bedre rustet til at forstå, hvad teknologien gør ved og kræver af os mennesker. Således, at vi kan ‘gøre og kræve tilbage’ af teknologien, og sikre at vi er ganske på forkant med den og skaber en human-bæredygtig teknologisk udvikling.

Pas på jer selv og hinanden derude. Venligst, Julie-Astrid

Astrid har en baggrund som militærpsykolog og udvikler af disciplinen Teknopsykologi. Her på ING.dk blogger hun om de psykologiske mekanismer, der ligger til grund for udvikling af kunstig intelligens og behandler problemstillinger, der opstår når mennesker skaber maskiner i deres eget billede - og når maskiner skaber mennesker i deres. Med Teknopsykologi behandler Astrid feltet hvor psykologien og den intelligente teknologi tørner sammen, og hun diskuterer hvordan de gensidigt påvirker hinanden i en smuk men kompleks dynamik.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Bidrag med din viden – log ind og deltag i debatten