Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og du accepterer, at Teknologiens Mediehus og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, job og tilbud m.m. via telefon og e-mail. I nyhedsbreve, e-mails fra Teknologiens Mediehus kan der forefindes markedsføring fra samarbejdspartnere.
teknopsykologens briks bloghoved

Overvågning af vores tanker og krop - hvad sker der? Overvågning # 3

Sidste gang tog vi livtag med angsten.

Vi så på, hvordan denne urkraft i mennesket også kunne blive en drivkraft i en ellers øjensynligt rationel argumentationskæde fra justitsministerens side, om at øget digital overvågning fører til øget tryghed og dermed øget frihed for danskerne.

Kardinalpunktet i diskussionen om overvågning er, hvorvidt overvågning giver eller tager friheden fra folk. Eller snarere; om folk oplever at få eller miste deres frihed.

Vi skal altså have fat noget så diffust og dog afgørende som vores oplevelse af tingene. Lad os se, om vi kommer et svar nærmere denne gang.

Fra frihed til tryghed - eller angst?

De eksistentielle filosoffer ville her hævde, at med frihed følger angst - ikke tryghed. 

Vejen ud af angsten er en vækkelse af fornuften. Det forsøgte jeg at gøre rede for i min forrige blogpost Når angst fører til overvågning og omvendt Overvågning # 2, hvor jeg tager udgangspunkt i min kliniske behandling af PTSD-ramte veteraner, der oftest også lider af angst. 

Til at hjælpe os med at forstå, hvad der sker i mennesket, når vi overvåges eller blot “trues” med at blive overvåget, tager jeg det psykologfaglige "redskab" Den kognitive diamant i brug, som kort fortalt illustrerer hvordan vores adfærd, tanker, krop og følelser bestandigt påvirker hinanden i gensidige og dynamiske relationer. Læs mere herom i forrige blogpost.

Sidste gang kiggede vi på overvågning af adfærd via SkyNet i Kina og satte dette i perspektiv til den danske regerings seneste Tryghedspakke, der skal muliggøre øget digital overvågning af den danske befolkning.

Nu skal vi dykke ned i, hvad der sker, når de tre øvrige elementer i Den kognitive diamant: tankerne, kroppen og følelserne, bliver genstande for overvågning. Og hvad denne elementære overvågning har af konsekvenser for os mennesker og især vores omdiskuterede oplevelse af at være ‘trygge’ og ‘frie’.

Overvågning af tanker 

Hvad mener I om Elon Musks' seneste opfindelse af de såkaldte NeuraLinks?  

En opfindelse, der som udgangspunkt er tænkt til mennesker med lammelse eller andre handikaps, der besværliggør deres kommunikationsevner. Men mon ikke vi andre inden længe også får mulighed for at mærke dette kvantespring inden for augmenterende kunstig intelligens-teknologi (KI) på egen krop? Eller nærmere; egen hjerne?

Det drejer sig om hårtynde elektroniske tråde, der indopereres i hjernen og gør os i stand til at kommunikere direkte med digitale systemer. På den måde kan vi uploade vore tanker direkte til computeren og hermed monitorere og aflæse dem. I hvertfald mere eller mindre direkte i takt med at KI-motoren bliver dygtigere og dygtigere til at afkode elektriske signaler, møsntergenkende, koble dem med eksisterende tankerækker og lære nye at kende.

Men hvor går grænsen mellem 'monitorering' og 'overvågning'? Er der en?

Jeg vil argumentere for, at der ikke er forskel på de to begreber i praksis; begge involverer systematisk overvågning med henblik på kontrol. Begrebet ’monitorering’ anvendes mest i forskning og forbindes derfor med noget uskyldigt og ufarligt, mens begrebet ’overvågning’ vækker helt andre følelser og forbindes med tvang og kontrol. Groft sagt.

Hvad end der gør sig gældende, mener jeg, at begge før eller siden fører til føromtalte selv-monitorering. Det betyder, at du i langt højere grad end tidligere vil vurdere dine tanker op imod ydre dogmer - værdier, sæder og vaner - og forsøge at korrigere og kontrollere dem, fordi du frygter, at andre kan lytte eller læse med online et sted og dermed (for)dømme dig.

Illustration: Bernard Hermant

Overvågning af kroppen 

Vil du kende tidspunktet for, hvornår du skal dø?

Eller blot vide om og hvornår du får en given sygdom som for eksempel hud- eller brystkræft?

For det kan forskere nu hjælpe dig med at afdække ved hjælp af overvågning af din krops stofskifte, dit genom, hjernevæv med mere. 

Lyt med herom i den yderst interessante podcast-serie Sleepwalker, hvis afsnit 9 Algoritme, M.D. handler om brugen af KI til forudsigelse af sygdomme.

At kende sin fremtid virker umiddelbart æggende, især hvis man kan gøre noget for at præge den i en favorabel retning og undgå at udvikle trælse mere eller mindre alvorlige sygdomme.

Men det afhænger jo nok også af, om vi overhovedet kan gøre noget for at undgå disse sygdomme - og hvad det vil kræve. Døden kommer vi jo nok ikke uden om. 

Men hvad vil det have af konsekvens, hvis du kendte dit sluttidspunkt? Ville du leve anderledes end du gør i dag?

Ét er hvad du vil gøre med disse informationer om dit liv og din død. Det bliver en eksistentiel diskussion for egen regning. Noget andet er, hvad andre vil gøre med disse værdifulde informationer om dig.

Jeg forestiller mig, at det vil åbne op for en radikal differentiering af mennesker således, at muligheder og begrænsninger - og rettigheder og pligter - vil doseres forskelligt fra person til person afhængigt af den enkeltes sygdoms- og sundhedsprognose.

Forestil dig for eksempel, at det står evidensbaseret klart, at du vil udvikle hudkræft, når du rammer 40-års alderen. Hvordan vil dit forsikringsselskab forholde sig til denne information?

Man kan tænke sig, at denne og øvrige relevante informationer vil indgå i ligningen for, hvordan din forsikringspræmie udregnes. Og læg så til (i kroner og øre), at du desuden har fået at vide, at du kan påvirke denne udvikling - forhindre eller sænke den - hvis du foretager visse adfærdsændringer. Gør du det, så vil din præmie falde betragteligt. 

Og sådan får man et delikat samspil mellem krops-overvågning og adfærds-korrigering og i sidste ende selv-monitorering.

Den samme form for radikale differentiering ud fra den enkelte borgers livsprognose, det vil sige livsduelighed og -længde, kan tænkes at finde sted, når det gælder fordeling af offentlige midler til uddannelse eller læge- og sygehusbesøg. En såkaldt skræddersyet model. 

Men er det da ikke godt, hvis borgerne formår at kontrollere sig selv og derved leve sundere og fungere bedre? For deres egen skyld og for samfundets?

Når etiske principper møder virkeligheden

Her er det svært at være kategorisk, fordi det er svært at gøre sig til dommer over andre folks oplevelse af virkeligheden - hvad oplever de og hvorfor. 

Men jeg vil våge at være principel.  I det forgangne år har alverdens virksomheder, videnskabelige foreninger, fonde og uddannelsesinstitutioner fremlagt deres program for etiske principper for udvikling og anvendelse af kunstig intelligens. Alle indeholder de som minimum et påbud om, at KI skal virke fordrende for menneskelivet herunder respektere vores ret til frihed og autonomi. (Wittlestone et al., 2019).

Så hvis vi skal oversætte dette etiske princip til praksis, kan det passende være ved at supplere ovenstående spørgsmål om individets selv-monitorering med endnu et spørgsmål, der går forud for alle andre og lyder;

Oplever de overvågede borgere at være værdsatte som individer med dertilhørende rettigheder til at bestemme over eget liv og levned?

Kan man (hvem?) svare bekræftende herpå - og altså sætte flueben ved etikken - så kan man gå videre i sin analyse af hvorvidt, denne selv-monitorering bevirker, at borgerne for eksempel bliver mere produktive og derved gavner samfundet.

Individets grænser prøves af med digital intelligent overvågning

Grænsen mellem at opleve sig anerkendt og berettiget som individ kontra at opleve sig miskendt og krænket er på én og samme tid usynlig for omverden og særdeles mærkbar for individet. 

Derfor er det også uundgåeligt at vi en gang i mellem vil få vores grænser overskredet - også hvor det ikke er meningen. Det kræver hensyn til såvel fornuft som til folks følelser og oplevelse af sig selv og omverden.

Jeg har over de sidste par blogposts diskuteret de psykologiske konsekvenser af digital overvågning og argumenteret for, at digital overvågning blandt andet vil føre til øget selv-overvågning.

Jeg introducerede i den første overvågnings-blogpost Går tryghed, frihed og overvågning hånd i hånd? Overvågning # 1, hvad jeg kalder for infrastrukturelle forandringer forløbende på tre niveauer.

Det drejer sig om forandringer i måderne, hvorpå vi henholdsvis 1. Begiver os rundt i verden (mennesket-i-verden); 2. Hvordan vi er sammen med hinanden (mennesker-i-mellem); og 3. Hvordan vi betragter os selv (mennesket-i-sig-selv).

Hvordan vores færden i verden og med hinanden forandrer sig på, har jeg indgået beskrevet i forrige blogpost Når angst fører til overvågning og omvendt. Overvågning # 2 og i denne.

De potentielle forandringer på det tredje niveau - mennesket-i-sig-selv - skal vi have slået fast nu.

Fra selv-overvågning til selv-invadering

Digital overvågningen vil opleves som et invaderende og grænseoverskridende element i folks liv, og jeg vurderer, at den ikke blot vil føre til øget selv-overvågning, men også til selv-invadering.

Nu bliver det lidt kryptisk, men jeg håber I er med. Klart; man kan ikke invadere sig selv på et fysisk plan. Men man kan medvirke til og måske endda gå forrest i invasionen af sig selv på et psykologisk plan ved enten at negligere, fordømme eller korrigere sine følelser og dermed sine grundlæggende behov.

For ét er at bygge deep-learning softwaremodeller og altså kunstig intelligens-teknologi som de aktuelle ansigtsgenkendende overvågningskameraer efter menneskeligt forbillede. Noget trods alt radikalt andet er at "bygge" mennesker med teknologien som forbillede. At bede mennesket om at indrette sig - sine følelser og behov - efter teknologiens funktioner og formål.

Tvinges vi til at gå imod eller blot korrigere vores grundlæggende behov for at føle os trygge fra farer og frie til udvikling, vil der, som jeg ser det, også ske en forandring i vores grundlæggende psykologi.

Illustration: eget arkiv

Den klassiske psykoanalytiker Erich Fromm skrev i 1956 i 'The Art of Love', at det er oplevelsen af at være adskilt (separateness), som fører til angst. Og adskillelse føler vi, når vi oplever at være cut off det vil sige ude af stand til at bruge vores menneskelige kraft (human power) til at stå op for os selv eller andre. Med oplevelsen af adskillelse følger altså oplevelsen af hjælpeløshed og derved risiko for at opleve sig invaderet uden at kunne reagere som man ellers føler behov for (the world can invade me without my ability to react). (Fromm, 1956).

Lyder det bekendt?

Vil det være rimeligt at hævde, at digital, intelligent overvågning kan føre til, at vi mennesker oplever os adskilt fra hinanden - og fremmedgjorte for os selv - sådan som Fromm her beskriver det? At vores menneskelige kraft til at stå imod hvad vi oplever som en invasion, risikerer at forsvinde og efterlader os med en følelse af hjælpeløshed?

Om det er rimeligt at sidestille overvågning med en regulær invasion af individet eller ej, kan jeg for nuværende ikke afgøre. Men, hvis det er tilfældet vil jeg derimod hævde, at denne invasion med tiden bliver til en selv-invasion, idet vores oplevelse af autonomi er væk og dermed vores oplevelse af at have en grænse - et værn - mod omverdenen. Vi efterlades da tvivlende hvad angår vores oplevelse af hvad og hvem vi er fordi; hvordan definerer (afgrænser) vi nu os selv?

Det er en kompliceret udvikling, jeg endnu ikke har helt begreb om. Jeg håber over tid at blive klogere og løbende kunne rapportere tilbage til jer her på bloggen.

Så når justitsministeren siger...

at øget digitalt, intelligent overvågning fører til øget tryghed og frihed, så risikerer han at skabe det modsatte.

Jeg vurderer, at hvis man flytter og måske overskrider individets grænse for, hvornår det føler sig tryg eller fri - så piller og måske forstyrrer man også ved en ellers grundlæggende sund fysisk, social og psykologisk overlevelsesmekanisme, der fortæller individet, hvad det behøver for at have det godt såvel fysisk som psykologisk.

Hvor ser I, at der vil ske sociale og psykologiske forandringer, når vi ved at vi overvåges? Og hvor lander I på angst-barometret (fra 0 til 10), når I hører ordet overvågning?

Jeg har i denne blogserie om overvågning forsøgt at klarlægge konsekvenserne ved øget digital intelligent overvågning af os mennesker - af vores adfærd, tanker og krop - ud fra mit psykologfaglige perspektiv.

Debatten om hvem og hvad, der i sidste ende får magten over vores væren og væsen vil fortsætte. I takt med udviklingen af bestandigt mere intelligent teknologi, vil vi mennesker bestandigt blive udfordret på vores etik og retsfølelse.

Tak for at læse med om dette spændende og svære emne. Venligst, Julie-Astrid

Julie-Astrid har en baggrund som militærpsykolog og udvikler af disciplinen Teknopsykologi. Her på ING.dk blogger hun om de psykologiske mekanismer, der ligger til grund for udvikling af kunstig intelligens og behandler problemstillinger, der opstår når mennesker skaber maskiner i deres eget billede - og når maskiner skaber mennesker i deres. Med Teknopsykologi behandler Julie-Astrid feltet hvor psykologien og den intelligente teknologi tørner sammen, og hun diskuterer hvordan de gensidigt påvirker hinanden i en smuk men kompleks dynamik.
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Bidrag med din viden – log ind og deltag i debatten