I år 2024 går du en tur i København og får pludselig en ekstraordinær lyst til at ryge en politisk ukorrekt cigaret. Du går ind i den lokale kiosk og køber en pakke - formedelst 175 kr. - fra det skjulte lager under disken og du betaler naturligvis med kontanter. Du er jo en bevidst borger, uddannet i digitalt selvforsvar, så du ved ganske udemærket at det i lige præcis i denne situation er absolut bedst at betale med kontanter - og heldigvis er beløbet jo under de 200 kr. som gør, at man kan betale kontant i stedet for at bruge de påkrævede ApplePay, GoogleWallet eller Libra som jo alle er integreret med det statslige digitale pengesystem. Og så undgår du jo også irriterende diskussioner med selskabet hvor du har din sundhedsforsikring da du ved, at de jo deler data med den statslige sundhedsovervågning.
Du finder en mørk og smal smøge et mørkt sted og uden at nogen opdager det, tænder du en cigaret som du nyder for en stund. Du bemærker en svag summen, men tænker at det jo nok bare er en af de mange nye 6G antenner som sidder med 20 meters mellemrum. Sikken en fred og uforstyrrethed, men brug af halvulovlige euforisende midler har jo ofte både en god, og en dårlig virkning, så du mærker en stigende hovedpine og egentlig også en vis utilpashed. Måske en hovedpinepille vil kunne tage noget af smerten? Så videre til apoteket.
Du går ned til din vintage-automobil, en af de sidste tilbage drevet på fossilbrændstof til 79 kr pr. liter (men hvilken fornøjelse at høre en ottecylindret motor!), sætter dig ind og kører de få kilometre til nærmeste apotek. Parkerer bilen på den anden side af gaden; ikke den mest perfekte parkering, men det er jo kun en hurtigt overstået standsning så det går nok. Går over i fodgængerovergangen og bemærker ud af øjenkrogen at der måske nok var lige lovlig rødt, men på den anden side var der jo ingen trafik. Så det går nok.
Inde på apoteket kommer du hurtigt til. Beder om en pakke kodimagnyl, og ekspedienten kigger spørgende på dig. “Er du sikker på, at du ikke har behov for noget andet også? Hvad med dit forhøjede blodtryk og den depressionslignende tilstand du er på vej ind i. Skal vi kontakte din læge? ”. Du undrer dig over spørgsmålet. Hvordan kan hun vide noget som du ikke engang har oplyst til sundhedsforsikringen? Nå, det er en digital verden. Du tager dine piller i den to-pak du har lov til at købe uden recept efter selvmordsbølgen forrige år, går tilbage til bilen og kører hjem.
Du låser dig ind i lejligheden ved hjælp af den nye, smarte “Ring” ringeklokke fra Amazon som kan genkende dit ansigt og automatisk låse døren op. Kanon smart. Så slipper man for at rende rundt med alle de nøgler som man skulle i fortiden. Du går ud på badeværelset og kigger dig i det nye spejl du lige har fået installeret. Det er et smart home-sundhedsspejl som analyserer din hud, mikrorynker og ansigtsfarve og kan fortælle om dit kardiovaskulære system er velfungerende. Du har fået det af forsikringsselskabet - en god deal hvor du fik en klækkelig rabat mod at spejlet afleverer data til diagnostiske formål. Hvad det så end betyder. Du har dog slået Lad-Google-gøre-mig-sundere-med-data-funktionen fra, da du jo stadig foretrækker en vis form for privatliv. Det er jo også en slags rettighed.
Du tjekker din Apple-borgerterminal. Den hjælper dig til at leve et bedre liv ved hele tiden at nudge dig til at tage de rigtige beslutninger. Om hvad du spiser, hvad du ser på din vægskærm i lejligheden og hvordan lader du dig transportere rundt i byen (selvom bilen jo er en torn i øjet på algoritmerne). Og det fede er, at man kan optjene bonuspoints og få batches som man kan sætte på sin Facebook-profil. Facebook viser dog en irriterende og noget insisterende reklame for det nye Komtilbageigenoxin naturlægemiddel, baseret på prikbladet perikon og johannesurt. Du synes ellers ikke at du har skrevet nogen opdatering om, at du er deprimeret, men der er jo så meget.
Men måske det er den sundhedspakke “Algoritmisk Tillid og Sundhed” som Tesfaye SV-regeringen indførte i 2022 i samarbejde med Amazon. En smuk tanke, men til tider lidt irriterende hele tiden at blive nudget til at leve et bedre liv. Du tænker dog at det nok er OK, da der jo er andre, der har det langt værre end dig. Og så kan du jo bare vælge at ignorere de mange beskeder; vi skal jo respektere, at vi allesammen gerne vil have det bedre. Og du har jo ikke noget at skjule.
Du bemærker at der ligger nogle beskeder til dig. Den første er fra forsikringsselskabet. De skriver, at en af kommunens overvågningsdroner har set dig ryge en cigaret i en smøge i byen og advarer dig om, at hvis adfærd af den art fortsætter, vil der blive trukket i dine loyalitetspoint. Du tænker at det jo forsåvidt er OK, da det jo er farligt at ryge. Så du må skjule dig bedre næste gang. Den næste er fra Politiet og er en automatisk udskrevet bøde for ulovlig standsning. De skriver at bilen er identificeret med et af de mange ANPG-kameraer som jo er på alle gader og at et overvågningskamera har identificeret mig, ved hjælp af den nye og forbedrede Rekognition-algoritme som kommunen lige har købt af Amazon. Bøden er på 5.000 kr. og en betinget frakendelse af adgang til Netflix. Da bøden er algoritmisk udskrevet, kan man ikke klage over afgørelsen. Damd, det var ikke så smart. Du åbner den næste som også er fra Politiet. Det er en bøde for overtrædelse af færdselsloven, så du er åbenbart blevet set af et af kameraerne da du gik over for rødt og de har også identificeret dig via Rekognition-algoritmen. Den kan man heller ikke klage over; det er jo en algoritme-beslutning. Det var nogle dyre hovedpinepiller.
Sikke en dag. Borgerterminalen ringer og du ser ansigtet på en kvindelig robotrådgiver - et kunstigt menneske, men til gengæld meget hjælpsom og ofte med masser af tid til at snakke. Men kommunen har jo også ansat 1/4 million robotmedabejdere så der er masser af varme hjerner til at tale med borgerne. Hun fortæller dig at kommunen er bekymrede. De har set at du er begyndt at ryge, men for at gøre det endnu værre, har femfaktor-identifikations-algoritmerne fra Google’s ansigtsgenkendelsesbibliotek identificeret at du har udfordinger omkring ekstraversion og neuroticisme. Du forklarer at det nok skyldes at du som stærkt sporadisk ryger jo faktisk blev ret dårlig af rygningen, hvilket naturligvis har påvirket analysen fra de kameraer der har set dig og gennemført sentiment-analysen baseret på dit ansigtsudtryk. Hun virker skeptisk og ser ud som om, hun tænker sig om, men ret stålfast siger hun at for at du kan bibeholde din status hos forsikringsselskabet og i det centrale sundhedsregister, skal du vaske dine hænder mens du kigger ind i spejlet fire gange om dagen de næste otte uger. På den måde, kan du bevise overfor forsikringsselskabet at du har reelle og positive hensigter om gerne at ville leve et sundere liv. Du siger ja, og afbryder forbindelsen. Der kommer sjældent noget godt ud af, at diskutere med en robot.
Du tænker på en film du så for en del år siden. Den hed Surrogates og havde Bruce Willis i hovedrollen. Historien var, at ingen nogensinde forlod deres hjem og i stedet levede i en virtual reality-verden hvor alle var unge, smukke, tjekkede og ikke gjorde noget galt. Så man kunne godt blive grim, gammel og leve et usundt liv, men der var aldrig nogen der ville opdage det. De så jo kun den virtuelle, unge, smukkede og tjekkede udgave. Tænk, det kunne være fedt.
Og tænk også hvis man kunne slette en dags oplevelser. Det kunne du godt have brugt i dag.
— # —
Da jeg forleden så Berlingskes artikel “Københavns Politi: Vi vil gerne bruge ansigtsgenkendelse på borgerne”, må jeg erkende, at jeg fik kaffen galt i halsen. Egentlig ikke fordi jeg blev overrasket; disse teknologier anvendes jo i vidt omfang allerede rundt omkring i verden, så hvorfor ikke begynde at tale om, at vi i verdens (vistnok) mest digitaliserede land naturligvis vil kunne bruge algoritmer til at skabe større sikkerhed og tillid til hinanden.
Artiklen kom lige i halen på offentliggørelsen af Regeringens trygheds og sikkerhedspakke ““Tryghed og sikkerhed i det offentlige rum”” som jo netop taler om i vidt omfang at skabe mere tryghed gennem overvågning, så mon ikke Københavns Politi har fået en opringning fra ministeriet og er blevet bedt om, at gå i pressen og tale om de videre konsekvenser. Sikkerhedspakken indeholder nemlig ikke ansigtsgenkendelse, men det er jo et naturligt næste skridt, så hvorfor ikke få en repræsentant for den udøvende magt til at tale om, hvor vigtigt det er med mere tryghed. Så er vi jo ligesom forberedt.
Men det fik mig til lige at tage beskrivelsen sikkerhedspakken op af skuffen igen for lige at tjekke om ansigtsgenkendelse er et næste, naturligt skrift - så lad os lige dvæle et øjeblik ved den. Pakken indeholder tre hovedområder: “Øget overvågning”, “Styrkelse af Politiets efterforskningsredskaber og muligheder” samt “Forstærkelse indsats mod eksplosivstoffer”. Vi har jo mest hørt på diskussionen om 300 flere overvågningskameraer - hvilket vel er en vækst på få promille i forhold til det antal kameraer som allerede findes - men pakken indeholder også en række ret markante ændringer i forhold til, hvad vi er vant til.
Én er naturligvis at offentlige bygninger og kommuner skal have udvidet adgang til at installere TV-overvågning, men der foretages faktisk også et ikke uvæsentligt indgreb i den private TV-overvågning - eller en udvidelse hvis man ser det på den måde. Her bliver vi nemlig allesammen til et værktøj i samfundets overvågning af borgerne. Så eksempelvis butikker får mulighed for, at udvide TV-overvågningen til at dække arealer uden for de få meter fra butikken som er lovligt i dag, der gives mulighed for at erhvervsdrivende kan foretage massiv TV-overvågning, Politiet kan i særlige tilfælde give private tilladelse til at overvåge områder anvendt til almindelig færdsel og endelig kan private, hvis der er indgivet en politianmeldelse, få lov til at opbevare optagelser i længere tid end det er muligt i dag.
Hvis vi nu parrer det med kravet om at “alle skal registrere deres overvågningskameraer”, ender vi faktisk med et ret omfattende overvågningssystem. Rigspolitiet siger godt nok til Version2 at der ikke er tale om at man ikke vil have adgang som et direkte videofeed, men at ““…hvis politiet ønsker at se optagelser fra kameraer i registret, skal de rette henvendelse til ejerne og bede om at få udleveret optagelserne”. I praksis betyder dette vel at Politiets rådighed over TV-kameraer udvides fra ikke voldsomt mange til tusindevis. Som udgangspunkt de 16.000 private kameraer som i dag - ad frivillighedens vej - er registreret i systemet POLCAM. Spørgsmålet er hvor lang vej der er fra registrering af metadata, til adgang til et direkte videofeed, til ansigtsgenkendelse…?
Ideen med at inddrage private i et statsligt overvågningssystem er bestemt set før i den vestlige verden og er tilsyneladende en stigende tendens. I USA har det Amazon-ejede selskab Ring, der laver intelligente og kameraudstyrede dørklokker, “indgået et samarbejde med 400 politiorganisationer” hvilket giver politiet direkte adgang til at kigge med på overvågningen. Alene kombinationen af Amazon (der jo massivt bruger overvågning andre steder, fx i deres supermarkeder) og statslig overvågning burde give en del bekymringer, men det lader ikke til at bekymre amerikansk politi. I flere byer forærer politiet tilmed Ring-dørklokker gratis til borgerne for at få udbygget overvågningssystemet. Ring siger at de ikke bruger ansigtsgenkendelse i deres dørklokker, men alligevel har de ansat en “Head Of Facial Recognition Research”. Så gad vide, hvor længe det varer. Kombinationen af kameraer og ansigtsgenkendelse vil jo medføre en ikke uvæsentlig mulighed for at se, hvem der begår kriminalitet så en dag vil det være slut med at “gøre skade på andres biler” og slippe godt fra det.
Et andet emne i sikkerhedspakken er de allestedsnærværende ANPG-kameraer (automatisk nummerpladegenkendelse). Over de seneste år har Politiet fået indført et relativt finmasket og stadigt voksende “netværk af ANPG-kameraer”, som har til formål at læse din nummerplade når du kører på offentlig vej. Så når jeg kører fra København mod IBM’s kontor i Brøndby, og på Roskildevej passerer forbi Damhussøen, bliver min nummerplade læst af systemet. Hvis jeg ikke er eftersøgt får Politiet i “henhold til deres egen beskrivelse” ikke en notifikation og mine data gemmes kun i 24 timer i den såkaldte no-hit-del af systemet.
De 24 timer går igen i sikkerhedspakken hvor der tales om at udvide fristen for at slette informationer til 60 dage. Med andre ord, alle de som IKKE er på Politiets hotliste over eftersøgte eller andre formastelige, vil fremover få opbevaret bevægelsesdata i to måneder. Det er altså dig, mig og alle de andre som overhovedet intet kriminelt har gjort.
Men OK, hvis man ikke har noget at skjule, eller…?
Som Edward Snowdon sagde “Arguing that you don't care about the right to privacy because you have nothing to hide is no different than saying you don't care about free speech because you have nothing to say.”
Glidebanen
Som det ser ud lige nu, har ønsket om at undgå ansigtsgenkendelsen på det længere sigt, ret svære vilkår. Godt nok er regeringen ikke lige umiddelbart “nogen planer om at tillade ansigtsgenkendelse”, men er alligevel ikke helt principielt klare i spyttet. V og DF går klart ind for at give Politiet disse muligheder, mens Alternativet, Enhedslisten og LA er lodret imod.
Men det er spørgsmålet om vi er på vej ud på en glidebane. Hvad der for få år siden, virkede umuligt og urealistisk, er i dag efterhånden blevet dagligdag og større initiativer som styrker overvågningen, kan indføres uden større offentlig debat. ANPG som et eksempel. Og ofte sker det med en argumentation om at vi kan bruge teknologi til at skabe mere tryghed og sikkerhed.
I landene omkring os rykker tingene i en bekymrende retning. I Sverige har Datainspektionen - den svenske pendent til Datatilsynet - givet Politiet lov til at bruge ansigtsgenkendelse med følgende forudsætning ““Datainspektionen bedömer att polisens tänkta användning av ansiktsigenkänning är laglig men uppmanar polisen att slå fast hur länge uppgifterna från ansiktsigenkänningen får sparas.””. Så i Sverige handlinger bekymringerne åbenbart mere om opbevaring af data end det potentielle kulturelle og demokratiske værdiskred ved at bruge disse teknologier.
I Serbien ser vi at kinesisk overvågningsteknologi med ansigtsgenkendelse har en “særdeles undertrykkende virkning på demonstrationer” og oprør; en tendens der breder sig til en del lande.
Og selv i Danmark tog vi hul på udviklingen da Datatilsynet gav Brøndbyernes I.F. Fodbold ”tilladelse til at bruge ansigtsgenkendelse” ved indgang til Brøndby Stadion.
Der er dog også en del modstand forskellige steder i verden. I Hong Kong er demonstranterne vel viden om at de bliver overvågede og tager forholdsregler og der er ved at opstå en “alternativ modeindistri med tøj, specielt designet til at undgå overvågning”. I San Fransisco har bystyret “forbudt ansigtsgenkendelse” og i Barcelona har man indført et mere generelt forbud om, at byen ikke ønsker leverandører som baserer sig på de overvågningskapitalistiske forretningsmodeller, dvs. GAFA’erne.
Skal vi?
Så det hele virker lidt tumultarisk for øjeblikket. Det er jo meget oplagt at starte en lang og kompleks diskussion om videoverågning i det hele taget virker og det er der lavet “undersøgelser om” som viser at det ofte har en præventiv effekt men lige så ofte ikke har en større virkning. Det er med andre ord, ikke et vidundermiddel.
Og Kina har jo også i sin rolle af verdens største eksperimentarium for brug af overvågningsteknologi vist, at det er muligt at styre, kontrollere og forme tanker og adfærd hos befolkningen. Lige i overkanten i forhold til vores demokratiske tænkning i vesten. Så det er jo nok ikke Kina-modellen vi ønsker?
Nogen vil også indvende, at vi jo allerede er masseovervågede. Vi har telefoner styret af Apple og Google, Facebook kender vores sjæl bedre end os selv og Amazon er ved at overtage hele industrier for øjnene af os - alle baseret på modeller som bruger overvågnings- og persondata som benzin til en nærmest uendelig vækst.
Men for mig er der en væsentlig forskel på Københavns Politi’s hede overvågningsdrømme og den overvågningskapitalistiske verden som omgiver os. Forskellen ligger i, at vi kan sige nej til GAFA’erne. Det er måske svært, gør livet noget mere bøvlet og vi vil måske føle, at vi er gået off the grid og har forladt samfundet hvilket repræsenterer en smerte i sig selv. Men vi overlever.
Når kameraerne er monteret overalt i byrummet, Politiet har fået adgang til de mere end 16.000 private kameraer og dronerne summer over hovederne på os - alt understøttet af ansigtsgenkendelse, kan vi nemlig ikke sige nej. Og vi er måske på en glidebane som er så glat, at det er svært at stoppe en accelererende bevægelse.
Derfor skal vi stoppe. Lige nu. Og tage diskussionen om, hvilket samfund vi gerne vil have. Og det er ikke en teknisk-bureaukratisk-økonomisk diskussion, men en snak om demokrati, kultur og hvilket samfund vi gerne ser i fremtiden. Det kan være at vi skal være som Kina. Personligt ville jeg flygte, men det er et reelt politisk valg vi har.
Det er bare vigtigt, at vi forstår hvor kritisk denne beslutning er. DR lavede tidligere på måneden en afstemning som en del af artiklen “”Støttepartier undrer sig over S-forslag om øget overvågning: Hvad blev der af tilliden? hvor man spørger om myndighederne skal have bedre muligheder for at overvåge borgerne. I skrivende stund har ca 3600 stemt, 49% siger ja, 47% siger nej og kun 4% mener, at vi skal lade politikerne beslutte det.
Om de 4% handler om megen begrænset tillid til politikernes evne til at diskutere vores fælles fremtid er svært at sige, men det virker unægtelig lidt skævt. Og gad vide, om de 49% som siger ja, er dem som “ikke har noget at skjule”.
Vi har stolte traditioner fra vores kultur, højskolebevægelsen og meget mere, som burde styrke os på nej-siden i denne diskussion og som burde sikre en fornuftig demokratisk tankegang. Vi skal nemlig forstå, at vi ikke skal være som Kina og vi skal på inden måde lade politi eller politikere trække os i en forkert retning.
I Mette Frederiksens tale ved Folketingets åbning talte hun om jordbærboden som på grund af tidens tilstand og frygten for tømt pengekasse, er blevet udstyret med videoovervågning. Tag nu eksemplet videre og forestil dig at du en dag bliver ringet op af politiet fordi du har stjålet penge fra det uskyldige pensionist-ægtepar som ejer jordbærboden. De er meget påståelige og sikre i deres sag da de har adgang til videoovervågningen og ansigtsgenkendelsen klart har identificeret at du er tyven. Du påpeger at teknologien altså ikke er helt sikker og blandt andet fejlagtigt har “identificeret mere end en tredjedel af det amerikanske senat som værende kriminelle“, men det er altid en svær diskussion når der er en algoritme med ved bordet.
Så stop, tænk og lad os diskutere hvilket samfund vi vil have: Et overvågningsfascistisk Kina eller vores eget. Jeg ved godt, hvad jeg ville vælge.
Synes du i øvrigt at eksemplerne i den lille indledende historie virker urealistiske. Google tog patent på spejlet i 2018, forskere fra University of Toronto publicerede for nylig en algoritme som, baseret på en selfie-video, kan måle dit blodtryk, industrien omkring aflæsning af følelser via ansigts-analysealgoritmer har efterhånden nået 25 milliarder dollar og historien om overvågningskapitalismen kender du sikkert allerede.
Og hvis du gerne vil se virkelighedens eksperimentarium, herunder hvad der sker når man går over for rødt - eller skal have toiletpapir på et offentligt toilet, kan du kigge med her:
