Amazon om privatlivsbekymringer: »Vi kigger aldrig på individuelle data«

En far står og rører i en wokgryde. Han standser naget af tvivl.

»Alexa! Hvor mange teskefulde svarer en spiseskefuld til?« råber han ud i sit mennesketomme køkken.

Ved hans røst og lyden af sit navn lyser Amazons stemme-aktiverede digitale assistent op. Tilstedeværelsen og aktiveringen af assistenten Alexa illustreres af en turkis cirkel på den sorte gadget kaldet Echo.

»En spiseskefuld svarer til tre teskeer,« forklarer Alexa.

Kort efter støder datteren Eloise til i køkkenet.

»Faaaar, er aftensmaden klar?« spørger hun.

Svaret kommer prompte i form af en dampende varm skål stillet foran hende. Hun er tilsyneladende ikke, som teenagere er flest. Med mistænkeligt smaskende velbehag indtager hun grøntsagerne.

Scenen stammer fra en britisk reklame for assistenten Alexa fra Amazons Echo-serie – en sort gadget bestående af adskillige mikrofoner, en højttaler og naturligvis den elektroniske indmad med AI-assistenten kaldet Alexa.

Presser på for køb af digitale assistenter

Klikkede du dig forbi Amazon.com på jagt efter julegaver, stødte du på Echo. Den digitale assistent blev fremhævet på forsiden med reducerede priser.

Det er tilsyneladende en gadget, vi higer efter. Eller en gadget, som Amazon gerne vil have, vi higer efter.

Huer designet af Echo dig ikke, kan du i stedet vælge de to andre techgiganters bud på stemmestyrede assistenter i dit hjem: Google med deres Home og Nest samt Microsoft med Project Evo.

Kritikken af disse assistenter har hidtil mest gået på risikoen for hackere, der overtager styringen, og bugs, som får assistenterne til at optage alt, der siges i nærheden af dem, når de ellers skulle være deaktiverede.

I dag er en anden kritik og analogi begyndt at gribe om sig. En analogi, der sidestiller techgiganter som Microsoft, Amazon, Facebook og Google med råstof-selskaber.

Og som det toneangivende økonomiske magasin The Economist skrev tidligere på året, så er rådata for dette århundrede, hvad gas, olie og andre begrænsede mineralske råstoffer var for det forrige århundrede.

Det er i dette lys, vi også bør betragte indsamlingen af data og det trade-off, som kunder og forbrugere indgår i, når det gælder privatliv og tilsyneladende billige tjenester.

»Ophobningen af data har skabt en ny form for kapitalisme, den personlige informationsøkonomi,« siger Rikke Frank Jørgensen, som er ph.d. i kommunikation og ICT, seniorforsker ved Institut for Menneskerettigheder og medlem af organisationen Privacy Internationals advisory board.

Dataindsamling ind i husholdningen

Den britiske forfatter og lektor i digital økonomi ved King's College London Nick Srnicek foretrækker betegnelsen platformsøkonomi eller platformskapitalisme, fordi techgiganternes første delmål er konsolidere de platforme, som forbrugerne baserer deres tilværelse på.

»Det interessante er, at der nok ikke rigtigt var forbrugere, der argumenterede for, at de behøvede en Google Nest eller Amazon Echo. De bliver markedsført, fordi de er et middel til at få dataindsamling ind i husholdningen,« har han sagt til dagbladet Information.

»Data er blevet ikke bare en indtægtskilde for firmaer, men også en måde at opnå konkurrencefordele på. Jo mere data du har, desto mere kan du forbedre dine services og produkter,« siger Nick Srnicek.

Læg dertil Echo Look. En lille webcam-stander til 1.400 kroner, som giver Alexa øjne og lader din assistent fortælle, hvorvidt du er pænt klædt på. Præcis hvordan algoritmen vurderer, om det nuværende outfit passer til dig, og om tøjvalget følger de nuværende modetendenser, vides ikke.

Amazon fortæller, at algoritmen lærer løbende ligesom Alexa takket være machine learning. Den detalje er væsentlig ifølge Louis-Philippe Morency, lektor og leder af Machine Learning Laboratory ved Carnegie Mellon University. For via systemets indlæring, visuelle genkendelse og samkøring af data giver det ekstra mange muligheder til Amazon.

»Forsimplet sagt går vi fra at være i stand til at give ting navn eller substantiver til at være i stand til at give dem adjektiver. Vi kan altså beskrive, at det ikke kun er en sko, men det er en rød sko,« siger Louis-Philippe Morency til Wired.

Besidder platformene i den digitale økonomi

Ihukommer vi råstofanalogien, bør vi altså betragte de fire store - Microsoft, Amazon, Facebook og Google - som firmaer, som alle har deres hovedaktiviteter i råstofsektoren. De både udvinder olien og udlejer boreplatformene.

Næsten al vores data passerer igennem dem. Og hvordan går det så med at håndtere den data uden at kompromittere vores privatliv? Hvordan kan vi fortsat fæstne lid til eksempelvis Amazon, når det gælder privacy?

Det blev Cedric Archambeau, ledende medarbejder ved Amazons afdeling for machine learning, spurgt om, da han gæstede København i slutningen af sidste år.

»Det er vigtige problemer. Når det gælder ejeskaberskabsmodellerne over data, kigger vi aldrig ind i folks data. Tag eksempelvis AWS, hvor der er et delt ejerskab, men i sidste ende er det folk, som bestemmer deres privacy og sikkerheden i forbindelse med deres data. Vi tilbyder dem en række værktøjer til det, eksempelvis kryptering,« sagde Cedric Archambeau i sin præsentation til et DTU-arrangement om, hvordan blandt andre Amazon vil udnytte kunstig intelligens til at erobre endnu større markedsandele.

»Dataaspektet og privacy er supervigtigt for Amazon, fordi vi ikke vil ødelægge kundens tillid til os. Det vil være yderst skadeligt på lang sigt. Vi vil altså aldrig kigge på individuelle data, men kun aggregerede data,« sagde Cedric Archambeau

Konstant jagt efter nye data

Amazon, Microsoft, Google og Facebook har dog også en akilleshæl, akkurat som råstofselskaberne på jagt efter fysiske råstoffer. Deres profitskabelse afhænger af deres evne til at udvinde nye data og optimere deres analysearbejde.

En pointe her er, at nok vokser mængden af digitale data voldsomt det kommende årti, men der er ikke tale om en ubegrænset ressource. Derfor skal selskaberne konstant skrabe data frem nye steder.

I disse år gør de det med stemmestyrede personlige assistenter og mixed reality-systemer placeret i vores hjem, promoveret af Amazon med deres Echo, Google med deres Home og Nest samt Microsoft med Project Evo.

Amazon gik skridtet videre i juli med patentet på droner til sin leveringsservice. Inkluderet i patentansøgningen var en beskrivelse af, hvordan dronen, samtidig med at den afleverer en pakke på dit dørtrin, analyserer kvaliteten af dit hus

Denne observation kan så resultere i en anbefaling om at få lagt nye tagsten. Echo-enhed og drone vil altså skrabe data sammen om dit hus både inde- og udefra.

En dataindsamlingsmetode, som nok mange af os nok er betænkelige ved. Men som Ben Tarnoff, teknisk skribent for Pivotal Software, har påpeget i en klumme for avisen The Guardian:

»Folk er måske ikke vilde med, at en algoritme fodres med data om enhver kvadratmeter af deres hjem. Men man bør aldrig undervurdere, hvor hurtigt normer kan justeres. For et par årtier siden ville det være blevet anset for brud på privatlivets fred, hvis en virksomhed læste dine breve, observerede dine sociale interaktioner eller sporede din placering. I dag er dette standarden – endda banale aspekter ved at bruge internettet.«

Tilbage i køkkenet er der stadig praktiske gøremål til Alexa.

»Alexa! Hvad står der på min kalender for i morgen?« spørger faderen.

»Kl. 12 er det Zachs fødselsdagsskovtur,« fortæller Alexa.

Eloise jubler ved den besked.

Senere, iført nattøj, slænger hun sig i sofaen med sin far, hver med deres skål isdessert. Deres ører er på stilke. De lytter til forfatteren Philip Pullman, som læser op af sit fantasyepos 'Det Gyldne Kompas'.

»Alexa! Stop lydbogsoplæsning,« afbryder faderen, hvorefter de to begiver sig ud af dagligstuen.

Dagens sidste dont ryger atter ud til den digitale assistent fra Amazon:

»Alexa! Sluk lyset i dagligstuen,« beordrer faderen.

Se hele Alexa-reklamen i videoen herunder.