Amazon om privatlivsbekymringer: »Vi kigger aldrig på individuelle data«

3. januar 2018 kl. 05:173
Amazon om privatlivsbekymringer: »Vi kigger aldrig på individuelle data«
Mens salget af digtiale assistenter går trægt herhjemme, har amerikanere og englænderne i højere grad taget den nye teknologi til sig. Billedet stammer fra en spoof-reklame for Alexa og Echo-serien med Alex Jones. Illustration: Alex Jones.
Stemmestyrede services som Amazons Alexa åbner for bekymringer for brugernes privatliv. Amazon selv afviser, at de kigger på personhenførbare data.
Artiklen er ældre end 30 dage

En far står og rører i en wokgryde. Han standser naget af tvivl.

»Alexa! Hvor mange teskefulde svarer en spiseskefuld til?« råber han ud i sit mennesketomme køkken.

Ved hans røst og lyden af sit navn lyser Amazons stemme-aktiverede digitale assistent op. Tilstedeværelsen og aktiveringen af assistenten Alexa illustreres af en turkis cirkel på den sorte gadget kaldet Echo.

»En spiseskefuld svarer til tre teskeer,« forklarer Alexa.

Artiklen fortsætter efter annoncen

Kort efter støder datteren Eloise til i køkkenet.

»Faaaar, er aftensmaden klar?« spørger hun.

Svaret kommer prompte i form af en dampende varm skål stillet foran hende. Hun er tilsyneladende ikke, som teenagere er flest. Med mistænkeligt smaskende velbehag indtager hun grøntsagerne.

Hvad stiller vi op?

Tre råd til at færdes i den digitale og personlige informationsøkonomi.

Illustration: MI Grafik/Lasse Gorm Jensen.

1. Hold din datasti ren
Data om dig har værdi. Ryd derfor op i din digitale færden, og afgør, om en 'gratis' service er værd at betale for med viden om dig.
Sådan lyder rådet fra talrige privacy-forkæmpere. Heriblandt Margrethe Vestager, som i sin tid som konkurrencekommissær i EU er blevet mere påpasselig. Hun anvender kun Facebook og Twitter til sit arbejde. Hun har fravalgt en Gmail-konto og tyer til søgemaskinen DuckDuckGo, der angiveligt ikke følger brugernes færden.
»Vi er nødt til at begribe, hvad der sker, når data bliver den primære valuta for et firma, for intet er jo gratis. I sidste er det kunderne, som betaler,« sagde Margrethe Vestager i november på teknologi-konferencen Web Summit i Lissabon.
Illustration: MI Grafik/Lasse Gorm Jensen.

2. Ja til afgifter på brug af data
I stedet for at vi betaler eksempelvis Amazon for at bruge deres kunstige intelligens – bygget med vores data – så bør vi afkræve Amazon en afgift, der skal gå til os. Det mener økonomen Glen Weyl.
Normalt arbejder han for Microsoft, men han er i øjeblikket på orlov hos University of Chicago for at færdiggøre en bog om en ny forståelse af liberal økonomi, herunder en metode til værdifastsættelse af individuelle databidrag.
Ifølge Weyl er en af de største udfordringer at få folks øjne op for, at deres data har en værdi. Og it-giganterne vil ingenlunde hjælpe folk med at gøre den opdagelse – de tjener styrtende på status quo.
Illustration: MI Grafik/Lasse Gorm Jensen.

3. Beskyt persondata ligesom EU
Næste år træder EU's persondataforordning (General Data Protection Regulation eller GDPR) for alvor i kraft. Med GDPR opstår der mere transparens og pression for, at online-serviceudbydere løsner grebet om indsamlede kundedata, og tiltaget bør håndhæves og udrulles i andre lande, fremhæver magasinet The Economist. Frigørelsen kan afføde flere nye selvstændige firmaer og modvirke, at de mest succesfulde spillere i den digitale infrastruktur koncentrerer sig i USA.

Scenen stammer fra en britisk reklame for assistenten Alexa fra Amazons Echo-serie – en sort gadget bestående af adskillige mikrofoner, en højttaler og naturligvis den elektroniske indmad med AI-assistenten kaldet Alexa.

Artiklen fortsætter efter annoncen

Læs også: Tech-selskaber vil have dig til at overvåge dig selv

Presser på for køb af digitale assistenter

Klikkede du dig forbi Amazon.com på jagt efter julegaver, stødte du på Echo. Den digitale assistent blev fremhævet på forsiden med reducerede priser.

Det er tilsyneladende en gadget, vi higer efter. Eller en gadget, som Amazon gerne vil have, vi higer efter.

Huer designet af Echo dig ikke, kan du i stedet vælge de to andre techgiganters bud på stemmestyrede assistenter i dit hjem: Google med deres Home og Nest samt Microsoft med Project Evo.

Kritikken af disse assistenter har hidtil mest gået på risikoen for hackere, der overtager styringen, og bugs, som får assistenterne til at optage alt, der siges i nærheden af dem, når de ellers skulle være deaktiverede.

I dag er en anden kritik og analogi begyndt at gribe om sig. En analogi, der sidestiller techgiganter som Microsoft, Amazon, Facebook og Google med råstof-selskaber.

Og som det toneangivende økonomiske magasin The Economist skrev tidligere på året, så er rådata for dette århundrede, hvad gas, olie og andre begrænsede mineralske råstoffer var for det forrige århundrede.

Læs også: De er tech-nationerne – og dine data er deres råstoffer

Artiklen fortsætter efter annoncen

Det er i dette lys, vi også bør betragte indsamlingen af data og det trade-off, som kunder og forbrugere indgår i, når det gælder privatliv og tilsyneladende billige tjenester.

»Ophobningen af data har skabt en ny form for kapitalisme, den personlige informationsøkonomi,« siger Rikke Frank Jørgensen, som er ph.d. i kommunikation og ICT, seniorforsker ved Institut for Menneskerettigheder og medlem af organisationen Privacy Internationals advisory board.

Dataindsamling ind i husholdningen

Den britiske forfatter og lektor i digital økonomi ved King's College London Nick Srnicek foretrækker betegnelsen platformsøkonomi eller platformskapitalisme, fordi techgiganternes første delmål er konsolidere de platforme, som forbrugerne baserer deres tilværelse på.

»Det interessante er, at der nok ikke rigtigt var forbrugere, der argumenterede for, at de behøvede en Google Nest eller Amazon Echo. De bliver markedsført, fordi de er et middel til at få dataindsamling ind i husholdningen,« har han sagt til dagbladet Information.

»Data er blevet ikke bare en indtægtskilde for firmaer, men også en måde at opnå konkurrencefordele på. Jo mere data du har, desto mere kan du forbedre dine services og produkter,« siger Nick Srnicek.

Læg dertil Echo Look. En lille webcam-stander til 1.400 kroner, som giver Alexa øjne og lader din assistent fortælle, hvorvidt du er pænt klædt på. Præcis hvordan algoritmen vurderer, om det nuværende outfit passer til dig, og om tøjvalget følger de nuværende modetendenser, vides ikke.

Amazon fortæller, at algoritmen lærer løbende ligesom Alexa takket være machine learning. Den detalje er væsentlig ifølge Louis-Philippe Morency, lektor og leder af Machine Learning Laboratory ved Carnegie Mellon University. For via systemets indlæring, visuelle genkendelse og samkøring af data giver det ekstra mange muligheder til Amazon.

»Forsimplet sagt går vi fra at være i stand til at give ting navn eller substantiver til at være i stand til at give dem adjektiver. Vi kan altså beskrive, at det ikke kun er en sko, men det er en rød sko,« siger Louis-Philippe Morency til Wired.

Besidder platformene i den digitale økonomi

Ihukommer vi råstofanalogien, bør vi altså betragte de fire store - Microsoft, Amazon, Facebook og Google - som firmaer, som alle har deres hovedaktiviteter i råstofsektoren. De både udvinder olien og udlejer boreplatformene.

Næsten al vores data passerer igennem dem. Og hvordan går det så med at håndtere den data uden at kompromittere vores privatliv? Hvordan kan vi fortsat fæstne lid til eksempelvis Amazon, når det gælder privacy?

Det blev Cedric Archambeau, ledende medarbejder ved Amazons afdeling for machine learning, spurgt om, da han gæstede København i slutningen af sidste år.

»Det er vigtige problemer. Når det gælder ejeskaberskabsmodellerne over data, kigger vi aldrig ind i folks data. Tag eksempelvis AWS, hvor der er et delt ejerskab, men i sidste ende er det folk, som bestemmer deres privacy og sikkerheden i forbindelse med deres data. Vi tilbyder dem en række værktøjer til det, eksempelvis kryptering,« sagde Cedric Archambeau i sin præsentation til et DTU-arrangement om, hvordan blandt andre Amazon vil udnytte kunstig intelligens til at erobre endnu større markedsandele.

Remote video URL

»Dataaspektet og privacy er supervigtigt for Amazon, fordi vi ikke vil ødelægge kundens tillid til os. Det vil være yderst skadeligt på lang sigt. Vi vil altså aldrig kigge på individuelle data, men kun aggregerede data,« sagde Cedric Archambeau

Konstant jagt efter nye data

Amazon, Microsoft, Google og Facebook har dog også en akilleshæl, akkurat som råstofselskaberne på jagt efter fysiske råstoffer. Deres profitskabelse afhænger af deres evne til at udvinde nye data og optimere deres analysearbejde.

En pointe her er, at nok vokser mængden af digitale data voldsomt det kommende årti, men der er ikke tale om en ubegrænset ressource. Derfor skal selskaberne konstant skrabe data frem nye steder.

Læs også: Fire it-giganter tager monopol på verdens data

I disse år gør de det med stemmestyrede personlige assistenter og mixed reality-systemer placeret i vores hjem, promoveret af Amazon med deres Echo, Google med deres Home og Nest samt Microsoft med Project Evo.

Amazon gik skridtet videre i juli med patentet på droner til sin leveringsservice. Inkluderet i patentansøgningen var en beskrivelse af, hvordan dronen, samtidig med at den afleverer en pakke på dit dørtrin, analyserer kvaliteten af dit hus

Denne observation kan så resultere i en anbefaling om at få lagt nye tagsten. Echo-enhed og drone vil altså skrabe data sammen om dit hus både inde- og udefra.

Læs også: Falsk anmeldelse koster 35 kroner - Amazon slår ud med armene

En dataindsamlingsmetode, som nok mange af os nok er betænkelige ved. Men som Ben Tarnoff, teknisk skribent for Pivotal Software, har påpeget i en klumme for avisen The Guardian:

»Folk er måske ikke vilde med, at en algoritme fodres med data om enhver kvadratmeter af deres hjem. Men man bør aldrig undervurdere, hvor hurtigt normer kan justeres. For et par årtier siden ville det være blevet anset for brud på privatlivets fred, hvis en virksomhed læste dine breve, observerede dine sociale interaktioner eller sporede din placering. I dag er dette standarden – endda banale aspekter ved at bruge internettet.«

Tilbage i køkkenet er der stadig praktiske gøremål til Alexa.

»Alexa! Hvad står der på min kalender for i morgen?« spørger faderen.

»Kl. 12 er det Zachs fødselsdagsskovtur,« fortæller Alexa.

Eloise jubler ved den besked.

Senere, iført nattøj, slænger hun sig i sofaen med sin far, hver med deres skål isdessert. Deres ører er på stilke. De lytter til forfatteren Philip Pullman, som læser op af sit fantasyepos 'Det Gyldne Kompas'.

»Alexa! Stop lydbogsoplæsning,« afbryder faderen, hvorefter de to begiver sig ud af dagligstuen.

Dagens sidste dont ryger atter ud til den digitale assistent fra Amazon:

»Alexa! Sluk lyset i dagligstuen,« beordrer faderen.

Se hele Alexa-reklamen i videoen herunder.
[video: https://www.youtube.com/watch?v=sulDcHJzcB4]

3 kommentarer.  Hop til debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
3
3. januar 2018 kl. 14:33

En ting er at Amazon som virksomhed lover at de ikke gør det, men hvad med deres medarbejdere ?

For få år siden var det rutine at politibetjente i Danmark checkede deres date ud i forskellige registre.

Hvad checker Amazons medarbejdere ?

Og Googles, FaceBooks osv. osv. ?

1
3. januar 2018 kl. 11:40

Jeg tror ikke på at NOGEN af disse leverandører i det lange løb (hvilket nok blot er 1-2 år) vil kunne modstå fristelsen til at begynde at samle mere personlige data op. Eksemplet med dronen og forslaget om nye tagsten siger alt: De KAN simpelthen ikke holde sig fra at samle oplysninger ind. Det være sig fra droner eller fra stemmestyrede enheder (snart suppleret med video).

Når antallet af enheder stiger, stiger også fristelsen.

Det er skræmmende at tænke sig at sådan en enhed skal stå og lytte med på alt hvad der bliver sagt i rummet. Ganske vist hævdes det at den kun "bearbejder" stemmen efter aktivering gennem "kodeordet". Men kan man have tillid til det? I dag måske, men i morgen? Hvis der er data at samle ind for at blive brugt i markedsføring (læs: Salg af reklamer mm.) vil det blive gjort. Uanset hvad de siger i dag. Der er for mange penge i det til at kunne lade være,

Hvor længe mon det varer før der kommer reklamer ud af højttaleren som reaktion på de ting man har spurgt om - fuldstændig svarende til en Google søgning som straks efter styrer de reklamer der vises på hjemmesider.