AI-udvikling kan gøre Google til et militært mål

Klokken 10 om formiddagen sender en MQ-9 Reaper et missil ind ad Sankt Petri Passage 5 i hjertet af indre København. Hjemsted for Googles nordiske afdeling.

Et minut senere bliver forskerne og de studerende ved IT-byen Katrinebjerg i Aarhus vidner til en opvisning i militær machine learning, da en selvstyrende krigsmaskine åbner ild mod Googles danske udviklingskontor i lokalerne i Åbogade 15.

Angrebet ender om formiddagen, da adskillige droner præcisionsbomber Googles AI-laboratorium DeepMind i London og hovedkvarteret Googleplex i Californien.

Det er skrækscenariet for de Google-ansatte, hvis selskabet vil arbejde på kunstig intelligens (AI) til våben-brug. Ifølge professor Peter Lee har både forskere og Google-programmører en god grund udover de etiske overvejelser til at tage afstand fra at medvirke til udvikling af kamprobotter.

»I henhold til gældende international humanitær ret kan dual use-faciliteter – altså de, der udvikler produkter til både civil og militær anvendelse - blive angrebet under de rette omstændigheder,« siger Peter Lee , til forskningsmediet phys.org.

Han er direktør for Security and Risk Research ved University of Portsmouth, med forskningsspeciale i krig med droner.

Et scenarie, som opridset ovenfor kan opstå i en fremtid, hvor krigsmaskiner på baggrund af kunstig intelligens (AI) egenhændigt udtænker og afgør, hvordan kampen på slagmarken skal vindes. I så er der vel at mærke tale om et scenarie, der ikke nødvendigvis udgør et brud på reglerne om krigsførelse. Det vurderer professor Peter Lee.

Til både civil og militær anvendelse

Han peger på, at brugen af fuldt autonome krigsmaskiner godt nok vil udviske de i forvejen ofte slørede linjer i krig om etisk og juridisk ansvar, men erodere dem helt vil AI ikke.

»I stedet vil ansvaret i stigende grad falde tilbage på andre folk, inklusiv forskere, der arbejder med kunstig intelligens,« siger professor Peter Lee, til forskningsmediet phys.org.

Et springende punkt er, at udviklingen af kunstig intelligens tilhører kategorien dual use og kan benyttes til både civile og militære formål. AI kan anvendes til alt indenfor fantasiens grænser. Til mønstergenkendelse, der lader læger på Rigshospitalet hurtigere spotte indikationer på kræft; eller til droner, som hurtigere kan skelne mellem terrorister og civile.

I begge tilfælde vil automatiserede funktioner til at identificere og ramme mål altså kunne spores til designmæssige algoritmevalg afgjort af et menneske. Herhjemme lyder samme pointe fra Iben Yde, ph.d. i folkeret og juridisk rådgiver for Forsvars-kommandoen. Hun skrev for to år siden sin afhandling om regulering af autonome våben.

»Den eneste forskel fra konventionelle våben er, at den menneskelige kontrol bliver forskudt fra realtid til at ligge i programmeringsfasen,« som hun fortalte i Ingeniøren for få dage siden.

Forskerboykot og protest fra ansatte

Spørgsmålet om dual use er særligt aktuelt, efter at 50 AI-forskere i denne måned indledte et boykot af det prominente sydkoreanske universitet KAIST. Heriblandt var Thomas Bolander, ph.d. og lektor i logik og kunstig intelligens ved DTU Compute.

Anledningen: KAIST havde indledt et samarbejde med den sydkoreanske våbenproducent Hanwha Systems og oprettet et laboratorium til udvikling af autonome våben optimeret med kunstig intelligens.

En dag senere kom det frem, at over 3.100 Google-ansatte var ude i et lignende ærinde. De trygler i et brev IT-mastodontens øverste chef, Sundar Pichai om at annullere en opgave om at udvikle en visuel overvågningsmaskine med AI beregnet til dronekrig under Pentagons Project Maven.

»Vi mener ikke, at Google bør være indblandet i krigsindustrien. Derfor beder vi om, at Project Maven bliver aflyst, og at Google udfærdiger, offentliggør og håndhæver en klar politik om, at hverken Google eller dets leverandører nogensinde vil bygge krigsteknologi,« lyder det i protestbrevet.

De Google-ansattes protestbrev bør også ses i en større sammenhæng. Rusland, Kina og USA satser alle på AI, men Pentagon lægger ikke skjul på, at de halser efter de konkurrerende militære stormagter.

Krigsgeneralerne i Washington er simpelthen ude at af i stand til at konkurrere med Silicon Valleys gebommerlige løntilbud til AI-eksperterne. Derfor er Pentagon i stedet nødsaget til at forsøge at udlicitere udviklingsarbejdet i stor grad til eksempelvis Google.

Svært af skelne

Der er fortilfælde, hvor civile har været legitime mål. For eksempel blev olieraffinaderiet Pancevo i 1999 under Kosovo-krigen angrebet, fordi det kunne levere brændstof til såvel jugoslaviske tanke som civile biler.

»Med et autonomt drone våben system vil visse linjer af computerkode næsten helt sikkert blive anset som dual use. Virksomheder som Google, deres medarbejdere eller dets systemer kan blive udsat for angreb fra en fjendtlig stat. Hvis f.eks. Googles Project Mavens billedgenkendelse AI-software er indarbejdet i en amerikansk militær autonom drone, kunne Google pludselig affinde sig med at være impliceret i sektoren med dødbringende droner, ligesom enhver anden civil bidragsyder til sådanne dræbende autonome systemer,« siger professor Peter Lee til phys.org.

Gary Schaub, seniorforsker ved Center for Militære Studier på Københavns Universitet offentliggjorde i 2016 en rapport om behovet for retningslinjer for anvendelsen af autonome våben. Han betoner tillige, at det er værd at være opmærksom på dual use-begrebet, når brugen af AI vinder større og større indpas i krig og konflikter.

»Civile kræfter baner i høj grad vejen for denne udvikling. For få uger siden kørte jeg eksempelvis forbi afkørslen ved Highway 101 i Silicon Valley dagen efter, at en Tesla kørte galt ved udfletningen ved en af- og tilkørsel. Vel at mærke et sted, som Tesla oplyser, at selskabets selvkørende biler har passeret over 800.000 gange uden problemer. Den teknologi, som er bag de selvkørende systemer, er ikke nævneværdig forskellig i en Tesla eller en tank, borset fra at en tank er i stand til at skyde på en forhindring i stedet for at kollidere med den,« fortæller Gary Schaub.