AI-forsker: Kamprobotter forstår ikke krigens regler
more_vert
close
close

Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og at Mediehuset Ingeniøren og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, tilbud mm via telefon, SMS og email. I nyhedsbreve og mails fra Mediehuset Ingeniøren kan findes markedsføring fra samarbejdspartnere.

AI-forsker: Kamprobotter forstår ikke krigens regler

Illustration: Nanna Skytte Illustration: Nanna Skytte

Maskiner er dumme – men mennesker har det med at overvurdere maskinernes evner.

De to forhold udgør en skidt cocktail, når det handler om at bruge kunstig intelligens i våben, og derfor er forbud mod den slags eneste vej frem.

Det mener Toby Walsh, der er professor ved New South Wales University, Sydney, og en af verdens mest fremtrædende forskere i kunstig intelligens eller artificial intelligence (AI). Han frygter, at AI-teknologier, som han i øvrigt er stor fortaler for, vil blive misbrugt.

»Der er regler i krig, man skal følge. Regler om proportionalitet, det at adskille kombattanter fra civile, følge regler om overgivelse etc. Det kan maskiner ikke, og derfor skal vi ikke give dem muligheden for at træffe beslutninger om liv og død,« siger Toby Walsh.

Den britiske computerekspert var blandt initiativtagerne til et åbent brev til FN, der i 2015 opfordrede til at lave et forbud mod at anvende AI til våben. Brevet er til dato underskrevet af 3.500 AI-/robot-forskere og knap 19.000 fremtrædende personer som Elon Musk og Stephen Hawking.

Robotter slagter

Ingeniøren møder Toby Walsh på Christiania i København, hvor han er blandt hovedtalerne til en konference om AI afholdt af DTU Compute. Under foredraget viser Walsh videoen ‘Slaughterbots’ – en fiktiv video i dokumentarstil, produceret af en koalition af AI-eksperter og interesseorganisationer, som viser, hvor galt det kan gå i en fremtid, hvor sværme af mikrodroner udstyret med sprængstoffer spreder skræk og rædsel.

»AI i våben er ikke ‘Terminator’, som det ofte fremstilles i medierne. Det ligger årtier væk, hvis de nogensinde kommer. De teknologier, vi viser i videoen, er her allerede, og det er kun et spørgsmål om få år, før de kan anvendes som våben,« siger Toby Walsh.

Mandag 13. november var Toby Walsh i FN for at overbevise politikere og embedsmænd om nødvendigheden af et forbud mod AI i våbensystemer. Det var fjerde gang, men denne gang var det formelt – efter tre år med uformelle samtaler.

»FN-systemet tager tid, hvilket der ikke er meget af. Vi skal se på AI, som vi ser på kemiske våben. De er der, men er sjældent brugt og svære for terrorister og andre at få fingrene i. Og selv når de bruges, giver det moralske slagsmål og store overskrifter i verdens aviser. Det lader til at være nok til i hvert fald at begrænse brugen af kemiske våben,« lyder det fra Toby Walsh.

Milliarder på spil

Men kan et forbud stoppe en udvikling, hvor især de store lande står over for et våbenkapløb inden for AI? Ja, til en vis grad, mener Toby Walsh:

»Våbenproducenter i store lande vil investere i AI og tjene store penge. Man mener allerede, at russerne har en milliardeksport af semi-automatiserede våben. Så jo, det er en magtfuld kraft at kæmpe imod. Men vi har gjort det før med kemiske og biologiske våben, atomvåben og klyngevåben. Vi har været intelligente nok før. Det kan vi være igen,« siger han og fortsætter:

»FN virker ved konsensus, og selv de stærkeste nationer kan ikke bare tvinge deres vilje ned over resten. Derfor har vi forbud mod atom­våben. USA tror fejlagtigt, at de har et teknologisk forspring i forhold til resten af verden, men det fastholder de aldrig. USA vil få disse våben rettet mod sig selv, og det vil være en katastrofe for dem,« lyder det fra Toby Walsh, der mener, at AI skal defineres som masseødelæggelsesvåben i FN-systemet.

»Tidligere havde man brug for en hel hær for at føre krig. Du skulle overtale folk til at kæmpe, uddanne dem, give dem mad, udstyr og løn. Det behøver man ikke med AI, der gør det muligt at skalere krigsførelse på en måde, som vi aldrig har set før. En enkelt programmør vil kunne gøre, hvad der tidligere krævede titusinder af mennesker. Der vil ske en revolution inden for krig. Et kæmpe skridt i tempo og effektivitet, som ikke er en god ting. Vi vil ikke være i stand til at forsvare os mod disse våben, hvis de først kommer,« advarer AI-eksperten.

To veje frem

Toby Walsh står uden for Christianias biograf Byens Lys en fredag eftermiddag. Solen skinner, og på gaden er storsmilende mennesker på vej mod weekend. Omgivelserne giver anledning til optimisme, og den er da også værd at holde fast i, mener han.

»Vi forbød ikke kemi og vil heller ikke forbyde AI. Vi forbød brugen af kemiske våben, og jeg håber, vi kan forbyde brugen af AI-våben. Kunstig intelligens vil skabe et bedre samfund og gøre livet lettere på en masse områder. Men som alle andre teknologier kan den enten bruges eller misbruges,« understreger Toby Walsh, der dog frygter, at et forbud først kommer for sent:

»Jeg har ikke tillid til, at vi når det. Historien viser desværre, at forbud først bliver vedtaget, når vi har brugt våbnene og set de rædsler, de medfører.«

Han kalder sig derfor pessimistisk optimist. Ingen kan forudsige den teknologiske fremtid, der er produktet af vores fantasi og beslutninger i dag, vi vælger selv, om disse våben eksisterer eller ej, anfører Toby Walsh:

»Der er en god og en dårlig fremtid. AI giver muligheden for begge dele, men udfaldet er op til os.«

Det findes allerede, i forskellig udformninger og størrelser.

Det rigtigt uhyggelige er at 1mand i en kælder, kan bygge sådan en sværm, og slippe den løs.

AI er ikke engang en forudsætning, men hobby elektronik og SW kan klare opgaven.

Byg 200 små 300 grams quadcoptere, og stabel dem på ladet af en trailer.
Kør traileren ud til den udendørskoncert, fodboldkamp, eller landsby, der skal angibes.
Stil traileren og kør selv væk.

Når sværmen vækkes, 7 dage senere, letter den og flyver til koordinaterne, som hver enkelt drone har.
Angrib alt inden for 5 m radius af punktet, vha kamera, pir, ultralyds detektering.

Når batteriet løber ud falder dronen til jorden, men eksplodere hvis den derefter flyttes.
En del af dem er programere til at ekplodere efter 5-10-15 min osv. efter styrtet, for at holde kaoset igang.

Ingen AI, bare flyvende landminer.

Er det skræmmende nok?

  • 0
  • 0

Hvorfor har vi ikke forbudt atomvåben?
Eller hvad med bare at forbyde våben? Eller forbyd dog krig!

"»Vi vil ikke være i stand til at forsvare os mod disse våben, hvis de først kommer,« advarer AI-eksperten."

Det har han nok ret i. Desværre gælder jo den regel, at hvis der opfindes et nyt, stærkt våben, så må vi nødvendigvis have det, for at kunne forsvare os mod de andre som har det.

Hvordan forbud skulle kunne ændre noget som helst her, er mig en gåde.

  • 6
  • 1

Det der er farligt er helt andre ting, overbefolkning, skævvridning af økonomien, Hyper rige som styrer hele lande, som fx i USA som styres via korruption.

Resultatet er Trump som er en ny Hitler som stræber efter mere magt ved at skabe uro og kaos og undertrykkelse af de mindre bemidlede.

  • 3
  • 1

Har krige regler? Er det ikke kun godtroende naive mennesker der tror det? Er det ikke det som gør at nogle krige bare bliver ved og ved uden at få en ende? Hvis krige ville blive ført effektivt dvs slå alt ihjæl der rør på sig, så ville de måske blive kortere og mindre kostbare.

Jeg ville kalde krige med regler for luksuskrige. Hvis der virkeligt blev kæmpet for livet gælder der da ingen regler.

  • 1
  • 2

Jeg ville kalde krige med regler for luksuskrige. Hvis der virkeligt blev kæmpet for livet gælder der da ingen regler.

Det har du jo ret i. En krig hvor taberen bliver tilintetgjort, vil få begge sider til at slås med alle midler om nødvendigt.

I en krig hvor taberen blot bliver besat (altså indlemmet i modpartens land), er jo ikke sådan tab-og-du-dør krig. Landets leder vil blive sat fra bestillingen, måske fængslet, og befolkningen hører nu bare til det andet land.
Det er her hvor 'krigens regler' træder i kraft, for hvis det tabende lands ledere ikke har overholdt reglerne, så kan de straffes yderligere for det.

Det kan det vindende lands ledere for den sags skyld også...!

  • 0
  • 0

De skræmmende er egentlig ikke AI i sig selv. Men AI kombineret med miniturisering af robotter.
Istedet for at have en MAD balance baseret på atomvåben, så kan vi ende med en MAD balance, hvor alle områder er inficeret af insektstørrelse robotter, der bare venter på aktivering. Eller endnu værre aktivere sig selv, hvis de ikke får regelmæssigt signal om ikke at aktivere.
Hvem tør lade være med at inficere fjendens område, når ens eget område selv kan være inficeret.

  • 2
  • 0

Jeg forstår ikke, at der forskes så meget i våben til militært brug. De har jo stort set ingen fornuftig anvendelse.

Burde politiet ikke have nogle effektive våben i stedet???

  • 0
  • 3

Dit spørgsmål Jens, er baseret på din uvidenhed om menneskets sande natur.
Der er mange former for uvæsen, som man har villet beskytte sig imod.

Derfor har opfundet forskellige former for beskyttelse mod tyve og røvere og overfald fra fremmede stater.

Du må da erkende at Stalin, Hitler, Japan, Mao, Pol Pot, Al Qaida, Islamisk Stat i nævnte rækkefølgehar ført sig frem på måder der bestemt ikke kan betegnes som humane. Og vel og mærket i min levetid og helt op til idag.

Så Jens. Start din uddannelse med at læse om militærteknikkens "Einstein" Carl von Clauzewitz der har forfattet en lærebog "Om Krig ( Vom Kriege)".

Det følgende link er en læselet wikepida beskrivelse....som jeg vil anbefale læst.....for selve hovedværket "Om krig"( Vom Kriege) er ret træls at læse :)

https://da.wikipedia.org/wiki/Carl_von_Cla...

  • 1
  • 1

Dem du nævner har netop været først med nye våben, gjort store våben investeringer, givet enorme summer til millitærindustrien - og alle tabt stort.

  • 0
  • 0

...læst linket Jens.........for de som tabte , fulgte ikke de regler som Clauzewitz har fremsat.

Stalin udryddede de som kunne tænke, men vandt over Hitler ! Sovjet gik til grunde fordi de manglede den intelligensia som Stalin havde ydryddet. De var angste for et vestlig angreb ikke uden grund. Churchill foreslog amerikanerne at forsætte mod Sovjet nu da den amerikanske og engelske krigs industri kørte på fuldt drøn. Først med Gorbachov ,kom der forsent noget fornuft tilstede.

Hitler udryddede også sin intelligensia, Jøderne og hørte ikke efter sine generaler, der alle kendte Clauzewitz. Trefronts krig var "No Go" for dem og Hitler "glemte" at invadere England, da det engelske kongehus jo var tyskere af slægten Battenberg (Mountbatten) og den abdicerede konge hertugen af Windsor var nazist. Det må være grunden for Hitler nægtede at angribe England, da de kunne, på trods af generalernes anbefaling.

Japanerne kunne heller ikke nære sig for at føre trefrontskrig (Kina, Sovjet og USA( Pearlharbour)

Kinas historie er noget mere kompliceret.

Ligesådan skal Al Qaida og Islamisk stat forstås. At deres religiøse Kamikaze selvmordsangreb og hvad formålet er, er aldeles uforståelige for os.

  • 0
  • 1

""Allerede før Anden Verdenskrig ville rygtet vide, at Hitlers farfar var en jødisk handelsmand ved navn Leopold Frankenberger.""

""Blodforbindelsen til Leopold Frankenberger er dog forblevet som så meget andet, der har med Adolf Hitler at gøre – et rygte, en myte, en forvirret detalje – og først nu foreligger noget, der kan være et kraftigt indicium.""
https://www.b.dk/verden/forskere-hitler-va...

Det var så det Jens og stop så det udenomskryv og læs på lektien;)

For Hitler har intet at gøre med, at du ikke forstår hvad våben er. Som du selv skriver :

"Jeg forstår ikke, at der forskes så meget i våben til militært brug. De har jo stort set ingen fornuftig anvendelse.

Burde politiet ikke have nogle effektive våben i stedet???""

Hvilke våben våben forestiller du dig er effektive våben , som ikke også ville kunne bruges militært?

  • 1
  • 1

Har krige regler? Er det ikke kun godtroende naive mennesker der tror det? Er det ikke det som gør at nogle krige bare bliver ved og ved uden at få en ende? Hvis krige ville blive ført effektivt dvs slå alt ihjæl der rør på sig, så ville de måske blive kortere og mindre kostbare.

Jeg ville kalde krige med regler for luksuskrige. Hvis der virkeligt blev kæmpet for livet gælder der da ingen regler.

Krige har regler.
Regler er besværlige, og gør det sværere at vinde det aktuelle slag.
Regler bliver ikke altid overholdt 100%. For krig er grundlæggende kaos.

Men uden regler kan man ikke opnå formålet med krigen:
At ens kære kan opnå en fredelig fremtid i frihed.

Kun historie-uvidende udkæmper krige uden at - stort set - overholde reglerne.

  • 0
  • 0