FN: Autonom kamikaze-drone kan for første gang have angrebet et menneske

Kargu 2-dronen bruger kameraer og kunstig intelligens til at identificere sine mål. Illustration: STM

Dødbringende og fuldt autonome kamikaze-droner med en eksplosiv ladning kan for første gang have været brugt til at angribe mennesker. Hændelsen, som fandt sted under den libyske borgerkrig sidste år, kan være den første af sin slags.

Det skriver nyhedsmediet New Scientist efter at være kommet i besiddelse af en ekspertrapport fra FN’s Sikkerhedsråd.

»Mens de fulde detaljer om hændelsen, der fandt sted i Libyen, ikke er frigivet, og det er uklart, om der er nogen tilskadekomne, så antyder hændelsen, at det måske allerede er for sent med den internationale indsats for at forbyde dødbringende autonome våben, inden de tages i anvendelse,« skriver nyhedsmediet.

Hændelsen fandt sted i marts 2020. Her skulle en den tyrkisk producerede Kargu-2 quadcopter ifølge FN-rapporten af sig selv have jagtet et menneskeligt mål under en konflikt mellem Libyens regeringstropper og den militære udbryderfraktion Libyan National Army anført af desertøren Khalifa Haftar.

Artiklen fortsætter under videoen:

Læs også: Tyrkisk militær får drone med maskingevær, der kan skyde præcist

Flere droner opererede under konflikten i fuldt autonom tilstand med »høj effektivitet«, som ikke kræver nogen som helst menneskelig kontrol, fremgår det af FN-rapporten, hvor der blandt andet står:

»De dødbringende autonome våbensystemer var programmeret til at angribe mål uden at kræve dataforbindelse mellem operatøren og våben: I virkeligheden er det en ‘affyr, glem og find’-kapacitet.«

Ifølge New Scientist antyder FN-rapporten, at en af dronerne jagtede en soldat under tilbagetrækning.

Læs også: Britisk general: Robotsoldater kan udgøre en fjerdedel af hæren i 2030'erne

Organisation vil have internationalt forbud mod »dræberrobotter«

Det er sandsynligvis første gang, en drone har angrebet mennesker uden at have fået instruktioner på at gøre det, fremgår det af FN-rapporten. Det samme vurderer sikkerhedseksperten, Zak Kellenborn, der specialiserer sig inden for ubemandede våbensystemer og droner, over for New Scientist. Han stiller spørgsmålene:

»Hvor skrøbeligt er systemet til objektgenkendelse? Hvor ofte tager det fejl af mål?«

Hændelsen viser, at der er et »presserende og vigtigt« behov for at diskutere en potentiel regulering af autonome våben, lyder det fra sikkerhedseksperten Jack Watling fra den britiske tænketank inden for forsvar og sikkerhed, Royal United Services Institute (RUSI) til New Scientist.

Læs også: Panel: USA har en moralsk forpligtelse til at udvikle AI-våben

Organisationen Humans Right Watch advarede i august under kampagnen ‘Campaign to Stop Killer Robots’ om, at autonome »dræberrobotter« med kunstig intelligens udgør en trussel mod vores civilisation.

»At fjerne menneskelig kontrol fra anvendelsen af magt betragtes nu bredt som en alvorlig trussel mod menneskeheden, der ligesom klimaforandringer fortjener multilateral handling,« lød det fra Mary Wareham, der er koordinator for kampagnen.

»En international forbudstraktat er en eneste effektive måde at tackle de alvorlige udfordringer, som fuldt autonome våben rejser,« lød det fra hende i forbindelse med udgivelsen af en rapport, som gennemgår 97 landes stillingtagen til spørgsmålet om våbensystemer, der kan angribe uden menneskelig kontrol.

30 lande ønsker ifølge rapporten fuldstændig at forbyde fuldt autonome våbensystemer.

sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Det lykkedes at forbyde giftgas, men det bliver alligevel stadigt brugt. Er det en farbar strategi at vælge droner fra hvis fjenden ikke gør?

Og hvordan kontrollerer man lige at AI i dronen ikke er autonom?

  • 6
  • 3

Med et forbud har man formegentlig fjernet mere brug af giftgas end hvis det ikke havde været der. Det giver også mulighed for at forbyde salg af dele til droner til lande der bryder forbudet. Hvordan man afgør om en robot er autonom må tages case by case. Men hvis den angriber mennesker uden at have udstyr der kan kommunikere fra angrebsstedet, har man et godt hint. Selv en ødelagt drone kan også undersøges. Måske kan man endda hive software ud af dens chips.

  • 8
  • 0

Beskrivelse af denne drone passer fint på de krydsermissiler der anvendes af stormagterne. Hvori består forskellen?

  • 1
  • 3

Hvori består forskellen?

Jeg tænkte det samme, men forskellen er den at krydsermisilet fra start har indkodet koordinater. Den kan evt. have et system som styrer via et kamera de sidste par kilometer.

Men den kan ikke forfølge en bil eller soldat, ligesom den heller ikke kan lede efter mål.

  • 10
  • 0

Men den kan ikke forfølge en bil eller soldat, ligesom den heller ikke kan lede efter mål.

Men er det rigtigt? Moderne krydsermissiler laver selv den endelige udvælgelse af mål når den kommer frem. Nej den jagter ikke en bil, men det er fordi missilet flyver så hurtigt i forhold til bilen at det ikke er relevant. Men hvis målet er en bil, så vil det i allerhøjeste grad ramme en bil, også selvom bilen er flyttet når missilet når frem til koordinaterne. Der bruges billedgenkendelse og AI til udvælgelse af mål.

Jeg finder flere ligheder med dronen. Dronen er sandsynligvis også sendt afsted til nogle GPS koordinater med besked om at ramme noget, som dronen kan identificere via billedgenkendelse. Eksempelvis en bil eller en person. De største forskelle er at dronen har meget mindre sprængladning og at det foregår i slow motion i forhold til missilet.

  • 2
  • 1
Bidrag med din viden – log ind og deltag i debatten