Se F-16 pilot få lammetæv af AI i luftduel

Håneretten er i den grad på maskinernes side efter torsdag aften, hvor den kunstige intelligens Heron gentagne gange gennemhullede en amerikansk F-16 pilot i en luftduel.

Piloten, der gik under navnet Banger, fik lynhurtigt ødelagt sit fly af virtuelle maskingeværkugler, og efter fem kampe var resultatet 5-0 til Heron fra firmaet Heron Systems. Og for at gøre historien endnu værre - set fra menneskesiden - så var Banger nok besvimet i virkeligheden, da han i lang tid trak 9G i cockpittet, hvilket kan sende selv de sejeste piloter til tælling.

Se Heron kæmpe mod Banger 4.40.00 inde i eventet

Kampen var finalen i den såkaldte Alpha Dog Fight, en virtuel luftduel arrangeret af udviklingsenheden DARPAs (Defense Advanced Research Project Agency), der er underlagt det amerikanske militær.

Hvor vi gennem tiden har set kunstig intelligens boltre sig lystigt i jeopardy, skak og så videre, så valgte Darpa at invitere AI-udviklere til at dyste om at vinde og kæmpe mod hinanden og mod F-16 piloten Banger, der er anbragt i en simulator med joystick og virtual realitybriller. I kampen er missiler forbudt. Deltagerne må kun bruge fremadrettede maskingeværer.

AI-pilot fik 4 mia. træningstimer på under et år

De indledende runder fandt sted helt tilbage i november 2019, og frem mod i går har otte firmaer, herunder store udviklere som Lockheed Martin, kæmpet om at nå i finalen. Med andre ord er AI-algoritmerne - som i flere tilfælde bygger på DRL (Deep Reinforcement Learning) - blevet trænet og trænet, og udviklerne af Heron anslår, at deres AI-pilot har været gennem fire milliarder træningssimulationer, og har oparbejdet mindst 12 års erfaring, siger maskinlæringsingeniør Ben Bell til Defense One.

DRL kombinerer to kendte machine learning teknikker: Deep learning og reinforcement learning, der groft sagt gør det muligt for at genkende og lære af observationer og handlinger uden anden menneskelig indgriben end et feed-back signal fra udviklerne, der fortæller AI'en hvor godt den klarede sig - og hvor slem en fejl er.

Darpa-direktør: Vi ser begyndelsen på menneske-maskine symbiose

For Darpa er Alpha Dog Fight naturligvis mere end show og underholdning. Selvom det også er show og underholdning med værter i studiet.

For Darpa handler det om at vise piloterne og omverdenen, at AI-algoritmerne er pålidelige og en gevinst for piloterne. I fremtiden er det nemlig AI-algoritmerne, der skal være piloternes “wingmen” i form af AI-styrede fly, som flere flyproducenter udvikler på. Og AI ventes også at få en plads i flyet sammen med piloten, så han/hun kan koncentrerer sig om de opgaver, mennesket er bedst til.

Alpha Dog Fight er nemlig knyttet til udviklingsprogrammet ACE (Air Combat Evolution), som netop handler om at automatisere større dele af piloternes opgaver i cockpittet.

»Hvad vi ser her er begyndelsen på noget, som jeg vil kalde menneske-maskine symbiose. Vi skal vænne os til at mennesket, der sidder i cockpittet og lader sig flyve af en AI-algoritme, i bund og grund er ét våbensystem, hvor mennesket gør, hvad mennesket er bedst til, såsom overordnet strategisk tænkning, og AI'en gør, hvad AI'en er bedst til,« siger Timothy Grayson, der er direktør for det strategiske teknologikontor hos Darpa til Defense One.

Forud for torsdagens luftduel havde programchef for det strategiske teknologikontor hos Darpa, Dan "Animal" Javorsek, også i en pressemeddelse understreget betydningen af luftduellen for udviklingsarbejdet:

»Uanset om menneske eller maskine vinder, så handler Alpha Dog Fight om at øge tilliden til AI-systemer. Hvis vinder AI'en høster respekt fra en F-16 pilot, så er vi kommet et skridt nærmere på at opnå et effektivt menneske-maskine team i luftdueller, og det er hele målet for ACE-programmet,« siger han.

AI har én ulempe: Må ikke lære under luftduel

Darpa har tidligere demonstreret, at AI-algoritmer kan vinde over piloter. Det gjorde de allerede tilbage i 2016 med algoritmen Alpha. Men siden er algoritmerne blevet langt bedre. Og Heron viste sig altså som klar vinder.

I kampen mod mennesket er det værd at bemærke, at Heron faktisk har en indbygget ulempe i forhold til sin menneskelige modstander. Hvor Banger kan lure på sin modstander og lære af hans stil og fejl, så er Heron udelukket fra at lære i selve kampøjeblikket. Det giver Banger en fordel, som også er tydelig i finalen, hvor Banger skifter taktik undervejs, og klarer sig i længere og længere tid. Men han lærer ikke hurtigt nok, og bliver skudt ned.

Men hvorfor ikke lade Heron lure på sin modstander og ændre taktik undervejs i duellen? Det spørgsmål er faktisk helt essentielt i diskussionen om maskinernes rolle i kamp. For hvis man tillod Heron at ændre taktik, så fjernede man også den menneskelige indflydelse i beslutningsprocessen, og det er en farlig glidebane.

I Lockheed Martin har udviklerne trukket en grænse. Ifølge Lee Ritzholt, der er chef for AI-udvikling, så er deres foreløbige udgangspunkt, at de træner algoritmerne, sender dem i luften, »kommer hjem med data, lærer fra det, træner igen og bliver sendt afsted igen,« siger han.

Lockheed Martin vil ikke begrænse AI med piloternes vidom

Ifølge Lee Ritzholt har der også hersket en helt anden intern debat i udviklermiljøet hos Lockheed Martin i arbejdet med deres algoritme til luftduel: “Skriver du software med regler baseret på piloternes erfaring, eller lader du AI lære ved trial-and-error?”, siger Lee Ritzholt til Defense One.

I sidste ende valgte Lockheed Martin at bruge en trial-and-error tilgang, fordi man ville undgå at begrænse algoritmen på forhånd. Den skulle så og sige finde sin egen stil. Det indebar, at algoritmen skulle trænes helt fra bunden, eller som en nyfødt, der for eksempel til at begynde med ikke havde nogen ide om betydningen af at flyve direkte ned i jorden.

I arbejdet med at træne den betød det blandt andet, at udviklerne skulle lære algoritmen, at nogle “fejl” er væsentligere end andre.