Kamprobotternes akilleshæl er uforudsigelighed

Skal våben have lov at skyde selv? Spørges der. Det er vel meget enkelt, hvis vi kan leve med at være second in command på denne planet, altså ikke længere at være toprovdyret, så er det vel bare at give den gas. Hvis vi gerne vil fortsætte med at være den forreste art i Darwins kapløb skal vi nok ikke give robotter våben og license to kill.

Operativsystemet har mulighed for at sikre, at vigtige drivere ikke kan ændres eller opdateres. Det umuliggør, at drivere kan angribes. Den eneste mulighed du har for at ændre en beskyttet driver, er at boote i et andet operativsystem, der giver direkte adgang til hardwaren, eller at fysisk placere harddisken i et system, der giver raw access til harddiskens data.

Det er ellers lige præcis hvad et root kit gør, det modificerer drivere.

Læg dertil at en sektor-editor giver adgang til at læse og skrive enkelte sektorer på harddisken, uden at operativsystemet reagerer på det.

At lave et 100% sikkert operativsystem er ganske enkelt ikke muligt, ethvert program med en kompleksitet ud over "Hello World" rummer både kendte og ukendte fejl.

Jens, det du skriver er meget fantasifuldt, men det har intet med eksisterende computere og operativsystemer at gøre.</p>
<p>Læsning og skrivning af harddisk sker ved at operativsystemet og/eller programmer anvender en driver, dvs. et program som oversætter mellem harddiskens fysiske niveau og systemets logiske niveau.</p>
<p>Sådan en driver kan være indeholdt i et ondsindet program eller virus, og når først systemet er inficeret kan intet operativsystem beskytte harddisken. Alternativt kan selve driveren være inficeret. I begge tilfælde kan operativsystemet snydes til ikke at registrere unormal aktivitet. Derfor er der behov for antivirus programmer.

Det er korrekt, at hverken Windows eller Linux er sikre operativsystemer. Forskellen mellem dem er minimal, og mange af fejlene i Windows, er stjålden fra Unix eller Linux. Men hardwaren er oprindeligt designet til, at sikre mod utilsigtet adgang til harddiskens sektorer, og designet til, at umuliggøre raw access til harddisken. Problemet med Unix og Linux er primært, at sikkerhedsniveauet sættes af mennesker. Det er operativsystemer, der ikke er designet til at være sikre, men designet til, at kunne opsættes til stor sikkerhed. Det kan også forklares omvendt - at de er konstrueret til, at man konfigurerer, hvem der kan lave lovlige indbrud i systemet, og fundamentalt fungerer det ved indbrud. Derfor er svært at komme hacking og virus'er til livs.

Jens, det du skriver er meget fantasifuldt, men det har intet med eksisterende computere og operativsystemer at gøre.

Læsning og skrivning af harddisk sker ved at operativsystemet og/eller programmer anvender en driver, dvs. et program som oversætter mellem harddiskens fysiske niveau og systemets logiske niveau.

Sådan en driver kan være indeholdt i et ondsindet program eller virus, og når først systemet er inficeret kan intet operativsystem beskytte harddisken. Alternativt kan selve driveren være inficeret. I begge tilfælde kan operativsystemet snydes til ikke at registrere unormal aktivitet. Derfor er der behov for antivirus programmer.

Det giver ikke nogen sikkerhed overhovedet. Et ondsindet program kan helt enkelt læse harddisken på blok eller sektor niveau, og dermed gå uden om alle indbyggede adgangskontroller.

Branchen med militære robotter er i sig selv undergravet af præstationsangst. Det gælder hele tiden om at have et system der er bedre end de opgaver som dén type robotter løser og som konkurrenterne også laver robotter til. Ergo gælder det om at lave robotter der er bedre end konkurrentens. Ikke ukendt i den kommercielle verden, hvilke der leverer produktionserfaringer.

Sætter man et program til at danne kode der reagerer på input og som søger det bedste resultat ud af forsøgene, vil man uværgerligt komme til at danne noget kode der ikke er beskrevet før. Der skal så noget kontrol-kode til at tjekke om resultatet ligger inden for grænserne. Vil man have en robot der er bedre end andre, vil kapløbet kommet til at gå over stregen i sidste ende. Er det ikke det Terminator filmene handler om?

Et operativsystem skal designes ligesom OOP. Alt er privat - og der er kun tilgang gennem funktioner. Ingen, har direkte adgang til data i et program.

Et program kan ikke gemme på harddisken - eller andre steder - andet i områder, der er forbeholdt programmet. Og så kan kun programmet bruge og læse områderne, og se hvad de gemmer.

Det giver ikke nogen sikkerhed overhovedet. Et ondsindet program kan helt enkelt læse harddisken på blok eller sektor niveau, og dermed gå uden om alle indbyggede adgangskontroller.

Vi skal som minimum, kunne bevise at resultatet er i orden.

Re: Hacking</p>
<pre><code>Med andre ord mener du at Microsoft, Google, Adobe, Apple, SUN, IBM og mange flere har overladt al kodning af deres software til hackere? Seriøst???

Ja, det er ganske tydeligt.
</code></pre>
<p>Har du et bud på hvorfor de nævnte firmaer har valgt at ansætte hackere i stedet for programmører?

Et operativsystem skal designes ligesom OOP. Alt er privat - og der er kun tilgang gennem funktioner. Ingen, har direkte adgang til data i et program. Det giver ingen mening, at kunne opsætte rettigheder til indbrud, ligesom man gør i Linux. Den eneste, der må og har adgang til et programs data, er programmet selv. For alle andre er de ikke eksisterende - de er private. Ønsker man, at gøre noget ved dem, så kontakter man programmet, og lader dennes funktioner ændre i programmets data. Kun på den måde, sikrer man sig imod virusser. Ingen kan ændre programmet. Og ingen kan ændre programmets data, andet end programmet selv.

Windows er ekstra slem - hele systemet er designet til indbrud, og intet er ordentligt beskyttet. Mange af metoderne, er lavet så det er gjort totalt umuligt, at rette fejlene. Det er en dygtig hacker, der ligger bag designet. Systemet er ikke kun designet til indbrud - det er sikret imod, at det kan sikres mod indbrud og identitetstyveri.

Ved et ordentligt operativsystem, er det ikke muligt at sætte rettigheder til indbrud. Det er ikke muligt, at gøre noget forkert, der tillader virus. Et program kan ikke gemme på harddisken - eller andre steder - andet i områder, der er forbeholdt programmet. Og så kan kun programmet bruge og læse områderne, og se hvad de gemmer. Du kan derfor f.eks. i et tekstbehandlingsprogram gemme en filnavn, kaldet dit CPR nummer, uden at tekstbehandlingsprogrammet på nogen måder kender det navn du har givet dataene. For det kan og skal ikke indtastes i tekst behandlingsprogrammet. Den har ikke adgang til brugerens harddisk. I stedet kontaktes brugerens "fil-browser", der spørger om navnet, og sørger for, at gemme dataene - helt uden, at programmet der beder om, at få dataene gemt, har nogen mulighed for adgang til filnavnene.

Et antivirus program må ikke være muligt at lave. Et sådan program, kræver brud med alle sikkerhedsprincipper - dvs. at for at lave et antivirus program, så kræves at systemet er designet for virus og spyware. Ellers, vil programmet ikke have adgang til at undersøge og scanne noget. Et antivirus program, kræver adgang til sikre data, som det aldrig må være muligt at give programmet nogen rettigheder til, i et sikkert system. Kan et antivirus program køre, så er det garanti for, at det er muligt med virus og spyware i systemet. Hele forretningsområdet er baseret på kriminelle principper.

Med andre ord mener du at Microsoft, Google, Adobe, Apple, SUN, IBM og mange flere har overladt al kodning af deres software til hackere? Seriøst???</p>
<pre><code> Ja, det er ganske tydeligt.
</code></pre>
<p>

Har du et bud på hvorfor de nævnte firmaer har valgt at ansætte hackere i stedet for programmører?

Med andre ord mener du at Microsoft, Google, Adobe, Apple, SUN, IBM og mange flere har overladt al kodning af deres software til hackere? Seriøst???

Mønstergenkendelse er faktisk en vigtig del af det vi kalder "intelligens" - hvis du nogensinde har set en IQ-test, vil du vide at der som regel indgår identifikation af en form for møster, samt en anvendelse af dette mønster til at besvare et sprørgsmål eller løse en udfordring.

Har du ikke en kvantecomputer, og skal finde løsningen på et problem, så er det kompliceret og besværligt, at gennemløbe alle muligheder. Derfor, skal mange triks i brug - problemet med at gennemgå alle muligheder, løses ved hjælp af analyse, og ikke ved at reelt gennemgå dem. I forbindelse med analysen, vil der f.eks. være problemstillinger, som man har fundet løsningen på før, og i sådanne tilfælde, kan mønstergenkendelse bruges, for at finde ud af, at det er et velkendt problem.

Mønstergenkendelse, er efter min mening ikke intelligens. Det er et redskab for intelligens. Præcist på samme måde som f.eks. hukommelse og store regnemaskiner. Du bliver ikke mere intelligent af, at du får en blok papir og blyant, en stor regnemaskine, eller en bog hvor svarene står. Mønstergenkendelse er på samme måde kun et redskab for intelligens. Det er noget, som intelligens kan bruge, på samme måde som regnemaskiner og blyanter.

Mange typer intelligenstest måler ikke intelligens. Og du vil se, at de ofte kan påvirkes ved, at personen der udfører intelligenstesten, f.eks. får en tavle, blyant/papir, regnemaskine, regnestok, bøger, eller andre redskaber. Det siger sig selv, at man ikke bliver mere intelligent af det - men hvis hjælpemidlerne er tilladte, så viser det alligevel noget om ens evne til at anvende hjælpemidler, og det er intelligens.

Nogle mennesker, har en lav IQ uden hjælpemidler. Men med hjælpemidler, kan de måske løse opgaver, som mange med større intelligens uden, ikke kunne håndtere. I nogle tilfælde kan andre mennesker, også være en form for hjælpemiddel. Og man ser, at mennesker øger deres intelligens i fællesskab, fordi de kan bruge hinanden. Nogle former for intelligens, er ikke særligt intelligente som enkelt individ - intelligensen opstår, som del af et kollektivt system. Du kan meget nemt risikere, at hvis du tager et intelligent system, så vil de enkeltdele systemet består af, have meget lav - eller ingen intelligens. Intelligensen opstår, som et resultat af sammenkoblingen, og den intelligens, der opstår ved at fungere fælles. En meget vigtig egenskab ved intelligens, er evnen til at opnå en større intelligens i fællesskab, end summen af de enkelte intelligenser.

Jeg mener, at intelligens ikke er redskaberne. Men evnen til at få intelligens til at opstå, ved redskabers hjælp.

Nej, der er intet kode, der er sårbar overfor hackere, med mindre programmøren er hacker. Har du et operativsystem, der er skrevet af en hacker, så er operativsystemet sårbart, og så er det en brist.

Med andre ord mener du at Microsoft, Google, Adobe, Apple, SUN, IBM og mange flere har overladt al kodning af deres software til hackere?

Seriøst???

Al programmering er sårbar overfor hackere, man kan indlæse latent virus, der først vil aktiveres efter et stykke tid, så man ikke kan scanne imod det.

@ Ole Laursen Utroligt spændende område som også Martin Bøgelund er inde over i hans kommentar, Bevisthed, intelligens og hvor selvstændigt tænkende væsner er vi egentligt når at det kommer til stykket. Ikke så meget som man umiddelbart skulle tro åbenbart, som det ser ud. Meget fascinerende, men også meget meget mærkeligt og på en måde lidt naturstridigt i forhold til hvad vi gerne vil tro. Hvilket også bare gør AI teknologien med maskinlæring endnu spændende, men på en måde også mere skræmmende.

I nogle tilfælde, kan kunstig intelligens måske godt bruges, hvis den er bevis baseret og ikke giver tilfældige resultater. Vi skal som minimum, kunne bevise at resultatet er i orden.

Hvis jeg må anbefale en bog, så prøv at læse "You are not so smart":

https://www.amazon.com/You-Are-Not-So-Smart/dp/1592407366

Næsten alle menneskelige beslutninger sker intuitivt, dvs. uden nogen som helst anden forklaring end at vores hjerne når frem til at det er den beslutning som er bedst ud fra hvad vi tidligere har lært. Vi opdager det bare ikke fordi vi efterrationaliserer, eller med andre ord opdigter en forklaring.

Det er et kunstigt, og urealistisk, krav at stille op at man skulle kunne bevise noget - især set i lyset af at ens bevismuligheder hvad angår den virkelige verden er begrænsede, jvf. sorte svaner. Beviser i algoritmesammenhæng har næsten altid et særdeles begrænset virkefelt, der kun i ringe omfang udtaler sig om den praktiske anvendelighed af det program som algoritmen indgår i.

Vi kan ikke acceptere, at "tilfældige" algoritmer får magt.

Uha, så er vi på den. Mennesker bestemmer allerede stort set alt.

Fordelene ved forudsigelighed skal måske afvejes når det gælder de fleste former for ikke bare kamp, men "konflikt spil". En opvejning af fordelene ved at ens "eget parti" har oversigt med at modparten har så lidt oversigt som muligt og enten ikke kan forudse hvad der vil ske eller ser fejl.

Neurale netværk kan bruges til mønstergenkendelse, og det er en af de ting, som de er gode til. Men, mønstergenkendelse, har reelt ikke meget med kunstig intelligens at gøre. Det er mønstergenkendelse.

Jens, det er som om du slet ikke rigtigt har fået skovlen under begrebet "kunstig intelligens".

Mønstergenkendelse er faktisk en vigtig del af det vi kalder "intelligens" - hvis du nogensinde har set en IQ-test, vil du vide at der som regel indgår identifikation af en form for møster, samt en anvendelse af dette mønster til at besvare et sprørgsmål eller løse en udfordring.

Begrebet "intelligens" bruges typisk om måden vi løser opgaver og udfordringer på - fremfor at følge et instinkt, eller lade os styre af følelser, gør vi mennesker noget anderledes (set ift sammenligning med dyr) - vi observerer, opstiller hypoteser, efterprøver hypoteserne, observerer igen, osv.

Hele denne cyklus er drevet af mønstergenkendelse, som bruges til at samle indtryk fra sanserne, for derefter at anvende vores hukommelse til at identificere hvad vi står overfor. Hvis vi ikke har et eksakt eller bare nogenlunde match i hukommelsen, kan vi opstille hypoteser ud fra de delelementer vi så rent faktisk kan genkende, efterprøve dem, og derved lære mere om det vi observerer.

Så nej; mønstergenkendelse og kunstig intelligens er ikke det samme, men en kunstig intelligens uden evnen til at genkende mønstre, kan aldrig få en læringscyklus op at køre - og dermed ikke kunne udvise intelligent adfærd.

Fra: https://ing.dk/sites/ing/files/maars.jpgTil: https://vignette3.wikia.nocookie.net/terminator/images/e/e2/14989_0883_1_lg.jpg/revision/latest?cb=20120627212210

Al programmering er sårbar overfor hackere, man kan indlæse latent virus, der først vil aktiveres efter et stykke tid, så man ikke kan scanne imod det.

Der kan komme data tab ved skade, og derved bliver robottens adfærd uforudsigelig.

I dag er han udskiftet med bio-feedback.

Øhh???

Det troede jeg egentlig at jeg gjorde. Jeg har brugt neurale netværk til mønstergenkendelse. Det fungerede faktisk, så jeg vil hermed påstå at neurale netværk kan bruges i praksis.

Er det science fiction?

Prøv at spørg nogen, der faktisk ved noget om neurale netværk. De kan ikke bruges til noget.

Det troede jeg egentlig at jeg gjorde. Jeg har brugt neurale netværk til mønstergenkendelse. Det fungerede faktisk, så jeg vil hermed påstå at neurale netværk kan bruges i praksis.

Den anden vej, er at lave pålidelige systemer, hvor vi kan garantere at computeren fungerer og gør sit arbejde korrekt. I sådanne systemer findes virus og hacking ikke. Der findes ikke software fejl. Og det er ikke muligt, at lægge noget sådant ind. Hvis nogen forsøger, så er der i systemet bevis systemer, der kan finde den, der har forsøgt at omgå sikkerheden bevist. Og det er ikke muligt, at lægge noget forkert ind, uden det gøres bevidst. Programmørerne kan lave fejl - det sker der intet ved, da de opdages automatisk. Søger de, at omgå sikkerheden, så der reelt opstår fejl, så opdages det også - og det kan ikke ske, uden det er en bevidst handling bag forsøget. Det betyder, at man ved at programmøren bevidst, har forsøgt at gøre noget ulovligt. Fejl er og bliver umulige, i sådanne systemer.

Er det science fiction?

Jeg kan forstå at du ikke har en PC med Windows 10, hvor man ikke har en sk.. at skulle have sagt,

Jeg kan forstå at du ikke har en PC med Windows 10, hvor man ikke har en sk.. at skulle have sagt, når det passer Microsoft, at afbryde mig i et for mig vigtigt øjeblik, som eksempel; Lige før jeg skal checke ind i en lufthavn. Jeg har den opfattelse at min PC er min.....og kun min.....og det er mig der bestemmer om det er tid til opdateringer. Sådan er det bare ikke mere.

@Bjarne. Jeg vil forslå dig at installere Linux mint. Her er du selv i kontrol igen. Windows 10 er ligesom så meget andet en reklamesøjle for ligegyldigheder og kan heldigvis i de fleste tilfælde totalt undgås. Det er er stort set kun drenge der spiller spil og nogle få med særlige programmer, der er fortrækker eller måske ligefrem er tvunget til at bruge windows. Find en gammel solid bærbar med minimum Duo-core og 2 GB ram og SSD, så snurre Mint fint til det meste daglige brug. Grunden til at jeg fortrækker f.eks en brugt Lenovo, er at hængsler til skærm, tastatur og mus osv er i væsentlig bedre kvalitet end meget der kan købes fra nyt, til samme pris - selv det 9cellers batteri på min snart 8 år gamle Lenovo virker stadig upåklageligt i næsten 2,5-3 timer, ved moderat forbrug. Du er for det meste kun kontrolleret, hvis du selv vælger det. Du bestemmer selv fuldstændigt hvornår og hvordan opdateringer skal udføres og systemet bruger ikke udnødvendige ressource på andet end det, som du beder det om. Linux kan til og med afprøves direkte fra en USB-nøgle, uden at "pille" ved det eksisterende styre- eller filsystem.

Stort set alt som kan genkende former, billeder, stemmer mv. indeholder neurale netværk og maskin læring som en væsentlig del af deres kode. Så hvis du har brug for den funktionalitet og assistance det giver, at kunne automatisk klassificere sensor input, for dermed at mindske load på den menneskelige faktor, så slipper du ikke for maskin læring.

FYI, så indgår det i rigtig rigtig mange dimser idag, også brugt i militære sammenhæng.

mvh Kim

Du har intet at frygte.....for det er på vej....og det kommer.

Jeg kan forstå at du ikke har en PC med Windows 10, hvor man ikke har en sk.. at skulle have sagt, når det passer Microsoft, at afbryde mig i et for mig vigtigt øjeblik, som eksempel; Lige før jeg skal checke ind i en lufthavn. Jeg har den opfattelse at min PC er min.....og kun min.....og det er mig der bestemmer om det er tid til opdateringer. Sådan er det bare ikke mere.

Da jeg i tidernes morgen skulle programmere i Algol W foregik det ved at lave huller i en helvedes masse papkort og selv om der var nogle nørder på hullestuen dengang ,der talte om at lave et skakprogram, fortalte vore lærere at det ville være spildt arbejde.

IBMs deep blue mod Kasparov 11, Maj1997. Resultat: Deep Blue–Kasparov (3½–2½).

Der er gået 20 år siden. Jeg er derfor ikke så sikker som du er det, at de ting du frygter, ikke vil ske.

Tænk på hvorledes børsrobotterne, mobilepay, internettet, har påvirket samfundene. Negativt hvis man er telefon, bank og postansat. Det er sikkert rigtigt at jagerfly stadigt et stykke tid endnu vil indeholde en pilot, men......

Jeg er faktisk lidt bange for udviklingen med kunstig intelligens, og mener at man skal være meget påpasselig, men jeg tror ikke at det er en udvikling der kan stoppes. Den kommer, så gælder det bare om at hænge på og være med helt fremme, og måske med lidt held dermed også være med til at styre udviklingen i en fornuftig retning.

Desværre er vi ude på en teknologisk afvej. I stedet for, at udvikle pålidelig teknologi, så vælger vi, at udvikle systemer, der er designet til upålidelighed. De skal være upålidelige, de skal kunne hackes, og det skal være umuligt at placere et ansvar. Den anden vej, er at lave pålidelige systemer, hvor vi kan garantere at computeren fungerer og gør sit arbejde korrekt. I sådanne systemer findes virus og hacking ikke. Der findes ikke software fejl. Og det er ikke muligt, at lægge noget sådant ind. Hvis nogen forsøger, så er der i systemet bevis systemer, der kan finde den, der har forsøgt at omgå sikkerheden bevist. Og det er ikke muligt, at lægge noget forkert ind, uden det gøres bevidst. Programmørerne kan lave fejl - det sker der intet ved, da de opdages automatisk. Søger de, at omgå sikkerheden, så der reelt opstår fejl, så opdages det også - og det kan ikke ske, uden det er en bevidst handling bag forsøget. Det betyder, at man ved at programmøren bevidst, har forsøgt at gøre noget ulovligt. Fejl er og bliver umulige, i sådanne systemer.

Nu, forsøger man så at sælge kommerciel game teknologi til forsvaret. Det er forrykt og forkasteligt.

Vi kan ligeså godt sætte en metalkasse til at være præsident. Det er ganske enkelt ude med folkestyret, da folket ikke vælger dem der bestemmer.

Jeg frygter en fremtid, som i de værste Science Fictions, hvor menneskets fremtid, ligger i hænderne på en "computervirus", der ikke ved hvad den gør. I hvert fald, ved dem der går ud over, ikke hvad de har købt. Måske er vi nået det punkt, hvor vi - og specielt amerikanerne - behøver at blive "frelst" fra hvad vi selv gør.

"Det centrale i intelligens er oftest ikke at kunne udføre, men at forklare handlingen." Det er jeg enig i, men så begynder vi mere at snakke om definitionen på intelligens. Selvfølge bliver noget kunstigt aldrig helt det samme som det det imitere. Jeg er faktisk lidt bange for udviklingen med kunstig intelligens, og mener at man skal være meget påpasselig, men jeg tror ikke at det er en udvikling der kan stoppes. Den kommer, så det gælder bare om at hænge på og være med helt fremme, og måske med lidt held dermed også være med til at styre udviklingen i en fornuftig retning.

Men mulighederne og pengene er enorme inden for det felt, så det kommer vi til at se meget mere til er jeg helt sikker på.

Vi kan ikke acceptere, at "tilfældige" algoritmer får magt.

De systemer vi snakker om her er jo på en måde en blanding. De starter jo ikke på bar bund, men selvfølgeligt med en algoritme og et dataset der udgør dens basisviden inden for det felt den skal fungere. Det Neurale netværk kommer jo så at sige så oven i. Med datasetet har den al relevant viden som er tilgængeligt på området, og så går den jo så først igang med at lære, hvilket den kan gøre meget hurtigere end menesker, men uheldigvis også nogle gange på uforudsette måder. Men mulighederne og pengene er enorme inden for det felt, så det kommer vi til at se meget mere til er jeg helt sikker på.

Jeg tror at størstedelen af IT-branchen og militærindustrien er ret uenig i den betragtning.

Kunstig intelligens, er meget andet end neurale netværk. Neurale netværk, er noget af det "uheldige" indenfor kunstig intelligens. De tilhører det ubrugelige, som ikke kunne bruges. Hvordan vil du sikre korrekthed af neurale netværk, og det de gør? Når mennesker gør noget, så kan vi bevise vores handlinger, og give en fornuftig forklaring, hvor vi forklarer baggrunden for vores handlinger.

"Hvilket også gør dem totalt ubrugelige, til alt andet end lejetøj.

I langt de fleste tilfælde, er bedst at undgå neurale netværk. Og at søge en bedre løsning."

Jeg tror at størstedelen af IT-branchen og militærindustrien er ret uenig i den betragtning.

De taler bla om udfordringer og problemstillinger med maskinlæring.

Prøv at læse lidt op på neurale netværk. Deres reaktioner opnås ved træning hvor man "belønner" og "straffer" netværket for at vælge rigtigt/forkert mod eksempler. Netværkets reaktioner er ikke styret af kode, men af læring. Og du kan aldrig vide med sikkerhed hvordan netværket reagerer når det møder noget som det ikke har prøvet før.

I langt de fleste tilfælde, er bedst at undgå neurale netværk. Og at søge en bedre løsning.

I militære sammenhæng, vil jeg sammenligne maskinlæring med at sætte "Rogue Agents" til at udføre opgaven. Det kan ganske enkelt ikke accepteres, da der ikke er nogen ansvarlige. Neurale netværk, er totalt ubrugelige militært. Ganske enkelt fordi, at ingen kan acceptere ansvarsfralæggelsen der står i produktets disclaimer.

Algoritmerne 100% defineret i dens kode. Robotter gør, som de kodes til.

Der var et meget godt tv program om kunstig intelligens på DR2 for et par dage siden "So ein ding". De taler bla om udfordringer og problemstillinger med maskinlæring.

https://www.dr.dk/tv/se/so-ein-ding/so-ein-ding-kunstig-intelligens#!/

Ikke når der er tale om "maskinlæring"...

Problemet er, hvis man ikke forstår matematikken bag algoritmerne. Måske er de udviklet til, at ikke kunne forstås af dødelige.

Jeg tror problemet netop er, at forskerne udvikler algoritmer med fascination for det uforståelige, og ikke udvikler selvlærings algoritmer med henblik på, at der kan forstås hvordan de fungerer, og resultatet kan overskues. En sådan selvlæring vil ikke virke avanceret men "dum".

Egentligt tror jeg ikke, at selvlæring er godt i militær sammenhæng. Jeg tror mest på udenadslære (programmering), og at computerne skal gøre, eksakt som de får besked på. Ellers, står man med et ansvarsproblem. Der er en som giver ordre, og som har ansvar. Ikke en maskine, der selvlæres, til at tage det ansvar, som ingen vil have.

En robot gør det, som den er programmeret til - så enkelt er det.

En robot gør det, som den er programmeret til - så enkelt er det.

Hvis man ønsker, at den skal være uforudsigelig, så kan man lægge nogle tilfældigheder ind, og kombinere det, med algoritmer som militæret ikke kan forstå. Måske er det fjenden der i virkeligheden har lavet koden. Ofte, sætter de større resurser af og offentliggør forskningen, for at få andre til at bruge den. Den, som vinder, er dem der har ofret mest på forskningen, og fået andre til at bruge deres forskning.

Ønskes en forudsigelig robot - så er det intet problem. Robotter gør eksakt som de programmeres til. Ofte sættes flere helt uafhængige programmører, og med uafhængige biblioteker, til samme opgave, og deres kode virker helt ens. Er der forskelle, så opdages det når koden kører, og der tages efter den hardware, og de programmer, som svarer ens, mens den der svarer forskelligt kobles ud, og fejlene logges, med henblik på at undersøge og rette softwarefejl. Normalt anvendes køer/streams, så små tidsmæssige forskelle ikke betyder noget, eller bruges eksakt-tids kodning, hvor der er tidsinformationer med i dataene, så de svarer præcist ens - på samme cycle, eller nanosekund.