Stephen Hawking: Kunstig intelligens er en trussel mod menneskeheden

"Den måde en robot ville anvende sin intelligens", afhænger af sit ophav, et ophav hvis intelligens (eller mangel på samme) jeg frygter mere end robotsønniken (der ikke ved noget om intelligens). "En intelligent maskine er et magtsøgende apparat", afhænger af sit ophav, et ophav hvis magtsøgen jeg frygter mere end robotsønniken (der ikke ved noget om magt).

• Derfor optræder kunstig intelligens ikke i mine mareridt.

Man bør da ikke sætte lighed mellem den måde mennesket anvender sin intelligens til at tilrane sig fordele og den måde en robot ville anvende sin intelligens. Man går åbenbart ud fra, at en intelligent maskine er et magtsøgende apparat.

Jeg er ikke så bange for kunstig intelligens, men snarere bange for den ægte intelligens - eller rettere en bangebuks for forvaltningen af denne.

Når vi sender information ud i verdensrummet er effekten ikke afgørende - men derimod præcision. Kan vi ramme planeter, hvor muligheden for at detektere signalerne er stor, så bruges meget lav effekt, til at sende information. Måske, kan vi endda sende synligt lys mod planeten.

Bedste bud er måske et kæmpe lasersystem, hvor vi sender kraftige pulser af sted mod fjerne planeter - direkte rettet mod planeten, hvor der er håb om liv.

Vi skal ikke frygte noget. Vi skal forstå. Problemet er, at vi nægter at forstå - vi ønsker, at lade tilfældigheder og kaos styre.

Det medfører, at der stort set ikke er nogen, der forstår den software som udvikles i dag - ikke engang udviklerne. Det er ikke kunstig intelligens. Det er et resultat af, at man har vendt datalogien ryggen. Programmørerne valgte, at skrotte datalogien, fordi de ikke kunne se, hvad datalogi kunne bruges til. Og så valgte de sprog som C og C++. Og senere Java. Stadigt, mangler de forståelsen. Og man får det indtryk, at fidusen nu er, at de ikke behøver at ryde op. Hvorfor, ja, det kan de egentligt ikke forklare. Jo, det er en som gør det for dem. Alt imens, der er mere og mere på harddisken. Som ingen ved, hvorfra stammer. Der mangler forståelse. Der mangler kendskab til struktur og logik. Der mangler viden om, hvad logik er. Det mangler alt. Der bruges programmeringssprog, hvor sprogets logik er, at resultatet er uforudsigelig. Det er konstrueret til at gå galt - og såvel programmører som såkaldte eksperter vælger, at nægte at kunne se det. Og dem, der i sin tid kunne datalogi, de er pensioneret. De kan kun erkende, at deres forsøg på at forklare om, hvad der skal til, for at lave et programmeringssprog der er forudsigelig, er gået tabt. Og, at deres forsøg på, at forklare at computernes underliggende hardware og sprog, ikke skal afspejle sig i et højniveau programmeringssprog, også er slået fejl.

Frygt en stor forbryderbasse, og frygt den udspekulerede rad der spidder dig på ordet. Hvis bassen laver en tro robot kopi, skal vi så også frygte denne. Hvid den udspekulerede rad laver en tro robot kopi, skal vi så også frygte denne. Den ene er muskuløs den anden er ond.

Jeg sidder lidt og tænker om det kan blive værre end det er nu?

Den måde, at computerprogrammer bliver til i dag, er stort set uden sikkerhed. En dygtig programmør, kan ofte lægge bagdøre ind, eller programmere computeren til ting, uden det er overskueligt, og uden det er nemt at opdage. Kommer vi dertil, at computerne betragtes som intelligente - så er det alene et spørgsmål om, at programmørerne har taget beslutninger, de ikke vil være ved. Så det nemmeste er, at sige det er computerens valg.

Ser vi på forskning i kunstig intelligens - og ikke på anvendelsen af kunstig intelligens i praksis - så er der næppe risiko. På det tidspunkt, at udviklerne (eller rettere virksomhederne), søger at undgå at tage ansvar, så er der risiko.

Også i dag, er problemer med, at virksomheder der udvikler computere og software tager ansvar.

Kunstig intelligens, er ikke en stor risiko. Den store risiko er software, der udvikles således, at det i praksis er umuligt at tage ansvar. Og vi står med store problemer, med mindre at alle der udvikler såvel operativsystemer, som software, begynder at forstå, at deres software skal udvikles, så at ansvar reelt er håndterbart. Det er ikke muligt i dag, at håndtere ansvar i computersystemer.

Og hvis vi holder det sammen med Hawkins forudsigelse at udviklingen vil accelerere når den kunstige intelligens er "klog" nok til at videreudvikle sig selv - ja så har vi en matrix film :-)

Vort eneste håb er at fjernsyns signaler jo udbreder sig med samme hastighed og måske gør os rimeligt uinteressante

Kan anbefale denne bog som inspiration til debatten. Ikke fordi jeg syntes den er specielt velskrevet men han har tænkte over tingene og det giver et interessant perspektiv.

Kunstig intelligens er en forudsætning for interstellare rejser. Så hvis kunstig intelligens er en fysisk mulighed, så får vi nok besøg en dag - af maskiner - uanset TV programmer eller abomber. Og er det ikke en fysisk mulighed så behøver vi ikke frygte invasion fra rummet - men kun os selv.

Det er vel også rigeligt

• Det er for sent, at holde kæft!

  Vort eneste håb er at fjernsyns signaler jo udbreder sig med samme hastighed og måske gør os rimeligt uinteressante

Jeg har enorm respekt for Hawkins intelligens men, da han ytrede, at vi nok ikke burde gøre opmærksom på os selv i rummet, mistede jeg en anelse for ham. Ikke mindst kva de 2000+ atomvåben vi har bragt til sprængning, og som har sendt deres elektromagnetiske pulser langt ud i verdensrummet.

• Det er for sent, at holde kæft!

Har det ret meget med kunstig intelligens at gøre det som Stephen Hawkins har fået installeret? For mig at se er det ikke ret meget andet end et godt programmeret system. Ligesom ordbogen i min telefon som bruger nogle algoritmer til at foreslå de rigtige ord.

Er det kunstig intelligens som Google bruger i deres selvkørende bil? Eller er det bare en pokkers masse software.

For at vi kan tale om kunstig intelligens så skal der være tale om en indlæring i maskinen ud over hvad programmøren har forudsat. Så for mit at se er vi slet ikke kommet ud af starthullerne med kunstig intelligens, vi har bare fået mere CPU kraft.

Når det så er sagt, så kan vi ikke undgå udviklingen af kunstig intelligens. Hvis jeg kunne udvikle et kunstig intelligens system som et stykke software, så kunne jeg sætte det til at lave opgaver for mig. Dette ville give mig en komparativ fordel i forhold til andre mennesker. Hvorfor skulle jeg (eller andre) ikke snuppe den uanset hvad en agtet videnskabsmand siger.

Bliver de mere intelligente end mennesket...
..vil vi næppe opdage, at vi bliver manipuleret med

Den kunstige intelligens i Stephen Hawkins talemaskine har allerede manipuleret os til at tro at det er ham der taler og ikke den. Den har således både omgået Turing testen, benægtet sin eksistens og skjult sig et sted oplagt for fortsat manipulation - We are doomed :0)

Jeg sidder lidt og tænker om det kan blive værre end det er nu?

..vil vi næppe opdage, at vi bliver manipuleret med.

kan man vel programmere en til at meddele det og slaa oprøret ned.

Det tager nok lidt tid før de kan udgøre en virkelig trussel, under vejs vil de nok være lidt vrangvillige, men der er tids nok til at vi kan nyde deres samarbejde, som vi gør det nu i mindre skala med støvsugere, industrirobotter siden 80' osv.