Hvordan skal vi teste E.T.'s intelligens?

Intelligenstest er uretfærdige over for dyr og maskiner, fordi de forudsætter menneskelige evner, sprog og viden. Hvordan skal en objektiv IQ-test være, hvis den skal kunne måle intelligensen på alt og alle?

Hvad er en pukkelhvals intelligenskvotient? Hvilken IQ har en slimsvamp? Og hvad med en kaffemaskine eller computerprogrammet Watson, der for nylig vandt i det amerikanske tv-show 'Jeopardy!'?

Problemet med vores definition af intelligens er, at den ikke kan bruges til at sammenligne os med andre end os selv. IQ måler de relative forskelle på menneskers evne til at svare på bestemte spørgsmål, med et gennemsnit sat til 100, og har derfor ikke noget meningsfuldt forhold til andre former for intelligens. IQ er i den forstand et selvforgabt spejl af indbildt klogskab, der glemmer, at elefantens snabel og myrens signalstoffer kan løse mange komplekse opgaver, som vores hjerne ikke kan klare.

For at justere en testpersons IQ ud fra vedkommendes kognitive forudsætninger har intelligensforskere i nyere tid videreudviklet de klassiske psykometriske metoder og brugt den såkaldte 'Item Response Theory', bl.a. udviklet af danskeren Georg Rasch. Men problemet er stadig, at man forudsætter en bestemt definition af, hvad intelligens er for en størrelse. Hvis man vil måle intelligens hos andre arter, hos aliens fra det ydre rum, eller på maskiner og robotter, må man være åben over for intelligensformer, som vores menneskeblik har svært ved at se konturerne af.

(Tegning: Lars Refn)

Psykologer og primatologer har for eksempel udviklet en lang række af specielt skræddersyede modeller, alt efter om man tester børn, chimpanser eller delfiner. Men disse er stadig problematiske, fordi de i stedet for at måle dyrets intelligens, måler deres grad af menneskelighed. Det samme gælder for maskinintelligens. Fiffige programmører vil altid kunne udvikle speciel software, der simulerer den menneskelige forståelse, som efterspørges (tænk f.eks. på Turingtesten), uden at man af den grund finder ud af, hvad en maskines intelligens egentlig er, og om den bliver bedre med tiden.

Det mindste program

Nej, en objektiv og universel intelligenstest må kunne måle intelligensen på både en sten, en stenbider og en Einstein. Testen må kunne formaliseres matematisk og give et meningsfuldt resultat, der favner hele bredden af, hvad intelligens kan være, uafhængigt af humane ønsker eller begrænsninger.

Men hvordan skal det kunne gå for sig? José Hernández-Orallo fra det polytekniske universitet i Valencia, Spanien, og David Dowe fra Monash University i Australien foreslår i fagbladet Artificial Intelligence, at de har en løsning. De mener, at det eneste objektive mål for intelligens - kort fortalt - er Kolmogorov-kompleksiteten af den information, som et testsvar indeholder.

Den lidt længere forklaring er, at Andrej Kolmogorov var en russisk matematiker, der indså, at mange øjensynligt komplekse talrækker kan produceres med en enkel lille algoritme. Hvis man derfor skal måle sværhedsgraden af en talrække, eller af et vilkårligt output, skal man ikke fokusere på outputtet, men på kompleksiteten af det program, der er i stand til at producere outputtet.

Intelligens er dermed defineret som længden (målt i binær sekvens) af det mindst mulige program, der kan producere det korrekte svar på et givent testspørgsmål. I praksis er Kolmogorov-kompleksiteten dog svær at måle, fordi der eksisterer et irriterende teorem, som siger, at den er uberegnelig. Men man kan lave gode approksimationer, der måler dens øvre grænse, og det er som regel godt nok.

Næste skridt er at designe de rette test. Da man jo dårligt kan kræve, at en ikke-menneskelig intelligens kan tælle, læse engelsk, eller række ud efter en kagedåse uden arme, må testen basere sig på behavioristiske teknikker, kaldet 'operant conditioning', altså belønning og straf. Man bruger dem f.eks. til at træne duer med. Det var oprindelig den amerikanske psykolog Edward Lee Thorndike, der formulerede teknikken efter at have lavet forsøg med katte, der forsøger at slippe ud af hjemmelavede labyrinter.

Den testede agent starter altså med meget simple opgaver, hvor den forsøger at finde ud af, hvad der foregår. Efter gentagne forsøg med fejl og succeser (hvor succes belønnes med penge, en banan, et riskorn eller lidt ekstra cpu-tid), vil intelligensen eventuelt lære sig spillets regler og begynde at løse opgaverne meget hurtigere.

Man vil så langsomt kunne gøre tingene mere komplicerede, f.eks. ved at spille en slags kryds og bolle. En agent, der aldrig har set spillet før, vil først skulle prøve sig frem, indtil den forstår, at belønninger kun kommer, når man sætter et kryds, og en ekstra stor belønning når man har tre krydser i en række. Mestres dette spil, kan man gå videre til spil med en endnu højere Kolmogorov-kompleksitet, måske til noget, der ligner skak. Man skal i den sammenhæng huske, at et menneske, der aldrig har set et skakspil før, og ikke kender reglerne, ikke altid vil være bedre til at lære det end en chimpanse.

Hernández-Orallo og Dowe forestiller sig, at man bruger helt nye, ukendte spil, som bliver genereret fra en computer, og som er i stand til at emulere læringsprocessen fra lav til høj kompleksitet. På den måde fjernes det menneskelige bias. Disse Herman Hesse-agtige 'glasperlespil' vil selvfølgelig skulle tilpasses forskellige agenter og miljøer, alt efter om det er pukkelhvalen eller myretuen, der undersøges.

Universel AI

Hernández-Orallos og Dowes artikel giver ingen konkrete anvisninger på, hvordan man bygger test i praksis via denne procedure, men hovedpointen er også bare at give de nødvendige rammer for en generel intelligenstest. Deres idé vil sandsynligvis have den største effekt inden for maskinlæring og den kunstige intelligensforskning AI.

Et fundamentalt problem inden for AI-forskningen har nemlig altid været, at ingen sådan rigtig vidste, hvad intelligens var for en størrelse. Det er ekstra problematisk, når man f.eks. forsøger at forstå intelligenser, som er væsensforskellige fra menneskers intelligens, som f.eks. en computer eller en E.T. fra Alfa Centauri.

I 2005 skete der dog noget. Her formulerede den tyske datalogiprofessor Marcus Hutters fra Australian National University en 'universel kunstig intelligens' som en agent, der maksimerer sine fremtidige forventede belønninger i et ukendt og dynamisk miljø i forhold til en fast fremtidshorisont. Denne definition af en universel kunstig intelligens, kaldt AIXI, har haft stor fremdrift, da den udtrykker en generel læringsteori for maskiner via belønning ('reinforcement learning'). Den eneste antagelse er, at spillets (dvs. miljøets) reaktion på agentens handling følger en ukendt men beregnelig sandsynlighedsfordeling.

Et andet vigtigt element i Hutters arbejde er, at han gør brug af Ray Solomonoffs teori fra 1960'erne om universelle induktive følgeslutninger. Ved hjælp af Bayes teorem giver dette en matematisk definition af enhver forudsigelse, baseret på en observation, f.eks. i en sådan situation, hvor man forsøger at forudsige det næste symbol i en række af symboler. Centralt i den idé er så, at en agents intelligens kan evalueres som en vægtet sum over alle testspil. Og resultatet er et enkelt tal.

Transhumanister og andre fremskridtsoptimister ser et stort potentiale i alle disse teoretiske fremskridt, fordi de åbner op for muligheden af en 'superintelligens' eller 'hyperintelligens', der overgår alt, hvad et menneske kan forestille sig. Mange transhumanister taler for eksempel for tiden om 'singulariteten', der er det punkt i evolutionen, hvor en art er i stand til at bygge et system, der er lige så intelligent som arten selv. Dette punkt placeres af visse transhumanister som Vernor Vinge og Ray Kurzweil til at indtræffe allerede om 20 år.

Og når vi først lever i en verden med masser af maskiner mere kloge end os, kan vi jo ikke bruge turingstesten eller almindelige IQ-test til noget. Så har vi netop brug for en universel intelligenstest for at kunne holde hånd i hanke med de eskalerende superintelligenser omkring os. Og hvem ved, måske finder vi også ud af, at der allerede eksisterer en art her på kloden, som er mere intelligent end os, uden at vi har bemærket det før.

Kommentarer (11)

I mine øjne giver en standardtest ikke mening, eftersom intelligens afhænger af det behov man har. Vi udvikler kognitive evner alt efter hvilken udfordring og behov vi har, og vi kan ikke forvente at intelligens er en målbar størrelse der ikke forandre sig efter tid, miljø og biologiske faktorer.

Intelligens må derfor være noget der altid bliver målt ud fra de kriterier der er til stede.

Det undre mig i øvrigt, at der tales rigtig meget om hvordan vi skal måle intelligensen, men ikke hvorfor?!? Hvad er så vigtig ved at måle den? Det er meget lettere at måle evner og deres anvendelighed, og meget mere nyttig. Det hjælper ikke at have en superintelligent medarbejder, hvis personen stadig ikke kan arbejde sammen med andre, eller skal trænes i månedsvis for at bestride en post, du allerede har en der mestre - uden at have samme enorme intelligens.

Desuden er der jo mere end logisk intelligens, og meget få forskere vægter den logiske intelligens højest længere.

  • 0
  • 0

Når samfundet en dag ikke blot består af mennesker men også af intelligente maskiner, er der behov for en måde at identificere hvilke entiteter, der af rent etiske hensyn bør behandles på lige fod med mennesker. Her kunne en intelligenstest være et væsentligt værktøj. Det vil sikkert også inkludere andre aspekter så som bevidsthed og humanitet.

Hvis vi en dag står over for udenjordiske væsner, vil det også være væsentligt at kunne bestemme, om de er at betragte som virus, ukrudt, bakterier eller som højerestående bevidste og intelligente enheder, som vi kan og bør kommunikere og forhandle med. Det kan jo ikke bestemmes alene ud fra topologien eller funktionaliteten af deres kroppe.

Levende væsner behandler vi jo forskelligt alt efter deres formodede bevidsthed: Mennesker humant, kæledyr med omsorg, opdræt sundhedsmæssigt, fisk som føde, rotter og insekter som skadedyr, planter som råstof og føde. En dag vil mennesket måske ikke længere indtage den øverste plads i dette hierarki. Der bliver det væsentligt at kunne bestemme en given organismes plads i hierarkiet objektivt. Hvornår er det ikke længere menneskets ret at bestemme om, man kan slukke for en intelligent og til dels bevidst maskine? Den tid vil snart komme, og så skulle vi gerne kunne håndtere det ud fra objektive etiske kriterier.

  • 0
  • 0

Jeg mener, at grunden til vi mennesker ved så meget, fx omkring teknik og naturvidenskab, er fordi vi er nysgerrige. Hvis andre væsner, med forset, kommer til Jorden, er det fordi De, lige som vi, ønsker at studere en anden livsform og lære mere. Dette vil højst sandsynligvis ikke være tilfældet, men hvis det en dag skulle ske at Rumvæsner besøger Jorden, må man glemme filmene fra TV og tænke: Hvad ville mennesker fra Jorden, som besøger en beboet planet, gøre?

  • 0
  • 0

Maskiners intelligens bliver først relevant på det tidspunkt hvor de selv kan danne nye kognitive funktioner eller strukturer, indtil da, er de bare smart programmeret (som Holger er inde på).

Det er direkte dumt at sammenligne med dyrene her på jorden, eftersom det f.eks. først for nyligt er blevet anerkendt at fisk har en hvis intelligens og f.eks. også kan føle smerte. Der er altså mange fordomme ved dyr som gør at vi behandler dem uværdigt.

Og her kommer et andet spørgsmål, for skal vi behandle levende væsner ud fra deres nuværende udviklingsstadie eller deres potentiale? Chimpanser er tætte på mennesker og vi ved reelt ikke hvor lang tid de skal bruge, for at udvikle en kognitiv hjerne der har samme muligheder som vores. Der er givetvis et stykke vej, men forskningen ved ikke meget her, mens f.eks. den russiske kulturskole viser noget om at hjernen (som før nævnt) først udvikler forskellige strukturer når de er nødvendige (neuroplasticitet).

Hvis der kommer liv hertil fra en anden planet, så kan vi vist roligt gå ud fra at de er intelligente, da det kræver en indsats (ellers skulle vi jo med vores intelligens være kommet til deres verden først).

Og så vil jeg lige påpege, at der er mange mennesker der behandler andre/andet end mennesker humant. En vestlig tanke (og kapitalistisk tanke) er at dyr og planter er varer der handles med, men mange steder i verden sker dette med en humanisme, omsorg, respekt, som vi ikke bruger, eller det sker slet ikke. Heldigvis er vores måde at behandle (skal vi kalde det naturen på) ikke den måde alle i verden gør det på. Vi ødelægger, mens andre prøver at bevarer. Er det f.eks. intelligent at spise den gren vi selv sidder på?

  • 0
  • 0

Maskiner er hverken intelligente eller bevidste, de er programmerede, og intelligens og klogskab er ikke helt det samme.

Så længe vi alene holder os til deterministiske maskiner, vil det være lidt af en udfordring at gøre dem så komplekse, at deres formåen kan forveksles med et menneskes.

Men det er også muligt at udvikle ikke-deterministiske maskiner, der kan lære af deres erfaringer. Når de bliver tilstrækkeligt kraftige i både hukommelse, strukturel kompleksitet og beregningskraft, at de kan sammenlignes med et menneskes hjerne, da gætter jeg på, at maskinerne bliver i stand til at opnå bevidsthed og selvbevidsthed på niveau med mennesker.

  • 0
  • 0

Det er direkte dumt at sammenligne med dyrene her på jorden, eftersom det f.eks. først for nyligt er blevet anerkendt at fisk har en hvis intelligens og f.eks. også kan føle smerte. Der er altså mange fordomme ved dyr som gør at vi behandler dem uværdigt.

Mennesker er også dyr, bare højerestående med hensyn til intelligens og sprog. Hvis ikke alle dyr skal behandles efter samme etik, som mennesker bliver behandlet, må vi have en form for målestok, der objektivt kan angive, hvornår det etisk bliver påkrævet, at behandle et givent dyr efter samme etiske normer. Som du selv påpeger, at det for nyligt anerkendt, at også fisk kan have intelligens og følelser. En myre virker ikke specielt intelligent, men en hel myretue kunne potentielt udgøre en væsentlig intelligens. Vi ved det ikke, for vi har endnu ikke værktøjet til at måle dette objektivt.

Det er så stadig et åbent spørgsmål om intelligens er den målestok vi skal bruge til at bestemme med hvilken etik vi skal behandle et væsen. Det kunne lige så godt være hvor store øjne det har, hvor blød dens pels er, eller hvor udrydningstruet det er her på planeten. Men det er en helt anden diskussion. Min pointe her er blot, at det vil være rart med et objektivt værktøj til at fastslå væsners intelligens med, ikke bare ET men også dem, vi allerede kan finde her på planeten.

  • 0
  • 0

Og her kommer et andet spørgsmål, for skal vi behandle levende væsner ud fra deres nuværende udviklingsstadie eller deres potentiale? Chimpanser er tætte på mennesker og vi ved reelt ikke hvor lang tid de skal bruge, for at udvikle en kognitiv hjerne der har samme muligheder som vores. Der er givetvis et stykke vej, men forskningen ved ikke meget her, mens f.eks. den russiske kulturskole viser noget om at hjernen (som før nævnt) først udvikler forskellige strukturer når de er nødvendige (neuroplasticitet).

Da rummet mellem planeter med liv er tomt, stort, koldt og ugæstfrit, vil en effektiv metode til kolonisering af andre planeter være at sende små lette frø ud, frem for store resursekrævende organismer. Hvis vi møder den slags en dag, vil det afgjort være væsentligt at kunne bestemme den potentielle intelligens. Omvendt kunne det være, at eventuelt besøgende ET på jorden på samme vis får brug for at bestemme menneskers potentielle intelligens.

  • 0
  • 0

Og så vil jeg lige påpege, at der er mange mennesker der behandler andre/andet end mennesker humant. En vestlig tanke (og kapitalistisk tanke) er at dyr og planter er varer der handles med

For ikke så lang tid siden var det udbredt at behandle mennesker som en handelsvare. Således rykker normerne sig hele tiden, oftest som følge af ny viden og oplysning. Blot fordi vi er kommet et skridt videre siden slavehandlen florerede, er det ikke utænkeligt, at vi stadig begår grove overtrædelser af vores egen etik som følge af uvidenhed. Vi lærer hele tiden nyt, og her kunne en objektiv intelligenstest være et udemærket værktøj.

men mange steder i verden sker dette med en humanisme, omsorg, respekt, som vi ikke bruger, eller det sker slet ikke. Heldigvis er vores måde at behandle (skal vi kalde det naturen på) ikke den måde alle i verden gør det på. Vi ødelægger, mens andre prøver at bevarer. Er det f.eks. intelligent at spise den gren vi selv sidder på?

Så set som en samlet enhed, så virker den vestlige verden ikke specielt intelligent. En myretue kunne måske vise sig at være mere intelligent. Eller måske blot ikke intelligent nok til at begå lige så katastrofale dumheder. Derfor er det væsentligt at kunne måle intelligens objektivt.

  • 0
  • 0

@Jens - Det er forhåbentligt ikke sådan, at du mener at vi behøver at kunne måle intelligens for at opfører os anstændigt overfor andet liv? Alt liv har krav på respekt og en fair behandling, og det er uanset intelligens.

Jeg kan sagtens se dine pointer, jeg har bare svært ved at se deres relevans, eftersom der er så mange andre parametre vi kan sanse og observere.

Intelligens sikre bestemt ikke mod at gøre dumme ting, så jeg ser ikke sammenkædningen. Etik og følelsesmæssig intelligens har meget mere at sige på det område, men selv disse ting kommer til kort i en kapitalistisk verden, hvor ALT kan retfærdiggøres for indtjening. Det være krige, atombomber, giftige stoffer i forbrugsvarer, skadelig stråling, mishandling at dyr og mennesker, slaveri, osv. osv. At være intelligent hænger ikke sammen med at opfører sig anstændigt og behandle andre med respekt.

  • 0
  • 0

@Jens - Det er forhåbentligt ikke sådan, at du mener at vi behøver at kunne måle intelligens for at opfører os anstændigt overfor andet liv? Alt liv har krav på respekt og en fair behandling, og det er uanset intelligens.

Du mener at det er en fair behandling at blive spist? eller spiser du ikke levende ting?

Den form for etik er decideret vrøvl.

Hvis du vil snakke om etik set ud fra naturen, skulle vi stoppe hele sygehusvæsenet. Men det kan din "etik" nok ikke give din intelligent lov til.

  • 0
  • 0