Hvad sker der, når maskinerne bliver klogere end os og kan forbedre sig selv? Vil de tjene os eller bestemme over os, eller vil menneske og maskine smelte sammen? Eksperterne er uenige, men de fleste mener, at fremtiden bliver virkelighed om 10-40 år.

Allerede i 1965 forudså den britiske matematiker Irving J. Good, at den ultraintelligente maskine ville blive den sidste opfindelse, som mennesket behøvede at lave. For hvis maskinen er klog nok, vil den forbedre sig selv, så den hurtigt bliver langt klogere end sin oprindelige skaber.

Eksperter i kunstig intelligens kalder det punkt for "singularitet", og dette begreb var temaet for et møde i San Francisco sidste måned. Her mødtes 800 computerforskere, robotkonstruktører og opfindere - både for at diskutere om maskinerne vil blive klogere end os, og hvad menneskets rolle i samfundet bliver, når det sker.

Al teknologi, som vi kender den, er skabt af mennesker og er udsprunget af vores egne forestillingsevner. Men en kunstig intelligens, der er både hurtigere og smartere end os, vil kunne gå helt nye veje.

I sagens natur er det umuligt at komme med seriøse bud på, hvilke opfindelser sådanne robotter kan udtænke, men et lille regnestykke sætter tingene i perspektiv.

Hjernens neuroner kan højst sende 200 nervesignaler pr. sekund svarende til en clockfrekvens på blot 200 Hz eller ti millioner gange mindre end en almindelig computer. Og hastigheden for nerveimpulsernes udbredelse er allerhøjst 150 m/s, hvilket er to millioner gange langsommere end lysets hastighed, som en computer i teorien kan operere ved.

Selvom hjernen arbejder som en massiv parallelcomputer, er der altså rige muligheder for, at en kunstig intelligens kan komme til at tænke langt hurtigere end mennesket.

Eksperterne regner med, at tanke- og regnekraften vil kunne overgå vores mindst én million gange, og i så fald vil robotten kunne overstå et års menneskelige tanker på 31 sekunder.

Peter Voss fra firmaet Adaptive A.I. udtrykte på konferencen et meget optimistisk fremtidssyn, hvor de kunstige intelligenser med deres enorme tankekraft kunne erstatte hundredetusindvis af forskere og hurtigt løse nogle af menneskehedens største problemer som f.eks. fattigdom.

Set ud fra hans egen snævre verden er der måske heller ikke så meget at frygte, for Adaptive A.I. udvikler nemlig det, man kalder generel kunstig intelligens. Det svarer til et gammeldags ekspertsystem, som godt nok arbejder selvstændigt og selv kan tilegne sig ny viden, men alligevel er målrettet til at løse bestemte opgaver.

Disse kunstige intelligenser kan beskrives som næste generation af skakcomputeren Deep Blue, der allerede i 1997 slog verdensmesteren Garri Kasparov, men som mangler sanser til at interagere med omverdenen samt følelser og behov.

Mere avancerede kunstige intelligenser vil med hjælp fra bl.a. neurale netværk kunne tænke abstrakt og intuitivt, ligesom vi selv gør. Neurale netværk bruges allerede nu i vidt omfang som specialister inden for f.eks. meteorologi, persongenkendelse, kreditvurdering og minesøgning. Men det er ikke for alvor blevet afprøvet, hvad der sker, hvis man kobler mange forskellige netværk sammen. Det vil Marcos Guillen fra Artificial Development nu råde bod på.

Firmaet er ved at opbygge det enorme neurale netværk CCortex, som nærmest bliver en kopi af den menneskelige hjerne med indbyrdes forbundne centre, der løser hver sin lille del af en kompleks opgave. Når CCortex er færdigudviklet vil dens rå regnekraft placere den blandt de 20 hurtigste computere i verden.

Ifølge computerforskeren Stephen Omohundro fra firmaet Self-Aware Systems vil et så komplekst netværk føre til intuitiv og abstrakt tankegang, hvor den kunstige intelligens lærer at forstå og videreudvikle sig selv. Derved får den egne behov og en række drifter, som den helt automatisk vil stræbe imod. Omohundro mener, at fire drifter vil være centrale: effektivitet, kreativitet, sikkerhed og begærlighed. Mens de to første drifter kan være nyttige for os, så kan de to sidste give problemer.

Sikkerhed vil ikke blot betyde, at robotten laver backup og alternative kredsløb, men også at den rent socialt vil søge at beskytte sin egen integritet og derved kan komme i et direkte modsætningsforhold til mennesker. Begærligheden vil komme til udtryk i ønsket om at tilegne sig flest mulige ressourcer i form af f.eks. strøm og materialer, så den kunstige intelligens rent fysisk kan reproducere og forbedre sig selv. Hvis det går sådan, kan situationen hurtigt blive farlig, for det er langt fra sikkert, at intellektuelt overlegne robotter vil tage hensyn til mennesker.

John Storrs Hall fra forskningscentret Institute for Molecular Manufacturing i Californien sammenligner superintelligente robotter med multinationale firmaer eller regeringer. De hæver sig over det enkelte menneske og kan meget nemt komme til at træde over etiske grænser for at tilgodese sine egne behov.

Samfundet har med rimelig god succes løst opgaven ved at lade revisorer og journalister kikke disse "overmennesker" efter i kortene og derved sikre sig, at de spiller efter reglerne. På samme måde mener Hall, at kunstige intelligenser altid bør være open source, så de kan slukkes.

Robotterne må også udstyres med en form for moral, etik og empati, hvis mennesker og superintelligente maskiner skal sameksistere. Det er langtfra nok at indkode nogle grundlæggende regler for god opførsel - for eftersom maskinerne pr. definition kan bygge og omprogrammere sig selv, har de alle muligheder for at tilsidesætte reglerne, hvis de står i vejen for deres egen selvudvikling.

Derfor må menneskelige værdier som kærlighed, medfølelse, lykke og skønhed være dybt forankret i maskinerne, og for at opnå det mener mange forskere, at de intelligente robotter skal opdrages ligesom små børn, så de føler sig som mennesker.

Rodney Brooks fra Massachusetts Institute of Technology (MIT) i Boston mener, at hvis robotter skal lære af mennesker, må de også være gode til at omgås os socialt, og derfor skal de kunne aflæse vores signaler og selv kunne udtrykke egne følelser.

På konferencen fremviste han robotten Cog, der trods sine evner har mere end ti år på bagen. Cog har næsten alle de menneskelige sanser, og de fungerer hver især som input til et neuralt netværk. Robotten er i stand til at følge en forbipasserende genstand med øjnene, at vende blikket i retningen af en høj lyd og at aflæse personers sindsstemning, så den selv kan lægge ansigtet i de rette folder.

Endnu kan Cog og andre sociale robotter ikke løse de helt store opgaver, men deres medmenneskelige egenskaber er vigtige - de skal også indgå i fremtidens kunstige intelligenser så de ikke vender os ryggen.

Den risiko frygter opfinderen Ray Kurzweil imidlertid slet ikke, for han tror, at mennesker og maskiner vil smelte sammen inden for de næste 40 år. I stedet for at konkurrere med de kunstige intelligenser, vil vi samarbejde med dem og bygge deres elektroniske komponenter direkte ind i vores egne hjerner. På den måde bliver det langt lettere at kontrollere konsekvenserne af ekstrem intelligens, fordi hjernen stadigvæk besidder alle de menneskelige følelser.