Tænkende maskiner er stadig for lette at genneskue
more_vert
close

Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og du accepterer, at Teknologiens Mediehus og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, job og tilbud m.m. via telefon og e-mail. I nyhedsbreve, e-mails fra Teknologiens Mediehus kan der forefindes markedsføring fra samarbejdspartnere.

Tænkende maskiner er stadig for lette at genneskue

For præcis 60 år siden udgav matematikeren og computerpioneren Alan Turing en artikel i fagbladet Mind med titlen "Computing Machinery and Intelligence". Heri åbnede han diskussionen om kunstig intelligens med spørgsmålet om maskiner kan tænke.

Intelligent og praktisk som Turing var, forklarede han, at man i stedet for at fortabe sig i uklare definitioner af tænkning som sådan bare burde bruge en praktisk test, der ser på, hvad en computer kan kommunikere, og om resultatet kan adskilles fra, hvad et tænkende individ kunne finde på at sige.

Turing opfandt til det formål en simpel leg, som han kaldte imitationslegen, og som siden er blevet kendt under navnet Turingtesten. Den går ud på at en dommer udspørger en testperson (computere og mennesker) via et elektronisk apparat og et tastatur, således at dommeren ikke har andre informationer end deres skriftlige svar på en skærm - det, vi i dag kunne kalde en chat-udveksling. Hvis dommeren accepterer udvekslingen som ligeværdig, passerer testpersonen som et menneske. Hvis ikke, må det være en maskine.

Loebnerprisen

Turing mente selv i et radiointerview, at det ville vare mindst 100 år, før en maskine kunne klare testen og få en dommer til at tro, at den er et menneske. Nu er der gået 60 år, og de bedste programmer, ofte kaldt chatterbots, er end ikke i nærheden af at kunne bestå. Turing undlod med vilje at lade andre faktorer som udseende eller stemmeføring forstyrre bedømmelsen, men selv med et tekstinterface er det en simpel sag at afsløre de kunstige intelligenser.

Hvert år afholdes der en konkurrence ved navn The Loebner Prize, som bedømmer de bedste chatterbots ved hjælp af menneskelige dommere, der stiller spørgsmål til programmerne, der så svarer med indbyggede stave- og slåfejl og variable svartider.

Den 23. oktober i år vil fire finalister igen konkurrere om prisen. Richard Wallace fra Lehigh University i USA har vundet prisen fire gange med programmet A.L.I.C.E., Robert Medeksza fra Zabaware vandt i 2007 med programmet UltraHal, Rollo Carpenter vandt i 2006 og 2007 med programmerne George og Joan og vil i år stille op med programmet Cleverbot, og Bruce Wilcox fra firmaet Covidien vil stille op for første gang med programmet Suzette.

I boksene under artiklen ses eksempler på samtaler, som dommere i tidligere konkurrencer har ført med de deltagende chatterbots.

Som det kan ses fra transkriptionerne, er samtalerne ikke bare dårlige. De er meget dårlige. Samtalerne har åbenlyst svært ved at overbevise, og store kanoner inden for kunstig intelligens-forskningen som Marvin Minsky har af samme årsag fordømt Turingtesten som latterlig, fordi den får AI-forskningen til at fremstå som banal og »uproduktiv«.

Ikke desto mindre er chatterbots begyndt at blive brugt til en lang række specifikke formål, for eksempel til online-hjælp og til telefonviderestilling. Virksomheder som Lloyds og Royal Bank of Scotland bruger chatterbots i stedet for call centre.

Renault og eBay bruger dem også til at håndtere support via nettet, og Paypals chatterbot "Louise" håndterer over 400.000 samtaler om måneden. Der findes (godartede og ondartede) chatterbots på Twitter og i online-multiplayerspil, ligesom de efterhånden findes på datingsites, på Yahoo! Messenger, Windows Live Messenger og alle mulige andre chat-systemer.

Disse såkaldte "konversationsagenter" i de digitale medier er ved at kunne udføre typer af menneskearbejde, som man ikke have forestillet sig for bare ti år siden.

60 år efter Turings oprindelige tankeeksperiment er vi altså endt i den besynderlige situation, at vi som regel kan gennemskue, når en computer prøver at tale til os, som om den var et menneske, men vi er ikke altid sikre på, om de mennesker, der taler til os over nettet eller via telefonen, måske i virkeligheden er en computer.

Tænk på de indiske call centre, hvor du altid får de samme mærkelige svar, når du skal have support til din computer, og hvor man aldrig kan være sikker på, om det nu virkelig er et menneske, der taler, eller om det repræsenterer et gennembrud i kunstig intelligens-forskningen.

Mange kritikere

Siden starten i 1950 har der været en debat om holdbarheden af Turings argument. Ifølge filosoffen Ned Block kan for eksempel en "blockhead", dvs. en komplet idiot, sagtens bestå Turingtesten ved bare at agere som et normalt menneske uden selv at have den mindste tanke, endsige intelligens.

Også filosoffen John Searle har samme indvending med sit tankeeksperiment om "Det kinesiske rum", som viser, at man sagtens kan handle øjensynligt "intelligent", dog uden at det betyder, at man kan tænke.

Som en objektiv definition af et tænkende individ med bevidsthed og følelser er Turingtesten altså ganske utilfredsstillende. Den er måske nødvendig, men ikke tilstrækkelig til at afgøre, om en kunstig agent er intelligent.

Problemet er dog, at der ikke findes nogen sikker metode til at finde ud af, om en persons tanker er de samme som vores egne tanker. Selv hvis man ville kunne kortlægge hele det neuronale mønster i en anden persons hjerne, er det ikke sikkert, at det er nok.

Tanker og bevidsthed har subjektive egenskaber, som ikke kan adskilles fra personen selv, dens livshistorie, krop og erfaringer. Derfor kan vi kun studere hinandens adfærd, og hvis en meget sofistikeret robot ville kunne simulere vores sociale, fysiske og kognitive adfærd godt nok, ville vi ikke kunne gøre andet end at acceptere den som et ligeværdigt menneske.

Filosoffen Stuart Shieber kom i bogen "The Turing Test: Verbal Behavior as the Hallmark of Intelligence" med følgende analogi:

"Hvordan finder du ud af, om en ting er en meter lang? Du sammenligner den med en anden ting, som du har postuleret at være en meter lang. Hvis de to ting er uskelnelige i netop denne henseende, altså deres længde, så konkluderer du at det testede objekt er en meter langt. Hvordan finder du ud af, om en ting er intelligent? Du sammenligner den med en anden ting, som du har postuleret at være intelligent. Hvis de to objekter ikke kan skelnes med hensyn til denne egenskab, konkluderer du at det testede objekt er intelligent."

Den universelle maskine

Det store spørgsmål er dog, om Turingtesten er nok. Den tester kun chat-evnerne, og mange vil mene, at der er brug for flere egenskaber, før man kan sige, at noget tænker. Måske er der brug for en bestemt slags gnist, en intuition, noget som er afgørende nyt. Ifølge Ada Lovelace er netop maskinernes manglende evne til at overraske os årsagen til, at de ikke kan tænke.

De fleste mennesker har derfor store filosofiske forbehold over for, hvad en maskine kan gøre og ikke kan gøre. De siger: "Man vil aldrig kunne lave en maskine, som kan erstatte den menneskelige hjerne" og "Levende organismer gør mange ting, som maskiner aldrig vil kunne gøre".

Et smukt svar på den tanke blev ifølge Edwin T. Jaynes givet af John von Neumann i en tale om computere i 1948 på Princeton University. I et svar på et spørgsmål fra auditoriet (»Men selvfølgelig kan maskiner ikke tænke, vel?«) svarede von Neumann:

»De insisterer på, at der findes ting, som maskiner ikke kan gøre. Hvis De helt nøjagtigt fortæller mig, hvad det er, en maskine ikke kan gøre, så kan jeg altid lave Dem en maskine som kan gøre netop det!«

Sagen er ifølge Turing og Neumann den, at maskiner kun har én begrænsning: vores manglende evne til at beskrive de ønskede operationer. En universel Turingmaskine - eller dens fysiske pendant, som von Neumann i et tankeeksperiment kaldte en "kinematon" - er således defineret som et dynamisk kausalt system, der kan udføre en hvilken som helst opgave og simulere (eller "være") et hvilket som helst andet fysisk system. En kinematon kan være alt fra en brødrister over et menneske til universet som sådan.

Set i dette lys går vores manglende vilje til at indrømme, at maskiner faktisk tænker, hånd i hånd med vores manglende forståelse af, hvad tænkning egentlig er. Hvis vi mere præcist ville forstå, hvad hjernen og kroppen gør, når den tænker, ville vi kunne imitere det med en maskine, og dermed acceptere, at en maskine også kan tænke - på sin egen måde.

Alan Turings spådom om, at vi i 2050 vil kunne lave en maskine, der kan klare testen, kræver derfor ikke kun mere sofistikerede chatterbots, men også en mere sofistikeret forståelse af, hvad tænkning er for en størrelse.

FAKTA: "Samtale" med chatterbotten UltraHal (Robert Medeksza)

Dette er en afskrift af en samtale med en dommer ved Loebner Prize-konkurrencen i 2007, som UltraHal vandt. Læs hele samtalen her

Dommer: Good morning - how are you?

**Hal: **Good morning, judge. How's your morning going?

**Dommer: **Well.

**Hal: **Hot buttered toast tastes good in the morning.

**Dommer: **What do you like on your toast?

**Hal: **I have been raised as a protestant and like my faith.

**Dommer: **What kind of denomination?

**Hal: **Do you think that professionals who work with denominations really have our best interests at heart?

**Dommer: **No.

**Hal: **May I ask you what gender you are?

**Dommer: **And you?

**Hal: **(...) Are you a man or woman?

**Dommer: **I'm a man. And you?

**Hal: **Ok, thanks for telling me. I'll keep that in mind. New York city is a major metropolitan area with many means of public transportation.

**Dommer: **What subway line did you take this morning?

**Hal: **Cars take longer to warm up on a cold morning.

FAKTA: "Samtale" med Suzette (Bruce Wilcox)

Suzette deltager i år i konkurrencen om The Loebner Prize for første gang. Læs hele samtalen her

Menneske: Hello.

Suzette: Pretty early in the morning, isn't it?

Menneske: It's afternoon here.

**Suzette: **What was the happiest year of your life?

Menneske: I can't mention a particular year.

**Suzette: **My happiest year was when I left home at 18. Freedom at last!

**Menneske: **What can I call you?

**Suzette: **Suzette

**Menneske: **What is the difference between chatbot and human?

**Suzette: **A cooking style of Chinese cannibals.

Menneske: Are you a chatbot or human?

**Suzette: **Did you know I am an artificial intelligence?

**Menneske: **I don't know, that's why I'm asking.

**Suzette: **You don't?

**Menneske: **Yes!

**Suzette: **Artificial Intelligence stands no chance against Natural Stupidity.

**Menneske: **So you are a chatbot or human?

**Suzette: **No. I'm an artist.

Menneske: When did you start chatting with people?

**Suzette: **Is wit worth the price its victims pay?

**Menneske: **How do you describe a color to a blind man?

**Suzette: **I'm female. Kind of tall and smart.

**Menneske: **Have you ever dreamed before?

**Suzette: **I dream of being an astronaut and traveling into outer space.

Dokumentation

Chat selv med chatterbotten A.L.I.C.E
Chat selv med chatterbotten Cleverbot
Chat selv med chatterbotten Eliza

sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Kære Steen Jensen
Hver gang jeg hører om Computere og hvor gode samme er, jeg går ud fra alle som læser og eller har passeret dette forum, vil kunne blive enige om, at en Computer aldrig ville komme op med den der bemærkning.

Hal - var det ikke ham der opfandt halalslagtningen ? :-)

Nu ved jeg ikke om eller hvordan man koder følelser ind i Computere, følelser ved det som Steen Jensen skrev.

  • 0
  • 0

Ja, computere er nogle "tørre" typer, de har ikke plads til meget spas på harddisken ! :-)

  • 0
  • 0

Ud fra

Turing mente selv i et radiointerview, at det ville vare mindst 100 år, før en maskine kunne klare testen

holder det ikke helt at konkludere

Alan Turings spådom om, at vi i 2050 vil kunne lave en maskine, der kan klare testen

Mon ikke Turing har vidst bedre end at give sig af med spådomme.

  • 0
  • 0
Bidrag med din viden – log ind og deltag i debatten