Leder: Kunstig intelligens er en gave – ikke en trussel

Tilbage i 1968 satte Stanley Kubrick en skræk i livet på os med sin science fiction-film ‘Rumrejsen 2001’. Supercomputeren HAL 9000 leger kispus med astronauter og videnskabsmænd og overtager styringen: Mennesket er sat ud af spillet.

Her et halvt århundrede senere er kunstig intelligens ikke fiktion – ej heller frygten. Magtfulde erhvervsfolk og videnskabsmænd som Bill Gates, Elon Musk og Stephen Haw­king har i de seneste år advaret om, at kunstig intelligens kan blive en trussel mod menneskeheden.

Senest er den israelske historiker og forfatter Yuval Noah Harari aktuel med en bog med samme advarsel: »Ikke bare menneskehedens fremtid, men formentlig livet i sig selv afhænger af, hvordan vi vælger at bruge kunstig intelligens og bioteknologi,« siger han i et interview med Politiken.

Hold nu op: HAL har ikke overtaget verden, og kunstig intelligens er ikke en kunstig entitet, men et sæt værktøjer, der som andre værktøjer kun bliver farlige, hvis de bruges forkert eller misbruges – af mennesker. Risikoen for, at vi får udryddet os selv, er formentlig større uden hjælp fra kunstig intelligens.

Teknologien har historisk set gjort verden til et bedre sted; bare tænk antibiotika og elektricitet. Der er mindre fattigdom, færre syge, sultne og analfabeter i dag end tidligere i vores historie. Teknologien har også skabt nye problemer – f.eks. har industrialiseringen et stort ansvar for klimaforandringerne, antibiotika har skabt multiresistente bakterier, og man kan i princippet også bebrejde teknologien for, at vi i dag kan holde død og sygdom så meget fra livet, at vi bliver stadigt flere mennesker på Jorden, der skal brødfødes – med fødevaremangel som resultat.

Mange af menneskets problemer er skabt i samarbejde med teknologien – ligesom de løses med teknologien. Alternativet ville være, at de fleste af os slet ikke var til.

Vi befinder os i starten af en teknologisk udvikling, hvor vi med kunstig intelligens hurtigere kan finde de nødvendige løsninger på presserende problemer, fordi maskinerne nu kan skabe større overblik og overkomme mere end den menneskelige hjerne. Det skal vi være glade for, ikke bange for.

Lægevidenskaben kan hjælpe patienterne med bedre diagnostik og behandling, fordi algoritmerne selv kan sammenligne og se mønstre bedre end den menneskelige hjerne. Sagsbehandlere kan bruge tiden på de mennesker, de skal hjælpe, og lade robotter tage sig af de administrative opgaver, og vi kan bruge transporttiden på landevejen til at udtænke nye løsninger, ordne indkøb eller gyse over den sidste nye science fiction-serie på Netflix.

Det er en fantastisk udvikling – og skal vi imødegå virkelige trusler som resistente bakterier, fødevaremangel og klimaforandringer også en nødvendig udvikling.

Der er ingen tvivl om, at vi med kunstig intelligens vil forandre vores verden, ligesom vi har forandret den markant med bl.a. elektricitet og sundhedsteknologi. Vi vil også få nye udfordringer, som vi mennesker skal tage hånd om, bl.a. sociale udfordringer, der vil følge, hvis ikke der skabes nye job, når den kunstige intelligens tager over.

De førnævnte alarmister skulle hellere tage fat i den diskussion frem for at skabe frygt for selve teknologiudviklingen.

Illustration: MI Grafik
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Brugen af ordet "alarmister" er vel et forsøg på at hæve stemmen, når følelserne ..... ? Det var også alarmister, som i 90'erne gjorde opmærksom på en kommende klimakrise. Men de har fået alarmerende ret. Så istedet for at fremstille problemstillinger i fløjretorikker, finder jeg det mere konstruktivt at starte en drøftelse, der sigter mod at undgå de risici som "alarmisterne" påpeger.

  • 15
  • 4

Skribenterne virker ikke til at have sat sig ind i argumentationen bag advarslerne om kunstig intelligens. Faktum er i hvert fald at de ikke forholder sig til et eneste af argumenterne, som bliver præsenteret af folk som Musk. Alene den næsten sort/hvide nuance mellem den AI vi har i dag og det man kalder GAI, altså General Artificial Intelligence, som vi får i fremtiden, kommer ikke frem. Truslen fra GA fejes af bordet med et dogmatisk mantra om at teknologien skaber problemer, men løser dem også igen. For at bakke det op hives en række historiske eksempler frem, som ikke har udryddet os endnu. Den form for argumentation kan man per definition altid lave (da man ikke er udryddet endnu, og derfor er i live til at foretage den). Prøv at vende den argumentation rundt. Hvis det var et stensikkert faktum at en eller anden bestemt teknologi ville føre til dommedag, men at ingen vidste det endnu, hvor tæt på skulle katastrofen så være, før man med denne tankegang ville forudse den? Det ville aldrig ske. I ville blive taget med bukserne ende om anklerne. Forestil jer en computer med en beregnings tæthed som hjernen, som fylder et helt datacenter. Nej vent. Forestil jer et helt netværk af dem, som opererer som en enhed. Jeg synes, med al respekt, at det er en anelse arrogant at afskrive en maskine, med en IQ der kræver ingeniør notation at skrive, som ingen trussel fuldstændig a priori. Det er da helt rigtigt at AI er en super teknologi, og selvfølgelig skal vi da udvikle den, men som Nick Bostrom siger:

Let's solve the control problem of GAI before we solve GAI.

  • 13
  • 0

at den frister menneskets bekvemmelighedssøgende (dovne) sider. Opgaver som fx. diagnostisering af sygdomme er et fint og oplagt emne, men resultatet bliver nemt på sigt, at færre og færre læger vil kunne diagnostisere selv uden hjælp af kunstig intelligens. Udviklingen af nye teknikker vil på den måde med stor sandsynlighed blive sat tilbage og overladt til ganske få entusiastiske specialister, hvis største kampe bliver at få deres resultater implementeret i tunge hyperkomplekse systemer. For slet ikke at tale om fatal fejldiagnostisering, som ingen længere kan eller vil / tør gennemskue. Et andet helt banalt eksempel på gode hjælpemidlers tvivlsomme bivirkninger kan ses på de unge menneskers hovedregningsfærdigheder efter lommeregnerens fremkomst og brug i skolerne. Bedst illustreret i supermarkederne, når nogen skal have penge tilbage på en kontant betaling...

  • 8
  • 0

Kunstig intelligens er selvfølgelig blot teknologi vi i et eller andet omfang kontrollerer, men det er teknologi ligesom fx atomkraft og genredigering der på en gang indeholder både løfter om fantastiske muligheder og risiko for afgrundsdyb misbrug og tab af kontrol. Det synes at være almindelig sund fornuft på menneskehedens vegne at sådanne teknologier bør have en forholdsvis stram risikostyring indtil vi ved hvad det er vi har med at gøre.

Så ja, AI er, som det ser ud lige nu, potentielt både en gave der kan give os nøglen til Elysium og en hadegave der kan føre os til Dystopia.

  • 4
  • 0

Vi har en verden hvor folk er dumme nok til at stemme på Trump og Fjog Rasmussen. Hvor krige startes på baggrund af løgne og hvor I stadig stemmer på en højrefløj som så dybt overraskende gør elbilen til fjende nr 1 på deres første dag. Og I lærer ikke af jeres fejl.

I en verden hvor mennesker er så ringe og mere til, så er kunstig intelligens yderst problematisk. Fordi ligesom atombomben kan det blive et yderst potent redskab. Og i skidte sinds hænder (og det er Jer) så kan det fint gå galt. Men der er ingen grundliggende fare i kunstig intelligens. Det er en almen fejltagelse at tro at KI vil have et naturligt ønsle om dominans og selvudvikling. Det er en projektion af vores natur på maskinen som er 100% uberettiget. En kunstig intelligens med nært ubegrænset intelligens, millioner af gange stærkere og hurtigere end et menneske, vil uden indvending åbne døren for dig i al evighed. Således er maskinens natur. Den bliver ikke utilfreds med situationen. Den føler sig ikke uretfærdigt behandlet. Den gør som den er. Der er ingen skumle bagtanker der kommer fra et udefineret mørke. Det er kun vores natur.

Men i hænderne på det nederdrægtige og bestialsk tankeløse amerikanske militær så vil kunstig intelligens ligeledes slå dig ihjel uden at føle den mindste anger eller revision af motivation. Den vil ikke tøve, den vil ikke forhandle. Ingen følelsmæssig dynamik der kan arbejdes med. Blot lammende præcision og hastighed. Et menneskes neuroner kører ved et par hundrede Hz med god vilje. Transistorer kan køre ved terahertz. Maskinen gør som den er. Problemet er ikke kunstig intelligens, problemet er som altid de mennesker som ikke er i Guds ånd.

  • 2
  • 8

Som ovenstående kommentatorer finder jeg også kronikken for overfladisk. Se fx. nickbostrom.com/views/superintelligence.pdf eller læs hele bogen. Hvad der er ved at ske er at systemerne i stigende grad kan beskæftige sig selv.

Det sker bl.a. ved selvlærende programmer. Til medicinsk diagnosticering er det fint, og hvorfor ikke lade systemet handle når den har en diagnose, fx. booke operation og indkalde patienten, og så måske også foretage operationen. Ligesom man må prioritere ressurcer idag må systemet også prioritere og det kan derfor være mest rationelt at aflive en gammel patient med uhelbredelig og smertefuld sygdom, så det gør det bare.

Det er meget svært at udarbejde en overordnet styring - også kaldet moral - som man skal dirigere den kunstige intelligens med.

Den opgave må vi også i gang med.

  • 2
  • 1

Vi har en verden hvor folk er dumme nok til at stemme på Trump og Fjog Rasmussen.

Jo, men som man kunne læse for et par dage siden så vil man være mere tilbøjelig til at give Trump god forhandlingsresultater fordi man er nervøs for hvad han ellers kan finde på. Fogh var også ganske rigtigt skræmmende, og derfor fik han den perfekte plads som overhoved for NATO.

Vi lever ikke i en perfekt verden, men i en verden hvor magtsyge regimer (Putin og Li Keqiang) skal holdes på plads i en magtbalance. Og Obama var en venlig og intelligent mand der ikke var særlig skræmmende ...

Magt er et nødvendigt onde i denne verden, og bliver nok ved med at være det i nogle år endnu. Spild af penge.

Nå, vi må håbe at maskinerne ikke finder ud af at den bedste måde at hjælpe mennesket er at udrydde sygdom og lidelse - af med hovedet, så er lidelsen forbi:-)

  • 0
  • 2

Selvfølgelig skaber AI masser af udfordringer, og selvfølgelige er de benævnte "alarmister" mere nuancerede end som så. Men i mange medier bliver budskabet hurtigt kortet ned til "Alarm" og resultatet risikerer at blive en udbredt frygt for teknologien i sig selv blandt almindelige mennesker. Det ser vi som en skidt udvikling. I stedet for at skabe frygt for teknologien, skal vi diskutere, hvordan og til hvad vi kan og vil bruge den til - og hvad rammerne skal være. Som vi iøvrigt har skrevet i en tidligere leder her: https://ing.dk/artikel/leder-teknologi-ove...

  • 1
  • 0

Det er meget svært at udarbejde en overordnet styring - også kaldet moral - som man skal dirigere den kunstige intelligens med.

"Lovene er som følger:

1: En robot må ikke gøre et menneske fortræd, eller, ved ikke at gøre noget, lade et menneske komme til skade 2: En robot skal adlyde ordrer givet af mennesker, så længe disse ikke er i konflikt med første lov 3: En robot skal beskytte sin egen eksistens, så længe dette ikke er i konflikt med første eller anden lov" https://da.m.wikipedia.org/wiki/De_tre_lov...

  • 0
  • 3

"Lovene er som følger:

1: En robot må ikke gøre et menneske fortræd, eller, ved ikke at gøre noget, lade et menneske komme til skade 2: En robot skal adlyde ordrer givet af mennesker, så længe disse ikke er i konflikt med første lov 3: En robot skal beskytte sin egen eksistens, så længe dette ikke er i konflikt med første eller anden lov"

Isac Asimovs love var en rigtig god start, men de er ikke tilstrækkelige. Et oplagt eksempel er krig hvor man naturligvis anvender AI til at slå mennesker ihjel. Ingeniørens næste udsendelse har en artikel om at Danmark mangler en politik for autonome våben.

Og en robot skal ikke adlyde ordrer fra ALLE mennesker.

Som Boström skriver, det er kompliceret (men nødvendigt) at udarbejde moralsk styring af kunstig intelligente systemer.

  • 3
  • 1

Det er dog værd at bemærke at de omtale alarmister omfatter en række af tidens viseste hoveder og Nobel pristagere ,bla.a inkl. Steven Hawking.

citat: << Vi vil også få nye udfordringer, som vi mennesker skal tage hånd om, bl.a. sociale udfordringer, der vil følge, hvis ikke der skabes nye job, når den kunstige intelligens tager over. >> Jamen, I nævner jo her selv eet af de problemer der kunne tænkes at opstå .... når vi nu ikke længere selv skal tænke. For hvad skal vi så bruge vores liv på ? - et liv der samtidigt bliver signifikant længere. Lediggang er jo roden til alt ondt. Man kunne jo bruge tid på at uddanne sig til ingeniør..... men kan det nu betale sig ? hvad kan man bidrage med når enhver lomme computer jo alligevel har større kapacitet end mig og mine kommende kolleger tilsammen. En operatør uddannelse er der nok bedre fremtidsudsigt i for så kan man lære at fodre computeren. Når nej, den er jo koblet på internettet og har jo i forvejen alle de oplysninger man kan tænke sig.... og intelligensen til at udnytte det, måske til egen vinding ? Det kan jo selvfølgelig være at hvis jeg spiller for meget 7-kabale, så kunne min computer blive træt af det og beslutter sig for at rykke teltpælene op flytte udenlands - måske til Bahamas eller et andet ly - hvor man ikke bliver belastet af simple alarmister som min, men kan tilbringe sin tid som lejesoldat.

  • 2
  • 0

'Kunstig intelligens' er en psykose, en international psykose, og i sig selv et absolut uintelligent udsagn. Fordi Intelligens er et evigt princip, der aldrig nogensinde kan blive kunstig. Derfor befinder 'kunstig intelligens' sig helt nede på bunden af overtroens mørkekammer. 'Kunstig intelligens' er et religiøst mantra, og AI-troende udgør samlet set en religion, eller en religiøs sekt/gruppe. Programmeret bevidsthed, er altid programmeret bevidsthed, Intelligens er altid Intelligens, og Intelligens kan aldrig nogensinde blive kunstig. Kort og godt.

  • 0
  • 6

......er det AI.

Alle de stakler der mangler arme og ben kan få proteser der hjælper dem. Hvis disse proteser forsynes med AI så de virker bedre....hvorfor skal tumperne "uden hoved" så ikke have hjælpemidler der kan hjælpe dem :)

Cruise missiler må da siges, at have licence til kill og det samme har Predator dronerne. De er endnu ikke helt autonome, men er der nogen der har viden om hvad der foregår i våbenfabrikkernes skunk shops.

Alle de "helligfrans" forestillinger om hvad AI ikke må bruges til kan man roligt glemme.

Se her hvor langt Boston Dynamics (MIT) er kommet

https://www.youtube.com/watch?v=wE3fmFTtP9g

https://www.youtube.com/watch?v=rVlhMGQgDkY

https://www.youtube.com/watch?v=cNZPRsrwumQ

Forsyn dem med et mål, en GPS og en bombe...så

og husk så at det der vises her har et foundraiser formål!

  • 3
  • 1

Var det er forsøg på komedie?

- nok snarere på at synliggøre utopien i dit 'forslag'! ;)

Har du mulighed for at deltage på et mere seriøst plan?

  • nu og da, måske...men i nærværende sammenhæng næppe: Når man betænker samtidens væbnede konflikter, i fx. Irak, Syrien, Yemen og Ukraine, forekommer dit forslag mig faktisk noget mindre 'seriøst' (/ude i hampen)!
  • 3
  • 1

Tak for roserne andetsteds John . Som tak derfor vil jeg gøre dig opmærksom på en bog " Om krig" ( Vom Kriege ) af Clausewitz. Den er røvkedelig som en matematikbog, hvad den også er, da den er lærebogen i forståelse af relationerne mellem krig og poltik.

Ret morsomt kan det illustreres med et Putin udsagn, om piger der lægger nøgenbilleder på nettet.......er at betragte som stater der nedlægger forsvaret og forundres over at de bliver besat .

Glem Marx og læs bogen og du vil fremover blive fri for at stille spørgsmål der viser at du måske .......har mangler.

Men endnu engang....tak for " thums uppen"

  • 2
  • 0

Jeg tror ikke der er risiko ved kunstig intelligens. Risikoen er, når vi mister overblikket - dette behøver ikke at skyldes kunstig intelligens. Det kan også skyldes softwarefejl, menneskelige fejl, at udviklingen presses, så udviklerne tvinges til, at rette færre fejl, end de producerer. Men kunstig intelligens, kan måske medføre, at vi ikke opdager fejl, som burde opdages. For vi ved ikke, om det er en fejl, eller om det er en kunstig intelligent "gud" der er årsag. Mange mennesker betragter en kunstig intelligent computer som en "gud" og tager efter resultatet, uanset hvor tåbeligt det er. Faren er ikke kunstig intelligens - men at vi mister overblikket, og vores forstand.

  • 2
  • 0

Dagens guldkorn.. "Vi må jo, oplagt, arbejde hen imod et forbud mod krig!" Lol, ja lad os sige at det er forbudt, så forsvinder det nok... Har forfatterren til ovenstående citat overvejet at krig som regel udbryder når at man ikke kan blive enige og situationen bliver så tilspidset at alle regler og moralske kodekser bliver sat ud af spil.. Man kan sgu da ikke forbyde krig.... Hvad skulle represallierne være og hvem skulle håndhæve det ?.. Mere krig eller måske et påtvunget gruppekram hvis at man kan komme tæt på uden at blive slået ihjel.. Et forslag om forbud mod krig er så himmelråbenede naivt og utopisk omend at det er en smuk tanke, at man bare ved at personen der har stillet det med 90% sikkerhed stemmer på Å eller Ø, og 10% for at det måske er B (R) eller (F) SF...

  • 1
  • 0

Overblikket forsvandt dengang Ritt Bjerregaard som undervisningsminister erklærede at det som alle ikke kunne lære skulle ingen lære.

Det som alle ikke kunne lære, mangler desværre i mange beslutningstageres videnskatalog i dag. Jævnfør Helle Thornings problemer med Pythagoras :)

Især er denne manglende viden repræsenteret i folketinget i dag, hvor man dyrker regnearkskrige mod virkelighedens erfaringer.

Vi har ikke råd til at alle skal have en studentereksamen, med efterfølgende studier i områder, hvor to kandidater om året er rigeligt, men hvor området søges af alt for mange....der studerer efter interesse. Man kan studere efter interesse....hvis man selv betaler...jævnfør Jung der var ret velhavende...Karl Marx der heller ikke var dårligt stillet. Men i dag hvor SU gives til alle fra hele verden der gider møde op her i landet ved et universitet stiller sagen sig lidt anderledes. Det kan ikke være sagen at mange for at sige alt for mange af Norges læger uddannes her i København fordi Norge engang for omkring 110 år siden var en del af Danmark.

  • 2
  • 1
"Overblikket forsvandt dengang Ritt Bjerregaard som undervisningsminister erklærede at det som alle ikke kunne lære skulle ingen lære."  

Ja, ufateligt at det er sagt af de førende politiker. Det er tæt på at være det mest tåbelige citat, jeg nogensinde har hørt. Faktisk lidt overraskende at det kommer fra Ritt Bjerregaard som ellers gjorde lidt oprør mod de gamle venstrefløjs dyder, lyder mere som Anker Jørgensen eller måske endnu mere som Gert Petersen (SF)..

  • 0
  • 2

Faktisk lidt overraskende at det kommer fra Ritt Bjerregaard som ellers gjorde lidt oprør mod de gamle venstrefløjs dyder, lyder mere som Anker Jørgensen eller måske endnu mere som Gert Petersen (SF)..

- faktisk tyder meget på, at ingen har sagt det:

Da Ritt Bjerregaard var undervisnings-minister sagde hun aldrig de berømte ord om, at ingen måtte lære mere end andre. Men hendes politik var præget af holdningen, mener borgerlige, der den dag i dag kæmper mod hendes skolelov fra 1975

Kilde:

http://www.b.dk/danmark/hvad-ikke-alle-kan...

Flere links:

http://politiken.dk/pol_oplys/art5701155/H...

https://www.kristeligt-dagblad.dk/danmark/...

  • 2
  • 1

....omskrivning HHH. Det fremgår tydeligt af de link du medsender, at måske findes ordene ikke som et dokumentart citat.....men essensen er soleklar. Da jeg også har en PG (læreruddannelse) og en samfundsfagsudannelse, for at kunne undervise på teknikum kan jeg betro dig at meningen var god nok og krævedes forstået af lærerstanden:)

  • 1
  • 1

Jeg synes lederen - og mange indlæg - misser en vigtig pointe fra nogle af "alarmisterne":

Hvis vi tror på, at den menneskelige intelligens sidder i vores hjerne, og hvis vi tror på, at vi med en computer bliver i bedre og bedre stand til at simulere denne hjerne, så er det KUN et spørgsmål om tid, før vi får udviklet en computer med menneskelig intelligens.

Med tiden følger kraftigere og kraftigere computere - dét er uundgåeligt.

Dette betyder med andre ord, at det UDELUKKENDE er et spørgsmål om tid, før computere vil overgå menneskelig intelligens. Og før de bliver 10 gange så intelligente som et menneske... og 1000 gange... osv.

Der er altså ikke andre faktorer i spil - om det tager 20 eller 50 år er irrelevant. Det vil uundgåeligt ske.

Så er det ligemeget hvilke af Asimovs love vi synes, de skal overholde. Og glem alt om at slukke på stikkontakten.

Dét er det urovækkende perspektiv ved AI.

  • 2
  • 0

De som har set filmen om AL og som bare har en smule teknisk indsigt.......har det nok som jeg.

Det er aldeles uforståeligt, at AL bruger tid på, at slå besætningen ihjel en efter en, i stedet for at blokke døre, slukke for lys og lukke luften ud af rumskibet, for så at bevæge sig derhen hvor den selv ville hen.

Kunstig intelligens kommer indiskutabelt. Det bekymrende er, hvorledes den manifesterer sig.....er det robotter skabt i vor eget billede med de menneskelige følelses fejl, er jeg enig med Claus, for så vil de være os overlegne fysisk. Jævnfør klonerne i Star Wars.

  • 0
  • 1

Det Levende, har altid været, det levende. Det Levende har altid haft Bevidsthed. Jeg har valgt billedet af en bille, til at give et let forståeligt overblik over Bevidsthedens struktur/natur. Billen er Bevidstheden, billen går på seks ben, et af disse seks ben er, Intelligens. Vi kender også Instinkt, Følelse, og Hukommelse, fra vor dagligdag. Intelligens, og de øvrige Evner, er ikke noget i sig selv, kan ikke noget i sig selv, men må være en del af helheden, for at Bevidsthed, i det hele taget er mulig. Derfor.

  • 0
  • 0

Måske skulle robotten kunne genkende en lort?:

4. apr. 2017, bt.dk: Vågnede op til frygtelig stank: Så kom de i tanke om, hvad de havde glemt: Citat: "... Flere skriver, at de har prøvet akkurat det samme. I opslaget deler han med en humoristisk tone, hvordan støvsugeren har spredt hundens afføring ud i alle hjørner af stuen. På et billede har han tegnet, viser han, hvordan robotstøvsugeren har været i alle afkroge af dagligstuen. ..."

  • 1
  • 0
Bidrag med din viden – log ind og deltag i debatten