‘Den sorte boks’ er den største hindring for at bruge AI
more_vert
close

Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og du accepterer, at Teknologiens Mediehus og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, job og tilbud m.m. via telefon og e-mail. I nyhedsbreve, e-mails fra Teknologiens Mediehus kan der forefindes markedsføring fra samarbejdspartnere.

‘Den sorte boks’ er den største hindring for at bruge AI

Illustration: BigstockJacub Jirsak

Der er store forventninger til kunstig intelligens (AI) – teknologien, der skal skabe en superhjerne, der ræsonnerer og tager beslutninger på samme måde som mennesker.

Grand View Research estimerer, at det direkte salgstal for AI lander på 35,87 milliarder dollars i 2025 – fra blot 641,9 millioner dollars i 2016. Hvis man derudover medtager salgstallene for alle tilknyttede brancher, bliver markedet markant større. For eksempel estimerer Goldman Sachs, at teknologi til autonome biler og Advanced Driver Assistance Systems (ADAS) vil omsætte for 96 milliarder dollars i 2025.

De fleste organisationer er dog kun i den spæde begyndelse, hvad angår implementering af teknologierne. Det viser en undersøgelse, som SAS Institute har gennemført blandt 100 virksomheder fra Europa, Mellemøsten og Afrika (EMEA-området).

Analyseselskabet har interviewet de teknologiansvarlige i virksomhederne om, hvilke udfordringer de møder, når de skal implementere AI.

1. Tillid til den sorte boks

Den største udfordring er direkte knyttet til en problematisk egenskab ved kunstig intelligens, viser undersøgelsen. På toppen af listen troner nemlig den kulturelle udfordring - og i særdeleshed den manglende tillid til, hvad der kommer ud af den såkaldt ‘sorte boks’.

De metoder, der anvendes til at udnytte kunstig intelligens, baseres gerne på dybe neurale netværk, såkaldt deep learning, hvor maskinerne lærer, efterhånden som de fodres med data. Dette resulterer i lange avancerede algoritmer, som er så avancerede, at det ganske enkelt ikke er muligt at finde tilbage og afgøre, hvorfor en handling er blevet udført.

En simpel parallel kan man finde i matematikfaget, hvor udregningen ofte er vigtigere end selve resultatet. Med AI kan man altså ikke gengive ‘udregningen’ på en forståelig måde. 49 af organisationerne mener, at en af de største udfordringer er, at man ikke har tillid til det, der kommer ud af de sorte bokse.

Offentligheden har ret til at få en forklaring

»Mellem datainput og dataoutput er der ganske mange lag og variabler, som afvejes og kombineres på forskellige måder. Dette skaber et dybt, komplekst net, et virvar, som er vanskeligt at finde hoved og hale i,« siger Josefin Rosén, analytisk rådgiver inden for AI ved SAS Institute, til TU.

Ifølge The General Data Protection Regulation (GDPR - persondataforordningen), som bl.a. bliver implementeret i Danmark i 2018, har alle indbyggere ret til at få en forklaring på, hvilke vurderinger der ligger til grund for en afgørelse. Det kan blive problematisk, hvis neurale netværk kommer til at få indflydelse på vurderingerne.

Der er mange, der arbejder på at udvikle metoder til at forstå beslutningsprocessen i netværkene. Én måde er at sende den samme information ind flere gange med små ændringer hver gang og se, hvilke ændringer der resulterer i, at outputtet ændres. En anden måde er at lave såkaldte surrogatmodeller, som imiterer netværkets opførsel med udvalgte variabler.
Forfatteren Pamela McCorduck har beskrevet et aktuelt paradoks i denne sammenhæng: Kunstig intelligens er intelligent, lige indtil nogen finder ud af, hvordan computeren gør det. Så forsvinder magien, og det hele er kun en udregning.

Forskere inden for kunstig intelligens sidder dermed igen med de hårde nødder, som er svære at knække.

2. At integrere AI i beslutningsprocesserne

En anden udfordring er at integrere AI i systemerne, så de hjælper til med at foretage beslutninger.

»Det er hele formålet med AI. Men det kan være udfordrende at lave modeller, som forbereder AI til beslutningsprocessene,« siger Rosén.

Helt centralt her er det at forankre projektet i ledelsen og ikke bare overlade AI til virksomhedens mest it-kyndige.

»Kunstig intelligens er en multidisciplinær platform, hvor folk med forskellige kompetencer skal arbejde sammen. De kan ikke arbejde i separate siloer,« siger Rosén.

3. Kvalitetssikring af data

En relateret udfordring er at sørge for, at de data, som anvendes, er rigtige.

»Man kan ikke basere kunstig intelligens på et forkert datagrundlag. Så vil man ende med helt forkerte resultater, der kan ende med at skade virksomheden. Det er vigtigt at vedligeholde og tjekke, at algoritmen ikke giver forkerte resultater,« siger Rosén.

Hun fremhæver Microsofts chatbot Tay, der blev lanceret på Twitter i marts sidste år, som eksempel. Formålet med Tay var, at den skulle lære at tweete som en teenager ved at bruge Twitter-samtalerne som ufiltrerede træningsdata. Chatbotten blev imidlertid fordret med racistiske udsagn af andre brugere, hvorpå Tay tweetede flere racistiske udsagn. Microsoft trak chatbotten tilbage dagen efter.

»Hun var selvlærende. De træningsdata, hun blev fodret med, var ikke kvalitetssikret,« siger Rosén.

4. Mangel på kompetence

Mangel på kompetence er en fjerde udfordring, som fremhæves. Flere af respondenterne svarer, at det er vanskeligt finde personer med de rette datakompetencer (‘data scientists’), og at de hellere vil hyre konsulenter end opbygge kompetencerne i virksomheden.

»Det er interessant, at så mange siger, at de ikke har medarbejderne, de behøver for at komme i gang. Du har brug for nysgerrige folk, som er villige til at prøve nye ting. Mange af disse personer findes allerede i virksomheden,« siger Rosén.

Hege Skryseth fra virksomheden Kongsberg Digital er blandt dem, som presser på for, at flere skaffer sig denne kompetence. Datavidenskab er omtalt som det 21. århundredes mest sexede job i en artikel i Harvard Business Review.

»Jeg vil tro, at selve platformen er en større udfordring. Mange har i dag små øer av funktionalitet. Hvis man skal arbejde ordentligt AI, har man brug for en omfattende platform. Så får man en selvlærende, automatiseret sløjfe,« siger Rosén.

5. Store investeringer og lavt økonomisk udbytte

Den femte udfordring er omkostningssspørgsmålet: Er udbyttet investeringerne værd?

»Det er vigtigt at finde ud af, hvad virksomheden vil med AI. Det behøver ikke være så kompliceret. Begynd med noget enkelt og håndfast. Dataene bør være let tilgængelige, og arbejdet bør skabe synlige resultater. Det gør det enklere at få resten af ledelsen og selskabet med på videre projekter,« siger Rosén.

Artiklen er fra tu.no

sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Jeg har med flere års erfaring om depression lært, at der ikke altid er en direkte kausal årsag til, at man kan ende med et psykisk lidelse; det kan netop være en del dybe komplicerede sammenhænge i hjernen (udregninger), som spænder ben for hinanden, men som kræver en psykologisk tilgang at diagnostisere.

Kunne man forestille sig i fremtiden, at en computer-konsulent i højere grad arbejdede som en psykolog, mere end som en teknikker, for at diagnostisere en kunstig intelligens? Og, at udbedre en eventuel fejl ikke gøres ved at sidde og skrive kode, men ved at den kunstige intelligens selv bearbejder sig selv - ligesom det sker med kognitiv behandling hos mennesker?

  • 6
  • 0

"Der er mange, der arbejder på at udvikle metoder til at forstå beslutningsprocessen i netværkene. Én måde er at sende den samme information ind flere gange med små ændringer hver gang og se, hvilke ændringer der resulterer i, at outputtet ændres."
Det kunne godt ligne problemet med klimamodellerne. Men så tager man bare middelværdien.

  • 1
  • 8

Det er faktisk ikke en helt dum tanke da det lidt overraskende viser sig at tale nok bliver et instruktionsredskab istedet for en mere direkte talkontrol men en kunstig intelligens vil ikke have den samme følelsesmæssige komplikation, ej heller vores åndelige eksistentielle kamp hvor vi kan være opgivende.
Jeg er rimeligt sikker på at vi ikke ser kunstig intelligens blive psykotisk som følge af stress f.eks.
Ligeledes egodrevne vrangforestillinger som trump dumpster.
Så jeg tror ikke det vil være interne konflikter og knuder ligesom i et menneske men man kunne sagtes forestille sig en dyb samtale under udviklingen for at afklare hvad de har forstået og hvad de snubler over. Hvad dens tanker er i etiske dilemmaer etc, når man begynder at hælde krav på den.
Det er en af de ting der er farlige/problematiske, fordi selvom AI ikke har egen vilje om overlevelse eller ego, så kan de blive udtryk for menneskets idioti. Som vi allerede ser på youtube hvor CEO Susan Wojcicki har sluppet min kunstige intelligens løs til at lytte til alle videoer og fjerne reklamer hvis man bruger ord som sadness eller omtaler noget i nyhederne. Absolut vanvittig magtmisbrug meget tidligere end jeg forventede.
I et automatiseret politi eller militær kan du forestille dig hvor utilstrækkelig den menneskelige omtanke er når der gives ordrer til maskiner der udfører uden tøven.

Problemet med at anvende AI i dag i erhverv er dog primært at algoritmerne mangler den endegyldige styrke, selv for folk med god kompetence. Men jeg har set frem ad og der ligger kvantespring lige ved fingerspidserne. Ikke sikkert de bliver opdaget på den korte bane men det kunne ske i morgen. Det kan allerede være sket. Med de næste par skridt vil kunnen være afgørende meget bedre. Det er lære at køre bil er overstået på en eftermiddag med absolut kontrol over situationen.

  • 1
  • 0

En interessant ting ved forskningen i kunstig intelligens er at der hele tiden bliver hævdet at det skal ske "lige som os" og samtidg ved ingen hvordan "lige som os" er.
Kunstig intelligens er algoritmer som har deres rod i statistik. Så uanset hvor komplicerede de er så "forstår" algoritmerne ikke hvad resultatet betyder. Ja i mange tilfælde ved den ikke engang at det er et resultat, blot at den er kommet til programmets ende.
Noam Chompsky amerikansk filosof har beskrevet det "kinesiske værelse" som exemple.
En person er lukket inde i et rum uden kontakt med omgivelserne og en bog med et regelsæt. I den ene ende af værelset modtager han et kinesisk tegn. Regelbogen beskriver hvilke handlinger der skal ske og videre giver så resultatet. Efterhånden lærer han at gøre dette uden fejl. Personen kan ikke læses kinesisk og aner ikke hvorfor han bruger de regler.
Intelligens i min veren som læge er kundskab forståelse moral etik og integritet.
Maskiner kan konstrueres til at følge et regelsæt for maskiner, men for mennesker ( og dvs biologi i det heletaget) er det en helt anden sag fordi biologi har mange, mange flere aspekter.

Men skal vi tage ideen helt ud og sige at kunstig intelligens skal overtage administrationen i en regering.
Det logiske og enkleste svar opå dette vil være, "Hvorfor blive ved med at forsørge mennesker? De skal have tilført energi hele tiden og kan ikke slukkes ned når der ikke er brug for dem. Forbruger en masse energi unødvendigt. De kan heller ikke blive enige og bruge en masse tid på uvæsentlige spørgsmål. Mennesker er et forældet princip."

  • 3
  • 0

Tjaaa, man må da håbe at det vil være muligt at skrive algorimer der forbygger OCD-agtig adfærd, så man slipper for at høre de samme absurditeter igen og igen (og igen (og igen)


Den var meget skæg, men hvis lidt ændrede input giver alt for forskellige resultater, så begynder det at ligne kaos.
Kunne man måle om resultatet er kaotisk? Jeg har læst at der findes måder at måle det på.

Det minder også om en googlesøgning, hvor man går videre fra et af resultaterne osv, og afhængig af disse valg kan man ende vidt forskellige steder, selvom valgene var rimeligt fornuftige.

  • 1
  • 2

Det minder også om en googlesøgning, hvor man går videre fra et af resultaterne osv

Et kæmpe problem med google søgninger er, at de ikke er neutrale. Google husker hvilke links du responderede på sidste gang og giver dig mere af det samme. Jeg ser både Google i almindelighed (og Facebook i særdeleshed) som gigantiske ekkokammermaskiner, hvilket er problematisk, da det for mange er primære kilder til information.
Betragter man i et større perspektiv nettet som de nerveforbindelser der binder en masse neuroner (os brugere) sammen, så har man på sin vis bygget kimen til splittelse og skizofreni ind i systemet. Vi alle (eller i hvert tilfælde de fleste af os) er blevet isoleret i hvert vores ekkokammer og sidder og råber til hinanden om hvor megen ret vi har og hvor dumme "de andre" er.

  • 2
  • 0

Kunne man forestille sig i fremtiden, at en computer-konsulent i højere grad arbejdede som en psykolog, mere end som en teknikker, for at diagnostisere en kunstig intelligens?

Nej, psyke er noget som mennesker lægger ovenpå vores egen interne "maskinlæring", i form af bevidsthed. Måske dyrepsykologi som er mere baseret på input-output. Læg mærke til at artiklen kommer med en ny fagbetegnelse allerede, nemlig data scientist.

  • 1
  • 0

Nej, psyke er noget som mennesker lægger ovenpå vores egen interne "maskinlæring", i form af bevidsthed.

Kære Kjeld: Hvad véd du egentlig om dét?

Hvor starter 'psyken´?

Dyr har også psyke - det er da nemt at observere - og den er basalt set ikke forskellig fra menneskers; selvom menneskers psyke, nok består af flere 'lag' - som netop også giver mulighed for større fejl.

Jeg kender godt til f.eks. hunde, som er traumtiserde - de har klart en mere kompliceret psyke. Og det er måske blot et spørgsmål om tid, før man støder på en kunstig intelligens, hvor input > process > output giver et dissonant resultat, som måske må 'behandles'.

  • 0
  • 0

Det er altid dragende at finde nye maskinelle løsninger på det vi ikke kan finde ud af at løse som individer, men måske skulle vi hellere se hvordan vi som kollektiv (ikke definerbar neuralt netværk) intelligens kan komme tættere på det optimale. Lige som med kunstig intelligens vil det alt afgørende imidlertid være regelsættet - opgaven der skal løses.

Fremtidens beslutningstagning i firmaer

Det er et gennemgående træk at succesfulde firmaer opstår, blomstrer og i de fleste tilfælde sygner hen eller bliver opslugt af andre firmaer indenfor 3 generationer. At det forholder sig sådan har naturligvis noget med ledelse og beslutningstagning at gøre.
Det er åbenbart at nogle ledere er mere succesfulde end andre og at sådanne ledere ikke hænger på træerne. Det er desuden vanskeligt at udskille de egenskaber hos en leder som føre til kontinuerlig succes, for det der giver succes i en periode af et firmas liv, kan i en anden periode og under andre omstændigheder give det modsatte resultat.
Der kan derfor være utrolig meget at vinde, såfremt man kan finde frem til en proces som kan hæve succesraten hvad angår beslutningstagning.
I det følgende vil jeg argumentere for en radikalt anderledes form for beslutningstagnings proces, som muliggør at beslutninger kommer til at ligge i nærheden af 10 % af det optimale, en proces som løsner men ikke fjerner beslutningstagningen fra den enkelte leder og som muliggør en ophævelse af den fremherskende 3 generationers grænse for firmaers succesfulde livslængde.
Beslutningstagning har jo sin oprindelse i hvorledes mennesket forstår og bearbejder sine indtryk af de situationer og forhold som indgår i problemet eller udfordringen. Det er derfor yderst relevant i den sammenhæng at se på og forstå hvorledes menneskets hjerne fungerer.
I vid udstrækning er det der har ført til succes for de vestlige kulturer vores evne til succesfuldt at generalisere og systematisere, hvilket igen har optimeret kommunikation mellem mennesker og over kontinenter, så man i dag kan få øjeblikkelig kontakt med hinanden næsten over alt på jorden. På den baggrund har det været naturligt at udråbe logiske, rationel tænken som det vigtigste element. Der ud over har man godt nok et forholdsvis udefineret andet element ”mavefornemmelse”, men som navnet antyder vurderes det ikke lige så højt som den rationelle tænken.
Intet kunne imidlertid være mere forkert, for i virkeligheden er forholdet det diametralt modsatte.
For over 100 år siden da Freud formulerede sin psykoanalytiske teori, fremkom han med et billede på forholdet mellem den bevidste lineære tænken og de underbevidste hjerne processer. Han sammenlignede hjernens funktionsmåde med et isbjerg hvor 10 % er over vandet og 90 % befinder sig ude af syne under vandet. Denne forståelse har siden været alment accepteret indenfor psykologien, men fordi den blot byggede på vurdering af noget som ikke umiddelbart kunne observeres, har den haft trange kår udenfor det psykologiske fagområde.
Det nye som er sket indenfor de sidste 10 år er, at man ved hjælp af hjernescannere har kunnet naturvidenskabeligt dokumentere, at det faktisk forholder sig sådan. I dag er det derfor blevet ”main stream” forståelse indenfor neurologien, at de bevidste processer udgør under 10 % af hjernens funktioner.
”Mavefornemmelserne” er altså kommet ind på midten af scenen! Det er følgelig ikke fyldestgørende at tale om ”mavefornemmelser”, man må se på hvad sådanne ”mavefornemmelser”, som ikke opstår i maven men i hjernen i virkeligheden er.
De 10 % bevidste hjernefunktioner kan med en vis ret sammenlignes med hvorledes en traditionel datamaskine bearbejder input – som nogle på hinanden følgende logiske kæder af ræsonnementer som kan efterprøves, men som til gengæld er totalt ukreative.
De 90 % underbevidste processer foregår på en helt anden måde. Når et problem takles af den underbevidste del af hjernen, bliver problemet samkørt med samtlige af individets erfaringer der bare svagt tangere problemet, hvilket ud over at give en uhyre bred fundering også muliggør nye kreative løsninger. Udfordringen er til gengæld, at det hele foregår i det underbevidste! Det ”output” som kommer op til overfladen og som kan registreres bevidst er følelser, fornemmelser, billeder og intuition.
For at kunne handle ud fra det fantastiske ”output” af disse 90 % helhedssammenkørte, på den samlede livserfaringsmasse baserede processer, skal vi altså ”bare” følge vore følelser, fornemmelser og/eller intuition!
Så nemt er det imidlertid ikke, hvilket virkeligheden dagligt demonstrerer med al tydelighed.
Vi er dyr med behov og drifter, og ovenpå disse voldsomme dyriske impulser har vi gennem opdragelse og livet tilegnet os mere eller mindre hensigtsmæssige holdninger og normer. Alt dette kæmper en vedvarende kamp om at indtage føringen. Når vore fantastiske og præcise underbevidste impulser dukker op til overfladen, bliver de derfor enten fortrængt eller vendt og vredet og derefter tolket ud fra egoets, kulturen, og den dyriske naturs råbende behov. Det er dette krydsfelt som brødføder præster, psykiatere, psykologer og mange alternative behandlere.
Det indlysende svar på ovenstående er, at det bedste man kan gøre er at udvikle sig til det punkt hvor man er i stand til at opfange svarene - følelserne, fornemmelserne, billederne eller de intuitive indfald - fra det underbevidste i ren form, men rent bortset fra nogle få gestalter som Jesus, Buddha og nogle få andre lykkes det ikke helt. Nogle af os bruger imidlertid en hel del af livet til at tage nogle få skridt på vejen.
Det der ikke kan lykkes individuelt kan måske takles kollektivt, og med ovennævnte forståelse kan vi derfor vende tilbage til hvorledes man i firma regi vil kunne hæve beslutningsprocesserne op så træfsikkerheden bliver omkring 10 % fra det optimale.
Det er så heldigt at alle mennesker er forskellige, vi har forskellige livserfaringer, forskellige behov, forskellige handlemønstre og nogen opfatter bedst deres følelser, andre deres fornemmelser, andre ser billeder og atter andre får intuitive indfald.
Du kender formodentlig forsøget med at gætte hvor mange glaskugler der er i et stort syltetøjsglas. Ingen af deltagerne har eksakte informationer og på trods her af ender gennemsnittet af gættelegen hver gang mindre end 10% fra det korrekte resultat. Hyperlinket fører til et eksempel.
https://www.google.dk/url?sa=t&rct=j&q=&es... (scroll til full transcript)
Man kan så på baggrund af forståelsen af menneskets hjernes funktionsmåde konstatere, at når man samkører mange menneskers vurdering af “værdi neutrale” input giver det et resultat som hver gang kommer til at ligger omkring 10 % fra virkeligheden.
Da resultater som ligger 10 % fra virkeligheden er langt bedre end hvad samfundsvidenskabelige, økonomiske og andre teorier og metoder kan præstere, har vi altså her mulighed for at udvikle en metode til beslutningstagning der langt overstiger de hidtidige benyttede.
Intet fører direkte ind i himmelen eller flyver som stegte duer direkte ind i munden! I dette tilfælde er problemet ”værdi neutral”. Det må formodes at deltagerne i ovennævnte type eksperimenter ikke har de store sociale eller følelsesmæssige bindinger til glaskugler, eller hvad man har valgt at lægge i glas beholderen. Følgelig kan vurderingen af antallet foregå forholdsvis ”værdi neutralt” og der er derfor ikke behov for en særlig stor gruppe for at få det til at fungere optimalt.
Når det drejer sig om beslutningstagning i den virkelige verden vil beslutningsgrundlaget i høj grad være ”kontamineret” af forskellige psykiske, fysiske, historiske og sociale forhold.
Demokratiets overlegne funktionsmåde i forhold til andre eksisterende styreformer, demonstrerer denne statistiske tilgangs brugbarhed, og det på trods af at der i demokratiske valg langt fra er tale om ”Værdi neutral” stillingtagen. Tværtimod gøres der i de politiske partier alt for at påvirke vælgerne med bestemte holdninger og dreje dem i bestemte retninger. Til gengæld er der tale om særdeles store grupper af deltagere.
Når man ser på de mest presserende "demokratiske" valg i vor nutid, BREXIT og USA´s præsident valg, er problemet, at man i begge tilfælde tvinger befolkningerne til at vælge mellem "pest eller kolera" hvor det befolkningerne i virkeligheden vil stemme om er noget helt andet - deres egen pressede økonomiske virkelighed! Deraf følger totalt skævvredne protest resultater.
I firma regi vil det altså kunne betale sig at bruge ressourcer på at gøre grundlaget for beslutningstagning så ”værdi neutralt” som mulig, idet man derigennem vil kunne opnå større præcision med en mindre gruppe deltagere. Under alle omstændigheder udstiller ovennævnte forståelse, at en effektiv og kontinuerlig udnyttelse af alle medarbejderes kollektive viden og forståelse vil kunne optimere beslutningsprocesserne, så firmaerne ikke ender som ringvrag på grund af ledelsens fejlagtige beslutningsgrundlag. Eksemplerne er mange, med Nokia som det mest spektakulære i nyere tid, men man kan med en vis ret også nævne IBM, Microsoft, Mærsk o.s.v..
http://videnskabeligindsigt.blogspot.com/2...

  • 0
  • 0

Er maskinlæring så rationelt eller blot mavefornemmelser.? Det kommer vel an på hvor rationelle de data der kommer ind er. Selvom maskinen gætter rigtigt hver gang, så er det basalt set stadigt kun en mavefornemmelse den kører på. Den ejer ikke evnen til at drage logiske slutninger, d.v.s. at sætter vi den til at konstruere et kraftværk, kan den f.eks. komme med et design på en evighedsmaskine, fordi den ikke bare lige kan validere logikken i det den kommer frem til.

Det er det vi kan med vores bevidsthed, men det er også det som kan give psykisk rod, når vi ikke kan kapere at sortere i mavefornemmelserne.

Det er et gennemgående træk at succesfulde firmaer opstår, blomstrer og i de fleste tilfælde sygner hen eller bliver opslugt af andre firmaer indenfor 3 generationer. At det forholder sig sådan har naturligvis noget med ledelse og beslutningstagning at gøre.


Det kan så ligesågodt være verden som ændrer sig. Reelt har vi jo ikke ret lang tids empiri på disse ting.

  • 0
  • 0