Selvkørende biler kan tage samme etiske beslutninger som mennesker - men skal de?
more_vert
close

Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og du accepterer, at Teknologiens Mediehus og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, job og tilbud m.m. via telefon og e-mail. I nyhedsbreve, e-mails fra Teknologiens Mediehus kan der forefindes markedsføring fra samarbejdspartnere.

Selvkørende biler kan tage samme etiske beslutninger som mennesker - men skal de?

Selvkørende biler kan programmeres til at foretage samme moralske og etiske valg i ubehagelige situationer, der kan koste menneskeliv. Illustration: J. Bonnefon et al., 2016

Forskere fra Universität Osnabrück har gennemført en række eksperimenter, der viser, at menneskers moralske og etiske valg under bilkørsel, hvor der uundgåeligt opstår kollisioner, kan sættes på formel.

Dermed er vejen banet for at lave en algoritme til selvkørende biler, så de vil handle på samme vis som mennesker, skriver Leon Sütfeld sammen med tre kolleger i en videnskabelig artikel i tidsskriftet Frontiers in Behavioral Neuroscience.

Som vi tidligere har skrevet om, har selvkørende biler som andre robotter, der interagerer med mennesker, behov for at have moral og basere deres beslutninger på en given etik.

Læs også: Robotter har brug for etik – men hvilken?

Det har dog længe været diskuteret, om det i det hele taget er muligt at give selvkørende biler en moral og etik, der svarer til den, mennesker har.

For at undersøge dette lod forskerne fra Osnabrück med anvendelse af virtual reality en række forsøgspersoner ‘køre rundt’ i et typisk forstadskvarter på en tåget dag, hvor de kom ud for en række hændelser, der førte til sammenstød eller mulige sammenstød med objekter, dyr og mennesker.

Forskerne fandt – noget overraskende ud fra andre forskeres formodninger – at den menneskelige adfærd kunne modelleres på en meget enkel måde ud fra den livsværdi, som forsøgspersonerne tillagde mennesker, dyr og objekter.

Denne adfærd kan på forholdsvis simpel vis udtrykkes i en algoritme til eksempelvis en selvkørende bil, som derfor vil træffe samme etiske beslutninger.

Det nye dilemma

Men som en af forskerne, Peter König, forklarer i en pressemeddelelse fra universitetet, efterlader det i virkeligheden samfundet med et andet dilemma:

Ønsker vi, at selvkørende biler – eller andre robotter for den sags skyld – skal handle, som mennesker vil gøre, eller ønsker vi, at de har en højere moral – og hvordan og af hvem skal en sådan moral defineres?

Som det er er beskrevet i boksen om togvognsproblemet, er det også muligt at påvirke og forandre menneskers moral med medikamenter.

Så et andet spørgsmål er, hvad der er typisk menneskelig moral. Og skal producenterne af selvkørende biler have forskellige moralske algoritmer til forskellige kulturer, hvor værdien af mennesker og visse dyr som hellige køer tillægges forskellige værdi?

Mon ikke det er noget, som også forsikringsbranchen interesserer sig for.

sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Maskiner har ikke moral men funktioner. Det kan godt være at disse funktioner er fremkommet med moralske overvejelser, men det er en anden historie!

  • 11
  • 1

Citat: "Ønsker vi, at selvkørende biler – eller andre robotter for den sags skyld – skal handle, som mennesker vil gøre, eller ønsker vi, at de har en højere moral – og hvordan og af hvem skal en sådan moral defineres?"

Hæ Hæ! Godt spørgsmål.

Hvis en bil ikke kan undgå at ramme en af to personer, skal bilen så vælge at påkøre den ældste? Den yngste, da denne har større chance for at overleve sammenstødet?


En selvkørende bil kører på motorvejen. En person står med en stor sten oppe på en bro over motorvejen. Et menneske kan forudse personen vil vippe stenen ned på motorvejen. Kan en selvkørende bil det?

En lille dreng med en bold går på fortovet med sin far i hånden. En person vil vurdere der er ingen fare på færde. To små drenge går med en bold på fortovet, en person vil konkludere der er lille fare. Drengen taber bolden, en person vil konkludere der er stor fare nu. Kan en selvkørende bil det?

  • 4
  • 5

Men langt de fleste gange vil den selvstyrende bil bremse hurtigere end mennesker, så den etiske løsning er at få mennesker ud af førerrollen hurtigst muligt.

Hver gang jeg ser den, ser jeg stor palaver og folk der vil forbyde robotbiler, men hurtigt glemmer at mennesker er skyld i de fleste fejl i trafikken.

  • 20
  • 3

@ robotbilen kan lære det hvis den programmeres til det. Og glemmer ikke som vi andre gør.
Så det er ikke et reelt problem du prøver at fremføre.

  • 4
  • 0

Hvis det ene offer løber en selvvalgt risiko, da må personen også både for det. Bilen selv skal vælge det forløb som er mest i overensstemmelse med færdselsloven.

Evt skal loven præciseres mere end det er relevant for mennesker.

Forudsigelighed er det vigtigste.

  • 4
  • 1

Ja selvfølgelig kan de det. Hvorfor tror du, maskiner ville være dårligere til simpel mønstergenkendelse end mennesker?

Faktisk taler alt for, de er bedre, da de vil reagere på faktiske mønstre og ikke fordomme om mønstre.

  • 7
  • 1

...definerede en fætter ved navn Asimov regler for robotter.
De er ret klart defineret... og kan i øvrigt sagtens bruges.
Problemet er ikke robotetisk, problemet er:
Hvilken producent vil sætte en robot i produktion som vælger at tilintetgøre sig selv (og dermed i en bils tilfælde ejeren) i stedet for en flok skolebørn ?

Det vil de kun hvis de kan støtte sig op ad en lovgivning som klart siger at:
1. der kan være situationer hvor bilen må begå "selvmord" for at redde nogen som befinder sig uden for bilen
2. der skal være en "sort boks" i stil med fly så en ulykke kan analyseres indgående

  • 5
  • 0

så den etiske løsning er at få mennesker ud af førerrollen hurtigst muligt.


Det kan jeg kun være helt enig i.
Det etisk korrekte valg må være at reducere antallet af trafikofre mest muligt, hurtigst muligt. (indenfor teknisk og økonomisks mulige rammer)

Og det betyder at mennesket skal fratages kontrolleren med bilerne hurtigst muligt.
Det alene vil nok rede over en million liv om året.
Og adskillige millioner kvæstede.
(De økonomiske samfundsbesparelser for hele verden vil nok rende op i hundrede af milliarder. Ikke at det er så vigtigt i denne sammenhæng)

Så hele denne fnidder fnadder om detaljerne i nogle ret søgte og meget sjældne situationer er totalt akademisk.
De fleste gange disse problemer forekommer idag vil sandsynligvis kunne forebygges med en føre der køre ordentligt og er opmærksomt hele tiden.
Det vil en computer baseret system være meget bedre til end et gennemsnitligt menneske.

Engang i en fjern fremtid hvor 90 % af de idag almindelige uheld er fjernet, så kan disse eksotiske situationer måske blive så stor en del af uheldene at der skal gøres noget ved den.
Men lige nu, så vil disse moral-fortalers fokus på en ekstrem lille procentdel af ulykker kun føre til at udbredelsen af diverse mere eller mindre autonome sikkerhedssystemer i biler bliver forsinke.
Med den konsekvens at mange flere vil blive kvæstet og dø hvis vi venter i årevis på at disse ekstre komplikationer bliver indbygget i noget allerede meget kompliceret software.

Hvad er det moralske aspekt i det?
Jeg ville gerne høre disse moral-forskeres mening om at de selv faktisk ender med at forårsage mange flere dødsfald end nødvendigt.

  • 4
  • 4

Sikke noget ævl om 'etiske valg'. Det vil spare tusinder af liv at AI systemer er hurtigere end os og bruger mindre tid på at skrive sms og gå på FB under kørslen.

  • 4
  • 1

Hvis det er situationen på billederne er det da meget nemt. Den skal stoppe hurtigst muligt. Hvis den ikke kan det, skal den køre så langsomt som muligt, når den rammer menneskerne, der har forvildet sig ud på kørebanen. Det er vel deres egen skyld at de er foran bilen...

  • 0
  • 2

Vi har mere brug for intelligent infrastruktur (intelligente veje) og intelligente biler end for selvkørende biler. Vi har allerede teknologien til at kontrolere hastigheden i alle biler (tvinge biler til at overholde hastighedsbegrænsninger), og bruger den ikke.

  • 3
  • 2

Hvad skal de unge knægte lave, når de ikke længere kan fræse rundt i gamle udbrændte smadderkasser, med hjemmesvejste lydpotter, der larmer 4 gange mere end lovligt - strikkekursus? Hvad gør vi ved den typiske brian. Kan han undgås ved ordenlig opdragelse eller skal vi blot sætte en maskine til at passe ham, med målrettet medicinering, indtil han kan sendes ud i samfundet igen - når han er blevet ældre og lidt træt og ikke længere gider gøre så meget modstand.

Hvis man nogensinde bliver taget i at benytte FB, imens man køre bil - så burde det være hele køreprøven om igen - samt lukning af din FB konto i et halv år.

Samlet set - hvor skal grænsen gå - for kontrol af mennesket?

  • 2
  • 5

Der er et ordsprog der siger: lad os lige se manden før vi tager hatten af.
Lad os lige se føreløse biler først og glæde os over den forventelige gevist i nedgang af bilulykker, inden vi forsyner disse biler med moralske kvababbelser, som ingen menneskelige chauffører er nødig at besidde.

  • 5
  • 1

Bilen skal stoppe hvis den kan. Gøre unvigelse manuver kun hvis vurderet sikker.
Tog og sporvogner stopper dårlig for personer ude på sporet. Det har vi mennesker forstået.
På samme måde kommer det i avisen og på nyhederne om nogen har forvillet sig ud på en motorvej, og går i nødsporet. Det blæses op som meget farlig :-)
Så en selvkørende bil skal på ingen måde vurdere tabstal for andre mennesker som opholder sig korrekt sted, når den som er på forkert sted tydelig har lavet fejl...
Problemet kan altid være en selvkørende bil fejler, og liv går tabt... men det er så hvad det er.... en fejl som helst ik må ske.. men det skal nok komme nogle situationer hvor det sker ulykker, også med selvkørende biler.

Det er et langt stykke frem før selvkørende klarer alle vejforhold, specielt i Norge og andre med snø og dermed ingen tydelig vejmærkning.
Så der vil det være uakseptabelt med selvkørende infrastruktur som går i stå 100 dage om året.

Man kan nemt se for sig at man definerer sikre strekninger, hvor veje er lavet med sensorer, magneter etc, for guiding af bilerne uden baseret på striberne i vejen.
Og så når man kommer til tæt befolket, eller svære områder, så beder bilen om hjælp til at støtte eller køre hvis behov. Bilen vil være i stand til at vurdere destinationen i forhold til selvkører egenskaberne den har. Så hvis bilen transporterer kun børn, eller voksen uden certifikat, forslår bilen nærmeste sted den kan lave for dropoff..
Det er også tosset at selvkørende biler holdes op i mod analog og visuel håndtering af vejinformation og skilte.
Dette må kunne defineres per. Kort og eventuelt gps, hvis smartroads mangler beacons og sendere som annoncerer som ærstatning for skilte.

På samme måde som hybrid biler er en mellemstation for fuldt elektriske biler, er det altså blot i en konverteringsfase vi har disse problemstillinger for at komme ind på markedet.. Og manuel kørsel kan fint opnåes mulig på elektroniske støttede veje, blot med en modtager som viser skiltene på display, eller pr. Voice i gamle biler. Eventuelt en headup display som viser simulerede vejbane markeringer.
Så var det helt slut på skilt som skemmer mange steder....win-win. Og opmærkning af vejbaner helt unødvendig. Istedet kun virtuel mærkning.

  • 1
  • 1

Moralsk opførsel er indbegrebet af, hvad en given person eller en gruppe af personer anser for sømmeligt og rigtigt for menneskelig handlen. (wikipedia).
Moral medfører også et ansvar. Hvem har ansvaret for handlinger udført af automatiske maskiner.
Uanset hvor anvanceret disse bliver, vil de kun kunne handle i forhold til et program. De vil aldrig kunne "forstå". Moral handler også om forståelse.

  • 2
  • 0

men AI'en er ikke perfekt


Lige præcis.
Det er kameraer, og følere heller ikke.

Det er godt at erkende at mennesket er fejlbarligt.
Men det er selvkørende biler også.
Ligesom dem, der vælger opsætning og komponenter, er tilfals for profit, prestige og bonusser.

  • 2
  • 2

En problematik som jeg synes mangler i debatten.
I vores samfund har den der bevæger sig i trafikken et ansvar og vil være skyldig hvis der sker skade på andre.
Et ikke uvæsentligt problem er, hvis en selvkørende bil laver en skade på en person, hvordan vil man straffe en selvkørende bil ?
Hvem skal udrede erstatning for skaden, er det bilejeren eller er det bilproducenten?
Mon ikke bilproducenterne fraskriver sig ansvar, så vil det være føreren af bilen der har ansvaret for kørslen.
En tænkt situation "En selvkørende bil kører på en motorvej, ejeren af bilen er uopmærksom og en uforudset hændelse er årsag til en ulykke.
Hvem har skylden og hvem skal erstatte de skader der sker ?
Sidste sætning inspireret af Arthur C. Clarke - "Rumrejsen 2001" hvor HAL9000 næsten myrder hele sin besætning.
En lidt skræmmende fremtidstanke, hvad hvis AI-bilen bliver bekymret over at blive skiftet ud med en nyere model.

  • 2
  • 2

Det er selvfølgeligt et problem der skal afklares inden selvkørende biler bliver udbred.
Men jeg tror faktisk ikke problemet er så stort som det umiddelbart kunne syndes.
Du nævner at bilproducenterne nok vil fraskriver sig ansvar. Men det kan de jo ikke bare gøre.
Hvis der idag sker et uheld fordi der er en hidtil ukendt designfejl på bremserne af en biltype, så kan bilproducenten ikke bare fraskrive sig ansvaret, og læsse det over på ejernes/føreren.
Men hvis uheldet sker fordi bilen ikke er blevet vedligeholdt ordenligt så er det ejernes/føreren ansvar.
Noget lignede må gælde for autonome funktioner i biler. Producenten kan ikke bare sige at det er ejernes/føreren ansvar at sikre at software koden er skrevet ordenligt.
Men det vil blive ejernes/føreren ansvar at sørge for at softwaren er opdateret, og at sensoren er i orden.
Nøjagtigt som det idag er en ejernes/føreren ansvar at bilen er vedligeholdt, at lyset virker og der er nok bremsevæske på bremserne.

Der skal nok komme en del juridiske spidsfindigheder omkring autonome funktioner i biler, men det tror jeg ikke vil blive den begrænsende faktor.

  • 1
  • 1

hvis de alligevel skal ødelægge glæden ved selv at føre køretøjet gennem landskabet og pakke enhver ind i risikofratagelse.

Hvis så bare det her med førerløse biler handlede om at spare menneskeliv. Men det gør det ikke. Det er bare en ny, uopdyrket branche. Hér er et bjerg, dét må bestiges. Og det er fint nok. Bare ikke forsøge at sælge lorten som guld.

  • 2
  • 1

Problemet er ikke robotetisk, problemet er:
Hvilken producent vil sætte en robot i produktion som vælger at tilintetgøre sig selv (og dermed i en bils tilfælde ejeren) i stedet for en flok skolebørn ?


Lige præcis! Problemet er, at vi erstatter en menneskelig fører, der er udstyret med en selvopholdelsesdrift, med en robot, der kun har den selvopholdelsesdrift på egne og passagerernes vegne, vi udstyrer den med.

M.h.t. erstatningsansvar er der ikke nødvendigvis behov for store ændringer i.f.t. i dag: Vi har objektivt (stort set) ansvar for skader forårsaget af motorkøretøj, og lovpligtig ansvarsforsikring. Man må dog gå ud fra, at ansvarsforsikringspræmien ikke vil afhænge af ejerens alder, skadeshistorik m.m. som i dag, men vil være afhængig af bilens størrelse/vægt, kørte km pr. år m.m.

M.h.t. strafansvar er der derimod behov for større ændringer. Det giver jo ikke mening at straffe ejeren af bilen med bøde, klip i kørekortet (hvis hun ellers har et) eller fængsel, fordi bilen af sig selv kører over for rødt og forårsager en ulykke.

  • 0
  • 0

Det er selvfølgeligt et problem der skal afklares inden selvkørende biler bliver udbred.
Men jeg tror faktisk ikke problemet er så stort som det umiddelbart kunne synes.


Jo!! Det er den absolut største hindring for udbredelsen af autonome køretøjer! Ingen producent vil producere de køretøjer hvis de skal stå på mål for ethvert uheld (objektivt ansvar).
Som det er idag HAR føreren som udgangspunkt ansvaret for alle skader - også de der måske hidrører fra fejl i konstruktion eller software eller hvad har vi.
Føreren kan så evt. gøre regress mod producenten (det sker nok ikke).
Hvis vi nu forestiller os at vi fortsætter sådan - hvem er så føreren? Der er jo ingen i køretøjet der har styregrejer så det kan vel være alle i køretøjet? Eller ejeren? Det er et udlejningsfirma/taxi/whatever, hvor du bare kalder en ledig vogn via en app.
Det ER et reelt problem.
Og at "forbyde" manuelt styrede køretøjer er absurd. Der vil være diverse vejarbejdsmaskiner og andet (cyklister og fodgængere) som ikke er autonomt så det skal de autonome køretøjer også forholde sig til.

  • 1
  • 1

Hvis man kører efter forholdene, kommer man simpelthen ikke ud for, at skulle tage stilling til, hvem man skal slå ihjel, og det gør en autonom bil heller ikke - debatten er totalt afsporet og debatoplægget hører ikke hjemme på et forum for voksne mennesker.

Jeg har 50 års erfaring med motoriseret kørsel på flere kontinenter (startede tidligt), og omkring 20 lande , og har aldrig endsige følt, at jeg var tæt ved at skulle foretage et sådant valg, så mit spørgsmål er nu, hvor mange her har slået nogen ihjel og bagefter tænkt, at de kunne have gjort det bedre - altså slået en anden eller andre ihjel, samtidig med, at der blev kørt efter forholdene?

  • 1
  • 2

Ingen producent vil producere de køretøjer hvis de skal stå på mål for ethvert uheld (objektivt ansvar).


Forsikringsselskaber vil da gerne stå på mål for et objektivt ansvar, allerede i dag. Vi har jo alle en ansvarsforsikring på vores bil, og der er objektivt ansvar for de skader, en bil forvolder.

Så i dag vil nogen (forsikringsselskaberne) mod betaling påtage sig risikoen. Og nogen (vi bilister) vil betale dem for at påtage sig denne risiko.

Du har ikke argumenteret for, hvorfor dette pludselig skulle ændre sig, hvis ulykker skal kunne gøres til producentens ansvar. Ligesom ejeren af bilen i dag kan betale en ansvarsforsikring, kan producenten i fremtiden betale en ansvarsforsikring. Javist, han skal så have flere penge for bilen for at dække omkostningerne til forsikringen, men det har ejeren så også råd til, da han ikke længere skal betale (lige så meget i) forsikring.

Så medmindre du kan argumentere for, at forsikringspræmien skal blive højere, hvis producenten skal betale den, holder din argumentation ikke.

Det er klart, at lovgiverne skal vedtage noget ny lovgivning vedrørende erstatningsansvar, og at forsikringsselskaberne skal udvikle nogle nye produkter. Og hvad så? Det er da bare banalt håndværk, som begge parter før har håndteret, når der kom noget nyt ind i vores verden.

  • 0
  • 0

Hvis man kører efter forholdene, kommer man simpelthen ikke ud for, at skulle tage stilling til, hvem man skal slå ihjel,


Njarh...

Som jeg forstår dig, mener du, at man ved at køre efter forholdene kan gardere sig mod ulykker, og dermed også gardere sig mod at skulle træffe valget.

Det tror jeg ikke på. Der er masser af andre trafikanter, der kan forårsage ulykker, som man ikke kan gardere sig mod ved at køre efter forholdene - medmindre vi stopper og og kigger os grundigt til begge sider, hver gang vi kører over for grønt, aldrig kører på en vej med modkørende biler osv.

Men jeg vil til gengæld sige, at det etiske dilemma er et blålys. Hvis mennesker i en ulykkessituation kunne foretage fornuftige, etiske beslutninger, så kunne vi måske begynde at kræve det samme af maskinerne. Men vi mennesker tager jo ikke fornuftige, etiske beslutninger. Vi handler med hovedet under armen i panik og ender med at gøre et eller andet tilfældigt, uden nogen form for etiske overvejelser.

Hvis man ikke tror mig, kan man google efter ulykker, hvor en bilist har slået sig selv eller andre mennesker ihjel i forsøget på at undgå en påkørsel af et lille dyr på vejen. Så meget for etiske beslutninger...

  • 2
  • 0

Njarh...

Som jeg forstår dig, mener du, at man ved at køre efter forholdene kan gardere sig mod ulykker, og dermed også gardere sig mod at skulle træffe valget.


Så læser du mig forkert - Hvis man kører efter forholdene, kommer man ikke i en situation, hvor man skal vælge mellem to forskellige mulige trafikdrab. Det er ikke det samme som at undgå ulykker, selvom kørsel efter forholdene også hjælper gevaldigt på dette punkt.

Jeg venter stadig på at høre fra en, der mener, at han/hun kunne have slået andre ihjel med et bedre etisk resultat.

medmindre vi stopper og og kigger os grundigt til begge sider, hver gang vi kører over for grønt, aldrig kører på en vej med modkørende biler osv.


Hvis man udover at køre efter forholdene også altid er opmærksom i trafikken, kan man undgå rigtigt mange ulykker, også selvom de skulle være forårsaget af "andre".

Hvis man ikke tror mig, kan man google efter ulykker, hvor en bilist har slået sig selv eller andre mennesker ihjel i forsøget på at undgå en påkørsel af et lille dyr på vejen. Så meget for etiske beslutninger...


Det har intet med en etisk beslutning at gøre - det er en fejlbeslutning og manglende evne til at føre køretøjet.

  • 1
  • 0

Gør som vi plejer - lav en simpel, pragmatisk og økonomisk opdragelse af folket. Sæt et kamera i bilen der filmer din kørsel. Hvis forsikringen hæves helt vildt for dem uden kamera, så vil folk ganske kvikt hoppe med på vognen og så kan man langsomt men sikkert hæve forsikringen helt vildt på normale biler uden kamera. Money talks!
Det virker jo helt vildt godt i udlandet:
https://www.youtube.com/watch?v=qmsQ-obL1Z4

Måske virker det ikke helt efter planen - men vi tjener penge!

Nå - måske man skulle gøre det samme, som i Norge. Hyr en filosof til at stille de spørgsmål, som måske kan give gode indspark til en typisk ingeniørs teknokratiske opfattelse(opfat ikke dette som kritik - men jeg mener vi skal være mere åbne omkring vores hver især stærke, såvel som svage sider - for at opnå et samarbejde der kan løfte dette samfund ind i fremtiden).
Starter 4 minuter inde:
https://www.youtube.com/watch?v=uGTzbj3fRSw

  • 0
  • 0
Bidrag med din viden – log ind og deltag i debatten