Robotter har brug for etik – men hvilken?

Man kan ikke stille en robot til ansvar for noget som helst - lige så lidt som man kan stille en pistol eller en hammer til ansvar. Den, som slipper en førerløs bil løs på vejene, har også ansvaret - og det samme gælder andre robotter. Det er ejeren, beslutningstageren bag robotten, som har ansvaret.

Og i større målestok når beslutningen er politisk, er det som når man sender soldater i krig - ansvaret ligger hos beslutningstageren. Soldater har nogle rettigheder, som giver dem mulighed for at sige fra i tilfælde af krigsforbrydelser, hvorfor de vil kunne blive gjort personligt ansvarlige for disse. Man kan opstille tilsvarende regler for robotter, men ikke holde dem ansvarlige.

Helt enig. Der er jo ikke forskel på de trafikregler som en selvkørende bil og et menneske skal overholde. Hvilket man godt kan godt blive i tvivl om når denne historie om dilemmaer gang på gang dukker op.

Altså hvad siger færdselsloven om de tilfælde hvor der er dårligt udsyn og risiko for legende børn på kørebanen? Den aktion som loven forventer af et menneske der styrer rundt i hierarkiet ude i trafikken, er samme som der skal programmeres ind i computerprogrammet der overtager styringen. Der er intet som helst etisk problem med det i virkeligheden.

Så ja man kan kaste sig ud foran selvkørende bil og fremtvinge uheld på alle mulige måder. Det vil jo i sagens natur aldrig kunne blive et etisk problem for hverken programmør eller producent. Og skulle vi så forlange at den selvkørende bil skulle opføre sig anderledes end hvis det havde været et menneske bag rattet.

Det virker på mig som om denne type af diskussion, vidner om angst for fremtiden. Det kan der værer gode grunde til at have, og det er slet ikke usandsynligt at en bil eller hvilken som helst anden maskine kan hackes og programmeres med et kriminelt forehavende for øje. Ligesom det heller ikke kan udelukkes at en computer eller en hvilket som helst anden maskine går i stykker og ikke virker efter hensigten mere.

Det er bare ikke det som disse dilemmafolk sætter op, det er "spøgelset" inde i maskinen de frygter.

Bevis først at en robot vil ændre adfærd ved udsigten til straf. Og drop så alle de spekulationer indtil vi har fundet ud af hvad bevidsthed er.

hvis valget står mellem førerens liv og den berømte børnehave, der netop er ved at krydse vejen

En kunstig intelligens/selvkørende bil der kan "overraskes" at en flok børnehavebørn, der "netop er ved at krydse vejen", er hverken intelligent eller selvkørende! Kun hvis børnene dumper ned foran køretøjet i en afstand, kortere end bremselængden, bør ovenstående scenarie kunne forekomme.

Hvis en kunstig intelligens eller en selvkørende bil virkelig skal kunne betegnes som netop det, bør den have forudset/beregnet alle mulige hendelser, og udføre dens/sin(?) kørsel i henhold hertil.

Kører du forbi børn og cyklister så du til enhver tid kan stoppe ved uventet retningsændring?

Måske jeg kan svare således: På almindelig landevej kører jeg aldrig forbi gående eller tohjulede, når der kommer modkørende eller ved 'uoverskuelig bakke eller vejsving' som jeg mener det hed da jeg tog kørekort. ;-)

Tilføjelse: Kører jeg aldrig eller kun langsomt

Det centrale spørgsmål er: "Billedet bliver højaktuelt, hvis valget står mellem førerens liv og den berømte børnehave, der netop er ved at krydse vejen. Er det overhovedet muligt at træffe det etisk korrekte valg?"

Svaret på den slags spørgsmål er simpelt nok: "Hvad ville loven kræve at en almindelig fører af køretøjet ville gøre?"

Når det selvkørende køretøjs software opfører sig på samme måde så kan jeg ikke se noget etisk dilemma for producenten af køretøjet.

Hvad ville loven kræve at en almindelig fører af køretøjet ville gøre

Loven kræver kun, at chaufføren forsøger at undgå en ulykke. - I hvert fald ikke, at chaufføren ofrer sit eget liv!

Jeg har vanskeligt ved at se hvordan "valget står mellem førerens liv og den berømte børnehave"-situationen, overhovedet skulle kunne opstå!

"Billedet bliver højaktuelt, hvis valget står mellem førerens liv og den berømte børnehave, der netop er ved at krydse vejen. Er det overhovedet muligt at træffe det etisk korrekte valg?"

Svaret på den slags spørgsmål er simpelt nok: "Hvad ville loven kræve at en almindelig fører af køretøjet ville gøre?"

Lige præcis. Ville en billist blive straffet for at pløje en børnehave, der pludselig løb ud foran bilen, ned, istedet for at slå sig selv ihjel ved at køre ud over en afgrund. Og svaret er nej. Der er ret klart hvad robotten skal gøre.

Ville en billist blive straffet for at at køre ind på fortovet og pløje en 90 årig medborger ned, for derved at undgå at pløje en børnehave, der pludselig løb ud foran bilen, ned. Og svaret er ja. Igen er det ret klart hvad robotten skal gøre.

Vi må nok konkludere, at i også i en verden, hvor robotter styre køretøjer, ser det sort ud for børnhavebørn der pludselig løber ud foran biler. Det er egentlig ikke overraskende.

Og så skal der iøvrigt en del til, hvis en hel børnehave skal skjule sig så godt, at en robot med konstant 360 graders udsyn på alle bølgelængder inklusive infrarødt ikke har set den på ganske god afstand.

Ville en billist blive straffet for at pløje en børnehave, der pludselig løb ud foran bilen, ned, istedet for at slå sig selv ihjel ved at køre ud over en afgrund. Og svaret er nej. Der er ret klart hvad robotten skal gøre.

Helt generelt bliver bilister straffet hvis de kører børn ned. Også selvom barnet pludselig løber ud på vejen.

Hvis en robot gør noget den ikke burde gøre, så destrueres alle robotter af samme serie/fabrikat. Desværre vil det gå ud over uskyldige som har købt den udgave, så løsningen er nok for radikal. De mere eller mindre selvkørende biler har fået sat nogle tanker i gang, som rækker langt. Politiet/NSA's gennemtravling af databaser og overvågning for at kunne udpege kommende/mulige røvere og terrorister eller kunstig intelligens til at stille lægelige diagnoser. Der er nok at tage fat på. Tænk bare på skattevæsnet, der beslaglagde en bil, fordi de skønnede at ejeren, som bor i Sverige, ville opholde sig for længe i Danmark. Mennesker der gør noget forkert/ulovligt efter råd fra en robot. (Tænk på skats ejendomsvurderinger).

Tjah - det har interesseret nogle filmstuderende og de har "hjulpet" Mercedes til tilrette deres automatiske bremsesystem:

https://www.youtube.com/watch?v=GI4Kr1PSwtQ

Dette ligger meget langt ud i fremtiden hvor programmering og sensorer skal være fejlfrit, ellers kan robotten komme til at træffe de forkerte valg.

For det første skal robotten være parat til at offer sig eller dræbe Jeg er ved at lave en test jeg kalder den nye standard for psykologi Og et af spørgsmålene er er det i orden at dræbe for at redde Andres liv svarne er ja nej ved ikke og svaret er klart ja En af forsøgs personerne svarede hvis man kunne have stoppet Breinvik fra at dræbe en masse unge mennesker var hans svar ja et et eksempel hvis en psykiater ordinerede dødelige dosis medicin Til sine patienter ville det så ikke være i orden at likvidere ham Ja nej ved ikke hvad er dit svar robotter skal have samme rettigheder Som mennesker og ansvar princippet om nødværge gælder vist her Dommer jury bøddel og nej man ville nok ikke blive dømt for at køre Op på fortovet for at redde 5 til 6 børn selv om det kostede en gammel Dame livet robotter skulle have ordre til at redde liv selvom det betød At de skulle dræbe ligesom når man dræber terrorister skulle vælge Jeg Mellem at dræbe dronning Margrete eller en børnehaven kan i nok Selv gætte hvilket valg jeg vil tage hvis jeg skulle vælge mellem og Skyde mig selv ud af et jagerfly med motor stop over en storby ville Jeg nok prøve at finde et sted at nødlande eller sigte efter det sted Hvor mindst mennesker kom til skade og bevidst crashe dette exempel Er Fra virkeligheden både pilot og fly overlevede prøv at sammenligne Med en skak computer den ofre gerne rask væk alle brikker for at kongen Er uskadt ellers er det game over det er et spørgsmål om at redde. s Så Mange liv som muligt og begrænse skaden hvis nogle bevist prøvede At ødelægge robotten så skulle den også have lov til at forsvare sig selv Ikke rart at høre nogle fortrækker at redde deres eget liv frem for flere Børns titanic tendenser mændene satte deres eget liv før kvinder og børn Ikke nogen tvivl om hvilken rolle du ville få i en film ikke den der kastede Sig på håndgranaten for at redde sine venner superhelt kontra super egoist En brandmand der ikke er parat på at sætte sit eget liv på spil er næppe Ønsket det samme gælder for soldater og bodyguards det er pogramørens Ansvar

Tvivler på det bliver et problem - og hvis, så vil det være den "pludseliges" skyld.

Det handler mere om at undgå problemer end at håndterer dem... Og der kommer mennesket til kort...

Når vi taler om selvkørende biler...

Man undervurderer totalt hvad "kunstig intelligens" er, kan og vil kunne:

En børnehave løber ikke pludselig ud på vejen - et af børnene gør måske og så vil en selvkørende bil sandsynligvis have større chance for at undgå et sammen stød end et menneske bag rattet.

Der findes en glimrende Youtube video der viser, hvad f.eks. Googles bil egentlig observerer - og det er langt mere end det gennemsnitlige menneske.

Jeg tror simpelthen ikke på dillemaet med om bilen skal vælge fortovet eller den anden vejbane. Bilen vil gøre alt for at begrænse sin egen indvirken på situationen - altså i bund og grund stoppe som en i helvede - og det er den langt bedre til end et menneske - samt den vil sandsynligt kunne dokumenterer hændelsen.

Hvor skulle man indtænke valget om man ville vælge uheldet med problemskaberen eller en tilfældig anden?

Når et barn der løber ud foran en - er det så bedre at - kører frontalt ind i faderen til fire andre børn i den modsatte vejbane? - Tage fortovet og nedlægge x antal mennesker?

Det kan hverken AI eller et menneske afgører i øjeblikket.

Selvfølgelig kan man nå at vælge for det første ikke købe en Bil man ikke er parat til totalskade og og være parat til at Køre frontalt ind i mur frem for at ramme andre mennesker Kendte en der kørte for hurtigt og var ved at køre nogle Mennesker ned men valgte at køre frontalt ind i husmur Bilen blev toltalt skadet han kom selv til skade men Ingen andre blev ramt det er hvad man kalder ansvarsbevidst Ligesom når nogen slå mig i hovedet og jeg ikke slår igen Fordi jeg er bevidst om hvor let det er at dræbe eller Gøre en til krøbling ved et uheld nu har jeg bare Prøvet det så mange gange at jeg som en inteligent robot Vil følge lovgivningen og bruge selvforsvar og så må idioterne selv tage Konsekvensen af at slå først eller angribe Og bruge Min ret til at forsvare mig selv ligesom en idiot der er ved at Udløse en atomkrig bør likvideres han er vist den Fiktive gamle dame i spørgsmålet og resten af verden de små børn Eller den ene person på skinnerne hvor man vælger at redde livet på de andre. og så står der vist i færdsels Loven at man skal køre efter forholdne og ikke en fiktiv Sat høj hastighed lidt ligesom tåge på en motorvej Hvor sigtbarheden er 5 meter er det vidst temmelig gak Gak at køre 120 km Og hvis man ser nogle børn spille bold tæt på Vejen er det vel meget normalt at sætte farten ned og Ikke hævde sin ret til at køre max hastighed Man skal passe på de svage trafikanter og det er op Til føren at holde afstand og sørge for der er overblik ligesom når man flyver man calkulere man altid med at motoren Kan sætte ud og kigger efter nærmeste sted at nødlande Eller det sted hvor flyet gør mindst skade det er nok Nemmest at pogramere billerne til altid at udregne bedste Måde at undvige på forhånd og hvor de gør mindst skade På sig selv eller andre worst chase scenario princip driving Folk der vil begå selvmord fulde folk mennesker der er på stoffer Blinde børn cykelister eller fodgænger der vælter eller skifter kurs heste der kan skræmmes at forvente det uventede på forhånd hunde der løber ud På vejen kidnappere der der vil gøre føren ondt elefanter der Er stukket af fra zoo eller bare elge der løber over vejen Hvad hvis en politi betjent pludselig hopper ud på vejen Kan en "robot" kende forskel på en politibetjent og en kidnapper Der vil stoppe dig eller en psykisk syg Når vi får flyvende biler skal det så også være op til en "Robot" at flyve den og bestemme hvor den skal crashe Hvis den får system fejl ha ha Og tag ikke fejl af kunstig intelligens de overgår mennesker Mange gange Hvad nu hvis trumps køretøj blev angrebet er det så bare I orden han pløjer sig igennem et par hundrede mennesker i En menneske mængde hvornår er 1 liv mere værd Flere andres Jeg vælger at skifte sporet og køre 1 menneske over i stedet For 4 med mindre jeg ved hvem alle er så kunne jeg sagtens Vælge det modsatte måske dem der hellere vil køre børn ned End at komme til skade selv Hvis en jager pilot vælger at bombe 200 terrorister for at redde En enkelt soldat så er jeg kold Testen er beregnet på psykopater selv psykopater kan tænke klart Har bare lidt nærmere ved at træffe valget Man skal nok være lidt psyco for at redde liv ved at dræbe Andre der ca 5% psykopater i befolkningen men sjovt har psykopater større sandsynlighed for at redde liv en at tage dem Og har mindre frygt en flertallet så det er måske dem der tager chancen Med klippen jeg personligt elsker at Cruise langsomt og ville nok have tid til at Bremse op i tide

Helt generelt bliver bilister straffet hvis de kører børn ned. Også selvom barnet pludselig løber ud på vejen

Nej, det gør de ikke. Forsikringen kan komme i spil, men det er en anden sag.

Grundlæggende vil en robot være en form for autist. Den vil kun forholde sig til situationer den kender og de regler den har fået lagt ind.

Der er to former for kunstig intelligens. Den programmerede og den neurale maskinlæring. I den programmerede kan jeg se logikken i at lægge nogle regler ind, men hvordan gør man egentligt det med maskinlæring? Og der er ingen tvivl om at maskinlæring er den mest potente af disse to. Men netop Microsofts Twitter chatrobot udstiller lidt problemet.

Jeg kommer altid til at tænke på et eksempel, hvor man har vist evnessvage hvordan man bruger et kondom, ved at sætte det på et kosteskaft. Derefter satte de kondomet på kosteskaftet og hoppede i kanen med hinanden. På samme måde vil der altid være situationer hvor robotterne i deres forsimplede verden ikke kan se det samme problem som vi mennesker kan.

Med de forsimplede domæner som robotterne befinder sig i idag er det ikke noget problem. Det er først når man f.eks. sætter mobile robotter til bevogtningsopgaver at det begynder at blive kritisk. Og f.eks. bevogtningsopgaven vil komme. Endnu værre når robotter begynder at designe robotter.

En anelse for tidligt for kunstig intelligens.

Ville en billist blive straffet for at at køre ind på fortovet og pløje en 90 årig medborger ned, for derved at undgå at pløje en børnehave, der pludselig løb ud foran bilen, ned. Og svaret er ja. Igen er det ret klart hvad robotten skal gøre.

Kan det underbygges - afsagt dom, paragraffer o.l.?

Loven kræver kun, at chaufføren forsøger at undgå en ulykke. - I hvert fald ikke, at chaufføren ofrer sit eget liv!

For ca. 40 år siden blev en kvinde frikendt i en dansk retssag for at have påkørt og alvorligt skadet to drenge, som krydsede kørebanen i en fodgængerovergang, fordi hun var bange for, at en brat opbremsning ville skade hendes egne to børn i bilen.