DEBAT: Hvor sikre skal selvkørende biler være?

Kvinden er 100% uskyldig og i sin gode ret til at forvente at enhver med kørekort afpasser din hastighed til forholdene.

i sin gode ret til at forvente at enhver med kørekort afpasser din hastighed til forholdene.

Det der er ikke et problem. Det er en katastrofe.

Kvinden er 100% uskyldig og i sin gode ret til at forvente at enhver med kørekort afpasser din hastighed til forholdene.

Uber kører omtrent i blinde og kan så derfor højst klare 10 kilometer i timen og må derfor øve sig på lukkede baner.

Rystende at systemet ikke fungerer.

100% åbenhed og klar identificering af de skyldige samt enorm erstatning.

Jeg undlader at se en video med nogen der bliver dræbt. Men som jeg forstår det, så undviger bilen ikke. Burde den ikke have reaktionstid til det? Har den overhovedet programmering for undvigemanøvre og er det en generel mangel hos de selvkørende biler?

Jo den burde have gjort noget. Jeg prøvede at tage tid på min egen reaktion, og det under et sekund fra at jeg kan se noget til bilen rammer. Og der er jeg vel og mærke parat til at noget skal ske. Et oplagt menneske ville have nået at køre venstre om og det skal robot bilen i den grad også være i stand til. Robot bilen ved oven i købet at der ikke kommer nogen bagfra eller forfra i modsatte kørebane.

Ja, der kan ikke være tvivl om, at Volvos software fejler her. LIDARen burde uden problemer have set damen/cylken.

Ja selv kameraet burde have nået at reagere og forsøgt en nedbremsning, som så nok ikke kunne nås.

Måske nogen fodgængere skulle udstyres med selvgående teknologi. Damen har jo fuldstændigt fejlberegnet bilen og egen hastighed og gør intet for at rette op på fejlen. Men det der er sket er nok at hun har tænkt at bilisten sagtens kunne se hende og venligt sætte hastigheden ned. Havde der dog bare været reflekser på dækkene.

Min gud hvor er det dumt.

Jeg undlader at se en video med nogen der bliver dræbt. Men som jeg forstår det, så undviger bilen ikke. Burde den ikke have reaktionstid til det? Har den overhovedet programmering for undvigemanøvre og er det en generel mangel hos de selvkørende biler?

Men en selvkørende bil burde her kunne detektere (med alle sine sensorer) at der er noget som bevæger sig på vejen i retning af en kollision

Jeg har set videoen nu. Jeg kan delvis godt forstå at en alm. bilist vil blive overrasket over en person midt på kørebanen pga. mørket. Men en selvkørende bil burde her kunne detektere (med alle sine sensorer) at der er noget som bevæger sig på vejen i retning af en kollision. Vejen er jo helt øde og ingen andre distraherende ting ude i siderne. Lige præcis i disse situationer har jeg tidligere tænkt at en selkørende bil ville være en menneskelig chauffør langt overlegen (uanset om det er bælgmørkt, tåget eller lign.). Altså at vi virkeligt ville kunne høste sikkerhedsfordelene ved selkørende teknologi.

Politiet har nu frigivet en video af ulykken, set indefra bilen.https://mobile.twitter.com/TempePolice/status/976585098542833664

Så vidt jeg ved dør folk, der springer ud foran tog ofte.

Nah - det sker i reglen højst een gang.

(sorry)

Vi kan ikke undgå uheld med førerløse biler, men så længe uheldsraten er lavere end ved biler med fører har vi vundet på det.

Så regnestykket er mere kompliceret end som så, og det kan vise sig at være mere relevant at se på, hvor mange mennesker der i alt bliver dræbt af biler pr. år, per capita, før og efter en introduktion af førerløse biler. Det kan sagtens vise sig, at førerløse biler skal være væsentligt sikrere end menneskeførte biler, bare for at balancen er lige og vi ikke begynder at slå flere mennesker ihjel i trafikken.

Så vidt jeg ved dør folk, der springer ud foran tog ofte.

Man kan aldrig gardere sig 100%, mod folk der dukker op som en trold af en æske.

Så man kan helt bestemt gardere sig langt mere, end Uber havde valgt at gøre. Man kan forsvare, at et menneske ikke kan se en person pludselig komme ud af mørket, fordi vores sanser er så begrænsede, men man kan ikke forsvare, at en maskine ikke kan se personen.

Og hvis du så påstår, at du faktisk mente at man ikke kan gardere sig eksakt 100 %, så bliver dit udsagn jo komplet indholdsløst, som alle andre tautologier, og hvorfor sagde du det så? Med andre ord kan jeg kun opfatte det som at du må have ment, at det er helt okay at slå et vist antal personer ihjel, selv om man sagtens kunne have undgået det – hvis blot disse drab resulterer i en besparelse og dermed et højere afkast til ejerne af de virksomheder, som fremstiller bilerne. Ejere, der som bekendt allerede er så hovedrige, at de på ingen måde har brug for de ekstra penge.

Så nej, det er ikke okay eller undskyldeligt, at bilen ikke så vedkommende fodgænger, blot fordi hun ikke reflekterede eller udsendte elektromagnetiske bølger i det meget snævre spektrum, som mennesker tilfældigvis kan se.

Der kan være situationer, hvor selv en maskine er forsvarsløs, fordi den uanset hvad ikke ville kunne have sanset at en person var i nærheden, men ud fra hvad jeg har forstået om situationen er dette ikke en af disse. Det ligner alt for meget en besparelse fra et firma, der i forvejen har et meget blakket ry som værende ligeglade med både love og folks sikkerhed.

Min tanke er, at i en førerbetjent bil kunne man forvente, at bremsen blev aktiveret inden sammenstødet, også selvom det var for sent til at afværge kollisionen.<br />

En bil der køre med 50 km/h, bevæger sig 13,89 m/s. Et almindeligt menneske har en reaktionstid på 1-2 sekunder afhængig af alder m.m. (simpel bremsetest hvor billisten er forberedt på at han snart skal bremse)

En fodgænger der går med 5 km/h, bevæger sig 1,39 m/s. Dvs. hvis fodgængeren er under 1,4 meter inde på vejen, når sammenstødet sker, så har billisten ingen mulighed for at nå at flytte foden fra speederen og over på bremsen (under forudsætning af at fodgængerne ikke har været synlig før vedkommen går ud på vejen). Snakker vi om en ældre billist, med en reaktionstid på 2 sekunder, når fodfængeren at bevæge sig 2,8 meter og kan principielt være nået forbi bilen og over på den modsatte vejbane...

Så vidt jeg ved dør folk, der springer ud foran tog ofte. Det kan ikke hindres. Ganske vist har metroen indført et mærkeligt dobbelt dørs skærm system, som fører til dobbelt så mange driftfejl. Mere teknik der skal fungere sammen. Men det er jo kun på nogle stationer. 2008: 24 døde bare i lille Danmark 2009: 32 " 2010: 23 " 2011: 26 " 2012: 44 " merehttps://torontolife.com/city/priority-one-suicides-on-the-subway-tracks-how-many-how-often-and-how-to-stop-them/

"§ 3. Trafikanter skal optræde hensynsfuldt og udvise agtpågivenhed, så at der ikke opstår fare eller forvoldes skade eller ulempe for andre, og således at færdslen ikke unødigt hindres eller forstyrres. Der skal også vises hensyn over for dem, der bor eller opholder sig ved vejen."

Jeg kommer aldrig til at anerkende udtalelsen: ”Bilisten havde ikke en chance for at undgå…”

Den opmærksomme bilist tilpasser kørslen efter forholdene. - Aflæser kropssprog, - forudser hvad der kan gemme sig bag forhindringer, - afventer øjenkontakt, - forventer andres fejl, - lægger margen ind til egne fejl, osv.. Intet dukker op omkring bilen ud af ingenting, - om end noget der smides ned bag en motorvejsbro unægtelig kommer tæt på. Udfordringen kan naturligvis være meget stor.

Den selvkørende bil har muligheder for mange flere parallelle ”sanseindtryk” end mennesket, og kan fastholde ”koncentrationen” selvom der sker andre ting, så på sigt bør den blive meget bedre end de bedste bilister. Det sværeste må blive, at eftergøre menneskets evne til at aflæse andre menneskers intentioner.

Flere er på dette alt for tidlige tidspunkt ude med teorier - så her er endnu en: Den selvkørende bil vurderede, at det bagved kørende køretøj ikke ville kunne nå at standse i tilfælde af hård opbremsning. Derfor beslutter bilen at lave en nedbremsning, der "kun" koster et menneskeliv. Passageren i den selvkørende bil og personerne i det bagved kørende køretøj blev reddet! Ja, måske har den selvkørende bil registreret i sin database antallet af reddede personer?

Men er bil-inspektørere i dag uddannet til kunne analysere software i selvkørende biler? Eller får producenterne selv lov til at lave en konklusion?

Ordet "Snydesoftware" bliver måske mere og mere aktuelt?

Det er væsentligt, at producenterne af de selvkørende biler tager ansvaret, når der sker uheld.

Hvad betyder det at tage ansvar for forudsigelige dødsulykker ?

Det er korrekt at et neuralt netværk som sådan ikke direkte vil blive distraheret af situationer den ikke har trænet. Den vil stadig koldt og roligt vælge det bedste af N reaktionsmønstre ud fra en forholdsvis simpel score.

Men et NN kan sagtens blive "distraheret' af det man kalder lokale minima under træningen således det i virkeligheden ikke har forstået hvad den optimale løsning er på det givne problem. Derved kan det ende op med at vælge forkert.

Og det kan være umådeligt svært på forhånd at vide om det er endt i sådan en situation under træningen.

Så jo de kan sagtens begå fejl og fejlene behøver ikke at se konsekvente ud da kompleksiteten af et sådan NN vil være temmelig stor.

Nu kender du og jeg jo godt Færdselsloven, men der findes altså en del derude, især automobilignoranter, som virkelig kører efter minimumsmålet.

Hvis de kører efter din udlægning så kører de jo langt under minimumsmålet og burde få taget deres kørekort eller på anden måde blive frakendt retten til at færdes i trafikken.

Under alle omstændigheder så skal sådanne fjolser da ikke sætte standarden for hvad et selvkørende køretøj skal kunne forudsige. Her må man da finde et fornuftigt niveau og så lade dem lære det gennem darwinistisk udvælgelse.

Man kunne jo argumentere at når mennesker får lov til at kører så langt under minimumsmålet så kan kravet til selvkørende køretøjer jo heller ikke ligge meget højere. Hvis et sådan køretøj bare middelmådigt klare lovens krav er det jo åbenbart lysår foran menneskers færden.

Umiddelbart vil jeg jo mene at bare køretøjet kan overholde at "se" og afpasse efter forholdene så er det jo en klar forbedring i forhold til hovedparten af de mennesker der får kørekort.

Hvad ansvarsfordeling angår, så har sådanne køretøjer vel "sorte bokse" som kan påvise hvordan situationen udviklede sig og det må vel så være op til forsikringsselskaber og i sidste ende dommere at bedømme hvilken af parterne der skal have skylden for hvilke dele af et uheld. I de tilfælde hvor det måtte være køretøjet har ejeren, brugeren, leverandøren eller mekanikerne der har arbejdet på køretøjet det endelige ansvar.

Igen må det i sidste ende være op til domstolen at fastsætte ansvarligheden for køretøjet. Der vil nok komme forskellige løsninger fra forskellige fabrikanter og i hvilket omfang dem er sidder i køretøjet er chauffør vil nok variere.

Den korte version er vel at ansvarsfordeling ikke er et teknisk problem men et juridisk og løses kun gennem sager der kommer for domstolene. Efterhånden som de mere absurde domme kommer frem i offentligheden vil politikerne så begynde at lave nye love med henblik på at "løse" problemstillingerne ganske som de plejer.

Bilersnes AI skal helst have en IQ på 140, så den kan bedømme situationen og ikke bare lave tilfældige gæt.

Jeg har læst andetsteds, at bilen ikke bremsede før den ramte fodgængeren, der var ved at krydse vejen med sin cykel. I så fald er vedkommende næppe sprunget, løbet eller hoppet ud foran bilen. Men igen, hvad skete der egentlig? Min tanke er, at i en førerbetjent bil kunne man forvente, at bremsen blev aktiveret inden sammenstødet, også selvom det var for sent til at afværge kollisionen. Som beskrevet skete det ikke i dette tilfælde. Beslutningen om, at der burde bremses, blev ikke truffet før sammenstødet havde fundet sted.

Om vi skal have selvkørende biler er et spørgsmål om hvilken risiko vi vil acceptere.

Ligesom i luftfart, hvor A320Neo med PW geared fan motorer stadig flyver visse steder, bare ikke over vand.

Jo flere penge, der er på spil, jo større risici accepteres.

Hvem skal sætter grænserne?

Det er væsentligt, at producenterne af de selvkørende biler tager ansvaret, når der sker uheld. Og de skal have en ansvarsforsikring, som betaler de skader at bilen måtte forvolde.

Men enig i at producenten får et større og større produktansvar, og som følge af dette, bør et hvert uheld involverer producenten således at sikkerheden kan blive endnu bedre. Det fjerner bare ikke brugerens/ejerens ansvar.

Det er væsentligt, at producenterne af de selvkørende biler tager ansvaret, når der sker uheld. Og de skal have en ansvarsforsikring, som betaler de skader at bilen måtte forvolde.

Måske er ikke muligt at lave biler der er 100% sikre. Men, det er meget vigtigt, at producenterne tager ansvaret. For vi kan naturligvis ikke som fører af bilen tage ansvaret for software som ikke fungerer. Måske reagerer det ikke på det vi gør. Selvkørende biler bør altid indeholde en black box, så det er muligt at undersøge fejlen, og finde ud af, om fejlen er en utilsigtet fejl, som der kan gøres noget ved. Man skal gerne kunne "simulere" hændelsen ud fra informationerne i den sorte boks, og se præcist hvad der er sket. Det er ikke nok at politiet kan tjekke informationerne. Det er også vigtigt, at dataene stilles til rådighed for producenten, så de ikke holdes i uvidenhed om de fejl, som deres produkter forvolder. Det ser vi desværre sker i de fleste tilfælde for andre produkter, fordi at forsikringerne bare betaler, uden at kontakte producenterne. Det er en af problemerne ved, at det er kundernes forsikringer som dækker. De betaler bare.

Det er ikke Ubers software men Volvos. Volvo har leveret ca 20000 selvkørende biler til uber der er flådeoperatør. Naturligvis med uber app som den platform bilernes ruter fastsættes. Men selve kørslen er Volvo software.

Anyway. Man kunne nok indføre IR detektering hele vejen rundt. Spændende bliver det så når fodgængere og cyklister finder ud af at alle biler altid hugger bremserne i når man vader ud foran dem. Så får man nok lukket ned for bilkørsel i byerne.

Det bliver interesant at se data fra bilen.

Forskerne bag disse prøvekørsler, har vel mængder af data fra bilen. Det skulle undre mig, om der ikke er intens overvågning af fører oveni. Ved uheld ville det være et stærkt argument at føre frem, hvis det kunne bevises at det var bilen, der først prøvede at afværge kollisionen.

Før jeg danner mig en mening, vil jeg have at vide:

Hvem opdagede kvinden først.

Hvem reagerede først og trådte på bremsen.

Der bliver dræbt ca. 90 mennesker hver dag i snit i USA. Tallene varierer lidt med kilderne, men der er nok ikke helt skævt.

de må jo ha testet det med nogen som render ud foran ud fra det ved de så hvor hurtigt bilen skal reagere før den kan stoppe . kan den så kun gøre det med 15 km i timen ja så skal den jo heller ikke tillades køre mere.
tydeligt de har ignoreret hvad bilen var istand til

Hvor mange blev dræbt samme dag i den alm. trafik i USA?

Det relevante må være: Hvor mange km bliver der kørt per dødsfald for biler med henholdsvis uden fører?

Hvis vi skal føre en ordentlig debat, er det absolut nødvendigt med den type statistik.

Vi kan ikke undgå uheld med førerløse biler, men så længe uheldsraten er lavere end ved biler med fører har vi vundet på det.

Det logiske sted at introducere selvkørende biler først, må være motorveje. Efter en rimelig indkøringsperiode, bør det være lovpligtigt at ingen kører manuelt. Bilen overtager selv styringen på indkørslen og overlader den til føreren på frakørslen. Byer med mikset og kaotisk trafik, bliver det sidste sted med selvkørende biler. Der er simpelthen for meget der kan komme bag på teknikken. Og mennesker er trods alt tilbøjelige til at tilgive menneskelige fejl - men ikke tekniske fejl.

@Kurt Frederiksen

Nu kender du og jeg jo godt Færdselsloven, men der findes altså en del derude, især automobilignoranter, som virkelig kører efter minimumsmålet. Det er især forestillingsevnen der halter, eller også gider folk simpelthen ikke at bruge tankevirksomhed på det, og så hænger de deres hat på at hvis blot man overholder fartgrænserne, så er alt i sin skønneste orden.

Oplevede selv på nærmeste hold et sammenstød mellem en selvkørende bil og en anden bilist. Jeg stod og ventede på bussen, da de to biler kørte ind i hinanden lige foran bus stoppestedet.

Nå, men det er over 10 år siden, så her gætter de fleste nok at historien er lidt off topic:

Et par håndværkere havde parkeret deres varevogn ud for en bager på en skråning med sne i kanten. Sikkert på grund af sneen og manglende håndbremse træk, begyndte denne varevogn en forsinket stille bakning ned gennem morgen trafikken ca 50-100m ind til den "mødte" en forbløffet bilist i en venstre svings bane. Forsikrings rapporten har sikkert efterfølgende været morsom læsning. ;) I øvrigt et glimrende studie i deformationszoner ved en lav hastigheds kollision, da ingen heldigvis kom til skade andet end forskrækkelse og deslignende. :)

Der sad en person bag rettet som skulle kunne gribe ind hvis noget kom i vejen.

@ Birger Nielsen Uber har udtænkt en løsning med lyd og blinkende lys...https://www.theverge.com/2018/3/16/17129210/uber-self-driving-car-patent-talk-pedestrians

Når jeg bevæger mig rundt i trafikken på cykel eller gåben, forsøger jeg ofte at aflæse billisten. Har vedkommende set mig, kan jeg regne ud hvad vedkommende vil mv.

På samme måde som bilister - forhåbentlig - holder øje med cyklister og gående og deres mangeartede (og ofte ringe) metoder til at vise hvor de er på vej hen.

De elementer af observation forsvinder jo næsten.

Egentlig kunne jeg godt tænke mig at kunne 'læse' på den førerløse bil, hvad den havde observeret (mig fx.) og en indikation på, hvad den kunne tænke sig at gøre. Lidt lissom når jeg ser mig tilbage på vej rundt i en rundkørsel, for at sikre at jeg er blevet observeret og at det er blevet forstået at jeg fortsætter videre i rundkørslen. (jeg viser dog altid af til venstre, når jeg kommer til den rundkørsel jeg skal fortsætte i, som en ekstra forsikring for min overlevelse og tilsyneladende også til glæde for billisterne).

Det er i hvert fald alt for simpelt blot at definere det ud fra Færdselslovens bogstav, aka - jeg overholder fartgrænsen, så intet kan gå galt.

Hmm, du bør læse Færdselsloven igen. Det er ikke det der står i færdselsloven.

"§ 3. Trafikanter skal optræde hensynsfuldt og udvise agtpågivenhed, så at der ikke opstår fare eller forvoldes skade eller ulempe for andre, og således at færdslen ikke unødigt hindres eller forstyrres. Der skal også vises hensyn over for dem, der bor eller opholder sig ved vejen."

"§ 41. Et køretøjs hastighed skal til enhver tid være afpasset efter forholdene med særligt hensyn til andres sikkerhed. Den kørende skal herved tage vej-, vejr- og sigtforholdene, køretøjets tilstand og belæsning samt færdselsforholdene i øvrigt i betragtning."

"§ 42. På andre veje end motorveje og motortrafikveje må køretøjers hastighed ikke overstige følgende grænser:

1. i tættere bebygget område: 50 km i timen,

2. uden for tættere bebygget område: 80 km i timen."

Det er altså langt fra nok at overholde fartgrænserne. Det er paragraf 41 der er værdibærende indenfor hastighedsgrænserne, hvis man endelig skal koge det ned.

Det betyder jo så også at man er skyldig så snart man er part i et uheld i over 99% af alle tilfælde.

Der sad en person bag rettet som skulle kunne gribe ind hvis noget kom i vejen. Det nåede vedkomende IKKE, så havde der ikke været en ekstra computer i bilen havde denne ulykke ALDRIG nået medierne.

At teknologien, i dette tilfælde, ikke nåede at reagerer er da trist, men helt ærligt...

Fly er enormt sikre, dødsfald er et no go
Jernbaner er enormt sikre, dødsfald er et no go
Biler....? Dødsfald er åbenbart acceptable?!

Måske den også skulle skele til hvem der overtræder færdselsloven, hvis det kan afgøres. Hvis nogen skal komme til skade er det vel rimeligt at det er den der forårsager ulykken.

Måske drejer du netop diskussionen mod det det handler om. Der er endeløse diskussioner om hvad der er sikker kørsel. Jeg selv kører efter devisen: "Man skal kunne friholde standselængden for forudsigelige forhindringer". Hvad er så forudsigelige forhindringer? Det er i hvert fald alt for simpelt blot at definere det ud fra Færdselslovens bogstav, aka - jeg overholder fartgrænsen, så intet kan gå galt. Forudsigelighed er noget der kommer med erfaringen OG rettidig fantasi! aka - der rullede bolden ud på vejen, så nu kommer lille Jens nok bagefter. Til gengæld udelukker jeg i min kørsel at der falder en meteorit ned på vejen foran mig, men forudsigeligheden bør være medpassager undervejs.

Da jeg, som 90% af befolkningen gør, betragter mig selv som en bedre bilist end gennemsnittet, skal en selvkørende bil være væsentlig bedre end gennemsnittet før jeg vil betro mit og andres liv til den. En faktor 5 vil jeg tro. Indtil da vil jeg blot benytte dens førerassistenter til at forbedre min egen kørsel.

Og mht til dilemmaet om en bil skal ofre sine passagerer eller de 10 børnehavebørn der sprang ud på vejen foran den - jeg mener der må være et element af tilfældighed (som i dag), ellers kan man jo nemt og uden risiko forårsage ulykker ved at hoppe ud foran biler - og der er det jo nogle der kunne synes er mægtig smart om det så er misforstået underholdning eller terror.

Måske den også skulle skele til hvem der overtræder færdselsloven, hvis det kan afgøres. Hvis nogen skal komme til skade er det vel rimeligt at det er den der forårsager ulykken.

Er det teknologiens skyld, når en selvkørende bil søndag aften ramte en fodgænger, der sprang ud af mørket og krydsede vejen?

/Bo

Nu er der ikke så mange fodgængere i luftrummet eller på jernbanen, så det er lidt svært at ramme fumlegængere i en 747. Synes ikke at du kan sammenligne det. Man kan aldrig gardere sig 100%, mod folk der dukker op som en trold af en æske. Bilerne kan jo ikke være bedre end fysikens love, om det er Alonso der sidder bag rattet eller en Pentium 9 med ekstra cache ram.

Fly er enormt sikre, dødsfald er et no go Jernbaner er enormt sikre, dødsfald er et no go Biler....? Dødsfald er åbenbart acceptable?!