Uber skar voldsomt ned på lidarsensorer to år før dødeligt uheld

Hvem h...... downvoter Svend, når han bare skriver en faktuel oplysning? Er det fordi han ikke linker til artiklen? Eller er det bare, fordi det er Svend? Her er et link til forliget: https://politiken.dk/udland/art6411154/Trafikdr%C3%A6bt-kvindes-familie-i-Arizona-indg%C3%A5r-forlig-med-Uber

Mvh Bjørn Agger

Jeg læste i Denver Post at der allerede er indgået et forlig med familien.

before self-driving fatalit

"Uber disabled the standard collision avoidance technology in the Volvo XC90 that struck and killed a woman in the U.S. last week, according to Aptiv, the partsmaker that supplied the vehicle's radar and camera."

https://www.autonews.com/article/20180327/COPY01/303279968/uber-disabled-volvo-safety-system

Ubers testchauffører gennemgår en uddannelsestræning, og de har regler bl.a. om hvordan/hvornår de skal være parat til indgriben og hvor de skal have hænder mm. Der findes en del på nettet, og kan læses lidt om emnet her:

https://money.cnn.com/2018/03/21/technology/uber-test-driver-duties/index.html

Mere, og som det bl.a. også kan læses via Harrys link i 5. indlæg her i tråden,https://www.nytimes.com/2018/03/23/technology/uber-self-driving-cars-arizona.htmlmåtte Ubers overgang til kørsel fra 2 til kun 1 testchauffør udsættes, indtil yderligere uddannelse var gennemgået.

Arizona åbnede pr 1/3 2018 op for kørsel/test med selvkørende biler uden testchauffør hvis følgende krav overholdes:

https://azgovernor.gov/sites/default/files/related-docs/eo2018-04_1.pdf

Mon ikke det, ligesom Californiens åbning for samme, d. 1/4 2018, nu er taget op til revurdering

Det er deres opgave, samt et lovmæssigt krav
"So far, regulations require the presence of a safety driver in those test cars, to manually take over control in case of an emergency."
Skal vi lige tage den igen:
"Automakers, tech companies and startups are all developing self-driving cars, but the tech is far from perfect. Companies hire human test drivers to sit behind the wheel of self-driving vehicles and take over when necessary, say, if a car's sensors fail to recognize a bicyclist, pedestrian or other vehicle -- or if the software system crashes"

Du angiver ingen kilde. Hvem siger det?

Efter hvad der har været fremme, har Arizona slet ingen krav stillet til testkørslerne.

Er denne Volvo delvist selvkørende og hvad har Uber så gjort?
Det er svært at skelne mellem Volvos og Ubers andel af problemet.

Ja jeg kan ikke rigtig forstå hvorfor Volvo nu også skal gøres medansvarlig.

Det er ifølge New York times, en artikel jeg linker til længere oppe, tale om Volvoer der er blevet udstyret med sensorer og teknologi leveret af Uber.

Er denne Volvo delvist selvkørende og hvad har Uber så gjort? Det er svært at skelne mellem Volvos og Ubers andel af problemet.

Det kan simpelthen ikke være en undskyldning for at en testkøre er kritisk uopmærksom, at jobbet er kedeligt.

Så længe de selvkørende funktioner ikke er dokumenteret sikre, er bilen ikke selvkørende, men med et advanceret driver-assist. Og det er til enhver tid førerens ansvar at køretøjet føres sikkert. Der er ingen lovgivning for andet.

Hvis Uber er et seriøst firma, har de vel vurderet risikoen for at personen bag rattet mister motivationen og lavet passende køre-hviletidsstrategi.

Jeg mener det var Volvo der droppede at lave biler der var selvkørende på trin 3 og 4 af den simple grund at test-chaufførerne ganske enkelt faldt i søvn. At skulle kunne gribe ind med under 2 sekunders varsel på et system der kun har brug for indgriben sjældent er simpelthen umuligt for den menneskelige hjerne.

Hvis man giver folk 15 sekunder eller mere til at sætte sig ind i situationen, orientere og handle, så giver det mening, men 2 sekunder er for kort tid. Så i realiteten er testkørere primært med til at håndtere de situationer hvor selvkørende biler giver op. F.eks. fordi skiltningen er for dårlig eller der er andre faktorer der gør at AI'en melder pas.

Om det så også har været job-beskrivelsen for Ubers sikkerhedschauffør er mig ukendt.

Hvorfra har du, at føreren skulle holde øje med trafikken?</p>
<p>Det er meget muligt, at hun kun skulle være der, hvis bilen meldte fejl og/eller ikke kunne køre videre.

Det er deres opgave, samt et lovmæssigt krav

"So far, regulations require the presence of a safety driver in those test cars, to manually take over control in case of an emergency."

Skal vi lige tage den igen:

"Automakers, tech companies and startups are all developing self-driving cars, but the tech is far from perfect. Companies hire human test drivers to sit behind the wheel of self-driving vehicles and take over when necessary, say, if a car's sensors fail to recognize a bicyclist, pedestrian or other vehicle -- or if the software system crashes"

I den konkrete sag er ansvarsfordelingen klar. Eller det ville den i hvert fald have været i dk. Chaufføren udviser beviseligt grov uagtsomhed hvilket er den direkte årsag til trafikdrab.

Hvorfra har du, at føreren skulle holde øje med trafikken?

Det er meget muligt, at hun kun skulle være der, hvis bilen meldte fejl og/eller ikke kunne køre videre.

En blind ville nok havde været mere opmærksom på trafikken!

Men hvis det nu havde været en blind person der krydsede vejen?

Endda med stråmænd om, at vi synes, at det er "synd for chaufføren".

Ole Ørsted mfl.:

"Stakkels naive billist der nu skal leve med et uforvarent drab resten af livet. Trist der altid skal lig på bordet inden der reageres:-("

+3 -3

Mange ville hævde at kvinden med cyklen er den mest skyldige. Men hvis det nu havde været en blind person der krydsede vejen?

Testchaufføren gør ikke det hun er der for.

Uber har et ansvar for at have valgt forkert person, eller oplyse denne om opgaven.

Ubers program har fejlet, hvis da ikke lidaren har haft en periodisk fejl.

Disse biler burde kun komme på tale med dobbeltkontrol systemer

Hvor har jeg skrevet det?

Det kan jeg kun opfatte sådan, at du er ude af stand til at acceptere, at både Uber og chaufføren kan have et ansvar.

Og så er vi lige præcis tilbage ved det, jeg skrev i mit første indlæg her i tråden: "Der er desværre i debatten en udbredt tendens til, at bare noget kan gøres til en enkeltpersons skyld, behøver man ikke kigge nærmere på, om procedurer og teknologi som udgangspunkt har været gjort tilstrækkeligt robust over for menneskelige fejltagelser."

Jeg reflekterede på hvorvidt Uber kunne drages til ansvar for testchaufførens svigt, og derved kunne pådrages dennes normale ansvar.

Slut herfra.

Men du kan åbenbart kun håndtere een skyldig part, så når chaufføren er skyldig, kan Uber ikke være skyldig.

Jeg reflekterede på hvorvidt Uber kunne drages til ansvar for testchaufførens svigt, og derved kunne pådrages dennes normale ansvar.

at testchaufføren er der, og dennes opgave er helt defineret, selv om nogle her åbenbart synes det er synd for dem, at de sådan hjælpeløst bliver kørt rundt i selvkørende biler, som var de blot sagesløse forsøgskaniner:

Det her handler om, at chaufførens forsømmelser ikke fritager Uber for ansvar, hvis Uber burde have forudset, at chaufføren ville handle sådan.

Men du kan åbenbart kun håndtere een skyldig part, så når chaufføren er skyldig, kan Uber ikke være skyldig.

Et er "autopilot" kørsel på en motorvej med ensrettet trafik. Her er tale om en landevej hvor forgængere og cyklister kan krydse vejen, så hvordan hulen kan et sådant system være tilladt her, og ikke mindst i mørke som tilfældet er her???

Ifølge denne gennemgang af uheldet, så er det faktisk en meget godt belyst vej, hvor chaufføren en bilist der ellers holder øje med vejen, burde have set fodgængeren på mindst 100 meters afstand.

"Uber's Deadly Crash - What Really Happened?" https://youtu.be/k5vbjl3TNEE

På den anden side kan man vel heller ikke fritage fodgængeren fra ansvar, for jeg mener da at hvis jeg vil krydse en vej, uanset forhold, har pligt til at se mig for og holde øje med den øvrige trafik. Jeg tør i hvert fald ikke stole på at en bilist når at bremse i tide.

For mig ser det ud som om Uber har prøvet at spare hvor det var muligt, samtidig med at de forceret deres program.

Men et af Ubers systemer burde vel også have reageret, vel senest 15-20 meter inden påkørselen.

Waymo har testbiler kørende i Phoenix Arizona, uden en chauffør bag rattet og der er det såvidt vides endnu ikke sket uheld, men Arizona er nok også den stat i USA der har de lempeligste regler på det område.

Waymo is first to put fully self-driving cars on US roads without a safety driver - The Verge https://www.theverge.com/2017/11/7/16615290/waymo-self-driving-safety-driver-chandler-autonomous

at testchaufføren er der, og dennes opgave er helt defineret, selv om nogle her åbenbart synes det er synd for dem, at de sådan hjælpeløst bliver kørt rundt i selvkørende biler, som var de blot sagesløse forsøgskaniner:

"Automakers, tech companies and startups are all developing self-driving cars, but the tech is far from perfect. Companies hire human test drivers to sit behind the wheel of self-driving vehicles and take over when necessary, say, if a car's sensors fail to recognize a bicyclist, pedestrian or other vehicle -- or if the software system crashes"

"What does a self-driving car test driver do?""Generally, a test driver sits behind the wheel and "ghost drives" the vehicle for six to eight hours a day. Some test drivers hover their foot above the brake pedal, so they're ready to intervene quickly if needed. The test driver also monitors the vehicle's progress. If the car or truck finds itself in a tough spot, he or she will take manual control of the vehicle."

Men een ting der er velstuderet og velkent, er kontrolrum træthed. Hvis ikke Uber har gjort noget for at metigere det, falder skylden også her på Uber.

I bund og grund er det jo et spørgsmål om at køre bil, altså følge trafikken som en alm. chauffør, men uden at røre rat og pedaler. En køreskolelærer skal også hele tiden skal være klar til at gribe ind

Først i det øjeblik at en situation der aktiverer dette, vil alm. refleksmæssig indgriben komme helt af sig selv.

Der er få ting ved selvkørende biler vi har evidens for. Men een ting der er velstuderet og velkent, er kontrolrum træthed. Hvis ikke Uber har gjort noget for at metigere det, falder skylden også her på Uber.

I øvrigt, hvad har Uber af sensorer til at registrere at den trækker en cykel under bilen ?

Det er rigtigt, men hvilke regler har Uber for deres testkørsler. Hvorlænge må samme testchauffør køre af gangen osv.

Der sker mange ulykker af den slags, men hvor man ikke kan bebrejde udviklingen af en selvkørende bil, alligevel taler folk i håndholdt, og SMS'er mm. på livet løs, da straffen heller ikke er noget der afskrækker/oplyser/afspejler hvor alvorligt det er.

Menneskelige fejl vil altid ske, men det er almindeligt kendt at uopmærksomhed er skyld i mange alvorlige ulykker (ca33%) så mon ikke det har været oppe og vende hos de involverede myndigheder, inden tilladelser til tests med selvkørende biler er blevet givet, da risikoen øges der.

Man kan vel juridisk sagtens lave en ansvarsfordeling som placerer hele skylden hos “føreren” men har det ikke i lang tid været kendt, hvordan mennesker har svært ved at passe en opgave som indebærer meget lang tids koncentration om noget der formentligt “aldrig” sker? Var der ikke også nogen der sejlede ind i Storebæltsbroen engang selvom der var folk på vagt med det ene formål at undgå dette? Jeg tænker at man må lave en anden måde at “aktivere” føreren på, under kørslen- Jeg må erkende at jeg ikke lige selv kan mønstre en løsning jeg tror på, men jeg tænker at førernes nuværende rolle må være forbundet med alt for stor en risiko for at fejle når det netop gælder.

Et er "autopilot" kørsel på en motorvej med ensrettet trafik. Her er tale om en landevej hvor forgængere og cyklister kan krydse vejen, så hvordan hulen kan et sådant system være tilladt her, og ikke mindst i mørke som tilfældet er her???

Så du mener heller ikke at chaufføren har een opgave der!

"Jeg har f.eks. læst, at kameraovervågning inde i bilen viste, at chaufføren havde travlt med sin mobiltelefon (eller var det en tablet?). Det skulle være et sært sammentræf, hvis det er første gang, hun har gjort det, og det så lige var samtidigt med, at nogen gik over kørebanen."

"Så noget tyder på, at man som testchauffør hos Uber indtil denne ulykke har kunnet slippe godt fra at sidde og rode med sin telefon, mens det var meningen, at man skulle holde øje med bilens kørsel. Dette selv om chaufføren faktisk blev optaget på video, så Uber havde en mulighed for at opdage det og tage en kammeratlig samtale med chaufføren, når han/hun ikke passede sit arbejde. Eller måske var det endda en del af arbejdet at rode med telefonen under kørslen?"

Så nu er vi ovre i at hvis en betroet testchauffør ikke bliver taget i at have overtrådt loven før en ulykke, så er det nok overvågningen af denne betroede medarbejder der har svigtet, da man må gå ud fra at hvis det er sket en gang, er det nok sket flere gange, og derfor ikke chaufførens skyld at denne overtræder alle regler igen.

Et er "autopilot" kørsel på en motorvej med ensrettet trafik. Her er tale om en landevej hvor forgængere og cyklister kan krydse vejen, så hvordan hulen kan et sådant system være tilladt her, og ikke mindst i mørke som tilfældet er her???

Jeg er også spændt på hvordan systemet vil reagere på en landevej hvis der i modsatte vognbane er en dristig billist der pludselig begynder at overhale den forankørende mod dig. Her vil man typisk reagere med ikke blot nedbremsning, men også forsøge at tvinge bilen mod højre, måske i grøften, for at undgå kollision. Ligger det i programmet?

Stakkels naive billist der nu skal leve med et uforvarent drab resten af livet. Trist der altid skal lig på bordet inden der reageres:-(

Der er masser af jobs der består af en stor del tilstædeværelse og en lille del handling. I mange tilfælde er handlingsdelen sikkerhedsrelevant.

I den konkrete sag er ansvarsfordelingen klar. Eller det ville den i hvert fald have været i dk. Chaufføren udviser beviseligt grov uagtsomhed hvilket er den direkte årsag til trafikdrab.

Hvis et firma som Uber insisterer på at fiske medarbejdere blandt en gruppe uden ansvarlighed der står mål med risikoen må de tage de nødvendige forholdsregler - dødmandsknap, co-pilot... der er inspirationen at hente i andre brancher.

Tænker Uber har lært lektien, for det bliver en dyr lektion.

Hvis systemet var tilstrækkeligt sikkert, ville man jo ikke have brug for chaufføren.
Det er en uundgåelig del af udviklingsfasen, at have en chauffør i bilerne.

Jeg har f.eks. læst, at kameraovervågning inde i bilen viste, at chaufføren havde travlt med sin mobiltelefon (eller var det en tablet?). Det skulle være et sært sammentræf, hvis det er første gang, hun har gjort det, og det så lige var samtidigt med, at nogen gik over kørebanen.

Så noget tyder på, at man som testchauffør hos Uber indtil denne ulykke har kunnet slippe godt fra at sidde og rode med sin telefon, mens det var meningen, at man skulle holde øje med bilens kørsel. Dette selv om chaufføren faktisk blev optaget på video, så Uber havde en mulighed for at opdage det og tage en kammeratlig samtale med chaufføren, når han/hun ikke passede sit arbejde. Eller måske var det endda en del af arbejdet at rode med telefonen under kørslen?

Og så er vi tilbage ved det, jeg skrev om procedurer. Hvis Uber er klar over, at deres testchauffører nok vil miste interessen for kørslen, bør de så ikke have procedurer på plads, som forhindrer den adfærd?

Skal Uber fritages for ansvar, bare fordi det så kan kaldes en menneskelig fejl, når en medarbejder har gjort det, man kunne forudsige, at en medarbejder ville gøre?

"Der er desværre i debatten en udbredt tendens til, at bare noget kan gøres til en enkeltpersons skyld, behøver man ikke kigge nærmere på, om procedurer og teknologi som udgangspunkt har været gjort tilstrækkeligt robust over for menneskelige fejltagelser."

Hvis systemet var tilstrækkeligt sikkert, ville man jo ikke have brug for chaufføren. Det er en uundgåelig del af udviklingsfasen, at have en chauffør i bilerne.

Ubers fejlbehæftede system understreger hvor vigtigt det er, men der er desværre en udbredt tendens i debatten til at negligere dette.

De fejl man nu prøver at finde og rette, det var meningen de ikke! skulle have kostet menneskeliv.

Hvordan kan det lige fritage chaufføren fra ansvar?

Der er desværre i debatten en udbredt tendens til, at bare noget kan gøres til en enkeltpersons skyld, behøver man ikke kigge nærmere på, om procedurer og teknologi som udgangspunkt har været gjort tilstrækkeligt robust over for menneskelige fejltagelser.

"Enig. Denne sag demonstrerer jo med al tydelighed, at en chauffør der "bare" skal monitorere kørslen, og gribe ind hvis autopiloten svigter, absolut intet er værd!"

"Der vil være en meget stor chance for at denne chauffør snork sover eller laver noget andet - som det tydeligvis ses af ulykkesvideoen - når der endelig er brug for ham."

Hvordan kan det lige fritage chaufføren fra ansvar?

Det er det chaufføren er ansat til, sålænge systemet ikke er færdigudviklet, nemlig at have opmærksomheden på kørslen. (Og ikke som min datters kørelærer(inde), opdatere Facebook imens der køres.)

Det er så sikkert som Amen i kirken at der kommer en "det der er noget skidt, MEN TESLA DERIMOD..." kommentar i alt der handler om biler på Ing.dk.

Tesla er det nye Apple.

fra New York Times om Uber og hvordan de sikkert har truffet nogle fatale beslutninger.

Uber’s Self-Driving Cars Were Struggling Before Arizona Crash - The New York Times https://www.nytimes.com/2018/03/23/technology/uber-self-driving-cars-arizona.html

Enig. Denne sag demonstrerer jo med al tydelighed, at en chauffør der "bare" skal monitorere kørslen, og gribe ind hvis autopiloten svigter, absolut intet er værd!

Det burde ikke være tilladt at producenterne kan dække sig ind under det figenblad der hedder: "kørslen er den monitorerende chaufførs ansvar" - og så iøvrigt lade bilen være selvkørende en del af tiden!

Der vil være en meget stor chance for at denne chauffør snork sover eller laver noget andet - som det tydeligvis ses af ulykkesvideoen - når der endelig er brug for ham.

Tesla har ikke Lidar, så artiklen sier ikke så meget.

Nu handler artiklen om Uber og selvkørende biler.

Så vidt jeg ved, så har Tesla endnu ikke annonceret at deres biler er selvkørende.

At der så er enkelte Tesla ejere der tror at de kan overlade alt til Teslas autopilot og ikke behøver at koncentrere sig om trafikken, er noget andet. Men man kunne måske spørge sig selv om sådanne bilister overhovedet har noget at gøre bag et rat.

Tesla har ikke Lidar, så artiklen sier ikke så meget.

"De vedkender over for Reuters, at der vil være en blind vinkel på tre meter rundt om bilen, hvis man udelukkende bruger en tagmonteret sensor. Derfor er flere sensorer nødvendige."

I den pågældende ulykke skulle bilen have opdaget fumlegængeren længe før den eventuelle blinde vinkel.

Så spørgsmålet om hvad der gik galt, står stadig.