Efter første dødsulykke: Endnu en Tesla kan være kørt galt med autopilot
more_vert
close

Få de daglige nyheder fra Version2 og Ingeniøren. Læs mere om nyhedsbrevene her.

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser, og at Teknologiens Mediehus og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, tilbud mm via telefon, SMS og email. I nyhedsbreve og mails fra Teknologiens Mediehus kan findes markedsføring fra samarbejdspartnere.

Efter første dødsulykke: Endnu en Tesla kan være kørt galt med autopilot

Displayet i en Tesla – når cruise control er slået til og det lille rat i øverste højre hjørne går fra gråt til blåt, kan rattet slippes. Illustration: Tesla

Dagen efter at de amerikanske myndigheder offentliggjorde, at de undersøger en dødsulykke med en Tesla på autopilot, kørte endnu en Tesla galt. Denne gang overlevede chaufføren, og han har senere fortalt politiet, at også hans Tesla-ulykke fandt sted, mens bilen kørte på autopilot. Det skriver Detroit Free Press.

Ulykken skete på en motorvej i Pennsylvania, hvor bilen – en model X fra 2016 – først ramte autoværnet i højre side af vejen for derefter at krydse vejen og ramme autoværnet i midterrabatten. Herefter vendte bilen om og lå på taget. Ingen kom alvorligt til skade ved ulykken selv om der sad to personer i Teslaen, og en modkørende bil blev ramt af dele fra den forulykkede Tesla, skriver avisen.

Tesla oplyser i en anden artikel i samme avis, at selskabet ikke har data nok om ulykken til at bekræfte, at autopiloten var aktiveret.

‘Vi modtog en automatisk besked fra dette køretøj 1. juli, som indikerede, at bilens airbags var udløst, men logfiler med detaljeret information om køretøjets styring på kollissionstidspunktet blev aldrig modtaget,’ skriver Tesla i en udtalelse til mediet.

Flere medier beretter om skader på bilen, som ifølge Tesla kan have ødelagt den antenne, der normalt ville sende logfilen til selskabet. Teslas informationer kan derfor hverken be- eller afkræfte førerens forklaring.

‘Baseret på den information vi har nu, har vi ingen grund til at tro, at autopilten havde noget at gøre med denne ulykke,’ skriver Tesla til nyhedsmediet Engadget.

Læs også: Minitest af Teslas autopilot: Relativt imponerende

Myndigheder undersøger første tilfælde

Dødsulykken, hvor automatpiloten var aktiveret, skete i maj, men blev først offentliggjort torsdag i sidste uge, hvor det samtidig kom frem, at den amerikanske trafiksikkerhedsmyndighed NHTSB undersøger sagen.

Ulykken skete på en landevej, hvor føreren kørte med autopiloten aktiveret. Da en lastbil med en usædvanligt udformet sættevogn på slæb krydsede vejen foran Teslaen, fortsatte denne ind i sættevognen, idet autopiloten ikke opfattede den som en forhindring.

Læs også: Vilde Tesla-ejere blev for meget for Elon Musk

Det skyldes ifølge en forklaring på Teslas hjemmeside den usædvanlige placering af sættevognen og dens højde.

Disse forhold har kunnet få autopiloten til at opfatte sættevognen som et skilt over motorvejen, skriver Tesla-direktør Elon Musk i en uddybning på Twitter:

Tesla: Autopilot er bedre end mennesker

Ifølge Tesla understreger ulykken, at autopiloten er mere sikker end en menneskelig chauffør, da Teslaer på autopilot har kørt mere end 130 mio. miles (209 mio. km) inden denne første dødsulykke fandt sted. Det fremgår af meddelelsen på Teslas hjemmeside. Det er ifølge Tesla bedre end det internationale gennemsnit for afstanden mellem fatale ulykker.

‘Systemets beskaffenhed som førerassistance-system taget i betragtning, var en kollission med autopilot en statistisk uundgåelighed, men ikke én, der på nuværende tidspunkt vil ændre konklusionen efter millioner af miles, hvor systemet har betydet en nettosikkerhedsfordel for samfundet,’ skriver Tesla i en anden meddelelse på selskabets hjemmeside.

Læs også: Misbrug af Teslas autopilot: Ejerne sætter sig på bagsædet og læser avis

Den pointe bekræftes delvis af den dræbte Tesla-ejers Youtube-kanal, hvor den senest uploadede video viser, hvordan autopiloten hjælper ham til at undgå en ulykke, hvor en lastbil er ved at påkøre ham fra siden og derefter skærer ind foran ham. I begge tilfælde undviger bilen automatisk med en meget hurtig reaktion:

Føreren af Teslaen var, som det fremgår af hans Youtube-kanal, erfaren i at køre med autopiloten og havde eksperimenteret en del med den. Han understreger blandt andet i en af sine seneste kommentarer, at autopiloten endnu ikke er ufejlbarlig, og at det derfor er nødvendigt at holde lidt øje med vejen. ‘Men ikke ret meget,’ fortsætter kommentaren.

Flere nyhedssites har tidligere berettet, at der skulle være fundet en dvd-afspiller med en igangværende Harry Potter-film i bilen efter ulykken – en forklaring, der dog modsiges af andre medier.

sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Jeg fatter slet ikke, at folk tør stole på det system.

Her er det f.eks. en simpel situation, og heldigvis relativt ufarlig. Det bemærkelsesværdige er dog, at føreren ikke har mulighed for at forudsige, hvad bilen egentligt har tænkt sig, før den pludseligt rykker i rattet. Det sker tre gange i løbet af videoen.
https://youtu.be/BiU4LcprwnU?t=4m7s

Ingen ved endnu nok om ulykken i artiklen, til at kunne udtale sig med sikkerhed, men jeg må indrømme at mine tanker sporede sig tilbage på ovenstående klip (som jeg så for et halvt års tid siden), og på hvordan en tilsvarende reaktion fra bilen ved motorvejshastighed, kunne ende ganske anderledes. Flere Teslaejere i USA har givet udtryk for, at deres bil kan have en tendens til at foretrække frakørselssporet over første vognbane, når en frakørsel dukker op.

  • 5
  • 18

(som jeg så for et halvt års tid siden)

Det er den gamle 7.0 version, der havde en tendens til at rykke ud mod frakørsler. Der skete en række forbedringer med frakørsler i 7.1, som kom lidt efter den viste video.

Her er en demonstration af 7.1 (desværre er videoen plaget af høje biplyde), hvor bilisten demonstrerer korrekt brug af autopilot som et hjælpeværktøj, som han slukker og tænder efter kørselsforholdene:

https://www.youtube.com/watch?v=tq_OTcncPH0

I 8.0, som kommer snart, skulle man kunne få automatisk frakørsel og mere detaljeret angivelse af andre bilister og deres kørselsretning i instrumentbrættet.

Taget i betragtning af, at autopilot har været tilgængeligt i kun omkring 10 måneder, er det meget pænt.

  • 20
  • 2

"Da en lastbil med en usædvanligt udformet sættevogn på slæb krydsede vejen foran Teslaen, fortsatte denne ind i sættevognen, idet autopiloten ikke opfattede den som en forhindring."

!

Bevares - det samme kunne da ske for et menneske. Stiv og på rulleskøjter.

  • 7
  • 15

Jeg er stadig klogere end en autopilot. Jeg er nemlig så klog at jeg opfatter en lastbil, til trods for en mærkelig udformning, som en forhindring jeg ikke har lyst til et sammenstød med.
Det samme gælder for en pølsevogn, en vindmøllevinge og en lystbåd på en trailer.
Så kære autopilottilhængere : der er laaaaaaaaang vej endnu før autopiloten kan erstatte min indgriben. Den er stadig semiautomatisk og en hjælp, men selvkørende biler ligger altså temmelig langt ude i fremtiden.

  • 11
  • 28

Det er helt cool at få en tommelfinger nedad for at påpege fakta.
Autopiloten er ikke færdigudviklet endnu. Det er fakta. Kom med nogle argumenter i stedet for din krystertommelfinger.

  • 6
  • 28

Han understreger blandt andet i en af sine seneste kommentarer, at autopiloten endnu ikke er ufejlbarlig, og at det derfor er nødvendigt at holde lidt øje med vejen. ‘Men ikke ret meget,’ fortsætter kommentaren.

Min erfaring fra trafikken er, at når det har været tæt på at gå galt, så er det som regel fordi enten jeg eller andre har overset eller snarere ikke forudset noget. Så den bemærkning er for mig yderst tankeløs.

  • 7
  • 0

Autopiloten er ikke færdigudviklet endnu. Det er fakta.

Ja men hvad der ikke er fakta er din subjektive holdning til hvor længe der vil gå inden den er "færdigudviklet" (hvad end det så skal betyde). Eller dine høje idealer til din egen reaktionsevne - du må være Danmarks bedst billist der aldrig er den mindste smule distraheret og som altid kan nå at undvige når nogen ignorerer vigepligten og kører ud foran dig.

Når Teslas system allerede nu har en bedre statistik end os mennesker, selvom den overså en ret så åbenlys forhindring, så skyldes det alle de andre gange hvor den var klar til at reagere med millisekunders reaktionstid. Nok af disse situationer og der vil statistiskt have været en menneskelig chauffør der var distraheret og for langsom til at gribe ind.

Ja vi er enige om at systemet er langt fra at være modent til fuld automatik, men selv på nuværende stadie reder den dig mere end den bringer dig i uføre. Og det gælder specielt hvis du overholder anvisningerne og er årvågen selvom du kører på autopilot.

  • 26
  • 3

Det var dog en af de mest elendige kommentere jeg længe har set.

Det er jo ikke kun et spørgsmål om genkendelse.
Eksempelvis så er opmærksomhed en meget stor faktor i sikkerhed på vejene.
Og i den kategori slår en computer et menneske med mange længder.
Så, efter din logik, så er autopiloten jo allerede meget bedre end dig. Hvis man altså vælger lige præcist dette lille aspekt som det eneste man måler på. Begge dele er jo noget vrøvl.
Det er det samlede system man skal se på.

  • 12
  • 7

Og baldur. Et stykke hen ad vejen er vi meget enige. De semiautomatiske systemer er en voldsomt sikkerhedsfremmende faktor.

Men, og der er altid et men, de er ikke færdigudviklede, så jeg kan sætte mig og slappe af under kørslen. Jeg ser den udadsøgende billist som jeg ikke får øjenkontakt med, idi....... Bag lastbilen på motorvejen, som jeg ved trækker ud foran mig, ved at give tegn og blinke i samme øjeblik, jeg ser bolden og ved at barnet følger efter.

Der er autopiloten ikke endnu. Den kan ikke forudse som jeg kan, og jeg tror der er lang udvikling endnu før auto'en overtager mit job.

Simple kommandoer er svære for en "auto". Hent en øl i køleren, betyder jo altså en kompleks række af ordrer, rejsedag, gå til køleren, åben dør, find hylde, identificer øl, tag øl, luk dør, gå til Tommy, ups glemte luk dør og stil ny på køl, så jo. Der er et stykke vej før autopiloten kan overskue kompleksiteten i trafikken.

Og opgaven bliver jo bestemt ikke nemmere af, at den skal interagere med mennesker, der set ud fra et beregningsprincip og en trafikalgoritme, ikke just er kendt som rationelle væsner.

Jeg synes faktisk autopilot og selvkørende pilot vil være en genialitet, og sikkert også en sikkerhedsfremmende foranstaltning, men synes også, at det vil være klædeligt at indrømme, at det er komplekst og indviklet, så man ikke hver gang der sker en fejl, a' la' pårørende en anderledes udseende lastbil, siger "det er lastbilens skyld" i stedet for at erkende at der mangler udvikling.

Trafikken er fyldt med snedriver, vindhekse, fastelavnsudklædte mennesker, mærkelige transporter, støvstorme og andre sære ting som autopiloten ikke kan håndtere uden menneskelig hjælp - endnu.

  • 4
  • 11

Og hvem er det lige der har sagt at de er færdigudviklet????
Det har jeg ikke hørt eller læst nogen som helst sige.
Alle der beskæftiger sig med emnet ved godt at der er langt til vi har et fuldt autonomt system.
Der er stor uenighed om hvor lang tid der går før vi er der. alt fra 2 til 50 år er blevet nævnt.
Men du antyder ligesom at der er en påstand om vi allerede er der. På en meget nedgørende måde.

Og så sidder du på spring for at kritisere når nogen giver dig en "thumbs down".
Meget useriøst.

  • 18
  • 5

Jeg kommer altid til at tænke på en dame, som engang fortalte at hun skulle i hvert fald ikke bruge sikkerhedssele!
Hendes bror havde været ude for en ulykke, hvor han var blevet slynget ud af bilen, som derefter blev knust (jeg kender ikke de nærmere omstændigheder).
Hvis han havde haft sikkerhedssele på, så var han blevet dræbt!!

Heldigt for brormand at tilsidesatte sikkerhedsreglerne lige den dag. Men faktum er, at selv om sikkerhedsselen virkelig kan gøre at nogle bliver dræbt, så redder den med garanti hundrede gange så mange liv.

Så Elon har ret i, at autopiloterne stadigvæk har bidraget positivt til trafiksikkerheden.

  • 23
  • 1

så man ikke hver gang der sker en fejl, a' la' pårørende en anderledes udseende lastbil, siger "det er lastbilens skyld" i stedet for at erkende at der mangler udvikling.

Men nu var det rent faktisk lastbilens skyld. Chaufføren står anklaget for uagtsomt manddrab.

Vi ved ikke om ulykken kunne undgås. Hvis en lastbil kører ud foran dig og du kører 80 kmt, så er det ikke givet at der findes en måde at overleve.

Det er korrekt at Teslas system ikke aktiverede nødbremsen. Det er en mangel men det gør ikke at skyldspørgsmålet pludselig flyttes fra ham der kørte ud uden at orientere sig ordentligt.

Man må igen minde om at der hvert år sker mange venstresvingsulykker hvor folk i biler uden autopilot hellere ikke når at bremse.

  • 18
  • 2

En udtagelse fra Tesla om ”at autopiloten statistisk er mere sikker end en menneskelig chauffør, og har et bedre gennemsnit for afstanden mellem fatale ulykker”, ser jeg som yderst problematisk.

Det er utvivlsomt rigtigt men jeg er ikke blandt dem som er under 25 år eller over 85 år, lige har fået kørekort, kører for stærk og ikke efterforholdene, sender sms under kørslen, kører spritkørsel, osv.
For ovenstående personer vil autopiloten være bedre, og redde deres liv.

For dem som er meget rutineret, kører efterforholdene, kender bilens fysik og begrænsninger, er altid mest muligt opmærksom mv., så vil dette kunne være en dødsfælde. En del af os i debatten kan sikkert genkende sig i denne gruppe. Jeg tror vi ville have opdaget traileren, lastbilen med lægterne ragende udover ladet og andre skæve ting i trafikken. For os vil statistikken være negativ, og det kan jeg bare ikke have, hvis jeg skal ud i en Tesla med nuværende autopilot.

  • 8
  • 6

En udtagelse fra Tesla om ”at autopiloten statistisk er mere sikker end en menneskelig chauffør, og har et bedre gennemsnit for afstanden mellem fatale ulykker”, ser jeg som yderst problematisk.

Jeg fornemmer også at der er folk som hænger deres hat på denne bedre statistik, - - og kompenserer negativt ved at overlade alt for meget chaufførens "overmand". Så er der måske ikke langt til meget andet ikke-køre-bil relateret aktivitet.
Jeg har ikke en Tesla med disse fancy gadgets, men jeg har en Altea med en almindelig autopilot. Når jeg kobler den til, så skruer jeg da ikke ned for opmærksomheden. Håber sandelig at andre forholder sig lige sådan til autopiloter.

En helt anden ting; Teslaens dygtige men ikke perfekte autopilot får af mange en nænsom behandling i disse tråde om ulykkerne. Gad vide om en autopilot med samme egenskaber ville få en lige så blid medfart, hvis der var et VW mærke på motorhjelmen??!

  • 6
  • 3

En helt anden ting; Teslaens dygtige men ikke perfekte autopilot får af mange en nænsom behandling i disse tråde om ulykkerne. Gad vide om en autopilot med samme egenskaber ville få en lige så blid medfart, hvis der var et VW mærke på motorhjelmen??!

Vi er nok blide, fordi Tesla er ret åbne omkring teknologien, dens fordele og begrænsninger, og hvor den er på vej hen.

Det er et spørgsmål om at læse sig til hvad de mange, som følger Tesla meget tæt, skriver. Nogle har kontakt til ansatte, som kan fortælle hvad der er under udvikling, mens andre tager billeder af "test mules", udstyret med flere sensorer end er normen for produktionsbiler.

Vi kan derfor konstatere, at mens autopilot bestemt ikke er perfekt, så sker der ganske store forbedringer med få måneders mellemrum, og som nævnt er den 3. store opdatering på vej, nok indenfor de næste par måneder. Dermed er autopilot omkring 1 år gammelt.

Eftersom der findes testbiler med flere sensorer, er det muligt, at gætte hvad kommende opdateringer går ud på, nemlig autonom motorvejs- og bykørsel, og der går ikke mere end 1-2 år yderligere, inden vi ser det.

Hvor er VW?

  • 8
  • 1

Og, det er jo kun fordi autopiloten kæmper mod mennesket fejlen opstår. Hvis lastbilen havde kørt som den skulle var uheldet ikke sket. Når flere biler får autopiloter, og de kan snakke sammen rykker det for alvor.

  • 3
  • 3

Gælder det også andre bilmærker?

Ja naturligvis. EU har vedtaget at nogle af de her teknologier snart bliver lovkrav i nye biler. Automatisk nødbremse eksempelvis.

Men det er kun basissystemet der er et lovkrav. Udvidede funktioner medfører at systemerne langt fra er lige. Og det er hellere ikke sådan at du skarpt kan rangere dem. Lige nu har Tesla et af de mest avancerede systemer, men en her nævner VWs system der bremser efter en ulykke er indtruffet, en funktion Tesla tilsyneladende ikke har med endnu.

  • 2
  • 0

Hvis og hvis.. Hvis autopiloten kun kan registre ting som er lovlige handlinger så er dens værdi jo lig nul. En autopilot skal jo kunne tage sig af uforudsete hændelser. Problemet her er at folk vil placere skyld hvilket intet har med autopiloten at gøre for uanset hvem der gjorde eller ikke gjorde hvad så er fakta jo netop at autopiloten ikke opdagede noget og ikke reagerede hvilket gør den farlig da brugeren har fået den opfattelse at det ville autopiloten gøre. Så er det sådan set lige gyldigt hvilke retningslinier Tesla har skrevet ned for det ændre ikke hvad det er brugeren tror systemet kan..

Så eneste skyldige her er brugeren der ikke har brugt hovedet og sin sunde dømmekraft og overladt sit liv til en computer uden at overveje konsekvensen.

  • 3
  • 6

Jeg var i København i lørdags og havde ærinder to forskellige steder på strøget. Medens jeg gik siksakkende ind og ud mellem andre, i ganske rask tempo og betydeligt hurtigere end de fleste, tænkte jeg på en robot-opgave, der ikke er meget ulig en autopilot: Lav en robot, der kan bevæge sig en lørdag formiddag gennem strøget, med en hastighed, der er - skal vi sige 50% - hurtigere end gennemsnittet, uden at den rammer andre mennesker eller noget andet. For at gøre det lidt sværere, kunne vi også bede den tælle, hvor mange mennesker den møder med uret på højre arm, eller tage billeder af de fem smukkeste mennesker, den møder.

  • 5
  • 0

Og, det er jo kun fordi autopiloten kæmper mod mennesket fejlen opstår. Hvis lastbilen havde kørt som den skulle var uheldet ikke sket. Når flere biler får autopiloter, og de kan snakke sammen rykker det for alvor.

Det er jo det klassiske problem som altid.

Tingene virker kun i en perfekt verden, men er idéen med en autopilot, at den skal kunne afværge samtlige hændelser der måtte kunne ske? Ellers så der jo ikke meget "auto" over piloten. Så det eneste den reelt kan er, at fungere under perfekte forhold, og dermed tilskrive sig at den forbedre sikkerheden.

Men hvordan vil den kunne forbedre sikkerheden i en perfekt verden, som den skal virke i? For alle overholder reglerne og hvordan man skal sit køretøj.

Det er jo lidt modstridende.

At løfte sikkerheden, må jo betyde at folk bliver mere opmærksomme på deres omgivelser (hvilket de ikke bliver med autopilot, ikke mange man skal se i en Tesla i Danmark som laver alt andet end at være opmærksomme) og kunne afværge dødelige udfald, hvilket i denne situation den heller ikke gjorde.

Så hvad er det egentlig som er forbedret spørger jeg så om.

  • 2
  • 6

Tingene virker kun i en perfekt verden, men er idéen med en autopilot, at den skal kunne afværge samtlige hændelser der måtte kunne ske? Ellers så der jo ikke meget "auto" over piloten. Så det eneste den reelt kan er, at fungere under perfekte forhold, og dermed tilskrive sig at den forbedre sikkerheden.


Dit argument kører i ring... Ingen forventer at der ikke kan ske uheld når der køres i autopilot (eller retter, jeg håber ikke at nogen forventer det)... Formålet er at den skal forbedre sikkerheden, ikke forhindre at der kan gå noget galt... Den behøver derfor ikke en perfekt verden for at fungerer, men i en perfekt verden vil der slet ikke kunne ske uheld. Og at påstå at den behøver en perfekt verden for at fungerer, er jo selvmodsigende da artiklen handler om en situation i den virkelige verden...

At løfte sikkerheden, må jo betyde at folk bliver mere opmærksomme på deres omgivelser (hvilket de ikke bliver med autopilot, ikke mange man skal se i en Tesla i Danmark som laver alt andet end at være opmærksomme) og kunne afværge dødelige udfald, hvilket i denne situation den heller ikke gjorde.


Hvorfor betyder "at løfte sikkerheden" at folk bliver mere opmærksomme? Normalt betyder en øget sikkerhed at færre kommer til skade under udførelse af de samme opgaver. Det er en øget sikkerhed at man skal bruge to hænder for at aktiverer en maskine, men det øger ikke opmærksomheden, det sikre bare at begge hænder ikke er i fareområdet...

Tesla har ikke lovet at færre vil komme til skade hvis de benytter deres autopilot, de har kun konstateret at statistisk set, bliver der kørt flere km mellem hvert uheld...

  • 6
  • 0

USA er jo kendt for vanvittige og meget store erstatninger, så Tesla bevæger sig på en knivsæg.
Det kunne være interessant at vide hvordan advokater i USA ser på det.

  • 2
  • 0

Ja, der er mange spændende juridiske aspekter.

Er Tesla eller chaufføren f.eks. forpligtet til at udlevere information om hvorvidt autopiloten var slået til, og om hænderne var på rattet umiddelbart før ulykken skete ?

  • 0
  • 0

Nu har jeg spillet en del, og ved at bugs og features ofte tager år at opdage, at ikke alle rettelser/patches er gode og somme tider introducere nye fejl.

Selvom måske 99% af koden er god, er det stadig den sidste 1% der kan volde alvorlige problemer. Det vil sikkert taget mange år før AI bliver så god at koden bliver bedre en menneskelige billister, så man trygt kan overlade styringen til autopiloten.

  • 2
  • 1

Ifølge Teslas pressemeddelelse efterforskes sagen af NHTSA (National Highway Traffic Safety Administration), men i artiklen ovenfor står NTHSB (National Highway Traffic Safety Board).
Hvem mon har ret? Indicier kan findes på www.NHTSA.gov og www.NHTSB.gov

  • 0
  • 0

Færdig udviklet er der jo ingen der påstår det er og da slet ikke Tesla der kalder det en beta version (beta versioner plejer som regel ikke at være færdigudviklede) Det er måske også derfor du får en stor advarsel slasket visuelt op i ansigtet hvor det påpeget at du skal beholde begge hænder på rettet hver eneste gang du slår auto steer til ? Hvis du så ignorerer den og giver dig til at sove er det helt fint med mig, men man skal bare ikke kritisere beta versionen bagefter :-) Du skriver laaaang tid før vi har 100% selvkørende biler. Laaaang tid er jo relativ men hvis du mener 3 år er jeg tilbøjelig til at give dig ret ! Der vil så derefter garanteret gå laaaaaaaaang tid før det bliver lovligt at sende bilen til bageren efter morgenbrød, men det er en hel anden diskusion og har ikke noget at gøre med den teknologiske udvikling. Ver 8.0 non beta kommer sikkert først via trådløs om 3 måneder og ingen kender egenskaberne før Teslas release. Sandsynligvis små forbedringer, og muligvis lidt større som at hjælpe med at bremse for rødt ? Hvor stærkt gik det med Internettet eller mobiltelefonen ? Er det ikke nogenlunde samme tidshorisont vi bevæger os i tror du ?

  • 1
  • 0

Det her er skrevet på samme tid som min robotstøvsuger, som er en af de dyreste og mest komplekse der findes, for 727' gang har sat sig selv fast i et hjørne. En så simpel ting som at støvsuge et gulv er åbenbart for svær for de utallige sensorer og kameraer der sidder på støvsugeren.

Hvis man fra både teslas og fangruppens side ikke oversolgte teslas systemer, og kaldte dem for det de er, nemlig "drivers assistance", ville man ikke høre et ondt ord fra min side. Jeg Tror faktisk de er State of the art på det område og på alle måder højner trafiksikkerheden.

Problemet er at de bliver oversolgt som selvkørende og autonome hvilket de på ingen måde er i nærheden af. I nogle situationer kan de, i lighed med VW , Volvo, Opel og alle andre lave en indgriben som øger sikkerheden.

Men autonome, selvkørende, mere sikre end mennesker osv er de altså ikke endnu, så alle de videoer man ser med folk der læser avis, er uopmærksomme, sidder på bagsædet og hvad der ellers findes, er bare videoer af dybt uansvarlige personer, som ikke har fattet ( måske pga teslas overpromovering) at de sætter andre menneskers liv på spil, ved at overlade styringen til et system, som med nuværende udvikling kun er et supplement til den menneskelige hjernes overblik og dømmekraft.

  • 6
  • 2

Problemet er at de bliver oversolgt som selvkørende og autonome


Hvem er det lige du mener reklamer for Teslas "Driver Assist" autopilot som "selvkørende og autonom"
Det er i hvert fald ikke Tesla.

videoer af dybt uansvarlige personer


Dem findes der jo desværre mange af i trafikken. Som eksempelvis en vis lastbilchauffør der ignorere vigepligter.
Disse folk vil være farlige uanset hvilken bil de køre i. Det har ikke noget med driver assist at gøre.
Faktisk så vil en fuldt autonom bil være det eneste der kan gøre sådanne folk sikre i trafikken.

  • 3
  • 0

Faktisk så vil en fuldt autonom bil være det eneste der kan gøre sådanne folk sikre i trafikken.

Her er abstrakt til en artikel der behandler programmering af AV til at træffe sine valg i situationer hvor ingen happy ending er mulig:

"The wide adoption of self-driving, Autonomous Vehicles (AVs) promises to dramatically reduce
the number of traffic accidents. Some accidents, though, will be inevitable, because some situations will require AVs to choose the lesser of two evils. For example, running over a pedestrian on the road or a passer-by on the side; or choosing whether to run over a group of pedestrians or to sacrifice the passenger by driving into a wall. It is a formidable challenge to define the algorithms that will guide AVs confronted with such moral dilemmas. In particular, these moral algorithms will need to accomplish three potentially incompatible objectives: being consistent, not causing public outrage, and not discouraging buyers. We argue to achieve these objectives, manufacturers and regulators will need psychologists to apply the methods of experimental ethics to situations
involving AVs and unavoidable harm. To illustrate our claim, we report three surveys showing that laypersons are relatively comfortable with utilitarian AVs, programmed to minimize the death toll in case of unavoidable harm. We give special attention to whether an AV should save lives by sacrificing its owner, and provide insights into (i) the perceived morality of this self-sacrifice, (ii) the willingness to see this self-sacrifice being legally enforced, (iii) the expectations that AVs will be programmed to self-sacrifice, and (iv) the willingness to buy self-sacrificing AVs."

Søg på:

Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?
Jean-Fran¸cois Bonnefon1, Azim Shariff2, and Iyad Rahwan3

  • 0
  • 3

@Søren Fosberg, vedrørende "self sacrifying AI". Disse forskere kører da ud af en tangent, som de selv muligvis synes er spændende og som kan give god forskningsmidler. Men i virkelighedens verden har bilens AI slet ikke nok informationer til at kunne foretage sådanne valg. Eksempelvis, hvordan kan bilen være sikker på hvor mange der kommer til skade hvis den forlader kørebanen og kører ind i en gruppe mennesker?

"Primary directive" (fra Star Trek) er at undgå ulykker. Hvis den alligevel kommer i en situation, hvor ulykken ikke længere kan undgås, så tager en anden AI over. Nemlig samme AI som også tager over hvis bilen er manuelt ført. Denne AI har mange biler allerede i dag, selvom de er lidt primitive. Dagens biler er begrænset til at lave nødopbremsninger, også selvom den menneskelige fører forsømte at bremse. I fremtiden kommer der helt sikkert systemer der kan foretage dobbelte undvigemanøvre med mere.

Med tiden bliver systemerne naturligvis mere avancerede, men de første fuldt autonome systemer vil ikke have specielt avanceret skade minimerings AI. Det vil groft sagt bare være at slå bremserne i, stands ulykken ved at standse køretøjet. Det er ok så længe de bare klarer sig bedre end menneskelige chauffører, hvilket ikke er så svært.

  • 5
  • 0

choosing whether to run over a group of pedestrians or to sacrifice the passenger by driving into a wall.

Nu siger jeg det igen. Det bliver ALDRIG sådan, at man vil lade bilen ofre førens og passagers liv til fordel for en flok fodgængere, der af egen drift har overtrådt loven ved at befinde sig på kørebanen. Alle etiske overvejelser til side, så er der en meget simple grund til at det ikke vil ske. Det ville nemlig betyde, at man ved på et velvalgt sted at træde ud foran bilen, med fuldt overlæg kunne slå bilens fører ihjel.

Rent bortset fra det, så vil en autonom bil med tiden køre med en sådan forudseenhed og forsigtighed, at et sådant dilemma nærmest ville kræve, at personer pludselig materialiserede sig på kørebanen ud af den blå luft.
Situationen forekommer yderst teoretisk.

  • 9
  • 1

Ja jeg er jo ikke ekspert og prøver ikke engang at føre mig frem som ekspert. Men det er svært så undvigende alle de selvudnævnte eksperter her i debatten er i forbindelse med hvordan AV skal programmeres til at træffe sine valg i situationer hvor skade er uundgåelig. Alle der ytrer tvivl om disse af insekthjerner styrede bilers evner til at agere hensigtsmæssigt afvises som latterlige fjolser. Du mener altså alt kan løses ved at stå på bremsen. Simpelthen. Og jeg undrer mig over om du overhovedet har prøvet at køre bil.

Men det har du jo nok.

  • 2
  • 7

Ja jeg er jo ikke ekspert og prøver ikke engang at føre mig frem som ekspert. Men det er svært så undvigende alle de selvudnævnte eksperter her i debatten er i forbindelse med hvordan AV skal programmeres til at træffe sine valg i situationer hvor skade er uundgåelig. Alle der ytrer tvivl om disse af insekthjerner styrede bilers evner til at agere hensigtsmæssigt afvises som latterlige fjolser. Du mener altså alt kan løses ved at stå på bremsen. Simpelthen. Og jeg undrer mig over om du overhovedet har prøvet at køre bil.

Men det har du jo nok.

Jeg er nu godt tilfredshed at der tænkes over mulige problemer inden man giver rattet til computere.

  • 0
  • 2

Du mener altså alt kan løses ved at stå på bremsen. Simpelthen. Og jeg undrer mig over om du overhovedet har prøvet at køre bil.

Nu ved jeg ikke hvem "du" henviser til i ovenstående, men uanset bør du nok overveje din debatstil.

I Danmark var der i 2015 i alt 49 dræbte i trafikken. Påstanden er at de fleste af dem kan undgås og ja, de fleste kunne undgås ved at stå på bremsen. Men en AI undgår dem ved simpelthen ikke at komme i situationen. Den falder ikke i søvn, den glemmer ikke at orientere sig. Den traditionelle højresvingsdødsulykke kan helt undgås.

Jeg regner også dødsulykken i Teslaen som en ulykke som kan undgås med en bedre AI i Teslaen (primært ved bedre sensorer), dog under den forudsætning at det fysisk var muligt at bremse tilstrækkeligt. Hvis lastbilen havde været autonom, så var den næppe kørt ud foran Teslaen, så det er to chancer for at redde uheldet i en verden med autonome biler.

I 2015 var der 0 dræbte i trafikken i kategorien "føreren kunne reddes ved at køre en flok skolepiger ned". Før det første var der kun 16 dræbte bilister. Og af dem var de fleste en type uheld som simpel automatisk nødbremse reder eller uheld, som skyldes uhensigtsmæssig kørsel af den dræbte selv. For det andet, så er disse tænkte situationer bare ikke noget der sker ofte i praksis. Det er tænkte situationer fordi ingen kan pege på en masse uheld, hvor det faktisk er sket.

  • 7
  • 0

Truer du?


Mener du selv, at han truer?

Eller er spørgsmålet blot ment som et retorisk trick fra din side?

Her er abstrakt til en artikel der behandler programmering af AV til at træffe sine valg i situationer hvor ingen happy ending er mulig:


Selv om det da kan være enormt spændende at lege med tanken om en computers håndtering af etiske dilemmaer, virker det efter min mening lidt højtflyvende at bekymre sig så meget om den problemstilling.

Vi mennesker kan jo heller ikke finde ud af det. Hvorfor så kræve det af en computer? Der træffes allerede i dag masser af forkerte beslutninger i situationer, hvor en trafikant lynhurtigt skal vælge mellem at undvige en forhindring og køre galt på een måde eller holde kursen og køre galt på en anden måde. Vi er enormt dårlige til den slags beslutninger, selv når der kun er risiko for materiel skade.

Jeg har selv været der et par gange. Begge gange tog jeg en beslutning, som i bagklogskabens lys var mindre optimal - min redning af situationen var tæt på at fremkalde en mere alvorlig ulykke, end den jeg forsøgte at forhindre.

Jeg har det fint med, at man ikke forsøger at lade computeren tage etiske beslutninger. Jeg er fint tilfreds med, at den blot tager en teknisk beslutning om at reducere risikoen for en alvorlig ulykke mest muligt inden for det råderum, den har. Nogle gange vil det koste en fodgænger livet. Nogle gange vil det koste føreren livet. Nogle gange vil det redde begges liv. Men det er jo blot den situation, vi har i dag.

  • 5
  • 0

Du misforstår problemstillingen. Det etiske problem ligger hos programmøren eller de retningslinjer han skal arbejde med. Computeren kan naturligvis hverken tage etiske beslutninger eller ansvar for sine "handlinger".

Diskussionen er altså hvordan man skal programmere. Heri ligger et potentielt etisk dilemma. Hvorfor er det så svært at forstå. Det er da ellers ret åbenlyst.

  • 2
  • 3

så undvigende alle de selvudnævnte eksperter her i debatten er


Nu er jeg ikke ekspert i trafik og dens problemer. Hverken officielt eller selvudnævnt.
Men selvom det ikke er mig du spørge, så kan jeg da godt give dig min mening om spørgsmålet:
Det er aldeles, hamrene og absolut uinteressante!

Disse akademiske diskussioner omhandler 0,et-eller-andet% af de 2.600.000 der dør i trafikken hvert år.
Så længe langt, langt størstedelen af alle trafikdrab sker ved, relativt, simple ulykker, så skal vi bruge langt størstedelen af resurserne på at stoppe disse simple ulykker.

Når så engang antallet af dødsfald i trafikken er nede på en brøkdel af hvad de er idag, så kan det godt være at komplekse, og ekstremt sjældne, ulykker skal tilføres væsentlige resurser.

Men bevares. Lad da nogle akademikerer underholde sig selv med at diskutere det. Så længe de holdes LANGT væk fra dem der har indflydelse på hvad der prioriteres.

  • 6
  • 0

Men der er ikke dig det bestemmer vel?


Nej, det er hverken dig eller mig eller personen, der har skrevet din artikel. Erstatning og ansvar er emner for lovgivere, bilfabrikanter og forsikringsselskaber, og alle tre vil være henrykte over at se det samlede antal dødsulykker gå ned.

Og hvordan kan det være en teknisk problemstilling når der handler om fordeling af risici? Det handler om erstatning og ansvar.

Når det går galt i bil i helt banale situationer, selv uden etiske elementer,
er mennesker møgelendige til at gøre det, de har lært. Og det er denne type ulykker, der er langt flest af. I de fleste ulykker er det sådan, at hvis man reagerer rigtigt, har man reddet både sig selv og de andre trafikanter.

Derfor er der en kæmpe sikkerhedsgevinst at hente, hvis man kan få en computer til at håndtere disse situationer bedre, end den gennemsnitlige fører ville have kunnet.

Nu har vi så to mulige udfald af den fremtidige udvikling: Enten lykkes det at nå dette mål, eller også lykkes det ikke.

Hvis det ikke lykkes, er vi slet ikke nået langt nok til at begynde at bekymre os om etiske overvejelser.

Hvis det lykkes, vil du vel ikke for alvor mene, at man skal lade være med at implementere systemerne, fordi der endnu ikke er programmeret etiske overvejelser ind i systemet? Det ville jo betyde, at du ofrer de mange der kunne have været reddet i banale ulykker blot for at omfordele nogle få dødsfald i de mere eksotiske ulykker.

  • 4
  • 0

Hvis det lykkes, vil du vel ikke for alvor mene, at man skal lade være med at implementere systemerne, fordi der endnu ikke er programmeret etiske overvejelser ind i systemet? Det ville jo betyde, at du ofrer de mange der kunne have været reddet i banale ulykker blot for at omfordele nogle få dødsfald i de mere eksotiske ulykker

Nej nej nej selvfølgelig ikke. Jeg er overhovedet ikke imod førerløse biler. Hvis de virker. Så er det da glimrende. Mine spørgsmål går på om det virkelig kan passe at førerløse biler er lige om hjørnet og at problemet med at lade en computer styre en bil rundt i trafikken uden menneskelig overvågning nærmest er løst.

Og nu gider jeg ikke gentage og selv mere. Vi må se hvad de sker. Hvis I har ret, så tillykke. Indtil da vil jeg tillade mig at tvivle. Det skal sikkert nok komme en dag, men lige om hjørnet! :-D

  • 2
  • 2

Hvis du har valget mellem at køre en fasan ihjel eller undvige og slå dig selv ihjel, så er vi forhåbentlig alle enige om, at fasanen skal lade livet?

http://www.jv.dk/artikel/1106503:Indland--...

Hvis du har valget mellem at køre et rådyr ihjel eller undvige og slå en af dine passagerer ihjel, så er vi forhåbentlig alle enige om, at rådyret skal lade livet?

http://www.bt.dk/krimi/ville-undvige-raady...

Det var helt sikkert ikke etiske overvejelser, der slog disse to unge mennesker ihjel. Hvor kynisk det end kan lyde, var det samme simple, tekniske problemstilling i begge tilfælde: Førerne troede sig i stand til at undvige dyret uden at slå sig selv eller andre ihjel. Men det mislykkedes.

Så når vi mennesker har så svært ved at håndtere valg i trafikken, selv når der ikke engang er tale om valg mellem to forskellige mennesker, men blot et valg mellem at slå et dyr ihjel eller bringe sig selv eller andre mennesker i fare, hvorfor er det så så vigtigt, at computere kan?

  • 4
  • 0

Nej - du og andre skyder mig i skoene at jeg hellere vil se lig på bordet end at det skal være førerløse biler. Det er ikke tilfældet. Jeg deler bare ikke Jeres jubeloptimisme mht den snarlige realisering af teknologien. Må jeg det eller er det lovpligtigt at være jubeloptimist?

Mht etiske valg - ja det tror jeg er en nødvendig forudsætning for at førerløse biler kan blive sluppet løs i trafikken. Du kan ikke definere fordeling af ansvar uden det. Det er helt grundlæggende og gælder overalt hvor teknologi kan blive et element i ulykker. Al lovgivning er baseret på etik og der kommer til at være en masse lovgivning - med forudgående debat - omkring førerløse biler.

  • 2
  • 4

Jeg kan snart ikke skelne den ene fra den anden men hvis jeg har skudt dig noget forkert i skoene må du undskylde.

Derudover har du ikke forklaret mig noget som helst.

  • 1
  • 2

Mht etiske valg - ja det tror jeg er en nødvendig forudsætning for at førerløse biler kan blive sluppet løs i trafikken. Du kan ikke definere fordeling af ansvar uden det. Det er helt grundlæggende og gælder overalt hvor teknologi kan blive et element i ulykker. Al lovgivning er baseret på etik og der kommer til at være en masse lovgivning - med forudgående debat - omkring førerløse biler.


Jeg tvivler meget på at en sådan debat bliver gennemført før der er sket et reelt uheld... Og det vil naturligvis sige efter at teknologien er på gaden og er godkendt til at være der... Debatten vil mest foregå i offentligheden hvor folk som dig vil forsøge at få det gjort til et problem at teknologien ikke tog hensyn til etiske problemer som ingen i forvejen havde tænkt på, hvor imod politikere og producenter vil gøre hvad de kan for at beskrive det som et hæderligt uheld, som ingen kunne have forudset...

Lovgivningen deler uheld op i "hæderlige uheld" og "Uansvarlig handling". Det første kan medføre et økonomisk ansvar, hvor imod det andet kan medfører forskellige former for straf. Jeg forventer at alle selvkørende bliver bliver mødt med et krav om en ansvarsforsikring (lige som alle biler har de fleste steder i dag) og at det kun bliver i tilfælde hvor ejeren ikke har overholdt service eller har ændret på bilens konfiguration, at der kan være tale om uansvarlighed. Desuden så vil der komme nogle minimumskrav til sensorer når der kommer flere mærker på marked og konkurrencen går på at leverer det billigste produkt der kan godkendes...

Men jeg forventer ikke at der i de første mange år kommer krav om at bilen skal foretage etiske valg og jeg forventer slet ikke at der skal foretages en retssag hvor det vurderes om det ene dødsfald kunne undgås ved at dræbe en anden...

  • 1
  • 0

Q:“I don’t think you need LIDAR. I think you can do this all with passive optical and then with maybe one forward RADAR,” Musk said during at a press conference in October. “I think that completely solves it without the use of LIDAR. I’m not a big fan of LIDAR, I don’t think it makes sense in this context.”

Jeg vil håbe Tesla får det til at virke, for hold fast hvor er det smart. Det gør kørsel til en drøm. Og de andre bilfabrikanter bliver pirret til at bevæge sig ud af komfortzonen. Nok den mest spændende udvikling lige nu - måske bortset fra overgangen fra fossil til grøn.

  • 4
  • 0

Så når vi mennesker har så svært ved at håndtere valg i trafikken, selv når der ikke engang er tale om valg mellem to forskellige mennesker, men blot et valg mellem at slå et dyr ihjel eller bringe sig selv eller andre mennesker i fare, hvorfor er det så så vigtigt, at computere kan?


Fordi programmøren (producenten) bliver stillet til ansvar, hvad enten denne har valgt enten ikke at sondre mellem objekter, der kommer på tværs (evt fordi teknikken ikke kan), eller har truffet et valg, der blev udslagsgivende for om det var objektet eller passageren i bilen, der måtte lade livet.

Det er og bliver, ikke bare en nærmest uendelig teknisk vanskelig udfordring for en computer, men også en etisk overvejelse for dens programmør, at skelne mellem de objekter, bilen skal forsøge at undvige, og de objekter den hellere må maje ned, frem for at udsætte sine passagerer for yderligere risiko.

Det er vel åbenlyst for enhver, at der er forskel på sådanne objekter, og at vi derfor ikke kommer udenom etikken?

Når en menneskelig bilist har haft under 1 sekund, til at træffe valget, så forstår vi alle at han kan vælge forkert, ligesom det kan ske for os selv - og vi har jo valgt at acceptere denne risiko, som en del af risikoen ved at leve blandt andre mennesker, inklusiv det at kunne færdes i bil.

Men vil vi også acceptere at sende robotter ud på vejen, som ikke kan se forskel på et barn og en chimpanse, eller som reagerer ens på ethvert levende væsen, der pludselig kommer på tværs?

Her er det ikke kun den rationelle ingeniør, som har set lyset i den nyeste teknologi, du skal spørge, men også de mange mødre, der sender deres børn ud i trafikken hver dag, hvad enten det er til fods eller på bagsædet af en selvkørende bil.

De har jo alle hver en stemme ift lovgiverne, og er derfor nok den største hindring for at dine selvkørende drømme nogensinde bliver realiseret.

  • 4
  • 1

De har jo alle hver en stemme ift lovgiverne, og er derfor nok den største hindring for at dine selvkørende drømme nogensinde bliver realiseret

Lad os se!
En computer kan ikke foretage etiske valg, men den kan foretage et valg, derfor bliver det heller ikke et stort problem. Computeren skal undgå ulykker og gøre det med stor forudsigelighed som muligt og ja, det kommer nok til at koste menneskeliv, men langt, langt færre end nu. Det kan bevises, at en sikkerhedssele koster menneskeliv, men redder selvfølgelig mange flere - producenterne af sikkerhedsseler bliver ikke gjort ansvarlige for disse ulykker. Man kan altid finde en vinkel som måske kan være problematisk, men alt andet lige, så vil det være ren statistik som kommer til at afgøre om selvkørende biler bliver lovlige.

  • 1
  • 4

Men vil vi også acceptere at sende robotter ud på vejen, som ikke kan se forskel på et barn og en chimpanse, eller som reagerer ens på ethvert levende væsen, der pludselig kommer på tværs?

Søren, det er vel ikke noget problem for en computer at sondre mellem en chimpanse eller et barn, eller en ko eller en elg - men det er igen en ren akademisk diskussion som har megen lidt relevans i virkeligheden - her er det de store fordele ved at undgå ulykker og ikke om computeren kan skelne mellem en chimpanse eller et barn(selvom den selvfølgelig kan).

  • 1
  • 0

Lad os se!


Raymond - nej, en computer kan ikke foretage etiske valg. Det kan derimod programmøren, såfremt teknikken kan se forskel på de objekter, han skal træffe valget imellem - og der starter dilemmaet!

Biler har i årtier været forsynet med aktuatorer, der i en eller anden grad blander sig i kørslen, men alt fra pneumatisk, hyfraulisk, elektrisk servostyring, over Fords biler, som allerede for 10 år siden kunne lave perfekte sidelæns parkeringer, uden chaufførens hænder på rattet.

Landbrugsmaskiner har i endnu længere tid kunnet styre rundt på markerne, langt mere præcis og sikkert end landmanden, og autopiloter har i tre årtier kunnet styre fly bedre og sikrere end deres piloter.

Fælles for dem alle er at man ikke kan fjerne chaufføren/piloten fra styretøjet, uden at acceptere et væsentligt tab af sikkerhed, trods de stadig ville være mere sikre end før deres robot-systemer blev implementeret.

Tesla's biler er (måske) blevet mere sikre med autopilot, end de var uden, men det er stadig det sikreste at lade chaufføren blive ved rattet, så han kan overrule autopiloten i tilfælde af fejl.

Faktum er således at vi stadig ikke bare er i nærheden af at tillade kombinationen [autopilot uden chauffør], mens vi har stadig intet problem ved at tillade kombinationen [chauffør uden autopilot] - på trods af at man kan argumentere at førstnævnte er den mest trafiksikre.

Man kan jo overveje det rationelle i det, men sådan er vi mennesker nu engang - og årsagen er måske i virkeligheden ret enkel, idet det er MEGET lettere at stille en chauffør til ansvar for sin handling end en computer!

  • 1
  • 0

men det er igen en ren akademisk diskussion som har megen lidt relevans i virkeligheden - her er det de store fordele ved at undgå ulykker og ikke om computeren kan skelne mellem en chimpanse eller et barn(selvom den selvfølgelig kan).


Det tvivler jeg nu på er så selvfølgeligt, som du her gør det til, men hvis det var tilfældet, er det da et indlysende relevant og etisk spørgsmål, om programmøren skal stilles til ansvar for om han vælger at lade bilen forsøge at undvige et barn på kørebanen, med risiko for passageren tilfølge, eller om den skal give barnet samme prioritet som en chimpanse.

Det er da for naivt at tro at man kan undvige den del af debatten, bare fordi computeren måske er bedre til at undgå at komme i den situation! Den der har mistet sit barn kan jo ikke bruge den statistik til noget.

Førerløse biler får næppe nogensinde tilladelse i et civiliceret land, uden den etiske del af emnet har været grundigt overvejet.

  • 3
  • 1

Førerløse biler får næppe nogensinde tilladelse i et civiliceret land, uden den etiske del af emnet har været grundigt overvejet.


Jeg kan ikke se hvorfor en førerløs bil skulle have et større ansvar end en bil med fører... Hvis et barn løber ud på en vej og bliver kørt ned af en bil, så bliver føreren ikke straffet med mindre han har kørt for stærkt, var fuld/påvirket, bilens bremser var ulovlige eller der er foretaget noget andet groft uforsvarligt... Men jeg vil ikke udelukke at barnets efterladte kan få en form for økonomisk erstatning, da bilen naturligvis har en lovlig ansvarsforsikring. Det kan også få betydning for billisten da han måske ikke mere får en rabat på sin forsikring pga. uheldet...

Ejeren af en førerløs bil skal naturligvis fortsat have en lovpligtig ansvarsforsikring og han skal fortsat sikre sig at bilen er forsvarlig og tilpas opdateret m.m for at det ikke skal anses som værende "groft uforsvarligt"....

  • 0
  • 0

Det tvivler jeg nu på er så selvfølgeligt, som du her gør det til, men hvis det var tilfældet, er det da et indlysende relevant og etisk spørgsmål, om programmøren skal stilles til ansvar for om han vælger at lade bilen forsøge at undvige et barn på kørebanen, med risiko for passageren tilfølge, eller om den skal give barnet samme prioritet som en chimpanse.


Programmøren skal stilles til ansvar, hvis han bruger en algoritme, der gør noget andet, end man har beskrevet over for myndighederne, da man fik styringen godkendt.

Det lader til, at nogen slet ikke er opmærksomme på, at vi ikke kan få førerløse biler på vejene, før der er en lovgivning på plads - herunder krav til godkendelse af køretøjerne og regler for ansvar. Derfor giver det ikke ret meget mening at forsøge at stoppe ansvarsovervejelserne ind i den lovgivning, der gælder i dag.

  • 1
  • 0

... bare fordi computeren måske er bedre til at undgå at komme i den situation!


Og når jeg skriver "måske" hvergang, så er det fordi jeg stiller mig kraftigt tvivlende ved om Tesla's statistik (uheld pr kørte km med autopilot) nu også viser at autopiloten i sig selv kører mere sikkert end en menneskelig chauffør - netop fordi der jo stadig sidder en chauffør ved rattet.

Hvad statistikken jo ikke viser, er hvorvidt chaufførerne har "snorksovet" under kørslen, eller om de faktisk har været endnu mere opmærksomme på kørslen, end de ville være, hvis de selv kørte.

Jeg er i hvert fald ikke i tvivl om at jeg selv ville være helt oppe på dupperne, hvis jeg selv sat bag rattet i en sådan bil, præcis som når man sidder på passagersædet i en bil, med en chauffør man ikke har stor fidus til.

I en video, højere oppe i tråden, ser man chaufføren gribe ind overfor autopiloten, i en situation, der klart ser ud til at være endt galt, hvis han ikke greb ind.

I den video kører autopiloten jo over 99% af strækningen, uden uheld, mens chaufføren kun kører den ene % der var nødvendig, for at undgå uheldet!

Var det alligevel endt i et uheld, kunne statistikken i princippet have vist at autopiloten kører >100 mere sikkert end chaufføren!

Selvom autopiloten sikkert er blevet forbedret siden, understreger det bare at vi stadig nærmest er uendeligt langt fra at kunne flytte ansvaret fra chaufføren til autopiloten, hvad end statistikken så fortæller os.

  • 2
  • 2

Fælles for dem alle er at man ikke kan fjerne chaufføren/piloten fra styretøjet, uden at acceptere et væsentligt tab af sikkerhed, trods de stadig ville være mere sikre end før deres robot-systemer blev implementeret.

Kan godt se hvor du vel hen men nu er der ingen af de systemer du nævner der er færdig-udviklede endnu til autonomi.

Så kan man diskutere hvornår de bliver det, men der er så vidt jeg er orienteret bogstaveligt talt ingen af dem der endnu har haft det designmål at opnå fuld autonomi med en færdig implementering bag.

For bilernes vedkommende tror jeg der er så store gevinster at selvom man må acceptere lidt mindre sikkerhed end kombinationen fører + autopilot, så vil man gøre det så længe det er bedre end gennemsnitligt kun fører.

  • 0
  • 0

Og det vil naturligvis sige efter at teknologien er på gaden og er godkendt til at være der...

Der er ingen endnu her i debatten som er imod førerløse biler - hvis og når de virker. Selvfølgelig ikke. Men hvad vil det så sige at de virker? Der er en del indlæg som mener at succeskriteriet er at der sker færre uheld per million km end vi har nu hvor mennesker styrer bilerne.

Måske - men der må nødvendigvis være andre kriterier også. F.eks gns farten per million km.

Se her - state of the art: VM i robotfodbold. Er det her vi er - eller er det totalt irrelevant:

http://m.youtube.com/watch?v=otsQL4SFxX0

  • 0
  • 0

Det lader til, at nogen slet ikke er opmærksomme på, at vi ikke kan få førerløse biler på vejene, før der er en lovgivning på plads - herunder krav til godkendelse af køretøjerne og regler for ansvar. Derfor giver det ikke ret meget mening at forsøge at stoppe ansvarsovervejelserne ind i den lovgivning, der gælder i dag.


Den ordstilling er da mildest talt selvmodsigende!

Man kan da netop ikke lave den nødvendige lovgivning om en teknologi, uden at tage stilling til hvem der skal bære ansvaret, når (og ikke hvis) der sker uheld, fordi teknikken svigter.

Og siden hvornår har ansvaret for uheld i trafikken ligget hos de lovgivere og myndigheder der godkender køretøjerne?

  • 0
  • 0

Lad os glemme snakken om førerløse biler. Vi taler om anti-kollisionssystemer, som sandsynligvis vil finde vej til helt almindelige biler, længe før vi har førerløse biler.

I dag har vi anti-kollisionssystemer, hvor bilens bremser tager over i tilfælde af en truende kollision. Jeg kender ikke til systemer, hvor rattet tager over i denne situation.

Den dag, man begynder at implementere systemer, hvor rattet også tager over ved en truende kollision, er jeg ret overbevist om, at det kommer til at ske efter et ret simpelt sæt regler:

  • Hvis problemet kan løses med en opbremsning: Brems og hold kursen.

  • Hvis problemet ikke kan løses med en opbremsning, men der er plads til en af siderne, uden at man kommer på kollisionskurs med anden trafik, og uden at bilen kommer ud af kontrol: Brems og styr uden om forhindringen.

  • Hvis problemet ikke kan løses med en opbremsning, og der enten ikke er plads til en af siderne, uden at man kommer på kollisionskurs med anden trafik, eller bilen vil komme ud af kontrol ved en undvigelse: Brems og hold kursen - og håb, at bilens indvendige og udvendige passive sikkerhed kan klare resten.

Ovenstående vil i langt hovedparten af tilfældet gøre et bedre job, end den gennemsnitlige fører selv kunne have gjort uden automatik. Hvis et sådant system kommer på markedet, og man kan bevise, at det vil sænke antallet af dødsfald, er jeg overbevist om, at det vil blive tilladt.

Bemærk, at der ikke indgår nogen form for etiske overvejelser i systemets valg.

Bemærk også, at situation nr. 3 ikke indeholder nogen form for klassifikation af de mulige objekter, man kan kollidere med, og dermed heller ikke indeholder noget valg mellem dem. Man vælger simpelthen altid at kollidere med objektet foran bilen i stedet for at kollidere med et objekt til en af siderne. Jeg vil tillade mig at påstå, at dette i langt hovedparten af tilfældene med en uundgåelig ulykke vil være det optimale valg, da den afledte ulykke risikerer at blive meget større, hvis man kolliderer med et objekt i en anden vognbane eller i vejsiden, og køretøjet derefter kommer ud af kontrol på grund af de asymmetriske kollisionskræfter.

Hvis man overvejer at bygge videre på sådan et system, så det i situation nr. 3 skal begynde at klassificere de mulige uheld og i nogle tilfælde forlade vognbanen for at kollidere med et andet objekt, vil det være et kæmpeopgave at gøre denne udvidelse af systemet så perfekt, at den ikke gør ondt værre. I sådan en udvidelse vil etiske overvejelser også skulle indgå. Jeg tror, at den slags systemer ligger rigtigt langt ude i fremtiden, og at vi i mange år forinden vil have haft systemer af den type, jeg har beskrevet. Jeg tror også, at man på et tidspunkt vil have så gode erfaringer med systemer af den type, jeg har beskrevet, at man vil acceptere dem til brug i førerløse biler.

  • 1
  • 1

Lad os glemme snakken om førerløse biler. Vi taler om anti-kollisionssystemer, som sandsynligvis vil finde vej til helt almindelige biler, længe før vi har førerløse biler.


Det kan der jo ikke komme meget debat ud af. Sådanne systemer er jo allerede implementeret, og ingen kan være uenige om at de nok skal blive bedre med tiden.

Men udover at reducere antallet i uheldsstatistikkerne lidt, så kommer det jo ikke til at ændre det store på vores samfund, så længe der stadig skal sidde en certificeret chauffør bag rattet i enhver bil, så det ville jo blot være en forlænget debat om ABS og airbags.

Det interessante er kun om vi nogensinde når dertil, hvor chaufføren kan undværes, hvilket en del debattører jo påstår ligger indenfor rækkevidde.

Det ville jo få afgørende betydning for alt fra trængselsproblemer til beskæftigelse, hvis det realiseres.

Efter min beskedne overbevisning, bliver det næppe noget mange af de herværende debattører kommer til at opleve i deres levetid.

  • 1
  • 1

Kan godt se hvor du vel hen men nu er der ingen af de systemer du nævner der er færdig-udviklede endnu til autonomi.


Ingen teknologi bliver vel nogensinde færdigudviklet.

Det eneste element i denne debat, man kan kalde "færdigudviklet", er vel mennesket (og måske chimpansen?), og det understreger vel bare min pointe:

Hvis ikke det at autonomien viser en bedre uheldsstatistik end mennesket, er nok til at vi foretrækker give maskinen ansvaret, så er det jo ikke fordi mennesket er mere ufejlbarligt, men fordi vi har lært at acceptere menneskets fejl.

Det er dybt forankret i hele vores kultur. Ved f.eks. at forstå at en politikere til stadighed kan vinde stemmer ved at love strengere straffe for dette og hint, er det måske lettere at forstå ovenstående.

Vi lever som mennesker blandt andre mennesker, med risikoen for at komme til skade, når vi bumper ind i hinanden. Vi har endda tendens til at samle os på steder, hvor der i forvejen er flest, og risikoen dermed størst, vel vidende at disse steder også tiltrækker de farligste individer.

... og alligevel forlanger vi konstant mere og mere sikkerhed.

Den mest effektive måde at øge sikkerhed på, kunne være at fjerne de største idioter fra jordens overflade, så der bliver mere plads til os andre - men vi nøjes jo med at straffe dem, slippe dem løs igen, og derudover acceptere at de er en risiko - for de er jo også mennesker.

Autonome maskiner, der bevæger sig rundt iblandt os, og udsætter os for risiko, kan vi meget nemmere blive enige om at fjerne (eller undlade at tillade), og skal de endelig tillades, vil vi som minimum vide hvilket menneske der skal angre, hvis de bliver årsag til menneskelig skade.

Eksempel; hvis du kører frem for ubetinget vigepligt, og en mor og hendes to børn derved mister livet, så er faderen, der mistede sin familie, bestemt hverken tilfreds med at det ikke var med vilje, eller at dit forsikringsselskab sender ham en stor check. Han vil også se dig angre i retten, når du bliver tildelt din straf for uagtsomt mandrab.

Det er jo noget samfundet bakker op om, for kun på denne måde kan vi acceptere risikoen.

Hvem skal man sende i fængsel hvis det samme sker for en førerløs bil?

I min optik er dette spørgsmål meget mere relevant end om teknikken er bedre end mennesket, for før vi kender svaret, vil teknikken aldrig være god nok.

  • 2
  • 1

Eksempel; hvis du kører frem for ubetinget vigepligt, og en mor og hendes to børn derved mister livet, så er faderen, der mistede sin familie, bestemt hverken tilfreds med at det ikke var med vilje, eller at dit forsikringsselskab sender ham en stor check. Han vil også se dig angre i retten, når du bliver tildelt din straf for uagtsomt mandrab.


Dårligt eksempel, der er jo netop en der har overtrådt loven og derfor bliver vedkommen straffet. Hvis moderen og de to børn gik over for rødt (og det kan bevises) så vil ingen blive straffet, uanset om faderen nu syntes det er i orden eller ej...

Hvis du i samme tilfælde har en selvkørende bil, der overtræder loven, så skal man også vide om det skyldes at ejeren har fusket med softwaren, mekanikeren der har forbundet nogle sensorer forkert, om producenten har lavet en fejl eller hvad der nu er årsag. Er det ejeren så kan denne retsforfølges, er det en af de to andre er det noget svære... Men det adskiller sig ikke fra i dag. Hvis din mekaniker har lavet en fejl så din bil ikke kan bremse, så får han ikke en fængselsstraf, det er ejerens ansvar at bilen er i en lovlig stand inden den kører ud på de offentlige veje... Det samme gælder fejl fra producentens side... Med mindre man altså kan bevise at mekanikeren/producenten har gjort det bevidst for at du skal kører galt... Så hvad gør at der skal laves særlige regler for selvkørende biler før de kan lovliggøres?

Hvis en serie af biler har en uheldig opbygning, der gør at de kører ulovligt, så er det fortsat ejernes ansvar og det er dem der ikke må kører i bilerne hvis der bliver udstedet et kørselsforbud. Producenten har naturligvis et økonomisk ansvar over for ejeren, men det skal være meget grelt før producenten risikerer en fængselsstraf... Dette accepterer vi som samfund, vi accepterer at der kan ske fejl som koster menneskeliv, uden at nogen bliver smidt i fængsel... Med den nuværende lovgivning vil det samme gælde for selvkørende biler...

  • 1
  • 0

Glemmer du ikke den førerløse metro i København? Ingen ser ud til at have et problem med at det er en computer der kontrollerer bremsen selvom der fortsat sker dødsfald (selvmord).

Da kamerasystemet, der skal hindre personpåkørsel, var lidt for overfølsomt gik debatten på de irriterende forsinkelser og ikke på om systemet reder liv.

  • 1
  • 0

I en video, højere oppe i tråden, ser man chaufføren gribe ind overfor autopiloten, i en situation, der klart ser ud til at være endt galt, hvis han ikke greb ind.

Søren, du læser tilsyneladende ikke alle indlæg, den video er dømt ude, AP er helt anderledes i dag end i december 2015. Om I kan lide det eller ej, så er udviklingen i fuld gang og man kan gøre en hel del under den nuværende lovgivning - Man kan faktisk gøre bilerne 100% selvkørende uden at ændre lovgivningen, først når føreren fjernes, så skal der en ændring til.
Nogle tror, at der i færdselslovgivningen står at man skal holde 2 hænder på rattet, men det står ingen steder.

  • 0
  • 3

Jeg forstår ikke ned-voteringen af mit indlæg - er det usagligt skrevet eller i dårlig tone?

Jeg forstår heller ikke, hvorfor videoen ikke er relevant, for den nye version har løst frakørsels-forkærligheden, og tilføjer i øvrigt måske håndtering af lyssignaler og stop skilte, men det ændrer jo ikke på den problemstilling, jeg rejser:

Teknikken er ikke god nok til at stå på egne ben, og samtidig er den enormt dårlig til at holde sin samarbejdspartner (bilisten) opdateret på sine hensigter, inden den rykker i rattet, eller hvad den nu finder på.

Det er kombinationen af disse to forhold, jeg mener udgør en stor risiko, og gør at jeg ikke forstår, at så mange tør stole på systemet i den grad, at de tager hænderne af rattet. (Jeg kender godt Teslas disclaimer, og ansvarsfraskrivelse er ikke ukendt for amerikanske virksomheder.)

Jeg tror, at netop af disse grunde er f.eks. de tyske bilmærker langt mere konservative. Man må vel forstå, at det ikke er fordi de ikke kan. VW lavede f.eks. en Passat som kunne parkere selv uden fører i bilen, og en Golf til test af undervogne, der kunne køre rundt på en lukket bane, så hurtigt som overhovedet muligt. Det bemærkelsesværdige at bilen skulle "vises" ruten i almindeligt tempo og ville herefter dynamisk køre så hurtige som muligt og reagere på ændringer af undervogn og dæk ved selv at teste sit vejgreb løbende. Begge er ti år siden. Men dels er de ret konservative, dels har de strengere myndighedskrav - tyske myndigheder har jo netop udtalt, at hvis Teslas autopilot er beta-software i dén forstand, ville man aldrig have godkendt det.

Mercedes nye e-klasse har også en autopilot-lignende funktion, men den virker helt anderledes konservativt og kræver simpelthen hænder på rattet - ellers formoder den at man er faldet død om, tænder haveriblinket og bremser kontrolleret ned. Intet stopper Tesla fra at sikre, at bilisten holder på rattet, men de har valgt ikke at gøre det.

De har samtidig implementeret et system, som ingen rigtigt kender og kan forudsige den fuldstændige adfærd af, og kombinerer dette med en relativt mangelfuld information om bilens hensigt overfor bilisten - f.eks. ved at vise med en grafik "jeg drejer fra mod højre om 50 meter"

Teslas bedrift er bestemt imponerende, og de har intet andet valg end at bruge deres brugere som beta-testere, for at fastholde deres momentum, men her taler man bare ikke om en telefon der bliver langsom eller en PC der bliver ustabil og genstarter, men en blikdåse med mennesker i, man sender ud ad motorvejen med en forhåbning om, at der ikke er alvorlige bugs.

Dertil min forundring; jeg forstår ikke at folk tør stole på systemet. Det er sådan set ikke et indlæg omkring Teslas evner eller mangel på samme, eller deres politikker, men nærmere en forundring over, at folk tør slå systemet til, slippe rattet og læne sig tilbage.

  • 3
  • 0

Allan, det gør Teslaen i dag, dog i første omgang kun når der kommer objekter fra siden, så drejer den.

Raymond, det kommer nok bag på dig, men den slags sker allerede nu med mennesker som styrende enhed. De der videoer der viser at Teslaen kan lave den slags er da meget interessante, men også ret irellevante idet det er noget enhver nogenlunde opmærksom fører gør på daglig basis.

Problemet er at sådan noget som den lastvogn der kører på tværs ikke fanges af Teslaen idet en menneskelig kører ville have set det og reageret. Når man ser på tegningen af ulykkesstedet er det ret tydeligt at der var adskillige sekunder til at reagere i og forhindre væsentlige, især dødelige, skader.

M

  • 0
  • 0

Der er altså stadig langt til den autonome bil, og de som skriver at ikke mange af os debatører vil opleve det i deres levetid tror jeg har fuldkommen ret.
Virkeligheden er meget mere kompleks og uforudsigelig end hvad man kan regulere med computeralgoritmer ( skriver jeg mens min " State of the art" robotstøvsuger igen har malet sig inde i et hjørne).

Ikke en gang til søs, hvor opgaven er rimelig simpel ( følg kurs, undgå radarekko, undgå lavt vand) findes der styremaskiner som kan erstatte menneskelig indgriben.

Og ja, jeg synes stadig Tesla oversælger ved at kalde systemerne for en autopilot.

Der er udelukkende tale om aktive hjælpesystemer, i stil med adaptiv fartpilot, vognbaneassistent osv som kan hjælpe føreren af bilen.

Hvis Tesla havde markedsført sig med, vi leverer alle hjælpesystemer i aktiv, assisterende sikkerhed, i stedet for at kalde det en autopilot, ville man næppe opleve samme antal af tåber der laver videoer med avislæsende og bagsædesiddende førere.

Så jeg tør såmænd godt vædde på at de næste 15-20 år ser vi ikke en bil, hvor man sætter sig ind og siger adressen man skal til, mens bilen klarer resten.

Og det er snyd, hvis du mener at vinde ved at bruge en bil, hvor der er et taxiskilt og en chauffør bag rattet :)

  • 2
  • 1

Raymond, det kommer nok bag på dig, men den slags sker allerede nu med mennesker som styrende enhed. De der videoer der viser at Teslaen kan lave den slags er da meget interessante, men også ret irellevante idet det er noget enhver nogenlunde opmærksom fører gør på daglig basis.
Problemet er at sådan noget som den lastvogn der kører på tværs ikke fanges af Teslaen idet en menneskelig kører ville have set det og reageret. Når man ser på tegningen af ulykkesstedet er det ret tydeligt at der var adskillige sekunder til at reagere i og forhindre væsentlige, især dødelige, skader

Teslaen fanger objekter i den døde vinkel, den har flere gange forhindret en ulykke hvor bilen/trucken til højre for Teslaen pludselig skifter bane og hvis ikke Teslaen havde trukket til venstre, var der sket en ulykke - det er et faktum, at mennesker er uopmærksomme, ellers ville der jo ingen ulykker være. Problemet med den tværgående lastvogn er gennemdebatteret, hvorfor skal vi blive ved?
For mit vedkommende, så synes jeg der er for meget "Jeg tror" og der kommer såmænd ikke meget nyt på banen OaO.

  • 0
  • 0

Hvis moderen og de to børn gik over for rødt (og det kan bevises) så vil ingen blive straffet, uanset om faderen nu syntes det er i orden eller ej...


Man vil sandsynligvis blive tildelt noget af, hvis ikke hele skylden under alle omstændigheder.

Enhver billist bør være særligt agtpågivende, hvis der som her befinder sig børn i nærheden af et hjørne, der skal passeres, uanset om der er lysregulering eller mødre i nærheden til at vejlede børnene.

Man skal altid køre efter forholdene.

Påkørselsret eksisterer ikke og færdselssregulering fritager ikke for ansvar!

Hverken juridisk eller på det personlige plan - hvem ville ikke have det dårligt med at køre en halv familie ned, selvom man havde grønt lys(?)

  • 4
  • 0

Med hensyn til de etiske overvejelser, er jeg ret overbevist om, at man altid vil vælge at redde bilen og især personerne i samme, på bedst mulig måde.

Det er svært at forestille sig, at man kan sælge biler, der har indbygget en mulighed for at vælge fx at dræbe føreren eller andre personer i bilen fremfor legemsbeskadigelse af trediepart.

Jeg kan heller ikke forestille mig, at nogen lovgivning vil gennemtvinge en sådan løsning inden for en overskuelig årrække.

At bilen skulle kunne bringe sig i en situation, hvor den må vælge mellem at dræbe fx en fodgænger på fortovet eller på vejen, finder jeg meget hypotetisk, idet selv en autonom/autopilotstyret bil skal køre efter forholdene.

Den slags overvejelser kommer man i min erfaring kun ud for, når man ikke kører efter forholdene.

  • 4
  • 0

Så jeg tør såmænd godt vædde på at de næste 15-20 år ser vi ikke en bil, hvor man sætter sig ind og siger adressen man skal til, mens bilen klarer resten.


Det væddemål har du allerede tabt!
Google bilen har kørt mange ture gennem bymiljøer uden nogen føre i overhoved.
Og den kan godt komme forbi hvis noget spærre vognbanen så den skal køre over en dobbelt påtrykket spærrestribe.
Og håndtere det hvis der kommer modkørende i den forkerte side af vejen.
Det er ikke kun Tesla der er langt med den slags teknologi.

Forskellen er at Tesla fokuserede på at lave en (god) elbil. Og så bagefter har tilføjet avanceret "Driver Assist" autopilot.

Google fokuserede kun på at udvikle helt autonome navigations systemer.
Det er stadig et udviklingsprojekt. Men de er faktisk kommet imponerende langt.

  • 3
  • 0

Raymond, det kommer nok bag på dig, men den slags sker allerede nu med mennesker som styrende enhed.


Raymond svarede på et indlæg, der handlede om, hvorvidt vi i fremtiden vil se (og tillade) antikollisions-systemer, hvor en manuelt ført bil tager kontrollen over rattet fra føreren ved en forestående kollision.

Det kunne jeg godt tænke mig, at vi brugte lidt mere tid på, da det er ret afgørende for udviklingen af etiske overvejelser.

  • 1
  • 0

Hvis man vil have en mere pålidelig statistik, så skal man nok i stedet simpelthen finde alle situationer, hvor autopiloten har undgået buler og skrammer i stedet for chaufføren, og dermed tælle antallet af reparationer på Tesla's serviceværksteder.

Hvorvidt sådanne manøvrer logges, ved jeg ikke, men der findes youtube videoer, hvor disse situationer undgås 100% af autopiloten, og det kan da kun have reduceret mængden af skader, idet de 1-2 situationer, hvor autopiloten har været aktiveret under ulykken og ikke har forsøgt at hindre den, har skabt avisoverskrifter.

Det her X antal ulykker pr. millioner km er der for få datapunkter i.

  • 1
  • 0

Teslaen fanger objekter i den døde vinkel, den har flere gange forhindret en ulykke hvor bilen/trucken til højre for Teslaen pludselig skifter bane og hvis ikke Teslaen havde trukket til venstre, var der sket en ulykke

Nu ved jeg ikke hvilken bil du kører i, men i min er den blinde vinkel ca. 110-140 grader, dvs. bag mig. Jeg har ikke set nogen videoer af at Teslaen har forhindret sammenstød fra den vinkel - det har i dem jeg har set altid været < 90. Hvis du har links til andet vil jeg gerne se dem.

  • det er et faktum, at mennesker er uopmærksomme, ellers ville der jo ingen ulykker være.

Ganske korrekt, nogle er, men et støttesystem der blot forøger dette er vel ikke et plus.

Problemet med den tværgående lastvogn er gennemdebatteret, hvorfor skal vi blive ved?

Ja det skulle man jo tro, men er der nogen der har gidet at kigge lidt på stedet, f.eks. vha. google maps ?

Lastvognen foretager et 110-120 graders sving, så alene af den grund kører den langsomt. Afstanden mellem de to baner er ret lille, så lastvognens hastighed vil stadigvæk være lav når den går på tværs. Sigtbarheden er høj, der er ikke noget der kan skjule lastvognen.

Eftersom Teslaen ikke registrerede lastvognen må den altså have været udenfor "rækkevidde" da forreste del af lastvognen var på tværs hvor den fint ville have observeret den. Det må så også betyde at enhver nogenlunde opmærksom billist ville have været i stand til at se den og stoppe i sikkerhed (dog nok med en del ukvemsord).

Jeg er slet ikke så sikker på at lastbilchaufføren får den fulde og ubetingede skyld.

M

  • 0
  • 1

er at mens man i det mest automatiserede transportmiddel har flere minutter til at override automatiseringen når den fejler/ikke anses for at være i stand til at håndtere situationen, så forventer man at en billist på splitsekunder kan gøre det samme.

Jeg tænker naturligvis på fly hvor man har to højt uddannede personer der er klar til at gribe ind når automatikken ikke er nok.

Det kan godt blive lidt problematisk hvis såkaldte førerløse biler skal have samme besætning.

"Det kan ikke sammenlignes" kan jeg allerede høre folk råbe, og de har for så vidt ret. Et fly er som regel ret alene mens biler har måske tyve andre køretøjer de skal tage højde for indenfor få sekunder. Har selv fornøjelsen af at køre på Holbækmotovejen og skal krydse over på ring 4 mod Ballerup igennem lastvogne, biler og nutcases i tredie spor der med 140 finder ud af at de skal mod Kbh. Ingen brug for stimulanser - det kommer helt af sig selv.

M

  • 2
  • 1

Lastvognen foretager et 110-120 graders sving, så alene af den grund kører den langsomt. Afstanden mellem de to baner er ret lille, så lastvognens hastighed vil stadigvæk være lav når den går på tværs. Sigtbarheden er høj, der er ikke noget der kan skjule lastvognen.


Lastvognen vil formentlig tage svinget med 10-20 km/h, dette svare til 2,8-5,6 m/s. En lastbil er normalt 12-18 meter lang og det betyder at denne lastbil har flyttet sig ca. 8-10 meter før Teslaen rammer den.

Hvis jeg antager at lastbilen har flyttet sig 10 meter, vil Teslaen ramme lastbilen 1,8-3,6 sekunder efter at lastbilen er begyndt at svinge ind foran. Et normalt menneske har en reaktionstid på 1,3-7,6* sekunder alt efter alder og hvor kompliceret situationen er. For simple bremsereaktioner vil reaktionstiden være 1,5-2,0 sekunder for forventet hændelser og 2,5-2,7 sekunder for uventede hændelser. Desuden skal lastbilen bevæge sig et stykke ud foran Teslaen, før billisten opdager at den ikke holder tilbage.

Hvis lastbilen har taget svinget uden at bremse helt ned, så har en normal person ikke mange muligheder for at nå at regerer, hvis derimod lastbilen har holdt stille og derefter er kørt langsomt frem, så har bilisten haft en reel chance for at nå at begynde at bremse.

*Reaktionstiden er tiden fra, en trafikant har fysisk mulighed for at opfatte en trafiksituation, der skal reageres på, til reaktionen indtræder. http://asp.vejtid.dk/Artikler/2008/06-07%5...

Eftersom Teslaen ikke registrerede lastvognen må den altså have været udenfor "rækkevidde" da forreste del af lastvognen var på tværs hvor den fint ville have observeret den. Det må så også betyde at enhver nogenlunde opmærksom billist ville have været i stand til at se den og stoppe i sikkerhed (dog nok med en del ukvemsord).


Teslaen kan godt have registreret forvognen og beregnet at den ikke vil ramme denne. Dvs. den behøver ikke at have været uden for rækkevide.

  • 5
  • 0

"Ganske korrekt, nogle er, men et støttesystem der blot forøger dette er vel ikke et plus", MB, hvad mener du med det, dødsulykker under AP er stadig mindre end gns. AP er et betasystem og ja, det er et støttesystem, MEN Teslaen kan uden problemer køre på motorvej og den kan uden problem køre igennem "Har selv fornøjelsen af at køre på Holbækmotovejen og skal krydse over på ring 4 mod Ballerup igennem lastvogne, biler og nutcases i tredie spor der med 140 finder ud af at de skal mod Kbh. Ingen brug for stimulanser - det kommer helt af sig selv.", uden at køre ind i noget.
Det er stadig et betasystem, men rimelig godt gået alligevel og hvis ikke man kan se perspektivet i udviklingen, tja så... fred være med dem.

  • 0
  • 0

Jeg tænker naturligvis på fly hvor man har to højt uddannede personer der er klar til at gribe ind når automatikken ikke er nok.
Det kan godt blive lidt problematisk hvis såkaldte førerløse biler skal have samme besætning

Autopiloten i et fly udfører den mest krævende del af en flyvning, nemlig landing. Jeg er ret sikker på, at piloter helt og aldeles kan undværes og at de er i flyet ene og alene fordi luftfarten ved at folk ikke ville flyve med et fly uden piloter. Det er ren psykologi og har intet med teknik at gøre. Selv metroen i København havde folk det svært med i begyndelsen og betænkligheder ved selvkørende biler lyser jo ud af denne debat inkl. dine - ikke teknik, men psykologi.

  • 1
  • 3

Autopiloten i et fly udfører den mest krævende del af en flyvning, nemlig landing. Jeg er ret sikker på, at piloter helt og aldeles kan undværes og at de er i flyet ene og alene fordi luftfarten ved at folk ikke ville flyve med et fly uden piloter. Det er ren psykologi og har intet med teknik at gøre. Selv metroen i København havde folk det svært med i begyndelsen og betænkligheder ved selvkørende biler lyser jo ud af denne debat inkl. dine - ikke teknik, men psykologi.

Jeg tror ikke automat landing for fly kan sammenlignes med opgaven for en førerløs bil
Flyet er ikke på egen hånd hvadenten det flyver vha ILS eller sattelitsystemer som overvåger og leverer informationer til flyet. Det er desuden overvåget af piloter i flyet. Der er heller en sværm af uberegnelige fly omkring som der skal ageres på.

Og det kan slet ikke sammenlignes med metroen som dels kører i et lukket system og dels overvåges tæt fra et kontrol center.

Førerløse biler er nok nærmere at sammenligne med insekter der agerer på grundlag af syn, varme og lugte i forhold til den evolutionære programmering af deres hjerner. Og de er jo heller ikke klogere end insekter - tværtimod.

Jeg ved godt du mener at skepsis overfor udviklingen af teknologien omkring førerløse biler er udtryk for at man er modstander af førerløse biler. Det er det ikke. Førerløse biler er da voldsomt interessante og sikkert vældig nyttige hvis og når de blivet en realitet, men det er jo ikke det samme som at man behøver være jubeloptimist og agere som om de er lige på trapperne. Der er intet i debatten her eller uden den store verden der indikerer at vi ikke stadig er langt fra målet. Og det er ikke psykologi som du påstår. Jeg vil snarere mene at din tilgang er mere præget af psykologi og propaganda end faglighed.

  • 3
  • 3

Her er et link til en præsentation af Googles teknologi fra Marts:

https://youtu.be/Uj-rK8V-rik

Jeg synes den viser ret godt hvor langt Google er nået. Det er i hvert fald svært for mig at tro at selvkørende biler er mere end 10 år ude i fremtiden, baseret på Googles nuværende stadie. Det største problem må nok siges at være store mængder af sne på vejene.

  • 2
  • 0

Jeg tror ikke automat landing for fly kan sammenlignes med opgaven for en førerløs bil

Nu var det jo ikke mig som kom med det eksempel, jeg kommenterede det bare, men du er vel ikke uenig i, at fly sagtens ville kunne flyve uden piloter?

Og det kan slet ikke sammenlignes med metroen som dels kører i et lukket system og dels overvåges tæt fra et kontrol center.

Metroen var brugt som eksempel omkring psykologien i noget førerløst og ikke andet, skriver jeg så knudret, at det ikke kan forståes?

være jubeloptimist og agere som om de er lige på trapperne

Kære Søren, du har fra start af betegnet os som jubeloptimister og at vi skal bruge tænkeren o.s.v. Og når så du får igen af samme skuffe, så bliver du fornærmet, du er ret irrationelt! Lad du være med at tro, at du ved bedre end alle dem som beskæftiger sig professionelt med lige præcis dette emne.

  • 3
  • 4

Problemet er at jo, automatiske systemer kan godt håndtere normale forhold hvor alt fungerer som det skal, men når noget går galt, så kan de ikke

Selvfølgelig kan de det! Læreprocesser for computere er måden det gøres på - har du set Runes link helt igennem, så ville du ikke komme med så tomt et udsagn. Teknologier er her så langt, at vi kan se et virksomt resultat i den nærmeste horisont.
"Spørg Piloten", det er selvfølgelig et input i debatten, men han er måske en lille smule forudindtaget.

  • 0
  • 2

Selvfølgelig kan de det! Læreprocesser for computere er måden det gøres på - har du set Runes link helt igennem, så ville du ikke komme med så tomt et udsagn. Teknologier er her så langt, at vi kan se et virksomt resultat i den nærmeste horisont.

Jeg tror du overser en enkelt lille detalje - det lærer af fejl. Dvs. at der skal en lang række af ulykker til for at systemet kan finde ud af hvad der gik galt og rette op på det.

Yderligere kan det ikke håndtere ting som det ikke har set før - på det punkt er en menneskelig "pilot" softwaren overlegen.

"Spørg Piloten", det er selvfølgelig et input i debatten, men han er måske en lille smule forudindtaget.

Yep, han er åbenbart en som til daglig har "hands on" erfaring så han er naturligvis forudintaget. Hvem har mon mest viden om flyvning ? En pilot eller en SW programmør ?

M

  • 3
  • 1

Jeg tror du overser en enkelt lille detalje - det lærer af fejl. Dvs. at der skal en lang række af ulykker til for at systemet kan finde ud af hvad der gik galt og rette op på det.

Selv hvis vi forudsætter, at din påstand er korrekt, kan jeg ikke lade være med at undre mig over, hvorfor denne situation skulle være værre end den nuværende situation, hvor det er tydeligt, at bilister ikke lærer ret meget af andre bilisters fejl.

Vi ved jo, at almindelige bilister slår sig selv og andre ihjel på de samme, allerede kendte måder igen og igen, f.eks.:

  • drejer til højre ind på en sidevej uden at kigge efter fri bane på den cykelsti, de krydser.
  • foretager overhalinger efter at have fejlbedømt hastighed og afstand af den modkørende bil.
  • kører for tæt.
  • drejer til venstre uden at blinke først, så en bagvedkørende bil forledes til at overhale.
  • kører ud for ubetinget vigepligt uden at orientere sig godt nok først.

Hvis vi kunne komme i en situation, hvor hver type ulykkesforårsagende førerfejl kun opstod een gang, hvorefter man kunne analysere ulykken og derefter "opdatere" alle andre bilister, så de ikke lavede samme fejl, ville det være et gigantisk fremskridt for trafiksikkerheden.

  • 5
  • 0

at robot biler kommer til at køre lige så genialt og opmærksomt som mennesker.

20 % stigning i uopmærksomheds ulykker !! den kamp har mennesket tabt til robotten.
http://nyheder.tv2.dk/samfund/2016-07-12-s...

Jeg har set Google bil filmen, og ikke det mindste i tvivl om at vi allerede er blevet overhalet, med bare den nuværende teknologi der er til rådighed. Det kommer til at gå stærkt.

  • 0
  • 0

har nu set noget af det og kategoriserer det som konferencespam - filmen knækkede da han påstod at en person havde sagt at det var sjovere at køre i en google bil end en porche.

M

Prøv at se lidt mere, specielt der hvor de fremviser forskellige situationer og hvordan bilen håndterer det. Jeg synes det er imponerende så godt deres mapping system af omgivelserne og aktører fungerer. Den har jo styr på alle billister, cyklister, fodgængere osv i nærheden og 10 gange i sekundet beregner den hvilke ruter de sandsynligvis følger - er der en risiko for at de vil bevæge sig ud foran bilen bremser den med det samme, se eksempelvis fra 27:47 hvordan bilen allerede bremser ned, før manden løber ud på vejen idet den estimerer han vil løbe ud foran. 26:16 viser også ret godt detajlegraden af deres mapping, hvor den har styr på hvor anden er hele tiden.

Deres mapping system består så vidt jeg ved både af kameraer og LIDAR, hvor jeg håber Tesla også vil bruge sidstnævnte i fremtiden. Det kan godt være at man i teorien kan lave et ligeså godt system udelukkende baseret på kamerabaseret systemer, jeg tror bare der går lang tid før vi er nået dertil. Derudover giver flere typer sensorsystemer også større sikkerhed hvis nu et system skulle fejle (som i her i Teslas tilfælde).

  • 1
  • 0

Åh ja raymond. Alle os der ikke tror at selvkørende biler er lige om hjørnet er jo ignoranter, maskinstormere og bagstræberiske.
Selv en stakkels pilot bliver bagtalt af dig.
Din tro på,Googles bil, som kører i et meget afgrænset område, er stærk, og du tror at vi i løbet af meget kort tid, takket være teslas hjælpesystemer kan sidde og tage en fuldkommen slapper i en meget, meget sikrere bil.
Lad det dog komme an på en prøve som gælder en flaske chivas.
Den 15 juli 2021 mødes vi ved Odense å. Du i din sikre selvkørende bil, og jeg i min risikobetonede, computerassisterede, men dog menneskekontrollerede bil.
Hvis du kommer frem giver jeg med glæde både whisky og et stort skulderklap,for at du var mere fremsynet end jeg var, men dybest set tror jeg at du må sende whiskyen til mig med en chauffør, for jeg tror nemlig heller ikke at en drone er i stand til selvstændigt at udføre opgaven til den tid.
Og lige et PS.
Dette er skrevet på en iPad som har udført den simple opgave at lave autokorrektur, og derfor har medført at skrivningen af indlægget og tilretningen af indlægget har taget lang tid og og masser af afrevne hovedhår, fordi selv en simpel opgave som autokorrektur er for indviklet for den tåbelige insekthjerne jeg sidder med som arbejdsredskab.

  • 2
  • 4

Hvorfor man aldrig skal tro at udviklingen går langsommere end den gør - For så gør man samme fejl som så mange andre tidligere har gjort.
https://www.youtube.com/watch?v=Kxryv2XrnqM

Problemet med dit argument er at man ikke kan forudsige den slags. Der er masser af eksempler på "at om få år så .." og "der vil aldrig ..." som blev skudt ned af virkeligheden. Problemet er blot at det først var bagefter at det blev klart. F.eks. "flyvende biler er lige om hjørnet" og "640 kb er nok".

Selvstyrende biler skal såmænd nok komme i et eller andet omfang, men at sammenligne det med skiftet fra heste til biler er ikke meningsfuldt. En mere relevant sammenligning vil være opfindelsen af sadel og stigbøjler der gav mere kontrol over hesten (sammenligningen halter selvfølgelig en smule idet det er en anelse mere kompliceret rent teknisk at automatisere bilkørsel end at sætte en sadel på en hest).

M

  • 2
  • 1

Problemet med dit argument er at man ikke kan forudsige den slags.

Nej, det er ikke et problem, for der er ingen forudsigelse - teknikken er så langt, så at tale om forudsigelser er helt hen i vejret - Det er ikke flyvende tallerkener, vi debatterer!

Taget i betragtning at diskussionen var om man allerede med nuværende systemer kunne fjerne piloten, så må man da vel kunne sige at piloten må være den der ved mest.

Nej, det var ikke diskussionen, hvis du mener at jeg skulle have skrevet, at systemerne allerede var implementeret i fly, så har du overfortolket mine udsagn - Jeg har givet udtryk for, at der sådan set ikke var nogen grund til(selvom man kan), at automatisere flyvning, for ingen ville tage med et ubemandet fly af rent psykologiske grunde.

  • 0
  • 0

Kære Søren, du har fra start af betegnet os som jubeloptimister og at vi skal bruge tænkeren o.s.v. Og når så du får igen af samme skuffe, så bliver du fornærmet, du er ret irrationelt! Lad du være med at tro, at du ved bedre end alle dem som beskæftiger sig professionelt med lige præcis dette emne.

Sikke noget snik snak. Jeg spørger fordi jeg ikke ved noget og får en masse overfladiske betragtninger retur. Med al respekt kan jeg ikke se at det du leverer er udtryk for den store fsglighed og hvis jeg går til fagfolk fra industri og forskning som udtaler sig offentligt er det klart ifølge dem at systemerne til håndtering af ægte førerløse biler slet ikke er klar endnu.

Her er en spændende detalje:

"Jeg forudser, at når computere står for kørslen, vil der være meget mere sex i bilerne. Og dette er blot en af flere ting, der vil hæmme folks evne til at reagere hurtigt, når computeren siger 'tag styringen' til mennesket i bilen," forklarer stifter og direktør Barrie Kirk fra CAVCOE ifølge nyhedsmediet CBS News.

http://www.computerworld.dk/art/237010/adv...

Haha. Ja det vil måske gøre det populært med gomore. Det er da udmærket.

Et andet problem er mindre sexet men mere uhyggeligt:

"I dag er der ingen krav om kommunikationen mellem en Audi og en Volvo. Og det er jo først, når alle bilerne på vejen kan kommunikere internt med hinanden, at de førerløse biler for alvor rykker,"

http://www.computerworld.dk/art/234200/her...

Harmonisering af normer og standarder. Gisp! Hvad gør vi?

  • 2
  • 2

Der er et kæmpe uudnyttet potentiale i at lade bilerne lære at deres fejl, eller uhensigtsmæssigheder.
Jeg bruger autopilot til omkring 200km kørsel om dagen, jeg kender dens begrænsninger ret godt, og mange af de situationer hvor man må tage over kunne det være rart at de lærte af lidt hurtigere!

  • 1
  • 0

"I dag er der ingen krav om kommunikationen mellem en Audi og en Volvo. Og det er jo først, når alle bilerne på vejen kan kommunikere internt med hinanden, at de førerløse biler for alvor rykker,"


Hvorfor skal de kommunikerer? De giver selv et forslag i den artikel du linker til:

Her er tanken altså, at der skal indføres et standardiseret kommunikationssystem, så bilerne kan køre tættere sammen, advare hinanden om uheld og forhindringer længere fremme på vejbanen, samt spille sammen med byernes trafiksystemer til at ride på 'grønne bølger'.

Det er altså ikke indføringen af selvkørende biler der her tænkes på (i forbindelse med rykket), det er yderligere fordele, men de fordele vil ikke være til stede før størstedelen af trafikken er overgået til selvkørende enheder og der skal stadig være sensorer der kan tage sig af alle de trafikanter der ikke har denne teknologi. Disse ting er noget man kan begynde at fokuserer på når først man har den selvkørende bil der kan fungerer i et blandet (både selvkørende og ikke-selvkørende enheder) miljø... Det nytter jo ikke meget at den selvkørende bil har udstyr til at følge en grøn bølge, hvis den manuelle bil foran ikke kan følge bølgen...

  • 2
  • 0

Er den største årsag til dødsfald i trafikken ikke at politikkere ikke får lavet de love der fremmer selvkørende biler ?
Det er vel oplagt at der stilles krav til at nye biler i dag har automatisk nedbremsning. At bilen som minimum er hardware messing udstyret til at kunne dreje rettet. At der stilles krav til at ekstraudstyr til ( kamera, sensorer mv) let kan monteres ?

  • 2
  • 2

Tesla har annonceret at Autopilot ikke var slået til ved den seneste ulykke. Historien er dermed bare endnu en person der forsøger at skyde skylden for egne fejl på bilen.

  • 0
  • 0