»WHOOOPS!« Vi pressede Teslas autopilot til kanten - og lidt over
more_vert
close
close

Vores nyhedsbreve

close
Ved at tilmelde dig accepterer du vores Brugerbetingelser og accepterer, at Mediehuset Ingeniøren og IDA-gruppen lejlighedsvis kan kontakte dig om arrangementer, analyser, nyheder, tilbud mm via telefon, SMS og email. I nyhedsbreve og mails fra Mediehuset Ingeniøren kan findes markedsføring fra samarbejdspartnere.

»WHOOOPS!« Vi pressede Teslas autopilot til kanten - og lidt over

»WHOOOPS!« ...udbryder vi i kor. Vi sidder fire mand i en Tesla model S med autopiloten slået til og midt i en diskussion om, hvorvidt den førerløse bil ligger i overhalingsbanen eller snegler sig af sted i slæbesporet. Det har indtil nu været en behagelig tur, hvor autopiloten og de mange sensorer har holdt bilen på rette spor.

»Hvad var nu det?!« lyder det omme fra bagsædet, netop som den tonstunge luksusbil pludselig har kurs mod kantstenen og er få håndsbredder fra at fortsætte op over fortovet ved en lille helle på Strandvejen nord for København.

Situationen bliver kun netop afværget af en advarselslyd fra autopiloten, der tvinger chaufføren til hurtigt at genvinde kontrollen over bilen. Det giver et ryk i bilen, for der skal et stort, stort sving til for at undgå kantstenen.

Hele episoden gik lynhurtigt. Autopiloten havde simpelthen ikke registreret, at vejen først drejede til højre og derefter til venstre igen ved hellen.

Autopilot under pres

Ingeniøren har inviteret tre fagfolk med hver deres tilgang til førerløse biler med ud på denne køretur med autopilot for at de skal udfordre hinandens perspektiv på førerløse biler.

Artiklen fortsætter efter grafikken

Bag rattet sidder biljournalist Torben Arent fra FDM’s medlemsblad Motor. Han har kørt flere biler med assistentsystemer og skal presse autopiloten ud på dybt vand, samtidig med at han sørger for, at både vi andre tre og bilen kommer sikkert frem. Han har slået autopiloten til på Strandvejen for at udfordre softwaren, der egentlig er udviklet til motorvejskørsel.

»Tænk, hvis man havde overladt det hele til køretøjet, og nogen havde gået på fortovet, havde den så knaldet over kantstenen og kørt fodgængerne ned?« spørger Mogens Kjærgaard Møller, der er direktør i Rådet for Sikker Trafik. Lettere forpustet.

»Det tror jeg sgu, den havde!«

Mogens Kjærgaard Møller har netop bidraget med et høringssvar til det lovforslag, der snart skal gøre det muligt at testkøre helt eller delvist førerløse køretøjer på de danske veje. Han har derfor sat sig grundigt ind i de juridiske og politiske dilemmaer, der omgiver et potentielt tonstungt computerstyret transportmiddel på de danske veje.

Med mig på bagsædet sidder Thomas Bolander, der er en af landets førende eksperter inden for kunstig intelligens og computerlogik. Til daglig underviser og forsker han på DTU Compute.

Thomas Bolanders fingre trommer i vindueskarmen, mens de tre mænd diskuterer, hvor grænsen mellem manuelle selvkørende og førerløse biler går.

»En vigtig pointe i hele debatten om førerløse biler er, at folk skal oplyses om, hvor på den officielle autonomi-skala fra 1 til 5, den enkelte bil befinder sig. Teslaen må ikke omtales som førerløs. Det kan være farligt, hvis folk så tror, at den er det,« argumenterer Mogens Kjærgaard Møller.

Lange udsigter for førerløse biler

Sikre førerløse biler er ønskedrømmen for alle, der hver morgen og eftermiddag sidder i kø på motorvejen, og for folk, der beskæftiger sig med trafiksikkerhed. Alle, fra politikere til privatpersoner, vil have dem, men hvor bliver de af?

De tre kilder er enige om, at de problemer, som dagens selvkørende biler har på almindelig vej – og som vi netop har fået demonstreret – gør det usandsynligt, at vi vil se decideret førerløse biler på vejene inden for de nærmeste år. Hvis man er en af dem, der ser frem til en fuldt robotificeret bilflåde, skal man altså se langt frem.

»Jeg tror desværre ikke, jeg kommer til at opleve en helt igennem førerløs bil i min levetid,« siger 59-årige Mogens Kjærgaard Møller, og Torben Arent stemmer i:

»Heller ikke jeg.«

På turens første strækning ad de nordsjællandske motorveje er Teslaens autopilot ellers særdeles effektiv. De mange sensorer fungerer perfekt, og bilen glider elegant fra den ene vognbane til den anden, så snart vi blinker med lyset.

»Men lige pludselig kan noget gå galt. Systemet kan blive præsenteret for noget, det ikke har set før, eller blive stillet i en situation, det ikke kender. Og så er man på den,« siger Thomas Bolander, der fortæller, at en af de største udfordringer for førerløse transportmidler er den digitale objektgenkendelse:

»Det er svært at få bilerne til at genkende selv simple objekter, og de ulykker, der har været med Teslaer de seneste år, har netop været et resultat af dårlig objektgenkendelse.«

I USA kørte en Tesla for eksempel direkte ind i en hvid lastbil, som den forvekslede med den lyse himmel. For Teslaen var lastbilen usynlig. Den blev ikke genkendt som lastbil, før den pludselig tårnede sig op foran bilen. Hele bilens overdel blev skrællet af under lastbilen, hvorefter bilen kørte af vejen og ud på en mark, indtil den bankede ind i en lygtepæl.

Føreren af bilen, Joshua Brown, døde, mens han så ‘Harry Potter’ på sin computer, der stod på passagersædet.

Efterfølgende har Tesla slået fast, at deres autopilot altså ikke er en autopilot, men et assistentsystem, der skal gøre det nemmere at køre bilen. Efter en ulykke i Kina, der heldigvis ikke endte fatalt, har Tesla i Kina fået besked på at rette deres salgsmateriale igennem og fjerne alle passager, der beskriver bilerne som selvkørende.

Tør vi slippe rattet?

I Danmark står der stadig i Teslas salgsmateriale, at selskabets biler kommer med et ‘assistentsystem’ i form af autopiloten, der kan hjælpe føreren af bilen, ikke erstatte vedkommende. Selskabet undgår altså at bruge begrebet selvkørende og førerløs, selvom det umiddelbart er det, man tænker, når man hører ‘autopilot’. På Teslas danske hjemmeside står der, at selskabets biler alle kommer med avanceret hardware, der er tilstrækkelig til niveau 5-kørsel (se grafikken side 15).

»Kan autopiloten genkende fodgængerfelter og stoppe ved dem?« spørger Mogens Kjærgaard Møller, kort efter at bilen forsøgte at indtage fortovet med et enkelt advarselsbip.

»Nej, men den kan vistnok genkende fodgængere,« fortæller Torben Arent.

Lidt længere fremme står netop en kvinde med sin barnevogn og venter ved en fodgængerovergang.

»Lad os undersøge det,« lyder det entusiastisk og en smule ironisk fra forskeren Thomas Bolander, der foreslår, at han går over en fodgængerovergang og lader Teslaen komme imod ham. Det forsøg fik vi aldrig udført, trods Bolanders risikovillighed.

Vi vil næppe se førerløse biler på de danske veje inden for de næste mange år, mener de tre fagfolk, som Ingeniøren inviterede med på en testtur på de nordsjællandske veje. Fra venstre: biljournalist Torben Arent fra FDM’s medlemsblad Motor, Thomas Bolander, der er forsker i kunstig intelligens ved DTU Compute, og Mogens Kjærgaard Møller, direktør i Rådet for Sikker Trafik. Foto: Das Büro

Men selvom det var sagt i sjov, bliver de tre kilder enige om, at netop risikovillighed og tillid til de førerløse systemer vil være afgørende for den førerløse bils succes. For efterhånden som softwaren i bilerne bliver bedre, og lovgivningen tillader det, skal vi overgive flere og flere opgaver til de førerløse systemer.

»Men tør vi virkelig det? Læne os tilbage, lade bilen styre fuldstændig af sig selv, og kan vi i så fald sige: ‘Jeg føler mig helt tryg’,« spørger Mogens Kjærgaard Møller de to andre, mens han holder sine hænder på hver side af sit hoved, langt væk fra bilens forreste paneler.

»Jeg tror, det bliver en generationsting. Yngre mennesker vil nok have nemmere ved at vænne sig til tanken om at sidde i en førerløs bil,« siger Torben Arent. Hans hænder ligger i skødet, bilens autopilot er aktiveret igen.

Jeg kommer til at tænke på en af de mange videoer på Youtube, jeg nysgerrigt labbede i mig inden køreturen. I dette filmklip når en ældre dame at forberede sig på, at nu vil Teslas autopilot altså tage livet af hende i sønnens Tesla. Hun kan næsten ikke få sig selv til at slippe rattet, når autopiloten er slået til, og da hun endelig giver slip, går det ikke lydløst for sig.

Milliardbeløb at spare på uheld

Torben Arent kører heldigvis noget mere roligt.

»Jeg tror også, at vi skal gøre op med os selv, om vi som forbrugere ønsker at betale for førerløs teknologi. Den selvkørende teknologi, som Volvo vil installere i deres førerløse biler i 2021, koster omkring 150.000 kroner, og det er mere end mange minibiler koster,« konstaterer Torben Arent.

Men samfundsøkonomien taler kun for førerløse biler, fortæller Mogens Kjærgaard Møller. I teorien vil førerløse biler kunne køre tættere og mere glat til gavn for både miljøet og den enkelte trafikant. Alle de timer, mange danskere bruger i biler hver dag, ville kunne bruges på andet end at køre bilen.

Hver gang en dansker skades i trafikken, koster det i gennemsnit statskassen 4,6 millioner kroner pr. patient. Med mere end 3.200 årlige ulykker løber det op i omegnen af 14,7 milliarder kroner.

En af de største udfordringer for de førerløse biler er den digitale objektgenkendelse, og Teslaens autopilot kan også stadig fejle. Henrik Schärfe, der er i mange år har forsket i kunstig intelligens, er dog overbevist om, at de førerløse biler vil være på gaden allerede om 5-7 år. Foto: Das Büro

»Der er så mange penge i at nedbringe antallet af færdselsuheld, det er helt vildt. Derudover er der alle de miljømæssige og trafikale fordele, siger Mogens Kjærgaard Møller begejstret.

Ifølge direktøren for Rådet for Sikker Trafik skyldes 99 procent af alle trafikuheld farlig menneskelig adfærd i trafikken. Adfærd, som han håber kan minimeres, når computerkraft skal træffe beslutningerne.

Hvis liv skal bilen helst redde?

Men uanset hvad, vil de førerløse biler også komme ud for trafikuheld. I hvert fald så længe de blandes med menneskestyrede biler. Og når uheldet sker, skal man have styr på de algoritmer, der træffer beslutningerne i stedet for bilens fører.

»Der er nogle kæmpe etiske dilemmaer,« konstaterer Thomas Bolander.

»Mhm,« nikker de to andre samtykkende i den lydløse bil. De etiske dilemmaer dukker op igen og igen i diskussioner og artikler om selvkørende og førerløse biler.

»Softwaren, der styrer bilen, kan blive tvunget til at vælge mellem forskellige dårlige udfald, hvis en katastrofal trafiksituation opstår. Bilen kan komme ud for at skulle træffe et valg mellem at lade bilens passagerer, nogle fodgængere på fortovet eller nogle cyklister på cykelstien dø,« siger Thomas Bolander.

Men det er unødige bekymringer, indvender Torben Arent og Mogens Kjærgaard Møller. De mener, at selv hvis det meget usandsynlige skulle ske, at en førerløs bil skal vælge mellem tre fatale situationer, vil bilens vurdering af den farlige situation være lige så god som et menneskes – og ske på et øjeblik.

Men den køber Thomas Bolander ikke:

»Til gengæld har mennesker intuition. Vi kan langt bedre end en computer se, om en cyklist vil køre over for rødt, eller om nogen skal til at gå over fodgængerovergangen.«

Thomas Bolander er da også den, der er mindst imponeret over Teslaen i sig selv.

»Det der med at beklæde panelerne med plast, der ligner træ, den var altså ikke gået, hvis bilen var designet i Tyskland eller Danmark,« siger han i begyndelsen af køreturen, mens han kører fingeren over plastpanelerne.

»Det er jo i princippet bare en hurtig elbil med en lille computer i.«

Og det er faktisk en ganske lille computer, der sidder i den Tesla, vi har lånt. Det digitale isenkram i Teslaen svarer ikke til meget mere end en såkaldt Raspberry Pi, der kan købes for et par hundrede kroner. Det er til gengæld ikke tilfældet med alle Teslaer købt efter oktober 2016, der kommer med 40 gange mere computerkraft. Hvilket ifølge Tesla er alt, der skal bruges til en fuldkommen selvkørende førerløs bil.

Computeren er en forsigtig bilist

Jeg retter ryggen og kigger ned på instrumentbrættet foran Torben Arent. Hans hænder hviler på lårene, klar til at gribe ind. Men bilen kører i princippet af sig selv igen nu.

Hver gang Teslaen kommer til et sted, hvor autopiloten skal dreje uden om noget, sætter den farten markant ned. Spørgsmålet er, om den bil, vi har lånt, ville køre hurtigere, hvis den havde den samme computerkraft som de nyeste Teslaer.

»Selvkørende biler i deres nuværende form er super forsigtige, og det vil de også være fremover« siger Torben Arent, der netop har været ude at prøvekøre Volvos S90, der også har en række hjælpefunktioner som Teslaen.

»Ja, for ingen af firmaerne ønsker dårlig omtale. Googles førerløse bil kører helt ned til 20-30 kilometer i timen,« nikker Thomas Bolander, der fortæller, at Googles biler har fået en række fartbøder i Californien, fordi de kørte for langsomt for en sikkerheds skyld.

Tesla følger enhver bevægelse

Thomas Bolander sidder efterhånden helt oppe mellem de to andre på forsædet, og København nærmer sig i horisonten. Torben Arent slår autopiloten fra.

Samfundsøkonomien taler kun for førerløse biler, mener Mogens Kjærgaard Møller fra Rådet for Sikker Trafik. »Der er så mange penge i at nedbringe antallet af færdselsuheld, det er helt vildt. Derudover er der alle de miljømæssige og trafikale fordele,« siger han. Foto: Das Büro

»Nå, den vil du alligevel ikke bruge herinde?« spørger Mogens Kjærgaard Møller let drillende, men får ikke noget svar, før han selv fortsætter:

»Her på falderebet er der også hele diskussionen om de data, biler allerede indsamler om os. Der bliver jo samlet ekstremt mange data ind. Hvem skal have retten til alle de data? De ville jo være helt vildt interessante set ud fra et trafiksikkerhedsmæssigt perspektiv og velsagtens også i forhold til blandt andet forsikringer.«

Da Mogens Kjærgaard Møller siger det, slår det mig, at Tesla i princippet kan gå ind at se, hvordan jeg kørte hvornår, så snart jeg trillede bilen ud fra elbilproducentens parkeringshus i København. Tesla kunne se, at jeg trykkede sømmet i bund ved et af lyskrydsene på vej hen til vores mødested, og de kan ganske givet se, at Torben Arent er en langt mere erfaren kører end mig. Tesla kan følge enhver bevægelse.

De mange data bruger producenterne til at gøre de selvkørende biler bedre med såkaldt machine learning. Her programmerer man en software til at lære af data helt af sig selv, så algoritmerne, der styrer bilen, kan oplære og forbedre sig selv.

Hvem har ansvaret?

Indtil machine learning, kunstig intelligens og bedre objektgenkendelse gør bilerne helt førerløse, kan alle de indsamlede data bruges til at placere ansvaret i tilfælde af ulykker. Men hvem har ansvaret, når en selvkørende og førerløs bil kører galt?

»Det bør helt klart være producentens ansvar, og det er det udgangspunkt, vi for nylig foreslog politikerne, da de skulle lave et lovforslag om førerløse biler i Danmark,« siger Mogens Kjærgaard Møller, der sad med i det udvalg, der diskuterede, hvordan man bør forholde sig til selvkørende og førerløse biler.

»Men hvad så med producenterne? Har de det bare fint nok med det?« spørger Thomas Bolander og kommer mig dermed i forkøbet.

»Volvo har allerede været ude at sige, at de synes, det er helt oplagt, at det er producentens fejl, hvis en helt førerløs bil kører galt. Men der er helt klart en stor opgave i at oplyse folk om, hvornår biler er helt selvkørende, og hvornår de ikke er,« siger Mogens Kjærgaard Møller.

Bilen svinger nu ind ved Skuespilhuset. Det er blevet tid til at tage billeder, men snakken om førerløse biler fortsætter, omend lidt mere løst nu.

Humøret har været højt under hele turen, men den førerløse bilrevolution synes langt væk efter diskussionen mellem de tre kilder.

Efterskrift

En halv time senere er jeg alene i bilen, en smule desillusioneret. Jeg troede, at de førerløse biler var tættere på – nærmest lige om hjørnet. For at udfordre de tre enige medpassagerer yderligere, beslutter jeg mig for at ringe til en robot -og automatiseringsekspert, som jeg har hørt nævne en betydeligt kortere tidshorisont for førerløse biler.

»Det er forkert at sige, vi først har helt førerløse biler, der kan køre alle steder og under alle forhold om 30-40 år, for vi taler om en digital teknologi, og der er en rivende og eksponentiel udvikling inden for netop digital teknologi. Den førerløse bils problemer er løst inden for en nær fremtid,« lyder det straks fra den tidligere forsker i kunstig intelligens og robotik Henrik Schärfe.

Han har tidligere ledet Center for Computer-medieret Epistemologi på Aalborg Universitet og blev verdenskendt for at have fået bygget en robot, der lignede ham selv på en prik. Hans nye virksomhed, Foundation Autonomous, skal blandt andet hjælpe Vesthimmerlands Kommune med at teste førerløse minibusser. Forhåbentlig allerede til sommer.

»Jeg deler Thomas Bolanders bekymring med hensyn til objektgenkendelsen, men jeg er fortrøstningsfuld i forhold til, at vi nok skal få det løst,« siger Henrik Schärfe og forklarer, at man for eksempel allerede for flere år siden har udviklet software, der med stor sikkerhed kan vurdere, om en fodgænger bliver stående eller går over vejen. Derfor er der ifølge Henrik Schärfe snarere tale om 5-7 år end 30-40.

»Der er allerede nu førerløse biler på vejene i Europa, der slet ikke har noget rat. Vi forventer selvfølgelig en stejl læringskurve, og at ting går galt. Men hvis man tilpasser køretøjerne til et specifikt område, kan man langsomt udvide området, efterhånden som bilerne samler data og bliver bedre,« siger han.

At ting går galt? Der er stille et øjeblik, mens jeg tænker tilbage på Teslaen, der overså en lastbil i USA og på Torben Arents ryk i rattet, der kun akkurat forhindrede en tur op på fortovet.

»Teknologien vil trænge igennem,« lyder det så fra Henrik Schärfe.

»Og den venter ikke på hverken bilproducenter eller forbrugere.«

Hør flere podcasts fra Året Rundt

Kommentarer (85)

Dejligt at læse en rigtig undersøgende artikel.
Lidt ærgerligt at da den til sidst ikke havde det forventede udfald, så trækker man ekstra data ind.

  • 4
  • 2

Dejligt at læse en rigtig undersøgende artikel.


...og med forskellige synspunkter.

Lidt ærgerligt at da den til sidst ikke havde det forventede udfald, så trækker man ekstra data ind.

Mjah, men det er tydeligt, at Mogens og Torben ikke har føling med den eksponentielle udvikling inden for især IT, men det, der især overrasker det mig, er at Thomas ikke føler, at teknologien er tæt på at lykkedes. Han skulle om nogen være inde i de sager.
Derfor synes jeg, at det er helt på sin plads at inddrage andre eksperter på netop det område.

  • 9
  • 1

Jeg tror ikke at førerløse biler er lige om hjørnet, men til gengæld synes jeg også, at artiklen er svag, i og med at de ikke køre i den nyeste generation af Tesla's autopilot.
Sat på spidsen, så tester de en gammel Nokia telefon, og konkludere, at en mobiltelefon,s primær funktion forbliver tale og SMS, velvidende at Appel's IPhone er kommet på markedet.
En ubrugelig test efter min mening, når nu nyeste version autopilot skulle være meget bedre.

  • 12
  • 5