Skyldig, indtil det modsatte er bevist.
Af Poul-Henning Kamp,
tirsdag 02. mar 2010 kl. 23:52
Inden vi bliver færdige med Toyotas pedaler, vil der blive afdækket mangt og meget, men det fundamentale problem vil sandsynligvis ikke blive rettet.
Den 10 juni 2006 drønede en Toyota Camry op af en motorvejsrampe med et sted imellem 110 og 150 km/h, pløjede ind i en Oldsmobile og dræbte ialt 3 personer.
Føreren har hele tiden påstået at hans bremser ikke virkede, men blev idømt 8 års fængsel "drab med motorkøretøj".
Blandt sagens beviser stikker to ting særligt i øjnene:
1. Han havde sin gravide kone, 4-årige datter, far og bror i bilen og var på vej hjem fra kirke.
2. En lokal mekaniker undersøgte bilens bremser og vidnede at han ikke kunne finde nogen problemer med dem. En expert betalt af forsikringen nåede samme konklusion.
(Læs flere detaljer hos Huffington Post.)
Vi får nok aldrig sikkerhed for, om bilen var defekt, eller om en urutineret billist febrilsk trampede sømmet i bund istedet for bremsen.
Det jeg synes er interessant ved den historie, er at retten fandt det tilstrækkeligt at lade to tilfældige kanutter, der ikke engang har adgang til kildeteksten, afgøre om bilen gjorde noget dumt.
Salig Jens Martin Knudsen sagde i en af vores forelæsninger, at termodynamikken var den eneste uretfærdige del af fysikken:
Statistisk, sagde han, var det muligt at fylde en keddel med koldt vand fra brønden, stille den på det rødglødene komfur og se vandet fryse til en klump is.
Folk glemmer altid, at termodynamikken er baseret på sandsynligheder.
Newtons love siger ikke "sandsynligvis falder æblet til jorden", men temodynamikken siger "sandsynligvis bliver vandet varmere."
Og netop fordi sandsynligheden er "en mod næsten uendelig", er der ikke en kæft der tror på den stakkels lille bedstemor, for hvem kedlen, helt i pagt med termodynamikken, frøs til is.
Computere er uretfærdige på samme vis:
Når vi underskriver med en digital signatur, er det kun et sandsynlighedsbevis der føres, der er en forsvindende sandsynlighed, typisk i størrelsesordenen 1:10^80, for at beviset ikke holder.
Det er temmelig lange odds, men de er stadig odds og ikke et bevis[1].
(Til sammenligning er der ca. 1:3125 sandsynlighed for at din nøgle også passer til naboens dør.)
Når vi validerer og tester computerprogrammer der har med virkeligheden at gøre, kan vi også kun føre sandsynlighedsbeviser for at de ikke indeholder fejl.
Verden er plasteret til med veltestede programmer som, hvis de blev brugt på en helt bestemt måde, gjorde noget helt forkert.
Slog patienten ihjel, istedet for at behandle hans kræftsvulst f.eks.
Eller min favorit: forhindrer rumfærgen i at lette, til trods for at netop software til rumfærgerne er noget af det mest gennemtestede kode der er skrevet, nogensinde.
Steve Wozniak, manden der byggede Apple computerer, sammen med Steve Jobs, afveg fra teksten til en konference og fortalte publikum:
Citat:
"I don't get upset and teed off at things in life, except computers that don't work right," Then he said he had been trying to get through to Toyota and the National Highway Transportation Safety Administration (NHTSA) for three months, but could not get anyone to explore an alleged software-related acceleration problem: "This new [Prius] has an accelerator that goes wild, but only under certain conditions of cruise control. And I can repeat it over and over and over again–safely."
Når en computergud som
The Woz[2] påstår at han kan reproducere et softwareproblem med en bestemt bil og hverken fabrikant eller myndigheder tager ham alvorligt, endsige på ordet, så er vores syn på computere helt,
HELT i skoven.
Der er simpelthen brug for en klokkeklar ny regel i retsplejen:
Citat:
I enhver retssag skal involverede computere opfattes som defekte, indtil det modsatte er bevist. Føres dette bevis som sandsynlighedsbevis, må sandsynligheden aldrig vurderes lavere end 1:1000.
For I ved da godt, alle i almindelige mennesker, at vi computernørder er pavestolte, hvis der kun er én fejl per tusinde linier kode, når vi er færdige med at teste, ikke ?
phk[1] Held og lykke med at overbevise byretten, hvis du trækker det korte strå. Du skal nok ikke vente nogen hjælp eller forståelse fra banken, PBS eller Visa.
[2] I'm not worthy! I'm not worthy!