Hvem har ansvaret når robottens nye software begår selvskade?

Jeg har en robotstøvsuger. Faktisk har jeg to - IRobots Roomba 500 serie, ikke de allerføste, men bestemt ikke topmodellen med dikkedarer. Den ene købte jeg selv til fuldpris da modellen var ny, den anden købte jeg år senere brugt for et par hundrede kr. De ved ikke hvor de er - de har en dejlig pragmatisk simpel opførsel bestående (forsimplet) i tre strategier: 1) antag du er blevet startet midt i rummet. Rengør i en spiral. 2) Når du finder en kant, følg langs den. Det er tit en væg eller møbel hvor der er samlet skidt. 3) Efter noget tid, stik af i en tilfældig retning - for at undgå at blive fastlåst i at køre i ring. Det virker. Det virker rigtig godt. Tegner man en heat map over rummet, ser man typisk at de allerfleste arealer bliver støvsuget mindst én gang, og centrale områder bliver typisk støvsuget ca. 3 gange. Robotten er billig, for den har ikke særlig mange eller præcise sensorer. Den er ikke online. Det er meget lidt systematisk - tværtimod er den mere lidt dum og kær, og opfattes af nogle mere som kæledyr end teknologi.

Den sensor, den har flest af, er cliff sensors. Infrarød afstandsmålere, som kigger nedad. Det er en robot med selvpreservationsinstinktet i orden. Da jeg kiggede på den første gang undrede det mig at "lade være med at støde ind i ting" - det mest almindelige dagligdags situation - primært klares med én bumper sensor af en ret simpel type - en fjederbelastet bumper påvirker et par microswitches. Mens der er mange, dyrere infrarød sensorer som peger nedad, og hvis eneste job det er at forhindre at robotten prøver at køre ud over trappen. Roombaerne fungerer godt, det største problem synes at være at batteriet aflades hvis den ikke bliver ladt på hele tiden, og den er ikke glad for at stå længe afladt. Mens det tidligere kostede 1600 kr for et originalt batteripakke, så fås en udemærket batteripakke nu om dage til under 300 kr fra f.eks. Batteribyen eller Nkon.

En kollega har et af de nyeste konkurrenter, som ved hvor den er og kortlægger rummet. De nyere generationer, fra forskellige fabrikanter, går meget systematisk til værks, kortlægger rummet, sørger for at den har taget hvert et cm, sender et kort over rummet til en app på din smartphone. Der er fordele. Ikke mindst at den kan fjernstartes på et passende tidspunkt, og selv finde tilbage til sin ladestation. De er også online - og kan dermed softwareopdateres. Mens Roomba 500s software er mest i familie med softwaren i et komfur, opvaskemaskine eller PLC, så er de nye generationer tættere på IT og mobiltelefonverdenen, hvor jævnlige automatiske softwareopdateringer er normen.

Men mens mine Roombaer kører stille og roligt videre, er kollegaen Mads' betydelig nyere, smartere, dyrere robotstøvsuger kørt ud over trappen og er faldet 3,5 m ned.

Kort tegnet af Mads' robotstøvsuger. Til højre før opdatering, hans lejligheds grundplan er klart genkendelig. Til venstre efter opdatering, der er gået noget galt med dens koordinatsystem eller hvor den tror den er - kortet er ikke længere genkendelig.

Det har den aldrig gjort før. Nu prøver den at gøre det jævnligt. Den er ca. 2 år. Det lader altså til at det er en softwareopdatering, som har forvandlet den fra superstabil til selvmordstruet (det kan teoretisk set også være en sensor, men det virker bare ikke sådan).

Hvem har ansvaret, når et produkt, måske lige udenfor de 2 års reklamationsret, slås ihjel af en fejl i en softwareopdatering fra producenten?

Man kan se årsagen for sig - under udviklingen af den nye produkt, bliver den testet rigtig grundig. På et tidspunkt, efter et par år, tror udviklerne at de blot er i gang med små tilretninger, og de bliver ikke testet helt så grundigt. En tanketorsk, som udvikleren tror ikke har nogen betydning, gør at robotten nu bevæger sig på en ny måde, som sætter cliff sensornes funktion ud af kraft under visse specifikke, ikke afprøvede situationer.

Lige om lidt får mange biler over the air softwareopdatering. Det bliver spændende.