18-12-2017 19:40:01

Selvkørende biler og etik: Ville du købe en bil, der var programmeret til at slå føreren ihjel?

Selvkørende biler: Teknologisk rykker vi med hastige skridt tættere på selvkørende biler. Men uanset om vi har fuldt selvstyrende biler på vejene i 2020 eller 2040, er der en række etiske dilemmaer, som vi bør have tænkt igennem, inden den første dødsulykke.
Ajourført den 4. jul. 2017 Af Rene Pedersen - netværksredaktør
<p>Martin Mose Bentzen underviser på DTU i videnskabsteori og etik for ingeniører ogforsker bl.a. i autonome sociale robotter og moralsk ansvar.</p>

Martin Mose Bentzen underviser på DTU i videnskabsteori og etik for ingeniører ogforsker bl.a. i autonome sociale robotter og moralsk ansvar.

I løbet af 2016 mistede 211 mennesker livet, og 3.228 personer kom til skade i trafikken.

Og selv om trafikdræbte er et uundgåeligt onde ved at have biler på vejene, er der formentlig gode muligheder for at nedbringe tallet yderligere. For eksempel sker mere end 10 procent af dødsulykkerne på grund af alkohol, og i mere end 20 procent af ulykkerne skønner politiet, at hastighedsgrænsen er blevet overtrådt. Kort sagt: Menneskelige fejl spiller en hovedrolle i statistikken.

I disse år foregår der et intenst kapløb mellem store bilfirmaer, der alle arbejder på deres egne udgaver af selvkørende biler. Det vil medføre en revolution inden for trafiksikkerhed, mener producenterne, der tror så meget på deres eget produkt, at de er villig til at dække forsikringssummen, hvis deres biler er med i en ulykke. Men uanset hvor intelligente og sikre de selvkørende biler bliver, vil de uundgåeligt ende i situationer, hvor de kan risikere at køre galt. Et par simple eksempler er et barn, der pludselig løber over vejen, et træ der vælter og dækker kørebanen eller en ikke-selvkørende bil, der ikke holder sig inden for færdselsloven.

Og i modsætning til en menneskelig fører vil de selvkørende biler have mulighed for at træffe et valg på et splitsekund. Forfærdelige - og i nogle tilfælde umulige - valg der i værste fald kan betyde døden for menneskelige trafikanter. Det åbner op for nogle etiske dilemmaer, som i visse tilfælde er ægte etiske dilemmaer med vægtige argumenter for og imod og uden én god løsning.

“Mens mennesker handler spontant og ikke kan stilles til regnskab for, hvad de gør i en dilemma-situation, så skal de her biler jo programmeres til at håndtere situationer. Og det gør, at man på en eller anden måde kan bygge en tankeproces ind i dem, så de på forhånd kan tage stilling til, hvad de skal gøre. Og det er super interessant,” siger Martin Mose Bentzen, der underviser på DTU i videnskabsteori og etik for ingeniører og blandt andet forsker i autonome sociale robotter og moralsk ansvar.

Han nævner som eksempel en situation, hvor en selvkørende bil er nødt til at undvige og køre ind i en af to personer, for hvis bilen ikke undviger, vurderer bilen, at begge trafikanter bliver ramt. I eksemplet har den ene cykelhjelm på, og den anden har ikke. Hvem skal bilen vælge at køre ned i situationen? Trafikanten med cykelhjelm, som muligvis har en større chance for at overleve? I så fald straffer man personen for at prøve at beskytte sig selv. Ingen af de to løsninger er gode, men et valg skal tages.

“Jeg tror, bilselskaberne håber, at vi kan løse dilemmaerne ‘on the fly’. Men jeg tror, det vil være klogt at løse det på forhånd,” siger han og uddyber.

“For jeg tror, at når vi får de første dødsulykker med selvstyrende biler (red. i en niveau 5 selvkørende bil) - og det får vi uundgåeligt - så vil de stå meget bedre, hvis de kan retfærdiggøre, hvad der er sket i den situation, hvor det er gået galt”.

Han forudser, at hvis vi ender med en dødsulykke, hvor bilen har truffet et valg, som offentligheden vil betragte som problematisk, kan bilbranchen risikere at få vendt den folkelige opbakning til modstand mod selvkørende biler.

“Man kan risikere at få et kæmpe backlash, tror jeg. Ligesom man har set imod fx atomkraftværker og genteknologi, hvor forskerne står i opposition til hoveddelen af befolkningen. Og det vil være synd, for jeg mener sådan set, at selvkørende biler er en rigtig god ide i forhold til trafiksikkerhed”.

Vil vi nogensinde få selvkørende biler?

De etiske dilemmaer bør vi altså tage hul på inden længe. Men kan de også betyde, at der går længere tid, før vi ser selvkørende biler på vejene? Ja, mener fx den tyske filosof Julian Nida-Rümelin. Han har peget på, at der vil være uløselige etiske spørgsmål for selvkørende biler, og som konsekvens mener han ikke, at 100 procent selvkørende kategori-biler nogensinde bliver en realitet. Heller ikke David Mindell, der er professor på MIT og forfatter til bogen ‘Our Robots, Ourselves: Robotics And The Myth Of Autonomy’ tror, at det bliver aktuelt med fuldt selvkørende biler, fordi vi selv ønsker at bestemme over liv og død.

“Forestillingen om at afgive kontrol over noget så grundlæggende i livet, som at køre bil, til en stor, ugennemsigtig virksomhed (red. Googles selvkørende biler), har folk det ikke godt med”, sagde han til MIT News. Her er Martin Mose Bentzen dog mere pragmatisk.

“Der kan godt være et uløseligt dilemma. Men så må man fra politisk side eller fra bilfirmaets side sige, at det er den løsning, vi giver, og den kan vi retfærdiggøre på den ene eller den anden måde,” siger han og fortsætter.

“Det vil også være et dilemma for det menneske, der vil køre. Så at sige, at så kan vi ikke have fuldt ud selvstyrende biler, fordi den kan ikke løse et dilemma, som vi heller ikke selv kan løse, det virker som et mærkeligt argument”.

Martin Mose Bentzen mener også, at vi finder en løsning, fordi det i det store hele vil blive en mere sikker trafik end 100 procent menneskestyret. Men det er ikke så let at programmere, som det måske lyder.

“Jeg er måske ikke så optimistisk, som typer som professor Christian Gerdes fra Stanford Universitet, der mener, at det at implementere etik er simpelt. Det er bare at lave nogle hard constraints for, hvad man ikke må - f.eks. at man aldrig må køre en fodgænger ned - og så lave en cost funktion for de andre ting,” siger han

Han mener dog samtidig, at vi teknologisk og forskningsmæssigt er ved at komme til et sted, hvor vi kan implementere en form for etik i computere og robotter. Der bliver holdt workshops og konferencer om emnet, og det er et felt, mange AI-forskere er interesserede i.

“Spørgsmålet er selvfølgelig, om det bliver tilfredsstillende. Men jeg mener egentlig, at forskningen er på vej derhen,” siger han.

Ingen vil købe bilen, der vælger at slå dig ihjel

Uanset hvad skal der findes svar på en række etiske spørgsmål, hvis vi nogensinde skal gå fra kategori 4-biler og til de 100 procent selvkørende kategori 5-biler. Spørgsmålet bliver så, om det bør være én central lovgivning, der definerer, hvilke valg de selvkørende biler skal tage, eller om valgene i sidste ende bliver taget af en brancheforening for bilproducenterne eller hos de enkelte producenter.

Hvis det bliver de enkelte producenter, der definerer fuldstændig, hvilke valg bilerne skal tage, kommer der flere etiske dilemmaer. For hvad vil det få af betydning for salget af bilerne, hvis producent X vælger en tilgang, der er mere tilbøjelig til at lade føreren overleve end producent Y? Umiddelbart en skræmmende konkurrencefordel.

For sætter vi situationen på spidsen, vil en selvkørende bil ikke bare kunne ende i en situation, hvor den skal vælge mellem bløde trafikanter på vejen. Man kan også lave eksempler, hvor valget står mellem bilisten i den selvkørende bil og en trafikant på vejen. Og hvor det med stor sandsynlighed vil medføre, at en af parterne mister livet.

Og ville du købe en bil, der var programmeret til at slå føreren ihjel? Hvis du er som de fleste, siger du nej. MIT-professor Iyad Rahwan har skabt Moral Machine, der via gamification er med til at skabe et billede af, hvilken etik mennesker ønsker implementeret i en selvkørende bil. Og dobbeltmoralen lever i høj grad.

“Generelt vil folk have bilen til at være moralsk gode, så de ønskede en bil, der minimerede skaden for fodgængere, selv om det betyder, at den vil ofre føreren af bilen,” skriver Iyad Rahwan med følgende tilføjelse.

“Men når de blev spurgt, om de ville købe sådan en bil, var svaret et rungende nej”.

Catch 22

Nogenlunde samme resultat er den franske forskningschef på Toulouse School of Economics, Jean-Francois Bonnefon, nået frem til. Hans team konkluderer i et studie, at når der ikke findes rigtige eller forkerte svar, kommer den offentlige mening til at afgøre, om de selvkørende biler bliver accepteret.

I studiet opererer de med et dilemma, hvor du ejer en selvkørende bil. Du kommer kørende og er pludselig i en situation, hvor bilen kan ofre dig som bilens fører eller de 10 personer på vejen. De fleste medgiver, at det er bedre at ofre den ene i bilen end de 10 på vejen. Men samtidig har det også konsekvenser. For det faktum, at bilen vil ofre ejeren, vil formentlig få færre til at købe de selvkørende biler. Og så står vi nu i en situation, hvor flere måske i virkeligheden vil dø, fordi færre selvkørende biler og flere mennesker bag rattet med stor sandsynlighed vil medføre flere uheld. Altså en catch 22-situation, hvor man kun kan vælge forkert.

Hos Mercedes har man som de første meldt ud, at de vil prioritere at redde bilen og personerne i den over at redde fodgængere.

“Hvis du ved, at du kan redde mindst en person, så red personen i bilen. Hvis du helt sikkert ved, at du et dødsfald kan undgåes, så er det din priorietet.” sagde Christoph von Hugo, der er chef for Mercedes’ førerløse system.

Et første bud fra en af de store producenter, men ikke et specielt fyldestgørende svar, mener Martin Mose Bentzen. 

"Sådan som Mercedes stiller det op, har de jo ret, hvis man er sikker på at man kan redde én, skal det vel være chaufføren i mange tilfælde," siger han og stiller et spørgsmål, som Mercedes endnu ikke har besvaret. 

"Men hvad med dual-use? Skal bilproducenterne ikke tage ansvar og forhindre, at deres biler skal køre ind i uskyldige, hvis brugeren har denne intention?". 

Hvem beslutter, hvem der dør, og hvem der overlever?

Vender vi tilbage til spørgsmålet om, hvem der skal træffe de svære valg, tror Martin Mose Bentzen, at det er nødvendigt, at der kommer lovgivning. Men der bliver også behov for branche-standarder, da det i høj grad bliver bilproducenterne, der kommer til at implementere valgene i bilernes software. Også fordi bilfirmaerne reelt set overtager chaufførernes rolle.

“Lige nu taler vi meget om førerløse biler, på samme måde som man talte om bilen, da den kom frem. Det var en hestevogn uden heste. Men ligesom bilen er noget helt andet en hestevogn uden heste, så er den selvstyrende bil også noget helt andet end en bil, som vi kender den nu,” siger han.

Hvad det andet er, er det, man er ved at finde ud af. Og det er også derfor det er spændende og lidt uklart lige nu. Et stort spørgsmål er f.eks., om mennesket altid skal kunne gribe ind og overtage styringen?

Og hvad med de situationer, hvor der bare ikke findes én løsning, der er bedre end den anden? Martin Mose Bentzen peger på, at det muligvis bare bør være en simpel tilfældigheds-algoritme, der afgør udfaldet.

“Er der den form for symmetri (red. at der ikke er nogen løsning bedre end anden), men at det stadig er bedre at gøre en af dem, end slet ikke at gøre noget. Hvis vi antager, at gør man ikke noget, kører man begge to ned. Så synes jeg egentlig, at det at vælge tilfældigt ikke er nogen så dårlig ide,” siger han og fortsætter.

“Det har en form for kynisk retfærdighed, og “det er i hvert fald bedre, end at man går ind i en eller anden form for diskrimination, synes jeg”.

Embedded Everywhere
Embedded Everywhere

Den 18. april 2018 sætter vi fokus på mulighederne i embeddede teknologier. Tilmeld dig i dag og bliv fyldt med inspiration og ny faglig viden.

Læs mere
Bliver selvkørende biler kedelige?
Bliver selvkørende biler kedelige?

Transport: Vi nærmer os med hastige skridt biler, der enten er delvist eller fuldstændig selvkørende. Det er en spændende udvikling, men det skaber også nogle interessante spørgsmål. Og måske bliver det hele ...

Læs mere
Nvidia klar med supercomputer til selvkørende biler
Nvidia klar med supercomputer til selvkørende biler

Selvkørende biler: Nvidia vil som opfindere af GPU’en for de fleste være synonym med grafikkort. Men firmaet har mange strenge at spille på, og med supercomputeren Drive PX2 satser de på at blive en stor spiller på ...

Læs mere
Dansk Obama-rådgiver: Lav Danmark til testzone for selvkørende biler
Dansk Obama-rådgiver: Lav Danmark til testzone for selvkørende biler

Transport: Udviklingen for selvkørende biler er nu så meget i overhalingsbanen, at det er umuligt for Danmark at blive en spiller. Men vi kan stadig spille en rolle i udviklingen af alt omkring bilen, mener ...

Læs mere
Selvkørende biler: Nye spillere og alliancer vælter frem
Selvkørende biler: Nye spillere og alliancer vælter frem

Transport: Google er løbet med det meste af opmærksomheden, men der findes mange andre virksomheder og nye alliancer, der desperat prøver at komme ind på markedet for selvkørende biler. Vi har forsøgt at ska ...

Læs mere
Himmerlandske biler skal være totalt selvkørende – også i snevejr
Himmerlandske biler skal være totalt selvkørende – også i snevejr

Men i første omgang betyder manglende lovgivning, at Henrik Schärfe, der står i spidsen for projektet med selvkørende biler i Vesthimmerland, må satse på en nødløsning med en ”chauffør og en stop ...

Læs mere

Deltag i debatten

luk
close