19-08-2018 21:55:07

Fascinerende og morbidt, men førerløse biler er ikke kørende guder

Kunstig intelligens: Selvkørende biler kommer med en række etiske dilemmaer. Nogle giver mening at diskutere, men det er en afsporing af debatten at tro, at de første selvkørende biler kommer til at træffe beslutninger om liv og død på individniveau, mener it-legenden Brad Templeton.
28. feb. 2018 Af Rene Pedersen - netværksredaktør

Det er urealistisk at skabe en selvkørende bil, hvor alle tænkelige scenarier på forhånd er forudset og kodet ind i systemet af et menneske. I stedet satser verdens bilfabrikanter på, at de via machine learning og neurale netværk kan skabe en flåde af selvlærende og -kørende biler, som vil vise sig at være langt bedre bilister end vi mennesker har potentiale til.

Machine Learning bliver brugt som en mirakelkur, og neurale netværk har de seneste år vist sig at kunne løse en række udfordringer, som miljøerne for kunstig intelligens verden over ikke havde forventet at kunne løse før om flere år. Til gengæld kommer teknologien med den udfordring, at vi ikke altid ved, hvorfor systemerne træffer sine beslutninger. Nogle steder taler skeptikere ligefrem om et “black box problem”, og flere steder bliver der stillet spørgsmål ved, om det er en god ide at slippe selvkørende biler løs, som træffer beslutninger, som vi ikke altid forstår.

Også blandt de fremtidige brugere er der en vis skepsis i forhold til de selvkørende biler. Som eksempel lavede Reuters tidligere på året en måling, der viste, at to ud af tre amerikanere er bange for at overlade rattet i bilen til kunstig intelligens.

Men det vil være en kæmpe fejl at bremse det momentum, som bilbranchen har i øjeblikket, fordi vi er bekymrede for, hvordan den kunstige intelligens i bilerne kommer til at træffe sine beslutninger, mener den kendte it-udvikler Brad Templeton. Han har arbejdet med selvkørende biler i en årrække, og i forbindelse med Driving IT spurgte vi ham til frygten for selvkørende biler.

“Jeg siger ikke, at det er en dårlig ide at være bekymret for noget, du ikke forstår. Men jeg vil nødigt ende i en situation, hvor vi skal vælge mellem to systemer,” siger han og fortsætter:

“Det ene forstår vi - programmeret konventionelt. Det andet er programmeret med machine learning, og vi forstår ikke helt, hvordan det virker. Men når vi tester dem begge, klarer machine learning-systemet sig dobbelt så godt. Alligevel vælger vi at slå dobbelt så mange mennesker ihjel, bare for at kunne forklare, hvorfor de dør”.

Den gennemsigtige model er der ifølge Brad Templeton også folk, der hælder til, og en række fremtrædende tech-personligheder med Stephen Hawking i spidsen har advaret mod fuldt selvlærende robotter. Derfor bliver det også en diskussion i de kommende år, mener Brad Templeton.

“Det er en god etisk debat,” siger han.

Valget mellem Hitler og Gandhi

En anden problematik, som jævnligt bliver bragt op er et etisk tankeeksperiment, der har fået navnet The Trolley Problem. I moderne form blev problematikken beskrevet af den britiske filosof Philippa Foot i 1967. Kort fortalt skal du vælge, om du vil afspore en togvogn for at redde fem jernbanearbejdere fra at dø. Griber du ind, vil togvognen i stedet ramme én person i nødsporet. Du vil altså i stedet være direkte skyldige i én persons død.

De selvkørende biler har reaktualiseret den slags moralfilosofiske udfordringer. For hvad nu, hvis bilen bliver i stand til at vælge mellem at køre en pensionist eller et barn ned. Hvem skal bilen så vælge? Og hvad nu hvis bilen kan vælge mellem at køre en cyklist med cykelhjelm ned eller en cyklist uden. Skal den vælge at påkøre manden med cykelhjelm, fordi han har større chance for at overleve? For så vil vi samtidig indirekte straffe folk, der træffer det fornuftige valg.

Den slags diskussioner er fascinerende og morbide, men ikke vigtige, mener Brad Templeton.

“Der er en række vigtige etiske problemer, som vi skal have styr på. Men hvem du skal slå ihjel, hvis du kan vælge mellem Gandhi og Hitler, er ikke et af dem. For det er ikke virkelighed,” siger han.

Brad Templeton stiller spørgsmål ved, om situationen nogensinde er opstået, hvor en bilist har været i stand til at træffe et valg på det splitsekund, du har til at reagere i trafikken.

“Men vi er fascinerede af tanken om, at robotter kan gøre, det der tidligere var overladt til guderne og beslutte, hvem der overlever og dør. Men i virkeligheden er det ikke et reelt problem. Det er et problem for version 4, og vi arbejder på version 0.2 af bilerne,” siger Brad Templeton.

Se hele videoen og hør, hvad Brad Templeton mener er de virkelige etiske problemer i forhold til at sende selvkørende biler ud på vejene.

Machine Learning
Machine Learning

Få emner er så hypede i disse år som machine learning og kunstig intelligens. Potentialet er enormt, og derfor har giganter som Apple, Microsoft, Amazon, IBM og Intel heller ingen skrupler ved at ...

Læs mere
Kunstig intelligens
Kunstig intelligens

Kunstig intelligens er formentlig den fremtidsteknologi, der har størst potentiale for at skabe markante ændringer i vores dagligdag. Men hvad er kunstig intelligens, hvordan bliver teknologien e ...

Læs mere
Kunstig intelligens og Watson
Kunstig intelligens og Watson

Watson er en teknologiplatform, der kan finde anvendelse over et bredt område af selvlærende it-systemer.

Se video

Deltag i debatten

luk
close