Fremtidens transport

28.02.2018
3 min læsetid

Førerløse biler er ikke kørende guder

Selvkørende biler kommer med mange etiske dilemmaer. Nogle giver mening at diskutere, men det er en afsporing af debatten at tro, at de første selvkørende biler vil træffe beslutninger om liv og død på individniveau, mener it-legenden Brad Templeton.

af Rene Pedersen

Det er urealistisk at skabe en selvkørende bil, hvor alle tænkelige scenarier på forhånd er forudset og kodet ind i systemet af et menneske. I stedet satser verdens bilfabrikanter på, at de via machine learning og neurale netværk kan skabe en flåde af selvlærende og -kørende biler, som vil vise sig at være langt bedre bilister end vi mennesker har potentiale til.

Machine learning bliver brugt som en mirakelkur, og neurale netværk har de seneste år vist sig at kunne løse en række udfordringer, som miljøerne for kunstig intelligens verden over ikke havde forventet at kunne løse før om flere år. Til gengæld kommer teknologien med den udfordring, at vi ikke altid ved, hvorfor systemerne træffer sine beslutninger. Nogle steder taler skeptikere ligefrem om et “black box problem”, og flere steder bliver der stillet spørgsmål ved, om det er en god ide at slippe selvkørende biler løs, som træffer beslutninger, som vi ikke altid forstår.

Også blandt de fremtidige brugere er der en vis skepsis i forhold til de selvkørende biler. Som eksempel lavede Reuters tidligere på året en måling, der viste, at to ud af tre amerikanere er bange for at overlade rattet i bilen til kunstig intelligens.

Slår dobbelt så mange mennesker ihjel

Men det vil være en kæmpe fejl at bremse det momentum, som bilbranchen har i øjeblikket, fordi vi er bekymrede for, hvordan den kunstige intelligens i bilerne kommer til at træffe sine beslutninger, mener den kendte it-udvikler Brad Templeton. Han har arbejdet med selvkørende biler i en årrække, og i forbindelse med Driving IT spurgte vi ham til frygten for selvkørende biler.

“Jeg siger ikke, at det er en dårlig ide at være bekymret for noget, du ikke forstår. Men jeg vil nødigt ende i en situation, hvor vi skal vælge mellem to systemer,” siger han og fortsætter:

“Det ene forstår vi - programmeret konventionelt. Det andet er programmeret med machine learning, og vi forstår ikke helt, hvordan det virker. Men når vi tester dem begge, klarer machine learning-systemet sig dobbelt så godt. Alligevel vælger vi at slå dobbelt så mange mennesker ihjel, bare for at kunne forklare, hvorfor de dør”.

Den gennemsigtige model er der ifølge Brad Templeton også folk, der hælder til, og en række fremtrædende tech-personligheder med Stephen Hawking i spidsen har advaret mod fuldt selvlærende robotter. Derfor bliver det også en diskussion i de kommende år, mener Brad Templeton.

“Det er en god etisk debat,” siger han.

Valget mellem Hitler og Gandhi

En anden problematik, som jævnligt bliver bragt op er et etisk tankeeksperiment, der har fået navnet The Trolley Problem. I moderne form blev problematikken beskrevet af den britiske filosof Philippa Foot i 1967. Kort fortalt skal du vælge, om du vil afspore en togvogn for at redde fem jernbanearbejdere fra at dø. Griber du ind, vil togvognen i stedet ramme én person i nødsporet. Du vil altså i stedet være direkte skyldige i én persons død.

De selvkørende biler har reaktualiseret den slags moralfilosofiske udfordringer. For hvad nu, hvis bilen bliver i stand til at vælge mellem at køre en pensionist eller et barn ned. Hvem skal bilen så vælge? Og hvad nu hvis bilen kan vælge mellem at køre en cyklist med cykelhjelm ned eller en cyklist uden. Skal den vælge at påkøre manden med cykelhjelm, fordi han har større chance for at overleve? For så vil vi samtidig indirekte straffe folk, der træffer det fornuftige valg.

Den slags diskussioner er fascinerende og morbide, men ikke vigtige, mener Brad Templeton.

“Der er en række vigtige etiske problemer, som vi skal have styr på. Men hvem du skal slå ihjel, hvis du kan vælge mellem Gandhi og Hitler, er ikke et af dem. For det er ikke virkelighed,” siger han.

Brad Templeton stiller spørgsmål ved, om situationen nogensinde er opstået, hvor en bilist har været i stand til at træffe et valg på det splitsekund, du har til at reagere i trafikken.

“Men vi er fascinerede af tanken om, at robotter kan gøre, det der tidligere var overladt til guderne og beslutte, hvem der overlever og dør. Men i virkeligheden er det ikke et reelt problem. Det er et problem for version 4, og vi arbejder på version 0.2 af bilerne,” siger Brad Templeton.