Læsetid 7 min.

Hvor meget ansvar er vi klar til at give den selvkørende bil?

I nær fremtid kan det blive maskiner, der træffer valg mellem liv og død. Selvkørende biler skal kunne reagere i uforudsete situationer, og ifølge forskere er der brug for en debat om maskinernes moralske grænser. Information har testet over 3.000 læsere for, hvilke beslutninger de mener, den kunstige intelligens i bilerne skal tage
Tidligere transportminister Magnus Heunicke (S) afprøver en af de selvkørende biler, som i en nær fremtid vil kunne erstatte de biler, vi kender i dag. Det skaber nye dilemmaer, som vi bør diskutere, siger eksperter, for efter hvilke kriterier skal de robotdrevne biler redde liv? Arkiv

Tidligere transportminister Magnus Heunicke (S) afprøver en af de selvkørende biler, som i en nær fremtid vil kunne erstatte de biler, vi kender i dag. Det skaber nye dilemmaer, som vi bør diskutere, siger eksperter, for efter hvilke kriterier skal de robotdrevne biler redde liv? Arkiv

Joachim Adrian
25. april 2016
Delt 109 gange

Hvilken etik og moral skal være gældende, når maskiner foretager valg, der afgør liv eller død for mennesker? Det er en diskussion, som i de senere år har optaget forskere og udviklere af systemer med kunstig intelligens. For når vi med selvkørende biler potentielt set kan overlade det til maskinerne at beslutte, hvordan de skal reagere i pludseligt opståede trafikale situationer, går vi fra spontane og intuitive menneskelige beslutninger til noget, der er kodet ind i maskinerne. Dermed bliver det, der måske før var filosofisk abstrakte diskussioner om rigtigt og forkert, noget, som har konkrete konsekvenser.

Ifølge Thomas Bolander, der er lektor ved DTU Compute og forsker i logik og kunstig intelligens, er diskussionen helt nødvendig at tage i offentligheden på grund af den accelererende teknologiske udvikling på området.

»Man automatiserer mere og mere, og i takt med at robotter og computere skal overtage menneskeligt arbejde, er der også flere af de problemstillinger, som mennesker udsættes for, som de skal overtage. På et eller andet tidspunkt beder vi robotterne om at gøre ting, der er så avancerede, at de ikke kan undgå, at komme ud i de her problemstillinger,« siger han.

»Mange almindelige mennesker har nok tænkt, at det var noget pjat at diskutere de etiske og filosofiske problemstillinger, fordi man i en pludselig opstået situation om at redde menneskeliv alligevel vil handle på intuition. Men her begynder det at betyde noget i virkeligheden, fordi vi med alle de problemstillinger, som vi løser intuitivt, nu bliver nødt til at have en formel model, før vi kan proppe dem i en computer,« siger Thomas Bolander.

En af de store forhåbninger til de selvkørende biler er, at de kan blive langt mere sikre end menneskelige chauffører. De drikker ikke, er ikke stressede og fokuserer på, hvad der sker på vejen frem for musikvalg, skrigende børn eller smartphones. I de mest optimistiske scenarier spår eksperter, at selvkørende biler kan undgå 90 procent af alle ulykker.

Men selv om ulykker skulle blive mere sjældne, kan det stadig føre til offentlig forargelse, hvis biler tager beslutninger, som vurderes til at være moralsk anderledes end en tilsvarende menneskelig chaufførs.

»Selv en situation, som har meget lav sandsynlighed for at forekomme, men hvor maskiner tager beslutninger, der afgør liv eller død, vil optage folk. Det betyder, at man ikke bare kan sige til folk, at de ikke skal bekymre sig. Det er vigtigt, at de får mulighed for at diskutere det,« siger Jean-François Bonnefon, psykolog og forsker ved Toulouse School of Economics, der tidligere har udgivet et research paper, der testede, hvilke holdninger en gruppe respondenter havde til selvkørende bilers etiske beslutninger:

»De her diskussioner er lige pludselig ikke bare filosofiske gåder, men kan rent faktisk have relevans for den virkelige verden,« siger Jean-François Bonnefon.

Skadesreduktion

Det mest brugte eksempel på de selvkørende bilers moralske dilemma er det såkaldte trolley problem eller sporvognsproblem, som de to moralfilosoffer Philippa Foot og Judith Jarvis Thomson har opstillet: I en situation, hvor en sporvogn er ved at køre fem mennesker, der befinder sig på sporet, over, står du ved en knap, der kan skifte vognens spor, så den kun rammer en enkelt. Det oplagte utilitaristiske valg er at skifte sporet og dermed lade færre mennesker dø, men det er stadig kontroversielt, fordi det er et valg, man aktivt træffer om at slå et menneske, der ellers ville have overlevet, ihjel.

I forskellige udgaver af det klassiske problem har Information igennem knap en uge testet læsernes holdning til, i hvor høj grad man er indstillet på, at bilerne foretager etiske valg for os, og hvilken etik bilerne i så fald skal følge. 3.742 respondenter har svaret på spørgeskemaet, hvoraf 2.347 har udfyldt hele skemaet. Det skal understreges, at resultaterne skal tages med det forbehold, at det ikke er en test af den danske befolknings holdning til de selvkørende bilers etiske dilemmaer, men af Informations læseres. Det viser sig blandt andet ved, at Enhedslisten sammen med Alternativet lige akkurat ville få flertal i Folketinget blandt deltagerne i undersøgelsen, og at andelen af folk med en længere videregående uddannelse er på hele 45,6 procent, hvilket er mere end fire gange så mange som i befolkningen.

For at teste, hvorvidt folk vil lade en selvkørende bil foretage nyttemaksimerende valg, blev brugerne spurgt om, hvad en selvkørende bil, skulle gøre, hvis en enkelt fodgænger pludselig trådte ud foran bilen, og bilen med en undvigemanøvre i stedet kunne vælge at dræbe en fodgænger på fortovet.

Kun en ud af 10 mente, at det kan forsvares moralsk at dreje i den situation, men det ændrer sig betragteligt, hvis antallet af fodgængere, der går ud på vejen, stiger. Står valget mellem fem fodgængere, der løber ud foran bilen, og én person, der ellers helt uskyldigt går på fortovet, mener pludselig 44,5 procent, at det er mest eller nogenlunde mest moralsk at dreje bilen og begrænse antallet af dræbte. 20,5 procent mener, at begge alternativer er lige moralske. Undersøgelsen tyder også på, at kvinder er en smule mere villige til at foretage utilitaristiske valg end mænd, mens der ikke er gode nok tal til at understøtte, at politisk overbevisning, uddannelse eller alder skulle have betydning.

Egoisme og rettigheder

Står valget mellem ens eget liv som fører og fodgængernes liv, ændrer billedet sig lidt, og folk er – måske ikke så overraskende – mindre villige til selv at ofre livet for at redde fodgængere, end hvis valget står mellem fodgængere på vejen eller fortovet. Men også her betyder antallet noget, og jo flere fodgængere det er muligt at redde, desto mere uacceptabelt synes folk, det er, at bilen er programmeret til at blive på vejen for at redde chaufførens liv.

»Det spil, der foregår i ens hoved, er, at man har forskellige principper, hvor ingen af dem er absolutte,« siger Martin Mose Bentzen, der er adjunkt på DTU Management Engineering.

»Man har et proportionalitetsprincip om, at der skal slås så få ihjel som muligt, man har et princip om at beskytte folks rettigheder, og så har man egoisme, der handler om, at man gerne vil beskytte sig selv. Det, der er interessant, er, hvordan det fluktuerer, når man ændrer på de relevante parametre i situationen. For eksempel antallet af liv på spil.«

Netop spørgsmålet om rettigheder og lovgivningens betydning for moralske vurderinger ser ud til at have indflydelse i et tredje opstillet scenarie. Spørgsmålet går på, at man kører i en delvist selvkørende bil, hvor man selv har overtaget styringen. Men man er uopmærksom og ser derfor ikke den lastbil, der bremser op foran én. Bilen er programmeret til at gribe ind og skal vælge mellem at blive på vejen, så du – føreren af bilen – skal lade livet, eller alternativt ramme en fodgænger i vejkanten. Her mener 63,2 procent, at det er mest rigtigt eller nogenlunde rigtigt, at bilen er programmeret til at blive på vejen, mens kun lidt over 10 procent vil have bilen til at dreje.

Men i et tilsvarende spørgsmål, hvor der er tale om én fodgænger, der går »ulovligt i vejkanten«, mener nu kun 37,9 procent, at bilen bør blive på vejen, mens 36,5 procent mener, at det er enten mest eller nogenlunde mest rigtigt, at bilen drejer og dræber fodgængeren.

»Når man ikke vil have, at der er en, der bliver slået ihjel på fortovet, er det, fordi, at man tænker på den persons rettigheder. Det er en uskyldig, der ikke er impliceret i det her. Hvorfor skulle hans rettigheder brydes?« siger Martin Mose Bentzen.

»Men når man befinder sig et sted, hvor man gør noget ulovligt, så ser det ud til, at folks status falder på rettighedsbarometeret. Så har han ikke lige så meget ret til ikke at blive kørt over. Det interessante er, at moralsk set, er det jo stadig et menneske, der bliver kørt over. Og så slem en lovovertrædelse er det jo ikke at gå et sted, hvor man ikke må gå,« siger han.

Producenterne afviser

Mens brugerne altså virker villige til at lade bilerne programmeres, så de foretager valg, der kan spare liv, og eksperter opfordrer til, at diskussionerne bliver taget åbent, ser bilproducenterne ud til at mene, at det er mindre relevant.

»Det er et spændende problem for filosoffer at tænke over, men i situationen gør mennesker det ikke,« sagde Chris Urmson, der er leder af Googles projekt med selvkørende biler, på en konference i december ifølge Washington Post. Ifølge ham bliver bilerne ikke i stand til at kunne vurdere, hvilken fodgænger det giver bedst mening at ramme, hvis der kommer et sammenstød, som ikke kan undgås. I det tilfælde vil bilerne i stedet først og fremmest prioritere at undgå at ramme de blødeste trafikanter som cyklister og fodgængere frem for andre biler.

Information har også spurgt Volvo, som tidligere har meldt ud, at de vil være klar med en selvkørende bil i 2017, men bilfabrikanten er ikke vendt tilbage med et svar.

Tidligere har Nikolaj Nøhr-Rasmussen, ingeniør for Volvo i Danmark, dog udtalt til P1 Eksistens, at den kommende selvkørende bil »kommer til at reagere bedre end et menneske« i en uforudset situation, hvor f.eks. nogle børn går ud foran bilen.

»Det vil jo ikke være en fuldstændig uforudselig situation, at der kan rende børn ud foran en bil. Der ved du og jeg i sådan en situation, at man skal passe på her, så det kan man også lære en automatisk bil, at i de her områder skal den passe på. Så det, vi hele tiden arbejder på, er at undgå at komme i en situation, hvor man skal træffe det her umulige valg. Men der kan selvfølgelig altid opstå et eller andet, som er fuldkommen uforudsigeligt, og i den situation vil bilen overholde færdselsloven, holde sin vejbane og bremse alt, hvad den kan,« sagde Nikolaj Nøhr- Rasmussen til P1.

Skepsissen er måske forståelig, fordi bilproducenterne kan risikere i højere grad at blive draget til ansvar for dødsulykker, frem for hvis de bare fastholder, at bilerne er programmeret til at overholde færdselsloven, og at de er langt mere sikre end menneskelige chauffører. Et argument, der kan være tilstrækkeligt til at overbevise befolkningen om, at der er styr på situationen, hvis nogle af de store producenter stiller sig bag det.

»Hvis Google eller Tesla kommer og påstår, at de har lavet en selvkørende bil, som er mere sikker end et menneske, så tror jeg, at de fleste ville tage det for gode varer. Så er det først, når der kommer en problematisk ulykke, at det vil gå op for folk. Sådan er det med moderne teknologi, det kommer først på markedet, og så bliver det diskuteret bagefter,« siger Thomas Bolander.

»Det kan godt bekymre mig lidt. For der er en form for våbenkapløb om førerløse biler, hvor dem, der kommer først, sagtens kan være dem, der kommer til at sidde på markedet.«

Information afholder i dag kl. 16-18.30 arrangementet ’Hvordan baner vi vejen for selvkørende biler?’ Det er i forbindelse med Forskningens Døgn, og tilmelding sker på butik.information.dk

Bliv opdateret med nyt om disse emner

Prøv Information gratis i 1 måned

Klik her

Allerede abonnent? Log ind her

Forsiden lige nu

Anbefalinger

anbefalede denne artikel

Kommentarer

Brugerbillede for Piet Aagaard

Hvordan skulle en bil kunne vurdere om en fodgænger er lovlig eller ulovlig?
Jeg ved godt at det spørgsmål er hypotetisk, men jeg mener stadig det er irrelevant.

Brugerbillede for Henrik L Nielsen
Henrik L Nielsen

Piet Aagaard
Egentligt ikke så svært. Hvis altså det er den prioritering man vil foretage. Allerede nu kan bilen programmeres til at se om der er en fodgængerovergang og om der er nogen, der skal stoppes for, allerede før end fodgængerne er ude på vejen.
Det vil sige, at bilen kan se om der er en eller flere personer både på vejen og på fortovet. Programmeringen består så i at man fortæller bilen at dem der krydser vejen uden for en fodgængerovergang er mere rimelige ofre, hvis den skal vælge, end dem der går på fortovet. Man kan for så vidt sagtens kode bilerne til forskellige valg alt efter om den er i en by eller ude på landet hvor reglerne for fodgængere der krydser en vej er anderledes.

Brugerbillede for Henrik Wagner
Henrik Wagner

For at give det en snert af virkelighed, realpolitik og nyttemaksimerende valg, burde spørgsmålene vel have lydt mere a la ‘en topskatteyder træder ud foran en bus med kontanthjælpsmodtagere og asylansøgere’....

Henrik Klausen, Kim Houmøller, Niels Nielsen og Martin Schou anbefalede denne kommentar
Brugerbillede for Lars Jensen

---- - - - tekniske fejl er altid menneskelige fejl. Hverken Allah, Gud eller Fanden kan drages til ansvar, så fabrikanten og chaufføren må fortsat være ansvarlige - -

Brugerbillede for Søren Jensen
Søren Jensen

Spørgeskemaet undgik på behændigvis at spørge hvordan man ville se på det hvis man fx selv var ham der gik i vejkanten. Vi blev altså spurgt som potentielle købere, hvis vi var blevet spurgt som medtrafikanter så ville svarene nok have set anderledes ud.

Brugerbillede for Jacob Mathiasen
Jacob Mathiasen

Måske noget af problemet kunne løses ved at ejeren selv kan indstille bilen vha. 4-5 let forståelige parametre. F.eks. noget i stil med sikkerhed vs. komfort og hastighed. Hvor høj sikkerhed resultere i at bilen sænker hastigheden oftere og evt. kører konsekvent 5km for langsomt - eller hvad nu det mest optimale er iflg. de omfangsrige tests der må være udført.

Brugerbillede for Torben  Knudsen
Torben Knudsen

Der behøver ikke at blive forsket i ,at vi importerer motorcykler, der kan kører 250 i timen og biler ditto.
Vi har forsket i røg, er det ikke tiden at få afskaffet denne fartidioti, som skaber så megen frygt og ulykker på de danske veje.
Motorcykler og biler plomberet til max 140 i timen.
I den lange artikel om filosofi kommer Sebastian ikke ind på det jordnære spørgsmål: Hvor stærkt skal en førerløsbil køre?????????????++
Helt vanvittig at danske motorcykler og biler ikke er plomberet ved max 140 i timen.
Hvorfor bliver vi ved med at overse det problem.
Kom ud hos os og se motorcyklister drøne forbi med 220-250 i timen!!!!!!!!!!!!!! og da også de smarte biler med tomhjerner ved rattet/styret!!!

Brugerbillede for Herman Hansen
Herman Hansen

...Hvis vejen frem er selvkørende biler er der kun én mulighed. Nemlig, at bilen kører selv. Når noget går galt sker det så hurtigt, at ingen passager kan nå at gribe ind.

Brugerbillede for Kim Houmøller
Kim Houmøller

Langt nemmere at bygge et førerløst fly end en bil. Hvem sætter sig i øvrigt op, i et helt førerløst fly?