Moralske beslutninger kan skifte under tidspres

Tidligere studier har vist, at de fleste mennesker hælder til, at en selvkørende bil skal programmeres, så den beskytter så mange mennesker som muligt. Inden for filosofien kaldes denne moralske tilgang for utilitarisme.

I det nye studie udfordres denne moralske tilgang imidlertid ved blandt andet at sætte deltagerne i en række eksperimenter under forskelligt tidspres og ved at tildele dem forskellige roller i trafikken – som fodgænger eller som passager i bilen.

Udgangspunktet for studiet er et kendt, etisk dilemma fra psykologiens verden, det såkaldte Trolley-dilemma, hvor man skal vælge mellem enten at redde fem jernbanearbejdere på bekostning af én eller ikke at gøre noget.

Overført til selvkørende biler er Trolley-dilemmaet: Skal bilen ofre sig selv og sin passager eller en eller flere fodgængere i en kritisk situation.

Både tid og rolle kan påvirke vores moralske tilgang til dilemmaet, viser studiet, som er lavet blandt knap 3.000 mennesker i USA og Danmark, fordelt på i alt syv eksperimenter omkring dilemmaer med selvkørende biler.

I ét af eksperimenterne, hvor der var flere passagerer i bilen, gik deltagerne med fodgænger-rollen for eksempel fra 4,3 procent, der ville redde passageren, når de skulle svare inden for fem sekunder, til 60 procent reddede passagerer, når deltagerne fik mulighed for at tænke sig om i op til 30 sekunder.

”Studiet viser, at vores moralske beslutninger slet ikke er så simple, som vi måske troede, og at den moralske beslutning, som vi umiddelbart siger, at vi vil tage, ikke altid er til at stole på,” siger Darius-Aurel Frank, ph.d.-studerende på Institut for Virksomhedsledelse, Aarhus BSS, og førsteforfatter på studiet, som er offentliggjort som en åben artikel i Nature-tidsskriftet Scientific Reports.

Studiet er lavet sammen med lektor Polymeros Chrysochou, lektor Panagiotis Mitkidis fra Aarhus BSS og professor Dan Ariely, Duke University, USA.

Med studiet ønsker forskerne at bidrage til debatten om, hvordan kunstig intelligens skal designes, og hvordan menneskets moralske beslutninger overføres til algoritmer.

”Hvis vi blot overfører moralske beslutninger fra mennesker til kunstig intelligens, så risikerer vi også at overfører de menneskellige moralske modsætninger, som vi ikke umiddelbart kan stole på. Derfor er det også vigtigt, at dette studie følges op af yderligere forskning omkring, hvad der påvirker vores moralske beslutninger” siger Darius-Aurel Frank.

Forskerne bag studiet har derfor dannet en tværfaglig forskergruppe, der vil dykke nærmere ned i spørgsmålene omkring sikkerhed og etik i udviklingen af design for kunstig intelligens.