Would you sacrifice one person to save five? - Eleanor Nelsen

Translator: Sune Vilsted Østergaard Reviewer: Anders Finn Jørgensen

Imagine you're watching a runaway trolley barreling down the tracks

Forestil dig at du ser en løbsk vogn, der kommer susende ned ad sporene

straight towards five workers who can't escape.

imod fem arbejdere, som ikke kan flygte.

You happen to be standing next to a switch

Du står tilfældgivis ved siden af en kontakt,

that will divert the trolley onto a second track.

der vil aflede vognen hen på et andet spor.

Here's the problem.

Her er problemet.

That track has a worker on it, too, but just one.

Der står også en arbejder på sporet, men kun én.

What do you do?

Hvad gør du?

Do you sacrifice one person to save five?

Ofrer du den ene person for at redde fem?

This is the trolley problem,

Det er trolley-problemet.

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

en variant af et etisk dilemma, filosoffen Philippa Foot fandt på i 1967.

It's popular because it forces us to think about how to choose

Det er populært fordi man skal tænke over, hvordan man vælger,

when there are no good choices.

når der ikke er nogle gode valg.

Do we pick the action with the best outcome

Vælger vi handlingen med det bedste udfald

or stick to a moral code that prohibits causing someone's death?

eller holder vi os til et moralsk kodeks, der forbyder at forårsage en andens død?

In one survey, about 90% of respondents said that it's okay to flip the switch,

I en undersøgelse svarer omkring 90%, at det er okay at trykke på kontakten

letting one worker die to save five,

og lade én arbejder dø for at redde fem,

and other studies, including a virtual reality simulation of the dilemma,

og andre studier, inklusiv en virtuel virkelighedssimulation af dilemmaet,

have found similar results.

har fundet lignende resultater.

These judgments are consistent with the philosophical principle of utilitarianism

Disse vurderinger stemmer overens med det filosofiske princip, utilitarisme,

which argues that the morally correct decision

som hævder, at den moralsk rigtige beslutning

is the one that maximizes well-being for the greatest number of people.

er den som maksimerer glæden for flest mulige mennesker.

The five lives outweigh one,

De fem liv opvejer et enkelt,

even if achieving that outcome requires condemning someone to death.

selvom at udfaldet kræver, at man lader en anden dø.

But people don't always take the utilitarian view,

Men folk er ikke altid enige i det utilitaristiske sysnpunkt,

which we can see by changing the trolley problem a bit.

som vi kan se, hvis vi ændrer problemstilligen en smule.

This time, you're standing on a bridge over the track

Denne gang står du på en bro over sporet,

as the runaway trolley approaches.

mens vogen nærmer sig.

Now there's no second track,

Nu er der ikke noget andet spor,

but there is a very large man on the bridge next to you.

men det er en meget stor mand på broen sammen med dig.

If you push him over, his body will stop the trolley,

Hvis du skubber ham ud over, så vil hans krop stoppe vognen,

saving the five workers,

og redde de fem arbejders liv,

but he'll die.

men han vil dø.

To utilitarians, the decision is exactly the same,

For utilitarister er beslutningen akkurat den samme,

lose one life to save five.

mist et liv for at redde fem.

But in this case, only about 10% of people

Men i dette tilfælde, vil kun 10% af folk sige,

say that it's OK to throw the man onto the tracks.

at det er okay, at skubbe manden ned på sporene.

Our instincts tell us that deliberately causing someone's death

Vores instinkt fortæller os, at forårsage nogens død med overlæg,

is different than allowing them to die as collateral damage.

er forskellig fra at lade nogen dø af en indirekte handling.

It just feels wrong for reasons that are hard to explain.

Det føles bare forkert af årsager, der er svære at forklare.

This intersection between ethics and psychology

Krydset mellem etik og psykologi

is what's so interesting about the trolley problem.

er hvad der er så interessant ved trolley-problemet.

The dilemma in its many variations reveal that what we think is right or wrong

Dilemmaet og dets varianter afslører, at hvad vi mener er rigtigt eller forket

depends on factors other than a logical weighing of the pros and cons.

afhænger af mere end en logisk fordeling af fordele og ulemper.

For example, men are more likely than women

For eksempel er mænd mere tilbøjelige end kvinder til

to say it's okay to push the man over the bridge.

at sige, at det er okay, at skubbe manden over broen.

So are people who watch a comedy clip before doing the thought experiment.

Der er mennesker også, som ser et sjovt klip inden de laver tankeeksperimentet.

And in one virtual reality study,

Og i en virtuel virkelighedsundersøgelse

people were more willing to sacrifice men than women.

var folk mere villige til, at ofre mænd end kvinder.

Researchers have studied the brain activity

Forskere har studeret hjerneaktiviteten

of people thinking through the classic and bridge versions.

på folk, som tænker over den klassiske og bro-varianten.

Both scenarios activate areas of the brain involved in conscious decision-making

Begge tilfæde aktiverer områder i hjernen involveret i bevidst beslutningstagen

and emotional responses.

og følelsesmæssig respons.

But in the bridge version, the emotional response is much stronger.

Men i bro-varianten er den følelsesmæssige respons meget stærkere.

So is activity in an area of the brain

Ligeledes er aktivitet i et område af hjernen

associated with processing internal conflict.

forbundet med at håndtere indre konflikter.

Why the difference?

Hvorfor er der forskel?

One explanation is that pushing someone to their death feels more personal,

Én forklaring siger, at skubbe nogen til deres død føles mere personligt,

activating an emotional aversion to killing another person,

og aktiverer en følelsesmæssig modvilje mod at dræbe et menneske,

but we feel conflicted because we know it's still the logical choice.

men vi føler os i konflikt fordi vi ved, at det stadig er det logiske valg.

"Trolleyology" has been criticized by some philosophers and psychologists.

Trolleyologi er blevet kritiseret af nogle filosoffer og psykologer.

They argue that it doesn't reveal anything because its premise is so unrealistic

De mener, at det ikke viser noget fordi dets præmis er så urealistisk

that study participants don't take it seriously.

at deltagere ikke tager det seriøst.

But new technology is making this kind of ethical analysis

Men ny teknologi gør denne form for etisk analyse

more important than ever.

vigtigere end nogensinde før.

For example, driver-less cars may have to handle choices

For eksempel bliver førerløse biler måske nødt til at lave valg,

like causing a small accident to prevent a larger one.

såsom at forårsage en mindre ulykke for at forhindre en større en.

Meanwhile, governments are researching autonomous military drones

Imens forsker regeringer i autonome militærdroner,

that could wind up making decisions of whether they'll risk civilian casualties

som kan blive nødt til at beslutte om de vil risikere civile ofre

to attack a high-value target.

eller angribe et værdifuldt mål.

If we want these actions to be ethical,

Hvis disse handlinger skal være etiske,

we have to decide in advance how to value human life

så er vi nødt til at beslutte i forvejen, hvor meget et menneskeliv er værd

and judge the greater good.

og bedømme almenvellet.

So researchers who study autonomous systems

Så forskere, som har studeret autonome systemer,

are collaborating with philosophers

samarbejder med filosoffer

to address the complex problem of programming ethics into machines,

om at imødegå det komplekse problem med at programmere etik i maskiner,

which goes to show that even hypothetical dilemmas

hvilket viser, at selv hypotetiske dilemmaer

can wind up on a collision course with the real world.

kan ende med at være på kollisionskurs med den virkelige verden.