Would you sacrifice one person to save five? - Eleanor Nelsen

Översättare: Anette Smedberg Granskare: Lisbeth Pekkari

Imagine you're watching a runaway trolley barreling down the tracks

Föreställ dig att du ser ett skenande tåg komma farande på spåret

straight towards five workers who can't escape.

rakt mot fem arbetare som inte kan fly.

You happen to be standing next to a switch

Du råkar stå bredvid växeln

that will divert the trolley onto a second track.

som kan leda in vagnen på ett sidospår.

Here's the problem.

Här är problemet.

That track has a worker on it, too, but just one.

På det spåret finns också arbetare, men bara en.

Vad gör du?

What do you do?

Do you sacrifice one person to save five?

Offrar du en person för att rädda fem?

This is the trolley problem,

Det här är vagnproblemet,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

en version av ett moraliskt dilemma som filosofen Philippa Foot formulerade 1967.

Det är populärt eftersom det tvingar oss att tänka över våra val

It's popular because it forces us to think about how to choose

when there are no good choices.

när det inte finns några bra val.

Väljer vi det som ger bäst resultat

Do we pick the action with the best outcome

or stick to a moral code that prohibits causing someone's death?

eller håller vi fast vid en moralkod som förbjuder oss att orsaka någons död?

In one survey, about 90% of respondents said that it's okay to flip the switch,

I en undersökning, svarade 90% av de tillfrågade ja till att slå om växeln,

letting one worker die to save five,

och låta en arbetare dö för att rädda fem,

and other studies, including a virtual reality simulation of the dilemma,

och andra studier, som inkluderar en simulering av dilemmat,

have found similar results.

har visat liknande resultat.

Dessa värderingar är förenliga med den filosofiska principen utilitarism

These judgments are consistent with the philosophical principle of utilitarianism

som säger att det moraliskt rätta beslutet

which argues that the morally correct decision

is the one that maximizes well-being for the greatest number of people.

är det som maximerar välbefinnandet för så många som möjligt.

The five lives outweigh one,

Fem liv övertrumfar ett,

even if achieving that outcome requires condemning someone to death.

även om det krävs att någon måste dö för att uppnå resultatet.

But people don't always take the utilitarian view,

Men människor har inte alltid ett utilitaristiskt perspektiv,

which we can see by changing the trolley problem a bit.

vilket vi ser om vi ändrar vagnproblemet en aning.

Den här gången står du på en bro över spåret

This time, you're standing on a bridge over the track

as the runaway trolley approaches.

när det skenande tåget närmar sig.

Nu finns inget sidospår,

Now there's no second track,

but there is a very large man on the bridge next to you.

men det står en storvuxen man bredvid dig på bron.

If you push him over, his body will stop the trolley,

Om du knuffar ner honom, kommer hans kropp att stoppa vagnen,

saving the five workers,

och rädda de fem arbetarna,

but he'll die.

men han kommer att dö.

För utilitaristerna, kommer beslutet att vara detsamma,

To utilitarians, the decision is exactly the same,

lose one life to save five.

förlora ett liv för att rädda fem.

But in this case, only about 10% of people

Men i det här fallet, säger bara omkring 10%

say that it's OK to throw the man onto the tracks.

att det är ok att knuffa ner mannen på spåret.

Our instincts tell us that deliberately causing someone's death

Vår instinkt säger oss att medvetet orsaka någons död

is different than allowing them to die as collateral damage.

är annorlunda än att låta någon dö oavsiktligt.

It just feels wrong for reasons that are hard to explain.

Det känns fel av orsaker som är svåra att förklara.

This intersection between ethics and psychology

Denna skärningspunkt mellan etik och psykologi

is what's so interesting about the trolley problem.

är det som gör vagnproblemet så intressant.

The dilemma in its many variations reveal that what we think is right or wrong

Dilemmats olika varianter avslöjar att det vi tycker är rätt eller fel

depends on factors other than a logical weighing of the pros and cons.

beror på andra faktorer än en logisk beräkning av för- och nackdelar.

For example, men are more likely than women

Det är till exempel troligare att män säger ja till

to say it's okay to push the man over the bridge.

att knuffa ner mannen från bron än att kvinnor säger det.

So are people who watch a comedy clip before doing the thought experiment.

Så säger också människor som sett en rolig filmsnutt innan de gör tankeexperimentet.

And in one virtual reality study,

I en simuleringsstudie,

var människor mer villiga att offra män än kvinnor.

people were more willing to sacrifice men than women.

Researchers have studied the brain activity

Forskare har studerat hjärnaktiviteten

of people thinking through the classic and bridge versions.

hos människor som funderar kring både det klassiska dilemmat och bro-versionen.

Both scenarios activate areas of the brain involved in conscious decision-making

Båda scenariorna aktiverar de delar av hjärnan som involveras vid medvetna beslut

and emotional responses.

och känslomässiga reaktioner.

But in the bridge version, the emotional response is much stronger.

Men i bro-versionen är de känslomässiga reaktionerna mycket starkare.

So is activity in an area of the brain

Även aktiviteten i en del av hjärnan

associated with processing internal conflict.

associerad med hanterandet av inre konflikter.

Why the difference?

Varför är det skillnad?

En förklaring är att medvetet orsaka någons död känns mer personligt,

One explanation is that pushing someone to their death feels more personal,

activating an emotional aversion to killing another person,

motståndet att döda en människa aktiveras,

but we feel conflicted because we know it's still the logical choice.

men vi känner oss splittrade för vi vet att det fortfarande är logiskt rätt val.

"Trolleyology" has been criticized by some philosophers and psychologists.

Vagndilemmat har kritiserats av filosofer och psykologer.

They argue that it doesn't reveal anything because its premise is so unrealistic

De hävdar att det inte avslöjar någonting eftersom premisserna är så orealistiska

that study participants don't take it seriously.

att deltagarna i studien inte tar den på allvar.

But new technology is making this kind of ethical analysis

Men ny teknik gör den här typen av moraliska analyser

more important than ever.

viktigare än någonsin.

For example, driver-less cars may have to handle choices

Till exempel kan förarlösa bilar behöva välja mellan

like causing a small accident to prevent a larger one.

att orsaka en liten olycka för att förhindra en större.

Samtidigt forskar regeringar kring militära självstyrande drönare

Meanwhile, governments are researching autonomous military drones

that could wind up making decisions of whether they'll risk civilian casualties

som kan hamna i situationer där de måste välja att riskera civila offer

to attack a high-value target.

för att attackera värdefulla mål.

If we want these actions to be ethical,

Vill vi ha etiskt riktiga attacker,

we have to decide in advance how to value human life

måste vi i förväg besluta hur vi värderar människoliv

and judge the greater good.

och visa gott omdöme i besluten.

So researchers who study autonomous systems

Forskare som studerar självstyrande system

are collaborating with philosophers

samarbetar därför med filosofer

to address the complex problem of programming ethics into machines,

för att hantera komplexa problem kring etik och programmering av maskiner,

which goes to show that even hypothetical dilemmas

vilket visar att även hypotetiska dilemman

can wind up on a collision course with the real world.

kan hamna på kollisionskurs med den verkliga världen.