Would you sacrifice one person to save five? - Eleanor Nelsen

Oikolukija: Marja Oilinki

Imagine you're watching a runaway trolley barreling down the tracks

Kuvittele, että huomaat karanneen vaunun kulkevan raiteilla

straight towards five workers who can't escape.

kohti viittä työläistä, jotka eivät voi paeta sen alta.

You happen to be standing next to a switch

Satut seisomaan paikalla, jossa on vaihde,

that will divert the trolley onto a second track.

jolla voit siirtää vaunun toiselle raiteelle.

Here's the problem.

Ongelma on seuraava.

That track has a worker on it, too, but just one.

Tälläkin raiteella on työläinen, mutta vain yksi.

What do you do?

Mitä teet?

Do you sacrifice one person to save five?

Uhraisitko yhden hengen pelastaaksesi viisi?

This is the trolley problem,

Tämä on vaunuongelma,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

Philippa Footin vuonna 1967 esittämän dilemman yksi versio.

It's popular because it forces us to think about how to choose

Se on suosittu, sillä se pakottaa meidät pohtimaan valintojamme,

when there are no good choices.

kun hyviä vaihtoehtoja ei ole.

Do we pick the action with the best outcome

Valitsemmeko parhaat seuraukset

or stick to a moral code that prohibits causing someone's death?

vai noudatammeko sääntöä "älä tapa"?

In one survey, about 90% of respondents said that it's okay to flip the switch,

Yhdessä tutkimuksessa noin 90% vastaajista ajatteli, että on oikein

letting one worker die to save five,

antaa yhden kuolla viiden pelastamiseksi,

and other studies, including a virtual reality simulation of the dilemma,

ja muissa tutkimuksissa, joista yksi oli dilemman virtuaalisimulaatio,

have found similar results.

tulokset ovat samanlaisia.

These judgments are consistent with the philosophical principle of utilitarianism

Tällainen ajattelu sopii yhteen utilitarismin kanssa.

which argues that the morally correct decision

Sen mukaan moraalisesti oikea päätös

is the one that maximizes well-being for the greatest number of people.

on sellainen, joka tuottaa eniten hyötyä useimmille.

The five lives outweigh one,

Viisi elämää on enemmän kuin yksi,

even if achieving that outcome requires condemning someone to death.

vaikka niiden pelastamiseksi on tuomittava joku kuolemaan.

But people don't always take the utilitarian view,

Ihmiset eivät kuitenkaan aina valitse utilitatistisesti,

which we can see by changing the trolley problem a bit.

mikä käy ilmi, kun muunnetaan vaunuongelmaa hiukan.

This time, you're standing on a bridge over the track

Tällä kertaa olet sillalla raiteen yllä

as the runaway trolley approaches.

kun karannut vaunu lähestyy.

Now there's no second track,

Toista raidetta ei ole,

but there is a very large man on the bridge next to you.

mutta vierelläsi sillalla on tosi iso mies.

If you push him over, his body will stop the trolley,

Jos työnnät hänet alas, hänen kehonsa pysäyttää vaunun

saving the five workers,

ja säästää viisi henkeä,

but he'll die.

mutta mies kuolee.

To utilitarians, the decision is exactly the same,

Utilitaristeille päätös pysyy samana,

lose one life to save five.

yksi vastaan viisi ihmishenkeä.

But in this case, only about 10% of people

Kuitenkin vain 10 % ihmisistä sanoo tässä tilanteessa,

say that it's OK to throw the man onto the tracks.

että on OK työntää mies radalle.

Our instincts tell us that deliberately causing someone's death

Vaistomaisesti tiedämme, että tahallinen teko ihmisen tappamiseksi

is different than allowing them to die as collateral damage.

on eri asia kuin se, että annamme hänen kuolla sivuseurauksena teosta.

It just feels wrong for reasons that are hard to explain.

Se tuntuu väärältä syistä, joita on vaikea selittää.

This intersection between ethics and psychology

Etiikan ja psykologian risteys

is what's so interesting about the trolley problem.

tekee vaunuongelmasta kiinnostavan.

The dilemma in its many variations reveal that what we think is right or wrong

Dilemma paljastaa eri versioina, että ajatuksemme oikeasta ja väärästä

depends on factors other than a logical weighing of the pros and cons.

riippuu myös muusta kuin seurausten punnitsemisesta.

For example, men are more likely than women

Miehet sanovat naisia useammin,

to say it's okay to push the man over the bridge.

että on OK työntää mies sillalta.

So are people who watch a comedy clip before doing the thought experiment.

Samoin ajattelevat ihmiset, jotka ovat juuri katsoneet komediaa.

And in one virtual reality study,

Yhdessä virtuaalisessa kokeessa

people were more willing to sacrifice men than women.

mies uhrattiin naista helpommin.

Researchers have studied the brain activity

On tutkittu aivojen aktiivisuutta,

of people thinking through the classic and bridge versions.

kun ihmiset miettivät tavallista tai siltaversiota.

Both scenarios activate areas of the brain involved in conscious decision-making

Molemmat versiot aktivoivat aivojen päätöksentekoalueita

and emotional responses.

ja tunnealueita.

But in the bridge version, the emotional response is much stronger.

Siltaversiossa tunnevaste on kuitenkin vahvempi.

So is activity in an area of the brain

Samoin aktiivisena näkyy alue,

associated with processing internal conflict.

jolla prosessoidaan sisäisiä ristiriitoja.

Why the difference?

Mistä ero johtuu?

One explanation is that pushing someone to their death feels more personal,

Ehkä siltaversio tuntuu henkilökohtaisemmalta

activating an emotional aversion to killing another person,

ja aktivoi siksi tappamiseen liittyvän kielteisen tunnereaktion,

but we feel conflicted because we know it's still the logical choice.

mutta tunnemme ristiriidan, kun järki ohjaa valitsemaan toisin.

"Trolleyology" has been criticized by some philosophers and psychologists.

Vaunuetiikkaa ovat kritisoineet jotkut filosofit ja psykologit.

They argue that it doesn't reveal anything because its premise is so unrealistic

Heidän mukaansa ajatuskoe ei paljasta mitään, koska se on niin epärealistinen,

that study participants don't take it seriously.

että koehenkilöt eivät ota koetta vakavasti.

But new technology is making this kind of ethical analysis

Uusi teknologia tekee tällaisesta eettisestä analyysistä

more important than ever.

silti entistä tärkeämpää.

For example, driver-less cars may have to handle choices

Esimerkiksi itseohjautuvien autojen on tehtävä valintoja

like causing a small accident to prevent a larger one.

kuten pieni onnettomuus ison estämiseksi.

Hallitukset tutkivat robottidrooneja,

Meanwhile, governments are researching autonomous military drones

that could wind up making decisions of whether they'll risk civilian casualties

jotka päättävät itsenäisesti siviileihin kohdistuvista riskeistä

to attack a high-value target.

tärkeisiin kohteisiin hyökättäessä.

If we want these actions to be ethical,

Jos haluamme näiden toimivan eettisesti,

we have to decide in advance how to value human life

on päätettävä etukäteen, kuinka arvokas on ihmishenki

and judge the greater good.

ja miten arvioida suurempi hyvä.

So researchers who study autonomous systems

Niinpä tutkijat kohteenaan autonomiset koneet

are collaborating with philosophers

tekevät yhteistyötä filosofien kanssa

to address the complex problem of programming ethics into machines,

koneiden etiikan ohjelmoinnin mutkikkaiden ongelmien parissa.

which goes to show that even hypothetical dilemmas

Hypoteettiset dilemmat voivat siis ajatua

can wind up on a collision course with the real world.

törmäyskurssille todellisen maailman kanssa.