Would you sacrifice one person to save five? - Eleanor Nelsen

Reviewer: Elisabet Delgado Mas

Imagine you're watching a runaway trolley barreling down the tracks

Imagina’t un tramvia que avança sense control per una via

straight towards five workers who can't escape.

cap a cinc treballadors que no poden escapar-se’n.

You happen to be standing next to a switch

Ets davant d'un interruptor

that will divert the trolley onto a second track.

que permet desviar el tramvia cap a una altra via.

Here's the problem.

Però hi ha un problema,

That track has a worker on it, too, but just one.

a l’altra via també hi ha un treballador, però només un.

What do you do?

Què fas?

Do you sacrifice one person to save five?

Sacrifiques una persona per salvar-ne cinc?

This is the trolley problem,

Aquest és el dilema del tramvia,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

la versió d’un dilema ètic pensat per la filòsofa Philippa Foot al 1967.

It's popular because it forces us to think about how to choose

És conegut perquè ens obliga a reflexionar com escollir,

when there are no good choices.

quan no hi ha cap opció bona.

Do we pick the action with the best outcome

Triem l’acció amb el millor resultat,

or stick to a moral code that prohibits causing someone's death?

o ens aferrem a un codi moral que prohibeix causar la mort d’algú?

In one survey, about 90% of respondents said that it's okay to flip the switch,

En una enquesta, vora el 90% deia que seria correcte activar l’interruptor,

letting one worker die to save five,

deixant que un treballador mori per salvar-ne cinc,

and other studies, including a virtual reality simulation of the dilemma,

i altres estudis, com una simulació en realitat virtual,

have found similar results.

han arribat a resultats similars.

These judgments are consistent with the philosophical principle of utilitarianism

Aquests judicis concorden amb

el principi filosòfic de l'utilitarisme

which argues that the morally correct decision

que defensa que la decisió moralment correcta

is the one that maximizes well-being for the greatest number of people.

és aquella que maximitza el benestar per al major nombre de persones.

The five lives outweigh one,

Cinc vides pesen més que una,

even if achieving that outcome requires condemning someone to death.

encara que salvar-les requereixi condemnar algú a la mort.

But people don't always take the utilitarian view,

Però no sempre adoptem una perspectiva utilitarista,

which we can see by changing the trolley problem a bit.

tal com podem veure si alterem una mica el dilema.

This time, you're standing on a bridge over the track

Aquest cop, ets dalt d’un pont sobre les vies

as the runaway trolley approaches.

i el tramvia s'acosta.

Now there's no second track,

No hi ha segona via,

but there is a very large man on the bridge next to you.

però al teu costat hi ha un home molt gros.

If you push him over, his body will stop the trolley,

Si l’empenys, el seu cos aturarà el tramvia,

saving the five workers,

i salvaràs els cinc treballadors,

but he'll die.

però ell morirà.

To utilitarians, the decision is exactly the same,

Pels partidaris de l’utilitarisme, la decisió és la mateixa,

lose one life to save five.

perdre una vida per salvar-ne cinc.

But in this case, only about 10% of people

Però en aquest cas, només al 10% de la gent

say that it's OK to throw the man onto the tracks.

li semblava bé empènyer l’home a la via.

Our instincts tell us that deliberately causing someone's death

Els nostres instints ens fan pensar que causar la mort deliberadament

is different than allowing them to die as collateral damage.

és diferent de deixar morir com a dany col·lateral.

It just feels wrong for reasons that are hard to explain.

Això ens fa sentir incòmodes per raons difícils d’explicar.

This intersection between ethics and psychology

Aquesta intersecció entre ètica i psicologia

is what's so interesting about the trolley problem.

és el que fa tan interessant el dilema del tramvia.

The dilemma in its many variations reveal that what we think is right or wrong

El dilema en les seves diferents versions

revela que allò que considerem bo o dolent

depends on factors other than a logical weighing of the pros and cons.

no depèn només de la ponderació lògica dels avantatges i inconvenients.

For example, men are more likely than women

Per exemple, els homes són més propensos que les dones

to say it's okay to push the man over the bridge.

a dir que és correcte empènyer l’home pel pont.

So are people who watch a comedy clip before doing the thought experiment.

I també ho són les persones que veuen un esquetx de comèdia abans de decidir.

And in one virtual reality study,

I, en un estudi de realitat virtual,

people were more willing to sacrifice men than women.

les persones estaven més disposades a sacrificar homes que dones.

Researchers have studied the brain activity

Els investigadors han analitzat l’activitat cerebral

of people thinking through the classic and bridge versions.

de persones pensant sobre la versió clàssica i la del pont.

Both scenarios activate areas of the brain involved in conscious decision-making

Ambdós escenaris activen àrees del cervell

implicades en la presa de decisions conscients

and emotional responses.

i la resposta emocional.

But in the bridge version, the emotional response is much stronger.

Però en la versió del pont, la resposta emocional és molt més forta.

So is activity in an area of the brain

I també l'activitat en l'àrea del cervell

associated with processing internal conflict.

associada amb el processament de conflictes interns.

Why the difference?

Per què aquesta diferència?

One explanation is that pushing someone to their death feels more personal,

Una explicació seria que empènyer algú a la mort ens sembla més personal,

activating an emotional aversion to killing another person,

i això activa una aversió emocional cap a l’acte de matar una persona,

but we feel conflicted because we know it's still the logical choice.

però ens sentim dividits perquè sabem que és la decisió lògica.

"Trolleyology" has been criticized by some philosophers and psychologists.

El dilema del tramvia ha sigut criticat per alguns filòsofs i psicòlegs.

They argue that it doesn't reveal anything because its premise is so unrealistic

Argumenten que no revela res perquè la premissa és tan poc realista

that study participants don't take it seriously.

que els participants no se la prenen seriosament.

But new technology is making this kind of ethical analysis

Però les noves tecnologies fan que aquest tipus d’anàlisi ètic

more important than ever.

sigui més important que mai.

For example, driver-less cars may have to handle choices

Per exemple, els cotxes autònoms

podrien haver d'afrontar decisions

like causing a small accident to prevent a larger one.

com la de causar un petit accident per evitar-ne un de més greu.

Mentrestant, els governs fan recerca en drons militars autònoms

Meanwhile, governments are researching autonomous military drones

that could wind up making decisions of whether they'll risk civilian casualties

que podrien acabar prenent la decisió d’arriscar vides civils

to attack a high-value target.

per atacar un objectiu important.

If we want these actions to be ethical,

Si volem que aquestes decisions siguin ètiques,

we have to decide in advance how to value human life

hem de decidir a l’avançada com valorar la vida humana

and judge the greater good.

i jutjar què és millor.

So researchers who study autonomous systems

Per això, els investigadors de sistemes autònoms

are collaborating with philosophers

col·laboren amb filòsofs

to address the complex problem of programming ethics into machines,

per abordar la complexitat de programar l’ètica en màquines,

which goes to show that even hypothetical dilemmas

i això mostrarà que fins i tot el dilema més hipotètic

can wind up on a collision course with the real world.

pot acabar topant amb el món real.