Would you sacrifice one person to save five? - Eleanor Nelsen

Traducteur: Morgane Quilfen Relecteur: eric vautier

Imagine you're watching a runaway trolley barreling down the tracks

Imaginez que vous regardiez un tramway fou filant à toute allure sur les rails

straight towards five workers who can't escape.

tout droit vers 5 travailleurs qui ne peuvent pas s'échapper.

You happen to be standing next to a switch

Vous êtes juste à côté d'un aiguillage

that will divert the trolley onto a second track.

qui détournerait le tramway vers une deuxième voie.

Here's the problem.

Voici le problème.

That track has a worker on it, too, but just one.

Il y a aussi un travailleur sur la voie, seulement un.

What do you do?

Que faire ?

Do you sacrifice one person to save five?

Sacrifiez-vous une personne pour en sauver cinq ?

This is the trolley problem,

C'est le problème du tramway,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

une version d'un dilemme éthique élaboré par le philosophe Philippa Foot en 1967.

It's popular because it forces us to think about how to choose

Il est populaire car il nous force à réfléchir à comment choisir

when there are no good choices.

quand il n'y a pas de bons choix.

Do we pick the action with the best outcome

Choisissons-nous l'action menant au meilleur résultat

or stick to a moral code that prohibits causing someone's death?

ou nous en tenons-nous au code moral interdisant de causer la mort ?

In one survey, about 90% of respondents said that it's okay to flip the switch,

Dans une étude, environ 90% des participants

ont dit que l'on pouvait actionner l'aiguillage

letting one worker die to save five,

et de laisser un travailleur mourir pour en sauver cinq.

and other studies, including a virtual reality simulation of the dilemma,

D'autres études, dont une simulation en réalité virtuelle du dilemme,

have found similar results.

ont trouvé des résultats similaires.

These judgments are consistent with the philosophical principle of utilitarianism

Ces jugements sont cohérents avec le principe philosophique d'utilitarisme

which argues that the morally correct decision

selon lequel la décision moralement correcte

is the one that maximizes well-being for the greatest number of people.

est celle qui maximise le bien-être pour le plus grand nombre de personnes.

The five lives outweigh one,

Cinq vies prennent le pas sur une,

even if achieving that outcome requires condemning someone to death.

même si atteindre ce résultat nécessite de condamner quelqu'un à mort.

But people don't always take the utilitarian view,

Mais les gens n'ont pas toujours le point de vue utilitariste,

which we can see by changing the trolley problem a bit.

ce que l'on voit en changeant un peu le problème du tramway.

This time, you're standing on a bridge over the track

Cette fois-ci, vous êtes sur un pont au-dessus de la voie

as the runaway trolley approaches.

lorsque le tram approche.

Now there's no second track,

Il n'y a pas de seconde voie

but there is a very large man on the bridge next to you.

mais il y a un homme très gros sur le pont à côté de vous.

If you push him over, his body will stop the trolley,

Si vous le poussez, son corps arrêtera le tramway,

saving the five workers,

sauvant les cinq travailleurs,

but he'll die.

mais il mourra.

To utilitarians, the decision is exactly the same,

Pour les utilitaristes, la décision sera la même :

lose one life to save five.

perdre une vie pour en sauver cinq.

But in this case, only about 10% of people

Mais dans ce cas, seuls 10% des gens

say that it's OK to throw the man onto the tracks.

disent que l'on peut jeter l'homme sur les rails.

Our instincts tell us that deliberately causing someone's death

Nos instincts nous disent que causer la mort de quelqu'un délibérément

is different than allowing them to die as collateral damage.

est différent que de les laisser mourir en tant que dommages collatéraux.

It just feels wrong for reasons that are hard to explain.

Cela ne nous semble pas correct pour des raisons difficiles à expliquer.

This intersection between ethics and psychology

Cette intersection entre l'éthique et la psychologie

is what's so interesting about the trolley problem.

est ce qui est si intéressant dans le problème du tramway.

The dilemma in its many variations reveal that what we think is right or wrong

Les variations du problème révèlent que ce que nous croyons juste ou non

depends on factors other than a logical weighing of the pros and cons.

dépend de facteurs autres que de considérer les pour et contre logiques.

For example, men are more likely than women

Par exemple, les hommes plus que les femmes

to say it's okay to push the man over the bridge.

diront que l'on peut pousser l'homme du pont.

So are people who watch a comedy clip before doing the thought experiment.

Ainsi que les gens regardant une comédie avant de faire l'expérience.

And in one virtual reality study,

Dans une étude en réalité virtuelle,

people were more willing to sacrifice men than women.

les gens acceptaient plus de sacrifier des hommes que des femmes.

Researchers have studied the brain activity

Les chercheurs ont étudié l'activité cérébrale

of people thinking through the classic and bridge versions.

des gens confrontés aux deux versions.

Both scenarios activate areas of the brain involved in conscious decision-making

Les deux scénarios activent des zones du cerveau

impliquées dans la prise de décision consciente

and emotional responses.

et les réponses émotionnelles.

But in the bridge version, the emotional response is much stronger.

Mais pour la version du pont, la réponse émotionnelle est plus forte

So is activity in an area of the brain

et l'activité dans la zone du cerveau

associated with processing internal conflict.

associée au traitement des conflits internes était plus forte.

Why the difference?

Pourquoi cette différence ?

One explanation is that pushing someone to their death feels more personal,

Une explication serait que pousser quelqu'un vers sa mort

semble plus personnel,

activating an emotional aversion to killing another person,

cela active une aversion émotionnelle au fait de tuer quelqu'un

but we feel conflicted because we know it's still the logical choice.

mais nous sommes confus car nous savons que c'est le choix logique.

"Trolleyology" has been criticized by some philosophers and psychologists.

Cette étude a été critiquée par certains philosophes et psychologues.

They argue that it doesn't reveal anything because its premise is so unrealistic

Ils soutiennent que cela ne révèle rien car le postulat est si irréaliste

that study participants don't take it seriously.

que les participants ne le prennent pas au sérieux.

But new technology is making this kind of ethical analysis

Mais de nouvelles technologies rendent ce genre d'analyse éthique

more important than ever.

plus importante que jamais.

For example, driver-less cars may have to handle choices

Par exemple, les voitures sans conducteur devront gérer des choix

like causing a small accident to prevent a larger one.

comme causer un petit accident pour en éviter un plus important.

Meanwhile, governments are researching autonomous military drones

Les gouvernements font de la recherche sur des drones militaires autonomes

that could wind up making decisions of whether they'll risk civilian casualties

qui pourraient prendre la décision de risquer des pertes civiles

to attack a high-value target.

pour attaquer des cibles importantes.

If we want these actions to be ethical,

Pour que ces actions soient éthiques,

we have to decide in advance how to value human life

nous devons décider d'avance comment estimer la vie humaine

and judge the greater good.

et juger le bien commun.

So researchers who study autonomous systems

Les chercheurs étudiant les systèmes autonomes

are collaborating with philosophers

collaborent avec des philosophes

to address the complex problem of programming ethics into machines,

pour gérer le problème complexe

de la programmation de l'éthique au sein des machines,

which goes to show that even hypothetical dilemmas

ce qui montre que même les dilemmes hypothétiques

can wind up on a collision course with the real world.

peuvent entrer en collision avec le monde réel.