Would you sacrifice one person to save five? - Eleanor Nelsen

Traduttore: Anna Cristiana Minoli Revisore: Cristina Bufi-Pöcksteiner

Imagine you're watching a runaway trolley barreling down the tracks

Immaginate di vedere un carrello che precipita giù dai binari

straight towards five workers who can't escape.

dritto verso cinque operai che non possono sfuggire.

You happen to be standing next to a switch

Siete vicino a uno scambio

that will divert the trolley onto a second track.

che devierà il carrello su un secondo binario.

Here's the problem.

Ecco il problema.

That track has a worker on it, too, but just one.

Anche su quel binario c'è un operaio, ma solo uno.

What do you do?

Cosa fate?

Do you sacrifice one person to save five?

Sacrificate una persona per salvarne cinque?

This is the trolley problem,

Questo è il problema del carrello,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

la versione di un dilemma etico concepito dalla filosofa Philippa Foot nel 1967.

It's popular because it forces us to think about how to choose

È noto perché ci obbliga a pensare a come scegliere

when there are no good choices.

quando non ci sono scelte giuste.

Do we pick the action with the best outcome

Scegliamo la soluzione con il miglior risultato

or stick to a moral code that prohibits causing someone's death?

o ci atteniamo a un codice morale che proibisce di causare morti?

In one survey, about 90% of respondents said that it's okay to flip the switch,

In un sondaggio, 90% degli intervistati dice che va bene azionare lo scambio,

letting one worker die to save five,

lasciando morire un operaio invece di cinque,

and other studies, including a virtual reality simulation of the dilemma,

e altri studi, compresa una versione in realtà virtuale del dilemma,

have found similar results.

sono arrivati a risultati simili.

These judgments are consistent with the philosophical principle of utilitarianism

Questi giudizi sono coerenti

con il principio filosofico dell'utilitarismo

which argues that the morally correct decision

che sostiene che la decisione morale corretta

is the one that maximizes well-being for the greatest number of people.

è quella che massimizza il benessere per il maggior numero di persone.

The five lives outweigh one,

Cinque vite valgono più di una,

even if achieving that outcome requires condemning someone to death.

anche se arrivare a quel risultato significa condannare qualcuno a morte.

But people don't always take the utilitarian view,

Ma non sempre scegliamo la visione utilitaristica,

which we can see by changing the trolley problem a bit.

che vediamo cambiando leggermente il problema del carrello.

This time, you're standing on a bridge over the track

Questa volta, siete su un ponte sopra il binario

as the runaway trolley approaches.

mentre il carrello in movimento si avvicina.

Now there's no second track,

Non c'è un secondo binario,

but there is a very large man on the bridge next to you.

ma c'è un uomo corpulento sul ponte vicino a voi.

If you push him over, his body will stop the trolley,

Se lo spingete giù, il suo corpo fermerà il carrello,

saving the five workers,

salvando i cinque operai,

but he'll die.

ma lui morirà.

To utilitarians, the decision is exactly the same,

Per gli utilitaristi, la decisione è esattamente la stessa,

lose one life to save five.

perdere una vita per salvarne cinque.

But in this case, only about 10% of people

Ma in questo caso, solo il 10 per cento circa

say that it's OK to throw the man onto the tracks.

dice che va bene spingere l'uomo sui binari.

Our instincts tell us that deliberately causing someone's death

Il nostro istinto ci dice che causare deliberatamente la morte di qualcuno

is different than allowing them to die as collateral damage.

è diverso dal lasciarlo morire come danno collaterale.

It just feels wrong for reasons that are hard to explain.

Sembra sbagliato per motivi difficili da spiegare.

This intersection between ethics and psychology

Questa intersezione tra etica e psicologia

is what's so interesting about the trolley problem.

è la cosa interessante del problema del carrello.

The dilemma in its many variations reveal that what we think is right or wrong

Il dilemma nelle sue tante varianti rivela

che quello che pensiamo essere giusto o sbagliato

depends on factors other than a logical weighing of the pros and cons.

dipende da fattori diversi da una valutazione logica di pro e contro.

For example, men are more likely than women

Per esempio, gli uomini sono più inclini delle donne

to say it's okay to push the man over the bridge.

a essere d'accordo a spingere l'uomo giù dal ponte.

So are people who watch a comedy clip before doing the thought experiment.

Lo stesso vale per persone che guardano una commedia prima di fare l'esperimento.

And in one virtual reality study,

E in uno studio virtuale,

people were more willing to sacrifice men than women.

la gente è più incline a sacrificare gli uomini delle donne.

Researchers have studied the brain activity

Ricerche hanno studiato l'attività cerebrale

of people thinking through the classic and bridge versions.

delle persone che pensano alla versione classica e del ponte.

Both scenarios activate areas of the brain involved in conscious decision-making

I due scenari attivano aree del cervello

coinvolte nelle decisioni coscienti

and emotional responses.

e nelle reazioni emotive.

But in the bridge version, the emotional response is much stronger.

Ma nella versione del ponte, la reazione emotiva è molto più forte.

So is activity in an area of the brain

L'attività in un'area del cervello

associated with processing internal conflict.

è associata con l'elaborazione del conflitto interno.

Why the difference?

Perché questa differenza?

One explanation is that pushing someone to their death feels more personal,

Una spiegazione è che spingere qualcuno alla morte è più personale,

activating an emotional aversion to killing another person,

e attiva un'avversione emotiva all'uccisione di un'altra persona,

but we feel conflicted because we know it's still the logical choice.

ma proviamo un conflitto perché sappiamo che è ancora la scelta logica.

"Trolleyology" has been criticized by some philosophers and psychologists.

La Trolleyologia è stata criticata da alcuni filosofi e psicologi.

They argue that it doesn't reveal anything because its premise is so unrealistic

Sostengono che non rivela niente perché le premesse non sono realistiche

that study participants don't take it seriously.

e i partecipanti alla ricerca non la prendono seriamente.

But new technology is making this kind of ethical analysis

Ma le nuove tecnologie stanno rendendo questo tipo di analisi etica

more important than ever.

più importante che mai.

For example, driver-less cars may have to handle choices

Per esempio, le auto senza conducente dovranno fare delle scelte

like causing a small accident to prevent a larger one.

come causare un piccolo incidente per prevenirne uno più grande.

Meanwhile, governments are researching autonomous military drones

Nel frattempo, i governi stanno facendo ricerca sui droni militari autonomi

that could wind up making decisions of whether they'll risk civilian casualties

che potrebbero dover prendere decisioni se rischiare vittime civili

to attack a high-value target.

per attaccare obiettivi più importanti.

If we want these actions to be ethical,

Se vogliamo che queste scelte siano etiche,

we have to decide in advance how to value human life

dobbiamo decidere in anticipo che valore dare alla vita

and judge the greater good.

e stabilire il bene comune.

So researchers who study autonomous systems

I ricercatori che studiano i sistemi autonomi

are collaborating with philosophers

stanno collaborando con i filosofi

to address the complex problem of programming ethics into machines,

per risolvere il complesso problema

di programmazione dell'etica nelle macchine,

which goes to show that even hypothetical dilemmas

che mostra che qualunque ipotetico dilemma

can wind up on a collision course with the real world.

può finire per scontrarsi con il mondo reale.