Would you sacrifice one person to save five? - Eleanor Nelsen

Traductor: Sebastian Betti Revisor: Lidia Cámara de la Fuente

Imagine you're watching a runaway trolley barreling down the tracks

Imagina que estás viendo un tren fuera de control por las vías

straight towards five workers who can't escape.

que va hacia cinco trabajadores que no pueden escapar.

You happen to be standing next to a switch

Te encuentras junto a un interruptor

that will divert the trolley onto a second track.

que permite desviar el tren a una segunda vía.

Here's the problem.

Este es el problema.

That track has a worker on it, too, but just one.

En esa vía también hay un trabajador, pero solo uno.

What do you do?

¿Qué haces?

Do you sacrifice one person to save five?

¿Sacrificas a una persona para salvar a cinco?

This is the trolley problem,

Este es el problema del tren,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

una versión de un dilema ético que la filósofa Philippa Foot pensó en 1967.

It's popular because it forces us to think about how to choose

Es popular porque nos obliga a pensar cómo elegir

when there are no good choices.

cuando no hay buenas opciones.

Do we pick the action with the best outcome

¿Elegimos la acción que da el mejor resultado

or stick to a moral code that prohibits causing someone's death?

o nos apegamos a un código moral que prohíbe causar la muerte a alguien?

In one survey, about 90% of respondents said that it's okay to flip the switch,

En un estudio un 90 % de los encuestados dijo que está bien girar el interruptor,

letting one worker die to save five,

dejar que muera un trabajador para salvar a cinco.

and other studies, including a virtual reality simulation of the dilemma,

Y otros estudios, que incluyen una simulación del dilema,

have found similar results.

han encontrado resultados similares.

These judgments are consistent with the philosophical principle of utilitarianism

Estos juicios son coherentes con el principio filosófico del utilitarismo

which argues that the morally correct decision

que sostiene que la decisión moralmente correcta

is the one that maximizes well-being for the greatest number of people.

es el que maximiza el bienestar para el mayor número de personas.

The five lives outweigh one,

Cinco vidas superan a una,

even if achieving that outcome requires condemning someone to death.

incluso si el logro de ese resultado requiere condenar a muerte a alguien.

But people don't always take the utilitarian view,

Pero la gente no siempre tiene la visión utilitarista,

which we can see by changing the trolley problem a bit.

algo que podemos ver cambiando un poco el problema del tren.

This time, you're standing on a bridge over the track

Esta vez, estás parado en un puente sobre la vía

as the runaway trolley approaches.

conforme se acerca el tren fuera de control.

Now there's no second track,

Ahora no hay una segunda vía,

but there is a very large man on the bridge next to you.

pero hay un hombre muy grande en el puente a tu lado.

If you push him over, his body will stop the trolley,

Si lo empujas, su cuerpo detendrá el tren,

saving the five workers,

salvando a los cinco trabajadores,

but he'll die.

pero morirá.

To utilitarians, the decision is exactly the same,

Para los utilitaristas, la decisión es exactamente la misma,

lose one life to save five.

perder una vida para salvar cinco.

But in this case, only about 10% of people

Pero en este caso, solo un 10 % de las personas

say that it's OK to throw the man onto the tracks.

dice que está bien arrojar al hombre a las vías.

Our instincts tell us that deliberately causing someone's death

El instinto nos dice que deliberadamente causar la muerte de alguien

is different than allowing them to die as collateral damage.

es diferente que dejar que muera como un daño colateral.

It just feels wrong for reasons that are hard to explain.

Parece incorrecto por razones difíciles de explicar.

This intersection between ethics and psychology

Esta intersección entre la ética y la psicología

is what's so interesting about the trolley problem.

es lo que hace tan interesante el problema del tren.

The dilemma in its many variations reveal that what we think is right or wrong

El dilema en sus muchas variaciones revela que lo que creemos correcto o incorrecto

depends on factors other than a logical weighing of the pros and cons.

depende de factores distintos de un peso lógico de pros y contras.

Por ejemplo, es más probable que los hombres digan que está bien

For example, men are more likely than women

to say it's okay to push the man over the bridge.

empujar al hombre al puente, a que lo digan las mujeres.

So are people who watch a comedy clip before doing the thought experiment.

Algunos ven un clip de comedia antes de hacer el experimento mental.

And in one virtual reality study,

Y en un estudio de realidad virtual,

people were more willing to sacrifice men than women.

esa gente estaba más dispuesta a sacrificar a hombres que a mujeres.

Researchers have studied the brain activity

Los investigadores han estudiado la actividad cerebral

of people thinking through the classic and bridge versions.

de la gente que piensa las versiones clásica y la del puente.

Both scenarios activate areas of the brain involved in conscious decision-making

Ambos escenarios activan áreas del cerebro de toma de decisiones conscientes

and emotional responses.

y respuestas emocionales.

But in the bridge version, the emotional response is much stronger.

Pero en la versión del puente, la respuesta emocional es mucho más fuerte.

So is activity in an area of the brain

Y también la actividad en un área del cerebro

associated with processing internal conflict.

asociada al procesamiento del conflicto interno.

Why the difference?

¿Por qué la diferencia?

One explanation is that pushing someone to their death feels more personal,

Una explicación es que empujar a alguien a la muerte se vive como más personal,

activating an emotional aversion to killing another person,

y activa una aversión emocional a matar a otra persona,

but we feel conflicted because we know it's still the logical choice.

pero nos sentimos en conflicto porque sabemos que es la decisión lógica.

"Trolleyology" has been criticized by some philosophers and psychologists.

La troleología ha sido criticada por algunos filósofos y psicólogos.

They argue that it doesn't reveal anything because its premise is so unrealistic

Argumentan que no revela nada pues su premisa es tan poco realista

that study participants don't take it seriously.

que los participantes del estudio no lo toman en serio.

But new technology is making this kind of ethical analysis

Pero la nueva tecnología está haciendo que este tipo de análisis ético

more important than ever.

sea más importante que nunca.

For example, driver-less cars may have to handle choices

Por ejemplo, los autos sin conductor pueden tener que manejar opciones

like causing a small accident to prevent a larger one.

como causar un pequeño accidente para evitar uno mayor.

Meanwhile, governments are researching autonomous military drones

Mientras tanto, los gobiernos están investigando drones militares autónomos

that could wind up making decisions of whether they'll risk civilian casualties

que podrían eliminar el tener que tomar la decisión de arriesgar víctimas civiles

to attack a high-value target.

para atacar un objetivo de alto valor.

If we want these actions to be ethical,

Si queremos que estas acciones sean éticas,

we have to decide in advance how to value human life

tenemos que decidir de antemano cómo valorar la vida humana

and judge the greater good.

y juzgar el bien mayor.

So researchers who study autonomous systems

Por eso los investigadores que estudian los sistemas autónomos

are collaborating with philosophers

están colaborando con los filósofos

to address the complex problem of programming ethics into machines,

para resolver el problema complejo de programar la ética en las máquinas,

which goes to show that even hypothetical dilemmas

algo que muestra que incluso los dilemas hipotéticos

can wind up on a collision course with the real world.

pueden terminar colisionando con el mundo real.