Would you sacrifice one person to save five? - Eleanor Nelsen

Você sacrificaria uma pessoa para salvar cinco? - Eleanor Nelsen

Tradutor: Francisco Dubiela Revisor: Leonardo Silva

Imagine you're watching a runaway trolley barreling down the tracks

Imagine que você está vendo um trem correndo sobre trilhos

straight towards five workers who can't escape.

em direção a cinco trabalhadores que não podem escapar.

You happen to be standing next to a switch

Você está ao lado de uma alavanca

that will divert the trolley onto a second track.

que pode desviar o trem para uma segunda faixa.

Here's the problem.

Aqui está o problema:

That track has a worker on it, too, but just one.

essa faixa tem um trabalhador também, mas apenas um.

What do you do?

O que você faz?

Do you sacrifice one person to save five?

Você sacrifica uma pessoa para salvar cinco?

This is the trolley problem,

Este é o problema do trem,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

uma versão de um dilema ético criado pelo filósofo Philippa Foot em 1967.

It's popular because it forces us to think about how to choose

Ele é popular porque nos obriga a pensar sobre como escolher

when there are no good choices.

quando não há boas escolhas.

Do we pick the action with the best outcome

Nós escolhemos a ação com o melhor resultado

or stick to a moral code that prohibits causing someone's death?

ou nos prendemos a um código moral que proíbe causar a morte de alguém?

In one survey, about 90% of respondents said that it's okay to flip the switch,

Em uma pesquisa, 90% dos entrevistados disseram que usariam a alavanca,

letting one worker die to save five,

deixando um trabalhador morrer para salvar cinco,

and other studies, including a virtual reality simulation of the dilemma,

e outros estudos, incluindo uma simulação de realidade virtual do dilema,

have found similar results.

encontraram resultados semelhantes.

These judgments are consistent with the philosophical principle of utilitarianism

Estes julgamentos são consistentes com o princípio filosófico do utilitarismo

which argues that the morally correct decision

que argumenta que a decisão moralmente correta

is the one that maximizes well-being for the greatest number of people.

é aquela que maximiza o bem-estar para o maior número de pessoas.

The five lives outweigh one,

As cinco vidas superam uma,

even if achieving that outcome requires condemning someone to death.

mesmo que para alcançar esse resultado seja preciso condenar alguém à morte.

But people don't always take the utilitarian view,

Mas as pessoas nem sempre têm a visão utilitarista,

which we can see by changing the trolley problem a bit.

e isso pode ser visto mudando um pouco o problema do trem.

This time, you're standing on a bridge over the track

Agora você está numa ponte sobre a faixa

as the runaway trolley approaches.

enquanto o trem se aproxima.

Now there's no second track,

Não há mais uma segunda faixa,

but there is a very large man on the bridge next to you.

mas tem um homem grande na ponte ao lado de você.

If you push him over, his body will stop the trolley,

Se você empurrá-lo nos trilhos, seu corpo vai parar o trem,

saving the five workers,

e salvar os cinco trabalhadores,

but he'll die.

mas ele vai morrer.

To utilitarians, the decision is exactly the same,

Para os utilitaristas, a decisão é exatamente a mesma,

lose one life to save five.

perder uma vida para salvar cinco.

But in this case, only about 10% of people

Mas neste caso, apenas cerca de 10% das pessoas

say that it's OK to throw the man onto the tracks.

disseram que jogariam o homem nos trilhos.

Our instincts tell us that deliberately causing someone's death

Nossos instintos nos dizem que causar a morte de alguém deliberadamente

is different than allowing them to die as collateral damage.

é diferente de deixar alguém morrer como dano colateral.

It just feels wrong for reasons that are hard to explain.

Parece errado por motivos difíceis de explicar.

This intersection between ethics and psychology

Esta intersecção entre ética e psicologia

is what's so interesting about the trolley problem.

é o que há de tão interessante sobre o problema do trem.

The dilemma in its many variations reveal that what we think is right or wrong

O dilema em suas muitas variações revela que o que nós pensamos ser certo ou errado

depends on factors other than a logical weighing of the pros and cons.

depende de outros fatores além de um equilíbrio lógico de prós e contras.

Por exemplo, os homens são mais propensos do que as mulheres

For example, men are more likely than women

to say it's okay to push the man over the bridge.

em dizer que empurrariam o homem da ponte.

So are people who watch a comedy clip before doing the thought experiment.

Assim como as pessoas que veem um vídeo de comédia antes de fazer sua escolha.

And in one virtual reality study,

Em um estudo de realidade virtual,

people were more willing to sacrifice men than women.

as pessoas estavam mais dispostas a sacrificar homens do que mulheres.

Researchers have studied the brain activity

Os investigadores estudaram a atividade cerebral

of people thinking through the classic and bridge versions.

das pessoas que passaram pela versão clássica e a versão da ponte.

Both scenarios activate areas of the brain involved in conscious decision-making

Ambas as versões ativam áreas cerebrais envolvidas em tomada de decisão consciente

and emotional responses.

e respostas emocionais.

But in the bridge version, the emotional response is much stronger.

Mas na versão da ponte, a resposta emocional é muito mais forte.

So is activity in an area of the brain

Assim como a atividade de uma área do cérebro

associated with processing internal conflict.

associada com o processamento de conflito interno.

Why the difference?

Por que essa diferença?

One explanation is that pushing someone to their death feels more personal,

Uma explicação é que empurrar alguém para a morte parece ser mais pessoal,

activating an emotional aversion to killing another person,

ativando uma aversão emocional ao ato de matar outra pessoa,

but we feel conflicted because we know it's still the logical choice.

mas nos sentimos em conflito pois sabemos que é a escolha lógica.

"Trolleyology" has been criticized by some philosophers and psychologists.

O problema do trem tem sido criticado por alguns filósofos e psicólogos.

They argue that it doesn't reveal anything because its premise is so unrealistic

Eles argumentam que ele não revela nada, porque a sua premissa é tão irreal

that study participants don't take it seriously.

que os participantes do estudo não a levam a sério.

But new technology is making this kind of ethical analysis

Mas novas tecnologias estão tornando este tipo de análise ética

more important than ever.

mais importante do que nunca.

For example, driver-less cars may have to handle choices

Por exemplo, os carros autônomos podem precisar fazer escolhas

like causing a small accident to prevent a larger one.

como causar um pequeno acidente para evitar um maior.

Meanwhile, governments are researching autonomous military drones

Além disso, os governos estão pesquisando "drones" militares autônomos

that could wind up making decisions of whether they'll risk civilian casualties

que podem acabar tomando decisões sobre o risco de baixas civis

to attack a high-value target.

para atingir um alvo importante.

Se quisermos que essas ações sejam éticas,

If we want these actions to be ethical,

we have to decide in advance how to value human life

temos de decidir com antecedência como valorizar a vida humana

and judge the greater good.

e julgar o bem maior.

So researchers who study autonomous systems

Os pesquisadores que estudam sistemas autônomos

are collaborating with philosophers

estão colaborando com os filósofos

to address the complex problem of programming ethics into machines,

para abordar o problema complexo da programação de ética em máquinas,

which goes to show that even hypothetical dilemmas

o que mostra que mesmo os dilemas mais hipotéticos

can wind up on a collision course with the real world.

podem acabar em rota de colisão com o mundo real.