Would you sacrifice one person to save five? - Eleanor Nelsen

Sacrificariam uma pessoa para salvar cinco? — Eleanor Nelsen

Tradutor: Margarida Ferreira Revisora: Mafalda Ferreira

Imagine you're watching a runaway trolley barreling down the tracks

Imaginem que veem um elétrico descontrolado pelos carris abaixo

straight towards five workers who can't escape.

em direção a cinco trabalhadores que não podem fugir.

You happen to be standing next to a switch

Acontece que estão ao pé de uma agulha

that will divert the trolley onto a second track.

que desviará o elétrico para uma outra linha.

Here's the problem.

Mas há um problema.

That track has a worker on it, too, but just one.

Nessa linha também há um trabalhador, mas apenas um.

What do you do?

O que é que fazem?

Do you sacrifice one person to save five?

Sacrificam uma pessoa para salvar cinco?

This is the trolley problem,

Este é o problema do elétrico,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

uma versão de um dilema ético

que a filósofa Philippa Foot concebeu em 1967.

It's popular because it forces us to think about how to choose

É muito conhecido porque nos obriga a pensar como escolher

when there are no good choices.

quando não há nenhuma opção boa.

Optamos pela ação com o melhor resultado?

Do we pick the action with the best outcome

or stick to a moral code that prohibits causing someone's death?

Ou agarramo-nos a um código moral que proíbe causar a morte de alguém?

In one survey, about 90% of respondents said that it's okay to flip the switch,

Num inquérito, cerca de 90% dos inquiridos disseram que era melhor manobrar a agulha,

letting one worker die to save five,

fazendo morrer um trabalhador para salvar cinco.

and other studies, including a virtual reality simulation of the dilemma,

E outros estudos, incluindo uma simulação virtual do dilema,

have found similar results.

chegaram ao mesmo resultado.

These judgments are consistent with the philosophical principle of utilitarianism

Este julgamento é coerente com o princípio filosófico do utilitarismo

which argues that the morally correct decision

que defende que a decisão moralmente correta

is the one that maximizes well-being for the greatest number of people.

é a que maximiza o bem-estar para o maior número de pessoas.

The five lives outweigh one,

As cinco vidas superam uma,

even if achieving that outcome requires condemning someone to death.

mesmo que, para chegar a esse resultado, seja preciso condenar alguém à morte.

But people don't always take the utilitarian view,

Mas nem sempre as pessoas adotam a perspetiva utilitarista,

which we can see by changing the trolley problem a bit.

como podemos ver, se alterarmos um pouco o problema do elétrico.

This time, you're standing on a bridge over the track

Desta vez, está numa ponte por cima da linha do elétrico

as the runaway trolley approaches.

quando se aproxima o elétrico descontrolado.

Now there's no second track,

Não há mais nenhuma linha

but there is a very large man on the bridge next to you.

mas há um homem muito grande na ponte, ao teu lado.

If you push him over, his body will stop the trolley,

Se o empurrares, o corpo dele fará parar o elétrico,

saving the five workers,

salvando os cinco trabalhadores,

but he'll die.

mas ele morrerá.

To utilitarians, the decision is exactly the same,

Para os utilitaristas, a decisão é exatamente a mesma,

lose one life to save five.

sacrificar uma vida para salvar cinco.

But in this case, only about 10% of people

Mas neste caso, só 10% de pessoas

say that it's OK to throw the man onto the tracks.

dizem que é melhor atirar o homem para a linha.

Our instincts tell us that deliberately causing someone's death

O nosso instinto diz-nos que causar a morte a alguém, deliberadamente,

is different than allowing them to die as collateral damage.

é diferente de permitir que alguém morra como um dano colateral.

It just feels wrong for reasons that are hard to explain.

Sentimos que isso é errado por razões difíceis de explicar.

This intersection between ethics and psychology

É esta interseção entre a ética e a psicologia

is what's so interesting about the trolley problem.

que é muito interessante no problema do elétrico.

The dilemma in its many variations reveal that what we think is right or wrong

O dilema nas suas muitas variações revela

que aquilo que pensamos ser correto ou errado,

depends on factors other than a logical weighing of the pros and cons.

depende de fatores diferentes

de uma avaliação lógica dos prós ou contras,

For example, men are more likely than women

Por exemplo, há mais homens que mulheres

to say it's okay to push the man over the bridge.

a dizer que é melhor empurrar o homem da ponte.

So are people who watch a comedy clip before doing the thought experiment.

O mesmo acontece com as pessoas que veem um vídeo cómico

antes de responder a este dilema.

And in one virtual reality study,

Num estudo da realidade virtual,

people were more willing to sacrifice men than women.

as pessoas preferiam sacrificar homens a mulheres.

Researchers have studied the brain activity

Os investigadores estudaram a atividade do cérebro

of people thinking through the classic and bridge versions.

de pessoas que refletiam sobre a versão clássica e a da ponte.

Both scenarios activate areas of the brain involved in conscious decision-making

Ambos os cenários ativam áreas do cérebro

envolvidas na tomada de decisões conscientes

and emotional responses.

e em respostas emocionais.

But in the bridge version, the emotional response is much stronger.

Mas na versão da ponte, a resposta emocional é muito mais forte.

So is activity in an area of the brain

O mesmo acontece numa área do cérebro

associated with processing internal conflict.

associada ao processamento de conflitos internos.

Why the difference?

Porquê esta diferença?

One explanation is that pushing someone to their death feels more personal,

Uma explicação é que empurrar alguém para a morte

é sentido de forma mais pessoal,

activating an emotional aversion to killing another person,

ativando uma aversão emotiva a matar outra pessoa,

but we feel conflicted because we know it's still the logical choice.

mas sentimo-nos divididos porque sabemos que continua a ser a opção lógica.

"Trolleyology" has been criticized by some philosophers and psychologists.

O problema do elétrico tem sido criticado por alguns filósofos e psicólogos

They argue that it doesn't reveal anything because its premise is so unrealistic

que argumentam que não revela nada porque a premissa é tão irrealista

that study participants don't take it seriously.

que os participantes do estudo não a levam a sério.

But new technology is making this kind of ethical analysis

Mas a nova tecnologia está a tornar este tipo de análise ética

more important than ever.

mais importante do que nunca.

For example, driver-less cars may have to handle choices

Por exemplo, os carros sem condutor podem ter que fazer escolhas

like causing a small accident to prevent a larger one.

como causar um pequeno acidente para evitar outro maior.

Meanwhile, governments are researching autonomous military drones

Entretanto, os governos investigam os drones militares autónomos

that could wind up making decisions of whether they'll risk civilian casualties

que podem levar à tomada de decisões

sobre se vão correr o risco de vítimas civis

to attack a high-value target.

para atacar um objetivo de grande valor.

If we want these actions to be ethical,

Se queremos que estas ações sejam éticas,

we have to decide in advance how to value human life

temos que decidir de antemão como valorizar a vida humana

and judge the greater good.

e avaliar o maior bem.

So researchers who study autonomous systems

Por isso, os investigadores que estudam sistemas autónomos

are collaborating with philosophers

estão a colaborar com filósofos

to address the complex problem of programming ethics into machines,

para abordar este problema complexo de programar a ética nas máquinas,

which goes to show that even hypothetical dilemmas

o que acaba por mostrar que, mesmo os dilemas hipotéticos

can wind up on a collision course with the real world.

podem entrar em conflito com o mundo real.