Would you sacrifice one person to save five? - Eleanor Nelsen

다섯 명을 구하려고 한 명을 희생하시겠습니까? |엘레노어 넬슨 (Eleanor Nelsen)

번역: Yangha Kim 검토: Alexa Lim

Imagine you're watching a runaway trolley barreling down the tracks

통제 불능 상태의 전차가 선로를 미친 듯이 질주한다고 생각해보세요.

straight towards five workers who can't escape.

그 선로 위에는 일꾼 다섯 명이 오도 가도 못 하고 있습니다.

You happen to be standing next to a switch

당신은 우연히도 스위치 옆에 서 있는데

that will divert the trolley onto a second track.

그 스위치를 누르면 전차가 옆 선로로 빠지게 되죠.

Here's the problem.

그런데 문제가 있습니다.

That track has a worker on it, too, but just one.

옆 선로에도 일꾼이 있거든요. 비록 단 한 명뿐이지만요.

What do you do?

어떻게 하시겠어요?

Do you sacrifice one person to save five?

다섯 명을 구하자고 한 명을 희생할 건가요?

This is the trolley problem,

이게 바로 '전차 문제'입니다.

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

1967년 철학자 필리파 풋이 고안해낸 도덕적 딜레마 관련 문제죠.

It's popular because it forces us to think about how to choose

이 문제가 유명한 이유는 선택을 고민해야 하기 때문입니다.

when there are no good choices.

선택하기 곤란한 상황에서요.

Do we pick the action with the best outcome

최선의 결과를 내려고 행동해야 할까요

or stick to a moral code that prohibits causing someone's death?

아니면 누군가 죽는 것을 막기 위해 도덕률을 지키는 게 맞을까요?

In one survey, about 90% of respondents said that it's okay to flip the switch,

한 설문조사에서는 응답자 90%가량이 스위치를 눌러도 된다고 대답했습니다.

letting one worker die to save five,

한 명을 희생해 다섯을 살리는 거죠.

and other studies, including a virtual reality simulation of the dilemma,

가상현실 실험을 비롯한 다른 연구에서도

have found similar results.

비슷한 결과가 나왔는데요.

These judgments are consistent with the philosophical principle of utilitarianism

이것은 공리주의의 철학적 원칙과 일맥상통합니다.

which argues that the morally correct decision

도덕적으로 옳은 판단을 하면

is the one that maximizes well-being for the greatest number of people.

최대 다수에게 최대 행복을 가져다줄 수 있다는 얘기죠.

The five lives outweigh one,

1명보다 5명의 목숨이 중요하니까요.

even if achieving that outcome requires condemning someone to death.

결과적으로 누군가 죽게 되더라도 말이죠.

But people don't always take the utilitarian view,

하지만 사람들이 항상 공리주의적으로 생각하진 않습니다.

which we can see by changing the trolley problem a bit.

전차 문제를 조금 바꾸면 결과가 달라지거든요.

This time, you're standing on a bridge over the track

이번에 당신은 선로 위 다리에 서 있고

as the runaway trolley approaches.

전차가 질주해 오고 있습니다.

Now there's no second track,

이번에는 선로가 한 개뿐이며

but there is a very large man on the bridge next to you.

당신 옆에는 덩치 큰 사내가 함께 서 있는데요

If you push him over, his body will stop the trolley,

그 남자를 아래로 밀면 전차를 멈추고

saving the five workers,

일꾼 5명을 구할 수 있지만

but he'll die.

남자는 죽게 됩니다.

To utilitarians, the decision is exactly the same,

이런 상황에서 공리주의자들은 여전히 같은 선택을 하죠.

lose one life to save five.

1명을 희생해 5명을 구합니다.

But in this case, only about 10% of people

하지만 실제로 응답자 10%만이

say that it's OK to throw the man onto the tracks.

덩치 큰 사내를 밀어도 된다고 대답했습니다.

Our instincts tell us that deliberately causing someone's death

우리는 본능적으로 사람을 고의로 죽이는 것과

is different than allowing them to die as collateral damage.

부수적 피해로 사람이 죽는 게 다르다고 생각하는 겁니다.

It just feels wrong for reasons that are hard to explain.

딱히 설명하긴 어렵지만 옳지 않다고 생각하는 겁니다.

This intersection between ethics and psychology

이렇게 도덕관념과 인간 심리가 묘하게 겹치기 때문에

is what's so interesting about the trolley problem.

전차 문제가 더욱 흥미로워지는 겁니다.

The dilemma in its many variations reveal that what we think is right or wrong

상황을 조금씩 바꿔도 이런 상황에서는 우리가 옳고 그름을 판단할 때

depends on factors other than a logical weighing of the pros and cons.

이해득실을 논리적으로 따지기보다 몇 가지 요인에 의존하는 경향이 있죠.

For example, men are more likely than women

가령, 남자들은 여자들보다

to say it's okay to push the man over the bridge.

덩치 큰 남자를 밀어도 된다고 응답하는 경향이 더 두드러집니다.

So are people who watch a comedy clip before doing the thought experiment.

이 문제에 답하기 전에 코미디 영상을 본 사람들도 마찬가지죠.

And in one virtual reality study,

어느 가상현실 실험에서는

people were more willing to sacrifice men than women.

사람들이 여자보다 남자를 희생시키려는 경향을 보였습니다.

Researchers have studied the brain activity

연구자들은 인간의 뇌 활동을 조사해

of people thinking through the classic and bridge versions.

문제 유형별로 인간의 사고가 어떻게 달라지는지 파악하려 했습니다.

Both scenarios activate areas of the brain involved in conscious decision-making

두 개 시나리오 모두 뇌를 자극해 의식적 의사 결정과

and emotional responses.

감정적 반응을 유도합니다.

But in the bridge version, the emotional response is much stronger.

그런데 다리가 등장하는 문제에서는 감정적인 반응이 훨씬 강하게 나타나죠.

So is activity in an area of the brain

뇌의 특정 부분이 더 활성화하면서

associated with processing internal conflict.

내적 갈등도 일어납니다.

Why the difference?

왜 이런 걸까요?

One explanation is that pushing someone to their death feels more personal,

혹자는 누군가를 밀어서 죽이는 게 더 개인적으로 와 닿아서

activating an emotional aversion to killing another person,

살인에 대한 혐오감을 불러일으키기 때문이라고 합니다.

but we feel conflicted because we know it's still the logical choice.

하지만 그게 논리적 선택이란 걸 알기에 여전히 갈등하게 된다는 거죠.

"Trolleyology" has been criticized by some philosophers and psychologists.

트롤리학을 비판하는 철학자와 심리학자들도 있는데요.

They argue that it doesn't reveal anything because its premise is so unrealistic

상황 자체가 너무 비현실적이어서 제대로 된 결과가 나올 수 없고

that study participants don't take it seriously.

응답자들도 진지하게 못 받아들인다고 생각하거든요.

But new technology is making this kind of ethical analysis

하지만 신기술이 발달하면서 이러한 윤리적 분석이

more important than ever.

점점 더 중요해지고 있습니다.

For example, driver-less cars may have to handle choices

예를 들어, 무인차량의 경우

like causing a small accident to prevent a larger one.

큰 사고를 피하려고 작은 사고는 감수해야 할 수도 있습니다.

Meanwhile, governments are researching autonomous military drones

한편, 정부에서는 군용 무인 항공기를 개발 중인데

that could wind up making decisions of whether they'll risk civilian casualties

나중에 민간인을 희생해야 할지도 모릅니다.

to attack a high-value target.

더 큰 위협을 제거하기 위해서요.

If we want these actions to be ethical,

윤리적인 행동하려면

we have to decide in advance how to value human life

어떤 식으로 생명의 가치를 존중하면서

and judge the greater good.

대의를 실현할지 미리 결정해야 합니다.

So researchers who study autonomous systems

그래서 자율 운영 시스템을 개발하는 연구자들이

are collaborating with philosophers

철학자들과 공조하는 겁니다.

to address the complex problem of programming ethics into machines,

복잡한 인간 윤리를 기계에 적용하려고요.

which goes to show that even hypothetical dilemmas

가설적인 딜레마조차도

can wind up on a collision course with the real world.

현실에서는 충돌을 유발할 수 있으니까요.