Would you sacrifice one person to save five? - Eleanor Nelsen

Можно ли пожертвовать одним человеком, чтобы спасти пятерых? — Элеонора Нельсен

Переводчик: Ростислав Голод Редактор: Natalia Ost

Imagine you're watching a runaway trolley barreling down the tracks

Представьте, что вы видите, как тяжёлая неуправляемая вагонетка

straight towards five workers who can't escape.

несётся прямо на пятерых рабочих, которые не могут от неё увернуться.

You happen to be standing next to a switch

Вы можете переключить стрелку

that will divert the trolley onto a second track.

и пустить вагонетку по другому пути.

Here's the problem.

Но вот ведь незадача:

That track has a worker on it, too, but just one.

на втором пути также находится рабочий, но только один.

What do you do?

Как бы вы поступили?

Do you sacrifice one person to save five?

Пожертвовали бы одним человеком, чтобы спасти пятерых?

This is the trolley problem,

Это так называемая «Проблема вагонетки» —

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

одна из мыслительных задач на этику, сформулированная Филиппой Фут в 1967 году

It's popular because it forces us to think about how to choose

и ставшая популярной, поскольку заставляет задуматься над выбором,

when there are no good choices.

где нет этически правильного ответа.

Do we pick the action with the best outcome

Поступим ли мы наиболее целесообразно

or stick to a moral code that prohibits causing someone's death?

или будем придерживаться моральных норм, которые запрещают убивать?

In one survey, about 90% of respondents said that it's okay to flip the switch,

Согласно одному исследованию, около 90% респондентов посчитали возможным

letting one worker die to save five,

переключить стрелку, чтобы погиб один человек, а не пятеро.

and other studies, including a virtual reality simulation of the dilemma,

Все последующие исследования данной дилеммы,

включая моделирование виртуальной реальности,

have found similar results.

пришли к аналогичным выводам.

These judgments are consistent with the philosophical principle of utilitarianism

Данные суждения полностью укладываются в философскую логику утилитаризма,

which argues that the morally correct decision

согласно которому более верным решением с точки зрения морали

is the one that maximizes well-being for the greatest number of people.

признаётся то, что принесёт пользу большему числу людей.

The five lives outweigh one,

Пять жизней важнее, чем одна,

even if achieving that outcome requires condemning someone to death.

даже если ради них кто-то неминуемо погибнет.

But people don't always take the utilitarian view,

Однако люди не всегда придерживаются утилитаризма.

which we can see by changing the trolley problem a bit.

В этом можно убедиться, если слегка изменить нашу задачу.

This time, you're standing on a bridge over the track

Теперь представьте: вы стои́те на мосту над железнодорожными путями,

as the runaway trolley approaches.

по которым несётся отцепившаяся вагонетка.

Её нельзя повернуть на другой путь,

Now there's no second track,

but there is a very large man on the bridge next to you.

но рядом на мосту стои́т очень толстый человек.

If you push him over, his body will stop the trolley,

Если столкнуть его с моста, то своим телом он остановит вагонетку,

saving the five workers,

жизни пятерых рабочих будут спасены,

but he'll die.

но он погибнет.

To utilitarians, the decision is exactly the same,

Для утилитаристов ответ прежний:

lose one life to save five.

пожертвовать одной жизнью, но спасти пять.

But in this case, only about 10% of people

Однако в данном случае только 10% опрошенных

say that it's OK to throw the man onto the tracks.

посчитали приемлемым бросить человека под колёса поезда.

Our instincts tell us that deliberately causing someone's death

Инстинктивно мы понимаем, что намеренное лишение кого-то жизни

is different than allowing them to die as collateral damage.

неравнозначно смерти в результате «побочного эффекта».

It just feels wrong for reasons that are hard to explain.

Этот поступок кажется аморальным, но трудно объяснить, почему.

This intersection between ethics and psychology

«Проблема вагонетки» находится на стыке этики и психологии,

is what's so interesting about the trolley problem.

и этим она особенно интересна.

The dilemma in its many variations reveal that what we think is right or wrong

Дилемма и её разные версии демонстрируют, что наши представления о добре и зле

depends on factors other than a logical weighing of the pros and cons.

зависят от различных факторов, а не логического анализа всех за и против.

For example, men are more likely than women

Например, мужчины скорее, чем женщины,

to say it's okay to push the man over the bridge.

согласятся столкнуть толстяка с моста.

So are people who watch a comedy clip before doing the thought experiment.

Согласятся и те, кто до ответа на вопрос исследования

посмотрел какой-нибудь смешной ролик.

And in one virtual reality study,

В результате моделирования виртуальной реальности выяснилось,

people were more willing to sacrifice men than women.

что испытуемые легче соглашались пожертвовать мужчинами, чем женщинами.

Researchers have studied the brain activity

Учёные также проследили за деятельностью мозга испытуемых,

of people thinking through the classic and bridge versions.

отвечавших на вопросы классической версии и версии с мостом.

Both scenarios activate areas of the brain involved in conscious decision-making

В результате обоих сценариев активизируются зоны мозга,

отвечающие за осознанное принятие решений

and emotional responses.

и эмоциональные реакции.

But in the bridge version, the emotional response is much stronger.

Но в версии с мостом эмоциональная реакция была намного ярче.

So is activity in an area of the brain

Также активнее вела себя зона мозга,

associated with processing internal conflict.

отвечающая за решение внутренних конфликтов.

Why the difference?

Так в чём же разница?

One explanation is that pushing someone to their death feels more personal,

Согласно одному объяснению, толкая кого-то на смерть,

человек более лично воспринимает этот поступок,

activating an emotional aversion to killing another person,

активируя эмоциональное отвращение к совершению убийства.

but we feel conflicted because we know it's still the logical choice.

Однако возникает внутренний конфликт, поскольку логика — на стороне убийства.

"Trolleyology" has been criticized by some philosophers and psychologists.

Философы и психологи не раз критиковали исследования «проблемы вагонетки».

They argue that it doesn't reveal anything because its premise is so unrealistic

Они утверждают,

что эксперимент ничего не доказывает, поскольку он далёк от реальности

that study participants don't take it seriously.

и испытуемые не воспринимают его всерьёз.

But new technology is making this kind of ethical analysis

Но в результате научного прогресса подобного рода этические дилеммы

more important than ever.

становятся всё более насущными.

For example, driver-less cars may have to handle choices

Например, возможно, скоро выбор будут делать беспилотные автомобили,

like causing a small accident to prevent a larger one.

запрограммированные на совершение небольшой аварии,

чтобы не попасть в крупное ДТП.

Meanwhile, governments are researching autonomous military drones

А военные всерьёз подумывают над разработкой автономных боевых дронов,

that could wind up making decisions of whether they'll risk civilian casualties

которым предстоит решать, рисковать ли жизнью гражданского населения

to attack a high-value target.

ради поражения важной стратегической цели.

If we want these actions to be ethical,

Если мы хотим оправдать их действия с точки зрения этики,

we have to decide in advance how to value human life

нам придётся решить заранее, как оценивать жизнь человека

and judge the greater good.

и как судить о том, что более ценно.

So researchers who study autonomous systems

Поэтому исследователи автономных систем тесно сотрудничают с философами

are collaborating with philosophers

to address the complex problem of programming ethics into machines,

в решении сложных проблем программирования этики машин.

which goes to show that even hypothetical dilemmas

Это лишний раз доказывает, что даже умозрительные дилеммы

can wind up on a collision course with the real world.

могут входить в коллизии с реальной жизнью.