Would you sacrifice one person to save five? - Eleanor Nelsen

５人を助けるために１人を犠牲にしますか？―エレノア・ネルソン

翻訳: Mio Yamaguchi 校正: Naoko Fujii

Imagine you're watching a runaway trolley barreling down the tracks

想像してください レール上の暴走トロッコをあなたは見ています

straight towards five workers who can't escape.

その先には作業員が５人いるのですが 彼らは逃げることができません

You happen to be standing next to a switch

偶然にもあなたは分岐器のそばに立っており

that will divert the trolley onto a second track.

それを使えば トロッコを ２番目のレールにそらすことができます

Here's the problem.

ところが問題なのは

That track has a worker on it, too, but just one.

分岐先のレールにも作業員がいるのです たった１人だけなのですが

What do you do?

あなたならどうしますか

Do you sacrifice one person to save five?

５人を救うために１人の生命を犠牲にしますか

This is the trolley problem,

これがトロッコ問題です

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

哲学者のフィリッパ・フットが 1967年に考えた 一種の倫理的ジレンマです

It's popular because it forces us to think about how to choose

この問題が有名な理由は 良い選択肢が存在しない時に

when there are no good choices.

いかに選択するかを考えるよう 強いるものだからです

Do we pick the action with the best outcome

もっとも成果がある行動を選ぶのか

or stick to a moral code that prohibits causing someone's death?

人の死を引き起こすことを禁じる 道徳律を守り抜くのか

In one survey, about 90% of respondents said that it's okay to flip the switch,

ある調査では約90％の人が 分岐器を操作し

letting one worker die to save five,

５人を救うために１人を犠牲にすると回答し

and other studies, including a virtual reality simulation of the dilemma,

ジレンマの仮想現実シミュレーションなど 他の研究でも

have found similar results.

同様の結果を見出しました

These judgments are consistent with the philosophical principle of utilitarianism

これらの判断は哲学原理である 功利主義に従っています

which argues that the morally correct decision

最大多数の最大幸福をもたらす決定が 道徳的に正しいというものです

is the one that maximizes well-being for the greatest number of people.

The five lives outweigh one,

たとえ１人への死の宣告を伴ってでも

even if achieving that outcome requires condemning someone to death.

５人の生命が１人の生命より重いというのです

But people don't always take the utilitarian view,

でも人は常に功利主義的なわけでもありません

which we can see by changing the trolley problem a bit.

トロッコ問題に少し手を加えることで それがわかります

This time, you're standing on a bridge over the track

今度はレール上の橋にあなたは立っています

as the runaway trolley approaches.

暴走トロッコが近づいてくるのですが

Now there's no second track,

２番目のレールが今回はなくて

but there is a very large man on the bridge next to you.

橋の上にいるあなたの隣に とても大柄な男性がいます

If you push him over, his body will stop the trolley,

あなたがその男性を突き落とせば 彼の体でトロッコを止めて

saving the five workers,

５人の生命を救うことができますが

but he'll die.

彼は死んでしまいます

To utilitarians, the decision is exactly the same,

功利主義に基づくならば 判断は全く同じで

lose one life to save five.

５人を救うために１人の命を 犠牲にするはずです

But in this case, only about 10% of people

しかしこのケースでは 約10％の人しか

say that it's OK to throw the man onto the tracks.

男性をレール上に突き落とすことを 良しとしません

Our instincts tell us that deliberately causing someone's death

私達の本能は 誰かを意図的に死に至らしめることが

is different than allowing them to die as collateral damage.

巻き添えになる人を見殺しにすることとは 違うと捉えるのです

It just feels wrong for reasons that are hard to explain.

それを間違っているとは感じるのですが 理由を説明するのは難しいことです

This intersection between ethics and psychology

このように 倫理と心理の交差するところが

is what's so interesting about the trolley problem.

トロッコ問題のとても興味深いところです

The dilemma in its many variations reveal that what we think is right or wrong

このジレンマの多様なバリエーションは 私たちの正誤判断が

depends on factors other than a logical weighing of the pros and cons.

メリットとデメリットの論理的重みづけ以外の 要因にも拠っていることを示しています

For example, men are more likely than women

例えば男性は女性よりも

to say it's okay to push the man over the bridge.

橋の上の男性を突き落とすのを 良しとする傾向があります

So are people who watch a comedy clip before doing the thought experiment.

思考実験の前に コメディ番組を見ていた人も 同様の傾向があります

And in one virtual reality study,

さらにある仮想現実の研究で 報告されているのは

people were more willing to sacrifice men than women.

犠牲者が女性ではなく男性の方が 人々はためらわないことです

Researchers have studied the brain activity

元のバージョンと 橋のバージョンについて考える際に

of people thinking through the classic and bridge versions.

脳がどう活性化するのか 研究が行われてきました

Both scenarios activate areas of the brain involved in conscious decision-making

意識的な意思決定と感情的反応に関わる部位が 両方のシナリオで活性化していました

and emotional responses.

But in the bridge version, the emotional response is much stronger.

しかしながら橋のバージョンでは 感情的な反応の方が相当強く見られました

So is activity in an area of the brain

そして同様に 活動が活発になったのは

associated with processing internal conflict.

内的葛藤を処理する部位でした

Why the difference?

違いは何でしょうか

One explanation is that pushing someone to their death feels more personal,

ある説明では 誰かを突き落とすのは より自分に関わることであるために

activating an emotional aversion to killing another person,

他の人を殺害することへの 嫌悪感を引き起こし

but we feel conflicted because we know it's still the logical choice.

それでもそれが論理的な選択であると わかっているがゆえに葛藤するのです

"Trolleyology" has been criticized by some philosophers and psychologists.

トロッコ問題は一部の哲学者と心理学者から 批判を受けています

They argue that it doesn't reveal anything because its premise is so unrealistic

前提があまりに非現実的なために 何の証明にもならないと反論しています

that study participants don't take it seriously.

調査対象者が真剣に受け取らないからです

But new technology is making this kind of ethical analysis

しかし新しいテクノロジーは このような倫理的な分析を

more important than ever.

今まで以上に重要なものとしています

For example, driver-less cars may have to handle choices

例えば 自動運転の車が 選択をしなければならなくなるかもしれません

like causing a small accident to prevent a larger one.

大事故を防ぐために 小さな事故を起こすことなどをです

Meanwhile, governments are researching autonomous military drones

一方 政府は自律的軍用ドローンの 研究をしています

that could wind up making decisions of whether they'll risk civilian casualties

一般人を負傷させる結果を 引き起こしたとしても

to attack a high-value target.

重要なターゲットを攻撃するかの判断を ドローンが担うかもしれないのです

If we want these actions to be ethical,

これらの行為を 倫理的にしたいのならば

we have to decide in advance how to value human life

人命を尊重し より良い結果をもたらす判断の仕方を

and judge the greater good.

前もって決めておかねばなりません

So researchers who study autonomous systems

そこで自律型システムの 研究をしている研究者は

are collaborating with philosophers

哲学者と協業し

to address the complex problem of programming ethics into machines,

機械に倫理をプログラミングするという 複雑な問題を扱っています

which goes to show that even hypothetical dilemmas

このことは 仮定のジレンマでさえも

can wind up on a collision course with the real world.

現実世界との衝突が避けられない 場合もあることを証明しています