The ethical dilemma of self-driving cars - Patrick Lin

翻訳: Yasushi Aoki 校正: Misaki Sato

思考実験をしてみましょう

This is a thought experiment.

Let's say at some point in the not so distant future,

そう遠くない将来

you're barreling down the highway in your self-driving car,

自動運転車に乗って 幹線道路を高速で走っていると

and you find yourself boxed in on all sides by other cars.

周囲を囲まれた 状態になりました

Suddenly, a large, heavy object falls off the truck in front of you.

突然 前を走るトラックの荷台から 重い大きな荷物が崩れ落ちてきました

Your car can't stop in time to avoid the collision,

ブレーキを踏んでも 衝突を避けられません

so it needs to make a decision:

とっさに判断する 必要があります

go straight and hit the object,

まっすぐ進んで 荷物に突っ込むか

swerve left into an SUV,

左によけて SUVにぶつかるか

or swerve right into a motorcycle.

右によけて バイクにぶつかるかです

Should it prioritize your safety by hitting the motorcycle,

自分の安全を最優先して バイクにぶつけるべきか

minimize danger to others by not swerving,

たとえそれが 大きな物への衝突で 自分の命を犠牲にすることになろうと

even if it means hitting the large object and sacrificing your life,

人様の安全を優先して よけずに直進すべきか

or take the middle ground by hitting the SUV,

中間を取って

乗員の安全性が高い SUVにぶつけるべきか

which has a high passenger safety rating?

So what should the self-driving car do?

自動運転車はどれを 選択すべきでしょう？

If we were driving that boxed in car in manual mode,

このような状況下で 人が車を手動で運転していたなら

whichever way we'd react would be understood as just that,

いずれの反応をしたとしても

熟慮の上の決定ではなく

単なる反射的行動として 受け取られるでしょう

a reaction,

not a deliberate decision.

It would be an instinctual panicked move with no forethought or malice.

パニック状態での本能的行動であって 計画性や悪意はなかったと

But if a programmer were to instruct the car to make the same move,

しかし その同じ行動が もしプログラマーによって

将来起こりうる状況への反応として あらかじめ車に組み込まれていたとしたら

given conditions it may sense in the future,

well, that looks more like premeditated homicide.

それはむしろ計画的殺人のように 見えてきます

Now, to be fair,

公平を期して言うと

self-driving cars are predicted to dramatically reduce traffic accidents

自動運転車は運転から 人的なミスを取り除くことで

and fatalities

交通事故や死者の数を

by removing human error from the driving equation.

劇的に減らすと 予想されており

Plus, there may be all sorts of other benefits:

その他にも様々な 利点があります

eased road congestion,

道路の混雑を緩和し

decreased harmful emissions,

有害ガス排出量を減らし

and minimized unproductive and stressful driving time.

非生産的でストレスのある運転を 人間がする時間を最小限にできます

But accidents can and will still happen,

しかしそれでも 事故は起こり得

and when they do,

事故が起こった時 その帰結は

their outcomes may be determined months or years in advance

何ヶ月も あるいは何年も前から プログラマーや政策立案者によって

定められていたものだった かもしれないのです

by programmers or policy makers.

And they'll have some difficult decisions to make.

そして中には 難しい決断もあるはずです

It's tempting to offer up general decision-making principles,

基本的には 「被害の最小化」のような

一般原則に基づいて 決められるかもしれませんが

like minimize harm,

but even that quickly leads to morally murky decisions.

それでも倫理的に不透明な決断を 迫られる状況は出てくるでしょう

For example,

たとえば

let's say we have the same initial set up,

前と同様の状況にあったとして

but now there's a motorcyclist wearing a helmet to your left

ただし今回は左には ヘルメット着用のバイク

and another one without a helmet to your right.

右にはヘルメットを被っていない バイクがいたとします

Which one should your robot car crash into?

自動運転車はどちらに ハンドルを切るべきでしょう？

If you say the biker with the helmet because she's more likely to survive,

ヘルメット着用の方が生存率が高いからと そちらにぶつけるとしたら

then aren't you penalizing the responsible motorist?

ルールを守っている人を罰することに ならないでしょうか？

If, instead, you save the biker without the helmet

一方 ルールを守っていない

ヘルメット未着用の バイクにぶつけるとしたら

because he's acting irresponsibly,

then you've gone way beyond the initial design principle about minimizing harm,

被害の最小化という設計原則から はずれることになります

and the robot car is now meting out street justice.

そして路上において何が公正かの判断が ロボットカーに任せられることになるのです

The ethical considerations get more complicated here.

倫理的な考慮は さらに複雑なものになり得ます

In both of our scenarios,

いずれのシナリオでも

the underlying design is functioning as a targeting algorithm of sorts.

設計方針は目標選択アルゴリズムとして 機能しています

In other words,

言い換えると

it's systematically favoring or discriminating

衝突する対象物の種類として 何を選好するか

against a certain type of object to crash into.

システム的に選んでいる ということです

And the owners of the target vehicles

そして標的にされた乗り物に 乗っている人は

will suffer the negative consequences of this algorithm

自らには過誤がない にもかかわらず

アルゴリズムの選択による負の結果を 引き受けることになります

through no fault of their own.

Our new technologies are opening up many other novel ethical dilemmas.

この新技術は その他にも新たな種類の 倫理的ジレンマをたくさん生み出します

For instance, if you had to choose between

たとえば 事故において 可能な限り多くの命を救おうとする車と

a car that would always save as many lives as possible in an accident,

乗っている人の安全を 何よりも優先する車の

or one that would save you at any cost,

どちらかを選ばなければ ならないとしたら

which would you buy?

どちらを買いますか？

What happens if the cars start analyzing and factoring in

もし車が 乗っている人が誰で どのような事情があるか

the passengers of the cars and the particulars of their lives?

分析し考慮に入れるようになったとしたら どうなるでしょう？

Could it be the case that a random decision

被害を最小化すべく 前もって設計された判断より

is still better than a predetermined one designed to minimize harm?

その場におけるとっさの判断の方が 良いという場合はあるのでしょうか？

And who should be making all of these decisions anyhow?

そういった判断はそもそも誰が 下すべきなのでしょう？

Programmers? Companies? Governments?

プログラマーなのか

自動車会社なのか

政府なのか？

Reality may not play out exactly like our thought experiments,

現実がこれらの思考実験通りに 展開するとは限りませんが

but that's not the point.

それは要点ではありません

They're designed to isolate and stress test our intuitions on ethics,

これら思考実験の役割は 物理的世界における科学実験と同様で

just like science experiments do for the physical world.

我々の倫理的直感を取り出して ストレステストにかけるということです

Spotting these moral hairpin turns now

これら倫理のヘアピンカーブを 今 見極めておくことで

will help us maneuver the unfamiliar road of technology ethics,

技術倫理の未知なる道を 巧みに抜けて

and allow us to cruise confidently and conscientiously

素晴らしき未来へと 自信をもって良心的に

into our brave new future.

進んでいくことが できるようになるのです