How will AI change the world?

翻訳: Yasushi Aoki 校正: Eriko Tsukamoto

近い将来 人工知能は

In the coming years, artificial intelligence

人々の生活や世界そのものを 変えることになりそうですが

is probably going to change your life, and likely the entire world.

正確にどのようにしてかについては 意見が分かれます

But people have a hard time agreeing on exactly how.

世界経済フォーラムでのインタビューを 以下に抜粋した

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

著名なコンピューター科学者でＡＩ専門家の スチュワート・ラッセル教授の言葉は

helps separate the sense from the nonsense.

今後を見極める ヒントになるでしょう

There’s a big difference between asking a human to do something

人に何か頼み事するのと それをＡＩに目的として指示するのとでは

and giving that as the objective to an AI system.

大きな違いがあります

When you ask a human to get you a cup of coffee,

誰かにコーヒーを買ってくるよう 頼むときには

you don’t mean this should be their life’s mission,

命懸けのミッションで いかなる犠牲も厭わない

and nothing else in the universe matters.

というつもりはないし

Even if they have to kill everybody else in Starbucks

スターバックスが閉まる前に コーヒーを手に入れるためであれば

to get you the coffee before it closes— they should do that.

他の客を全員殺すことになろうと 構わないとは

思っていません

No, that’s not what you mean.

All the other things that we mutually care about,

みんなが気に掛ける 他のこと全ても考慮して

they should factor into your behavior as well.

行動してもらう 必要があります

And the problem with the way we build AI systems now

現在ＡＩが作られている 仕方の問題は

固定した目的を与えている ということです

is we give them a fixed objective.

アルゴリズムは 目的が事細かに 指定されていることを必要とします

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

海洋酸性化を直せるかと聞くと

Yeah, you could have a catalytic reaction that does that extremely efficiently,

それなら非常に効率的に改善できる 触媒反応があると答えますが

but it consumes a quarter of the oxygen in the atmosphere,

それは大気中の酸素の ４分の１を消費し

which would apparently cause us to die fairly slowly and unpleasantly

数時間のうちに人類は ゆっくりと苦しんで 死ぬことになるというような

over the course of several hours.

So, how do we avoid this problem?

この問題は どうすれば 回避できるでしょうか？

You might say, okay, well, just be more careful about specifying the objective—

じゃあ 目的の指定に もっと注意を払って

大気中の酸素のことも忘れないように すればいいと思うかもしれません

don’t forget the atmospheric oxygen.

And then, of course, some side effect of the reaction in the ocean

すると 反応の副作用で 海の魚が みんな死ぬようなことになります

poisons all the fish.

Okay, well I meant don’t kill the fish either.

魚を殺さないことと 付け加えると

And then, well, what about the seaweed?

今度は海藻が 枯れることになります

Don’t do anything that’s going to cause all the seaweed to die.

海藻を枯らさないようにとも 言っておく必要があります

And on and on and on.

これが延々と続いていきます

And the reason that we don’t have to do that with humans is that

人間相手だと そういうことを しないで済む理由は

humans often know that they don’t know all the things that we care about.

気に掛けることのすべてを分かってはいないと 人間は知っているからです

If you ask a human to get you a cup of coffee,

誰かにコーヒーを頼んだところ

and you happen to be in the Hotel George Sand in Paris,

その人はたまたまパリの ジョルジュ・サンク・ホテルにいて

where the coffee is 13 euros a cup,

コーヒーが１杯 13ユーロで

it’s entirely reasonable to come back and say, well, it’s 13 euros,

「13ユーロもするけど本当に欲しい？ それともよそで買う？」

are you sure you want it, or I could go next door and get one?

そう聞き返してくるというのは まったく理にかなっており

And it’s a perfectly normal thing for a person to do.

人間であれば ごく普通のことです

あるいは「おたくの家の 塗り替えをするんだけど

To ask, I’m going to repaint your house—

is it okay if I take off the drainpipes and then put them back?

排水管を一旦外しても構わない？」 と聞くとか

We don't think of this as a terribly sophisticated capability,

私たちは そういうのが そんなに高度な能力だとは思っていませんが

but AI systems don’t have it because the way we build them now,

ＡＩには欠けており

それは現在のＡＩは 目的が完全に 分かっている前提で作られているからです

they have to know the full objective.

If we build systems that know that they don’t know what the objective is,

目的が何か分かっていないことを 知っているシステムを作ったなら

then they start to exhibit these behaviors,

大気から酸素を全部除いてしまう前に 確認するような

like asking permission before getting rid of all the oxygen in the atmosphere.

振る舞いを示すようになるでしょう

In all these senses, control over the AI system

そういう意味で ＡＩが制御できるためには

comes from the machine’s uncertainty about what the true objective is.

ＡＩは本当の目的が何か 不確かである必要があります

And it’s when you build machines that believe with certainty

目的が分かっていると 確信しているＡＩを作るなら

that they have the objective,

that’s when you get this sort of psychopathic behavior.

ああいうサイコパス的振る舞いを 目にすることになるでしょう

And I think we see the same thing in humans.

同じことは人間にも 言えそうですが

What happens when general purpose AI hits the real economy?

汎用人工知能が現実社会に現れたとき 何が起きるでしょう？

How do things change? Can we adapt?

物事はどう変わるのか？ 人間は適応できるでしょうか？

This is a very old point.

これは古くからある論点で

Amazingly, Aristotle actually has a passage where he says,

驚くことに アリストテレスは書いています

look, if we had fully automated weaving machines

もし完全に自動化された 機織り機や

and plectrums that could pluck the lyre and produce music without any humans,

人間なしにリラを奏でる 機械があったなら

then we wouldn’t need any workers.

労働者はいらなくなるだろうと

That idea, which I think it was Keynes

この考えは

1930年にケインズが 技術的失業と呼んだもので

who called it technological unemployment in 1930,

is very obvious to people.

当時の人々には 明らかなことでした

They think, yeah, of course, if the machine does the work,

「機械が仕事をするなら 自分は失業する」と

then I'm going to be unemployed.

You can think about the warehouses that companies are currently operating

昨今のｅコマース企業の使う倉庫は 半自動化されています

for e-commerce, they are half automated.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

昔ながらの倉庫では

多くの品がそこら中に 積み上げられていて

all over the place and humans go and rummage around

人間が引っ掻き回して品物を見つけては 送り出していました

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

今ではロボットが 目的の品のある棚を持ってきますが

that contains the thing that you need,

but the human has to pick the object out of the bin or off the shelf,

人間が棚や箱から品物を 取り出す必要があり

because that’s still too difficult.

その部分はまだ 自動化が難しいのです

But, at the same time,

でも正確に動作して

would you make a robot that is accurate enough to be able to pick

およそどんな商品でも 取ってこられるロボットが

pretty much any object within a very wide variety of objects that you can buy?

できたとしたら どうでしょう？

That would, at a stroke, eliminate 3 or 4 million jobs?

３、４百万人が 一挙に失業することでしょう

There's an interesting story that E.M. Forster wrote,

E・M・フォースターの書いた 興味深い小説で

where everyone is entirely machine dependent.

誰もが機械にすっかり 依存している話があります

The story is really about the fact that if you hand over

この話の要点は

文明の管理を機械に 譲り渡したなら

the management of your civilization to machines,

you then lose the incentive to understand it yourself

それを自分で理解したり 知るための方法を次の世代に教える動機を

or to teach the next generation how to understand it.

人々は失ってしまう ということです

You can see “WALL-E” actually as a modern version,

『ウォーリー』は その現代版で

where everyone is enfeebled and infantilized by the machine,

人間は衰え 機械に子供扱いされています

and that hasn’t been possible up to now.

そういうのは これまで 実現可能でありませんでした

We put a lot of our civilization into books,

文明について本に書けても

but the books can’t run it for us.

本が人間のために文明を 運営してはくれず

And so we always have to teach the next generation.

次の世代に教える必要があります

If you work it out, it’s about a trillion person years of teaching and learning

考えてみれば それは

１兆人年にもなる教育と学習の 何万世代も途切れることのない鎖です

and an unbroken chain that goes back tens of thousands of generations.

What happens if that chain breaks?

その鎖が切れたら どうなるのでしょう？

I think that’s something we have to understand as AI moves forward.

ＡＩが進歩していく中で理解しておかなければ ならないことだと思います

The actual date of arrival of general purpose AI—

汎用人工知能の到来は いつになるのか？

you’re not going to be able to pinpoint, it isn’t a single day.

それは一度にできるもの ではないだろうし

It’s also not the case that it’s all or nothing.

すべてか無かという 話でもなく

The impact is going to be increasing.

影響が徐々に 増えていくでしょう

So with every advance in AI,

ＡＩの進歩により

it significantly expands the range of tasks.

機械に可能な作業が 広がっていきます

So in that sense, I think most experts say by the end of the century,

専門家の多くは

今世紀末までには 汎用人工知能が現れると考えており

we’re very, very likely to have general purpose AI.

The median is something around 2045.

中央値は2045年あたりです

I'm a little more on the conservative side.

私はもう少し先だと 思います

I think the problem is harder than we think.

もっと難しい問題でしょう

I like what John McAfee, he was one of the founders of AI,

この問いへの答えで 私が好きなのは

ＡＩの基礎を作った一人 ジョン・マッカーシーのものです

when he was asked this question, he said, somewhere between five and 500 years.

「それは 5年〜500年の間のどこかで アインシュタインが何人か必要になるだろう」

And we're going to need, I think, several Einsteins to make it happen.