What AI is -- and isn't | Sebastian Thrun and Chris Anderson

翻訳: Yasushi Aoki 校正: Claire Ghyselen

Chris Anderson: Help us understand what machine learning is,

(クリス・アンダーソン) 機械学習というのは いったい何なのか

教えていただけませんか？

because that seems to be the key driver

それが人工知能を巡る

of so much of the excitement and also of the concern

熱狂や不安の中心に あるもののようなので

around artificial intelligence.

いったいどんな仕組み なんでしょう？

How does machine learning work?

Sebastian Thrun: So, artificial intelligence and machine learning

(セバスチャン･スラン) 人工知能と 機械学習は

60年くらいの 歴史があるんですが

is about 60 years old

and has not had a great day in its past until recently.

最近まで目覚ましい結果は 出ていませんでした

近頃になってようやく

And the reason is that today,

機械を賢いものにするのに 必要な規模の

we have reached a scale of computing and datasets

計算能力やデータセットが 得られるようになったからです

that was necessary to make machines smart.

So here's how it works.

その仕組みはこうです

If you program a computer today, say, your phone,

たとえばスマートフォンの プログラムを作ろうと思ったら

then you hire software engineers

ソフトウェアエンジニアを雇って

that write a very, very long kitchen recipe,

すごく長いレシピを 書いてもらうことになります

「水が熱すぎたら温度を下げる

like, "If the water is too hot, turn down the temperature.

If it's too cold, turn up the temperature."

冷たすぎたら温度を上げる」 みたいな感じに

The recipes are not just 10 lines long.

そのレシピは10行とかではなく

They are millions of lines long.

何百万行にもなり得ます

A modern cell phone has 12 million lines of code.

今時の携帯電話には 1200万行のコードがあり

A browser has five million lines of code.

ブラウザーには 500万行のコードがあります

And each bug in this recipe can cause your computer to crash.

しかもレシピに何か欠陥があると コンピューターをクラッシュさせかねません

That's why a software engineer makes so much money.

だからソフトウェアエンジニアは あんなに稼いでいるんです

The new thing now is that computers can find their own rules.

ところが 今やコンピューターが 自分でルールを見付けられるようになっています

So instead of an expert deciphering, step by step,

専門家がステップに分解し

あらゆる事態に対して ルールを書く代わりに

a rule for every contingency,

what you do now is you give the computer examples

コンピューターに例を示して

ルールを自分で導かせるのです

and have it infer its own rules.

A really good example is AlphaGo, which recently was won by Google.

その良い例が 最近Googleが買収した 囲碁プログラムのAlphaGoです

通常なら ゲームをさせるには あらゆるルールを記述することになりますが

Normally, in game playing, you would really write down all the rules,

but in AlphaGo's case,

AlphaGoの場合

the system looked over a million games

何百万という対局を見て

自分で独自にルールを導き

and was able to infer its own rules

and then beat the world's residing Go champion.

現役のチャンピオンを 下してしまったのです

That is exciting, because it relieves the software engineer

その何が嬉しいかというと

プログラミングの重荷が データへと押しやられ

of the need of being super smart,

ソフトウェアエンジニアはそんなに頭が 良くなくともよくなったことです

and pushes the burden towards the data.

As I said, the inflection point where this has become really possible --

それが可能になったというのが 大きな転換点でした

気恥ずかしいのは 私の博士論文は機械学習でしたが

very embarrassing, my thesis was about machine learning.

It was completely insignificant, don't read it,

大したものじゃないので どうか読まないで

20年前のことで 当時のコンピューターは

because it was 20 years ago

and back then, the computers were as big as a cockroach brain.

ゴキブリ並の頭しか なかったんです

今日では専門的な人間の思考を 模倣できるくらいに

Now they are powerful enough to really emulate

kind of specialized human thinking.

強力になりました

And then the computers take advantage of the fact

しかもコンピューターには 人間が見られるよりも

that they can look at much more data than people can.

ずっと多くのデータを 見ることができます

So I'd say AlphaGo looked at more than a million games.

AlphaGoは何百万という 対局を検討しますが

No human expert can ever study a million games.

人間にはそんなに沢山 検討することはできません

Google has looked at over a hundred billion web pages.

Googleは千億以上の ウェブページを見ていますが

No person can ever study a hundred billion web pages.

千億ページを 読める人間はいません

So as a result, the computer can find rules

だからコンピューターは 人間に見付けられないようなルールを

that even people can't find.

見付けることができるのです

CA: So instead of looking ahead to, "If he does that, I will do that,"

(アンダーソン) つまり 「相手がこう来たらこうしよう」と考えるのではなく

it's more saying, "Here is what looks like a winning pattern,

「こういうのが勝ちパターンのようだ」

here is what looks like a winning pattern."

と考えるわけですね

ST: Yeah. I mean, think about how you raise children.

(スラン) ええ 子育てを考えてください

最初の18年間で あらゆる事態に 対するルールを教え込み

You don't spend the first 18 years giving kids a rule for every contingency

それから世に出す わけではありません

and set them free and they have this big program.

躓き 倒れ 立ち上がり はたかれ ぶたれ

They stumble, fall, get up, they get slapped or spanked,

and they have a positive experience, a good grade in school,

楽しい経験をし 良い成績を取り

and they figure it out on their own.

そうやって自分で 見付けていくのです

That's happening with computers now,

それが今コンピューターにも 起きているのです

which makes computer programming so much easier all of a sudden.

それによってプログラミングが 突如 簡単なものになります

Now we don't have to think anymore. We just give them lots of data.

考える必要はなく ただ沢山のデータを与えれば良いのです

CA: And so, this has been key to the spectacular improvement

(アンダーソン) それが自動運転車の 目覚ましい進歩の

in power of self-driving cars.

鍵というわけですね

事例をお持ち いただきましたが

I think you gave me an example.

ここで何が起きているのか 説明していただけますか？

Can you explain what's happening here?

ST: This is a drive of a self-driving car

(スラン) これは自動運転車の 走行の様子で

that we happened to have at Udacity

Udacityで作り

Voyageとして スピンオフしたものです

and recently made into a spin-off called Voyage.

We have used this thing called deep learning

自律走行できるよう

ディープラーニングと呼ばれる手法で 車をトレーニングし

to train a car to drive itself,

and this is driving from Mountain View, California,

マウンテンビューから

to San Francisco

サンフランシスコまで

on El Camino Real on a rainy day,

エル・カミーノ・レアルを雨の日に

with bicyclists and pedestrians and 133 traffic lights.

自転車や歩行者や 133の信号がある中で走っています

And the novel thing here is,

私はずっと昔に

Googleで自動運転車の 開発チームを作りました

many, many moons ago, I started the Google self-driving car team.

And back in the day, I hired the world's best software engineers

当時は世界最高の ソフトウェアエンジニアを集めて

世界最高のルールを 見付けようとしたものです

to find the world's best rules.

This is just trained.

ここでは単に トレーニングするだけです

We drive this road 20 times,

この道を20回走り

すべてのデータを コンピューターに取り込み

we put all this data into the computer brain,

and after a few hours of processing,

数時間の処理の後

it comes up with behavior that often surpasses human agility.

人間よりも上手いくらいに 運転できるようになりました

So it's become really easy to program it.

だからプログラミングは すごく簡単です

This is 100 percent autonomous, about 33 miles, an hour and a half.

完全に自律的に 53キロを１時間半で走っています

CA: So, explain it -- on the big part of this program on the left,

(アンダーソン) 画面左側の大きな部分が

you're seeing basically what the computer sees as trucks and cars

コンピューターの見ているもので

トラックや車を表す点が 動いているわけですか

and those dots overtaking it and so forth.

ST: On the right side, you see the camera image, which is the main input here,

(スラン) 右側がカメラ映像で これが主要な入力となり

レーンや他の車や信号を 見付けるのに使っています

and it's used to find lanes, other cars, traffic lights.

The vehicle has a radar to do distance estimation.

この車には距離を測るための レーダーがあります

This is very commonly used in these kind of systems.

このようなシステムでは よく使われているものです

左側に出ているのが レーザーによる画像で

On the left side you see a laser diagram,

where you see obstacles like trees and so on depicted by the laser.

樹木などの障害物が 検出されています

But almost all the interesting work is centering on the camera image now.

でも今では興味深いことのほとんどが カメラ映像を使って行われています

We're really shifting over from precision sensors like radars and lasers

レーダーやレーザーといった 精密なセンサーから

安価で一般的なセンサーを 使うように変わってきています

into very cheap, commoditized sensors.

カメラは８ドルもしません

A camera costs less than eight dollars.

CA: And that green dot on the left thing, what is that?

(アンダーソン) 左に出ている緑の点は

Is that anything meaningful?

どんな意味があるんですか？

ST: This is a look-ahead point for your adaptive cruise control,

(スラン) あれはアダプティブ・ クルーズ・コントロールの基準点で

前の車との車間距離に応じて

so it helps us understand how to regulate velocity

based on how far the cars in front of you are.

スピードを制御するためのものです

CA: And so, you've also got an example, I think,

(アンダーソン) 学習の部分が どう行われるかの例も

of how the actual learning part takes place.

お持ちいただいているので

Maybe we can see that. Talk about this.

それを見ながら お話しを伺いましょう

ST: This is an example where we posed a challenge to Udacity students

(スラン) これはUdacityの学生に

自動運転車の「ナノ学位」を取るための 課題として出したものです

to take what we call a self-driving car Nanodegree.

We gave them this dataset

このデータを示して

「この車をどう運転させたものだろう？」 と聞いたんです

and said "Hey, can you guys figure out how to steer this car?"

And if you look at the images,

映像を見てもらうと分かりますが

it's, even for humans, quite impossible to get the steering right.

人間でもちゃんと運転するのが かなり難しいものです

「さあディープラーニングのコンペだ

And we ran a competition and said, "It's a deep learning competition,

AI コンペをしようよう」と言って

AI competition,"

and we gave the students 48 hours.

学生に48時間与えたんです

So if you are a software house like Google or Facebook,

GoogleやFacebookのような ソフトウェア企業でも

something like this costs you at least six months of work.

このようなものには 最低半年はかかります

So we figured 48 hours is great.

だから48時間でできたら すごいものです

And within 48 hours, we got about 100 submissions from students,

48時間で100人の学生が提出し

特に上位４人のものは完璧でした

and the top four got it perfectly right.

It drives better than I could drive on this imagery,

この映像に対して 私がやるよりも上手く運転するんです

using deep learning.

ディープラーニングを使ってです

And again, it's the same methodology.

これも同じ手法で

It's this magical thing.

魔法のようですが

When you give enough data to a computer now,

今やコンピューターは 十分なデータと

and give enough time to comprehend the data,

それを咀嚼するための 十分な時間があれば

it finds its own rules.

自分でルールを 見つけ出すんです

CA: And so that has led to the development of powerful applications

(アンダーソン) それによって あらゆる領域で

強力なアプリケーションが 開発されるようになったわけですね

in all sorts of areas.

You were talking to me the other day about cancer.

先日ガンの話を していただきましたが

Can I show this video?

あのビデオを 出しましょうか？

ST: Yeah, absolutely, please. CA: This is cool.

(スラン) お願いします (アンダーソン) これはすごいですよ

(スラン) これはまったく異なる分野で

ST: This is kind of an insight into what's happening

in a completely different domain.

得られた知見です

これは高度な専門家であり

This is augmenting, or competing --

年に40万ドル稼ぐ

it's in the eye of the beholder --

皮膚科医を

with people who are being paid 400,000 dollars a year,

見方によっては 支援するとも

競合するとも 言えるものです

dermatologists,

highly trained specialists.

It takes more than a decade of training to be a good dermatologist.

優れた皮膚科医になるには 10年におよぶ修行が必要です

What you see here is the machine learning version of it.

これは機械学習版の 皮膚科医で

ニューラルネットワークを 使っています

It's called a neural network.

"Neural networks" is the technical term for these machine learning algorithms.

「ニューラルネットワーク」というのは こういう機械学習アルゴリズムを指す専門用語で

They've been around since the 1980s.

1980年代頃から 研究されています

This one was invented in 1988 by a Facebook Fellow called Yann LeCun,

ここに出ているのはFacebookのフェローである ヤン・ルカンが1988年に作ったもので

and it propagates data stages

人の脳のように

段階的にデータが 伝播するようになっています

through what you could think of as the human brain.

It's not quite the same thing, but it emulates the same thing.

脳と同じわけではありませんが 模倣したものです

It goes stage after stage.

段階的になっています

In the very first stage, it takes the visual input and extracts edges

最初の段階で 視覚的な入力から

へりや棒や点を抽出します

and rods and dots.

次の段階で もう少し複雑なへりや形

And the next one becomes more complicated edges

and shapes like little half-moons.

半月形なんかを 取り出します

And eventually, it's able to build really complicated concepts.

最終的には非常に複雑な概念を 構成することができます

Andrew Ng has been able to show

アンドリュー･エンは

that it's able to find cat faces and dog faces

膨大な量の画像から

猫の顔や犬の顔を見付けられる ようになることを示しました

in vast amounts of images.

What my student team at Stanford has shown is that

スタンフォードの 私の学生のチームは

if you train it on 129,000 images of skin conditions,

黒色腫や癌腫を含む

12万9千の皮膚疾患例で AIをトレーニングすることにより

including melanoma and carcinomas,

you can do as good a job

最高の皮膚科医並の仕事が

as the best human dermatologists.

可能になることを 示しました

And to convince ourselves that this is the case,

それを検証するため

we captured an independent dataset that we presented to our network

AIのトレーニングに使ったのとは 別のデータを

and to 25 board-certified Stanford-level dermatologists,

AIと 25人のスタンフォードの 認定皮膚科医に診断させて

and compared those.

結果を比較しました

And in most cases,

ほとんどのケースで

they were either on par or above the performance classification accuracy

AIは人間の皮膚科医に 匹敵するか

それ以上の精度で 分類することができました

of human dermatologists.

CA: You were telling me an anecdote.

(アンダーソン) この画像に関する

I think about this image right here.

ある逸話を伺いましたが

What happened here?

どんなことが あったんでしょう？

ST: This was last Thursday. That's a moving piece.

(スラン) これは先週の木曜のことで 進展し続けている話なんです

What we've shown before and we published in "Nature" earlier this year

今年初めにネイチャー誌で 発表したのは

was this idea that we show dermatologists images

皮膚科医と コンピュータープログラムに

and our computer program images,

画像で診断させたら

and count how often they're right.

どんな精度になるか ということでした

But all these images are past images.

使った画像はすべて 過去の症例です

They've all been biopsied to make sure we had the correct classification.

生研をして正しい分類の 分かっているものです

これは違いました

This one wasn't.

This one was actually done at Stanford by one of our collaborators.

協力してくれているスタンフォードの医者が 診断したものです

The story goes that our collaborator,

その協力者というのは

世界で３本の指に入るような 高名な皮膚科医なんですが

who is a world-famous dermatologist, one of the three best, apparently,

looked at this mole and said, "This is not skin cancer."

この写真の痣を見て 「皮膚癌ではないな」と言いました

And then he had a second moment, where he said,

でもそれから考え直して

「ちょっとアプリでチェックしてみよう」と

"Well, let me just check with the app."

iPhoneを取り出し

So he took out his iPhone and ran our piece of software,

「ポケット皮膚科医」とも言うべき 私たちのアプリで調べたところ

our "pocket dermatologist," so to speak,

and the iPhone said: cancer.

ガンという結果が出ました

It said melanoma.

悪性黒色腫だと

And then he was confused.

彼は戸惑いましたが

And he decided, "OK, maybe I trust the iPhone a little bit more than myself,"

「まあ自分よりは iPhoneの方が幾分信頼できるしな」と

and he sent it out to the lab to get it biopsied.

生検に回すことにしました

And it came up as an aggressive melanoma.

進行性の悪性黒色腫という結果でした

So I think this might be the first time that we actually found,

ディープラーニングがなかったら

in the practice of using deep learning,

見落とされていたであろう

悪性黒色腫が見つかったという

an actual person whose melanoma would have gone unclassified,

これは最初の事例になると思います

had it not been for deep learning.

CA: I mean, that's incredible.

(アンダーソン) すごいものですね

(Applause)

(拍手)

It feels like there'd be an instant demand for an app like this right now,

そのようなアプリに対しては すぐにも需要がありそうです

that you might freak out a lot of people.

多くの人が殺到するかも

Are you thinking of doing this, making an app that allows self-checking?

みんなが自分で診断できるアプリを 作ろうとは思っていますか？

(スラン) 私の受信箱を 溢れさせているのは

ST: So my in-box is flooded about cancer apps,

ガンのアプリについての 胸が痛むような話が書かれたメールです

with heartbreaking stories of people.

I mean, some people have had 10, 15, 20 melanomas removed,

黒色腫を10個とか20個とか 取り除いたけど

and are scared that one might be overlooked, like this one,

こういうのが見落とされてや しないかと不安なんです

and also, about, I don't know,

他にも 空飛ぶ車や

flying cars and speaker inquiries these days, I guess.

講演依頼のメールもありますが

My take is, we need more testing.

でも もっとテストが 必要だと思っています

I want to be very careful.

すごく慎重に進めたいです

It's very easy to give a flashy result and impress a TED audience.

見かけ倒しの結果で 聴衆を感心させるのは簡単ですが

It's much harder to put something out that's ethical.

倫理的なちゃんとしたものを出すのは 大変なことです

And if people were to use the app

人々が私たちのアプリを使って

and choose not to consult the assistance of a doctor

医者にかからず

because we get it wrong,

それで間違いがあったりしたら

I would feel really bad about it.

とても申し訳なく思います

So we're currently doing clinical tests,

今 臨床試験をやっていますが

and if these clinical tests commence and our data holds up,

それで確証が得られれば

we might be able at some point to take this kind of technology

いつか このような技術を

大学病院から外の世界に出して

and take it out of the Stanford clinic

and bring it to the entire world,

スタンフォードの医者が 行けないような場所で

places where Stanford doctors never, ever set foot.

使えるように できるかもしれません

CA: And do I hear this right,

(アンダーソン) 私の理解が正しいなら

that it seemed like what you were saying,

あなたはUdacityの学生の

because you are working with this army of Udacity students,

集団の力を使い

ある意味 企業で行われているのとは 違う形で

that in a way, you're applying a different form of machine learning

than might take place in a company,

機械学習を集合知と

which is you're combining machine learning with a form of crowd wisdom.

組み合わせているように見えます

そのようなやり方は

Are you saying that sometimes you think that could actually outperform

巨大企業でさえ出し抜くことが できるかもしれないと思いますか？

what a company can do, even a vast company?

(スラン) 度肝を抜かれるような 事例があり

ST: I believe there's now instances that blow my mind,

まだ理解しようと 努めているところなんですが—

and I'm still trying to understand.

What Chris is referring to is these competitions that we run.

クリスが言ったのは 私たちのやっているコンペのことです

We turn them around in 48 hours,

マウンテンビューから サンフランシスコまで

and we've been able to build a self-driving car

一般道を自律走行できる車を

that can drive from Mountain View to San Francisco on surface streets.

作ることができました

Googleが７年間開発してきたものと 同等とは行きませんが

It's not quite on par with Google after seven years of Google work,

but it's getting there.

かなり近くまで行き

And it took us only two engineers and three months to do this.

２人のエンジニアで ３ヶ月しかかかりませんでした

And the reason is, we have an army of students

その理由は

コンペに参加する 大勢の学生がいたからです

who participate in competitions.

クラウドソーシングを使っているのは 私たちばかりではありません

We're not the only ones who use crowdsourcing.

Uber and Didi use crowdsource for driving.

UberやDidiは運転について クラウドソーシングを使っています

Airbnb uses crowdsourcing for hotels.

Airbnbは宿泊業について クラウドソーシングを使っています

There's now many examples where people do bug-finding crowdsourcing

今では沢山のことに使われていて バグの発見や

タンパク質の折り畳みなど 様々なクラウドソーシングがあります

or protein folding, of all things, in crowdsourcing.

But we've been able to build this car in three months,

この自動運転車を ３ヶ月で作れたことで

so I am actually rethinking

企業の組織の仕方について

how we organize corporations.

考え直すようになりました

We have a staff of 9,000 people who are never hired,

採用したわけでもなく

解雇することもない スタッフが９千人います

that I never fire.

They show up to work and I don't even know.

知りもしない人たちが 働きにやってきます

Then they submit to me maybe 9,000 answers.

そして９千通りの答えを 送ってきます

I'm not obliged to use any of those.

それを使わなければならない わけでもありません

I end up -- I pay only the winners,

優勝者にだけ 賞金を出します

so I'm actually very cheapskate here, which is maybe not the best thing to do.

しみったれで いいことではないかもしれませんが

But they consider it part of their education, too, which is nice.

彼らが教育の一環と考えてくれるのは ありがたいことです

But these students have been able to produce amazing deep learning results.

そういう学生たちがディープラーニングで 目を見張るような結果を出しています

優れた人たちと 優れた機械学習の組み合わせは 実に素晴らしいものです

So yeah, the synthesis of great people and great machine learning is amazing.

(アンダーソン) TED2017の初日に ガルリ・カスパロフが話したことですが

CA: I mean, Gary Kasparov said on the first day [of TED2017]

that the winners of chess, surprisingly, turned out to be two amateur chess players

チェスのトーナメントで 優勝したのは驚いたことに

２人のアマチュアのチェスプレーヤーと ３台の普通のパソコンの組み合わせで

with three mediocre-ish, mediocre-to-good, computer programs,

それがグランドマスターと スーパーコンピューターを破り

that could outperform one grand master with one great chess player,

like it was all part of the process.

それはそういう流れの一部なのだと

And it almost seems like you're talking about a much richer version

あなたの話されているのは

それをさらに すごいものに したように見えます

of that same idea.

ST: Yeah, I mean, as you followed the fantastic panels yesterday morning,

(スラン) 昨日の朝に

「ロボットの支配者」と「人間的反応」という

two sessions about AI,

AI関係の素晴らしい セッションが２つあって

robotic overlords and the human response,

many, many great things were said.

いろいろ興味深い話がありました

But one of the concerns is that we sometimes confuse

懸念されるのは AIが実際にやっていることと

what's actually been done with AI with this kind of overlord threat,

意識を持ったAIによる 支配の脅威のような話が

where your AI develops consciousness, right?

混同されることです

The last thing I want is for my AI to have consciousness.

AIに一番持って欲しくないものが意識です

I don't want to come into my kitchen

台所に行ったら

and have the refrigerator fall in love with the dishwasher

冷蔵庫と皿洗い機が 恋に落ちていて

and tell me, because I wasn't nice enough,

私の態度が悪いと 食品を冷やしてくれないなどというのは

my food is now warm.

勘弁して欲しいです

I wouldn't buy these products, and I don't want them.

そんな製品を買う気はないし 欲しくありません

But the truth is, for me,

私に言わせるなら

AI has always been an augmentation of people.

AIは常に人間を 拡張するものでした

It's been an augmentation of us,

人間を拡張し

to make us stronger.

増強するものです

And I think Kasparov was exactly correct.

カスパロフはまさに正しくて

It's been the combination of human smarts and machine smarts

人間の知恵と機械の知恵の 組み合わせによって

that make us stronger.

私たちは強くなれるのです

The theme of machines making us stronger is as old as machines are.

機械が人間を強くするというあり方は 機械の始まりからありました

The agricultural revolution took place because it made steam engines

農業革命が起きても

蒸気機関や農機具が 自分で農業をできるわけではなく

and farming equipment that couldn't farm by itself,

人間を置き換えはしませんでした 人間を強くしたのです

that never replaced us; it made us stronger.

And I believe this new wave of AI will make us much, much stronger

このAIの新しい波は

種としての人類を ずっと強いものにするでしょう

as a human race.

CA: We'll come on to that a bit more,

(アンダーソン) その点については 後で取り上げたいと思いますが

but just to continue with the scary part of this for some people,

人々がAIに対して抱く 恐怖についてもう少し話しましょう

like, what feels like it gets scary for people is when you have

人々が恐れているのは

コンピューターが自分のコードを 書き換えるということです

a computer that can, one, rewrite its own code,

so, it can create multiple copies of itself,

自分のコピーをいくつも作り

沢山の違うバージョンを試し

try a bunch of different code versions,

それはランダムに かもしれませんが

possibly even at random,

and then check them out and see if a goal is achieved and improved.

それから目標が達成されたか 改善されたかをチェックします

So, say the goal is to do better on an intelligence test.

たとえば目標は知能テストで 良い点を取ることだとしましょう

You know, a computer that's moderately good at that,

コンピューターが そこそこ得意とすることで

何百万というバージョンを 試すことができます

you could try a million versions of that.

You might find one that was better,

それでより良いものが 見つかるかもしれず

and then, you know, repeat.

それを繰り返していきます

And so the concern is that you get some sort of runaway effect

そこで懸念されるのは ある種の暴走が起きることです

where everything is fine on Thursday evening,

木曜の夜には 何の問題もなかったのが

and you come back into the lab on Friday morning,

金曜の朝に戻ってみると

コンピューターの スピードやなんかのため

and because of the speed of computers and so forth,

物事が突如として とんでもないことになりかねない

things have gone crazy, and suddenly --

ST: I would say this is a possibility,

(スラン) 可能性はあるにしても

but it's a very remote possibility.

小さなものだと思います

So let me just translate what I heard you say.

あなたの言われたことを 言い換えてみましょう

In the AlphaGo case, we had exactly this thing:

AlphaGoでは まさにそういうことがありました

the computer would play the game against itself

コンピューターが 自分自身を相手に対局をして

新たなルールを学びました

and then learn new rules.

And what machine learning is is a rewriting of the rules.

機械学習というのは ルールの書き換えであり

It's the rewriting of code.

コードの書き換えです

But I think there was absolutely no concern

しかしAlphaGoが 世界を支配するという懸念は

that AlphaGo would take over the world.

まったくないでしょう

It can't even play chess.

チェスさえできないのです

CA: No, no, no, but now, these are all very single-domain things.

(アンダーソン) そりゃ 今はみんな 限られた１つの領域のことしかできませんが

But it's possible to imagine.

想像することはできますよね

I mean, we just saw a computer that seemed nearly capable

大学入試に合格できる コンピューターというのを

of passing a university entrance test,

目にしたばかりです

コンピューターは私たちがするように 読んだり理解したりすることはできませんが

that can kind of -- it can't read and understand in the sense that we can,

but it can certainly absorb all the text

あらゆる文章を取り込んで

and maybe see increased patterns of meaning.

意味のパターンを 見出していくかもしれません

Isn't there a chance that, as this broadens out,

それがもっと広がって

別種の暴走効果が起きることは あり得ませんか？

there could be a different kind of runaway effect?

ST: That's where I draw the line, honestly.

(スラン) そこは一線を画しておきたいところです

And the chance exists -- I don't want to downplay it --

可能性はあり 見くびるつもりはありませんが

but I think it's remote, and it's not the thing that's on my mind these days,

それは小さく 私の心を占めてはいません

大きな革命的なことは 別にあると思うからです

because I think the big revolution is something else.

Everything successful in AI to the present date

これまでのAIで成功したものは

has been extremely specialized,

すべてごく特化したものであり

and it's been thriving on a single idea,

１つのアイデアに基づいています—

which is massive amounts of data.

すなわち膨大な量のデータです

The reason AlphaGo works so well is because of massive numbers of Go plays,

AlphaGoが ああもうまくいった理由は 膨大な数の碁の対局にあり

and AlphaGo can't drive a car or fly a plane.

AlphaGoには車の運転も 飛行機の操縦もできません

The Google self-driving car or the Udacity self-driving car

GoogleやUdacityの自動運転車は

thrives on massive amounts of data, and it can't do anything else.

膨大なデータを糧にしており 他のことは何もできず

オートバイの制御さえできません

It can't even control a motorcycle.

It's a very specific, domain-specific function,

特定の領域に特化したもので

and the same is true for our cancer app.

ガンのアプリも それは同じことです

There has been almost no progress on this thing called "general AI,"

「汎用人工知能」と呼ばれるものについては ほとんど何も進展がありません

where you go to an AI and say, "Hey, invent for me special relativity

一般相対論とか 超弦理論を作ってくれと

or string theory."

頼めるようなAIはありません

It's totally in the infancy.

まったくの初期段階なんです

The reason I want to emphasize this,

この点を強調するのは

I see the concerns, and I want to acknowledge them.

不安を目にしていて それは認めたいからです

But if I were to think about one thing,

しかし私が何か １つのことを考えるとしたら

I would ask myself the question, "What if we can take anything repetitive

私が問いたい疑問は

「繰り返し的なものを何か取り上げて 100倍効率化できるとしたらどうか？」ということです

and make ourselves 100 times as efficient?"

It so turns out, 300 years ago, we all worked in agriculture

300年前には みんな農業をやっていて

and did farming and did repetitive things.

繰り返し的なことを していました

Today, 75 percent of us work in offices

今日では75%の人は オフィスで働いていて

and do repetitive things.

繰り返し的なことを しています

We've become spreadsheet monkeys.

私たちはスプレッドシート奴隷になったのです

And not just low-end labor.

低レベルの労働 だけじゃありません

We've become dermatologists doing repetitive things,

皮膚科医も 繰り返し的なことをしているし

lawyers doing repetitive things.

弁護士も 繰り返し的なことをしています

I think we are at the brink of being able to take an AI,

AIが私たちの肩越しに見ていて

繰り返し的なことを10倍とか50倍とか 効率化してくれるという時代が

look over our shoulders,

and they make us maybe 10 or 50 times as effective in these repetitive things.

間もなくやってくる だろうと思います

That's what is on my mind.

それが私の考えていることです

CA: That sounds super exciting.

(アンダーソン) すごくワクワクすることですね

The process of getting there seems a little terrifying to some people,

そこへ至る道のりは ある人々には怖いものかもしれません

コンピューターが 繰り返し的なことを

because once a computer can do this repetitive thing

皮膚科医やドライバーよりも

much better than the dermatologist

or than the driver, especially, is the thing that's talked about

ずっと上手くできるようになったなら

今やよく話題になることですが

so much now,

suddenly millions of jobs go,

突如 何百万という職が 失われることになり

and, you know, the country's in revolution

それで可能になる輝かしい部分を 手にする前に

before we ever get to the more glorious aspects of what's possible.

社会は革命的な状況を 経ることになるでしょう

ST: Yeah, and that's an issue, and it's a big issue,

(スラン) それは確かに問題で 大きな問題です

and it was pointed out yesterday morning by several guest speakers.

昨日の朝のセッションでも 何人かのスピーカーが触れていました

ステージに上がる前に

Now, prior to me showing up onstage,

I confessed I'm a positive, optimistic person,

私はポジティブで楽観的な人間だと 打ち明けましたが

so let me give you an optimistic pitch,

ひとつ楽観的な意見を 言わせてください

which is, think of yourself back 300 years ago.

300年前のことを 考えてみてください

Europe just survived 140 years of continuous war,

ヨーロッパは140年もの間 戦争に明け暮れ

none of you could read or write,

誰も読み書きできず

there were no jobs that you hold today,

皆さんのしているような仕事は 何もありませんでした

like investment banker or software engineer or TV anchor.

投資銀行家にせよ ソフトウェアエンジニアにせよ ニュースキャスターにせよ

We would all be in the fields and farming.

みんな野に出て 農業をしていました

Now here comes little Sebastian with a little steam engine in his pocket,

そこへ小さなセバスチャンが ポケットに小さな蒸気機関を入れてやってきます

saying, "Hey guys, look at this.

「ねえ みんな これを見てよ

It's going to make you 100 times as strong, so you can do something else."

みんな100倍も強くなって 他のことができるよ」

And then back in the day, there was no real stage,

当時はこんなステージは ありませんでしたが

but Chris and I hang out with the cows in the stable,

クリスと私は家畜小屋の 牛の側で話していて

and he says, "I'm really concerned about it,

彼が言います 「すごく懸念しているよ

僕は毎日牛の乳を搾ってるけど それを機械がするようになったらどうなるかと」

because I milk my cow every day, and what if the machine does this for me?"

The reason why I mention this is,

なんでこんな話を しているかというと

we're always good in acknowledging past progress and the benefit of it,

私たちは過去における進歩と その恩恵については良く理解できます

like our iPhones or our planes or electricity or medical supply.

iPhoneとか 飛行機とか 電気とか 医薬品とか

We all love to live to 80, which was impossible 300 years ago.

私たちは80まで生きたいと思っていますが 300年前には無理な相談でした

But we kind of don't apply the same rules to the future.

しかし私たちは同じルールを 未来には適用しないのです

So if I look at my own job as a CEO,

私のCEOとしての仕事を 振り返ってみると

I would say 90 percent of my work is repetitive,

９割は繰り返し的で

楽しいものではありません

I don't enjoy it,

I spend about four hours per day on stupid, repetitive email.

毎日４時間を繰り返し的で 馬鹿みたいなメールに費やしています

And I'm burning to have something that helps me get rid of this.

それをやらなくて済むように してくれるものを切望しています

Why?

なぜか？

Because I believe all of us are insanely creative;

それは私たちはみんな ものすごくクリエイティブだと思うからです

I think the TED community more than anybody else.

TEDのコミュニティは ことのほかそうでしょう

But even blue-collar workers; I think you can go to your hotel maid

でもブルーカラーの人であっても そうなんです

ホテルのメイドを捕まえて 一緒に飲んでご覧なさい

and have a drink with him or her,

and an hour later, you find a creative idea.

１時間後にはきっとクリエイティブな アイデアを手にしています

What this will empower is to turn this creativity into action.

AIの力によって 創造力を現実のものに 変えられるようになるでしょう

Like, what if you could build Google in a day?

もしGoogleを１日で 作れるとしたらどうしますか？

What if you could sit over beer and invent the next Snapchat,

ビール片手に 次のSnapchatになるものを思い付き

whatever it is,

それが何であれ

and tomorrow morning it's up and running?

翌朝には運用開始できるとしたら？

And that is not science fiction.

それがもう SFではなくなるのです

What's going to happen is,

これから起きることは

we are already in history.

歴史上すでに 経験していることです

We've unleashed this amazing creativity

農作業からの解放

後には工場労働からの 解放によって

by de-slaving us from farming

and later, of course, from factory work

ものすごい創造性が溢れ出て

and have invented so many things.

多くのものが生み出されました

今回のはさらに すごいものになるでしょう

It's going to be even better, in my opinion.

And there's going to be great side effects.

そして素晴らしい 副作用もあります

One of the side effects will be

副作用の１つは

that things like food and medical supply and education and shelter

食べ物や医薬品や 教育や住居や輸送などが

金持ちだけでなく

and transportation

will all become much more affordable to all of us,

みんなにとって

ずっと手に入り やすくなることです

not just the rich people.

CA: Hmm.

(アンダーソン) なるほど

So when Martin Ford argued, you know, that this time it's different

マーティン･フォードは 今回は違うと主張していて

because the intelligence that we've used in the past

それは過去には 知恵によって

新たな方法を 見付けていましたが

to find new ways to be

will be matched at the same pace

コンピューターが 同じペースで

by computers taking over those things,

そういうことも やるようになるからだと

what I hear you saying is that, not completely,

しかしあなたは 人間の創造性のため

because of human creativity.

完全に淘汰はされない というわけですね

Do you think that that's fundamentally different from the kind of creativity

人間の創造性は

コンピューターにできることとは 根本的に異なるとお考えですか？

that computers can do?

ST: So, that's my firm belief as an AI person --

(スラン) これはAIの専門家として 強く信じていることですが

that I haven't seen any real progress on creativity

創造性や独創的思考という面で

本当の進展というのは 見られません

and out-of-the-box thinking.

What I see right now -- and this is really important for people to realize,

私が見ていることに みんなも気付いて欲しいんですが

because the word "artificial intelligence" is so threatening,

「人工知能」という言葉は すごく怖いものに見え

and then we have Steve Spielberg tossing a movie in,

コンピューターが突如として 支配者となる映画を作る

where all of a sudden the computer is our overlord,

スピルバーグのような人もいますが

but it's really a technology.

でもそれは テクノロジーにすぎないのです

It's a technology that helps us do repetitive things.

私たちが繰り返し的なことをする 手助けをしてくれるテクノロジーです

And the progress has been entirely on the repetitive end.

進歩が見られるのは 繰り返し的な部分です

It's been in legal document discovery.

法務的な資料を 見付けるとか

It's been contract drafting.

契約書の草稿を 作成するとか

It's been screening X-rays of your chest.

胸のX線写真の 検査をするとか

And these things are so specialized,

そういったことは とても特化したことであり

I don't see the big threat of humanity.

人類への脅威が あるとは思いません

In fact, we as people --

私たち人間こそが 超人になるんです

I mean, let's face it: we've become superhuman.

向き合いましょう

We've made us superhuman.

私たちは自らを 超人にしたのです

We can swim across the Atlantic in 11 hours.

大西洋を11時間で泳ぎ渡るとか

We can take a device out of our pocket

ポケットから装置を出して

and shout all the way to Australia,

遙か彼方のオーストラリアにいる人に叫び

and in real time, have that person shouting back to us.

リアルタイムで向こうからも 叫び返してくるとか

That's physically not possible. We're breaking the rules of physics.

物理的に無理なことで 物理法則を破っているのです

When this is said and done, we're going to remember everything

できた暁には

見聞きしたことすべて

we've ever said and seen,

会った人すべてを 記憶するようになるでしょう

you'll remember every person,

which is good for me in my early stages of Alzheimer's.

それはアルツハイマー気味の私には ありがたいことです

何の話でしたっけ？

Sorry, what was I saying? I forgot.

(アンダーソン) ハハハ

CA: (Laughs)

(スラン) 私たちのIQは 1,000以上にもなるでしょう

ST: We will probably have an IQ of 1,000 or more.

There will be no more spelling classes for our kids,

私たちの子供には 綴り字の授業なんかなくなるでしょう

because there's no spelling issue anymore.

綴りの問題はなくなるので

There's no math issue anymore.

数学の問題もなくなります

And I think what really will happen is that we can be super creative.

そして起きることは みんながすごく クリエイティブになれるということです

And we are. We are creative.

実際 私たちはクリエイティブなんです

That's our secret weapon.

それが人類の秘密兵器です

CA: So the jobs that are getting lost,

(アンダーソン) 仕事は失われることになり

in a way, even though it's going to be painful,

痛みは伴うにしても

humans are capable of more than those jobs.

人類にはそれ以上のことができると

This is the dream.

夢ですね

新たなレベルの力と 発見の世界へと

The dream is that humans can rise to just a new level of empowerment

人類が引き上げられる

and discovery.

それが夢なのだと

That's the dream.

ST: And think about this:

(スラン) 考えてみてください

人類の歴史を見れば

if you look at the history of humanity,

that might be whatever -- 60-100,000 years old, give or take --

６〜10万年というところですが

almost everything that you cherish in terms of invention,

発明とか技術とか

私たちがありがたいと思う 作られたもののほとんどは

of technology, of things we've built,

has been invented in the last 150 years.

この150年間に 発明されています

If you toss in the book and the wheel, it's a little bit older.

まあ本とか車輪は もう少し古いですが

Or the axe.

あと斧も

でも電話とか スニーカーとか

But your phone, your sneakers,

these chairs, modern manufacturing, penicillin --

この椅子とか 現代的な製造技術 ペニシリン

the things we cherish.

私たちがありがたいと思うものの 多くがそうです

Now, that to me means

これからの150年で

the next 150 years will find more things.

人類はさらに多くのものを 発見するでしょう

In fact, the pace of invention has gone up, not gone down, in my opinion.

物事が発明されるペースは 遅くではなく早くなっています

興味深いもので既に発明されているのは 1%くらいのものだろうと思います

I believe only one percent of interesting things have been invented yet. Right?

まだガンを治癒できるように なっていません

We haven't cured cancer.

We don't have flying cars -- yet. Hopefully, I'll change this.

空飛ぶ車をまだ持っていません それを変えたいと思っていますが

That used to be an example people laughed about. (Laughs)

空飛ぶ車というのは 笑いのネタにされることでした (笑)

可笑しくないですか？ 密かに空飛ぶ車に取り組んでいるというのは

It's funny, isn't it? Working secretly on flying cars.

We don't live twice as long yet. OK?

まだ寿命を２倍に 延ばせてはいません

We don't have this magic implant in our brain

欲しい情報をくれる 魔法のインプラントを

that gives us the information we want.

頭の中に持ってはいません

And you might be appalled by it,

ぞっとするかもしれませんが

but I promise you, once you have it, you'll love it.

１度付けたら 気に入るはずだと思いますよ

I hope you will.

そう望みます

It's a bit scary, I know.

ちょっと怖い感じはしますが

There are so many things we haven't invented yet

人類が発明するだろうもので

まだ発明されていないものは 沢山あります

that I think we'll invent.

重力シールドはありません

We have no gravity shields.

別の場所に人間を ビーム転送できません

We can't beam ourselves from one location to another.

馬鹿げたことに聞こえますが

That sounds ridiculous,

200年前には

but about 200 years ago,

飛行は不可能だと 専門家が言っていたんです

experts were of the opinion that flight wouldn't exist,

120年前でさえそうです

even 120 years ago,

and if you moved faster than you could run,

走れるよりも早く移動したら

死んでしまうと

you would instantly die.

So who says we are correct today that you can't beam a person

地球から火星に 人間をビームでは送れないと

from here to Mars?

誰に言えるでしょう？

CA: Sebastian, thank you so much

(アンダーソン) 素晴らしく 刺激的なビジョンを見せていただき

for your incredibly inspiring vision and your brilliance.

ありがとうございました

Thank you, Sebastian Thrun.

セバスチャン・スランでした

That was fantastic. (Applause)

素晴らしかった (拍手)