Jeff Dean: AI isn't as smart as you think -- but it could be | TED

翻訳: Yasushi Aoki 校正: Emi Atarashi

Hi, I'm Jeff.

どうも ジェフです

I lead AI Research and Health at Google.

GoogleでＡＩ研究と ヘルス関連を担当しています

I joined Google more than 20 years ago,

私がGoogleに入ったのは 20年以上前で

when we were all wedged into a tiny office space,

当時のオフィスは パロアルトの街中にあり

above what's now a T-Mobile store in downtown Palo Alto.

今はＴモバイルのお店がある建物ですが 窮屈なものでした

I've seen a lot of computing transformations in that time,

コンピューターの進化を ずっと見てきて

and in the last decade, we've seen AI be able to do tremendous things.

特にこの十年でＡＩにすごいことが できるようになりましたが

But we're still doing it all wrong in many ways.

依然多くのことが まずいやり方でなされています

That's what I want to talk to you about today.

それについてお話ししようと 思いますが

But first, let's talk about what AI can do.

その前にＡＩに何ができるのかを お話ししましょう

So in the last decade, we've seen tremendous progress

この十年のＡＩの発展で

コンピューターによる 画像の認識力や

in how AI can help computers see, understand language,

言葉や音声の理解力が 大幅に向上し

understand speech better than ever before.

Things that we couldn't do before, now we can do.

前にはできなかったことが できるようになりました

If you think about computer vision alone,

コンピュータービジョンに限っても

just in the last 10 years,

この十年で

computers have effectively developed the ability to see;

コンピューターは 「見る能力」を獲得し

10 years ago, they couldn't see, now they can see.

前には見えなかったものが 見えるようになったことで

You can imagine this has had a transformative effect

コンピューターにできることが 大きく変わりました

on what we can do with computers.

この能力によって可能になった 重要な応用をいくつか挙げると

So let's look at a couple of the great applications

enabled by these capabilities.

機械学習で 優れた洪水予測をし

We can better predict flooding, keep everyone safe,

人々の安全を 守れるようになり

using machine learning.

100以上の言語を 翻訳することで

We can translate over 100 languages so we all can communicate better,

人々の意思疎通を助け

病気の予測や診断をして

and better predict and diagnose disease,

人々が適切な処置を 受けられるようになりました

where everyone gets the treatment that they need.

So let's look at two key components

今日のＡＩの進歩を支えている 重要な要素が２つあります

that underlie the progress in AI systems today.

The first is neural networks,

１つはニューラルネットです

a breakthrough approach to solving some of these difficult problems

今挙げたような難しい問題を解く 画期的な手法で

that has really shone in the last 15 years.

この15年で目覚ましい成果を 出していますが

But they're not a new idea.

アイデア自体は 新しくありません

And the second is computational power.

もう１つは処理能力です

It actually takes a lot of computational power

ニューラルネットを 本当に機能させるためには

to make neural networks able to really sing,

非常に多くの処理能力を 必要としますが

and in the last 15 years, we’ve been able to halve that,

この15年でそれが 得られるようになり

and that's partly what's enabled all this progress.

それがこの進歩の 要因になっています

But at the same time, I think we're doing several things wrong,

一方でいろいろ間違ったやり方を していることもあり

and that's what I want to talk to you about

後でそのことを お話ししますが

at the end of the talk.

First, a bit of a history lesson.

まずは少し歴史を 振り返りましょう

So for decades,

コンピューターの黎明期から

almost since the very beginning of computing,

何十年にもわたって

画像や言葉や音声を 理解できるコンピューターを

people have wanted to be able to build computers

that could see, understand language, understand speech.

人々は作りたいと 思ってきました

The earliest approaches to this, generally,

初期のやり方では

people were trying to hand-code all the algorithms

そういう難しい作業を実行する アルゴリズムを

that you need to accomplish those difficult tasks,

すべて手で書いていましたが

and it just turned out to not work very well.

あまり上手くいきませんでした

But in the last 15 years, a single approach

しかしこの15年で あるひとつの手法によって

unexpectedly advanced all these different problem spaces all at once:

そういう様々な問題領域が 予想外に発展しました

neural networks.

それがニューラルネットです

So neural networks are not a new idea.

ニューラルネットは 新しいアイデアではなく

They're kind of loosely based

生物の神経系のある種の特質に 基づいています

on some of the properties that are in real neural systems.

And many of the ideas behind neural networks

ニューラルネットの要素の多くは

have been around since the 1960s and 70s.

1960〜70年代頃にできました

A neural network is what it sounds like,

ニューラルネットは言葉の通り

a series of interconnected artificial neurons

人工的な神経が相互結合していて

that loosely emulate the properties of your real neurons.

生物の神経に似た 挙動をします

An individual neuron in one of these systems

このシステムの 個々の神経には

has a set of inputs,

複数の入力と

each with an associated weight,

それぞれの係数があり

and the output of a neuron

入力に重み付けした関数値が 出力になります

is a function of those inputs multiplied by those weights.

So pretty simple,

ごくシンプルなものです

and lots and lots of these work together to learn complicated things.

そのような多数の神経が一緒になって 複雑なことを学習します

So how do we actually learn in a neural network?

ニューラルネットで 学習はどのように行われるのか？

It turns out the learning process

学習プロセスでは

consists of repeatedly making tiny little adjustments

係数への微調整を 繰り返し行い

to the weight values,

strengthening the influence of some things,

あるものの影響を強め

weakening the influence of others.

他のものの影響を弱めます

By driving the overall system towards desired behaviors,

システム全体を 望ましい挙動に導いていくことで

these systems can be trained to do really complicated things,

非常に複雑なことが できるようになります

ある言語から別の言語へと 翻訳するとか

like translate from one language to another,

写真に写っているものを 検出するといった

detect what kind of objects are in a photo,

all kinds of complicated things.

複雑なことです

私がニューラルネットに 興味を持ったのは

I first got interested in neural networks

when I took a class on them as an undergraduate in 1990.

1990年に大学の授業で 聞いた時でした

At that time,

当時のニューラルネットは

neural networks showed impressive results on tiny problems,

ごく小さな問題に対しては 感心するような結果を出しましたが

but they really couldn't scale to do real-world important tasks.

現実的な問題に適用できるほど 規模を拡大できませんでした

But I was super excited.

それでも私は すごく興奮しました

(Laughter)

(笑)

I felt maybe we just needed more compute power.

処理能力がもっと必要なだけだと

And the University of Minnesota had a 32-processor machine.

ミネソタ大学には 32プロセッサマシンがあって

I thought, "With more compute power,

高い処理能力があれば

boy, we could really make neural networks really sing."

ニューラルネットで すごいことができるはずだと思いました

So I decided to do a senior thesis on parallel training of neural networks,

卒論ではニューラルネットの 並列トレーニングに取り組むことにしました

the idea of using processors in a computer or in a computer system

コンピューターのプロセッサを いっぱい同時に使って

to all work toward the same task,

ニューラルネットのトレーニングを させようというアイデアです

that of training neural networks.

32 processors, wow,

32個もプロセッサがあれば

we’ve got to be able to do great things with this.

きっとすごいことができると

But I was wrong.

でも間違っていました

Turns out we needed about a million times as much computational power

ニューラルネットですごいことが できるようになるには

as we had in 1990

1990年当時の 百万倍の処理能力が

before we could actually get neural networks to do impressive things.

必要だったのです

But starting around 2005,

しかし2005年頃から

thanks to the computing progress of Moore's law,

ムーアの法則のおかげで

we actually started to have that much computing power,

それくらいの処理能力が 得られるようになり

and researchers in a few universities around the world started to see success

いくつかの大学の研究者たちが 様々な種類のタスクについて

in using neural networks for a wide variety of different kinds of tasks.

ニューラルネットで 結果を出し始めました

I and a few others at Google heard about some of these successes,

Googleでも私や他の何人かが そういう成功について耳にし

and we decided to start a project to train very large neural networks.

大規模なニューラルネットをトレーニングする プロジェクトに着手しました

One system that we trained,

あるシステムでは

we trained with 10 million randomly selected frames

YouTubeからランダムに抽出した ビデオのコマ１千万個を使って

from YouTube videos.

トレーニングをし

The system developed the capability

様々な物体が識別できる ようになりました

to recognize all kinds of different objects.

And it being YouTube, of course,

YouTubeを使ったので

it developed the ability to recognize cats.

猫を認識する能力が 発達しました

YouTube is full of cats.

YouTubeは猫だらけですから

(Laughter)

(笑)

But what made that so remarkable

これが注目に値するのは

is that the system was never told what a cat was.

このシステムは猫が何であるかを 全く教えられていなかったということです

So using just patterns in data,

ただデータの中のパターンから

the system honed in on the concept of a cat all on its own.

猫の概念を自分で 見つけ出したのです

All of this occurred at the beginning of a decade-long string of successes,

それを手始めとして

多様な問題をニューラルネットで解決する 10年に及ぶ成功の連続が

of using neural networks for a huge variety of tasks,

at Google and elsewhere.

Googleやその他の場所で起き

Many of the things you use every day,

その成果の多くが 日常的に使われています

things like better speech recognition for your phone,

スマートフォンの音声認識機能

improved understanding of queries and documents

検索精度を上げる 質問や文章の理解

for better search quality,

better understanding of geographic information to improve maps,

より良い地図のための 地理的情報の理解などです

and so on.

Around that time,

同時に

we also got excited about how we could build hardware that was better tailored

ニューラルネットに必要な種類の 計算に適した

ハードの開発にも 熱中しました

to the kinds of computations neural networks wanted to do.

ニューラルネットの計算には ２つの特質があります

Neural network computations have two special properties.

１つは精度がそこまで 必要ないこと

The first is they're very tolerant of reduced precision.

Couple of significant digits, you don't need six or seven.

有効数字は6、7桁も必要なく 2、3桁でいいのです

And the second is that all the algorithms are generally composed

もう１つは ニューラルネットの アルゴリズムは

of different sequences of matrix and vector operations.

行列やベクトルの操作で 構成されていること

So if you can build a computer

だから低精度の行列や ベクトルの演算だけ

that is really good at low-precision matrix and vector operations

非常に上手くできる コンピューターを作れば

but can't do much else,

that's going to be great for neural-network computation,

他の用途には使えなくとも

ニューラルネットの計算で 力を発揮するはずで

even though you can't use it for a lot of other things.

そいうものができたなら 人々は 素晴らしい使い道を見つけ出すでしょう

And if you build such things, people will find amazing uses for them.

これが私たちの最初に作った TPU v1です

This is the first one we built, TPU v1.

"TPU" stands for Tensor Processing Unit.

TPUというのは「テンソル・ プロセッシング・ユニット」の略です

These have been used for many years behind every Google search,

TPUは何年も前から Goolge検索のたび背後で使われています

for translation,

機械翻訳にも使われているし

in the DeepMind AlphaGo matches,

アルファ碁の対局でも 使われました

so Lee Sedol and Ke Jie maybe didn't realize,

李世ドルや柯潔は知らなかった かもしれませんが

but they were competing against racks of TPU cards.

彼らはTPUカードのラックを相手に 対戦していたのです

And we've built a bunch of subsequent versions of TPUs

その後TPUはバージョンを重ね

that are even better and more exciting.

さらにすごいものに なっています

But despite all these successes,

そのような成功にもかかわらず

I think we're still doing many things wrong,

私たちは未だ多くのことを 間違ったやり方でしていると思っていて

and I'll tell you about three key things we're doing wrong,

重要な問題点３つと

その解決法について お話しします

and how we'll fix them.

１つ目は 今日のニューラルネットの多くは

The first is that most neural networks today

are trained to do one thing, and one thing only.

単一の作業だけをするよう トレーニングされているということ

You train it for a particular task that you might care deeply about,

関心のある特定の作業について トレーニングをしますが

but it's a pretty heavyweight activity.

とても手間がかかります

You need to curate a data set,

データを集め

you need to decide what network architecture you'll use

どのようなネットワーク構造に するかを決め

for this problem,

you need to initialize the weights with random values,

ランダムな値で 初期の重み付けをし

apply lots of computation to make adjustments to the weights.

重みを調節するために 膨大な処理を行います

And at the end, if you’re lucky, you end up with a model

上手くいけば

関心のある作業に対して 優れたモデルが得られますが

that is really good at that task you care about.

But if you do this over and over,

そのようなことを 繰り返していると

you end up with thousands of separate models,

何千もの個別のモデルができ

each perhaps very capable,

それぞれは役に立つにしても

but separate for all the different tasks you care about.

作業の種類ごとに別のモデルが 必要になります

But think about how people learn.

一方で人間の学び方は どうでしょう

In the last year, many of us have picked up a bunch of new skills.

この一年で皆さん様々なスキルを 新たに身につけたことと思います

I've been honing my gardening skills,

私は園芸のスキルを磨いていて

experimenting with vertical hydroponic gardening.

垂直水耕栽培を試しています

To do that, I didn't need to relearn everything I already knew about plants.

そのために植物について既に知っていることを 一から学び直す必要はありません

I was able to know how to put a plant in a hole,

穴にタネを植えるとか

how to pour water, that plants need sun,

水をやるとか 日光が必要とか

and leverage that in learning this new skill.

そういう知識を 新スキルの学習に生かせます

Computers can work the same way, but they don’t today.

コンピューターだって同じようにできるはずですが 現在はそうなっていません

If you train a neural network from scratch,

ニューラルネットを一から トレーニングするというのは

it's effectively like forgetting your entire education

新たなことに取り組むたびに

過去に受けた教育を 全て忘れるようなものです

every time you try to do something new.

That’s crazy, right?

馬鹿げてますよね

So instead, I think we can and should be training

そうではなく 何千何万という異なるタスクを行える

multitask models that can do thousands or millions of different tasks.

マルチタスクのモデルを トレーニングすべきなのです

Each part of that model would specialize in different kinds of things.

モデルのそれぞれの部分が 異なることに特化しています

And then, if we have a model that can do a thousand things,

1000種類のことができる モデルができれば

and the thousand and first thing comes along,

1001番目の種類のタスクに 取り組む時

we can leverage the expertise we already have

既に持っている関連した 能力を生かせ

in the related kinds of things

so that we can more quickly be able to do this new task,

新種のタスクを速やかに こなせるようになります

just like you, if you're confronted with some new problem,

皆さんもそうするでしょう 新たな問題に直面した時

既に知っていることが 17ばかりあることにすぐ気付き

you quickly identify the 17 things you already know

that are going to be helpful in solving that problem.

それはその問題の解決に 役に立つはずです

Second problem is that most of our models today

問題点の２つ目は

今日のモデルの多くは １種類のデータしか扱わないこと

deal with only a single modality of data --

with images, or text or speech,

画像とか 文字とか 音声とかありますが

but not all of these all at once.

同時に全部は扱いません

でも自分がどういう風にしているか 考えてみてください

But think about how you go about the world.

You're continuously using all your senses

絶えずすべての感覚を駆使して

to learn from, react to,

学び 反応し 取るべき行動を 判断しているでしょう

figure out what actions you want to take in the world.

その方が理にかなっているし

Makes a lot more sense to do that,

and we can build models in the same way.

ＡＩのモデルも そのように作れるはずで

We can build models that take in these different modalities of input data,

文字や 画像や 音声といった

様々な種類の入力データを 受け取ったなら

text, images, speech,

but then fuse them together,

それを融合させ

so that regardless of whether the model sees the word "leopard,"

例えば「ヒョウ」という言葉を見た時も

sees a video of a leopard or hears someone say the word "leopard,"

ヒョウの映像を見た時も 誰かが「ヒョウ」と言ったのを聞いた時も

the same response is triggered inside the model:

モデルの中で同じ反応が 引き起こされるようにします

the concept of a leopard

そうやって得られる ヒョウという概念は

can deal with different kinds of input data,

様々な種類の入力データに 対応できます

even nonhuman inputs, like genetic sequences,

画像や 文字や ビデオに加え

3D clouds of points, as well as images, text and video.

遺伝子配列や 三次元点雲のようなものにまで

The third problem is that today's models are dense.

問題点の３つ目は 今日のモデルが密であること

There's a single model,

どのタスクに対しても

the model is fully activated for every task,

モデルの全体が活性化され

for every example that we want to accomplish,

やりたいのがごく単純な問題でも 非常に複雑な問題でも

whether that's a really simple or a really complicated thing.

同じように処理されます

This, too, is unlike how our own brains work.

これもまた人間の脳の働き方とは 異なっています

Different parts of our brains are good at different things,

脳の部位はそれぞれが 異なることに特化していて

and we're continuously calling upon the pieces of them

処理する問題に関連した部位が 活性化します

that are relevant for the task at hand.

For example, nervously watching a garbage truck

例えば ゴミ収集車が 自分の車の方にバックしてくるのを

back up towards your car,

ハラハラ見ている時には

the part of your brain that thinks about Shakespearean sonnets

シェークスピアのソネットを 鑑賞する脳の部位は

is probably inactive.

たぶん活性化していないでしょう

(Laughter)

(笑)

AI models can work the same way.

ＡＩモデルも同様にできるはずです

Instead of a dense model,

密なモデルではなく

we can have one that is sparsely activated.

疎らに活性化されるようなモデルで

So for particular different tasks, we call upon different parts of the model.

作業によって 異なる部位が呼び出されます

During training, the model can also learn which parts are good at which things,

トレーニングにおいて モデルはどの部分が どんなことに向いているかも学び

to continuously identify what parts it wants to call upon

新たな作業を行うにあたって

どの部位を呼び出せばいいかが わかるようにします

in order to accomplish a new task.

The advantage of this is we can have a very high-capacity model,

これの利点は

非常に容量が大きくかつ 効率の良いモデルだということで

but it's very efficient,

because we're only calling upon the parts that we need

作業ごとに必要な部分だけが 使われるのです

for any given task.

So fixing these three things, I think,

この３つの問題点を解決することで

will lead to a more powerful AI system:

より強力なＡＩができると思います

instead of thousands of separate models,

何千という別個のモデルを 作る代わりに

train a handful of general-purpose models

汎用的なモデルを いくつかトレーニングして

that can do thousands or millions of things.

何千何万という問題に 対応できるようにすること

Instead of dealing with single modalities,

単一の種類のデータを 扱う代わりに

deal with all modalities,

あらゆる種類のデータを融合させて 扱えるようにすること

and be able to fuse them together.

And instead of dense models, use sparse, high-capacity models,

密なモデルの代わりに 疎らで高容量なモデルを用い

where we call upon the relevant bits as we need them.

必要な部位だけ 呼び出されるようにすること

We've been building a system that enables these kinds of approaches,

私たちはこのようなやり方を可能にする システムを構築しており

and we’ve been calling the system “Pathways.”

それを「パスウェイ」と 呼んでいます

So the idea is this model will be able to do

何千何万という異なる種類の 作業を行えて

thousands or millions of different tasks,

and then, we can incrementally add new tasks,

新たな作業を徐々に 追加していくことができ

and it can deal with all modalities at once,

様々な種類のデータを 同時に扱え

and then incrementally learn new tasks as needed

必要に応じて新たな作業を学び

and call upon the relevant bits of the model

異なるタスクに対して 異なる部位が呼び出されるというものです

for different examples or tasks.

And we're pretty excited about this,

これにはとてもワクワクしていて

we think this is going to be a step forward

ＡＩの作り方を前進されることに なると思っています

in how we build AI systems.

But I also wanted to touch on responsible AI.

あと責任あるＡＩについても 触れたいと思います

We clearly need to make sure that this vision of powerful AI systems

この強力なＡＩのビジョンは

すべての人の利益になるものに する必要があります

benefits everyone.

These kinds of models raise important new questions

このようなモデルを

すべての利用者にとっての 公正さ 理解可能性

about how do we build them with fairness,

interpretability, privacy and security,

プライバシー 安全性を確保しながら いかに構築するかというのは

for all users in mind.

重要な新しい問題です

For example, if we're going to train these models

例えば何千何万という作業について モデルをトレーニングするには

on thousands or millions of tasks,

we'll need to be able to train them on large amounts of data.

大量のデータが必要になります

And we need to make sure that data is thoughtfully collected

データは思慮深く集め

and is representative of different communities and situations

世界の様々なコミュニティや状況を

よく反映したものにする 必要があります

all around the world.

And data concerns are only one aspect of responsible AI.

データの問題は責任あるＡＩの ひとつの側面にすぎず

We have a lot of work to do here.

やるべきことは たくさんあります

So in 2018, Google published this set of AI principles

2018年にGoogleは

このような技術の開発における指針となる ＡＩの原則を公開し

by which we think about developing these kinds of technology.

And these have helped guide us in how we do research in this space,

それをこの分野における 研究のやり方や

当社製品でＡＩをどう使うかを 決める上で役立てています

how we use AI in our products.

And I think it's a really helpful and important framing

そういった深く複雑な問題を どう考えるか

for how to think about these deep and complex questions

社会においてＡＩを どう使うべきかについて

about how we should be using AI in society.

これはとても有用で重要な見方を 与えてくれると思います

We continue to update these as we learn more.

原則は学びに応じて 更新していきます

このような原則は 重要で活発な研究領域になっています

Many of these kinds of principles are active areas of research --

super important area.

Moving from single-purpose systems that kind of recognize patterns in data

データの中のパターンを認識するような 単一用途のシステムから

to these kinds of general-purpose intelligent systems

世界についてより深く理解している 汎用知的システムへと進めることで

that have a deeper understanding of the world

will really enable us to tackle

人類が直面する大きな問題への 対応が可能になるでしょう

some of the greatest problems humanity faces.

For example,

例えば より多くの病気を 診断するとか

we’ll be able to diagnose more disease;

we'll be able to engineer better medicines

モデルに化学や物理の知識を 取り込んで

by infusing these models with knowledge of chemistry and physics;

より優れた薬を開発するとか

we'll be able to advance educational systems

各人に個別化した 教え方をして

by providing more individualized tutoring

人々がよりよく 学べるようにし

to help people learn in new and better ways;

教育システムを 改善するとか

we’ll be able to tackle really complicated issues,

気候変動のような 非常に複雑な問題にも

like climate change,

取り組めるようになり

and perhaps engineering of clean energy solutions.

クリーンエネルギーの解決法を 見出せるかもしれません

So really, all of these kinds of systems

そのようなシステムには

are going to be requiring the multidisciplinary expertise

世界中の人々の分野を横断した

of people all over the world.

専門知識が必要になります

So connecting AI with whatever field you are in,

進歩のために

皆さんの様々な専門領域と ＡＩを繋ぎ合わせるのです

in order to make progress.

So I've seen a lot of advances in computing,

この数十年のコンピューターの 進歩によって

and how computing, over the past decades,

何百何千万という人々が世界をより良く 理解できるようになるのを見てきました

has really helped millions of people better understand the world around them.

And AI today has the potential to help billions of people.

ＡＩは何十億という人々を 助けられる可能性があります

We truly live in exciting times.

我々は本当にすごい時代に 生きているのです

Thank you.

ありがとうございました

(Applause)

(拍手)

Chris Anderson: Thank you so much.

(クリス・アンダーソン) ありがとうございました

I want to follow up on a couple things.

いくつか質問があります

This is what I heard.

聞いた話だと

Most people's traditional picture of AI

多くの人のＡＩの理解は

コンピューターが 情報のパターンを認識し

is that computers recognize a pattern of information,

and with a bit of machine learning,

機械学習によって

they can get really good at that, better than humans.

その認識力は人間以上になりうる というものですが

What you're saying is those patterns

あなたのお話では

ＡＩが扱うパターンは もはや単純なものではなく

are no longer the atoms that AI is working with,

that it's much richer-layered concepts

より高度な概念で

that can include all manners of types of things

例えばヒョウを構成する あらゆるものというような

that go to make up a leopard, for example.

様々な種類のものになる ということですが

So what could that lead to?

それはどういうところに 進んで行くのでしょう？

Give me an example of when that AI is working,

そういうＡＩによって

what do you picture happening in the world

今後の 5年10年で どんなすごいことが 起こると考えているのか

in the next five or 10 years that excites you?

お聞かせください

Jeff Dean: I think the grand challenge in AI

(ディーン) ＡＩにおける大きな問題は

is how do you generalize from a set of tasks

すでにやり方を知っている作業から 新しい作業へと

you already know how to do

to new tasks,

できる限り容易に どう一般化するかということです

as easily and effortlessly as possible.

And the current approach of training separate models for everything

それぞれの問題に別のモデルという 現在のようなトレーニングのやり方だと

means you need lots of data about that particular problem,

個別の問題に膨大なデータが 必要になります

because you're effectively trying to learn everything

何もないところから

世界とその問題について 学ぼうとすることになるからです

about the world and that problem, from nothing.

But if you can build these systems

でも何千何万という作業のやり方を 覚えているシステムを作れれば

that already are infused with how to do thousands and millions of tasks,

then you can effectively teach them to do a new thing

新たな作業のやり方を教えるのに

比較的少ない例を 与えるだけで済みます

with relatively few examples.

So I think that's the real hope,

それはとても希望を持てることで

that you could then have a system where you just give it five examples

何か関心のある問題について ５つばかり例を与えるだけで

of something you care about,

and it learns to do that new task.

その種の問題が 解けるようになるんですから

CA: You can do a form of self-supervised learning

(アンダーソン) ごくわずかなシードだけで

ある種の自己教師あり学習ができると

that is based on remarkably little seeding.

JD: Yeah, as opposed to needing 10,000 or 100,000 examples

(ディーン) ええ 1万とか10万という 例は必要とせずに

to figure everything in the world out.

世界にあるものを 理解していくんです

CA: Aren't there kind of terrifying unintended consequences

(アンダーソン) そこから何か意図しない 恐ろしいことが起きたりはしませんか？

possible, from that?

JD: I think it depends on how you apply these systems.

(ディーン) システムをどう 適用するかによると思います

It's very clear that AI can be a powerful system for good,

ＡＩは強力な良いシステムにもなり得るし

or if you apply it in ways that are not so great,

まずい使い方をすれば

it can be a negative consequence.

良くない結果を引き起こし得ます

So I think that's why it's important to have a set of principles

原則を持つのが重要なのはそのためで

by which you look at potential uses of AI

ＡＩの潜在的な使われ方を検討し

and really are careful and thoughtful about how you consider applications.

どう使うかについて 思慮深くしようというわけです

CA: One of the things people worry most about

(アンダーソン) 人々が 懸念する点のひとつは

is that, if AI is so good at learning from the world as it is,

ＡＩは現状の世界から学ぶことに 優れているため

it's going to carry forward into the future

本当は良くないことを

aspects of the world as it is that actually aren't right, right now.

そのまま未来に持ち越してしまうの ではないかということです

And there's obviously been a huge controversy about that

最近もGoogleで 物議を醸すことがあり

recently at Google.

ＡＩ開発の原則を

Some of those principles of AI development,

you've been challenged that you're not actually holding to them.

Google自身が守ってないと 責められています

Not really interested to hear about comments on a specific case,

個別のケースについて ご意見を伺おうとは思いませんが

but ... are you really committed?

Googleは真剣に 取り組んでいるのでしょうか？

How do we know that you are committed to these principles?

本気だと私たちに どうすればわかるのか？

単なるPRなのか それとも本当に 日々の活動の核になっているのか？

Is that just PR, or is that real, at the heart of your day-to-day?

JD: No, that is absolutely real.

(ディーン) 真剣にやっていますよ

Like, we have literally hundreds of people

これに関連した研究に 携わっている人が

working on many of these related research issues,

うちには何百人もいます

because many of those things are research topics

そういったものが研究分野として 確立しているんです

in their own right.

How do you take data from the real world,

あるべき世界でなく

that is the world as it is, not as we would like it to be,

あるがままの世界から データをどう取得するのか

and how do you then use that to train a machine-learning model

それを使って機械学習モデルを どうトレーニングし

and adapt the data bit of the scene

どうデータを調整ないしは 補足することで

or augment the data with additional data

so that it can better reflect the values we want the system to have,

見たままの世界の価値観でなく

持って欲しい価値観を 反映したものにできるのかと

not the values that it sees in the world?

CA: But you work for Google,

(アンダーソン) でもあなたは Googleで働いており

Google is funding the research.

研究費はGoogleから出ていますよね

How do we know that the main values that this AI will build

構築されるＡＩの価値観が 世界のためのものであり

are for the world,

広告収益を最大化する ためのものではないと

and not, for example, to maximize the profitability of an ad model?

どうすれば私たちに わかるでしょう？

When you know everything there is to know about human attention,

人間の関心について あらゆることを知っていれば

拗けた暗い面についても 知ることになるでしょう

you're going to know so much

about the little wriggly, weird, dark parts of us.

あなたのグループでは

In your group, are there rules about how you hold off,

政教分離のルールは あるのでしょうか？

church-state wall between a sort of commercial push,

商業的な「この目的でやらねばならない」 という圧力を跳ね除けて

"You must do it for this purpose,"

so that you can inspire your engineers and so forth,

世界のため人々のためになるよう 技術者たちを鼓舞できるような？

to do this for the world, for all of us.

JD: Yeah, our research group does collaborate

(ディーン) 私たちの研究グループは

広告部門 検索部門 マップ部門をはじめ

with a number of groups across Google,

including the Ads group, the Search group, the Maps group,

Googleの様々な部門と共同しており

確かに内輪の協力関係はありますが

so we do have some collaboration, but also a lot of basic research

一般に公開される基礎研究も たくさんしています

that we publish openly.

去年は様々なトピックで 千本以上の論文を発表していて

We've published more than 1,000 papers last year

in different topics, including the ones you discussed,

機械学習モデルの公正さや 理解可能性のような

about fairness, interpretability of the machine-learning models,

ここで議論してきたような ものもあります

things that are super important,

とても重要な問題です

and we need to advance the state of the art in this

モデルが安全で責任ある形で 開発されることを確かにしつつ

in order to continue to make progress

進歩させていくために

to make sure these models are developed safely and responsibly.

この分野を発展させる 必要があります

CA: It feels like we're at a time when people are concerned

(アンダーソン) 技術系の大企業の力に

人々が懸念を抱いている時

about the power of the big tech companies,

and it's almost, if there was ever a moment to really show the world

開発がより良い未来のために なされており

that this is being done to make a better future,

それが人々にとってだけでなく Googleの未来にとっても重要なのだと

that is actually key to Google's future,

世界に示す時があるとしたら

as well as all of ours.

それは今なのだと感じます

JD: Indeed.

(ディーン) まったくです

CA: It's very good to hear you come and say that, Jeff.

(アンダーソン) 今回来てそう言っていただけて 本当に良かったです

Thank you so much for coming here to TED.

TEDに来ていただき ありがとうございました

JD: Thank you.

(ディーン) こちらこそ

(Applause)

(拍手)