How computers are learning to be creative | Blaise Agüera y Arcas

452,941 views ・ 2016-07-22

TED


下の英語字幕をダブルクリックすると動画を再生できます。

翻訳: Kaori Nozaki 校正: Yasushi Aoki
00:12
So, I lead a team at Google that works on machine intelligence;
0
12800
3124
私はGoogleで 機械知能に取り組む 開発チームを率いています
00:15
in other words, the engineering discipline of making computers and devices
1
15948
4650
機械知能とは コンピューターや いろいろな種類の端末に
人間の脳のような機能を 持たせるための技術です
00:20
able to do some of the things that brains do.
2
20622
2419
00:23
And this makes us interested in real brains
3
23439
3099
仕事上 私たちは 人間の脳の働きや
00:26
and neuroscience as well,
4
26562
1289
神経科学に関心があり
00:27
and especially interested in the things that our brains do
5
27875
4172
脳が未だコンピューターより はるかに優れている領域に
00:32
that are still far superior to the performance of computers.
6
32071
4042
特に興味を持っています
00:37
Historically, one of those areas has been perception,
7
37209
3609
そのような領域として 古くから認識されていたのは 知覚です
00:40
the process by which things out there in the world --
8
40842
3039
知覚とは 外界に存在するもの―
00:43
sounds and images --
9
43905
1584
つまり 音や映像のようなものを
00:45
can turn into concepts in the mind.
10
45513
2178
心の中の概念に 変えるプロセスです
00:48
This is essential for our own brains,
11
48235
2517
これは 人間の脳に 本質的に備わっている能力ですが
00:50
and it's also pretty useful on a computer.
12
50776
2464
コンピューターにも 有用なものです
00:53
The machine perception algorithms, for example, that our team makes,
13
53636
3350
例えば 私の部署で作っている 機械知覚アルゴリズムは
00:57
are what enable your pictures on Google Photos to become searchable,
14
57010
3874
Googleフォトの画像を
写っているものに基づいて 検索できるようにする技術です
01:00
based on what's in them.
15
60908
1397
01:03
The flip side of perception is creativity:
16
63594
3493
一方 知覚と対照的なものに 創造性があります
創造性とは 概念を 何かの形で世に生み出すことです
01:07
turning a concept into something out there into the world.
17
67111
3038
01:10
So over the past year, our work on machine perception
18
70173
3555
この1年の我々の 機械知覚への取り組みの中で
01:13
has also unexpectedly connected with the world of machine creativity
19
73752
4859
コンピューターによる創造 「機械芸術」の世界との
01:18
and machine art.
20
78635
1160
意外な接点を見ました
01:20
I think Michelangelo had a penetrating insight
21
80556
3284
ミケランジェロには 先見の明があり
01:23
into to this dual relationship between perception and creativity.
22
83864
3656
この「知覚と創造の二重の関係」を 見ていたのだと思います
彼は 有名な言葉を残しています
01:28
This is a famous quote of his:
23
88023
2006
01:30
"Every block of stone has a statue inside of it,
24
90053
3323
「どんな石の塊にも 彫像が隠れており
彫刻家の仕事は その像を見出すことである」
01:34
and the job of the sculptor is to discover it."
25
94036
3002
01:38
So I think that what Michelangelo was getting at
26
98029
3216
ミケランジェロが気づいていたのは
01:41
is that we create by perceiving,
27
101269
3180
我々は 知覚によって 創造しているということで
01:44
and that perception itself is an act of imagination
28
104473
3023
知覚自体が 想像する行為であり
01:47
and is the stuff of creativity.
29
107520
2461
創造的なものだということです
01:50
The organ that does all the thinking and perceiving and imagining,
30
110691
3925
人体の中で 思考 知覚 想像を行う器官は
01:54
of course, is the brain.
31
114640
1588
言うまでもなく 脳です
01:57
And I'd like to begin with a brief bit of history
32
117089
2545
そこで 脳科学の歩みについて
01:59
about what we know about brains.
33
119658
2302
簡単に振り返りましょう
02:02
Because unlike, say, the heart or the intestines,
34
122496
2446
心臓や腸などとは違い
02:04
you really can't say very much about a brain by just looking at it,
35
124966
3144
脳については 外観からは 分からないことが多いからです
02:08
at least with the naked eye.
36
128134
1412
少なくとも 肉眼で見た場合には
02:09
The early anatomists who looked at brains
37
129983
2416
脳に注目した 昔の解剖学者たちは
02:12
gave the superficial structures of this thing all kinds of fanciful names,
38
132423
3807
脳の外部構造を見て しゃれた名前を付けました
02:16
like hippocampus, meaning "little shrimp."
39
136254
2433
例えば「海馬」 これは タツノオトシゴのことです
02:18
But of course that sort of thing doesn't tell us very much
40
138711
2764
しかし そのように付けられた名前は
その働きについて ほとんど何も示していません
02:21
about what's actually going on inside.
41
141499
2318
02:24
The first person who, I think, really developed some kind of insight
42
144780
3613
脳内で起きていることについて 本当の知見を初めて得たのは
02:28
into what was going on in the brain
43
148417
1930
19世紀の 偉大な スペイン人神経解剖学者
02:30
was the great Spanish neuroanatomist, Santiago Ramón y Cajal,
44
150371
3920
サンティアゴ・ラモン・イ・カハールだと
02:34
in the 19th century,
45
154315
1544
私は思います
02:35
who used microscopy and special stains
46
155883
3755
彼は顕微鏡と 選択的に染める特殊な染料を使って
02:39
that could selectively fill in or render in very high contrast
47
159662
4170
脳内の個々の細胞を 非常にはっきりした形で
02:43
the individual cells in the brain,
48
163856
2008
見られるようにし
02:45
in order to start to understand their morphologies.
49
165888
3154
そこから 形態学的理解が 進むようになりました
02:49
And these are the kinds of drawings that he made of neurons
50
169972
2891
19世紀に 彼が描いた 神経のイメージは
02:52
in the 19th century.
51
172887
1209
このようなものでした
02:54
This is from a bird brain.
52
174120
1884
これは 鳥の脳です
02:56
And you see this incredible variety of different sorts of cells,
53
176028
3057
このように 驚くほど 多様な細胞があります
02:59
even the cellular theory itself was quite new at this point.
54
179109
3435
当時は 細胞説自体が ごく新しいものでした
03:02
And these structures,
55
182568
1278
この構造 この細胞には
03:03
these cells that have these arborizations,
56
183870
2259
樹状突起があります
03:06
these branches that can go very, very long distances --
57
186153
2608
この突起は 非常に長く伸びうるのですが
03:08
this was very novel at the time.
58
188785
1616
これも 当時は目新しいことでした
03:10
They're reminiscent, of course, of wires.
59
190779
2903
樹状突起は 配線のようにも見えます
03:13
That might have been obvious to some people in the 19th century;
60
193706
3457
このことは 19世紀の一部の人には 一目瞭然だったかもしれません
03:17
the revolutions of wiring and electricity were just getting underway.
61
197187
4314
電気による革命が進み 配線が普及し始めた時代だったからです
03:21
But in many ways,
62
201964
1178
しかし いろいろな面で
03:23
these microanatomical drawings of Ramón y Cajal's, like this one,
63
203166
3313
ラモン・イ・カハールが提示した 微細解剖学的な図は
03:26
they're still in some ways unsurpassed.
64
206503
2332
ある意味 今なお越えられていません
03:28
We're still more than a century later,
65
208859
1854
1世紀を経た今も 我々は
03:30
trying to finish the job that Ramón y Cajal started.
66
210737
2825
ラモン・イ・カハールが始めた仕事を 完成させようと試み続けています
03:33
These are raw data from our collaborators
67
213586
3134
これは 我々が提携している
マックス・プランク神経科学研究所による 生のデータです
03:36
at the Max Planck Institute of Neuroscience.
68
216744
2881
03:39
And what our collaborators have done
69
219649
1790
彼らが行ったのは
03:41
is to image little pieces of brain tissue.
70
221463
5001
脳の組織の小さな断片を 可視化するということです
03:46
The entire sample here is about one cubic millimeter in size,
71
226488
3326
この試料全体の大きさは 1立方ミリメートルで
03:49
and I'm showing you a very, very small piece of it here.
72
229838
2621
今 お見せしているのは そのごく一部です
03:52
That bar on the left is about one micron.
73
232483
2346
左の棒の長さが 1ミクロンです
03:54
The structures you see are mitochondria
74
234853
2409
ご覧の構造は ミトコンドリアで
03:57
that are the size of bacteria.
75
237286
2044
大きさとしては バクテリアと同程度です
03:59
And these are consecutive slices
76
239354
1551
ごく小さな組織片の
04:00
through this very, very tiny block of tissue.
77
240929
3148
連続的断面を映しています
04:04
Just for comparison's sake,
78
244101
2403
比較のために言うと
04:06
the diameter of an average strand of hair is about 100 microns.
79
246528
3792
髪の毛の直径は 平均約100ミクロンです
04:10
So we're looking at something much, much smaller
80
250344
2274
ご覧のものは 髪の毛の直径よりも
04:12
than a single strand of hair.
81
252642
1398
はるかに小さいんです
04:14
And from these kinds of serial electron microscopy slices,
82
254064
4031
このような 電子顕微鏡による 連続断面像から
ニューロンの3次元像を 再構成できます
04:18
one can start to make reconstructions in 3D of neurons that look like these.
83
258119
5008
04:23
So these are sort of in the same style as Ramón y Cajal.
84
263151
3157
ここでは ラモン・イ・カハールが したのと同じように
ごく一部のニューロンだけを示しています
04:26
Only a few neurons lit up,
85
266332
1492
04:27
because otherwise we wouldn't be able to see anything here.
86
267848
2781
そうしなければ あまりに密集していて
04:30
It would be so crowded,
87
270653
1312
わけが分からなくなってしまいます
04:31
so full of structure,
88
271989
1330
ニューロンは 互いに結合し合った —
04:33
of wiring all connecting one neuron to another.
89
273343
2724
非常に複雑な構造をしているためです
04:37
So Ramón y Cajal was a little bit ahead of his time,
90
277293
2804
ラモン・イ・カハールは 時代の先を行っていて
脳に対する理解は
04:40
and progress on understanding the brain
91
280121
2555
04:42
proceeded slowly over the next few decades.
92
282700
2271
その後の数十年で ゆっくりと進んでいきました
04:45
But we knew that neurons used electricity,
93
285455
2853
やがて ニューロンは 電気を使っていることが発見され
04:48
and by World War II, our technology was advanced enough
94
288332
2936
第二次世界大戦の頃には
仕組みの解明のため 生きたニューロンを使って
04:51
to start doing real electrical experiments on live neurons
95
291292
2806
電気的な実験ができるくらいに 技術が進歩しました
04:54
to better understand how they worked.
96
294122
2106
04:56
This was the very same time when computers were being invented,
97
296631
4356
ほぼ同時期に コンピューターも発明されましたが
これは 人間の脳をモデル化するという アイデアに基づいていました
05:01
very much based on the idea of modeling the brain --
98
301011
3100
05:04
of "intelligent machinery," as Alan Turing called it,
99
304135
3085
コンピュータ科学の父の1人である アラン・チューリングは
05:07
one of the fathers of computer science.
100
307244
1991
これを「知的機械」と呼びました
05:09
Warren McCulloch and Walter Pitts looked at Ramón y Cajal's drawing
101
309923
4632
そしてウォーレン・マカロックと ウォルター・ピッツが
ラモン・イ・カハールの 視覚野の図に 目を向けました
05:14
of visual cortex,
102
314579
1317
05:15
which I'm showing here.
103
315920
1562
今 ここでお見せしているものです
05:17
This is the cortex that processes imagery that comes from the eye.
104
317506
4442
これは 目から受け取ったイメージを 処理する皮質です
05:22
And for them, this looked like a circuit diagram.
105
322424
3508
2人には これが 回路図のように見えました
05:26
So there are a lot of details in McCulloch and Pitts's circuit diagram
106
326353
3835
マカロックとピッツの回路図の 細かい部分には
05:30
that are not quite right.
107
330212
1352
間違いが たくさんありますが
05:31
But this basic idea
108
331588
1235
その基本的な概念
05:32
that visual cortex works like a series of computational elements
109
332847
3992
つまり 視覚野は一連の 計算要素のように働き
05:36
that pass information one to the next in a cascade,
110
336863
2746
段階的に情報を 受け渡していくという概念は
05:39
is essentially correct.
111
339633
1602
本質的に正しいものでした
05:41
Let's talk for a moment
112
341259
2350
ここで 少し時間を取って
05:43
about what a model for processing visual information would need to do.
113
343633
4032
視覚情報処理が どんなことをするのか 説明しようと思います
05:48
The basic task of perception
114
348228
2741
知覚の基本的な仕事は
05:50
is to take an image like this one and say,
115
350993
4194
このような画像を見て 識別をすることです
05:55
"That's a bird,"
116
355211
1176
「あれは鳥だ」と
05:56
which is a very simple thing for us to do with our brains.
117
356411
2874
人間の脳は この処理を簡単にやってのけますが
05:59
But you should all understand that for a computer,
118
359309
3421
コンピューターにとっては難問で
06:02
this was pretty much impossible just a few years ago.
119
362754
3087
数年前までは ほとんど不可能でした
06:05
The classical computing paradigm
120
365865
1916
従来の コンピューターの構造は
06:07
is not one in which this task is easy to do.
121
367805
2507
こういうタスクには不向きなんです
06:11
So what's going on between the pixels,
122
371366
2552
鳥のピクセル画像と
06:13
between the image of the bird and the word "bird,"
123
373942
4028
「鳥」という言葉の間にあるのは
06:17
is essentially a set of neurons connected to each other
124
377994
2814
ニューラルネットワークの中の
結合しあった 一連のニューロンです
06:20
in a neural network,
125
380832
1155
図示すると こうなります
06:22
as I'm diagramming here.
126
382011
1223
06:23
This neural network could be biological, inside our visual cortices,
127
383258
3272
このニューラルネットワークは 視覚野内に生物学的なものとして存在し
06:26
or, nowadays, we start to have the capability
128
386554
2162
また最近では コンピューター上に
06:28
to model such neural networks on the computer.
129
388740
2454
モデル化できるようになりました
06:31
And I'll show you what that actually looks like.
130
391834
2353
どのように動作するか お見せしましょう
06:34
So the pixels you can think about as a first layer of neurons,
131
394211
3416
画像は ニューロンの 第1層を示しています
06:37
and that's, in fact, how it works in the eye --
132
397651
2239
これは目で言うと
06:39
that's the neurons in the retina.
133
399914
1663
網膜内のニューロンに相当します
06:41
And those feed forward
134
401601
1500
情報は
06:43
into one layer after another layer, after another layer of neurons,
135
403125
3403
ニューロンの1つの層から別の層へと 次々と受け渡され
06:46
all connected by synapses of different weights.
136
406552
3033
ニューロン同士は 重みの異なる シナプスでつながれています
06:49
The behavior of this network
137
409609
1335
このネットワークの動作は
06:50
is characterized by the strengths of all of those synapses.
138
410968
3284
シナプス結合の 強さによって変わり
06:54
Those characterize the computational properties of this network.
139
414276
3288
それが ネットワークの 計算的特徴を決めます
06:57
And at the end of the day,
140
417588
1470
そうして最終的には
06:59
you have a neuron or a small group of neurons
141
419082
2447
少数のニューロン群が反応し
07:01
that light up, saying, "bird."
142
421553
1647
「鳥」だと認識されます
07:03
Now I'm going to represent those three things --
143
423824
3132
ここで3つの対象物 ―
07:06
the input pixels and the synapses in the neural network,
144
426980
4696
入力されたピクセル ニューラルネットワーク内のシナプス
07:11
and bird, the output --
145
431700
1585
出力である「鳥」
07:13
by three variables: x, w and y.
146
433309
3057
この3つを 「x」「w」「y」と置きましょう
07:16
There are maybe a million or so x's --
147
436853
1811
xは 画像中のピクセルなので
07:18
a million pixels in that image.
148
438688
1953
100万個くらいあり
07:20
There are billions or trillions of w's,
149
440665
2446
wは数十億から数兆個
07:23
which represent the weights of all these synapses in the neural network.
150
443135
3421
ニューラルネット内の全シナプスの 結合強度を表します
07:26
And there's a very small number of y's,
151
446580
1875
このネットワークからの 出力である
07:28
of outputs that that network has.
152
448479
1858
yの個数はごくわずかです
07:30
"Bird" is only four letters, right?
153
450361
1749
「bird」は たった4文字ですよね?
07:33
So let's pretend that this is just a simple formula,
154
453088
3426
ここで 次の簡単な式が 成立すると仮定します
07:36
x "x" w = y.
155
456538
2163
x “×” w =y
07:38
I'm putting the times in scare quotes
156
458725
2036
「かける」に引用符を付けたのは
07:40
because what's really going on there, of course,
157
460785
2280
この場面で実行される演算は
07:43
is a very complicated series of mathematical operations.
158
463089
3046
実際には 非常に複雑な 数学的な計算だからです
07:47
That's one equation.
159
467172
1221
1つの方程式があって
07:48
There are three variables.
160
468417
1672
3個の変数があります
07:50
And we all know that if you have one equation,
161
470113
2726
ご存じのように 3つの変数のうち 2つの値が分かれば
07:52
you can solve one variable by knowing the other two things.
162
472863
3642
残りの変数の値も求められます
07:57
So the problem of inference,
163
477158
3380
ここでの問題は
鳥の画像から
08:00
that is, figuring out that the picture of a bird is a bird,
164
480562
2873
それが鳥だと推論する ということでした
08:03
is this one:
165
483459
1274
08:04
it's where y is the unknown and w and x are known.
166
484757
3459
つまり y が未知で xとwが分かっています
08:08
You know the neural network, you know the pixels.
167
488240
2459
画像 x と ネットワーク w は 与えられています
08:10
As you can see, that's actually a relatively straightforward problem.
168
490723
3327
ご覧のように 比較的単純な問題です
2と3を掛け合わせれば 答えは出ます
08:14
You multiply two times three and you're done.
169
494074
2186
08:16
I'll show you an artificial neural network
170
496862
2123
我々が最近構築した ニューラルネットワークでは
08:19
that we've built recently, doing exactly that.
171
499009
2296
まさに これを実行しています
08:21
This is running in real time on a mobile phone,
172
501634
2860
携帯電話上で リアルタイムで処理をしています
08:24
and that's, of course, amazing in its own right,
173
504518
3313
こんなに すごいことができるのも
08:27
that mobile phones can do so many billions and trillions of operations
174
507855
3468
現在の携帯電話では 1秒当たり 数十億~数兆の命令を
08:31
per second.
175
511347
1248
実行できるからです
08:32
What you're looking at is a phone
176
512619
1615
ご覧いただいているのは
08:34
looking at one after another picture of a bird,
177
514258
3547
携帯電話で次々に出す 鳥の画像に対し
08:37
and actually not only saying, "Yes, it's a bird,"
178
517829
2715
ニューラルネットが 「これは鳥だ」と言うだけでなく
08:40
but identifying the species of bird with a network of this sort.
179
520568
3411
鳥の種類まで 特定しているところです
08:44
So in that picture,
180
524890
1826
この式で言うと
08:46
the x and the w are known, and the y is the unknown.
181
526740
3802
xとwが既知で yが未知の場合です
08:50
I'm glossing over the very difficult part, of course,
182
530566
2508
ここで 難しい部分を はしょっていました
08:53
which is how on earth do we figure out the w,
183
533098
3861
wは そもそも どうやって求めたらいいのか
08:56
the brain that can do such a thing?
184
536983
2187
脳がやっているようなことですが
08:59
How would we ever learn such a model?
185
539194
1834
人間は どうやって学ぶのでしょう?
09:01
So this process of learning, of solving for w,
186
541418
3233
この学習プロセス wを解くという問題は
09:04
if we were doing this with the simple equation
187
544675
2647
変数が数値の 簡単な式であれば
09:07
in which we think about these as numbers,
188
547346
2000
どうすればよいか分かります
09:09
we know exactly how to do that: 6 = 2 x w,
189
549370
2687
6=2×w を解くには
09:12
well, we divide by two and we're done.
190
552081
3312
両辺を2で割れば済みます
09:16
The problem is with this operator.
191
556001
2220
ここで問題になるのは この演算子です
09:18
So, division --
192
558823
1151
今 割り算をしましたが
09:19
we've used division because it's the inverse to multiplication,
193
559998
3121
それは割り算が 掛け算の逆演算だからです
09:23
but as I've just said,
194
563143
1440
しかし 先ほど言ったとおり
09:24
the multiplication is a bit of a lie here.
195
564607
2449
掛け算と見るのには ウソがあり
09:27
This is a very, very complicated, very non-linear operation;
196
567080
3326
実際には とても複雑な非線形演算で
09:30
it has no inverse.
197
570430
1704
逆演算が存在しません
09:32
So we have to figure out a way to solve the equation
198
572158
3150
だから 除算演算子を使わずに
09:35
without a division operator.
199
575332
2024
これを解かなければなりません
09:37
And the way to do that is fairly straightforward.
200
577380
2343
でも そのやり方はそう難しくありません
09:39
You just say, let's play a little algebra trick,
201
579747
2671
代数学的な ちょっとしたワザを使うんです
09:42
and move the six over to the right-hand side of the equation.
202
582442
2906
まず「6」を式の右辺に移します
09:45
Now, we're still using multiplication.
203
585372
1826
依然として乗算を使っています
09:47
And that zero -- let's think about it as an error.
204
587675
3580
そして 左辺の「0」を誤差と考えます
09:51
In other words, if we've solved for w the right way,
205
591279
2515
つまり wを正しく求められれば
09:53
then the error will be zero.
206
593818
1656
誤差の値は0になります
09:55
And if we haven't gotten it quite right,
207
595498
1938
wの値が 正しくない場合
09:57
the error will be greater than zero.
208
597460
1749
誤差は0より大きくなります
09:59
So now we can just take guesses to minimize the error,
209
599233
3366
誤差の値が最小になるよう 推量をします
10:02
and that's the sort of thing computers are very good at.
210
602623
2687
こういう処理なら コンピューターは大得意です
最初の推測値として
10:05
So you've taken an initial guess:
211
605334
1593
10:06
what if w = 0?
212
606951
1156
w=0では どうでしょう?
誤差は6です
10:08
Well, then the error is 6.
213
608131
1240
w=1の場合 誤差は4
10:09
What if w = 1? The error is 4.
214
609395
1446
10:10
And then the computer can sort of play Marco Polo,
215
610865
2367
マルコ・ポーロ式鬼ごっこのような調子で
10:13
and drive down the error close to zero.
216
613256
2367
誤差を0に近づけていき
10:15
As it does that, it's getting successive approximations to w.
217
615647
3374
そうやってwの近似値を求めます
通常 正解そのものにたどり着くことは ありませんが
10:19
Typically, it never quite gets there, but after about a dozen steps,
218
619045
3656
10:22
we're up to w = 2.999, which is close enough.
219
622725
4624
数十回繰り返すと w=2.999のような 十分近い値が求まります
10:28
And this is the learning process.
220
628302
1814
これが 学習プロセスです
10:30
So remember that what's been going on here
221
630140
2730
ここで改めて 思い出してください
10:32
is that we've been taking a lot of known x's and known y's
222
632894
4378
私たちがやっていたのは 既知の xとyに対し
10:37
and solving for the w in the middle through an iterative process.
223
637296
3454
反復的プロセスによって 真ん中の wの値を求めるということです
10:40
It's exactly the same way that we do our own learning.
224
640774
3556
これは人間がものごとを学習するのと 同じやり方です
10:44
We have many, many images as babies
225
644354
2230
赤ちゃんのとき たくさんの絵を見せられ
10:46
and we get told, "This is a bird; this is not a bird."
226
646608
2633
「これは鳥 これは鳥じゃない」と 教わります
10:49
And over time, through iteration,
227
649714
2098
この学習を反復することで
10:51
we solve for w, we solve for those neural connections.
228
651836
2928
wを解いて 神経結合を作り出すんです
10:55
So now, we've held x and w fixed to solve for y;
229
655460
4086
xと w に対して y を求めるというのは
10:59
that's everyday, fast perception.
230
659570
1847
高速な日常的「知覚」です
11:01
We figure out how we can solve for w,
231
661441
1763
w を求める方法を 先ほど考えましたが
11:03
that's learning, which is a lot harder,
232
663228
1903
これは「学習」であり ずっと難しいことです
11:05
because we need to do error minimization,
233
665155
1985
なぜなら 多くの訓練例を使って
11:07
using a lot of training examples.
234
667164
1687
誤差を最小化する必要が あるからです
11:08
And about a year ago, Alex Mordvintsev, on our team,
235
668875
3187
1年ほど前 私のチームの アレックス・モードヴィンツェフは
11:12
decided to experiment with what happens if we try solving for x,
236
672086
3550
既知の w と y に対して x の値を求めるとどうなるか
11:15
given a known w and a known y.
237
675660
2037
実験してみることにしました
11:18
In other words,
238
678124
1151
言い換えると
11:19
you know that it's a bird,
239
679299
1352
鳥に対してトレーニングされた ニューラルネットが
11:20
and you already have your neural network that you've trained on birds,
240
680675
3303
鳥だと答えを出す
11:24
but what is the picture of a bird?
241
684002
2344
「鳥の絵」はどんなものか ということです
鳥を認識するネットワークを訓練するのと 同じ誤差最小化の手順が
11:27
It turns out that by using exactly the same error-minimization procedure,
242
687034
5024
11:32
one can do that with the network trained to recognize birds,
243
692082
3430
この場合も使えることが 分かりました
11:35
and the result turns out to be ...
244
695536
3388
結果として出てきたのは —
11:42
a picture of birds.
245
702400
1305
一種の鳥の絵です
11:44
So this is a picture of birds generated entirely by a neural network
246
704814
3737
これは「鳥」を認識するように訓練した ニューラルネットワークによって
11:48
that was trained to recognize birds,
247
708575
1826
生成された鳥のイメージです
11:50
just by solving for x rather than solving for y,
248
710425
3538
yの値を求めるかわりに
反復によって xを求めたんです
11:53
and doing that iteratively.
249
713987
1288
11:55
Here's another fun example.
250
715732
1847
別の面白い例を 紹介しましょう
11:57
This was a work made by Mike Tyka in our group,
251
717603
3437
私のグループのマイク・タイカが 作ってくれたものです
12:01
which he calls "Animal Parade."
252
721064
2308
マイクは「動物のパレード」と呼んでました
12:03
It reminds me a little bit of William Kentridge's artworks,
253
723396
2876
ウィリアム・ケントリッジの作品を 思わせます
12:06
in which he makes sketches, rubs them out,
254
726296
2489
ケントリッジは スケッチを描いては消し
12:08
makes sketches, rubs them out,
255
728809
1460
また 描いては消しして
12:10
and creates a movie this way.
256
730293
1398
アニメーションを作り出します
12:11
In this case,
257
731715
1151
この場合
12:12
what Mike is doing is varying y over the space of different animals,
258
732890
3277
マイクは 動物種の集合の中で yの値を変えていて
12:16
in a network designed to recognize and distinguish
259
736191
2382
動物の種類を識別するよう 設計された
12:18
different animals from each other.
260
738597
1810
ネットワークを使っています
12:20
And you get this strange, Escher-like morph from one animal to another.
261
740431
3751
エッシャーのだまし絵のように 動物が別の動物へと変形していきます
12:26
Here he and Alex together have tried reducing
262
746221
4614
次は マイクとアレックスが 協力して作ったもので
12:30
the y's to a space of only two dimensions,
263
750859
2759
y を二次元空間に 収めようと試みていて
12:33
thereby making a map out of the space of all things
264
753642
3438
ネットワークが認識するもの 全てを含む空間の
12:37
recognized by this network.
265
757104
1719
地図を作っています
12:38
Doing this kind of synthesis
266
758847
2023
この画像合成・画像生成を
12:40
or generation of imagery over that entire surface,
267
760894
2382
yの値を変化させながら 画面全体にわたって行うことで
12:43
varying y over the surface, you make a kind of map --
268
763300
2846
このような地図が できあがります
12:46
a visual map of all the things the network knows how to recognize.
269
766170
3141
ネットワークが認識するものすべての 視覚地図です
12:49
The animals are all here; "armadillo" is right in that spot.
270
769335
2865
いろんな動物が現れます あそこにアルマジロがいますね
12:52
You can do this with other kinds of networks as well.
271
772919
2479
他のネットワークでも 同様の処理が実行できます
12:55
This is a network designed to recognize faces,
272
775422
2874
これは 人物の顔を見分ける―
顔認識のために設計された ネットワークです
12:58
to distinguish one face from another.
273
778320
2000
13:00
And here, we're putting in a y that says, "me,"
274
780344
3249
ここで yは「私」です
13:03
my own face parameters.
275
783617
1575
私の顔をパラメータにして
13:05
And when this thing solves for x,
276
785216
1706
このネットワークを使い xの値を求めると
13:06
it generates this rather crazy,
277
786946
2618
かなり ぶっ飛んだ 画像が作られます
13:09
kind of cubist, surreal, psychedelic picture of me
278
789588
4428
キュービズムというか シュールというか サイケな感じの 私の絵です
複数の視点を 1つにまとめています
13:14
from multiple points of view at once.
279
794040
1806
13:15
The reason it looks like multiple points of view at once
280
795870
2734
このように 複数の視点が 1つになっている理由は
13:18
is because that network is designed to get rid of the ambiguity
281
798628
3687
このネットワークが あいまいさを除去する 設計になっているためです
13:22
of a face being in one pose or another pose,
282
802339
2476
人の顔の見え方は 見る角度によって変わり
13:24
being looked at with one kind of lighting, another kind of lighting.
283
804839
3376
光の当たり方によっても 変わります
13:28
So when you do this sort of reconstruction,
284
808239
2085
だから このような再構成を行う場合
13:30
if you don't use some sort of guide image
285
810348
2304
ガイドとなる画像や 統計値がないと
13:32
or guide statistics,
286
812676
1211
13:33
then you'll get a sort of confusion of different points of view,
287
813911
3765
視点に関して
混乱が生じるんです
13:37
because it's ambiguous.
288
817700
1368
あいまいさがあるためです
13:39
This is what happens if Alex uses his own face as a guide image
289
819786
4223
ここでは 私の顔を再構成する 最適化プロセスで
13:44
during that optimization process to reconstruct my own face.
290
824033
3321
アレックスの顔の映像を ガイドとして使っています
13:48
So you can see it's not perfect.
291
828284
2328
完璧とは言えず
13:50
There's still quite a lot of work to do
292
830636
1874
この最適化プロセスを 改善するために
13:52
on how we optimize that optimization process.
293
832534
2453
やることは まだまだありますが
13:55
But you start to get something more like a coherent face,
294
835011
2827
とりあえず 顔をガイドとして使うことで
13:57
rendered using my own face as a guide.
295
837862
2014
統一感のあるイメージが できるようになります
14:00
You don't have to start with a blank canvas
296
840892
2501
別に 真っ白なキャンバスや
ホワイトノイズから 始める必要はありません
14:03
or with white noise.
297
843417
1156
14:04
When you're solving for x,
298
844597
1304
xを求めるという場合
14:05
you can begin with an x, that is itself already some other image.
299
845925
3889
xとして 何か別の画像から 出発してもいいんです
14:09
That's what this little demonstration is.
300
849838
2556
それを説明するデモを お見せしましょう
14:12
This is a network that is designed to categorize
301
852418
4122
これは 人工物であれ 動物であれ
14:16
all sorts of different objects -- man-made structures, animals ...
302
856564
3119
あらゆるものを分類するよう 設計されたネットワークです
14:19
Here we're starting with just a picture of clouds,
303
859707
2593
この雲の写真からスタートします
14:22
and as we optimize,
304
862324
1671
これを最適化すると
14:24
basically, this network is figuring out what it sees in the clouds.
305
864019
4486
このネットワークは 「雲の中に何が見えるか」を探します
14:28
And the more time you spend looking at this,
306
868931
2320
画面をじっと見ているうちに
14:31
the more things you also will see in the clouds.
307
871275
2753
雲の中に いろんなものが 見えてきます
これに顔認識ネットワークを使うと 幻覚っぽい映像になります
14:35
You could also use the face network to hallucinate into this,
308
875004
3375
14:38
and you get some pretty crazy stuff.
309
878403
1812
ちょっと頭がおかしくなりそうな
14:40
(Laughter)
310
880239
1150
(笑)
14:42
Or, Mike has done some other experiments
311
882401
2744
マイクはまた
14:45
in which he takes that cloud image,
312
885169
3905
この雲の画像で 別の実験もしています
14:49
hallucinates, zooms, hallucinates, zooms hallucinates, zooms.
313
889098
3507
幻視とズームを繰り返していくと
14:52
And in this way,
314
892629
1151
こんな感じに
14:53
you can get a sort of fugue state of the network, I suppose,
315
893804
3675
フーガのような 自由連想のような映像を
14:57
or a sort of free association,
316
897503
3680
このネットワークから 作り出せます
ネットワークが 自分の尻尾を食べています
15:01
in which the network is eating its own tail.
317
901207
2227
15:03
So every image is now the basis for,
318
903458
3421
それそれのイメージが 次のイメージのベースになっています
15:06
"What do I think I see next?
319
906903
1421
「次に 何が見える?
15:08
What do I think I see next? What do I think I see next?"
320
908348
2803
次に 何が見える? 次に 何が見える?」という風に
15:11
I showed this for the first time in public
321
911487
2936
ちなみに このデモを 最初に披露したのは
15:14
to a group at a lecture in Seattle called "Higher Education" --
322
914447
5437
シアトルで開かれた 「高等教育」と題した講演会で
15:19
this was right after marijuana was legalized.
323
919908
2437
マリファナが合法化された 直後のことでした
15:22
(Laughter)
324
922369
2415
(笑)
15:26
So I'd like to finish up quickly
325
926627
2104
最後にまとめとして
15:28
by just noting that this technology is not constrained.
326
928755
4255
この技術は お見せしたようなものに 限定されないことを指摘しておきます
15:33
I've shown you purely visual examples because they're really fun to look at.
327
933034
3665
今回は視覚的にちょっと面白い例を 紹介しましたが
15:36
It's not a purely visual technology.
328
936723
2451
別に 視覚のテクノロジー というわけではないんです
15:39
Our artist collaborator, Ross Goodwin,
329
939198
1993
我々の協力者でアーティストの ロス・グッドウィンによる実験ですが
15:41
has done experiments involving a camera that takes a picture,
330
941215
3671
彼がカメラで写真を撮ると
15:44
and then a computer in his backpack writes a poem using neural networks,
331
944910
4234
その写真の中身を元に 背負っているコンピューターが
ニューラルネットワークで 詩を書きます
15:49
based on the contents of the image.
332
949168
1944
15:51
And that poetry neural network has been trained
333
951136
2947
詩のニューラルネットワークは
20世紀の詩の 膨大なコーパスで トレーニングされています
15:54
on a large corpus of 20th-century poetry.
334
954107
2234
15:56
And the poetry is, you know,
335
956365
1499
そうやって書かれた詩は
15:57
I think, kind of not bad, actually.
336
957888
1914
どうして そう悪くないと思います
15:59
(Laughter)
337
959826
1384
(笑)
16:01
In closing,
338
961234
1159
まとめになりますが
16:02
I think that per Michelangelo,
339
962417
2132
ミケランジェロは正しかったと
16:04
I think he was right;
340
964573
1234
つくづく思います
16:05
perception and creativity are very intimately connected.
341
965831
3436
知覚と創造性とは 密接に結びついているんです
16:09
What we've just seen are neural networks
342
969611
2634
先ほどお見せした ニューラルネットワークは
16:12
that are entirely trained to discriminate,
343
972269
2303
世の中の さまざまなものを区別するよう
16:14
or to recognize different things in the world,
344
974596
2242
学習させたものですが
16:16
able to be run in reverse, to generate.
345
976862
3161
処理を逆転させて 新しいものを作り出すこともできます
16:20
One of the things that suggests to me
346
980047
1783
そこで気づかされるのは
16:21
is not only that Michelangelo really did see
347
981854
2398
石の塊の中に 彫刻を見ることができるのは
16:24
the sculpture in the blocks of stone,
348
984276
2452
ミケランジェロだけではないということ
16:26
but that any creature, any being, any alien
349
986752
3638
どんな生物であれ どんな存在 地球外生命体だろうと
16:30
that is able to do perceptual acts of that sort
350
990414
3657
知覚を行う能力のあるものは
創造もできるということです
16:34
is also able to create
351
994095
1375
16:35
because it's exactly the same machinery that's used in both cases.
352
995494
3224
どちらも同じメカニズムで できることだからです
16:38
Also, I think that perception and creativity are by no means
353
998742
4532
そして 知覚と創造は
決して 人間に限られたものではありません
16:43
uniquely human.
354
1003298
1210
16:44
We start to have computer models that can do exactly these sorts of things.
355
1004532
3708
私たちは そのようなことができる コンピューターモデルを作り始めています
16:48
And that ought to be unsurprising; the brain is computational.
356
1008264
3328
驚くことではありません 脳もまた計算機械だからです
16:51
And finally,
357
1011616
1657
最後に
16:53
computing began as an exercise in designing intelligent machinery.
358
1013297
4668
コンピューティングは 知的機械の設計から始まり
16:57
It was very much modeled after the idea
359
1017989
2462
機械はいかに知的になれるか という発想から
17:00
of how could we make machines intelligent.
360
1020475
3013
モデル化されましたが
17:03
And we finally are starting to fulfill now
361
1023512
2162
今や我々は 昔の先駆者が 夢見た世界を
17:05
some of the promises of those early pioneers,
362
1025698
2406
ようやく実現させつつあります
17:08
of Turing and von Neumann
363
1028128
1713
チューリングやフォン・ノイマンの夢
17:09
and McCulloch and Pitts.
364
1029865
2265
マカロックやピッツの夢を
17:12
And I think that computing is not just about accounting
365
1032154
4098
コンピューティングは 会計処理だとか
キャンディークラッシュで 遊ぶだけのものではありません
17:16
or playing Candy Crush or something.
366
1036276
2147
17:18
From the beginning, we modeled them after our minds.
367
1038447
2578
コンピューターはそもそも 人間の脳をモデルとしたものでしたが
17:21
And they give us both the ability to understand our own minds better
368
1041049
3269
それは 人間の知性を よりよく理解するためにも
17:24
and to extend them.
369
1044342
1529
人間の知性を拡張するためにも 使えるのです
17:26
Thank you very much.
370
1046627
1167
ありがとうございました
17:27
(Applause)
371
1047818
5939
(拍手)
このウェブサイトについて

このサイトでは英語学習に役立つYouTube動画を紹介します。世界中の一流講師による英語レッスンを見ることができます。各ビデオのページに表示される英語字幕をダブルクリックすると、そこからビデオを再生することができます。字幕はビデオの再生と同期してスクロールします。ご意見・ご要望がございましたら、こちらのお問い合わせフォームよりご連絡ください。

https://forms.gle/WvT1wiN1qDtmnspy7