The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

784,384 views ・ 2023-11-20

TED


下の英語字幕をダブルクリックすると動画を再生できます。

翻訳: Takako Ramsden 校正: Noriko Yasumoto
00:04
You've all experienced the progress of artificial intelligence.
0
4167
4838
皆さんはすでに 人工知能の進歩を 体験しています
00:10
Many of you may have spoken with a computer,
1
10674
3003
コンピューターに話しかけたら
00:13
and a computer understood you
2
13718
1585
コンピューターが理解して 答えてくれた経験があるでしょう
00:15
and spoke back to you.
3
15303
1460
00:17
With the rate of progress being that it is,
4
17514
3086
現在と同じペースで進歩が続くと
00:20
it's not difficult to imagine that at some point in the future,
5
20600
5005
近い未来に 人工知能が
00:25
our intelligent computers will become as smart or smarter than people.
6
25647
5464
人間の知能に追いつき 追い越すことは 想像がつきます
00:31
And it's also not difficult to imagine that when that happens,
7
31945
4588
また そうなった時に
00:36
the impact of such artificial intelligence
8
36533
5255
人工知能がもたらす影響が
00:41
is going to be truly, truly vast.
9
41788
3086
甚大になることも 想像に難くありません
00:45
And you may wonder:
10
45709
2002
そこで こんな疑問がわいてきます
00:47
Is it going to be OK when technology is so impactful?
11
47752
4421
テクノロジーにこれほどの影響力があって 大丈夫なのか?
00:52
And here my goal is to point out the existence of a force
12
52591
5046
今日の私の目標は
あまり知られていない力の存在を 皆さんにお話しすることです
00:57
that many of you may have not noticed,
13
57679
2461
01:00
that gives me hope that indeed,
14
60181
4046
この力を知れば
01:04
we will be happy with the result.
15
64269
1918
希望を抱いていただけると 思っています
01:07
So artificial intelligence.
16
67314
3878
人工知能(AI)ーー
01:11
What is it, and how does it work?
17
71234
2378
AIとは何で どう機能するのでしょうか?
01:14
Well, it turns out that it's very easy to explain
18
74195
3087
実のところ
01:17
how artificial intelligence works.
19
77282
1960
AIの説明は 非常に簡単です
01:19
Just one sentence.
20
79576
1585
(説明は)一文で十分
01:21
Artificial intelligence is nothing but digital brains
21
81995
6757
AIとは
大型コンピューター内の デジタル脳に過ぎません
01:28
inside large computers.
22
88793
1877
01:30
That's what artificial intelligence is.
23
90712
2669
それがAIです
01:33
Every single interesting AI that you've seen
24
93381
5923
素晴らしいAIでも これまでのAIは全て
01:39
is based on this idea.
25
99346
2085
このアイデアに基づいています
01:42
Over the decades,
26
102265
1418
何十年もの間
01:43
scientists and engineers have been figuring out
27
103725
3754
科学者やエンジニアによって
01:47
how such digital brains should work
28
107479
3086
デジタル脳の機能や
01:50
and how to build them, how to engineer them.
29
110607
2627
開発法や設計法が 研究されてきました
01:54
Now, I find it interesting
30
114444
3337
私が興味をひかれるのは
01:57
that the seat of intelligence in human beings is our biological brain.
31
117781
5213
人間の知能の座は 生まれ持った脳にあるということです
02:02
It is fitting that the seat of intelligence
32
122994
3587
AIの知能の座は 当然ながら
02:06
in artificial intelligence
33
126581
1835
02:08
is an artificial brain.
34
128458
1668
人工の脳にあるというわけです
02:10
Here, I'd like to take a digression and tell you about how I got into AI.
35
130752
6965
ここで 少し話題を変えて
私がAIに関心を持った理由について お話しします
02:18
There were three forces that pulled me into it.
36
138218
3962
3つのきっかけがありました
02:23
The first one was that when I was a little child,
37
143098
3920
1つ目は 子供の時のことです
02:27
at around the age of five or six,
38
147018
2878
5歳か6歳の頃
02:29
I was very struck by my own conscious experience,
39
149938
5714
あることを自覚し 衝撃を受けました
02:35
by the fact that I am me and I am experiencing things.
40
155694
4713
私が私であること 私が物事を経験していること
02:40
That when I look at things, I see them.
41
160782
2836
目を向けたものが 実際に見えることーー
02:44
Like, this feeling over time went away, though,
42
164536
4004
時間が経つにつれ この感覚は消えていきましたが
02:48
by simply mentioning it to you right now it comes back.
43
168540
3670
話すだけで 戻ってきます
02:52
But this this feeling of ...
44
172752
1961
でも この感覚ーー
02:55
That I am me, that you are you,
45
175922
1877
「私が私で あなたがあなたである」 ということは
02:57
I found it very strange and very disturbing almost.
46
177841
4004
私には奇妙で 不安にさえなりました
03:02
And so when I learned about artificial intelligence,
47
182178
3128
それで 人工知能を知った時
03:05
I thought, wow, if we could build a computer
48
185348
3295
賢いコンピューターを作ることができたら
03:08
that is intelligent,
49
188643
1210
03:09
maybe we will learn something about ourselves,
50
189853
2168
私たち人間の意識について 何かわかるかもしれないと思いました
03:12
about our own consciousness.
51
192063
1377
03:13
That was my first motivation that pulled me towards AI.
52
193440
3837
これが AIに関心を持った 最初のきっかけでした
03:17
The second motivation was more pedestrian in a way.
53
197736
4212
2つ目は もっと平凡な理由です
03:21
I was simply curious about how intelligence works.
54
201948
3045
単純に 知能の仕組みに 興味がありました
03:25
And when I was a teenager, an early teenager in the late '90s,
55
205493
4588
90年代後半 10代前半の頃
03:30
the sense that I got is that science simply did not know
56
210123
3503
科学が知能の仕組みを 全く解明していないと感じていました
03:33
how intelligence worked.
57
213626
1460
03:35
There was also a third reason,
58
215587
1459
3つ目の理由もあります
03:37
which is that it was clear to me back then
59
217088
2836
当時 すでに 確信していたことで
03:39
that artificial intelligence,
60
219966
1794
人工知能が機能すれば
03:41
if it worked, it would be incredibly impactful.
61
221760
3420
信じられないほど 影響力を持つと考えていました
03:45
Now, it wasn't at all obvious
62
225847
1835
明確なことなど何もなく
03:47
that it will be possible to make progress in artificial intelligence,
63
227682
3712
人工知能の開発が可能かどうかも わかっていませんでしたが
03:51
but if it were possible to make progress in artificial intelligence,
64
231436
3795
開発が可能であれば
03:55
that would be incredibly impactful.
65
235273
1877
甚大な影響力があると確信していました
03:57
So these were the three reasons that pulled me towards AI.
66
237692
4379
この3つが AIに関心を持った理由です
04:02
That's why I thought that's a great area to spend all my efforts on.
67
242071
4839
だからこそ 人生を賭けるほど 素晴らしい分野だと思ったのです
04:08
So now let's come back to our artificial intelligence,
68
248495
4379
では AIの話に戻りましょう
04:12
the digital brains.
69
252916
1501
デジタル脳の話です
04:14
Today, these digital brains
70
254918
3420
現在 デジタル脳は
04:18
are far less smart than our biological brains.
71
258338
4671
人間の脳に比べると 賢さは はるかに劣ります
04:23
When you speak to an AI chat bot,
72
263635
2544
AIチャットボットに話しかける時
04:26
you very quickly see that it's not all there,
73
266221
3753
全てを理解してくれていないことに すぐに気づきます
04:30
that it's, you know,
74
270016
2252
実際のところ
04:32
it understands mostly, sort of.
75
272268
3212
ほぼ 理解はしています
04:36
But you can clearly see that there are so many things it cannot do
76
276022
3128
しかし 多くのことができないのは 明らかであり
04:39
and that there are some strange gaps.
77
279150
2628
奇妙な食い違いが起こります
04:41
But this situation, I claim, is temporary.
78
281778
3628
しかし いずれは解決することだと 私は考えています
04:46
As researchers and engineers continue to work on AI,
79
286616
4588
研究者やエンジニアがAIの研究を続ければ
04:51
the day will come when the digital brains that live inside our computers
80
291204
5047
コンピューター内のデジタル脳が
04:56
will become as good and even better than our own biological brains.
81
296292
6131
人間の脳と同じくらいか それ以上の能力を持つようになるでしょう
05:03
Computers will become smarter than us.
82
303091
2210
コンピューターは 人間よりも 賢くなるのです
05:05
We call such an AI an “AGI,” artificial general intelligence.
83
305343
6423
このレベルのAIは 「汎用人工知能(AGI)」と呼ばれます
05:12
When we can say that the level at which we can teach the AI to do anything
84
312141
6257
私や他の人々ができる 全てのことを
05:18
that, for example, I can do, or someone else.
85
318439
3421
人間に教わり 習得できるレベルのAIです
05:22
So although AGI does not exist today,
86
322235
3837
現在 AGIは存在しませんが
05:26
we can still gain a little bit of an insight
87
326072
3128
AGIが完成した時に 引き起こす影響について
05:29
into the impact of AGI once it's built.
88
329242
2544
いくらか予想することはできます
05:32
It is completely obvious
89
332203
2252
言うまでもないのは
05:34
that such an AGI will have a dramatic impact
90
334497
5631
AGIが与える影響は甚大であり
05:40
on every area of life, of human activity and society.
91
340169
5923
人間の活動や社会のあらゆる領域に 変化をもたらすことです
05:46
And I want to go over a quick case study.
92
346759
3629
ここで 具体的な事例を見てみましょう
05:50
This is a narrow example of a very, very broad technology.
93
350930
3879
非常に広範な技術の中の 一つの小さな例ですが
05:55
The example I want to present is health care.
94
355435
2461
今日お話ししたい分野は医療です
05:59
Many of you may have had the experience of trying to go to a doctor.
95
359230
5589
ここにいる多くの皆さんは 医者に行こうとした経験があると思います
06:04
You need to wait for many months sometimes,
96
364861
3545
時には何ヶ月も待たなくてはいけません
06:08
and then when you do get to see a doctor, you get a small,
97
368448
2752
やっと医者に診てもらえると思っても
06:11
very limited amount of time with the doctor
98
371242
2127
医者と接する時間は ほんの短い時間です
06:13
and furthermore, the doctor, being only human,
99
373369
3128
医者は人間に過ぎないので
06:16
can have only limited knowledge of all this,
100
376539
4630
医学の全てに精通している わけではありません
06:21
all the medical knowledge that exists.
101
381210
1919
06:23
And then by the end of it, you get a very large bill.
102
383796
2503
そして結末は 非常に高額な医療費の請求です
06:26
(Laughter)
103
386341
1167
(笑)
06:27
Well, if you have an intelligent computer, an AGI, that is built to be a doctor,
104
387926
6131
賢いコンピューター つまりAGIが 医者になるように作られていれば
06:34
it will have complete and exhaustive knowledge of all medical literature.
105
394057
4254
全ての医学文献から 完全かつ網羅的な知識が持てるのです
06:38
It will have billions of hours of clinical experience,
106
398353
4546
数十億時間もの臨床経験も重ね
06:42
and it will be always available and extremely cheap.
107
402899
3420
いつでも診療可能で 非常に安価です
06:47
When this happens,
108
407153
1794
これが現実になった時の
06:48
we will look back at today's health care
109
408988
2044
現代の医療のイメージは
06:51
similarly to how we look at 16th century dentistry.
110
411032
4588
今 16世紀の歯医者を 振り返るのと同じ感覚でしょう
06:55
(Laughter)
111
415662
1126
(笑)
06:56
You know, when they tied people with belts and then have this drill,
112
416829
3504
ベルトで縛りつけられて ドリルで治療を受けるのが
07:00
that's how today's health care will look like.
113
420375
2335
現代の医療のイメージですね
07:02
And again, to emphasize, this is just one example.
114
422752
2544
これは 何度も言いますが ほんの一例です
07:05
This is just one example.
115
425338
1668
氷山の一角なのです
07:07
AGI will have dramatic and incredible impact
116
427423
3629
AGIは 途方もない規模の影響を
07:11
on every single area of human activity.
117
431094
4004
人間活動の全てに 与えることになるのです
07:15
But when you see impact this large, you may wonder, "Gosh,
118
435765
4838
しかし これほど大規模の影響が あると知ると
行き過ぎでないかと思うでしょう
07:20
isn't this technology too impactful?"
119
440645
2377
07:23
And indeed, for every positive application of AGI,
120
443022
3796
もちろん 有益な用途がある一方で
07:26
there will be a negative application as well.
121
446859
2336
有害な用途もあり得ます
07:30
This technology is also going to be different
122
450947
2127
この技術はまた
従来 慣れ親しんできたものとは異なり
07:33
from technologies that we are used to,
123
453074
1835
07:34
because it will have the ability to improve itself.
124
454909
2836
自力でアップグレードする能力を持っています
07:37
It is possible to build an AGI
125
457787
2461
次世代の AGIを造ってしまうような
07:40
that will work on the next generation of AGI.
126
460289
3212
AGIを構築することだって可能です
07:44
The closest analogue we have to this kind of rapid technological improvement
127
464002
5171
これほど急速な技術発展に 最も近い例は
07:49
is when the Industrial Revolution has taken place, where humans,
128
469173
4338
産業革命でしょう
生活環境や経済状況に大きな変化が なかった社会を
07:53
the material condition of human society, was very, very constant.
129
473553
3170
07:57
And then it was a rapid increase, rapid growth.
130
477056
2628
急激に発展させた変革です
07:59
With AGI,
131
479976
1209
AGIによって 同様の現象が起こると予想できますが
08:01
something like this could happen again, but on a shorter timescale.
132
481185
3462
今度は短期間になるでしょう
08:04
And then furthermore,
133
484689
1251
さらに 新たな懸念も生じます
08:05
there are concerns around
134
485982
2335
08:08
if an AGI ever becomes very, very powerful,
135
488359
3629
AGIは 非常に強力になると 考えられていますが
08:12
which is possible,
136
492030
1626
08:13
maybe it will want to go rogue being that it is an agent.
137
493656
3379
自律的に動作するため 悪党になる可能性もあります
08:17
So this is a concern that exists with this unprecedented,
138
497410
3962
技術としては まだ未完成で 前例がないため
08:21
not yet existing technology.
139
501372
2044
懸念を抱くのは当然です
08:24
And indeed,
140
504292
1918
確かに AGIには
08:26
you look at all the positive potential of AGI
141
506210
3629
プラスの側面が多くあると同時に
08:29
and all the concerning possibilities of AGI as well,
142
509881
4671
マイナスの側面も多くあり
08:34
and you may say, "Gosh, where is this all headed?"
143
514552
3378
「どこに向かっているんだ?」 と言いたくなるでしょう
08:38
One of my motivations in creating OpenAI was,
144
518765
5505
私がOpenAI を創設したのは
08:44
in addition to developing this technology,
145
524312
2419
技術の開発をしたい という動機のほかに
08:46
was also to address the questions
146
526773
2419
AGIが引き起こす恐れがある 難しい問題に対処しなければという
08:49
that are posed by AGI, the difficult questions,
147
529233
2294
08:51
the concerns that we raised.
148
531569
1877
思いがあったからです
08:54
In addition to working with governments
149
534238
2253
現在 行政に協力し
08:56
and helping them understand what is coming and prepare for it,
150
536491
3420
想定される事態を理解し それに備えるため サポートをしています
08:59
we are also doing a lot of research
151
539952
1794
また 多くの研究も行っており
09:01
on addressing the technological side of things,
152
541788
3295
技術面で対処できるよう取り組んでいます
09:05
so that the AI will never want to go rogue.
153
545124
3128
意思を持ったAIが 悪党にならないためです
09:08
And this is something which I’m working on as well.
154
548252
2711
以上が 技術開発以外に 今 取り組んでいることです
09:11
But I think, the thing to note,
155
551672
3504
ここで注目すべきは
09:15
because AI and AGI is really the only area of the economy
156
555176
6757
AIとAGIは 経済の中でも特殊で
09:21
where there is a lot of excitement, a lot of investment,
157
561974
2837
大きな期待から 多額の投資が行われ
09:24
everyone is working on it,
158
564811
1543
至る所で取り組まれていることです
09:26
there's a huge number of labs in the world trying to build the same thing.
159
566395
4088
同じものの構築を目指す研究所が 世界中にあふれています
09:30
Even if OpenAI takes these desirable steps that I mentioned,
160
570817
4754
OpenAIが 今言ったような 望ましいステップを踏んだとしても
09:35
what about the rest of the companies and the rest of the world?
161
575571
3212
世界中の他の企業 さらにそれ以外の人々はどうでしょうか?
09:38
And this is where I want to make my observation
162
578825
3712
ここで 最初に示した 今日の主題である
09:42
about the force that exists.
163
582578
2044
「力」の存在についての話になります
09:44
The observation is this: consider the world one year ago,
164
584664
4379
まずは ほんの1年前を 思い出してみてください
09:49
as recently as one year ago.
165
589085
1752
09:51
People weren't really talking about AI, not in the same way at all.
166
591587
3587
AIについて語る時 今と同じ内容ではなかったはずです
09:55
What happened?
167
595174
1377
何が起きたのでしょうか?
09:56
We all experienced what it's like to talk to a computer and to be understood.
168
596592
4338
コンピューターに話しかけて 理解してもらう経験はありました
10:00
The idea that computers will become really intelligent
169
600972
2836
コンピューターがとても賢くなり
10:03
and eventually more intelligent than us is becoming widespread.
170
603850
3503
そのうち 人間を抜くであろうという考えが 広まりました
10:07
It used to be a niche idea that only a few enthusiasts
171
607395
3503
この考えは かつては 一部のAIファンの間で
10:10
and hobbyists and people who were very into AI were thinking about.
172
610940
3170
盛り上がっていた話題でした
10:14
But now everyone is thinking about it.
173
614152
2002
しかし 今では 誰もが関心を持っています
10:16
And as the AI continues to make progress,
174
616487
2544
AIが進歩し続け
10:19
as technology continues to advance,
175
619073
2044
技術が発展し続けるにつれて
10:21
as more and more people see what AI can do
176
621159
3128
AIに何ができるか 将来どうなるのかを
10:24
and where it is headed towards,
177
624287
2502
より多くの人が 考えるようになり
10:26
then it will become clear just how dramatic,
178
626789
3879
劇的で驚異的となることに 気づいています
10:30
incredible and ...
179
630710
2502
10:35
almost fantastical AGI is going to be
180
635339
4547
今はまだ 空想の世界のAGIですが
10:39
and how much trepidation is appropriate.
181
639886
2168
どれほど恐れるべきなのでしょうか
10:43
And what I claim will happen is that people will start to act
182
643014
3461
私が予測しているのは 人々が 利己主義から抜け出し
10:46
in unprecedentedly collaborative way out of their own self-interest.
183
646475
4755
かつてないほど 協力し合い 行動し始めるということです
10:52
It's already happening right now.
184
652190
2127
実は もうすでに 始まっています
10:55
You see the leading AGI companies starting to collaborate
185
655443
5380
AGIの主要企業が集結し設立した
11:00
for a specific example, through the Frontier Model Forum.
186
660865
3670
フロンティア・モデル・フォーラムが その一例です
11:04
And we will expect that companies that are competitors
187
664535
2878
さらに 競合企業が協力して
AIの安全性を確保するため 技術情報を共有するでしょう
11:07
will share technical information to make their AIs safe.
188
667455
2669
11:10
We may even see governments do this.
189
670124
1752
行政も取り組むかもしれません
11:11
For another example,
190
671876
1501
OpenAIでは
11:13
at OpenAI, we really believed in how dramatic AGI is going to be.
191
673377
4839
AGIが劇的に進化することを 確信していたので
11:19
So one of the ideas that we were operating by,
192
679008
3420
経営指針の一つとして
11:22
and it's been written on our website for five years now,
193
682428
2628
5年前からウェブサイトに 書いていることですが
11:25
that when technology gets such that we are very, very close to AGI,
194
685097
5005
技術がAGIに限りなく近づいて
11:30
to computers smarter than humans,
195
690102
1961
コンピューターが人間より賢くなり
11:32
and if some other company is far ahead of us,
196
692063
3003
別の企業に大きくリードされた時
11:35
then rather than compete with them,
197
695107
1710
競争しようとするのではなく
11:36
we will help them out, join them, in a sense.
198
696817
3879
その企業に協力し 統合してもいいと考えています
11:41
And why do that?
199
701364
1626
なぜだと思いますか?
11:43
Because we feel, we appreciate
200
703032
1710
AGIが驚異的になることを
11:44
how incredibly dramatic AGI is going to be.
201
704784
2794
喜ばしく思うからです
11:47
And my claim is that with each generation of capability advancements,
202
707912
5756
AIの各世代に言えることですが
11:53
as AI gets better
203
713709
1418
AIの進歩とともに
11:55
and as all of you experience what AI can do,
204
715169
3504
全ての人々がAIの能力を経験し
11:58
as people who run AI efforts and AGI efforts
205
718673
3837
AIやAGIの運用や開発に携わる人々も
12:02
and people who work on them will experience it as well,
206
722551
2878
同じく経験をしていきます
12:05
this will change the way we see AI and AGI,
207
725429
3963
経験の積み重ねにより AIやAGIに対する考えに変化が起き
12:09
and that will change collective behavior.
208
729392
2002
協力し始めるようになるのです
12:11
And this is an important reason
209
731435
4380
これが 私が 希望を持つ理由で
12:15
why I'm hopeful
210
735856
1710
12:17
that despite the great challenges that's posed by this technology,
211
737566
3129
この技術がもたらす困難が大きくても
12:20
we will overcome them.
212
740736
1168
乗り越えられるのです
12:21
Thank you.
213
741904
1168
ご清聴ありがとうございました
12:23
(Applause)
214
743114
1126
(拍手)
このウェブサイトについて

このサイトでは英語学習に役立つYouTube動画を紹介します。世界中の一流講師による英語レッスンを見ることができます。各ビデオのページに表示される英語字幕をダブルクリックすると、そこからビデオを再生することができます。字幕はビデオの再生と同期してスクロールします。ご意見・ご要望がございましたら、こちらのお問い合わせフォームよりご連絡ください。

https://forms.gle/WvT1wiN1qDtmnspy7