Alex Wissner-Gross: A new equation for intelligence

アレックス・ウィスナー=グロス: 知能の方程式

翻訳: Hidehito Sumitomo 校正: Tomoyuki Suzuki

Intelligence -- what is it?

知能とは何でしょうか？

If we take a look back at the history

知能に関する議論について

of how intelligence has been viewed,

歴史を振り返ってみると

one seminal example has been

エドガー・ダイクストラの 有名な言葉につきあたります

Edsger Dijkstra's famous quote that

エドガー・ダイクストラの 有名な言葉につきあたります

"the question of whether a machine can think

“機械が考えることができるのか という問いはー

is about as interesting

“機械が考えることができるのか という問いはー

as the question of whether a submarine

潜水艦が泳ぐことができるか という問いと 同じくらい興味深い”

can swim."

潜水艦が泳ぐことができるか という問いと 同じくらい興味深い”

Now, Edsger Dijkstra, when he wrote this,

エドガー・ダイクストラのこの言葉は アラン・チューリングなど

intended it as a criticism

コンピュータ科学の先駆者達への 批判から出たものです

of the early pioneers of computer science,

コンピュータ科学の先駆者達への 批判から出たものです

like Alan Turing.

コンピュータ科学の先駆者達への 批判から出たものです

However, if you take a look back

しかし考えてみるとー

and think about what have been

しかし考えてみるとー

the most empowering innovations

“泳ぐ機械”や“飛ぶ機械”を作ることができたー

that enabled us to build

“泳ぐ機械”や“飛ぶ機械”を作ることができたー

artificial machines that swim

最大の原動力とは何なのでしょうか？

and artificial machines that [fly],

最大の原動力とは何なのでしょうか？

you find that it was only through understanding

単に泳ぎや飛行の物理的原理を 理解することによって

the underlying physical mechanisms

単に泳ぎや飛行の物理的原理を 理解することによって

of swimming and flight

単に泳ぎや飛行の物理的原理を 理解することによって

that we were able to build these machines.

このような機械を 作ることができたのです

And so, several years ago,

数年前 私が行った研究はー

I undertook a program to try to understand

数年前 私が行った研究はー

the fundamental physical mechanisms

知能における物理的な基本原理を 解明することでした

underlying intelligence.

知能における物理的な基本原理を 解明することでした

Let's take a step back.

その前に ある思考実験をしたいと思います

Let's first begin with a thought experiment.

その前に ある思考実験をしたいと思います

Pretend that you're an alien race

自分が地球のことを何も知らない エイリアンだと思ってください

that doesn't know anything about Earth biology

自分が地球のことを何も知らない エイリアンだと思ってください

or Earth neuroscience or Earth intelligence,

生物学や神経学 知能について何も知りません

but you have amazing telescopes

しかし高性能な望遠鏡で 地球を観察することができ

and you're able to watch the Earth,

しかし高性能な望遠鏡で 地球を観察することができ

and you have amazingly long lives,

かなり長生きなので 何百万年 いや 何十億年も地球を観察できるとします

so you're able to watch the Earth

かなり長生きなので 何百万年 いや 何十億年も地球を観察できるとします

over millions, even billions of years.

かなり長生きなので 何百万年 いや 何十億年も地球を観察できるとします

And you observe a really strange effect.

すると変わったものを 見ることになります

You observe that, over the course of the millennia,

千年も観察しているとー

Earth is continually bombarded with asteroids

地球に常に 隕石が衝突していることがわかります

up until a point,

地球に常に 隕石が衝突していることがわかります

and that at some point,

しかし紀元2000年頃になるとー

corresponding roughly to our year, 2000 AD,

しかし紀元2000年頃になるとー

asteroids that are on

不思議なことに 地球に衝突するはずの隕石はー

a collision course with the Earth

不思議なことに 地球に衝突するはずの隕石はー

that otherwise would have collided

衝突前に進路を変えたり 爆発してしまうのです

mysteriously get deflected

衝突前に進路を変えたり 爆発してしまうのです

or they detonate before they can hit the Earth.

衝突前に進路を変えたり 爆発してしまうのです

Now of course, as earthlings,

もちろん地球人は その理由は 自らを守ろうとしている事であると―

we know the reason would be

もちろん地球人は その理由は 自らを守ろうとしている事であると―

that we're trying to save ourselves.

知っています

We're trying to prevent an impact.

衝突を防ごうとしているのです

But if you're an alien race

しかしエイリアンであるあなたは

who doesn't know any of this,

そんなことは いざ知らず

doesn't have any concept of Earth intelligence,

地球の知的生命体の存在について 考えも及ばず

you'd be forced to put together

なぜ隕石がある時期から 地球に衝突しなくなる―

a physical theory that explains how,

なぜ隕石がある時期から 地球に衝突しなくなる―

up until a certain point in time,

神秘的なできごとについて

asteroids that would demolish the surface of a planet

物理的な理論を考えるしかありません

mysteriously stop doing that.

物理的な理論を考えるしかありません

And so I claim that this is the same question

これは知能の物理的本質を 理解することと同じ問題なのです

as understanding the physical nature of intelligence.

これは知能の物理的本質を 理解することと同じ問題なのです

So in this program that I undertook several years ago,

そこで 数年前に行った研究では

I looked at a variety of different threads

知能の統一的な原理を指し示す 科学の多くの分野に目を向けました

across science, across a variety of disciplines,

知能の統一的な原理を指し示す 科学の多くの分野に目を向けました

that were pointing, I think,

知能の統一的な原理を指し示す 科学の多くの分野に目を向けました

towards a single, underlying mechanism

知能の統一的な原理を指し示す 科学の多くの分野に目を向けました

for intelligence.

知能の統一的な原理を指し示す 科学の多くの分野に目を向けました

In cosmology, for example,

例えば宇宙論では 様々な証拠により

there have been a variety of different threads of evidence

例えば宇宙論では 様々な証拠により

that our universe appears to be finely tuned

この宇宙は 知能が発達し

for the development of intelligence,

この宇宙は 知能が発達し

and, in particular, for the development

特に宇宙の将来の多様性が 最大化するようにー

of universal states

うまく調整されていると 示されています

that maximize the diversity of possible futures.

うまく調整されていると 示されています

In game play, for example, in Go --

例えばゲームの碁を見てみましょう

everyone remembers in 1997

だれでも チェスでIBMのディープブルーが

when IBM's Deep Blue beat Garry Kasparov at chess --

1997年にカスパロフを破ったことを覚えていますが

fewer people are aware

あまり良く知られていないことは

that in the past 10 years or so,

最近の10年間において

the game of Go,

分岐因子が非常に多くチェスよりも はるかに難しいゲームである

arguably a much more challenging game

分岐因子が非常に多くチェスよりも はるかに難しいゲームである

because it has a much higher branching factor,

碁においてもコンピュータが 対戦する人間に

has also started to succumb

同様な理由で勝ち始めたことです

to computer game players

同様な理由で勝ち始めたことです

for the same reason:

同様な理由で勝ち始めたことです

the best techniques right now for computers playing Go

現状ではコンピュータにとっての 最善の方法は

are techniques that try to maximize future options

将来の選択肢を最大にすることなのです

during game play.

将来の選択肢を最大にすることなのです

Finally, in robotic motion planning,

最後の例として ロボットの動作プログラムでは

there have been a variety of recent techniques

複雑な仕事を達成するためー

that have tried to take advantage

複雑な仕事を達成するためー

of abilities of robots to maximize

行動の自由度を最大化する能力を 利用しようとする最新技法があります

future freedom of action

行動の自由度を最大化する能力を 利用しようとする最新技法があります

in order to accomplish complex tasks.

行動の自由度を最大化する能力を 利用しようとする最新技法があります

And so, taking all of these different threads

数年前から問い続けてきたことですが

and putting them together,

異なる分野を総合的に考えることで

I asked, starting several years ago,

知能の背後にある原理は 見えてくるのでしょうか？

is there an underlying mechanism for intelligence

知能の背後にある原理は 見えてくるのでしょうか？

that we can factor out

知能の背後にある原理は 見えてくるのでしょうか？

of all of these different threads?

知能の背後にある原理は 見えてくるのでしょうか？

Is there a single equation for intelligence?

統一的な公式は存在するのでしょうか？

And the answer, I believe, is yes. ["F = T ∇ Sτ"]

私の答えはイエスです [F = T ∇ Sτ]

What you're seeing is probably

E = mc²とよく似ていますが これは知能の公式です

the closest equivalent to an E = mc²

E = mc²とよく似ていますが これは知能の公式です

for intelligence that I've seen.

E = mc²とよく似ていますが これは知能の公式です

So what you're seeing here

それぞれ何を表しているかというと

is a statement of correspondence

それぞれ何を表しているかというと

that intelligence is a force, F,

Fが知能 未来の自由度を最大にする力です

that acts so as to maximize future freedom of action.

Fが知能 未来の自由度を最大にする力です

It acts to maximize future freedom of action,

未来の自由度を最大にし 選択肢を広げる際に働くのがー

or keep options open,

強度T そして ある時間タウτまでに

with some strength T,

強度T そして ある時間タウτまでに

with the diversity of possible accessible futures, S,

到達可能な未来の多様性がSです

up to some future time horizon, tau.

到達可能な未来の多様性がSです

In short, intelligence doesn't like to get trapped.

要は知能は留まっているのが 嫌いだということです

Intelligence tries to maximize future freedom of action

知能は未来の自由度を最大にし 選択肢を広げ続けます

and keep options open.

知能は未来の自由度を最大にし 選択肢を広げ続けます

And so, given this one equation,

しかし 自然な疑問が湧いてきます

it's natural to ask, so what can you do with this?

この式をどう使うのか? 何が予測できるのでしょうか？

How predictive is it?

この式をどう使うのか? 何が予測できるのでしょうか？

Does it predict human-level intelligence?

人間の知能レベル？ 人工知能の進歩予測？

Does it predict artificial intelligence?

人間の知能レベル？ 人工知能の進歩予測？

So I'm going to show you now a video

これからビデオをお見せします

that will, I think, demonstrate

これからビデオをお見せします

some of the amazing applications

このたった一つの式に様々な

of just this single equation.

素晴らしい応用があることを 示します

(Video) Narrator: Recent research in cosmology

宇宙論における最新の研究によると

has suggested that universes that produce

“エントロピー”つまり乱雑さを 増大させる宇宙はー

more disorder, or "entropy," over their lifetimes

“エントロピー”つまり乱雑さを 増大させる宇宙はー

should tend to have more favorable conditions

知的生命体が存在するのに 最適な状態へと方向付けられています

for the existence of intelligent beings such as ourselves.

知的生命体が存在するのに 最適な状態へと方向付けられています

But what if that tentative cosmological connection

しかし宇宙論的な意味で エントロピーと知能の間に

between entropy and intelligence

しかし宇宙論的な意味で エントロピーと知能の間に

hints at a deeper relationship?

深いレベルで関係があるとしたら？

What if intelligent behavior doesn't just correlate

知的行動は長期的なエントロピーの 増加と関係があるだけでなく

with the production of long-term entropy,

知的行動は長期的なエントロピーの 増加と関係があるだけでなく

but actually emerges directly from it?

エントロピーそのものから 発生しているとしたら？

To find out, we developed a software engine

それを確かめるために開発したのが エントロピカというソフトです

called Entropica, designed to maximize

それを確かめるために開発したのが エントロピカというソフトです

the production of long-term entropy

どのような系であっても

of any system that it finds itself in.

長期的エントロピーの増加を 最大化するように設計されています

Amazingly, Entropica was able to pass

驚いたことにエントロピカは 指示がなくても

multiple animal intelligence tests, play human games,

様々な動物知能テストをクリアし 人間が行うようなゲーム

and even earn money trading stocks,

様々な動物知能テストをクリアし 人間が行うようなゲーム

all without being instructed to do so.

さらには 株の取引きすらできたのです

Here are some examples of Entropica in action.

エントロピカの行動を見てください

Just like a human standing upright without falling over,

倒れることなく 人間のように直立二足歩行をし

here we see Entropica

ご覧のようにカートを使って ポールのバランスを取ろうとします

automatically balancing a pole using a cart.

カートを使って ポールのバランスを取ろうとします

This behavior is remarkable in part

驚くべきことの一つは エントロピカに―

because we never gave Entropica a goal.

目的を与えていないのに この様に行動することです

It simply decided on its own to balance the pole.

自分で判断し ポールのバランスを取ります

This balancing ability will have appliactions

こうした能力はヒューマノイドや 障害者のための支援技術に応用できます

for humanoid robotics

こうした能力はヒューマノイドや 障害者のための支援技術に応用できます

and human assistive technologies.

こうした能力はヒューマノイドや 障害者のための支援技術に応用できます

Just as some animals can use objects

一部の動物は手の届かない所に 道具を使いますが

in their environments as tools

一部の動物は手の届かない所に 道具を使いますが

to reach into narrow spaces,

一部の動物は手の届かない所に 道具を使いますが

here we see that Entropica,

エントロピカの場合を見てみましょう

again on its own initiative,

エントロピカの場合を見てみましょう

was able to move a large disk representing an animal

動物を表す大きなディスクを動かし

around so as to cause a small disk,

道具を表す小さなディスクを 狭い場所に動かすことができました

representing a tool, to reach into a confined space

道具を表す小さなディスクを 狭い場所に動かすことができました

holding a third disk

もう一枚のディスクは 元の位置から解放させます

and release the third disk from its initially fixed position.

もう一枚のディスクは 元の位置から解放させます

This tool use ability will have applications

こうした道具を使う能力は 製造業や農業に応用できます

for smart manufacturing and agriculture.

こうした道具を使う能力は 製造業や農業に応用できます

In addition, just as some other animals

また エサをとるため協力して ロープの端を引っ張る動物もいます

are able to cooperate by pulling opposite ends of a rope

また エサをとるため協力して ロープの端を引っ張る動物もいます

at the same time to release food,

また エサをとるため協力して ロープの端を引っ張る動物もいます

here we see that Entropica is able to accomplish

エントロピカもモデルにおいて この課題をクリアできました

a model version of that task.

エントロピカもモデルにおいて この課題をクリアできました

This cooperative ability has interesting implications

こうした協力する能力は 経済計画など多くの分野に応用できます

for economic planning and a variety of other fields.

こうした協力する能力は 経済計画など多くの分野に応用できます

Entropica is broadly applicable

エントロピカは様々な分野に 広く応用できるのです

to a variety of domains.

エントロピカは様々な分野に 広く応用できるのです

For example, here we see it successfully

例えばポンというゲームを 自分だけで見事にプレイしており

playing a game of pong against itself,

例えばポンというゲームを 自分だけで見事にプレイしており

illustrating its potential for gaming.

ゲームを遂行する能力を 示しています

Here we see Entropica orchestrating

また つながりを常に失いがちな ソーシャルネットワークにおいて

new connections on a social network

また つながりを常に失いがちな ソーシャルネットワークにおいて

where friends are constantly falling out of touch

エントロピカは新しい関係を 上手く築いていきます

and successfully keeping the network well connected.

エントロピカは新しい関係を 上手く築いていきます

This same network orchestration ability

このネットワークの組織能力は

also has applications in health care,

ヘルスケアやエネルギー 知能の分野にも応用できます

energy, and intelligence.

ヘルスケアやエネルギー 知能の分野にも応用できます

Here we see Entropica directing the paths

船の一群がパナマ運河を発見し

of a fleet of ships,

船の一群がパナマ運河を発見し

successfully discovering and utilizing the Panama Canal

大西洋から太平洋へと 活動範囲を広げる様子も

to globally extend its reach from the Atlantic

大西洋から太平洋へと 活動範囲を広げる様子も

to the Pacific.

再現しています

By the same token, Entropica

エントロピカは 自主防衛 物流 運送などにも応用できます

is broadly applicable to problems

エントロピカは 自主防衛 物流 運送などにも応用できます

in autonomous defense, logistics and transportation.

エントロピカは 自主防衛 物流 運送などにも応用できます

Finally, here we see Entropica

最後の例ですが 株取引で 安く買って高く売る戦略を

spontaneously discovering and executing

最後の例ですが 株取引で 安く買って高く売る戦略を

a buy-low, sell-high strategy

直ちに発見し シミュレーションの 条件内でこれを実行し

on a simulated range traded stock,

直ちに発見し シミュレーションの 条件内でこれを実行し

successfully growing assets under management

管理可能なやり方で 資産を一気に 増やすことができるのです

exponentially.

管理可能なやり方で 資産を一気に 増やすことができるのです

This risk management ability

こうしたリスク管理能力は 経済や保険の分野に広く応用できます

will have broad applications in finance

こうしたリスク管理能力は 経済や保険の分野に広く応用できます

and insurance.

こうしたリスク管理能力は 経済や保険の分野に広く応用できます

Alex Wissner-Gross: So what you've just seen

これまで見てきたのは 人間の知能的な認知行動です

is that a variety of signature human intelligent

これまで見てきたのは 人間の知能的な認知行動です

cognitive behaviors

これまで見てきたのは 人間の知能的な認知行動です

such as tool use and walking upright

道具の使用や直立二足歩行 社会的協力といったものです

and social cooperation

道具の使用や直立二足歩行 社会的協力といったものです

all follow from a single equation,

これらは全てー

which drives a system

未来の行動の自由度を最大にする 一つの式から導かれます

to maximize its future freedom of action.

未来の行動の自由度を最大にする 一つの式から導かれます

Now, there's a profound irony here.

ここでとても皮肉なのが

Going back to the beginning

ロボットという言葉を始めて使用した 戯曲“RUR”ではー

of the usage of the term robot,

ロボットという言葉を始めて使用した 戯曲“RUR”ではー

the play "RUR,"

ロボットという言葉を始めて使用した 戯曲“RUR”ではー

there was always a concept

“もし知能を持つ機械を作ったとしたら ロボットの反乱が起こるだろう”

that if we developed machine intelligence,

“もし知能を持つ機械を作ったとしたら ロボットの反乱が起こるだろう”

there would be a cybernetic revolt.

というコンセプトがありました

The machines would rise up against us.

機械が私達に敵対し 立ち上がるというのです

One major consequence of this work

ここ数十年における

is that maybe all of these decades,

我々の研究の主な成果として

we've had the whole concept of cybernetic revolt

ロボットによる反乱について

in reverse.

全く逆の結果が得られたのです

It's not that machines first become intelligent

なにも知能を持った機械がー

and then megalomaniacal

誇大妄想で世界を支配しようと するわけではありません

and try to take over the world.

誇大妄想で世界を支配しようと するわけではありません

It's quite the opposite,

全くの逆でー

that the urge to take control

未来の全ての可能性を コントロールする自然の原理は―

of all possible futures

未来の全ての可能性を コントロールする自然の原理は―

is a more fundamental principle

知能よりも基本的で

than that of intelligence,

知能よりも基本的で

that general intelligence may in fact emerge

可能性をコントロールしようとする 自然の原理により

directly from this sort of control-grabbing,

知性というものが発生するのであり

rather than vice versa.

その逆ではないのでしょう

Another important consequence is goal seeking.

もう一つの重要な結果がゴールシークです

I'm often asked, how does the ability to seek goals

よく質問されることですが 目標を探す能力が この原理に

follow from this sort of framework?

どのように従っているのでしょう

And the answer is, the ability to seek goals

その答えは ゴールを探す能力は

will follow directly from this

次のことと直接的に関係するのです

in the following sense:

次のことと直接的に関係するのです

just like you would travel through a tunnel,

様々な目的を達成するためにー

a bottleneck in your future path space,

様々な目的を達成するためにー

in order to achieve many other

待ち構える障害を切り抜けたり

diverse objectives later on,

待ち構える障害を切り抜けたり

or just like you would invest

長期的に財産を増やすためー

in a financial security,

長期的に財産を増やすためー

reducing your short-term liquidity

短期的に資金が減ったとしても 生活資金保障に投資するなど

in order to increase your wealth over the long term,

短期的に資金が減ったとしても 生活資金保障に投資するなど

goal seeking emerges directly

ゴールシークは 未来の行動の自由度を増加させるー

from a long-term drive

ゴールシークは 未来の行動の自由度を増加させるー

to increase future freedom of action.

長期的な動機から直接発生します

Finally, Richard Feynman, famous physicist,

最後に 有名な物理学者 リチャード・フェインマンの言葉

once wrote that if human civilization were destroyed

“もし人間の文明が滅びー

and you could pass only a single concept

文明を再建するため ある概念を 一つだけ子孫に伝えられるとしたら

on to our descendants

文明を再建するため ある概念を 一つだけ子孫に伝えられるとしたら

to help them rebuild civilization,

文明を再建するため ある概念を 一つだけ子孫に伝えられるとしたら

that concept should be

「私達の周りの物は全て 小さな原子でできておりー

that all matter around us

「私達の周りの物は全て 小さな原子でできておりー

is made out of tiny elements

離れた時は引き付け合うが 引っ付いた時は離れる」という概念だ”

that attract each other when they're far apart

離れた時は引き付け合うが 引っ付いた時は離れる」という概念だ”

but repel each other when they're close together.

離れた時は引き付け合うが 引っ付いた時は離れる」という概念だ”

My equivalent of that statement

この言葉の私の解釈はー

to pass on to descendants

この言葉の私の解釈はー

to help them build artificial intelligences

人工知能の製作と 人間の知能の理解に役立つ―

or to help them understand human intelligence,

人工知能の製作と 人間の知能の理解に役立つ―

is the following:

次のようなものです

Intelligence should be viewed

知能というのは 未来の自由度を最大にしー

as a physical process

知能というのは 未来の自由度を最大にしー

that tries to maximize future freedom of action

制限をなくすような 物理的プロセスであるべきだということです

and avoid constraints in its own future.

制限をなくすような 物理的プロセスであるべきだということです

Thank you very much.

ありがとうございました

(Applause)

(拍手)