Alex Wissner-Gross: A new equation for intelligence

Алекс Висснер-Гросс: Новое уравнение интеллекта

Переводчик: Stanislav Korotygin Редактор: Olga Dmitrochenkova

Intelligence -- what is it?

Что такое интеллект?

If we take a look back at the history

Если мы обратимся к истории того,

of how intelligence has been viewed,

как рассматривали интеллект,

one seminal example has been

одним из основополагающих примеров было

Edsger Dijkstra's famous quote that

известное высказывание Эдсгера Дейкстра:

"the question of whether a machine can think

«Вопрос «Умеет ли компьютер думать?»

is about as interesting

имеет не больше смысла,

as the question of whether a submarine

чем вопрос «Умеет ли подводная лодка

can swim."

плавать?».

Now, Edsger Dijkstra, when he wrote this,

Когда Эдсгер Дейкстра написал это,

intended it as a criticism

он хотел тем самым раскритиковать

of the early pioneers of computer science,

таких пионеров информатики,

like Alan Turing.

как Алан Тьюринг.

However, if you take a look back

Однако если вы посмотрите в прошлое

and think about what have been

и подумаете о том, какими были

the most empowering innovations

наиболее полезные инновации,

that enabled us to build

позволившие нам построить

artificial machines that swim

искусственные плавательные

and artificial machines that [fly],

и летательные аппараты,

you find that it was only through understanding

вы обнаружите, только понимание

the underlying physical mechanisms

физических механизмов, лежащих в основе

of swimming and flight

плавания и полёта,

that we were able to build these machines.

позволило нам построить эти машины.

And so, several years ago,

Поэтому несколько лет назад

I undertook a program to try to understand

я присоединился к одной программе, чтобы попытаться понять

the fundamental physical mechanisms

фундаментальные физические механизмы,

underlying intelligence.

ответственные за интеллект.

Let's take a step back.

Давайте сделаем отступление.

Let's first begin with a thought experiment.

Давайте начнём с мысленного эксперимента.

Pretend that you're an alien race

Представьте, что вы внеземная раса,

that doesn't know anything about Earth biology

которая ничего не знает о биологии Земли,

or Earth neuroscience or Earth intelligence,

или земной нейробиологии, или земном интеллекте.

but you have amazing telescopes

Но у вас есть изумительные телескопы,

and you're able to watch the Earth,

вы способны наблюдать за Землёй.

and you have amazingly long lives,

У вас удивительно большая продолжительность жизни,

so you're able to watch the Earth

поэтому вы можете наблюдать за Землёй

over millions, even billions of years.

на протяжении миллионов, даже миллиардов лет.

And you observe a really strange effect.

И вы наблюдаете очень странные происшествия.

You observe that, over the course of the millennia,

Вы видите, что на протяжении тысячелетий

Earth is continually bombarded with asteroids

вплоть до некоторого момента Землю постоянно

up until a point,

бомбардируют астероиды.

and that at some point,

Но в некоторый момент,

corresponding roughly to our year, 2000 AD,

соответствующий примерно нашему году, 2000 от Рождества Христова,

asteroids that are on

астероиды, которые находятся

a collision course with the Earth

на курсе столкновения с Землёй

that otherwise would have collided

и вот-вот с ней столкнутся,

mysteriously get deflected

магически отклоняются от столкновения

or they detonate before they can hit the Earth.

или детонируют до того, как достичь Земли.

Now of course, as earthlings,

Разумеется, как земляне

we know the reason would be

мы знаем, что причина была бы в том,

that we're trying to save ourselves.

что мы пытаемся спасти себя.

We're trying to prevent an impact.

Мы пытаемся предотвратить столкновение.

But if you're an alien race

Но если вы внеземная раса,

who doesn't know any of this,

которая не знает этого,

doesn't have any concept of Earth intelligence,

не имеет никакого представления об интеллекте Земли,

you'd be forced to put together

вам пришлось бы создать

a physical theory that explains how,

физическую теорию, объясняющую,

up until a certain point in time,

как астероиды, вплоть до определённого момента

asteroids that would demolish the surface of a planet

уничтожающие поверхность планеты,

mysteriously stop doing that.

вдруг таинственно перестали делать это.

And so I claim that this is the same question

Я заявляю, что это вопрос из той же сферы,

as understanding the physical nature of intelligence.

что и понимание физической природы интеллекта.

So in this program that I undertook several years ago,

В программе, к которой я присоединился несколько лет назад,

I looked at a variety of different threads

я изучил различные дискуссии

across science, across a variety of disciplines,

во всех областях науки, во множестве дисциплин,

that were pointing, I think,

которые указывали, я думаю,

towards a single, underlying mechanism

на общий глубинный механизм

for intelligence.

интеллекта.

In cosmology, for example,

Например, в космологии

there have been a variety of different threads of evidence

есть ряд подтверждений того,

that our universe appears to be finely tuned

что наша вселенная выглядит тщательно настроенной

for the development of intelligence,

на развитие интеллекта,

and, in particular, for the development

и в частности, на развитие

of universal states

универсальных состояний,

that maximize the diversity of possible futures.

которые максимизируют разнообразие возможных вариантов будущего.

In game play, for example, in Go --

В играх, например, в го —

everyone remembers in 1997

все помнят 1997 год,

when IBM's Deep Blue beat Garry Kasparov at chess --

когда суперкомпьютер IBM Deep Blue победил Гарри Каспарова в шахматы —

fewer people are aware

немногие люди знают,

that in the past 10 years or so,

что за последние 10 лет или около того

the game of Go,

игра го,

arguably a much more challenging game

значительно более сложная

because it has a much higher branching factor,

вследствие значительно большей степени ветвления,

has also started to succumb

также начала поддаваться

to computer game players

игрокам-компьютерам

for the same reason:

и по той же причине:

the best techniques right now for computers playing Go

сейчас наилучшие техники для компьютеров, которые играют в го,

are techniques that try to maximize future options

это техники, которые пытаются максимизировать варианты развития

during game play.

по ходу игры.

Finally, in robotic motion planning,

Наконец, при планировании движения роботов

there have been a variety of recent techniques

существует немало свежих технологий,

that have tried to take advantage

пытающихся воспользоваться

of abilities of robots to maximize

способностями роботов максимизировать

future freedom of action

будущую свободу действий

in order to accomplish complex tasks.

для выполнения сложных задач.

And so, taking all of these different threads

Собирая вместе эту информацию

and putting them together,

и складывая её вместе,

I asked, starting several years ago,

несколько лет назад я задался вопросом:

is there an underlying mechanism for intelligence

существует ли глубинный механизм интеллекта

that we can factor out

который мы можем выделить

of all of these different threads?

из всей этой информации?

Is there a single equation for intelligence?

Существует ли единственное уравнение интеллекта?

And the answer, I believe, is yes. ["F = T ∇ Sτ"]

И ответ, я думаю, «да». ["F = T ∇ Sτ"]

What you're seeing is probably

Вы видите то, что, возможно,

the closest equivalent to an E = mc²

является ближайшим эквивалентом Е = mc²

for intelligence that I've seen.

для интеллекта, который я изучил.

So what you're seeing here

Вы видите

is a statement of correspondence

выражение соответствия того,

that intelligence is a force, F,

что интеллект является силой, F, которая действует таким образом,

that acts so as to maximize future freedom of action.

чтобы максимизировать будущую свободу действий.

It acts to maximize future freedom of action,

Она действует для максимизации будущей свободы действий

or keep options open,

или сохранения возможностей открытыми

with some strength T,

с некоторой силой Т,

with the diversity of possible accessible futures, S,

с разнообразием возможных доступных вариантов будущего, S,

up to some future time horizon, tau.

вплоть до некоторого будущего временного горизонта, тау.

In short, intelligence doesn't like to get trapped.

Короче говоря, интеллект не хочет попасть в ловушку.

Intelligence tries to maximize future freedom of action

Он пытается максимизировать свободу действий в будущем

and keep options open.

и сохранить варианты открытыми.

And so, given this one equation,

У нас есть это уравнение,

it's natural to ask, so what can you do with this?

и возникает вопрос: что мы можем с ним сделать?

How predictive is it?

Есть ли у него сила предсказания?

Does it predict human-level intelligence?

Предсказывает ли оно уровень интеллекта людей?

Does it predict artificial intelligence?

Предсказывает ли оно искусственный интеллект?

So I'm going to show you now a video

Сейчас вы увидите видео,

that will, I think, demonstrate

которое, я полагаю, покажет

some of the amazing applications

некоторые из удивительных применений

of just this single equation.

этого уравнения.

(Video) Narrator: Recent research in cosmology

(Видео) Рассказчик: Недавние исследования в космологии

has suggested that universes that produce

предположили, что вселенные, которые создают

more disorder, or "entropy," over their lifetimes

больше беспорядка, или энтропии, в течение своей жизни

should tend to have more favorable conditions

имеют более благоприятные условия

for the existence of intelligent beings such as ourselves.

для существования разумных существ, таких как мы с вами.

But what if that tentative cosmological connection

Но что, если эта умозрительная космологическая связь

between entropy and intelligence

между энтропией и интеллектом

hints at a deeper relationship?

намекает на более глубокое взаимоотношение?

What if intelligent behavior doesn't just correlate

Что, если разумное поведение не просто соотносится

with the production of long-term entropy,

с созданием энтропии в длительной перспективе,

but actually emerges directly from it?

но на самом деле возникает прямо из неё?

To find out, we developed a software engine

Чтобы выяснить это, мы разработали программный продукт

called Entropica, designed to maximize

под названием «Энтропика», нацеленный на максимизацию

the production of long-term entropy

создания энтропии в дальней перспективе

of any system that it finds itself in.

любой системы, в которой он себя найдёт.

Amazingly, Entropica was able to pass

Удивительно, «Энтропика» смогла пройти

multiple animal intelligence tests, play human games,

несколько тестов на интеллект для животных, сыграть в человеческие игры

and even earn money trading stocks,

и даже заработать деньги, торгуя акциями —

all without being instructed to do so.

и всё это без каких-либо инструкций.

Here are some examples of Entropica in action.

Вот некоторые примеры работы «Энтропики».

Just like a human standing upright without falling over,

Как человек способен стоять прямо не падая,

here we see Entropica

так и «Энтропика»

automatically balancing a pole using a cart.

автоматически балансирует шест с использованием тележки.

This behavior is remarkable in part

Это поведение удивительно,

because we never gave Entropica a goal.

потому что мы не задавали ей цель.

It simply decided on its own to balance the pole.

Она сама решила балансировать шест.

This balancing ability will have appliactions

Эта способность поддерживать равновесие будет иметь применение

for humanoid robotics

в гуманоидной робототехнике

and human assistive technologies.

и технологиях поддержки людей.

Just as some animals can use objects

Так же как некоторые животные могут использовать объекты

in their environments as tools

в своём окружении как инструменты,

to reach into narrow spaces,

чтобы пробраться через узкое пространство,

here we see that Entropica,

здесь мы видим, как «Энтропика»,

again on its own initiative,

снова по своей инициативе,

was able to move a large disk representing an animal

смогла переместить большой диск, представляющий животное,

around so as to cause a small disk,

таким образом, чтобы заставить маленький диск,

representing a tool, to reach into a confined space

представляющий инструмент, забраться в ограниченное пространство,

holding a third disk

удерживающее третий диск,

and release the third disk from its initially fixed position.

и высвободить третий диск из его изначально фиксированной позиции.

This tool use ability will have applications

Эта способность использовать инструменты будет иметь применение

for smart manufacturing and agriculture.

в небольших производствах и аграрном хозяйстве.

In addition, just as some other animals

Вдобавок, также как некоторые другие животные

are able to cooperate by pulling opposite ends of a rope

способны сотрудничать, натягивая противоположные концы верёвки

at the same time to release food,

одновременно для высвобождения еды,

here we see that Entropica is able to accomplish

здесь мы видим, что «Энтропика» способна выполнить

a model version of that task.

моделированную версию этой задачи.

This cooperative ability has interesting implications

Эта способность к сотрудничеству имеет интересные применения

for economic planning and a variety of other fields.

для планирования экономики и ряда других областей.

Entropica is broadly applicable

«Энтропика» широко применима

to a variety of domains.

в ряде областей.

For example, here we see it successfully

Например, здесь мы видим, как она успешно

playing a game of pong against itself,

играет в пинг-понг сама с собой,

illustrating its potential for gaming.

иллюстрируя свой потенциал к играм.

Here we see Entropica orchestrating

Здесь мы видим «Энтропику», планирующую

new connections on a social network

новые связи в социальной сети,

where friends are constantly falling out of touch

где друзья постоянно пропадают из вида,

and successfully keeping the network well connected.

и успешно поддерживающую связь в сети.

This same network orchestration ability

Эта способность организации сети

also has applications in health care,

также имеет применение в здравоохранении,

energy, and intelligence.

энергетике и создании искусственного интеллекта.

Here we see Entropica directing the paths

Здесь мы видим, как «Энтропика» прокладывает

of a fleet of ships,

пути флота кораблей,

successfully discovering and utilizing the Panama Canal

успешно обнаруживая и используя Панамский канал

to globally extend its reach from the Atlantic

для достижения связи между Атлантическим

to the Pacific.

и Тихим океанами.

By the same token, Entropica

Эта способность делает «Энтропику»

is broadly applicable to problems

широко применимой к решению проблем

in autonomous defense, logistics and transportation.

автономной защиты, логистики и транспорта.

Finally, here we see Entropica

Наконец, здесь мы видим «Энтропику»,

spontaneously discovering and executing

спонтанно обнаруживающую и осуществляющую

a buy-low, sell-high strategy

стратегию «покупай дёшево — продавай дорого»

on a simulated range traded stock,

в симулируемом периоде торговли акциями.

successfully growing assets under management

Она успешно показательно наращивает

exponentially.

активы под её управлением.

This risk management ability

Эта способность управления риском

will have broad applications in finance

будет иметь широкие применения в финансах

and insurance.

и страховании.

Alex Wissner-Gross: So what you've just seen

Алекс Висснер-Гросс: То, что вы сейчас увидели,

is that a variety of signature human intelligent

является набором отличительных черт

cognitive behaviors

человеческого интеллекта и его поведения,

such as tool use and walking upright

например, использование инструментов, прямохождение

and social cooperation

и общественное сотрудничество.

all follow from a single equation,

Все они следуют из уравнения,

which drives a system

которое заставляет систему

to maximize its future freedom of action.

максимизировать свободу действий в будущем.

Now, there's a profound irony here.

Здесь кроется глубокая ирония.

Going back to the beginning

Вернёмся к первым

of the usage of the term robot,

упоминаниям термина «робот»

the play "RUR,"

в пьесе «Р. У. Р.».

there was always a concept

Всегда существовало мнение,

that if we developed machine intelligence,

что если бы мы создали машинный интеллект,

there would be a cybernetic revolt.

произошла бы киберреволюция.

The machines would rise up against us.

Машины бы восстали против нас.

One major consequence of this work

Одним большим следствием этой работы

is that maybe all of these decades,

является то, что, возможно, на протяжении последних десятилетий,

we've had the whole concept of cybernetic revolt

мы наблюдали киберреволюцию

in reverse.

в обратном направлении.

It's not that machines first become intelligent

Это не машины сначала стали разумными,

and then megalomaniacal

а затем обзавелись манией величия

and try to take over the world.

и пытаются завоевать мир.

It's quite the opposite,

Произошло нечто прямо противоположное.

that the urge to take control

Желание контролировать

of all possible futures

все возможные варианты будущего —

is a more fundamental principle

более фундаментальный принцип

than that of intelligence,

по сравнению с интеллектом;

that general intelligence may in fact emerge

интеллект может возникать

directly from this sort of control-grabbing,

непосредственно из желания захватить контроль,

rather than vice versa.

но не наоборот.

Another important consequence is goal seeking.

Другое важное следствие — поиск цели.

I'm often asked, how does the ability to seek goals

Меня часто спрашивают, как способность поиска целей

follow from this sort of framework?

вытекает из этой модели.

And the answer is, the ability to seek goals

Я отвечаю, что способность искать цели

will follow directly from this

следует прямо из этой модели

in the following sense:

вот каким образом:

just like you would travel through a tunnel,

так же как если вы путешествуете через тоннель —

a bottleneck in your future path space,

довольно узкий путь из всех возможных путей —

in order to achieve many other

для достижения многих

diverse objectives later on,

разнообразных целей в будущем,

or just like you would invest

или инвестируете

in a financial security,

в финансовую безопасность,

reducing your short-term liquidity

уменьшая краткосрочную ликвидность для того,

in order to increase your wealth over the long term,

чтобы увеличить благосостояние в долгосрочной перспективе,

goal seeking emerges directly

поиск цели возникает напрямую

from a long-term drive

из долгосрочной необходимости

to increase future freedom of action.

увеличения свободы действий в будущем.

Finally, Richard Feynman, famous physicist,

Наконец, Ричард Фейнман, знаменитый физик,

once wrote that if human civilization were destroyed

однажды написал, что если бы человеческая цивилизация находилась на грани уничтожения

and you could pass only a single concept

и у вас была бы возможность передать лишь одну идею

on to our descendants

потомкам,

to help them rebuild civilization,

чтобы помочь им построить цивилизацию заново,

that concept should be

эта идея должна быть в том,

that all matter around us

что вся материя вокруг нас

is made out of tiny elements

создана из крошечных элементов,

that attract each other when they're far apart

которые притягивают друг друга, когда они находятся далеко,

but repel each other when they're close together.

но отталкивают друг друга, когда они находятся рядом.

My equivalent of that statement

Мой эквивалент этого утверждения

to pass on to descendants

для передачи потомкам,

to help them build artificial intelligences

чтобы помочь им построить искусственный интеллект

or to help them understand human intelligence,

или помочь им понять человеческую разумность,

is the following:

будет таким:

Intelligence should be viewed

интеллект должен рассматриваться

as a physical process

как физический процесс,

that tries to maximize future freedom of action

который пытается максимизировать свободу действий

and avoid constraints in its own future.

и избежать ограничений в будущем.

Thank you very much.

Большое спасибо.

(Applause)

(Аплодисменты)