Alex Wissner-Gross: A new equation for intelligence

Перекладач: Утверджено: Khrystyna Romashko

Intelligence -- what is it?

Інтелект - що це?

If we take a look back at the history

Якщо ми поглянемо на історію

of how intelligence has been viewed,

еволюції поглядів на інтелект,

one seminal example has been

там є один незначний приклад,

Edsger Dijkstra's famous quote that

відома цитата Едскера Дайкстри:

"the question of whether a machine can think

"Питання, чи може машина мислити,

is about as interesting

настільки ж цікаве,

as the question of whether a submarine

як і питання, чи субмарина

can swim."

може плавати?"

Now, Edsger Dijkstra, when he wrote this,

Те, що написав Едскер Дайкстра,

intended it as a criticism

мало призначення критики

of the early pioneers of computer science,

перших піонерів комп'ютерної науки,

like Alan Turing.

таких як Алан Тьюрінг.

However, if you take a look back

Проте, якщо ви поглянете назад,

and think about what have been

і подумаєте, які ж були

the most empowering innovations

найбільш вражаючі інновації,

that enabled us to build

що зробили нас здатними будувати

artificial machines that swim

штучні машини, що плавають

and artificial machines that [fly],

і штучні машини, що літають,

you find that it was only through understanding

ви зрозумієте, що це було можливо тільки через розуміння

the underlying physical mechanisms

пов'язаних із ними фізичних механізмів

of swimming and flight

плавання і польоту,

that we were able to build these machines.

що ми були здатні побудувати ці механізми.

And so, several years ago,

Отже, кілька років тому,

I undertook a program to try to understand

я розробив програму, щоб спробувати зрозуміти

the fundamental physical mechanisms

фундаментальні фізичні механізми,

underlying intelligence.

які лежать в основі інтелекту.

Let's take a step back.

Давайте повернемось на крок назад.

Let's first begin with a thought experiment.

Споробуємо почати з уявного експерименту.

Pretend that you're an alien race

Уявіть, що ви - інопланетна раса,

that doesn't know anything about Earth biology

яка не знає нічого про біологію Землі

or Earth neuroscience or Earth intelligence,

або земну нейрологію, чи її інтелект,

but you have amazing telescopes

але у вас є величезні телескопи

and you're able to watch the Earth,

і ви можете спостерігати за Землею,

and you have amazingly long lives,

і у вас дуже довге життя,

so you're able to watch the Earth

отже ви можете спостерігати за Землею

over millions, even billions of years.

протягом мільйонів, навіть мільярдів років.

And you observe a really strange effect.

І ви помічаєте дійсно дивне явище.

You observe that, over the course of the millennia,

Ви помічаєте, що протягом тисячоліть

Earth is continually bombarded with asteroids

Землю постійно бомбардують астероїди

up until a point,

до певного моменту,

and that at some point,

і з того моменту,

corresponding roughly to our year, 2000 AD,

відповідаючи приблизно нашому 2000-му рокові після Різдва Христового,

asteroids that are on

астероїди, які продовжують

a collision course with the Earth

курс на зіткнення з Землею,

that otherwise would have collided

що в іншому випадку трапився би,

mysteriously get deflected

таємничо відхиляються,

or they detonate before they can hit the Earth.

або вони вибухають перед тим, як вдаритись об Землю.

Now of course, as earthlings,

Зараз, звичайно, як земляни,

we know the reason would be

ми знаємо, що причина була б

that we're trying to save ourselves.

у наших спробах зберегти самих себе.

We're trying to prevent an impact.

Ми намагаємось запобігти удару.

But if you're an alien race

Але, якщо ви належите до позаземної раси,

who doesn't know any of this,

яка не знає нічого про це,

doesn't have any concept of Earth intelligence,

немає жодних уявлень про розум на Землі,

you'd be forced to put together

ви би були змушені зібрати разом

a physical theory that explains how,

фізичну теорію, що пояснює,

up until a certain point in time,

як до певної точки в часі

asteroids that would demolish the surface of a planet

астероїди, що зруйнували б поверхню планети,

mysteriously stop doing that.

містично припиняють робити це.

And so I claim that this is the same question

Отже я стверджую, що це таке ж питання,

as understanding the physical nature of intelligence.

як і розуміння фізичної природи інтелекту.

So in this program that I undertook several years ago,

В цій програмі, яку я розробив декілька років тому,

I looked at a variety of different threads

я поглянув на розмаїття різних течій

across science, across a variety of disciplines,

в науці, в багатьох дисциплінах,

that were pointing, I think,

що вказували, я думаю,

towards a single, underlying mechanism

на єдиний, базовий механізм

for intelligence.

для інтелекту.

In cosmology, for example,

В космології, наприклад,

there have been a variety of different threads of evidence

було багато різних доказів,

that our universe appears to be finely tuned

що наш всесвіт виявляється точно налаштованим

for the development of intelligence,

для розвитку розуму,

and, in particular, for the development

і, зокрема, для розвитку

of universal states

універсальних станів,

that maximize the diversity of possible futures.

які збільшують різноманітність можливих варіантів майбутнього.

In game play, for example, in Go --

У грі, наприклад, в Go --

everyone remembers in 1997

кожен пам'ятає в 1997 році,

when IBM's Deep Blue beat Garry Kasparov at chess --

коли IBM Deep Blue переміг Гаррі Каспарова в шахи,

fewer people are aware

мало хто знає,

that in the past 10 years or so,

що в останні 10 років, чи близько того,

the game of Go,

гра Go,

arguably a much more challenging game

можливо, набагато складніша гра,

because it has a much higher branching factor,

тому що має набагато вищий коефіцієнт розгалуження,

has also started to succumb

схоже, також почала піддаватись

to computer game players

комп'ютерам

for the same reason:

з тієї самої причини:

the best techniques right now for computers playing Go

зараз найкраща техніка для комп'ютерів, що грають в Go,

are techniques that try to maximize future options

- це техніка збільшення варіантів майбутнього

during game play.

протягом гри.

Finally, in robotic motion planning,

Врешті, у плануванні роботизованого руху,

there have been a variety of recent techniques

було багато вищевказаних методик,

that have tried to take advantage

що спробували використати переваги

of abilities of robots to maximize

здібності роботів максимізувати

future freedom of action

майбутню свободу дій

in order to accomplish complex tasks.

відповідно, щоб виконувати складні завдання.

And so, taking all of these different threads

Отже, якщо ці різноманітні напрямки

and putting them together,

скласти разом,

I asked, starting several years ago,

я запитав, починаючи декілька років тому,

is there an underlying mechanism for intelligence

чи є якийсь базовий механізм для інтелекту,

that we can factor out

який ми можемо винести за дужки

of all of these different threads?

від усіх цих різних напрямків?

Is there a single equation for intelligence?

Чи є єдине рівняння для інтелекту?

And the answer, I believe, is yes. ["F = T ∇ Sτ"]

І відповідь, я вірю, так. ["F = T ∇ Sτ"]

What you're seeing is probably

Те, що ви бачите, можливо,

the closest equivalent to an E = mc²

найближчий еквівалент до E = mc²

for intelligence that I've seen.

для інтелекту, що я побачив.

So what you're seeing here

Те, що ви тут бачите -

is a statement of correspondence

це свідчення відповідності,

that intelligence is a force, F,

що інтелект - це сила F,

that acts so as to maximize future freedom of action.

яка діє так, щоб максимізувати майбутню свободу дій.

It acts to maximize future freedom of action,

Вона діє, щоб збільшити майбутню свободу дій,

or keep options open,

чи залишати можливості відкритими

with some strength T,

з деякою силою Т

with the diversity of possible accessible futures, S,

і з різноманітністю можливих дій S

up to some future time horizon, tau.

в деякому майбутньому часовому горизонті, тау.

In short, intelligence doesn't like to get trapped.

Якщо коротко, інтелект не любить потрапляти в пастку.

Intelligence tries to maximize future freedom of action

Інтелект намагається максимізувати майбутню свободу дій

and keep options open.

і залишати можливості відкритими.

And so, given this one equation,

Отже, на дане рівняння

it's natural to ask, so what can you do with this?

природньо запитати, що можна з ним зробити?

How predictive is it?

Що можна передбачити з його допомогою?

Does it predict human-level intelligence?

Чи може воно передбачати людський інтелект?

Does it predict artificial intelligence?

Чи воно може спрогнозувати штучний інтелект?

So I'm going to show you now a video

Що ж, я збираюсь показати вам зараз відео,

that will, I think, demonstrate

яке, думаю, продемонструє

some of the amazing applications

деякі вражаючі можливості

of just this single equation.

цього простого рівняння.

(Video) Narrator: Recent research in cosmology

(Відео) Ведучий: Недавні дослідження в космології

has suggested that universes that produce

припускали, що галактики, які створюють

more disorder, or "entropy," over their lifetimes

більше хаосу, чи "ентропії" протягом їхнього життя,

should tend to have more favorable conditions

повинні, як правило, мати більш сприятливі умови

for the existence of intelligent beings such as ourselves.

для існування інтелекту, такого як наш.

But what if that tentative cosmological connection

Але, якщо цей попередній космологічний зв'язок

between entropy and intelligence

між ентропією та інтелектом

hints at a deeper relationship?

ховається за глибшим відношенням?

What if intelligent behavior doesn't just correlate

Що, якщо поведінка інтелекту не тільки корелює

with the production of long-term entropy,

з результатом довготривалої ентропії,

but actually emerges directly from it?

але прямо походить від неї?

To find out, we developed a software engine

Щоб визначити це, ми розробили програмний рушій,

called Entropica, designed to maximize

Entropica, розроблений для максимізації

the production of long-term entropy

створення довготривалої ентропії

of any system that it finds itself in.

будь-якої системи, що знаходиться в ній.

Amazingly, Entropica was able to pass

Вражаюче, Entropica зміг пройти

multiple animal intelligence tests, play human games,

декілька тестів для тваринного інтелекту, грати в ігри для людей

and even earn money trading stocks,

і навіть заробити гроші, торгуючи акціями,

all without being instructed to do so.

все без вказівок про те, як це робити.

Here are some examples of Entropica in action.

Ось деякі приклади Entropica в дії.

Just like a human standing upright without falling over,

Подібно до людини, що стоїть вертикально і не падає,

here we see Entropica

тут ми бачимо Entropica,

automatically balancing a pole using a cart.

що автоматично збалансовує кульку, використовуючи возик.

This behavior is remarkable in part

Така поведінка вражає, але не повністю,

because we never gave Entropica a goal.

тому що ми ніколи не давали Entropica цілі.

It simply decided on its own to balance the pole.

Вона просто вирішила, на свій власний "розсуд", балансувати кульку.

This balancing ability will have appliactions

Ця здатність балансування буде застосовуватись

for humanoid robotics

для роботів гуманоїдів

and human assistive technologies.

і допоміжних технологій для людей.

Just as some animals can use objects

Так само, як деякі тварини можуть використовувати об'єкти

in their environments as tools

в їхньому середовищі, як інструменти,

to reach into narrow spaces,

щоб дістатися у вузькі місця,

here we see that Entropica,

тут ми бачимо, що Entropica,

again on its own initiative,

знову ж таки з власної ініціативи,

was able to move a large disk representing an animal

була в змозі рухати великим диском, який представляє собою тварину,

around so as to cause a small disk,

рухати навколо так, щоб заставити невеликий диск,

representing a tool, to reach into a confined space

який представляє собою інструмент, досягти обмеженого простору,

holding a third disk

провівши третій диск,

and release the third disk from its initially fixed position.

і звільнити третій диск від його початково фіксованого положення.

This tool use ability will have applications

Ця здатність використовувати інструмент буде застосовуватись

for smart manufacturing and agriculture.

для розумного виробництва та сільського господарства.

In addition, just as some other animals

Крім того, подібно до інших тварин,

are able to cooperate by pulling opposite ends of a rope

здатних співпрацювати, потягнувши протилежні кінці мотузки

at the same time to release food,

одночасно, щоб звільнити їжу,

here we see that Entropica is able to accomplish

ми бачимо, що Entropica в змозі виконати

a model version of that task.

модельну версію цього завдання.

This cooperative ability has interesting implications

Ця кооперативна здатність має цікаві наслідки

for economic planning and a variety of other fields.

для економічного планування і багатьох інших галузей.

Entropica is broadly applicable

Entropica широко застосовується

to a variety of domains.

до різних галузей.

For example, here we see it successfully

Наприклад, тут ми бачимо, як вона успішно

playing a game of pong against itself,

грає з собою в теніс,

illustrating its potential for gaming.

ілюструючи її потенціал для ігор.

Here we see Entropica orchestrating

Тут ми бачимо, як Entropica врегульовує

new connections on a social network

нові зв'язки в соціальній мережі,

where friends are constantly falling out of touch

де друзі постійно втрачають контакт

and successfully keeping the network well connected.

і успішно утримує мережу добре з'єднаною.

This same network orchestration ability

Ця ж здатність регулювання мережі

also has applications in health care,

також застосовується в галузі охорони здоров'я,

energy, and intelligence.

енергетики та розвідки.

Here we see Entropica directing the paths

Тут ми бачимо, як Entropica визначає курс

of a fleet of ships,

для флоту кораблів,

successfully discovering and utilizing the Panama Canal

успішно відкриваючи і використовуючи Панамський канал,

to globally extend its reach from the Atlantic

щоб глобально розширитись від Атлантики

to the Pacific.

до Тихого океану.

By the same token, Entropica

До того ж Entropica

is broadly applicable to problems

широко застосовується до проблем

in autonomous defense, logistics and transportation.

автономного захисту, транспорту та логістики.

Finally, here we see Entropica

Ну і нарешті, тут ми бачимо, як Entropica

spontaneously discovering and executing

спонтанно відкриває та здійснює

a buy-low, sell-high strategy

стратегію "купити дешевше, продати дорожче"

on a simulated range traded stock,

з імітацією торгівлі акціями,

successfully growing assets under management

успішно збільшуючи активи під її управлінням

exponentially.

експоненціально.

This risk management ability

Ця здатність управління ризиками

will have broad applications in finance

буде широко застосовуватись в галузі фінансів

and insurance.

і страхування.

Alex Wissner-Gross: So what you've just seen

Алекс Уісснер-Ґросс: Ви щойно побачили,

is that a variety of signature human intelligent

що різні кліше

cognitive behaviors

людської когнітивної поведінки,

such as tool use and walking upright

такої як використання інструменту, ходіння вертикально

and social cooperation

і соціальна кооперація,

all follow from a single equation,

все можна відобразити одним рівнянням,

which drives a system

що примушує систему

to maximize its future freedom of action.

максимально збільшити майбутню свободу дій.

Now, there's a profound irony here.

У цьому є і глибока іронія.

Going back to the beginning

Повертаючись до початку

of the usage of the term robot,

використання терміну "робот",

the play "RUR,"

у грі "Рубль"

there was always a concept

завжди була концепція,

that if we developed machine intelligence,

що, якщо ми розробили штучний інтелект,

there would be a cybernetic revolt.

то може трапитись кібер революція.

The machines would rise up against us.

Машини повстануть проти нас.

One major consequence of this work

Одним із головних наслідків цієї роботи

is that maybe all of these decades,

є те, що, можливо, всі ці десятиліття

we've had the whole concept of cybernetic revolt

у нас вся концепція кібер повстання відбулась

in reverse.

в зворотному напрямку.

It's not that machines first become intelligent

Не мається на увазі, що машини спочатку стають розумними,

and then megalomaniacal

а потім їх охоплює манія величі

and try to take over the world.

і вони намагаються захопити весь світ.

It's quite the opposite,

Це зовсім протилежне,

that the urge to take control

бажання взяти під свій контроль

of all possible futures

всі можливі сценарії -

is a more fundamental principle

це більш фундаментальний принцип,

than that of intelligence,

ніж у розвідки,

that general intelligence may in fact emerge

принцип, згідно якого базовий інтелект фактично може з'явитись

directly from this sort of control-grabbing,

безпосередньо від такого роду надконтролю,

rather than vice versa.

а не навпаки.

Another important consequence is goal seeking.

Ще одним важливим наслідком є пошук мети.

I'm often asked, how does the ability to seek goals

Мене часто запитують, як здатність шукати цілі

follow from this sort of framework?

випливає з такого роду схеми?

And the answer is, the ability to seek goals

І відповідь полягає в тому, що можливість шукати цілі

will follow directly from this

буде випливати прямо з цього

in the following sense:

в наступному сенсі:

just like you would travel through a tunnel,

так само, якби ви подорожували крізь дуже тісний тунель

a bottleneck in your future path space,

у вашому просторі майбутнього

in order to achieve many other

для того, щоб досягти багатьох інших

diverse objectives later on,

різноманітних цілей пізніше

or just like you would invest

або, так, наче ви інвестували б

in a financial security,

у фінансову безпеку,

reducing your short-term liquidity

зменшуючи вашу короткострокову ліквідність

in order to increase your wealth over the long term,

для того, щоб підвищити ваше багатство в довгостроковій перспективі,

goal seeking emerges directly

пошук цілей виникає безпосередньо

from a long-term drive

з довгострокового стимулу

to increase future freedom of action.

збільшити майбутню свободу дій.

Finally, Richard Feynman, famous physicist,

І на завершення, Річард Фейнман, знаменитий фізик

once wrote that if human civilization were destroyed

один раз писав, що якщо людська цивілізація буде знищена

and you could pass only a single concept

і ви могли б передати тільки одну концепцію

on to our descendants

для наших нащадків,

to help them rebuild civilization,

щоб допомогти їм відновити цивілізацію,

that concept should be

ця концепція повинна полягати в тому,

that all matter around us

що все, що має значення навколо нас,

is made out of tiny elements

зроблене з крихітних елементів,

that attract each other when they're far apart

що притягуються один до одного, коли вони далеко,

but repel each other when they're close together.

але відштовхуються, коли вони близькі один до одного.

My equivalent of that statement

Мій еквівалент того твердження,

to pass on to descendants

яке слід передати нащадкам,

to help them build artificial intelligences

щоб допомогти їм побудувати штучні інтелекти,

or to help them understand human intelligence,

або, щоб допомогти їм зрозуміти людський інтелект,

is the following:

є наступним:

Intelligence should be viewed

інтелект має розглядатися

as a physical process

як фізичний процес,

that tries to maximize future freedom of action

що намагається максимально збільшити майбутню свободу дій

and avoid constraints in its own future.

і уникнути обмежень у власному майбутньому.

Thank you very much.

Дуже вам дякую.

(Applause)

(Оплески)