Alex Wissner-Gross: A new equation for intelligence

Translator: Kitchka Dyankova Reviewer: Yavor Ivanov

Intelligence -- what is it?

Разумът - какво представлява той?

If we take a look back at the history

Ако погледнем назад в историята

of how intelligence has been viewed,

на представите за разума,

one seminal example has been

един значим пример е

Edsger Dijkstra's famous quote that

известният цитат от Едсхер Дейкстра, че

"the question of whether a machine can think

"въпросът дали една машина може да мисли

is about as interesting

е почти толкова интересен,

as the question of whether a submarine

колкото въпроса дали една подводница

can swim."

може да плува".

Now, Edsger Dijkstra, when he wrote this,

Когато е написал това, Едсхер Дейкстра

intended it as a criticism

е имал намерение да критикува

of the early pioneers of computer science,

първите пионери на компютърната наука,

like Alan Turing.

като Алан Тюринг.

However, if you take a look back

Обаче, ако погледнем назад

and think about what have been

и помислим кои са

the most empowering innovations

най-значителните открития,

that enabled us to build

които са ни дали възможност да построим

artificial machines that swim

изкуствени машини, които плуват

and artificial machines that [fly],

и такива които летят,

you find that it was only through understanding

ще установим, че само с разбиране

the underlying physical mechanisms

на физическите механизми в основата

of swimming and flight

на плуването и летенето,

that we were able to build these machines.

сме били в състояние да построим тези машини.

And so, several years ago,

И така, преди няколко години

I undertook a program to try to understand

започнах една програма, за да се опитам да разбера

the fundamental physical mechanisms

основните физически механизми

underlying intelligence.

на разума.

Let's take a step back.

Нека да се върнем крачка назад.

Let's first begin with a thought experiment.

Първо да започнем с един мисловен експеримент.

Pretend that you're an alien race

Представете си, че сте от извънземна раса,

that doesn't know anything about Earth biology

която не знае нищо за биологията на Земята,

or Earth neuroscience or Earth intelligence,

нито за земната невронаука или земния разум,

but you have amazing telescopes

но имате изумителни телескопи

and you're able to watch the Earth,

и можете да гледате Земята,

and you have amazingly long lives,

имате и удивително дълъг живот,

so you're able to watch the Earth

така че можете да наблюдавате Земята

over millions, even billions of years.

милиони, дори милиарди години.

And you observe a really strange effect.

И забелязвате един наистина странен ефект.

You observe that, over the course of the millennia,

Забелязвате, че в хода на хилядолетията

Earth is continually bombarded with asteroids

Земята постоянно е бомбардирана от астероиди

up until a point,

до един момент

and that at some point,

и че в един момент,

corresponding roughly to our year, 2000 AD,

който приблизително съответства на нашата 2000 година,

asteroids that are on

астероидите, чийто курс

a collision course with the Earth

пресича този на Земята,

that otherwise would have collided

и които иначе биха се сблъскали с нея,

mysteriously get deflected

биват мистериозно отклонени

or they detonate before they can hit the Earth.

или се взривяват преди да ударят Земята.

Now of course, as earthlings,

Разбира се, като земляни,

we know the reason would be

ние знаем причината -

that we're trying to save ourselves.

опитваме се да се спасим.

We're trying to prevent an impact.

Опитваме се да предотвратим сблъсъка.

But if you're an alien race

Но ако сте от извънземна раса,

who doesn't know any of this,

която не знае нищо за това

doesn't have any concept of Earth intelligence,

и няма никакво понятие за разума на Земята,

you'd be forced to put together

ще се принудите да съчините

a physical theory that explains how,

физическа теория, която обяснява как

up until a certain point in time,

в един определен момент във времето

asteroids that would demolish the surface of a planet

астероиди, които биха унищожили повърхността на една планета,

mysteriously stop doing that.

спират да го правят по загадъчен начин.

And so I claim that this is the same question

И така, аз твърдя, че въпросът с разбирането

as understanding the physical nature of intelligence.

на физическата природа на разума е същия.

So in this program that I undertook several years ago,

Затова в програмата, която започнах преди няколко години,

I looked at a variety of different threads

разгледах множество различни идеи

across science, across a variety of disciplines,

в науката, в разнообразни други дисциплини,

that were pointing, I think,

които, мисля, сочеха

towards a single, underlying mechanism

към един-единствен механизъм

for intelligence.

в основата на разума.

In cosmology, for example,

В космологията, например,

there have been a variety of different threads of evidence

има многообразие от различни доказателства,

that our universe appears to be finely tuned

че вселената ни e прецизно настроена за

for the development of intelligence,

развитието на разум

and, in particular, for the development

и особено за развитието

of universal states

на универсални състояния,

that maximize the diversity of possible futures.

които максимизират разнообразието от възможни бъдеща.

In game play, for example, in Go --

При игрите, например при Го -

everyone remembers in 1997

всички помним 1997 г.,

when IBM's Deep Blue beat Garry Kasparov at chess --

когато Deep Blue на IBM победи Гари Каспаров на шах -

fewer people are aware

по-малко хора са наясно,

that in the past 10 years or so,

че през последните десет и нещо години

the game of Go,

играта Го,

arguably a much more challenging game

една, може да се каже, много по-интересна игра,

because it has a much higher branching factor,

защото има много по-голям фактор на клониране,

has also started to succumb

също започна да отстъпва

to computer game players

на компютрите - играчи

for the same reason:

по същата причина:

the best techniques right now for computers playing Go

най-добрите похвати в момента за компютри, играещи Го,

are techniques that try to maximize future options

са тези, които се опитват да максимизират бъдещите опции

during game play.

по време на играта.

Finally, in robotic motion planning,

И накрая, при планирането на движенията на роботите

there have been a variety of recent techniques

има множество нови техники,

that have tried to take advantage

които опитват да се възползват

of abilities of robots to maximize

от способностите на роботите да

future freedom of action

максимизират бъдещата свобода на движение,

in order to accomplish complex tasks.

за да изпълнят сложни задачи.

And so, taking all of these different threads

И така, като взех предвид всички тези различни идеи

and putting them together,

и ги събрах,

I asked, starting several years ago,

се запитах преди няколко години

is there an underlying mechanism for intelligence

има ли някакъв механизъм в основата на разума,

that we can factor out

който можем да изведем

of all of these different threads?

от всички тези различни идеи?

Is there a single equation for intelligence?

Има ли уравнение на разума?

And the answer, I believe, is yes. ["F = T ∇ Sτ"]

Вярвам, че отговорът е да. (F = T ∇ Sτ)

What you're seeing is probably

Това, което виждате вероятно е

the closest equivalent to an E = mc²

най-близкият еквивалент на E = mc²

for intelligence that I've seen.

за разума, който съм виждал.

So what you're seeing here

Това, което виждате тук

is a statement of correspondence

е изложение на връзката на

that intelligence is a force, F,

разума, който е сила, F

that acts so as to maximize future freedom of action.

и който действа така, че да максимизира бъдещата свобода на действие.

It acts to maximize future freedom of action,

Той работи за максимизирането на бъдещата свобода на действие

or keep options open,

или за запазването на отворени възможности

with some strength T,

с някаква сила Т,

with the diversity of possible accessible futures, S,

с разнообразието от възможни достижими бъдеща S,

up to some future time horizon, tau.

до някакъв бъдещ времеви хоризонт, тау.

In short, intelligence doesn't like to get trapped.

Накратко, разумът не обича да го хващат в капан.

Intelligence tries to maximize future freedom of action

Разумът се опитва да максимизира бъдещата свобода на действие

and keep options open.

и да оставя възможностите отворени.

And so, given this one equation,

И така, имайки предвид това уравнение,

it's natural to ask, so what can you do with this?

естествено е да се запитаме какво да правим с него.

How predictive is it?

Какви са способностите му да предвижда?

Does it predict human-level intelligence?

Предвижда ли разума на човешко ниво?

Does it predict artificial intelligence?

Предвижда ли изкуствения интелект?

So I'm going to show you now a video

Сега ще ви покажа едно видео,

that will, I think, demonstrate

което, мисля, ще демонстрира

some of the amazing applications

някои от удивителните приложения

of just this single equation.

на това единствено уравнение.

(Video) Narrator: Recent research in cosmology

(Видео) Говорител: Последните изследвания в космологията

has suggested that universes that produce

подсказват, че вселени, които произвеждат

more disorder, or "entropy," over their lifetimes

повече безпорядък или ентропия, в живота си

should tend to have more favorable conditions

би трябвало да имат по-благоприятни условия

for the existence of intelligent beings such as ourselves.

за съществуване на интелигентни същества като нас.

But what if that tentative cosmological connection

Ами ако тази хипотетична космологична връзка

between entropy and intelligence

между ентропията и разума

hints at a deeper relationship?

намеква за по-дълбоки взаимоотношения?

What if intelligent behavior doesn't just correlate

Aко разумното поведение не просто има връзка

with the production of long-term entropy,

със създаването на дългосрочна ентропия,

but actually emerges directly from it?

а всъщност произлиза директно от нея?

To find out, we developed a software engine

За да разберем, разработихме софтуерен уред

called Entropica, designed to maximize

на име Ентропика, проектиран да максимизира

the production of long-term entropy

производството на дългосрочна ентропия

of any system that it finds itself in.

във всяка система, в която го сложим.

Amazingly, Entropica was able to pass

За наше изумление, Ентропика успя да премине

multiple animal intelligence tests, play human games,

множество тестове с животински разум, да играе човешки игри

and even earn money trading stocks,

и дори да спечели пари, търгувайки с акции -

all without being instructed to do so.

и всичко това без да е бил инструктиран.

Here are some examples of Entropica in action.

Ето няколко примера за Ентропика в действие.

Just like a human standing upright without falling over,

Точно като човек - изправен и без да пада,

here we see Entropica

тук виждаме Ентропика

automatically balancing a pole using a cart.

автоматично да балансира прът, използвайки количка.

This behavior is remarkable in part

Това поведение е забележително, отчасти

because we never gave Entropica a goal.

защото ние никога не сме поставяли цел на Ентропика.

It simply decided on its own to balance the pole.

Той просто сам реши да балансира пръта.

This balancing ability will have appliactions

Това балансиране ще има приложение

for humanoid robotics

в хуманоидната роботика

and human assistive technologies.

и в помощните технологии за хора.

Just as some animals can use objects

Точно както някои животни използват предмети

in their environments as tools

от средата си като инструменти,

to reach into narrow spaces,

за да достигнат тесни пространства,

here we see that Entropica,

тук виждаме, че Ентропика,

again on its own initiative,

отново по собствена инициатива,

was able to move a large disk representing an animal

успя да завърти голям диск, представляващ животно,

around so as to cause a small disk,

така че малкият диск, представляващ инструмент,

representing a tool, to reach into a confined space

да стигне до едно ограничено пространство,

holding a third disk

придържайки трети диск

and release the third disk from its initially fixed position.

и да освободи третия диск от първоначалната му неподвижна позиция.

This tool use ability will have applications

Тази способност за ползване на инструменти ще има

for smart manufacturing and agriculture.

приложение в прецизните производства и земеделието.

In addition, just as some other animals

Освен това, точно както някои други животни

are able to cooperate by pulling opposite ends of a rope

могат да си сътрудничат като дърпат едновременно

at the same time to release food,

двата края на въже, за да освободят храна,

here we see that Entropica is able to accomplish

тук виждаме, че Ентропика може да изпълни

a model version of that task.

приспособена версия на тази задача.

This cooperative ability has interesting implications

Умението за сътрудничество има интересни приложения

for economic planning and a variety of other fields.

в икономическото планиране и много други области.

Entropica is broadly applicable

Ентропика е широко приложима

to a variety of domains.

в множество сфери.

For example, here we see it successfully

Например, тук я виждаме успешно

playing a game of pong against itself,

да играе понг срещу себе си,

illustrating its potential for gaming.

което показва потенциала ѝ за игри.

Here we see Entropica orchestrating

Тук виждаме Ентропика да организира

new connections on a social network

нови познанства в социална мрежа,

where friends are constantly falling out of touch

където постоянно се губят приятели

and successfully keeping the network well connected.

и успешно да поддържа мрежата с достатъчен брой контакти.

This same network orchestration ability

Това умение за организация на мрежи

also has applications in health care,

има приложение в здравеопазването,

energy, and intelligence.

енергетиката и разузнаването.

Here we see Entropica directing the paths

Тук виждаме Ентропика да направлява курса

of a fleet of ships,

на флотилия кораби,

successfully discovering and utilizing the Panama Canal

успешно откривайки и използвайки Панамския канал,

to globally extend its reach from the Atlantic

за да разшири достъпа си глобално от Атлантическия

to the Pacific.

до Тихия океан.

By the same token, Entropica

По същия начин Ентропика

is broadly applicable to problems

е широко приложима по проблеми

in autonomous defense, logistics and transportation.

на самостоятелната защита, логистиката и транспорта.

Finally, here we see Entropica

И накрая, тук виждаме Ентропика

spontaneously discovering and executing

спонтанно да открива и да прилага

a buy-low, sell-high strategy

стратегия "купувай на ниска цена, продавай на висока"

on a simulated range traded stock,

за симулиран клас търгувани акции,

successfully growing assets under management

успешно натрупвайки управляеми активи

exponentially.

експоненциално.

This risk management ability

Тези способности в мениджмънта на риска

will have broad applications in finance

ще имат широко приложение във финансите

and insurance.

и застраховането.

Alex Wissner-Gross: So what you've just seen

Алекс Уиснър-Грос: Това, което видяхте току-що,

is that a variety of signature human intelligent

означава, че разнообразни познавателни поведения,

cognitive behaviors

типични за човешкия интелект,

such as tool use and walking upright

като използването на инструменти, ходенето изправен

and social cooperation

и социалното сътрудничество,

all follow from a single equation,

всички следват от едно уравнение,

which drives a system

което кара една система

to maximize its future freedom of action.

да максимизира бъдещата си свобода на действие.

Now, there's a profound irony here.

В това има дълбока ирония.

Going back to the beginning

Ако се върнем към началото

of the usage of the term robot,

на използването на термина робот,

the play "RUR,"

пиесата "RUR" ("Универсалните роботи на Росум"),

there was always a concept

винаги е съществувала представата,

that if we developed machine intelligence,

че ако развием интелигентни машини,

there would be a cybernetic revolt.

ще има кибернетичен бунт.

The machines would rise up against us.

Машините ще се вдигнат срещу нас.

One major consequence of this work

Едно важно последствие от тази творба е,

is that maybe all of these decades,

че може би през всички тези десетилетия

we've had the whole concept of cybernetic revolt

цялата ни представа за кибернетичен бунт

in reverse.

е била обърната.

It's not that machines first become intelligent

Машините не стават първо интелигентни

and then megalomaniacal

и после мегаломаниакални

and try to take over the world.

и опитващи се да завладеят света.

It's quite the opposite,

Точно обратното е -

that the urge to take control

стремежът за контрол

of all possible futures

върху всички възможни бъдеща

is a more fundamental principle

е по-основен принцип

than that of intelligence,

от този за разума

that general intelligence may in fact emerge

и общият разум може на практика да възникне

directly from this sort of control-grabbing,

директно от този вид грабване на контрола.

rather than vice versa.

Това е по-вероятно, отколкото обратното.

Another important consequence is goal seeking.

Друга важна последица е търсенето на цел.

I'm often asked, how does the ability to seek goals

Често ме питат как способността за търсене на цели

follow from this sort of framework?

следва от този вид разбиране.

And the answer is, the ability to seek goals

И отговорът е, че способността за търсене на цели

will follow directly from this

ще следва директно от това

in the following sense:

в следния смисъл:

just like you would travel through a tunnel,

точно както вие бихте пътували през тунел,

a bottleneck in your future path space,

едно стеснение в бъдещия ви път,

in order to achieve many other

за да постигнете много други

diverse objectives later on,

различни цели по-късно

or just like you would invest

или точно като вие бихте инвестирали

in a financial security,

в един финансовa ценна книга,

reducing your short-term liquidity

намалявайки ликвидността си в краткосрочен план,

in order to increase your wealth over the long term,

за да увеличите богатството си дългосрочно,

goal seeking emerges directly

търсенето на цели възниква директно

from a long-term drive

от дългосрочния импулс

to increase future freedom of action.

да бъде увеличена бъдещата свобода на действие.

Finally, Richard Feynman, famous physicist,

И накрая, Ричард Файнман, известен физик,

once wrote that if human civilization were destroyed

написа някога, че ако човешката цивилизация бъде унищожена

and you could pass only a single concept

и можем да предадем една-единствена идея

on to our descendants

на нашите потомци,

to help them rebuild civilization,

за да им помогнем да създадат отново цивилизация,

that concept should be

тази идея трябва да бъде,

that all matter around us

че цялата материя около нас

is made out of tiny elements

е построена от малки елементи,

that attract each other when they're far apart

които се привличат, когато са далеч един от друг,

but repel each other when they're close together.

но се отблъскват, когато са близо.

My equivalent of that statement

Моето еквивалентно такова твърдение,

to pass on to descendants

което да предадем на потомците си,

to help them build artificial intelligences

за да им помогнем да създадат изкуствен интелект

or to help them understand human intelligence,

или да разберат човешкия разум,

is the following:

е следното:

Intelligence should be viewed

Разумът трябва да се разглежда

as a physical process

като физически процес,

that tries to maximize future freedom of action

който се опитва да максимизира бъдещата свобода на действие

and avoid constraints in its own future.

и избягва ограничения в бъдещето си.

Thank you very much.

Много ви благодаря.

(Applause)

(Аплодисменти)