Alex Wissner-Gross: A new equation for intelligence

מתרגם: Ido Dekkers מבקר: Tal Dekkers

Intelligence -- what is it?

תבונה - מהי?

If we take a look back at the history

אם נסתכל אחורה על ההיסטוריה

of how intelligence has been viewed,

של איך תבונה נראתה,

one seminal example has been

דוגמה מרכזית אחת היתה

Edsger Dijkstra's famous quote that

הציטטה המפורסמת של אדסגר דייקסטרה

"the question of whether a machine can think

ש"השאלה אם מכונה יכולה לחשוב

is about as interesting

היא מעניינת כמו

as the question of whether a submarine

השאלה אם צוללת

can swim."

יכולה לשחות."

Now, Edsger Dijkstra, when he wrote this,

עכשיו, אדסגר דייקסטרה, כשכתב את זה,

intended it as a criticism

התכוון לזה כביקורת

of the early pioneers of computer science,

על החלוצים הראשונים במדעי המחשב,

like Alan Turing.

כמו אלן טיורינג.

However, if you take a look back

עם זאת, אם תביטו אחורה

and think about what have been

ותחשבו על מה היתה

the most empowering innovations

המוטיבציה הכי מחזקת

that enabled us to build

שאפשרה לנו לבנות

artificial machines that swim

מכונות מלאכותיות ששוחות

and artificial machines that [fly],

ומכונות מלאכותיות שחושבות,

you find that it was only through understanding

אתם מגלים שזה היה רק דרך הבנת

the underlying physical mechanisms

המכאניזמים הפיסיקליים ביסוד

of swimming and flight

השחיה או המעוף

that we were able to build these machines.

שהיינו מסוגלים לבנות את המכונות האלה.

And so, several years ago,

וכך, כמה שנים מאוחר יותר,

I undertook a program to try to understand

התחלתי תוכנית כדי לנסות להבין

the fundamental physical mechanisms

את העקרונות של מכאניזמים פיסיקליים

underlying intelligence.

שביסוד התבונה.

Let's take a step back.

בואו ניקח צעד אחורנית.

Let's first begin with a thought experiment.

בואו נתחיל עם ניסוי מחשבתי.

Pretend that you're an alien race

דמיינו שאתם מין חייזרי

that doesn't know anything about Earth biology

שלא יודע דבר על הביולוגיה של כדור הארץ

or Earth neuroscience or Earth intelligence,

או מדעי המוח של כדור הארץ או התבונה,

but you have amazing telescopes

אבל יש לכם טלסקופים מדהימים

and you're able to watch the Earth,

ואתם מסוגלים לצפות בכדור הארץ,

and you have amazingly long lives,

ויש לכם חיים ארוכים באופן יוצא דופן,

so you're able to watch the Earth

אז אתם מסוגלים לצפות בכדור הארץ

over millions, even billions of years.

במשך מליוני, אפילו מיליארדי שנים.

And you observe a really strange effect.

ואתם מבחינים באפקט ממש מוזר.

You observe that, over the course of the millennia,

אתם רואים, שבמשך האלפים,

Earth is continually bombarded with asteroids

כדור הארץ מופצץ באופן שוטף באסטרואידים

up until a point,

עד לנקודה מסויימת,

and that at some point,

ושבנקודה מסויימת,

corresponding roughly to our year, 2000 AD,

שמקבילה בערך לשנה שלנו, 2000 לספירה,

asteroids that are on

אסטרואידים בנתיב

a collision course with the Earth

התנגשות עם כדור הארץ

that otherwise would have collided

שאחרת היו מתנגשים

mysteriously get deflected

מוסטים בצורה מוזרה

or they detonate before they can hit the Earth.

או מתפוצצים לפני שהם פוגעים בכדור הארץ.

Now of course, as earthlings,

עכשיו כמובן, כבני ארץ,

we know the reason would be

אנחנו יודעים שהסיבה לכך היא

that we're trying to save ourselves.

שאנחנו מנסים להציל את עצמנו.

We're trying to prevent an impact.

אנחנו מנסים למנוע פגיעה.

But if you're an alien race

אבל אם אתם מין חייזרי

who doesn't know any of this,

שלא מודע לכל זה,

doesn't have any concept of Earth intelligence,

ואין לו מושג בנוגע לתבונה על כדור הארץ,

you'd be forced to put together

אתם הייתם צריכים להרכיב

a physical theory that explains how,

תאוריה פיסיקלית כדי להסביר איך,

up until a certain point in time,

עד לנקודה מסויימת בזמן,

asteroids that would demolish the surface of a planet

אסטרואידים שהיו הורסים את פני הפלנטה

mysteriously stop doing that.

באופן מסתורי מפסיקים לעשות את זה.

And so I claim that this is the same question

אז כך אני טוען שזו אותה השאלה

as understanding the physical nature of intelligence.

כמו להבין את הטבע הפיזיקלי של התבונה.

So in this program that I undertook several years ago,

אז בתוכנית הזו שהתחלתי לפני מספר שנים,

I looked at a variety of different threads

הבטתי במגוון תחומים שונים

across science, across a variety of disciplines,

במדע, לרוחב דיסיפלינות מגוונות,

that were pointing, I think,

שהפנו, אני חושב,

towards a single, underlying mechanism

לכיוון מנגנון יחיד יסודי

for intelligence.

לאינטיליגנציה.

In cosmology, for example,

בקוסמולוגיה, לדוגמה,

there have been a variety of different threads of evidence

היו מגוון תחומים שונים של ראיות

that our universe appears to be finely tuned

שהיקום שלנו נראה מותאם במיוחד

for the development of intelligence,

להתפתחות של תבונה,

and, in particular, for the development

ובעיקר, להתפתחות

of universal states

של מצבים אוניברסליים

that maximize the diversity of possible futures.

שמגבירים את המגוון של עתידים אפשריים.

In game play, for example, in Go --

במשחק, לדוגמה, בגו --

everyone remembers in 1997

כולם זוכרים ב 1997

when IBM's Deep Blue beat Garry Kasparov at chess --

כשכחול עמוק של IBM ניצח את גארי קאספרוב בשח --

fewer people are aware

פחות אנשים מודעים

that in the past 10 years or so,

שבעשר השנים האחרונות פחות או יותר,

the game of Go,

המשחק גו,

arguably a much more challenging game

אפשר לטעון שהוא משחק יותר מאתגר

because it has a much higher branching factor,

מפני שיש לו פקטור הסתעפות גדול בהרבה,

has also started to succumb

גם התחיל להכנע

to computer game players

לשחקנים ממוחשבים

for the same reason:

מאותן סיבות:

the best techniques right now for computers playing Go

הטכניקות הכי טובות כרגע למחשבים שמשחקים גו

are techniques that try to maximize future options

הן טכניקות שמנסות למקסם אופציות עתידיות

during game play.

במהלך המשחק.

Finally, in robotic motion planning,

לבסוף, בתכנון תנועה רובוטית,

there have been a variety of recent techniques

היו מגוון שיטות עדכניות

that have tried to take advantage

שניסו להשתמש

of abilities of robots to maximize

ביכולות של רובוטים למקסם

future freedom of action

חרויות עתידיות לפעולה

in order to accomplish complex tasks.

כדי לבצע משימות מורכבות.

And so, taking all of these different threads

וכך, כשלוקחים את כל התחומים האלה

and putting them together,

ושמים אותם יחד,

I asked, starting several years ago,

אני שואל, החל מלפני כמה שנים,

is there an underlying mechanism for intelligence

האם יש מנגנון יסודי לתבונה

that we can factor out

שאנחנו יכולים למצות

of all of these different threads?

מכל התחומים השונים האלה?

Is there a single equation for intelligence?

האם יש משוואה בסיסית לתבונה?

And the answer, I believe, is yes. ["F = T ∇ Sτ"]

והתשובה, אני מאמין, היא כן. ["F = T ∇ Sτ"]

What you're seeing is probably

מה שאתם רואים זה כנראה

the closest equivalent to an E = mc²

הדבר הכי קרוב ל E = mc²

for intelligence that I've seen.

לתבונה שראיתי.

So what you're seeing here

אז מה שאתם רואים פה

is a statement of correspondence

זו הצהרה של יחס

that intelligence is a force, F,

שתבונה היא כוח, F,

that acts so as to maximize future freedom of action.

שפועל למקסם חרות עתידית של פעולה.

It acts to maximize future freedom of action,

היא פועלת למקסם חרות עתידית של פעולה,

or keep options open,

או שומרת על האופציות פתוחות,

with some strength T,

עם כוח כלשהו T,

with the diversity of possible accessible futures, S,

עם מגוון של עתידים נגישים אפשריים, S,

up to some future time horizon, tau.

עד לאופק זמן עתידי כלשהו, טאו.

In short, intelligence doesn't like to get trapped.

בקיצור, לא נראה שתבונה אוהבת להילכד.

Intelligence tries to maximize future freedom of action

תבונה מנסה למקסם חרויות עתידיות של פעולה

and keep options open.

ושומרת על האופציות פתוחות.

And so, given this one equation,

וכך, בהנתן המשוואה הזו,

it's natural to ask, so what can you do with this?

זה טבעי לשאול, אז מה אפשר לעשות עם זה?

How predictive is it?

כמה זה חוזה את העתיד?

Does it predict human-level intelligence?

האם זה חוזה תבונה ברמה אנושית?

Does it predict artificial intelligence?

האם זה חוזה בינה מלאכותית?

So I'm going to show you now a video

אז אני אראה לכם סרטון עכשיו

that will, I think, demonstrate

שאני חושב, ידגים

some of the amazing applications

כמה מהיישומים המדהימים

of just this single equation.

של המשוואה היחידה הזו.

(Video) Narrator: Recent research in cosmology

(סרטון) קריין: מחקרים אחרונים בקוסמולוגיה

has suggested that universes that produce

הציעו שיקומים שיוצרים

more disorder, or "entropy," over their lifetimes

יותר חוסר סדר, או "אנטרופיה," במהלך חייהם

should tend to have more favorable conditions

יהיו בהם תנאים יותר מתאימים

for the existence of intelligent beings such as ourselves.

לקיום של חיים תבוניים כמונו.

But what if that tentative cosmological connection

אבל מה אם הקשר הקוסמולוגי הטנטטיבי הזה

between entropy and intelligence

בין אנטרופיה ותבונה

hints at a deeper relationship?

מרמז ליחס עמוק יותר?

What if intelligent behavior doesn't just correlate

מה אם התנהגות תבונית לא רק מתאימה

with the production of long-term entropy,

ליצור של אנטרופיה לטווח ארוך,

but actually emerges directly from it?

אלא למעשה נובעת ישירות ממנה?

To find out, we developed a software engine

כדי להבין, פיתחנו מנוע תוכנה

called Entropica, designed to maximize

שנקרה אנטרופיקה, שמתוכנן למקסם

the production of long-term entropy

את היצור של אנטרופיה לטווח ארוך

of any system that it finds itself in.

של כל מערכת שהיא מוצאת את עצמה בה.

Amazingly, Entropica was able to pass

למרבה הפלא, אנטרופיקה היתה מסוגלת לעבור

multiple animal intelligence tests, play human games,

מבחני אינטיליגנציה חייתיים רבים, לשחק במשחקים אנושיים,

and even earn money trading stocks,

ואפילו להרוויח כסף ממסחר במניות,

all without being instructed to do so.

הכל בלי לקבל הוראות לעשות את זה.

Here are some examples of Entropica in action.

הנה כמה דוגמנות לאנטרופיקה בפעולה.

Just like a human standing upright without falling over,

ממש כמו אדם שעומד זקוף בלי ליפול,

here we see Entropica

כאן אנחנו רואים את אנטרופיקה

automatically balancing a pole using a cart.

מאזנת מוט אוטומטית על ידי שימוש בעגלה.

This behavior is remarkable in part

ההתנהגות הזו היא יוצאת דופן חלקית

because we never gave Entropica a goal.

בגלל שאנחנו מעולם לא נתנו לאנטרופיקה מטרה.

It simply decided on its own to balance the pole.

היא פשוט החליטה לבדה לאזן את המוט.

This balancing ability will have appliactions

ליכולת האיזון יהיו אפליקציות

for humanoid robotics

לרובוטיקה אנושית

and human assistive technologies.

וטכנולוגיות מסייעות לאדם.

Just as some animals can use objects

ממש כמו שכמה חיות יכולות לשתמש בעצמים

in their environments as tools

בסביבה שלהן ככלים

to reach into narrow spaces,

כדי להגיע למקומות צרים,

here we see that Entropica,

כאן אנחנו רואים שאנטרופיקה,

again on its own initiative,

שוב ביוזמתה שלה,

was able to move a large disk representing an animal

היתה מסוגלת להזיז דיסק גדול שמייצג חיה

around so as to cause a small disk,

כך שגרמה לדיסק קטן,

representing a tool, to reach into a confined space

שמייצג כלי, להגיע לתוך חלל צפוף

holding a third disk

כשהיא מחזיקה דיסק שלישי

and release the third disk from its initially fixed position.

ומשחררת את הדיסק השלישי מהמיקום הקבוע הראשוני שלו.

This tool use ability will have applications

ליכולת השימוש בכלים הזו יהיו אפליקציות

for smart manufacturing and agriculture.

ליצור חכם וחקלאות.

In addition, just as some other animals

בנוסף, בדיוק כמו שכמה חיות אחרות

are able to cooperate by pulling opposite ends of a rope

מסוגלות לשתף פעולה על ידי משיכת קצוות מנוגדים של חבל

at the same time to release food,

באותו הזמן כדי לשחרר אוכל,

here we see that Entropica is able to accomplish

פה אנחנו רואים שאנטרופיקה מסוגלת להשיג

a model version of that task.

גירסת מודל של המשימה ההיא.

This cooperative ability has interesting implications

ליכולת השיתופית הזה יש השלכות מעניינות

for economic planning and a variety of other fields.

לתכנון כלכלי ומגוון תחומים נוספים.

Entropica is broadly applicable

אנטרופיקה שמישה באופן נרחב

to a variety of domains.

למגוון תחומים.

For example, here we see it successfully

לדוגמה, כאן אנחנו רואים אותה

playing a game of pong against itself,

משחקת משחק פונג באופן מוצלח מול עצמה,

illustrating its potential for gaming.

ומדגימה את הפוטנציאל שלה למשחוק.

Here we see Entropica orchestrating

כאן אנחנו רואים את אנטרופיקה מארגנת

new connections on a social network

קשרים חדשים ברשת חברתית

where friends are constantly falling out of touch

בה חברים מאבדים קשר כל הזמן

and successfully keeping the network well connected.

ושומרת באופן מוצלח על הרשת מחוברת היטב.

This same network orchestration ability

אותה יכולת ניהול רשת

also has applications in health care,

ישימה גם בשרותי בריאות,

energy, and intelligence.

אנרגיה, ומודיעין.

Here we see Entropica directing the paths

כאן אנחנו רואים את אנטרופיקה מנחה את הדרך

of a fleet of ships,

של צי ספינות,

successfully discovering and utilizing the Panama Canal

ומגלה באופן מוצלח ומשתמשת בתעלת פנמה

to globally extend its reach from the Atlantic

כדי להרחיב את הפריסה שלה מהאטלנטי

to the Pacific.

לפסיפי.

By the same token, Entropica

באותו אופן, אנטרופיקה

is broadly applicable to problems

ישימה באופן רחב לבעיות

in autonomous defense, logistics and transportation.

בהגנה אוטונומית, לוגיסטיקה ותחבורה.

Finally, here we see Entropica

לבסוף, פה אנחנו רואים את אנטרופיקה

spontaneously discovering and executing

מגלה באופן ספונטני ומבצעת

a buy-low, sell-high strategy

אסטרטגיית קנייה במחיר נמוך, ומכירה בגבוה

on a simulated range traded stock,

במגוון רחב של מניות מדומות,

successfully growing assets under management

מגדילה באופן מוצלח נכסים תחת ניהול

exponentially.

בצורה מעריכית.

This risk management ability

ליכולת ניהול סיכונים זו

will have broad applications in finance

יהיה יישום נרחב בפיננסים

and insurance.

וביטוח.

Alex Wissner-Gross: So what you've just seen

אלכס וויסנר-גרוס: אז מה שראיתם עכשיו

is that a variety of signature human intelligent

זה שמגוון של התנהגויות תבוניות אנושיות

cognitive behaviors

קוגניטיביות עיקריות

such as tool use and walking upright

כמו שימוש בכלים והליכה על שתי רגליים

and social cooperation

ושיתוף פעולה חברתי

all follow from a single equation,

כולן עוקבות אחרי משוואה יחידה,

which drives a system

שמניעה מערכת

to maximize its future freedom of action.

כדי למקסם את חופש הפעולה העיקרי שלה.

Now, there's a profound irony here.

עכשיו, יש אירוניה עמוקה פה.

Going back to the beginning

אם חוזרים להתחלה

of the usage of the term robot,

של השימוש במושג רובוט,

the play "RUR,"

המחזה "RUR"

there was always a concept

תמיד היה קונספט

that if we developed machine intelligence,

שאם נפתח מכונות תבונתיות,

there would be a cybernetic revolt.

תהיה התקוממות קיברנטית.

The machines would rise up against us.

המכונות יתקוממו מולנו.

One major consequence of this work

תוצאה אחת עיקרית של העבודה הזו

is that maybe all of these decades,

היא שאולי כל העשורים האלה,

we've had the whole concept of cybernetic revolt

הקונספט הזה של מרד המכונות

in reverse.

היה הפוך.

It's not that machines first become intelligent

זה לא שהמכונות הופכות קודם לתבונתיות

and then megalomaniacal

ואז למגלומניות

and try to take over the world.

ומנסות להשתלט על העולם.

It's quite the opposite,

זה בדיוק ההפך,

that the urge to take control

שהדחף לשלוט

of all possible futures

מכל העתידים האפשריים

is a more fundamental principle

הוא עיקרון יותר בסיסי

than that of intelligence,

מזה של תבונה,

that general intelligence may in fact emerge

שתבונה כללית אולי למעשה תופיע

directly from this sort of control-grabbing,

ישירות מסוג של לקיחת שליטה,

rather than vice versa.

במקום ההפך.

Another important consequence is goal seeking.

תוצאה חשובה נוספת היא השגת מטרות.

I'm often asked, how does the ability to seek goals

אני נשאל רבות, איך היכולת להשיג מטרות

follow from this sort of framework?

מגיעה מסוג כזה של תשתית?

And the answer is, the ability to seek goals

והתשובה היא, היכולת להשיג מטרות

will follow directly from this

תגיע ישירות מזה

in the following sense:

באופן הבא:

just like you would travel through a tunnel,

בדיוק כמו שאתם תעברו במנהרה,

a bottleneck in your future path space,

צוואר בקבוק במרחב עתיד הדרך שלכם,

in order to achieve many other

כדי להשיג יעדים רבים

diverse objectives later on,

מגוונים מאוחר יותר,

or just like you would invest

או בדיוק כמו שתשקיעו

in a financial security,

בביטחון כלכלי,

reducing your short-term liquidity

ותפחיתו את ההון הנזיל שלכם בטווח הקצר

in order to increase your wealth over the long term,

כדי להגדיל את העושר שלכם בטווח הארוך,

goal seeking emerges directly

השגת מטרות נובעת ישירות

from a long-term drive

מדחף ארוך טווח

to increase future freedom of action.

להגדיל חופש פעולה עתידי.

Finally, Richard Feynman, famous physicist,

לבסוף, ריצ'ארד פיינמן, הפיזיקאי המפורסם,

once wrote that if human civilization were destroyed

כתב פעם שאם האנושות תושמד

and you could pass only a single concept

ותוכלו להעביר רק רעיון אחד

on to our descendants

לבאים אחרינו

to help them rebuild civilization,

כדי לעזור להם לבנות את הציביליזציה,

that concept should be

הרעיון ההוא צריך להיות

that all matter around us

שכל החומר סביבנו

is made out of tiny elements

עשוי מחלקיקים קטנים

that attract each other when they're far apart

שמושכים אחד את השני כשהם רחוקים

but repel each other when they're close together.

אבל דוחים אחד את השני כשהם קרובים.

My equivalent of that statement

המקבילה שלי להצהרה הזו

to pass on to descendants

להעביר לבאים אחרינו

to help them build artificial intelligences

כדי לעזור להם לבנות בינה מלאכותית

or to help them understand human intelligence,

או לעזור להם להבין את הבינה האנושית,

is the following:

היא זו:

Intelligence should be viewed

תבונה צריכה להראות

as a physical process

כתהליך פיזיקלי

that tries to maximize future freedom of action

שמנסה למקסם את החרויות העתידיות של פעולה

and avoid constraints in its own future.

ולהמנע ממגבלות בעתיד שלו עצמו.

Thank you very much.

תודה רבה לכם.

(Applause)

(מחיאות כפיים)