Hod Lipson: Robots that are "self-aware"

מתרגם: Ido Dekkers מבקר: Sigal Tifferet

So, where are the robots?

אז, איפה הרובוטים?

We've been told for 40 years already that they're coming soon.

סיפרו לנו במשך 40 שנה כבר שהם כבר מגיעים.

Very soon they'll be doing everything for us.

בקרוב הם יעשו הכל בשבילנו:

They'll be cooking, cleaning, buying things, shopping, building. But they aren't here.

הם יבשלו, ינקו, יקנו דברים, יעשו שופינג, יבנו. אבל הם לא פה.

Meanwhile, we have illegal immigrants doing all the work,

בינתיים, יש לנו מהגרים בלתי חוקיים שעושים את העבודה,

but we don't have any robots.

אבל אין לנו רובוטים.

So what can we do about that? What can we say?

אז מה אנחנו יכולים לעשות בקשר לזה? מה אנחנו יכולים להגיד?

So I want to give a little bit of a different perspective

אז אני רוצה לתת לכם פרספקטיבה שונה

of how we can perhaps look at these things in a little bit of a different way.

על איך אנחנו יכולים להסתכל על הדברים האלה בדרך אחרת.

And this is an x-ray picture

וזו תמונת רנטגן

of a real beetle, and a Swiss watch, back from '88. You look at that --

של חיפושית אמיתית, ושעון שווצרי, משנת 88. אתם מסתכלים על זה --

what was true then is certainly true today.

מה שהיה נכון אז בטוח שנכון היום.

We can still make the pieces. We can make the right pieces.

אנחנו עדיין יכולים לייצר את החלקים, אנחנו יכולים לייצר את החלקים הנכונים,

We can make the circuitry of the right computational power,

אנחנו יכולים לייצר את המעגלים של כוח החישוב המתאים,

but we can't actually put them together to make something

אבל אנחנו לא ממש יכולים לחבר אותם כדי ליצור

that will actually work and be as adaptive as these systems.

משהו שממש יעבוד ויהיה מסתגל כמו המערכות האלה.

So let's try to look at it from a different perspective.

אז בואו נסתכל על זה מפרספקטיבה שונה.

Let's summon the best designer, the mother of all designers.

בואו נקרא למעצבים הטובים ביותר, האמא של כל המעצבים:

Let's see what evolution can do for us.

בואו נראה מה האבולוציה יכולה לעשות בשבילנו.

So we threw in -- we created a primordial soup

אז זרקנו פנימה -- יצרנו מרק קדמוני

with lots of pieces of robots -- with bars, with motors, with neurons.

עם הרבה חלקים של רובוטים: עם מוטות, עם מנועים, עם נוירונים.

Put them all together, and put all this under kind of natural selection,

שמנו את כולם ביחד, ושמנו את כל זה תחת סוג של ברירה טבעית,

under mutation, and rewarded things for how well they can move forward.

תחת מוטציה, ותגמלנו דברים לפי כמה טוב הם יכולים להתקדם.

A very simple task, and it's interesting to see what kind of things came out of that.

משימה פשוטה מאוד, וזה מעניין לראות איזה דברים יצאו מזה.

So if you look, you can see a lot of different machines

אז אם תביטו, תוכלו לראות הרבה מכונות קטנות

come out of this. They all move around.

יוצאות מזה. כולן זו מסביב,

They all crawl in different ways, and you can see on the right,

כולן זוחלות בדרכים שונות, ותראו מימין,

that we actually made a couple of these things,

שממש יצרנו כמה כאלה,

and they work in reality. These are not very fantastic robots,

והם עובדים במציאות. אלה לא רובוטים פנטסטיים,

but they evolved to do exactly what we reward them for:

אבל הם מתפתחים לעשות בדיוק מה שמתגמלים אותם לעשות:

for moving forward. So that was all done in simulation,

לתזוזה קדימה. אז כל זה נעשה בסימולציה,

but we can also do that on a real machine.

אבל אנחנו יכולים לעשות את זה גם במכונות אמיתיות.

Here's a physical robot that we actually

הנה רובוט פיסי שיש לנו

have a population of brains,

ממש אוכלוסיה של מוחות,

competing, or evolving on the machine.

מתחרים, או מתפתחים, על המכונה.

It's like a rodeo show. They all get a ride on the machine,

זה כמו תחרות רודיאו: כולם זוכים לרכב על המכונה,

and they get rewarded for how fast or how far

והם מתוגמלים על כמה מהר או כמה רחוק

they can make the machine move forward.

הם יכולים לגרום למכונה לזוז קדימה.

And you can see these robots are not ready

ואתם יכולים לראות שהרובוטים האלה לא מוכנים

to take over the world yet, but

להשתלט על העולם עדיין, אבל

they gradually learn how to move forward,

הם לומדים בהדרגה איך לזוז קדימה,

and they do this autonomously.

והם עושים את זה לבד.

So in these two examples, we had basically

אז בשתי הדוגמאות האלה, היו לנו

machines that learned how to walk in simulation,

מכונות שלמדו איך ללכת בסימולציה,

and also machines that learned how to walk in reality.

וגם מכונות שלמדו איך ללכת במציאות.

But I want to show you a different approach,

אבל אני רוצה להראות לכם גישה שונה,

and this is this robot over here, which has four legs.

וזה רובוט, כאן, שיש לו ארבע רגליים,

It has eight motors, four on the knees and four on the hip.

יש לו שמונה מנועים, ארבעה בברכיים וארבעה בירכיים.

It has also two tilt sensors that tell the machine

יש לו גם שני חיישני הטייה שאומרים למכונה

which way it's tilting.

לאיזה כיוון היא נוטה.

But this machine doesn't know what it looks like.

אבל המכונה הזו לא יודעת איך היא נראית.

You look at it and you see it has four legs,

אתם מסתכלים עליה ורואים ארבע רגליים,

the machine doesn't know if it's a snake, if it's a tree,

המכונה לא יודעת אם היא נחש, אם היא עץ,

it doesn't have any idea what it looks like,

אין לה שום מושג איך היא נראית,

but it's going to try to find that out.

אבל היא עומדת לנסות להבין.

Initially, it does some random motion,

בהתחלה, היא עושה תנועות אקראיות,

and then it tries to figure out what it might look like.

ואז היא מנסה להבין איך היא נראית --

And you're seeing a lot of things passing through its minds,

ואתם רואים הרבה דברים עוברים לה בראש,

a lot of self-models that try to explain the relationship

הרבה מודלים עצמיים שמנסים להסביר את היחס

between actuation and sensing. It then tries to do

בין תזוזה לחישה -- ואז מנסה לעשות

a second action that creates the most disagreement

תנועה שניה שיוצרת את חוסר ההסכמה המירבי

among predictions of these alternative models,

בין התחזיות של המודלים האלטרנטיביים,

like a scientist in a lab. Then it does that

כמו מדען במעבדה. אז הוא עושה את זה

and tries to explain that, and prune out its self-models.

ומנסה להסביר את זה, ומוחק את המודלים העצמיים.

This is the last cycle, and you can see it's pretty much

זה המחזור האחרון, ואתם יכולים לראות שהוא די

figured out what its self looks like. And once it has a self-model,

הצליח להבין את המראה העצמי שלו, וברגע שיש לו מודל עצמי,

it can use that to derive a pattern of locomotion.

הוא יכול להשתמש בו כדי ליצר דפוסי תנועה.

So what you're seeing here are a couple of machines --

אז מה שאתם רואים פה הן כמה מכונות --

a pattern of locomotion.

דפוס של תנועה.

We were hoping that it wass going to have a kind of evil, spidery walk,

קיווינו שתהיה לו מין תנועה מרושעת, עכבישית,

but instead it created this pretty lame way of moving forward.

אבל במקום, הוא יצר דרך די עלובה לתזוזה קדימה.

But when you look at that, you have to remember

אבל כשמסתכלים על זה, צריך לזכור

that this machine did not do any physical trials on how to move forward,

לא עשתה שום ניסויים פיסיים על איך לזוז קדימה,

nor did it have a model of itself.

ולא היה לה מודל של עצמה.

It kind of figured out what it looks like, and how to move forward,

היא בערך הבינה בעצמה איך היא נראית, ואיך לזוז קדימה,

and then actually tried that out.

ואז ממש ניסתה את זה.

(Applause)

(מחיאות כפיים)

So, we'll move forward to a different idea.

אז, נמשיך לרעיון אחר.

So that was what happened when we had a couple of --

אז זה מה שקרה כשהיו לה כמה --

that's what happened when you had a couple of -- OK, OK, OK --

זה מה שקרה כשהיו לה כמה -- אוקי, אוקי, אוקי --

(Laughter)

(צחוק)

-- they don't like each other. So

-- הם לא אוהבים אחד את השני. אז

there's a different robot.

יש רובוט אחר.

That's what happened when the robots actually

זה מה שקרה כשהרובוטים ממש

are rewarded for doing something.

מתוגמלים על עשיית משהו.

What happens if you don't reward them for anything, you just throw them in?

מה שקורה אם לא תגמלתם אותם על שום דבר, פשוט זורקים אותם פנימה?

So we have these cubes, like the diagram showed here.

אז יש להם את הקוביות האלה, כמו שהתרשים מראה פה.

The cube can swivel, or flip on its side,

הקוביות יכולות להתפתל, או להתהפך על הצד,

and we just throw 1,000 of these cubes into a soup --

ואנחנו פשוט זורקים 1000 כאלה לתוך מרק --

this is in simulation --and don't reward them for anything,

זו הדמיה -- ולא מתגמלים אותם על כלום,

we just let them flip. We pump energy into this

פשוט נתנו להם להתהפך. הזרמנו אנרגיה לתוך זה

and see what happens in a couple of mutations.

וראינו מה קורה אחרי כמה מוטציות.

So, initially nothing happens, they're just flipping around there.

אז בהתחלה, כלום לא קורה, הם פשוט מתהפכים שם.

But after a very short while, you can see these blue things

אבל אחרי זמן קצר, אתם יכולים לראות את הדברים הכחולים האלה

on the right there begin to take over.

בצד ימין שם מתחילים להשתלט.

They begin to self-replicate. So in absence of any reward,

הם מתחילים להשתכפל. אז בהעדר תגמול,

the intrinsic reward is self-replication.

התגמול העצמי הוא שיכפול עצמי.

And we've actually built a couple of these,

ובעצם בנינו כמה כאלה,

and this is part of a larger robot made out of these cubes.

וזה חלק מרובוט גדול יותר שבנוי מהקוביות האלה,

It's an accelerated view, where you can see the robot actually

זה מבט מואץ, כשאתם יכולים לראות את הרובוט ממש

carrying out some of its replication process.

מבצע חלק מתהליך השכפול.

So you're feeding it with more material -- cubes in this case --

אז מזינים לו עוד חומרים -- קוביות במקרה הזה --

and more energy, and it can make another robot.

ועוד אנרגיה, והוא יכול ליצור רובוט נוסף.

So of course, this is a very crude machine,

אז כמובן, זו שיטה מאוד גסה,

but we're working on a micro-scale version of these,

אבל אנחנו עובדים על שיטה מוקטנת של זה,

and hopefully the cubes will be like a powder that you pour in.

ובתקוה הקוביות יהיו כמו אבקה שאתם שופכים פנימה.

OK, so what can we learn? These robots are of course

אוקיי, אז מה אנחנו יכולים ללמוד? הרובוטים האלה כמובן

not very useful in themselves, but they might teach us something

לא ממש יעילים בעצמם, אבל הם אולי ילמדו אותנו משהו

about how we can build better robots,

על איך לבנות רובוטים טובים יותר,

and perhaps how humans, animals, create self-models and learn.

ואולי איך אנשים, חיות, יוצרים מודלים עצמיים ולומדים.

And one of the things that I think is important

ואחד הדברים שאני חושב שהם חשובים

is that we have to get away from this idea

זה שאנחנו צריכים לוותר על הרעיון

of designing the machines manually,

של תכנון המכונות באופן ידני,

but actually let them evolve and learn, like children,

אלא בעצם לתת להם להתפתח וללמוד, כמו ילדים,

and perhaps that's the way we'll get there. Thank you.

ואולי ככה נגיע לשם. תודה רבה.

(Applause)

(מחיאות כפיים)