How will AI change the world?

תרגום: zeeva livshitz עריכה: Ido Dekkers

בשנים הקרובות, בינה מלאכותית

In the coming years, artificial intelligence

תשנה כנראה את חייכם, וכנראה את העולם כולו.

is probably going to change your life, and likely the entire world.

אבל לאנשים קשה להסכים על איך בדיוק.

But people have a hard time agreeing on exactly how.

להלן קטעים מתוך ראיון של הפורום הכלכלי העולמי

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

שבו פרופסור ידוע למדעי המחשב ומומחה הבינה המלאכותית סטיוארט ראסל

helps separate the sense from the nonsense.

עוזר להפריד את ההגיוני מהשטותי.

There’s a big difference between asking a human to do something

יש הבדל גדול בין לבקש בן אדם לעשות משהו

and giving that as the objective to an AI system.

ולתת את זה כמטרה למערכת AI.

When you ask a human to get you a cup of coffee,

כשאתה מבקש מאדם לתת לך כוס קפה,

you don’t mean this should be their life’s mission,

אתה לא מתכוון שזה צריך להיות משימת חייו,

and nothing else in the universe matters.

ושום דבר אחר ביקום לא משנה.

Even if they have to kill everybody else in Starbucks

גם אם הם יצטרכו להרוג את כל האחרים בסטארבקס

to get you the coffee before it closes— they should do that.

להביא לך את הקפה לפני שהוא נסגר- הם צריכים לעשות את זה.

No, that’s not what you mean.

לא, לא לזה אתה מתכוון.

All the other things that we mutually care about,

כל שאר הדברים שאכפת לנו מהם באופן הדדי,

they should factor into your behavior as well.

הם צריכים לקחת בחשבון גם את ההתנהגות שלך.

And the problem with the way we build AI systems now

והבעיה עם הדרך שאנחנו בונים מערכות בינה מלאכותית עכשיו

is we give them a fixed objective.

היא שאנו נותנים להם מטרה קבועה.

The algorithms require us to specify everything in the objective.

האלגוריתמים דורשים מאיתנו לציין הכל במטרה.

And if you say, can we fix the acidification of the oceans?

ואם אתם שואלים, האם נוכל לתקן את החמצת האוקיינוסים?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

כן, יכולה להיות לכם תגובה קטליטית שעושה את זה ביעילות רבה,

but it consumes a quarter of the oxygen in the atmosphere,

אבל זה צורך רבע של החמצן באטמוספירה,

which would apparently cause us to die fairly slowly and unpleasantly

מה שכנראה יגרום לנו למות די לאט ובאופן לא נעים

over the course of several hours.

במהלך מספר שעות.

So, how do we avoid this problem?

אז איך נמנעים מבעיה זו?

You might say, okay, well, just be more careful about specifying the objective—

אתם יכולים להגיד, בסדר, טוב, פשוט תהיו יותר זהירים בהקפדה לציין את המטרה--

don’t forget the atmospheric oxygen.

אל תשכחו את החמצן האטמוספרי.

And then, of course, some side effect of the reaction in the ocean

ואז, כמובן, תופעות לוואי אחדות של התגובה באוקיינוס

poisons all the fish.

מרעילה את כל הדגים.

Okay, well I meant don’t kill the fish either.

אוקיי, טוב התכוונתי שלא תהרגו את הדגים גם כן.

And then, well, what about the seaweed?

ואז, נו, מה לגבי האצות?

Don’t do anything that’s going to cause all the seaweed to die.

אל תעשו שום דבר שהולך לגרום לכל האצות למות.

And on and on and on.

ועוד ועוד ועוד ועוד.

And the reason that we don’t have to do that with humans is that

והסיבה שאנחנו לא צריכים לעשות את זה עם בני אדם היא

humans often know that they don’t know all the things that we care about.

שבני אדם יודעים לעתים קרובות שהם לא יודעים

את כל הדברים שאכפת לנו מהם. אם תבקשו מאדם להשיג לכם כוס קפה,

If you ask a human to get you a cup of coffee,

and you happen to be in the Hotel George Sand in Paris,

ואתם במקרה במלון ג‘ורג’ סנד בפריז,

where the coffee is 13 euros a cup,

שבו מחיר הקפה הוא 13 יורו לספל,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

זה לגמרי הגיוני לחזור ולומר, ובכן, זה 13 יורו,

are you sure you want it, or I could go next door and get one?

אתם בטוחים שאתם רוצים את זה, או שאוכל ללכת ולקבל אחד ליד הבית ?

And it’s a perfectly normal thing for a person to do.

וזה דבר נורמלי לחלוטין לאדם לעשות.

To ask, I’m going to repaint your house—

לשאול, אני הולך לצבוע מחדש את הבית שלכם-

is it okay if I take off the drainpipes and then put them back?

זה בסדר אם אני אוריד את צינורות הניקוז ואז אחזיר אותם?

We don't think of this as a terribly sophisticated capability,

אנחנו לא חושבים על זה כעל יכולת מתוחכמת נורא,

but AI systems don’t have it because the way we build them now,

אבל למערכות AI אין את זה כי איך שאנחנו בונים אותן עכשיו,

they have to know the full objective.

הן צריכות לדעת את המטרה המלאה.

If we build systems that know that they don’t know what the objective is,

אם נבנה מערכות שיודעות שהן לא יודעות מה המטרה,

then they start to exhibit these behaviors,

אז הן מתחילות להציג התנהגויות אלו,

like asking permission before getting rid of all the oxygen in the atmosphere.

כמו לבקש רשות לפני שנפטרים מכל החמצן באטמוספרה.

In all these senses, control over the AI system

בכל המובנים האלה, שליטה על מערכת הבינה המלאכותית

comes from the machine’s uncertainty about what the true objective is.

נובעת מאי הוודאות של המכונה מה המטרה האמיתית.

And it’s when you build machines that believe with certainty

וכשאתם בונים מכונות שמאמינות בוודאות

that they have the objective,

שיש להן את המטרה,

that’s when you get this sort of psychopathic behavior.

אז אתם מקבלים סוג זה של התנהגות פסיכופתית.

And I think we see the same thing in humans.

ואני חושב שאנחנו רואים אותו דבר בבני אדם.

What happens when general purpose AI hits the real economy?

מה קורה כאשר AI למטרה כללית פוגע בכלכלה האמיתית?

How do things change? Can we adapt?

איך דברים משתנים? האם נוכל להסתגל?

This is a very old point.

זו נקודה ישנה מאוד.

Amazingly, Aristotle actually has a passage where he says,

למרבה הפלא, לאריסטו למעשה יש קטע שבו הוא אומר,

look, if we had fully automated weaving machines

תראו, אם היו לנו מכונות אריגה אוטומטיות לחלוטין

and plectrums that could pluck the lyre and produce music without any humans,

ומפרטים שיכולים לפרוט על הלירה ולהפיק מוזיקה ללא בני אדם,

then we wouldn’t need any workers.

אז לא נצטרך שום עובדים.

That idea, which I think it was Keynes

הרעיון הזה, שלדעתי זה היה קיינס

who called it technological unemployment in 1930,

שקרא לזה אבטלה טכנולוגית בשנת 1930,

is very obvious to people.

ברור מאוד לאנשים.

They think, yeah, of course, if the machine does the work,

הם חושבים, כן, כמובן, אם המכונה עושה את העבודה,

then I'm going to be unemployed.

אז אני הולך להיות מובטל.

You can think about the warehouses that companies are currently operating

אפשר לחשוב על המחסנים שחברות מפעילות כיום

for e-commerce, they are half automated.

עבור מסחר אלקטרוני, הם חצי אוטומטיים.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

הדרך שבה זה עובד היא שמחסן ישן- שבו יש לכם טונות של דברים שנערמו

all over the place and humans go and rummage around

סביב כל המקום ובני אדם הולכים ומפשפשים

and then bring it back and send it off—

ואז מחזירים אותם ושולחים אותם -

there’s a robot who goes and gets the shelving unit

יש רובוט שהולך ומקבל את יחידת המדפים

that contains the thing that you need,

שמכילים את הדבר שאתה צריך,

but the human has to pick the object out of the bin or off the shelf,

אבל האדם צריך לבחור את החפץ החוצה מהתא או המדף

because that’s still too difficult.

כי זה עדיין קשה מדי.

But, at the same time,

אבל באותו זמן,

would you make a robot that is accurate enough to be able to pick

האם הייתם מייצרים רובוט מדויק מספיק כדי להיות מסוגל לבחור

pretty much any object within a very wide variety of objects that you can buy?

כמעט כל אובייקט בתוך מגוון חפצים רחב מאוד שאתם יכולים לקנות?

That would, at a stroke, eliminate 3 or 4 million jobs?

שיחסל בבת אחת, 3 או 4 מיליון מקומות עבודה?

There's an interesting story that E.M. Forster wrote,

יש סיפור מעניין שכתב א.מ. פורסטר,

where everyone is entirely machine dependent.

שבו כולם תלויים לגמרי במכונה.

The story is really about the fact that if you hand over

הסיפור הוא באמת על המצב שאם אתם מוסרים

the management of your civilization to machines,

את ניהול הציוויליזציה שלכם למכונות,

you then lose the incentive to understand it yourself

אתם מאבדים את התמריץ להבין את זה בעצמכם

or to teach the next generation how to understand it.

או ללמד את הדור הבא איך להבין את זה.

You can see “WALL-E” actually as a modern version,

אתם יכולים לראות את “וול-E” למעשה כגרסה מודרנית,

where everyone is enfeebled and infantilized by the machine,

שבה כולם מוחלשים ונעשים תלותיים על ידי המכונה,

and that hasn’t been possible up to now.

וזה לא היה אפשרי עד עכשיו.

We put a lot of our civilization into books,

אנחנו מכניסים הרבה מהציוויליזציה שלנו לתוך ספרים,

but the books can’t run it for us.

אבל הם לא יכולים להפעיל את זה עבורנו.

And so we always have to teach the next generation.

ולכן עלינו תמיד ללמד את הדור הבא.

If you work it out, it’s about a trillion person years of teaching and learning

אם תחשבו את זה, זה בערך טריליון שנות אדם של הוראה ולמידה

and an unbroken chain that goes back tens of thousands of generations.

ושרשרת שלא נשברת שחוזרת לאחור עשרות אלפי דורות.

What happens if that chain breaks?

מה יקרה אם השרשרת הזו נשברת?

I think that’s something we have to understand as AI moves forward.

אני חושב שזה משהו שעלינו להבין כשה-AI מתקדמת.

The actual date of arrival of general purpose AI—

את תאריך ההגעה בפועל של AI למטרות כלליות—

you’re not going to be able to pinpoint, it isn’t a single day.

לא תצליחו לזהות, זה לא יום אחד.

It’s also not the case that it’s all or nothing.

זה גם לא המקרה שזה הכל או כלום.

The impact is going to be increasing.

ההשפעה הולכת לגדול.

So with every advance in AI,

אז עם כל התקדמות ב-AI,

it significantly expands the range of tasks.

זה מרחיב בצורה משמעותית את מגוון המשימות.

So in that sense, I think most experts say by the end of the century,

אז במובן הזה, אני חושב שרוב המומחים אומרים שעד סוף המאה,

we’re very, very likely to have general purpose AI.

סביר מאוד מאוד שתהיה לנו AI למטרות כלליות.

The median is something around 2045.

החציון הוא משהו בסביבות 2045.

I'm a little more on the conservative side.

אני קצת יותר על הצד השמרני.

I think the problem is harder than we think.

אני חושב שהבעיה קשה יותר ממה שאנחנו חושבים.

I like what John McAfee, he was one of the founders of AI,

אני אוהב את מה שג’ון מקאפי, שהיה אחד ממייסדי הבינה המלאכותית,

when he was asked this question, he said, somewhere between five and 500 years.

כששאלו אותו את השאלה הזו הוא אמר איפוא שהוא בין חמש ל-500 שנים.

And we're going to need, I think, several Einsteins to make it happen.

ונצטרך, אני חושב, כמה איינשטיינים כדי לגרום לזה לקרות.