What Is an AI Anyway? | Mustafa Suleyman | TED

תרגום: aknv tso עריכה: zeeva livshitz

I want to tell you what I see coming.

‫‫אני רוצה לספר לכם‬ ‫מה אני צופה שיהיה.‬‬

I've been lucky enough to be working on AI for almost 15 years now.

‫‫התמזל מזלי לעבוד על‬ ‫הבינה המלאכותית‬ מזה כמעט 15 שנה.‬‬

Back when I started, to describe it as fringe would be an understatement.

‫‫כשהתחלתי, לכנות אותה “תופעת שוליים“‬ ‫היה לשון המעטה.‬‬

Researchers would say, “No, no, we’re only working on machine learning.”

‫‫החוקרים היו אומרים, "לא, לא,‬ ‫אנו‬ ‫עובדים רק על למידת מכונה."‬‬

Because working on AI was seen as way too out there.

‫‫כי העבודה על בינה מלאכותית‬ ‫נתפסה‬ ‫כרעיון מוגזם ביותר.‬‬

In 2010, just the very mention of the phrase “AGI,”

‫‫בשנת 2010, רק עצם אזכור‬ ‫הביטוי‬ ‫“בינה מלאכותית כללית‬”‬

artificial general intelligence,

‫‫‫היה מזכה אתכם‬ ‫בכמה מבטים מוזרים ביותר‬‬

would get you some seriously strange looks

and even a cold shoulder.

‫‫ואפילו בכתף קרה.‬‬

"You're actually building AGI?" people would say.

‫‫“אתה באמת בונה בינה מלאכותית כללית?”‬ ‫‫אנשים היו שואלים.‬‬

"Isn't that something out of science fiction?"

‫‫“זה לא משהו‬‬ ‫‫מתוך ספר מדע בדיוני?“‬‬

People thought it was 50 years away or 100 years away,

‫‫אנשים חשבו שמדובר בעתיד‬ ‫של‬ ‫50 או 100 שנה,‬‬

if it was even possible at all.

‫‫אם זה בכלל אפשרי.‬‬

Talk of AI was, I guess, kind of embarrassing.

‫‫הדיבורים על בינה מלאכותית היו,‬‬ ‫‫אני מניח, די מביכים.‬‬

People generally thought we were weird.

‫‫אנשים בדרך כלל חשבו שאנחנו מוזרים.‬‬

And I guess in some ways we kind of were.

‫‫ואני מניח שבמובנים מסוימים‬ ‫אכן היינו כאלה.‬‬

It wasn't long, though, before AI started beating humans

אבל מהר מאוד, הבינה המלאכותית‬

‫החלה ‫לנצח בני אדם‬ ‫במגוון שלם של משימות‬‬

at a whole range of tasks

that people previously thought were way out of reach.

‫‫שאנשים חשבו בעבר‬‬ ‫‫שהן רחוקות מהישג ידה.‬‬

Understanding images,

‫‫הבנת תמונות,‬‬

translating languages,

‫‫תרגום שפות,‬‬

transcribing speech,

‫‫תמלול דיבור,‬‬

playing Go and chess

‫‫משחקי "גו" ושחמט‬‬

and even diagnosing diseases.

‫‫ואפילו אבחון מחלות.‬‬

People started waking up to the fact

‫‫אנשים התחילו לקלוט‬‬ ‫את העובדה‬

that AI was going to have an enormous impact,

‫שלבינה המלאכותית‬‬ ‫‫תהיה השפעה עצומה,‬‬

and they were rightly asking technologists like me

‫‫והם הפנו לטכנולוגים כמוני‬, ובצדק,‬ שאלו ‫‫כמה שאלות די קשות.‬‬

some pretty tough questions.

Is it true that AI is going to solve the climate crisis?

‫“‫האם נכון שהבינה המלאכותית‬‬ ‫תפתור את משבר האקלים?‬”‬

Will it make personalized education available to everyone?

‫“‫האם היא תהפוך את החינוך‬‬ ‫‫המותאם-אישית לזמין לכולם?“‬‬

Does it mean we'll all get universal basic income

‫“‫האם זה אומר שכולנו נקבל‬ ‫הכנסה בסי‫סית אוניברסלית‬

‫“ולא‬ ‫נצטרך לעבוד יותר?‬”‬

and we won't have to work anymore?

Should I be afraid?

‫“‫האם עלי לפחוד?‬”‬

What does it mean for weapons and war?

‫“‫מה זה אומר מבחינת נשק ומלחמה?‬”‬

And of course, will China win?

‫‫וכמובן, “האם סין תנצח?‬”‬

‫“‫האם אנחנו במירוץ?‬”‬

Are we in a race?

Are we headed for a mass misinformation apocalypse?

‫“‫האם מצפה לנו אפוקליפסה‬ ‫עצומה‬ ‫של מידע מוטעה?‬”‬

All good questions.

‫‫כולן שאלות טובות.‬‬

But it was actually a simpler

‫‫אבל למעשה‬, היתה ‫שאלה פשוטה‬ ‫‫ובסיסית הרבה יותר‬

and much more kind of fundamental question that left me puzzled.

‫שהותירה אותי מבולבל.‬‬

One that actually gets to the very heart of my work every day.

‫שאלה שלמעשה נוגעת‬ ‫בלב ‫העבודה היומיומית שלי.‬‬

One morning over breakfast,

‫‫בוקר אחד, בארוחת הבוקר,‬

my six-year-old nephew Caspian was playing with Pi,

‫אחייני קספיאן בן השש‬‬ ‫‫שיחק עם “פיי“,‬

the AI I created at my last company, Inflection.

‫‫הבינה המלאכותית שיצרתי בחברה‬‬ ‫‫האחרונה שלי, “אינפלקשן“.‬‬

With a mouthful of scrambled eggs,

‫‫עם פה מלא ביצה מקושקשת,‬‬

he looked at me plain in the face and said,

‫‫הוא הביט בי‬‬ ‫ישר בעיניים ושאל,‬‬

"But Mustafa, what is an AI anyway?"

‫‫“אבל מוסטפא,‬ ‫מה זה בכלל בינה מלאכותית?“‬‬

He's such a sincere and curious and optimistic little guy.

‫‫הוא בחור קטן,‬‬ ‫כנה, סקרן ואופטימי.‬‬

He'd been talking to Pi about how cool it would be if one day in the future,

‫‫הוא דיבר עם פיי על כמה ‫יהיה מגניב‬ ‫אם יום אחד בעתיד,‬‬

he could visit dinosaurs at the zoo.

‫‫הוא יוכל לבקר דינוזאורים בגן החיות.‬‬

And how he could make infinite amounts of chocolate at home.

‫‫ושהוא יכול להכין כמויות‬‬ ‫‫אינסופיות של שוקולד בבית.‬‬

And why Pi couldn’t yet play I Spy.

‫‫ומדוע פיי עדיין לא יכול‬ ‫לשחק “איי ספיי“.‬

"Well," I said, "it's a clever piece of software

‫‫“ובכן,” אמרתי, “מדובר בתוכנה חכמה‬‬

that's read most of the text on the open internet,

‫“‫שקראה את רוב‬ ‫הטקסט באינטרנט הפתוח,‬‬

and it can talk to you about anything you want."

‫‫"והיא יכולה לדבר איתך‬‬ ‫‫על כל מה שאתה רוצה."‬‬

"Right.

‫‫"אה.‬‬

So like a person then?"

‫‫"אז כמו בן אדם?"‬‬

I was stumped.

‫נאלמתי דום.‬‬

Genuinely left scratching my head.

‫ממש ‫גירדתי את הראש.‬‬

All my boring stock answers came rushing through my mind.

‫‫כל התשובות השגורות והמשעממות‬ ‫שלי‬ ‫עלו מיד בדעתי.‬‬

"No, but AI is just another general-purpose technology,

‫‫“לא, אבל הבינה המלאכותית היא רק‬‬ ‫‫עוד טכנולוגיה כללית,‬‬

like printing or steam."

כמו הדפוס או הקיטור.“‬‬

It will be a tool that will augment us

‫‫זה יהיה כלי שיעצים אותנו‬ ‫ויהפוך אותנו ‬‫לחכמים ופוריים יותר.‬‬

and make us smarter and more productive.

And when it gets better over time,

וכשזה יילך וישתפר,‬‬

it'll be like an all-knowing oracle

‫‫"זה יהיה כמו אורקל יודע-כל‬‬

that will help us solve grand scientific challenges."

שיעזור לנו לפתור‬‬ ‫‫אתגרים מדעיים גדולים“.‬‬

You know, all of these responses started to feel, I guess,

‫‫אתם יודעים, התחלתי להרגיש‬ ‫שכל התגובות האלה‬, אני מניח,‬‬

a little bit defensive.

‫‫קצת מתגוננות.‬‬

And actually better suited to a policy seminar

‫‫ולמעשה, מתאימות יותר‬ ‫לסמינר מדיניות‬‬

than breakfast with a no-nonsense six-year-old.

‫‫מאשר לארוחת-בוקר עם‬ ‫ילד בן שש‬ ‫שאי-אפשר לעבוד עליו.‬‬

"Why am I hesitating?" I thought to myself.

‫‫“למה אני מהסס?“‬‬ ‫שאלתי את עצמי.‬‬

You know, let's be honest.

‫הבה נהיה כנים.‬‬

My nephew was asking me a simple question

‫‫האחיין שלי שאל אותי שאלה פשוטה‬‬

that those of us in AI just don't confront often enough.

‫‫שאלה שאנחנו, בבינה המלאכותית‬ ‫פשוט‬ ‫לא מתעמתים איתה מספיק.‬‬

What is it that we are actually creating?

‫‫מה אנו בעצם יוצרים?‬‬

What does it mean to make something totally new,

‫‫מהי המשמעות של ליצור‬‬ ‫‫משהו חדש לגמרי,‬

fundamentally different to any invention that we have known before?

‫שונה‬ באופן יסודי‬ ‫מכל‬ ‫המצאה שהכרנו עד כה?‬‬

It is clear that we are at an inflection point

‫‫ברור שאנו נמצאים בנקודת‬-מפנה‬ ‫בתולדות האנושות.‬‬

in the history of humanity.

On our current trajectory,

‫‫במסלול הנוכחי שלנו,‬‬

we're headed towards the emergence of something

‫‫אנו מתקדמים לקר‬‫את הופעתו של משהו‬‬

that we are all struggling to describe,

‫‫שכולנו מתקשים לתאר,‬‬

and yet we cannot control what we don't understand.

‫‫ובכל זאת איננו יכולים‬ ‫לשלוט‬ ‫במה שאיננו מבינים.‬‬

And so the metaphors,

‫‫ולכן לדימויים,‬ ‫למודלים‬ ‫המנטליים,‬ לשמות,‬

the mental models,

the names, these all matter

‫לכל אלה יש חשיבות‬

‫‫אם בדעתנו להפיק את המירב‬ ‫מה‫בינה המלאכותית‬

if we’re to get the most out of AI whilst limiting its potential downsides.

‫תוך הגבלת החסרונות הפוטנציאליים שלה.‬‬

As someone who embraces the possibilities of this technology,

‫‫כמי ששמחים על האפשרויות‬‬ ‫הטמונות בטכנולוגיה זו,‬‬

but who's also always cared deeply about its ethics,

‫‫אבל שתמיד איכפת לנו מאוד‬ ‫ביחס לאתיקה שלה,‬‬

we should, I think,

‫‫אנו צריכים, לדעתי,‬‬

be able to easily describe what it is we are building.

‫‫להיות מסוגלים לתאר בקלות‬‬ ‫‫את מה שאנחנו בונים,‬

And that includes the six-year-olds.

‫‫כולל בפני ילדים בני שש.‬‬

So it's in that spirit that I offer up today the following metaphor

‫‫אז ברוח זו אני מציע‬ ‫היום‬ ‫את הדימוי הבא‬

for helping us to try to grapple with what this moment really is.

‫‫שיעזור לנו לנסות להתמודד עם‬‬ ‫‫האמת של הרגע הזה.‬‬

I think AI should best be understood

‫‫אני חושב שהכי טוב להבין‬ ‫את הבינה המלאכותית‬‬

as something like a new digital species.

‫כאילו היא מין דיגיטלי חדש.‬‬

Now, don't take this too literally,

‫‫אל תיקחו את זה מילולית מדי,‬‬

but I predict that we'll come to see them as digital companions,

‫‫אבל אני חוזה שנלמד ‫לראות בה‬ ‫חברה דיגיטלית,‬

new partners in the journeys of all our lives.

‫שותפה ‫חדשה במסעות‬ ‫בכל חיינו.‬‬

Whether you think we’re on a 10-, 20- or 30-year path here,

‫לא משנה אם לדעתכם מדובר כאן‬ ‫בדרך של ‫10, 20 או 30 שנה,‬‬

this is, in my view, the most accurate and most fundamentally honest way

‫‫זו, לדעתי, הדרך‬ ‫המדויקת‬

‫וביסודה, הישרה ביותר לתאר‬‬ ‫‫את מה שבאמת מגיע.‬‬

of describing what's actually coming.

And above all, it enables everybody to prepare for

‫‫ומעל לכל, זה‬‬ ‫‫מאפשר לכולם להתכונן‬‬

and shape what comes next.

‫‫ולעצב את מה שיבוא.‬‬

Now I totally get, this is a strong claim,

‫אני לגמרי מבין שזהו טיעון רציני,‬‬

and I'm going to explain to everyone as best I can why I'm making it.

‫‫ואני אסביר לכולם כמיטב‬ ‫יכולתי‬ ‫מדוע אני מעלה אותו.‬‬

But first, let me just try to set the context.

‫‫אבל תחילה תנו לי רק‬‬ ‫‫לנסות להגדיר את ההקשר.‬‬

From the very first microscopic organisms,

‫‫מאז ראשוני האורגניזמים המיקרוסקופיים,‬‬

life on Earth stretches back billions of years.

‫‫החיים על פני כדור‬ ‫הארץ‬ ‫התפתחו במשך מיליארדי שנים.‬‬

Over that time, life evolved and diversified.

‫‫במהלך הזמן הזה,‬‬ ‫‫החיים התפתחו והתגוונו.‬‬

Then a few million years ago, something began to shift.

‫‫ולפני כמה מיליוני‬ ‫שנים,‬ ‫משהו התחיל להשתנות.‬‬

After countless cycles of growth and adaptation,

‫‫לאחר אינספור מחזורים‬‬ ‫‫של צמיחה והסתגלות,‬‬

one of life’s branches began using tools, and that branch grew into us.

‫‫אחד מענפי החיים‬ ‫החל להשתמש‬ ‫בכלים,‬

‫ומהענף הזה התפתחנו אנחנו.‬‬

We went on to produce a mesmerizing variety of tools,

‫ייצרנו מגוון מהפנט‬‬ ‫‫של כלים,‬

at first slowly and then with astonishing speed,

‫בהת‫חלה לאט,‬ ‫ואז‬ ‫במהירות מדהימה,‬

we went from stone axes and fire

‫הגענו מגרזני האבן ומן האש‬‬

to language, writing and eventually industrial technologies.

‫עד ‫לשפה, לכתיבה ובסופו‬ ‫של דבר‬ ‫לטכנולוגיות תעשייתיות.‬‬

One invention unleashed a thousand more.

‫‫המצאה אחת הביאה לאלף נוספות.‬‬

And in time, we became homo technologicus.

‫‫ועם הזמן הפכנו ל“הומו טכנולוגיקוס“.‬‬

Around 80 years ago,

‫‫לפני כ-80 שנה נולד‬ ‫ענף טכנולוגיה חדש‬.‬

another new branch of technology began.

With the invention of computers,

‫‫עם המצאת המחשבים‬

we quickly jumped from the first mainframes and transistors

‫זינקנו במהירות ממחשבי‬ ‫המיינפריים‬ ‫והטרנזיסטורים הראשונים‬

‫לטלפונים חכמים‬ ‫ולמערכות המציאות המד‬‫ומה של ימינו.‬‬

to today's smartphones and virtual-reality headsets.

Information, knowledge, communication, computation.

‫‫מידע, ידע,‬‬ ‫‫תקשורת, מחשוב.‬‬

In this revolution,

‫‫במהפכה הזו,‬‬

‫מלאכת היצירה התעצמה‬ ‫יותר מאי-פעם בעבר.‬‬

creation has exploded like never before.

And now a new wave is upon us.

‫‫ועכשיו מגיע גל חדש.‬‬

Artificial intelligence.

‫ה‫בינה המלאכותית.‬‬

These waves of history are clearly speeding up,

‫ברור ש‫גלי ההיסטוריה האלה‬‬‬ ‫הולכים ונעשים תכופים יותר,‬

as each one is amplified and accelerated by the last.

‫כשכל אחד מהם‬‬ ‫‫מוגבר ומואץ על ידי קודמו.‬‬

And if you look back,

‫‫ואם מסתכלים אחורה,‬‬

it's clear that we are in the fastest

‫‫ברור שאנחנו נמצאים בגל המהיר‬‬ ‫‫והתוצאתי ביותר מאז ומתמיד.‬‬

and most consequential wave ever.

The journeys of humanity and technology are now deeply intertwined.

‫דרכי האנושות והטכנולוגיה‬ ‫שזורות‬ ‫זו בזו באופן עמוק.‬‬

In just 18 months,

‫‫בתוך שנה וחצי בלבד,‬‬

over a billion people have used large language models.

‫‫למעלה ממיליארד אנשים השתמשו‬‬ ‫‫במודלים גדולים של שפה.‬‬

We've witnessed one landmark event after another.

‫‫היינו עדים לאירועים בול‫טים‬ ‫בזה אחר זה.‬‬

Just a few years ago, people said that AI would never be creative.

‫‫רק לפני כמה שנים אמרו‬‬ ‫‫שהבינה המלאכותית לעולם לא תהיה יצירתית.‬‬

And yet AI now feels like an endless river of creativity,

‫אך הבינה המלאכותית מורגשת כיום‬ ‫‫כמו נהר אינסופי של יצירתיות,‬‬

making poetry and images and music and video that stretch the imagination.

‫‫יוצרת שירה ותמונות ומוזיקה‬‬ ‫‫וסרטונים שקוראים תיגר על הדמיון.‬‬

People said it would never be empathetic.

‫‫אנשים אמרו שהיא‬ ‫לעולם לא תהיה אמפתית.‬‬

And yet today, millions of people enjoy meaningful conversations with AIs,

‫אבל מיליוני אנשים נהנים‬ כיום‬ ‫‫משיחות משמעותיות עם בינה מלאכותית,‬‬

talking about their hopes and dreams

‫‫מדברים על תקוותיהם וחלומותיהם‬‬

and helping them work through difficult emotional challenges.

‫‫ונעזרים בה כדי להתמודד‬‬ ‫‫עם אתגרים רגשיים קשים.‬‬

AIs can now drive cars,

‫ה‫בינה המלאכותית יכולה כעת‬ ‫לנהוג במכוניות,‬‬

manage energy grids

‫‫לנהל רשתות חשמל‬

and even invent new molecules.

‫‫ואפילו להמציא מולקולות חדשות.‬‬

Just a few years ago, each of these was impossible.

‫‫רק לפני שנים ספורות‬ ‫כל‬ דבר כזה היה בלתי-אפשרי.‬‬

And all of this is turbocharged by spiraling exponentials of data

‫‫וכל זה מתודלק על ידי‬‬ ‫סדרי-גודל מעריכיים של נתונים ומחשוב.‬‬

and computation.

Last year, Inflection 2.5, our last model,

‫‫בשנה שעברה, “אינפלקשן 2.5”,‬ ‫המודל האחרון שלנו,‬‬

used five billion times more computation

‫‫השתמש בפי חמישה מיליארד יותר‬ ‫כוח מחשוב‬

than the DeepMind AI that beat the old-school Atari games

‫‫מאשר הבינה המלאכותית של “דיפמיינד”‬ ‫שניצחה את‬ ‫משחקי “אטארי” המיושנים‬

‫לפני קצת יותר מע‬שר שנים‬

just over 10 years ago.

That's nine orders of magnitude more computation.

‫מדובר בתשעה סדרי‬-‫גודל‬ ‫יותר כוח מחשוב.‬‬

10x per year,

‫כפול 10 בשנה,‬‬

every year for almost a decade.

‫מידי שנה‬ ‫במשך עשור כמעט.‬‬

Over the same time, the size of these models has grown

‫‫במקביל, גודלם של‬‬ ‫‫מודלים אלה גדל‬‬

from first tens of millions of parameters to then billions of parameters,

‫תחילה ‫מעשרות מיליוני פרמטרים‬‬ ‫ועד מיליארדי פרמטרים,‬‬

and very soon, tens of trillions of parameters.

‫‫ובקרוב מאוד,‬‬ ‫‫עשרות טריליוני פרמטרים.‬‬

If someone did nothing but read 24 hours a day for their entire life,

‫‫אם מישהו לא היה עושה דבר מלבד‬‬ ‫‫לקרוא 24 שעות ביממה במשך כל חייו,‬‬

they'd consume eight billion words.

‫‫הוא היה צורך שמונה מיליארד מילים.‬‬

And of course, that's a lot of words.

‫‫ואלה כמובן המון מילים.‬‬

But today, the most advanced AIs consume more than eight trillion words

‫‫אבל כיום, הבינה המלאכותית המתקדמת ביותר‬‬

‫‫צורכת יותר משמונה טריליון מילים‬‬

in a single month of training.

‫‫בחודש אחד של אימון.‬‬

And all of this is set to continue.

‫‫וכל זה אמור להימשך.‬‬

The long arc of technological history is now in an extraordinary new phase.

‫‫הקשת הארוכה של ההיסטוריה הטכנולוגית‬ ‫נמצאת‬ ‫כעת בשלב חדש ומיוחד במינו.‬‬

So what does this mean in practice?

‫‫אז מה זה אומר בפועל?‬‬

Well, just as the internet gave us the browser

‫‫ובכן, בדיוק כפי שהאינטרנט‬‬ ‫‫נתן לנו את הדפדפן‬‬

and the smartphone gave us apps,

‫‫והטלפון החכם נתן לנו יישומונים,‬

the cloud-based supercomputer is ushering in a new era

‫כך מחשב-ה‫על מבוסס הענ‬‫ן‬ ‫מוביל אותנו לעידן חדש‬‬

of ubiquitous AIs.

‫‫של בינה מלאכותית בכל מקום.‬‬

Everything will soon be represented by a conversational interface.

‫‫הכל יהיה מיוצג בקרוב‬‬ ‫‫על ידי ממשק שיחה.‬‬

Or, to put it another way, a personal AI.

‫‫או, במילים אחרות,‬ ‫בינה מלאכותית אישית.‬‬

And these AIs will be infinitely knowledgeable,

‫‫והבינות המלאכותיות האלה‬ ‫יכילו ידע אינסופי,‬‬

and soon they'll be factually accurate and reliable.

‫‫ובקרוב הן תהיינה‬ ‫‫מדויקות ואמינות מבחינת העובדות.‬‬

They'll have near-perfect IQ.

‫תהיה להן מנת-משכל כמעט מושלמת.‬‬

They’ll also have exceptional EQ.

‫תהיה להן גם תבונה רגשית‬ ‫יוצאת מן הכלל.‬‬

They’ll be kind, supportive, empathetic.

‫‫הן תהיינה אדיבות, תומכות, אוהדות.‬‬

These elements on their own would be transformational.

‫רכיבים אלה בפני‬ ‫עצמם‬ ‫ישנו את התמונה כולה.‬

Just imagine if everybody had a personalized tutor in their pocket

‫‫תארו לעצמכם אם לכולם היה‬‬ ‫‫מורה בהתאמה אישית בכיס‬‬

and access to low-cost medical advice.

‫‫וגישה לייעוץ רפואי זול.‬‬

A lawyer and a doctor,

‫‫עורך דין ו‫רופא, אסטרטג עסקי ומאמן -‬‬

a business strategist and coach --

all in your pocket 24 hours a day.

‫כל אלה בכיס שלכם ‫24 שעות ביממה.‬‬

But things really start to change when they develop what I call AQ,

‫‫אבל הדברים באמת מתחילים להשתנות‬

‫כשהבינה המלאכותית מפתחת‬‬ ‫‫את מה שאני מכנה איי-קיו,‬

their “actions quotient.”

‫את “מנת הפעילות” ‫שלה.‬‬

This is their ability to actually get stuff done

‫מדובר ביכולת שלה‬‬ ‫‫להשלים דברים‬

in the digital and physical world.

‫‫בעולם הדיגיטלי והממשי.‬‬

And before long, it won't just be people that have AIs.

‫‫ובמהרה, לא ‫רק לאנשים‬ ‫תהיה בינה מלאכותית.‬‬

Strange as it may sound, every organization,

‫‫מוזר ככל שזה יישמע,‬‬

‫‫לכל ארגון, מעסקים קטנים‬,‬ ‫עבור במלכ“רים ועד ממשלות,‬‬

from small business to nonprofit to national government,

each will have their own.

‫‫לכל אחד מאלה‬ ‫תהיה בינה מלאכותית משלו.‬‬

Every town, building and object

‫‫כל עיר, בניין וחפץ‬‬

will be represented by a unique interactive persona.

י‫‫יוצגו על ידי‬‬ ‫‫אישיות אינטראקטיבית ייחודית.‬‬

And these won't just be mechanistic assistants.

‫‫ואלה לא יהיו‬‬ ‫סתם עוזרים מכניסטיים.‬‬

They'll be companions, confidants,

‫‫הם יהיו בני לוויה, אנשי סוד,‬‬

colleagues, friends and partners,

‫‫עמיתים, חברים ושותפים,‬‬

as varied and unique as we all are.

‫‫מגוונים וייחודיים כמו כולנו.‬‬

At this point, AIs will convincingly imitate humans at most tasks.

‫‫הבינה המלאכותית תחקה אז‬ ‫באופן‬ ‫משכנע בני אדם ברוב המשימות.‬‬

And we'll feel this at the most intimate of scales.

‫‫ואנחנו נרגיש את זה‬‬ ‫‫בקנה המידה האינטימי ביותר.‬‬

An AI organizing a community get-together for an elderly neighbor.

‫‫בינה מלאכותית שתארגן‬ ‫מפגש‬ ‫קהילתי עבור שכן מבוגר.‬‬

A sympathetic expert helping you make sense of a difficult diagnosis.

‫‫מומחה מלא-אהדה שיעזור‬‬ ‫‫להבין אבחון קשה.‬‬

But we'll also feel it at the largest scales.

‫‫אבל אנחנו נרגיש את זה‬‬ ‫‫גם בקנה המידה הגדול ביותר.‬‬

Accelerating scientific discovery,

‫‫גילוי מדעי מואץ,‬

autonomous cars on the roads,

‫מכוניות‬ ‫אוטונומיות בכבישים‬‬

drones in the skies.

‫‫מל"טים בשמיים.‬‬

They'll both order the takeout and run the power station.

‫הבינה המלאכותית גם תזמין את המשלוח‬‬ ‫‫וגם תפעיל את תחנת הכוח.‬‬

They’ll interact with us and, of course, with each other.

‫‫היא תהיה באינטראקציה איתנו‬ ‫וכמובן‬ בינה לבינה.‬

They'll speak every language,

‫‫היא תדבר בכל שפה,‬‬

take in every pattern of sensor data,

‫תקבל כל דפוס של נתוני חיישנים,‬ ‫מ‬‫ראות, צלילים,‬‬

sights, sounds,

streams and streams of information,

‫זרמים על זרמים של מידע,‬‬

far surpassing what any one of us could consume in a thousand lifetimes.

‫‫הרבה מעבר למה שכל אחד‬‬ ‫‫מאיתנו יכול לצרוך באלף תקופות חיים.‬‬

So what is this?

‫‫אז מה זה?‬‬

What are these AIs?

‫‫מה הן הבינות המלאכותיות האלה?‬‬

If we are to prioritize safety above all else,

‫‫אם ברצוננו לתעדף את הב‬‫טיחות‬ ‫מעל לכל דבר אחר,‬‬

to ensure that this new wave always serves and amplifies humanity,

‫‫כדי להבטיח שהגל החדש הזה‬‬ ‫‫תמיד ישרת ויעצים את האנושות,‬‬

then we need to find the right metaphors for what this might become.

‫‫אז עלינו למצוא את הדימויים הנכונים‬ ‫למה שזה עשוי להפוך.‬‬

For years, we in the AI community, and I specifically,

‫‫במשך שנים, לנו בקהילת הבינה‬‬ ‫‫המלאכותית, ולי אישית,‬‬

have had a tendency to refer to this as just tools.

‫‫היתה נטייה להתייחס‬ אליהן‬ ‫כאל כלים בלבד.‬‬

But that doesn't really capture what's actually happening here.

‫‫אבל זה לא ממש מקיף‬ ‫‫את מה שקורה כאן בפועל.‬‬

AIs are clearly more dynamic,

‫ה‫בינות המלאכותיות הן בבירור‬ ‫דינמיות יותר, מעורפלות יותר‬‬

more ambiguous, more integrated

‫‫משולבות יותר‬‬ ‫‫ומתפתחות מהר יותר מכלים גרידא,‬‬

and more emergent than mere tools,

which are entirely subject to human control.

‫שכפופים‬ ‫לחלוטין לשליטה אנושית.‬‬

So to contain this wave,

‫‫אז כדי להכיל את הגל‬ הזה,‬

to put human agency at its center

‫לשים במרכזו‬ את האדם,‬

and to mitigate the inevitable unintended consequences

‫‫ולהקטין את ההשלכות‬ ‫הבלתי-מכוונות‬ ‫והבלתי-נמנעות‬ ‫שצפויות להופיע,‬‬

that are likely to arise,

we should start to think about them as we might a new kind of digital species.

‫‫עלינו להתחיל לראות בבינות המלאכותיות‬ ‫‫סוג חדש של מין דיגיטלי.‬‬

Now it's just an analogy,

עכשיו זו רק אנלוגיה,‬‬

it's not a literal description, and it's not perfect.

‫‫זה לא תיאור‬ פשוטו כמשמעו,‬ ‫וזה לא מושלם.‬‬

‫‫בתור התחלה, ברור שהן‬ ‫אינן‬ ‫ביולוגיות במובן מוכר כלשהו,‬‬

For a start, they clearly aren't biological in any traditional sense,

but just pause for a moment

‫‫אבל פשוט קחו רגע‬

and really think about what they already do.

‫‫וחישבו באמת על‬ ‫מה שהן כבר עושות.‬‬

They communicate in our languages.

‫‫הן יוצרות תקשורת בשפות שלנו.‬‬

They see what we see.

‫‫הן רואות את מה שאנחנו רואים.‬‬

They consume unimaginably large amounts of information.

‫‫הן צורכות כמויות מידע‬ ‫גדולות באופן‬ ‫בלתי-נתפש.‬‬

They have memory.

‫‫יש להן זכרון.‬‬

They have personality.

‫‫יש להן אישיות.‬‬

They have creativity.

‫הן ניחנו ביצירתיות.‬‬

They can even reason to some extent and formulate rudimentary plans.

‫‫הן יכולות אפילו להסביר במידה‬‬ ‫‫מסוימת ולנסח תוכניות בסיסיות.‬‬

They can act autonomously if we allow them.

‫‫הן יודעות לפעול באופן‬ ‫אוטונומי,‬ ‫אם נאפשר להן.‬‬

And they do all this at levels of sophistication

‫‫והן עושות את כל‬ ‫זה‬ ‫ברמות גבוהות של תחכום‬‬

that is far beyond anything that we've ever known from a mere tool.

‫מעבר לכל מה‬ ‫שאי-פעם הכרנו‬ ‫בכלים גרידא.‬‬

And so saying AI is mainly about the math or the code

‫אז לומר שהבינה המלאכותית‬ ‫היא בעיקר עניין של מתמטיקה או קוד,‬

is like saying we humans are mainly about carbon and water.

‫‫זה כמו לומר שבני‬ ‫האדם‬ ‫הם בעיקרם פחמן ומים.‬‬

It's true, but it completely misses the point.

‫‫זה נכון,‬ ‫אבל זו החמצה גמורה.‬‬

And yes, I get it, this is a super arresting thought

‫‫וכן, אני מבין את זה,‬‬ ‫‫זהו רעיון עוצר-נשימה,‬

but I honestly think this frame helps sharpen our focus on the critical issues.

‫‫אבל אני חושב בכנות‬

‫שצורת החשיבה הזאת עוזרת לחדד‬ ‫את התמקדותנו בנושאים המכריעים.‬‬

What are the risks?

‫‫מהם הסיכונים?‬‬

What are the boundaries that we need to impose?

‫‫מהן המגבלות שחשוב שנאכוף?‬‬

What kind of AI do we want to build or allow to be built?

‫‫איזה סוג של בינה מלאכותית‬ ‫אנחנו‬ ‫רוצים לבנות,‬

‫או לאפשר שתיבנה?‬‬

This is a story that's still unfolding.

‫‫זהו סיפור שעדיין נכתב.‬‬

Nothing should be accepted as a given.

‫‫שום דבר לא צריך להתקבל כגזירה.‬‬

We all must choose what we create.

‫‫כולנו צריכים לבחור‬ ‫את מה שאנו יוצרים.‬‬

What AIs we bring into the world, or not.

‫‫אילו בינות מלאכותיות‬ ‫אנו מביאים לעולם,‬

‫ואילו - לא.‬‬

These are the questions for all of us here today,

‫‫אלה השאלות עבור ‫כולנו כאן היום,‬‬

and all of us alive at this moment.

‫‫וכולנו חיים ברגע זה.‬‬

For me, the benefits of this technology are stunningly obvious,

‫בעיני, יתרונותיה של הטכנולוגיה‬ ‫הזו‬ ‫ברורים להפליא,‬‬

and they inspire my life's work every single day.

‫‫והם מעוררים השראה‬‬ ‫‫בעבודת חיי בכל יום.‬‬

But quite frankly, they'll speak for themselves.

‫‫אבל בכנות,‬ ‫הם‬ ‫ידברו בעד עצמם.‬‬

Over the years, I've never shied away from highlighting risks

‫‫במהלך השנים מעולם לא נרתעתי‬ ‫מלהדגיש סיכונים‬‬

and talking about downsides.

‫‫ולדבר‬ ‫על חסרונות.‬‬

Thinking in this way helps us focus on the huge challenges

‫‫חשיבה בדרך זו עוזרת לנו‬‬ ‫‫להתמקד באתגרים העצ‫ומים שלפני כולנו.‬‬

that lie ahead for all of us.

But let's be clear.

‫‫אבל בואו נהיה ברורים.‬‬

There is no path to progress

‫‫אי-אפשר להתקדם‬‬ ‫אם משאירים את הטכנולוגיה מאחור.‬‬

where we leave technology behind.

The prize for all of civilization is immense.

‫‫הפרס לכל הציוויליזציה‬‬ ‫‫הוא עצום.‬‬

We need solutions in health care and education, to our climate crisis.

‫‫אנו זקוקים לפתרונות בתחום הבריאות,‬‬ ‫‫החינוך, משבר האקלים שלנו.‬‬

And if AI delivers just a fraction of its potential,

‫‫ואם הבינה המלאכותית‬‬ ‫‫תממש רק שבריר ‫מהפוטנציאל הגלום בה,‬

the next decade is going to be the most productive in human history.

‫העשור הבא‬ ‫יהיה הפורה ביותר‬ ‫בתולדות האנושות.‬‬

Here's another way to think about it.

‫‫הנה עוד דרך לחשוב על זה.‬‬

In the past,

‫‫בעבר, לפתיחת הצמיחה הכלכ‬‫לית‬ ‫נלוו לעתים‬ ‫קרובות חסרונות עצומים.‬‬

unlocking economic growth often came with huge downsides.

The economy expanded as people discovered new continents

‫‫הכלכלה התרחבה ככל‬ ‫שאנשים‬ ‫גילו יבשות‬ ‫חדשות והציבו גבולות חדשים‬.‬

and opened up new frontiers.

But they colonized populations at the same time.

‫‫אבל במקביל, הם התנחלו‬ ‫ב‫אוכלוסיות קיימות.‬‬

We built factories,

‫‫בנינו מפעלים,‬‬

but they were grim and dangerous places to work.

‫‫אבל הם היו מקומות‬‬ ‫‫עגומים ומסוכנים לעבודה.‬‬

We struck oil,

‫מצאנו נפט,‬‬

but we polluted the planet.

‫‫אבל זיהמנו את כדור הארץ.‬‬

Now because we are still designing and building AI,

‫ו‫עכשיו, היות שאנו עדיין‬‬ ‫‫מעצבים ובונים בינה מלאכותית,‬

we have the potential and opportunity to do it better,

‫יש ‫לנו פוטנציאל והזדמנות‬ ‫לעשות‬ ‫זאת טוב יותר,‬

radically better.

‫טוב יותר ‫באופן קיצוני.‬‬

And today, we're not discovering a new continent

‫‫והיום, איננו ‫מגלים יבשת חדשה‬‬ ‫‫ובוזזים את משאביה.‬‬

and plundering its resources.

We're building one from scratch.

‫‫אנחנו בונים משהו לגמרי מהתחלה.‬

Sometimes people say that data or chips are the 21st century’s new oil,

‫‫לפעמים אומרים שנתונים או שבבים‬ ‫הם‬ ‫הנפט החדש של המאה ה-21,‬‬

but that's totally the wrong image.

‫‫אבל זה ממש לא הדימוי הנכון.‬‬

AI is to the mind

‫ה‫בינה המלאכותית, מבחינת המוח‬,‬

what nuclear fusion is to energy.

‫היא ‫מה שההיתוך הגרעיני הוא‬ ‫מבחינת האנרגיה.‬‬

Limitless, abundant,

‫מקור ‫בלתי-מוגבל, שופע‬ ‫שמשנה את העולם‬.‬

world-changing.

And AI really is different,

‫‫והבינה המלאכותית באמת שונה,‬‬

and that means we have to think about it creatively and honestly.

‫‫וזה אומר שעלינו לחשוב‬ עליה‬ ‫ביצירתיות ובכנות.‬‬

We have to push our analogies and our metaphors

‫‫עלינו לדחוק את‬ גבולות‬ ‫‫האנלוגיות והדימויים שלנו‬‬

to the very limits

to be able to grapple with what's coming.

‫‫כדי להיות מסוגלים להתמודד‬ ‫עם מה שמצפה לנו.‬‬

Because this is not just another invention.

‫‫כי זו לא‬ ‫סתם עוד המצאה.‬‬

AI is itself an infinite inventor.

‫‫בינה מלאכותית היא בעצמה‬ ‫ממציאה אינסופית.‬‬

And yes, this is exciting and promising and concerning

‫‫וכן, זה מלהיב ‫ומבטיח ומדאיג‬‬ ‫‫ומסקרן בבת-אחת.‬‬

and intriguing all at once.

To be quite honest, it's pretty surreal.

‫‫למען האמת, זה די סוריאליסטי.‬‬

But step back,

‫‫אבל קחו צעד אחורה,‬

see it on the long view of glacial time,

‫הביטו בה במבט הארוך‬ ‫של הזמן הקרח‬וני‬

and these really are the very most appropriate metaphors that we have today.

‫‫ואלו באמת הדימויים‬ ‫‫ההולמים ביותר שיש לנו כיום.‬‬

Since the beginning of life on Earth,

‫‫מאז תחילת החיים עלי אדמות,‬‬

we've been evolving, changing

‫התפתחנו, שינינו,‬

and then creating everything around us in our human world today.

‫‫ואז יצרנו את כל‬ ‫מה שסביבנו‬ ‫בעולמנו האנושי כיום.‬‬

And AI isn't something outside of this story.

‫‫והבינה המלאכותית איננה‬ ‫מחוץ לסיפור הזה.‬‬

In fact, it's the very opposite.

‫‫למעשה, זה בדיוק ההפך.‬‬

It's the whole of everything that we have created,

‫‫זה סך כל‬ ‫מה שיצרנו,‬‬

distilled down into something that we can all interact with

‫‫מזוקק למשהו שכולנו יכולים‬‬ ‫‫לקיים איתו אינטראקציה‬

and benefit from.

‫ולהפיק‬ ממנו ‫תועלת.‬‬

It's a reflection of humanity across time,

‫‫זוהי השתקפות של האנושות לאורך זמן,‬‬

and in this sense,

‫‫ומבחינה זו,‬ ‫היא בכלל לא מין חדש.‬‬

it isn't a new species at all.

This is where the metaphors end.

‫‫כאן מסתיימים הדימויים.‬‬

Here's what I'll tell Caspian next time he asks.

‫‫הנה מה שאגיד לקספיאן‬‬ ‫‫בפעם הבאה שהוא ישאל אותי.‬‬

AI isn't separate.

‫ה‫בינה המלאכותית איננה משהו נפרד.‬‬

AI isn't even in some senses, new.

‫במובנים מסוימים, ה‫בינה המלאכותית‬ ‫איננה אפילו חדשה.‬‬

AI is us.

‫ה‫בינה המלאכותית היא אנחנו,‬

It's all of us.

‫כולנו.‬‬

And this is perhaps the most promising and vital thing of all

‫‫וזה אולי הדבר המבטיח‬ ‫והחשוב ‫מכל,‬

that even a six-year-old can get a sense for.

‫שאפילו ילד בן‬ ‫שש‬ ‫יכול‬ ‫לקבל מושג לגביו.‬‬

As we build out AI,

‫‫כשאנו מפתחים את הבינה המלאכותית‬

we can and must reflect all that is good,

‫‫אנו יכולים וחייבים לשקף‬ ‫את כל מה שטוב,‬

all that we love,

‫את‬ ‫כל מה שאנו אוהבים,‬ ‫את‬ ‫כל המיוחד באנושות:‬

all that is special about humanity:

our empathy, our kindness,

‫האמפתיה‬‫, החסד, הסקר‫נות‬ ‫והיצירתיות שלנו.‬‬

our curiosity and our creativity.

This, I would argue, is the greatest challenge of the 21st century,

‫‫זה, לטענתי, הוא האתגר‬ ‫הגדול‬ ‫ביותר של המאה ה-21,‬‬

but also the most wonderful,

‫‫אך גם ה‬‫הזדמנות הכי נפלאה,‬‬ ‫‫מעוררת השראה ומלאת תקווה לכולנו.‬‬

inspiring and hopeful opportunity for all of us.

Thank you.

‫‫תודה לכם.‬‬

(Applause)

‫‫(מחיאות כפיים)‬‬

Chris Anderson: Thank you Mustafa.

‫‫כריס אנדרסון: תודה, מוסטפה.‬‬

It's an amazing vision and a super powerful metaphor.

‫‫זה חזון מדהים‬‬ ‫‫ודימוי סופר-עוצמתי.‬‬

You're in an amazing position right now.

‫‫אתה בעמדה מדהימה כרגע.‬‬

I mean, you were connected at the hip

‫‫כלומר, היית מחובר בכל המובנים‬

to the amazing work happening at OpenAI.

‫‫לעבודה המדהימה של‬ ‫OpenAI.‬‬

You’re going to have resources made available,

‫‫יהיו לכם‬ ‫משאבים זמינים,‬‬

there are reports of these giant new data centers,

‫‫יש דיווחים על‬‬ ‫‫מרכזי נתונים ענקיים חדשים,‬‬

100 billion dollars invested and so forth.

‫השקעות של ‫100 מיליארד דולר‬‬ ‫וכן הלאה.‬‬

And a new species can emerge from it.

‫‫ועשוי לצמוח מזה מין חדש.‬‬

I mean, in your book,

‫בספר שלך,‬ בנוסף‬‬ ‫על החזון האופטימי להפליא,‬‬

you did, as well as painting an incredible optimistic vision,

you were super eloquent on the dangers of AI.

‫‫התבטאת ברהיטות רבה‬ ‫‫על הסכנות שבבינה מלאכותית.‬‬

And I'm just curious, from the view that you have now,

‫‫ואני פשוט סקרן,‬ ‫בראייה הנוכחית שלך,‬‬

what is it that most keeps you up at night?

‫‫מה הכי מפריע לך לישון בלילה?‬‬

Mustafa Suleyman: I think the great risk is that we get stuck

‫‫מוסטפא סולימן:‬ ‫אני חושב שהסיכון הגדול‬‬

‫‫הוא שניתקע במה שאני מכנה‬ ‫“מלכו‬‫דת‬ ‫סלידה פסימית“.‬‬

in what I call the pessimism aversion trap.

You know, we have to have the courage to confront

‫צריך להיות לנו האומץ להתעמת‬ ‫עם‬ ‫האפשרות של תרחישים‬ ‫אפלים‬

the potential of dark scenarios

in order to get the most out of all the benefits that we see.

‫כדי שנפיק את‬ ‫המירב‬ ‫מכל היתרונות שאנו רואים.‬‬

So the good news is that if you look at the last two or three years,

‫‫אז הבשורות הטובות הן שאם‬‬ ‫‫מסתכלים על השנתיים-שלוש האחרונות,‬‬

there have been very, very few downsides, right?

‫‫היו מעט‬ ‫מאוד חסרונות, נכון?‬‬

It’s very hard to say explicitly what harm an LLM has caused.

‫‫קשה מאוד לזהות במפורש‬‬ נזק כלשהו שגרמו מודלי שפה גדולים.‬‬

But that doesn’t mean that that’s what the trajectory is going to be

‫‫אבל זה לא אומר שזה‬‬ ‫‫יהיה הכיוון ‫‫ב-10 השנים הבאות.‬‬

over the next 10 years.

‫‫אז אני חושב שאם אתה‬‬ ‫‫שם לב לכמה יכולות ספציפיות,‬‬

So I think if you pay attention to a few specific capabilities,

take for example, autonomy.

למשל, אוטונומיה.‬‬

Autonomy is very obviously a threshold

‫‫אוטונומיה היא בבירור סף‬‬

over which we increase risk in our society.

‫‫שמעבר לו אנו מגדילים‬‬ ‫‫את הסיכון בחברה שלנו,

And it's something that we should step towards very, very closely.

‫‫וזה משהו שעלינו להתקדם אליו בזהירות רבה מאוד.‬‬

The other would be something like recursive self-improvement.

‫‫השני יהיה משהו כמו‬‬ ‫‫שיפור עצמי רקורסיבי.‬‬

If you allow the model to independently self-improve,

‫‫אם תאפשר למודל להשתפר‬‬ ‫‫באופן עצמאי,

update its own code,

לעד‫‫כן בעצמו את הקוד שלו,‬‬

explore an environment without oversight, and, you know,

‫‫לחקור סביבה בלי ‫‫פיקוח,

without a human in control to change how it operates,

ו‫‫בלי שליטה אנושית שתשנה‬‬ ‫‫את אופן פעולתו,‬

that would obviously be more dangerous.

ברור ‫‫שזה יהיה מסוכן יותר.‬‬

But I think that we're still some way away from that.

‫‫אבל אני חושב שאנו‬‬ ‫‫עדיין די רחוקים מזה.‬‬

I think it's still a good five to 10 years before we have to really confront that.

לדעתי, יש עדיין 5-10 שנים‬‬ בטרם ניאלץ ממש להתמודד עם זה.‬‬

‫‫אבל הגיע הזמן להתחיל‬‬ ‫‫לדבר על זה עכשיו.‬‬

But it's time to start talking about it now.

‫‫כ“א: מין דיגיטלי, שלא ‫‫כמו כל מין ביולוגי,‬‬

CA: A digital species, unlike any biological species,

can replicate not in nine months,

‫‫יכול להשתכפל לא בתשעה חודשים,‬‬

but in nine nanoseconds,

‫‫אלא בתשע ננו-שניות,‬‬

and produce an indefinite number of copies of itself,

‫‫ולייצר אינסוף עותקים של עצמו,

all of which have more power than we have in many ways.

של‫‫כולם יש יותר כוח‬‬ ‫‫ממה שיש לנו במובנים רבים.‬‬

I mean, the possibility for unintended consequences seems pretty immense.

‫‫כלומר, האפשרות לתוצאות לא‬‬-‫‫מכוונות נראית די עצומה.‬‬

And isn't it true that if a problem happens,

‫‫והאם זה לא נכון‬‬ ‫‫שאם מתרחשת בעיה,‬‬

it could happen in an hour?

‫‫זה יכול לקרות תוך שעה?‬‬

MS: No.

‫‫מ"ס: לא.‬‬

That is really not true.

‫‫זה באמת לא נכון.‬‬

I think there's no evidence to suggest that.

‫‫אני חושב שאין ראיות‬‬ לכך.‬‬

And I think that, you know,

‫‫ואני חושב ש...

that’s often referred to as the “intelligence explosion.”

‫‫זה מכונה לעתים ‫‫קרובות “התפוצצות הבינה“.‬‬

And I think it is a theoretical, hypothetical maybe

‫‫ואני חושב שזו‬ סוגיה‬ ‫‫תיאורטית, היפותטית אולי‬‬

that we're all kind of curious to explore,

‫‫שכולנו סקרנים לחקור,‬‬

but there's no evidence that we're anywhere near anything like that.

‫‫אבל אין שום הוכחה‬‬ ‫‫לכך שאנו קרובים למשהו כזה.‬‬

And I think it's very important that we choose our words super carefully.

‫‫ולדעתי, חשוב מאוד שנבחר‬‬ בזהירות רבה ‫‫מאוד את המלים שלנו.‬‬

Because you're right, that's one of the weaknesses of the species framing,

‫‫כי אתה צודק, זו אחת‬‬ מנקודות התורפה של דימוי המין,‬‬

that we will design the capability for self-replication into it

‫‫שנעצב את יכולת‬‬ השכפול העצמי כחלק ממנה

if people choose to do that.

‫‫אם יהיו מי שיבחרו לעשות זאת.‬‬

And I would actually argue that we should not,

‫‫ואני טוען‬‬ ‫‫שלא כדאי,‬‬

that would be one of the dangerous capabilities

‫‫זו תהיה‬‬ ‫‫אחת היכולות המסוכנות ‫‫שמהן עלינו להתרחק, נכון?‬‬

that we should step back from, right?

So there's no chance that this will "emerge" accidentally.

‫‫אז אין סיכוי‬‬ ‫‫שזה “יופיע” בטעות.‬‬

I really think that's a very low probability.

‫‫אני באמת חושב שזו‬‬ ‫‫סבירות נמוכה מאוד.‬‬

It will happen if engineers deliberately design those capabilities in.

‫‫זה יקרה אם המהנדסים יעצבו ‫‫במכוון את היכולות הללו.‬‬

And if they don't take enough efforts to deliberately design them out.

‫‫ואם הם לא ישתדלו מספיק‬‬ להוציא אותן מהתכנון.‬‬

‫‫ומכאן החשיבות של בהירות והשקיפות

And so this is the point of being explicit

and transparent about trying to introduce safety by design very early on.

כשמשלבים בטיחות‬‬ מתוכננת בשלב מוקדם מאוד.‬‬

כ"‫‫א: תודה לך, החזון שלך,‬‬

CA: Thank you, your vision of humanity injecting into this new thing

לפיו האנושות מזריקה לתוך הדבר החדש הזה‬‬

the best parts of ourselves,

‫‫את החלקים הטובים ביותר של עצמנו,‬‬

avoiding all those weird, biological, freaky,

‫‫תוך הימנעות מכל הנטיות המוזרות, הביולוגיות, המשונות ‫‫והנוראיות

horrible tendencies that we can have in certain circumstances,

שעלולות להיות לנו בנסיבות מסוימות,‬‬

I mean, that is a very inspiring vision.

זהו חזון מעורר-השראה מאוד.‬‬

And thank you so much for coming here and sharing it at TED.

‫‫ותודה רבה שהגעת הנה ושיתפת‬‬ ‫‫את זה ב-TED.‬‬

Thank you, good luck.

‫‫תודה, בהצלחה.‬‬ -תודה רבה.

(Applause)

‫‫(מחיאות כפיים)‬‬