Damon Horowitz calls for a "moral operating system"

מתרגם: Yubal Masalker מבקר: Ido Dekkers

Power.

כח.

That is the word that comes to mind.

זו המילה שעולה בדעתנו.

We're the new technologists.

אנחנו הטכנולוגים החדשים.

We have a lot of data, so we have a lot of power.

יש לנו המון נתונים, לכן יש לנו המון כח.

How much power do we have?

כמה כח יש לנו?

Scene from a movie: "Apocalypse Now" -- great movie.

קטע מסרט: "אפוקליפסה עכשיו" -- סרט נהדר.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

אנו חייבים להעביר את גיבורנו, קפטן וילארד, אל מוצא נהר ה"נונג"

so he can go pursue Colonel Kurtz.

כדי שיוכל לרדוף אחר קולונל קורץ.

The way we're going to do this is fly him in and drop him off.

אנו נעשה זאת בדרך של הטסתו לשם והשלכתו.

So the scene:

זה הקטע:

the sky is filled with this fleet of helicopters carrying him in.

השמיים מלאים בצי של מסוקים הנושא אותו.

And there's this loud, thrilling music in the background,

ויש את המוסיקה הרועשת והמפחידה ברקע,

this wild music.

מוזיקה פראית זו.

♫ Dum da ta da dum ♫

♫ דאם דא טא דא דאם ♫

♫ Dum da ta da dum ♫

♫ דאם דא טא דא דאם ♫

♫ Da ta da da ♫

♫ דאם טא דא דא ♫

That's a lot of power.

זו המון עוצמה.

That's the kind of power I feel in this room.

זו העוצמה שאני מרגיש באולם זה.

That's the kind of power we have

זה סוג העוצמה שיש לנו

because of all of the data that we have.

בגלל כל הנתונים שיש לנו.

Let's take an example.

הבה ניקח דוגמא אחת.

What can we do

מה אנו יכולים לעשות

with just one person's data?

רק עם נתונים של אדם אחד?

What can we do

מה אנו יכולים לעשות

with that guy's data?

עם נתונים של אותו אדם?

I can look at your financial records.

אני יכול להסתכל בנתונים הכספיים שלך.

I can tell if you pay your bills on time.

אני יכול לומר אם אתה משלם חשבונות בזמן.

I know if you're good to give a loan to.

אני יודע אם אתה טוב בשביל לתת לך הלוואה.

I can look at your medical records; I can see if your pump is still pumping --

אני יכול להסתכל בתיק הרפואי שלך, אני יכול לראות אם המשאבה שלך עדיין פועמת --

see if you're good to offer insurance to.

ולראות אם כדאי להציע לך ביטוח.

I can look at your clicking patterns.

אני יכול להסתכל לתוך דפוסי ההקשות שלך.

When you come to my website, I actually know what you're going to do already

כאשר אתה מגיע לאתר שלי, אני כבר יודע מה אתה הולך לעשות,

because I've seen you visit millions of websites before.

כי ראיתי אותך כבר מבקר מיליוני אתרים.

And I'm sorry to tell you,

ואני מצטער לומר לך,

you're like a poker player, you have a tell.

שאתה כמו שחקן פוקר, מופיעים עליך סימנים.

I can tell with data analysis what you're going to do

מניתוח הנתונים אני יכול לומר מה אתה הולך לעשות

before you even do it.

לפני שאתה עצמך אפילו עושה.

I know what you like. I know who you are,

אני יודע מה אתה אוהב. אני יודע מי אתה.

and that's even before I look at your mail

וזה אפילו לפני שראיתי את הדואר שלך

or your phone.

או את הטלפון שלך.

Those are the kinds of things we can do

אלה מסוג הדברים שאנו יכולים לעשות

with the data that we have.

בעזרת הנתונים שיש לנו.

But I'm not actually here to talk about what we can do.

אבל בעצם אני לא נמצא כאן כדי לדבר מה אנו יכולים לעשות.

I'm here to talk about what we should do.

אני כאן כדי לדבר מה אנו צריכים לעשות.

What's the right thing to do?

מהו הדבר הנכון לעשותו?

Now I see some puzzled looks

אני מבחין בכמה מבטים משתאים

like, "Why are you asking us what's the right thing to do?

כאילו, "מדוע אתה שואל אותנו מהו הדבר הנכון לעשות?

We're just building this stuff. Somebody else is using it."

אנו רק בונים את הדברים. מישהו אחר משתמש בזה."

Fair enough.

זה די נכון.

But it brings me back.

אבל זה מחזיר אותי אחורה.

I think about World War II --

אני חושב על מלחמת העולם השניה --

some of our great technologists then,

כמה מאנשי הטכנולוגיה הגדולים שלנו אז,

some of our great physicists,

כמה מהפיזיקאים הגדולים שלנו,

studying nuclear fission and fusion --

שחקרו ביקוע והיתוך גרעיניים --

just nuclear stuff.

פשוט דברים גרעיניים.

We gather together these physicists in Los Alamos

אספנו ביחד פיזיקאים אלו בלוס אלמוס

to see what they'll build.

כדי לראות מה הם יוכלו לבנות.

We want the people building the technology

אנו רוצים שאנשים ייצרו טכנולוגיה

thinking about what we should be doing with the technology.

בחושבנו על מה שאנו צריכים לעשות עם הטכנולוגיה.

So what should we be doing with that guy's data?

אז מה עלינו לעשות עם הנתונים של אותו אדם?

Should we be collecting it, gathering it,

האם עלינו להמשיך לאסוף אותם,

so we can make his online experience better?

כדי שנוכל לשפר את חוויית האינטרנט שלו?

So we can make money?

כדי שנוכל לעשות כסף?

So we can protect ourselves

כדי להגן על עצמנו

if he was up to no good?

אם הוא עושה בעיות?

Or should we respect his privacy,

או שעלינו לכבד את פרטיותו,

protect his dignity and leave him alone?

לשמור על כבודו ולעזוב אותו לנפשו?

Which one is it?

מהו הדבר הנכון?

How should we figure it out?

כיצד נוכל לדעת זאת?

I know: crowdsource. Let's crowdsource this.

אני יודע: הבה נעשה לזה מיקור-קהל.

So to get people warmed up,

לכן בתור תרגיל-חימום לקהל,

let's start with an easy question --

נתחיל עם שאלה קלה --

something I'm sure everybody here has an opinion about:

משהו שאני בטוח שלכל אחד כאן יש דעה עליו:

iPhone versus Android.

אייפון כנגד אנדרואיד.

Let's do a show of hands -- iPhone.

בואו נעשה הצבעה -- אייפון.

Uh huh.

אה הה.

Android.

אנדרואיד.

You'd think with a bunch of smart people

אפשר היה לחשוב שעם חבורת אנשים פיקחים

we wouldn't be such suckers just for the pretty phones.

לא נהיה כאלה פראיירים הנמשכים רק לטלפונים יפים.

(Laughter)

(צחוק)

Next question,

שאלה הבאה,

a little bit harder.

קצת יותר קשה.

Should we be collecting all of that guy's data

האם עלינו לאסוף את כל הנתונים של אותו אדם

to make his experiences better

כדי לשפר את החווייה שלו

and to protect ourselves in case he's up to no good?

וכדי להגן עלינו אם במקרה הוא עושה צרות?

Or should we leave him alone?

או שעלינו לעזבו לנפשו?

Collect his data.

לאסוף את נתוניו.

Leave him alone.

לעזבו לנפשו.

You're safe. It's fine.

אתם מוגנים. זה בסדר גמור.

(Laughter)

(צחוק)

Okay, last question --

טוב, שאלה אחרונה --

harder question --

יותר קשה --

when trying to evaluate

כאשר מנסים להעריך

what we should do in this case,

מה עלינו לעשות במקרה כזה,

should we use a Kantian deontological moral framework,

האם עלינו להשתמש בעקרונות מוסר דיאונטולוגיים של קאנט,

or should we use a Millian consequentialist one?

או שעלינו לעשות שימוש בעקרונות מוסר תוצאתיים של מיל?

Kant.

קאנט.

Mill.

מיל.

Not as many votes.

אין הרבה דעות כמו קודם.

(Laughter)

(צחוק)

Yeah, that's a terrifying result.

זו תוצאה מפחידה.

Terrifying, because we have stronger opinions

מפחידה כי יש לנו דעות יותר מוצקות

about our hand-held devices

על המכשירים הנישאים שלנו

than about the moral framework

מאשר על עקרונות מוסר

we should use to guide our decisions.

שעלינו להשתמש בהם כקוים מנחים להחלטותינו.

How do we know what to do with all the power we have

כיצד נדע מה לעשות עם כל הכח שבידינו

if we don't have a moral framework?

אם אין לנו עקרונות מוסר?

We know more about mobile operating systems,

אנו יודעים יותר על מערכות הפעלה לטלפונים ניידים,

but what we really need is a moral operating system.

אבל מה שאנו באמת זקוקים לו זה מערכת הפעלה למוסר.

What's a moral operating system?

מהי מערכת הפעלה למוסר?

We all know right and wrong, right?

כולנו יודעים מה טוב ומה רע.

You feel good when you do something right,

אנו מרגישים טוב כאשר עושים משהו נכון,

you feel bad when you do something wrong.

אנו מרגישים רע כאשר עושים משהו שגוי.

Our parents teach us that: praise with the good, scold with the bad.

הורינו חינכו אותנו לזה: דברי שבח על משהו טוב, נזיפה על משהו רע.

But how do we figure out what's right and wrong?

אבל כיצד יודעים מה נכון ומה לא?

And from day to day, we have the techniques that we use.

ומיום ליום, יש לנו טכניקות שאנו משתמשים.

Maybe we just follow our gut.

אולי אנו רק פועלים על-פי תחושות בטן.

Maybe we take a vote -- we crowdsource.

אולי אנו עושים הצבעה -- מיקור-קהל.

Or maybe we punt --

או אולי מהמרים --

ask the legal department, see what they say.

שואלים את המחלקה למשפטים ומחכים לחוות דעתה.

In other words, it's kind of random,

במילים אחרות, זה הכל אקראי,

kind of ad hoc,

מין אילתור,

how we figure out what we should do.

איך שאנו מגלים מה עלינו לעשות.

And maybe, if we want to be on surer footing,

ואולי, אם ברצוננו להיות יותר בטוחים,

what we really want is a moral framework that will help guide us there,

מה שאנו באמת צריכים זה עקרונות מוסר שיסייעו לנו להגיע לזה,

that will tell us what kinds of things are right and wrong in the first place,

שיגידו לנו מלכתחילה מהם הדברים הנכונים ומהם הלא נכונים,

and how would we know in a given situation what to do.

וכיצד נדע במצב נתון מה לעשות.

So let's get a moral framework.

אז הבה נבנה עקרונות מוסר.

We're numbers people, living by numbers.

אנו אנשי המספרים, חיים על-פי מספרים.

How can we use numbers

כיצד נוכל להשתמש במספרים

as the basis for a moral framework?

כבסיס לעקרונות מוסר?

I know a guy who did exactly that.

אני מכיר מישהו שעשה בדיוק זאת,

A brilliant guy --

אדם מבריק --

he's been dead 2,500 years.

הוא מת לפני 2,500 שנה.

Plato, that's right.

אפלטון, הוא בדיוק.

Remember him -- old philosopher?

זוכרים אותו -- פילוסוף זקן?

You were sleeping during that class.

בטח ישנתם באותו שיעור.

And Plato, he had a lot of the same concerns that we did.

ואפלטון, היו לו אותן הדאגות שיש לנו.

He was worried about right and wrong.

הוא היה מודאג בקשר לטוב ורע.

He wanted to know what is just.

הוא רצה לדעת מה צודק.

But he was worried that all we seem to be doing

אבל הוא היה מודאג שכל מה שאנו עושים

is trading opinions about this.

זה החלפת דעות על כך.

He says something's just. She says something else is just.

הוא אומר שמשהו צודק. היא אומרת שמשהו אחר צודק.

It's kind of convincing when he talks and when she talks too.

זה די משכנע כאשר הוא מדבר וגם כאשר היא מדברת.

I'm just going back and forth; I'm not getting anywhere.

אבל אנו הולכים רק קדימה ואחורה; אנו לא מגיעים לשום מקום.

I don't want opinions; I want knowledge.

אני לא רוצה דעות, אני רוצה ידע.

I want to know the truth about justice --

ברצוני לדעת את האמת על צדק --

like we have truths in math.

כמו שיש לנו אמיתות במתמטיקה.

In math, we know the objective facts.

במתמטיקה אנו יודעים עובדות אובייקטיביות.

Take a number, any number -- two.

קחו מספר, כל מספר -- 2.

Favorite number. I love that number.

מספר אהוב עליי. אני מת עליו.

There are truths about two.

ישנן אמיתות על 2.

If you've got two of something,

אם יש לנו 2 דברים,

you add two more, you get four.

ומוסיפים להם 2 נוספים, מקבלים 4.

That's true no matter what thing you're talking about.

זה תמיד נכון, לא משנה על איזה דברים מדובר.

It's an objective truth about the form of two,

זוהי אמת אובייקטיבית על אופיו של 2,

the abstract form.

האופי המופשט.

When you have two of anything -- two eyes, two ears, two noses,

יש לנו 2 מכל דבר -- 2 עיניים, 2 אוזניים, 2 אפים,

just two protrusions --

פשוט 2 בליטות --

those all partake of the form of two.

כולם מאופיינים ב-2.

They all participate in the truths that two has.

כולם משתתפים באמיתות שיש ב-2.

They all have two-ness in them.

לכולם מהם יש 2-יות בתוכם.

And therefore, it's not a matter of opinion.

ולכן, זה לא עניין של דעה.

What if, Plato thought,

ומה אם, אפלטון היה חושב

ethics was like math?

שאתיקה זה כמו מתמטיקה?

What if there were a pure form of justice?

מה אם ישנן צורות טהורות של צדק?

What if there are truths about justice,

מה אם יש אמיתות על צדק,

and you could just look around in this world

ופשוט יכולנו להסתכל מסביב בעולם

and see which things participated,

ולראות איזה דברים משתתפים בזה,

partook of that form of justice?

מאופיינים באותה צורת צדק?

Then you would know what was really just and what wasn't.

אז היינו יודעים מה באמת צודק ומה לא.

It wouldn't be a matter

זה לא היה רק

of just opinion or just appearances.

עניין של דעה או מראה.

That's a stunning vision.

זהו חזון נפלא.

I mean, think about that. How grand. How ambitious.

כלומר, חישבו על כך. כמה אדיר, כמה שאפתני.

That's as ambitious as we are.

זה כמה שאנו שאפתניים.

He wants to solve ethics.

הוא רוצה לפתור אתיקה.

He wants objective truths.

הוא רוצה אמיתות אובייקטיביות.

If you think that way,

אם אתם חושבים בדרך זו,

you have a Platonist moral framework.

יש לכם עקרונות מוסר אפלטוניים.

If you don't think that way,

אם אינכם חושבים בדרך זו,

well, you have a lot of company in the history of Western philosophy,

אתם בחברה מאוד גדולה בהיסטוריה של הפילוסופיה המערבית,

because the tidy idea, you know, people criticized it.

בגלל שהרעיון של הסדר -- נמתחה עליו ביקורת.

Aristotle, in particular, he was not amused.

אריסטו, במיוחד, הוא לא שבע נחת.

He thought it was impractical.

הוא סבר שזה לא מעשי.

Aristotle said, "We should seek only so much precision in each subject

אריסטו אמר, "עלינו לחפש רק את אותו דיוק בכל נושא

as that subject allows."

כפי שאותו נושא מאפשר."

Aristotle thought ethics wasn't a lot like math.

אריסטו סבר שאין האתיקה דומה כל-כך למתמטיקה.

He thought ethics was a matter of making decisions in the here-and-now

הוא סבר שאתיקה זה עניין של לקבל החלטות כאן ועכשיו

using our best judgment

בעזרת מיטב שיקול דעתנו

to find the right path.

כדי למצוא את השביל הנכון.

If you think that, Plato's not your guy.

אם אתם חושבים כך, אפלטון הוא לא האיש שלכם.

But don't give up.

אבל לא להתייאש.

Maybe there's another way

אולי יש דרך נוספת

that we can use numbers as the basis of our moral framework.

שבה נוכל להשתמש במספרים כבסיס לעקרונות מוסר.

How about this:

מה דעתכם על זה:

What if in any situation you could just calculate,

מה אם היינו יכולים פשוט לחשב כל מצב,

look at the choices,

לראות את האפשרויות,

measure out which one's better and know what to do?

לאמוד איזו יותר טובה וכך לדעת מה לעשות?

That sound familiar?

נשמע מוכר?

That's a utilitarian moral framework.

אלה הם עקרונות מוסר תועלתניים.

John Stuart Mill was a great advocate of this --

ג'ון סטיוארט מיל היה חסיד גדול שלהן --

nice guy besides --

חוץ מזה אדם נחמד --

and only been dead 200 years.

רק מת כבר 200 שנה.

So basis of utilitarianism --

כך שבסיס של תועלתנות --

I'm sure you're familiar at least.

אני בטוח שלפחות שמעתם על זה.

The three people who voted for Mill before are familiar with this.

שלושת האנשים שהצביעו קודם בעד מיל בטח מכירים זאת.

But here's the way it works.

וכך זה עובד.

What if morals, what if what makes something moral

מה אם התשובה לשאלה אם משהו מוסרי,

is just a matter of if it maximizes pleasure

היא רק עניין של אם זה ממקסם הנאה

and minimizes pain?

ומצמצם כאב?

It does something intrinsic to the act.

זה עושה משהו מהותי ופנימי לפעולה.

It's not like its relation to some abstract form.

זה לא כמו הקשר שלו לאיזו צורה מופשטת.

It's just a matter of the consequences.

זה פשוט עניין של תוצאות.

You just look at the consequences

פשוט מסתכלים על התוצאות

and see if, overall, it's for the good or for the worse.

ורואים, אם זה לטובה או לרעה.

That would be simple. Then we know what to do.

זה יהיה פשוט. ואז נדע מה לעשות.

Let's take an example.

ניקח מקרה לדוגמא.

Suppose I go up

נניח שאני בא ואומר,

and I say, "I'm going to take your phone."

"אני הולך לקחת את הנייד שלך."

Not just because it rang earlier,

לא רק בגלל שהוא צילצל קודם,

but I'm going to take it because I made a little calculation.

אלא כי עשיתי חישוב קטן.

I thought, that guy looks suspicious.

חשבתי שהאדם שם נראה חשוד.

And what if he's been sending little messages to Bin Laden's hideout --

ומה אם הוא שולח הודעות קצרות אל מחבוא של בין-לאדן --

or whoever took over after Bin Laden --

או מי שבא אחרי בין-לאדן --

and he's actually like a terrorist, a sleeper cell.

הוא בעצם כמו מחבל, תא רדום.

I'm going to find that out, and when I find that out,

אני הולך לגלות זאת, וכאשר אגלה,

I'm going to prevent a huge amount of damage that he could cause.

אמנע נזק גדול מאוד שהוא יכל לגרום.

That has a very high utility to prevent that damage.

לפעולה זו יש תועלת גדולה מאוד של מניעת נזק.

And compared to the little pain that it's going to cause --

ובהשוואה לכאב הקטן שהיא יכולה לגרום --

because it's going to be embarrassing when I'm looking on his phone

מכיוון שהולך להיות מביך כאשר אסתכל על הנייד שלו

and seeing that he has a Farmville problem and that whole bit --

ואמצא שיש לו בעיה במשחק רשת וכל זה --

that's overwhelmed

אבל כל זה מתגמד

by the value of looking at the phone.

מול הערך של להסתכל בנייד שלו.

If you feel that way,

אם גם אתם מרגישים כך,

that's a utilitarian choice.

זוהי בחירה תועלתנית.

But maybe you don't feel that way either.

ואולי אתם לא מרגישים כך.

Maybe you think, it's his phone.

אולי אתם חושבים, זה הנייד שלו.

It's wrong to take his phone

זה לא בסדר לקחת את הנייד שלו,

because he's a person

מכיוון שהוא אדם

and he has rights and he has dignity,

ויש לו זכויות ויש לו כבוד-עצמי,

and we can't just interfere with that.

ואל לנו סתם כך לתחוב את אפינו.

He has autonomy.

יש לו אוטונומיה.

It doesn't matter what the calculations are.

זה לא משנה מה השיקולים.

There are things that are intrinsically wrong --

יש דברים שהם באופן מהותי ופנימי עוול --

like lying is wrong,

כמו שלשקר זה רע,

like torturing innocent children is wrong.

כמו שלענות ילדים תמימים זה רע.

Kant was very good on this point,

קאנט מאוד צדק בעניין זה,

and he said it a little better than I'll say it.

והוא ביטא את זה יותר טוב ממני.

He said we should use our reason

הוא אמר שעלינו להשתמש בשכל שלנו

to figure out the rules by which we should guide our conduct,

כדי לגלות את הכללים שעלינו להתנהג לפיהם.

and then it is our duty to follow those rules.

ואז זו חובתנו לציית לכללים אלה.

It's not a matter of calculation.

אין זה עניין של חישובים.

So let's stop.

אז הבה נעצור.

We're right in the thick of it, this philosophical thicket.

אנחנו ממש בסבך העניינים, בסבך הפילוסופי הזה.

And this goes on for thousands of years,

וזה נמשך כבר אלפי שנים,

because these are hard questions,

מכיוון שאלו הן שאלות קשות,

and I've only got 15 minutes.

ולי יש רק 15 דקות.

So let's cut to the chase.

לכן נגיע לעיקר.

How should we be making our decisions?

כיצד עלינו לקבל החלטות?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

האם זה אפלטון, האם זה אריסטו, האם זה קאנט, או אולי מיל?

What should we be doing? What's the answer?

מה עלינו לעשות? מה התשובה?

What's the formula that we can use in any situation

מהי הנוסחה שעלינו להשתמש בה בכל מצב

to determine what we should do,

כדי לקבוע מה עלינו לעשות,

whether we should use that guy's data or not?

באם עלינו להשתמש בנתוני אותו אדם או לא?

What's the formula?

מהי הנוסחה?

There's not a formula.

אין נוסחה.

There's not a simple answer.

אין תשובה פשוטה.

Ethics is hard.

אתיקה זה דבר מסובך.

Ethics requires thinking.

אתיקה דורשת חשיבה.

And that's uncomfortable.

וזה לא נוח.

I know; I spent a lot of my career

ביליתי חלק גדול מהקריירה שלי

in artificial intelligence,

בבינה מלאכותית,

trying to build machines that could do some of this thinking for us,

בניסיון לבנות מכונות שתוכלנה לחשוב במקומנו,

that could give us answers.

שתוכלנה לתת לנו תשובות.

But they can't.

אבל הן לא יכולות.

You can't just take human thinking

אי-אפשר פשוט לקחת חשיבה אנושית

and put it into a machine.

ולשים אותה במכונה.

We're the ones who have to do it.

אנחנו אלה שנצטרך לעשות זאת.

Happily, we're not machines, and we can do it.

לשמחתנו, אנו לא מכונות ואנו יכולים לעשות זאת.

Not only can we think,

לא רק שאנו יכולים לחשוב,

we must.

אלא אנו חייבים.

Hannah Arendt said,

חנה ארדנט אמרה,

"The sad truth

"האמת העצובה היא

is that most evil done in this world

שרוב הרע שנעשה בעולם זה,

is not done by people

אינו נעשה על-ידי אנשים

who choose to be evil.

אשר בוחרים לעשות רע.

It arises from not thinking."

אלא הוא נובע מחוסר חשיבה."

That's what she called the "banality of evil."

לזה היא קראה "הבנליות של רוע".

And the response to that

וכמענה לזה,

is that we demand the exercise of thinking

אנו דורשים את תירגול החשיבה

from every sane person.

מכל אדם שפוי.

So let's do that. Let's think.

אז הבה נעשה זאת, הבה נחשוב.

In fact, let's start right now.

בעצם, בואו נתחיל כבר עכשיו.

Every person in this room do this:

שכל אחד באולם יעשה את זה:

think of the last time you had a decision to make

שיחשוב על הפעם האחרונה שהיה עליו לקבל החלטה

where you were worried to do the right thing,

כאשר דאגת בקשר לעשיית הדבר הנכון,

where you wondered, "What should I be doing?"

כאשר תהית, "מה אני אמור לעשות?"

Bring that to mind,

תיזכרו בזה.

and now reflect on that

וכעת תהרהרו בזה

and say, "How did I come up that decision?

ותאמרו, "כיצד הגעתי להחלטה זו?

What did I do? Did I follow my gut?

מה עשיתי? האם פעלתי לפי תחושותיי?

Did I have somebody vote on it? Or did I punt to legal?"

האם היה לי מישהו שיביע את דעתו? או שפניתי לחוק?"

Or now we have a few more choices.

או כעת שיש לנו יותר אפשרויות:

"Did I evaluate what would be the highest pleasure

"האם בדקתי מתי תהיה ההנאה הגדולה ביותר

like Mill would?

כמו שמיל היה עושה?

Or like Kant, did I use reason to figure out what was intrinsically right?"

או כמו קאנט, האם השתמשתי בשכל כדי למצוא מה היה נכון מהותית ופנימית?"

Think about it. Really bring it to mind. This is important.

תחשבו על זה. באמת תביאו את עצמכם לחשוב. זה חשוב.

It is so important

זה כל-כך חשוב

we are going to spend 30 seconds of valuable TEDTalk time

שאנו עומדם להעביר 30 שניות מהזמן היקר של הרצאת TED

doing nothing but thinking about this.

כדי לא לעשות כלום אלא לחשוב על זה.

Are you ready? Go.

האם אתם מוכנים? תתחילו.

Stop. Good work.

עיצרו. עבודה טובה.

What you just did,

מה שעשיתם כרגע,

that's the first step towards taking responsibility

היה הצעד הראשון אל עבר לקיחת אחריות

for what we should do with all of our power.

על מה שאנו צריכים לעשות עם כל הכח שבידינו.

Now the next step -- try this.

כעת לצעד הבא -- נסו את זה.

Go find a friend and explain to them

תמצאו חבר והסבירו לו

how you made that decision.

כיצד הגעתם להחלטה.

Not right now. Wait till I finish talking.

לא מייד. חכו עד שאסיים לדבר.

Do it over lunch.

תעשו זאת בזמן ארוחה.

And don't just find another technologist friend;

ואל תמצאו רק עוד חבר טכנולוגי;

find somebody different than you.

תמצאו מישהו שונה מכם.

Find an artist or a writer --

תמצאו אמן או סופר --

or, heaven forbid, find a philosopher and talk to them.

או, חס וחלילה, תמצאו פילוסוף ותשוחחו עימם.

In fact, find somebody from the humanities.

בעצם, תמצאו מישהו ממדעי הרוח.

Why? Because they think about problems

למה? מכיוון שהם חושבים על בעיות

differently than we do as technologists.

באופן שונה מאיתנו הטכנולוגים.

Just a few days ago, right across the street from here,

רק לפני מספר ימים, ממש מעבר לכביש כאן,

there was hundreds of people gathered together.

היו מאות אנשים שנאספו.

It was technologists and humanists

היו אלה טכנולוגים ואנשי מדעי הרוח

at that big BiblioTech Conference.

בכנס BiblioTech הגדול.

And they gathered together

הם נאספו ביחד

because the technologists wanted to learn

כי הטכנולוגים רצו ללמוד

what it would be like to think from a humanities perspective.

איך זה יהיה לחשוב מנקודת מבט של מדעי הרוח.

You have someone from Google

היה שם מישהו מגוגל

talking to someone who does comparative literature.

ששוחח עם מישהו שעוסק בספרות השוואתית.

You're thinking about the relevance of 17th century French theater --

אתם שואלים את עצמכם על ההשפעה של תאטרון צרפתי מן המאה ה-17 --

how does that bear upon venture capital?

כיצד הוא קשור להון-סיכון?

Well that's interesting. That's a different way of thinking.

כל זה מעניין. זוהי דרך חשיבה אחרת.

And when you think in that way,

וכאשר חושבים בדרך זו,

you become more sensitive to the human considerations,

אנו הופכים ליותר רגישים לשיקולים אנושיים,

which are crucial to making ethical decisions.

שהם המפתח לקבלת החלטות אתיות.

So imagine that right now

אז דמיינו שממש עכשיו

you went and you found your musician friend.

נתקלתם בחברכם המוזיקאי.

And you're telling him what we're talking about,

ואתם מספרים לו על מה שאנו מדברים עכשיו,

about our whole data revolution and all this --

על מהפכת הנתונים וכל זה --

maybe even hum a few bars of our theme music.

אולי אפילו תזמזמו כמה תווים ממוזיקת הנושא שלנו.

♫ Dum ta da da dum dum ta da da dum ♫

♫ דאם טא דא דא דאם דאם טא דא דא דאם ♫

Well, your musician friend will stop you and say,

החבר המוזיקאי שלכם יקטע אתכם ויאמר,

"You know, the theme music

"אתה יודע, מוזיקה זו

for your data revolution,

שקשורה למהפכת הנתונים שלך,

that's an opera, that's Wagner.

היא אופרה, זהו ואגנר.

It's based on Norse legend.

היא מבוססת על אגדה נורבגית.

It's Gods and mythical creatures

אלה הם אלים ויצורים מיתולוגיים

fighting over magical jewelry."

הנלחמים על אבני חן קסומות."

That's interesting.

זה מעניין.

Now it's also a beautiful opera,

אז עכשיו זו גם אופרה יפה.

and we're moved by that opera.

וזה נוגע לליבנו, אותה אופרה.

We're moved because it's about the battle

היא נוגעת לליבנו כי היא על הקרב

between good and evil,

בין טוב לרע,

about right and wrong.

על מה נכון ומה לא נכון.

And we care about right and wrong.

ולנו אכפת מה נכון ומה לא.

We care what happens in that opera.

אכפת לנו מה קורה באותה אופרה.

We care what happens in "Apocalypse Now."

אכפת לנו מה קורה ב"אפוקליפסה עכשיו".

And we certainly care

ובטוח אכפת לנו

what happens with our technologies.

מה קורה עם הטכנולוגיות שלנו.

We have so much power today,

יש לנו המון כח היום,

it is up to us to figure out what to do,

ומוטל עלינו לגלות מה עלינו לעשות.

and that's the good news.

ואלה חדשות טובות.

We're the ones writing this opera.

אנחנו הם אלה שכותבים את האופרה.

This is our movie.

זה הסרט שלנו.

We figure out what will happen with this technology.

אנחנו מגלים מה יקרה עם הטכנולוגיה הזו.

We determine how this will all end.

אנחנו קובעים כיצד כל זה יסתיים.

Thank you.

תודה לכם.

(Applause)

(מחיאות כפיים)