Damon Horowitz calls for a "moral operating system"

دیمن هورویتز به دنبال «سیستم عامل اخلاق-مدار» است.

Translator: Safoora Yousefi Reviewer: soheila Jafari

Power.

قدرت.

That is the word that comes to mind.

این کلمهء است به ذهن خطور می‌کنه.

We're the new technologists.

ما فن‌آورانِ مدرن هستیم.

We have a lot of data, so we have a lot of power.

داده‌های زیادی داریم، پس قدرت زیادی داریم.

How much power do we have?

ما چه قدر قدرت داریم؟

Scene from a movie: "Apocalypse Now" -- great movie.

صحنه‌ای از یک فیلم: «اینک آخرالزمان»-- فیلم فوق‌العاده‌ایه.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

باید قهرمان‌مون، کاپیتان هیلارد رو به دهانه‌ی رود نانگ برسونیم

so he can go pursue Colonel Kurtz.

تا بتونه کلنل کرتز رو تعقیب کنه.

The way we're going to do this is fly him in and drop him off.

قراره کاپیتان رو از راه هوایی به اون‌جا برسونیم و پایین بندازیمش.

So the scene:

صحنه این طوریه:

the sky is filled with this fleet of helicopters carrying him in.

آسمان مملوء از هلیکوپترهایی که او رو حمل می‌کنن.

And there's this loud, thrilling music in the background,

و موسیقی بلند و شورانگیزی در پس‌زمینه وجود داره.

this wild music.

یک موسیقی طوفانی:

♫ Dum da ta da dum ♫

♫دام دا تا دا دام♫

♫ Dum da ta da dum ♫

♫دام دا تا دا دام♫

♫ Da ta da da ♫

♫دا تا دا دا♫

That's a lot of power.

یک عالم قدرت.

That's the kind of power I feel in this room.

این همون قدرتیه که من در این سالن احساس می‌کنم.

That's the kind of power we have

این قدرتیه که ما داریم

because of all of the data that we have.

به خاطر همه‌ی داده‌هایی که داریم.

Let's take an example.

بذارید یک مثال بزنم.

What can we do

با اطلاعاتِ تنها یک فرد

with just one person's data?

چه کارهایی می‌تونیم بکنیم؟

What can we do

با اطلاعات اون آقا

with that guy's data?

چه کار می‌تونیم بکنیم؟

I can look at your financial records.

می‌تونم به سوابق مالی‌ت نگاه کنم.

I can tell if you pay your bills on time.

اون‌وقت می‌فهمم که قبض‌هاتو به موقع پرداخت می‌کنی یا نه.

I know if you're good to give a loan to.

می‌فهمم شخص مناسبی برای وام دادن هستی یا نه.

I can look at your medical records; I can see if your pump is still pumping --

می‌تونم به سوابق پزشکی‌ت نگاه کنم، اون‌وقت می‌فهمم قلبِ‌ت هنوز می‌تپه یا نه--

see if you're good to offer insurance to.

می‌فهمم پیش‌نهاد بیمه به تو دادن کار مناسبیه یا نه.

I can look at your clicking patterns.

می‌تونم به الگوی کلیک کردنِ‌ت نگاه کنم.

When you come to my website, I actually know what you're going to do already

وقتی به وب‌سایتَ‌م میای، می‌دونم که قصدِ چه کاری رو داری،

because I've seen you visit millions of websites before.

چون می‌دونم میلیون‌ها وب سایتی که قبلا" سرزدی چه سایت‌هایی بودن.

And I'm sorry to tell you,

و متأسفم که اینو می‌گم،

you're like a poker player, you have a tell.

تو مثل یه بازی‌کنِ پوکری.

I can tell with data analysis what you're going to do

من با تحلیل داده‌ها می‌تونم قبل از این که کاری رو انجام بدی،

before you even do it.

پیش‌بینی کنم که می‌خوای انجامش بدی.

I know what you like. I know who you are,

می‌دونم چی دوست داری. می‌دونم کی هستی.

and that's even before I look at your mail

و تازه اینا قبل از دیدن ایمیل‌ها

or your phone.

یا تلفنِته.

Those are the kinds of things we can do

این‌ها کارایی هستن که ما می‌تونیم با

with the data that we have.

داده‌هایی که داریم انجام بدیم.

But I'm not actually here to talk about what we can do.

ولی من این‌جا نیومدم که درباره‌ی کارهایی که می‌تونیم انجام بدیم صحبت کنم.

I'm here to talk about what we should do.

اومدم تا درباره‌ی کاری که باید بکنیم صحبت کنیم.

What's the right thing to do?

کارِ درست چیه؟

Now I see some puzzled looks

می‌بینم که نگاه‌هاتون متحیره، انگار دارید می‌گید:

like, "Why are you asking us what's the right thing to do?

«چرا از ما می‌پرسی کار درست چیه؟

We're just building this stuff. Somebody else is using it."

ما صرفا" سیستم رو می‌سازیم، یه نفر دیگه داره ازش استفاده می‌کنه.»

Fair enough.

منطقیه.

But it brings me back.

ولی این منو برمی‌گردونه به گذشته.

I think about World War II --

به جنگ جهانی دوم فکر می‌کنم.

some of our great technologists then,

بعضی از فن‌آوران ما در اون زمان،

some of our great physicists,

بعضی از فیزیکدان‌هامون،

studying nuclear fission and fusion --

که درباره‌ء شکافت و همجوشی هسته‌ای مطالعه می‌کردند --

just nuclear stuff.

همون مسائل هسته‌ای.

We gather together these physicists in Los Alamos

ما این فیزیکدان‌ها رو در لوس آلاموس دور هم جمع می‌کنیم

to see what they'll build.

تا ببینیم چه چیزی خواهند ساخت.

We want the people building the technology

ما از سازنده‌گان تکنولوژی انتظار داریم

thinking about what we should be doing with the technology.

به این که با این تکنولوژی چه کار باید کرد فکر کنند.

So what should we be doing with that guy's data?

خوب حالا ما با اطلاعات اون شخص چه کار باید بکنیم؟

Should we be collecting it, gathering it,

باید جمعشون کنیم تا بتونیم

so we can make his online experience better?

تجربه‌ء آنلاینِ او رو بهبود ببخشیم؟

So we can make money?

تا پول بیش‌تری به دست بیاریم؟

So we can protect ourselves

تا اگه او خیالاتِ بدی داشت

if he was up to no good?

بهتر بتونیم از خودمون محافظت کنیم؟

Or should we respect his privacy,

یا این که به حریم خصوصی‌ش احترام بذاریم،

protect his dignity and leave him alone?

شأنِ‌ش رو حفظ کنیم و راحتش بذاریم؟

Which one is it?

کدومش درسته؟

How should we figure it out?

از کجا بفهمیم؟

I know: crowdsource. Let's crowdsource this.

من می‌گم رأی‌گیری کنیم.

So to get people warmed up,

اول بذارید برای دستگرمی،

let's start with an easy question --

با یه سوال آسون شروع کنیم--

something I'm sure everybody here has an opinion about:

یه چیزی که مطمئنم همه یه نظری درباره‌ش دارن:

iPhone versus Android.

آی-فون در مقابل اندروید.

Let's do a show of hands -- iPhone.

دست‌هاتونو بالا ببرید. آی-فون.

Uh huh.

آ-اوه.

Android.

اندروید.

You'd think with a bunch of smart people

آدم از افراد باذکاوتی مثل شما انتظار داره

we wouldn't be such suckers just for the pretty phones.

ولعِ گوشی‌های صرفا" خوشگل رو نداشته‌باشن!

(Laughter)

(خنده‌ی حضار)

Next question,

سوال بعدی،

a little bit harder.

یه کم سخت تره.

Should we be collecting all of that guy's data

آیا ما باید همه‌ی داده‌های مربوط به اون شخص رو جمع کنیم

to make his experiences better

تا تجربه‌ش رو بهبود ببخشیم

and to protect ourselves in case he's up to no good?

و در صورتی که او خیالاتِ بدی داره از خودمون محافظت کنیم؟

Or should we leave him alone?

یا باید راحتش بذاریم؟

Collect his data.

اطلاعاتِ‌ش رو جمع کنیم.

Leave him alone.

راحتش بذاریم.

You're safe. It's fine.

کاری‌تون ندارم! نتایج خوب بود.

(Laughter)

(خنده)

Okay, last question --

خوب، سوال آخر--

harder question --

سوال سخت‌ تریه.

when trying to evaluate

وقتی می‌خوایم گزینه‌هامونو درباره‌ی سوال قبلی

what we should do in this case,

ارزیابی کنیم،

should we use a Kantian deontological moral framework,

آیا باید از چهارچوب اخلاقیِ وظیفه‌گرایانه‌ی کانت استفاده کنیم،

or should we use a Millian consequentialist one?

یا از چهارچوب نتیجه‌گرایانه‌ی میل؟

Kant.

کانت.

Mill.

میل.

Not as many votes.

چندان نظری ندارید.

(Laughter)

(خنده‌ی حضار)

Yeah, that's a terrifying result.

بله، این نتیجه وحشت‌ناکه.

Terrifying, because we have stronger opinions

وحشت‌ناکه، چون دیدگاه‌هامون درباره‌ی

about our hand-held devices

دست‌گاه‌هامون بیش‌تر شکل گرفته

than about the moral framework

تا درباره‌ی چهارچوب اخلاقی‌‌ای که

we should use to guide our decisions.

تصمی‌گیری‌هامونو هدایت می‌کنه.

How do we know what to do with all the power we have

اگه چهارچوب اخلاقی مشخصی نداشته‌باشیم

if we don't have a moral framework?

از کجا بفهمیم که از قدرتِ‌مون چه طور استفاده کنیم؟

We know more about mobile operating systems,

ما درباره‌ی سیستم عامل‌های موبایل بیش‌تر می‌دونیم،

but what we really need is a moral operating system.

ولی چیزی که واقعن به‌ش نیاز داریم یک سیستم عامل اخلاق-مداره.

What's a moral operating system?

سیستم عامل اخلاق-مدار چیه؟

We all know right and wrong, right?

ما همه خوب و بد رو می‌شناسیم. درست.

You feel good when you do something right,

وقتی کار خوبی می‌کنیم حس خوبی داریم،

you feel bad when you do something wrong.

و وقتی کار بدی می‌کنیم حس بدی داریم.

Our parents teach us that: praise with the good, scold with the bad.

پدر و مادرهامون این رو به‌مون یاد می‌دن: تحسین به خاطر کار خوب و سرزنش به خاطر کار بد.

But how do we figure out what's right and wrong?

ولی از کجا بفهمیم چی خوبه و چی بد؟

And from day to day, we have the techniques that we use.

در زنده‌گی روزمره این تکنیک‌ها رو استفاده می‌کنیم:

Maybe we just follow our gut.

گاهی به حسّ‌مون تکیه می‌کنیم.

Maybe we take a vote -- we crowdsource.

گاهی رأی‌گیری می‌کنیم.

Or maybe we punt --

یا شاید به مراجع قانونی

ask the legal department, see what they say.

مراجعه کنیم و ببینیم چی می‌گن.

In other words, it's kind of random,

به عبارت دیگه، روش ما برای پیدا کردنِ

kind of ad hoc,

کاری که باید بکنیم، به نوعی تصادفی

how we figure out what we should do.

یا وابسته به شرایطه.

And maybe, if we want to be on surer footing,

یا شاید، اگه بخوایم خیالِ‌مون راحت‌تر باشه،

what we really want is a moral framework that will help guide us there,

واقعا" به یک چهارچوب اخلاقی نیاز داریم که راهنمایی‌مون کنه،

that will tell us what kinds of things are right and wrong in the first place,

و بهمون بگه که در درجه‌ء اول چه چیزهای درست و غلط هستند،

and how would we know in a given situation what to do.

و از کجا بفهمیم که در یک وضعیت خاص چی کار کنیم.

So let's get a moral framework.

پس بیاید یک چهارچوب اخلاقی پیدا کنیم.

We're numbers people, living by numbers.

ما آدم‌های عددی هستیم، با اعداد زندگی می‌کنیم.

How can we use numbers

حالا چه طور به عنوان اساس چهارچوب اخلاقی‌مون

as the basis for a moral framework?

از اعداد استفاده‌ کنیم؟

I know a guy who did exactly that.

من کسی رو می‌شناسم که دقیقا" این کار رو کرد،

A brilliant guy --

واقعا" مرد باهوشی بود.

he's been dead 2,500 years.

او 2500 ساله که مرده.

Plato, that's right.

پلاتو، درسته.

Remember him -- old philosopher?

اونو به یاد میارید؟ فیلسوفِ پیر؟

You were sleeping during that class.

سر اون کلاس خوابیده‌بودید.

And Plato, he had a lot of the same concerns that we did.

و پلاتو، دغدغه‌هایی داشت که دغدغه‌های ما هم بودند.

He was worried about right and wrong.

او دغدغه‌ی درست و غلط رو داشت.

He wanted to know what is just.

می‌خواست بدونه عدالت چیه.

But he was worried that all we seem to be doing

اما نگرانی او این بود که به نظر می‌رسه

is trading opinions about this.

ما داریم نظراتِ مون رو در این زمینه معامله می‌کنیم.

He says something's just. She says something else is just.

یه نفر می‌گه این کار عادلانه‌ست، دیگری می‌گه یه کار دیگه عادلانه‌ست.

It's kind of convincing when he talks and when she talks too.

و هر دوشون به شکل قانع‌کننده‌ای از خودشون دفاع می‌کنن.

I'm just going back and forth; I'm not getting anywhere.

من فقط عقب و جلو می‌رم و درجا می‌زنم. به جایی نمی‌رسم.

I don't want opinions; I want knowledge.

من نظرات رو نمی‌خوام، من دانش می‌خوام.

I want to know the truth about justice --

من می‌خوام حقیقتِ عدالت رو بدونم--

like we have truths in math.

همون طور که حقایقی در ریاضیات داریم.

In math, we know the objective facts.

در ریاضیات، ما واقعیت‌ها رو می‌دونیم.

Take a number, any number -- two.

یه عدد در نظر بگیرید، هر عددی-- دو.

Favorite number. I love that number.

عدد موردعلاقه‌ی من. عاشقِ این عددم.

There are truths about two.

حقایقی درباره‌ی دو وجود داره.

If you've got two of something,

اگه دو تا از یک چیز داشته‎‌ باشین،

you add two more, you get four.

اگه دو تا دیگه بهش اضافه کنید، چهارتا می‌شه.

That's true no matter what thing you're talking about.

این حقیقته و ربطی به چیزی که داری درباره اس می گویی ندارد.

It's an objective truth about the form of two,

این یک حقیقت درباره‌ی دو است.

the abstract form.

شکل کلیِ دو.

When you have two of anything -- two eyes, two ears, two noses,

وقتی شما دوتا از هرچیزی دارید-- دو چشم، دو گوش، دو بینی،

just two protrusions --

دو تا برآمده‌گی--

those all partake of the form of two.

این‌ها همه در شکل دهی به دو شرکت دارند.

They all participate in the truths that two has.

همه در حقیقتِ دو شرکت دارند.

They all have two-ness in them.

همه‌ی این‌ها، «دو بودن» رو در خودشون دارند.

And therefore, it's not a matter of opinion.

بنابراین، این ربطی به نظرات نداره.

What if, Plato thought,

پلاتو فکر کرد، چی‌ می‌شه اگه

ethics was like math?

اخلاق هم همین طور باشه؟

What if there were a pure form of justice?

چی می‌شه اگه یک شکل مطلق از عدالت وجود داشته‌باشه؟

What if there are truths about justice,

شاید حقایقی درباره‌ی عدالت وجود دارند،

and you could just look around in this world

و ما می‌تونیم به اطرافِ‎ مون نگاه کنیم و

and see which things participated,

بفهمیم چه چیزهایی در این حقایق شرکت دارند،

partook of that form of justice?

و به اون‌ها شکل می‌دهند؟

Then you would know what was really just and what wasn't.

این طوری می‌فهمیدیم که واقعا" چی عادلانه‌ ست و چی نیست.

It wouldn't be a matter

اون وقت دیگه ربطی به نظرات یا

of just opinion or just appearances.

ظواهر امور نداشت.

That's a stunning vision.

دیدگاه شگفت‌انگیزیه.

I mean, think about that. How grand. How ambitious.

منظورم اینه که، بهش فکر کنید. چه قدر بزرگ. چه قدر بلندپروازانه.

That's as ambitious as we are.

بلندپرواز، مثل ما.

He wants to solve ethics.

او می‌خواد راه حلی برای اخلاق پیدا کنه.

He wants objective truths.

به دنبال حقائق مطلقه.

If you think that way,

اگر این طوری فکر کنیم،

you have a Platonist moral framework.

یک چهارچوبِ اخلاقیِ پلاتویی داریم.

If you don't think that way,

اگر این طوری فکر نکنیم،

well, you have a lot of company in the history of Western philosophy,

خوب، در این صورت در فلسفه‌ی غرب خیلی ها با ما موافق هستند.

because the tidy idea, you know, people criticized it.

چون این ایده خیلی تروتمیزه-- دیگران ازش انتقاد کردند.

Aristotle, in particular, he was not amused.

مخصوصا" ارسطو اصلا" از این ایده خوشش نیومد.

He thought it was impractical.

چون فکر می‌کرد عملی نیست.

Aristotle said, "We should seek only so much precision in each subject

ارسطو می‎گفت «در هر موضوع، ما تنها به اندازه‌ای دقت دست می‌یابیم

as that subject allows."

که خودِ موضوع بهمون اجازه می‌ده».

Aristotle thought ethics wasn't a lot like math.

ارسطو فکر نمی‌کرد شباهت زیادی بین اخلاق و ریاضیات وجود داره.

He thought ethics was a matter of making decisions in the here-and-now

او فکر می‌کرد موضوعِ اخلاق، تصمیم‌گیری در شرایط فعلی

using our best judgment

با استفاده از بهترین داوری

to find the right path.

برای پیدا کردنِ راه درسته.

If you think that, Plato's not your guy.

اگر شما این طور فکر می‌کنید، پلاتو طرفِ شما نیست.

But don't give up.

اما هنوز تموم نشده.

Maybe there's another way

شاید راه دیگه‌ای وجود داره

that we can use numbers as the basis of our moral framework.

که بتونیم اعداد رو مبنای چهارچوب اخلاقی‌مون قرار بدیم.

How about this:

این یکی چه طوره:

What if in any situation you could just calculate,

شاید بتونیم توی هر وضعیتی حساب و کتاب کنیم،

look at the choices,

به گزینه‌هامون نگاه کنیم،

measure out which one's better and know what to do?

بسنجیم که کدوم بهتره و بفهمیم که چی کار بکنیم.

That sound familiar?

آشنا به نظرتون میاد؟

That's a utilitarian moral framework.

این یک چهارچوب سودگرایانه‌ست.

John Stuart Mill was a great advocate of this --

جان استوارت میل طرفدار بزرگِ این چهارچوب بود--

nice guy besides --

مرد خوبی هم بود--

and only been dead 200 years.

و فقط 200 ساله که مُرده.

So basis of utilitarianism --

پس اساسِ سودگرایی--

I'm sure you're familiar at least.

مطمئنم که یه چیزهایی درباره‌ش شنیدید.

The three people who voted for Mill before are familiar with this.

اون سه نفری که به میل رأی دادند حتما" می‌دونند که

But here's the way it works.

این چهارچوب این طوریه:

What if morals, what if what makes something moral

یک کار اخلاقیه اگر

is just a matter of if it maximizes pleasure

لذت رو به حداکثر برسونه،

and minimizes pain?

و رنج رو به حداقل.

It does something intrinsic to the act.

به ذات اون کار بستگی داره.

It's not like its relation to some abstract form.

نه به ارتباطش با یک مطلقِ خارجی.

It's just a matter of the consequences.

فقط به عواقب اون کار بستگی داره.

You just look at the consequences

فقط به عواقب توجه می‌کنی

and see if, overall, it's for the good or for the worse.

و تصمیم می‌گیری که جمعا" به نفعه یا به ضرر.

That would be simple. Then we know what to do.

ساده‌ست. این طوری می‌فهمیم که چی کار کنیم.

Let's take an example.

بیاید به یه مثال بپردازیم.

Suppose I go up

فرض کنید که من بگم

and I say, "I'm going to take your phone."

«می‌خوام تلفن شما رو بگیرم».

Not just because it rang earlier,

نه به خاطر این که زنگ زد،

but I'm going to take it because I made a little calculation.

بلکه چون من کمی حساب و کتاب کردم.

I thought, that guy looks suspicious.

فکر کردم که این آقا مشکوک به نظر می‌رسه.

And what if he's been sending little messages to Bin Laden's hideout --

شاید داشته به بن لادن پیغام می‌داده--

or whoever took over after Bin Laden --

یا به هر کسی که بعد از بن لادن کارها رو دست گرفته--

and he's actually like a terrorist, a sleeper cell.

و در واقع این آقا تروریست به نظر میاد.

I'm going to find that out, and when I find that out,

من باید مطمئن بشم. و اگر حدس من درست باشه،

I'm going to prevent a huge amount of damage that he could cause.

جلوی خسارت بزرگی که اون آقا می‌تونست ایجاد کنه گرفته شده.

That has a very high utility to prevent that damage.

جلوگیری از اون خسارت سود خیلی بزرگیه.

And compared to the little pain that it's going to cause --

و در مقایسه با رنج کوچیکی که این کار ایجاد می‌کنه--

because it's going to be embarrassing when I'm looking on his phone

چون به هر حال خجالت‌آوره که من تلفن اونو نگاه کنم

and seeing that he has a Farmville problem and that whole bit --

و بفهمم که با فارم ویل درگیره--

that's overwhelmed

این رنج کوچک، در مقابل سودِ نگاه کردن

by the value of looking at the phone.

به تلفن، اصلن به چشم نمیاد.

If you feel that way,

اگر شما چنین حسی دارید،

that's a utilitarian choice.

انتخابِ شما سودگرایانه‌ست.

But maybe you don't feel that way either.

اما شاید چنین حسی نداشته‌باشید.

Maybe you think, it's his phone.

شاید فکر کنید اون صاحب تلفنه.

It's wrong to take his phone

گرفتن تلفنش کار نادرستیه،

because he's a person

چون اون یک انسانه

and he has rights and he has dignity,

و حقوق و حریمی داره،

and we can't just interfere with that.

و ما نمی‌تونیم این قدر ساده به حریمِ‌ش تجاوز کنیم.

He has autonomy.

اون اختیار خودشو داره.

It doesn't matter what the calculations are.

مهم نیست محاسباتِ ما چی می‌گن.

There are things that are intrinsically wrong --

بعضی چیزها ذاتن نادرست هستند--

like lying is wrong,

مثلن دروغ نادرسته،

like torturing innocent children is wrong.

مثلن شکنجه‌ی کودکان معصوم نادرسته.

Kant was very good on this point,

کانت اینجا حرف خوبی می‌زنه.

and he said it a little better than I'll say it.

التبه خودش کمی بهتر از من بیانش کرده.

He said we should use our reason

او می‌گه ما باید با استفاده از استدلال

to figure out the rules by which we should guide our conduct,

قوانینی رو بفهمیم که باهاشون رفتارمون رو هدایت کنیم.

and then it is our duty to follow those rules.

بعد از اون، وظیفه‌ی ماست که از اون قوانین پیروی کنیم.

It's not a matter of calculation.

به محاسبات ربطی نداره.

So let's stop.

خوب دیگه کافیه.

We're right in the thick of it, this philosophical thicket.

حالا ما در قلب جنگلِ فلسفه هستیم.

And this goes on for thousands of years,

و این تا هزاران سال ادامه داره،

because these are hard questions,

چون این‌ها سوال‌های سختی هستند،

and I've only got 15 minutes.

و من فقط پانزده دقیقه وقت دارم.

So let's cut to the chase.

بریم سر اصل مطلب.

How should we be making our decisions?

چه طور تصمیم‌گیری کنیم؟

Is it Plato, is it Aristotle, is it Kant, is it Mill?

پلاتو خوبه، یا ارسطو، یا کانت، یا میل؟

What should we be doing? What's the answer?

چه کار کنیم؟ پاسخ چیه؟

What's the formula that we can use in any situation

کدوم فرمول می‌تونه در هر موقعیتی،

to determine what we should do,

کار درست رو مشخص کنه،

whether we should use that guy's data or not?

و بگه که آیا ما باید از اطلاعات اون شخص استفاده کنیم یا نه؟

What's the formula?

اون فرمول چیه؟

There's not a formula.

هیچ فرمولی وجود نداره.

There's not a simple answer.

پاسخ ساده‌ای به این سوال وجود نداره.

Ethics is hard.

اخلاق سخته.

Ethics requires thinking.

اخلاق مستلزم فکر کردنه.

And that's uncomfortable.

و ای کار سخته.

I know; I spent a lot of my career

می‌دونم، بخش عمده‌ی شغل من

in artificial intelligence,

مربوط به هوش مصنوعیه،

trying to build machines that could do some of this thinking for us,

در تلاش برای ساختن ماشین‌هایی که بتونن کمی به جای ما فکر کنند،

that could give us answers.

و بتونن جواب‌هایی به ما بدن.

But they can't.

ولی نمی‌تونن.

You can't just take human thinking

نمی‌شه همین طوری تفکر انسان رو برداشت

and put it into a machine.

و در یک ماشین قرار داد.

We're the ones who have to do it.

ما خودمون باید این کار رو بکنیم.

Happily, we're not machines, and we can do it.

خوشبختانه ما ماشین نیستیم و می‌تونیم این کار رو بکنیم.

Not only can we think,

ما نه تنها می‌تونیم فکر کنیم،

we must.

ما باید( فکر کنیم ).

Hannah Arendt said,

هانا آرنت می‌گه:

"The sad truth

«حقیقتِ تلخ اینه که

is that most evil done in this world

بیش‌تر کارهایی بدی که در دنیا انجام می‌شه

is not done by people

به دست آدم‌هایی اتفاق میفته که

who choose to be evil.

قصدِ بدی ندارند.

It arises from not thinking."

و این نتیجه‌ی فکر نکردنه.»

That's what she called the "banality of evil."

اون اسم این رو «پیش‌پاافتاده‌گیِ بدی» می‌ذاره.

And the response to that

و پاسخش اینه که

is that we demand the exercise of thinking

از هر انسانِ باشعوری انتظار فکر کردن

from every sane person.

داشته‌باشیم.

So let's do that. Let's think.

خوب بیاید این کارو بکنیم. بیاید فکر کنیم.

In fact, let's start right now.

بیاید همین الان شروع کنیم.

Every person in this room do this:

همه‌ی حضار این کار رو بکنند:

think of the last time you had a decision to make

به آخرین باری که می‌خواستید تصمیم‌گیری کنید فکر کنید

where you were worried to do the right thing,

آخرین باری که دغدغه‌ی انجام کار درست رو داشتید،

where you wondered, "What should I be doing?"

و از خودتون پرسیدید که «چی کار باید بکنم؟»

Bring that to mind,

اون موقعیت رو به یاد بیارید.

and now reflect on that

و حالا بهش فکر کنید.

and say, "How did I come up that decision?

از خودتون بپرسید: «چه طور اون تصمیم رو گرفتم؟

What did I do? Did I follow my gut?

چی کار کردم؟ از حسَّ‌م پیروی کردم؟

Did I have somebody vote on it? Or did I punt to legal?"

رأی‌گیری کردم؟ یا به قانون مراجعه کردم؟»

Or now we have a few more choices.

البته حالا چندتا گزینه‌ی دیگه هم داریم.

"Did I evaluate what would be the highest pleasure

«آیا محاسبه کردم تا ببینم کدوم کار بیشترین لذت رو داره

like Mill would?

مثل کاری که میل کرد؟

Or like Kant, did I use reason to figure out what was intrinsically right?"

یا مثل کانت، استدلال کردم تا بفهمم چه کاری ذاتن درسته؟»

Think about it. Really bring it to mind. This is important.

بهش فکر کنید. سعی کنید به یادش بیارید. مهمه.

It is so important

اون قدر مهمه که

we are going to spend 30 seconds of valuable TEDTalk time

می‌خوایم 30 ثانیه از وقت ارزشمند تد تاک رو

doing nothing but thinking about this.

فقط به این فکر کنیم.

Are you ready? Go.

آماده‌اید؟ شروع کنید.

Stop. Good work.

کافیه. خسته نباشید.

What you just did,

کاری که الان شما کردید،

that's the first step towards taking responsibility

اولین قدمه برای پذیرفتنِ مسئولیتِ

for what we should do with all of our power.

کاری که می‌تونیم با این همه قدرتِ‌مون انجام بدیم.

Now the next step -- try this.

حالا قدمِ بعدی-- اینو امتحان کنید.

Go find a friend and explain to them

برای یکی از دوست‌هاتون توضیح بدید

how you made that decision.

که چه طور اون تصمیم رو گرفتید.

Not right now. Wait till I finish talking.

الان نه. صبر کنید حرف‌های من تموم شه.

Do it over lunch.

موقع ناهار این کار رو بکنید.

And don't just find another technologist friend;

دوستی که برای این کار انتخاب می‌کنید، مثل خودتون فنّی نباشه.

find somebody different than you.

کسی رو انتخاب کنید که با شما فرق داشته‌باشه.

Find an artist or a writer --

یه هنرمند یا نویسنده--

or, heaven forbid, find a philosopher and talk to them.

یا، خدای ناکرده، یه فیلسوف بهتره.

In fact, find somebody from the humanities.

در واقع، سعی کنید رشته‌ش علوم انسانی باشه.

Why? Because they think about problems

چرا؟ چون اون‌ها نگاه‌شون به مسائل

differently than we do as technologists.

با نگاهِ ما فنّی‌ها فرق داره.

Just a few days ago, right across the street from here,

همین چند روز پیش، دقیقا" اون طرف خیابون،

there was hundreds of people gathered together.

صدها نفر تجمع کرده‌بودند.

It was technologists and humanists

فنی‌ها و علوم انسانی‌ها برای

at that big BiblioTech Conference.

کنفرانس بیبلیوتک اومده‌ بودند.

And they gathered together

اونا دور هم جمع شده‌بودند

because the technologists wanted to learn

چون فنی‌ها می‌خواستند بدونند

what it would be like to think from a humanities perspective.

فکر کردن از چشم‌انداز به علوم انسانی چه طوریه.

You have someone from Google

فرض کنید یک نفر از گوگل

talking to someone who does comparative literature.

با یک نفر در رشته‌ی ادبیات قیاسی صحبت می‌کنه.

You're thinking about the relevance of 17th century French theater --

حتما" دارید فکر می‌کنید که تئاتر قرن ۱۷ فرانسه

how does that bear upon venture capital?

چه ربطی به سرمایه‌گذاری داره؟

Well that's interesting. That's a different way of thinking.

این طوری جالب می‌شه. این یک طرز تفکرِ متفاوته.

And when you think in that way,

و وقتی این طوری فکر کنید،

you become more sensitive to the human considerations,

نسبت به ملاحظات انسانی که در تصمیم‌گیری‌های اخلاقی

which are crucial to making ethical decisions.

نقش مهمی دارند، حساس‌تر می‌شید.

So imagine that right now

همین حالا تصور کنید

you went and you found your musician friend.

که پیش دوستِ موسیقی‌دانتون می‌رید.

And you're telling him what we're talking about,

و این حرف‌ها رو براش توضیح می‌دید،

about our whole data revolution and all this --

انقلاب اطلاعات و بقیه‌ی چیزها--

maybe even hum a few bars of our theme music.

و شاید کمی هم موسیقی متنمون رو براش بزنید.

♫ Dum ta da da dum dum ta da da dum ♫

♫ دام تا دا دا دام دام تا دا دا دام ♫

Well, your musician friend will stop you and say,

دوست موسیقی‌دانتون می‌پره وسط آهنگ و می‌گه

"You know, the theme music

«می‌دونی؟ موسیقی متن

for your data revolution,

برای انقلاب اطلاعاتی شما،

that's an opera, that's Wagner.

یه اپراست. ونگره.

It's based on Norse legend.

اساسش افسانه‌ی نورسه.

It's Gods and mythical creatures

به الهه‌ها و موجودات اسطوره‌ای می‌خوره

fighting over magical jewelry."

که برای جوهرات جادویی با هم می‌جنگن»

That's interesting.

جالبه.

Now it's also a beautiful opera,

حالا قضیه به یه اپرای زیبا هم تبدیل شد.

and we're moved by that opera.

و ما با این اپرا انگیزه می‌گیریم.

We're moved because it's about the battle

انگیزه می‌گیریم،‌ چون داستان،

between good and evil,

داستانِ جنگ بین خوبی و بدی

about right and wrong.

و درست و غلطه.

And we care about right and wrong.

و ما به درست و غلط اهمیت می‌دیم.

We care what happens in that opera.

برامون مهمه که در اون اپرا چه اتفاقی می‌افته.

We care what happens in "Apocalypse Now."

برامون مهمه که در «اینک آخرالزمان» چه اتفاقی می‌افته.

And we certainly care

و مخصوصن برامون مهمه که

what happens with our technologies.

در فناوری‌مون چه اتفاقی می‌افته.

We have so much power today,

ما امروز خیلی قدرتمندیم.

it is up to us to figure out what to do,

تصمیم با خودمونه که چی کار کنیم.

and that's the good news.

و این خبر خوبیه.

We're the ones writing this opera.

ما این اپرا رو می‌نویسیم.

This is our movie.

این فیلمِ ماست.

We figure out what will happen with this technology.

ما تعیین می‌کنیم که برای این فناوری چه اتفاقی می‌افته.

We determine how this will all end.

ما تعیین می‌کنیم که آخر قصه چی می‌شه.

Thank you.

متشکرم.

(Applause)

(تشویق حضار)