Damon Horowitz calls for a "moral operating system"

المترجم: Tofig Ahmed المدقّق: Anwar Dafa-Alla

Power.

القدرة.

That is the word that comes to mind.

تلك الكلمة التي تتبادر إلى الأذهان.

We're the new technologists.

نحن المطورون الجدد.

We have a lot of data, so we have a lot of power.

إننا نملك الكثير من البيانات ، لذا فلدينا الكثير من القوة والسلطة.

How much power do we have?

ما حجم السلطة التي نمتلكها ؟

Scene from a movie: "Apocalypse Now" -- great movie.

مشهد من فلم : "Apocalypse Now" -- فلمٌ رائع.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

علينا أن نُوصل بطلنا ، الكابتن ويلارد، إلى مصب نهر ننغ

so he can go pursue Colonel Kurtz.

حتى يستطيع من مطاردة الكولونيل كورتز.

The way we're going to do this is fly him in and drop him off.

والطريقة التي سنفعل بها ذلك هي من خلال الطيران به و إسقاطه بالمظلة.

So the scene:

لذا فالمشهد:

the sky is filled with this fleet of helicopters carrying him in.

السماء ممتلئة بأسطول من الطائرات المروحية التي تحمله.

And there's this loud, thrilling music in the background,

وهناك تلك الأصوات المرتفعة ، وموسيقى الإثارة الخلفية ،

this wild music.

كل تلك الموسيقى الصاخبة.

♫ Dum da ta da dum ♫

♫ دوم دا تا دا دوم ♫

♫ Dum da ta da dum ♫

♫ دوم دا تا دا دوم ♫

♫ Da ta da da ♫

♫ دا تا دا دا ♫

That's a lot of power.

هناك الكثير من القوة.

That's the kind of power I feel in this room.

تلك هي القوة التي أشعر بها في هذه القاعة.

That's the kind of power we have

تلك هي القوة التي نمتلكها

because of all of the data that we have.

بسبب كل ما نملكه من بيانات.

Let's take an example.

لنأخذ مثالاً.

What can we do

ما الذي يمكننا فعله

with just one person's data?

ببيانات شخصٍ واحدٍ فقط ؟

What can we do

ما الذي يمكننا فعله

with that guy's data?

ببيانات ذلك الشخص ؟

I can look at your financial records.

بإمكاني النظر إلى بياناته المالية.

I can tell if you pay your bills on time.

وأستطيع معرفة ما إذا كنت تسدد فواتيرك في موعدها.

I know if you're good to give a loan to.

وأعرف ما إذا كنت مؤهلاً لقرض.

I can look at your medical records; I can see if your pump is still pumping --

أستطيع النظر إلى بياناتك الصحية ، وأستطيع معرفة ما إذا كان قلبك يخفق --

see if you're good to offer insurance to.

وأن أعرف ما إذا كنت مؤهلاً لتأمينٍ طبي.

I can look at your clicking patterns.

أستطيع النظر إلى نمط إختيارك المواقع.

When you come to my website, I actually know what you're going to do already

وعندما تأتي إلى موقعي الإلكتروني ، أعرف بالضبط ما ستفعله مسبقاً ،

because I've seen you visit millions of websites before.

لأنني راقبت زياراتك للملايين من المواقع من قبل.

And I'm sorry to tell you,

ويؤسفني أن أقول لك ،

you're like a poker player, you have a tell.

أنك مثل لاعب بوكر ، هناك دلالات على ذلك.

I can tell with data analysis what you're going to do

أستطيع التنبؤ بما ستفعله بتحليل البيانات

before you even do it.

حتى قبل أن تفعل ذلك.

I know what you like. I know who you are,

أعرف ما تحبه ، أعرف من أنت.

and that's even before I look at your mail

وكل ذلك حتى قبل أن أنظر إلى بريدك

or your phone.

أو حتى إلى جوالك.

Those are the kinds of things we can do

تلك هي الأشياء التي نستطيع عملها

with the data that we have.

بالبيانات التي نملكها.

But I'm not actually here to talk about what we can do.

ولكنني لست هنا اليوم للحديث عما نستطيع فعله.

I'm here to talk about what we should do.

إنني هنا اليوم للحديث عما يجب أن نفعله.

What's the right thing to do?

ماهو الشيء الصواب الذي يجب أن نفعله ؟

Now I see some puzzled looks

والاّن أرى القليل من النظرات الحائرة

like, "Why are you asking us what's the right thing to do?

مثل ، "لماذ تسألنا ماهو الصواب الذي يجب أن نفعله؟

We're just building this stuff. Somebody else is using it."

إننا فقط نصمم تلك الأشياء. والاّخرون يستخدمونها."

Fair enough.

هذا صحيح.

But it brings me back.

ولكن ذلك يذكرني.

I think about World War II --

كما أعتقد إلى الحرب العالمية الثانية --

some of our great technologists then,

بعضاً من عظماء التقنيين حينها ،

some of our great physicists,

بعضاً من علماء الفيزياء العظماء ،

studying nuclear fission and fusion --

الذين كانوا يدرسون الإنشطار والإندماج النووي --

just nuclear stuff.

العلوم النووية فقط.

We gather together these physicists in Los Alamos

جمعنا هؤلاء الفيزيائيين مع بعضهم البعض في لوس ألاموس

to see what they'll build.

لنرى ما يمكن أن يصنعوه.

We want the people building the technology

ونريد الأشخاص الذين يصنعون التكنولوجيا

thinking about what we should be doing with the technology.

أن يفكروا في ما يجب أن نفعله بالتكنولوجيا.

So what should we be doing with that guy's data?

إذا مالذي يجب فعله ببيانات ذلك الشخص ؟

Should we be collecting it, gathering it,

هل نسجلها ، ونجمعها ،

so we can make his online experience better?

لنجعل التصفح أفضل له ؟

So we can make money?

وبالتالي نستطيع من كسب المال ؟

So we can protect ourselves

و لنحمي أنفسنا

if he was up to no good?

إذا كان شخصا لايمكن الإستفادة منه ؟

Or should we respect his privacy,

أم علينا أن نحترم خصوصيته ،

protect his dignity and leave him alone?

نحفظ له كرامته ونتركه وشأنه ؟

Which one is it?

أيهما هو الصواب ؟

How should we figure it out?

كيف نستطيع معرفة ذلك ؟

I know: crowdsource. Let's crowdsource this.

أعرف : Crowd Source "استخدام مجموعة كبيرة من الخبراء لحل مشكلة".

So to get people warmed up,

ولتحفيز المتواجدين ،

let's start with an easy question --

لنبدأ بسؤال بسيط --

something I'm sure everybody here has an opinion about:

شيء أعتقد الكثير من المتواجدين هنا لديه رأي فيه:

iPhone versus Android.

الاّي فون iPhone مقابل الأندرويد Android

Let's do a show of hands -- iPhone.

لنرفع الأيادي بالموافقة -- اّي فون.

Uh huh.

أوه ها.

Android.

أندرويد.

You'd think with a bunch of smart people

كنت أعتقد مع بعض من الناس الأذكياء

we wouldn't be such suckers just for the pretty phones.

لن نكون مثل المعجبين فقط بالهواتف الأنيقة.

(Laughter)

(ضحك)

Next question,

السؤال التالي ،

a little bit harder.

أكثر صعوبة نوعاً ما.

Should we be collecting all of that guy's data

هل ينبغي علينا أن نجمع كل بيانات ذلك الشخص

to make his experiences better

لجعل من تجربته أفضل

and to protect ourselves in case he's up to no good?

ونحمي أنفسنا في حال كان غير مفيدٍ لنا ؟

Or should we leave him alone?

أم يجب أن نتركه وشأنه ؟

Collect his data.

نجمع بياناته.

Leave him alone.

نتركه وشأنه.

You're safe. It's fine.

إنك بأمان. هذا جيد.

(Laughter)

(ضحك)

Okay, last question --

حسنا ، السؤال الأخير --

harder question --

سؤال أصعب --

when trying to evaluate

عند محاولة تقييم

what we should do in this case,

عما يجب فعله في هذه الحالة ،

should we use a Kantian deontological moral framework,

هل ينبغي علينا أن نستخدم فلسفة كِنت في الأخلاق المهنية ،

or should we use a Millian consequentialist one?

أم نستخدم نظرية "ميل" في أن الغاية تبرر الوسيلة ؟

Kant.

كِنت.

Mill.

ميل.

Not as many votes.

ليس الكثير من الأصوات.

(Laughter)

(ضحك)

Yeah, that's a terrifying result.

نعم ، هذه نتيجةٌ مرعبة.

Terrifying, because we have stronger opinions

مرعبة ، لأن لدينا اّراءٌ قويةٌ

about our hand-held devices

عن أجهزتنا المحمولة

than about the moral framework

أكثر من اّراءنا عن الإطار الأخلاقي الذي

we should use to guide our decisions.

ينبغي أن نستخدمه لإتخاذ قراراتنا.

How do we know what to do with all the power we have

كيف لنا أن نعرف ما يجب القيام به بكل السلطة التي نملكها

if we don't have a moral framework?

إذا لم يكن لدينا إطارا أخلاقيا ؟

We know more about mobile operating systems,

نحن نعرف الكثير عن أنظمة تشغيل الهواتف المحمولة ،

but what we really need is a moral operating system.

ولكن ما نحتاج إليه بالفعل هو نظام تشغيلٍ أخلاقي.

What's a moral operating system?

فما هو نظام التشغيل الأخلاقي ؟

We all know right and wrong, right?

نحن جميعنا نعرف الصواب والخطأ ، نعم.

You feel good when you do something right,

تشعر بالفخر عندما تفعل شيئاً صائباً ،

you feel bad when you do something wrong.

و تشعر بالضيق عندما تفعل شيئا خاطئا.

Our parents teach us that: praise with the good, scold with the bad.

أبوانا يعلماننا أن : الثناء مع الفعل الصائب ، والتأنيب مع الفعل الخاطئ.

But how do we figure out what's right and wrong?

ولكن كيف يمكننا معرفة ما هو الصواب و ماهو الخطأ ؟

And from day to day, we have the techniques that we use.

ويومياً ، لدينا أساليبنا التي نستخدمها.

Maybe we just follow our gut.

ربما نتبع حدسنا فقط.

Maybe we take a vote -- we crowdsource.

وربما نقوم بالتصويت -- نجمع اّراء الناس.

Or maybe we punt --

أو ربما نقوم بالمجازفة --

ask the legal department, see what they say.

أو نسأل الإدارة القانونية ، ونرى ما يقولون.

In other words, it's kind of random,

في عبارة أخرى ، إنها نوعٌ من العشوائية ،

kind of ad hoc,

نوعٌ من القرارات الوقتية ،

how we figure out what we should do.

كيف يمكننا معرفة ما يجب علينا القيام به.

And maybe, if we want to be on surer footing,

أو ربما ، لنقف بأقدامٍ راسخة ،

what we really want is a moral framework that will help guide us there,

ما نريده حقا هو إطار أخلاقي من شأنه أن يساعدنا في ذلك ،

that will tell us what kinds of things are right and wrong in the first place,

إطارٌ من شأنه أن يبين لنا ما هو الفعل الصواب والفعل الخطأ في المقام الأول ،

and how would we know in a given situation what to do.

وكيف لنا أن نعرف كيف نتصرف في موقفٍ ما.

So let's get a moral framework.

لذلك دعونا نتفق على إطارٍ أخلاقي.

We're numbers people, living by numbers.

نحن شعب الأرقام ، الذين يعيشون من خلال الأرقام.

How can we use numbers

كيف يمكننا استخدام الأرقام

as the basis for a moral framework?

كأساس لوضع إطار أخلاقي ؟

I know a guy who did exactly that.

إنني أعرف الرجل الذي قام بفعل ذلك بالضبط ،

A brilliant guy --

رجلٌ عبقري --

he's been dead 2,500 years.

وهو ميتٌ منذ 2,500 سنة.

Plato, that's right.

أفلاطون ، بالفعل.

Remember him -- old philosopher?

هل تذكرونه ؟ -- فيلسوفٌ قديم ؟

You were sleeping during that class.

ربما كنتم نائمون خلال ذلك الدرس.

And Plato, he had a lot of the same concerns that we did.

و أفلاطون ، كان لديه الكثير من المخاوف نفسها التي لدينا.

He was worried about right and wrong.

وكان يشعر بالقلق بشأن ماهو الصواب والخطأ.

He wanted to know what is just.

أراد أن يعرف ما هو العدل.

But he was worried that all we seem to be doing

ولكنه كان يشعر بالقلق من أن كل ما يبدو أننا نفعله

is trading opinions about this.

هو تداول الآراء حول هذا الموضوع.

He says something's just. She says something else is just.

إنه يقول أن فعلاً ما هو العدل. وهي تقول أن فعلاً آخر هو العدل.

It's kind of convincing when he talks and when she talks too.

إنه مقنعٌ نوعاً ما عندما يتحدث وهي مقنعةٌ أيضاً عندما تتحدث.

I'm just going back and forth; I'm not getting anywhere.

إنني فقط أتجه ذهابا وإيابا ، وأنا لا أصل إلى أي مكان.

I don't want opinions; I want knowledge.

إنني لا أريد اّراءً ، بل أريد المعرفة.

I want to know the truth about justice --

أريد أن أعرف الحقيقة عن العدالة --

like we have truths in math.

مثل ما لدينا حقائق في الرياضيات.

In math, we know the objective facts.

في الرياضيات ، نحن نعلم الحقائق المطلقة.

Take a number, any number -- two.

خذ رقماً ما ، أي رقم -- إثنين.

Favorite number. I love that number.

رقمي المفضل. إنني أحب هذا الرقم.

There are truths about two.

هناك حقائق مطلقة عن الرقم إثنين.

If you've got two of something,

إذا كان لديك شيئين اثنين ،

you add two more, you get four.

وأضفت اثنين آخرين ، تحصل على أربعة.

That's true no matter what thing you're talking about.

وهذه حقيقةٌ مطلقة بغض النظر عن ماهية الشيء الذي تتحدث عنه.

It's an objective truth about the form of two,

انها لحقيقة مطلقة عن شكل من اثنين ،

the abstract form.

الخلاصة المطلقة.

When you have two of anything -- two eyes, two ears, two noses,

عندما يكون لديك اثنين من أي شيء -- عينان ، أذنان ، وحتى الأنوف ،

just two protrusions --

أي بروز من اثنين --

those all partake of the form of two.

هؤلاء يتشاركون في تشكيل الإثنين.

They all participate in the truths that two has.

يتشاركون جميعاً في الحقيقة المطلقة للرقم إثنين.

They all have two-ness in them.

لديهم جميعهم خاصية المُثنى.

And therefore, it's not a matter of opinion.

وبالتالي ، انها ليست مسألة رأي.

What if, Plato thought,

ماذا لو فكر أفلاطون ،

ethics was like math?

أن الأخلاق كانت كالرياضيات ؟

What if there were a pure form of justice?

ماذا لو كان هناك شكلٌ متكاملٌ للعدالة ؟

What if there are truths about justice,

ماذا لو كان هناك حقائق مطلقة للعدالة ،

and you could just look around in this world

وبإمكانك بمجرد إلقاء نظرة حول هذا العالم

and see which things participated,

ورأيت الأشياء التي تساهم ،

partook of that form of justice?

في هذا الشكل من العدالة ؟

Then you would know what was really just and what wasn't.

عندئذٍ ستعرف ما هو بالفعل حقيقةٌ مطلقة وما هو ليس كذلك.

It wouldn't be a matter

ولن يكون ذلك مجرد

of just opinion or just appearances.

رأي فقط أو مناقشات فقط.

That's a stunning vision.

هذه رؤية مذهلة.

I mean, think about that. How grand. How ambitious.

أعني ، أن نفكر في ذلك. كم سيكون ذلك نبيلاً.و طموحاً.

That's as ambitious as we are.

هذا الطموح بقدر ما نحن عليه.

He wants to solve ethics.

انه يريد ان يحل الأخلاق.

He wants objective truths.

انه يريد الحقائق المطلقة.

If you think that way,

إذا فكرنا بتلك الطريقة ،

you have a Platonist moral framework.

فإن لديك إطار أفلاطون الأخلاقي.

If you don't think that way,

أما إذا كنت لا تفكر بتلك الطريقة ،

well, you have a lot of company in the history of Western philosophy,

إذاً ، لديك الكثير من الرفقاء في تاريخ الفلسفة الغربية ،

because the tidy idea, you know, people criticized it.

لأن الفكرة المنهجية -- كما تعلمون ، انتقدها الناس.

Aristotle, in particular, he was not amused.

ولا سيما أرسطو لم يكن يستصيغ الفكرة.

He thought it was impractical.

إعتقد انها غير عملية.

Aristotle said, "We should seek only so much precision in each subject

فقد قال أرسطو : "علينا فقط التحري عن الدقة في كل موضوع

as that subject allows."

بقدر ما يسمح ذلك الموضوع ".

Aristotle thought ethics wasn't a lot like math.

إعتقد أرسطو أن الأخلاق من غير الممكن أن تكون مثل الرياضيات.

He thought ethics was a matter of making decisions in the here-and-now

إعتقد أن الأخلاق عبارة عن مجموعة من القرارات نتخذها

using our best judgment

بين فترة وأخرى باستخدام حكمتنا

to find the right path.

للعثور على المسار الصحيح.

If you think that, Plato's not your guy.

إذا كنت تتفق مع ذلك فإن أفلاطون ليس الرجل المناسب لك.

But don't give up.

ولكن لا تستسلم.

Maybe there's another way

ربما هناك طريقة أخرى

that we can use numbers as the basis of our moral framework.

لإستخدام الأرقام كإطار أخلاقي أساسي.

How about this:

لنجرب التالي :

What if in any situation you could just calculate,

ماذا لو أمكنك في أي وقت أن تحسب المعادلة الأخلاقية ،

look at the choices,

أنظر إلى الخيارات التي لديك ،

measure out which one's better and know what to do?

واحسب المعادلة لتعرف أي القرارات أفضل وبالتالي ماذا ستفعل ؟

That sound familiar?

هل يبدو هذا مألوفاً ؟

That's a utilitarian moral framework.

هذا هو الإطار الأخلاقي النفعي.

John Stuart Mill was a great advocate of this --

وكان جون ستيوارت ميل داعيةً كبيراً لهذا --

nice guy besides --

رجلٌ لطيفٌ بالرغم --

and only been dead 200 years.

من أنه مات منذ 200 سنة.

So basis of utilitarianism --

ذلك هو أساس النفعية --

I'm sure you're familiar at least.

أنا متأكد من أنكم على دراية به على الأقل به.

The three people who voted for Mill before are familiar with this.

الاشخاص الثلاثة الذين صوتوا لمصلحة ميل يعرفون ذلك من قبل.

But here's the way it works.

ولكن ها هي الطريقة التي تعمل بها النفعية.

What if morals, what if what makes something moral

ماذا لو أن الأخلاق ، أو ماذا لو أن ما يجعل من تصرفٍ ما أخلاقي ،

is just a matter of if it maximizes pleasure

هي مجرد ما إذا كان ذلك التصرف يشعرك بالسعادة

and minimizes pain?

ويقلل من الألم؟

It does something intrinsic to the act.

إنه شيءٌ محسوس لأي تصرف.

It's not like its relation to some abstract form.

وليست كشيئٍ ذا علاقة بالمعنى التجريدي.

It's just a matter of the consequences.

انها مجرد نتيجة تصرفٍ ما.

You just look at the consequences

وما عليك إلا بالنظر إلى النتائج

and see if, overall, it's for the good or for the worse.

وترى ما اذا كان ذلك ، عموما ، لشيءٍ جيد أم لشيءٍ أسوء.

That would be simple. Then we know what to do.

سيكون ذلك أمراً بسيطاً. عندئذٍ سنعرف ما سنفعله.

Let's take an example.

دعونا نأخذ مثالا على ذلك.

Suppose I go up

لنفترض أنني أتدخل

and I say, "I'm going to take your phone."

و أقول : "إنني سأأخذ منك هاتفك المحمول".

Not just because it rang earlier,

ليس لأنه رن سابقاً ،

but I'm going to take it because I made a little calculation.

ولكنني ساّخذ ذلك الهاتف لأنني حسبت عمليةً حسابيةً صغيرة.

I thought, that guy looks suspicious.

و اعتقد ان ذلك الرجل يبدو مشتبهاً به.

And what if he's been sending little messages to Bin Laden's hideout --

ماذا لو انه بدا يرسل رسائل قصيرة إلى مخبأ بن لادن --

or whoever took over after Bin Laden --

أو من تولى المسؤولية بعد بن لادن أياً كان --

and he's actually like a terrorist, a sleeper cell.

و أنه في الواقع إرهابي ، من خليةٍ نائمة.

I'm going to find that out, and when I find that out,

سأتمكن من معرفة ذلك ، وعندما أفعل ذلك ،

I'm going to prevent a huge amount of damage that he could cause.

سأكون قادراً على منع إحداث ضررٍ كبير قد يتسبب به.

That has a very high utility to prevent that damage.

تحتوي تلك الفكرة على أدواتٍ جيدة لمنع ذلك الضرر.

And compared to the little pain that it's going to cause --

وبالمقارنة مع الضرر البسيط الذي ستسببه --

because it's going to be embarrassing when I'm looking on his phone

لأن الوضع سيكون محرجاً عندما أتفحص هاتفه المحمول

and seeing that he has a Farmville problem and that whole bit --

وأكتشف أن لديه إدمانٌ على لعبة Farmville وكل تلك التفاصيل

that's overwhelmed

التي ظهرت

by the value of looking at the phone.

بمجرد النظر إلى هاتفه.

If you feel that way,

إذا كنت تتفق مع ذلك ،

that's a utilitarian choice.

فهذا هو خيار إطار النفعية الأخلاقي.

But maybe you don't feel that way either.

ولكن ربما لا تتفق أيضاً مع هذه الطريقة.

Maybe you think, it's his phone.

ربما تفكر في أن ذلك هاتفه.

It's wrong to take his phone

و من الخطأ أن نأخذ منه هاتفه ،

because he's a person

لأنه إنسان

and he has rights and he has dignity,

و لديه حقوق و كرامة ،

and we can't just interfere with that.

وليس لنا الحق في التدخل في خصوصياته.

He has autonomy.

لديه الحق في خصوصياته.

It doesn't matter what the calculations are.

بغض النظر عن المعادلات الحسابية.

There are things that are intrinsically wrong --

هناك أشياء خاطئة في جوهرها --

like lying is wrong,

مثل أن الكذب خطأ ،

like torturing innocent children is wrong.

مثلما أن تعذيب طفل بريء يعتبر خطأً.

Kant was very good on this point,

"كانت" كانت لديه أفكار جيدة حول هذا الموضوع ،

and he said it a little better than I'll say it.

وشرحها بطريقةٍ أفضل مني.

He said we should use our reason

إذ قال انه ينبغي علينا أن نستخدم منطقنا

to figure out the rules by which we should guide our conduct,

لمعرفة القوانين التي سنبني عليها تصرفاتنا السلوكية.

and then it is our duty to follow those rules.

ومن ثم من واجبنا أن نتبع تلك القوانين.

It's not a matter of calculation.

انها ليست مسألة حسابية.

So let's stop.

لذلك دعونا تتوقف.

We're right in the thick of it, this philosophical thicket.

إننا الاّن في وسط كل تلك النظريات ، في خضم ذلك النقاش الفلسفي.

And this goes on for thousands of years,

ولا نزال كذلك منذ اّلاف السنين ،

because these are hard questions,

لأنها أسئلةٌ من الصعب الإجابة عليها ،

and I've only got 15 minutes.

ولدي فقط 15 دقيقة.

So let's cut to the chase.

لذلك لنختصر النقاش.

How should we be making our decisions?

كيف لنا أن نتخذ قراراتنا ؟

Is it Plato, is it Aristotle, is it Kant, is it Mill?

هل نتبع أفلاطون ؟ أم أرسطو ؟ أم كانت ؟ أم ميل ؟

What should we be doing? What's the answer?

ماذا علينا أن نفعل ؟ ما هي الإجابة ؟

What's the formula that we can use in any situation

ماهي المعادلة التي نستطيع استخدامها في أي وضع

to determine what we should do,

لنقرر ماذا سنفعل ،

whether we should use that guy's data or not?

فيما إذا كنا سنستخدم بيانات ذلك الشخص أم لا ؟

What's the formula?

ماهي المعادلة ؟

There's not a formula.

ليس هناك من معادلة.

There's not a simple answer.

ليس هناك من جوابٍ بسيط.

Ethics is hard.

الأخلاقيات شيءٌ معقد.

Ethics requires thinking.

الأخلاقيات تتطلب التفكير.

And that's uncomfortable.

وهذا شيءٌ غير مريح.

I know; I spent a lot of my career

أعرف ، لقد قضيت جزءً كبيراً من مهنتي

in artificial intelligence,

في مجال الذكاء الإصطناعي ،

trying to build machines that could do some of this thinking for us,

في محاولةٍ لبناء اّلاتٍ تستطيع التفكير عنا ،

that could give us answers.

وقد تعطينا إجاباتٍ على الأسئلة.

But they can't.

ولكنها لاتستطيع ذلك.

You can't just take human thinking

من غير الممكن أن نقلد طريقة تفكير الإنسان

and put it into a machine.

ووضعها في الالات.

We're the ones who have to do it.

نحن من علينا أن نجد الأجوبة بأنفسنا.

Happily, we're not machines, and we can do it.

ولحسن الحظ ، أننا لسنا اّلات ، ونستطيع فعل ذلك.

Not only can we think,

ليس لأننا نسطيع التفكير في ذلك ،

we must.

بل لأنه يجب علينا فعل ذلك.

Hannah Arendt said,

هانا أرندت قالت :

"The sad truth

"الحقيقة المرة

is that most evil done in this world

هي أن أغلب الأفعال الشريرة في العالم

is not done by people

لم تكن من قبل أناس

who choose to be evil.

إختاروا أن يكونوا شريرين.

It arises from not thinking."

بل بسبب أنهم لم يفكروا."

That's what she called the "banality of evil."

وهذا ما أطلقت عليه اسم " تفاهة الشرير"

And the response to that

و ردي على ذلك

is that we demand the exercise of thinking

أنه علينا أن نطالب بالتفكير

from every sane person.

من كل شخصٍ عاقل.

So let's do that. Let's think.

لذا فلنبدأ بذلك. لنبدأ بالتفكير.

In fact, let's start right now.

في الواقع ، لنبدأ الآن.

Every person in this room do this:

على كل فردٍ في هذه القاعة القيام بهذا:

think of the last time you had a decision to make

فكر في اّخر مرة كان عليك اتخاذ قرارٍ

where you were worried to do the right thing,

وكنت قلقاً فيما إذا كان قرارك هو القرار الصائب أخلاقياً ،

where you wondered, "What should I be doing?"

حيث كنت متردداً ، " أيهما علي أن أفعل ؟ "

Bring that to mind,

حاول تذكر ذلك.

and now reflect on that

واعكس ذلك على القرار الذي اتخذته.

and say, "How did I come up that decision?

وفكر : " كيف توصلت إلى ذلك القرار ؟ "

What did I do? Did I follow my gut?

كيف فعلت ذلك ؟ هل تبعت حدسك ؟

Did I have somebody vote on it? Or did I punt to legal?"

هل استشرت أحداً ؟ أم استشرت قانونياً ؟

Or now we have a few more choices.

والان وقد أصبح لدينا الان خيارتٍ أخرى.

"Did I evaluate what would be the highest pleasure

" هل قيمت ذلك بشعورك بالسعادة

like Mill would?

كما كان ليفعل ميل ؟

Or like Kant, did I use reason to figure out what was intrinsically right?"

أم استخدمت المنطق لتعرف ماهي الحقيقة المطلقة ؟"

Think about it. Really bring it to mind. This is important.

فكر في ذلك. بالفعل حاول استحضار ذلك. هذا مهمٌ جداً.

It is so important

مهمٌ للغاية

we are going to spend 30 seconds of valuable TEDTalk time

لدرجة أننا سنقضي 30 ثانية من وقت محادثة تيد القيم

doing nothing but thinking about this.

صامتين لنفكر في ذلك الموقف.

Are you ready? Go.

هل أنتم مستعدون ؟ هيا بنا.

Stop. Good work.

توقفوا. عملٌ جيد.

What you just did,

ما فعلتموه للتو ،

that's the first step towards taking responsibility

هي الخطوة الأولى نحو تولي المسؤولية

for what we should do with all of our power.

فيما يجب أن نفعله مع كل ما لدينا من سلطة.

Now the next step -- try this.

والان الخطوة التالية -- جربوا هذا.

Go find a friend and explain to them

حاولوا البحث عن صديق واشرحوا له

how you made that decision.

كيف قمتم باتخاذ ذلك القرار.

Not right now. Wait till I finish talking.

ليس الان.انتظروا حتى ننتهي من الحديث.

Do it over lunch.

لنفعل ذلك خلال تناول الغداء.

And don't just find another technologist friend;

ولا تبحثوا عن صديق آخر تقني أيضاً ؛

find somebody different than you.

حاولوا البحث عن أشخاص مختلفين.

Find an artist or a writer --

ابحثوا عن فنان أو كاتب --

or, heaven forbid, find a philosopher and talk to them.

أو ، لا سمح الله ، ابحثوا عن فيلسوف وتحدثوا معهم.

In fact, find somebody from the humanities.

في الواقع ، حاولوا العثور على شخصٍ ذو علاقةٍ بالعلوم الإنسانية.

Why? Because they think about problems

لماذا ؟ لأنهم يفكرون بالمشاكل

differently than we do as technologists.

بطريقةٍ مختلفةٍ عما نفعله نحن التقنيون.

Just a few days ago, right across the street from here,

قبل عدة أيامٍ فقط ، ليس بعيداً من هنا ،

there was hundreds of people gathered together.

كان هناك المئات من الأشخاص مجتمعين مع بعضهم

It was technologists and humanists

كانوا أشخاصاً تقنيين و اّخرون من العلوم الإنسانية

at that big BiblioTech Conference.

في اجتماع Biblio Tech الضخم

And they gathered together

واجتمعوا مع بعضهم البعض

because the technologists wanted to learn

لأن التقنيون أرادوا أن يتعلموا

what it would be like to think from a humanities perspective.

كيف سيبدوا الأمر لو أنهم فكروا من منطلقٍ إنساني.

You have someone from Google

كان هناك أشخاصٌ من شركة Google

talking to someone who does comparative literature.

يتحدثون عن أشخاص يحاضرون في الأدب المقارن.

You're thinking about the relevance of 17th century French theater --

إننا نفكر في أهمية المسرح الفرنسي في القرن السابع عشر --

how does that bear upon venture capital?

وكيف ذلك يؤثر في رأس المال الإستثماري ؟

Well that's interesting. That's a different way of thinking.

حسناً إن هذا مثير للاهتمام. هذه طريقةٌ مختلفةٌ في التفكير.

And when you think in that way,

وعندما تفكرون بهذه الطريقة ،

you become more sensitive to the human considerations,

تصبحون أكثر إدراكاً للإعتبارات الإنسانية ،

which are crucial to making ethical decisions.

التي تعتبر مصيريةً في إتخاذ قراراتٍ أكثر أخلاقيةً.

So imagine that right now

لذا تخيلوا ذلك الان

you went and you found your musician friend.

إذا قابلت صديقاً لك يعمل في الموسيقى.

And you're telling him what we're talking about,

وأخبرته بما نتحدث عنه الان ،

about our whole data revolution and all this --

عن الثورة المعلوماتية التي نمر بها --

maybe even hum a few bars of our theme music.

وربما أيضاً عن بعض الدندنة التي أحدثناها.

♫ Dum ta da da dum dum ta da da dum ♫

♫ دوم تا دا دا دوم دوم تا دا دا دوم ♫

Well, your musician friend will stop you and say,

حسنا ، سيوقفك صديقك الموسيقي فوراً ويقول :

"You know, the theme music

"هل تعلم ، إن موضوع الموسيقى هذا

for your data revolution,

والخاص بموسيقى الثورة المعلوماتية ،

that's an opera, that's Wagner.

إنها عبارة عن أوبرا ، إنها أوبرا "واغنر".

It's based on Norse legend.

وهي مبنيةٌ على أسطورة طائر النورس

It's Gods and mythical creatures

تعبر عن قتالٍ بين الاّلهة ومخلوقاتٍ غريبة

fighting over magical jewelry."

من أجل بعض المجوهرات السحرية ".

That's interesting.

هذا مثيرٌ للإهتمام.

Now it's also a beautiful opera,

أصبحت الاّن أوبرا جميلة.

and we're moved by that opera.

وتأثرنا جميعنا بتلك الأوبرا.

We're moved because it's about the battle

تأثرنا بها لأنها ترمز للقتال

between good and evil,

بين الخير والشر ،

about right and wrong.

بين الصواب والخطأ.

And we care about right and wrong.

ونحن نهتم لمعرفة ماهو الصواب وماهو الخطأ.

We care what happens in that opera.

نحن نهتم لأحداث تلك الأوبرا.

We care what happens in "Apocalypse Now."

اننا نهتم لما يحدث في فيلم "Apocalypse Now".

And we certainly care

ونحن بالتأكيد نهتم أيضاً

what happens with our technologies.

لما يحدث مع تطور تقنياتنا.

We have so much power today,

نملك الكثير من السلطة اليوم ،

it is up to us to figure out what to do,

ويعود إلينا ما سنفعله بتلك السلطة.

and that's the good news.

وهذا خبرٌ جيد.

We're the ones writing this opera.

نحن من يكتب هذه الأوبرا.

This is our movie.

هذا فيلمٌ سينمائيٌ من صنعنا.

We figure out what will happen with this technology.

وعلينا معرفة ماسيحدث بهذه التقنيات.

We determine how this will all end.

ونحدد ما ستؤول إليه الأمور.

Thank you.

شكراً لكم.

(Applause)

(تصفيق)