How we can build AI to help humans, not hurt us | Margaret Mitchell

المترجم: Wadah Essam المدقّق: Oualid Hamzi

I work on helping computers communicate about the world around us.

أعمل لأساعد الحواسب للتواصل مع العالم حولنا.

There are a lot of ways to do this,

هناك طرق كثيرة لعمل ذلك،

and I like to focus on helping computers

وأحب أن أركز على مساعدة الحواسب

to talk about what they see and understand.

للتحدث عما ترى وتفهم.

Given a scene like this,

فعلى سبيل المثال،

a modern computer-vision algorithm

إن آلخوارزمية المعاصرة الحاسوبية الإبصار

can tell you that there's a woman and there's a dog.

بإمكانها إخبارك ان كانت هناك امرأة و كلب.

It can tell you that the woman is smiling.

وتستطيع أن تخبرك أن كانت تبتسم ام لا.

It might even be able to tell you that the dog is incredibly cute.

وربما تستطيع أن تخبرك أن الكلب محبوبة للغاية.

أنا أعمل على هذه المشكلة

I work on this problem

thinking about how humans understand and process the world.

افكر كيف يفهم البشر ويتعامل مع العالم.

The thoughts, memories and stories

الأفكار، الذكريات، والقصص

that a scene like this might evoke for humans.

التي صُورها ممكن أن تثيرهم.

All the interconnections of related situations.

جميع الترابط في الظروف ذات الصلة.

Maybe you've seen a dog like this one before,

ربما رأيت كلبا مثل هذا من قبل،

or you've spent time running on a beach like this one,

أو قد أنفقت أوقاتا تجري في شاطئ مثل هذا.

and that further evokes thoughts and memories of a past vacation,

وهذا أيضا يثير أفكارك وذكرياتك للإجازات الماضية،

past times to the beach,

الأوقات المنصرمة في الشواطئ،

times spent running around with other dogs.

أزمنة قضيتها مع كلاب أخرى.

One of my guiding principles is that by helping computers to understand

أن من موجهاتي الأساسية هي أن أساعد الحواسيب لفهم

what it's like to have these experiences,

أشياء تتشابه تجارب.

to understand what we share and believe and feel,

ولفهم ما ننقل ونعتقد ونشعر

then we're in a great position to start evolving computer technology

إذن،نحن في مرتبة أعلى للبدء بتكنولوجيا الحاسوبية المتطورة

in a way that's complementary with our own experiences.

بطريقة لزومية تتناسب مع تجاربنا.

So, digging more deeply into this,

لذا، فبعمق التفكير في الأمر،

a few years ago I began working on helping computers to generate human-like stories

بدأت عملي هذا قبل سنوات قليلة لبناء حواسيب تشتبه الإنسان

from sequences of images.

من خلال صور متسلسلة.

So, one day,

لذا، ذات يوم،

I was working with my computer to ask it what it thought about a trip to Australia.

لقد كنت أعمل مع حاسوبي أسأله عما فكر عن رحلة إلى أستراليا.

It took a look at the pictures, and it saw a koala.

وأخذ نظرة إلى تلك الصور، ورأى كوالا،

It didn't know what the koala was,

ولم يعلم ما هو كوالا،

but it said it thought it was an interesting-looking creature.

لكنه قال إنه مخلوق مثير للاهتمام.

Then I shared with it a sequence of images about a house burning down.

ثم شاركت معه بعض الصور عن منزل يتحرق.

It took a look at the images and it said,

ونظرت إليه فقال،

"This is an amazing view! This is spectacular!"

إنه منظر رائع ! هذا مذهل !"

It sent chills down my spine.

لقد اصبت بقشعريره أسفل عمودي الفقري

It saw a horrible, life-changing and life-destroying event

لقد رأى أحداث درامية، أثرت على حياة الآخرين

and thought it was something positive.

و اعتقد انه شيء ايجابي.

I realized that it recognized the contrast,

انا ادركت انه رأى تباين الألوان

the reds, the yellows,

الأحمر و الأصفر

and thought it was something worth remarking on positively.

و اعتقد انه شيء جدير بالذكر في الإيجابية

And part of why it was doing this

وجزء من لماذا كانت تفعل هذا

was because most of the images I had given it

كان بسبب معظم الصور التي حصلت عليها

were positive images.

كانوا صور ايجابية

That's because people tend to share positive images

وذلك لان الناس تميل إلى مشاركة الصور الأيجابية

when they talk about their experiences.

عندما يتحدثون عن خبراتهم.

When was the last time you saw a selfie at a funeral?

متي أخر مره رأيت فيها صورة سيلفي في جنازة ؟

I realized that, as I worked on improving AI

انا ادركت هذا كمطورة للذكاء الاصطناعي

task by task, dataset by dataset,

مهمة بمهمة ، وبيانات بعد بيانات

that I was creating massive gaps,

انا كنت اخلق ثغرات كبيرة،

holes and blind spots in what it could understand.

حفر و نقاط عمياء في الاشياء التي يمكن فهمها

And while doing so,

واثناء فعل ذلك،

I was encoding all kinds of biases.

كنت اشفر جميع انواع التحيزات.

Biases that reflect a limited viewpoint,

التحيزات التي تعكس وجهه نظر محدودة،

limited to a single dataset --

محدوده في بيانات من نوع واحد

biases that can reflect human biases found in the data,

التحيزات التي يمكن أن تعكس التحيز البشري الموجود في البيانات،

such as prejudice and stereotyping.

مثل التحامل و الصورة النمطية.

I thought back to the evolution of the technology

فكرت مره اخرى في تطوير التكنولوجيا

that brought me to where I was that day --

التي جعلتني هكذا اليوم

how the first color images

كيف الصور الملونة الأولى

were calibrated against a white woman's skin,

يتم معايرتها ضد المرأه ذات البشره البيضاء

meaning that color photography was biased against black faces.

بمعني ان اللون الفوتغرافي انشئ ضد الوجوه السوداء.

And that same bias, that same blind spot

وهذا الانحياز هذه النقطة العمياء

continued well into the '90s.

استمرت جيدا حتى التسعينات

And the same blind spot continues even today

و نفس النقطه العمياء استمرت لليوم

in how well we can recognize different people's faces

كيف ندرك جيدا وجوه الناس المختلفة

in facial recognition technology.

في تكنولوجيا نظام التعرف على الوجه

I though about the state of the art in research today,

فكرت في مثال رائع من الفن في بحث اليوم

where we tend to limit our thinking to one dataset and one problem.

حيث نميل إلي الحد من تفكيرنا إلى مجموعة بيانات واحدة و مشكلة واحدة

And that in doing so, we were creating more blind spots and biases

و بهذا كنا نخلق المزيد من النقط العمياء و التحيزات

that the AI could further amplify.

يمكن أن يضخمها الذكاء الاصطناعي

I realized then that we had to think deeply

ادركت ذالك الحين ان علينا التفكير بعمق

about how the technology we work on today looks in five years, in 10 years.

في التكنولوجيا التي نعمل بها اليوم في الخمس أو العشر سنين القادمة

Humans evolve slowly, with time to correct for issues

مع الوقت يتطور البشر ببطء لتصحيح القضايا

in the interaction of humans and their environment.

في التفاعل بين البشر و البيئة

In contrast, artificial intelligence is evolving at an incredibly fast rate.

في المقابل، الذكاء الاصطناعي يتطور بمعدل سريع لا يصدق.

And that means that it really matters

وهذا يعني انه أمر مهم حقا.

that we think about this carefully right now --

أن نفكر في هذا الآن بعناية

that we reflect on our own blind spots,

اننا نفكر في البقع العمياء الخاصة بنا،

our own biases,

التحيز الخاص بنا،

and think about how that's informing the technology we're creating

والتفكير في كيفية تغذية التكنولوجيا التي نخلقها

and discuss what the technology of today will mean for tomorrow.

و مناقشة كيف ستفيد تكنولوجيا اليوم غدا

CEOs and scientists have weighed in on what they think

الرئيس التنفيذي و العلماء قد اثقلوا على ما يفكرون به

the artificial intelligence technology of the future will be.

تقنية الذكاء الاصطناعي ستحدث في المستقبل

Stephen Hawking warns that

ستيفن هوكنج حذر من ذلك

"Artificial intelligence could end mankind."

"الذكاء الاصطناعي يمكن ان يقضي على الجنس البشري".

Elon Musk warns that it's an existential risk

ايلون مسك حذر من انه خطر وجودي

and one of the greatest risks that we face as a civilization.

وواحد من اكبر المخاطر التي سنواجهها كحضارة.

Bill Gates has made the point,

قدم بيل غيتس هذه النقطة

"I don't understand why people aren't more concerned."

"انا لا افهم لماذا الناس ليسوا اكثر قلقا".

But these views --

ولكن هذه الآراء--

they're part of the story.

انهم جزء من القصة.

The math, the models,

الرياضيات، النماذج

the basic building blocks of artificial intelligence

القواعد الاساسية للذكاء إلإصطناعي

are something that we call access and all work with.

هو شيء نستطيع كلنا الوصول إليه و العمل به

We have open-source tools for machine learning and intelligence

لدينا ادوات مفتوحة المصدر للتعلم الآلي و الذكاء

that we can contribute to.

التي يمكننا المساهمة فيها.

And beyond that, we can share our experience.

و بعد ذلك، يمكننا ان نشارك تجربتنا

We can share our experiences with technology and how it concerns us

يمكننا ان نشارك تجاربنا مع التكنولوجيا و كيف تقلقنا

and how it excites us.

و كيف تحمسنا.

We can discuss what we love.

يمكننا مناقشة ما نحب.

We can communicate with foresight

يمكننا التواصل مع البصيرة

about the aspects of technology that could be more beneficial

عن جوانب التكنولوجيا التي سوف تكون مفيدة اكثر

or could be more problematic over time.

او التي قد تكون اكثر صعوبة مع مرور الوقت.

If we all focus on opening up the discussion on AI

لو ركزنا على الانفتاح في مناقشة الذكاء الاصطناعي

with foresight towards the future,

مع البصيرة تجاه المستقبل،

this will help create a general conversation and awareness

هذا سوف يساعد على خلق محادثات عامة و وعي

about what AI is now,

عن ما هو الذكاء الأصطناعي الآن،

what it can become

و ماذا سوف يكون

and all the things that we need to do

و كل الأشياء التي نحن بحاجة ان نفعلها

in order to enable that outcome that best suits us.

من أجل تحقيق هذه النتيجة، بما يناسبنا

We already see and know this in the technology that we use today.

نحن نرى و نعلم بالفعل هذا في التكنولوجيا التي نستخدمها اليوم.

We use smart phones and digital assistants and Roombas.

نحن نستخدم الهواتف الذكية والآلات الحاسبة و المكانس الحديثة.

Are they evil?

هل هي مضرة؟

Maybe sometimes.

أحيانا في بعض الأوقات.

Are they beneficial?

هل هي نافعة ؟

Yes, they're that, too.

نعم، انها كذلك ايضا.

And they're not all the same.

و كلها ليست مثل بعض

And there you already see a light shining on what the future holds.

وهناك ترى بالفعل ضوءا ساطعا يدل على ما يحمله المستقبل.

The future continues on from what we build and create right now.

المستقبل لا يزال مستمر بفضل الذي نبنيه و ننشئه الآن

We set into motion that domino effect

نبدأ في حركة تأثير الدينامو

that carves out AI's evolutionary path.

التي تقطع الطريق التطوري للذكاء الإصطناعي

In our time right now, we shape the AI of tomorrow.

في وقتنا الحالي نحن نشكل الذكاء الاصطناعي للغد.

Technology that immerses us in augmented realities

التكنولوجيا التي تغمرنا في الواقع المعزز

bringing to life past worlds.

يجلب الحياة لعوالم الماضي.

Technology that helps people to share their experiences

التكنولوجيا التي تساعد الناس على مشاركة تجاربهم

when they have difficulty communicating.

عندما يكون عندهم صعوبة في التواصل.

Technology built on understanding the streaming visual worlds

التكنولوجيا مبنية على فهم العوالم البصرية المتدفقة

used as technology for self-driving cars.

تستخدم كتكنولوجيا للسيارات ذاتية القيادة.

Technology built on understanding images and generating language,

التكنولوجيا مبنية على فهم الصور و إخراج اللغة،

evolving into technology that helps people who are visually impaired

تتطور التكنولوجيا التي تساعد الناس الذين يعانون من ضعف البصر

be better able to access the visual world.

لتكون اكثر قدرة على الوصول للعالم المرئي.

And we also see how technology can lead to problems.

و نحن ايضا نرى كيف يمكن أن تؤدي التكنولوجيا إلى مشكلات.

We have technology today

لدينا تكنولوجيا اليوم

that analyzes physical characteristics we're born with --

هذا يحلل الخصائص الجسمانية التي ولدنا بها --

such as the color of our skin or the look of our face --

مثل لون بشرتنا او منظر وجهنا --

in order to determine whether or not we might be criminals or terrorists.

من أجل تحديد إذا كان من الممكن أن نكون مجرمين أو إرهابين.

We have technology that crunches through our data,

لدينا تكنولوجيا بإمكانها اختراق بياناتنا،

even data relating to our gender or our race,

حتى البيانات المتعلقة بنوع جنسنا أوإثنيتنا،

in order to determine whether or not we might get a loan.

من أجل تحديد إذا كان بإمكاننا الحصول على قرض ام لا.

All that we see now

كل الذي نراه الآن

is a snapshot in the evolution of artificial intelligence.

هي مجرد لقطة في تطوير الذكاء الإصطناعي.

Because where we are right now,

لأننا حيث نوجد الآن،

is within a moment of that evolution.

في غضون لحظة من هذا التطور.

That means that what we do now will affect what happens down the line

هذا يعني إن ما يحدث الآن سيؤثر على ما يحدث بعده

and in the future.

و في المستقبل.

If we want AI to evolve in a way that helps humans,

إذا كنا نريد تطوير الذكاء الإصطناعي بطريقة تساعد البشر،

then we need to define the goals and strategies

إذن نحن بحاجة لمعرفة الأهداف و الاستراتيجيات

that enable that path now.

التي تمكننا من هذا الطريق الآن.

What I'd like to see is something that fits well with humans,

الذي أرغب في رؤيته هو شيء يتناسب بشكل جيد مع البشر،

with our culture and with the environment.

مع ثقافتنا و بيئتنا .

Technology that aids and assists those of us with neurological conditions

التكنولوجيا التي تساعد و تمكن هؤلاء الناس الذين يعانون من ظروف صعبة.

or other disabilities

أو ذوي الإحتياجات الخاصة

in order to make life equally challenging for everyone.

من جعل الحياة تحد مساو للجميع.

Technology that works

التكنولوجيا التي تعمل

regardless of your demographics or the color of your skin.

بغض النظر عن خلفيتك الاقتصادية أو لون بشرتك.

And so today, what I focus on is the technology for tomorrow

و حتى اليوم ما أركز عليه هو تكنولوجيا الغد

and for 10 years from now.

ولمدة عشر سنوات من الآن .

AI can turn out in many different ways.

الذكاء الإصطناعي يمكن أن يتحول لطرق مختلفة.

But in this case,

ولكن في هذه الحالة

it isn't a self-driving car without any destination.

أنها ليست سيارة ذاتية القيادة بدون أي هدف.

This is the car that we are driving.

هذه السيارة التي نسوقها.

We choose when to speed up and when to slow down.

نحن نختار متى نسرع و متى نبطئ.

We choose if we need to make a turn.

نحن نختار إذا كنا نريد ان نعمل جولة.

We choose what the AI of the future will be.

نحن نختار ماذا سيكون الذكاء الإصطناعي في المستقبل.

There's a vast playing field

هناك مجال واسع للعب

of all the things that artificial intelligence can become.

في كل الأشياء الذي يستطيع ان يفعلها الذكاء الإصطناعي.

It will become many things.

ستصبح أشياء عديدة.

And it's up to us now,

و الموضوع يرجع إلينا الآن،

in order to figure out what we need to put in place

من أجل معرفة ما نحن بحاجة لوضعه في المكان الصحيح

to make sure the outcomes of artificial intelligence

للتأكد من أن نتائج الذكاء الإصطناعي

are the ones that will be better for all of us.

ستكون الأفضل لنا جميعا.

Thank you.

شكرا.

(Applause)

(تصفيق)