How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

المترجم: Zeinab Omar المدقّق: Norah Al Thunayan

How many decisions have been made about you today,

كم عدد القرارات التي أخذها نيابة عنك اليوم،

or this week or this year,

أو هذا الأسبوع أو هذا العام

by artificial intelligence?

الذكاء الاصطناعي؟

I build AI for a living

عملي هو بناء الذكاء الاصطناعي

so, full disclosure, I'm kind of a nerd.

لذا، لأكون صريحة معكم، أنا مهووسة نوعاً ما.

And because I'm kind of a nerd,

ولأنني مهووسة،

wherever some new news story comes out

عندما يصدر خبر

about artificial intelligence stealing all our jobs,

عن سرقة الذكاء الاصطناعي لأعمالنا،

or robots getting citizenship of an actual country,

أو حصول الروبوتات على جنسية دولة،

I'm the person my friends and followers message

أنا الشخص الذي يراسله أصدقاؤه ومتابعينه،

freaking out about the future.

ليفزعوا من المستقبل.

We see this everywhere.

نحن نرى هذا في كل مكان.

This media panic that our robot overlords are taking over.

هلع الإعلام بسبب غزو أسيادنا الروبوتات.

We could blame Hollywood for that.

بإمكاننا إلقاء اللوم على هوليوود.

But in reality, that's not the problem we should be focusing on.

لكن في الواقع، هذه ليست المشكلة الأساسية.

There is a more pressing danger, a bigger risk with AI,

هناك خطر أكثر إلحاحًا ومجازفة أكبر

that we need to fix first.

وعلينا إصلاحهم أولًا.

So we are back to this question:

وهذا يرجعنا للسؤال السابق:

How many decisions have been made about you today by AI?

كم عدد القرارات التي أخذها الذكاء الاصناعي نيابة عنك اليوم؟

And how many of these

وكم منها

were based on your gender, your race or your background?

كان مبنيا على نوعك، أو عرقك، أو خلفيتك؟

Algorithms are being used all the time

نستخدم الحلول الحسابية طوال الوقت

to make decisions about who we are and what we want.

لاتخاذ القرارات بشأن هوياتنا وحاجاتنا.

Some of the women in this room will know what I'm talking about

بعض النساء هنا ستفهمن عما أتحدث

if you've been made to sit through those pregnancy test adverts on YouTube

إذا شاهدتن إعلانات الحمل على اليوتيوب

like 1,000 times.

لآلاف المرات،

Or you've scrolled past adverts of fertility clinics

أو تعثرتن في إعلانات عن عيادات الخصوبة

on your Facebook feed.

أثناء تصفحكن للفيسبوك.

Or in my case, Indian marriage bureaus.

أو كما في حالتي، مكاتب الزواج الهندية.

(Laughter)

(ضحك)

But AI isn't just being used to make decisions

لكننا لا نستخدم الذكاء الاصطناعي لاتخاذ قرارات بشأن

about what products we want to buy

المنتجات التي نود شراءها

or which show we want to binge watch next.

أو المسلسلات التي نود الإفراط في مشاهدتها.

I wonder how you'd feel about someone who thought things like this:

كيف ستشعرون حيال شخص بهذا الفكر:

"A black or Latino person

"شخص أسود أو لاتيني

is less likely than a white person to pay off their loan on time."

يكون أقل قابلية من نظيره الأبيض لسداد قرضه في الوقت المناسب."

"A person called John makes a better programmer

"جون أفضل من ماري

than a person called Mary."

في البرمجة."

"A black man is more likely to be a repeat offender than a white man."

"احتمالية معاودة شخص أسود للإجرام أكثر من الأبيض."

You're probably thinking,

قد تفكرون،

"Wow, that sounds like a pretty sexist, racist person," right?

"يا له من شخص عنصري،" صحيح؟

These are some real decisions that AI has made very recently,

هذه بعض استنتاجات الذكاء الاصطناعي مؤخرًا،

based on the biases it has learned from us,

المبنية على تحيزاتنا،

from the humans.

نحن البشر.

AI is being used to help decide whether or not you get that job interview;

يستخدم الذكاء الاصطناعي لتحديد قبولك في المقابلة؛

how much you pay for your car insurance;

مبلغ تأمين سيارتك؛

how good your credit score is;

تقييم درجة ائتمانك المصرفي؛

and even what rating you get in your annual performance review.

أو حتى تقييم أدائك السنوي.

But these decisions are all being filtered through

ولكن ما يحدد كل هذا

its assumptions about our identity, our race, our gender, our age.

هو فكرته عن هويتنا وعرقنا وجنسنا وسننا.

How is that happening?

كيف يحدث هذا؟

Now, imagine an AI is helping a hiring manager

الآن، تخيلوا إذا استعان مدير توظيف بالذكاء الاصطناعي

find the next tech leader in the company.

في بحثه عن رائد تقني جديد للشركة.

So far, the manager has been hiring mostly men.

حتى الآن، لم يوظف المدير إلا الرجال.

So the AI learns men are more likely to be programmers than women.

عندها تقرر الآلة أن الرجال أنسب للبرمجة من النساء.

And it's a very short leap from there to:

وحينها لن يطل الأمر حتى يصبح

men make better programmers than women.

الرجال مبرمجون أفضل من النساء.

We have reinforced our own bias into the AI.

لقد رسخنا انحيازنا في الذكاء الاصطناعي.

And now, it's screening out female candidates.

وبالتالي، يقوم باستبعاد النساء المرشحات.

Hang on, if a human hiring manager did that,

مهلًا، إذا كانت تلك فعلة المدير،

we'd be outraged, we wouldn't allow it.

لغضبنا، ومنعنا حدوثها.

This kind of gender discrimination is not OK.

هذا التمييز الجنسي ليس مقبولًا.

And yet somehow, AI has become above the law,

ومع ذلك، أصبح الذكاء الاصطناعي فوق القانون،

because a machine made the decision.

لأن الآلة اتخذت القرار.

That's not it.

ليس هذا فحسب.

We are also reinforcing our bias in how we interact with AI.

نحن نرسخ انحيازنا في تفاعلنا مع الذكاء الاصطناعي ايضا.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

هل سبق أن استخدمتم مساعدة صوتية كسيري، أليكسا، أو كورتانا؟

They all have two things in common:

كلهن تشتركن في شيئين:

one, they can never get my name right,

أولًا: استحالة نطق اسمي صحيحًا،

and second, they are all female.

ثانيًا: كونهن نساء.

They are designed to be our obedient servants,

لقد صُمموا على السمع والطاعة،

turning your lights on and off, ordering your shopping.

من التحكم في مفتاح النور، إلى طلب مشترياتك.

You get male AIs too, but they tend to be more high-powered,

هناك المقابل المذكر أيضًا، لكنهم ذوو قدرة أعلى،

like IBM Watson, making business decisions,

مثل آي بي إم واتسون صاحب القرارات المهنية،

Salesforce Einstein or ROSS, the robot lawyer.

سيلز فورس آينشتاين أو روس، الروبوت المحامي.

So poor robots, even they suffer from sexism in the workplace.

حتى الروبوتات المساكين يعانون من التمييز الجنسي في العمل.

(Laughter)

(ضحك)

Think about how these two things combine

تأملوا كيف يختلط الأمران معًا

and affect a kid growing up in today's world around AI.

ويُأثرا على الأطفال في عصر الذكاء الاصطناعي.

So they're doing some research for a school project

وكذلك عند قيامهم ببحث مدرسي

and they Google images of CEO.

وأثناء البحث عن صور للمدير التنفيذي

The algorithm shows them results of mostly men.

تظهر معظم النتائج رجال.

And now, they Google personal assistant.

والآن يبحثون عن المساعد الشخصي.

As you can guess, it shows them mostly females.

كما توقعتم، معظم النتائج نساء.

And then they want to put on some music, and maybe order some food,

ومن ثم يودون سماع الموسيقى، وربما طلب الطعام،

and now, they are barking orders at an obedient female voice assistant.

فيعطون الأوامر لمساعدة صوتية مطيعة.

Some of our brightest minds are creating this technology today.

بعض من ألمع العقول يصوغون هذه التكنولوجيا اليوم.

Technology that they could have created in any way they wanted.

والتي كان من الممكن أن يصوغوها كيفما شاؤوا.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

ولكنهم اختاروا صياغتها على غرار السكرتارية في "ماد مان" خلال الخمسينيات.

Yay!

مرحى!

But OK, don't worry,

لكن، لا داعي للقلق.

this is not going to end with me telling you

لن ينتهي هذا بإخباري إياكم

that we are all heading towards sexist, racist machines running the world.

أننا متجهون نحو عالم تحكمه آلات عنصرية.

The good news about AI is that it is entirely within our control.

الجانب المشرق هو أننا لنا كامل السيطرة عليها.

We get to teach the right values, the right ethics to AI.

نستطيع تعليمها القيم والأخلاق السليمة.

So there are three things we can do.

هناك ثلاثة أشياء باستطاعتنا عملهم.

One, we can be aware of our own biases

أولاً، إدراكنا لتحيزنا

and the bias in machines around us.

وتحيز الآلات حولنا.

Two, we can make sure that diverse teams are building this technology.

ثانياً، التأكد من تنوع الفرق التي تعمل على هذه التكنولوجيا.

And three, we have to give it diverse experiences to learn from.

وثالثا، علينا إعطائها خبرات متنوعة لتتعلم منها.

I can talk about the first two from personal experience.

يمكنني التحدث عن أول شيئين بناء على خبراتٍ خاصة.

When you work in technology

عندما تعملون بالتكنولوجيا

and you don't look like a Mark Zuckerberg or Elon Musk,

دون أن تشبهون مارك زوكربرغ أو إلون ماسك،

your life is a little bit difficult, your ability gets questioned.

تصبح حياتكم أكثر صعوبة، ويتم التشكيك بقدراتكم.

Here's just one example.

فعلى سبيل المثال:

Like most developers, I often join online tech forums

كمعظم المطورين، عادة ما أنضم لمنتديات تكنولوجية عبر الانترنت

and share my knowledge to help others.

وأشارك معرفتي لمساعدة الآخرين.

And I've found,

ووجدت

when I log on as myself, with my own photo, my own name,

أنه عندما أسجل الدخول بشخصيتي، مستخدمة صورتي واسمي،

I tend to get questions or comments like this:

أحصل على أسئلة وتعليقات من نوع:

"What makes you think you're qualified to talk about AI?"

"ماذا يجعلك تظنين أنك تصلحين للتحدث عن الذكاء الاصطناعي؟"

"What makes you think you know about machine learning?"

"أتظنين أنك تعرفين شيئا عن تعلم الآلة؟"

So, as you do, I made a new profile,

لذا، أنشأت حسابًا جديدًا،

and this time, instead of my own picture, I chose a cat with a jet pack on it.

هذه المرة، بدل صورتي الخاصة، وضعت قطة بحزام طيران.

And I chose a name that did not reveal my gender.

واخترت اسمًا لم يظهر نوعي.

You can probably guess where this is going, right?

بإمكانكم التنبؤ بما سيحدث، صحيح؟

So, this time, I didn't get any of those patronizing comments about my ability

هذه المرة لم أحصل على أي من التعليقات المتسلطة على قدراتي

and I was able to actually get some work done.

واستطعت بالفعل إنجاز عملي.

And it sucks, guys.

يا له من أمر سخيف بالفعل.

I've been building robots since I was 15,

لقد بدأت صنع الروبوتات منذ عمر الخامسة عشر،

I have a few degrees in computer science,

وحصلت على عدة شهادات في علم الحاسوب،

and yet, I had to hide my gender

ورغم هذا، اضطررت لإخفاء جنسي

in order for my work to be taken seriously.

حتى يؤخذ عملي على محمل الجد.

So, what's going on here?

فما الفكرة هنا؟

Are men just better at technology than women?

هل الرجال حقًا أفضل في التكنولوجيا من النساء؟

Another study found

ووجدت دراسة أخرى

that when women coders on one platform hid their gender, like myself,

أنه عندما أخفت نساء مبرمجات جنسهن على منصة، مثلي،

their code was accepted four percent more than men.

تم قبول برمجتهن أكثر من الرجال بأربعة بالمائة.

So this is not about the talent.

إذًا، فإنها ليست مسألة موهبة.

This is about an elitism in AI

هذه مسألة نخبوية الذكاء الاصطناعي

that says a programmer needs to look like a certain person.

التي تقرر شكلًا محددًا للمبرمج.

What we really need to do to make AI better

ما علينا فعله لتحسين الذكاء الاصطناعي

is bring people from all kinds of backgrounds.

هو الاستعانة بأناس من جميع الخلفيات.

We need people who can write and tell stories

نحتاج ناس بإمكانها سرد وحكي قصص

to help us create personalities of AI.

تساعدنا على خلق شخصيات له.

We need people who can solve problems.

ناس متمكنة من حل المشاكل.

We need people who face different challenges

ناس تواجه تحديات مختلفة

and we need people who can tell us what are the real issues that need fixing

وتستطيع تحديد الأمور التي علينا إصلاحها

and help us find ways that technology can actually fix it.

وإيجاد طرق لحلها بالتكنولوجبا.

Because, when people from diverse backgrounds come together,

لأنه عندما يتجمع ناس ذوو خلفيات متعددة،

when we build things in the right way,

وعندما نبني الأشياء بطريقة سليمة،

the possibilities are limitless.

تصبح الاحتمالات لا حصر لها.

And that's what I want to end by talking to you about.

وهذا ما أود أن أختم به

Less racist robots, less machines that are going to take our jobs --

القليل من الروبوتات العنصرية، القليل من الآلات التي تستحوذ على أعمالنا--

and more about what technology can actually achieve.

والكثير مما تستطيع التكنولوجيا تحقيقه.

So, yes, some of the energy in the world of AI,

صحيح أن جزء من المجهود في عالم الذكاء الاصطناعي،

in the world of technology

وعالم التكنولوجيا

is going to be about what ads you see on your stream.

ينصب في نوعية الإعلانات التي تراها أثناء تصفحك.

But a lot of it is going towards making the world so much better.

لكن الكثير منه يستخدم في جعل العالم مكان أفضل.

Think about a pregnant woman in the Democratic Republic of Congo,

تخيلوا امرأة حامل في جمهورية الكونغو الديمقراطية،

who has to walk 17 hours to her nearest rural prenatal clinic

تضطر للمشي 17 ساعة لأقرب عيادة ما قبل الولادة ريفية

to get a checkup.

للحصول على فحوصات.

What if she could get diagnosis on her phone, instead?

ماذا لو استطاعت تلقي تشخيص على هاتفها؟

Or think about what AI could do

أو تخيلوا ما يمكن للذكاء الاصطناعي فعله

for those one in three women in South Africa

في دعم كل سيدة من كل ثلاث في جنوب أفريقيا

who face domestic violence.

تعاني من العنف المنزلي.

If it wasn't safe to talk out loud,

لو كان في التحدث خطرًا عليها،

they could get an AI service to raise alarm,

تقدر أن تستغيث بواسطته،

get financial and legal advice.

أو تحصل على المشورة المالية أو القانونية.

These are all real examples of projects that people, including myself,

تلك أمثلة واقعية من مشاريع يقوم بها أشخاص، وأنا منهم،

are working on right now, using AI.

حاليًا باستخدام الذكاء الاصطناعي.

So, I'm sure in the next couple of days there will be yet another news story

أنا متأكدة أنه في غضون الأيام المقبلة ستكون هناك أخبار

about the existential risk,

عن خطر وجودي،

robots taking over and coming for your jobs.

كروبوتات تستحوذ على أعمالنا.

(Laughter)

(ضحك)

And when something like that happens,

وعندما يحدث شيء كهذا،

I know I'll get the same messages worrying about the future.

أعرف أنني سأستلم رسائل القلق نفسها.

But I feel incredibly positive about this technology.

ولكنني متفائلة بشأن هذه التكنولوجيا.

This is our chance to remake the world into a much more equal place.

هذه فرصتنا لخلق عالم مليء بالمساواة.

But to do that, we need to build it the right way from the get go.

ولننفذ هذا، علينا بناؤه كما يجب من البداية.

We need people of different genders, races, sexualities and backgrounds.

نحتاج ناس بمختلف الأنواع والأعراق والصفات الجنسية والخلفيات.

We need women to be the makers

والنساء لتكن فاعلات

and not just the machines who do the makers' bidding.

لا ماكينات لتنفيذ الأوامر.

We need to think very carefully what we teach machines,

علينا توخي الحذر مما نعلمه للماكينات،

what data we give them,

كالبيانات التي نقدمها لهم،

so they don't just repeat our own past mistakes.

حتى لا يكرروا أخطاءنا السابقة.

So I hope I leave you thinking about two things.

لذا آمل أن أترككم اليوم تفكرون في شيئين.

First, I hope you leave thinking about bias today.

أولًا: أن تغادروا وأنتم تتأملون فكرة الانحياز.

And that the next time you scroll past an advert

والمرة المقبلة التي تتعثرون فيها على إعلان

that assumes you are interested in fertility clinics

يفترض أنكم مهتمون بعيادات الخصوبة

or online betting websites,

أو بمواقع المراهنة،

that you think and remember

أنكم تعتقدون وتتذكرون

that the same technology is assuming that a black man will reoffend.

أنها التكنولوجيا نفسها التي تفترض أن الرجل الأسود سيعاود الإجرام.

Or that a woman is more likely to be a personal assistant than a CEO.

أو أن المرأة أكثر قابلية لتكون سكرتيرة من مديرة تنفيذية.

And I hope that reminds you that we need to do something about it.

وآمل أن يذكركم ذلك بأهمية تغيير هذا الوضع.

And second,

وثانيًا:

I hope you think about the fact

أرجو أن تتأملوا فكرة

that you don't need to look a certain way

أنكم لستم مطالبين بمظهر معين

or have a certain background in engineering or technology

أو خلفية معينة في الهندسة أو التكنولوجيا

to create AI,

لتصميم الذكاء الاصطناعي،

which is going to be a phenomenal force for our future.

الذي سيصبح قوة استثنائية لمستقبلنا.

You don't need to look like a Mark Zuckerberg,

لستم مضطرين لأن تشبهون مارك زوكربرج،

you can look like me.

بإمكانكم أن تشبهوني.

And it is up to all of us in this room

والأمر يرجع إلى كل من في هذه الغرفة

to convince the governments and the corporations

لنقنع الحكومات والشركات

to build AI technology for everyone,

ليصمموا تكنولوجيا ذكاء اصطناعي تصلح للجميع،

including the edge cases.

شاملة الحالات الهامشية،

And for us all to get education

ولنحصل كلنا على تثقيف

about this phenomenal technology in the future.

حول هذه التكنولوجيا المدهشة في المستقبل.

Because if we do that,

لأنه إن فعلنا ذلك،

then we've only just scratched the surface of what we can achieve with AI.

نكون فقط اقتربنا مما نستطيع تحقيقه بالذكاء الاصطناعي.

Thank you.

شكرا.

(Applause)

(تصفيق)