How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Translator: Behdad Khazaeli Reviewer: sadegh zabihi

How many decisions have been made about you today,

امروز چند تصمیم درباره شما،

or this week or this year,

یا این هفته، یا امسال،

by artificial intelligence?

توسط هوش مصنوعی گرفته شده؟

I build AI for a living

کار من ساختن هوش مصنوعی است

so, full disclosure, I'm kind of a nerd.

رک بگویم از آن خوره‌ها هستم.

And because I'm kind of a nerd,

و چون خوره هستم،

wherever some new news story comes out

هرجایی که خبر تازه‌ای بشنوم

about artificial intelligence stealing all our jobs,

از اینکه هوش مصنوعی همه کار‌هایمان را می‌دزدد،

or robots getting citizenship of an actual country,

یا ربات‌ها واقعا شهروند کشور می‌شوند،

I'm the person my friends and followers message

من کسی هستم که دوستان و هواداران به او پیغام می‌دهند

freaking out about the future.

و ترسشان از آینده را عنوان می‌کنند.

We see this everywhere.

این را همه‌ جا می‌بینیم.

This media panic that our robot overlords are taking over.

این ترس رسانه‌ای که فرمان‌روایان رباتیک ما دارند پیروز می‌شوند.

We could blame Hollywood for that.

می‌شود هالیوود را بخاطرش سرزنش کرد.

But in reality, that's not the problem we should be focusing on.

اما در واقع، این مشکلی نیست که باید رویش تمرکز کنیم.

There is a more pressing danger, a bigger risk with AI,

یک خطر مهمتر وجود دارد، خطری بزرگتر با هوش مصنوعی،

that we need to fix first.

که باید اول تصحیحش کرد.

So we are back to this question:

پس به این سوال بر می‌گردیم:

How many decisions have been made about you today by AI?

امروز هوش مصنوعی چند تصمیم درباره‌ات گرفته؟

And how many of these

و چند‌تای آنها

were based on your gender, your race or your background?

بر مبنای جنسیت، نژاد یا پیشینه‌ات بوده؟

Algorithms are being used all the time

دائما از الگوریتم‌ها

to make decisions about who we are and what we want.

در تصمیم‌گیری از اینکه که هستیم و چه می‌خواهیم استفاده می‌شود.

Some of the women in this room will know what I'm talking about

بعضی از خانم‌های حاضر در اینجا می‌دانند از چه صحبت می‌کنم

if you've been made to sit through those pregnancy test adverts on YouTube

اگر شما هم مجبور بودید آن تبلیغات آزمایش بارداری را

like 1,000 times.

روزی هزار بار روی یو‌تیوب ببینید.

Or you've scrolled past adverts of fertility clinics

یا اگر روزی تبلیغات کلینیک‌های بارور‌سازی را

on your Facebook feed.

روی فیس‌بوک دیده بودید.

Or in my case, Indian marriage bureaus.

یا در مورد من دفتر‌خانه‌های ازدواج هندی‌ها

(Laughter)

(خنده حضار)

But AI isn't just being used to make decisions

اما از هوش مصنوعی فقط برای تصمیم گیری

about what products we want to buy

در باره اینکه چه محصولی بخریم

or which show we want to binge watch next.

یا کدام برنامه تلویزیونی را می‌ببینیم استفاده نمی‌شود.

I wonder how you'd feel about someone who thought things like this:

دوست دارم احساس شما را در مورد کسانی که به این چیز‌ها فکر کرده‌اند بدانم:

"A black or Latino person

«سیاه‌پوست‌ها یا لاتین تبار‌ها

is less likely than a white person to pay off their loan on time."

کمتر احتمال دارد تا وامشان را سر وقت تسویه کنند.»

"A person called John makes a better programmer

«کسی که نامش جان باشد احتمالا برنامه نویس بهتری است

than a person called Mary."

از کسی که نامش مِری است.»

"A black man is more likely to be a repeat offender than a white man."

«یک مرد سیاه احتمال بیشتری دارد که یک جرم را چند بار مرتکب شود.»

You're probably thinking,

احتمالا فکر می‌کنید که،

"Wow, that sounds like a pretty sexist, racist person," right?

«عجب، خیلی جنسیتی، و تبعیض گرایانه است،» درسته؟

These are some real decisions that AI has made very recently,

این‌ها واقعا تصمیم‌هایی است که هوش مصنوعی همین اخیرا گرفته است،

based on the biases it has learned from us,

بر مبنای تمایلاتی که از ما یاد گرفته،

from the humans.

از انسانها.

AI is being used to help decide whether or not you get that job interview;

هوش مصنوعی برای کمک به تصمیم‌گیری برای انجام یک مصاحبه شغلی استفاده می‌شده؛

how much you pay for your car insurance;

چقدر برای بیمه ماشین پرداخت می‌کنی؛

how good your credit score is;

رتبه اعتباری‌ات چقدر خوب است؛

and even what rating you get in your annual performance review.

و در بازبینی سالانه کارایی، چه رتبه‌ای می‌گیری.

But these decisions are all being filtered through

اما همه این تصمیم‌ها

its assumptions about our identity, our race, our gender, our age.

بر مبنای فرضیاتی در مورد هویت ما، نژاد ما، جنسیت ما و سن ما گرفته می‌شود.

How is that happening?

چطور اتفاق می‌افتد؟

Now, imagine an AI is helping a hiring manager

فرض کنید که هوش مصنوعی می‌خواهد به مدیر استخدامی‌ کمک کند

find the next tech leader in the company.

تا یک راهبر فنی دیگر برای شرکت پیدا کند.

So far, the manager has been hiring mostly men.

تا حالا این مدیر بیشتر مردان را استخدام می‌کرده.

So the AI learns men are more likely to be programmers than women.

پس هوش مصنوعی یاد گرفته که احتمال اینکه مردها برنامه نویس بشوند بیشتر است.

And it's a very short leap from there to:

و از اینجا تا مرحله بعد تنها یک قدم است:

men make better programmers than women.

مردها از زنها برنامه‌نویس‌‌های بهتری هستند.

We have reinforced our own bias into the AI.

ما هوش مصنوعی را به تمایلات خودمان تجهیز کردیم.

And now, it's screening out female candidates.

و حالا، او خودش کاندیدا‌های زن را حذف می‌کند.

Hang on, if a human hiring manager did that,

ببین اگر یک مسئول استخدام مرد این کار را می‌کرد،

we'd be outraged, we wouldn't allow it.

ناراحت می‌شدیم، اجازه نمی‌دادیم.

This kind of gender discrimination is not OK.

این نوع از تبعیض‌های جنسیتی درست نیست.

And yet somehow, AI has become above the law,

با این همه حالا، هوش مصنوعی از قانون هم بالاتر رفته،

because a machine made the decision.

چون ماشین تصمیم می‌گیرد.

That's not it.

این تنها نیست.

We are also reinforcing our bias in how we interact with AI.

ما در رابطه با هوش مصنوعی هم تمایلات خودمان را وارد می کنیم.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

معمولا چقدر از دستیار‌های صوتی مانند سیری، اَلکسا یا کورتانا استفاده می‌کنید؟

They all have two things in common:

همه آنها دو چیز مشترک دارند:

one, they can never get my name right,

اول، هیچوقت اسمم را درست نمی‌گویند،

and second, they are all female.

و دوم، همه‌شان زن هستند.

They are designed to be our obedient servants,

طراحی شده‌اند تا مطیع و خدمتگذارمان باشند،

turning your lights on and off, ordering your shopping.

چراغ‌هایتان را خاموش روشن کنند، خریدتان را سفارش بدهند.

You get male AIs too, but they tend to be more high-powered,

هوش مصنوعی مذکر هم داریم، اما قرار بوده تا قوی‌تر باشند،

like IBM Watson, making business decisions,

مثل واتسون از آی بی ام، که تصمیم‌های تجاری می‌گیرد،

Salesforce Einstein or ROSS, the robot lawyer.

انیشتین از سیلزفورس، یا راس که وکیل ربات است.

So poor robots, even they suffer from sexism in the workplace.

بیچاره ربات‌ها، حتی آنها هم دچار تبعیض جنسی شغلی هستند.

(Laughter)

(خنده حضار)

Think about how these two things combine

حالا فکر کنید که چطور این دو با هم ترکیب می‌شوند

and affect a kid growing up in today's world around AI.

و روی کودکی که در جهان اطراف هوش مصنوعی بزرگ می‌شود اثر می‌گذارند.

So they're doing some research for a school project

تحقیقی روی یک پروژه در مدرسه انجام شده

and they Google images of CEO.

و آنها عکس مدیر عامل را با گوگل جستجو کرده‌اند.

The algorithm shows them results of mostly men.

و الگوریتم به آنها بیشتر تصویر مردان را نشان داده است.

And now, they Google personal assistant.

بعد آنها دستیار شخصی را با گوگل جستجو کردند.

As you can guess, it shows them mostly females.

و همانطور که حدس می‌زنید، بیشتر تصویر زن‌ها را نشان می‌دهد.

And then they want to put on some music, and maybe order some food,

بعد خواستند تا موسیقی پخش کند و غذا سفارش بدهند،

and now, they are barking orders at an obedient female voice assistant.

و حالا دارند سر دستیار صوتی زن داد می‌زنند.

Some of our brightest minds are creating this technology today.

این فناوری‌ها را بعضی از درخشان‌ترین اندیشمندان ما خلق می‌کنند.

Technology that they could have created in any way they wanted.

فناوری که می‌توانستند به هر شکلی که می‌خواهند خلق کنند.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

اما خواستند تا آن را به شکل منشی‌های سریال «مَد من» دهه ۱۹۵۰ بسازند.

Yay!

چه عالی!

But OK, don't worry,

اما نگران نباشید.

this is not going to end with me telling you

قرار نیست صحبتم با گفتن اینکه

that we are all heading towards sexist, racist machines running the world.

ما به سوی ماشین‌های جنسیتی، نژاد پرستانه می‌رویم تمام شود.

The good news about AI is that it is entirely within our control.

خبر خوب درباره هوش مصنوعی اینکه کاملا در اختیار خودمان است.

We get to teach the right values, the right ethics to AI.

ما باید ارزش‌های صحیح، اخلاقیات درست را به آن آموزش دهیم.

So there are three things we can do.

می‌توانیم سه کار انجام دهیم.

One, we can be aware of our own biases

اول، می‌شود از تمایلات خودمان

and the bias in machines around us.

و تمایلات ماشین‌های اطرافمان آگاه باشیم.

Two, we can make sure that diverse teams are building this technology.

دوم، مطمئن شویم که گروهی با افکار متنوع این فناوری را می‌سازند.

And three, we have to give it diverse experiences to learn from.

و سوم، باید تجربیاتی متنوع برایش ایجاد کنیم تا از آن یاد بگیرد.

I can talk about the first two from personal experience.

می‌توانم در دو مورد اول از تجربه خودم برایتان بگویم.

When you work in technology

اگر کارتان فناوری باشد

and you don't look like a Mark Zuckerberg or Elon Musk,

و شبیه مارک زاکربرگ یا ایلان ماسک نباشید،

your life is a little bit difficult, your ability gets questioned.

کمی زندگی برایتان سخت است، توانایی‌هایتان زیر سوال است.

Here's just one example.

مثالی می‌آورم،

Like most developers, I often join online tech forums

مثل خیلی از برنامه نویس‌ها، اغلب عضو انجمن‌های آنلاین فناوری می‌شوم

and share my knowledge to help others.

و اطلاعاتم را برای کمک به دیگران به اشتراک می‌گذارم.

And I've found,

فهمیدم که،

when I log on as myself, with my own photo, my own name,

اگر به عنوان خودم وارد شوم، با عکس خودم، اسم خودم،

I tend to get questions or comments like this:

معمولا سوال‌ها یا نظراتی مثل این را می‌گیرم:

"What makes you think you're qualified to talk about AI?"

«چرا فکر می‌کنی واجد شرایط صحبت در مورد هوش مصنوعی هستی؟»

"What makes you think you know about machine learning?"

«چرا فکر می‌کنی که یادگیری ماشینی را می‌دانی؟»

So, as you do, I made a new profile,

پس من هم مثل شما، پروفایل جدیدی ساختم،

and this time, instead of my own picture, I chose a cat with a jet pack on it.

و این دفعه به جای عکس خودم، عکس یک گربه با موتور جت را گذاشتم.

And I chose a name that did not reveal my gender.

و اسمی را انتخاب کردم که جنسیتم را نشان ندهد.

You can probably guess where this is going, right?

احتمالا فهمیده‌اید که به کجا می‌رسم، نه؟

So, this time, I didn't get any of those patronizing comments about my ability

خوب این بار، هیچکدام از آن پیام‌های از موضع بالا در مورد تواناییم را نگرفتم

and I was able to actually get some work done.

و واقعا توانستم کار‌هایی انجام دهم.

And it sucks, guys.

و دوستان این خیلی بد است.

I've been building robots since I was 15,

من از ۱۵ سالگی روبات می‌سازم،

I have a few degrees in computer science,

و چندین مدرک در علوم رایانه دارم،

and yet, I had to hide my gender

و هنوز باید جنسیتم را مخفی کنم

in order for my work to be taken seriously.

تا کارم جدی گرفته شود.

So, what's going on here?

اینجا چه خبر است؟

Are men just better at technology than women?

آیا مردان در فناوری از زنان بهترند؟

Another study found

تحقیق دیگری می‌گوید

that when women coders on one platform hid their gender, like myself,

که برنامه نویسان زنی که مثل من جنسیتشان را مخفی می‌کنند،

their code was accepted four percent more than men.

برنامه‌هایشان چهار درصد بیشتر از مردان پذیرفته می‌شود.

So this is not about the talent.

پس ربطی به استعداد ندارد.

This is about an elitism in AI

مربوط به نخبه‌گرایی در هوش مصنوعی است

that says a programmer needs to look like a certain person.

که می‌گوید یک برنامه نویس باید شکل خاصی باشد.

What we really need to do to make AI better

کاری که واقعا باید انجام دهیم تا هوش مصنوعی را بهتر کنیم

is bring people from all kinds of backgrounds.

این است که آدمهایی با سوابق متفاوت را کنار هم قرار دهیم.

We need people who can write and tell stories

افرادی را می‌خواهیم که بتوانند بنویسند و داستان بگویند

to help us create personalities of AI.

تا بتوانیم شخصیت‌های هوش مصنوعی را بسازیم.

We need people who can solve problems.

آدمهایی می‌خواهیم که مشکلات را حل کنند،

We need people who face different challenges

آدمهایی می‌خواهیم که با چالش‌های مختلف مواجه باشند

and we need people who can tell us what are the real issues that need fixing

و ما به افرادی نیاز داریم تا بگویند که کدام مسائل واقعا باید حل شوند

and help us find ways that technology can actually fix it.

و کمک کنند تا راه‌هایی برای حل آنها توسط فناوری پیدا کنیم.

Because, when people from diverse backgrounds come together,

چون، وقتی افرادی با سوابق مختلف کنار هم قرار گیرند،

when we build things in the right way,

وقتی چیز‌‌ها را به شکل صحیحی بسازیم،

the possibilities are limitless.

دیگر محدودیتی نخواهیم داشت.

And that's what I want to end by talking to you about.

و می‌خواهم با صحبت در این باره تمام کنم.

Less racist robots, less machines that are going to take our jobs --

ربات‌های نژاد‌پرست کم شوند، ماشین‌هایی که کار‌هایمان را می‌گیرند باید کم شوند --

and more about what technology can actually achieve.

و آنهایی که فناوری واقعا برایمان می‌آورد بیشتر شوند.

So, yes, some of the energy in the world of AI,

درست است بخشی از انرژی در دنیای هوش مصنوعی،

in the world of technology

در جهان فناوری

is going to be about what ads you see on your stream.

صرف تبلیغاتی می‌شود که در این جریان می‌بینید.

But a lot of it is going towards making the world so much better.

اما بیشتر آن برای بهتر شدن جهان صرف می‌شود.

Think about a pregnant woman in the Democratic Republic of Congo,

به زنی باردار در جمهوری دموکراتیک کنگو توجه کنید،

who has to walk 17 hours to her nearest rural prenatal clinic

که باید ۱۷ ساعت تا نزدیکترین کلینیک زنان پیاده راه برود

to get a checkup.

برای معاینه.

What if she could get diagnosis on her phone, instead?

چه می‌شد اگر می‌توانست توسط تلفنش معاینه شود؟

Or think about what AI could do

یا فکر کنید هوش مصنوعی می‌تواند چه کاری

for those one in three women in South Africa

برای یکی از هر سه زن در آفریقای جنوبی

who face domestic violence.

که دچار خشونت‌های خانوادگی هستند انجام دهد.

If it wasn't safe to talk out loud,

اگر بلند صحبت کردن امن نباشد،

they could get an AI service to raise alarm,

می‌توانند از هوش مصنوعی برای فعال کردن اخطار استفاده کنند،

get financial and legal advice.

و راهنمایی مالی و قانونی بگیرند.

These are all real examples of projects that people, including myself,

این‌ها مثال‌هایی واقعی از پروژه‌هایی است که افرادی، مثل خودم،

are working on right now, using AI.

با استفاده از هوش مصنوعی، همین حالا رویش کار می‌کنند.

So, I'm sure in the next couple of days there will be yet another news story

مطمئنم که ظرف چند روز آینده داستانی خبری

about the existential risk,

از تهدید وجودی اینکه،

robots taking over and coming for your jobs.

رباتها می‌آیند و کارهایتان را می‌گیرند خواهیم داشت.

(Laughter)

(خنده حضار)

And when something like that happens,

و وقتی چیزی شبیه این اتفاق بیفتد،

I know I'll get the same messages worrying about the future.

می‌دانم که همین پیام نگرانی از آینده را می‌گیرم.

But I feel incredibly positive about this technology.

اما بی‌نهایت در مورد این فناوری مثبت هستم.

This is our chance to remake the world into a much more equal place.

این فرصتی برای تبدیل دوباره جهان به مکانی خیلی بیشتر برابر است.

But to do that, we need to build it the right way from the get go.

اما برای این کار باید به شکلی صحیح آن را شروع کنیم.

We need people of different genders, races, sexualities and backgrounds.

ما به افرادی با جنسیت‌ها، نژاد‌ها و سوابق مختلف نیاز داریم.

We need women to be the makers

نیاز داریم تا زنان سازنده باشند

and not just the machines who do the makers' bidding.

نه ماشین‌هایی که خواسته‌های سازندگان را انجام می‌دهند.

We need to think very carefully what we teach machines,

باید به دقت فکر کنیم که چه چیزی به ماشین‌ها می‌آموزیم،

what data we give them,

چه اطلاعاتی به آنها می‌دهیم،

so they don't just repeat our own past mistakes.

تا آنها فقط اشتباهات گذشته ما را تکرار نکنند.

So I hope I leave you thinking about two things.

امیدوارم که بعد از رفتنم شما به دو چیز فکر کنید.

First, I hope you leave thinking about bias today.

اول، امیدوارم که به تمایلات امروز فکر نکنید.

And that the next time you scroll past an advert

و بار بعدی که از روی تبلیغی عبور می‌کنید

that assumes you are interested in fertility clinics

که فکر می‌کند شما به کلینیک‌های باروری علاقه‌‌مندید

or online betting websites,

یا وب‌سایت‌های شرط بندی،

that you think and remember

فکر کنید و بیاد آورید

that the same technology is assuming that a black man will reoffend.

که همین تکنولوژی فرض می‌کند که مرد سیاه‌پوست قانون‌شکن است.

Or that a woman is more likely to be a personal assistant than a CEO.

یا اینکه زنها احتمال بیشتری دارد که دستیار شوند تا مدیرعامل.

And I hope that reminds you that we need to do something about it.

و امیدوارم که به یادتان بیاورد باید کاری در موردش انجام دهیم.

And second,

و دوم،

I hope you think about the fact

امیدوارم در باره این واقعیت فکر کنید

that you don't need to look a certain way

که نیازی نیست تا ظاهری خاص

or have a certain background in engineering or technology

یا سابقه‌ای ویژه در مهندسی یا فناوری داشته باشید

to create AI,

تا هوش مصنوعی خلق کنید.

which is going to be a phenomenal force for our future.

که نیروی خالق العاده‌ای برای آینده‌مان خواهد بود.

You don't need to look like a Mark Zuckerberg,

نیازی نیست شبیه مارک زاکربرگ باشید.

you can look like me.

می‌توانید شکل من باشید.

And it is up to all of us in this room

و این بر عهده همه ما در این سالن است

to convince the governments and the corporations

تا دولت‌ها و شرکت‌ها را قانع کنیم

to build AI technology for everyone,

تا فناوری هوش مصنوعی را برای همه بسازند،

including the edge cases.

حتی آنهایی که مرزی هستند.

And for us all to get education

و برای ما تا همه آموزش ببینند

about this phenomenal technology in the future.

در مورد این فناوری فوق‌العاده آینده.

Because if we do that,

چون اگر این کار را انجام دهیم،

then we've only just scratched the surface of what we can achieve with AI.

تازه تنها به لایه سطحی چیزی رسیده‌ایم که با هوش‌مصنوعی می‌توانیم انجام دهیم.

Thank you.

متشکرم.

(Applause)

(تشویق حضار)