How I'm fighting bias in algorithms | Joy Buolamwini

Translator: Iman Mirzadeh Reviewer: soheila Jafari

Hello, I'm Joy, a poet of code,

سلام ، من جوی هستم ، شاعر کد،

on a mission to stop an unseen force that's rising,

در یک ماموریت برای متوقف کردن یک نیروی دیده نشده در حال ظهور،

a force that I called "the coded gaze,"

نیرویی که من آن را "نگاه رمزی" صدا می کنم

my term for algorithmic bias.

اصطلاح من برای تبعیض الگوریتمی.

Algorithmic bias, like human bias, results in unfairness.

تبعیض الگوریتمی، مانند تبعیض انسانی باعث نابرابری میشود.

However, algorithms, like viruses, can spread bias on a massive scale

با این حال،الگوریتم ها، مانند ویروس ها می تونن در ابعاد عظیم

at a rapid pace.

و سرعت زیادی، تبعیض رو گسترش یابند

Algorithmic bias can also lead to exclusionary experiences

تبعیض الگوریتمی همچنین میتونه باعث تجربیات انحصاری

and discriminatory practices.

و اعمال تبعیض آمیز بشه.

Let me show you what I mean.

بذارین منظورمو بهتون نشون بدم.

(Video) Joy Buolamwini: Hi, camera. I've got a face.

[فیلم] جوی: سلام دوربین. من یک صورت دارم.

Can you see my face?

میتونی صورتمو ببینی

No-glasses face?

صورت بدون عینکم رو؟

You can see her face.

تو میتونی صورتشو ببینی.

What about my face?

صورت من رو چطور؟

I've got a mask. Can you see my mask?

من یک ماسک دارم. می تونی ماسک من رو ببینی؟

Joy Buolamwini: So how did this happen?

پس چطور این اتفاق افتاد؟

Why am I sitting in front of a computer

چرا من روبه روی یک کامپیوتر نشستم

in a white mask,

به همراه یک ماسک سفید

trying to be detected by a cheap webcam?

و تلاش می کنم تا به وسیله یک وب کم ارزان قیمت شناخته شوم؟

Well, when I'm not fighting the coded gaze

خب وقتی که من با "نگاه رمزی" مبارزه نمی کنم

as a poet of code,

به عنوان یک شاعر کد،

I'm a graduate student at the MIT Media Lab,

من یک دانشجوی تحصیلات تکمیلی در آزمایشگاه رسانه MIT هستم

and there I have the opportunity to work on all sorts of whimsical projects,

من آنجا فرصت دارم تا روی انواع پروژه های جالب و خیالبافانه کار کنم

including the Aspire Mirror,

مثل آینه آرزو

a project I did so I could project digital masks onto my reflection.

پروژه ای که می تواند روی تصویر من ماسک بگذارد

So in the morning, if I wanted to feel powerful,

پس در صبح، اگر من بخوام احساس قدرت کنم،

I could put on a lion.

میتونم ماسک یک شیر رو بذارم.

If I wanted to be uplifted, I might have a quote.

یا اگر بخواهم با روحیه باشم می توانم یک نقل قول ببینم.

So I used generic facial recognition software

بنابراین از یک دستگاه تشخیص چهره استفاده کردم

to build the system,

تا این سیستم رو بسازم،

but found it was really hard to test it unless I wore a white mask.

ولی فهمیدم که واقعا بدون ماسک سفید امکان تست این سیستم وجود نداره.

Unfortunately, I've run into this issue before.

متاسفانه قبلاً هم به این مشکل برخورد کرده بودم

When I was an undergraduate at Georgia Tech studying computer science,

وقتی که در دانشگاه Gerogia Tech دانشجوی کارشناسی رشته علوم کامپیوتر بودم،

I used to work on social robots,

روی ربات‌های اجتماعی کار میکردم،

and one of my tasks was to get a robot to play peek-a-boo,

و یکی از وظایفم این بود که به ربات بازی peek-a-boo رو یاد بدم

a simple turn-taking game

یک بازی نوبتی ساده (مثل دالّی کردن)

where partners cover their face and then uncover it saying, "Peek-a-boo!"

که تو اون به نوبت هرکی صورتشو میپوشونه و بعد پوشش رو بر میداره و میگه "peek-a-boo"

The problem is, peek-a-boo doesn't really work if I can't see you,

مشکل اینه که، این بازی اگر من نتونم ببینمتون فایده نداره

and my robot couldn't see me.

و ربات من نمی‌تونست من رو ببینه.

But I borrowed my roommate's face to get the project done,

ولی من صورت هم اتاقیم رو قرض گرفتم تا پروژم رو انجام بدم

submitted the assignment,

تمرین رو انجام دادم،

and figured, you know what, somebody else will solve this problem.

و فهمیدم که، میدونی چیه؟ یکی دیگه این مشکل رو حل خواهد کرد.

Not too long after,

مدت کوتاهی بعد از این ماجرا،

I was in Hong Kong for an entrepreneurship competition.

من برای یک مسابقه کارآفرینی در هنگ کنگ بودم.

The organizers decided to take participants

برگزارکنندگان تصیمیم گرفتن که شرکت کننده ها رو

on a tour of local start-ups.

به یک تور بازدید از استارتاپ های محلی ببرن

One of the start-ups had a social robot,

یکی از استارتاپ‌ها یک ربات اجتماعی داشت،

and they decided to do a demo.

و تصمیم گرفتن که یک دمو برگزار کنن.

The demo worked on everybody until it got to me,

دمو روی همه کار کرد تا اینکه نوبت من شد

and you can probably guess it.

و احتمالا میتونین حدس بزنین.

It couldn't detect my face.

که ربات نتونست صورت من رو تشخیص بده.

I asked the developers what was going on,

من از توسعه‌دهندگان ربات پرسیدم جریان چیه

and it turned out we had used the same generic facial recognition software.

و معلوم شد که همون نرم‌افزار تشخیص چهره‌ای رو استفاده میکردن که ما میکردیم.

Halfway around the world,

اون طرف دنیا،

I learned that algorithmic bias can travel as quickly

من یاد گرفتم که تبعیض الگوریتمی میتونه خیلی سریع سفر کنه

as it takes to download some files off of the internet.

به سرعت دانلود چندتا فایل از اینترنت.

So what's going on? Why isn't my face being detected?

حالا جریان چیه؟ چرا صورت من تشخیص داده نشد؟

Well, we have to look at how we give machines sight.

باید ببینیم که ما چطوری به ماشین‌ها توانایی دیدن میدیم.

Computer vision uses machine learning techniques

بینایی کامپیوتر برای تشخیص چهره از تکنیک‌های یادگیری ماشین استفاده میکنه

to do facial recognition.

So how this works is, you create a training set with examples of faces.

روش کارش اینطوریه که یک مجموعه داده آموزشی از نمونه صورت ها درست میکنید.

This is a face. This is a face. This is not a face.

این یک صورته. این یک صورته. این صورت نیست.

And over time, you can teach a computer how to recognize other faces.

و به مرور زمان، میتونین به کامپیوتر یاد بدین که چطوری صورت هارو تشخیص بده.

However, if the training sets aren't really that diverse,

اما اگه مجموعه داده آموزشی واقعا متنوع نباشه.

any face that deviates too much from the established norm

هر چهره‌ای که خیلی با معیار فرق کنه،

will be harder to detect,

تشخیصش سخت ‌تر میشه

which is what was happening to me.

که این برای من هم پیش اومد.

But don't worry -- there's some good news.

ولی نگران نباشین خبرهای خوبی برای شنیدن هستن

Training sets don't just materialize out of nowhere.

مجموعه داده آموزشی همینطوری از ناکجا آباد نمیان.

We actually can create them.

در واقع ما میسازیمشون.

So there's an opportunity to create full-spectrum training sets

پس این فرصت برای ساخت مجموعه‌ داده آموزشی متنوع و فراگیر وجود داره.

that reflect a richer portrait of humanity.

که تصویر غنی‌تری از انسانیت رو نشون بدن.

Now you've seen in my examples

شما در مثال‌های من دیدین که

how social robots

چجوری ربات‌های اجتماعی

was how I found out about exclusion with algorithmic bias.

باعث کشف من درباره محرومیت به وسیله تبعیض الگوریتمی شدن.

But algorithmic bias can also lead to discriminatory practices.

ولی تبعیض الگوریتمی میتونه باعث رفتارهای تبعیض‌آمیز بشه

Across the US,

در سراسر ایالات متحده

police departments are starting to use facial recognition software

دپارتمان‌های پلیس شروع به استفاده از نرم‌افزار تشخیص چهره کردن.

in their crime-fighting arsenal.

و اون رو به تجهیزاتشون در جنگ با جرم اضافه کردن.

Georgetown Law published a report

Georgetown Law گزارشی رو منتشر کرده که

showing that one in two adults in the US -- that's 117 million people --

نشون میده، در ایالت متحده از هر دو نفر یک نفر

have their faces in facial recognition networks.

چیزی حدود ۱۱۷ میلیون نفر تصاویرشون در شبکه‌های تشخیص چهره قرار داره

Police departments can currently look at these networks unregulated,

پلیس بدون نظارت مراجع مربوطه میتونه به این شبکه‌ها نگاه کنه

using algorithms that have not been audited for accuracy.

اونم با استفاده از الگوریتم‌هایی که صحتشون تایید نشده.

Yet we know facial recognition is not fail proof,

با این وجود میدونیم که تشخیص چهره، عاری از خطا نیست

and labeling faces consistently remains a challenge.

و مشخص کردن چهره‌ها همیشه یک چالش باقی خواهد ماند.

You might have seen this on Facebook.

شاید شما اینو تو فیسبوک دیده باشین.

My friends and I laugh all the time when we see other people

من و دوستام همیشه ازینکه بقیه اشتباه تو عکسهامون مشخص شدن خندمون میگیره.

mislabeled in our photos.

But misidentifying a suspected criminal is no laughing matter,

ولی تشخیص اشتباه یک مظنون جنایی اصلا چیز خنده داری نیست.

nor is breaching civil liberties.

نقض آزادی‌های مدنی هم همینطور.

Machine learning is being used for facial recognition,

برای تشخیص چهره، از یادگیری ماشین داره استفاده میشه

but it's also extending beyond the realm of computer vision.

ولی یادگیری ماشین فراتر از محدوده بینایی ماشین هست.

In her book, "Weapons of Math Destruction,"

در کتاب "سلاح‌های ریاضی مخرب"

data scientist Cathy O'Neil talks about the rising new WMDs --

Cathy O'Neil که یک داده شناس هست، درباره ظهور این سلاح‌های جدید صحبت میکنه

widespread, mysterious and destructive algorithms

الگوریتم‌هایی مرموز، فراگیر و مخرب

that are increasingly being used to make decisions

که به طور روز افزون در حال استفاده شدن در تصمیم گیری‌ها هستند.

that impact more aspects of our lives.

و روی جنبه های بیشتری از زندگی‌های ما تاثیر میذارن.

So who gets hired or fired?

مثلا کی استخدام شه کی اخراج؟

Do you get that loan? Do you get insurance?

فلان وام رو بگیرین؟ بیمه بشین؟

Are you admitted into the college you wanted to get into?

در دانشگاهی که میخواهین برین پذیرفته شین؟

Do you and I pay the same price for the same product

من و شما یک کالا رو از یک مکان با یک قیمت بخریم؟

purchased on the same platform?

Law enforcement is also starting to use machine learning

مجریان قانونی هم شروع به استفاده از یادگیری ماشین

for predictive policing.

برای محافظت پیشگیرانه کرده اند.

Some judges use machine-generated risk scores to determine

برخی از قاضی ها از مقدار ریسک محاسبه شده توسط ماشین برای مشخص کردن اینکه

how long an individual is going to spend in prison.

یک فرد چقدر در زندان باشد، استفاده میکنند.

So we really have to think about these decisions.

پس ما باید خیلی جدی درباره این تصمیمات فکر کنیم.

Are they fair?

آیا منصفانه هستن؟

And we've seen that algorithmic bias

و ما تبعیض الگوریتمی رو دیده ایم

doesn't necessarily always lead to fair outcomes.

که لزوماً باعث نتایج منصفانه نمیشن.

So what can we do about it?

خب ما چه کار میتونیم بکنیم؟

Well, we can start thinking about how we create more inclusive code

ما میتونیم شروع کنیم به فکر کردن درباره ساختن کدهای غیر انحصاری تر

and employ inclusive coding practices.

و رفتارهای غیر انحصاری رو برای کد زدن استفاده کنیم.

It really starts with people.

همه چی واقعاً از آدم‌ها شروع میشه.

So who codes matters.

اینکه چه کسی کُد میزنه مهمه.

Are we creating full-spectrum teams with diverse individuals

آیا ما داریم تیم هایی با طیف مختلفی از افراد درست میکنیم؟

who can check each other's blind spots?

که بتونن نقاط ضعف همدیگه رو بررسی کنن؟

On the technical side, how we code matters.

در سمت تکنیکال، اینکه چطوری کد میزنیم مهمه

Are we factoring in fairness as we're developing systems?

آیا وقتی که یک سیستم رو توسعه میدیم برامون برابری یک شاخص هست؟

And finally, why we code matters.

و در پایان، اینکه چرا کد میزنیم مهمه.

We've used tools of computational creation to unlock immense wealth.

ما از ابزارهای کامپیوتری برای بدست آوردن ثروت زیادی استفاده کرده ایم.

We now have the opportunity to unlock even greater equality

حالا این فرصت رو داریم که حتی برابری بیشتری هم بدست بیاریم.

if we make social change a priority

به شرط اینکه تغییر اجتماعی رو یک اولویت بذاریم

and not an afterthought.

و به عنوان نه چیزی که حالا بعدا بهش فکر میکنیم

And so these are the three tenets that will make up the "incoding" movement.

پس برای جنبش "کد غیرانحصاری" این سه اصل رو داریم:

Who codes matters,

اینکه کی کد میزنه مهمه،

how we code matters

اینکه چطوری کد میزنیم مهمه

and why we code matters.

و اینکه چرا کد میزنیم هم مهمه.

So to go towards incoding, we can start thinking about

پس برای اینکه به این سمت بریم، میتونیم شروع کنیم به فکر کردن

building platforms that can identify bias

درباره ساختن پلتفرم‌هایی که تبعیض رو تشخیص میدن

by collecting people's experiences like the ones I shared,

استفاده از تجربیات افراد، مثل اونایی که من به اشتراک گذاشتم

but also auditing existing software.

و البته نظارت و بازرسی بر نرم افزارها.

We can also start to create more inclusive training sets.

همچنین میتونیم شروع کنیم به ساختن مجموعه داده‌های آموزشی غیرانحصاری تر.

Imagine a "Selfies for Inclusion" campaign

کمپین "سلفی‌ برای باهم بودن" رو تصور کنید

where you and I can help developers test and create

که من و شما میتونیم به برنامه‌نویس‌ها کمک کنیم

تا مجموعه داده‌های غیرانحصاری‌تری بسازن و تست کنن

more inclusive training sets.

And we can also start thinking more conscientiously

و میتونیم با وجدان بیشتری شروع به فکر کردن کنیم

about the social impact of the technology that we're developing.

درباره مسائلی مثل تاثیر اجتماعی تکنولوژی که خودمون توسعش میدیم.

To get the incoding movement started,

برای شروع این جنبش،

I've launched the Algorithmic Justice League,

من لیگ عدالت الگوریتمی رو راه‌ اندازی کردم

where anyone who cares about fairness can help fight the coded gaze.

که هرکس که به برابری اهمیت میده میتونه برای مبارزه با نگاه رمزی مبارزه کنه

On codedgaze.com, you can report bias,

شما میتونین در سایت codedgaze.com تبعیض ها رو گزارش بدین،

request audits, become a tester

درخواست بررسی کنین، یک تست کننده بشین

and join the ongoing conversation,

و به گفتگو در جریان بپیوندید.

#codedgaze.

codedgaze#

So I invite you to join me

من شما رو دعوت میکنم که به من ملحق شین

in creating a world where technology works for all of us,

برای ساخت جهانی که در آن، تکنولوژی برای همه‌ی ما، نه فقط بعضی‌ها کار کنه.

not just some of us,

a world where we value inclusion and center social change.

جهانی که به غیر انحصاری بودن ارزش میدیم و تغییرات اجتماعی مورد توجهمون هست.

Thank you.

خیلی ممنون.

(Applause)

(تشویق حاضرین)

But I have one question:

ولی من یک سوال ازتون دارم:

Will you join me in the fight?

آیا به من در این مبارزه می‌پیوندید؟

(Laughter)

(خنده حاضرین)

(Applause)

(تشویق حاضرین)