How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

תרגום: Ruth Veksler עריכה: Nurit Noy

How many decisions have been made about you today,

כמה מההחלטות שנעשו לגביכם היום,

or this week or this year,

השבוע או השנה,

by artificial intelligence?

נעשו על-ידי בינה מלאכותית?

I build AI for a living

אני עוסקת בבינה מלאכותית למחייתי

so, full disclosure, I'm kind of a nerd.

אז למען האמת, אני די חנונית.

And because I'm kind of a nerd,

ומשום שאני די חנונית,

wherever some new news story comes out

בכל פעם שמתפרסמת כתבה חדשה

about artificial intelligence stealing all our jobs,

על בינה מלאכותית שגוזלת לנו את מקומות העבודה,

or robots getting citizenship of an actual country,

או רובוטים שמקבלים אזרחות של מדינה ממשית,

I'm the person my friends and followers message

אני זו שכל החברים והעוקבים פונים אליה,

freaking out about the future.

מבוהלים לגבי העתיד.

We see this everywhere.

אנחנו רואים את זה בכל מקום.

This media panic that our robot overlords are taking over.

הבהלה התקשורתית מכך שהרובוטים, אדונינו, משתלטים.

We could blame Hollywood for that.

אנחנו יכולים להאשים בכך את הוליווד.

But in reality, that's not the problem we should be focusing on.

אך במציאות, זו לא הבעיה בה עלינו להתמקד.

There is a more pressing danger, a bigger risk with AI,

יש סכנה דוחקת יותר, סיכון גדול יותר בהקשר לבינה המלאכותית,

that we need to fix first.

שעלינו לתקן קודם.

So we are back to this question:

ושוב חזרנו לשאלה:

How many decisions have been made about you today by AI?

כמה מההחלטות שנעשו לגביכם היום, נעשו על-ידי בינה מלאכותית?

And how many of these

וכמה מתוכן

were based on your gender, your race or your background?

התבססו על המגדר שלכם, הגזע או הרקע שלכם?

Algorithms are being used all the time

אלגוריתמים משמשים בכל זמן

to make decisions about who we are and what we want.

לקבלת החלטות בהקשר למי שאנחנו ומה שאנו רוצים.

Some of the women in this room will know what I'm talking about

חלק מהנשים בחדר הזה יבינו על מה אני מדברת,

if you've been made to sit through those pregnancy test adverts on YouTube

אם נאלצתן לראות פרסומות לבדיקות הריון ביוטיוב

like 1,000 times.

איזה אלף פעמים.

Or you've scrolled past adverts of fertility clinics

או שגללתן דרך מודעות למרפאות פוריות

on your Facebook feed.

בעדכוני הפייסבוק שלכם.

Or in my case, Indian marriage bureaus.

או במקרה שלי, למשרדי שידוכים הודיים.

(Laughter)

(צחוק)

But AI isn't just being used to make decisions

אבל בינה מלאכותית אינה משמשת רק לקבלת החלטות

about what products we want to buy

עבור המוצרים אותם נקנה

or which show we want to binge watch next.

או התוכנית הבאה לצפיית-רצף (בינג').

I wonder how you'd feel about someone who thought things like this:

אני תוהה איך תרגישו לגבי מישהו שיחשוב דברים כמו:

"A black or Latino person

"לאדם שחור או ממוצא לטיני

is less likely than a white person to pay off their loan on time."

יש סיכוי נמוך מאדם לבן להחזיר את ההלוואה בזמן."

"A person called John makes a better programmer

"אדם ששמו ג'ון הוא מתכנת טוב יותר

than a person called Mary."

מאדם ששמו מרי."

"A black man is more likely to be a repeat offender than a white man."

"לגבר שחור סיכוי גבוה יותר להיות עבריין בהשוואה לגבר לבן."

You're probably thinking,

אתם בטח חושבים לעצמכם:

"Wow, that sounds like a pretty sexist, racist person," right?

"וואו, זה נשמע כמו מישהו סקסיסטי וגזעני למדי" נכון?

These are some real decisions that AI has made very recently,

אלה כמה מההחלטות האמיתיות שבינה מלאכותית קיבלה לאחרונה,

based on the biases it has learned from us,

בהתבסס על ההטיות שהיא למדה מאיתנו,

from the humans.

מבני האדם.

AI is being used to help decide whether or not you get that job interview;

בינה מלאכותית משמשת לסייע בהחלטה האם תתקבלו לעבודה או לא,

how much you pay for your car insurance;

כמה תשלמו עבור ביטוח הרכב,

how good your credit score is;

כמה טוב דירוג האשראי שלכם,

and even what rating you get in your annual performance review.

ואפילו מה הציון שתקבלו בהערכת העובד השנתית שלכם.

But these decisions are all being filtered through

אך החלטות אלה עוברות סינון

its assumptions about our identity, our race, our gender, our age.

מבעד להנחות לגבי זהותנו, הגזע, המגדר והגיל שלנו.

How is that happening?

כיצד זה קורה?

Now, imagine an AI is helping a hiring manager

ובכן, דמיינו בינה מלאכותית שמסייעת למנהל מגייס

find the next tech leader in the company.

במציאת ראש הצוות הטכנולוגי הבא של החברה.

So far, the manager has been hiring mostly men.

עד כה המנהל גייס בעיקר גברים.

So the AI learns men are more likely to be programmers than women.

כך הבינה המלאכותית למדה שלגברים סיכוי גבוה יותר להיות מתכנתים מנשים.

And it's a very short leap from there to:

וזו קפיצה קצרה אף יותר ל:

men make better programmers than women.

גברים הם מתכנתים טובים יותר מנשים.

We have reinforced our own bias into the AI.

הטמענו את ההטיות של עצמנו בתוך הבינה המלאכותית.

And now, it's screening out female candidates.

וכעת היא מסננת מועמדות נשים.

Hang on, if a human hiring manager did that,

חכו רגע, אם מנהל אנושי היה עושה את זה

we'd be outraged, we wouldn't allow it.

היינו מתקוממים, לא היינו מאפשרים זאת.

This kind of gender discrimination is not OK.

אפלייה כזו על רקע מגדר היא לא בסדר.

And yet somehow, AI has become above the law,

ובכל זאת, איכשהו הבינה המלאכותית הפכה להיות מעל לחוק,

because a machine made the decision.

כי זו מכונה שקיבלה את ההחלטה.

That's not it.

וזה לא הכל.

We are also reinforcing our bias in how we interact with AI.

אנחנו גם מטמיעים את הדעות הקדומות שלנו בתקשורת עם הבינה המלאכותית.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

כמה אתם משתמשים בעוזרת קולית כמו סירי, אלכסה או אפילו קורטנה?

They all have two things in common:

לכולן שני דברים במשותף:

one, they can never get my name right,

הראשון, הן לעולם לא יצליחו לקלוט את השם שלי נכון,

and second, they are all female.

והשני, הן כולן נשים.

They are designed to be our obedient servants,

הן מתוכננות להיות המשרתות הצייתניות שלנו,

turning your lights on and off, ordering your shopping.

מכבות ומדליקות עבורכם את האור, מזמינות את הקניות שלכם,

You get male AIs too, but they tend to be more high-powered,

אתם מקבלים גם קולות גבריים, אך הם נוטים להיות משפיעים יותר,

like IBM Watson, making business decisions,

כמו ווטסון של איי.בי.אם, מקבל החלטות עסקיות,

Salesforce Einstein or ROSS, the robot lawyer.

איינשטיין של סיילספורס או רוס, עורך הדין הרובוט.

So poor robots, even they suffer from sexism in the workplace.

מסכנים הרובוטים, אפילו הם סובלים מסקסיזם במקום העבודה.

(Laughter)

(צחוק)

Think about how these two things combine

חישבו איך שני הדברים האלה מתחברים

and affect a kid growing up in today's world around AI.

ומשפיעים על ילד הגדל בעולם של היום בסביבת בינות מלאכותיות.

So they're doing some research for a school project

הם חוקרים קצת במסגרת שיעורי בית

and they Google images of CEO.

ומחפשים בגוגל תמונות של מנכ"ל.

The algorithm shows them results of mostly men.

האלגוריתם יראה להם בעיקר תוצאות של גברים.

And now, they Google personal assistant.

ועכשיו, הם מחפשים בגוגל מזכירות.

As you can guess, it shows them mostly females.

כפי שתוכלו לנחש, הוא יראה להם בעיקר נשים.

And then they want to put on some music, and maybe order some food,

ואז הם ירצו להדליק מוזיקה, ואולי להזמין משהו לאכול,

and now, they are barking orders at an obedient female voice assistant.

ועכשיו הם נובחים פקודות על עוזרת קולית צייתנית.

Some of our brightest minds are creating this technology today.

כמה מהמוחות המבריקים ביותר שלנו הם מיוצרי הטכנולוגיה הזו כיום.

Technology that they could have created in any way they wanted.

טכנולוגיה שהם יכלו ליצור באיזו צורה שיבחרו.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

ובכל זאת, הם בחרו ליצור אותה בסגנון מזכירה, משנות החמישים.

Yay!

הידד!

But OK, don't worry,

אבל בסדר, אל דאגה.

this is not going to end with me telling you

זה לא הולך להגמר בכך שאומר לכם

that we are all heading towards sexist, racist machines running the world.

שכולנו עומדים בפני מכונות סקסיסטיות וגזעניות שישלטו בעולם.

The good news about AI is that it is entirely within our control.

החדשות הטובות לגבי בינה מלאכותית הן שהיא לגמרי בשליטתנו.

We get to teach the right values, the right ethics to AI.

אנחנו זוכים ללמד אותה את הערכים ואת האתיקה הנכונה.

So there are three things we can do.

יש שלושה דברים שביכולתנו לעשות.

One, we can be aware of our own biases

הראשון, אנו יכולים להיות מודעים לדיעות הקדומות שלנו

and the bias in machines around us.

והדיעות הקדומות של המכונות שבסביבה.

Two, we can make sure that diverse teams are building this technology.

השני, אנו יכולים לוודא כי צוותים מגוונים בונים את הטכנולוגיה הזו.

And three, we have to give it diverse experiences to learn from.

והשלישי, אנו צריכים לספק לה חוויות מגוונות ללמוד מתוכן.

I can talk about the first two from personal experience.

אני יכולה לספר על השניים הראשונים מנסיוני האישי.

When you work in technology

כשאתם עובדים בתחום הטכנולוגי

and you don't look like a Mark Zuckerberg or Elon Musk,

ואתם לא נראים כמו מארק צוקרברג או אילון מאסק,

your life is a little bit difficult, your ability gets questioned.

החיים שלכם קצת יותר קשים, היכולת שלכם מוטלת בספק.

Here's just one example.

הנה רק דוגמה אחת.

Like most developers, I often join online tech forums

כמו רוב המפתחים, לעיתים קרובות אני מתחברת לפורומים טכניים ברשת

and share my knowledge to help others.

וחולקת מהידע שלי כדי לעזור לאחרים.

And I've found,

וגיליתי,

when I log on as myself, with my own photo, my own name,

שכשאני מתחברת בתור עצמי, עם התמונה והשם שלי,

I tend to get questions or comments like this:

אני נוטה לקבל שאלות או תגובות כמו למשל:

"What makes you think you're qualified to talk about AI?"

"מה גורם לך לחשוב שאת מוסמכת לדבר על בינה מלאכותית?"

"What makes you think you know about machine learning?"

"מה גורם לך לחשוב שאת מבינה בלמידת מכונה?"

So, as you do, I made a new profile,

אז כנהוג, יצרתי פרופיל חדש,

and this time, instead of my own picture, I chose a cat with a jet pack on it.

והפעם במקום התמונה שלי, בחרתי בתמונת חתול עם תרמיל ריחוף.

And I chose a name that did not reveal my gender.

ובחרתי בשם שלא חושף את המגדר שלי.

You can probably guess where this is going, right?

אתם בטח יכולים לנחש לאן זה מתקדם, נכון?

So, this time, I didn't get any of those patronizing comments about my ability

ובכן, הפעם לא קיבלתי אף אחת מאותן תגובות פטרוניות לגבי היכולת שלי

and I was able to actually get some work done.

ולמעשה הצלחתי לעבוד קצת.

And it sucks, guys.

וזה גרוע, חברים.

I've been building robots since I was 15,

אני בונה רובוטים מאז גיל 15,

I have a few degrees in computer science,

יש לי כמה תארים במדעי המחשב,

and yet, I had to hide my gender

ובכל זאת, נאלצתי להסתיר את המגדר שלי,

in order for my work to be taken seriously.

על מנת שיקחו ברצינות את העבודה שלי.

So, what's going on here?

אז מה קורה כאן?

Are men just better at technology than women?

האם גברים פשוט טובים יותר בטכנולוגיה מנשים?

Another study found

מחקר נוסף מצא

that when women coders on one platform hid their gender, like myself,

שכאשר מתכנתות בפלטפורמה מסויימת הסתירו את המגדר שלהן, כמוני,

their code was accepted four percent more than men.

הקוד שלהן התקבל ב-4 אחוזים יותר מקוד של הגברים.

So this is not about the talent.

אז הבעיה היא לא בכישרון.

This is about an elitism in AI

היא באליטיזם בתחום הבינה המלאכותית

that says a programmer needs to look like a certain person.

שקובע איך מתכנת אמור להיראות.

What we really need to do to make AI better

מה שאנחנו באמת צריכים לעשות כדי לשפר את הבינה המלאכותית

is bring people from all kinds of backgrounds.

זה להביא אנשים בעלי רקע שונה.

We need people who can write and tell stories

אנו זקוקים לאנשים שיודעים לכתוב ולספר סיפורים

to help us create personalities of AI.

כדי לעזור לנו ליצור את אישיות הבינה המלאכותית.

We need people who can solve problems.

אנו זקוקים לאנשים שיודעים לפתור בעיות.

We need people who face different challenges

אנו זקוקים לאנשים שמתמודדים עם אתגרים שונים

and we need people who can tell us what are the real issues that need fixing

ואנו זקוקים לאנשים שיכולים לומר לנו מה הבעיות האמיתיות שיש לפתור,

and help us find ways that technology can actually fix it.

ושיעזרו לנו למצוא דרכים בהן הטכנולוגיה תוכל לפתור אותן.

Because, when people from diverse backgrounds come together,

משום שכשאנשים ממגוון רקעים נפגשים,

when we build things in the right way,

כשאנו בונים דברים בדרך הנכונה,

the possibilities are limitless.

האפשרויות הן בלתי-מוגבלות.

And that's what I want to end by talking to you about.

וכך אני רוצה לסיים את השיחה שלנו.

Less racist robots, less machines that are going to take our jobs --

פחות רובוטים גזענים, פחות מכונות שגוזלות את המשרות שלנו --

and more about what technology can actually achieve.

ויותר על מה שהטכנולוגיה יכולה באמת להשיג.

So, yes, some of the energy in the world of AI,

אז נכון, חלק מהמשאבים בעולם הבינה המלאכותית,

in the world of technology

בעולם הטכנולוגיה,

is going to be about what ads you see on your stream.

יוקדשו לאילו מודעות תראו ברשת.

But a lot of it is going towards making the world so much better.

אבל חלק גדול יוקדש להפיכת העולם להרבה יותר טוב.

Think about a pregnant woman in the Democratic Republic of Congo,

חישבו על אשה בהריון ברפובליקה הדמוקרטית של קונגו,

who has to walk 17 hours to her nearest rural prenatal clinic

שצריכה ללכת 17 שעות למרפאת הנשים הכפרית הקרובה

to get a checkup.

כדי להבדק.

What if she could get diagnosis on her phone, instead?

מה אם היא תוכל לעבור אבחון בטלפון שלה במקום?

Or think about what AI could do

או חישבו על מה שניתן לעשות

for those one in three women in South Africa

עבור אחת משלוש נשים בדרום אפריקה

who face domestic violence.

שמתמודדות עם אלימות במשפחה.

If it wasn't safe to talk out loud,

אם לא בטוח עבורן לדבר בקול,

they could get an AI service to raise alarm,

הן תוכלנה להיעזר בבינה מלאכותית כדי להתריע,

get financial and legal advice.

לקבל יעוץ כספי וחוקי.

These are all real examples of projects that people, including myself,

אלה דוגמאות אמיתיות של פרוייקטים שאנשים, כולל אני,

are working on right now, using AI.

עובדים עליהם כיום, תוך שימוש בבינה מלאכותית.

So, I'm sure in the next couple of days there will be yet another news story

אני בטוחה שבקרוב יצוץ סיפור חדשותי נוסף

about the existential risk,

על הסיכון הקיומי,

robots taking over and coming for your jobs.

רובוטים שמשתלטים וחומדים את המשרות שלכם.

(Laughter)

(צחוק)

And when something like that happens,

וכשמשהו כזה קורה,

I know I'll get the same messages worrying about the future.

אני יודעת שאקבל את אותן ההודעות בדאגה לגבי העתיד.

But I feel incredibly positive about this technology.

אך אני מרגישה חיובית להפליא בנוגע לטכנולוגיה הזו.

This is our chance to remake the world into a much more equal place.

זו ההזדמנות שלנו להפוך את העולם למקום הרבה יותר שוויוני.

But to do that, we need to build it the right way from the get go.

אך כדי לעשות זאת, עלינו לבנות אותו בדרך הנכונה מהבסיס.

We need people of different genders, races, sexualities and backgrounds.

אנו זקוקים לאנשים ממגוון מגדרים, גזעים, העדפות מיניות ורקעים.

We need women to be the makers

אנו זקוקים לנשים שתהיינה היוצרות

and not just the machines who do the makers' bidding.

ולא רק המכונות עושות דברו של היוצר.

We need to think very carefully what we teach machines,

אנו צריכים לבחון בקפידה מה אנו מלמדים את המכונות,

what data we give them,

אילו נתונים אנו נותנים להן,

so they don't just repeat our own past mistakes.

כדי שהן לא רק תחזורנה על טעויות העבר שלנו.

So I hope I leave you thinking about two things.

אני מקווה שאני מותירה אתכם במחשבה על שני דברים.

First, I hope you leave thinking about bias today.

ראשית, אני מקווה שאשאיר אתכם חושבים על דעות קדומות היום.

And that the next time you scroll past an advert

ושבפעם הבאה שתתקלו במודעה ברשת

that assumes you are interested in fertility clinics

שמניחה שאתם מתעניינים במרפאות פוריות,

or online betting websites,

או אתרי הימורים,

that you think and remember

שתחשבו על כך ותזכרו

that the same technology is assuming that a black man will reoffend.

שזו אותה הטכנולוגיה שמניחה שגבר שחור יהיה עבריין חוזר.

Or that a woman is more likely to be a personal assistant than a CEO.

או שלאשה סיכוי גדול יותר להיות עוזרת אישית מאשר מנכ"לית.

And I hope that reminds you that we need to do something about it.

ואני מקווה שזה יזכיר לכם שעלינו לפעול בעניין.

And second,

ושנית,

I hope you think about the fact

אני מקווה שתחשבו על העובדה

that you don't need to look a certain way

שאתם לא צריכים להיות בעלי מראה מסוים

or have a certain background in engineering or technology

או שיהיה לכם רקע מסוים בהנדסה או טכנולוגיה

to create AI,

כדי ליצור בינה מלאכותית,

which is going to be a phenomenal force for our future.

שתהיה בעלת השפעה מכרעת על עתידנו.

You don't need to look like a Mark Zuckerberg,

אתם לא צריכים להיראות כמו מארק צוקרברג,

you can look like me.

אתם יכולים להיראות כמוני.

And it is up to all of us in this room

ובאחריות כל מי שנמצא בחדר הזה

to convince the governments and the corporations

לשכנע את הממשלות והתאגידים

to build AI technology for everyone,

לבנות טכנולוגיות בינה מלאכותית המיועדות לכולם,

including the edge cases.

כולל מקרי קצה.

And for us all to get education

ולאפשר לכולנו השכלה

about this phenomenal technology in the future.

בתחום הטכנולוגיה הייחודית הזו בעתיד.

Because if we do that,

כי אם נעשה זאת,

then we've only just scratched the surface of what we can achieve with AI.

זה יהיה רק מעט ממה שנוכל להשיג בעזרת בינה מלאכותית.

Thank you.

תודה.

(Applause)

(מחיאות כפיים)