How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Traducător: Cristina Georgiana Vieru Corector: Mirel-Gabriel Alexa

How many decisions have been made about you today,

Cât de multe decizii au fost luate astăzi pentru voi,

or this week or this year,

în această săptămână sau în acest an,

by artificial intelligence?

de către inteligența artificială?

I build AI for a living

Profesia mea e să construiesc I.A.

so, full disclosure, I'm kind of a nerd.

Mărturisesc că sunt puțin tocilară.

And because I'm kind of a nerd,

Și pentru că sunt puțin tocilară,

wherever some new news story comes out

ori de câte ori apare o nouă știre

about artificial intelligence stealing all our jobs,

despre inteligența artificială care ne fură locurile de muncă,

or robots getting citizenship of an actual country,

sau despre roboții care obțin cetățenia unei țări,

I'm the person my friends and followers message

prietenii și persoanele care mă urmăresc mă contactează

freaking out about the future.

pentru că se tem de viitor.

We see this everywhere.

Vedem acest lucru peste tot.

This media panic that our robot overlords are taking over.

Frica mediatică că roboții ar putea prelua controlul.

We could blame Hollywood for that.

Am putea da vina pe Hollywood pentru asta.

But in reality, that's not the problem we should be focusing on.

Dar de fapt, nu asta e problema pe care ar trebui să ne concentrăm.

There is a more pressing danger, a bigger risk with AI,

Există o problemă mult mai urgentă, un risc mult mai mare cu I.A.,

that we need to fix first.

pe care trebuie să-l rezolvăm mai întâi.

So we are back to this question:

Să ne întoarcem la această întrebare:

How many decisions have been made about you today by AI?

Cât de multe decizii au fost luate astăzi pentru voi de I.A.?

And how many of these

Câte dintre acestea

were based on your gender, your race or your background?

se bazează pe sexul, rasa sau mediul vostru?

Algorithms are being used all the time

Algoritmii sunt folosiți în mod constant

to make decisions about who we are and what we want.

pentru a lua decizii cu privire la cine suntem și ceea ce ne dorim.

Some of the women in this room will know what I'm talking about

Câteva femei din această sală știu despre ce vorbesc

if you've been made to sit through those pregnancy test adverts on YouTube

dacă au fost nevoite să suporte reclamele la testele de sarcină de pe YouTube

like 1,000 times.

de cel puțin o mie de ori.

Or you've scrolled past adverts of fertility clinics

Sau dacă v-au apărut reclame la clinicile de fertilitate pe Facebook.

on your Facebook feed.

Or in my case, Indian marriage bureaus.

Sau în cazul meu, agențiile matrimoniale indiene.

(Laughter)

(Râsete)

But AI isn't just being used to make decisions

Dar I.A. nu este folosită doar pentru a lua decizii

about what products we want to buy

în legătură cu produsele pe care vrem să le cumpărăm,

or which show we want to binge watch next.

sau la ce seriale să ne uităm.

I wonder how you'd feel about someone who thought things like this:

Mă întreb ce ați crede despre cineva care ar gândi următoarele:

"A black or Latino person

„O persoană neagră sau de origine latină

is less likely than a white person to pay off their loan on time."

e mai puțin probabil să achite împrumutul la timp decât o persoană albă.”

"A person called John makes a better programmer

„Cineva care se numește John e un programator mai bun

than a person called Mary."

decât cineva care se numește Maria.“

"A black man is more likely to be a repeat offender than a white man."

„E mai probabil ca o persoană de culoare să recidiveze decât o persoană albă.”

You're probably thinking,

Probabil vă gândiți:

"Wow, that sounds like a pretty sexist, racist person," right?

„Pare a fi o persoană cam sexistă și rasistă”, nu-i așa?

These are some real decisions that AI has made very recently,

Acestea sunt decizii reale pe care I.A. le-a luat recent,

based on the biases it has learned from us,

bazându-se pe prejudecățile pe care le-a învățat de la noi,

from the humans.

de la oameni.

AI is being used to help decide whether or not you get that job interview;

I.A. e folosită pentru a hotărî dacă veți obține un interviu pentru o slujbă;

how much you pay for your car insurance;

cât veți plăti pentru asigurarea mașinii;

how good your credit score is;

cât de bună e performața creditului tău;

and even what rating you get in your annual performance review.

până și ce rezultate veți avea în evaluarea anuală a performanței.

But these decisions are all being filtered through

Dar aceste decizii sunt toate filtrate

prin ipotezele sale privind identitatea, rasa, sexul și vârsta noastră.

its assumptions about our identity, our race, our gender, our age.

How is that happening?

Cum se întâmplă asta?

Now, imagine an AI is helping a hiring manager

Imaginați-vă că I.A. ajută un manager de recrutare

find the next tech leader in the company.

pentru a găsi următorul lider al companiei.

So far, the manager has been hiring mostly men.

Până în prezent, managerul a angajat mai ales bărbați.

So the AI learns men are more likely to be programmers than women.

Așa că I.A. învață că bărbații sunt de cele mai multe ori programatori.

And it's a very short leap from there to:

De aici e un pas mic în a crede

men make better programmers than women.

că bărbații sunt mai buni programatori decât femeile.

We have reinforced our own bias into the AI.

Ne-am întărit propriile noastre prejudecăți în I.A.

And now, it's screening out female candidates.

Și acum, aceasta exclude candidatele de sex feminin.

Hang on, if a human hiring manager did that,

Dar dacă un manager uman ar face asta,

we'd be outraged, we wouldn't allow it.

am fi revoltați, nu am permite acest lucru.

This kind of gender discrimination is not OK.

Acest tip de discriminare sexuală nu e în regulă.

And yet somehow, AI has become above the law,

Și totuși, într-un fel, I.A. a ajuns mai presus de lege,

because a machine made the decision.

pentru că o mașinărie a luat decizia.

That's not it.

Nu e numai asta.

We are also reinforcing our bias in how we interact with AI.

Consolidăm prejudecățile noastre în modul în care interacționăm cu I.A.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

Cât de des utilizați un asistent vocal precum Siri, Alexa sau chiar Cortana?

They all have two things in common:

Toate au două lucruri în comun:

one, they can never get my name right,

unu, nu vor putea niciodată să-mi pronunțe numele corect,

and second, they are all female.

și doi, sunt toate de sex feminin.

They are designed to be our obedient servants,

Sunt concepute pentru a fi servitoarele noastre supuse,

turning your lights on and off, ordering your shopping.

vă aprind și vă sting luminile, vă comandă cumpărăturile.

You get male AIs too, but they tend to be more high-powered,

Sunt și I.A. de sex masculin, dar tind să fie mai împuterniciți.

like IBM Watson, making business decisions,

Cum ar fi IBM Watson, care ia decizii de afaceri,

Salesforce Einstein or ROSS, the robot lawyer.

Salesforce Einstein sau ROSS, avocatul robot.

So poor robots, even they suffer from sexism in the workplace.

Săracii roboți, chiar și ei suferă de sexism la locul de muncă.

(Laughter)

(Râsete)

Think about how these two things combine

Gândiți-vă la modul în care se combină aceste două lucruri

and affect a kid growing up in today's world around AI.

și afectează copiii care cresc în zilele noastre înconjurați de I.A.

So they're doing some research for a school project

Ei fac niște cercetări pentru un proiect școlar

and they Google images of CEO.

și caută pe Google imagini cu un director general.

The algorithm shows them results of mostly men.

Algoritmul le arată rezultatele cu majoritatea bărbați.

And now, they Google personal assistant.

Apoi caută pe Google asistent personal.

As you can guess, it shows them mostly females.

După cum puteți ghici, majoritatea sunt de sex feminin.

And then they want to put on some music, and maybe order some food,

Apoi vor să pună niște muzică, și poate să comande ceva de mâncare,

and now, they are barking orders at an obedient female voice assistant.

iar acum, dau ordine unei ascultătoare asistente vocale de sex feminin.

Some of our brightest minds are creating this technology today.

Unele dintre cele mai strălucitoare minți creează în prezent această tehnologie.

Technology that they could have created in any way they wanted.

Tehnologie pe care ar fi putut-o crea în orice fel ar fi vrut.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

Și totuși, ei au ales să o creeze în stilul unei secretare din anii '50.

Yay!

Ura!

But OK, don't worry,

Dar bine, nu vă faceți griji,

this is not going to end with me telling you

nu se va termina cu mine spunându-vă

that we are all heading towards sexist, racist machines running the world.

că lumea va fi condusă de mașinării sexiste și rasiste.

The good news about AI is that it is entirely within our control.

Vestea bună despre I.A. e că se află în întregime sub controlul nostru.

We get to teach the right values, the right ethics to AI.

Trebuie să învățăm I.A. despre etica și despre valorile corecte.

So there are three things we can do.

Există trei lucruri pe care le putem face.

One, we can be aware of our own biases

Unu, putem fi conștienți de propriile noastre prejudecăți

and the bias in machines around us.

și de prejudecățile mașinăriilor care ne înconjoară.

Two, we can make sure that diverse teams are building this technology.

Doi, ne putem asigura că diverse echipe construiesc aceste tehnologii.

And three, we have to give it diverse experiences to learn from.

Și trei, trebuie să le oferim diferite experiențe din care să învețe.

I can talk about the first two from personal experience.

Pot vorbi despre primele două din experiența personală.

When you work in technology

Când lucrezi în tehnologie

and you don't look like a Mark Zuckerberg or Elon Musk,

și nu arăți ca Mark Zuckerberg sau Elon Musk,

your life is a little bit difficult, your ability gets questioned.

viața ta e un pic mai dificilă, capacitățile îți sunt puse la îndoială.

Here's just one example.

Iată un exemplu.

Like most developers, I often join online tech forums

Ca majoritatea dezvoltatorilor, particip la forumuri online de tehnologie

and share my knowledge to help others.

și îmi împărtășesc cunoștințele pentru a-i ajuta pe ceilalți.

And I've found,

Ceea ce am descoperit

when I log on as myself, with my own photo, my own name,

atunci când m-am conectat cu propria fotografie și propriul nume,

I tend to get questions or comments like this:

au fost întrebări și comentarii de genul:

"What makes you think you're qualified to talk about AI?"

„Ce te face să crezi că ești în măsură să vorbești despre I.A.?”

"What makes you think you know about machine learning?"

„Ce te face să crezi că știi ceva despre învățarea automată?“

So, as you do, I made a new profile,

Așa că mi-am făcut un nou profil.

and this time, instead of my own picture, I chose a cat with a jet pack on it.

Și de această dată, în loc de poza mea, am ales poza unei pisici cu un jetpack.

And I chose a name that did not reveal my gender.

Și am ales un nume care nu îmi dezvăluia sexul.

You can probably guess where this is going, right?

Puteți ghici ce s-a întâmplat, nu?

So, this time, I didn't get any of those patronizing comments about my ability

De data aceasta, nu am primit niciun comentariu arogant despre abilitățile mele

and I was able to actually get some work done.

și am reușit să fac câte ceva.

And it sucks, guys.

E groaznic.

I've been building robots since I was 15,

Construiesc roboți de când aveam 15 ani,

I have a few degrees in computer science,

am câteva titluri în informatică,

and yet, I had to hide my gender

și totuși a trebuit să-mi ascund sexul

in order for my work to be taken seriously.

pentru ca munca mea să fie luată în serios.

So, what's going on here?

Deci, ce se întâmplă?

Are men just better at technology than women?

Sunt bărbații pur și simplu mai buni la tehnologie decât femeile?

Another study found

Un alt studiu a constatat

that when women coders on one platform hid their gender, like myself,

că atunci când femeile programatoare își ascund sexul pe o platformă, ca mine,

their code was accepted four percent more than men.

codul lor e acceptat cu 4% mai mult decât cel al bărbaților.

So this is not about the talent.

Deci, acest lucru nu are legătură cu talentul.

This is about an elitism in AI

E vorba despre un elitism în I.A.

that says a programmer needs to look like a certain person.

conform căruia un programator trebuie să arate într-un fel anume.

What we really need to do to make AI better

Pentru a îmbunătăți cu adevărat I.A.

is bring people from all kinds of backgrounds.

trebuie să implicăm oameni din diverse medii.

We need people who can write and tell stories

Avem nevoie de oameni care pot scrie și spune povești

to help us create personalities of AI.

pentru a putea crea personalități ale I.A.

We need people who can solve problems.

Avem nevoie de oameni care pot rezolva probleme.

We need people who face different challenges

Avem nevoie de oameni care se confruntă cu provocări diferite

and we need people who can tell us what are the real issues that need fixing

și avem nevoie de oameni care să ne spună ce probleme reale trebuie rezolvate

and help us find ways that technology can actually fix it.

și să ne ajute să găsim modalități prin care tehnologia să le rezolve.

Because, when people from diverse backgrounds come together,

Pentru că, atunci când oamenii din diverse medii se unesc,

when we build things in the right way,

când construim lucrurile folosind metoda potrivită,

the possibilities are limitless.

posibilitățile sunt nelimitate.

And that's what I want to end by talking to you about.

Despre asta vreau să vă vorbesc în încheiere.

Less racist robots, less machines that are going to take our jobs --

Mai puțin despre roboți rasiști

sau mașinării care ne vor lua locurile de muncă

and more about what technology can actually achieve.

și mai mult despre ceea ce tehnologia poate realiza.

So, yes, some of the energy in the world of AI,

Deci, da, o parte din energiile din lumea I.A.,

in the world of technology

din lumea tehnologiei,

is going to be about what ads you see on your stream.

vor fi direcționate spre a decide ce reclame veți vedea pe internet.

But a lot of it is going towards making the world so much better.

Dar multe din ele vor fi folosite pentru a face lumea mai bună.

Think about a pregnant woman in the Democratic Republic of Congo,

Gândiți-vă la o femeie gravidă din Republica Democrată Congo,

who has to walk 17 hours to her nearest rural prenatal clinic

care trebuie să meargă 17 ore până la cea mai apropiată clinică prenatală

to get a checkup.

pentru a face un control.

What if she could get diagnosis on her phone, instead?

Dar dacă ar putea primi în schimb un diagnostic folosind telefonul?

Or think about what AI could do

Sau gândiți-vă ce ar putea face I.A.

for those one in three women in South Africa

pentru o femeie din trei din Africa de Sud

who face domestic violence.

care se confruntă cu violența domestică.

If it wasn't safe to talk out loud,

Dacă nu ar fi în siguranță să vorbească,

they could get an AI service to raise alarm,

acestea ar putea accesa I.A. pentru a trage un semnal de alarmă,

get financial and legal advice.

pentru a obține consiliere financiară și juridică.

These are all real examples of projects that people, including myself,

Toate acestea sunt exemple de proiecte la care unele persoane, inclusiv eu,

are working on right now, using AI.

lucrează în acest moment folosind I.A.

So, I'm sure in the next couple of days there will be yet another news story

Sunt sigură că în următoarele zile va apărea încă o știre

about the existential risk,

despre riscul existențial,

robots taking over and coming for your jobs.

despre roboții care preiau controlul și care vă iau locurile de muncă.

(Laughter)

And when something like that happens,

(Râsete)

Și când se va întâmpla asta,

I know I'll get the same messages worrying about the future.

știu că voi primi aceleași mesaje exprimând teama de viitor.

But I feel incredibly positive about this technology.

Dar am o părere incredibil de pozitivă despre această tehnologie.

This is our chance to remake the world into a much more equal place.

Aceasta e șansa noastră de a reconstrui lumea într-un loc mult mai egal.

But to do that, we need to build it the right way from the get go.

Dar pentru a face asta trebuie s-o construim de la început cum trebuie.

We need people of different genders, races, sexualities and backgrounds.

Avem nevoie de oameni de sexe, rase, sexualități și din medii diferite.

We need women to be the makers

Avem nevoie de femei care să fie creatoare,

and not just the machines who do the makers' bidding.

și nu doar niște mașinării care să execute ordinele creatorilor.

We need to think very carefully what we teach machines,

Trebuie să ne gândim foarte atent ce învățăm mașinăriile,

what data we give them,

ce date le oferim,

so they don't just repeat our own past mistakes.

astfel încât să nu repete propriile noastre greșeli din trecut.

So I hope I leave you thinking about two things.

Sper că vă las două teme de gândire.

First, I hope you leave thinking about bias today.

În primul rând, sper să vă gândiți la prejudecățile din prezent.

And that the next time you scroll past an advert

Și data viitoare când veți da peste o reclamă

that assumes you are interested in fertility clinics

care presupune că vă interesează clinicile de fertilitate

or online betting websites,

sau site-urile de pariuri online,

that you think and remember

să vă gândiți și să vă amintiți

that the same technology is assuming that a black man will reoffend.

că aceeași tehnologie presupune că o persoană de culoare va recidiva.

Or that a woman is more likely to be a personal assistant than a CEO.

Că e mult mai probabil ca o femeie să fie asistent personal decât director general.

And I hope that reminds you that we need to do something about it.

Și sper să vă aduceți aminte că trebuie să facem ceva în legătură cu asta.

And second,

Și în al doilea rând,

I hope you think about the fact

sper să vă gândiți la faptul

that you don't need to look a certain way

că nu trebuie să arătați într-un anumit fel

or have a certain background in engineering or technology

sau să aveți o anumită experiență în domeniul ingineriei sau tehnologiei

to create AI,

pentru a crea I.A.,

which is going to be a phenomenal force for our future.

ce va fi o forță fenomenală în viitorul nostru.

You don't need to look like a Mark Zuckerberg,

Nu trebuie să arătați ca Mark Zuckerberg,

you can look like me.

puteți arăta ca mine.

And it is up to all of us in this room

E de datoria noastră, a tuturor,

to convince the governments and the corporations

să convingem guvernele și corporațiile

to build AI technology for everyone,

să construiască tehnologia I.A. pentru toată lumea,

including the edge cases.

inclusiv pentru minorități.

And for us all to get education

Și noi toți trebuie să ne informăm

about this phenomenal technology in the future.

în legătură cu acestă fenomenală tehnologie în viitor.

Because if we do that,

Pentru că dacă facem asta,

then we've only just scratched the surface of what we can achieve with AI.

vom descoperi doar câteva lucruri pe care le putem realiza cu I.A.

Thank you.

Vă mulțumesc!

(Applause)

(Aplauze)