How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Traduttore: Marta Ancora Revisore: Anna Cristiana Minoli

How many decisions have been made about you today,

Quante decisioni sono state prese per voi oggi,

or this week or this year,

o questa settimana, o quest'anno,

by artificial intelligence?

dalle intelligenze artificiali?

Il mio lavoro è costruire IA.

I build AI for a living

so, full disclosure, I'm kind of a nerd.

A dirla tutta sono una specie di nerd.

And because I'm kind of a nerd,

Dato che sono una specie di nerd,

wherever some new news story comes out

ovunque esca una notizia

about artificial intelligence stealing all our jobs,

sull'intelligenza artificiale che ci rubano il lavoro,

or robots getting citizenship of an actual country,

o di robot che acquisiscono la cittadinanza in uno Stato,

I'm the person my friends and followers message

gli amici e le persone che mi seguono mi contattano

freaking out about the future.

perché hanno paura del futuro.

We see this everywhere.

Lo vediamo ovunque.

This media panic that our robot overlords are taking over.

La paura mediatica che i robot possano prendere il sopravvento.

We could blame Hollywood for that.

Possiamo incolpare Hollywood per questo.

But in reality, that's not the problem we should be focusing on.

Ma in realtà, non è questo il problema sul quale dovremmo concentrarci.

There is a more pressing danger, a bigger risk with AI,

Esiste un problema più urgente, un rischio più grande con le IA,

that we need to fix first.

che dobbiamo prima definire.

So we are back to this question:

Torniamo quindi a questa domanda.

How many decisions have been made about you today by AI?

Quante decisioni sono state prese per voi oggi dalle IA?

And how many of these

Quante di queste

were based on your gender, your race or your background?

sono basate sul vostro genere, razza e origine?

Algorithms are being used all the time

Gli algoritmi vengono usati costantemente

to make decisions about who we are and what we want.

per prendere decisioni su chi siamo e cosa vogliamo.

Some of the women in this room will know what I'm talking about

Alcune donne in questa stanza sanno di cosa sto parlando,

if you've been made to sit through those pregnancy test adverts on YouTube

se hanno dovuto sorbirsi le pubblicità dei test di gravidanza su YouTube

like 1,000 times.

almeno 1000 volte.

Or you've scrolled past adverts of fertility clinics

O vi siete imbattute nelle pubblicità sui centri della fertilità

on your Facebook feed.

che appaiono su Facebook.

Or in my case, Indian marriage bureaus.

O, come nel mio caso, agenzie matrimoniali indiane.

(Laughter)

(Risate)

But AI isn't just being used to make decisions

Ma le IA non vengono usate solo per prendere decisioni

about what products we want to buy

sui prodotti che vogliamo comprare,

or which show we want to binge watch next.

o i programmi che vogliamo guardare.

I wonder how you'd feel about someone who thought things like this:

Mi chiedo cosa pensereste di qualcuno che ritiene

"A black or Latino person

che "I neri e i latini

is less likely than a white person to pay off their loan on time."

sono meno propensi a pagare il mutuo in tempo rispetto ai bianchi."

"A person called John makes a better programmer

"Una persona che si chiama John è un miglior programmatore

than a person called Mary."

rispetto a una che si chiama Mary."

"A black man is more likely to be a repeat offender than a white man."

"È più probabile che sia un uomo nero ad essere recidivo rispetto a uno bianco."

You're probably thinking,

Starete pensando,

"Wow, that sounds like a pretty sexist, racist person," right?

"Sembra una persona piuttosto sessista e razzista." Vero?

These are some real decisions that AI has made very recently,

Queste sono alcune decisioni vere che le IA hanno preso recentemente.

based on the biases it has learned from us,

Si basano sui pregiudizi che hanno imparato da noi.

from the humans.

Dagli esseri umani.

AI is being used to help decide whether or not you get that job interview;

Le IA vengono usate per aiutare a decidere se avere o no un colloquio di lavoro.

how much you pay for your car insurance;

Quanto pagare per l'assicurazione della macchina.

how good your credit score is;

Quanto sia buona l'affidabilità creditizia.

and even what rating you get in your annual performance review.

Persino quale valutazione avrete sui risultati annuali.

But these decisions are all being filtered through

Ma queste decisioni vengono tutte filtrate attraverso

its assumptions about our identity, our race, our gender, our age.

deduzioni sulla nostra identità, razza, genere ed età.

How is that happening?

Come avviene tutto ciò?

Now, imagine an AI is helping a hiring manager

Ora immaginate un'IA che aiuta un manager per le assunzioni

find the next tech leader in the company.

a trovare il nuovo leader dell'azienda.

So far, the manager has been hiring mostly men.

Finora sono stati assunti soprattutto uomini.

So the AI learns men are more likely to be programmers than women.

Le IA sanno che i programmatori sono per lo più uomini che donne.

And it's a very short leap from there to:

Da qui il passo è breve a pensare

men make better programmers than women.

che gli uomini sono programmatori migliori.

We have reinforced our own bias into the AI.

Abbiamo rinforzato i nostri pregiudizi nelle intelligenze artificiali.

And now, it's screening out female candidates.

E ora queste scartano le candidature femminili.

Hang on, if a human hiring manager did that,

Ma attenzione, se fosse un manager umano a fare tutto questo,

we'd be outraged, we wouldn't allow it.

saremmo indignati, non lo permetteremmo.

This kind of gender discrimination is not OK.

Questo tipo di discriminazione di genere non andrebbe bene.

And yet somehow, AI has become above the law,

In qualche modo le IA si ergono al di sopra della legge

because a machine made the decision.

perché una macchina ha preso la decisione.

That's not it.

Non è solo questo.

We are also reinforcing our bias in how we interact with AI.

Rafforziamo i nostri pregiudizi anche nel modo in cui interagiamo con le IA.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

Quante volte avete usato assistenti vocali come Siri, Alexa o Cortana?

They all have two things in common:

Hanno tutte due cose in comune.

one, they can never get my name right,

Uno, non sapranno mai pronunciare correttamente il mio nome.

and second, they are all female.

Due, sono tutte femminili.

They are designed to be our obedient servants,

Sono state disegnate per essere serve obbedienti.

turning your lights on and off, ordering your shopping.

Ti accendono e spengono le luci, ti ordinano la spesa.

You get male AIs too, but they tend to be more high-powered,

Ci sono anche IA maschili, ma generalmente sono più potenti.

like IBM Watson, making business decisions,

Come IBM Watson che prende decisioni d'affari.

Salesforce Einstein or ROSS, the robot lawyer.

Salesforce Einstein o ROSS, l'avvocato robot.

So poor robots, even they suffer from sexism in the workplace.

Poveri robot, anche loro subiscono sessismo sul posto di lavoro.

(Laughter)

(Risate)

Think about how these two things combine

Pensate come queste due cose si combinano

and affect a kid growing up in today's world around AI.

e influiscono sui bambini che crescono nel mondo d'oggi circondati da IA.

So they're doing some research for a school project

Fanno ricerche per un progetto scolastico

and they Google images of CEO.

e cercano su Google immagini di un amministratore delegato.

The algorithm shows them results of mostly men.

L'algoritmo mostrerà come risultati per lo più uomini.

And now, they Google personal assistant.

Cercano su Google assistente personale.

As you can guess, it shows them mostly females.

Come potete immaginare mostrerà per lo più donne.

And then they want to put on some music, and maybe order some food,

Poi vogliono mettere della musica, o forse ordinare del cibo.

and now, they are barking orders at an obedient female voice assistant.

Così gridano ordini a un'obbediente assistente vocale femminile.

Some of our brightest minds are creating this technology today.

Alcune delle più brillanti menti stanno creando queste tecnologie oggi.

Technology that they could have created in any way they wanted.

Tecnologie che avrebbero potuto creare in qualsiasi modo.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

Eppure hanno scelto di crearle nello stile di una segretaria anni 50.

Yay!

Evvai!

But OK, don't worry,

Ma ok, non preoccupatevi.

this is not going to end with me telling you

Non finirà con io che vi dico

that we are all heading towards sexist, racist machines running the world.

che il mondo finirà per essere governato da macchine sessiste e razziste.

The good news about AI is that it is entirely within our control.

La buona notizia riguardo le IA è che sono sotto il nostro controllo.

We get to teach the right values, the right ethics to AI.

Dobbiamo insegnare alle IA i valori giusti, la giusta etica.

So there are three things we can do.

Ci sono tre cose che possiamo fare.

One, we can be aware of our own biases

Una, possiamo essere consapevoli dei nostri pregiudizi

and the bias in machines around us.

e dei pregiudizi delle macchine che ci cicrondano.

Two, we can make sure that diverse teams are building this technology.

Due, possiamo assicurarci che diversi gruppi costruiscano queste tecnologie.

And three, we have to give it diverse experiences to learn from.

Tre, dobbiamo dare loro diverse esperienze da cui imparare.

I can talk about the first two from personal experience.

Posso parlarvi delle prime due per esperienza personale.

When you work in technology

Quando lavori nella tecnologia

and you don't look like a Mark Zuckerberg or Elon Musk,

e non assomigli a Mark Zuckerberg o Elon Musk,

your life is a little bit difficult, your ability gets questioned.

la tua vita è un po' difficile, le tue abilità vengono messe in dubbio.

Here's just one example.

Ecco un esempio.

Like most developers, I often join online tech forums

Come molti sviluppatori spesso partecipo a forum online sulla tecnologia

and share my knowledge to help others.

e condivido il mio sapere per aiutare gli altri.

And I've found,

Quello che ho trovato

when I log on as myself, with my own photo, my own name,

quando ho effettuato l'accesso con la mia foto e il mio nome,

I tend to get questions or comments like this:

sono state domande e commenti come:

"What makes you think you're qualified to talk about AI?"

"Cosa ti fa pensare di essere qualificata per parlare di IA?"

"What makes you think you know about machine learning?"

"Cosa ti fa pensare di saperne di apprendimento delle macchine?"

So, as you do, I made a new profile,

Così ho creato un nuovo profilo.

and this time, instead of my own picture, I chose a cat with a jet pack on it.

Invece della mia foto, ho scelto quella di un gatto con un jet-pack.

And I chose a name that did not reveal my gender.

E ho scelto un nome che non rivelasse il mio genere.

You can probably guess where this is going, right?

Potete immaginare cosa è accaduto, vero?

So, this time, I didn't get any of those patronizing comments about my ability

Questa volta non ho avuto nessun commento che mettesse in dubbio le mie abilità.

and I was able to actually get some work done.

E sono stata in grado di concludere qualcosa.

And it sucks, guys.

È terribile.

I've been building robots since I was 15,

Costruisco robot da quando avevo 15 anni.

I have a few degrees in computer science,

Ho delle lauree in scienze informatiche.

and yet, I had to hide my gender

Eppure devo nascondere il mio genere

in order for my work to be taken seriously.

per far sì che il mio lavoro venga preso sul serio.

So, what's going on here?

Cosa sta succedendo?

Are men just better at technology than women?

Gli uomini sono migliori nella tecnologia rispetto alle donne?

Another study found

Un altro studio ha scoperto

that when women coders on one platform hid their gender, like myself,

che quando le programmatrici nascondono il loro genere su una piattaforma,

their code was accepted four percent more than men.

il loro codice viene accettato il 4 per cento in più degli uomini.

So this is not about the talent.

Quindi non è una questione di talento.

This is about an elitism in AI

È una questione di elitismo nelle IA

that says a programmer needs to look like a certain person.

secondo cui un programmatore deve assomigliare a una certa persona.

What we really need to do to make AI better

Quello di cui abbiamo veramente bisogno per migliorare le IA

is bring people from all kinds of backgrounds.

è coinvolgere persone da tutti i tipi di contesto.

We need people who can write and tell stories

Ci vogliono persone che sanno scrivere e raccontare storie,

to help us create personalities of AI.

che creino le personalità delle IA.

We need people who can solve problems.

Ci vogliono persone che sanno risolvere problemi.

We need people who face different challenges

Ci vogliono persone che affrontano sfide diverse.

and we need people who can tell us what are the real issues that need fixing

Ci vogliono persone che ci dicano quali problemi devono essere risolti

and help us find ways that technology can actually fix it.

e che ci aiutino a trovare il modo di risolverli con la tecnologia.

Because, when people from diverse backgrounds come together,

Perché, quando persone da diversi contesti si uniscono,

when we build things in the right way,

quando costruiamo cose nel modo giusto,

the possibilities are limitless.

ci sono infinite possibilità.

And that's what I want to end by talking to you about.

E questo è quello di cui vi voglio parlare per concludere.

Less racist robots, less machines that are going to take our jobs --

Non tanto di robot razzisti o macchine che ci stanno rubando il lavoro.

and more about what technology can actually achieve.

Voglio parlavi di cosa la tecnologia può realizzare.

So, yes, some of the energy in the world of AI,

Sì, alcune delle energie nel mondo delle IA,

in the world of technology

nel mondo della tecnologia,

is going to be about what ads you see on your stream.

saranno spese per le pubblicità che vedete su Internet.

But a lot of it is going towards making the world so much better.

Ma molte saranno indirizzate per migliorare il mondo.

Think about a pregnant woman in the Democratic Republic of Congo,

Pensate a una donna incinta nella Repubblica Democratica del Congo,

who has to walk 17 hours to her nearest rural prenatal clinic

che deve camminare 17 ore per raggiungere la clinica più vicina

to get a checkup.

per fare un controllo.

What if she could get diagnosis on her phone, instead?

E se potesse ottenere una diagnosi sul suo telefono?

Or think about what AI could do

O pensate a cosa potrebbero fare le IA

for those one in three women in South Africa

a una donna su tre che in Sudafrica

who face domestic violence.

subisce violenza domestica.

If it wasn't safe to talk out loud,

Se fosse pericoloso parlare ad alta voce,

they could get an AI service to raise alarm,

si potrebbe avere un'IA che dia l'allarme,

get financial and legal advice.

che dia supporto legale e finanziario.

These are all real examples of projects that people, including myself,

Questi sono tutti esempi di progetti su cui alcune persone, tra cui io,

are working on right now, using AI.

stanno lavorando adesso usando le IA.

So, I'm sure in the next couple of days there will be yet another news story

Sono sicura che nei prossimi giorni ci sarà un'altra storia nuova

about the existential risk,

sui rischi esistenziali

robots taking over and coming for your jobs.

dei robot che vengono a rubarvi il lavoro.

(Laughter)

(Risate)

And when something like that happens,

E quando questo avverrà,

I know I'll get the same messages worrying about the future.

so che riceverò gli stessi messaggi preoccupati per il futuro.

But I feel incredibly positive about this technology.

Ma mi sento incredibilmente positiva su questa tecnologia.

This is our chance to remake the world into a much more equal place.

È la nostra possibilità per rendere il mondo un posto più uguale.

But to do that, we need to build it the right way from the get go.

Ma per farlo dobbiamo ricostruirlo da capo nel modo giusto.

We need people of different genders, races, sexualities and backgrounds.

Ci vogliono persone di diversi generi, razze, sessualità e contesti.

We need women to be the makers

Le donne devono essere creatrici,

and not just the machines who do the makers' bidding.

non solo macchine che eseguono gli ordini dei creatori.

We need to think very carefully what we teach machines,

Dobbiamo pensare attentamente a cosa insegniamo alle macchine.

what data we give them,

Ai dati che forniamo loro.

so they don't just repeat our own past mistakes.

Così che non ripetano i nostri errori del passato.

So I hope I leave you thinking about two things.

Spero di avervi lasciato due cose su cui pensare.

First, I hope you leave thinking about bias today.

Primo, spero che rifletterete sui pregiudizi.

And that the next time you scroll past an advert

E che la prossima volta che incapperete in una pubblicità

that assumes you are interested in fertility clinics

secondo cui siete interessati a cliniche della fertilità,

or online betting websites,

o a siti di scommesse online,

that you think and remember

possiate pensare e ricordare

that the same technology is assuming that a black man will reoffend.

che la stessa tecnologia ritiene che un uomo di colore sia recidivo.

Or that a woman is more likely to be a personal assistant than a CEO.

O che è più probabile che una donna sia assistente che amministratore delegato.

And I hope that reminds you that we need to do something about it.

E spero che vi ricordi che dobbiamo fare qualcosa a riguardo.

And second,

Secondo,

I hope you think about the fact

spero che possiate pensare al fatto

that you don't need to look a certain way

che non bisonga apparire in un certo modo,

or have a certain background in engineering or technology

o avere un certo background nell'ingegneria o nella tecnologia

to create AI,

per poter creare IA,

which is going to be a phenomenal force for our future.

che saranno delle forze fenomenali per il nostro futuro.

You don't need to look like a Mark Zuckerberg,

Non dovete assomigliare a Mark Zuckerberg.

you can look like me.

Potete assomigliare a me.

And it is up to all of us in this room

E spetta a tutti noi in questa sala

to convince the governments and the corporations

convincere i governi e le aziende

to build AI technology for everyone,

a costruire tecnologie per tutti.

including the edge cases.

Incluso i casi limite.

And for us all to get education

E a ricevere un'istruzione

about this phenomenal technology in the future.

riguardo questa fenomenale tecnologia del futuro.

Because if we do that,

Perché se facciamo questo,

then we've only just scratched the surface of what we can achieve with AI.

abbiamo solo grattato la superficie di quel che possiamo ottenere con le IA.

Thank you.

Grazie.

(Applause)

(Applausi)