How I'm fighting bias in algorithms | Joy Buolamwini

Traduttore: Federico MINELLE Revisore: Nadia Ahmed

Hello, I'm Joy, a poet of code,

Ciao, sono Joy, una poetessa della programmazione,

on a mission to stop an unseen force that's rising,

in missione per fermare una crescente forza inattesa.

a force that I called "the coded gaze,"

Una forza che ho chiamato "sguardo programmato",

my term for algorithmic bias.

la mia espressione per la parzialità algoritmica.

Algorithmic bias, like human bias, results in unfairness.

La parzialità algoritmica, come quella umana, produce ingiustizia.

However, algorithms, like viruses, can spread bias on a massive scale

Tuttavia gli algoritmi, come i virus, si possono diffondere su ampia scala

at a rapid pace.

in tempi rapidi.

Algorithmic bias can also lead to exclusionary experiences

La parzialità algoritmica può anche portare a esperienze di esclusione

and discriminatory practices.

e pratiche discriminatorie.

Let me show you what I mean.

Vi mostro cosa voglio dire.

(Video) Joy Buolamwini: Hi, camera. I've got a face.

(Video) Joy Buolamwini: Ciao. Ho una faccia.

Can you see my face?

Puoi vedere la mia faccia?

No-glasses face?

Senza occhiali?

You can see her face.

Puoi vedere la sua faccia.

What about my face?

Che dici della mia faccia?

I've got a mask. Can you see my mask?

Ho qui una maschera. Vedi la mia maschera?

Joy Buolamwini: So how did this happen?

Joy Buolamwini: Com'è successo?

Why am I sitting in front of a computer

Perché ero seduta davanti al computer

in a white mask,

con una maschera bianca,

trying to be detected by a cheap webcam?

tentando di essere individuata da una webcam economica?

Well, when I'm not fighting the coded gaze

Quando non combatto "lo sguardo programmato"

as a poet of code,

da poetessa della programmazione,

I'm a graduate student at the MIT Media Lab,

sono una studentessa di laurea magistrale al Media Lab del MIT,

and there I have the opportunity to work on all sorts of whimsical projects,

dove ho avuto la opportunità di lavorare su ogni tipo di progetto stravagante,

including the Aspire Mirror,

incluso lo Specchio dei Desideri,

a project I did so I could project digital masks onto my reflection.

un progetto che mi consente di proiettare una maschera digitale sul mio riflesso.

So in the morning, if I wanted to feel powerful,

Così la mattina, se voglio sentirmi forte,

I could put on a lion.

posso indossare leone.

If I wanted to be uplifted, I might have a quote.

Se volessi essere rialzata, potrei avere un'altezza.

So I used generic facial recognition software

Ho utilizzzato un generico software di riconoscimento facciale

to build the system,

per costruire il sistema,

but found it was really hard to test it unless I wore a white mask.

ma ho trovato molto difficile provarlo a meno di indossare una maschera bianca.

Unfortunately, I've run into this issue before.

Sfortunatamente, ho già toccato questo tema.

When I was an undergraduate at Georgia Tech studying computer science,

Quando ero unastudentessa di Informatica al Georgia Tech

I used to work on social robots,

ero abituata a lavorare sui robot sociali,

and one of my tasks was to get a robot to play peek-a-boo,

e uno dei miei compiti era di far giocare un robot a "booh! chi sono?",

a simple turn-taking game

un semplice gioco a turni,

where partners cover their face and then uncover it saying, "Peek-a-boo!"

dove i compagni nascondono la faccia e poi la scoprono dicendo "booh! chi sono?"

The problem is, peek-a-boo doesn't really work if I can't see you,

Il problema è che il gioco non funziona veramente se non vi vedo,

and my robot couldn't see me.

e il mio robot non mi poteva vedere.

But I borrowed my roommate's face to get the project done,

Allora mi sono fatta prestare il volto della mia compagna di stanza,

submitted the assignment,

e ho consegnato il compito,

and figured, you know what, somebody else will solve this problem.

e ho pensato che qualcun altro risolvesse il problema.

Not too long after,

Non molto dopo,

I was in Hong Kong for an entrepreneurship competition.

ero a Hong Kong per una gara sulla imprenditorialità.

The organizers decided to take participants

Gli organizzatori decisero di scegliere i partecipanti

on a tour of local start-ups.

esaminando le start-up locali.

One of the start-ups had a social robot,

Una delle start-up aveva un robot sociale,

and they decided to do a demo.

e loro decisero di fare un demo.

The demo worked on everybody until it got to me,

Il demo funzionò finché non giunsero a me,

and you can probably guess it.

e forse indovinate perché.

It couldn't detect my face.

Non poteva individuare la mia faccia.

I asked the developers what was going on,

Ho chiesto agli sviluppatori cosa stava succedendo,

and it turned out we had used the same generic facial recognition software.

e risultò che usavano lo stesso software generico di riconoscimento facciale.

Halfway around the world,

Dall'altra parte del mondo,

I learned that algorithmic bias can travel as quickly

ho imparato che la parzialità algoritmica può viaggiare velocemente

as it takes to download some files off of the internet.

visto che basta scaricare qualche file da internet.

So what's going on? Why isn't my face being detected?

Cosa stava succedendo? Perchè la mia faccia non era riconosciuta?

Well, we have to look at how we give machines sight.

Dobbiamo vedere come diamo la vista alle macchine.

Computer vision uses machine learning techniques

La visione tramite computer usa tecniche di auto-apprendimento

to do facial recognition.

per il riconoscimento facciale.

So how this works is, you create a training set with examples of faces.

Come funziona: si creano esempi di facce per l'apprendimento.

This is a face. This is a face. This is not a face.

Questa è una faccia. Anche questa. Questa non è una faccia.

And over time, you can teach a computer how to recognize other faces.

Con il tempo, si può insegnare al computer come riconoscere altre facce.

However, if the training sets aren't really that diverse,

Ma se gli esempi per l'addestramento non sono veramente diversi,

any face that deviates too much from the established norm

qualsiasi faccia che devia troppo dalla norma stabilita

will be harder to detect,

sarà difficile da riconoscere,

which is what was happening to me.

che era quanto mi stava capitando.

But don't worry -- there's some good news.

Ma non vi preoccupate, ci sono buone notizie.

Training sets don't just materialize out of nowhere.

Gli esempi per l'addestramento non nascono dal nulla.

We actually can create them.

Siamo noi a crearli.

So there's an opportunity to create full-spectrum training sets

C'è quindi la possibilità di creare gruppi di esempi ad ampio spettro

that reflect a richer portrait of humanity.

che riflettono un più ricco ritratto dell'umanità.

Now you've seen in my examples

Avete ora visto nei miei esempi

how social robots

come tramite i robot sociali

was how I found out about exclusion with algorithmic bias.

ho scopertoa l'esclusione dovuta alla parzialità algoritmica.

But algorithmic bias can also lead to discriminatory practices.

Ma la parzialità algoritmica può condurre anche a pratiche discriminatorie.

Across the US,

Negli USA,

police departments are starting to use facial recognition software

i dipartimenti di polizia iniziano a usare software di riconoscimento facciale

in their crime-fighting arsenal.

nel loro arsenale di battaglia al crimine.

Georgetown Law published a report

Georgetown Law ha pubblicato un rapporto

showing that one in two adults in the US -- that's 117 million people --

che mostra come uno su due adulti in USA, cioè 117 milioni di persone,

have their faces in facial recognition networks.

ha la sua faccia nelle reti per il riconoscimento facciale.

Police departments can currently look at these networks unregulated,

I dipartimenti di polizia possono ora utilizzare queste reti non regolamentate,

using algorithms that have not been audited for accuracy.

che usano algoritmi non verificati sulla loro accuratezza.

Yet we know facial recognition is not fail proof,

Certo si sa che il riconoscimento facciale non è a prova di errore,

and labeling faces consistently remains a challenge.

ed etichettare le facce coerentemente rimane una sfida.

You might have seen this on Facebook.

Si può vedere ciò anche su Facebook.

My friends and I laugh all the time when we see other people

I miei amici ed io ridiamo quando vediamo altre persone

mislabeled in our photos.

etichettate male nelle nostre foto.

But misidentifying a suspected criminal is no laughing matter,

Ma identificare male un sospetto criminale non è una cosa da riderci su,

nor is breaching civil liberties.

neppure violare le nostre libertà civili.

Machine learning is being used for facial recognition,

Si usa l'apprendimento automatico per il riconoscimento facciale,

but it's also extending beyond the realm of computer vision.

ma si sta estendendo oltre il campo della visione via computer.

In her book, "Weapons of Math Destruction,"

Nel suo libro, "Armi per la Distruzione Matematica",

data scientist Cathy O'Neil talks about the rising new WMDs --

la scienzata sui dati Cathy O'Neil ci parla dei crescenti nuovi WMD,

widespread, mysterious and destructive algorithms

algoritmi diffusi, misteriosi e distruttivi

that are increasingly being used to make decisions

che sono sempre più usati per prendere decisioni

that impact more aspects of our lives.

che influiscono su molti aspetti delle nostre vite.

So who gets hired or fired?

Così, chi viene assunto o licenziato?

Do you get that loan? Do you get insurance?

Ottenete quel mutuo? E la assicurazione?

Are you admitted into the college you wanted to get into?

Siete ammessi al college al quale volete andare?

Do you and I pay the same price for the same product

Voi ed io paghiamo lo stesso prezzo per lo stesso prodotto

purchased on the same platform?

comprato sulla stessa piattaforma? [e-commerce]

Law enforcement is also starting to use machine learning

Le forze dell'ordine stanno iniziando a usare l'apprendimento automatico

for predictive policing.

per compiti di "polizia predittiva".

Some judges use machine-generated risk scores to determine

Alcuni giudici usano valutazioni di rischio automatiche per determinare

how long an individual is going to spend in prison.

quanto tempo una persona deve passare in prigione.

So we really have to think about these decisions.

Veramente dobbiamo riflettere su queste decisioni.

Are they fair?

Sono giuste?

And we've seen that algorithmic bias

Abbiamo visto che la parzialità algoritmica

doesn't necessarily always lead to fair outcomes.

non necessariamente porta a esiti giusti.

So what can we do about it?

Cosa possiamo fare per questo?

Well, we can start thinking about how we create more inclusive code

Possiamo iniziare a riflettere su come possiamo creare codice più inclusivo

and employ inclusive coding practices.

e impiegare criteri di codifica inclusivi.

It really starts with people.

In effetti si parte dalle persone.

So who codes matters.

Con chi è interessato al codice.

Are we creating full-spectrum teams with diverse individuals

Stiamo veramente creando squadre ad ampio spettro, con diversi individui

who can check each other's blind spots?

che possano verificare i punti oscuri dell'altro?

On the technical side, how we code matters.

Da un punto di vista tecnico, il modo in cui codifichiamo è importante.

Are we factoring in fairness as we're developing systems?

Stiamo puntando sulla imparzialità quando sviluppiamo i sistemi?

And finally, why we code matters.

E alla fine, perché ci interessa la codifica.

We've used tools of computational creation to unlock immense wealth.

Usiamo strumenti di sviluppo elaborativo per liberare immense ricchezze.

We now have the opportunity to unlock even greater equality

Ora abbiamo l'opportunità di dar vita a una uguaglianza più vasta

if we make social change a priority

se diamo priorità al cambiamento sociale

and not an afterthought.

e non lo consideriamo un pensiero aggiuntivo.

And so these are the three tenets that will make up the "incoding" movement.

Vi sono quindi tre principi che sorreggono il movimento di "codifica inclusiva".

Who codes matters,

A chi interessa il codice,

how we code matters

come ci interessa il codice

and why we code matters.

e perché ci interessa il codice.

So to go towards incoding, we can start thinking about

Per puntare alla "codifica inclusiva", possiamo partire pensando

building platforms that can identify bias

di costruire piattaforme che possano identificare le parzialità

by collecting people's experiences like the ones I shared,

raccogliendo le esperienze delle persone come quelle condivise,

but also auditing existing software.

ma anche verificando il software esistente.

We can also start to create more inclusive training sets.

Possiamo anche iniziare a creare un modello formativo più inclusivo.

Imagine a "Selfies for Inclusion" campaign

Pensate a una campagna mediatica "Selfie per l'inclusione"

where you and I can help developers test and create

dove voi ed io possiamo aiutare gli sviluppatori a provare e creare

more inclusive training sets.

modelli formativi più inclusivi.

And we can also start thinking more conscientiously

Possiamo anche iniziare a riflettere più consciamente

about the social impact of the technology that we're developing.

sull'impatto sociale della tecnologia che stiamo sviluppando.

To get the incoding movement started,

Per avviare il movimento di "codifica inclusiva",

I've launched the Algorithmic Justice League,

ho lanciato la Lega per la Giustizia Algoritmica,

where anyone who cares about fairness can help fight the coded gaze.

dove ognuno che ha a cuore la giustizia può combattere "lo sguardo programmato".

On codedgaze.com, you can report bias,

Su codedgaze.com si possono segnalare parzialità,

request audits, become a tester

richiedere verifiche, diventare un collaudatore

and join the ongoing conversation,

e unirsi alla conversazione corrente,

#codedgaze.

#codedgaze.

So I invite you to join me

Vi invito quidi ad unirvi a me

in creating a world where technology works for all of us,

nel creare un mondo dove la tecnologia lavori per tutti noi,

not just some of us,

non solo per qualcuno di noi,

a world where we value inclusion and center social change.

un mondo dove diamo valore alla inclusione e ci concentriamo sul cambiamento sociale.

Thank you.

Grazie.

(Applause)

(Applausi)

But I have one question:

Ma ho una domanda:

Will you join me in the fight?

Vi unirete a me nella battaglia?

(Laughter)

(Risate)

(Applause)

(Applausi)