How I'm fighting bias in algorithms | Joy Buolamwini

Traducteur: Marie P Relecteur: eric vautier

Hello, I'm Joy, a poet of code,

Bonjour, je suis Joy, une poète du code

on a mission to stop an unseen force that's rising,

en mission pour arrêter une force invisible qui prend de l'ampleur

a force that I called "the coded gaze,"

une force que j'appelle « le regard codé »,

my term for algorithmic bias.

mon terme pour le biais algorithmique.

Algorithmic bias, like human bias, results in unfairness.

Le biais algorithmique, comme le biais cognitif, crée de l'injustice.

However, algorithms, like viruses, can spread bias on a massive scale

Mais les algorithmes, comme les virus, peuvent massivement générer un biais

at a rapid pace.

et ce, très rapidement.

Algorithmic bias can also lead to exclusionary experiences

Le biais algorithmique peut aussi créer des sentiments d'exclusion

and discriminatory practices.

et mener à des pratiques discriminatoires.

Let me show you what I mean.

Laissez-moi vous montrer ce que je veux dire.

(Video) Joy Buolamwini: Hi, camera. I've got a face.

(Video) Joy Boulamwini : Salut webcam. J'ai un visage.

Can you see my face?

Est-ce que tu peux le voir?

No-glasses face?

Et sans lunettes ?

You can see her face.

Tu peux voir son visage à elle.

What about my face?

Et le mien ?

I've got a mask. Can you see my mask?

J'ai un masque. Est-ce que tu peux voir mon masque ?

Joy Buolamwini: So how did this happen?

Joy Boulamwini : Ça, comment est-ce arrivé ?

Why am I sitting in front of a computer

Pourquoi est-ce que je me retrouve assise devant un ordinateur

in a white mask,

portant un masque blanc

trying to be detected by a cheap webcam?

pour essayer d'être détectée par une webcam premier prix ?

Well, when I'm not fighting the coded gaze

Quand je ne me bats pas contre le regard codé

as a poet of code,

en tant que poète du code,

I'm a graduate student at the MIT Media Lab,

Je suis doctorante au Media Lab du MIT

and there I have the opportunity to work on all sorts of whimsical projects,

et j'ai l'opportunité de plancher sur plein de projets fantaisistes

including the Aspire Mirror,

dont le Miroir Aspire

a project I did so I could project digital masks onto my reflection.

que j'ai construit pour pouvoir projeter des masques digitaux sur mon reflet.

So in the morning, if I wanted to feel powerful,

Comme ça le matin, pour me sentir plus forte,

I could put on a lion.

je pouvais projeter un lion.

If I wanted to be uplifted, I might have a quote.

Si j'avais besoin d'encouragements, je pouvais choisir une citation.

So I used generic facial recognition software

J'ai donc utilisé un logiciel de reconnaissance faciale

to build the system,

pour construire le système,

but found it was really hard to test it unless I wore a white mask.

mais j'ai réalisé que je ne pouvais pas le tester à moins de porter un masque.

Unfortunately, I've run into this issue before.

Malheureusement, j'avais déjà rencontré ce problème.

When I was an undergraduate at Georgia Tech studying computer science,

Quand j'étais étudiante en informatique à Georgia Tech,

I used to work on social robots,

je travaillais sur les robots sociaux

and one of my tasks was to get a robot to play peek-a-boo,

et l'un de mes devoirs était de programmer un robot pour qu'il joue à « Caché »,

a simple turn-taking game

un jeu qui se joue à tour de rôle

where partners cover their face and then uncover it saying, "Peek-a-boo!"

dans lequel chacun couvre son visage, puis le découvre en disant « Coucou ! »

The problem is, peek-a-boo doesn't really work if I can't see you,

Le problème, c'est que ce jeu ne peut pas marcher si je ne peux pas vous voir

and my robot couldn't see me.

et mon robot ne pouvait pas me voir.

But I borrowed my roommate's face to get the project done,

Mais j'ai emprunté le visage de ma colocataire pour finir le projet,

submitted the assignment,

j'ai rendu le devoir,

and figured, you know what, somebody else will solve this problem.

et je me suis dit que quelqu'un d'autre résoudrait le problème.

Not too long after,

Peu de temps après,

I was in Hong Kong for an entrepreneurship competition.

j'étais à Hong Kong pour une compétition d'entrepreneuriat.

The organizers decided to take participants

Les organisateurs ont décidé d'emmener les participants

on a tour of local start-ups.

faire le tour des start-up locales.

One of the start-ups had a social robot,

L'une d'elles avait un robot social, ils ont décidé de faire une démonstration.

and they decided to do a demo.

The demo worked on everybody until it got to me,

Ça a marché avec tout le monde jusqu'à ce que vienne mon tour,

and you can probably guess it.

et vous pouvez sans doute deviner.

It couldn't detect my face.

Le robot ne pouvait pas détecter mon visage.

I asked the developers what was going on,

J'ai demandé aux développeurs ce qu'il se passait,

and it turned out we had used the same generic facial recognition software.

et en fait nous avions utilisé le même outil de reconnaissance faciale.

Halfway around the world,

À l'autre bout du monde,

I learned that algorithmic bias can travel as quickly

j'avais appris que le biais algorithmique peut voyager aussi rapidement

as it takes to download some files off of the internet.

qu'un téléchargement de fichiers.

So what's going on? Why isn't my face being detected?

Qu'est-ce qui se passe ? Pourquoi mon visage n'est pas détecté ?

Well, we have to look at how we give machines sight.

Pour répondre, il faut comprendre comment on donne la vue aux machines.

Computer vision uses machine learning techniques

La vision informatique utilise des techniques de machine learning

to do facial recognition.

pour reconnaître des visages.

So how this works is, you create a training set with examples of faces.

Pour que ça marche, vous créez un ensemble de formation avec des exemples.

This is a face. This is a face. This is not a face.

Ceci est un visage. Ceci est un visage. Mais pas ça.

And over time, you can teach a computer how to recognize other faces.

Au fur et à mesure, l'ordinateur apprend comment reconnaître d'autres visages.

However, if the training sets aren't really that diverse,

Mais si les jeux de tests ne sont pas très variés,

any face that deviates too much from the established norm

n'importe quel visage qui dévie trop de la norme établie

will be harder to detect,

sera plus compliqué à détecter,

which is what was happening to me.

et c'était ce qui se passait avec moi.

But don't worry -- there's some good news.

Mais pas d'angoisse -- il y a de bonnes nouvelles.

Training sets don't just materialize out of nowhere.

Les jeux de tests n'apparaissent pas par magie.

We actually can create them.

On peut les créer nous-mêmes.

So there's an opportunity to create full-spectrum training sets

Il y a la possibilité de créer des jeux de tests plus variés

that reflect a richer portrait of humanity.

qui offrent un portrait plus riche de l'humanité.

Now you've seen in my examples

Vous avez vu dans mes exemples

how social robots

que c'est via les robots sociaux

was how I found out about exclusion with algorithmic bias.

que je me suis rendu compte de l'existence du biais algorithmique.

But algorithmic bias can also lead to discriminatory practices.

Mais le biais algorithmique peut aussi mener à des pratiques discriminatoires.

Across the US,

Aux États-Unis,

police departments are starting to use facial recognition software

la police commence à utiliser des logiciels de reconnaissance faciale

in their crime-fighting arsenal.

dans son arsenal contre le crime.

Georgetown Law published a report

Georgetown Law a publié un rapport

showing that one in two adults in the US -- that's 117 million people --

montrant qu'un adulte sur deux aux États-Unis - 117 millions de personnes--

have their faces in facial recognition networks.

ont leur visage dans un système de reconnaissance faciale.

Police departments can currently look at these networks unregulated,

La police peut en ce moment consulter ces systèmes non régulés,

using algorithms that have not been audited for accuracy.

en utilisant des algorithmes dont la fiabilité n'a pas été testée.

Yet we know facial recognition is not fail proof,

Mais on sait que la reconnaissance faciale a des failles,

and labeling faces consistently remains a challenge.

et que correctement étiqueter un visage reste un défi.

You might have seen this on Facebook.

Vous l'avez sûrement vu sur Facebook.

My friends and I laugh all the time when we see other people

Avec mes amis, on rit souvent quand on voit d'autres personnes

mislabeled in our photos.

mal identifiées dans nos photos.

But misidentifying a suspected criminal is no laughing matter,

Mais mal identifier un suspect comme étant un criminel n'est pas drôle,

nor is breaching civil liberties.

et porter atteinte aux libertés civiles non plus.

Machine learning is being used for facial recognition,

Le machine learning est utilisé pour la reconnaissance faciale,

but it's also extending beyond the realm of computer vision.

mais s'utilise dans d'autres domaines que la vision informatique.

In her book, "Weapons of Math Destruction,"

Dans son livre « Weapons of Math Destruction »,

data scientist Cathy O'Neil talks about the rising new WMDs --

la data scientist Cathy O'Neil parle des risques de ces nouvelles armes,

widespread, mysterious and destructive algorithms

des algorithmes répandus, mystérieux et destructeurs

that are increasingly being used to make decisions

qui sont de plus en plus utilisés dans des prises de décision

that impact more aspects of our lives.

qui ont un impact sur nos vies.

So who gets hired or fired?

Qui est embauché ou renvoyé ?

Do you get that loan? Do you get insurance?

Aurez-vous ce prêt ? Une assurance ?

Are you admitted into the college you wanted to get into?

Serez-vous admis dans cette université que vous voulez vraiment ?

Do you and I pay the same price for the same product

Est-ce que vous et moi payons le même prix pour le même produit

purchased on the same platform?

acheté sur la même plateforme ?

Law enforcement is also starting to use machine learning

Les autorités policières commencent à utiliser le machine learning

for predictive policing.

dans le cadre de la prévention policière.

Some judges use machine-generated risk scores to determine

Certains juges utilisent des scores générés par des machines

how long an individual is going to spend in prison.

pour déterminer combien de temps un individu passera derrière les barreaux.

So we really have to think about these decisions.

Nous devons donc réfléchir à ces décisions.

Are they fair?

Sont-elles justes ?

And we've seen that algorithmic bias

Et nous avons vu que le biais algorithmique

doesn't necessarily always lead to fair outcomes.

ne mène pas forcément à des décisions justes.

So what can we do about it?

Que pouvons-nous faire ?

Well, we can start thinking about how we create more inclusive code

Nous pouvons commencer à penser à une manière de coder plus inclusivement

and employ inclusive coding practices.

et à utiliser des pratiques de code plus inclusives.

It really starts with people.

Tout commence avec les gens.

So who codes matters.

Qui code a une importance.

Are we creating full-spectrum teams with diverse individuals

Créons-nous des équipes composées d'individus variés

who can check each other's blind spots?

qui puissent vérifier mutuellement leurs travaux ?

On the technical side, how we code matters.

D'un point de vue technique, comment on code a de l'importance.

Are we factoring in fairness as we're developing systems?

Ajoutons-nous la justice à l'équation quand nous développons des systèmes ?

And finally, why we code matters.

Finalement, pourquoi on code a une importance.

We've used tools of computational creation to unlock immense wealth.

Nous avons utilisé des outils numériques pour générer d'immenses richesses.

We now have the opportunity to unlock even greater equality

Nous avons maintenant l'opportunité de créer encore plus d'égalité

if we make social change a priority

si nous faisons du changement social une priorité.

and not an afterthought.

et pas une préoccupation secondaire.

And so these are the three tenets that will make up the "incoding" movement.

Ceci seront les trois piliers du mouvement « incoding ».

Who codes matters,

Qui code a de l'importance,

how we code matters

la manière dont on code aussi

and why we code matters.

et pourquoi on code également.

So to go towards incoding, we can start thinking about

Pour aller vers l'incoding, nous pouvons commencer à réfléchir

building platforms that can identify bias

à comment construire des outils pouvant identifier ce biais

by collecting people's experiences like the ones I shared,

via la collecte de témoignages comme celui que j'ai partagé,

but also auditing existing software.

mais qui pourraient aussi tester des logiciels existants.

We can also start to create more inclusive training sets.

Nous pouvons commencer à créer des jeux de tests plus complets.

Imagine a "Selfies for Inclusion" campaign

Imaginez une campagne « Selfies pour l'inclusion »,

where you and I can help developers test and create

où vous et moi pourrions aider les développeurs à tester et créer

more inclusive training sets.

ces jeux de tests plus variés.

And we can also start thinking more conscientiously

Nous pouvons commencer à penser plus consciencieusement

about the social impact of the technology that we're developing.

à l'impact social des technologies que nous développons.

To get the incoding movement started,

Pour commencer le mouvement incoding,

I've launched the Algorithmic Justice League,

J'ai lancé l'Algorithmic Justice League,

where anyone who cares about fairness can help fight the coded gaze.

où n'importe qui se souciant du problème peut aider à combattre le regard codé.

On codedgaze.com, you can report bias,

Sur codedgaze.com, vous pouvez dénoncer des biais,

request audits, become a tester

demander des tests, être testeur vous-même

and join the ongoing conversation,

et rejoindre la conversation,

#codedgaze.

#codedgaze.

So I invite you to join me

Donc je vous invite à me rejoindre

in creating a world where technology works for all of us,

pour créer un monde où la technologie marche pour nous tous,

not just some of us,

pas seulement pour certains,

a world where we value inclusion and center social change.

un monde où l'inclusion et le changement social ont de la valeur.

Thank you.

Merci.

(Applause)

(Applaudissements)

But I have one question:

Mais j'ai une question :

Will you join me in the fight?

Me rejoindrez-vous dans ce combat?

(Laughter)

(Rires)

(Applause)

(Applaudissements)