How racial bias works -- and how to disrupt it | Jennifer L. Eberhardt

Traducteur: eric vautier Relecteur: Claire Ghyselen

Some years ago,

Il y a quelques années,

I was on an airplane with my son who was just five years old at the time.

j'étais dans un avion avec mon fils qui n'avait que cinq ans à l'époque.

My son was so excited about being on this airplane with Mommy.

Il était tellement excité d'être dans cet avion avec moi.

He's looking all around and he's checking things out

Il regardait tout autour de lui et il observait tout,

and he's checking people out.

il observait les gens.

And he sees this man, and he says,

Voyant un homme, il dit :

"Hey! That guy looks like Daddy!"

« Hé ! Ce type ressemble à Papa ! »

And I look at the man,

Je regarde l'homme,

and he didn't look anything at all like my husband,

et il ne ressemble en rien à mon mari.

nothing at all.

Mais alors pas du tout !

And so then I start looking around on the plane,

Alors je commence à regarder autour de moi,

and I notice this man was the only black guy on the plane.

et je remarque que cet homme était le seul noir dans l'avion.

And I thought,

Et je me dis :

"Alright.

« Ok.

I'm going to have to have a little talk with my son

Il va falloir que j'aie une conversation avec mon fils

about how not all black people look alike."

pour lui expliquer que tous les noirs ne se ressemblent pas. »

My son, he lifts his head up, and he says to me,

Mon fils lève la tête et me dit :

"I hope he doesn't rob the plane."

« J'espère qu'il ne va pas voler l'avion.

And I said, "What? What did you say?"

- Quoi ? Qu'est-ce que tu as dit ?

And he says, "Well, I hope that man doesn't rob the plane."

- Eh bien, j'espère que cet homme ne va pas voler l'avion.

And I said, "Well, why would you say that?

- Et pourquoi tu dis ça ?

You know Daddy wouldn't rob a plane."

Tu sais que papa ne volerait pas un avion.

And he says, "Yeah, yeah, yeah, well, I know."

- Ouais, ouais, ouais, je sais.

And I said, "Well, why would you say that?"

- Alors pourquoi tu dis ça ? »

And he looked at me with this really sad face,

Et il m'a regardée avec un visage vraiment triste

and he says,

et a dit :

"I don't know why I said that.

« Je ne sais pas pourquoi j'ai dit ça.

I don't know why I was thinking that."

Je ne sais pas pourquoi je pensais ça. »

We are living with such severe racial stratification

Nous vivons avec une stratification raciale si stricte

that even a five-year-old can tell us what's supposed to happen next,

que même un enfant de cinq ans peut nous dire ce qui est censé arriver,

even with no evildoer,

même sans malfaiteur,

even with no explicit hatred.

même sans haine explicite.

This association between blackness and crime

Cette association entre noir et criminel

made its way into the mind of my five-year-old.

a fait son chemin dans l'esprit de mon enfant de cinq ans.

It makes its way into all of our children,

Elle se retrouve dans tous nos enfants,

into all of us.

dans chacun d'entre nous.

Our minds are shaped by the racial disparities

Nos esprits sont façonnés par les disparités raciales

we see out in the world

que nous voyons dans notre quotidien

and the narratives that help us to make sense of the disparities we see:

et les récits qui nous aident à donner un sens aux disparités que nous voyons :

"Those people are criminal."

« Ces gens sont des criminels »,

"Those people are violent."

« Ces gens sont violents »,

"Those people are to be feared."

« Ces gens sont à craindre. »

When my research team brought people into our lab

Dans notre laboratoire, mon équipe de recherche a montré des visages à des gens.

and exposed them to faces,

we found that exposure to black faces led them to see blurry images of guns

Et nous avons découvert

que des visages noirs les amenaient à voir des images floues d'armes à feu

with greater clarity and speed.

avec plus de clarté et de rapidité.

Bias cannot only control what we see,

Les préjugés ne contrôlent pas seulement ce que nous voyons,

but where we look.

mais aussi où nous regardons.

We found that prompting people to think of violent crime

Nous avons découvert qu'inciter les gens à penser à des crimes violents

can lead them to direct their eyes onto a black face

peut les amener à diriger le regard sur un visage noir

and away from a white face.

et à le détourner d'un visage blanc.

Prompting police officers to think of capturing and shooting

En incitant les policiers à penser à capturer, à tirer et à arrêter,

and arresting

leads their eyes to settle on black faces, too.

on amène leur regard à eux aussi à se fixer sur des visages noirs.

Bias can infect every aspect of our criminal justice system.

Les préjugés peuvent infecter tous les aspects de notre système judiciaire.

In a large data set of death-eligible defendants,

Des données sur des accusés pouvant être condamnés à mort

we found that looking more black more than doubled their chances

nous ont montré qu'avoir l'air plus noir faisait plus que doubler leurs chances

of receiving a death sentence --

de recevoir une condamnation à mort -

at least when their victims were white.

du moins lorsque les victimes étaient blanches.

This effect is significant,

Cet effet est significatif,

even though we controlled for the severity of the crime

même si nous avons contrôlé la gravité du crime

and the defendant's attractiveness.

et l'attractivité de l'accusé.

And no matter what we controlled for,

Peu importe ce que nous avons contrôlé,

we found that black people were punished

nous avons constaté que les noirs étaient punis

in proportion to the blackness of their physical features:

proportionnellement à la noirceur de leurs traits physiques :

the more black,

plus ils sont noirs,

the more death-worthy.

plus ils méritent la mort.

Bias can also influence how teachers discipline students.

Les préjugés peuvent aussi influencer

la façon dont les enseignants punissent les élèves.

My colleagues and I have found that teachers express a desire

Mes collègues et moi-même avons constaté que les enseignants expriment le désir

to discipline a black middle school student more harshly

de punir plus durement un collégien noir

than a white student

qu'un élève blanc

for the same repeated infractions.

pour un même comportement.

In a recent study,

Dans une étude récente,

we're finding that teachers treat black students as a group

nous constatons que les enseignants traitent les élèves noirs comme un groupe

but white students as individuals.

mais les élèves blancs comme des individus.

If, for example, one black student misbehaves

Si, par exemple, un élève noir se comporte mal

and then a different black student misbehaves a few days later,

et qu'un autre élève noir se comporte mal quelques jours plus tard,

the teacher responds to that second black student

le professeur punit ce deuxième élève noir

as if he had misbehaved twice.

comme s'il s'était mal comporté deux fois.

It's as though the sins of one child

C'est comme si les péchés d'un enfant

get piled onto the other.

s'ajoutaient à ceux de l'autre.

We create categories to make sense of the world,

Nous créons des catégories pour donner un sens au monde,

to assert some control and coherence

pour affirmer un certain contrôle et une certaine cohérence

to the stimuli that we're constantly being bombarded with.

aux stimuli dont nous sommes constamment bombardés.

Categorization and the bias that it seeds

La catégorisation et les préjugés qu'elle engendre permettent à notre cerveau

allow our brains to make judgments more quickly and efficiently,

de porter des jugements plus rapidement et plus efficacement,

and we do this by instinctively relying on patterns

et nous le faisons en nous appuyant instinctivement sur des modèles

that seem predictable.

qui semblent prévisibles.

Yet, just as the categories we create allow us to make quick decisions,

Pourtant, tout comme les catégories que nous créons

nous permettent de prendre des décisions rapides,

they also reinforce bias.

elles renforcent également les préjugés.

So the very things that help us to see the world

Ainsi, les mêmes choses qui nous aident à voir le monde

also can blind us to it.

peuvent aussi nous aveugler.

They render our choices effortless,

Elles rendent nos choix sans effort,

friction-free.

sans friction.

Yet they exact a heavy toll.

Pourtant, elles font payer un lourd tribut.

So what can we do?

Que pouvons-nous donc faire ?

We are all vulnerable to bias,

Nous sommes tous vulnérables aux préjugés,

but we don't act on bias all the time.

mais nous n'agissons pas tout le temps selon eux.

There are certain conditions that can bring bias alive

Il existe certaines conditions qui peuvent leur donner vie

and other conditions that can muffle it.

et d'autres qui peuvent les étouffer.

Let me give you an example.

Laissez-moi vous donner un exemple.

Many people are familiar with the tech company Nextdoor.

Beaucoup de gens connaissent l'entreprise technologique Nextdoor.

So, their whole purpose is to create stronger, healthier, safer neighborhoods.

Leur objectif est de créer

des quartiers plus forts, plus sains et plus sûrs.

And so they offer this online space

C'est pourquoi elle propose cet espace en ligne

where neighbors can gather and share information.

où les voisins peuvent se réunir et partager des informations.

Yet, Nextdoor soon found that they had a problem

Pourtant, Nextdoor s'est vite rendu compte qu'elle avait un problème

with racial profiling.

avec le profilage racial.

In the typical case,

Le cas typique était que

people would look outside their window

les gens regardaient par la fenêtre,

and see a black man in their otherwise white neighborhood

voyaient un homme noir dans leur quartier, d'ordinaire blanc,

and make the snap judgment that he was up to no good,

et jugeaient rapidement qu'il posait problème,

even when there was no evidence of criminal wrongdoing.

même s'il n'y avait aucune preuve d'acte délictueux.

In many ways, how we behave online

À bien des égards, notre comportement en ligne

is a reflection of how we behave in the world.

est le reflet de notre comportement dans la vraie vie.

But what we don't want to do is create an easy-to-use system

Mais ce que nous ne voulons pas, c'est créer un système facile à utiliser

that can amplify bias and deepen racial disparities,

qui puisse amplifier les préjugés et approfondir les disparités raciales,

rather than dismantling them.

plutôt que de les détruire.

So the cofounder of Nextdoor reached out to me and to others

C'est pourquoi le cofondateur de Nextdoor m'a contactée, parmi d'autres,

to try to figure out what to do.

pour essayer de trouver une solution.

And they realized that to curb racial profiling on the platform,

Et ils ont réalisé que pour freiner le profilage racial sur la plateforme,

they were going to have to add friction;

ils devaient ajouter de la friction,

that is, they were going to have to slow people down.

c'est-à-dire qu'ils allaient devoir ralentir les gens.

So Nextdoor had a choice to make,

Nextdoor avait donc un choix à faire,

and against every impulse,

et contre toute logique,

they decided to add friction.

ils ont décidé d'ajouter de la friction.

And they did this by adding a simple checklist.

Et ils l'ont fait en ajoutant une simple liste.

There were three items on it.

Elle comportait trois points.

First, they asked users to pause

D'abord, ils demandaient aux utilisateurs de faire une pause

and think, "What was this person doing that made him suspicious?"

pour se demander « Que faisait cette personne qui la rendait suspecte ? »

The category "black man" is not grounds for suspicion.

La catégorie « homme noir » n'est pas un motif de suspicion.

Second, they asked users to describe the person's physical features,

2° ils ont demandé aux utilisateurs

de décrire les caractéristiques physiques de la personne,

not simply their race and gender.

et pas seulement sa race et son genre.

Third, they realized that a lot of people

Troisièmement, ils ont réalisé que beaucoup de gens

didn't seem to know what racial profiling was,

ne semblaient pas savoir ce qu'était le profilage racial,

nor that they were engaging in it.

ni qu'ils s'y livraient.

So Nextdoor provided them with a definition

Nextdoor leur a donc fourni une définition

and told them that it was strictly prohibited.

et leur a dit que c'était strictement interdit.

Most of you have seen those signs in airports

Vous avez tous vu ces panneaux dans les aéroports

and in metro stations, "If you see something, say something."

et dans les stations de métro, « Si vous voyez quelque chose, signalez-le. »

Nextdoor tried modifying this.

Nextdoor a essayé de modifier cela.

"If you see something suspicious,

« »Si vous voyez quelque chose de louche,

say something specific."

dites quelque chose de précis. »

And using this strategy, by simply slowing people down,

Et en utilisant cette stratégie, simplement en ralentissant les gens,

Nextdoor was able to curb racial profiling by 75 percent.

Nextdoor a pu réduire le profilage racial de 75 %.

Now, people often will say to me,

Les gens me disent souvent :

"You can't add friction in every situation, in every context,

« Vous ne pouvez ajouter de la friction

dans toutes les situations ou tous les contextes.

and especially for people who make split-second decisions all the time."

Surtout avec des gens qui prennent tout le temps des décisions instantanées. »

But it turns out we can add friction

Mais il s'avère que nous pouvons ajouter de la friction

to more situations than we think.

dans plus de situations que nous ne le pensons.

Working with the Oakland Police Department

En travaillant avec le département de police d'Oakland en Californie,

in California,

I and a number of my colleagues were able to help the department

un certain nombre de mes collègues et moi-même avons pu les aider

to reduce the number of stops they made

à réduire le nombre d'interpellations

of people who were not committing any serious crimes.

de personnes qui ne commettaient aucun délit sérieux.

And we did this by pushing officers

Et nous l'avons fait en poussant les agents

to ask themselves a question before each and every stop they made:

à se poser une question avant chaque interpellation :

"Is this stop intelligence-led,

« Est-ce que cette interpellation est basée sur des renseignements ?

yes or no?"

Oui ou non ? »

In other words,

En d'autres termes,

do I have prior information to tie this particular person

« Ai-je au préalable des informations

permettant de relier cette personne

to a specific crime?

à un crime spécifique ? »

By adding that question

En ajoutant cette question

to the form officers complete during a stop,

au formulaire que les agents remplissent lors d'une interpellation,

they slow down, they pause,

ils ralentissent, ils s'arrêtent,

they think, "Why am I considering pulling this person over?"

ils se disent : « Pourquoi est-ce que j'envisage d'arrêter cette personne ? »

In 2017, before we added that intelligence-led question to the form,

En 2017, avant que nous ajoutions cette question au formulaire,

officers made about 32,000 stops across the city.

les agents avaient effectué environ 32 000 interpellations dans la ville.

In that next year, with the addition of this question,

L'année suivante, après l'ajout de cette question,

that fell to 19,000 stops.

c'était tombé à 19 000.

African-American stops alone fell by 43 percent.

Les interpellations d'Afro-Américains ont diminué de 43 %.

And stopping fewer black people did not make the city any more dangerous.

Et arrêter moins de noirs n'a pas rendu la ville plus dangereuse.

In fact, the crime rate continued to fall,

En fait, le taux de criminalité a continué à baisser,

and the city became safer for everybody.

et la ville est devenue plus sûre pour tout le monde.

So one solution can come from reducing the number of unnecessary stops.

Une solution peut donc venir

de la réduction du nombre d'interpellations inutiles.

Another can come from improving the quality of the stops

Une autre peut venir de l'amélioration de la qualité des interpellations

officers do make.

effectuées par les agents.

And technology can help us here.

Et la technologie peut nous aider dans ce domaine.

We all know about George Floyd's death,

Nous sommes tous au courant de la mort de George Floyd,

because those who tried to come to his aid held cell phone cameras

car ceux qui ont essayé de lui venir en aide avaient leur téléphone portable

to record that horrific, fatal encounter with the police.

pour enregistrer cette horrible et fatale rencontre avec la police.

But we have all sorts of technology that we're not putting to good use.

Mais nous avons toutes sortes de technologies

que nous ne mettons pas à profit.

Police departments across the country

Les services de police de tout le pays

are now required to wear body-worn cameras

sont maintenant obligés de porter des caméras fixées sur eux.

so we have recordings of not only the most extreme and horrific encounters

On a des enregistrements

non seulement des rencontres les plus extrêmes et les plus horribles,

but of everyday interactions.

mais aussi des interactions quotidiennes.

With an interdisciplinary team at Stanford,

Avec une équipe interdisciplinaire de Stanford,

we've begun to use machine learning techniques

nous utilisons des techniques d'apprentissage automatique

to analyze large numbers of encounters.

pour analyser un grand nombre de rencontres,

This is to better understand what happens in routine traffic stops.

afin de mieux comprendre ce qu'il se passe lors des contrôles routiers de routine.

What we found was that

Nous avons constaté que

even when police officers are behaving professionally,

même lorsque les policiers se comportent de manière professionnelle,

they speak to black drivers less respectfully than white drivers.

ils parlent aux conducteurs noirs avec moins de respect

qu'aux conducteurs blancs.

In fact, from the words officers use alone,

En fait, rien qu'à partir des mots que les policiers utilisent,

we could predict whether they were talking to a black driver or a white driver.

nous avons pu deviner s'ils parlaient à un conducteur noir ou à un conducteur blanc.

The problem is that the vast majority of the footage from these cameras

Le problème est que la grande majorité de ces films

is not used by police departments

n'est pas utilisée par les services de police

to understand what's going on on the street

pour comprendre ce qu'il se passe dans la rue

or to train officers.

ou pour former les agents.

And that's a shame.

Et c'est dommage.

How does a routine stop turn into a deadly encounter?

Comment une interpellation peut-elle se transformer en une rencontre mortelle ?

How did this happen in George Floyd's case?

Comment est-ce arrivé dans le cas de George Floyd ?

How did it happen in others?

Comment cela s'est-il produit dans d'autres ?

When my eldest son was 16 years old,

Quand mon fils aîné avait 16 ans,

he discovered that when white people look at him,

il a découvert que lorsque les blancs le regardaient,

they feel fear.

ils ressentaient de la peur.

Elevators are the worst, he said.

« Le pire, c'était les ascenseurs, » disait-il.

When those doors close,

« Quand les portes se referment,

people are trapped in this tiny space

les gens sont coincés dans cet espace exigu

with someone they have been taught to associate with danger.

avec quelqu'un qu'on leur a appris à associer au danger. »

My son senses their discomfort,

Mon fils sent leur malaise,

and he smiles to put them at ease,

et il sourit pour les détendre,

to calm their fears.

pour calmer leurs craintes.

When he speaks,

Lorsqu'il parle,

their bodies relax.

leur corps se détend.

They breathe easier.

Ils respirent plus librement.

They take pleasure in his cadence,

Ils prennent plaisir à son débit,

his diction, his word choice.

à sa diction, à son choix de mots.

He sounds like one of them.

Il ressemble à l'un d'entre eux.

I used to think that my son was a natural extrovert like his father.

Je pensais que mon fils était un extraverti naturel comme son père.

But I realized at that moment, in that conversation,

Mais j'ai réalisé lors de cette conversation,

that his smile was not a sign that he wanted to connect

que son sourire n'était pas un signe qu'il voulait se connecter

with would-be strangers.

avec des étrangers.

It was a talisman he used to protect himself,

C'était un talisman qu'il utilisait pour se protéger,

a survival skill he had honed over thousands of elevator rides.

une compétence de survie

qu'il avait perfectionnée au cours de milliers de voyages en ascenseur.

He was learning to accommodate the tension that his skin color generated

Il apprenait à s'adapter à la tension que la couleur de sa peau générait

and that put his own life at risk.

et qui mettait sa propre vie en danger.

We know that the brain is wired for bias,

Nous savons que le cerveau est câblé pour les préjugés,

and one way to interrupt that bias is to pause and to reflect

et une façon de les interrompre est de faire une pause et de réfléchir

on the evidence of our assumptions.

aux preuves de nos hypothèses.

So we need to ask ourselves:

Nous devons donc nous demander :

What assumptions do we bring when we step onto an elevator?

« Quels sont nos présupposés lorsque nous montons dans un ascenseur ?

Or an airplane?

Ou dans un avion ?

How do we make ourselves aware of our own unconscious bias?

Comment pouvons-nous prendre conscience de notre propre préjugé inconscient ?

Who do those assumptions keep safe?

Qui ces présupposés protègent-ils ?

Who do they put at risk?

Qui mettent-ils en danger ? »

Until we ask these questions

Tant que nous ne poserons pas ces questions

and insist that our schools and our courts and our police departments

et que nous n'insisterons pas pour que nos écoles, nos tribunaux,

nos services de police et toutes les institutions fassent de même,

and every institution do the same,

we will continue to allow bias

nous continuerons à laisser les préjugés

to blind us.

nous aveugler.

And if we do,

Et si ça continue,

none of us are truly safe.

aucun d'entre nous n'est vraiment en sécurité.

Thank you.

Je vous remercie.