How bad data keeps us from good AI | Mainak Mazumdar

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Traducteur: Eva Marxer Relecteur: Elisabeth Buffard

L’IA pourrait enrichir l’économie mondiale de 16 trillions de dollars

dans les 10 prochaines années.

Cette économie ne sera pas construite pas des milliards de gens

AI could add 16 trillion dollars to the global economy

ou des millions d’industries,

in the next 10 years.

mais par des ordinateurs et des algorithmes.

This economy is not going to be built by billions of people

Nous avons déjà vu les grands bénéfices de l’IA

or millions of factories,

dans la simplification des tâches,

but by computers and algorithms.

l’apport d’efficacité

We have already seen amazing benefits of AI

et l’amélioration de nos vies.

Toutefois, quand on en vient à la prise de décision équitable et juste,

in simplifying tasks,

bringing efficiencies

and improving our lives.

l’IA ne tient pas ses promesses.

However, when it comes to fair and equitable policy decision-making,

L’IA devient une porte d’accès à l’économie,

et décide qui est embauché

AI has not lived up to its promise.

et qui a accès à un salaire.

AI is becoming a gatekeeper to the economy,

L’IA ne fait que renforcer et accélérer nos préjugés

deciding who gets a job

à grande vitesse et grande échelle

and who gets an access to a loan.

avec des implications sociétales.

AI is only reinforcing and accelerating our bias

Alors, l’IA nous déçoit-elle ?

Créons-nous des algorithmes pour prendre des décisions biaisées et mauvaises ?

at speed and scale

with societal implications.

So, is AI failing us?

En tant qu’expert des données, je suis là pour vous dire

Are we designing these algorithms to deliver biased and wrong decisions?

que ce n’est pas l’algorithme

mais la donnée biaisée

qui est responsable de ces décisions.

As a data scientist, I'm here to tell you,

Pour rendre l’IA possible pour l’humanité et la société,

it's not the algorithm,

but the biased data

il nous faut une réinitialisation de toute urgente.

that's responsible for these decisions.

À la place des algorithmes,

To make AI possible for humanity and society,

nous devons nous concentrer sur les données.

Nous dépensons du temps et de l’argent à faire évoluer l’IA

we need an urgent reset.

au détriment de la collection de données contextuelles de haute qualité.

Instead of algorithms,

we need to focus on the data.

We're spending time and money to scale AI

Nous devons arrêter les données, ou les données biaisées que nous avons déjà

at the expense of designing and collecting high-quality and contextual data.

et nous concentrer sur trois choses :

l’infrastructure des données,

We need to stop the data, or the biased data that we already have,

la qualité des données

et la maîtrise des données.

En juin de cette année,

and focus on three things:

nous avons connu des biais gênants dans le modèle d’IA de la Duke University

data infrastructure,

data quality

and data literacy.

appelé PULSE,

qui a transformé une image floue

In June of this year,

we saw embarrassing bias in the Duke University AI model

en photographie reconnaissable d’une personne.

called PULSE,

L’algorithme a transformé à tort un non-blanc en Caucasien.

which enhanced a blurry image

into a recognizable photograph of a person.

Les images d’afro-américains sont sous- représentées dans le kit d’entraînement,

This algorithm incorrectly enhanced a nonwhite image into a Caucasian image.

entraînant de mauvaises décisions et prédictions.

African-American images were underrepresented in the training set,

Ce n’est sûrement pas la première fois

que vous voyez une IA mal identifier l’image d’une personne noire.

leading to wrong decisions and predictions.

Malgré une amélioration de la méthodologie des IA,

Probably this is not the first time

you have seen an AI misidentify a Black person's image.

la sous-représentation des populations raciales et ethniques

entraîne encore des résultats biaisés.

Despite an improved AI methodology,

La recherche est académique,

the underrepresentation of racial and ethnic populations

mais tous les biais ne sont pas académiques.

still left us with biased results.

Les biais ont de réelles conséquences.

This research is academic,

Prenez le recensement américain de 2020.

however, not all data biases are academic.

Le recensement est la base

Biases have real consequences.

de nombreuses décisions sociales, économiques et politiques,

Take the 2020 US Census.

donc il est nécessaire pour compter 100% de la population

The census is the foundation

for many social and economic policy decisions,

aux États-Unis.

Cependant, avec la pandémie

therefore the census is required to count 100 percent of the population

et les politiques autour de la question de citoyenneté,

in the United States.

le sous-comptage des minorités est une réelle possibilité.

However, with the pandemic

Je m’attends à un sous-comptage significatif des minorités

and the politics of the citizenship question,

qui sont difficiles à localiser, contacter, persuader et interroger.

undercounting of minorities is a real possibility.

I expect significant undercounting of minority groups

Le sous-comptage introduira des biais

who are hard to locate, contact, persuade and interview for the census.

et érodera la qualité de nos infrastructures de données.

Regardons le sous-comptage dans le recensement de 2010.

Undercounting will introduce bias

16 millions de gens ont été omis dans les comptes finaux.

and erode the quality of our data infrastructure.

C’est autant que la population totale

Let's look at undercounts in the 2010 census.

de l’Arizona, de l’Arkansas, de l’Oklahoma et de l’Iowa réunis.

16 million people were omitted in the final counts.

This is as large as the total population

Nous avions aussi un million d’enfants de moins de cinq ans sous-comptés

of Arizona, Arkansas, Oklahoma and Iowa put together for that year.

dans le recensement de 2010.

Sous-compter des minorités

We have also seen about a million kids under the age of five undercounted

est commun dans les recensements nationaux,

in the 2010 Census.

puisque les minorités sont plus difficiles à atteindre,

Now, undercounting of minorities

elles sont méfiantes envers le gouvernement

is common in other national censuses,

ou vivent dans des endroits avec une agitation politique.

as minorities can be harder to reach,

Par exemple,

le recensement australien de 2016 a sous-compté

they're mistrustful towards the government

or they live in an area under political unrest.

les populations les aborigènes et celles du détroit de Torres

For example,

de près de 17.5%.

the Australian Census in 2016

Nous estimons que le sous-comptage en 2020

undercounted Aboriginals and Torres Strait populations

a été plus fort qu’en 2010,

by about 17.5 percent.

et les implications de ce biais peut être massif.

We estimate undercounting in 2020

Regardons les implications des données de recensement.

to be much higher than 2010,

and the implications of this bias can be massive.

Le recensement est la donnée la plus fiable, ouverte, disponible et complète

Let's look at the implications of the census data.

sur la composition et les caractéristiques de la population.

Census is the most trusted, open and publicly available rich data

Tandis que les entreprises ont des informations exclusives

sur les clients,

le Bureau de Recensement fait des comptes publics et définitifs

on population composition and characteristics.

sur l’âge, le genre, l’ethnicité,

While businesses have proprietary information

on consumers,

la race, l’emploi, le statut familial,

the Census Bureau reports definitive, public counts

ou la distribution géographique,

qui sont les bases de l’infrastructure de données de la population.

on age, gender, ethnicity,

race, employment, family status,

Quand les minorités sont sous-comptées,

as well as geographic distribution,

les modèles d’IA qui prennent en charge les transports publics,

which are the foundation of the population data infrastructure.

le logement, les soins de santé,

l’assurance,

sont susceptibles d’oublier les communautés qui en ont le plus besoin.

When minorities are undercounted,

AI models supporting public transportation,

housing, health care,

La première étape pour améliorer les résultats

insurance

est de rendre la base de données représentative

are likely to overlook the communities that require these services the most.

des âges, genres, ethnicités et races

First step to improving results

par données de recensement.

is to make that database representative

Puisque que le recensement est important,

nous devons faire des efforts pour compter à 100%.

of age, gender, ethnicity and race

per census data.

Investir dans cette qualité et cette précision de donnée

Since census is so important,

we have to make every effort to count 100 percent.

est essentielle pour rendre l’IA possible,

pas seulement pour quelques privilégiés

Investing in this data quality and accuracy

mais pour toute la société.

is essential to making AI possible,

La plupart des systèmes d’IA utilisent les données déjà disponibles

not for only few and privileged,

ou récoltées pour d’autres objectifs

but for everyone in the society.

car c’est pratique et peu cher.

Most AI systems use the data that's already available

Mais la qualité des données demande beaucoup d’engagement --

or collected for some other purposes

d’engagement réel.

because it's convenient and cheap.

L’attention à la définition la collecte de données

Yet data quality is a discipline that requires commitment --

n’est pas seulement sous-estimée --

real commitment.

This attention to the definition,

dans un monde de vitesse, d’échelle et de praticité,

data collection and measurement of the bias,

elle est souvent ignorée.

Je suis membre de l’équipe d’étude des données Nielsen.

is not only underappreciated --

J’ai fait des visites de terrain de collecte de données,

in the world of speed, scale and convenience,

et visité des points de vente en-dehors de Shanghai et Bangalore.

it's often ignored.

As part of Nielsen data science team,

Le but de cette visite était de mesurer les ventes au détail dans ces magasins.

I went to field visits to collect data,

visiting retail stores outside Shanghai and Bangalore.

Nous avons conduit loin en-dehors de la ville,

et trouvé ces petits magasins --

The goal of that visit was to measure retail sales from those stores.

informels, difficile à atteindre..

Et vous devez vous demander --

pourquoi s’intéresse-t-il à ces magasins spécifiques ?

We drove miles outside the city,

found these small stores --

Nous aurions pu choisir des magasins urbains

informal, hard to reach.

où les données électroniques pouvaient être facilement intégrées dans une base --

And you may be wondering --

why are we interested in these specific stores?

pas cher, pratique et facile.

We could have selected a store in the city

Pourquoi sommes-nous si obsédés par la qualité

where the electronic data could be easily integrated into a data pipeline --

et la précision des données de ces magasins ?

cheap, convenient and easy.

La réponse est simple :

car les données de ces magasins ruraux ont de l’importance.

Why are we so obsessed with the quality

and accuracy of the data from these stores?

Selon l’Organisation Mondiale du Travail,

The answer is simple:

because the data from these rural stores matter.

40% des Chinois

et 65% des Indiens vivent dans des zones rurales.

According to the International Labour Organization,

Imaginez les biais décisionnels

40 percent Chinese

quand 65% de la consommation de l’Inde est exclue des modèles,

and 65 percent of Indians live in rural areas.

ce qui signifie que la décision favorisera l’urbain par rapport au rural.

Imagine the bias in decision

when 65 percent of consumption in India is excluded in models,

Sans ce contexte rural-urbain

et des signaux sur les moyens de subsistance,

meaning the decision will favor the urban over the rural.

le mode de vie, l’économie et les valeurs,

les marques de détail feraient de mauvais investissements

Without this rural-urban context

and signals on livelihood, lifestyle, economy and values,

sur les prix, la publicité et le marketing.

Le biais urbain mènera à de mauvaises décisions politiques sur le rural

retail brands will make wrong investments on pricing, advertising and marketing.

dans la santé ou pour d’autres investissements.

Or the urban bias will lead to wrong rural policy decisions

Les mauvaises décisions ne sont pas le problème avec les algorithmes d’AI.

with regards to health and other investments.

C’est le problème des données

qui excluent des zones qu’on voulait mesure au départ.

Wrong decisions are not the problem with the AI algorithm.

It's a problem of the data

La donnée dans son contexte est une priorité,

that excludes areas intended to be measured in the first place.

pas l’algorithme.

Prenons un autre exemple.

J’ai visité ces maisons isolées de camping dans l’état de l’Oregon

The data in the context is a priority,

not the algorithms.

et des appartements à New York

Let's look at another example.

pour inviter les foyers à participer aux panels Nielsen.

I visited these remote, trailer park homes in Oregon state

Les panels sont des échantillons statistiquement représentatifs des foyers

and New York City apartments

que nous invitons à participer à la mesure

to invite these homes to participate in Nielsen panels.

sur une période temporelle donnée.

Panels are statistically representative samples of homes

Notre mission d’inclure tout le monde dans la mesure

nous a entraîné à récolter des données sur des foyers hispaniques et africains

that we invite to participate in the measurement

over a period of time.

Our mission to include everybody in the measurement

qui captent la télévision avec une antenne.

led us to collect data from these Hispanic and African homes

Selon les données Nielsen,

ces foyers constituent 15% des foyers américains,

who use over-the-air TV reception to an antenna.

ce qui représente 45 millions de personnes.

Per Nielsen data,

these homes constitute 15 percent of US households,

L’engagement et le focus sur la qualité signifie que nous faisons tous les efforts

pour récolter l’information

which is about 45 million people.

de ces 15% de groupes difficiles à atteindre.

Commitment and focus on quality means we made every effort

Pourquoi cela compte-t-il ?

to collect information

C’est un groupe mesurable

from these 15 percent, hard-to-reach groups.

qui est très, très important pour les marques, les commerciaux

et les entreprises de média.

Why does it matter?

Sans ces données,

This is a sizeable group

les commerciaux, les marques et leurs modèles

that's very, very important to the marketers, brands,

ne seraient pas capables d’atteindre ces gens,

as well as the media companies.

tout comme les publicités ne toucheraient pas ces minorités très importantes.

Without the data,

the marketers and brands and their models

Et sans le revenu publicitaire,

would not be able to reach these folks,

les diffuseurs comme Telemundo ou Univision,

as well as show ads to these very, very important minority populations.

ne seraient pas capable d’offrir du contenu gratuit,

And without the ad revenue,

comme les programmes d’information,

the broadcasters such as Telemundo or Univision,

qui sont fondamentaux pour notre démocratie.

would not be able to deliver free content,

Ces données sont essentielles pour les entreprises et la société.

including news media,

which is so foundational to our democracy.

Notre opportunité unique de réduire les biais humains dans l’IA

This data is essential for businesses and society.

commence par les données.

Au lieu de se dépêcher de créer de nouveaux algorithmes,

Our once-in-a-lifetime opportunity to reduce human bias in AI

ma mission est de créer une meilleure infrastructure de données,

starts with the data.

qui rend possible une IA éthique.

Instead of racing to build new algorithms,

J’espère que vous rejoindrez également ma mission.

my mission is to build a better data infrastructure

Merci.

that makes ethical AI possible.

I hope you will join me in my mission as well.

Thank you.