How bad data keeps us from good AI | Mainak Mazumdar

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Traductor: Tomás Sosa Revisor: Sebastian Betti

AI could add 16 trillion dollars to the global economy

La IA podría añadir USD 16 billones a la economía global

in the next 10 years.

en los próximos 10 años.

This economy is not going to be built by billions of people

Esta economía no va a estar compuesta por miles de millones de personas

or millions of factories,

o millones de empresas

but by computers and algorithms.

sino por computadoras y algoritmos.

We have already seen amazing benefits of AI

Ya hemos visto los beneficios increíbles de la IA

in simplifying tasks,

en la simplificación de tareas

bringing efficiencies

aportando eficiencia

and improving our lives.

y mejorando nuestras vidas.

However, when it comes to fair and equitable policy decision-making,

Sin embargo, cuando se trata de tomar decisiones políticas justas y equitativas,

AI has not lived up to its promise.

la IA no ha cumplido su promesa.

AI is becoming a gatekeeper to the economy,

La IA se está convirtiendo en un guardián de la economía,

deciding who gets a job

decidiendo quien obtiene trabajo

and who gets an access to a loan.

y quien obtiene acceso a un préstamo.

AI is only reinforcing and accelerating our bias

La IA solo está reforzando y acelerando nuestro sesgo

at speed and scale

a velocidad y escala

with societal implications.

con implicaciones sociales.

So, is AI failing us?

Entonces, ¿la IA nos está fallando?

Are we designing these algorithms to deliver biased and wrong decisions?

¿Estamos diseñando estos algoritmos para que aporten opciones sesgadas y erróneas?

As a data scientist, I'm here to tell you,

Como científico de datos, estoy aquí para decirles,

it's not the algorithm,

no es el algoritmo,

but the biased data

sino los datos erróneos

that's responsible for these decisions.

que son los responsables de estas decisiones.

To make AI possible for humanity and society,

Para que la IA sea posible para la humanidad y la sociedad,

we need an urgent reset.

necesitamos un reinicio urgente.

Instead of algorithms,

En lugar de los algoritmos,

we need to focus on the data.

necesitamos enfocarnos en los datos.

We're spending time and money to scale AI

Estamos gastando tiempo y dinero para ampliar la IA

at the expense of designing and collecting high-quality and contextual data.

para diseñar y recopilar datos de alta calidad y contextualizados.

We need to stop the data, or the biased data that we already have,

Necesitamos detener los datos, o los datos erróneos que ya tenemos,

and focus on three things:

y enfocarnos en tres cosas:

data infrastructure,

infraestructura de datos,

data quality

calidad de datos

and data literacy.

y alfabetización de datos.

In June of this year,

En junio de este año,

we saw embarrassing bias in the Duke University AI model

vimos un sesgo vergonzoso en el modelo de IA de la Universidad de Duke

called PULSE,

denominado PULSE,

which enhanced a blurry image

el cual mejora una imagen borrosa

into a recognizable photograph of a person.

en una fotografía reconocible de una persona.

This algorithm incorrectly enhanced a nonwhite image into a Caucasian image.

Este algoritmo mejoró incorrectamente una imagen no blanca

en una imagen caucásica.

African-American images were underrepresented in the training set,

Las imágenes afroamericanas estaban poco representadas en el set de entrenamiento,

leading to wrong decisions and predictions.

lo que conducía a decisiones y predicciones erróneas.

Probably this is not the first time

Probablemente, no es la primera vez

you have seen an AI misidentify a Black person's image.

que ves a la IA identificar erróneamente la imagen de una persona negra.

Despite an improved AI methodology,

A pesar de una metodología de IA mejorada,

the underrepresentation of racial and ethnic populations

la baja representación de las poblaciones raciales y étnicas

still left us with biased results.

nos aporta resultados sesgados.

This research is academic,

Esta investigación es académica,

however, not all data biases are academic.

sin embargo, no todos los datos erróneos son académicos.

Biases have real consequences.

Los prejuicios tienen consecuencias reales.

Take the 2020 US Census.

Tomemos el censo de Estados Unidos del 2020

The census is the foundation

El censo es la base

for many social and economic policy decisions,

para muchas decisiones de política sociales y económicas,

therefore the census is required to count 100 percent of the population

por lo tanto el censo debe contar con el 100 % de la población

in the United States.

de Estados Unidos.

However, with the pandemic

Sin embargo, con la pandemia

and the politics of the citizenship question,

y la política de la cuestión de la ciudadanía,

undercounting of minorities is a real possibility.

el mal conteo de las minorías es una posibilidad real.

Espero un mal conteo de los grupos minoritarios

I expect significant undercounting of minority groups

who are hard to locate, contact, persuade and interview for the census.

quienes son difíciles de localizar, contactar, persuadir y entrevistar.

Undercounting will introduce bias

El conteo erróneo introducirá un sesgo

and erode the quality of our data infrastructure.

y perjudicará la calidad de nuestra infraestructura de datos.

Let's look at undercounts in the 2010 census.

Observemos el conteo erróneo del censo de 2010.

16 million people were omitted in the final counts.

16 millones de personas fueron omitidas en el conteo final.

This is as large as the total population

Es tan grande como la población total

of Arizona, Arkansas, Oklahoma and Iowa put together for that year.

de Arizona, Arkansas, Oklahoma e Iowa juntos ese año.

We have also seen about a million kids under the age of five undercounted

También hemos visto cerca de un millón de niños menores de 5 años sin contar

in the 2010 Census.

en el censo de 2010.

Now, undercounting of minorities

Ahora, el mal conteo de las minorías

is common in other national censuses,

es normal en otros censos nacionales,

as minorities can be harder to reach,

ya que las minorías pueden ser más difíciles de alcanzar,

they're mistrustful towards the government

desconfían del gobierno

or they live in an area under political unrest.

o viven en zonas bajo disturbios políticos.

For example,

Por ejemplo,

the Australian Census in 2016

el censo de Australia de 2016

undercounted Aboriginals and Torres Strait populations

subestimo el recuento de la población aborigen y de los Estrechos de Torres

by about 17.5 percent.

en un 17.5% aproximadamente.

We estimate undercounting in 2020

Estimamos que el conteo erróneo de 2020

to be much higher than 2010,

sea mucho más alto que en 2010,

and the implications of this bias can be massive.

y las implicaciones de este sesgo pueden ser enormes.

Let's look at the implications of the census data.

Observemos a las implicaciones de los datos del censo.

Census is the most trusted, open and publicly available rich data

El censo es el dato más confiable, abierto y disponible públicamente

on population composition and characteristics.

sobre la composición y características de la población.

While businesses have proprietary information

Mientras que las empresas poseen información privada

on consumers,

de los consumidores,

la Oficina del Censo presenta recuentos definitivos y públicos

the Census Bureau reports definitive, public counts

on age, gender, ethnicity,

sobre la edad, el género, la etnicidad,

race, employment, family status,

la raza, el empleo, situación familiar,

as well as geographic distribution,

como también la distribución geográfica,

which are the foundation of the population data infrastructure.

los cuales son las bases de la infraestructura de datos de la población.

Cuando las minorías son infravaloradas,

When minorities are undercounted,

AI models supporting public transportation,

Los modelos IA que apoyan al transporte público,

housing, health care,

vivienda, atención sanitaria,

insurance

seguros

are likely to overlook the communities that require these services the most.

probablemente pasen por alto a las comunidades

que más necesitan estos servicios.

First step to improving results

El primer paso para mejorar los resultados

is to make that database representative

es hacer que esa base de datos sea representativa

of age, gender, ethnicity and race

de la edad, género, etnia y raza

per census data.

según los datos del censo.

Since census is so important,

Desde que el censo es tan importante,

we have to make every effort to count 100 percent.

tenemos que hacer el esfuerzo para contar al 100 %.

Investing in this data quality and accuracy

Invertir en la calidad y precisión de estos datos

is essential to making AI possible,

es esencial para que la IA sea accesible,

not for only few and privileged,

no solo para unos pocos y privilegiados,

but for everyone in the society.

sino para todos los miembros de la sociedad.

Most AI systems use the data that's already available

La mayoría de los sistemas IA utilizan los datos que ya están disponibles

or collected for some other purposes

o recolectados para otros propósitos

because it's convenient and cheap.

porque es conveniente y económico.

Yet data quality is a discipline that requires commitment --

Sin embargo, la calidad de los datos es una disciplina que requiere compromiso

real commitment.

compromiso real.

This attention to the definition,

Esta atención a la definición,

data collection and measurement of the bias,

colección de datos y medición del sesgo,

is not only underappreciated --

no solo está infravalorada...

in the world of speed, scale and convenience,

en el mundo de la velocidad, escala y conveniencia,

it's often ignored.

a menudo es ignorado.

As part of Nielsen data science team,

Como parte del equipo de ciencia de los datos de Nielsen,

I went to field visits to collect data,

fui a las visitas de campo para recoger datos,

visitando tiendas minoristas fuera de Shanghái y Bangalore.

visiting retail stores outside Shanghai and Bangalore.

The goal of that visit was to measure retail sales from those stores.

El objetivo de esa visita era medir las ventas al por menor de esas tiendas.

We drove miles outside the city,

Viajamos kilómetros fuera de la ciudad,

found these small stores --

encontramos estas pequeñas tiendas...

informal, hard to reach.

informales, difíciles de llegar.

And you may be wondering --

Y se deben estar preguntando...

why are we interested in these specific stores?

¿Por qué estamos interesados en estas tiendas especificas?

We could have selected a store in the city

Podríamos haber elegido una tienda en la ciudad

where the electronic data could be easily integrated into a data pipeline --

donde los datos electrónicos podrían integrarse fácilmente en una red de datos

cheap, convenient and easy.

económico, conveniente y rápido.

Why are we so obsessed with the quality

¿Por qué estamos tan obsesionados con la calidad

and accuracy of the data from these stores?

y la precisión de los datos de estas tiendas?

The answer is simple:

La respuesta es simple:

because the data from these rural stores matter.

porque los datos de estas tiendas rurales son importantes.

According to the International Labour Organization,

De acuerdo a la Organización Internacional del Trabajo,

40 percent Chinese

40 % de chinos

and 65 percent of Indians live in rural areas.

y 65 % de indios viven en zonas rurales.

Imagine the bias in decision

Imaginen el sesgo de la decisión

when 65 percent of consumption in India is excluded in models,

cuando el 65 % del consumo en India se excluye en los modelos,

meaning the decision will favor the urban over the rural.

lo que significa que la decisión favorecerá lo urbano sobre la rural.

Without this rural-urban context

Sin este contexto rural-urbano

and signals on livelihood, lifestyle, economy and values,

y señales sobre los medios de vida, estilo de vida, economía y valores

retail brands will make wrong investments on pricing, advertising and marketing.

las marcas minoristas harán inversiones erróneas en precios, anuncios y marketing.

Or the urban bias will lead to wrong rural policy decisions

O el sesgo urbano llevará a decisiones políticas rurales erróneas

with regards to health and other investments.

con respecto a la salud y otras inversiones.

Wrong decisions are not the problem with the AI algorithm.

Las decisiones erróneas no son el problema con el algoritmo de IA.

It's a problem of the data

El problemas son los datos

that excludes areas intended to be measured in the first place.

que excluyen las zonas previstas para ser medidas en primer lugar.

The data in the context is a priority,

Los datos en el contexto son una prioridad,

not the algorithms.

no los algoritmos.

Let's look at another example.

Observemos otro ejemplo.

I visited these remote, trailer park homes in Oregon state

Visité estas remotas casas de remolque en el estado de Oregón

and New York City apartments

y estos apartamentos en Nueva York

to invite these homes to participate in Nielsen panels.

para invitarlos a participar en los paneles de Nielsen.

Panels are statistically representative samples of homes

Los paneles son muestras estadísticamente representativas de hogares

that we invite to participate in the measurement

que invitamos a participar en la medición

over a period of time.

durante un periodo de tiempo.

Our mission to include everybody in the measurement

Nuestra misión de incluir a todos en la medición

led us to collect data from these Hispanic and African homes

nos lleva a colectar datos de estos hogares hispanos y africanos

who use over-the-air TV reception to an antenna.

que utilizan la recepción de TV de aire a una antena.

Per Nielsen data,

Según los datos de Nielsen,

these homes constitute 15 percent of US households,

estos hogares constituyen el 15 % de las viviendas de EE. UU.,

which is about 45 million people.

que son unos 45 millones de personas.

Commitment and focus on quality means we made every effort

El compromiso y enfoque en la calidad significa que hicimos todo el esfuerzo

to collect information

para colectar información

from these 15 percent, hard-to-reach groups.

de este 15 % de grupos de difícil acceso.

Why does it matter?

¿Por qué es importante?

This is a sizeable group

Se trata de un grupo considerable

that's very, very important to the marketers, brands,

que es muy muy importante para los comerciantes, marcas,

as well as the media companies.

como también para los medios de comunicación.

Without the data,

Sin los datos,

the marketers and brands and their models

los comerciantes, las marcas y sus modelos

would not be able to reach these folks,

no podrían llegar a esta gente,

as well as show ads to these very, very important minority populations.

como tampoco mostrar anuncios a estas poblaciones minoritarias tan importantes.

And without the ad revenue,

Y sin los ingresos publicitarios,

the broadcasters such as Telemundo or Univision,

las emisoras como Telemundo o Univisión,

would not be able to deliver free content,

no podrían ofrecer contenido gratuitos,

including news media,

incluidos los medios de comunicación,

which is so foundational to our democracy.

que son tan fundamentales para nuestra democracia.

This data is essential for businesses and society.

Estos datos son esenciales para los negocios y la sociedad.

Nuestra única chance en la vida para reducir el sesgo humano en la IA

Our once-in-a-lifetime opportunity to reduce human bias in AI

starts with the data.

comienza con los datos.

Instead of racing to build new algorithms,

En lugar de correr para construir nuevos algoritmos,

my mission is to build a better data infrastructure

mi misión es construir una mejor infraestructura de datos

that makes ethical AI possible.

que haga posible una IA ética.

I hope you will join me in my mission as well.

Espero que también se unan a mi misión.

Gracias.

Thank you.