How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Traductor: María Julia Galles Revisor: Silvina Katz

How many decisions have been made about you today,

¿Cuántas decisiones sobre Uds. han sido tomadas hoy,

or this week or this year,

o esta semana, o este año,

by artificial intelligence?

por la inteligencia artificial?

I build AI for a living

Me gano la vida construyendo IA,

so, full disclosure, I'm kind of a nerd.

así que, revelación total, soy una especie de nerda.

And because I'm kind of a nerd,

Y como lo soy,

wherever some new news story comes out

cada vez que sale una noticia

about artificial intelligence stealing all our jobs,

sobre la inteligencia artificial que nos roba nuestros trabajos

or robots getting citizenship of an actual country,

o sobre robots que obtienen la ciudadanía de un país real,

I'm the person my friends and followers message

yo soy a quien mis amigos y mis seguidores le mandan mensajes

freaking out about the future.

asustados por el futuro.

We see this everywhere.

Lo vemos en todas partes:

This media panic that our robot overlords are taking over.

este pánico mediático en el que nuestros amos robots toman el control.

We could blame Hollywood for that.

Podríamos culpar de eso a Hollywood.

But in reality, that's not the problem we should be focusing on.

Pero en realidad, ese no es el problema en el que nos debemos concentrar.

There is a more pressing danger, a bigger risk with AI,

Con la IA existe un problema más urgente, un riesgo mayor

that we need to fix first.

que debemos resolver primero.

So we are back to this question:

Así que volvamos a esta pregunta:

How many decisions have been made about you today by AI?

¿Cuántas decisiones sobre Uds. fueron tomadas hoy mediante la IA?

And how many of these

Y cuántas de estas

were based on your gender, your race or your background?

se han basado en su sexo, su raza o su origen?

Algorithms are being used all the time

Los algoritmos se usan todo el tiempo

to make decisions about who we are and what we want.

para tomar decisiones sobre quiénes somos y qué queremos.

Some of the women in this room will know what I'm talking about

Algunas de las mujeres en esta sala saben de lo que hablo

if you've been made to sit through those pregnancy test adverts on YouTube

si han sido expuestas a esos avisos sobre pruebas de embarazo en YouTube

like 1,000 times.

como unas 1000 veces.

Or you've scrolled past adverts of fertility clinics

O han visto avisos pasados sobre clínicas de fertilidad

on your Facebook feed.

en su página de Facebook.

Or in my case, Indian marriage bureaus.

O, en mi caso, oficinas indias de matrimonio.

(Laughter)

(Risas)

But AI isn't just being used to make decisions

Pero la IA no solo se usa para tomar decisiones

about what products we want to buy

sobre los productos que queremos comprar

or which show we want to binge watch next.

o el próximo programa de televisión que queremos ver.

I wonder how you'd feel about someone who thought things like this:

Me pregunto qué sentirían ante alguien que piensa cosas como esta:

"A black or Latino person

"Una persona negra o latina

is less likely than a white person to pay off their loan on time."

tiene menos probabilidad de saldar a tiempo un préstamo

que una persona blanca".

"A person called John makes a better programmer

"Una persona llamada Juan es un mejor programador

than a person called Mary."

que una persona llamada María".

"A black man is more likely to be a repeat offender than a white man."

"Es más probable que una persona negra sea reincidente que una persona blanca".

You're probably thinking,

Probablemente piensen:

"Wow, that sounds like a pretty sexist, racist person," right?

"Oh, eso suena como una persona bastante sexista y racista", ¿no?

These are some real decisions that AI has made very recently,

Estas son algunas de las decisiones reales que ha tomado la IA muy recientemente,

based on the biases it has learned from us,

basada en los prejuicios que ha aprendido de nosotros,

from the humans.

de los humanos.

AI is being used to help decide whether or not you get that job interview;

La IA se usa para ayudar a decidir si reciben o no esa entrevista de trabajo,

how much you pay for your car insurance;

cuánto pagan por el seguro del auto,

how good your credit score is;

cuán bueno es su historial de crédito,

and even what rating you get in your annual performance review.

e incluso qué calificación reciben en su revisión anual de desempeño.

But these decisions are all being filtered through

Pero estas decisiones se filtran a través

its assumptions about our identity, our race, our gender, our age.

de sus supuestos sobre nuestra identidad, nuestra raza, nuestro sexo, nuestra edad.

How is that happening?

¿Cómo ocurre eso?

Now, imagine an AI is helping a hiring manager

Ahora imaginen que la IA está ayudando a un gerente de contrataciones

find the next tech leader in the company.

a encontrar el siguiente líder de tecnología para la compañía.

So far, the manager has been hiring mostly men.

Hasta ahora el gerente ha estado contratando mayormente hombres.

So the AI learns men are more likely to be programmers than women.

Entonces, la IA aprende que es más probable

que los programadores sean hombres, en vez de mujeres.

And it's a very short leap from there to:

Y de ahí hay un estrecho muy corto hasta:

men make better programmers than women.

"los hombres son mejores programadores que las mujeres".

We have reinforced our own bias into the AI.

Hemos reforzado nuestros propios prejuicios en la IA.

And now, it's screening out female candidates.

Y ahora elimina a las candidatas femeninas.

Hang on, if a human hiring manager did that,

Si un gerente de contratación humano hiciera eso

we'd be outraged, we wouldn't allow it.

estaríamos indignados, no lo permitiríamos.

This kind of gender discrimination is not OK.

Este tipo de discriminación por el sexo no está bien.

And yet somehow, AI has become above the law,

Y, sin embargo, de algún modo, la IA se ha situado sobre la ley,

because a machine made the decision.

ya que una máquina tomó la decisión.

That's not it.

No solo eso.

We are also reinforcing our bias in how we interact with AI.

Estamos reforzando también nuestro prejuicio en cómo interactuamos con la IA.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

¿Cuán a menudo usan un asistente de voz como Siri, Alexa o incluso Cortana?

They all have two things in common:

Ellos tienen dos cosas en común:

one, they can never get my name right,

una, nunca pueden captar bien mi nombre,

and second, they are all female.

y segundo, todas son femeninas.

They are designed to be our obedient servants,

Están designadas para ser nuestros sirvientes obedientes,

turning your lights on and off, ordering your shopping.

que encienden y apagan nuestras luces, que encargan nuestra compra.

You get male AIs too, but they tend to be more high-powered,

También hay una IA masculina, pero tiende a tener más poder,

like IBM Watson, making business decisions,

como IBM Watson, que toma decisiones de negocios,

Salesforce Einstein or ROSS, the robot lawyer.

Salesforce Einstein o ROSS, el robot abogado.

So poor robots, even they suffer from sexism in the workplace.

Así que, pobres robots, incluso ellos sufren el sexismo en el trabajo.

(Laughter)

(Risas)

Think about how these two things combine

Piensen en cómo se combinan estas dos cosas

and affect a kid growing up in today's world around AI.

y en cómo afectan a un niño que crece en el mundo de hoy, con la IA.

So they're doing some research for a school project

Por ejemplo, hacen una investigación para un proyecto escolar

and they Google images of CEO.

y buscan en Google imágenes de directores generales.

The algorithm shows them results of mostly men.

El algoritmo les muestra una mayoría de hombres como resultado.

And now, they Google personal assistant.

Y ahora buscan en Google "asistente personal".

As you can guess, it shows them mostly females.

Como se imaginarán, les muestra una mayoría de mujeres.

And then they want to put on some music, and maybe order some food,

Y luego ellos quieren poner algo de música y quizás encargar algo de comida,

and now, they are barking orders at an obedient female voice assistant.

y dan órdenes, gritando, a una asistente de voz femenina.

Some of our brightest minds are creating this technology today.

Algunas de nuestras mentes más brillantes están creando hoy en día esta tecnología.

Technology that they could have created in any way they wanted.

Una tecnología que podrían haber creado del modo que quisieran.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

Y, sin embargo, eligieron crearla al estilo

de la secretaria de "Mad Men" de los años 50.

Yay!

¡Yey!

But OK, don't worry,

Pero no se preocupen,

this is not going to end with me telling you

no voy a terminar diciéndoles

that we are all heading towards sexist, racist machines running the world.

que vamos rumbo hacia que las máquinas sexistas y racistas dominen el mundo.

The good news about AI is that it is entirely within our control.

La buena noticia sobre la IA es que está completamente bajo nuestro control.

We get to teach the right values, the right ethics to AI.

Tenemos que enseñarle a la IA los valores correctos, la ética correcta.

So there are three things we can do.

Y podemos hacer tres cosas.

One, we can be aware of our own biases

Una, podemos ser conscientes de nuestros propios prejuicios

and the bias in machines around us.

y de los prejuicios en las máquinas a nuestro alrededor.

Two, we can make sure that diverse teams are building this technology.

Dos, podemos asegurarnos de que equipos heterogéneos construyan esta tecnología.

And three, we have to give it diverse experiences to learn from.

Y tres, debemos brindarle experiencias diferentes para que aprenda.

I can talk about the first two from personal experience.

Desde mi experiencia personal puedo hablar sobre las dos primeras.

When you work in technology

Cuando trabajas en tecnología

and you don't look like a Mark Zuckerberg or Elon Musk,

y no te pareces a Mark Zuckerberg o Elon Musk,

your life is a little bit difficult, your ability gets questioned.

tu vida es un poco difícil, cuestionan tu capacidad.

Here's just one example.

Este es un ejemplo.

Like most developers, I often join online tech forums

Como muchos desarrolladores, a menudo entro en foros tecnológicos en línea

and share my knowledge to help others.

y comparto mis conocimientos para ayudar a otros.

And I've found,

Y he encontrado

when I log on as myself, with my own photo, my own name,

que cuando accedo como yo, con mi foto y mi nombre,

I tend to get questions or comments like this:

tiendo a recibir preguntas o comentarios como este:

"What makes you think you're qualified to talk about AI?"

"¿Qué te hace pensar que estás cualificada para hablar sobre IA?".

"What makes you think you know about machine learning?"

"Qué te hace pensar que sabes sobre el aprendizaje automático?".

So, as you do, I made a new profile,

Así que, como Uds. lo harían, hice un nuevo perfil de Internet,

and this time, instead of my own picture, I chose a cat with a jet pack on it.

y esta vez, en lugar de mi foto, elegí un gato con una mochila propulsora.

And I chose a name that did not reveal my gender.

Y elegí un nombre que no revelara mi sexo.

You can probably guess where this is going, right?

Pueden imaginarse a qué conduce esto, ¿no?

So, this time, I didn't get any of those patronizing comments about my ability

Esta vez no recibí ninguno de estos comentarios despectivos sobre mi capacidad

and I was able to actually get some work done.

y pude lograr algunas cosas.

And it sucks, guys.

Y esto apesta, chicos.

I've been building robots since I was 15,

He estado construyendo robots desde los 15 años,

I have a few degrees in computer science,

tengo algunos títulos en informática

and yet, I had to hide my gender

y, sin embargo, tengo que esconder mi sexo

in order for my work to be taken seriously.

para que tomen en serio mi trabajo.

So, what's going on here?

Entonces, ¿qué es lo que ocurre aquí?

Are men just better at technology than women?

¿Los hombres son mejores que las mujeres en cuanto a la tecnología?

Another study found

Otro estudio descubrió

that when women coders on one platform hid their gender, like myself,

que cuando las mujeres que hacen código en una plataforma también ocultaron su sexo,

their code was accepted four percent more than men.

su código fue aceptado un 4 % más que el de los hombres.

So this is not about the talent.

Así que no es cuestión de talento.

This is about an elitism in AI

Se trata de un elitismo en la IA

that says a programmer needs to look like a certain person.

que dice que un programador debe tener cierto aspecto.

What we really need to do to make AI better

Lo que debemos hacer realmente para mejorar la IA

is bring people from all kinds of backgrounds.

es atraer a personas con orígenes variados.

We need people who can write and tell stories

Necesitamos gente que pueda escribir y contar historias

to help us create personalities of AI.

para ayudarnos a crear las personalidades de la IA.

We need people who can solve problems.

Necesitamos gente capaz de resolver problemas.

We need people who face different challenges

Necesitamos gente que enfrente desafíos diferentes

and we need people who can tell us what are the real issues that need fixing

y que nos digan cuáles son los problemas reales que necesitan resolverse

and help us find ways that technology can actually fix it.

y que nos ayuden a encontrar los modos en que la tecnología puede resolverlos.

Because, when people from diverse backgrounds come together,

Porque cuando las personas de distintos orígenes se unen,

when we build things in the right way,

cuando construimos las cosas del modo correcto,

the possibilities are limitless.

las posibilidades son ilimitadas.

And that's what I want to end by talking to you about.

Y eso es de lo que finalmente quiero hablarles.

Less racist robots, less machines that are going to take our jobs --

Menos robots racistas, menos máquinas que tomarán nuestros trabajos...

and more about what technology can actually achieve.

y más sobre lo que la tecnología puede lograr.

So, yes, some of the energy in the world of AI,

Así que, sí, algo de la energía en el mundo de la IA,

in the world of technology

en el mundo de la tecnología

is going to be about what ads you see on your stream.

estará dirigida hacia la publicidad que ven cuando están en Internet.

But a lot of it is going towards making the world so much better.

Pero mucho de ella se dirigirá a hacer que el mundo sea mucho mejor.

Think about a pregnant woman in the Democratic Republic of Congo,

Piensen en una mujer embarazada en la República Democrática del Congo,

who has to walk 17 hours to her nearest rural prenatal clinic

que debe caminar 17 horas hasta la clínica rural prenatal más cercana

to get a checkup.

para hacerse una revisión médica.

What if she could get diagnosis on her phone, instead?

¿Y si en lugar de eso ella pudiera obtener un diagnóstico por teléfono?

Or think about what AI could do

O piensen en lo que la IA podría hacer

for those one in three women in South Africa

por esa mujer de cada tres en Sudáfrica

who face domestic violence.

que sufre la violencia doméstica.

If it wasn't safe to talk out loud,

Si fuera peligroso hablar en voz alta,

they could get an AI service to raise alarm,

ella podría tener un servicio de IA para lanzar la alarma,

get financial and legal advice.

para obtener ayuda financiera y legal.

These are all real examples of projects that people, including myself,

Estos son ejemplos de proyectos reales que la gente, incluyéndome a mí,

are working on right now, using AI.

está trabajando ahora, empleando la IA.

So, I'm sure in the next couple of days there will be yet another news story

Así que estoy segura de que en los próximos días habrá otra noticia

about the existential risk,

sobre el riesgo existencial,

robots taking over and coming for your jobs.

robots tomando el control y tomando sus trabajos.

(Laughter)

(Risas)

And when something like that happens,

Y cuando pase algo como eso,

I know I'll get the same messages worrying about the future.

se que recibiré los mismos mensajes de preocupación con respecto al futuro.

But I feel incredibly positive about this technology.

Pero me siento muy positiva con respecto a esta tecnología.

This is our chance to remake the world into a much more equal place.

Esta es nuestra oportunidad de hacer el mundo un lugar más igualitario.

But to do that, we need to build it the right way from the get go.

Pero para hacerlo debemos construirlo del modo correcto desde el principio.

We need people of different genders, races, sexualities and backgrounds.

Necesitamos personas de distintos sexos, razas, sexualidades y orígenes.

We need women to be the makers

Necesitamos que las mujeres sean hacedoras,

and not just the machines who do the makers' bidding.

y no solo las máquinas que sigan las órdenes de los hombres.

We need to think very carefully what we teach machines,

Debemos pensar muy cuidadosamente lo que le enseñamos a las máquinas,

what data we give them,

los datos que les damos,

so they don't just repeat our own past mistakes.

de modo que no repitan nuestros errores pasados.

So I hope I leave you thinking about two things.

Espero dejarlos pensando en dos cosas.

First, I hope you leave thinking about bias today.

Primero, espero dejarlos pensando en los prejuicios.

And that the next time you scroll past an advert

Y la próxima vez que vean una publicidad en Internet

that assumes you are interested in fertility clinics

que asume que están interesados en clínicas de fertilidad

or online betting websites,

o en sitios web de apuestas en línea,

that you think and remember

que piensen y recuerden

that the same technology is assuming that a black man will reoffend.

que la misma tecnología asume que un hombre negro será reincidente;

Or that a woman is more likely to be a personal assistant than a CEO.

o que es más probable que una mujer sea una asistente personal y no una directora.

And I hope that reminds you that we need to do something about it.

Y espero que les recuerde que debemos hacer algo sobre eso.

And second,

Y segundo,

I hope you think about the fact

espero que piensen sobre el hecho

that you don't need to look a certain way

de que no necesitan tener un cierto aspecto

or have a certain background in engineering or technology

o tener una cierta formación en ingeniería o tecnología

to create AI,

para crear IA,

which is going to be a phenomenal force for our future.

lo que será una fuerza fenomenal para nuestro futuro.

You don't need to look like a Mark Zuckerberg,

No necesitan ser parecidos a Mark Zuckerberg,

you can look like me.

pueden parecerse a mí.

And it is up to all of us in this room

Y depende de todos Uds. en esta sala

to convince the governments and the corporations

poder convencer a los gobiernos y las corporaciones

to build AI technology for everyone,

para que construyan una IA para todos,

including the edge cases.

incluso los casos marginales.

And for us all to get education

Y que todos nos eduquemos en el futuro

about this phenomenal technology in the future.

sobre esta tecnología fenomenal.

Because if we do that,

Porque si hacemos eso,

then we've only just scratched the surface of what we can achieve with AI.

habremos arañado la superficie de lo que podemos lograr con la IA.

Thank you.

Gracias.

(Applause)

(Aplausos)