How we can build AI to help humans, not hurt us | Margaret Mitchell

Traductor: Lidia Cámara de la Fuente Revisor: Marlén Scholand Cámara

I work on helping computers communicate about the world around us.

Trabajo para ayudar a las computadoras a comunicarse en el mundo que nos rodea.

There are a lot of ways to do this,

Hay muchas maneras de hacer esto,

and I like to focus on helping computers

y yo me centro en ayudar a las computadoras

to talk about what they see and understand.

a que hablen sobre lo que ven y entienden.

Given a scene like this,

Ante una escena como esta,

a modern computer-vision algorithm

un algoritmo moderno de visión por computadora

can tell you that there's a woman and there's a dog.

puedo decir que hay una mujer y un perro.

It can tell you that the woman is smiling.

Puede decir que la mujer está sonriendo.

It might even be able to tell you that the dog is incredibly cute.

Incluso podría decir que el perro es muy lindo.

I work on this problem

Yo trabajo en este problema

thinking about how humans understand and process the world.

pensando en cómo los humanos entienden y procesan el mundo.

The thoughts, memories and stories

Los pensamientos, recuerdos e historias

that a scene like this might evoke for humans.

que una escena como esta pueda evocar a los humanos.

All the interconnections of related situations.

Todas las interconexiones de situaciones relacionadas.

Maybe you've seen a dog like this one before,

Tal vez hayan visto un perro como este antes,

or you've spent time running on a beach like this one,

o han estado tiempo corriendo en una playa como esta,

and that further evokes thoughts and memories of a past vacation,

y eso además evoca pensamientos y recuerdos de vacaciones pasadas,

past times to the beach,

tiempos pasados ​​a la playa,

times spent running around with other dogs.

tiempos pasados ​​corriendo con otros perros.

One of my guiding principles is that by helping computers to understand

Uno de mis principios rectores al ayudar a las computadoras a entender,

what it's like to have these experiences,

lo que significan estas experiencias,

to understand what we share and believe and feel,

para que entiendan lo que compartimos, creemos y sentimos.

then we're in a great position to start evolving computer technology

Estamos en una excelente posición para hacer crecer la tecnología informática

in a way that's complementary with our own experiences.

de manera complementaria a nuestras propias experiencias.

So, digging more deeply into this,

Y profundizando más en esto,

a few years ago I began working on helping computers to generate human-like stories

hace algunos años comencé a trabajar para ayudar a las computadoras a generar

historias similares a las humanas de secuencias de imágenes.

from sequences of images.

So, one day,

Un día trabajando con mi computadora

I was working with my computer to ask it what it thought about a trip to Australia.

le pregunté qué pensaba acerca de un viaje a Australia.

It took a look at the pictures, and it saw a koala.

Echó un vistazo a las imágenes y vio un koala.

La computadora no sabía qué era un koala,

It didn't know what the koala was,

but it said it thought it was an interesting-looking creature.

pero dijo que creía que era una criatura de aspecto interesante.

Then I shared with it a sequence of images about a house burning down.

Luego compartí con ella una secuencia de imágenes sobre una casa ardiendo.

It took a look at the images and it said,

Echó un vistazo a las imágenes y dijo:

"This is an amazing view! This is spectacular!"

"¡Esta es una vista increíble! ¡Esto es espectacular!"

It sent chills down my spine.

Me produjo escalofríos.

It saw a horrible, life-changing and life-destroying event

Vio un evento horrible, que cambia y que destruye la vida

and thought it was something positive.

y la computadora pensó que era algo positivo.

I realized that it recognized the contrast,

Me di cuenta de que reconocía el contraste

the reds, the yellows,

los rojos, los amarillos,

and thought it was something worth remarking on positively.

y pensó que era algo digno de comentar positivamente.

And part of why it was doing this

Y en parte la razón del porqué hacía esto

was because most of the images I had given it

era porque la mayoría de las imágenes que le había dado

were positive images.

eran imágenes positivas,

That's because people tend to share positive images

Eso es porque la gente tiende a compartir imágenes positivas

when they talk about their experiences.

cuando hablan de sus experiencias.

When was the last time you saw a selfie at a funeral?

¿Cuándo fue la última vez que vieron un selfie en un funeral?

I realized that, as I worked on improving AI

Mientras trabajaba en la mejora de la IA

task by task, dataset by dataset,

tarea por tarea, grupo de datos tras grupo de datos,

that I was creating massive gaps,

Me di cuenta de que estaba creando lagunas masivas,

holes and blind spots in what it could understand.

agujeros y puntos ciegos en lo que podría entender.

And while doing so,

Y al hacerlo,

I was encoding all kinds of biases.

estaba codificando todo tipo de prejuicios.

Biases that reflect a limited viewpoint,

Sesgos que reflejan un punto de vista limitado

limited to a single dataset --

limitado a un solo conjunto de datos.

biases that can reflect human biases found in the data,

Sesgos que pueden reflejar sesgos humanos encontrados en los datos,

such as prejudice and stereotyping.

como los prejuicios y los estereotipos.

I thought back to the evolution of the technology

Pensé en la evolución de la tecnología

that brought me to where I was that day --

eso me llevó a donde estaba ese día.

how the first color images

Las primeras imágenes en color

were calibrated against a white woman's skin,

fueron calibradas contra la piel de una mujer blanca,

meaning that color photography was biased against black faces.

lo que significa que la foto en color estaba sesgada contra las caras negras.

And that same bias, that same blind spot

Y ese mismo sesgo, ese mismo punto ciego

continued well into the '90s.

continuó hasta bien entrada la década de los 90.

And the same blind spot continues even today

Y el mismo punto ciego continúa incluso hoy

in how well we can recognize different people's faces

al intentar reconocer las caras de las personas

in facial recognition technology.

mediante tecnología de reconocimiento facial.

I though about the state of the art in research today,

Pensé en el estado de la cuestión en la investigación en la actualidad

where we tend to limit our thinking to one dataset and one problem.

donde se tiende a ceñir nuestro pensamiento

a un solo conjunto de datos y a un problema.

And that in doing so, we were creating more blind spots and biases

Y al hacerlo, creamos aún más puntos ciegos y sesgos

that the AI could further amplify.

que la propia IA podría generar.

I realized then that we had to think deeply

Me di cuenta de que había que pensar profundamente

about how the technology we work on today looks in five years, in 10 years.

en cómo será la tecnología en la que trabajamos hoy en cinco o en 10 años.

Humans evolve slowly, with time to correct for issues

Los humanos evolucionan lentamente, con tiempo para corregir problemas

in the interaction of humans and their environment.

en la interacción de los humanos y su entorno.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Por el contrario, la inteligencia artificial evoluciona

a un ritmo increíblemente rápido.

And that means that it really matters

Y eso significa que realmente importa

that we think about this carefully right now --

que pensemos en esto cuidadosamente ya.

that we reflect on our own blind spots,

Que reflexionemos sobre nuestros propios puntos ciegos,

our own biases,

nuestros propios sesgos.

and think about how that's informing the technology we're creating

Y que pensemos en cómo eso alimenta la tecnología que estamos creando

and discuss what the technology of today will mean for tomorrow.

y que discutamos qué significará la tecnología de hoy para mañana.

CEOs and scientists have weighed in on what they think

CEOs y científicos han influido en lo que piensan

the artificial intelligence technology of the future will be.

que será la tecnología de inteligencia artificial del futuro.

Stephen Hawking warns that

Stephen Hawking advierte que

"Artificial intelligence could end mankind."

"La inteligencia artificial podría acabar con la humanidad".

Elon Musk warns that it's an existential risk

Elon Musk advierte que es un riesgo existencial

and one of the greatest risks that we face as a civilization.

y uno de los mayores riesgos que enfrentamos como civilización.

Bill Gates has made the point,

Bill Gates ha señalado:

"I don't understand why people aren't more concerned."

"No entiendo por qué la gente no está más preocupada".

But these views --

Pero estos puntos de vista,

they're part of the story.

son parte de la historia.

The math, the models,

Las matemáticas, los modelos,

the basic building blocks of artificial intelligence

los bloques de construcción básicos de la inteligencia artificial

are something that we call access and all work with.

son algo a lo que llamamos acceso y con el que todos trabajamos.

We have open-source tools for machine learning and intelligence

Tenemos herramientas de código abierto para el aprendizaje automático

that we can contribute to.

y la inteligencia artificial a lo que podemos contribuir.

And beyond that, we can share our experience.

Y más allá de eso, podemos compartir nuestra experiencia.

We can share our experiences with technology and how it concerns us

Podemos compartir nuestras experiencias con la tecnología, cómo nos concierne

and how it excites us.

y cómo nos entusiasma

We can discuss what we love.

Podemos discutir sobre lo que amamos.

We can communicate with foresight

Podemos comunicarnos con previsión

about the aspects of technology that could be more beneficial

sobre los aspectos de la tecnología que podrían ser más beneficiosos

or could be more problematic over time.

o más problemáticos con el tiempo.

If we all focus on opening up the discussion on AI

Si todos nos enfocamos en abrir la discusión sobre la IA

with foresight towards the future,

con visión de futuro,

this will help create a general conversation and awareness

esto ayudará a crear una conversación y conciencia general

about what AI is now,

sobre lo que es la AI ahora,

en qué puede llegar a convertirse

what it can become

y sobre todas las cosas que tenemos que hacer

and all the things that we need to do

in order to enable that outcome that best suits us.

para permitir ese resultado que mejor nos convenga.

We already see and know this in the technology that we use today.

Ya vemos y sabemos esto en la tecnología que usamos hoy.

We use smart phones and digital assistants and Roombas.

Usamos teléfonos inteligentes y asistentes digitales y Roombas.

Are they evil?

¿Son malvados?

Maybe sometimes.

Quizá algunas veces.

Are they beneficial?

¿Son beneficiosos?

Yes, they're that, too.

Sí, también lo son también.

And they're not all the same.

Y no son todos lo mismo.

And there you already see a light shining on what the future holds.

Y allí ya ves una luz que brilla en lo que depara el futuro.

The future continues on from what we build and create right now.

El futuro continúa en base a lo que construimos y creamos ahora.

We set into motion that domino effect

Ponemos en movimiento ese efecto dominó

that carves out AI's evolutionary path.

que esculpe el camino evolutivo de la AI.

In our time right now, we shape the AI of tomorrow.

Ahora en este momento, damos forma a la IA del mañana.

Technology that immerses us in augmented realities

Tecnología que nos sumerge en realidades aumentadas

bringing to life past worlds.

dando vida a mundos pasados.

Technology that helps people to share their experiences

Tecnología que ayuda a las personas a compartir sus experiencias

when they have difficulty communicating.

cuando tienen dificultad para comunicarse.

Technology built on understanding the streaming visual worlds

Tecnología basada en la comprensión de la transmisión de mundos visuales

used as technology for self-driving cars.

utilizado como tecnología automóviles sin conductor.

Technology built on understanding images and generating language,

Tecnología basada en entender imágenes y generar lenguaje,

evolving into technology that helps people who are visually impaired

evolucionando hacia tecnología que ayuda a las personas con discapacidad visual

be better able to access the visual world.

a tener mayor acceso al mundo visual.

And we also see how technology can lead to problems.

Y también vemos cómo la tecnología puede generar problemas.

We have technology today

Tenemos tecnología hoy

that analyzes physical characteristics we're born with --

que analiza las características físicas con las que nacemos,

such as the color of our skin or the look of our face --

como el color de nuestra piel o el aspecto de nuestra cara

in order to determine whether or not we might be criminals or terrorists.

para determinar si somos o no criminales o terroristas.

We have technology that crunches through our data,

Tenemos tecnología que cruje a través de nuestros datos,

even data relating to our gender or our race,

incluso datos relacionados con nuestro género o nuestra raza,

in order to determine whether or not we might get a loan.

para determinar si podemos o no obtener un préstamo.

All that we see now

Todo lo que vemos ahora

is a snapshot in the evolution of artificial intelligence.

es una instantánea de la evolución de la inteligencia artificial.

Because where we are right now,

Porque donde estamos ahora,

is within a moment of that evolution.

está dentro de un momento de esa evolución.

That means that what we do now will affect what happens down the line

Eso significa que lo que hacemos ahora afectará lo que sucede

and in the future.

inmediatamente y en el futuro

If we want AI to evolve in a way that helps humans,

Si queremos que la IA evolucione de una manera que ayude a los humanos,

then we need to define the goals and strategies

debemos definir los objetivos y estrategias

that enable that path now.

que habilita ese camino ahora.

What I'd like to see is something that fits well with humans,

Lo que me gustaría ver es algo que se adapte bien a los humanos,

with our culture and with the environment.

a nuestra cultura y medio ambiente.

Technology that aids and assists those of us with neurological conditions

Tecnología que ayuda y asiste a aquellos de nosotros con alteraciones neurológicas

or other disabilities

u otras discapacidades

in order to make life equally challenging for everyone.

para hacer la vida igualmente desafiante para todos.

Technology that works

Tecnología que funciona

regardless of your demographics or the color of your skin.

independientemente de su demografía o su color de piel.

And so today, what I focus on is the technology for tomorrow

Y hoy, en lo que me enfoco es en la tecnología para el mañana

and for 10 years from now.

y para los próximos 10 años a partir de ahora.

AI can turn out in many different ways.

La IA puede aparecer de muchas maneras diferentes.

But in this case,

Pero en este caso,

it isn't a self-driving car without any destination.

no es un auto sin conductor y sin destino.

This is the car that we are driving.

Este es el auto que estamos manejando.

We choose when to speed up and when to slow down.

Elegimos cuándo acelerar y cuándo disminuir la velocidad.

We choose if we need to make a turn.

Elegimos si necesitamos dar un giro.

We choose what the AI of the future will be.

Elegimos cuál será la IA del futuro.

There's a vast playing field

Hay un vasto campo de juego

of all the things that artificial intelligence can become.

de todas las cosas que la inteligencia artificial puede llegar a ser.

It will become many things.

Se convertirá en muchas cosas.

And it's up to us now,

Y depende de nosotros ahora,

in order to figure out what we need to put in place

descubrir lo que debemos poner en marcha

to make sure the outcomes of artificial intelligence

para asegurarnos de que los resultados de la inteligencia artificial

are the ones that will be better for all of us.

son los que serán mejores para todos nosotros.

Thank you.

Gracias.

(Applause)

(Aplausos)