How we can teach computers to make sense of our emotions | Raphael Arar

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Traductor: Sonia Escudero Sánchez Revisor: Sebastian Betti

I consider myself one part artist and one part designer.

Me considero por una parte artista, por otra parte diseñador.

And I work at an artificial intelligence research lab.

Y trabajo en un laboratorio de investigación de inteligencia artificial.

We're trying to create technology

Tratamos de crear tecnología

that you'll want to interact with in the far future.

con la que uno querrá interactuar en un futuro lejano.

Not just six months from now, but try years and decades from now.

No dentro de seis meses, sino dentro de años y décadas.

And we're taking a moonshot

Y estaremos en un momento histórico

that we'll want to be interacting with computers

en el que querremos interactuar con ordenadores.

in deeply emotional ways.

en emociones profundas.

So in order to do that,

Para conseguir esto,

the technology has to be just as much human as it is artificial.

la tecnología tiene que ser tanto humana como artificial.

It has to get you.

Tiene que cautivarnos.

You know, like that inside joke that'll have you and your best friend

Como una broma privada que uno tiene con su mejor amigo

on the floor, cracking up.

en el suelo, desternillándose.

Or that look of disappointment that you can just smell from miles away.

O la mirada de decepción que uno puede ver desde kilómetros.

I view art as the gateway to help us bridge this gap between human and machine:

Veo el arte como una puerta para cerrar la brecha entre humanos y máquinas:

to figure out what it means to get each other

para descubrir qué significa entender al otro

so that we can train AI to get us.

y entrenar a la IA para que se nos entienda.

See, to me, art is a way to put tangible experiences

Para mí, el arte es una manera de poner experiencias tangibles

to intangible ideas, feelings and emotions.

en ideas intangibles, sentimientos y emociones.

And I think it's one of the most human things about us.

Y creo que es una de las cosas más humanas de nosotros.

See, we're a complicated and complex bunch.

Somos una especie complicada y compleja.

We have what feels like an infinite range of emotions,

Tenemos lo que parece un infinito rango de emociones

and to top it off, we're all different.

y, para colmo, somos diferentes.

We have different family backgrounds,

Tenemos diferentes antecedentes familiares,

different experiences and different psychologies.

diferentes experiencias y diferentes psicologías.

And this is what makes life really interesting.

Y eso es lo que hace a la vida tan interesante.

But this is also what makes working on intelligent technology

pero también es lo que hace que trabajar con tecnología inteligente

extremely difficult.

sea extremadamente difícil.

And right now, AI research, well,

Y justo ahora, la investigación en IA, bueno,

it's a bit lopsided on the tech side.

es un poco desigual en el lado de la tecnología.

And that makes a lot of sense.

Y tiene mucho sentido.

See, for every qualitative thing about us --

Verán, cada parte cualitativa de nosotros,

you know, those parts of us that are emotional, dynamic and subjective --

estas parte de nosotros que son emotivas, dinámicas y subjetivas...

we have to convert it to a quantitative metric:

tenemos que convertirlas a una escala cuantitativa:

something that can be represented with facts, figures and computer code.

algo que pueda ser representado con hechos, cifras y código informático.

The issue is, there are many qualitative things

La cuestión es, hay muchas cosas cualitativas

that we just can't put our finger on.

que simplemente no podemos entender.

So, think about hearing your favorite song for the first time.

Piensen cuando escucharon su canción favorita por primera vez.

What were you doing?

¿Qué estaban haciendo?

How did you feel?

¿Cómo se sintieron?

Did you get goosebumps?

¿Sintieron escalofríos?

Or did you get fired up?

¿Estaban entusiasmados?

Hard to describe, right?

Difícil de describir, ¿no?

See, parts of us feel so simple,

Partes de nosotros parecen muy simples,

but under the surface, there's really a ton of complexity.

pero bajo la superficie hay toneladas de complejidad.

And translating that complexity to machines

Y trasladar esa complejidad a las máquinas

is what makes them modern-day moonshots.

es lo que hace a los modernos hitos históricos.

And I'm not convinced that we can answer these deeper questions

Y no estoy convencido de que podamos responder estas preguntas complejas

with just ones and zeros alone.

solo con unos y ceros.

So, in the lab, I've been creating art

En el laboratorio, he creando arte

as a way to help me design better experiences

como medio para ayudarme a diseñar mejores experiencias

for bleeding-edge technology.

para el último grito en tecnología.

And it's been serving as a catalyst

Ha servido como catalizador

to beef up the more human ways that computers can relate to us.

para reforzar maneras humanas en que

los ordenadores pueden relacionarse con nosotros.

Through art, we're tacking some of the hardest questions,

A través del arte, abordamos algunas preguntas difíciles,

like what does it really mean to feel?

como, ¿qué significa realmente sentir?

Or how do we engage and know how to be present with each other?

O cómo involucrarnos y conocer cómo estar presentes para el otro.

And how does intuition affect the way that we interact?

O cómo la intuición afecta la manera en que interactuamos.

So, take for example human emotion.

Tomemos por ejemplo la emoción humana.

Right now, computers can make sense of our most basic ones,

Los ordenadores pueden sentir nuestras emociones más básicas,

like joy, sadness, anger, fear and disgust,

como alegría, tristeza, enfado, miedo y disgusto,

by converting those characteristics to math.

convirtiendo estas características en matemáticas.

But what about the more complex emotions?

¿Y qué hay de las emociones más complejas?

You know, those emotions

Saben, ¿esas emociones que nos cuesta describir al otro?

that we have a hard time describing to each other?

Like nostalgia.

Como la nostalgia.

So, to explore this, I created a piece of art, an experience,

Para explorar esto, he creado una obra de arte, una experiencia,

that asked people to share a memory,

que pide a la gente compartir sus recuerdos

and I teamed up with some data scientists

y los uno a algunos datos científicos

to figure out how to take an emotion that's so highly subjective

para descubrir cómo tomar emociones muy subjetivas

and convert it into something mathematically precise.

y convertirlas en algo matemáticamente preciso.

So, we created what we call a nostalgia score

Creamos una puntuación de nostalgia

and it's the heart of this installation.

y es el corazón de esta instalación.

To do that, the installation asks you to share a story,

Para conseguir esto, el sistema te pide compartir una historia,

the computer then analyzes it for its simpler emotions,

el ordenador la analiza por sus emociones más simples,

it checks for your tendency to use past-tense wording

y comprueba la tendencia a usar palabras en pasado

and also looks for words that we tend to associate with nostalgia,

y busca palabras que tendemos a asociar con la nostalgia,

like "home," "childhood" and "the past."

como "casa", "infancia" y "el pasado".

It then creates a nostalgia score

Luego crea una puntuación de nostalgia

to indicate how nostalgic your story is.

que indica cuán nostálgica es su historia.

And that score is the driving force behind these light-based sculptures

Y la puntuación es la impulsora que hay detrás de estas esculturas de luz

that serve as physical embodiments of your contribution.

que sirven como encarnaciones físicas de su contribución.

And the higher the score, the rosier the hue.

Cuanto más alta la puntuación, más rosa es el tono.

You know, like looking at the world through rose-colored glasses.

Es como mirar el mundo a través de lentes rosas.

So, when you see your score

Así, cuando uno ve su puntuación

and the physical representation of it,

y su representación física,

sometimes you'd agree and sometimes you wouldn't.

a veces estará de acuerdo, y a veces no lo estará.

It's as if it really understood how that experience made you feel.

Es como si realmente entendiera cómo lo hizo sentir esa experiencia.

But other times it gets tripped up

Pero otras veces tropieza de tal modo

and has you thinking it doesn't understand you at all.

que piensa que no le ha entendido en absoluto.

But the piece really serves to show

Pero la obra sirve para mostrar

that if we have a hard time explaining the emotions that we have to each other,

que si se nos hace difícil explicar las emociones que tenemos a otro,

how can we teach a computer to make sense of them?

¿cómo enseñar a un ordenador a darles sentido?

So, even the more objective parts about being human are hard to describe.

Incluso las partes más objetivas de los humanos son difíciles de describir.

Like, conversation.

Como la conversación.

Have you ever really tried to break down the steps?

¿Alguna vez han intentado descomponer sus partes?

So think about sitting with your friend at a coffee shop

Piensen en estar sentados con un amigo en una cafetería

and just having small talk.

teniendo una conversación trivial.

How do you know when to take a turn?

¿Cómo saben cuándo dar un giro a la conversación?

How do you know when to shift topics?

¿Cómo saben cuándo cambiar de tema?

And how do you even know what topics to discuss?

¿Y cómo saben, incluso, sobre qué tema discutir?

See, most of us don't really think about it,

La mayoría no piensa sobre esto,

because it's almost second nature.

parece algo natural.

And when we get to know someone, we learn more about what makes them tick,

Cuando conocemos a alguien, sabemos cómo manejar esto,

and then we learn what topics we can discuss.

y aprendemos qué temas discutir.

But when it comes to teaching AI systems how to interact with people,

Pero cuando se trata de enseñar a enseñar a la IA a interactuar con gente,

we have to teach them step by step what to do.

tenemos que enseñarle paso por paso qué hacer.

And right now, it feels clunky.

Y ahora mismo, parece difícil.

If you've ever tried to talk with Alexa, Siri or Google Assistant,

Si incluso tratan de hablar con Alexa, Siri o el asistente de Google,

you can tell that it or they can still sound cold.

pueden decir que él o ellos aún suenan fríos.

And have you ever gotten annoyed

Y, ¿alguna vez incluso se han enfadado

when they didn't understand what you were saying

cuando no han comprendido qué estaban diciendo

and you had to rephrase what you wanted 20 times just to play a song?

y tienen que reformular 20 veces lo que dicen para reproducir una canción?

Alright, to the credit of the designers, realistic communication is really hard.

Para dar crédito a los diseñadores, la comunicación realista es muy difícil.

And there's a whole branch of sociology,

Y hay una rama completa de la sociología,

called conversation analysis,

llamada análisis de la conversación,

that tries to make blueprints for different types of conversation.

que intenta hacer planos de los diferentes tipos de conversación.

Types like customer service or counseling, teaching and others.

Tipos como servicio al cliente, consejeros, enseñanza y otros.

I've been collaborating with a conversation analyst at the lab

He estado colaborando con un analista de la conversación en el laboratorio

to try to help our AI systems hold more human-sounding conversations.

para tratar de ayudar a los sistemas de IA a mantener conversaciones más humanas.

This way, when you have an interaction with a chatbot on your phone

Cuando tienes una interacción con un chatbox en tu teléfono

or a voice-based system in the car,

o sistemas basados en voz en tu coche,

it sounds a little more human and less cold and disjointed.

suena un poco más humano y menos frío e inconexo.

So I created a piece of art

He creado una obra de arte

that tries to highlight the robotic, clunky interaction

que trata de iluminar la robótica, la interacción difícil

to help us understand, as designers,

para ayudarnos a entender, como diseñadores,

why it doesn't sound human yet and, well, what we can do about it.

por qué no suena humano aún, y qué podemos hacer.

The piece is called Bot to Bot

Esta obra se llama Bot to Bot

and it puts one conversational system against another

y pone un sistema a conversar con otro

and then exposes it to the general public.

y lo expone al público general.

And what ends up happening is that you get something

Y uno acaba teniendo algo

that tries to mimic human conversation,

que intenta imitar la conversación humana,

but falls short.

pero se queda corto.

Sometimes it works and sometimes it gets into these, well,

A veces funciona y a veces se queda en estos, bueno,

loops of misunderstanding.

ciclos de malentendidos.

So even though the machine-to-machine conversation can make sense,

Aunque una conversación máquina a máquina pueda tener sentido,

grammatically and colloquially,

gramatical y coloquialmente,

it can still end up feeling cold and robotic.

aún sigue pareciendo algo frío y robótico.

And despite checking all the boxes, the dialogue lacks soul

Y, a pesar de cumplir todos los puntos, el diálogo carece de alma

and those one-off quirks that make each of us who we are.

y esa peculiaridad única hace de cada uno lo que es.

So while it might be grammatically correct

Puede que si bien podía ser gramaticalmente correcto

and uses all the right hashtags and emojis,

y usa todos los hashtags y emojis correctos,

it can end up sounding mechanical and, well, a little creepy.

acaba sonando mecánico, y bueno, un poco siniestro.

And we call this the uncanny valley.

Y lo llamamos valle misterioso.

You know, that creepiness factor of tech

El factor siniestro de la tecnología

where it's close to human but just slightly off.

donde es cercana a lo humano pero está fuera de lugar.

And the piece will start being

Y la pieza acabará siendo

one way that we test for the humanness of a conversation

una forma de probar la humanidad en una conversación

and the parts that get lost in translation.

y las piezas perdidas en la traducción.

So there are other things that get lost in translation, too,

Hay otras cosas perdidas en la traducción, también,

like human intuition.

como la intuición humana.

Right now, computers are gaining more autonomy.

Ahora, los ordenadores están ganando más autonomía.

They can take care of things for us,

Pueden hacer cosas por nosotros,

like change the temperature of our houses based on our preferences

como cambiar la temperatura de casa según nuestras preferencias

and even help us drive on the freeway.

e incluso nos ayudan a conducir por la autopista.

But there are things that you and I do in person

Pero hay cosas que Uds. y yo hacemos en persona

that are really difficult to translate to AI.

que son difíciles de traducir a IA.

So think about the last time that you saw an old classmate or coworker.

Piensen en la última vez que vieron a un antiguo compañero de clase o colega.

Did you give them a hug or go in for a handshake?

¿Los abrazo o les dio la mano?

You probably didn't think twice

Probablemente no lo pensó

because you've had so many built up experiences

porque han tenido tantas experiencias acumuladas

that had you do one or the other.

que les hizo hacer uno u otro.

And as an artist, I feel that access to one's intuition,

Y como artista, siento el acceso a la propia intuición,

your unconscious knowing,

el conocimiento inconsciente,

is what helps us create amazing things.

que nos ayuda a crear cosas maravillosas.

Big ideas, from that abstract, nonlinear place in our consciousness

Grandes ideas, de lo abstracto, en un lugar de nuestra consciencia

that is the culmination of all of our experiences.

que es la culminación de todas nuestras experiencias.

And if we want computers to relate to us and help amplify our creative abilities,

Si queremos que se relacionen con nosotros y ayudan a amplificar habilidades creativas,

I feel that we'll need to start thinking about how to make computers be intuitive.

necesitamos empezar a pensar cómo hacer que sean intuitivos.

So I wanted to explore how something like human intuition

Quiero explorar cómo algo como la intuición humana

could be directly translated to artificial intelligence.

puede ser directamente traducida a la inteligencia artificial.

And I created a piece that explores computer-based intuition

Y creé una obra que explora ordenadores basados en intuición

in a physical space.

en un espacio físico.

The piece is called Wayfinding,

Esta obra se llama Wayfinding, está configurada

and it's set up as a symbolic compass that has four kinetic sculptures.

como una brújula simbólica que tiene cuatro esculturas quinéticas.

Each one represents a direction,

Cada una representa una dirección,

north, east, south and west.

norte, este, sur y oeste.

And there are sensors set up on the top of each sculpture

Y hay sensores configurados encima de cada escultura

that capture how far away you are from them.

que capturan cuán lejos estás de ellas.

And the data that gets collected

Y los datos que coleccionan

ends up changing the way that sculptures move

acaban cambiando la forma en que la escultura se mueve

and the direction of the compass.

y la dirección de la brújula.

The thing is, the piece doesn't work like the automatic door sensor

La cosa es, la pieza no funciona como una puerta automática

that just opens when you walk in front of it.

que solo se abre cuando uno pasa frente a ella.

See, your contribution is only a part of its collection of lived experiences.

La contribución es solo una parte de nuestras experiencias vividas.

And all of those experiences affect the way that it moves.

Y esas experiencias afectan la manera en que se mueve.

So when you walk in front of it,

Cuando uno camina frente a ella,

it starts to use all of the data

empieza a usar todos los datos

that it's captured throughout its exhibition history --

que capturó a lo largo de su historial de exposición,

or its intuition --

o es intuición,

to mechanically respond to you based on what it's learned from others.

para responder mecánicamente basado en lo que aprendió de otros.

And what ends up happening is that as participants

Y lo que acaba pasando es que como participantes

we start to learn the level of detail that we need

empezamos a aprender el nivel de detalles que necesitamos

in order to manage expectations

para manejar las expectativas

from both humans and machines.

tanto de humanos como de máquinas.

We can almost see our intuition being played out on the computer,

Casi podemos ver nuestra intuición interpretada en el ordenador,

picturing all of that data being processed in our mind's eye.

imaginando todos los datos siendo procesados por el ojo de la mente.

My hope is that this type of art

Mi esperanza es que este tipo de arte

will help us think differently about intuition

nos ayudará a pensar diferente sobre nuestra intuición

and how to apply that to AI in the future.

y cómo aplicarla a la IA en el futuro.

So these are just a few examples of how I'm using art to feed into my work

Son unos cuantos efectos sobre cómo uso el arte para avivar mi trabajo

as a designer and researcher of artificial intelligence.

como diseñador e investigador de inteligencia artificial.

And I see it as a crucial way to move innovation forward.

Y lo veo como una forma crucial para avanzar en innovación.

Because right now, there are a lot of extremes when it comes to AI.

Hay un montón de extremos cuando nos referimos a la IA.

Popular movies show it as this destructive force

Películas famosas la muestran como esta fuerza destructiva

while commercials are showing it as a savior

mientras la publicidad la muestra como una salvadora

to solve some of the world's most complex problems.

para resolver alguno de los problemas más complejos del mundo.

But regardless of where you stand,

Pero independientemente de donde te encuentres

it's hard to deny that we're living in a world

es difícil negar que vivimos en un mundo

that's becoming more and more digital by the second.

que se vuelve más digital a cada segundo.

Our lives revolve around our devices, smart appliances and more.

Nuestras vidas giran en torno a nuestros dispositivos y demás

And I don't think this will let up any time soon.

Y no creo que esto desaparezca pronto.

So, I'm trying to embed more humanness from the start.

Intento incrustar más humanidad desde el principio.

And I have a hunch that bringing art into an AI research process

Tengo la corazonada de que llevar el arte al proceso de investigación IA

is a way to do just that.

es una manera de hacer esto.

Thank you.

Gracias.

(Applause)

(Aplausos)