How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Traductor: Antonella Persello Revisor: Sebastian Betti

People are funny.

La gente es graciosa.

We're constantly trying to understand and interpret

Constantemente tratamos de entender e interpretar

the world around us.

el mundo que nos rodea.

I live in a house with two black cats, and let me tell you,

Vivo en una casa con dos gatos negros, y déjenme decirles,

every time I see a black, bunched up sweater out of the corner of my eye,

cada vez que un sweater negro descartado se interpone a mi visión,

I think it's a cat.

creo que es un gato.

No se trata solamente de lo que vemos.

It's not just the things we see.

Sometimes we attribute more intelligence than might actually be there.

A menudo atribuimos más inteligencia de la que en realidad existe.

Maybe you've seen the dogs on TikTok.

Quizá vieron los perros de TikTok.

They have these little buttons that say things like "walk" or "treat."

Tienen estos pequeños botones que dicen cosas como “caminar” o “recompensa”.

They can push them to communicate some things with their owners,

Pueden presionarlos para comunicarse con sus dueños,

and their owners think they use them

y los dueños creen que ellos lo usan

to communicate some pretty impressive things.

para comunicar cosas impresionantes.

But do the dogs know what they're saying?

¿Pero los perros saben lo que dicen?

Or perhaps you've heard the story of Clever Hans the horse,

O quizá escucharon la historia del caballo Sabio Hans,

and he could do math.

que sabía sobre matemáticas.

And not just like, simple math problems, really complicated ones,

No solo sobre problemas matemáticos, sino problemas realmente complicados,

like, if the eighth day of the month falls on a Tuesday,

como “si el octavo día del mes cae martes,

what's the date of the following Friday?

¿cuál es la fecha del siguiente viernes?“.

It's like, pretty impressive for a horse.

Impresionante para ser un caballo.

Unfortunately, Hans wasn't doing math,

Desafortunadamente, Hans no resolvía problemas matemáticos,

but what he was doing was equally impressive.

pero lo que hacía era igual de impresionante.

Hans had learned to watch the people in the room

Hans había aprendido a observar a la gente de la sala

to tell when he should tap his hoof.

para determinar cuándo debía agitar su pezuña.

So he communicated his answers by tapping his hoof.

Así que comunicaba sus respuestas agitando su pezuña.

It turns out that if you know the answer

Sucede que si sabes cuál es la respuesta

to "if the eighth day of the month falls on a Tuesday,

a ”si el octavo día del mes cae martes,

what's the date of the following Friday,"

¿cuál es la fecha del siguiente viernes?“

you will subconsciously change your posture

inconscientemente cambiarás tu postura

once the horse has given the correct 18 taps.

una vez que el caballo haya agitado la pezuña 18 veces.

So Hans couldn't do math,

Hans no sabía sobre matemáticas,

but he had learned to watch the people in the room who could do math,

pero había aprendido a observar a quienes sí sabían sobre matemáticas,

which, I mean, still pretty impressive for a horse.

lo cual sigue siendo impresionante para un caballo.

But this is an old picture,

Pero esto es algo desactualizado,

and we would not fall for Clever Hans today.

y hoy no caeríamos ante el Sabio Hans.

Or would we?

¿O sí?

Well, I work in AI,

Bueno, yo trabajo con la IA,

and let me tell you, things are wild.

y déjenme decirles, las cosas son bravas.

There have been multiple examples of people being completely convinced

Ha habido múltiples ejemplos sobre personas completamente convencidas

that AI understands them.

de que la IA las entendía.

In 2022,

En 2022,

a Google engineer thought that Google’s AI was sentient.

un ingeniero de Google pensó que la IA de Google tenía sentimientos.

And you may have had a really human-like conversation

Y quizá hayan tenido una conversación muy humana

with something like ChatGPT.

con algo como ChatGPT.

But models we're training today are so much better

Pero los modelos que entrenamos hoy son mucho mejores

than the models we had even five years ago.

que los que teníamos incluso cinco años atrás.

It really is remarkable.

Es algo destacable.

So at this super crazy moment in time,

Así que en esta época tan llamativa,

let’s ask the super crazy question:

hagámonos la pregunta más llamativa:

Does AI understand us,

¿La IA nos entiende,

or are we having our own Clever Hans moment?

o nos estamos comportando como el Sabio Hans?

Some philosophers think that computers will never understand language.

Según algunos filósofos, las computadoras nunca entenderán el lenguaje.

To illustrate this, they developed something they call

Para ilustrar esto, desarrollaron algo a lo que llamaron

the Chinese room argument.

“la habitación china”.

In the Chinese room, there is a person, hypothetical person,

En esta habitación china, hay una persona, una persona hipotética,

who does not understand Chinese,

que no entiende chino,

but he has along with him a set of instructions

pero que cuenta con una serie de instrucciones

that tell him how to respond in Chinese to any Chinese sentence.

que le indican cómo responder en chino a cualquier oración en chino.

Here's how the Chinese room works.

Así es como funciona la habitación china.

A piece of paper comes in through a slot in the door,

Ingresa un papel por una ranura de la puerta,

has something written in Chinese on it.

tiene algo escrito en chino.

The person uses their instructions to figure out how to respond.

La persona usa las instrucciones para ver cómo responder.

They write the response down on a piece of paper

Escribe la respuesta en un trozo de papel

and then send it back out through the door.

y luego la envía de nuevo por la puerta.

To somebody who speaks Chinese,

A alguien que habla chino,

standing outside this room,

que está detrás de la puerta,

it might seem like the person inside the room speaks Chinese.

le parecerá que la persona dentro habla chino.

But we know they do not,

Pero nosotros sabemos que no,

because no knowledge of Chinese is required to follow the instructions.

porque no se necesita saber chino para seguir las instrucciones.

Performance on this task does not show that you know Chinese.

Tu desenvolvimiento en esta tarea no prueba que sepas chino.

So what does that tell us about AI?

¿Qué nos dice esto sobre la IA?

Well, when you and I stand outside of the room,

Bueno, cuando tú y yo nos situamos fuera de la sala,

when we speak to one of these AIs like ChatGPT,

cuando hablamos con una IA como ChatGPT,

we are the person standing outside the room.

somos la persona que se ubica fuera de la sala.

We're feeding in English sentences,

La alimentamos con oraciones en inglés,

we're getting English sentences back.

y obtenemos de vuelta oraciones en inglés.

It really looks like the models understand us.

Parece que el modelo nos entiende.

It really looks like they know English.

Parece que sabe inglés.

But under the hood,

Pero en realidad

these models are just following a set of instructions, albeit complex.

estos modelos están siguiendo una compleja serie de instrucciones.

How do we know if AI understands us?

¿Cómo sabemos si la IA nos entiende?

To answer that question, let's go back to the Chinese room again.

Para responder esa pregunta, volvamos a la habitación china.

Let's say we have two Chinese rooms.

Digamos que tenemos dos habitaciones.

In one Chinese room is somebody who actually speaks Chinese,

En una habitación china hay alguien que realmente habla chino,

and in the other room is our impostor.

y en la otra está nuestra impostora.

When the person who actually speaks Chinese gets a piece of paper

Cuando la persona que habla chino recibe el papel

that says something in Chinese in it, they can read it, no problem.

que dice algo en chino, puede leerlo, sin problemas.

But when our imposter gets it again,

Pero cuando la recibe el impostor,

he has to use his set of instructions to figure out how to respond.

tiene que recurrir a las instrucciones para responder.

From the outside, it might be impossible to distinguish these two rooms,

Desde fuera, puede parecer imposible distinguir entre ambas habitaciones,

but we know inside something really different is happening.

pero sabemos que en el interior están ocurriendo cosas diferentes.

To illustrate that,

Para ilustrar eso,

let's say inside the minds of our two people,

digamos que dentro de las mentes de nuestras dos personas,

inside of our two rooms,

dentro de nuestras dos habitaciones,

is a little scratch pad.

hay un bloc de notas.

And everything they have to remember in order to do this task

Y todo lo que deben recordar para resolver esta tarea

has to be written on that little scratch pad.

tiene que ser escrito en ese bloc de notas.

If we could see what was written on that scratch pad,

Si pudiéramos ver lo que escriben en el bloc de notas,

we would be able to tell how different their approach to the task is.

podríamos determinar qué tan distinto se comportan ambos.

So though the input and the output of these two rooms

Entonces, aunque la tarea y el resultado de ambas habitaciones

might be exactly the same,

sean idénticos,

the process of getting from input to output -- completely different.

el proceso por el cual se llega al resultado puede ser diferente.

So again, what does that tell us about AI?

De nuevo, ¿qué nos dice esto sobre la IA?

Again, if AI, even if it generates completely plausible dialogue,

Insisto, incluso si la IA genera diálogos plausibles,

answers questions just like we would expect,

responde preguntas tal como esperamos,

it may still be an imposter of sorts.

podría seguir siendo una impostora.

If we want to know if AI understands language like we do,

Si queremos saber si la IA comprende el lenguaje como nosotros,

we need to know what it's doing.

tenemos que saber qué está haciendo.

We need to get inside to see what it's doing.

Debemos contemplar su interior para ver qué está haciendo.

Is it an imposter or not?

¿Es una impostora o no?

We need to see its scratch pad,

Debemos ver su bloc de notas,

and we need to be able to compare it

y compararlo

to the scratch pad of somebody who actually understands language.

con el bloc de notas de alguien que sí comprende el lenguaje.

But like scratch pads in brains,

Pero al igual que los blocs del cerebro,

that's not something we can actually see, right?

no son algo que podamos ver, ¿verdad?

Well, it turns out that we can kind of see scratch pads in brains.

Bueno, resulta que sí podemos observar esos blocs en el cerebro.

Using something like fMRI or EEG,

Utilizando algo como IRMf o EEG,

we can take what are like little snapshots of the brain while it’s reading.

podemos obtener pequeñas instantáneas del cerebro mientras está leyendo.

So have people read words or stories and then take pictures of their brain.

Alguien lee palabras o historias y luego toma una foto de su cerebro.

And those brain images are like fuzzy,

Y esas imágenes del cerebro son borrosas,

out-of-focus pictures of the scratch pad of the brain.

son imágenes difusas del bloc de notas del cerebro.

They tell us a little bit about how the brain is processing

Informan sobre cómo el cerebro procesa

and representing information while you read.

y representa la información al leer.

So here are three brain images taken while a person read the word "apartment,"

Aquí hay tres imágenes del cerebro tomadas mientras una persona leía “apartamento”,

"house" and "celery."

“casa” y “apio”.

You can see just with your naked eye

Se puede observar

que las imágenes correspondientes a “apartamento” y “casa”

that the brain image for "apartment" and "house"

are more similar to each other

se parecen más entre sí

than they are to the brain image for "celery."

que lo que se parecen con “apio”.

And you know, of course that apartments and houses are more similar

Obviamente los apartamentos y las casas son más parecidos entre sí

than they are to celery, just the words.

que con el apio.

So said another way,

En otras palabras,

the brain uses its scratchpad when reading the words "apartment" and "house"

el cerebro usa su bloc de notas al leer “apartamento” y “casa”

in a way that's more similar than when you read the word "celery."

de manera más parecida que al leer “apio”.

The scratch pad tells us a little bit

El bloc de notas nos dice algo

about how the brain represents the language.

sobre cómo el cerebro representa el lenguaje.

It's not a perfect picture of what the brain's doing,

No es una imagen perfecta,

pero es buena.

but it's good enough.

Bueno, contamos con un bloc de notas para el cerebro.

OK, so we have scratch pads for the brain.

Now we need a scratch pad for AI.

Ahora necesitamos uno para la IA.

So inside a lot of AIs is a neural network.

Dentro de muchas IAs hay redes neuronales.

And inside of a neural network is a bunch of these little neurons.

Y dentro de cada red neuronal se encuentran pequeñas neuronas.

So here the neurons are like these little gray circles.

Estas neuronas son como pequeños círculos grises.

And we would like to know

Y lo que queremos conocer

what is the scratch pad of a neural network?

es el bloc de notas de una red neuronal.

Well, when we feed in a word into a neural network,

Bueno, cuando ingresamos una palabra en una red neuronal,

each of the little neurons computes a number.

cada una de estas neuronas computa un número.

Those little numbers I'm representing here with colors.

Represento aquí esos números con colores.

So every neuron computes this little number,

Cada neurona computa este pequeño número,

and those numbers tell us something

y todos esos números nos dicen algo

about how the neural network is processing language.

sobre cómo la red neuronal procesa el lenguaje.

Taken together,

En conjunto,

all of those little circles paint us a picture

estos círculos constituyen una imagen

of how the neural network is representing language,

sobre cómo la red neuronal representa el lenguaje,

and they give us the scratch pad of the neural network.

y proporcionan el bloc de notas de la red neuronal.

OK, great.

Bien.

Now we have two scratch pads, one from the brain and one from AI.

Ahora tenemos dos blocs, uno del cerebro y otro de la IA.

And we want to know: Is AI doing something like what the brain is doing?

Lo que queremos saber es: ¿la IA hace algo similar al cerebro?

How can we test that?

¿Cómo lo comprobamos?

Here's what researchers have come up with.

Esto es lo que dicen los investigadores.

We're going to train a new model.

Vamos a entrenar un nuevo modelo.

That new model is going to look at neural network scratch pad

Este nuevo modelo observará el bloc de notas de una red neuronal

for a particular word

para una palabra específica

and try to predict the brain scratch pad for the same word.

y tratará de predecir el bloc del cerebro para esa misma palabra.

We can do it, by the way, around two.

Podemos hacerlo con dos.

So let's train a new model.

Entrenemos un nuevo modelo.

It’s going to look at the neural network scratch pad for a particular word

Observará el bloc de la red neuronal para una palabra específica

and try to predict the brain scratchpad.

y tratará de predecir el del cerebro.

If the brain and AI are doing nothing alike,

Si el cerebro y la IA no hacen lo mismo,

have nothing in common,

si no tienen nada en común,

we won't be able to do this prediction task.

no podrá realizar la predicción.

It won't be possible to predict one from the other.

No será posible predecir uno a partir de otro.

So we've reached a fork in the road

Llegado este punto,

and you can probably tell I'm about to tell you one of two things.

probablemente se dieron cuenta de que voy a decirles una cosa de dos.

I’m going to tell you AI is amazing,

Voy a decirles que la IA es increíble,

or I'm going to tell you AI is an imposter.

o voy a decirles que la IA es una impostora.

A los investigadores como yo nos gusta recordarles

Researchers like me love to remind you

that AI is nothing like the brain.

que la IA no se parece al cerebro.

And that is true.

Y eso es cierto.

But could it also be the AI and the brain share something in common?

¿Pero no podrían tener algo en común?

So we’ve done this scratch pad prediction task,

Hicimos esta prueba de predicción

and it turns out, 75 percent of the time

y resulta que el 75 % de las veces

the predicted neural network scratchpad for a particular word

la predicción del bloc de una red neuronal para una palabra específica

is more similar to the true neural network scratchpad for that word

se parece más al verdadero bloc de la red para esa palabra

than it is to the neural network scratch pad

que al bloc de la red neuronal

for some other randomly chosen word --

para otra palabra escogida al azar...

75 percent is much better than chance.

75 % es una gran posibilidad.

What about for more complicated things,

¿Qué pasa con cosas más complicadas,

not just words, but sentences, even stories?

no solo palabras, sino frases, incluso historias?

Again, this scratch pad prediction task works.

De nuevo, esta predicción del bloc funciona.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Podemos predecir el bloc de la red desde el cerebro y viceversa.

Amazing.

Increíble.

So does that mean

¿Eso significa

that neural networks and AI understand language just like we do?

que las redes neuronales y la IA comprenden el lenguaje como nosotros?

Well, truthfully, no.

Bueno, realmente no.

Though these scratch pad prediction tasks show above-chance accuracy,

Si bien estas predicciones de blocs demuestran buenos resultados,

the underlying correlations are still pretty weak.

las correlaciones subyacentes son débiles.

Y si bien las redes neuronales están inspiradas en el cerebro,

And though neural networks are inspired by the brain,

they don't have the same kind of structure and complexity

no tienen la misma estructura ni complejidad

that we see in the brain.

del cerebro.

Neural networks also don't exist in the world.

Las redes neuronales tampoco existen en el mundo.

A neural network has never opened a door

Una red neuronal nunca abrió una puerta,

or seen a sunset, heard a baby cry.

ni vio el amanecer, ni oyó el llanto de un bebé.

Can a neural network that doesn't actually exist in the world,

¿Una red neuronal que no existe en el mundo,

hasn't really experienced the world,

que no ha experimentado el mundo,

really understand language about the world?

puede entender el lenguaje sobre el mundo?

Still, these scratch pad prediction experiments have held up --

Estos experimentos de predicciones de blocs han sostenido

muchos experimentos sobre imágenes cerebrales,

multiple brain imaging experiments,

multiple neural networks.

sobre redes neuronales.

We've also found that as the neural networks get more accurate,

También nos dimos cuenta de que a medida que la redes mejoran,

they also start to use their scratch pad in a way

comienzan a usar sus blocs de manera más parecida

that becomes more brain-like.

a la del cerebro.

And it's not just language.

Y no se trata solo del lenguaje.

We've seen similar results in navigation and vision.

Hay resultados similares en la navegación y la visión.

So AI is not doing exactly what the brain is doing,

La IA no sabe exactamente lo que hace el cerebro,

but it's not completely random either.

pero tampoco es algo completamente al azar.

So from where I sit,

Así que desde mi perspectiva,

if we want to know if AI really understands language like we do,

si queremos saber si la IA comprende el lenguaje como nosotros,

we need to get inside of the Chinese room.

necesitamos ingresar en la habitación china.

We need to know what the AI is doing,

Necesitamos saber lo que hace la IA,

and we need to be able to compare that to what people are doing

y necesitamos compararlo con lo que hace la gente

when they understand language.

cuando comprende el lenguaje.

AI is moving so fast.

La IA avanza muy rápido.

Today, I'm asking you, does AI understand language

Hoy les pregunto si la IA comprende el lenguaje,

that might seem like a silly question in ten years.

y en diez años será una pregunta tonta.

Or ten months.

O en diez meses.

(Laughter)

(Risas)

But one thing will remain true.

Pero algo seguirá siendo cierto.

We are meaning-making humans,

Nosotros construimos significados,

and we are going to continue to look for meaning

y como humanos lo seguiremos haciendo

and interpret the world around us.

y seguiremos interpretando el mundo.

And we will need to remember

Y necesitaremos recordar

that if we only look at the input and output of AI,

que si solamente observamos lo que ingresa y sale en la IA,

it's very easy to be fooled.

es muy fácil ser engañado.

We need to get inside of the metaphorical room of AI

Necesitamos entrar en la sala metafórica de la IA

in order to see what's happening.

para observar lo que sucede.

It's what's inside the counts.

Lo de dentro es lo que importa.

Thank you.

Gracias.

(Applause)

(Aplausos)