How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Traducteur: Claire Ghyselen

People are funny.

Les gens sont drôles.

We're constantly trying to understand and interpret

Nous cherchons constamment à comprendre et interpréter

the world around us.

le monde qui nous entoure.

I live in a house with two black cats, and let me tell you,

Je vis dans une maison avec deux chats noirs,

every time I see a black, bunched up sweater out of the corner of my eye,

et j’avoue que chaque fois que j’aperçois un pull noir enroulé quelque part,

I think it's a cat.

je pense que c'est un chat.

It's not just the things we see.

Les apparences sont trompeuses.

Sometimes we attribute more intelligence than might actually be there.

Parfois, nous attribuons plus d’intelligence qu’il n’y en a réellement.

Maybe you've seen the dogs on TikTok.

Les chiens sur TikTok, par exemple.

They have these little buttons that say things like "walk" or "treat."

On a inscrit sur des petits boutons : « marche » ou « friandise ».

They can push them to communicate some things with their owners,

Les chiens les poussent pour communiquer avec leur maître.

and their owners think they use them

Ceux-ci pensent que leur chien les utilise

to communicate some pretty impressive things.

pour communiquer des choses impressionnantes.

But do the dogs know what they're saying?

Mais les chiens savent-ils ce qu’ils disent ?

Or perhaps you've heard the story of Clever Hans the horse,

Ou peut-être connaissez-vous l’histoire de Clever Hans, le cheval,

and he could do math.

qui savait calculer.

And not just like, simple math problems, really complicated ones,

Pas seulement des problèmes simples, mais aussi des choses compliquées,

like, if the eighth day of the month falls on a Tuesday,

par exemple, si le huitième jour du mois tombe un mardi,

what's the date of the following Friday?

quelle est la date du vendredi suivant ?

It's like, pretty impressive for a horse.

C’est impressionnant pour un cheval.

Unfortunately, Hans wasn't doing math,

Hélas, Hans ne faisait pas des mathématiques,

but what he was doing was equally impressive.

mais ce qu'il faisait était tout aussi impressionnant.

Hans had learned to watch the people in the room

Hans avait appris à observer les personnes présentes

to tell when he should tap his hoof.

pour savoir quand il devait taper avec son sabot.

So he communicated his answers by tapping his hoof.

Il communiquait ses réponses en tapant sur son sabot.

It turns out that if you know the answer

En fait, si vous connaissiez la réponse à :

to "if the eighth day of the month falls on a Tuesday,

« si le huitième jour du mois tombe un mardi,

what's the date of the following Friday,"

quelle est la date du vendredi suivant ? »,

you will subconsciously change your posture

vous changerez inconsciemment de posture

once the horse has given the correct 18 taps.

une fois que le cheval avait tapé 18 fois.

So Hans couldn't do math,

Hans ne savait donc pas faire des calculs,

but he had learned to watch the people in the room who could do math,

mais il avait appris à observer les personnes qui savaient calculer.

which, I mean, still pretty impressive for a horse.

Et ça, c’est quand-même impressionnant pour un cheval.

But this is an old picture,

C’est une vieille photo,

and we would not fall for Clever Hans today.

et nous ne nous laisserions plus avoir par Clever Hans de nos jours.

Or would we?

Quoi que...

Well, I work in AI,

Je travaille dans le domaine de l’IA,

and let me tell you, things are wild.

et sincèrement, c’est hallucinant.

There have been multiple examples of people being completely convinced

Il existe de nombreux exemples où les personnes sont totalement convaincues

that AI understands them.

que l'IA les comprend.

In 2022,

En 2022,

a Google engineer thought that Google’s AI was sentient.

un ingénieur de Google pensait que l’IA de Google ressentait les émotions.

And you may have had a really human-like conversation

Vous avez peut-être eu une conversation vraiment humaine

with something like ChatGPT.

avec ChatGPT ou une IA similaire.

But models we're training today are so much better

Mais les systèmes d’aujourd’hui sont bien meilleurs

than the models we had even five years ago.

que ceux que nous avions il y a cinq ans.

It really is remarkable.

C'est vraiment remarquable.

So at this super crazy moment in time,

Alors, à cette époque absolument hallucinante,

let’s ask the super crazy question:

posons-nous la question la plus folle :

Does AI understand us,

L’IA nous comprend-elle,

or are we having our own Clever Hans moment?

ou sommes-nous en train de revisiter Clever Hans ?

Some philosophers think that computers will never understand language.

Selon certains philosophes,

les ordinateurs ne comprendront jamais le langage.

To illustrate this, they developed something they call

Pour illustrer ça, ils ont développé ce qu’ils ont appelé :

the Chinese room argument.

« la chambre chinoise. »

In the Chinese room, there is a person, hypothetical person,

Dans la chambre chinoise, il y une personne hypothétique,

who does not understand Chinese,

qui ne comprend pas le chinois,

but he has along with him a set of instructions

mais qui dispose d’un ensemble d’instructions

that tell him how to respond in Chinese to any Chinese sentence.

qui lui indiquent comment répondre en chinois

à n’importe quelle phrase en chinois.

Here's how the Chinese room works.

Voici comment ça fonctionne.

A piece of paper comes in through a slot in the door,

On insère une feuille de papier par une fente,

has something written in Chinese on it.

et il y a quelque chose d’écrit dessus, en chinois.

The person uses their instructions to figure out how to respond.

La personne utilise ses instructions pour produire sa réponse.

They write the response down on a piece of paper

Il écrit la réponse sur une feuille

and then send it back out through the door.

et il rend sa réponse de l’autre côté de la porte.

To somebody who speaks Chinese,

Pour un sinophone à l’extérieur de cette chambre,

standing outside this room,

it might seem like the person inside the room speaks Chinese.

il semble que la personne à l’intérieur de la pièce parle chinois.

But we know they do not,

Or nous savons que ce n’est pas le cas,

because no knowledge of Chinese is required to follow the instructions.

car aucune connaissance du chinois n’est requise pour suivre les règles.

Performance on this task does not show that you know Chinese.

Les résultats ne sont pas significatifs de notre connaissance du chinois.

So what does that tell us about AI?

Qu’est-ce que cela nous dit sur l’IA ?

Well, when you and I stand outside of the room,

Eh bien, lorsque vous et moi sommes à l’extérieur de la chambre,

when we speak to one of these AIs like ChatGPT,

lorsque nous parlons à l’une de ces IA comme ChatGPT,

we are the person standing outside the room.

nous sommes la personne à l’extérieur.

We're feeding in English sentences,

Nous alimentons en phrases en anglais, nous recevons des phrases en anglais.

we're getting English sentences back.

It really looks like the models understand us.

On dirait vraiment que les systèmes nous comprennent/

It really looks like they know English.

On dirait vraiment qu’ils connaissent l’anglais.

But under the hood,

Mais sous le capot,

these models are just following a set of instructions, albeit complex.

ces modèles ne suivent finalement qu’un ensemble de règles,

quoique complexes.

How do we know if AI understands us?

Comment savoir si l'IA nous comprend ?

To answer that question, let's go back to the Chinese room again.

Pour répondre à cette question, revenons à la chambre chinoise.

Let's say we have two Chinese rooms.

Imaginons avoir deux chambres chinoises.

In one Chinese room is somebody who actually speaks Chinese,

Dans une pièce chinoise se trouve quelqu'un qui parle réellement chinois,

and in the other room is our impostor.

et dans l’autre pièce, se trouve notre imposteur.

When the person who actually speaks Chinese gets a piece of paper

Lorsque la personne sinophone reçoit une feuille

sur laquelle est écrit quelque chose en chinois,

that says something in Chinese in it, they can read it, no problem.

elle peut le lire, on est cool.

But when our imposter gets it again,

Mais quand c’est notre imposteur

he has to use his set of instructions to figure out how to respond.

il doit utiliser ses instructions pour produire sa réponse.

From the outside, it might be impossible to distinguish these two rooms,

De l’extérieur, il est certes impossible de distinguer ces deux chambres,

but we know inside something really different is happening.

mais nous savons qu’il s’y passe quelque chose de totalement différent.

To illustrate that,

Pour illustrer cela,

let's say inside the minds of our two people,

imaginons que dans l’esprit de nos deux personnes,

inside of our two rooms,

à l’intérieur de nos deux chambres,

is a little scratch pad.

se trouve un bloc-notes

And everything they have to remember in order to do this task

sur lequel se trouve tout ce dont ils ont besoin pour accomplir cette tâche.

has to be written on that little scratch pad.

If we could see what was written on that scratch pad,

Si nous pouvions voir ce qui était écrit sur ce bloc-notes,

we would be able to tell how different their approach to the task is.

nous pourrions constater à quel point leur approche est différente.

So though the input and the output of these two rooms

Même si les entrants et les sortants es deux chambres sont identiques,

might be exactly the same,

the process of getting from input to output -- completely different.

le processus pour passer de l'entrée à la sortie est complètement différent.

So again, what does that tell us about AI?

À nouveau, qu’est-ce que ça nous dit sur l’IA ?

Again, if AI, even if it generates completely plausible dialogue,

Encore une fois, si l’IA, même en générant un dialogue tout à fait plausible,

answers questions just like we would expect,

en répondant aux questions selon nos attentes,

it may still be an imposter of sorts.

elle peut tout de même être un imposteur.

If we want to know if AI understands language like we do,

Si nous voulons savoir si l'IA comprend le langage comme nous,

we need to know what it's doing.

nous devons savoir ce qu'elle fait.

We need to get inside to see what it's doing.

Nous devons entrer dans la chambre.

Is it an imposter or not?

Est-ce un imposteur, ou pas ?

We need to see its scratch pad,

Nous avons besoin de voir son bloc-notes

and we need to be able to compare it

et de le comparer au bloc-notes de celui qui comprend réellement la langue.

to the scratch pad of somebody who actually understands language.

But like scratch pads in brains,

Mais comme des blocs-notes dans le cerveau,

that's not something we can actually see, right?

on n’y a pas accès.

Well, it turns out that we can kind of see scratch pads in brains.

Eh bien, il s’avère que nous pouvons accéder aux blocs-notes du cerveau.

Using something like fMRI or EEG,

Avec des équipements comme l’IRMf ou l’EEG,

we can take what are like little snapshots of the brain while it’s reading.

nous pouvons prendre une sorte de photos du cerveau pendant qu’il lit.

So have people read words or stories and then take pictures of their brain.

On demande à des gens de lire des mots ou des histoires

et on prend des photos de leur cerveau.

And those brain images are like fuzzy,

Et ces images cérébrales sont comme des images floues

out-of-focus pictures of the scratch pad of the brain.

du bloc-notes de notre cerveau.

They tell us a little bit about how the brain is processing

Elles nous en disent un peu plus sur la façon dont le cerveau traite

and representing information while you read.

et représente l’information pendant qu’on la lit.

So here are three brain images taken while a person read the word "apartment,"

Voici trois images cérébrales prises pendant la lecture des mots :

« appartement », « maison » et « céleri ».

"house" and "celery."

You can see just with your naked eye

On peut observer à l’œil nu

that the brain image for "apartment" and "house"

que les images pour « appartement » et « maison » se ressemblent davantage

are more similar to each other

than they are to the brain image for "celery."

qu’elles ne sont similaires à « céleri ».

And you know, of course that apartments and houses are more similar

Nous savons tous qu’un appartement et une maison sont plus proches

than they are to celery, just the words.

qu’ils ne le sont du céleri.

So said another way,

Autrement dit,

the brain uses its scratchpad when reading the words "apartment" and "house"

le cerveau utilise son propre bloc-notes

pour lire les mots « appartement » et « maison »

in a way that's more similar than when you read the word "celery."

d’une manière plus similaire que dans la lecture de « céleri ».

The scratch pad tells us a little bit

Le bloc-notes nous en dit un peu plus sur notre représentation mentale de la langue.

about how the brain represents the language.

It's not a perfect picture of what the brain's doing,

Ce n’est pas une image parfaite de ce que fait le cerveau, mais c’est suffisant.

but it's good enough.

OK, so we have scratch pads for the brain.

Nous avons donc des blocs-notes pour le cerveau.

Now we need a scratch pad for AI.

Nous avons maintenant besoin d’un bloc-notes pour l’IA.

So inside a lot of AIs is a neural network.

On trouve un réseau neuronal dans de nombreuses IA.

And inside of a neural network is a bunch of these little neurons.

Et à l’intérieur de ce réseau neuronal, on a un tas de petits neurones.

So here the neurons are like these little gray circles.

Ici, les neurones sont représentés par les cercles gris.

And we would like to know

Et nous souhaitons savoir quel est le bloc-notes du réseau neuronal.

what is the scratch pad of a neural network?

Well, when we feed in a word into a neural network,

Eh bien, lorsque nous encodons un mot dans un réseau neuronal,

each of the little neurons computes a number.

chacun des petits neurones calcule un nombre.

Those little numbers I'm representing here with colors.

Ce sont les petits chiffres représentés avec des couleurs.

So every neuron computes this little number,

Chaque neurone calcule donc ce petit nombre,

and those numbers tell us something

et ces nombres nous renseignent

about how the neural network is processing language.

sur la façon dont le réseau neuronal traite le langage.

Taken together,

Pris ensemble,

all of those little circles paint us a picture

tous ces petits cercles nous brossent un tableau

of how the neural network is representing language,

comment le réseau neuronal représente le langage

and they give us the scratch pad of the neural network.

et nous donnent le bloc-notes du réseau neuronal.

OK, great.

OK, super.

Now we have two scratch pads, one from the brain and one from AI.

Nous avons deux blocs-notes, celui du cerveau et celui de l’IA.

And we want to know: Is AI doing something like what the brain is doing?

Et nous voulons savoir si l’IA fait quelque chose d’identique au cerveau.

How can we test that?

Comment tester cela ?

Here's what researchers have come up with.

Voici le protocole des chercheurs :

We're going to train a new model.

Nous allons entraîner un nouveau modèle,

That new model is going to look at neural network scratch pad

qui va ensuite examiner le bloc-notes du réseau neuronal

for a particular word

pour un mot en particulier,

and try to predict the brain scratch pad for the same word.

et essayer de prédire le bloc-notes du cerveau pour le même mot.

We can do it, by the way, around two.

On peut le faire, d’ailleurs, autour de deux.

So let's train a new model.

Donc, on entraîne notre nouveau modèle.

It’s going to look at the neural network scratch pad for a particular word

Il va observer le bloc-notes du réseau neuronal pour un mot précis

and try to predict the brain scratchpad.

et tenter de prédire celui du cerveau.

Si le cerveau et l’IA n’ont rien en commun,

If the brain and AI are doing nothing alike,

have nothing in common,

cette prédiction ne sera pas possible.

we won't be able to do this prediction task.

Il ne sera pas possible de prédire l’un au départ de l’autre.

It won't be possible to predict one from the other.

So we've reached a fork in the road

Nous sommes donc à un carrefour.

and you can probably tell I'm about to tell you one of two things.

Vous devinez sans doute que je vais vous dire l’une des deux choses suivantes.

I’m going to tell you AI is amazing,

Soit, je vous dis que l’IA est incroyable,

or I'm going to tell you AI is an imposter.

soit je vous dis que l’IA est un imposteur.

Researchers like me love to remind you

Les chercheurs comme moi adorent rappeler que l'IA n'a rien à voir avec le cerveau.

that AI is nothing like the brain.

And that is true.

Et c'est vrai.

But could it also be the AI and the brain share something in common?

Mais se pourrait-il que l’IA et le cerveau aient néanmoins quelque chose en commun ?

So we’ve done this scratch pad prediction task,

On a fait tourner notre test de prédiction

and it turns out, 75 percent of the time

et il s'avère que 75 % du temps,

the predicted neural network scratchpad for a particular word

le bloc-notes du réseau neuronal prédit pour un mot précis

is more similar to the true neural network scratchpad for that word

ressemble davantage au bloc-notes du [cerveau] pour ce mot

than it is to the neural network scratch pad

qu’au bloc-notes du réseau de neuronal pour un autre mot choisi au hasard.

for some other randomly chosen word --

75 percent is much better than chance.

75 %, c'est bien mieux que le hasard.

What about for more complicated things,

Qu’en est-il des choses plus compliquées que des mots :

not just words, but sentences, even stories?

des phrases ou des histoires ?

Again, this scratch pad prediction task works.

Encore une fois, notre test de prédiction fonctionne.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Nous pouvons prédire le bloc-notes du réseau neuronal à partir du cerveau,

et vice versa.

Amazing.

C’est incroyable.

So does that mean

Cela signifie-t-il

that neural networks and AI understand language just like we do?

que les réseaux de neuronaux et l’IA comprennent le langage comme nous ?

Well, truthfully, no.

Eh bien, à vrai dire, non.

Though these scratch pad prediction tasks show above-chance accuracy,

Bien que ces prédictions soient d’une précision supérieure au hasard,

the underlying correlations are still pretty weak.

les corrélations sous-jacentes restent assez faibles.

And though neural networks are inspired by the brain,

Certes, les réseaux neuronaux sont inspirés par le cerveau,

they don't have the same kind of structure and complexity

mais ils n’ont pas la même structure et complexité que le cerveau.

that we see in the brain.

Neural networks also don't exist in the world.

Les réseaux neuronaux n’existent pas non plus dans le monde.

A neural network has never opened a door

Un réseau neuronal n’a jamais ouvert de porte,

or seen a sunset, heard a baby cry.

admiré un coucher de soleil, entendu un bébé pleurer.

Can a neural network that doesn't actually exist in the world,

Un réseau de neurones qui n’a pas de vie dans le monde,

n’en a pas fait son expérience.

hasn't really experienced the world,

really understand language about the world?

peut-il vraiment comprendre le langage du monde ?

Still, these scratch pad prediction experiments have held up --

Pourtant, ces expériences de prédiction ont résisté

à de multiples expériences d’imagerie cérébrale, de multiples réseaux neuronaux.

multiple brain imaging experiments,

multiple neural networks.

We've also found that as the neural networks get more accurate,

De plus, à mesure que les réseaux neuronaux deviennent plus précis,

they also start to use their scratch pad in a way

ils utilisent leur bloc-notes

d’une manière qui se rapproche de celle du cerveau.

that becomes more brain-like.

And it's not just language.

Il n’y pas que le langage.

We've seen similar results in navigation and vision.

Nous constatons des résultats similaires en termes de navigation et de vision.

So AI is not doing exactly what the brain is doing,

L'IA ne fait donc pas exactement ce que fait le cerveau,

but it's not completely random either.

mais ce n’est pas non plus complètement aléatoire.

So from where I sit,

Donc, de mon point de vue,

if we want to know if AI really understands language like we do,

si nous voulons savoir si l’IA comprend vraiment le langage comme nous,

we need to get inside of the Chinese room.

nous devons entrer dans la salle chinoise.

We need to know what the AI is doing,

Nous devons savoir ce que fait l'IA,

and we need to be able to compare that to what people are doing

et nous devons être en mesure de comparer cela

à ce que font les gens lorsqu’ils comprennent une langue.

when they understand language.

AI is moving so fast.

L'IA évolue si vite.

Today, I'm asking you, does AI understand language

Aujourd’hui, la question de savoir si l’IA comprend un langage

that might seem like a silly question in ten years.

pourra sembler stupide dans dix ans.

Or ten months.

Ou dix mois.

(Laughter)

(Rires)

But one thing will remain true.

Mais une chose restera vraie.

We are meaning-making humans,

Les humains sont des créatures de sens,

and we are going to continue to look for meaning

et nous continuerons à chercher un sens et à interpréter notre monde.

and interpret the world around us.

And we will need to remember

Nous devons nous rappeler

that if we only look at the input and output of AI,

que sur base des seuls entrants et sortants de l’IA,

it's very easy to be fooled.

il est très facile de se laisser berner.

We need to get inside of the metaphorical room of AI

Nous devons entrer dans la salle métaphorique de l’IA

in order to see what's happening.

pour voir ce qu’il s’y passe.

It's what's inside the counts.

C’est l’intérieur qui compte.

Thank you.

Merci.

(Applause)

(Applaudissements)