How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Traducător: Claudia Pravat

People are funny.

Oamenii sunt ciudați.

We're constantly trying to understand and interpret

Încercăm mereu să înțelegem și să interpretăm

the world around us.

lumea din jurul nostru.

I live in a house with two black cats, and let me tell you,

Locuiesc într-o casă cu două pisici negre și pot să vă spun

every time I see a black, bunched up sweater out of the corner of my eye,

că de câte ori văd cu coada ochiului un pulover negru mototolit,

I think it's a cat.

am impresia că e o pisică.

It's not just the things we see.

Nu e doar ce vedem.

Sometimes we attribute more intelligence than might actually be there.

Câteodată atribuim mai multă inteligență decât există cu adevărat.

Maybe you've seen the dogs on TikTok.

Cred că ați văzut câinii de pe TikTok.

They have these little buttons that say things like "walk" or "treat."

Au niște butoane mici care spun „mergi” sau „recompensă”.

They can push them to communicate some things with their owners,

Ei le apasă pentru a comunica cu stăpânii lor,

and their owners think they use them

iar stăpânii cred că ei le folosesc

to communicate some pretty impressive things.

ca să spună ceva impresionant.

But do the dogs know what they're saying?

Dar câinii știu ce spun?

Or perhaps you've heard the story of Clever Hans the horse,

Poate ați auzit povestea cu Hans cel deștept,

and he could do math.

calul care știa matematică.

And not just like, simple math problems, really complicated ones,

Și nu e vorba de probleme simple, ci unele chiar complicate,

like, if the eighth day of the month falls on a Tuesday,

cum ar fi „dacă a opta zi a lunii cade într-o joi,

what's the date of the following Friday?

ce dată e vinerea următoare?”

It's like, pretty impressive for a horse.

Destul de impresionant pentru un cal.

Unfortunately, Hans wasn't doing math,

Din păcate, Hans nu știa matematică,

but what he was doing was equally impressive.

dar ce făcea era la fel de impresionant.

Hans had learned to watch the people in the room

Hans învățase să privească oamenii dintr-o încăpere,

to tell when he should tap his hoof.

ca să știe când să lovească cu copita.

So he communicated his answers by tapping his hoof.

Spunea răspunsul lovind cu copita.

It turns out that if you know the answer

Se pare că dacă știi răspunsul la întrebarea

to "if the eighth day of the month falls on a Tuesday,

„dacă a opta zi a lunii cade într-o joi,

what's the date of the following Friday,"

ce dată e vinerea următoare?”,

you will subconsciously change your posture

în mod inconștient îți vei schimba poziția

once the horse has given the correct 18 taps.

de îndată ce calul va fi bătut din copită de 18 ori.

So Hans couldn't do math,

Așadar, Hans nu știa matematică,

but he had learned to watch the people in the room who could do math,

dar învățase să se uite la oamenii din cameră care știau să calculeze,

which, I mean, still pretty impressive for a horse.

lucru destul de impresionant pentru un cal.

But this is an old picture,

Asta e o imagine veche

and we would not fall for Clever Hans today.

și Hans nu ne-ar mai impresiona azi.

Or would we?

Sau poate că da?

Well, I work in AI,

Lucrez în domeniul AI

and let me tell you, things are wild.

și vreau să vă spun că lucrurile sunt neobișnuite.

There have been multiple examples of people being completely convinced

Sunt multe exemple de oameni absolut convinși

that AI understands them.

că AI îi înțelege.

In 2022,

În 2022,

a Google engineer thought that Google’s AI was sentient.

un inginer de la Google s-a gândit că AI poate să simtă.

And you may have had a really human-like conversation

Și poate ați purtat și o conversație

with something like ChatGPT.

cu ceva cum e ChatGPT.

But models we're training today are so much better

Dar modelele dezvoltate azi sunt mult mai bune

than the models we had even five years ago.

decât cele de acum cinci ani.

It really is remarkable.

E extraordinar.

So at this super crazy moment in time,

În acest moment remarcabil,

let’s ask the super crazy question:

să ne punem întrebarea:

Does AI understand us,

Ne înțelege AI

or are we having our own Clever Hans moment?

sau suntem precum Hans Clever?

Some philosophers think that computers will never understand language.

Unii filozofi sunt de părere că niciodată calculatoarele

nu vor înțelege limbajul.

To illustrate this, they developed something they call

Pentru a demonstra acest lucru, au dezvoltat ceva

the Chinese room argument.

ce numesc argumentul camerei chinezești.

In the Chinese room, there is a person, hypothetical person,

Într-o cameră din China se presupune că există o persoană

who does not understand Chinese,

care nu înțelege chineza,

but he has along with him a set of instructions

dar are cu el un set de instrucțiuni

that tell him how to respond in Chinese to any Chinese sentence.

care îi spun cum să răspundă în chineză la orice întrebare.

Here's how the Chinese room works.

Iată cum funcționează camera chinezească.

A piece of paper comes in through a slot in the door,

Printr-o crăpătură a ușii este introdusă o hârtie

has something written in Chinese on it.

care are scris ceva în chineză.

The person uses their instructions to figure out how to respond.

Persoana folosește instrucțiunile ca să știe cum să răspundă.

They write the response down on a piece of paper

Scrie răspunsul pe o foaie de hârtie

and then send it back out through the door.

și apoi o trimite înapoi prin ușă.

To somebody who speaks Chinese,

Unui om care vorbește chineză

standing outside this room,

și se află în afara camerei,

it might seem like the person inside the room speaks Chinese.

i se va părea că cel din cameră știe chineza.

But we know they do not,

Dar noi știm că nu e așa,

because no knowledge of Chinese is required to follow the instructions.

pentru că nu e nevoie să știi chineza ca să urmezi acele instrucțiuni.

Performance on this task does not show that you know Chinese.

Să îndeplinești această sarcină nu demonstrează că știi chineză.

So what does that tell us about AI?

Ce ne spune asta despre AI?

Well, when you and I stand outside of the room,

Ei bine, când stăm în afara camerei

when we speak to one of these AIs like ChatGPT,

și vorbim cu aceste AI precum ChatGPT,

we are the person standing outside the room.

suntem ca cel care stă afară.

We're feeding in English sentences,

Îi dăm un set de propoziții în engleză

we're getting English sentences back.

și primim unele înapoi.

It really looks like the models understand us.

Avem impresia că modelele ne înțeleg.

It really looks like they know English.

Chiar pare că știu engleză.

But under the hood,

Dar în realitate,

these models are just following a set of instructions, albeit complex.

aceste modele urmează doar un set de instrucțiuni complexe.

How do we know if AI understands us?

De unde știm că AI ne înțelege?

To answer that question, let's go back to the Chinese room again.

Ca să răspundem la această întrebare, să revenim la camera chinezească.

Let's say we have two Chinese rooms.

Să zicem că avem două camere.

In one Chinese room is somebody who actually speaks Chinese,

În prima e cineva care chiar vorbește chineza,

and in the other room is our impostor.

iar în cealaltă e cineva care se preface.

When the person who actually speaks Chinese gets a piece of paper

Când persoana care vorbește chineza primește o foaie de hârtie

that says something in Chinese in it, they can read it, no problem.

pe care scrie ceva în chineză, poate citi fără probleme.

But when our imposter gets it again,

Dar cel care se preface că știe limba

he has to use his set of instructions to figure out how to respond.

va folosi un set de instrucțiuni pentru a ști cum să răspundă.

From the outside, it might be impossible to distinguish these two rooms,

Din afară, poate părea imposibil de diferențiat aceste camere,

but we know inside something really different is happening.

dar noi știm că acolo se petrec lucruri diferite.

To illustrate that,

Pentru a ilustra acest lucru,

let's say inside the minds of our two people,

să presupunem că în mintea celor două persoane

inside of our two rooms,

din cele două camere

is a little scratch pad.

există un carnețel de notițe.

And everything they have to remember in order to do this task

Și tot ce trebuie să-și amintească pentru a îndeplini această sarcină

has to be written on that little scratch pad.

e scris pe acel carnețel.

If we could see what was written on that scratch pad,

Dacă am putea vedea ce e scris pe acel carnețel,

we would be able to tell how different their approach to the task is.

am putea vedea diferența de executare a acestei sarcini.

So though the input and the output of these two rooms

Deși informația și executarea din aceste două camere

might be exactly the same,

ar putea fi identice,

the process of getting from input to output -- completely different.

procesul de informare și executare ar putea fi complet diferit.

So again, what does that tell us about AI?

Ce ne spune asta despre AI?

Again, if AI, even if it generates completely plausible dialogue,

Dacă AI generează un dialog total plauzibil,

answers questions just like we would expect,

răspunzând la întrebări exact cum ne-am aștepta,

it may still be an imposter of sorts.

tot ar fi un fel de impostor.

If we want to know if AI understands language like we do,

Dacă dorim să știm dacă AI înțelege limbajul ca noi,

we need to know what it's doing.

avem nevoie să înțelegem ce face.

We need to get inside to see what it's doing.

Să pătrundem în interior ca să vedem ce face.

Is it an imposter or not?

Se preface sau nu?

We need to see its scratch pad,

Trebuie să-i vedem notițele

and we need to be able to compare it

și să le comparăm

to the scratch pad of somebody who actually understands language.

cu cele ale cuiva care înțelege limba.

But like scratch pads in brains,

Dar precum notițele din creier,

that's not something we can actually see, right?

nu e ceva ce putem vedea, nu-i așa?

Well, it turns out that we can kind of see scratch pads in brains.

Ei bine, se pare că putem vedea aceste notițe din creier.

Using something like fMRI or EEG,

Cu ajutorul fMRI sau EEG,

we can take what are like little snapshots of the brain while it’s reading.

putem observa instantanee din creier în timp ce citește.

So have people read words or stories and then take pictures of their brain.

Punem câțiva oameni să citească și facem poze la creierul lor.

And those brain images are like fuzzy,

Aceste imagini sunt neclare,

out-of-focus pictures of the scratch pad of the brain.

imagini nefocalizate ale suprafeței creierului.

They tell us a little bit about how the brain is processing

Ne vorbesc despre modul în care creierul procesează

and representing information while you read.

și redă informația în timp ce citim.

So here are three brain images taken while a person read the word "apartment,"

Iată trei imagini ale creierului când cineva citește cuvântul „apartament”,

"house" and "celery."

„casă” și „țelină”.

You can see just with your naked eye

Se observă cu ochiul liber

that the brain image for "apartment" and "house"

că imaginile creierului pentru „apartament” și „casă”

are more similar to each other

se aseamănă mai mult

than they are to the brain image for "celery."

decât imaginea creierului pentru cuvântul „țelină”.

And you know, of course that apartments and houses are more similar

Și e normal, pentru că apartamentul seamănă mai mult cu casa

than they are to celery, just the words.

decât cu țelina.

So said another way,

Cu alte cuvinte,

the brain uses its scratchpad when reading the words "apartment" and "house"

creierul folosește notițele când citește „apartament” și „casă”,

in a way that's more similar than when you read the word "celery."

într-un mod similar cu acela când citește cuvântul „țelină”.

The scratch pad tells us a little bit

Carnețelul de notițe ne spune ceva

about how the brain represents the language.

despre modul în care creierul redă limbajul.

It's not a perfect picture of what the brain's doing,

Nu e o imagine perfectă a ceea ce face creierul,

but it's good enough.

dar e destul de bună.

OK, so we have scratch pads for the brain.

Așadar, avem carnețel pentru creier.

Now we need a scratch pad for AI.

Acum avem nevoie de unul și pentru AI.

So inside a lot of AIs is a neural network.

În interiorul multor AI există o rețea neuronală.

And inside of a neural network is a bunch of these little neurons.

Iar în această rețea există mulți neuroni mici.

So here the neurons are like these little gray circles.

Aceștia sunt ca niște mici cercuri gri.

And we would like to know

Am vrea să știm

what is the scratch pad of a neural network?

care e carnețelul unei rețele neuronale.

Well, when we feed in a word into a neural network,

Când introducem un cuvânt într-o rețea neuronală,

each of the little neurons computes a number.

fiecare mic neuron generează un număr.

Those little numbers I'm representing here with colors.

Aceste numere mici sunt reprezentate cu culori.

So every neuron computes this little number,

Fiecare neuron generează acest număr mic,

and those numbers tell us something

iar numerele ne spun ceva

about how the neural network is processing language.

despre cum e procesat limbajul de rețeaua neuronală.

Taken together,

Luate împreună,

all of those little circles paint us a picture

aceste cercuri mici oferă o imagine

of how the neural network is representing language,

despre cum redă limbajul rețeaua neuronală

and they give us the scratch pad of the neural network.

și ne oferă notițele rețelei neuronale.

OK, great.

Perfect.

Now we have two scratch pads, one from the brain and one from AI.

Acum avem cele două carnețele, ale creierului și ale AI.

And we want to know: Is AI doing something like what the brain is doing?

Și vrem să aflăm: AI face ceva asemănător creierului?

How can we test that?

Cum putem testa asta?

Here's what researchers have come up with.

Iată ce au descoperit cercetătorii.

We're going to train a new model.

Vom antrena un nou model.

That new model is going to look at neural network scratch pad

Acesta va căuta în notițele rețelei neuronale

for a particular word

un anumit cuvânt

and try to predict the brain scratch pad for the same word.

și va încerca să anticipeze notițele creierului pentru același cuvânt.

We can do it, by the way, around two.

Putem face cam două.

So let's train a new model.

Să dezvoltăm un nou model.

It’s going to look at the neural network scratch pad for a particular word

Acesta va căuta în notițele rețelei neuronale un anumit cuvânt

and try to predict the brain scratchpad.

și va încerca să anticipeze notițele creierului.

If the brain and AI are doing nothing alike,

Dacă creierul și AI nu acționează la fel,

have nothing in common,

dacă nu au nimic în comun,

we won't be able to do this prediction task.

nu vom putea face această anticipare.

It won't be possible to predict one from the other.

Nu vom putea diferenția una de alta.

So we've reached a fork in the road

Așadar, suntem la o răspântie

and you can probably tell I'm about to tell you one of two things.

și cred că vă dați seama ce urmează să vă spun.

I’m going to tell you AI is amazing,

Vă voi spune că AI e senzațională

or I'm going to tell you AI is an imposter.

sau vă voi spune că e ceva fals.

Researchers like me love to remind you

Cercetătorilor ca mine le place să vă reamintească

that AI is nothing like the brain.

că AI nu seamănă deloc cu creierul.

And that is true.

Acesta e adevărul.

But could it also be the AI and the brain share something in common?

Dar ar putea AI și creierul să se asemene?

So we’ve done this scratch pad prediction task,

Am dezvoltat acest carnețel pentru predicții

and it turns out, 75 percent of the time

și am descoperit că în 75% din cazuri,

the predicted neural network scratchpad for a particular word

predicția rețelei neuronale pentru un anumit cuvânt

is more similar to the true neural network scratchpad for that word

seamănă mai bine cu cuvântul real al rețelei neuronale

than it is to the neural network scratch pad

decât cu un cuvânt ales la întâmplare

for some other randomly chosen word --

din rețeaua neuronală,

75 percent is much better than chance.

cu șanse mai mari cu 75%.

What about for more complicated things,

Cum rămâne cu situații mai complicate,

not just words, but sentences, even stories?

nu doar cuvinte, ci propoziții și conversații?

Again, this scratch pad prediction task works.

Și în aceste situații funcționează predicția carnetului de notițe.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Putem prezice rețeaua neuronală din creier în ambele sensuri.

Amazing.

E uimitor.

So does that mean

Este acesta un semn

that neural networks and AI understand language just like we do?

că rețelele neuronale și AI înțeleg limbajul ca noi?

Well, truthfully, no.

Sincer, nu.

Though these scratch pad prediction tasks show above-chance accuracy,

Deși aceste predicții arată o precizie foarte mare,

the underlying correlations are still pretty weak.

corelațiile principale sunt foarte slabe.

And though neural networks are inspired by the brain,

Și deși rețelele neuronale sunt determinate de creier,

they don't have the same kind of structure and complexity

nu au structura și complexitatea

that we see in the brain.

pe care le vedem la creier.

Neural networks also don't exist in the world.

Rețelele neuronale nici nu există în lume.

A neural network has never opened a door

O rețea neuronală nu deschide ușa,

or seen a sunset, heard a baby cry.

n-a văzut niciodată un apus de soare și n-a auzit cum plânge un bebeluș.

Can a neural network that doesn't actually exist in the world,

Poate o rețea neuronală care nu există în lume,

hasn't really experienced the world,

care nu știe ce înseamnă lumea,

really understand language about the world?

să înțeleagă cu adevărat lumea?

Still, these scratch pad prediction experiments have held up --

Totuși, aceste experimente de predicție au expus

multiple brain imaging experiments,

multe experimente de imagistică a creierului

multiple neural networks.

și rețele neuronale.

We've also found that as the neural networks get more accurate,

Am descoperit că pe măsură ce rețelele neuronale sunt mai precise,

they also start to use their scratch pad in a way

încep să-și folosească memoria

that becomes more brain-like.

într-un fel care seamănă cu creierul.

And it's not just language.

Și nu se întâmplă doar cu limbajul.

We've seen similar results in navigation and vision.

Am văzut rezultate similare la deplasare și vedere.

So AI is not doing exactly what the brain is doing,

Așadar, AI nu face exact ce face creierul,

but it's not completely random either.

dar nici ceva la întâmplare.

So from where I sit,

Din punctul meu de vedere,

if we want to know if AI really understands language like we do,

dacă vrem să ne convingem că AI înțelege limbajul ca noi,

we need to get inside of the Chinese room.

trebuie să intrăm în camera chinezească.

We need to know what the AI is doing,

Trebuie să aflăm ce face AI

and we need to be able to compare that to what people are doing

și să putem compara asta cu ceea ce fac oamenii

when they understand language.

când înțeleg un limbaj.

AI is moving so fast.

AI se mișcă foarte repede.

Today, I'm asking you, does AI understand language

Dacă vă întreb astăzi dacă AI înțelege limbajul,

that might seem like a silly question in ten years.

în 10 ani asta ar putea să fie o întrebare absurdă.

Or ten months.

Chiar în 10 luni.

(Laughter)

(Râsete)

But one thing will remain true.

Dar un lucru rămâne adevărat.

We are meaning-making humans,

Suntem oameni care caută sens

and we are going to continue to look for meaning

și vom continua să căutăm înțelesuri

and interpret the world around us.

și să cunoaștem lumea din jurul nostru.

And we will need to remember

Și trebuie să fim atenți

that if we only look at the input and output of AI,

că dacă doar ne uităm la intrările și ieșirile AI,

it's very easy to be fooled.

e foarte ușor să ne înșelăm.

We need to get inside of the metaphorical room of AI

E nevoie să intrăm în acea cameră imaginară a AI,

in order to see what's happening.

ca să înțelegem ce se întâmplă.

It's what's inside the counts.

Contează ceea ce e înăuntru.

Thank you.

Vă mulțumesc!

(Applause)

(Aplauze)