How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Traduttore: Giulia Vecchi Revisore: Chiara Polesinanti

People are funny.

Le persone sono strane.

We're constantly trying to understand and interpret

Cerchiamo costantemente di capire e interpretare il mondo intorno a noi.

the world around us.

I live in a house with two black cats, and let me tell you,

Vivo in una casa con due gatti neri e vi dico questo,

every time I see a black, bunched up sweater out of the corner of my eye,

ogni volta che con la coda dell’occhio vedo una felpa nera arrotolata

I think it's a cat.

penso sia un gatto.

Non capita solo con le cose che vediamo.

It's not just the things we see.

Sometimes we attribute more intelligence than might actually be there.

A volte attribuiamo alle cose più intelligenza

di quanta ne abbiano in realtà.

Maybe you've seen the dogs on TikTok.

Forse avete visto dei cani su TikTok

They have these little buttons that say things like "walk" or "treat."

che hanno questi piccoli pulsanti che dicono cose come “walk” o “treat.”

They can push them to communicate some things with their owners,

Possono premerli per comunicare con i loro padroni,

and their owners think they use them

e i loro padroni pensano che li usino per comunicare cose davvero notevoli.

to communicate some pretty impressive things.

But do the dogs know what they're saying?

Ma i cani capiscono quello che stanno dicendo?

Or perhaps you've heard the story of Clever Hans the horse,

Forse avete sentito la storia del cavallo Hans l’Intelligente,

and he could do math.

che sapeva fare i calcoli.

Non solo problemi semplici di matematica, ma anche quelli molto complicati,

And not just like, simple math problems, really complicated ones,

like, if the eighth day of the month falls on a Tuesday,

per esempio, se l’ottavo giorno del mese cade di martedì

what's the date of the following Friday?

qual è la data del venerdì successivo?

It's like, pretty impressive for a horse.

È veramente notevole per un cavallo.

Unfortunately, Hans wasn't doing math,

Sfortunatamente, Hans non faceva i calcoli,

but what he was doing was equally impressive.

quello che faceva, però, era egualmente notevole.

Hans had learned to watch the people in the room

Hans aveva imparato a osservare le persone nella stanza

to tell when he should tap his hoof.

per capire quando battere con lo zoccolo.

So he communicated his answers by tapping his hoof.

Comunicava le risposte battendo con lo zoccolo.

It turns out that if you know the answer

Si è capito che se sai la risposta a

to "if the eighth day of the month falls on a Tuesday,

“se l’ottavo giorno del mese è un martedì qual è la data del venerdì successivo”

what's the date of the following Friday,"

cambierai la tua postura subconsciamente

you will subconsciously change your posture

una volta che il cavallo avrà correttamente battuto 18 volte.

once the horse has given the correct 18 taps.

So Hans couldn't do math,

Hans non sapeva fare i calcoli,

but he had learned to watch the people in the room who could do math,

ma aveva imparato a osservare le persone nella stanza che sapevano farlo,

which, I mean, still pretty impressive for a horse.

cosa comunque notevole per un cavallo.

But this is an old picture,

Ma questa è una vecchia storia

and we would not fall for Clever Hans today.

e oggi non ci faremmo ingannare da Hans l’Intelligente.

Or would we?

O mi sbaglio?

Well, I work in AI,

Comunque, io mi occupo di IA,

and let me tell you, things are wild.

e lasciate che ve lo dica, ci sono situazioni folli.

There have been multiple examples of people being completely convinced

Ci sono stati vari esempi di persone che erano davvero convinte

that AI understands them.

che l’IA le capisse.

In 2022,

Nel 2022,

a Google engineer thought that Google’s AI was sentient.

un ingegnere di Google suppose che l’IA di Google fosse senziente.

And you may have had a really human-like conversation

E forse avete avuto conversazioni molto umane

with something like ChatGPT.

con qualcosa come ChatGPT.

But models we're training today are so much better

Ma i modelli che addestriamo oggi sono di gran lunga migliori

than the models we had even five years ago.

dei modelli che avevamo cinque anni fa.

It really is remarkable.

È veramente straordinario.

So at this super crazy moment in time,

Quindi in questo momento super folle,

let’s ask the super crazy question:

facciamoci una domanda folle:

Does AI understand us,

L’IA ci capisce,

or are we having our own Clever Hans moment?

o stiamo rivivendo la storia di Hans l’Intelligente?

Alcuni filosofi pensano che i computer non comprenderanno mai il linguaggio.

Some philosophers think that computers will never understand language.

To illustrate this, they developed something they call

Per capire meglio, hanno sviluppato l’esperimento mentale della Stanza cinese.

the Chinese room argument.

In the Chinese room, there is a person, hypothetical person,

Nella stanza cinese c’è una persona, un’ipotetica persona,

who does not understand Chinese,

che non capisce il cinese,

but he has along with him a set of instructions

ma che ha con sé una serie di istruzioni

that tell him how to respond in Chinese to any Chinese sentence.

che le dicono come rispondere in cinese a qualsiasi frase cinese.

Here's how the Chinese room works.

Ecco come funziona.

A piece of paper comes in through a slot in the door,

Un foglio di carta entra attraverso una fessura nella porta

e ha sopra scritto qualcosa in cinese.

has something written in Chinese on it.

The person uses their instructions to figure out how to respond.

La persona usa le istruzioni per capire come rispondere,

They write the response down on a piece of paper

scrive la risposta su un foglio

e lo rimanda indietro attraverso la porta.

and then send it back out through the door.

To somebody who speaks Chinese,

Per qualcuno che parli cinese, fuori dalla stanza,

standing outside this room,

potrebbe sembrare che la persona all’interno parli cinese.

it might seem like the person inside the room speaks Chinese.

But we know they do not,

Ma noi sappiamo che non è così.

because no knowledge of Chinese is required to follow the instructions.

Perché non serve conoscere il cinese per seguire delle istruzioni.

Performance on this task does not show that you know Chinese.

L’esecuzione di questo compito non dimostra che si conosce il cinese.

So what does that tell us about AI?

E questo cosa ci dice sull’IA?

Well, when you and I stand outside of the room,

Beh, quando io e voi siamo fuori dalla stanza,

quando noi parliamo con una di queste IA come ChatGPT,

when we speak to one of these AIs like ChatGPT,

we are the person standing outside the room.

siamo noi la persona fuori dalla stanza.

We're feeding in English sentences,

Inseriamo frasi in inglese

we're getting English sentences back.

e riceviamo risposte in inglese.

It really looks like the models understand us.

Sembra davvero che i modelli ci capiscano.

It really looks like they know English.

Sembra davvero che conoscano l’inglese.

But under the hood,

Ma in realtà,

these models are just following a set of instructions, albeit complex.

questi modelli stanno solo seguendo una serie di istruzioni, benché complesse.

How do we know if AI understands us?

Come facciamo a sapere se l’IA ci capisce?

To answer that question, let's go back to the Chinese room again.

Per rispondere torniamo alla Stanza cinese.

Let's say we have two Chinese rooms.

Mettiamo di avere due Stanze cinesi.

In one Chinese room is somebody who actually speaks Chinese,

In una c’è qualcuno che parla davvero cinese

e nell’altra c’è il nostro impostore.

and in the other room is our impostor.

When the person who actually speaks Chinese gets a piece of paper

Quando la persona che parla davvero cinese

riceve un foglio con qualcosa in cinese,

that says something in Chinese in it, they can read it, no problem.

riesce a leggerlo senza problemi.

But when our imposter gets it again,

Quando è il nostro impostore a riceverlo,

he has to use his set of instructions to figure out how to respond.

deve usare le istruzioni per capire come rispondere.

From the outside, it might be impossible to distinguish these two rooms,

Da fuori sembra impossibile distinguere le due stanze,

but we know inside something really different is happening.

ma noi sappiamo che all’interno accadono due cose molto diverse.

To illustrate that,

Per spiegarlo,

let's say inside the minds of our two people,

immaginiamo che nella mente delle nostre due persone,

inside of our two rooms,

nelle due stanze, ci sia un blocchetto.

is a little scratch pad.

Tutto quello che devono ricordarsi per eseguire questo compito

And everything they have to remember in order to do this task

deve essere scritto in questo blocchetto.

has to be written on that little scratch pad.

If we could see what was written on that scratch pad,

Se potessimo vedere cosa è scritto in quel blocchetto,

we would be able to tell how different their approach to the task is.

riusciremmo a capire quanto siano diversi i loro approcci al compito.

So though the input and the output of these two rooms

Quindi, anche se l’input e l’output delle due stanze sono identici,

might be exactly the same,

the process of getting from input to output -- completely different.

il processo che porta dall’input all’output è completamente diverso.

So again, what does that tell us about AI?

Quindi, questo cosa ci dice sull’IA?

Again, if AI, even if it generates completely plausible dialogue,

Anche se l’IA genera dialoghi estremamente plausibili

e risponde alle domande proprio come ci aspetteremmo,

answers questions just like we would expect,

it may still be an imposter of sorts.

potrebbe comunque essere una sorta di impostore.

Se vogliamo sapere se l’IA capisce il linguaggio come noi,

If we want to know if AI understands language like we do,

dobbiamo sapere cosa sta facendo.

we need to know what it's doing.

We need to get inside to see what it's doing.

Dobbiamo entrare e vedere cosa sta facendo.

Is it an imposter or not?

È o no un impostore?

We need to see its scratch pad,

Dobbiamo vedere il suo blocchetto

and we need to be able to compare it

e confrontarlo con quello di qualcuno che capisce davvero la lingua.

to the scratch pad of somebody who actually understands language.

But like scratch pads in brains,

Ma come i blocchetti nel cervello,

that's not something we can actually see, right?

non è qualcosa che possiamo davvero vedere, no?

Well, it turns out that we can kind of see scratch pads in brains.

Si è scoperto che possiamo in qualche modo vedere i blocchetti nei cervelli.

Usando la fMRI o l’EEG,

Using something like fMRI or EEG,

we can take what are like little snapshots of the brain while it’s reading.

possiamo fare delle istantanee del cervello mentre sta leggendo.

So have people read words or stories and then take pictures of their brain.

Facciamo foto ai cervelli delle persone mentre leggono parole o storie.

And those brain images are like fuzzy,

Quelle sono immagini mosse, fuori fuoco dei blocchetti del cervello.

out-of-focus pictures of the scratch pad of the brain.

They tell us a little bit about how the brain is processing

Ci mostrano come il cervello elabora e rappresenta le informazioni

and representing information while you read.

mentre leggi.

Qui vedete tre immagini del cervello

So here are three brain images taken while a person read the word "apartment,"

registrate mentre una persona leggeva le parole appartamento, casa e sedano.

"house" and "celery."

You can see just with your naked eye

Potete vedere a occhio nudo

that the brain image for "apartment" and "house"

che le immagini per appartamento e casa sono molto più simili tra loro

are more similar to each other

di quanto lo siano con l’immagine per sedano.

than they are to the brain image for "celery."

And you know, of course that apartments and houses are more similar

E voi sapete che appartamenti e case sono più simili tra loro

than they are to celery, just the words.

di quanto lo siano con un sedano, solo le parole.

So said another way,

Detto diversamente,

the brain uses its scratchpad when reading the words "apartment" and "house"

quando leggiamo appartamento e casa il cervello usa il blocchetto

in a way that's more similar than when you read the word "celery."

in un modo più simile di quando leggiamo la parola sedano.

The scratch pad tells us a little bit

Il blocchetto ci dice qualcosa in più su come il cervello rappresenta la lingua.

about how the brain represents the language.

It's not a perfect picture of what the brain's doing,

Non è una rappresentazione perfetta di cosa fa il cervello, ma è sufficiente.

but it's good enough.

OK, so we have scratch pads for the brain.

Ok, quindi abbiamo un blocchetto per il cervello.

Now we need a scratch pad for AI.

Adesso ci serve un blocchetto per l’IA.

So inside a lot of AIs is a neural network.

All’interno di molte IA c’è una rete neurale.

And inside of a neural network is a bunch of these little neurons.

E all’interno della rete neurale ci sono tanti di questi piccoli neuroni.

So here the neurons are like these little gray circles.

Qui nell’immagini i neuroni sono questi piccoli cerchi grigi.

And we would like to know

Noi vorremmo sapere: qual è il blocchetto della rete neurale?

what is the scratch pad of a neural network?

Well, when we feed in a word into a neural network,

Quando inseriamo una parola in una rete neurale,

each of the little neurons computes a number.

ogni piccolo neurone calcola un numero.

Those little numbers I'm representing here with colors.

Li rappresento qui come colori.

So every neuron computes this little number,

Quindi, ogni neurone calcola un numero.

and those numbers tell us something

E quei numeri ci dicono qualcosa su come la rete neurale elabora la lingua.

about how the neural network is processing language.

Taken together,

Tutti i piccoli cerchi insieme ci mostrano come la reta neurale rappresenta la lingua

all of those little circles paint us a picture

of how the neural network is representing language,

e ci mostrano il blocchetto della rete neurale.

and they give us the scratch pad of the neural network.

OK, great.

Bene, adesso abbiamo due blocchetti, uno del cervello e uno dell’IA

Now we have two scratch pads, one from the brain and one from AI.

And we want to know: Is AI doing something like what the brain is doing?

e vogliamo sapere:

l’IA fa qualcosa di simile a quello che fa il cervello?

How can we test that?

Come lo verifichiamo?

Here's what researchers have come up with.

Ecco cosa hanno scoperto i ricercatori.

We're going to train a new model.

Dobbiamo addestrare un nuovo modello.

That new model is going to look at neural network scratch pad

Questo nuovo modello cercherà nel blocchetto della rete neurale

for a particular word

una parola specifica

and try to predict the brain scratch pad for the same word.

e cercherà di prevedere il blocchetto del cervello per la stessa parola.

We can do it, by the way, around two.

Possiamo anche fare il contrario.

So let's train a new model.

Quindi addestriamo un nuovo modello,

It’s going to look at the neural network scratch pad for a particular word

che guardando una parola specifica nel blocchetto della rete neurale

cercherà di prevedere il blocchetto del cervello.

and try to predict the brain scratchpad.

Se il cervello e l’IA non fanno nulla allo stesso modo,

If the brain and AI are doing nothing alike,

have nothing in common,

se non hanno niente in comune,

we won't be able to do this prediction task.

non sarà possibile fare questa previsione.

It won't be possible to predict one from the other.

Non sarà possibile prevedere uno partendo dall’altro.

So we've reached a fork in the road

Abbiamo raggiunto un bivio

and you can probably tell I'm about to tell you one of two things.

e, come potete immaginare, vi sto per dire una delle due cose:

I’m going to tell you AI is amazing,

o che l’IA è fantastica

or I'm going to tell you AI is an imposter.

o che l’IA è un impostore.

I ricercatori come me amano ricordarvi

Researchers like me love to remind you

che l’IA non è come il cervello.

that AI is nothing like the brain.

And that is true.

Ed è vero.

But could it also be the AI and the brain share something in common?

Ma non potrebbe anche essere che l’IA e il cervello abbiano qualcosa in comune?

So we’ve done this scratch pad prediction task,

Abbiamo quindi fatto questa previsione del blocchetto,

and it turns out, 75 percent of the time

e il 75% delle volte

the predicted neural network scratchpad for a particular word

il blocchetto della rete neurale previsto per una specifica parola

is more similar to the true neural network scratchpad for that word

è più simile al vero blocchetto della rete neurale per quella parola

than it is to the neural network scratch pad

che al blocchetto della rete neurale per un’altra parola casuale.

for some other randomly chosen word --

75 percent is much better than chance.

E il 75% è molto meglio del semplice caso.

What about for more complicated things,

Cosa succede per cose più complicate,

non semplici parole, ma frasi o addirittura storie?

not just words, but sentences, even stories?

Again, this scratch pad prediction task works.

Anche in questo caso la previsione del blocchetto funziona.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Possiamo prevedere il blocchetto di una rete neurale dal cervello

e viceversa.

Amazing.

Incredibile.

So does that mean

Questo significa che reti le neurali e l’IA capiscono il linguaggio come noi?

that neural networks and AI understand language just like we do?

Well, truthfully, no.

In realtà no.

Though these scratch pad prediction tasks show above-chance accuracy,

Sebbene queste previsioni del blocchetto mostrino un’accuratezza superiore al caso,

le correlazioni sottostanti sono ancora piuttosto deboli.

the underlying correlations are still pretty weak.

E sebbene le reti neurali si ispirino al cervello,

And though neural networks are inspired by the brain,

they don't have the same kind of structure and complexity

non hanno lo stesso tipo di struttura e complessità

che vediamo nel cervello.

that we see in the brain.

E poi le reti neurali non esistono nel mondo.

Neural networks also don't exist in the world.

A neural network has never opened a door

Una rete neurale non ha mai aperto una porta

or seen a sunset, heard a baby cry.

né visto un tramonto, o sentito il pianto di un bambino.

Può una rete neurale, che non esiste nel mondo e che non ne ha esperienza,

Can a neural network that doesn't actually exist in the world,

hasn't really experienced the world,

really understand language about the world?

capire davvero il linguaggio che descrive il mondo?

Comunque, questi esperimenti di previsione sono continuati:

Still, these scratch pad prediction experiments have held up --

molteplici esperimenti di imaging cerebrale,

multiple brain imaging experiments,

multiple neural networks.

molteplici reti neurali.

We've also found that as the neural networks get more accurate,

E abbiamo scoperto

che quando le reti neurali diventano più accurate,

they also start to use their scratch pad in a way

iniziano a usare il loro blocchetto

in modo più simile al cervello.

that becomes more brain-like.

Non solo in ambito linguistico.

And it's not just language.

We've seen similar results in navigation and vision.

Ci sono risultati simili nella navigazione e nella visione.

So AI is not doing exactly what the brain is doing,

Quindi l’IA non fa esattamente quello che fa il cervello,

ma non è neanche del tutto casuale.

but it's not completely random either.

Dal mio punto di vista,

So from where I sit,

if we want to know if AI really understands language like we do,

se vogliamo sapere se l’IA capisce davvero il linguaggio come lo capiamo noi,

we need to get inside of the Chinese room.

dobbiamo entrare nella Stanza cinese.

We need to know what the AI is doing,

Dobbiamo poter sapere cosa fa l’IA

and we need to be able to compare that to what people are doing

e poterlo confrontare con quello che le persone fanno

quando comprendono il linguaggio.

when they understand language.

AI is moving so fast.

L’IA si sviluppa rapidamente.

Today, I'm asking you, does AI understand language

Oggi vi sto chiedendo se l’IA comprende il linguaggio,

that might seem like a silly question in ten years.

ma potrà essere una domanda sciocca tra dieci anni

Or ten months.

o anche solo dieci mesi.

(Laughter)

(Risate)

But one thing will remain true.

Ma una cosa rimarrà vera.

Noi umani interpretiamo gli eventi

We are meaning-making humans,

and we are going to continue to look for meaning

e continueremo sempre a cercare il significato

and interpret the world around us.

e a interpretare il mondo che ci circonda.

And we will need to remember

E dovremo sempre tenere a mente

that if we only look at the input and output of AI,

che se guardiamo solo l’input e l’output dell’IA

it's very easy to be fooled.

sarà facile essere ingannati.

We need to get inside of the metaphorical room of AI

Dobbiamo entrare nella metaforica stanza dell’IA

in order to see what's happening.

per vedere cosa sta succedendo.

It's what's inside the counts.

È quello che c’è dentro che conta.

Thank you.

Grazie.

(Applause)

(Applausi)