How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Tradutor: Margarida Ferreira Revisora: Clara Marques

People are funny.

As pessoas são engraçadas.

We're constantly trying to understand and interpret

Estamos constantemente a tentar compreender e interpretar

the world around us.

o mundo à nossa volta.

Vivo numa casa com dois gatos pretos e deixem-me que vos diga

I live in a house with two black cats, and let me tell you,

every time I see a black, bunched up sweater out of the corner of my eye,

sempre que vejo pelo canto do olho uma camisola preta e amarrotada,

I think it's a cat.

penso que é um gato.

Não são só as coisas que vemos.

It's not just the things we see.

Sometimes we attribute more intelligence than might actually be there.

Por vezes, atribuímos mais inteligência do que a que existe realmente.

Maybe you've seen the dogs on TikTok.

Talvez tenham visto os cães no TikTok.

They have these little buttons that say things like "walk" or "treat."

Eles têm aqueles botões que dizem coisas como ”passear” ou “biscoito”.

They can push them to communicate some things with their owners,

Podem levá-los a comunicar algumas coisas com os donos

and their owners think they use them

e os donos pensam que eles os utilizam

to communicate some pretty impressive things.

para comunicar algumas coisas impressionantes.

But do the dogs know what they're saying?

Mas os cães saberão o que é que os botões dizem?

Or perhaps you've heard the story of Clever Hans the horse,

Ou talvez já tenham ouvido a história do cavalo Hans Esperto,

and he could do math.

que sabia fazer contas.

And not just like, simple math problems, really complicated ones,

Não eram só problemas simples de matemática, eram mesmo complicados,

like, if the eighth day of the month falls on a Tuesday,

por exemplo: “Se o oitavo dia do mês cai numa terça-feira,

what's the date of the following Friday?

“em que data é a sexta-feira da semana seguinte?”

It's like, pretty impressive for a horse.

É muito impressionante para um cavalo.

Unfortunately, Hans wasn't doing math,

Infelizmente, Hans não sabia de matemática,

but what he was doing was equally impressive.

mas o que fazia era igualmente impressionante.

Hans had learned to watch the people in the room

Hans tinha aprendido a observar as pessoas na sala

to tell when he should tap his hoof.

para saber quando devia bater com o casco no chão.

So he communicated his answers by tapping his hoof.

Era como comunicava as respostas, batendo com o casco no chão.

It turns out that if you know the answer

Acontece que quem sabia a resposta

to "if the eighth day of the month falls on a Tuesday,

à pergunta “se o oitavo dia do mês é terça-feira,

what's the date of the following Friday,"

“qual é a data da sexta-feira da semana seguinte?”,

you will subconsciously change your posture

sem querer, mudava de posição

once the horse has given the correct 18 taps.

quando Hans batia com o casco 18 vezes.

So Hans couldn't do math,

Afinal, Hans não sabia fazer contas,

but he had learned to watch the people in the room who could do math,

mas aprendera a observar as pessoas que sabiam fazer contas,

o que, repito, continua a ser impressionante para um cavalo.

which, I mean, still pretty impressive for a horse.

But this is an old picture,

Mas isto é uma foto antiga

and we would not fall for Clever Hans today.

e hoje o Hans Esperto não nos enganaria.

Or would we?

Ou enganaria?

(Risos)

Well, I work in AI,

Eu trabalho em IA

and let me tell you, things are wild.

e, digo-vos, as coisas estão feias.

There have been multiple examples of people being completely convinced

Tem havido imensos exemplos de pessoas totalmente convencidas

that AI understands them.

de que a IA as compreende.

In 2022,

Em 2022,

um engenheiro da Google pensou que a IA da Google era sensível.

a Google engineer thought that Google’s AI was sentient.

And you may have had a really human-like conversation

E vocês já podem ter tido uma conversa parecida com um ser humano

with something like ChatGPT.

com uma coisa como o ChatGPT.

But models we're training today are so much better

Mas os modelos que treinamos hoje são muito melhores

than the models we had even five years ago.

do que os modelos que tínhamos há cinco anos.

It really is remarkable.

É impressionante.

So at this super crazy moment in time,

Neste momento super louco,

let’s ask the super crazy question:

vamos fazer uma pergunta super louca:

Does AI understand us,

Será que a IA nos compreende

or are we having our own Clever Hans moment?

ou estamos a ter um momento de Hans Esperto?

Some philosophers think that computers will never understand language.

Alguns filósofos acham que os computadores nunca compreenderão a linguagem.

To illustrate this, they developed something they call

Para ilustrar isso, desenvolveram uma coisa a que chamam

the Chinese room argument.

o argumento do quarto chinês.

In the Chinese room, there is a person, hypothetical person,

No quarto chinês há uma pessoa, uma pessoa hipotética,

who does not understand Chinese,

que não percebe chinês,

but he has along with him a set of instructions

mas tem consigo um conjunto de instruções

that tell him how to respond in Chinese to any Chinese sentence.

que lhe dizem como responder em chinês a qualquer pergunta em chinês.

Here's how the Chinese room works.

Eis como funciona o quarto chinês.

A piece of paper comes in through a slot in the door,

Enfiam um papel por uma ranhura na porta,

has something written in Chinese on it.

que tem escrito qualquer coisa em chinês.

The person uses their instructions to figure out how to respond.

A pessoa usa as instruções que tem para saber como há de responder.

They write the response down on a piece of paper

Escreve a resposta na folha de papel

e depois devolve-a pela ranhura na porta.

and then send it back out through the door.

To somebody who speaks Chinese,

Para alguém que fala chinês e que está fora do quarto,

standing outside this room,

pode parecer que a pessoa dentro do quarto fala chinês.

it might seem like the person inside the room speaks Chinese.

But we know they do not,

Mas nós sabemos que isso não é verdade

because no knowledge of Chinese is required to follow the instructions.

porque ela não precisa de saber chinês para seguir as instruções.

Performance on this task does not show that you know Chinese.

O êxito desta tarefa não prova que ela sabe chinês.

So what does that tell us about AI?

Então o que é que isto nos diz sobre a IA?

Well, when you and I stand outside of the room,

Quando vocês ou eu estamos do lado de fora do quarto,

when we speak to one of these AIs like ChatGPT,

quando falamos com uma dessas IA como o caso do ChatGPT,

we are the person standing outside the room.

somos a pessoa que está fora do quarto.

We're feeding in English sentences,

Estamos a fornecer frases em inglês

we're getting English sentences back.

e recebemos respostas em inglês.

It really looks like the models understand us.

Parece mesmo que os modelos nos compreendem.

It really looks like they know English.

Parece mesmo que sabem inglês.

Mas, se investigarmos,

But under the hood,

these models are just following a set of instructions, albeit complex.

estes modelos estão apenas a seguir uma série de instruções, muito complexas.

How do we know if AI understands us?

Como é que sabemos se a IA nos compreende?

To answer that question, let's go back to the Chinese room again.

Para responder a esta pergunta, voltemos ao quarto chinês.

Let's say we have two Chinese rooms.

Digamos que temos dois quartos chineses.

In one Chinese room is somebody who actually speaks Chinese,

Num dos quartos está alguém que fala chinês,

and in the other room is our impostor.

e no outro quarto está o nosso impostor.

When the person who actually speaks Chinese gets a piece of paper

Quando a pessoa que fala chinês recebe um papel

que tem escrito qualquer coisa em chinês, consegue lê-lo, sem problemas.

that says something in Chinese in it, they can read it, no problem.

But when our imposter gets it again,

Mas, quando o impostor o recebe,

he has to use his set of instructions to figure out how to respond.

tem de usar o conjunto de instruções para saber como há de responder.

From the outside, it might be impossible to distinguish these two rooms,

Do lado de fora, pode ser impossível distinguir esses dois quartos,

but we know inside something really different is happening.

mas sabemos que lá dentro está a acontecer uma coisa diferente.

To illustrate that,

Para ilustrar isso,

let's say inside the minds of our two people,

digamos que os cérebros das duas pessoas

inside of our two rooms,

que estão nos dois quartos,

is a little scratch pad.

são um pequeno bloco de notas.

And everything they have to remember in order to do this task

Para cumprirem a sua tarefa, só têm de se lembrar

de tudo o que tem de ser escrito nesse bloco de notas.

has to be written on that little scratch pad.

If we could see what was written on that scratch pad,

Se pudéssemos ver o que foi escrito nesse bloco de notas,

we would be able to tell how different their approach to the task is.

veríamos como é diferente a sua abordagem à tarefa.

So though the input and the output of these two rooms

Embora o input e o output nesses dois quartos

might be exactly the same,

seja exatamente o mesmo,

the process of getting from input to output -- completely different.

o processo de passar do input para o output é totalmente diferente.

So again, what does that tell us about AI?

Portanto, o que é que isto nos diz sobre a IA?

Again, if AI, even if it generates completely plausible dialogue,

Se a IA, mesmo que gere um diálogo totalmente plausível,

answers questions just like we would expect,

responde a perguntas tal como seria de esperar,

it may still be an imposter of sorts.

não deixa de ser uma espécie de impostor.

Se queremos saber se a IA compreende a linguagem, tal como nós,

If we want to know if AI understands language like we do,

é preciso saber o que é que está a fazer.

we need to know what it's doing.

We need to get inside to see what it's doing.

É preciso entrar lá dentro para ver o que está a acontecer.

Is it an imposter or not?

É um impostor ou não?

We need to see its scratch pad,

Precisamos de ver o bloco de notas

and we need to be able to compare it

e precisamos de o comparar

to the scratch pad of somebody who actually understands language.

com o bloco de notas de alguém que saiba falar a língua.

But like scratch pads in brains,

Mas, tal como os blocos de notas do cérebro,

that's not something we can actually see, right?

isso é uma coisa que não podemos ver, não é?

Well, it turns out that we can kind of see scratch pads in brains.

Acontece que podemos ver o bloco de notas dos cérebros.

Using something like fMRI or EEG,

Usando uma coisa como o fMRI ou o EEG,

we can take what are like little snapshots of the brain while it’s reading.

podemos tirar pequenos instantâneos do cérebro enquanto ele está a ler.

So have people read words or stories and then take pictures of their brain.

Assim, pomos as pessoas a ler palavras ou histórias

e tiramos fotos do cérebro delas.

And those brain images are like fuzzy,

Essas imagens do cérebro são imagens difusas,

out-of-focus pictures of the scratch pad of the brain.

desfocadas do bloco de notas do cérebro.

They tell us a little bit about how the brain is processing

Dizem-nos algumas coisas sobre como o cérebro está a processar

and representing information while you read.

e a representar informações enquanto leem.

Estas são três imagens de um cérebro

So here are three brain images taken while a person read the word "apartment,"

tiradas enquanto uma pessoa lê

as palavras “apartamento”, “casa” e ”aipo”.

"house" and "celery."

You can see just with your naked eye

Vemos a olho nu

que as imagens do cérebro para “apartamento” e “casa”

that the brain image for "apartment" and "house"

are more similar to each other

têm mais semelhança uma com a outra

than they are to the brain image for "celery."

do que com a imagem do cérebro para “aipo”.

And you know, of course that apartments and houses are more similar

Sabemos que apartamentos e casas têm mais parecenças

than they are to celery, just the words.

do que têm com aipo, mas são só palavras.

So said another way,

Dito de outra maneira,

the brain uses its scratchpad when reading the words "apartment" and "house"

o cérebro usa o seu bloco de notas

quando lê as palavras “apartamento” e “casa”

in a way that's more similar than when you read the word "celery."

de forma mais semelhante do que quando lê a palavra “aipo”.

The scratch pad tells us a little bit

O bloco de notas diz-nos mais coisas

about how the brain represents the language.

sobre como o cérebro representa a linguagem.

It's not a perfect picture of what the brain's doing,

Não é uma imagem perfeita do que o cérebro está a fazer,

but it's good enough.

mas é suficientemente boa.

OK, so we have scratch pads for the brain.

Portanto, temos blocos de notas para o cérebro.

Now we need a scratch pad for AI.

Agora precisamos de um bloco de notas para a IA.

So inside a lot of AIs is a neural network.

No interior de muitas IAs há uma rede neural.

And inside of a neural network is a bunch of these little neurons.

No interior duma rede neural há um grupo destes pequenos neurónios.

So here the neurons are like these little gray circles.

Aqui os neurónios são estes pequenos círculos cinzentos.

And we would like to know

Gostaríamos de saber

o que é um bloco de notas duma rede neural?

what is the scratch pad of a neural network?

Well, when we feed in a word into a neural network,

Quando introduzimos uma palavra numa rede neural,

each of the little neurons computes a number.

cada um dos pequenos neurónios calcula um número.

Those little numbers I'm representing here with colors.

Esses pequenos números estão representados aqui com cores.

So every neuron computes this little number,

Cada neurónio calcula este pequeno número,

and those numbers tell us something

e esses números dizem-nos qualquer coisa

about how the neural network is processing language.

sobre como a rede neural está a processar a linguagem.

Taken together,

Em conjunto,

all of those little circles paint us a picture

todos estes pequenos círculos dão-nos uma imagem

of how the neural network is representing language,

de como a rede neural está a representar a linguagem

and they give us the scratch pad of the neural network.

e dão-nos o bloco de notas da rede neural.

OK, great.

Ótimo.

Now we have two scratch pads, one from the brain and one from AI.

Agora temos dois blocos de notas, um do cérebro e outro da IA.

And we want to know: Is AI doing something like what the brain is doing?

Queremos saber se a IA faz o mesmo que o cérebro está a fazer.

How can we test that?

Como podemos testar isso?

Here's what researchers have come up with.

Isto é o que os investigadores descobriram.

We're going to train a new model.

Vamos treinar um novo modelo.

That new model is going to look at neural network scratch pad

Esse modelo novo vai olhar para o bloco de notas da rede neural

for a particular word

para uma determinada palavra

and try to predict the brain scratch pad for the same word.

e tentar prever o bloco de notas do cérebro para a mesma palavra.

We can do it, by the way, around two.

Podemos fazer isto para as duas coisas.

So let's train a new model.

Portanto, vamos treinar um novo modelo.

It’s going to look at the neural network scratch pad for a particular word

Ele vai olhar para o bloco de notas da rede neural, para uma certa palavra

and try to predict the brain scratchpad.

e tentar prever o bloco de notas do cérebro.

If the brain and AI are doing nothing alike,

Se o cérebro e a IA não estão a fazer a mesma coisa,

have nothing in common,

se não têm nada em comum,

we won't be able to do this prediction task.

não podemos fazer esta tarefa de previsão.

It won't be possible to predict one from the other.

Não será possível prever uma a partir da outra.

So we've reached a fork in the road

Assim, chegámos a uma bifurcação

and you can probably tell I'm about to tell you one of two things.

e, provavelmente, vocês podem dizer que eu vou dizer uma de duas coisas.

I’m going to tell you AI is amazing,

Vou dizer que a IA é fantástica,

or I'm going to tell you AI is an imposter.

ou vou dizer que a IA é uma impostora.

Os investigadores como eu adoram lembrar-vos

Researchers like me love to remind you

that AI is nothing like the brain.

que a IA é muito diferente do cérebro.

And that is true.

E isso é verdade.

But could it also be the AI and the brain share something in common?

Mas pode acontecer que haja alguma coisa em comum entre a IA e o cérebro?

So we’ve done this scratch pad prediction task,

Fizemos esta tarefa de previsão do bloco de notas

and it turns out, 75 percent of the time

e acontece que 75% das vezes

a previsão do bloco de notas da rede neural para uma certa palavra

the predicted neural network scratchpad for a particular word

is more similar to the true neural network scratchpad for that word

é mais semelhante ao verdadeiro bloco de notas da rede neural

para a mesma palavra

than it is to the neural network scratch pad

do que é para o bloco de notas da rede neural

for some other randomly chosen word --

para qualquer outra palavra escolhida ao acaso.

75 percent is much better than chance.

75% é muito melhor do que o acaso.

E para coisas mais complicadas, para frases, e histórias até?

What about for more complicated things,

not just words, but sentences, even stories?

De novo, esta tarefa de previsão do bloco de notas funciona.

Again, this scratch pad prediction task works.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Conseguimos prever o bloco de notas da rede neural

a partir do cérebro e vice-versa.

Amazing.

Espantoso!

So does that mean

Então, isso significa

that neural networks and AI understand language just like we do?

que as redes neurais e a IA compreendem a linguagem, tal como nós compreendemos?

Well, truthfully, no.

Na verdade, não.

Though these scratch pad prediction tasks show above-chance accuracy,

Embora estas tarefas de previsão dos blocos de notas

mostre um rigor para além do acaso,

the underlying correlations are still pretty weak.

as correlações subjacentes ainda são muito fracas.

E embora as redes neurais sejam inspiradas pelo cérebro,

And though neural networks are inspired by the brain,

they don't have the same kind of structure and complexity

não têm o mesmo tipo de estrutura e de complexidade

that we see in the brain.

que vemos no cérebro.

As redes neurais também não existem no mundo.

Neural networks also don't exist in the world.

A neural network has never opened a door

Uma rede neural nunca abriu uma porta

or seen a sunset, heard a baby cry.

nem viu um pôr-do-sol, nunca ouviu um bebé chorar.

Can a neural network that doesn't actually exist in the world,

Poderá uma rede neural que não existe no mundo,

que nunca experimentou realmente o mundo,

hasn't really experienced the world,

really understand language about the world?

compreender a linguagem sobre o mundo?

Contudo, estas experiências de previsão do bloco de notas têm resistido

Still, these scratch pad prediction experiments have held up --

multiple brain imaging experiments,

— experiências de imagiologia cerebral,

multiple neural networks.

múltiplas redes neuronais.

We've also found that as the neural networks get more accurate,

Também descobrimos que, à medida que as redes neurais ficam mais precisas,

they also start to use their scratch pad in a way

também começam a usar o seu bloco de notas

that becomes more brain-like.

de uma forma mais parecida com o cérebro.

And it's not just language.

E não é apenas a linguagem.

We've seen similar results in navigation and vision.

Temos visto resultados semelhantes na navegação e na visão.

So AI is not doing exactly what the brain is doing,

A IA não está a fazer exatamente o que o cérebro faz,

but it's not completely random either.

mas também não é totalmente ao acaso.

So from where I sit,

Do meu ponto de vista,

if we want to know if AI really understands language like we do,

se queremos saber se a IA compreende a linguagem, tal como nós,

we need to get inside of the Chinese room.

temos de entrar no quarto chinês.

We need to know what the AI is doing,

Precisamos de saber o que a IA está a fazer

and we need to be able to compare that to what people are doing

e precisamos de poder comparar isso com o que as pessoas fazerm

when they understand language.

quando compreendem a linguagem.

AI is moving so fast.

A IA está a avançar muito depressa.

Today, I'm asking you, does AI understand language

Hoje, pergunto-vos se a IA compreende a linguagem.

that might seem like a silly question in ten years.

Isto pode parecer uma pergunta idiota daqui a 10 anos.

Or ten months.

Ou daqui a 10 meses.

(Laughter)

(Risos)

But one thing will remain true.

Mas uma coisa continua a ser verdade.

We are meaning-making humans,

Somos seres humanos criadores de significados

and we are going to continue to look for meaning

e vamos continuar a olhar para o significado

and interpret the world around us.

e interpretar o mundo à nossa volta.

And we will need to remember

Precisamos de nos lembrar

that if we only look at the input and output of AI,

de que, se só olharmos para o input e o output da IA,

it's very easy to be fooled.

é fácil sermos enganados.

We need to get inside of the metaphorical room of AI

Precisamos de entrar no quarto metafórico da IA

in order to see what's happening.

para ver o que está a acontecer.

It's what's inside the counts.

É o que está lá dentro que conta.

Thank you.

Obrigada.

(Applause)

(Aplausos)