How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Fordító: Zsófia Herczeg Lektor: Zsuzsanna Lőrincz

People are funny.

Az emberek viccesek.

We're constantly trying to understand and interpret

Folyamatos próbáljuk megérteni és értelmezni a világot.

the world around us.

I live in a house with two black cats, and let me tell you,

Két fekete macskám van, és hadd mondjam el,

every time I see a black, bunched up sweater out of the corner of my eye,

hogy mikor a szemem sarkából meglátok valahol egy ledobott fekete pulcsit,

I think it's a cat.

azt hiszem, az egyik macska az.

It's not just the things we see.

És nem csak azzal vagyunk így, amit látunk.

Sometimes we attribute more intelligence than might actually be there.

Néha több értelmet feltételezünk egy helyzetben, mint amennyi van.

Maybe you've seen the dogs on TikTok.

Talán önök is láttak már olyan kutyás TikTok-videót,

They have these little buttons that say things like "walk" or "treat."

mikor a kutya megnyomja a “séta” vagy a “nasi” gombot,

They can push them to communicate some things with their owners,

és így kommunikál a gazdájával.

and their owners think they use them

A gazdik pedig azt hiszik,

to communicate some pretty impressive things.

hogy a kutyák elképesztő dolgokat tudnak így közölni.

But do the dogs know what they're saying?

De vajon tudják a kutyák, hogy mit mondanak?

Or perhaps you've heard the story of Clever Hans the horse,

Vagy talán hallották már Okos Hans, a ló történetét,

and he could do math.

aki tudott számolni.

And not just like, simple math problems, really complicated ones,

Nemcsak egyszerű feladványokat tudott megoldani, hanem egész bonyolultakat is.

like, if the eighth day of the month falls on a Tuesday,

Például: Ha adott hónap nyolcadika kedd,

what's the date of the following Friday?

hanyadika lesz a következő héten pénteken?

It's like, pretty impressive for a horse.

Ez azért elég lenyűgöző teljesítmény egy lótól!

Unfortunately, Hans wasn't doing math,

És bár sajnos Hans nem tudott számolni,

but what he was doing was equally impressive.

tudott valamit, ami nem kevésbé csodálatos.

Hans had learned to watch the people in the room

Hans megtanulta figyelni a helységben tartózkodó embereket,

to tell when he should tap his hoof.

és ebből tudta, mikor dobbantson.

So he communicated his answers by tapping his hoof.

A válaszait ugyanis dobbantásokkal közölte.

It turns out that if you know the answer

Kiderült, hogy ha az ember tudja a választ arra a kérdésre,

to "if the eighth day of the month falls on a Tuesday,

hogy ha adott hónap nyolcadika kedd,

what's the date of the following Friday,"

hanyadika lesz a következő héten pénteken,

you will subconsciously change your posture

akaratlanul is változtat a testhelyzetén,

once the horse has given the correct 18 taps.

ha a ló megtette a szükséges 18 dobbantást.

So Hans couldn't do math,

Hans tehát nem tudott számolni,

but he had learned to watch the people in the room who could do math,

de megtanulta értelmezni a teremben azok jelzéseit, akik tudtak.

which, I mean, still pretty impressive for a horse.

Ami szerintem fantasztikus egy ló esetében.

But this is an old picture,

De ez egy régi történet,

and we would not fall for Clever Hans today.

és ma már nem dőlnénk be Hansnak.

Or would we?

Vagy igen? (Nevetés)

Well, I work in AI,

Nos, a szakterületem a mesterséges intelligencia,

and let me tell you, things are wild.

és elképesztő dolgok történnek itt.

There have been multiple examples of people being completely convinced

Sokan teljesen meg vannak győződve arról,

that AI understands them.

hogy az MI érti őket.

In 2022,

2022-ben a Google egyik fejlesztő mérnöke úgy gondolta,

a Google engineer thought that Google’s AI was sentient.

hogy a Google mesterséges intelligenciájának érzelmei vannak.

And you may have had a really human-like conversation

És valóban:

a ChatGPT-vel például egészen emberi beszélgetéseket lehet folytatni.

with something like ChatGPT.

But models we're training today are so much better

Azok a modellek, amelyeket ma tanítunk be,

sokkal jobbak, mint az akár öt évvel korábbiak.

than the models we had even five years ago.

It really is remarkable.

A fejlődés figyelemreméltó.

So at this super crazy moment in time,

De ebben a szuper izgalmas korban,

let’s ask the super crazy question:

tegyük fel azt a szuper izgalmas kérdést,

Does AI understand us,

hogy valóban ért minket az MI, vagy ez is egy Okos Hans típusú történet.

or are we having our own Clever Hans moment?

Some philosophers think that computers will never understand language.

Néhány filozófus szerint

a számítógép soha nem lesz képes megérteni az emberi nyelvet.

To illustrate this, they developed something they call

Ennek bizonyítására kidolgozták az ún. kínai szoba elméletet.

the Chinese room argument.

In the Chinese room, there is a person, hypothetical person,

Ebben a kínai szobában van valaki, egy kitalált személy,

who does not understand Chinese,

aki nem beszél kínaiul,

but he has along with him a set of instructions

de kapott egy sor utasítást,

that tell him how to respond in Chinese to any Chinese sentence.

hogy hogyan válaszoljon kínaiul egy kínaiul elhangzó közlésre.

Here's how the Chinese room works.

Lássuk, hogy működik a kínai szoba.

A piece of paper comes in through a slot in the door,

Az ajtóra vágott nyíláson egy cédula esik a padlóra,

has something written in Chinese on it.

amelyen kínai írás áll.

The person uses their instructions to figure out how to respond.

A szobában lévő személy

az utasítások alapján megpróbál válaszolni.

They write the response down on a piece of paper

A válaszát leírja egy darab papírra, és az ajtónyíláson át visszadobja.

and then send it back out through the door.

To somebody who speaks Chinese,

Annak a kínainak, aki az ajtó előtt áll, úgy tűnik,

standing outside this room,

it might seem like the person inside the room speaks Chinese.

hogy az, aki a szobában van, tud kínaiul.

But we know they do not,

Mi azonban tudjuk, hogy nem.

because no knowledge of Chinese is required to follow the instructions.

Az utasítások értelmezéséhez ugyanis nincs szükség kínai nyelvtudásra.

Performance on this task does not show that you know Chinese.

Az tehát, hogy teljesítette a feladatot, nem azt jelenti, hogy tud kínaiul.

So what does that tell us about AI?

És hogy mit árul ez el az MI-ről?

Well, when you and I stand outside of the room,

Ha mi állunk a szoba ajtaja előtt,

when we speak to one of these AIs like ChatGPT,

amikor egy MI-vel, pl. a ChatGPT-vel társalgunk,

we are the person standing outside the room.

mi vagyunk az igazi nyelvhasználók.

We're feeding in English sentences,

Beküldjük az angol mondatokat, és angol mondatokat kapunk válaszként.

we're getting English sentences back.

It really looks like the models understand us.

Minden arra mutat, hogy a program ért miket.

It really looks like they know English.

Tényleg úgy tűnik, hogy az MI beszél angolul.

But under the hood,

De valójában ezek a modellek csak egy sor utasítást követnek,

these models are just following a set of instructions, albeit complex.

jóllehet rendkívül komplex utasításokat.

How do we know if AI understands us?

De honnan tudjuk, hogy ért-e minket az MI?

To answer that question, let's go back to the Chinese room again.

Hogy erre választ kapjunk, menjünk vissza a kínai szobába.

Let's say we have two Chinese rooms.

Tegyük fel, hogy most két kínai szobánk van.

In one Chinese room is somebody who actually speaks Chinese,

Az egyikben van valaki, aki tényleg beszél kínaiul,

and in the other room is our impostor.

a másik szobában viszont az álkínai ül.

When the person who actually speaks Chinese gets a piece of paper

Ha az, aki tényleg tud kínaiul kap egy cédulát, amin kínai írás szerepel,

that says something in Chinese in it, they can read it, no problem.

gond nélkül elolvassa.

But when our imposter gets it again,

Ha viszont az álkínai kapja az üzenetet,

he has to use his set of instructions to figure out how to respond.

neki szüksége van az utasításokra ahhoz, hogy válaszolni tudjon.

From the outside, it might be impossible to distinguish these two rooms,

Kívülről lehetetlen megkülönböztetni a két szobát,

but we know inside something really different is happening.

de azt tudjuk, hogy a két szobában különböző folyamatok zajlanak.

To illustrate that,

Képzeljük el,

let's say inside the minds of our two people,

hogy a két szobában tartózkodó két embernek

inside of our two rooms,

is a little scratch pad.

van egy kis jegyzetfüzete.

And everything they have to remember in order to do this task

Minden lépést, ami a feladat végrehajtásához szükséges,

fel kell jegyezniük ebbe a füzetbe.

has to be written on that little scratch pad.

If we could see what was written on that scratch pad,

Ha megnézhetnénk, mi áll ezekben a füzetekben,

we would be able to tell how different their approach to the task is.

tudnánk, mennyire másként közelítik meg a feladatot.

So though the input and the output of these two rooms

Így lehet, hogy a bemenet és a kimenet mindkét szobában ugyanaz,

might be exactly the same,

de a kimenethez vezető folyamat teljesen más.

the process of getting from input to output -- completely different.

So again, what does that tell us about AI?

Mit árul ez el nekünk a mesterséges intelligenciáról?

Again, if AI, even if it generates completely plausible dialogue,

Bár az MI tökéletesen elfogadható párbeszédeket generál,

answers questions just like we would expect,

és az elvárásoknak megfelelően válaszol,

it may still be an imposter of sorts.

ezek a válaszok bizonyos szinten nem valódiak.

Ha meg akarjuk tudni, hogy az MI érti-e a nyelvet úgy, ahogy mi,

If we want to know if AI understands language like we do,

we need to know what it's doing.

meg kell tudnunk, hogyan működik.

We need to get inside to see what it's doing.

Bele kell néznünk, hogy lássuk, hogy zajlik ez a folyamat:

Is it an imposter or not?

illúzió mindez vagy nem?

We need to see its scratch pad,

Meg kell vizsgálnunk a jegyzettömbjét,

and we need to be able to compare it

és össze kell hasonlítanunk egy tényleges nyelvhasználó jegyzeteivel.

to the scratch pad of somebody who actually understands language.

But like scratch pads in brains,

De ahogy az emberi agyba sem láthatunk bele,

that's not something we can actually see, right?

ezt sem láthatjuk, igaz?

Well, it turns out that we can kind of see scratch pads in brains.

A helyzet az, hogy van rá mód, hogy belenézzünk az agy jegyzeteibe.

Using something like fMRI or EEG,

MRI- vagy EEG-készülék segítségével

we can take what are like little snapshots of the brain while it’s reading.

pillanatfelvételt készíthetünk az agyról olvasás közben.

Felkérünk embereket, hogy olvassanak el valamit,

So have people read words or stories and then take pictures of their brain.

mi pedig elkészítjük a felvételeket.

And those brain images are like fuzzy,

Ezek a képek, bár kissé homályosak és életlenek,

out-of-focus pictures of the scratch pad of the brain.

megmutatják, mi zajlik az agyban.

They tell us a little bit about how the brain is processing

Megtudhatjuk belőlük,

hogyan dolgozza fel és jeleníti meg az agy az információt olvasás közben.

and representing information while you read.

So here are three brain images taken while a person read the word "apartment,"

Itt azokat a képeket látjuk, amelyek akkor készültek,

mikor alanyaink a “lakás”, “ház” és “zeller” szavakat olvasták.

"house" and "celery."

You can see just with your naked eye

Jól látható, hogy a “lakás” és “ház” szavak

that the brain image for "apartment" and "house"

are more similar to each other

közelebb helyezkednek el egymáshoz, a “zellertől” viszont távolabb.

than they are to the brain image for "celery."

And you know, of course that apartments and houses are more similar

És természetesen mind tudjuk,

hogy a “lakás” és a “ház” jobban hasonlítanak egymáshoz,

than they are to celery, just the words.

mint a “zellerhez”.

So said another way,

Másként fogalmazva,

the brain uses its scratchpad when reading the words "apartment" and "house"

az agyunk egymáshoz közelebb jegyzi fel a “lakás” és “ház” szavakat,

in a way that's more similar than when you read the word "celery."

a “zeller” szót viszont máshová írja.

The scratch pad tells us a little bit

A jegyzetekből megtudhatunk valamit arról, hogyan jeleníti meg az agy a nyelvet.

about how the brain represents the language.

It's not a perfect picture of what the brain's doing,

Nem látjuk pontosan, mit csinál az agy, de egyelőre ez is megfelel.

but it's good enough.

OK, so we have scratch pads for the brain.

Itt vannak tehát az agy jegyzetei.

Now we need a scratch pad for AI.

Ilyesmire van szükségünk az MI megértéséhez is.

So inside a lot of AIs is a neural network.

A mesterséges intelligencia is egyfajta neurális hálózat,

And inside of a neural network is a bunch of these little neurons.

és ezen a hálózaton belül számos kis neuron található.

So here the neurons are like these little gray circles.

A neuronok olyanok, mint ezek a kis szürke körök.

And we would like to know

Mi pedig szeretnénk látni, hogy néznek ki a neurális hálózat jegyzetei.

what is the scratch pad of a neural network?

Well, when we feed in a word into a neural network,

Ha ebbe a hálózatba betáplálunk egy szót,

each of the little neurons computes a number.

minden neuronhoz társítunk egy számot.

Those little numbers I'm representing here with colors.

A számokat itt színekkel jeleztem.

So every neuron computes this little number,

Minden neuronnak van tehát egy száma,

and those numbers tell us something

és ezekből megtudhatunk valamit arról,

about how the neural network is processing language.

hogy a hálózat hogyan dolgozza fel a nyelvet.

Taken together,

Összességében tehát a kis körök képet adnak arról,

all of those little circles paint us a picture

of how the neural network is representing language,

hogyan jeleníti meg a hálózat a nyelvet.

and they give us the scratch pad of the neural network.

Ez lesz a mesterséges ideghálózat jegyzetfüzete.

OK, great.

Nagyszerű! Megvan a két jegyzetfüzet: az agyé és az MI-é.

Now we have two scratch pads, one from the brain and one from AI.

And we want to know: Is AI doing something like what the brain is doing?

Azt szeretnénk kideríteni, hogy az MI működése hasonlít-e az agyéhoz?

How can we test that?

Hogyan tudhatjuk ezt meg?

Here's what researchers have come up with.

A kutatók a következőt javasolták: Tanítsunk be egy új modellt.

We're going to train a new model.

That new model is going to look at neural network scratch pad

Ez az modell kikeres az MI jegyzeteiből egy bizonyos szót,

for a particular word

and try to predict the brain scratch pad for the same word.

majd megpróbálja kitalálni, hol van ez a szó az agy jegyzeteiben,

We can do it, by the way, around two.

vagy fordítva.

So let's train a new model.

Tanítsuk hát be ezt az új modellt,

It’s going to look at the neural network scratch pad for a particular word

amely megkeres az MI jegyzeteiben egy szót,

és próbálja kitalálni, hol van ez a szó az agyban.

and try to predict the brain scratchpad.

Ha az agyban és a mesterséges intelligenciában nincs semmi közös,

If the brain and AI are doing nothing alike,

have nothing in common,

ha a működésük nem hasonló, a feladatot nem fogjuk tudni elvégezni.

we won't be able to do this prediction task.

It won't be possible to predict one from the other.

Nem fogunk tudni következtetni az egyik működéséből a másikéra.

So we've reached a fork in the road

Itt válaszúthoz értünk,

and you can probably tell I'm about to tell you one of two things.

és talán már kitalálták, hogy most jön a válasz az eredeti kérdésünkre:

I’m going to tell you AI is amazing,

Csoda az MI vagy inkább csalódás?

or I'm going to tell you AI is an imposter.

Mi, kutatók szeretünk mindenkit emlékeztetni arra,

Researchers like me love to remind you

that AI is nothing like the brain.

hogy az MI nem úgy működik, mint az agy.

And that is true.

És ez így is van.

But could it also be the AI and the brain share something in common?

De lehetséges-e, hogy az agyban és az MI-ben mégis van valami közös?

So we’ve done this scratch pad prediction task,

Miután megpróbáltunk a jegyzetekből következtetéseket levonni,

and it turns out, 75 percent of the time

kiderült, hogy az esetek 75%-ában

the predicted neural network scratchpad for a particular word

egy szó feltételezett helye a mesterséges neurális jegyzetekben

is more similar to the true neural network scratchpad for that word

közelebb van ahhoz, ahol a szó az agy jegyzeteiben szerepel,

than it is to the neural network scratch pad

mint egy másik, tetszőleges szóhoz a mesterséges hálózatban.

for some other randomly chosen word --

75 percent is much better than chance.

A 75% pedig több, mint puszta véletlen.

What about for more complicated things,

Mi a helyzet az összetettebb dolgokkal: mondatokkal, történetekkel?

not just words, but sentences, even stories?

Again, this scratch pad prediction task works.

Itt is működik a módszer.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Az agy működéséből következtethetünk az MI-ére és fordítva.

Amazing.

Elképesztő!

So does that mean

Kimondhatjuk tehát,

that neural networks and AI understand language just like we do?

hogy a neurális hálózatok és az MI épp úgy értik a nyelvet, mint mi?

Well, truthfully, no.

Nos, az igazat megvallva, nem.

Though these scratch pad prediction tasks show above-chance accuracy,

Bár az elvégzett összevetések pontossága többre utal véletlenszerűségnél,

the underlying correlations are still pretty weak.

a háttérben húzódó összefüggések nem egyértelműek.

And though neural networks are inspired by the brain,

És bár a mesterséges hálózatok mintájául az agy szolgál,

they don't have the same kind of structure and complexity

ezek mégsem olyan összetettek és strukturáltak, mint az emberi agy.

that we see in the brain.

Másrészről a neurális hálózatok önmagukban nem léteznek,

Neural networks also don't exist in the world.

A neural network has never opened a door

Egyetlen neurális hálózat sem nyitott még ki ajtót,

or seen a sunset, heard a baby cry.

látta a naplementét, vagy hallott egy kisbabát sírni.

Lehetséges-e, hogy egy önmagában nem létező mesterséges hálózat,

Can a neural network that doesn't actually exist in the world,

melynek nincs saját tapasztalata a világáról,

hasn't really experienced the world,

really understand language about the world?

érti az emberi nyelvet?

Still, these scratch pad prediction experiments have held up --

A jegyzetfüzetek összevetése -

számos hálózatban, számos agyi képalkotó kísérletben -

multiple brain imaging experiments,

multiple neural networks.

bizonyos mértékben erre utal.

We've also found that as the neural networks get more accurate,

Azt is megtudtuk, hogy ahogy a mesterséges hálózatok egyre pontosabbak lesznek,

they also start to use their scratch pad in a way

a jegyzetfüzetüket is elkezdik úgy használni,

that becomes more brain-like.

mint az agy.

És nem csak a nyelv esetében.

And it's not just language.

We've seen similar results in navigation and vision.

Hasonló eredményeket láttunk a navigáció és a látás területén is.

So AI is not doing exactly what the brain is doing,

Az MI tehát nem pontosan úgy működik, mint az agy,

but it's not completely random either.

de működése esetlegesnek sem mondható.

So from where I sit,

Úgy gondolom,

if we want to know if AI really understands language like we do,

hogy ha szeretnénk megtudni, hogy az MI érti-e a nyelvet úgy, mint mi,

we need to get inside of the Chinese room.

be kell mennünk a kínai szobába.

We need to know what the AI is doing,

Meg kell tudnunk, mit csinál pontosan az MI,

and we need to be able to compare that to what people are doing

és ezt össze kell hasonlítanunk azzal,

amit mi, emberek csinálunk, mikor használjuk a nyelvet.

when they understand language.

AI is moving so fast.

Az MI rendkívül gyorsan fejlődik.

Today, I'm asking you, does AI understand language

Ma azt kérdezem, érti-e az MI a nyelvet.

that might seem like a silly question in ten years.

Elképzelhető, hogy ez a kérdés 10 év múlva butaságnak hangzana -

Or ten months.

vagy 10 hónap múlva.

(Laughter)

(Nevetés)

But one thing will remain true.

Egy azonban biztos:

We are meaning-making humans,

értelemkereső lények vagyunk,

and we are going to continue to look for meaning

mindig keresni fogjuk a dolgok értelmét,

and interpret the world around us.

és próbáljuk értelmezni a körülöttünk lévő világot.

And we will need to remember

Nem szabad elfelejtenünk,

that if we only look at the input and output of AI,

hogy ha csak azt nézzük, mire tanítottuk az MI-t, és mit kapunk tőle,

it's very easy to be fooled.

könnyen vonhatunk le téves következtetést.

We need to get inside of the metaphorical room of AI

Be kell jutnunk az MI kínai szobájába,

in order to see what's happening.

hogy megtudjuk, mi zajlik ott pontosan,

It's what's inside the counts.

mert a lényeg az, ami belül van.

Thank you.

Köszönöm.

(Applause)

(Taps)