How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Çeviri: Nefise Zehra Bayar Gözden geçirme: esra kurul

People are funny.

İnsanlar çok komik.

We're constantly trying to understand and interpret

Sürekli etrafımızdaki dünyayı anlayıp yorumlamaya çalışıyoruz.

the world around us.

I live in a house with two black cats, and let me tell you,

Evimde 2 siyah kedi besliyorum ve şunu söyleyeyim,

every time I see a black, bunched up sweater out of the corner of my eye,

ne zaman göz ucuyla siyah bir süveter görsem

I think it's a cat.

kedi sanıyorum.

It's not just the things we see.

Sadece gördüklerimiz de değil.

Sometimes we attribute more intelligence than might actually be there.

Bazen bir şeylere olduğundan çok daha fazla zeka yüklüyoruz.

Maybe you've seen the dogs on TikTok.

TikTok’taki köpekleri görmüşsünüzdür.

They have these little buttons that say things like "walk" or "treat."

“Yürü” ya da ” ödül ver” gibi şeyler yazan küçük düğmeleri var.

They can push them to communicate some things with their owners,

Köpekler de sahipleriyle iletişim kurmak için o tuşlara basıyorlar

and their owners think they use them

sahipleri de çok etkileyici şeyler dediklerini düşünüyor.

to communicate some pretty impressive things.

But do the dogs know what they're saying?

Ama köpekler ne dediklerini biliyor mu ki?

Or perhaps you've heard the story of Clever Hans the horse,

Ya da belki Akıllı Hans’ı duymuşsunuzdur,

and he could do math.

hesap yapabilen bir at.

And not just like, simple math problems, really complicated ones,

Sadece basit problemler değil, karmaşık problemler de çözebiliyordu.

like, if the eighth day of the month falls on a Tuesday,

Mesela ayın 8. günü salıysa, bir sonraki cuma ayın kaçına gelir gibi.

what's the date of the following Friday?

It's like, pretty impressive for a horse.

Bir ata göre oldukça etkileyici.

Unfortunately, Hans wasn't doing math,

Fakat ne yazık ki, Hans hesap yapmıyordu.

but what he was doing was equally impressive.

Yaptığı şey yine de etkileyiciydi tabii.

Hans had learned to watch the people in the room

Hans, odadaki insanları gözlemeyi öğrenmişti,

to tell when he should tap his hoof.

insanlar ona toynağını ne zaman vuracağını söylüyordu.

So he communicated his answers by tapping his hoof.

Toynağını vurarak cevap veriyordu.

It turns out that if you know the answer

Sonradan ortaya çıktı ki,

to "if the eighth day of the month falls on a Tuesday,

″ayın 8. günü salıysa, bir sonraki cuma ayın kaçına gelir,″

what's the date of the following Friday,"

sorusunun cevabını biliyorsanız,

at toynağını 18. kere vurduğunda,

you will subconsciously change your posture

bu doğru cevap olduğu için bilinçsizce duruşunuzu değiştiriyordunuz.

once the horse has given the correct 18 taps.

So Hans couldn't do math,

Yani Hans hesap yapamıyordu,

but he had learned to watch the people in the room who could do math,

odadaki hesap yapabilen insanları gözlemlemeyi öğrenmişti.

which, I mean, still pretty impressive for a horse.

yine de bir ata göre oldukça etkileyici.

But this is an old picture,

Ama bu eskide kaldı,

and we would not fall for Clever Hans today.

bugün olsa Akıllı Hans’a aldanmazdık.

Or would we?

Ya da aldanır mıydık?

Well, I work in AI,

Ben yapay zeka üzerinde çalışıyorum,

and let me tell you, things are wild.

ve işler çığırından çıktı.

There have been multiple examples of people being completely convinced

Yapay zekanın onları anladığına gerçekten inanan birçok insan var.

that AI understands them.

In 2022,

2022′de bir Google mühendisi,

Google’ın yapay zekasının bilinçli bir varlık olduğunu düşünüyordu.

a Google engineer thought that Google’s AI was sentient.

And you may have had a really human-like conversation

Belki de ChatGPT gibi bir şeyle gerçekten insanmış gibi

with something like ChatGPT.

bir konuşma yapmışsınızdır.

But models we're training today are so much better

Ve tabii bugün eğittiğimiz modeller,

than the models we had even five years ago.

beş yıl önceki modellerden çok daha iyi.

It really is remarkable.

Gerçekten olağanüstü bir şey.

So at this super crazy moment in time,

Öyleyse, bu süper çılgın zamanda,

let’s ask the super crazy question:

şu süper çılgın soruyu soralım:

Does AI understand us,

Yapay zeka bizi anlıyor mu,

or are we having our own Clever Hans moment?

yoksa biz kendi Zeki Hans dönemimizi mi yaşıyoruz?

Some philosophers think that computers will never understand language.

Bazı filozoflar bilgisayarların asla dilleri anlayamayacağını düşünüyor.

To illustrate this, they developed something they call

Bunu göstermek için Çince odası argümanı adını verdikleri

the Chinese room argument.

bir şey geliştirdiler.

In the Chinese room, there is a person, hypothetical person,

Çince odasında, Çince anlamayan varsayımsal bir kişi var,

who does not understand Chinese,

bu kişinin yanında herhangi bir

but he has along with him a set of instructions

Çince cümleye Çince olarak nasıl

that tell him how to respond in Chinese to any Chinese sentence.

yanıt vereceğini söyleyen bir dizi talimat var.

Here's how the Chinese room works.

Çin odası şu şekilde çalışıyor.

A piece of paper comes in through a slot in the door,

Kapıdaki delikten üzerinde Çince bir şeyler yazan

has something written in Chinese on it.

bir kağıt parçası atılır.

The person uses their instructions to figure out how to respond.

Kişi nasıl yanıt vereceğini bulmak için talimatları uygular.

They write the response down on a piece of paper

Yanıtı bir kağıda yazıp

and then send it back out through the door.

kapıdan geri gönderirler.

To somebody who speaks Chinese,

Bu odanın dışında duran

standing outside this room,

ve Çince konuşan biri için,

it might seem like the person inside the room speaks Chinese.

odanın içindeki kişi Çince konuşuyor gibi görünebilir.

But we know they do not,

Ama öyle olmadığını biliyoruz,

because no knowledge of Chinese is required to follow the instructions.

çünkü talimatları takip etmek için Çince bilmek gerekmiyor.

Performance on this task does not show that you know Chinese.

Bu görevdeki performansınız Çince bildiğinizi göstermez.

So what does that tell us about AI?

Peki bu bize yapay zeka hakkında ne gösteriyor?

Well, when you and I stand outside of the room,

ChatGPT gibi bu yapay zeka türlerinden

when we speak to one of these AIs like ChatGPT,

biriyle konuştuğumuzda, odanın dışında duran

we are the person standing outside the room.

kişi tam olarak biz oluyoruz.

We're feeding in English sentences,

Biz onları İngilizce cümlelerle besliyoruz,

we're getting English sentences back.

karşılığında da İngilizce cümleler alıyoruz.

It really looks like the models understand us.

Modeller bizi gerçekten anlıyor gibi görünüyor.

It really looks like they know English.

Gerçekten artık İngilizce biliyorlar gibi.

But under the hood,

Ancak biliyoruz ki

these models are just following a set of instructions, albeit complex.

bu modeller karmaşık görünse de aslında sadece bir dizi talimata uyuyorlar.

How do we know if AI understands us?

Peki yapay zekanın bizi anlayıp anlamadığını nasıl bilebiliriz?

To answer that question, let's go back to the Chinese room again.

Bu soruyu yanıtlamak için tekrar Çince odasına dönelim.

Let's say we have two Chinese rooms.

İki Çince odamız olduğunu varsayalım.

In one Chinese room is somebody who actually speaks Chinese,

Bir Çince odasında gerçekten Çince konuşan biri,

and in the other room is our impostor.

diğer odada ise bizim sahtekarımız var.

When the person who actually speaks Chinese gets a piece of paper

Gerçekten Çince bilen bir kişi, üzerinde Çince bir şeyler yazan

that says something in Chinese in it, they can read it, no problem.

bir kağıt parçası aldığında, bunu okuyabilir, problem yok.

But when our imposter gets it again,

Ancak sahtekarımız bunu anladığında,

he has to use his set of instructions to figure out how to respond.

nasıl tepki vereceğini bulmak için kendi talimatlar dizisini kullanmalı.

From the outside, it might be impossible to distinguish these two rooms,

Dışarıdan bakıldığında bu iki odayı ayırt etmek imkansız olabilir,

but we know inside something really different is happening.

ancak içeride gerçekten farklı bir şeyler döndüğünü biliyoruz.

To illustrate that,

Bunu açıklamak için,

let's say inside the minds of our two people,

diyelim ki iki insanımızın zihninindeki

inside of our two rooms,

iki odanın içinde

is a little scratch pad.

küçük bir karalama defteri var.

And everything they have to remember in order to do this task

Ve bu görevi yerine getirmek için hatırlamaları gereken tek şey,

has to be written on that little scratch pad.

o küçük karalama defterine yazılmak zorunda.

If we could see what was written on that scratch pad,

O karalama defterine ne yazıldığını görebilseydik,

we would be able to tell how different their approach to the task is.

göreve yaklaşımlarının ne kadar farklı olduğunu anlayabilirdik.

So though the input and the output of these two rooms

Yani bu iki odanın girdisi ve çıktısı

might be exactly the same,

tamamen aynı olsa da

the process of getting from input to output -- completely different.

girdiden çıktıya ulaşma süreci tamamen farklıdır.

So again, what does that tell us about AI?

Peki tekrar soruyorum, bu yapay zeka hakkında ne gösteriyor?

Again, if AI, even if it generates completely plausible dialogue,

Yapay zeka tamamen mantıklı diyaloglar üretse ve sorulara

answers questions just like we would expect,

beklediğimiz gibi cevap verse bile,

it may still be an imposter of sorts.

yine de bir tür sahtekar olabilir.

If we want to know if AI understands language like we do,

Yapay zekanın dili bizim gibi anlayıp anlamadığını bilmek istiyorsak,

we need to know what it's doing.

ne yaptığını bilmemiz gerekir.

We need to get inside to see what it's doing.

Ne yaptığını görmek için içeri girmeliyiz.

Is it an imposter or not?

Sahtekar mı değil mi?

We need to see its scratch pad,

Onun karalama defterini görmemiz

and we need to be able to compare it

ve dili gerçekten anlayan birinin

to the scratch pad of somebody who actually understands language.

karalama defteriyle karşılaştırabilmemiz gerekir.

But like scratch pads in brains,

Ama beyinlerdeki karalama defterleri gibi,

that's not something we can actually see, right?

bu da aslında görebileceğimiz bir şey değil, değil mi?

Well, it turns out that we can kind of see scratch pads in brains.

Aslında beyinlerdeki karalama defterlerini görebildiğimiz kanıtlandı.

Using something like fMRI or EEG,

fMRI veya EEG gibi bir şey kullanarak,

we can take what are like little snapshots of the brain while it’s reading.

okurken beynin küçük anlık görüntülerini çekebiliyoruz.

So have people read words or stories and then take pictures of their brain.

İnsanlara kelimeler ya da hikayeler okutun sonra beyinlerinin fotoğraflarını çekin.

And those brain images are like fuzzy,

Ve bu beyin görüntüleri,

out-of-focus pictures of the scratch pad of the brain.

beynin karalama defterinin bulanık, odak dışı resimleri gibidir.

They tell us a little bit about how the brain is processing

Okurken beynin bilgiyi nasıl işlediği ve sunduğu

and representing information while you read.

hakkında bize bazı bilgiler verirler.

So here are three brain images taken while a person read the word "apartment,"

İşte bir insanın “apartman”, “ev” ve “kereviz” kelimelerini okurken çekilen

"house" and "celery."

üç farklı beyin görüntüsü.

You can see just with your naked eye

Sadece çıplak gözle bile “apartman” ve “ev “in

that the brain image for "apartment" and "house"

beyin imgelerinin birbirlerine “kereviz “in

are more similar to each other

beyin imgesinden

than they are to the brain image for "celery."

daha çok benzediğini görebilirsiniz.

And you know, of course that apartments and houses are more similar

Biliyorsunuz ki, apartman ve ev kelimeleri birbirine

than they are to celery, just the words.

kerevizden daha çok benziyor.

So said another way,

Diğer bir deyişle,

the brain uses its scratchpad when reading the words "apartment" and "house"

beyin “apartman” ve “ev” kelimelerini okuduğunda,

“kereviz” kelimesine kıyasla karalama defterini daha benzer şekilde kullanır.

in a way that's more similar than when you read the word "celery."

The scratch pad tells us a little bit

Karalama defteri bize

beynin dili nasıl ifade ettiği hakkında biraz bilgi verir.

about how the brain represents the language.

It's not a perfect picture of what the brain's doing,

Beynin nasıl çalıştığının mükemmel bir tasviri değil

but it's good enough.

ama yeterince iyi.

OK, so we have scratch pads for the brain.

Tamam, beyin için karalama defterlerimiz var.

Now we need a scratch pad for AI.

Şimdi de bir tane yapay zeka için lazım.

So inside a lot of AIs is a neural network.

Pek çok yapay zekanın içinde bir sinir ağı vardır.

And inside of a neural network is a bunch of these little neurons.

Ve bir sinir ağının içinde bu küçük nöronlardan bir yığın vardır.

So here the neurons are like these little gray circles.

Burada nöronlar küçük gri daireler gibi.

And we would like to know

Biz de bir sinir ağının

karalama defterinin ne olduğunu bilmek istiyoruz.

what is the scratch pad of a neural network?

Well, when we feed in a word into a neural network,

Bir sinir ağına bir kelime girdiğimizde,

each of the little neurons computes a number.

küçük nöronların her biri bir sayı hesaplar.

Those little numbers I'm representing here with colors.

Burada renklerle gösterdiğim küçük sayılar.

So every neuron computes this little number,

Yani her nöron bu küçük sayıyı hesaplar

and those numbers tell us something

ve bu sayılar bize sinir ağının

about how the neural network is processing language.

dili nasıl işlediği hakkında bir şeyler söyler.

Taken together,

Birlikte ele alındığında,

all of those little circles paint us a picture

tüm bu küçük daireler bize sinir ağının

of how the neural network is representing language,

dili nasıl ifade ettiğinin bir resmini çizer

ve böylece bize sinir ağının karalama defterini vermiş olur.

and they give us the scratch pad of the neural network.

OK, great.

Tamam, harika.

Now we have two scratch pads, one from the brain and one from AI.

Artık biri beyinden diğeri yapay zekadan gelen iki karalama defteri var.

And we want to know: Is AI doing something like what the brain is doing?

Ve bilmek istediğimiz yapay zekanın beynin yaptığına benzer bir şey yapıp yapmadığı.

How can we test that?

Bunu nasıl test edebiliriz?

Here's what researchers have come up with.

İşte araştırmacıların bulduğu sonuçlar.

We're going to train a new model.

Yeni bir model eğiteceğiz.

That new model is going to look at neural network scratch pad

Bu yeni model, belirli bir kelime için sinir ağı karalama defterine bakıp

for a particular word

and try to predict the brain scratch pad for the same word.

aynı kelime için

beyin karalama defterini tahmin etmeye çalışacak.

We can do it, by the way, around two.

Bunu yapabiliriz bu arada.

So let's train a new model.

Öyleyse yeni bir model geliştirelim.

It’s going to look at the neural network scratch pad for a particular word

Bu model, belirli bir kelime için sinir ağı karalama defterine bakacak,

and try to predict the brain scratchpad.

beyninkini tahmin etmeye çalışacak.

Şayet beyin ve yapay zeka benzer işler yapmıyorsa,

If the brain and AI are doing nothing alike,

have nothing in common,

ortak hiçbir noktaları yoksa,

we won't be able to do this prediction task.

bu tahmin görevini yerine getiremeyiz.

It won't be possible to predict one from the other.

Birini diğerinden ayırmak mümkün olmaz.

So we've reached a fork in the road

Şimdi bir yol ayrımına geldik

and you can probably tell I'm about to tell you one of two things.

ve muhtemelen size şu iki şeyden birini söyleyeceğimi anlamışsınızdır.

I’m going to tell you AI is amazing,

Size ya yapay zekanın harika olduğunu

or I'm going to tell you AI is an imposter.

ya da tam bir sahtekar olduğunu söyleyeceğim.

Benim gibi araştırmacılar, yapay zekanın beyne

Researchers like me love to remind you

that AI is nothing like the brain.

benzemediğini hatırlatmayı çok sever.

And that is true.

Ve bu doğrudur.

But could it also be the AI and the brain share something in common?

Ancak yapay zeka ve beynin ortak bir noktası da olabilir mi?

So we’ve done this scratch pad prediction task,

Bu karalama defteri tahmin görevini yaptık

and it turns out, 75 percent of the time

ve belirli bir kelime için tahmin edilen sinir ağının

the predicted neural network scratchpad for a particular word

o kelime için gerçek sinir ağı karalama defterine,

is more similar to the true neural network scratchpad for that word

bu defterden veya rastgele seçilen başka bir

than it is to the neural network scratch pad

kelimeden daha çok benzediği

for some other randomly chosen word --

zamanların %75 olması ihtimali

75 percent is much better than chance.

şanstan daha öte bir durumdur.

What about for more complicated things,

Peki ya daha karmaşık şeyler için,

sadece kelimeler değil, cümleler, hikayeler için?

not just words, but sentences, even stories?

Again, this scratch pad prediction task works.

Yine, bu karalama defteri tahmin görevi işe yarıyor.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Sinir ağı karalama defterini beyin ile ön görüyoruz ve bunun tersi de geçerli.

Amazing.

Muhteşem.

So does that mean

Peki bu, sinir ağları

that neural networks and AI understand language just like we do?

ve yapay zeka dilleri tıpkı bizim anladığımız gibi anlıyor mu demek?

Well, truthfully, no.

Doğrusu, hayır.

Though these scratch pad prediction tasks show above-chance accuracy,

Bu karalama defteri tahmin görevleri şansın üzerinde doğruluk gösterse de

the underlying correlations are still pretty weak.

altında yatan korelasyonlar hala oldukça zayıftır.

And though neural networks are inspired by the brain,

Sinir ağları beyinden esinlenmiş olsa da

they don't have the same kind of structure and complexity

beyinde gördüğümüz türden bir yapıya

ve karmaşıklığa sahip değiller.

that we see in the brain.

Sinir ağları da dünyada mevcut değil zaten.

Neural networks also don't exist in the world.

Bir sinir ağı hiç bir kapıyı açmamış, gün batımını görmemiş

A neural network has never opened a door

or seen a sunset, heard a baby cry.

ya da bir bebeğin ağladığını duymamıştır.

Can a neural network that doesn't actually exist in the world,

Gerçekte dünyada var olmayan,

hasn't really experienced the world,

dünyayı deneyimlememiş bir sinir ağı,

really understand language about the world?

dünya dilini gerçekten anlayabilir mi?

Still, these scratch pad prediction experiments have held up --

Yine de bu karalama defteri tahmin deneyleri,

çoklu beyin görüntüleme deneylerini

multiple brain imaging experiments,

multiple neural networks.

ve çoklu sinir ağlarını destekledi.

We've also found that as the neural networks get more accurate,

Ayrıca, sinir ağları daha duyarlı hale geldikçe,

they also start to use their scratch pad in a way

karalama defterlerini de daha beyne benzer bir şekilde

that becomes more brain-like.

kullanmaya başladıklarını gördük.

And it's not just language.

Ve bu sadece dil de değil.

We've seen similar results in navigation and vision.

Benzer sonuçları navigasyon ve görüş alanlarında da gördük.

So AI is not doing exactly what the brain is doing,

Yani yapay zeka tam olarak beynin yaptığını yapmıyor

but it's not completely random either.

ama tümüyle rastgele de davranmıyor.

So from where I sit,

Bu nedenle, benim bakış açımla,

if we want to know if AI really understands language like we do,

yapay zekanın dilleri gerçekten bizim gibi anlayıp anlamadığını bilmek için,

we need to get inside of the Chinese room.

Çince odasına girmemiz gerekir.

We need to know what the AI is doing,

Yapay zekanın yaptıklarını bilmemiz

and we need to be able to compare that to what people are doing

ve bunu insanların yaptıklarıyla karşılaştırabilmemiz gerek,

when they understand language.

o zaman dilleri anlarlar.

AI is moving so fast.

Yapay zeka çok hızlı gelişiyor.

Today, I'm asking you, does AI understand language

Bugün size soruyorum, aptalca bir soru gibi görünebilir

that might seem like a silly question in ten years.

ama yapay zeka on yıl içinde dilleri anlayacak mı?

Or ten months.

Ya da on ay içinde.

(Laughter)

(Kahkahalar)

But one thing will remain true.

Ancak bir şey doğru kalmaya devam edecek.

We are meaning-making humans,

Bizler anlam üretme yetisine sahip insanlarız

and we are going to continue to look for meaning

ve etrafımızdaki dünyayı anlamlandırmaya

and interpret the world around us.

ve yorumlamaya devam edeceğiz.

And we will need to remember

Yapay zekanın sadece girdi

that if we only look at the input and output of AI,

ve çıktılarına bakarsak, kolayca kandırılabileceğimizi de

it's very easy to be fooled.

unutmamalıyız.

We need to get inside of the metaphorical room of AI

Neler olduğunu görebilmek için yapay zekanın

in order to see what's happening.

metaforik odasına girmemiz gerekiyor.

It's what's inside the counts.

Önemli olan içinde ne olduğu.

Thank you.

Teşekkürler.

(Applause)

(Alkış)