How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Translator: Sanntint Tint Reviewer: Myo Aung

People are funny.

လူတွေက ရယ်ရတယ်။

We're constantly trying to understand and interpret

ကျွန်မတို့ဟာ ကိုယ့်ဝန်းကျင် ကမ္ဘာကို နားလည်၊အဓိပ္ပာယ်ကောက်ဖို့

the world around us.

အဆက်မပြတ် ကြိုးစားနေကြတယ်။

I live in a house with two black cats, and let me tell you,

ကျွန်မက အိမ်မှာ ကြောင်နက်နှစ်ကောင်နဲ့ နေတာပါ၊ စုပုံနေတဲ့

every time I see a black, bunched up sweater out of the corner of my eye,

အနက်ရောင် ဆွယ်တာကို မျက်လုံးထောင့်ကနေ မြင်တိုင်း ကြောင်လို့

I think it's a cat.

ထင်တာကို ပြောပါရစေ။

ကျွန်မတို့ မြင်တာ ဒါတွေချည်း မဟုတ်ဘူး။

It's not just the things we see.

Sometimes we attribute more intelligence than might actually be there.

တစ်ခါတလေမှာ ကျွန်မတို့ဟာ တကယ်ရှိလောက် တာထက် ဉာဏ်ရည်ပိုတယ်လို့ ယူဆကြတယ်။

Maybe you've seen the dogs on TikTok.

TikTok မှာ ခွေးလေးတွေကို မြင်ဖူးလောက်တယ်။

They have these little buttons that say things like "walk" or "treat."

သူတို့မှာ “လျှောက်”၊“လုပ်” လို အရာ တွေပြောနိုင်တဲ့ ခလုတ်လေးတွေပါတယ်။

They can push them to communicate some things with their owners,

သူတို့က ပိုင်ရှင်တွေနဲ့ ဆက်သွယ်ဖို့ ခလုတ်တွေကို တွန်းနိုင်ပြီး၊

and their owners think they use them

အတော်လေး အထင်ကြီးစရာကောင်းတာတွေကို

to communicate some pretty impressive things.

ဆက်သွယ်ဖို့ သူတို့ သုံးတယ်လို့ ပိုင်ရှင်တွေကထင်တယ်။

But do the dogs know what they're saying?

ဒါပေမဲ့ ခွေးတွေက သူတို့ ပြောနေတာကို သိလား။

Or perhaps you've heard the story of Clever Hans the horse,

ဒါမှမဟုတ် မြင်းလိိမ္မာ Hans ပုံပြင်ကို သင်ကြားဖူးလောက်တယ်၊

and he could do math.

သူက သင်္ချာ တွက်တတ်တယ်။

And not just like, simple math problems, really complicated ones,

ရိုးရိုး သင်္ချာပုစ္ဆာတွေလို မဟုတ်ဘဲ၊ တကယ့်ကို ရှုပ်ထွေးတာတွေပါ။

like, if the eighth day of the month falls on a Tuesday,

ဥပမာ လရဲ့ အဋ္ဌမနေ့က အင်္ဂါနေ့မှာ ကျရောက်ရင်

what's the date of the following Friday?

နောက်သောကြာနေ့က ဘယ်နေ့လဲ။

It's like, pretty impressive for a horse.

မြင်းတစ်ကောင်အတွက် အတော်လေး အထင်ကြီးစရာပါ။

Unfortunately, Hans wasn't doing math,

ဖြစ်ချင်တော့၊ Hans သင်္ချာတွက်တာမဟုတ်ပေမဲ့

but what he was doing was equally impressive.

သူ လုပ်နေတာတွေက ထပ်တူထပ်မျှ အထင်ကြီးစရာပါ။

Hans had learned to watch the people in the room

ans က သူ့ခွာကို ဘယ်အချိန် ပုတ်ရမယ်ဆိုတာကို ပြောပြဖို့

to tell when he should tap his hoof.

အခန်းထဲက လူတွေကို ကြည့်ဖို့ သင်ယူခဲ့တာပါ။

So he communicated his answers by tapping his hoof.

ဒီတော့ သူ့ခွာကို ပုတ်ရင်း သူ့အဖြေတွေကို ပြောပြတယ်။

It turns out that if you know the answer

“လရဲ့ အဋ္ဌမနေ့က အင်္ဂါနေ့မှာ ကျရောက်ရင်၊

to "if the eighth day of the month falls on a Tuesday,

နောက်သောကြာနေ့က ဘယ်နေ့လဲ”

what's the date of the following Friday,"

ဆိုတာအတွက် အတွက် အဖြေ သင် သိရင်၊

you will subconsciously change your posture

မြင်းက မှန်ကန်တဲ့ ၁၈ ချက် ပုတ်လိုက်တာနဲ့

once the horse has given the correct 18 taps.

သင့်ကိုယ်ဟန်အနေအထားကို မသိစိတ်ကနေ ပြောင်းလဲမှာပါ။

So Hans couldn't do math,

ဒါကြောင့် Hans သင်္ချာ မတတ်ပေမဲ့

but he had learned to watch the people in the room who could do math,

သူဟာ မြင်းတစ်ကောင်အတွက် အလွန်အထင်ကြီးနေသေးတဲ့ သင်္ချာ တွက်တတ်တဲ့

which, I mean, still pretty impressive for a horse.

အခန်းထဲက လူတွေကို ကြည့်ဖို့ သင်ယူခဲ့တာပါ။

But this is an old picture,

ဒါပေမဲ့ ဒါက ပုံဟောင်းပါ၊

and we would not fall for Clever Hans today.

ဒီနေ့ မြင်းလိမ္မာ Hans ကို သဘောမကျပါဘူး။

Or would we?

ဒါမှမဟုတ် ကျသွားမှာလား။

Well, I work in AI,

ကောင်းပြီ၊ ငါ AI မှာ အလုပ်လုပ်တယ်၊

and let me tell you, things are wild.

ကိစ္စတွေက ဖြစ်ကတတ်ဆန််းတွေဆိုတာ ပြောပါရစေ။

There have been multiple examples of people being completely convinced

AI က လူတွေကို နားလည်တယ်လို့ လုံးလုံး ယုံကြည်နေတဲ့

that AI understands them.

လူတွေရဲ့ ဥပမာများစွာ ရှိခဲ့တယ်။

In 2022,

၂၀၂၂ ခုနှစ်မှာ

a Google engineer thought that Google’s AI was sentient.

Google အင်ဂျင်နီယာက Google ရဲ့ AI က အသိစိတ်ရှိတယ်လို့ထင်ခဲ့တယ်။

And you may have had a really human-like conversation

ChatGPT လို တစ်ခုခုနဲ့ တကယ့် လူသားလို စကားဝိုင်းတစ်ခု

with something like ChatGPT.

သင့်မှာရှိခဲ့လောက်တယ်။

But models we're training today are so much better

ဒါပေမဲ့ ဒီနေ့ လေ့ကျင့်ပေးနေတဲ့ မော်ဒယ်တွေက လွန်ခဲ့တဲ့

than the models we had even five years ago.

၅ နှစ်က မော်ဒယ်တွေ ထက်တောင်အများကြီးပိုကောင်းတယ်။

It really is remarkable.

တကယ့် မှတ်သားစရာပါ။

So at this super crazy moment in time,

ဒါကြောင့် ဒီအရူးအမူးဖြစ်နေတဲ့ အခိုက်အတန့်မှာ

let’s ask the super crazy question:

အလွန် ရူးသွပ်တဲ့ မေးခွန်းကို မေးကြပါစို့။

Does AI understand us,

AI က လူတွေကို နားလည်လား၊

or are we having our own Clever Hans moment?

ဒါမှမဟုတ် ကျွန်မတို့မှာ ကိုယ်ပိုင် မြင်းလိမ္မာ Hans အခိုက်အတန့်ရှိလား။

Some philosophers think that computers will never understand language.

ကွန်ပျူတာတွေက ဘာသာစကားကို ဘယ်တော့မှ နားလည်မှာမဟုတ်လို့ဒဿနပညာရှင်တချို့ကယူဆတယ်။

To illustrate this, they developed something they call

ဒါကို သရုပ်ဖော်ဖို့ သူတို့က တရုတ်အခန်း အငြင်းအခုံ

the Chinese room argument.

ဆိုတာကို တီထွင်ခဲ့တယ်။

In the Chinese room, there is a person, hypothetical person,

တရုတ်အခန်းမှာ စိတ်ကူးသာရှိတဲ့ လူတစ်ယောက်ရှိတယ်၊

who does not understand Chinese,

တရုတ်စာ နားမလည်ပေမဲ့

but he has along with him a set of instructions

တရုတ်ဝါကျတိုင်းကို တရုတ်လို ဘယ်တုံ့ပြန်ရမယ်

that tell him how to respond in Chinese to any Chinese sentence.

ဆိုတာကို ပြောပြတဲ့ ညွှန်ကြားချက် တစ်စုံ သူ့မှာပါတယ်။

Here's how the Chinese room works.

ဒါက တရုတ်အခန်း အလုပ်လုပ်ပုံပါ။

A piece of paper comes in through a slot in the door,

စာရွက်တစ်ရွက်က တံခါးအပေါက်ကနေ ဝင်လာပြီး

has something written in Chinese on it.

ဒီအပေါ်မှာ တရုတ်လို ရေးထားတဲ့ တစ်စုံတစ်ခုရှိနေတယ်။

The person uses their instructions to figure out how to respond.

ဒီလူက တုံ့ပြန်ပုံကို သိဖို့ ညွှန်ကြားချက်တွေကို သုံးတယ်။

They write the response down on a piece of paper

သူတို့က တုံ့ပြန်ချက်ကို စာရွက်တစ်ရွက်မှာ ရေးပြီး

and then send it back out through the door.

တံခါးပေါက်ကနေ ပြန်ပို့ပေးတယ်။

To somebody who speaks Chinese,

အခန်းအပြင်ဘက်မှာ ရပ်နေတဲ့

standing outside this room,

တရုတ်စကားပြောသူအတွက်တော့

it might seem like the person inside the room speaks Chinese.

အခန်းထဲက လူက တရုတ်စကား ပြောတယ်လို့ထင်ရတယ်။

But we know they do not,

ဒါပေမဲ့ ညွှန်ကြားချက်တွေကို လိုက်နာဖို့

because no knowledge of Chinese is required to follow the instructions.

တရုတ်စာ သိဖို့ မလိုအပ်တာကြောင့် သူ မတတ်တာ ကျွန်မတို့ သိတယ်။

Performance on this task does not show that you know Chinese.

ဒီအလုပ်ကို လုပ်ဆောင်နိုင်တာက တရုတ်စကား တတ်တာကို မပြသဘူး။

So what does that tell us about AI?

ဒီတော့ ဒါက AI နဲ့ပတ်သက်ပြီး ဘာပြောပြလဲ။

Well, when you and I stand outside of the room,

ကောင်းပြီ၊ ကျွန်မတို့က အခန်းအပြင်မှာ ရပ်နေတဲ့အခါ၊

when we speak to one of these AIs like ChatGPT,

ChatGPT လို AI တွေထဲက တစ်ယောက်နဲ့ စကားပြောတဲ့အခါ၊

we are the person standing outside the room.

ကျွန်မတို့က အခန်းအပြင်ဘက်မှာ ရပ်နေသူတွေပါ။

We're feeding in English sentences,

အင်္ဂလိပ် ဝါကျတွေ ထည့်ပေးတယ်၊

we're getting English sentences back.

အင်္ဂလိပ် ဝါကျတွေ ပြန်ရတယ်။

It really looks like the models understand us.

မော်ဒယ်တွေက ကျွန်မတို့ကို နားလည်ပုံရတယ်။

It really looks like they know English.

သူတို့က အင်္ဂလိပ်လို တကယ် သိနေပုံရတယ်။

ဒါပေမဲ့ မမြင်ရတဲ့အပိုင်းမှာ၊

But under the hood,

these models are just following a set of instructions, albeit complex.

ဒီမော်ဒယ်တွေက ရှုပ်ထွေးနေပေမဲ့ ညွှန်ကြားချက်အစုံကို လိုက်နာနေပါတယ်။

How do we know if AI understands us?

AI က ကျွန်မတို့ကို နားလည်လားဆိုတာ ဘယ်လို သိနိုင်မလဲ။

To answer that question, let's go back to the Chinese room again.

ဒီမေးခွန်းကို ဖြေဖို့ တရုတ်အခန်းကို ပြန်သွားကြရအောင်။

Let's say we have two Chinese rooms.

တရုတ်ခန်း၂ ခန်းရှိတယ်ဆိုပါစို့။

In one Chinese room is somebody who actually speaks Chinese,

တရုတ်အခန်း တစ်ခန်းမှာက တရုတ်စကား တကယ်ပြောတတ်သူဖြစ်ပြီး

and in the other room is our impostor.

အခြားအခန်းမှာက အယောင်ဆောင်သူပါ။

When the person who actually speaks Chinese gets a piece of paper

တရုတ်စကား တကယ်ပြောတတ်သူက သူ့မှာ တရုတ်လိုပြောတဲ့၊

that says something in Chinese in it, they can read it, no problem.

စာရွက်တစ်ရွက် ရတဲ့အခါ သူ ဒါကို ဖတ်တတ်တယ်၊ ပြဿနာမရှိဘူး။

But when our imposter gets it again,

ဒါပေမဲ့ အယောင်ဆောင်သူက ဒါကို ထပ်ရတဲ့အခါ

he has to use his set of instructions to figure out how to respond.

တုံ့ပြန်ပုံကို သိရှိဖို့ သူ့ညွှန်ကြားချက်တွေကို သုံးဖို့လိုတယ်။

From the outside, it might be impossible to distinguish these two rooms,

အပြင်ကနေ ဒီအခန်းနှစ်ခန်းကို ခွဲခြားဖို့ မဖြစ်နိုင်ပေမဲ့

but we know inside something really different is happening.

အတွင်းမှာတော့ တကယ် ကွဲပြားတာတစ်ခု ဖြစ်နေတာကို ကျွန်မတို့ သိပါတယ်။

To illustrate that,

ဒါကို သရုပ်ဖော်ဖို့၊

let's say inside the minds of our two people,

အခန်း နှစ်ခန်းထဲက ဒီနှစ်ယောက်ရဲ့ စိတ်ထဲမှာ

inside of our two rooms,

မှတ်စုစာအုပ်လေးတစ်ခု

is a little scratch pad.

ရှိတယ်ဆိုပါစို့။

And everything they have to remember in order to do this task

ဒီအလုပ်ကို လုပ်ဖို့ သူတို့ မှတ်မိဖို့ လိုတာအားလုံးကို

has to be written on that little scratch pad.

ဒီမှတ်စုစာအုပ်လေးမှာ ရေးမှတ်ထားဖို့လိုတယ်။

If we could see what was written on that scratch pad,

တကယ်လို့ ဒီမှတ်စုစာအုပ်မှာ ရေးထားတာကို မြင်နိုင်ရင်၊

we would be able to tell how different their approach to the task is.

အလုပ်အတွက် သူတို့ရဲ့ ချဉ်းကပ်ပုံ ကွာခြားပုံကို ပြောပြနိုင်မှာပါ။

So though the input and the output of these two rooms

ဒီတော့ အခန်း ၂ ခန်းရဲ့ အသွင်းနဲ့ အထွက်က

might be exactly the same,

အတိအကျ တူညီနိုင်ပေမဲ့

the process of getting from input to output -- completely different.

အသွင်းကနေ အထွက်ကိုရောက်တဲ့ လုပ်ငန်းစဉ်က လုံးဝမတူဘူး။

So again, what does that tell us about AI?

ဒီတော့ဒါက AI နဲ့ ပတ်သက်ပြီး ဘာပြောပြလဲ။

Again, if AI, even if it generates completely plausible dialogue,

တစ်ခါ၊ AI က လုံးဝ ယုံကြည်နိုင်လောက်တဲ့ အချီအချ စကားပြောတာတွေကို ဖြစ်ပေါ်စေတယ်၊

answers questions just like we would expect,

မျှော်လင့်တဲ့အတိုင်း မေးခွန်းတွေကို ဖြေတာတောင်၊

it may still be an imposter of sorts.

သူက ဟန်ဆောင်တာမျိုးတစ်ခု ဖြစ်နေဆဲပါ။

If we want to know if AI understands language like we do,

AI က ကျွန်မတို့လို ဘာသာစကားကို နားလည်လားဆိုတာကို သိချင်ရင်၊

we need to know what it's doing.

သူ လုပ်နေတာကို သိဖို့လိုတယ်။

We need to get inside to see what it's doing.

သူ ဘာတွေလုပ်နေလဲ ကြည့်ဖို့ အထဲကို ဝင်ဖို့လိုတယ်။

Is it an imposter or not?

ဟန်ဆောင်သူ ဟုတ်၊မဟုတ်ပေါ့။

We need to see its scratch pad,

သူ့ရဲ့မှတ်စုကို မြင်ဖို့လိုပြီး

and we need to be able to compare it

ဒါကို ဘာသာစကားကို တကယ်နားလည်သူရဲ့

to the scratch pad of somebody who actually understands language.

မှတ်စုနဲ့ ယှဉ်ကြည့်နိုင်ဖို့ လိုအပ်တယ်။

But like scratch pads in brains,

ဒါပေမဲ့ ဦးနှောက်ထဲက မှတ်စုလိုပဲ၊

that's not something we can actually see, right?

ဒါက တကယ်မြင်နိုင်တဲ့အရာ မဟုတ်ဘူး၊မဟုတ်လား။

Well, it turns out that we can kind of see scratch pads in brains.

ကောင်းပြီ၊ ဦးနှောက်ထဲမှာ မှတ်စုတွေကို မြင်နိုင်တယ်ဆိုတာ ဖြစ်လာတယ်။

Using something like fMRI or EEG,

fMRI ဒါမဟုတ် EEG လို တစ်ခုခုကို သုံးရင်း

we can take what are like little snapshots of the brain while it’s reading.

စာဖတ်နေစဉ် ဦးနှောက်ရဲ့လျှပ်တစ်ပြက်ပုံ ရိပ်လို အရာလေးတွေကို ရိုက်ယူနိုင်တယ်။

So have people read words or stories and then take pictures of their brain.

လူတွေကို စာတွေ၊ပုံပြင်တွေ ဖတ်ခိုင်းပြီး ဦးနှောက်ရဲ့ပုံတွေကို ရိုက်တာပါ။

And those brain images are like fuzzy,

ဒီဦးနှောက်ပုံရိပ်တွေက ဦးနှောက်ရဲ့

out-of-focus pictures of the scratch pad of the brain.

မှတ်စုစာအုပ်ရဲ့ မပီမသ၊ ဆုံချက်မဲ့တဲ့ ပုံတွေလိုပါပဲ။

They tell us a little bit about how the brain is processing

ဒါတွေက ဖတ်နေစဉ် ဦးနှောက်က လုပ်ဆောင်ပုံနဲ့ အချက်အလက်တွေကို

and representing information while you read.

ကိုယ်စားပြုပုံကို နည်းနည်း ပြောပြတယ်။

So here are three brain images taken while a person read the word "apartment,"

ဒီမှာ လူတစ်ယောက်က “တိုက်ခန်း” “အိမ်” နဲ့ “တရုတ်နံနံ” ဆိုတဲ့ စကားလုံးကို ဖတ်နေချိန်

"house" and "celery."

ရိုက်ထားတဲ့ ဦးနှောက်ပုံရိပ် သုံးခုပါ။

You can see just with your naked eye

“တိုက်ခန်း” နဲ့ “အိမ်” အတွက်

that the brain image for "apartment" and "house"

ဦးနှောက်ပုံရိပ်က “တရုတ်နံနံ” အတွက်

are more similar to each other

ဦးနှောက်ပုံရိပ်ထက်

than they are to the brain image for "celery."

ပိုတူညီနေတာကို သာမန်မျက်စိနဲ့ မြင်နိုင်ပါတယ်။

And you know, of course that apartments and houses are more similar

တိုက်ခန်းတွေနဲ့ အိမ်တွေက တရုတ်နံနံလို စကားလုံးတွေထက်

than they are to celery, just the words.

ပိုတူတယ်တာကို သင် သိပါတယ်။

So said another way,

ဒါကြောင့် နောက်တစ်နည်းပြောရရင်

the brain uses its scratchpad when reading the words "apartment" and "house"

ဦးနှောက်က “တိုက်ခန်း” နဲ့ “အိမ်”ဆိုတဲ့ စကားလုံးတွေကို “တရုတ်နံနံ” စကားလုံးကို

in a way that's more similar than when you read the word "celery."

ဖတ်တဲ့အခါမှာထက် ပိုတူတဲ့ နည်းနဲ့ သူ့ရဲ့ မှတ်စုကို သုံးတယ်။

The scratch pad tells us a little bit

ဦးနှောက်က ဘာသာစကားကို ကိုယ်စားပြုပုံကို

about how the brain represents the language.

မှတ်စုက နည်းနည်း ပြောပြတယ်။

It's not a perfect picture of what the brain's doing,

ဒါက ဦးနှောက်က လုပ်နေတဲ့ ပြည့်စုံတဲ့ပုံရိပ်မဟုတ်ပေမဲ့၊

but it's good enough.

လုံလောက်ပါတယ်။

OK, so we have scratch pads for the brain.

ကဲ ဒီတော့ AI အတွက် မှတ်စုတစ်ခု ရှိတယ်။

Now we need a scratch pad for AI.

AI အတွက် မှတ်စုတစ်ခု လိုအပ်နေတယ်။

So inside a lot of AIs is a neural network.

ဒါကြောင့် AI အများအပြားအတွင်းက အာရုံကြောကွန်ရက်တစ်ခုပါ။

And inside of a neural network is a bunch of these little neurons.

အာရုံကြော ကွန်ရက်တစ်ခုအတွင်းမှာ ဒီသေးငယ်တဲ့ အာရုံကြော အစုအဝေးရှိတယ်။

So here the neurons are like these little gray circles.

ဒီမှာ နျူရွန်းတွေက မီးခိုးရောင် စက်ဝိုင်းလေးတွေနဲ့တူတယ်။

And we would like to know

အာရုံကြော ကွန်ရက်ရဲ့

what is the scratch pad of a neural network?

မှတ်စုစာအုပ်က ဘာလဲဆိုတာ သိချင်ကြလား။

Well, when we feed in a word into a neural network,

ကောင်းပြီ၊ စကားလုံးတစ်လုံးကို အာရုံကြော ကွန်ရက်တစ်ခုထဲကို ဖြည့်သွင်းတဲ့အခါ၊

each of the little neurons computes a number.

သေးငယ်တဲ့ နျူရွန်းတစ်ခုစီက နံပါတ်တစ်ခုကို တွက်ချက်တယ်။

Those little numbers I'm representing here with colors.

ဒီနံပါတ်လေးတွေကို ကျွန်မက အရောင်တွေနဲ့ ကိုယ်စားပြုထားတယ်။

So every neuron computes this little number,

ဒီတော့ နျူရွန်တိုင်းက ဒီနံပါတ်လေးတွေကို တွက်ချက်ပြီး

and those numbers tell us something

အာရုံကြော ကွန်ရက်က ဘာသာစကားကို

about how the neural network is processing language.

လုပ်ဆောင်နေပုံကို ဒီနံပါတ်တွေက ပြောပြတယ်။

Taken together,

ခြုံကြည့်လိုက်ရင်

all of those little circles paint us a picture

ဒီစက်ဝိုင်းငယ်အားလုံးက ကျွန်မတို့ကို အာရုံကြော ကွန်ရက်က

of how the neural network is representing language,

ဘာသာစကားကို ကိုယ်စားပြုပုံကို ပုံဖော်ပြပြီး

and they give us the scratch pad of the neural network.

ကျွန်မတို့ကို အာရုံကြောရဲ့ ကွန်ရက် မှတ်စုကို ပေးတယ်။

OK, great.

ဟန်ကျလိုက်တာ။

Now we have two scratch pads, one from the brain and one from AI.

အခု မှတ်စု နှစ်ခုရှိတယ်၊ တစ်ခုက ဦးနှောက်ကနေ၊ တစ်ခုက AI ကနေပါ။

And we want to know: Is AI doing something like what the brain is doing?

ပြီးတော့ ကျွန်မတို့သိချင်တာက AI က ဦးနှောက်လုပ်နေတဲ့အတိုင်း လုပ်နေတာလား။

How can we test that?

ဒါကို ဘယ်လိုစမ်းသပ်နိုင်မလဲ။

Here's what researchers have come up with.

ဒါက သုတေသီတွေ ရရှိလာတာပါ။

We're going to train a new model.

မော်ဒယ်အသစ်ကို လေ့ကျင့်ပေးတော့မှာပါ။

That new model is going to look at neural network scratch pad

အဲဒီမော်ဒယ်အသစ်က စကားလုံး တစ်လုံးလုံးအတွက် အာရုံကြော ကွန်ရက်

for a particular word

မှတ်စုကို ကြည့်ရှုပြီး

and try to predict the brain scratch pad for the same word.

အလားတူ စကားလုံးအတွက် ဦးနှောက် မှတ်စုကို ကြိုးစားခန့်မှန်းမှာပါ။

We can do it, by the way, around two.

စကားမစပ်၊ နှစ်ခုလောက်တော့ လုပ်နိုင်တယ်။

So let's train a new model.

ဒီတော့ မော်ဒယ်အသစ်ကို လေ့ကျင့်ကြည့်ရအောင်။

It’s going to look at the neural network scratch pad for a particular word

စကားလုံးတစ်လုံးလုံးအတွက် အာရုံကြော ကွန်ရက် မှတ်စုကိုကြည့်ပြီး

and try to predict the brain scratchpad.

ဦးနှောက် မှတ်စုကို ကြိုးစားခန့်မှန်းမယ်။

If the brain and AI are doing nothing alike,

ဦးနှောက်နဲ့ AI က ဘာမှ မတူညီရင်၊

have nothing in common,

တစ်ခုမှ တူမနေရင်၊

we won't be able to do this prediction task.

ခန့်မှန်းတဲ့ အလုပ်ကို လုပ်နိုင်မှာမဟုတ်ဘူး။

It won't be possible to predict one from the other.

တစ်ခုကနေ တစ်ခုကို ခန့်မှန်းဖို့ မဖြစ်နိုင်ဘူး။

So we've reached a fork in the road

ဒါနဲ့ ကျွန်မတို့ လမ်းခွဆုံကို ရောက်ပြီး

and you can probably tell I'm about to tell you one of two things.

နှစ်ခုထဲက တစ်ခုကို ကျွန်မ ပြောမယ်လို့ သင်တို့ပြောနိုင်လောက်တယ်။

I’m going to tell you AI is amazing,

။ ကျွန်မက AI က အံ့ဩစရာ လို့ ပြောမယ်၊

or I'm going to tell you AI is an imposter.

ဒါမှမဟုတ် AI က ဟန်ဆောင်သူ လို့ ပြောမယ်။

Researchers like me love to remind you

ကျွန်မလို သုတေသီတွေက AI ဟာ ဦးနှောက်နဲ့

that AI is nothing like the brain.

ဘာမှ မတူတာကို သတိပေးချင်ပါတယ်။

And that is true.

ဒါက အမှန်ပါ။

But could it also be the AI and the brain share something in common?

ဒါပေမဲ့ ဒါက AI နဲ့ ဦးနှောက်က တူညီတာ တစ်ခု ရှိနေတာလည်းဖြစ်နိုင်လား။

So we’ve done this scratch pad prediction task,

ဒီတော့ ဒီမှတ်စု ခန့်မှန်းတဲ့ အလုပ်ကို လုပ်ပြီးပြီ၊

and it turns out, 75 percent of the time

ဖြစ်လာတာက၊ စကားလုံးတစ်လုံးအတွက်

the predicted neural network scratchpad for a particular word

ခန့်မှန်းထားတဲ့ အာရုံကြော ကွန်ရက် မှတ်စုရဲ့ ၇၅% က

is more similar to the true neural network scratchpad for that word

အဲဲဒီစကားလုံးအတွက်အာရုံကြော ကွန်ရက် မှတ်စုအစစ်အတွက်

than it is to the neural network scratch pad

အခြားကျပန်း ရွေးချယ်ထားတဲ့

for some other randomly chosen word --

အာရုံကြော ကွန်ရက် မှတ်စုထက် ပိုတူတာပါ။

75 percent is much better than chance.

၇၅% က တိုက်ဆိုင်မှုဆိုတာထက် အများကြီးသာလွန်ပါတယ်။

What about for more complicated things,

စကားလုံးတွေသာမက ဝါကျတွေ၊ ဇာတ်လမ်းတွေလို

not just words, but sentences, even stories?

ပိုတောင်ရှုပ်ထွေးတဲ့ အရာတွေအတွက်ကော။

Again, this scratch pad prediction task works.

ပြောရရင် မှတ်စု ခန့်မှန်းတဲ့ အလုပ်က အလုပ်ဖြစ်တယ်။

We’re able to predict the neural network scratch pad from the brain and vice versa.

ကျွန်မတို့ ဦးနှောက်နဲ့ အာရုံကြော ကွန်ရက်က မှတ်စုကို အပြန်အလှန် ခန့်မှန်းနိုင်တယ် ။

Amazing.

အံ့သြစရာပါ။

So does that mean

ဒီတော့ အာရုံကြော ကွန်ရက်တွေနဲ့

that neural networks and AI understand language just like we do?

AI က ကျွန်မတို့လို ဘာသာစကားကို နားလည်တယ်လို့ ဆိုလိုတာလား။

Well, truthfully, no.

အမှန်အတိုင်းပြောရရင် မဟုတ်ပါဘူး။

Though these scratch pad prediction tasks show above-chance accuracy,

ဒီမှတ်စု ခန့်မှန်းတဲ့ အလုပ်က ဖြစ်နိုင်ခြေထက် တိကျမှုကို ပြသပေမဲ့

the underlying correlations are still pretty weak.

အရင်းခံ ဆက်နွယ်မှုတွေက အတော်လေး အားနည်းနေသေးတယ်။

And though neural networks are inspired by the brain,

အာရုံကြော ကွန်ရက်တွေကို ဦးနှောက်က လှုံ့ဆော်ပေးပေမဲ့

they don't have the same kind of structure and complexity

ဒါတွေမှာ ဦးနှောက်ထဲမှာ မြင်ရတဲ့ အလားတူ ဖွဲ့စည်းပုံနဲ့

that we see in the brain.

ရှုပ်ထွေးမှုမျိုးမရှိဘူး။

အာရုံကြော ကွန်ရက်တွေက ကမ္ဘာပေါ်မှာလည်း မရှိဘူး။

Neural networks also don't exist in the world.

A neural network has never opened a door

အာရုံကြော ကွန်ရက်က တစ်ခါမှ တံခါးမဖွင့်ဖူးဘူး၊

or seen a sunset, heard a baby cry.

နေဝင်ချိန် မမြင်ဖူးဘူး၊ ကလေးငိုသံ မကြားဖူးဘူး။

Can a neural network that doesn't actually exist in the world,

ကမ္ဘာပေါ်မှာ တကယ် မရှိတဲ့၊ ကမ္ဘာကြီးကို တကယ် မတွေ့ကြုံဖူးတဲ့၊

hasn't really experienced the world,

အာရုံကြော ကွန်ရက်တစ်ခုက

really understand language about the world?

ကမ္ဘာကြီးအကြောင်းကို တကယ် နားလည်နိုင်လား။

Still, these scratch pad prediction experiments have held up --

ဒါပေမဲ့၊ ဒီမှတ်စု ခန့်မှန်း စမ်းသပ်မှုတွေက ဦးနှောက်ပုံရိပ်ဖော်

multiple brain imaging experiments,

စမ်းသပ်မှုတွေ၊ အာရုံကြော ကွန်ရက်

multiple neural networks.

များစွာကို ထောက်ပံ့တယ်။

We've also found that as the neural networks get more accurate,

အာရုံကြော ကွန်ရက်တွေ ပိုတိကျလာတာနဲ့အမျှ၊ ဒါတွေက

they also start to use their scratch pad in a way

ဦးနှောက်နဲ့ ပိုတူလာတဲ့ နည်းလမ်းနဲ့ ဒါတွေရဲ့ မှတ်စုတွေကို

that becomes more brain-like.

စသုံးလာတာကိုလည်း တွေ့ရှိထားတယ်။

And it's not just language.

ဘာသာစကားပဲ မဟုတ်ဘူး။

We've seen similar results in navigation and vision.

လမ်းကြောင်းပြတာနဲ့ အမြင်ပိုင်းမှာ အလားတူရလဒ်တွေ မြင်ရတယ်။

So AI is not doing exactly what the brain is doing,

ဒါကြောင့် AI က ဦးနှောက် လုပ်နေတာတွေကို အတိအကျ လုပ်နေတာ မဟုတ်ဘူး၊

but it's not completely random either.

ဒါပေမဲ့ လုံး၀ ကျပန်းလည်း မဟုတ်ဘူး။

So from where I sit,

ဒီတော့ ကျွန်မ ထိုင်နေတဲ့နေရာကနေ

if we want to know if AI really understands language like we do,

AI က ကျွန်မတို့လို ဘာသာစကားကို တကယ်နားလည်လားသိချင်ရင်၊

we need to get inside of the Chinese room.

တရုတ်ခန်းထဲကို ဝင်ဖို့ လိုတယ်။

We need to know what the AI is doing,

AI က လုပ်နေတာကို သိဖို့လိုတယ်၊

and we need to be able to compare that to what people are doing

ပြီးတော့ လူတွေက ဘာသာစကား နားလည်တဲ့အခါ သူတို့လုပ်နေတဲ့တာနဲ့

when they understand language.

ဒါကို နှိုင်းယှဉ်နိုင်ဖို့ လိုတယ်။

AI is moving so fast.

AI ရွေ့တာာ သိပ်မြန်တယ်။

Today, I'm asking you, does AI understand language

ဒီနေ့ မေးနေတာက ရယ်စရာ မေးခွန်းတစ်ခုလိုထင်ရတဲ့

that might seem like a silly question in ten years.

၁၀ နှစ်အတွင်း AI က ဘာသာစကားကို နားလည်နိုင်လားပါ။

Or ten months.

ဒါမှမဟုတ် ၁၀ လပေါ့။

(Laughter)

(ရယ်သံများ)

But one thing will remain true.

ဒါပေမဲ့ တစ်ခုတော့ မှန်နေမှာပါ။

We are meaning-making humans,

ကျွန်မတို့က အဓိပ္ပာယ်ဖွင့်ဆိုတဲ့

and we are going to continue to look for meaning

လူသားတွေဖြစ်ပြီး အဓိပ္ပါယ်ကို ဆက်လက်ရှာဖွေကာ

and interpret the world around us.

ဝန်းကျင်ကမ္ဘာကို အဓိပ္ပာယ်ဖွင့်ဆိုမှာပါ။

And we will need to remember

ကျွန်မတို့ဟာ AI ရဲ့ အသွင်းနဲ့ အထုတ်ကိုပဲ

that if we only look at the input and output of AI,

ကြည့်ရင်တော့၊ အရူးလုပ်ခံရဖို့

it's very easy to be fooled.

အလွန်လွယ်ကူတာကို သတိရဖို့ လိုပါတယ်။

We need to get inside of the metaphorical room of AI

ဖြစ်ပျက်နေတာတွေကို မြင်နိုင်ဖို့ AI ရဲ့

in order to see what's happening.

ဥပစာ အခန်းထဲကို ဝင်ဖို့လိုပါတယ်။

It's what's inside the counts.

ရုပ်ပိုင်းအသွင်ထက် အရည်အသွေးက အရေးပါတာပါ။

Thank you.

ကျေးဇူးတင်ပါတယ်။

(Applause)

(လက်ခုပ်သံများ)