The danger of AI is weirder than you think | Janelle Shane

Translator: Pyae Sone Reviewer: Sanntint Tint

So, artificial intelligence

ပြောရမယ်ဆိုရင် မှတ်ဉာဏ်တုက

is known for disrupting all kinds of industries.

စက်မှုလုပ်ငန်းတွေကိုတုန်လှုပ် စေတဲ့နေရာမှာလူသိများတယ်။

What about ice cream?

ရေခဲမုန့် အကြောင်းဆိုရင်ကော။

What kind of mind-blowing new flavors could we generate

ကျွန်မတို့စိတ်ထဲမှာတွေးထားတဲ့ အရသာအသစ်တွေကို

with the power of an advanced artificial intelligence?

အဆင့်မြင့်တဲ့ညဏ်ရည်တု တွေသုံးပြီးထုတ်လုပ်နိုင်မှာလား။

So I teamed up with a group of coders from Kealing Middle School

ဒါကြောင့် Kealing အထက်တန်းကျောင်းမှာ ကုတ်ရေးသားသူအုပ်စုတစ်စုနဲ့ အသင်းဖွဲ့ပြီး

to find out the answer to this question.

ဒီမေးခွန်းရဲ့အဖြေကို ရှာဖွေခဲ့တယ်။

They collected over 1,600 existing ice cream flavors,

သူတို့တွေက အခုလက်ရှိမှာရှိသမျှသောရေခဲ မုန့်အရသာ ၁၆၀၀ကျော်လောက် စုဆောင်းခဲ့တယ်။

and together, we fed them to an algorithm to see what it would generate.

ပြီးတော့ ရှိရလာတဲ့ဟာတွေကို ကွန်ပျူတာထဲ အကုန်ထည့်ပြီး ဘာထုတ်လုပ်နိုင်မလဲ ကြည့်တယ်။

And here are some of the flavors that the AI came up with.

ဉာဏ်ရည်တုဆီကနေ အရသာအသစ်အချို့ တွေကတော့

[Pumpkin Trash Break]

ဖရုံသီးအမှိုက်အရသာ

(Laughter)

(ရယ်သံ)

[Peanut Butter Slime]

မြေပဲထောပတ်ရေညှိအရသာ

[Strawberry Cream Disease]

စတော်ဘယ်ရီခရင်ရောဂါအရသာ

(Laughter)

(ရယ်သံ)

These flavors are not delicious, as we might have hoped they would be.

ဒီအရသာတွေက ကျွန်မတို့ မျှော်လင့်ထားတဲ့ အရသာတွေမဟုတ်ဘူး။

So the question is: What happened?

ဒါဆို မေးခွန်းက ဘာတွေဖြစ်သွားလဲ။

What went wrong?

ဘာတွေမှားသွားတာလဲ။

Is the AI trying to kill us?

ဉာဏ်ရည်တုက လူတွေကိုပြန်သတ်နေတာလား။

Or is it trying to do what we asked, and there was a problem?

ဒါမဟုတ် ကျွန်မတို့ပြောတဲ့အတိုင်း လုပ်ဖို့ ကြိုးစားနေတာလား ပြီးတော့ ပြဿနာရှိနေတာလား။

In movies, when something goes wrong with AI,

ရုပ်ရှင်ထဲကလို ဉာဏ်ရည်တုက တစ်ခုခုချိူ့ယွင်းနေတဲ့အခါ

it's usually because the AI has decided

အမြဲလိုလို ဉာဏ်ရည်တုက ဆုံးဖြတ်တာတွေက

that it doesn't want to obey the humans anymore,

လူသားတွေကို လိုက်မနာချင်တော့တာပါ။

and it's got its own goals, thank you very much.

သူမှာရည်ရွယ်ချက်တွေရှိလာတယ်၊ ကျေးဇူးအများကြီးတင်ပါတယ်။

In real life, though, the AI that we actually have

တကယ်ဘ၀မှာတော့ ကျွန်မတို့မှာ ရှိနေတဲ့ ဉာဏ်ရည်တုတွေက

is not nearly smart enough for that.

အဲ့လောက်ထိကို မစွမ်းဆောင်နိုင်သေးပါဘူး

It has the approximate computing power

ဉာဏ်ရည်တုမှာ အနီးစပ်ဆုံးတွက်ချက် နိုင်တဲ့စွမ်းဆောင်ရည်ကတော့

of an earthworm,

တီကောင် တစ်ကောင်

or maybe at most a single honeybee,

ဒါမှမဟုတ် အများဆုံး ပျားတစ်ကောင် လောက်

and actually, probably maybe less.

တကယ်ကတော့ အဲ့ထက်လည်း နည်းကောင်းနည်းနိုင်ပါတယ်။

Like, we're constantly learning new things about brains

ဘာလဲဆိုတော့ ကျွန်မတို့ ဦးနှောက်အကြောင်းကိုပိုသိလာရင်

that make it clear how much our AIs don't measure up to real brains.

ဉာဏ်ရည်တုတွေက ဦးနှောက်အစစ်တွေကို မယှဉ်နိုင်တာကို ရှင်းလင်းစွာသိနိုင်တယ်

So today's AI can do a task like identify a pedestrian in a picture,

ဒါကြောင့် ယနေ့ခေတ်ဉာဏ်ရည်တုက စေ့ဆော်မှု သိပ်မရှိတာတွေပဲလုပ်နိုင်တာတွေ့ရမယ်

but it doesn't have a concept of what the pedestrian is

သို့သော်လည်း စေ့ဆော်မှုမရှိတဲ့ သဘောတရားဆိုတာက

beyond that it's a collection of lines and textures and things.

စာကြောင်းတွေ စာသားတွေ နဲ့အရာ၀တ္ထု ပစ္စည်းတွေ စုဆောင်းထားတာထက်မပိုပါဘူး

It doesn't know what a human actually is.

ဉာဏ်ရည်တုက လူသားက ဘယ်လိုလဲမျိူးလဲဆိုတာမသိနိုင်ပါဘူး

So will today's AI do what we ask it to do?

ဒါဆိုရင် ယနေ့ခေတ်မှာရှိတဲ့ ဉာဏ်ရည်တု တွေက ဘာတွေလုပ်ဆောင်နိုင်သလဲ

It will if it can,

တတ်နိုင်ရင် လုပ်ဆောင်ပါလိမ့်မယ်

but it might not do what we actually want.

ကျွန်မတို့ လိုချင်တာကို လုပ်ဆောင်ပေးနိုင်မှာမဟုတ်ပါဘူး

So let's say that you were trying to get an AI

ဒါကြောင့် ပြောရမယ်ဆိုရင် သင်က ဉာဏ်ရည်တုကို

to take this collection of robot parts

စုစည်းထားတဲ့ စက်ရုပ်အစိတ်အပိုင်း တွေ ယူလာခိုင်းမယ်

and assemble them into some kind of robot to get from Point A to Point B.

ပြီးရင် အပိုင်းတွေကို စက်ရုပ်ဖြစ်အောင် ဆက်ခိုင်းပြီး အမှတ် A ကနေBကိုသွားခိုင်းမယ်

Now, if you were going to try and solve this problem

သင်သာ အခုပြဿနာကို ကြိုးစား ပြီးဖြေရှင်းတော့မယ်ဆိုရင်

by writing a traditional-style computer program,

ရေးနေကျဖြစ်တဲ့ ပရိုဂရမ်ရေး ပြီးဖြေရှင်းပါလိမ့်မယ်

you would give the program step-by-step instructions

တစ်ဆင့်ပြီးတဆင့် ညွှန်ကြားချက်တွေပေးမယ်

on how to take these parts,

အပိုင်းတွေကို ဘယ်လိုသယ်ရမယ်

how to assemble them into a robot with legs

ခြေထောက်ပါ အောင်ဘယ်လို တပ်ဆင်ရမယ်

and then how to use those legs to walk to Point B.

အမှတ်B ရောက်အောင်ဘယ်လို လမ်းလျှောက်ရမယ်

But when you're using AI to solve the problem,

ဉာဏ်ရည်တုကိုသုံးပြီး ဖြေရှင်းတော့တဲ့အခါ

it goes differently.

ခြားနားပါလိမ့်မယ်

You don't tell it how to solve the problem,

သင်က ပြဿနာကိုဘယ်လိုဖြေရှင်းရမယ်ဆိုတာ

you just give it the goal,

ပန်းတိုင်သတ်မှတ်ရန်မပြောပြပါက

and it has to figure out for itself via trial and error

စမ်းသပ်လိုက် မှားလိုက်နဲ့ အဖြေကိုရှာဖွေမယ်

how to reach that goal.

ပန်းတိုင်ကိုဘယ်လိုရောက်ရှိအောင်

And it turns out that the way AI tends to solve this particular problem

ပြီးတော့ ဉာဏ်ရည်တုက သီးခြားပြဿနာ တွေကို ဖြေရှင်းလာနိုင်လိမ့်မယ်

is by doing this:

ဒီလိုလုပ်ဆောင်ခြင်းအားဖြင့်ပေါ့

it assembles itself into a tower and then falls over

သူ့ဘာသာ တာဝါတိုင်ထောင်မယ် ပြီးတော့ လဲကျမယ်

and lands at Point B.

အမှတ် B မှာကျမယ်

And technically, this solves the problem.

နည်းပညာဆန်စွာ ပြဿနာကိုဖြေရှင်းနိုင်မယ်

Technically, it got to Point B.

အမှတ် B ကိုရောက်အောင်လုပ်မယ်

The danger of AI is not that it's going to rebel against us,

ဉာဏ်ရည်တုတွေရဲ့ အန္တရာယ်က ကျွန်မတို့ကို ပုန်ကန်မှာမဟုတ်ဘူး

it's that it's going to do exactly what we ask it to do.

ကျွန်မတို့တောင်းဆိုတဲ့ အတိုင်းတိတိ ကျကျလုပ်ဆောင်ပေးခြင်းဖြစ်တယ်

So then the trick of working with AI becomes:

ဉာဏ်ရည်တုကိုသုံးပြီး အလုပ် လုပ်ရတော့ရင် နည်းလမ်းက

How do we set up the problem so that it actually does what we want?

ကျွန်မတို့လိုချင်တာကိုလုပ်ဆောင်ပေးနိုင် ဖို့ ပြဿနာတစ်ရပ်ကို ဘယ်လိုတည်ဆောက်ရမှာလဲ

So this little robot here is being controlled by an AI.

ဒီမှာရှိတဲ့ စက်ရုပ်သေးသေးလေးကို ဉာဏ်ရည်တုထိန်းချူပ်နေတယ်

The AI came up with a design for the robot legs

ဉာဏ်ရည်တုက စက်ရုပ်ခြေထောက်တွေရဲ့ ဒီဇိုင်းကို စဉ်းစားခဲ့တယ်

and then figured out how to use them to get past all these obstacles.

ပြီးတော့ အတားအဆီးတွေကိုကျော်လွန်ဖို့ ဒါတွေဘယ်လိုအသုံးပြုရမလဲဆိုတာ အဖြေရှာဖွေတယ်

But when David Ha set up this experiment,

ဒါပေမဲ့ David Ha က ဒီလက်တွေ့ စမ်းသပ်ချက်ကိုလုပ်ဆောင်တဲ့အခါ

he had to set it up with very, very strict limits

သူအရမ်းအရမ်းကိုတင်းကျပ်တဲ့ ကန့်သတ်ချက်တွေနဲ့ တပ်ဆင်ခဲ့ရတယ်

on how big the AI was allowed to make the legs,

ဉာဏ်ရည်တုက ခြေထောက်ဘယ်လောက် ကြီးကြီး ခွင့်ပြုထားတဲ့အပေါ်မူတည်ပြီး

because otherwise ...

ဘာလို့လဲဆိုတော့ အဲ့လိုမှမဟုတ်ရင်

(Laughter)

(ရယ်သံ)

And technically, it got to the end of that obstacle course.

ပြီးတော့ နည်းပညာဆန်ဆန် အတားအဆီး ကျော်ဖြတ်တဲ့သင်ခန်းစာကို ပြီးဆုံးခဲ့တယ်

So you see how hard it is to get AI to do something as simple as just walk.

ဉာဏ်ရည်တုနဲ့ လမ်းလျှောက်ဖို့အတွက်တောင် ဘယ်လောက်ခက်ခက်လုပ်ရလဲဆိုတာ တွေ့နိုင်တယ်

So seeing the AI do this, you may say, OK, no fair,

သင်က ဉာဏ်ရည်တုဒီလိုလုပ်တာကို မြင်ရင် အဆင်ပြေပါတယ် မမျှတဘူးလို့ပြောနိုင်ပါတယ်

you can't just be a tall tower and fall over,

သင်က တာဝါအရှည်လည်းမဟုတ်ဘူး လဲကျမှာလည်းမဟုတ်ဘူး

you have to actually, like, use legs to walk.

သင်တကယ်လုပ်ရဖို့လိုတာက ခြေထောက်အသုံးပြုပြီးလမ်းလျှောက်ရုံပါပဲ

And it turns out, that doesn't always work, either.

ပြီးတော့ လှည့်ပြီးထွက်သွားဖို့ ဆိုတာကလည်းမဖြစ်နိုင်ပါဘူး

This AI's job was to move fast.

ဒီဉာဏ်ရည်တုရဲ့အလုပ်က မြန်မြန်ဆန်ဆန်သွားဖို့ပါပဲ

They didn't tell it that it had to run facing forward

မျက်နှာမူရာရှေ့ဘက်ကိုပြေးဖို့

or that it couldn't use its arms.

ဒါမှမဟုတ် လက်ကိုသုံးပြီးပြေး ဖို့မပြောထားဘူး

So this is what you get when you train AI to move fast,

ဒါကသင် ဉာဏ်ရည်တုကိုမြန်မြန်ပြေးဖို့ သင်ပေးတဲ့အခါမှာ ကြုံတွေ့ရမှာတွေက

you get things like somersaulting and silly walks.

အေးရိုးဗစ်ကစားတဲ့အခါပြေးတဲ့ပုံမျိူးနဲ့ ရူးကြောင်ကြောင်လမ်းလျှောက်လိမ့်မယ်

It's really common.

ဒါကတကယ်တော့ ပုံမှန်ပါပဲ

So is twitching along the floor in a heap.

အမှိုက်ပုံထဲရောက်ပြီး ကြမ်းပြင်ပေါ်မှာ တုန်တုန်နဲ့သွားနေတာတွေ

(Laughter)

(ရယ်သံ)

So in my opinion, you know what should have been a whole lot weirder

ဒါဆို ဒီကိစ္စတစ်ခုလုံးရူးကြောင်နိုင် နေခဲ့တာတွေပဲ သိထားတယ်

is the "Terminator" robots.

ဒုက္ခပေးတဲ့ စက်ရုပ်တွေလား

Hacking "The Matrix" is another thing that AI will do if you give it a chance.

အခွင့်အရေးထပ်ပေးရင်နောက်ထပ်လုပ်နိုင် တာ "The Matrix" ကိုဖောက်ထွင်းခြင်းဖြစ်တယ်

So if you train an AI in a simulation,

ကွန်ပျူတာနဲ့ဖန်တီးထားတဲ့ ပတ်ဝန်းကျင်မှာသင်ကြားပေးရင်

it will learn how to do things like hack into the simulation's math errors

သင်္ချာအမှားတွေကို ဖောက်ထွင်း ခြင်းကဲ့သို့သောအရာတွေ

and harvest them for energy.

စွမ်းအင်အတွက်အမှားတွေပယ်ခြင်းကို သင်ယူလိမ့်မယ်

Or it will figure out how to move faster by glitching repeatedly into the floor.

ဒါမှမဟုတ် မလှုပ်ရှားတော့ဘဲ ဘယ်လို အမြန်သွားလို့ရမလဲ အထပ်ထပ် အဖြေရှာလိမ့်မယ်

When you're working with AI,

ဉာဏ်ရည်တုနဲ့အလုပ်လုပ်တဲ့အခါ

it's less like working with another human

တခြားလူသားတစ်ယောက်နဲ့ တွဲလုပ်နေတာနဲ့မတူပါဘူး

and a lot more like working with some kind of weird force of nature.

သဘာ၀အတိုင်းပုံမှန်မဟုတ်တဲ့ဟာမျိူးနဲ့ အလုပ်လုပ်နေရတာနဲ့တူပါတယ်

And it's really easy to accidentally give AI the wrong problem to solve,

မှားယွင်းတဲ့ပြဿနာကိုဖြေရှင်းဖို့ မတော်မဆလွယ်ကူစွာပေးနိုင်တယ်

and often we don't realize that until something has actually gone wrong.

မကြာခဏဆိုသလို ကျွန်မတို့မမှားဘူးလို့ ထင်ထားတာတွေကို မယုံကြည်တော့တာမျိူးတွေ

So here's an experiment I did,

အခုဟာ ကျွန်မလက်တွေ့စမ်းသပ်ထားခဲ့တာတွေပါ

where I wanted the AI to copy paint colors,

အဲဒီနေရာမှာ ဆေးရောင်တွေကို ကူးယူဖို့အတွက် ဉာဏ်ရည်တုကိုသုံးထားခဲ့တယ်

to invent new paint colors,

အသစ်တွေကို ဖန်တီးဖို့အတွက်ပေါ့

given the list like the ones here on the left.

ပေးထားတဲ့အရောင်တွေကအခုဘယ်ဘက်မှာပါ

And here's what the AI actually came up with.

ဒါကတော့ဉာဏ်ရည်တုအမှန် တကယ် စဉ်းစားထားတဲ့ဟာတွေပါ

[Sindis Poop, Turdly, Suffer, Gray Pubic]

ကုန်းပတ်ကနေရောင်၊ နေရောင်၊ ခံစားရသောအရောင်၊ ဆီးခုံအရောင်

(Laughter)

(ရယ်သံ)

So technically,

နည်းပညာဆန်စွာပဲ

it did what I asked it to.

ကျွန်မတောင်းဆိုထားသလို လုပ်ထားခဲ့တယ်

I thought I was asking it for, like, nice paint color names,

ကျွန်မထင်တာကတော့ ကျွန်မတောင်းဆို ထားတဲ့ အရောင်ကောင်းကောင်းတွေပေါ့

but what I was actually asking it to do

ဒါပေမဲ့ ကျွန်မအမှန်တကယ် တောင်းဆိုခဲ့တာကတော့

was just imitate the kinds of letter combinations

အက္ခရာတွေစုစည်းထားတာကို တုပထားတာပဲဖြစ်တယ်

that it had seen in the original.

မူလကတွေ့ထားတဲ့ဟာတွေကိုပေါ့

And I didn't tell it anything about what words mean,

ပြီးတော့ ကျွန်မကစာလုံးတွေရဲ့ အဓိပ္ပာယ်ကိုလုံး၀ကိုမပြောပြထားဘူး

or that there are maybe some words

ဒါမှမဟုတ် ဒီအရောင်တွေ အသုံးပြုတာကိုရှောင်ရှားဖို့အတွက်

that it should avoid using in these paint colors.

စာလုံးတချို့ရှိကောင်းရှိနေနိုင်တယ်

So its entire world is the data that I gave it.

ဒါကြောင့်သူသိထားတာအားလုံးက ကျွန်မပေးထားတဲ့ အချက်အလက်တွေပဲဖြစ်တယ်

Like with the ice cream flavors, it doesn't know about anything else.

ရေခဲမုန့်အရသာတုန်းကလိုပေါ့ အဲ့ဒါကဘာမှသိတာမဟုတ်ဘူး

So it is through the data

သူက အချက်အလက်တွေကိုပဲသိတာ

that we often accidentally tell AI to do the wrong thing.

ဒါကြောင့် ကျွန်မတို့က ဉာဏ်ရည်တုကို မတော်မဆမှားယွင်းတာတွေကို ခိုင်းနိုင်မိတယ်

This is a fish called a tench.

ဒီငါးကို ကကတစ်ငါးလို့ခေါ်ပါတယ်

And there was a group of researchers

သုတေသနပြုလုပ်တဲ့အုပ်စုတစ်စုရှိခဲ့တယ်

who trained an AI to identify this tench in pictures.

ဒီပုံထဲကကကတစ်ငါးကိုခွဲခြားသတ် မှတ်ဖို့အတွက်ဉာဏ်ရည်တုကို သင်ကြားပေးခဲ့တယ်

But then when they asked it

ဒါပေမဲ့ ပြီးတဲ့အခါ

what part of the picture it was actually using to identify the fish,

ရုပ်ပုံရဲ့ဘယ်အပိုင်းကို အမှန်တကယ် ငါးဖြစ်ပါတယ်ဆိုတာ မေးမြန်းသောအခါ

here's what it highlighted.

ထင်ရှားစွာဖော်ပြထားတယ်

Yes, those are human fingers.

ဟုတ်ပါတယ် အဲ့ဒါတွေကလူသားလက်ချောင်းတွေပါ

Why would it be looking for human fingers

ဘာကြောင့်အဲ့တာကလူလက် ချောင်းတွေကိုရှာနေရတာလဲ

if it's trying to identify a fish?

တကယ်လို့ ငါးတွေကိုသာ ရှာနေတယ်ဆိုရင်ပေါ့

Well, it turns out that the tench is a trophy fish,

ကောင်းပီ သူကရှာဖွေရမယ့် ကကတစ်ငါးဘက်ကိုလှည့်လာပါပီ

and so in a lot of pictures that the AI had seen of this fish

သင်ကြားနေစဉ်အတောအတွင်းမှာ ဉာဏ်ရည်တုက ကကတစ်ငါးပုံ

during training,

အများကြီး မြင်ဖူးပြီပြီ

the fish looked like this.

ငါးတွေကတော့ ဒီလိုပုံတွေပါ

(Laughter)

(ရယ်သံ)

And it didn't know that the fingers aren't part of the fish.

အဲဒါက လက်ချောင်းတွေက ငါးမဟုတ်ဘူးဆိုတာကို သိပုံမပေါ်ဘူး

So you see why it is so hard to design an AI

ဉာဏ်ရည်တုက သူကြည့်နေတာကို နားလည်အောင် ပုံဖော်ဖို့ဆိုတာကိုပဲ

that actually can understand what it's looking at.

အရမ်းခက်ခဲမှန်း သိပြီထင်ပါတယ်

And this is why designing the image recognition

အလိုအလျောက်မောင်းနှင်တဲ့ ကားတွေမှာပုံတွေကိုမှတ်မိအောင်

in self-driving cars is so hard,

ဒီဇိုင်းလုပ်နေရတာက အရမ်းခက်ခဲပါတယ်

and why so many self-driving car failures

ပြီးတော့အလိုအလျောက်မောင်း တဲ့ကားတွေပျက်စီးရတာ

are because the AI got confused.

ဉာဏ်ရည်တုတွေ ရှုပ်ထွေးမှု တွေဖြစ်တဲ့အတွက်ကြောင့်ဖြစ်တယ်

I want to talk about an example from 2016.

၂၁၀၆ခုနစ်တုန်းက နမူနာ တစ်ခုကိုပြောပြချင်ပါတယ်

There was a fatal accident when somebody was using Tesla's autopilot AI,

Tesla ရဲ့ ဉာဏ်ရည်တုကိုသုံးပြီးအလိုအလျောက် မောင်းအသုံးပြုစဉ် မတော်တဆမှုဖြစ်ခဲ့ဖူးတယ်

but instead of using it on the highway like it was designed for,

အမြန်လမ်းမှာမောင်းဖို့ဒီဇိုင်း လုပ်ထားတာကိုအမြန်လမ်းမှာမောင်းမယ့်အစား

they used it on city streets.

မြို့ထဲကလမ်းပေါ်မှာမောင်းနှင်ခဲ့တယ်

And what happened was,

ဘာဖြစ်ခဲ့လဲဆိုတော့

a truck drove out in front of the car and the car failed to brake.

ထရပ်ကားရှေ့ကိုရောက်သွားပြီး ဘရိတ်မအုပ်နိုင်ခဲ့တာဖြစ်တယ်

Now, the AI definitely was trained to recognize trucks in pictures.

အခုဆိုရင် ဉာဏ်ရည်တုကိုထရပ်ကားတွေရဲ့ပုံတွေ မှတ်မိဖို့လုံး၀ကိုသင်ကြားပြီးပါပြီ

But what it looks like happened is

ဒါပေမဲ့ ဖြစ်ပျက်ခဲ့တာကဘာနဲ့တူတာလဲဆိုတော့

the AI was trained to recognize trucks on highway driving,

အမြန်လမ်းပေါ်မှာရှိတဲ့ ထရပ်ကားတွေကိုမှတ်မိအောင်သင်ပေးခဲ့တယ်

where you would expect to see trucks from behind.

အမြန်လမ်းပေါ်မှာထရပ်ကားတွေ ကအနောက်မှာပဲရှိမှာပဲ

Trucks on the side is not supposed to happen on a highway,

အမြန်လမ်းပေါ်မှာဆိုရင် ထရပ်ကားက ဘေးဘက်မှာရှိမယ်မယူဆထားပါဘူး

and so when the AI saw this truck,

ဒါကြောင့် ဉာဏ်ရည်တုက ထရပ်ကားကိုမြင်လိုက်တဲ့အခါ

it looks like the AI recognized it as most likely to be a road sign

လမ်းအမှတ်အသားလို့ယူဆလိုက်ပုံရတယ်

and therefore, safe to drive underneath.

အန္တရာယ်ကင်းတယ်ထင်ပြီး အောင်ဘက်ကိုဝင်သွားတယ်

Here's an AI misstep from a different field.

ကွဲပြားတဲ့နယ်ပယ်မှာ မှားလှမ်းမိတဲ့ခြေလှမ်းပေါ့

Amazon recently had to give up on a résumé-sorting algorithm

အမေဇုန်ကတော့မကြာခင်ကအလုပ်လျှောက်လွှာ တွေကို စိစစ်တာအလုပ်လုပ်ဆောင်နိုင်သော

that they were working on

ပရိုဂရမ်ကိုစွန့်ခဲ့တယ်

when they discovered that the algorithm had learned to discriminate against women.

အဲဒီပရိုဂရမ်မှာအမျိူးသမီးတွေကိုခွဲခြား ဆက်ဆံတတ်အောင်သင်ပေးတာကိုရှာတွေ့တဲ့အခါပေါ့

What happened is they had trained it on example résumés

အရင်ကလုပ်ခဲ့တဲ့လူတွေရဲ့ နမူနာလျှောက်လွှာတွေနဲ့

of people who they had hired in the past.

သင်ကြားပေးခဲ့လို့ဖြစ်တယ်

And from these examples, the AI learned to avoid the résumés of people

ပြီးတော့အဲ့နမူနာဆီကနေ ဉာဏ်ရည်တုက

who had gone to women's colleges

အမျိူးသမီးတက္ကသိုလ်တတ်ရောက်ဖူးတဲ့သူတွေ

or who had the word "women" somewhere in their resume,

လျှောက်လွှာတစ်နေရာရာမှာ အမျိူးသမီးဆိုတဲ့စာလုံးပါလာခဲ့လျှင်

as in, "women's soccer team" or "Society of Women Engineers."

အမျိူးသမီးဘောလုံးအသင်း ဒါမှမဟုတ်အင်ဂျင်နီ ယာအသင်း စတာတွေပါလာခဲ့လျှင် မရွေးချယ်ပါဘူး

The AI didn't know that it wasn't supposed to copy this particular thing

ဉာဏ်ရည်တုက ဒီလိုလူသားတွေသာ လုပ်နိုင်တဲ့သီးခြားအလုပ်တွေကို

that it had seen the humans do.

ကူးယူရမယ်ဆိုတာ သိရှိခဲ့ပါဘူး

And technically, it did what they asked it to do.

နည်းပညာဆန်စွာပြောရရင် တောင်းဆိုထား တာကိုလုပ်ဆောင်ခဲ့ခြင်းဖြစ်ပါတယ်

They just accidentally asked it to do the wrong thing.

မှားယွင်းတဲ့အရာတွေကိုမတော် တဆတောင်းဆိုမိခြင်းပဲဖြစ်တယ်

And this happens all the time with AI.

ဒါတွေက ဉာဏ်ရည်တုမှာတစ်ချိန်လုံးဖြစ်နေတာပါ

AI can be really destructive and not know it.

ဉာဏ်ရည်တုက ဖျက်ဆီးနိုင်စွမ်းရှိတယ် ပြီးတော့ အဲ့တာကမသိဘူး

So the AIs that recommend new content in Facebook, in YouTube,

ဉာဏ်ရည်တုက facebookတို့ youtube တို့မှာရှိ တဲ့အကြောင်းအရာတွေကို ညွှန်းဆိုနိုင်ပါတယ်

they're optimized to increase the number of clicks and views.

ကလင့်နှိပ်ပြီးကြည့်ရှုနှုန်းတိုးများလာ အောင်လည်း အသုံးပြုနိုင်ပါတယ်

And unfortunately, one way that they have found of doing this

ကံမကောင်းစွာပဲ ဒီလိုလုပ်လိုက်တဲ့အတွက် တွေ့ရှိလာတဲ့နည်းလမ်းတစ်ခုက

is to recommend the content of conspiracy theories or bigotry.

မကောင်းမှုကျူးလွန်တာ ဒါမှမဟုတ် ဝါဒဖြန့်တာ တွေကျူးလွန်လာနိုင်တယ်လို့ အကြုံပြုထားပါတယ်

The AIs themselves don't have any concept of what this content actually is,

ဉာဏ်ရည်တုကတော့ တကယ်ဘာအကြောင်းအရာတွေပါ ဝင်လာတာလဲဆိုတာ သိနိုင်တဲ့သဘောတရားမရှိပါဘူး

and they don't have any concept of what the consequences might be

ပြီးတော့ အကြံပြုထားတဲ့အကြောင်း အရာတွေရဲ့အကျိူးဆက်က

of recommending this content.

ဘာဖြစ်မလဲဆိုတာကို သိနိုင်သဘောတရားမရှိပါဘူး

So, when we're working with AI,

ဒါကြောင့် ဉာဏ်ရည်တု တွေနဲ့အလုပ်လုပ်တဲ့အခါ

it's up to us to avoid problems.

ပြဿနာတွေကိုရှောင်ဖို့ဆိုတာ ကျွန်မတို့အပေါ်မူတည်ပါတယ်

And avoiding things going wrong,

ရှောင်တဲ့အရာတွေက မှားယွင်းသွားက

that may come down to the age-old problem of communication,

အရင်ခေတ်က ဆက်သွယ်ရေးပြဿနာတွေ ဖြစ်တဲ့လူသားတွေက ဉာဏ်ရည်တုကို

where we as humans have to learn how to communicate with AI.

ဘယ်လိုဆက်သွယ်ရမလဲ အခြေအနေကိုကြုံရလိမ့်မယ်

We have to learn what AI is capable of doing and what it's not,

ကျွန်မတို့ကဉာဏ်ရည်တုသည်ဘာတွေစွမ်းဆောင် တယ်ဘာတွေမစွမ်းဆောင်ဘူးဆိုတာကိုသင်ယူရမယ်

and to understand that, with its tiny little worm brain,

တီကောင်လောက်သေးငယ်တဲ့ ဦးနှောက်ကိုနားလည်ရမယ်

AI doesn't really understand what we're trying to ask it to do.

ဉာဏ်ရည်တုက ကျွန်မတို့တောင်းဆိုတာ ကိုတကယ်နားလည်မှာမဟုတ်ဘူး

So in other words, we have to be prepared to work with AI

နောက်ပြောရရင် ကျွန်မတို့ကဉာဏ်ရည်တု နဲ့အလုပ်လုပ်ဖို့ပြင်ဆင်ထားရမယ်

that's not the super-competent, all-knowing AI of science fiction.

ဉာဏ်ရည်တုနဲ့ပတ်သက်တဲ့သိပ္ပံကားတွေအားလုံး သိထားခြင်းက လုံး၀လုံလောက်နေတာမဟုတ်ပါဘူး

We have to be prepared to work with an AI

ဉာဏ်ရည်တုနဲ့အလုပ်လုပ် ဖို့ကိုပြင်ကိုပြင်ဆင်ထားခြင်းက

that's the one that we actually have in the present day.

ကျွန်မတို့အမှန်တကယ်ရှိနေတဲ့ ပစ္စုပ္ပန်ကာလ ကိုရောက်နေတာဖြစ်တယ်

And present-day AI is plenty weird enough.

အခုလက်ရှိမှာရှိတဲ့ ဉာဏ်ရည်တုကတော့ ကြောင်တောင်တောင်ဖြစ်နေတုန်းပါပဲ

Thank you.

ကျေးဇူးတင်ပါတယ်

(Applause)

(လက်ခုပ်သံ)