Is AI the most important technology of the century?

Translator: Sanntint Tint Reviewer: Myo Aung

What's the most important century in human history?

လူ့သမိုင်းမှာ အရေးကြီးဆုံး ရာစုနှစ်က ဘာလဲ။

Some might argue it’s a period of extensive military campaigning,

နိုင်ငံရေးနဲ့ ယဉ်ကျေးမှု နယ်နိမိတ်တွေကို ပြန်လည်ပုံဖော်ပေးတဲ့

like Alexander the Great’s in the 300s BCE,

ခရစ်နှစ်မတိုင်မီ ၃၀၀ ပြည့်နှစ်တွေမှာ Alexander the Great လို

which reshaped political and cultural borders.

ကျယ်ပြန့်တဲ့ စစ်ရေး လှုံ့ဆော်မှု ကာလလို့ တချို့က စောဒကတက်နိုင်တယ်။

Others might cite the emergence of a major religion,

အခြားသူတွေက ဒီလိုနယ်နိမိတ်တွေ တစ်လျှောက် တန်ဖိုးတွေကို

such as Islam in the 7th century,

ပေါင်းစု၊ ဖြန့်ကျက်ပေးတဲ့ ၇ ရာစုအတွင်းက

which codified and spread values across such borders.

အစ္စလာမ်လို အဓိက ဘာသာတရားတစ်ခု ပေါ်ထွန်းလာမှုကို ကိုးကားနိုင်တယ်။

Or perhaps it’s the Industrial Revolution of the 1700s

ဒါမှမဟုတ် ကမ္ဘာ့ ကုန်သွယ်မှုကို ပြောင်းလဲခဲ့ပြီး လုပ်အားနဲ့ လူသား

that transformed global commerce

ဆက်ဆံရေးကို ပြန်လည်သတ်မှတ်ခဲ့တဲ့

and redefined humanity's relationship with labor.

၁၇၀၀ ပြည့်လွန်နှစ်တွေရဲ့ စက်မှု တော်လှန်ရေးဖြစ်လောက်တယ်။

Whatever the answer, it seems like any century vying for that top spot

အဖြေက ဘာပဲဖြစ်ဖြစ်၊ ဘိုးဘေးဘီဘင်တွေရဲ့ လုပ်ဆောင်ချက်တွေက လာမယ့် ရာစုတွေအတွက်

is at a moment of great change—

လူသားတွေရဲ့လမ်းကြောင်းကို ပြောင်းလိုက်တဲ့အခါ

when the actions of our ancestors shifted humanity’s trajectory

အဲဒီထိပ်တန်း နေရာအတွက် ရာစုနှစ်တိုင်း ပြိုင်ဆိုင်မှုက ကြီးစွာတဲ့ အပြောင်းအလဲရဲ့

for centuries to come.

အခိုက်အတန့်တစ်ခုမှာ ရှိနေပုံရတယ်။

So if this is our metric, is it possible that right now—

ဒီတော့ ဒါက ကျွန်တော်တို့ရဲ့စံတစ်ခုဆိုရင်၊

this century— is the most important one yet?

အခု- ဒီရာစုနှစ်က အရေးပါဆုံးတစ်ခု ဖြစ်နိုင်သေးလား။

The 21st century has already proven to be a period of rapid technological growth.

၂၁ ရာစုက အရှိန်အဟုန်နဲ့ တိုးတက်နေတဲ့ နည်းပညာခေတ်ဆိုတာကို သက်သေပြခဲ့ပြီးပါပြီ။

Phones and computers have accelerated the pace of life.

ဖုန်းတွေနဲ့ ကွန်ပျူတာတွေက ဘဝရဲ့အဟုန်ကို အရှိန်မြှင့်ပေးခဲ့တယ်။

And we’re likely on the cusp of developing new transformative technologies,

လူတွေရဲ့နေထိုင်မှုပုံစံကို လုံးဝ ပြောင်းလဲ သွားစေမယ့် အဆင့်မြင့် ဉာဏ်ရည်တုလို

like advanced artificial intelligence,

အသွင်ပြောင်း နည်းပညာအသစ်တွေ

that could entirely change the way people live.

တီထွင်ထုတ်လုပ်တာရဲ့ အဖျားစွန်းမှာ ကျွန်တော်တို့ ရှိနေလောက်ပါတယ်။

Meanwhile, many technologies we already have

တစ်ချိန်တည်းမှာ ရှိနေပြီဖြစ်တဲ့ နည်းပညာများစွာက

contribute to humanity’s unprecedented levels of existential risk—

လူသားမျိုးနွယ်ရဲ့ မကြုံစဖူး ဖြစ်တည်မှု အန္တရာယ် အဆင့်တွေကို ဖြစ်ပေါ်စေပါတယ်။

that’s the risk of our species going extinct

ဒါက မျိုးစိတ်တွေ မျိုးသုဉ်းသွားမယ့် အန္တရာယ်

or experiencing some kind of disaster that permanently limits

ဒါမဟုတ် လူသားမျိုးနွယ်ရဲ့ ကြီးထွား၊ ရှင်သန်နိုင်စွမ်းကို ထာဝရကန့်သတ်တဲ့

humanity’s ability to grow and thrive.

ဘေးဒုက္ခတစ်မျိုးမျိုးနဲ့ ကြုံတွေ့နေရတာပါ။

The invention of the atomic bomb marked a major rise in existential risk,

အဏုမြူဗုံးတီထွင်မှုက ဖြစ်တည်မှုအန္တရာယ်ကို ကြီးမားစွာ မြင့်တက်စေခဲ့တာကို သတ်မှတ်ပြီး

and since then we’ve only increased the odds against us.

အဲဲဒီအချိန်ကတည်းက ဆန့်ကျင်ဘက်တွေပဲ တိုးလာခဲ့တယ်။

It’s profoundly difficult to estimate the odds

ဒီရာစုနှစ်မှာ ဖြစ်နေတဲ့ ဖြစ်တည်မှု ပြိုလဲခြင်းရဲ့

of an existential collapse occurring this century.

အလားအလာကို ခန့်မှန်းဖို့ အလွန်ခက်ခဲပါတယ်။

Very rough guesses put the risk of existential catastrophe

အကြမ်းဖျင်းဆန်တဲ့ မှန်းဆချက်တွေက အဏုမြူ ဆောင်းရာသီနဲ့ ရာသီဥတု

due to nuclear winter and climate change at around 0.1%,

ဖောက်ပြန်မှုကြောင့် ဖြစ်တည်မှု ကပ်ဆိုးကို ၀.၁% ခန့် ဖြစ်ပေါ်စေပြီး

with the odds of a pandemic causing the same kind of collapse

ကပ်ရောဂါရဲ့ အလားအလာက ကြောက်စရာ ၃ % မှာ အလားတူ ပြိုကျမှုမျိုး

at a frightening 3%.

ဖြစ်နေစေတယ်။

Given that any of these disasters could mean the end of life as we know it,

ဒီဘေးတွေက သိထားကြတဲ့အတိုင်း သက်ရှိ တွေရဲ့ အဆုံးသတ်ကို ဆိုလိုနိုင်တာကြောင့်၊

these aren’t exactly small figures,

ဒါတွေက အတိအကျ သေးငယ်တဲ့ ကိန်းတွေ မဟုတ်ဘူး၊

And it’s possible this century could see the rise of new technologies

ဒီရာစုနှစ်မှာ နောက်ထပ် ဖြစ်တည်မှု အန္တရာယ်တွေကို မိတ်ဆက်ပေးတဲ့ နည်းပညာသစ်တွေ

that introduce more existential risks.

တိုးမြင့်လာတာကို တွေ့မြင်နိုင်လောက်တယ်။

AI ကျွမ်းကျင်ပညာရှင်တွေက အထွေထွေ ဉာဏ်ရည်တု ထွက်ပေါ်လာချိန်နဲ့

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

ပတ်သက်ပြီး ကျယ်ပြန့်တဲ့ ခန့်မှန်းချက်များစွာရှိပေမဲ့၊

but according to some surveys, many believe it could happen this century.

တချို့စစ်တမ်းတွေအရ အတော်များများက ဒီရာစုနှစ်မှာ ဖြစ်နိုင်တယ်လို့ ယုံကြည်တယ်။

Currently, we have relatively narrow forms of artificial intelligence,

လောလောဆယ်တော့၊ စစ်တုရင်ကစားတာ ဒါမဟုတ် မျက်နှာတွေကို မှတ်မိတာလို

which are designed to do specific tasks like play chess or recognize faces.

သီးခြားအလုပ်တွေ လုပ်ဆောင်ဖို့ ထုတ်ထားတဲ့ အတော်လေးကျဉ်းတဲ့ ဉာဏ်ရည်တု ပုံစံ ရှိတယ်။

Even narrow AIs that do creative work are limited to their singular specialty.

ဖန်တီးမှုလုပ်တဲ့ ကျဉ်းမြောင်းတဲ့ AI တောင် တစ်မူထူးတဲ့ကျွမ်းကျင်မှုမှာ ကန့်သတ်ထားတယ်။

But artificial general intelligences, or AGIs,

ဒါပေမဲ့ အထွေထွေ ဥာဏ်ရည်တု ဒါမှမဟုတ် AGIs တွေက

would be able to adapt to and perform any number of tasks,

ဘယ်အလုပ် ပမာဏကိုမဆို လိုက်ဖက်အောင် လုပ်ဆောင်နိုင်မှာဖြစ်ပြီး

quickly outpacing their human counterparts.

သူတို့ရဲ့ လူသား အဆင့်တူတွေကို မြန်မြန် ကျော်လွန်နိုင်မှာပါ။

There are a huge variety of guesses about what AGI could look like,

AGIs တွေရဲ့ ပုံသဏ္ဍာန်နဲ့ ပတ်သက်ပြီး ကြီးမားတဲ့ ခန့်မှန်းချက်အမျိုးမျိုးရှိကာ၊

and what it would mean for humanity to share the Earth

ဒါက လူသားမျိုးနွယ်က ကမ္ဘာမြေကို အခြား အာရုံသိ အရာတစ်ခုနဲ့

with another sentient entity.

မျှဝေဖို့လို့ ဆိုလိုမှာပါ။

AGIs might help us achieve our goals,

AGIs တွေက လူတွေရဲ့ပန်းတိုင်တွေ ပြီးမြောက်ဖို့ ကူညီပေးနိုင်ပြီး၊

they might regard us as inconsequential,

လူတွေကို အရေးမပါတာအဖြစ် သဘောထားတာ၊

or, they might see us as an obstacle to swiftly remove.

ဒါမှမဟုတ် အမြန် ဖယ်ရှားဖို့ အတားအဆီးတစ်ခုအဖြစ် မြင်နိုင်လောက်တယ်။

So in terms of existential risk,

ဒါကြောင့် ဖြစ်တည်မှု အန္တရာယ်နဲ့ ပတ်သက်ပြီး၊

it's imperative the values of this new technology align with our own.

ဒီနည်းပညာသစ်ရဲ့ တန်ဖိုးတွေက လူတွေရဲ့ ကိုယ်ပိုင်တန်ဖိုးနဲ့ ကိုက်ညီဖို့လိုအပ်တယ်။

This is an incredibly difficult philosophical and engineering challenge

ဒါက သိမ်မွေ့ပြီး စဉ်းစားတွေးခေါ်တဲ့ အလုပ်များစွာ လိုအပ်တဲ့

that will require a lot of delicate, thoughtful work.

အလွန်ခက်ခဲတဲ့ အတွေးအခေါ်နဲ့ အင်ဂျင်နီယာဆိုင်ရာ စိန်ခေါ်မှုတစ်ခုပါ။

Yet, even if we succeed, AGI could still lead to another complicated outcome.

ဒါပေမဲ့ အောင်မြင်ရင်တောင်၊AGI က နောက်ထပ် ရှုပ်ထွေးတဲ့ရလဒ်တစ်ခုဆီ ဦးတည်နိုင်သေးတယ်။

Let’s imagine an AGI emerges with deep respect for human life

AGI က လူသားဘ၀ကို အလေးအနက် လေးစားမှုရှိပြီး လူ့လောကရဲ့ဒုက္ခအားလုံးကို

and a desire to solve all humanity’s troubles.

ဖြေရှင်းလိုတဲ့ ဆန္ဒနဲ့ ထွက်ပေါ်လာတယ်လို့ စိတ်ကူးကြည့်ရအောင်။

But to avoid becoming misaligned,

ဒါပေမဲ့ လွဲမှားတဲ့ ပေါင်းစည်းမှု ဖြစ်မလာစေဖို့

it's been developed to be incredibly rigid about its beliefs.

ဒါရဲ့ယုံကြည်ချက်တွေနဲ့ပတ်သက်ပြီး အလွန်အမင်း တင်းကျပ်ဖို့ တီထွင်ထားတယ်။

If these machines became the dominant power on Earth,

တကယ်လို့ ဒီယန္တရားတွေက ကမ္ဘာမြေအပေါ်ကို ကြီးစိုးလာရင်၊

their strict values might become hegemonic,

ဒီတင်းကျပ်တဲ့ တန်ဖိုးတွေက လူသားတွေကို အပြောင်းအလဲကို

locking humanity into one ideology that would be incredibly resistant to change.

အလွန်အမင်း ခုခံတဲ့ အတွေးအခေါ်တစ်ခုအဖြစ် သော့ခတ်ထားတဲ့ ကြီးစိုးမှုဖြစ်လာလောက်တယ်။

History has taught us that no matter how enlightened

လူ့ယဉ်ကျေးမှုတစ်ရပ်ဟာ ဘယ်လောက် ဉာဏ်အလင်းပွင့်တယ်လို့

a civilization thinks they are,

ထင်ရထင်ရ၊နောင်လာနောက်သားတွေရဲ့

they are rarely up to the moral standards of later generations.

ကိုယ်ကျင့်စံနှုန်းတွေအတိုင်း ဖြစ်ခဲတယ်လို့ သမိုင်းက သင်ပြထားတယ်။

And this kind of value lock in could permanently distort or constrain

ဒီတန်ဖိုးမျိုးက လူသားတွေရဲ့ ကိုယ်ကျင့်တရား ကြီးထွားမှုကို အပြီးအပိုင်

humanity’s moral growth.

ကမောက်ကမ၊ ဒါမဟုတ် ဘောင်ခတ်နိုင်တယ်။

There's a ton of uncertainty around AGI,

AGI ဝန်းကျင်မှာ မရေရာမှုများစွာ ရှိနေပြီး

and it’s profoundly difficult to predict how any existential risks

လာမယ့် ရာစုနှစ်အတွင်း ဖြစ်တည်မှု အန္တရာယ်တွေ ဘယ်လိုဖြစ်လာမယ်ဆိုတာကို

will play out over the next century.

ခန့်မှန်းဖို့ အလွန်ခက်ခဲပါတယ်။

It’s also possible that new, more pressing concerns

ဖြစ်လောက်သေးတာက နောက်ထပ် ပူပန်မှု အသစ်တွေက

might render these risks moot.

ဒီအန္တရာယ်တွေကို အခြေအတင် ဖြစ်စေနိုင်တာပါ။

But even if we can't definitively say that ours is the most important century,

ဒါပေမဲ့ ဒီရာစုနှစ်က အရေးပါဆုံးဆိုတာကို အတိအကျ မပြောနိုင်တာတောင်၊

it still seems like the decisions we make might have a major impact

လူတွေ ပြုလုပ်တဲ့ ဆုံးဖြတ်ချက်တွေက လူသားတွေရဲ့ အနာဂတ်အပေါ် ကြီးမားတဲ့

on humanity’s future.

အကျိုးသက်ရောက်မှု ရှိစေမယ့်ပုံပါ။

So maybe we should all live like the future depends on us—

ဒီတော အနာဂတ်က လူတွေအပေါ် မူတည်နေသလိုမျိုး အားလုံး နေထိုင်သင့်တာက

because actually, it just might.

တကယ်တော့ ဒါက ဖြစ်နိုင်လောက်တာကြောင့်ပါ။