The ethical dilemma of self-driving cars - Patrick Lin

Translator: Sanntint Tint Reviewer: Kanhaiya Verma

This is a thought experiment.

ဒါက အတွေး စမ်းသပ်မှုတစ်ခုပါ။

Let's say at some point in the not so distant future,

သိပ်မဝေးတဲ့ အနာဂတ်ထဲက တစ်ချိန်ချိန်အကြောင်း ပြောရအောင်၊

you're barreling down the highway in your self-driving car,

သင်ဟာ မောင်းသူမဲ့ ကားထဲကနေ အဝေးပြေးလမ်းမကို လှိမ့်ဝင်လာနေတယ်။

and you find yourself boxed in on all sides by other cars.

လေးဘက်လေးတန်မှာ တခြားကားတွေက ဝန်းရံထားတယ်။

Suddenly, a large, heavy object falls off the truck in front of you.

သင့်ရှေ့က ကုန်ကားပေါ်က ပစ္စည်းကြီး တစ်ခု ရုတ်တရက် ကျသွားတယ်။

Your car can't stop in time to avoid the collision,

သင့်ကားက တိုက်မိတာကို ရှောင်ဖို့ အချိန်မီ ရပ်လို့မရတာကြောင့်

so it needs to make a decision:

ဆုံးဖြတ်ချက် တစ်ခုချဖို့ လိုအပ်တယ်။

go straight and hit the object,

တည့်တည့်သွားပြီး အရာဝတ္ထုကို တိုက်၊

swerve left into an SUV,

SUV တစ်စီးဆီ ဘယ်ဘက်ကို ချိုး၊

or swerve right into a motorcycle.

ဒါမှမဟုတ် မော်တော်ဆိုင်ကယ်ဆီ ညာဘက်ကို ချိုးပါ။

Should it prioritize your safety by hitting the motorcycle,

မော်တော်ဆိုင်ကယ်ကို တိုက်ရင်း သင့်ဘေးကင်းမှုကို ဦးစားပေးရင်၊

minimize danger to others by not swerving,

အရာဝတ္ထုကြီးကို တိုက်ပြီး သင့်အသက်ကို စတေးတာဆိုရင်တောင်၊

even if it means hitting the large object and sacrificing your life,

မချိုးဘဲ၊ အခြားသူများအတွက် အန္တရာယ်ကို လျော့နည်းစေမလား၊

or take the middle ground by hitting the SUV,

ဒါမှမဟုတ် ခရီးသည် လုံခြုံမှု အဆင့်သတ်မှတ်ချက် မြင့်တဲ့

which has a high passenger safety rating?

SUV ကို တိုက်ရင်း အလယ် အနေအထားကို ယူမလား။

So what should the self-driving car do?

ဒီတော့ မောင်းသူမဲ့ ကားက ဘာလုပ်သင့်သလဲ။

If we were driving that boxed in car in manual mode,

လက်ထိုးဂီယာ ပုံစံမှာ ပိတ်မိနေတဲ့ ကားကို မောင်းနေရင်၊

whichever way we'd react would be understood as just that,

ဘယ်ပုံစံ တုံ့ပြန်တာဖြစ်ဖြစ်၊နှိုင်းချိန် လုပ်တဲ့ ဆုံးဖြတ်ချက်တစ်ခုမဟုတ်ဘဲ၊

a reaction,

တုံ့ပြန်မှုသက်သက်တစ်ခု

not a deliberate decision.

ဆိုတာကို နားလည်ကြမှာပါ။

It would be an instinctual panicked move with no forethought or malice.

ဒါက အမြော်အမြင် ဒါမှမဟုတ် မလိုတမာမဟုတ်ဘဲ၊ အလိုလို ထိတ်လန့်တဲ့ ရွေ့လျားမှုဖြစ်မှာပါ။

But if a programmer were to instruct the car to make the same move,

ဒါပေမဲ့ ပရိုဂရမ်ရေးသူက ကားကို အလားတူ ရွေ့လျားဖို့ ကားကို ညွှန်ကြားရင်၊

given conditions it may sense in the future,

အနာဂတ်တွင် သဘောပေါက်နိုင်တဲ့ အခြေအနေတွေကြောင့်

well, that looks more like premeditated homicide.

ကြိုတင်ကြံရွယ်ထားတဲ့ လူသတ်မှုနဲ့ ပိုဆင်တူနေပုံရတယ်။

Now, to be fair,

ကဲ၊ မျှမျှတတဖြစ်ဖို့၊

self-driving cars are predicted to dramatically reduce traffic accidents

မောင်းသူမဲ့ ကားတွေဟာ မောင်းနှင်မှု ညီမျှခြင်းကနေ လူ့အမှားတွေကို ဖယ်ရှားရင်း

and fatalities

ယာဉ်မတော်တဆမှုတွေနဲ့

by removing human error from the driving equation.

ထိခိုက်ရှနမှုကို သိသိသာသာ လျော့နည်းစေတယ်လို့ ခန့်မှန်းကြတယ်။

Plus, there may be all sorts of other benefits:

ဒါ့အပြင် အခြား ရှိနိုင်လောက်တဲ့ အကျိုးကျေးဇူးတွေက

eased road congestion,

လမ်းပိတ်ဆို့မှု လျော့လာတာ၊

decreased harmful emissions,

အန္တရာယ်ရှိတဲ့ ထုတ်လွှတ်မှုတွေ လျော့တာနဲ့

and minimized unproductive and stressful driving time.

အကျိုးမရှိ၊ စိတ်ဖိစီးတဲ့ ကားမောင်းချိန်ကို လျော့နည်းစေတာပါ။

But accidents can and will still happen,

ဒါပေမဲ့ မတော်တဆမှုတွေက ဖြစ်နိုင်မှာဖြစ်ပြီး

and when they do,

ဒါတွေ ဖြစ်တဲ့အခါ၊

their outcomes may be determined months or years in advance

ဒါတွေရဲ့ အကျိုးဆက်တွေကို ပရိုဂရမ်ရေးသူတွေ ဒါမဟုတ် မူဝါဒချမှတ်သူတွေက လ၊နှစ်ချီကာ

by programmers or policy makers.

ကြိုတင် ဆုံးဖြတ်နိုင်လောက်တယ်။

And they'll have some difficult decisions to make.

ဆုံးဖြတ်ဖို့ ခက်ခဲတဲ့ ဆုံးဖြတ်ချက်တချို့ ရှိမှာပါ။

It's tempting to offer up general decision-making principles,

ထိခိုက်မှု နည်းစေတာမျိုး ယေဘုယျ ဆုံးဖြတ်ချက်ချတဲ့ မူတွေကို

like minimize harm,

ကမ်းလှမ်းချင်စိတ်ပေါက်ပေမဲ့၊

but even that quickly leads to morally murky decisions.

ကျင့်ဝတ်အရ မရှင်းလင်းတဲ့ ဆုံးဖြတ်ချက်တွေဆီတောင် အမြန် ဦးတည်သွားတယ်။

For example,

ဥပမာ၊

let's say we have the same initial set up,

တူညီတဲ့ ကနဦး အစီအစဉ် ရှိတယ်လို့ ဆိုရအောင်။

but now there's a motorcyclist wearing a helmet to your left

ဒါပေမဲ့ ဘယ်ဘက်မှာ ဦးထုပ်ဆောင်းတဲ့ ဆိုင်ကယ်သမားတစ်ယောက်ရှိပြီး၊

and another one without a helmet to your right.

ညာဘက်မှာ ဦးထုပ်မပါတဲ့ နောက်တစ်ယောက်ရှိတယ်။

Which one should your robot car crash into?

သင့် စက်ရုပ်ကားက ဘယ်တစ်ခုကို ဝင်တိုက်သင့်လဲ။

If you say the biker with the helmet because she's more likely to survive,

ရှင်ကျန်ဖို့ ဖြစ်နိုင်ခြေ ပိုများတဲ့အတွက် ဦးထုပ်နဲ့ ဆိုင်ကယ်သမားလို့ ပြောရင်၊

then aren't you penalizing the responsible motorist?

တာဝန်သိတတ်တဲ့ ဆိုင်ကယ်သမားကို ပြစ်ဒဏ်ချမှတ်မနေဘူးလား။

If, instead, you save the biker without the helmet

ဒီအစား တာဝန်မဲ့တာကြောင့် ဦးထုပ်မပါတဲ့

because he's acting irresponsibly,

ဆိုင်ကယ်သမားကို ကယ်တင်ရင်၊

then you've gone way beyond the initial design principle about minimizing harm,

အန္တရာယ်ကို လျှော့ချတာနဲ့ပတ်သက်တဲ့ ကနဦး ဒီဇိုင်းမူကို ကျော်လွန်သွားပြီး

and the robot car is now meting out street justice.

စက်ရုပ်ကားက အခု လမ်း တရားဥပဒေကို စီရင်နေပါပြီ။

The ethical considerations get more complicated here.

ကျင့်ဝတ်ဆိုင်ရာ သုံးသပ်ဆင်ခြင်မှုတွေက ဒီမှာ ပိုရှုပ်ထွေးလာတယ်။

In both of our scenarios,

ဖြစ်နိုင်ခြေ နှစ်ခုစလုံးမှာ၊

the underlying design is functioning as a targeting algorithm of sorts.

အခြေခံ ဒီဇိုင်းက ပစ်မှတ်ထားတဲ့ အယ်ဂိုရီသမ် တစ်ခုလိုမျိုး လုပ်ဆောင်နေတယ်။

In other words,

တစ်နည်းပြောရရင်၊

it's systematically favoring or discriminating

ဒါက ဝင်တိုက်ဖို့ အရာဝတ္ထု တစ်မျိုးမျိုးကို စနစ်တကျ

against a certain type of object to crash into.

မျက်နှာသာပေးတာ ဒါမှမဟုတ် ခွဲခြားဆက်ဆံတာပါ။

And the owners of the target vehicles

ပစ်မှတ်ထားတဲ့ ယာဉ်တွေရဲ့ပိုင်ရှင်တွေဟာ

will suffer the negative consequences of this algorithm

သူတို့ရဲ့ အမှားမဟုတ်တာကနေ ဒီအယ်ဂိုရီသမ်ရဲ့

through no fault of their own.

ဆိုးကျိုးတွေကို ခံစားရမှာပါ။

Our new technologies are opening up many other novel ethical dilemmas.

နည်းပညာအဆန်းတွေက တခြား ကျင့်ဝတ်ဆိုင်ရာ အကျပ်ရိုက်မှူတွေ အများကြီး ဖွင့်ပေးနေတယ်။

ဥပမာ၊ မတော်တဆမှုမှာ အသက် များနိုင် သလောက်များများ အမြဲ ကယ်မယ့်

For instance, if you had to choose between

a car that would always save as many lives as possible in an accident,

ကားတစ်စီး ဒါမှမဟုတ် ဘယ်အခြေအနေဖြစ်ဖြစ် သင့်ကို ကယ်တင်ပေးမယ့် တစ်စီးကို

or one that would save you at any cost,

သင် ရွေးချယ်ရမယ်ဆိုရင်၊h

which would you buy?

ဘယ်ကားကို သင် ဝယ်မလဲ။

What happens if the cars start analyzing and factoring in

ကားတွေက ခရီးသည်တွေနဲ့ သူတို့ ဘဝတွေရဲ့ အချက်အလက်တွေကို

the passengers of the cars and the particulars of their lives?

စတင် ဆန်းစစ်၊ တွက်ချက်ရင်၊ ဘာဖြစ်သွားမလဲ။

Could it be the case that a random decision

အန္တရာယ် နည်းဖို့ ပုံစံထုတ်ထားတဲ့ ကြိုတင်သတ်မှတ်ထားတဲ့

is still better than a predetermined one designed to minimize harm?

ဆုံးဖြတ်ချက်ထက် ကျပန်း ဆုံးဖြတ်ချက်က ပိုကောင်းနေနိုင်သေးလား။

And who should be making all of these decisions anyhow?

ဘာဖြစ်ဖြစ် ဒီဆုံးဖြတ်ချက်အားလုံးကို ဘယ်သူတွေ ချသင့်သလဲ။

Programmers? Companies? Governments?

ပရိုဂရမ်မာတွေလား။ ကုမ္ပဏီတွေလား။ အစိုးရတွေလား။

Reality may not play out exactly like our thought experiments,

အမှန်တရားက အတွေး စမ်းသပ်မှုတွေလို အတိအကျ မဖြစ်လောက်ပေမဲ့

but that's not the point.

ဒါက အဓိက မဟုတ်ပါဘူး။

They're designed to isolate and stress test our intuitions on ethics,

သိပ္ပံ စမ်းသပ်မှုတွေဟာ ရုပ်လောကအတွက် လုပ်သလို၊ ကျင့်ဝတ်နဲ့ဆိုင်ရာ

just like science experiments do for the physical world.

ဗီဇစိတ်တွေကို ခွဲခြား၊ စမ်းသပ်ဖို့ ပုံစံထုတ်ထားတာပါ။

Spotting these moral hairpin turns now

ဒီကိုယ်ကျင့်ဆိုင်ရာ အလိမ်အလှည့်တွေကို သတိပြုမိတာက

will help us maneuver the unfamiliar road of technology ethics,

နည်းပညာ ကျင့်ဝတ်ရဲ့ အကျွမ်းတဝင်မရှိတဲ့ လမ်းကြောင်းကို ကိုင်တွယ်ဖို့

and allow us to cruise confidently and conscientiously

အထောက်အကူပြုပြီး အနာဂတ်သစ်ဆီ ယုံကြည်မှုရှိရှိ၊

into our brave new future.

အသိရှိရှိ ဖြတ်သန်းခွင့်ပေးမှာပါ။