Would you sacrifice one person to save five? - Eleanor Nelsen

Таван хүний амийг аврах гэж нэгийг золиослох уу? - Элинор Нелсэн

Translator: Batchansaa Batzorig Reviewer: Munkhbaatar Lkhagvaa

Imagine you're watching a runaway trolley barreling down the tracks

Таны нүдэн дээр нэгэн галт тэрэг хар хурдаараа

straight towards five workers who can't escape.

төмөр замын 5 ажилтанг яг чиглэн довтолгож байна гэж төсөөл.

You happen to be standing next to a switch

Харин та галт тэргийг салаа зам руу

that will divert the trolley onto a second track.

шилжүүлэх боломжтой бариулын дэргэд зогсож байна гэж бодъё.

Here's the problem.

Гэхдээ энэ бас асуудалтай.

That track has a worker on it, too, but just one.

Тэр зам дээр өөр нэг ажилчин ажиллаж байгаа.

What do you do?

Та яах вэ?

Do you sacrifice one person to save five?

Нэг хүний амийг золиосолж таван хүнийхийг аврах уу?

This is the trolley problem,

Энэхүү "Галт тэрэгний асуудал" нэртэй дасгалыг

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

ёс суртахууны мухардлыг судлах зорилгоор 1967 онд гүн ухаанч Филиппа Фүүт зохиожээ.

It's popular because it forces us to think about how to choose

Энэ нь хүмүүсээс хоёр хэцүү сонголтоос аль нэгийг нь

when there are no good choices.

заавал хийхийг шаарддагаараа алдартай.

Do we pick the action with the best outcome

Бид хамгийн сайн үр дүнтэй шийдвэрийг сонгох

or stick to a moral code that prohibits causing someone's death?

эсвэл хэн нэгний амийг алдуулахгүй гэсэн ухамсартаа захирагдах уу?

In one survey, about 90% of respondents said that it's okay to flip the switch,

Нэг асуулгад, оролцогчдын 90% нь бариулыг хөдөлгөх нь зөв гэж хэлэн

letting one worker die to save five,

нэг хүний амиар тавах хүнийг аврахыг сонгожээ.

and other studies, including a virtual reality simulation of the dilemma,

Виртуал загварчлал ашигласан өөр судалгаануудад

have found similar results.

төстэй үр дүн гарсан байна.

These judgments are consistent with the philosophical principle of utilitarianism

Эдгээр үнэлэмжүүд нь гүн ухааны Утилитаризм гэх зарчимтай нийцдэг.

which argues that the morally correct decision

Энэ нь ухамсарын зөв шийдвэрүүд нь

is the one that maximizes well-being for the greatest number of people.

хамгийн олон тооны хүний сайн сайхны төлөө байдаг гэсэн зарчим юм.

The five lives outweigh one,

Таван амь нь нэгээс илүү гэдэг нь

even if achieving that outcome requires condemning someone to death.

үр дүндээ нэг хүнийг үхэлд хүргэж байна.

But people don't always take the utilitarian view,

Гэхдээ хүмүүс үргэлж утилитар өнцгөөс хардаггүйг

which we can see by changing the trolley problem a bit.

галт тэрэгний дасгалыг бага зэрэг өөрчлөхөд л харж болно.

This time, you're standing on a bridge over the track

Энэ удаад та галт тэрэг ойртон ирж буй төмөр зам дээрх

as the runaway trolley approaches.

гүүрэн дээр зогсож байна гэж бодьё.

Now there's no second track,

Энэ удаад салаа зам гэж байхгүй.

but there is a very large man on the bridge next to you.

Гэхдээ гүүрэн дээр таны хажууд маш том биетэй хүн зогсож байна гэж төсөөл.

If you push him over, his body will stop the trolley,

Хэрвээ та түүнийг гүүрнээс түлхвэл, түүний бие гал тэргийг зогсоож,

saving the five workers,

таван хүний амийг аврах ч,

but he'll die.

тэр өөрөө үхнэ.

To utilitarians, the decision is exactly the same,

Утилитар үзэлтнүүдийн хувьд сонголт урьдынхтайгаа адил.

lose one life to save five.

Таван амийг нэг амиар аварна.

But in this case, only about 10% of people

Гэхдээ энэ удаад оролцогчдын зөвхөн 10% нь

say that it's OK to throw the man onto the tracks.

хүнийг зам руу түлхэх нь зөв гэж хэлэв.

Our instincts tell us that deliberately causing someone's death

Бид хүний аминд санаатайгаар хүрэх нь

is different than allowing them to die as collateral damage.

золгүй байдлаар амь алдахаас өөр гэдгийг зөн совингоороо мэдэрдэг.

It just feels wrong for reasons that are hard to explain.

Үүнийг бид буруу гэдгийг нь мэдэрдэг ч яагаад гэдгийг нь тайлбарлаж чаддаггүй.

This intersection between ethics and psychology

Сэтгэл судлал болон ёс зүйн огтлолцлолыг хөнддөгөөрөө

is what's so interesting about the trolley problem.

галт тэрэгний асуудал сонирхол татдаг.

The dilemma in its many variations reveal that what we think is right or wrong

Энэхүү дасгал хийгээд үүний олон төрлийн хувилбарууд нь бид зөв, бурууг дэнслэхдээ

depends on factors other than a logical weighing of the pros and cons.

зөвхөн сайн, муу талыг нь жинлэж үзэхээр хязгаарлагддаггүй гэдгийг харуулдаг.

For example, men are more likely than women

Жишээ нь эрэгтэйчүүд эмэгтэйчүүдээс илүү

to say it's okay to push the man over the bridge.

хүнийг гүүрнээс түлхэх нь зөв шийдвэр гэж үзсэн байна.

So are people who watch a comedy clip before doing the thought experiment.

Энэ туршилтыг хийхээс өмнө хошин шогийн бичлэг үзсэн хүмүүс мөн адил.

And in one virtual reality study,

Виртуал загварчлал бүхий туршилтад оролцогчид

people were more willing to sacrifice men than women.

эмэгтэй хүнээс илүүтэй эрэгтэй хүнийг золиослох нь илүү байв.

Researchers have studied the brain activity

Судлаачид тархины үйл явцыг

of people thinking through the classic and bridge versions.

дасгалын анхны хувилбар болон гүүртэй хувилбарын үеэр судалсан байна.

Both scenarios activate areas of the brain involved in conscious decision-making

Аль аль тохиолдолд нь ухамсартай шийдвэр гаргалт, сэтгэл хөдлөл хариуцсан

and emotional responses.

тархины хэсгүүд идэвхижсэн байна.

But in the bridge version, the emotional response is much stronger.

Гэхдээ гүүртэй хувилбарт сэтгэл хөдлөлийн хариу үйлдэл илүү хүчтэй байжээ.

So is activity in an area of the brain

Дотоод зөрчилдөөнийг зохицуулдаг

associated with processing internal conflict.

тархины хэсэг ч мөн идэвхитэй байлаа.

Why the difference?

Яагаад ийм ялгаатай гэж?

One explanation is that pushing someone to their death feels more personal,

Нэг тайлбар нь хүнийг үхэл рүү түлхэх нь хувь хүний сэтгэл санаанд илүү хүчтэй тусч

activating an emotional aversion to killing another person,

хүний аминд хүрэхийг тэвчих мэдрэмжийг идэвхижүүлдэг.

but we feel conflicted because we know it's still the logical choice.

Гэвч энэ нь логикийн хувьд зөв байх шийдвэртэй зөрчилддөг.

"Trolleyology" has been criticized by some philosophers and psychologists.

Галт тэрэгний онолыг зарим гүн ухаанч, сэтгэл судлаачид шүүмжилдэг байна.

They argue that it doesn't reveal anything because its premise is so unrealistic

Дасгалын нөхцөл нь бодит байдалтай огт нийцэхгүйгээс оролцогчид асуудалд

that study participants don't take it seriously.

нухацтай ханддаггүй тул судалгааны үр дүн юу ч хэлж чадахгүй гэж тэд үздэг.

But new technology is making this kind of ethical analysis

Гэхдээ шинэ технологи энэхүү ёс зүйн судлалуудыг

more important than ever.

өмнөхөөсөө илүү чухал болгож байна.

For example, driver-less cars may have to handle choices

Жишээлбэл, жолоочгүй машинд

like causing a small accident to prevent a larger one.

том ослоос сэргийлэхийн тулд жижиг осол хийх сонголт тулгарч болно.

Meanwhile, governments are researching autonomous military drones

Мөн засгийн газрууд цэргийн хүчиндээ дрон ашиглахаар судалж байгаа нь

that could wind up making decisions of whether they'll risk civilian casualties

энгийн иргэдийн амь насыг эрсдэлд оруулах, эсвэл

to attack a high-value target.

стратегийн чухал бай руу довтлох гэсэн сонголттой тулгарч магадгүй.

If we want these actions to be ethical,

Бид эдгээр шийдвэрийг ёс зүйтэй

we have to decide in advance how to value human life

байлгахыг хүсвэл эхлээд хүний амийг хэрхэн үнэлэх,

and judge the greater good.

үнэт зүйлс юу болохыг тодорхойлох хэрэг гарна.

So researchers who study autonomous systems

Автомат системийн судлаач нар

are collaborating with philosophers

гүн ухаанч нартай хамтран

to address the complex problem of programming ethics into machines,

машинд ёс зүйг програмчлалах ярвигтай асуудал дээр ажиллаж байгаа нь

which goes to show that even hypothetical dilemmas

зөвхөн онолын хувьд тохиож болох асуудал ч

can wind up on a collision course with the real world.

бодит амьдрал дээр тулгарч болохыг харуулж байна.