Would you sacrifice one person to save five? - Eleanor Nelsen

Translator: Daban Q. Jaff Reviewer: Razaw S. Bor

Imagine you're watching a runaway trolley barreling down the tracks

خەیاڵ بکە شەمەندەفەرێک دەبینیت کە بە خێرایی دەڕوات

straight towards five workers who can't escape.

ڕاستەوخۆ بەرەو ڕووی ٥ کرێکار کە توانای دەربازبوونیان لێی نییە.

You happen to be standing next to a switch

تۆش بەڕێکەوت لەتەنیشت گۆڕەڕەک دەبیت

that will divert the trolley onto a second track.

کە ئاڕاستەی شەمەندەفەرەکە دەگۆڕێت بۆ سەر ڕێگەیەکی دیکە.

Here's the problem.

کێشەکە لێرەدایە.

That track has a worker on it, too, but just one.

ئەو ڕێگەیەش کرێکارێکی لەسەرە بەڵام تەنها یەک کەسە.

What do you do?

چی دەکەیت؟

Do you sacrifice one person to save five?

ئایا یەک کەس دەکەیتە قوربانی بۆ ڕزگارکردنی ٥ کەس؟

This is the trolley problem,

ئەمە کێشەی گالیسکەیە،

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

کە وەکو جۆرێک لە مەتەڵی ئەخلاقی وابوو کە فیلیپا فوتی فەیلەسوف لە ١٩٦٧ دایهێنا.

It's popular because it forces us to think about how to choose

شتێکی خوازراوە، چونکە ناچارمان دەکات بیربکەینەوە چۆن هەڵبژاردن بکەین

when there are no good choices.

کاتێک کە هیچ هەڵبژاردنێکی باشمان لەبەردەستدا نییە.

Do we pick the action with the best outcome

ئایا ئەوە هەڵدەبژێرین کە باشترین ئەنجامی هەیە

or stick to a moral code that prohibits causing someone's death?

یاخود پەیوەست دەبین بە لایەنی ئەخلاقی کە ڕێگری بکات لە مردنی کەسێکی دیکە؟

In one survey, about 90% of respondents said that it's okay to flip the switch,

لە ڕاپرسییەکدا، ٩٠% بەژداربوان وتوویانە کە ئاساییە ڕێڕەوەکە بگۆڕیت،

letting one worker die to save five,

و ڕێگە بدەیت یەک کرێکار بمرێت بۆ ئەوەی ٥ کەس ڕزگاریان ببێت،

and other studies, including a virtual reality simulation of the dilemma,

و لێکۆڵینەوەکانی تریش، لەنێویاندا تاقیکاری واقیعی خەیاڵی بۆ مەتەڵەکە کراوە،

have found similar results.

هەمان دەرئەنجامیان دەستکەوتووەتەوە.

These judgments are consistent with the philosophical principle of utilitarianism

ئەو بڕیارانە لە بنەمای فەلسەفەی سوودگەراییەوە دێن

which argues that the morally correct decision

کە گفتوگۆی ئەوە دەکات بڕیاری ئەخلاقی دروست

is the one that maximizes well-being for the greatest number of people.

ئەوەیە کە زۆرترین سوود و قازانجی بۆ زۆرترین کەس هەبێت.

The five lives outweigh one,

پێنج ژیان گرنگتر و لە پێشترە لە یەک ژیان،

even if achieving that outcome requires condemning someone to death.

تەنانەت ئەگەر بۆ دەستکەوتنی ئەوەش بڕیاری مردن بسەپێنیت بەسەر کەسێکی دیکەدا.

But people don't always take the utilitarian view,

بەڵام خەڵکی هەمیشە ئەم بیرکردنەوە سوودگەراییە هەڵنابژێرن،

which we can see by changing the trolley problem a bit.

ئەویش بە گۆڕانکارییەکی بچووک لە گرفتی گالیسکەدا.

This time, you're standing on a bridge over the track

ئەم جارەیان تۆ لەسەر پردێکیت و ڕاڕەوەکە بە ژێر تۆدا دەڕوات

as the runaway trolley approaches.

لەکاتێکدا گالیسکەکە نزیک دەبێتەوە.

Now there's no second track,

ئێستا ڕاڕەوی دووەممان نییە،

but there is a very large man on the bridge next to you.

بەڵام پیاوێکی زۆر گەورە لەسەر پردەکەیە و لەپەنای تۆدایە.

If you push him over, his body will stop the trolley,

ئەگەر پاڵی پێوە بنێیت ئەوا لاشەکەی دەتوانێت گالیسکەکە بوەستێنێت،

saving the five workers,

پێنج کرێکارەکەش ڕزگار دەکات،

but he'll die.

بەڵام پیاوەکە دەمرێت.

To utilitarians, the decision is exactly the same,

بۆ سوودگەراکان بڕیارەکە هەمان شتە،

lose one life to save five.

ژیانێک لەدەست بدە بۆ ڕزگارکردنی پێنج.

But in this case, only about 10% of people

بەڵام لەم حاڵەتەدا تەنها ڕێژەی ١٠% خەڵکی

say that it's OK to throw the man onto the tracks.

بەلایانەوە ئاسایی بووە کە پاڵ بە پیاوەکەوە بنێن.

Our instincts tell us that deliberately causing someone's death

بەڵام شتێک لە ناخماندا پێمان دەڵێت بەئەنقەست ببیتە هۆکار بۆ کوشتنی کەسێک

is different than allowing them to die as collateral damage.

جیاوازە لەوەی رێیان بدەیت کە بمرن.

It just feels wrong for reasons that are hard to explain.

هەست بە هەڵە و تاوانێک دەکەیت کە قورسە ڕوونی بکەیتەوە.

This intersection between ethics and psychology

ئەم یەکتربڕینەی نێوان ئەخلاق و دەروونناسی

is what's so interesting about the trolley problem.

وەهای کردووە کە کێشەی گالیسکە ئەوەندە سەرنجڕاکێش بێت.

The dilemma in its many variations reveal that what we think is right or wrong

ئەم بژاردە قورسە بەم شێوە فرەییەوە دەریدەخات کە بیرکردنەوەی ڕاست و هەڵەی ئێمە

depends on factors other than a logical weighing of the pros and cons.

پەیوەستە بە هۆکارەوە وەک لە زیان و قازانجێکى لۆجیکی.

For example, men are more likely than women

بۆ نموونە، پیاوان زیاتر ئاسایی بووە بەلایانەوە

to say it's okay to push the man over the bridge.

وەکوو لە ئافرەتان، تاکوو پاڵ بنێن بە پیاوەکەوە لەسەر پردەکە.

So are people who watch a comedy clip before doing the thought experiment.

هەروەکو خەڵکانێک کە سەیری گرتەیەکی کۆمیدی دەکەن و پاشان ئەنجامی دەدەن.

And in one virtual reality study,

و لە توێژینەوەیەکی دیکەی واقیعی خەیاڵیدا،

people were more willing to sacrifice men than women.

خەڵکی زیاتر ویستیان لەسەر ئەوە بووە کە پیاوەکان بکەنە قوربانی وەک لە ئافرەتان.

Researchers have studied the brain activity

توێژەران توێژینەوەیان کردووە لە چالاکیەکانی مێشک

of people thinking through the classic and bridge versions.

بۆ ئەو کەسانەی لەو دوو جۆر تاقیکردنەوەیەدا بەژداربوون.

Both scenarios activate areas of the brain involved in conscious decision-making

هەردوو سیناریۆکە ئەو ناوچانەی مێشک کارا دەکەن کە بەژدارن لەبڕیاردانی هۆشیارانە

and emotional responses.

و وەڵامدانەی سۆزدارییانە.

But in the bridge version, the emotional response is much stronger.

بەڵام لە جۆری پردەکە وەڵامدانەوەی سۆزداریانە زۆر بەهێزترە.

So is activity in an area of the brain

بەم شێوەیە چالاکییەکانی ناوچەیەکی مێشک

associated with processing internal conflict.

پێکەوە بەستراوە لە پڕۆسەیەکی ناکۆکی ناوەکییدا.

Why the difference?

جیاوازییەکە چییە؟

One explanation is that pushing someone to their death feels more personal,

یەکێک لە ڕوونکردنەوەکان ئەوەیە کە پاڵنانی کەسێک بۆ مردن زیاتر لە شتێکی کەسی دەچێت،

activating an emotional aversion to killing another person,

ئازاری ویژدان چالاک دەکات ئەگەر بتەوێت کەسێکی دیکە بکوژیت،

but we feel conflicted because we know it's still the logical choice.

بەڵام هەر هەست بە پێکدادان دەکەین چونکە هێشتا دەزانین کە هەڵبژاردنێکی لۆجیکانەیە.

"Trolleyology" has been criticized by some philosophers and psychologists.

کێشەی گالیسکە لەلایەن هەندێک فەیلەسوف و دەروونناسەوە ڕەخنەی ئاڕاستە کراوە.

They argue that it doesn't reveal anything because its premise is so unrealistic

گفتوگۆی ئەوە دەکەن کە هیچ شتێک بەدەرناخات چونکە بناغەکەی زۆر ناواقیعیانەیە

that study participants don't take it seriously.

بۆیە بەژداربووان بە شتێکی گرنگ وەریناگرن.

But new technology is making this kind of ethical analysis

بەڵام تەکنەلۆژیای نوێ ئەم لێکدانەوە ئەخلاقیانە

more important than ever.

زۆر گرنگتر لێکدەداتەوە وەک لەپێشتر.

For example, driver-less cars may have to handle choices

بۆ نموونە لە ئۆتومبێلێکی بێ شۆفێر(زیرەک)دا پێویستە هەڵبژاردن بکات

like causing a small accident to prevent a larger one.

لەنێوان تووشبوون بە ڕووداوێکی بچووک بۆ ڕێگریکردن لەڕووداوێکی گەورەتر.

Meanwhile, governments are researching autonomous military drones

لەهەمان کاتدا،حکومەتەکان توێژینەوە دەکەن لە فڕۆکەی بێفڕۆکەوانی سەربازییدا

that could wind up making decisions of whether they'll risk civilian casualties

کە ئایا کەی بڕیاری ئەوە بدەن خەڵکی ئاسایی بخەنە مەترسی و ببنە قوربانی

to attack a high-value target.

بۆ هێرشکردنە سەر ئامانجێکی گرنگ.

If we want these actions to be ethical,

ئەگەر بمانەوێت ئەو کردارانە ئەخلاقی بن،

we have to decide in advance how to value human life

پێویستە بڕیار بدەین لەوەی چۆن نرخاندن بۆ ژیانی مرۆڤ بکەین

and judge the greater good.

و بڕیاری باشترینەکە بدەین.

So researchers who study autonomous systems

بۆیە ئەوانەی کە توێژینەوە لە سیستمی خودکار دەکەن

are collaborating with philosophers

هەماهەنگی دەکەن لەگەڵ فەیلەسوفەکان

to address the complex problem of programming ethics into machines,

بۆ ئاماژەدان بەم کێشە ئاڵۆزانەی بەرنامەسازی ئەخلاقی بۆ ناو ئامێرەکان،

which goes to show that even hypothetical dilemmas

ئەمەش ئەوە پیشان دەدات کە تەنانەت کێشە مەتەڵییە گریمانەییەکانیش

can wind up on a collision course with the real world.

دەتوانرێت بە پێکداکەوتنێکی قورس لەگەڵ ژیانی ڕاستەقینەدا کۆتایی بێت.