Would you sacrifice one person to save five? - Eleanor Nelsen

Translator: Ali Haghani Reviewer: soheila Jafari

Imagine you're watching a runaway trolley barreling down the tracks

تصور کنید در حین تماشای تراموایی هستید که با سرعت روی ریل در حرکت است

straight towards five workers who can't escape.

و مستقیما به سمت پنج کارگری میرود که نمی توانند فرار کنند.

You happen to be standing next to a switch

از قضا، شما کنار سوئیچی هستید

that will divert the trolley onto a second track.

که تراموا را به مسیر دیگری منحرف می کند.

Here's the problem.

مسئله اینجاست که

That track has a worker on it, too, but just one.

روی آن مسیر هم یک کارگر هست، اما فقط یک نفر!

What do you do?

چکار می کنید؟

Do you sacrifice one person to save five?

آیا یک نفر را قربانی می کنید تا ۵ نفر را نجات دهید؟

This is the trolley problem,

این مسئله تراموا است،

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

نسخه ای از یک دوراهیِ اخلاقی که فیلیپا فوتِ فیلسوف در سال ۱۹۶۷ طرح کرد.

It's popular because it forces us to think about how to choose

این موضوع به این دلیل محبوب است که مجبورمان میکند بین بد و بدتر

when there are no good choices.

انتخابی داشته باشیم.

Do we pick the action with the best outcome

آیا عملِ داری بهترین پی آمد را انتخاب میکنیم

or stick to a moral code that prohibits causing someone's death?

تا یک قانون اخلاقی را که کشتن دیگران را ممنوع می کند رعایت میکنیم؟

In one survey, about 90% of respondents said that it's okay to flip the switch,

در یک بررسی، حدود ۹۰٪ از پاسخگویان گفتند که حرکت دادن سوئیچ اشکالی ندارد،

letting one worker die to save five,

چون یک کارگر میمیرد و ۵ نفر نجات میابند،

and other studies, including a virtual reality simulation of the dilemma,

در مطالعات دیگر هم، شامل یک شبیه سازیِ واقعیت مجازی از این دوراهی،

have found similar results.

به نتایج مشابهی رسیده اند.

These judgments are consistent with the philosophical principle of utilitarianism

این قضاوت ها با اصلِ فلسفیِ سودمندگرایی سازگاری دارند،

which argues that the morally correct decision

اصلی که ادعا می کند یک تصمیمِ درست از نظر اخلاقی

is the one that maximizes well-being for the greatest number of people.

تصمیمی است که رفاه را برای بیشترین تعداد انسان ها بیشینه سازی می کند.

The five lives outweigh one,

زندگی ۵ نفر از یک نفر ارزشمندتر است،

even if achieving that outcome requires condemning someone to death.

حتی اگر رسیدن به آن پی آمد نیاز به محکوم کردن فردی به مرگ داشته باشد.

But people don't always take the utilitarian view,

اما مردم همیشه دیدگاه سودمندگرایی ندارند،

which we can see by changing the trolley problem a bit.

این را میتوان با تغییری کوچک در این مسئله مشاهده کرد.

This time, you're standing on a bridge over the track

اینبار شما بر روی پلی که از روی ریل میگذرد ایستاده اید

as the runaway trolley approaches.

و تراموا به شما نزدیک می شود.

Now there's no second track,

حالا مسیرِ دومی در کار نیست،

but there is a very large man on the bridge next to you.

اما یک مردِ بسیار تنومند کنار شما روی پل است.

If you push him over, his body will stop the trolley,

اگر اون را هل بدهید، بدنش تراموا را متوقف خواهد کرد.

saving the five workers,

و جانِ ۵ کارگر نجات پیدا می کند،

but he'll die.

اما او می میرد.

To utilitarians, the decision is exactly the same,

برای سودمندگراها این تصمیم دقیقا همان تصمیم قبلی است.

lose one life to save five.

قربانی کردن یک نفر برای نجات ۵ نفر.

But in this case, only about 10% of people

اما در این مورد، فقط حدود ۱۰٪ از مردم

say that it's OK to throw the man onto the tracks.

گفتند که هل دادن مرد کار درستی است.

Our instincts tell us that deliberately causing someone's death

غریزه ما می گوید که کشتنِ عمدیِ یک نفر

is different than allowing them to die as collateral damage.

با این که اجازه بدهیم آنها خودشان بمیرند متفاوت است.

It just feels wrong for reasons that are hard to explain.

دلایلی که توضیح دادنشان سخت است یک حس اشتباه بودن در خود دارند.

This intersection between ethics and psychology

این تقاطع بین اخلاقیات و روانشناسی

is what's so interesting about the trolley problem.

نکته جالب در مورد مسئله تراموا است.

The dilemma in its many variations reveal that what we think is right or wrong

این دوراهی و نسخه های مختلفش مشخص میکنند چیزی که ما فکر می کنیم درست یا غلط است

depends on factors other than a logical weighing of the pros and cons.

بیشتر به عوامل بستگی دارد تا یک سنجشِ منطقی از مزیات و مضرات.

For example, men are more likely than women

مثلا، احتمال اینکه مردان با دادن مرد از روی پل

to say it's okay to push the man over the bridge.

مشکلی نداشته باشند، از زنان بیشتر است.

So are people who watch a comedy clip before doing the thought experiment.

و همینطور کسانی که قبل از انجام آزمایش فکری یک فیلم کمدی تماشا کرده اند.

And in one virtual reality study,

و در یک مطالعه ی واقعیت مجازی،

people were more willing to sacrifice men than women.

مردم بیشتر تمایل به قربانی کردن مردان داشتند تا زنان.

Researchers have studied the brain activity

محققان فعالیت مغزی افرادی که در مورد نسخه های

of people thinking through the classic and bridge versions.

کلاسیک و جدید مسئله فکر کرده اند را مطالعه کرده اند.

Both scenarios activate areas of the brain involved in conscious decision-making

هر دو سناریو ناحیه هایی از مغز را فعال میکنند که در تصمیم گیری و واکنش های

and emotional responses.

عاطفی شرکت دارند.

But in the bridge version, the emotional response is much stronger.

اما در نسخه جدید، واکنش عاطفی بسیار قویتر است.

So is activity in an area of the brain

و همینطور فعالیت در ناحیه ای از مغز

associated with processing internal conflict.

که با پردازش تعارضات درونی در ارتباط است.

Why the difference?

چرا این تفاوت وجود دارد؟

One explanation is that pushing someone to their death feels more personal,

یک توضیح این است که کشتن یک فرد شخصی تر به نظر می آید،

activating an emotional aversion to killing another person,

و یک بیزاری عاطفی برای کشتن دیگری ایجاد می کند،

but we feel conflicted because we know it's still the logical choice.

اما ما احساس تعارض می کنیم، چون می دانیم با این وجود انتخاب منطقی همین است.

"Trolleyology" has been criticized by some philosophers and psychologists.

این مسئله توسط برخی فلاسفه و روانشناسان مورد انتقاد قرار گرفته است.

They argue that it doesn't reveal anything because its premise is so unrealistic

آنها ادعا میکنند این کار چیزی را مشخص نمیکند، چون فرضش آنقدر غیرواقع گرایانه است

that study participants don't take it seriously.

که شرکت کننده ه آن را جدی نمیگیرند.

But new technology is making this kind of ethical analysis

اما فناوری روز این نوع تحلیل اخلاقی را

more important than ever.

از همیشه مهمتر کرده است.

For example, driver-less cars may have to handle choices

مثلا، خودروهای خودران ممکن است مجبور شوند تصمیم هایی بگیرند

like causing a small accident to prevent a larger one.

مثلا یک تصادف کوچک کنند تا از یک تصادف بزرگتر جلوگیری شود.

Meanwhile, governments are researching autonomous military drones

در ضمن، دولت ها در حال تحقیق در مورد درون های نظامیِ خودگردان هستند

that could wind up making decisions of whether they'll risk civilian casualties

که می توانند تصمیم بگیرند که خطرِ کشتار غیرنظامیان را بپذیرند

to attack a high-value target.

تا به اهداف ارزشمند حمله کنند.

If we want these actions to be ethical,

اگر بخواهیم این اقدامات اخلاقی باشند

we have to decide in advance how to value human life

باید از پیش تصمیم بگیریم که چطور زندگی انسان را ارزشگذاری کنیم

and judge the greater good.

و خوب و بهتر را قضاوت کنیم.

So researchers who study autonomous systems

پس محققانی که بر روی سیستم های خودگران مطالعه می کنند

are collaborating with philosophers

با فلاسفه همکاری می کنند

to address the complex problem of programming ethics into machines,

تا مسئله پیچیده ی برنامه ریزی اخلاقیات در ماشینها را حل کنند،

which goes to show that even hypothetical dilemmas

که قرار است نشان دهد حتی دوراهی های فرضی،

can wind up on a collision course with the real world.

ممکن است در جایی به تقاطعِ دنیای واقعی برسند.