Would you sacrifice one person to save five? - Eleanor Nelsen

क्या आप पाँच लोगों को बचाने के लिये एक का बलिदान करेंगे? - एलेनोर नैल्सन

Translator: Adisha Aggarwal Reviewer: Arvind Patil

Imagine you're watching a runaway trolley barreling down the tracks

कल्पना कीजिये, कि आप एक बेकाबू रेल को, बहुत तेज़ी से, पटरी पर ऐसे पाँच मज़दूरों

straight towards five workers who can't escape.

की तरफ बढ़ता हुआ देख रहे हैं, जो वहाँ से भाग नहीं सकते।

You happen to be standing next to a switch

आप उस बटन के पास खड़े हैं

that will divert the trolley onto a second track.

जिससे रेल का रुख दूसरी पटरी की ओर मोड़ा जा सकता है।

Here's the problem.

अब, समस्या ये है कि,

That track has a worker on it, too, but just one.

दूसरी पटरी पर भी एक मज़दूर काम कर रहा है, लेकिन केवल एक।

What do you do?

तो आप क्या करेंगे?

Do you sacrifice one person to save five?

क्या आप पाँच लोगों को बचाने के लिये एक व्यक्ति को कुरबान करेंगे?

This is the trolley problem,

इसे रेल समस्या कहते हैं,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

नैतिक दुविधा का एक संस्करण जिसे दार्शनिक फिलिपा फुट ने १९६७ में बनाया था।

It's popular because it forces us to think about how to choose

ये इसलिये प्रचलित है क्योंकि, ये हमें यह सोचने पर मजबूर कर देता है

when there are no good choices.

कि अच्छे विकल्पों के अभाव में चुनाव कैसे किया जाए।

Do we pick the action with the best outcome

क्या हम सबसे अच्छे परिणाम वाले विकल्प को चुनें

or stick to a moral code that prohibits causing someone's death?

या ऐसे नैतिक नियमों का पालन करें जो किसी की मृत्यु का कारण बनने से रोकते हैं।

In one survey, about 90% of respondents said that it's okay to flip the switch,

एक सर्वेक्षण में, करीब ९०% लोगों ने कहा कि बटन दबा कर

letting one worker die to save five,

पाँच मज़दूरों को बचाने के लिए एक की मृत्यु होने देना सही है,

and other studies, including a virtual reality simulation of the dilemma,

कुछ और अध्ययनों में भी समान परिणाम मिले, जिनमें दुविधा का आभासी वास्तविकता में

have found similar results.

सतत अनुकरण (वर्चुअल रियलिटी सिमुलेशन) भी शामिल है।

These judgments are consistent with the philosophical principle of utilitarianism

ये निर्णय उपयोगितावाद के दार्शनिक सिद्धांत से मेल खाता है,

which argues that the morally correct decision

जो कहता है कि सही नैतिक निर्णय वो होता है जिससे

is the one that maximizes well-being for the greatest number of people.

ज़्यादातर लोगों का अधिकतम भला होता है।

The five lives outweigh one,

पाँच जीवन का पलड़ा एक जीवन से भारी है,

even if achieving that outcome requires condemning someone to death.

फिर चाहे उस परिणाम को पाने के लिये किसी को मौत के घाट ही क्यों ना उतारना पड़े।

But people don't always take the utilitarian view,

लेकिन लोग हमेशा उपयोगितावाद वाला दृष्टिकोण नहीं लेते,

which we can see by changing the trolley problem a bit.

जिसे हम इस रेल समस्या को थोड़ा बदल कर समझ सकते हैं।

This time, you're standing on a bridge over the track

इस बार आप पटरी के ऊपर बने एक पुल पर खड़े हैं

as the runaway trolley approaches.

और बेकाबू रेल आगे बढ़ रही है।

Now there's no second track,

इस बार दूसरी पटरी नहीं है,

but there is a very large man on the bridge next to you.

लेकिन एक विशालकाय व्यक्ति पुल पर आपके पास खड़ा है।

If you push him over, his body will stop the trolley,

अगर आप उसको धक्का दे कर गिरा दें, तो उसके शरीर से रेल रुक जाएगी,

saving the five workers,

जिससे पाँच मज़दूरों की जान तो बच जाएगी

but he'll die.

लेकिन वो मर जायेगा।

To utilitarians, the decision is exactly the same,

उपयोगितावादियों के लिये यह निर्णय एकदम समान है,

lose one life to save five.

पाँच जानों को बचाने के लिये एक का बलिदान दिया जाए।

But in this case, only about 10% of people

लेकिन इस बार, केवल १०% लोगों ने कहा

say that it's OK to throw the man onto the tracks.

कि उस आदमी को पटरी पर धक्का देना सही है।

Our instincts tell us that deliberately causing someone's death

हमारी प्रवृत्ति हमें बताती है कि जानबूझकर किसी की मृत्यु का कारण बनना

is different than allowing them to die as collateral damage.

और किसी दुर्घटना के कारण उसकी मृत्यु होने देना, दो अलग बातें है।

It just feels wrong for reasons that are hard to explain.

ये कुछ ऐसे कारणों की वजह से गलत लगता है, जिन्हें समझाना कठिन है।

This intersection between ethics and psychology

नैतिकता और मनोविज्ञान का मेल ही है

is what's so interesting about the trolley problem.

जो इस रेल समस्या का रोचक तत्व है।

The dilemma in its many variations reveal that what we think is right or wrong

ये दुविधा अपनी विविधता में ये दर्शाती है, कि हम जिसको सही या गलत सोचते हैं,

depends on factors other than a logical weighing of the pros and cons.

वो उसके फायदे और नुकसानों की तुलना से परे कारणों पर आधारित है।

For example, men are more likely than women

जैसे, महिलाओं की अपेक्षा, अधिक सम्भावना है कि पुरुष

to say it's okay to push the man over the bridge.

धक्का देने को सही मानेंगे।

So are people who watch a comedy clip before doing the thought experiment.

जिन्होंने ऐसे मनोवैज्ञानिक परिक्षण करने से पहले कोई हास्य फिल्म देखा हो, वो भी।

And in one virtual reality study,

और एक वर्चुअल रियलिटी के अध्ययन में तो,

people were more willing to sacrifice men than women.

लोग पुरुषों का बलिदान देने के लिये ज़्यादा तैयार थे, औरतों का कम।

Researchers have studied the brain activity

शोधकर्ताओं ने उनके दिमाग की गतिविधी

of people thinking through the classic and bridge versions.

का अध्ययन किया, जो दोनो स्थतियों के बारे में सोच रहे हों।

Both scenarios activate areas of the brain involved in conscious decision-making

दोनों सस्थितियाँ दिमाग के ऐसे भागों को सक्रिय करती हैं, जो सचेत निर्णय लेने और

and emotional responses.

भावुक प्रतिक्रियाओं से सम्बन्धित हैं।

But in the bridge version, the emotional response is much stronger.

लेकिन पुल वाली स्थिति में भावुक प्रतिक्रिया ज़्यादा सबल होती है।

So is activity in an area of the brain

तो क्या दिमाग के एक भाग की गतिविधि

associated with processing internal conflict.

अन्दरूनी संघर्ष पर प्रतिक्रिया करने से सम्बन्धित है?

Why the difference?

ये अंतर क्यों?

One explanation is that pushing someone to their death feels more personal,

एक स्पष्टीकरण है कि किसी को उसकी मृत्यु की ओर धकेलना ज़्यादा व्यक्तिगत लगता है,

activating an emotional aversion to killing another person,

जो किसी की हत्या करने के लिये भावनात्मक घृणा को सक्रिय करता है,

but we feel conflicted because we know it's still the logical choice.

पर हम दुविधा महसूस करते हैं क्योंकि हमें पता है कि फिर भी तर्कपूर्ण विकल्प वही है।

"Trolleyology" has been criticized by some philosophers and psychologists.

इस रेल समस्या की कुछ दार्शनिक और मनोवैज्ञानिकों ने आलोचना भी की है।

They argue that it doesn't reveal anything because its premise is so unrealistic

उनका तर्क है कि इसका आधार इतना अवास्तविक है कि

that study participants don't take it seriously.

अध्ययन में भाग लेने वारे लोग उसको गम्भीरता से लेते ही नहीं।

But new technology is making this kind of ethical analysis

लेकिन नई प्रौद्योगिकी, इस तरह के नैतिक विश्लेषण को

more important than ever.

पहले से और भी ज़रूरी बनाती जा रही है।

For example, driver-less cars may have to handle choices

उदाहरण के लिए, चालकहीन गाड़ी को दो विकल्पों का नियंत्रण करना पड़ सकता है

like causing a small accident to prevent a larger one.

जैसे क्या वो एक बड़ी दुर्घटना को बचाने के लिए छोटी दुर्घटना होने दे।

Meanwhile, governments are researching autonomous military drones

इस दौरान, सरकारें स्वशासी फौजी ड्रोन की खोज कर रही हैं जिनको

that could wind up making decisions of whether they'll risk civilian casualties

ऐसे निर्णय लेने पड़ सकते हैं कि वो एक अहम शत्रु पर आक्रमण करने के लिये

to attack a high-value target.

आम नागरिकों के मरने का जोखिम लें या नहीं।

If we want these actions to be ethical,

अगर हम चाहते हैं कि ये सारे काम नैतिक हों

we have to decide in advance how to value human life

तो हमें पहले से ये निर्णय करना पड़ेगा कि मानव जीवन का मूल्य क्या है

and judge the greater good.

और अति-उत्तम भले को तय कैसे करें।

So researchers who study autonomous systems

तो स्वशासी पद्धति का अध्ययन करने वाले शोधकर्ता

are collaborating with philosophers

दार्शनिकों के साथ काम कर रहे हैं,

to address the complex problem of programming ethics into machines,

मशीनों में नैतिकता को प्रोग्राम करने की जटिल समस्या को सुलझाने के लिये,

which goes to show that even hypothetical dilemmas

जो ये दर्शाता है कि काल्पनिक दुविधाएँ भी

can wind up on a collision course with the real world.

असली दुनिया से टकराने के रास्ते पर उतर सकती हैं।