Would you sacrifice one person to save five? - Eleanor Nelsen

מתרגם: Ido Dekkers מבקר: Roni Ravia

Imagine you're watching a runaway trolley barreling down the tracks

דמיינו שאתם צופים בקרונית שדוהרת ללא שליטה במורד המסילה,

straight towards five workers who can't escape.

הישר לעבר חמישה עובדים שלא יכולים לברוח.

You happen to be standing next to a switch

אתם במקרה עומדים ליד מסוט

that will divert the trolley onto a second track.

שיכול להסיט את הקרונית למסילה שניה.

Here's the problem.

הנה הבעיה.

That track has a worker on it, too, but just one.

על המסילה הזו גם כן יש עובד, אבל רק אחד.

What do you do?

מה אתם עושים?

Do you sacrifice one person to save five?

האם אתם מקריבים אדם אחד כדי להציל חמישה?

This is the trolley problem,

זוהי בעיית הקרונית,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

גרסה של דילמה אתית שהפילוסופית פיליפה פוט העלתה ב 1967.

It's popular because it forces us to think about how to choose

היא פופולרית בגלל שהיא מכריחה אותנו לחשוב איך לבחור

when there are no good choices.

בהיעדר אופציות טובות.

Do we pick the action with the best outcome

האם אנחנו בוחרים בפעולה עם התוצאה הטובה ביותר

or stick to a moral code that prohibits causing someone's death?

או דובקים בקוד המורלי שאוסר גרימת מוות של אדם?

In one survey, about 90% of respondents said that it's okay to flip the switch,

בסקר אחד, כ-90% מהמשיבים אמרו שזה בסדר להסיט את המסוט,

letting one worker die to save five,

לתת לעובד אחד למות כדי להציל חמישה,

and other studies, including a virtual reality simulation of the dilemma,

ומחקרים אחרים, כולל סימולציה של מציאות מדומה של הדילמה,

have found similar results.

הראו תוצאות דומות.

These judgments are consistent with the philosophical principle of utilitarianism

שיקולי דעת אלו הם עקביים עם העקרון הפילוסופי, תועלתנות.

which argues that the morally correct decision

שטוען שההחלטה הנכונה מבחינה מורלית

is the one that maximizes well-being for the greatest number of people.

היא זו שמביאה את הטוב הרב ביותר למספר הגדול ביותר של אנשים.

The five lives outweigh one,

חייהם של חמישה שווים יותר מאלו של אדם אחד,

even if achieving that outcome requires condemning someone to death.

אפילו אם משיגים זאת ע״י הריגת אדם אחר.

But people don't always take the utilitarian view,

אבל אנשים לא תמיד לוקחים את נקודת המבט התועלתנית,

which we can see by changing the trolley problem a bit.

כפי שניתן לראות ע״י שינוי קל של בעיית הקרונית.

This time, you're standing on a bridge over the track

הפעם, אתם עומדים על גשר מעל המסילה

as the runaway trolley approaches.

כשאותה קרונית מתקרבת.

Now there's no second track,

עכשיו אין מסילה שניה,

but there is a very large man on the bridge next to you.

אבל יש איש רחב מימדים על הגשר לידכם.

If you push him over, his body will stop the trolley,

אם תדחפו אותו, הגוף שלו יעצור את הקרונית,

saving the five workers,

ויציל את חמשת העובדים,

but he'll die.

אבל הוא עצמו ימות.

To utilitarians, the decision is exactly the same,

עבור התועלתנים, ההחלטה היא זהה,

lose one life to save five.

הקרבת חיי אדם אחד כדי להציל חמישה.

But in this case, only about 10% of people

אבל במקרה הזה, רק כ-10% מהאנשים

say that it's OK to throw the man onto the tracks.

אומרים שזה בסדר לזרוק את האדם על המסילה.

Our instincts tell us that deliberately causing someone's death

האינסטינקטים שלנו אומרים לנו שגרימת מוות בכוונה תחילה

is different than allowing them to die as collateral damage.

זה לא אותו דבר כמו לתת למישהו למות כנזק משני.

It just feels wrong for reasons that are hard to explain.

זה פשוט מרגיש לא נכון מסיבות שקשה להסביר.

This intersection between ethics and psychology

החיתוך בין אתיקה ופסיכולוגיה

is what's so interesting about the trolley problem.

הוא הדבר הכ״כ מעניין בבעיית הקרונית.

The dilemma in its many variations reveal that what we think is right or wrong

הדילמה בוריאציות הרבות שלה חושפת שמה שאנחנו חושבים כנכון או לא נכון

depends on factors other than a logical weighing of the pros and cons.

תלוי גם בגורמים שהם מעבר לשיקולים לוגיים של בעד ונגד.

For example, men are more likely than women

לדוגמה, גברים נוטים יותר מנשים

to say it's okay to push the man over the bridge.

להגיד שזה בסדר לדחוף את האדם מהגשר.

So are people who watch a comedy clip before doing the thought experiment.

כך גם אנשים שצופים בקליפ קומי לפני הניסוי המחשבתי.

And in one virtual reality study,

ובמחקר מציאות מדומה אחד,

people were more willing to sacrifice men than women.

אנשים היו יותר מוכנים להקריב גברים מלהקריב נשים.

Researchers have studied the brain activity

חוקרים ערכו מחקר על פעילות המוח

of people thinking through the classic and bridge versions.

של אנשים ששוקלים את שתי הגרסאות, הגרסה הקלאסית וגרסת הגשר.

Both scenarios activate areas of the brain involved in conscious decision-making

שני המקרים מפעילים אזורים במוח שמעורבים בקבלת החלטות מודעת

and emotional responses.

ובתגובות רגשיות.

But in the bridge version, the emotional response is much stronger.

אבל במקרה הגשר, התגובה הרגשית חזקה בהרבה.

So is activity in an area of the brain

כך גם הפעילות באזור במוח

associated with processing internal conflict.

המעורב עיבוד קונפליקט פנימי.

Why the difference?

למה קיים הבדל?

One explanation is that pushing someone to their death feels more personal,

הסבר אחד הוא שמעשה דחיפת אדם למותו מרגיש יותר אישי,

activating an emotional aversion to killing another person,

ומפעיל סלידה נפשית מהריגת אדם,

but we feel conflicted because we know it's still the logical choice.

אבל הסיבה שאנחנו חצויים היא משום שאנחנו יודעים שזו עדיין הבחירה ההגיונית.

"Trolleyology" has been criticized by some philosophers and psychologists.

דילמת הקרונית ספגה ביקורת על ידי מספר פילוסופים ופסיכולוגים.

They argue that it doesn't reveal anything because its premise is so unrealistic

הם טוענים שהיא אינה חושפת דבר בגלל שהנחת היסוד שלה היא כ״כ לא ריאלית

that study participants don't take it seriously.

שמשתתפים במחקר לא לוקחים אותה ברצינות.

But new technology is making this kind of ethical analysis

אבל טכנולוגיה חדשה גורמת לסוג ניתוח אתי שכזה

more important than ever.

להיות חשוב יותר מאי פעם.

For example, driver-less cars may have to handle choices

לדוגמה, מכוניות ללא נהג אולי יצרכו לבצע בחירות

like causing a small accident to prevent a larger one.

כמו גרימת תאונה קטנה לשם מניעת תאונה גדולה יותר.

Meanwhile, governments are researching autonomous military drones

בינתיים, ממשלות עובדות על פיתוח של רחפנים צבאיים אוטונומיים

that could wind up making decisions of whether they'll risk civilian casualties

העלולים להיות מסוגלים להחליט האם להסתכן בפגיעה באזרחים

to attack a high-value target.

לשם תקיפת מטרה בעלת חשיבות.

If we want these actions to be ethical,

אם אנחנו רוצים שההחלטות האלו יהיו אתיות,

we have to decide in advance how to value human life

אנחנו חייבים להחליט מראש איך להעריך חיי אדם

and judge the greater good.

ואיך לשפוט את טובת הכלל.

So researchers who study autonomous systems

אז חוקרים שעורכים מחקר על מערכות אוטונומיות,

are collaborating with philosophers

משתפים פעולה עם פילוסופים

to address the complex problem of programming ethics into machines,

כדי לדון בבעיה המורכבת של תיכנות אתיקה לתוך מכונות,

which goes to show that even hypothetical dilemmas

דבר המראה שאפילו דילמות היפוטטיות

can wind up on a collision course with the real world.

עלולות למצוא את עצמן במסלול התנגשות עם העולם האמיתי.