The ethical dilemma of self-driving cars - Patrick Lin

מתרגם: Ido Dekkers מבקר: Tal Dekkers

This is a thought experiment.

זה ניסוי מחשבתי,

Let's say at some point in the not so distant future,

בואו נדמיין נקודה בעתיד הלא כל כך רחוק,

you're barreling down the highway in your self-driving car,

בה אתם דוהרים במורד הכביש המהיר במכונית הנוהגת בעצמה שלכם,

and you find yourself boxed in on all sides by other cars.

ואתם מוצאים את עצמכם לכודים מכל הכיוונים על ידי מכוניות אחרות.

Suddenly, a large, heavy object falls off the truck in front of you.

פתאום, עצם גדול וכבד נופל מהמשאית לפניכם.

Your car can't stop in time to avoid the collision,

המכונית שלכם לא יכולה לעצור בזמן כדי להמנע מהתנגשות,

so it needs to make a decision:

לכן היא צריכה לעשות החלטה:

go straight and hit the object,

להמשיך ישר ולפגוע בעצם,

swerve left into an SUV,

לסטות שמאלה לתוך רכב שטח,

or swerve right into a motorcycle.

או לסטות ימינה לתוך אופנוע.

Should it prioritize your safety by hitting the motorcycle,

האים היא צריכה להעדיף את הבטיחות שלכם על ידי פגיעה באופנוע,

minimize danger to others by not swerving,

להקטין את הסכנה לאחרים על ידי כך שתמשיך ישר,

even if it means hitting the large object and sacrificing your life,

אפילו אם זה אומר פגיעה בעצם גדול ולהקריב את חייכם,

or take the middle ground by hitting the SUV,

או לקחת את הדרך האמצעית ולפגוע ברכב השטח,

which has a high passenger safety rating?

שיש לו דרוג בטיחות גבוה?

So what should the self-driving car do?

אז מה מכונית הנהיגה העצמית היתה עושה?

If we were driving that boxed in car in manual mode,

אם אנחנו היינו נוהגים במכונית הלכודה הזו במצב ידני,

whichever way we'd react would be understood as just that,

בכל דרך שנגיב זה יובן בדיוק כך,

a reaction,

תגובה,

not a deliberate decision.

לא החלטה מוכוונת.

It would be an instinctual panicked move with no forethought or malice.

זו תהיה תנועה אינסטינקטיבית של פאניקה ללא חשיבה מוקדמת או כוונת זדון.

But if a programmer were to instruct the car to make the same move,

אבל אם מתכנת היה מורה למכונית לעשות את אותה פעולה,

given conditions it may sense in the future,

בהתחשב בתנאים שהיא תחוש בעתיד,

well, that looks more like premeditated homicide.

ובכן, זה נראה יותר כמו רצח בכוונה תחילה.

Now, to be fair,

עכשיו, כדי להיות הוגנים,

self-driving cars are predicted to dramatically reduce traffic accidents

מכוניות שנוהגות בעצמן צפויות להפחית באופן דרמטי את תאונות הדרכים

and fatalities

ואת הקורבנות

by removing human error from the driving equation.

על ידי הסרת טעות אנוש ממשוואת הנהיגה.

Plus, there may be all sorts of other benefits:

ועוד, אולי יהיו עוד כל מיני תועלות אחרות:

eased road congestion,

הקלה בעומס בכבישים,

decreased harmful emissions,

הפחתת פליטות מזהמות,

and minimized unproductive and stressful driving time.

והפחתה בזמן נהיגה לא פרודוקטיבי ומלחיץ.

But accidents can and will still happen,

אבל תאונות יכולות עדיין להתרחש והן יתרחשו,

and when they do,

וכשהן יתרחשו,

their outcomes may be determined months or years in advance

התוצאה שלהן אולי תקבע חודשים או שנים מראש

by programmers or policy makers.

על ידי מתכנתים או קובעי מדיניות.

And they'll have some difficult decisions to make.

ויהיו להם כמה החלטות קשות לעשות.

It's tempting to offer up general decision-making principles,

זה מפתה להציע עקרונות קבלת החלטות כלליים,

like minimize harm,

כמו להפחית פגיעה,

but even that quickly leads to morally murky decisions.

אבל אפילו זה מוביל במהירות להחלטות עכורות מוראלית.

For example,

לדוגמה,

let's say we have the same initial set up,

בואו נגיד שיש לנו את אותה נקודת התחלה,

but now there's a motorcyclist wearing a helmet to your left

אבל עכשיו יש אופנוענית שחובשת קסדה לשמאלכם

and another one without a helmet to your right.

ואחרת בלי קסדה לימינכם.

Which one should your robot car crash into?

באיזה מהם הרובוט שלכם יתנגש?

If you say the biker with the helmet because she's more likely to survive,

אם הייתם אומרים באופנוענית עם הקסדה מפני שיש לה יותר סיכוי לשרוד,

then aren't you penalizing the responsible motorist?

אז אתם לא מענישים את הרוכבת האחראית?

If, instead, you save the biker without the helmet

אם במקום, תצילו את האופנוען בלי הקסדה

because he's acting irresponsibly,

בגלל שהוא לא נוהג בחוסר אחריות,

then you've gone way beyond the initial design principle about minimizing harm,

אז עברתם הרבה מעבר לעקרונות התכנון הראשוניים בנוגע להפחתת פגיעה,

and the robot car is now meting out street justice.

והמכונית הרובוטית מבצעת עכשיו צדק רחוב.

The ethical considerations get more complicated here.

השיקולים האתיים נעשים יותר מסובכים פה.

In both of our scenarios,

בשני המקרים,

the underlying design is functioning as a targeting algorithm of sorts.

התכנון המובנה פועל כאלגוריתם כיוונון מסוג שהוא.

In other words,

במילים אחרות,

it's systematically favoring or discriminating

זו העדפה או אפליה שיטתית

against a certain type of object to crash into.

נגד סוג מסויים של עצם להתנגש בו.

And the owners of the target vehicles

והבעלים של רכב המטרה

will suffer the negative consequences of this algorithm

יסבול מהתוצאות השליליות של האלגוריתם

through no fault of their own.

לא באשמתם.

Our new technologies are opening up many other novel ethical dilemmas.

הטכנולוגיות החדשות פותחות הרבה דילמות אתיות חדשות אחרות.

For instance, if you had to choose between

לדוגמה, אם הייתם צריכים לבחור בין

a car that would always save as many lives as possible in an accident,

מכונית שתמיד תציל חיים רבים ככל האפשר בתאונה,

or one that would save you at any cost,

או אחת שתציל אתכם בכל מחיר,

which would you buy?

איזו תקנו?

What happens if the cars start analyzing and factoring in

מה קורה אם המכונית מתחילה לנתח ולשקלל

the passengers of the cars and the particulars of their lives?

את הנוסעים של מכוניות והפרטים על חייהם?

Could it be the case that a random decision

האם זה יכול להיות המקרה שהחלטה אקראית

is still better than a predetermined one designed to minimize harm?

עדיין טובה יותר מאחת קבועה מראש שמתוכננת להפחית פגיעה?

And who should be making all of these decisions anyhow?

ומי צריך לעשות את כל ההחלטות האלו בכל אופן?

Programmers? Companies? Governments?

תוכניתנים?

חברות?

ממשלות?

Reality may not play out exactly like our thought experiments,

המציאות אולי לא תתרחש בדיוק כמו הניסויים המחשבתיים שלנו,

but that's not the point.

אבל זו לא הנקודה.

They're designed to isolate and stress test our intuitions on ethics,

הן מתוכננות לבודד ולבדוק תחת לחץ את האינטואיציה שלנו והאתיקה,

just like science experiments do for the physical world.

ממש כמו ניסויים מדעיים בעולם האמיתי.

Spotting these moral hairpin turns now

לזהות את הסיבובים החדים המורליים האלו עכשיו

will help us maneuver the unfamiliar road of technology ethics,

יעזור לנו לנווט בדרך הלא מוכרת של אתיקה טכנולוגית,

and allow us to cruise confidently and conscientiously

ולאפשר לנו לשייט בבטחון ובהכרה

into our brave new future.

לעתיד האמיץ והחדש שלנו.