The ethical dilemma of self-driving cars - Patrick Lin

Translator: Farnaz Saghafi Reviewer: soheila Jafari

This is a thought experiment.

این یک آزمایش شیوه تفکر است.

Let's say at some point in the not so distant future,

چطوره بگوییم در آینده ای نه چندان دور،

you're barreling down the highway in your self-driving car,

در خودرو بدون راننده خود (راننده اتوماتیک) در اتوبان قل خورده و می روید،

and you find yourself boxed in on all sides by other cars.

و وسط خودروهای دیگر در اطرافتان گیر افتادید.

Suddenly, a large, heavy object falls off the truck in front of you.

ناگهان، یک شیء بزرگ سنگین از کامیون روبرویی جلوی شما می افتد.

Your car can't stop in time to avoid the collision,

خودرو شما نمی تواند توقفی به موقع داشته تا ازبرخورد جلوگیری کند،

so it needs to make a decision:

بنابراین باید تصمیمی بگیرد:

go straight and hit the object,

مستقیم رفته و با شیء برخورد کند،

swerve left into an SUV,

به چپ به سمت SUV (شاسی بلند) منحرف شود،

or swerve right into a motorcycle.

یا به راست به سمت موتور منحرف شود.

Should it prioritize your safety by hitting the motorcycle,

آیا جان شما را اولویت قرار داده و به موتور سوار برخورد کند،

minimize danger to others by not swerving,

با منحرف نشدن خطر را به حداقل برساند،

even if it means hitting the large object and sacrificing your life,

حتی اگر به معنی برخورد با شیء بزرگ و فدا کردن جان شما باشد،

or take the middle ground by hitting the SUV,

یا حد وسط را در نظر گرفته وبا SUV برخورد کند، ،

which has a high passenger safety rating?

که میزان ایمنی سرنشین بالاتری دارد؟

So what should the self-driving car do?

پس خودرو با رانندگی اتوماتیک چکار باید بکند؟

If we were driving that boxed in car in manual mode,

اگر ما در شرایط رانندگی معمولی در اون شرایط گیر افتاده بودیم،

whichever way we'd react would be understood as just that,

هر راهی که عکس العمل نشان می دادیم قابل درک بود،

a reaction,

یک عکس العمل،

not a deliberate decision.

نه یک تصمیم سنجیده و حساب شده.

It would be an instinctual panicked move with no forethought or malice.

اون یک حرکت غریزی از روی ترس است بدون دوراندیشی یا بدخواهی.

But if a programmer were to instruct the car to make the same move,

اما اگر یک برنامه نویس قرار باشد عکس العملهای مشابه را به خودرو تعلیم دهد،

given conditions it may sense in the future,

که به شرایط معین در آینده حساس باشد،

well, that looks more like premeditated homicide.

خُب، این یک خودکشی عمدی بنظر می آید.

Now, to be fair,

حالا، منصفانه بگوییم،

self-driving cars are predicted to dramatically reduce traffic accidents

پیش بینی می شود خودروهای با راننده اتوماتیک به میزان قابل ملاحظه ای از حوادث رانندگی

and fatalities

و جان باختن می کاهند

by removing human error from the driving equation.

اینکار با حذف اشتباهات انسانی از معادله رانندگی است.

Plus, there may be all sorts of other benefits:

بعلاوه، کلی فواید دیگر نیز ممکن است:

eased road congestion,

کاهش تراکم جاده ای،

decreased harmful emissions,

کاهش نشتی های مضر،

and minimized unproductive and stressful driving time.

و به حداقل رساندن زمان رانندگی پر استرس و بی حاصل.

But accidents can and will still happen,

اما حوادث همچنان رخ می دهند،

and when they do,

و وقتی رخ بدهند،

their outcomes may be determined months or years in advance

شاید بتوان نتایج آنها را ماهها یا سالها جلوتر محاسبه کرد

by programmers or policy makers.

توسط برنامه نویسان و سیاست گذاران.

And they'll have some difficult decisions to make.

و آنها میبایست تصمیمات سختی را بگیرند.

It's tempting to offer up general decision-making principles,

وسوسه انگیزه که اصول کلی تصمیم گیری را ارئه دهیم

like minimize harm,

مثل حداقل رساندن خسارت،

but even that quickly leads to morally murky decisions.

اما حتی آنهم بسرعت به تصمیمات مشکوک اخلاقی منجرمی شود.

For example,

بعنوان مثال،

let's say we have the same initial set up,

فرض کنیم ترکیب اولیه مشابهی داریم،

but now there's a motorcyclist wearing a helmet to your left

اما حالا موتورسوار سمت چپ شما کلاه ایمنی دارد

and another one without a helmet to your right.

و موتورسوار دیگری در سمت راست شما کلاه ایمنی ندارد.

Which one should your robot car crash into?

خودرو رباتی شما به کدام یک می بایست برخورد کند؟

If you say the biker with the helmet because she's more likely to survive,

اگر بگویید موتورسوار با کلاه ایمنی چون شانس زنده ماندن بیشتری دارد،

then aren't you penalizing the responsible motorist?

اونوقت یک موتورسوار مسئول را تنبیه میکنید؟

If, instead, you save the biker without the helmet

اگر، در عوض، موتورسوار بدون کلاه ایمنی را

because he's acting irresponsibly,

بدلیل رفتار غیرمسئولانه اش نجات دادید،

then you've gone way beyond the initial design principle about minimizing harm,

پس بسیار فراتر از اصول اولیه طرح مبنی بر حداقل رساندن خسارت رفته اید،

and the robot car is now meting out street justice.

و خودرو رباتی در حال اشاعه عدالت در خیابانهاست.

The ethical considerations get more complicated here.

ملاحظات اخلاقی در اینجا پیچیده تر می گردد.

In both of our scenarios,

در هر دو سناریوی ما،

the underlying design is functioning as a targeting algorithm of sorts.

طرح زیربنایی بعنوان الگوریتم پیش بینی شده، آنهم چه الگوریتمی، عمل می کند.

In other words,

به بیان دیگر،

it's systematically favoring or discriminating

بطور سیستماتیکی یا به نفع یا بر ضد

against a certain type of object to crash into.

یکنوع شیء خاص برای برخورد، عمل می کند.

And the owners of the target vehicles

و صاحبان وسایل نقلیه مورد هدف

will suffer the negative consequences of this algorithm

از نتایج منفی این الگوریم لطمه می خورند

through no fault of their own.

بدون اینکه مقصر باشند.

Our new technologies are opening up many other novel ethical dilemmas.

فن آوریهای جدید ما، تجلی دیگر محظوریتهای اخلاقی بدیع هستند.

For instance, if you had to choose between

بعنوان مثال، اگر قرار بود بین دو خودرو انتخاب کنید

a car that would always save as many lives as possible in an accident,

یکی که همیشه تا حد امکان جان افراد بیشتری را در سانحه نجات می دهد،

or one that would save you at any cost,

و آن یکی که به هر قیمتی که شده جان شما را نجات می دهد،

which would you buy?

کدامیک را می خریدید؟

What happens if the cars start analyzing and factoring in

چی اتفاقی می افتد اگر خودرو ها شروع به تحلیل و فاکتورسازی

the passengers of the cars and the particulars of their lives?

سرنشینان خودروها و جزئیات زندگی آنها بپردازند؟

Could it be the case that a random decision

آیا امکان این وجود دارد که یک تصمیم اتفاقی

is still better than a predetermined one designed to minimize harm?

هنوز هم بهتر از یک تصمیم از پیش تعیین شده که برای حداقل رساندن خسارت طراحی شده، باشد؟

And who should be making all of these decisions anyhow?

و بالاخره چه کسی باید تمامی این تصمیمات را انجام دهد؟

Programmers? Companies? Governments?

برنامه نویسان؟

شرکتها؟

دولتها؟

Reality may not play out exactly like our thought experiments,

ممکن است واقعیت دقیقا طبق تجربیات ذهنی ما عمل نکند،

but that's not the point.

اما نکته این نیست.

They're designed to isolate and stress test our intuitions on ethics,

آنها اینطور طراحی شدند تا بینش ما در مورد اصول اخلاقی را جدا و تست استرس کنند،

just like science experiments do for the physical world.

درست مثل آزمایشات علمی از جهان فیزیکی.

Spotting these moral hairpin turns now

یافتن چنین پیچهای تند اخلاقی در حال حاضر

will help us maneuver the unfamiliar road of technology ethics,

به ما کمک خواهد کرد تا مانوری در مسیرهای ناآشنای اصول اخلاقی تکنولوژی انجام داده،

and allow us to cruise confidently and conscientiously

و به ما اجازه خواهد داد تا با اطمینان خاطر و با وجدان

into our brave new future.

در آینده جدید بی پروای خود گشت بزنیم.