The ethical dilemma of self-driving cars - Patrick Lin

المعضلة الأخلاقية للسيارات ذاتية القيادة - باتريك لين

المترجم: Abeer Darweesh المدقّق: muhammad Samir

This is a thought experiment.

هذه تجربة خيالية

Let's say at some point in the not so distant future,

لنقل أنه في مرحلة ما ليست بالبعيدة

you're barreling down the highway in your self-driving car,

أنطلقت على الطريق السريق بسيارتك ذاتية القيادة

and you find yourself boxed in on all sides by other cars.

ووجدت أن سيارك قد اُقفل عليها بالسيارات الأخرى

Suddenly, a large, heavy object falls off the truck in front of you.

وفجأة تسقط عليك مواد كبيرة وثقيلة من الشاحنة التي أمامك

Your car can't stop in time to avoid the collision,

سيارتك لايمكنها التوقف في الوقت المناسب لتجنب الأصطدام

so it needs to make a decision:

وعليها أن تتخذ القرار

go straight and hit the object,

تتجه إلى الأمام وتصطدم بمواد الشاحنة

swerve left into an SUV,

أو تنحرف يساراً بإتجاه سيارات الدفع الرباعي

or swerve right into a motorcycle.

أو تنحرف يميناً بإتجاه الدراجة النارية

Should it prioritize your safety by hitting the motorcycle,

أتكون سلامتك أولويتها وتضرب الدراجة النارية

minimize danger to others by not swerving,

أم تقليل الخطر على الأخرين بعدم الإنحراف

even if it means hitting the large object and sacrificing your life,

حتى لو كان بالإصطدام بالمواد الضخمة والتضحية بحياتك،

or take the middle ground by hitting the SUV,

أو أختيار الحل الأوسط بالإصطدام بسيارات الدفع الرباعي

which has a high passenger safety rating?

أي خيار يحمل معدل نجاة أعلى للراكبين ؟

So what should the self-driving car do?

إذاً ماذا يجب على السيارة ذاتية القيادة أن تفعل ؟

If we were driving that boxed in car in manual mode,

إذا كنا نقود في مثل هذا الزحام على الوضع اليدوي

whichever way we'd react would be understood as just that,

أياً كان تصرفك سيُفهم أنه أتُخذ هكذا ببساطة

a reaction,

ردة فعل

not a deliberate decision.

ليس قراراً مُتعمداً

It would be an instinctual panicked move with no forethought or malice.

سيكون تصرف مذعور بدون أي تفكير مسبق أو تعمد أذي

But if a programmer were to instruct the car to make the same move,

ولكن لو برمج المبرمج السيارة بإتخاذ نفس التصرف

given conditions it may sense in the future,

ظروف معينة قد تُفهم في المستقبل

well, that looks more like premeditated homicide.

حسناً, قد يبدو هذا قتل عمد مع سبق الإصرار

Now, to be fair,

والآن لنكون عادلين

self-driving cars are predicted to dramatically reduce traffic accidents

السيارات ذاتية القيادة متوقع لها أن تقلل كثيراً من حوادث السيارات

and fatalities

والوفيات

by removing human error from the driving equation.

بأستبعاد الأخطاء البشرية من معادلة القيادة

Plus, there may be all sorts of other benefits:

بالإضافة إلى كافة أنواع الفوائد الأخري

eased road congestion,

تخفيف إزدحام الطرق

decreased harmful emissions,

وتخفيض الإنبعاثات الضارة

and minimized unproductive and stressful driving time.

وتقليل من وقت القيادة المتوترة الغير منتجة

But accidents can and will still happen,

ولكن لاتزال هناك إمكانية لوقوع حوادث

and when they do,

وعندما تحدث

their outcomes may be determined months or years in advance

يمكن تحديد نتائجها أشهر أو سنين مقدماً

by programmers or policy makers.

من قبل المبرمجين أو المسؤولين

And they'll have some difficult decisions to make.

وسيكون عليهم إتخاذ بعض القرارات الصعبة

It's tempting to offer up general decision-making principles,

وإنه لمن المغري أن تقدم بعض المبادئ العامة بمسألة إتخاذ القرار

like minimize harm,

مثل تقليل الخطر

but even that quickly leads to morally murky decisions.

ولكن ذلك قد يقود إلى خيارات معتمة أكثر

For example,

على سبيل المثال

let's say we have the same initial set up,

لنتخيل أننا في نفس الموقف السابق

but now there's a motorcyclist wearing a helmet to your left

ولكن الآن يوجد هناك سائقة دراجة نارية ترتدي خوذة إلى يسارك

and another one without a helmet to your right.

وقائد دراجة أخر يقود دراجته بدون خوذة

Which one should your robot car crash into?

أي من السائقين على سيارتك المبرمجة أن تصطدم به؟

If you say the biker with the helmet because she's more likely to survive,

إذا إفترضنا السائقة صاحبة الخوذة لأن إحتمالية نجاتها أعلى

then aren't you penalizing the responsible motorist?

ألست تظلم راكبة الدراجة المهتمة بالسلامة ؟

If, instead, you save the biker without the helmet

وإذا بالمقابل تجنبت راكب الدراجة بدون الخوذة

because he's acting irresponsibly,

لأنه لم يهتم بالسلامة

then you've gone way beyond the initial design principle about minimizing harm,

تكون قد أنحرفت كثيراً عن المبدأ الأول بشأن تقليل الخطر

and the robot car is now meting out street justice.

وتكون سيارتك المبرمجة قد خالفت عدالة الشارع

The ethical considerations get more complicated here.

الأعتبارات الأخلاقية قد تكون أعقد من هذا

In both of our scenarios,

وفي كلا السيناريوهات

the underlying design is functioning as a targeting algorithm of sorts.

التصميم الأساسي يعمل وفق خوارزمية إستهدافية نوعاً ما

In other words,

بكلمات أخرى

it's systematically favoring or discriminating

إنها بشكل مبرمج تفضل أو تميز

against a certain type of object to crash into.

شخص عن أخر أو كائن للإصطدام به

And the owners of the target vehicles

ومالكي المركبات المستهدفة

will suffer the negative consequences of this algorithm

سوف يعانوا من عواقب سلبية بسبب هذه الخوارزمية

through no fault of their own.

بدون أي ذنب إرتكبوه

Our new technologies are opening up many other novel ethical dilemmas.

تقنياتنا الجديدة تفتح العديد من الروايات للمعضلات الأخلاقية

For instance, if you had to choose between

على سبيل المثال إذا كان عليك الإختيار بين

a car that would always save as many lives as possible in an accident,

السيارة المبرمجة على الحفاظ على أكبر قدر من الحيوات في حادث ما

or one that would save you at any cost,

أو تلك التي ستحافظ عليك أنت مهما كلفها

which would you buy?

أي من السيارتين ستشتري ؟

What happens if the cars start analyzing and factoring in

ماذا سيحدث إذا بدأت السيارات بتحليل وحوسبة

the passengers of the cars and the particulars of their lives?

قائدي السيارات وتفاصيل حياتهم

Could it be the case that a random decision

هل سيكون في تلك الحالة قرار إعتباطي

is still better than a predetermined one designed to minimize harm?

هل سيكون قرار أفضل من واحدة محددة سلفاً أن تقلل من الخطر

And who should be making all of these decisions anyhow?

وعلى كل حال من سيكون المسؤول عن صناعة هذه القرارات

Programmers? Companies? Governments?

المبرمجون

الشركات

الحكومات

Reality may not play out exactly like our thought experiments,

الواقع قد لايتماشى مع نتاج خبراتنا

but that's not the point.

ولكن تلك ليست نقطتنا

They're designed to isolate and stress test our intuitions on ethics,

إنها مصممة لتختبر وتجهد حدسنا الأخلاقي

just like science experiments do for the physical world.

تماماً مثل ما تصنع التجارب العلمية في العالم المادي

Spotting these moral hairpin turns now

إكتشاف مثل هذه الأخلاقيات الصعبة يبدأ الآن

will help us maneuver the unfamiliar road of technology ethics,

سيساعدنا في التعامل مع طرق غير معتادة لأخلاقيات التكنولوجيا

and allow us to cruise confidently and conscientiously

وتساعدنا في الإنسياب بثقة وضمير

into our brave new future.

نحو مستقبل جديد وشجاع