The ethical dilemma of self-driving cars - Patrick Lin

Translator: Kelwalin Dhanasarnsombut Reviewer: Rawee Ma

This is a thought experiment.

นี่เป็นการทดลองทางความคิด

Let's say at some point in the not so distant future,

เอาเป็นว่าในอนาคตอันใกล้

you're barreling down the highway in your self-driving car,

คุณกำลังเดินทางลงไปตามทางหลวง ในรถที่ขับเคลื่อนเอง

and you find yourself boxed in on all sides by other cars.

และคุณพบว่า คุณถูกกักอยู่ท่ามกลางรถคันอื่น

Suddenly, a large, heavy object falls off the truck in front of you.

ทันใดนั้นเอง วัตถุหนักขนาดใหญ่ ตกลงมาจากรถบรรทุกตรงหน้าคุณ

Your car can't stop in time to avoid the collision,

รถของคุณไม่สามารถหยุดได้ทันเวลา เพื่อที่จะป้องกันการปะทะ

so it needs to make a decision:

ฉะนั้น มันจึงต้องทำการตัดสินใจ

go straight and hit the object,

พุ่งตรงไปและชนวัตถุ

swerve left into an SUV,

เบี่ยงซ้ายเข้าหารถอเนกประสงค์

or swerve right into a motorcycle.

หรือหักขวาเข้าหารถจักรยานยนต์

Should it prioritize your safety by hitting the motorcycle,

มันควรให้ความสำคัญ กับความปลอดภัยของคุณก่อน

minimize danger to others by not swerving,

ลดอันตรายที่จะมีต่อคนอื่นโดยไม่เปลี่ยนทิศทาง

even if it means hitting the large object and sacrificing your life,

แม้ว่านั่นหมายถึงการชนวัตถุขนาดใหญ่ และการสละชีวิตตนเอง

or take the middle ground by hitting the SUV,

หรือใช้ทางสายกลาง โดยชนรถอเนกประสงค์

which has a high passenger safety rating?

ซึ่งมีอัตราความปลอดภัยสำหรับผู้โดยสารสูง

So what should the self-driving car do?

แล้วรถที่ขับเคลื่อนเองจะทำอย่างไร

If we were driving that boxed in car in manual mode,

ถ้าเรากำลังขับรถที่ตนเองโดนกักไว้แบบทั่วไป

whichever way we'd react would be understood as just that,

ไม่ว่าจะเป็นทางใดที่เราเลือก จะถูกเข้าใจให้อย่างที่มันเป็น

a reaction,

การโต้ตอบ

not a deliberate decision.

ไม่ใช่การตัดสินใจที่เกิดจากการคิดที่รอบคอบ

It would be an instinctual panicked move with no forethought or malice.

มันอาจเป็นการกระทำอย่างตระหนกตกใจ ตามสัญชาตญาณโดยไม่มีการวางแผนหรือมุ่งร้าย

But if a programmer were to instruct the car to make the same move,

แต่ถ้าคนเขียนโปรแกรมกำกับรถ ให้ทำการเช่นเดียวกัน

given conditions it may sense in the future,

ให้สถานการณ์ที่มันอาจเจอได้ในอนาคต

well, that looks more like premeditated homicide.

นั่นดูเหมือนเป็นการฆาตกรรมโดยเจตนา

Now, to be fair,

ตอนนี้ ความจริงก็คือ

self-driving cars are predicted to dramatically reduce traffic accidents

รถที่ขับเคลื่อนเองถูกคาดว่า จะลดอุบัติเหตุและการสูญเสียบนท้องถนน

and fatalities

ได้อย่างมาก

by removing human error from the driving equation.

โดยกำจัดความผิดพลาดของคน จากสมการการขับรถ

Plus, there may be all sorts of other benefits:

รวมถึง มันอาจมีประโยชน์อย่างอื่น เช่น

eased road congestion,

ทำให้ถนนไม่คับคั่งมากนัก

decreased harmful emissions,

ลดการปลดปล่อยก๊าซอันตราย

and minimized unproductive and stressful driving time.

และลดเวลาการขับรถที่ไม่มีประสิทธิภาพ และน่าหงุดหงิด

But accidents can and will still happen,

แต่อุบัติเหตุจะยังสามารถและจะยังเกิดขึ้น

and when they do,

และเมื่อมันเกิดขึ้น

their outcomes may be determined months or years in advance

ผลที่ออกมาอาจถูกกำหนดเอาไว้แล้ว หลายเดือนหรือหลายปีล่วงหน้า

by programmers or policy makers.

โดยผู้เขียนโปรแกรม หรือผู้วางนโยบาย

And they'll have some difficult decisions to make.

และพวกเขาก็ต้องลำบากใจในการตัดสินใจ

It's tempting to offer up general decision-making principles,

ใจหนึ่งก็อยากจะให้สิทธิ ในหลักการตัดสินใจพื้นฐาน

like minimize harm,

อย่างเช่น การลดอันตรายให้น้อยที่สุด

but even that quickly leads to morally murky decisions.

แต่กระนั้น มันก็อาจนำไปสู่การตัดสินใจ ในเชิงจริยธรรมที่คลุมเครือ

For example,

ยกตัวอย่างเช่น

let's say we have the same initial set up,

สมมติว่า เรามีการตั้งค่าแต่แรกเหมือนกัน

but now there's a motorcyclist wearing a helmet to your left

แต่ตอนนี้ มีผู้ขับขี่รถจักรยานยนต์ ที่สวมหมวกกันน็อค ขับมาทางซ้ายของคุณ

and another one without a helmet to your right.

และอีกคนหนึ่งที่ไม่สวมหมวกกันน็อค ขับมาทางขวาของคุณ

Which one should your robot car crash into?

คนไหนล่ะที่รถหุ่นยนต์ของคุณควรจะชน

If you say the biker with the helmet because she's more likely to survive,

ถ้าคุณบอกว่า คนที่สวมหมวกกันน็อค เพราะว่าเธอมีโอกาสที่จะรอดชีวิตมากกว่า

then aren't you penalizing the responsible motorist?

นั่นไม่เป็นการลงโทษกับผู้ขับขี่จักรยานยนต์ ที่มีความรับผิดชอบหรอกหรือ

If, instead, you save the biker without the helmet

แต่ถ้าคุณช่วยคนที่ไม่สวมหมวกกันน็อค

because he's acting irresponsibly,

เพราะว่าเขาไม่รับผิดชอบ

then you've gone way beyond the initial design principle about minimizing harm,

นั่นก็เป็นการทำเกินไปกว่าหลักการที่ออกแบบ ไว้แต่แรกให้ลดอันตรายให้น้อยที่สุด

and the robot car is now meting out street justice.

และตอนนี้ รถหุ่นยนต์ก็ต้องแบ่งรับแบ่งสู้ กับความยุติธรรมบนท้องถนน

The ethical considerations get more complicated here.

การตัดสินทางจริยธรรมในสถานการณ์นี้ ซับซ้อนยิ่งขึ้น

In both of our scenarios,

ในทั้งสองเหตุการณ์ของเรา

the underlying design is functioning as a targeting algorithm of sorts.

การออกแบบพื้นฐานทำหน้าที่ เป็นดั่งอัลกอริทึมเป้าหมายของโจทย์

In other words,

หรืออาจกล่าวได้ว่า

it's systematically favoring or discriminating

มันคือการเลือกหรือลำเอียงอย่างเป็นระบบ

against a certain type of object to crash into.

เทียบกับวัตถุบางประเภทที่จะถูกเข้าชน

And the owners of the target vehicles

และผู้เป็นเจ้าของของพาหนะเป้าหมาย

will suffer the negative consequences of this algorithm

จะต้องได้รับผลเชิงลบจากอัลกอริทึม

through no fault of their own.

แม้ว่าตัวพวกเขาเองจะไม่มีความผิดอะไร

Our new technologies are opening up many other novel ethical dilemmas.

เทคโนโลยีใหม่ของเรากำลังเปิดทาง ให้กับความยุ่งยากใหม่ทางจริยธรรม

For instance, if you had to choose between

ยกตัวอย่างเช่น ถ้าคุณจำเป็นต้องเลือก

a car that would always save as many lives as possible in an accident,

ระหว่างรถที่จะรักษาชีวิต เอาไว้ให้ได้จำนวนมากที่สุดเสมอ

or one that would save you at any cost,

กับรถที่จะช่วยคุณไม่ว่าจะอย่างไรก็ตาม

which would you buy?

คุณจะซื้อรถแบบไหน

What happens if the cars start analyzing and factoring in

จะเกิดอะไรขึ้น ถ้ารถเริ่มที่จะวิเคราะห์ และหาค่าปัจจัย

the passengers of the cars and the particulars of their lives?

ของผู้โดยสารของรถยนต์ และรายละเอียดต่าง ๆ เกี่ยวกับชีวิต

Could it be the case that a random decision

จะเป็นไปได้ไหมว่า การตัดสินอย่างสุ่ม

is still better than a predetermined one designed to minimize harm?

ยังคงดีกว่าการกำหนดไว้ล่วงหน้า ที่ถูกออกแบบให้ลดอันตรายให้น้อยที่สุด

And who should be making all of these decisions anyhow?

แล้วว่าแต่ใครกันล่ะ ที่ควรจะเป็นผู้ทำการตัดสินใจ

Programmers? Companies? Governments?

นักเขียนโปรแกรม

บริษัท

รัฐบาล

Reality may not play out exactly like our thought experiments,

ความเป็นจริงอาจไม่ได้เป็นไป ตามการทดลองทางความคิดของเรา

but that's not the point.

แต่นั่นไม่ใช่ประเด็น

They're designed to isolate and stress test our intuitions on ethics,

พวกเราถูกออกแบบให้แยกแยะ และทดสอบ สำนึกทางจริยธรรมของเรา

just like science experiments do for the physical world.

เหมือนกับที่การทดลองทางวิทยาศาสตร์ กระทำกับโลกทางกายภาพ

Spotting these moral hairpin turns now

การที่เราตระหนักถึงจุดเปลี่ยนเล็ก ๆ ทางจริยธรรมนี้

will help us maneuver the unfamiliar road of technology ethics,

จะช่วยให้เราวางกลยุทธกับถนนที่ไม่คุ้นเคย ด้วยจริยธรรมทางเทคโนโลยีได้

and allow us to cruise confidently and conscientiously

และทำให้เราแล่นไปได้อย่างมั่นใจและมีสติ

into our brave new future.

สู่อนาคตใหม่ที่เราเชื่อมั่น