The ethical dilemma of self-driving cars - Patrick Lin

Translator: Phuong Dinh Reviewer: Giang Hà

This is a thought experiment.

Đây là một thử nghiệm về nhận thức.

Let's say at some point in the not so distant future,

Giả sử tại một thời điểm nào đó không xa,

you're barreling down the highway in your self-driving car,

bạn đang đi trên đường cao tốc trong chiếc xe tự lái của bạn,

and you find yourself boxed in on all sides by other cars.

và bạn bị vây quanh bởi các xe khác.

Suddenly, a large, heavy object falls off the truck in front of you.

Bỗng nhiên, một vật to và nặng rơi xuống từ chiếc xe tải ngay trước mặt bạn.

Your car can't stop in time to avoid the collision,

Bạn không thể dừng lại lập tức để tránh bị va chạm,

so it needs to make a decision:

nên bạn cần ra quyết định lập tức:

go straight and hit the object,

đi thẳng và đụng vào vật đó,

swerve left into an SUV,

quẹo trái trúng chiếc SUV,

or swerve right into a motorcycle.

hay quẹo phải trúng chiếc xe máy.

Should it prioritize your safety by hitting the motorcycle,

Chiếc xe sẽ ưu tiên sự an toàn của bạn bằng cách tông vào xe máy,

minimize danger to others by not swerving,

giảm nguy hiểm cho người khác bằng cách đi thẳng,

even if it means hitting the large object and sacrificing your life,

mặc dù đó nghĩa là tông vào vật lớn và hi sinh mạng sống của bạn,

or take the middle ground by hitting the SUV,

hay lựa chọn tông vào chiếc SUV,

which has a high passenger safety rating?

khi mà khả năng an toàn cho hành khách trên xe khá cao?

So what should the self-driving car do?

Vậy xe tự lái sẽ làm gì?

If we were driving that boxed in car in manual mode,

Nếu chúng ta chạy xe ở chế độ người lái,

whichever way we'd react would be understood as just that,

cách phản ứng nào của chúng ta đều được xem là,

a reaction,

một phản ứng đơn thuần,

not a deliberate decision.

không phải một quyết định có tính suy xét.

It would be an instinctual panicked move with no forethought or malice.

Nó sẽ là phản ứng tự nhiên mà không có sự suy nghĩ hay ý đồ xấu.

But if a programmer were to instruct the car to make the same move,

Nhưng nếu một người lập trình ra lệnh cho chiếc xe phản ứng tương tự,

given conditions it may sense in the future,

trong một tình huống có thể xảy ra ở tương lai,

well, that looks more like premeditated homicide.

có thể bị coi là giết người có chủ đích.

Now, to be fair,

Để công bằng,

self-driving cars are predicted to dramatically reduce traffic accidents

xe tự lái được cho là sẽ giảm thiểu tai nạn giao thông đáng kể

and fatalities

và tỉ lệ thương vong

by removing human error from the driving equation.

bằng việc loại bỏ sự sai sót của con người trong phương trình lái xe.

Plus, there may be all sorts of other benefits:

Và, còn có những lợi ích khác:

eased road congestion,

giảm tắc đường,

decreased harmful emissions,

giảm khí thải độc hại,

and minimized unproductive and stressful driving time.

và rút ngắn thời gian lái xe vô bổ và căng thẳng.

But accidents can and will still happen,

Nhưng tai nạn vẫn và sẽ tiếp tục xảy ra,

and when they do,

và khi đó,

their outcomes may be determined months or years in advance

hậu quả của nó có thể đã được xác định vài tháng hay vài năm trước đó

by programmers or policy makers.

bởi người lập trình viên hay nhà hoạch định chính sách

And they'll have some difficult decisions to make.

Và họ sẽ phải đưa ra những quyết định khó khăn.

It's tempting to offer up general decision-making principles,

Chúng ta thường hướng tới những nguyên tắc ra quyết định

like minimize harm,

như giảm thiểu thiệt hại,

but even that quickly leads to morally murky decisions.

nhưng những nguyên tắc này cũng gặp phải các vấn đề đạo đức.

For example,

Ví dụ như,

let's say we have the same initial set up,

trong hoàn cảnh tương tự,

but now there's a motorcyclist wearing a helmet to your left

nhưng giờ người đi xe máy phía bên trái có đội nón bảo hiểm

and another one without a helmet to your right.

và một người khác không đội nón bên phải bạn.

Which one should your robot car crash into?

Xe tự lái của bạn sẽ chọn tông vào ai?

If you say the biker with the helmet because she's more likely to survive,

Nếu bạn nói người đó là người có nón bảo hiểm vì khả năng sống sót cao hơn,

then aren't you penalizing the responsible motorist?

vậy nghĩa là bạn đang trừng phạt một người lái xe có trách nhiệm?

If, instead, you save the biker without the helmet

Nói cách khác, bạn sẽ cứu người không có nón

because he's acting irresponsibly,

bời vì anh ta hành động vô trách nhiệm,

then you've gone way beyond the initial design principle about minimizing harm,

khi đó bạn đã đi quá xa khỏi ranh giới nguyên tắc giảm thiểu thiệt hại,

and the robot car is now meting out street justice.

và chiếc xe giờ đối mặt với công lý trên đường.

The ethical considerations get more complicated here.

Vần đề đạo đức càng trở nên phức tạp hơn.

In both of our scenarios,

Trong cả hai tình huống trên,

the underlying design is functioning as a targeting algorithm of sorts.

thiết kế mấu chốt đang hoạt động như một hàm số.

In other words,

Nói cách khác,

it's systematically favoring or discriminating

nó lựa chọn và lọc ra có hệ thống

against a certain type of object to crash into.

những vật mà xe tự lái có thể va chạm.

And the owners of the target vehicles

Và người điều khiển phương tiện mục tiêu

will suffer the negative consequences of this algorithm

sẽ phải chịu những hậu quả từ hàm số này

through no fault of their own.

mặc dù họ không có lỗi.

Our new technologies are opening up many other novel ethical dilemmas.

Công nghệ mới của chúng ta đang mở ra nhiều tình huống nan giải khác.

For instance, if you had to choose between

Ví dụ, nếu bạn phải lựa chọn giữa việc

a car that would always save as many lives as possible in an accident,

một chiếc xe luôn cố gắng cứu càng nhiều mạng người càng tốt khi tai nạn xảy ra,

or one that would save you at any cost,

và chiếc xe chỉ cứu sống bạn bằng mọi giá,

which would you buy?

bạn sẽ mua chiếc nào?

What happens if the cars start analyzing and factoring in

Điều gì sẽ xảy ra nếu những chiếc xe tự phân tích và bao hàm

the passengers of the cars and the particulars of their lives?

các hành khách trên xe và mạng sống của từng người?

Could it be the case that a random decision

Như vậy, liệu một quyết định ngẫu nhiên

is still better than a predetermined one designed to minimize harm?

sẽ tốt hơn là quyết định có suy tính trước để giảm thiểu thiệt hại?

And who should be making all of these decisions anyhow?

Và ai sẽ là người ra những quyết định này?

Programmers? Companies? Governments?

Lập trình viên?

Công ty?

Chính phủ?

Reality may not play out exactly like our thought experiments,

Thực tế có thể sẽ không giống thử nghiệm của chúng ta,

but that's not the point.

nhưng đó không phải là điểm chính.

They're designed to isolate and stress test our intuitions on ethics,

Các thử nghiệm nhằm cô lập và thử thách trực giác của chúng ta về đạo đức,

just like science experiments do for the physical world.

giống như thí nghiệm khoa học đã làm trong thế giới vật chất.

Spotting these moral hairpin turns now

Nhận ra các phương diện về mặt đạo đức

will help us maneuver the unfamiliar road of technology ethics,

sẽ giúp chúng ta tinh chỉnh đạo đức công nghệ trên con đường mới mẻ,

and allow us to cruise confidently and conscientiously

và cho phép ta tự tin và sáng suốt trong hành trình

into our brave new future.

vào một tương lai tươi sáng.