The ethical dilemma of self-driving cars - Patrick Lin

Translator: Syifa Sabrina Reviewer: Prameswari Rahmanu

This is a thought experiment.

Ini adalah eksperimen pikiran.

Let's say at some point in the not so distant future,

Anggap saja di masa depan,

you're barreling down the highway in your self-driving car,

kamu sedang melintas kencang di jalan tol dengan mobil tanpa awak,

and you find yourself boxed in on all sides by other cars.

lalu kamu terperangkap oleh mobil lain dari berbagai sisi.

Suddenly, a large, heavy object falls off the truck in front of you.

Tiba-tiba, benda berat terguling dari truk di depanmu.

Your car can't stop in time to avoid the collision,

Mobilmu tidak bisa berhenti mendadak untuk menghindari tabrakan.

so it needs to make a decision:

Jadi, mobil itu perlu memutuskan:

go straight and hit the object,

terus melaju dan menabrak benda berat itu,

swerve left into an SUV,

belok ke kiri menghantam mobil SUV,

or swerve right into a motorcycle.

atau belok ke kanan menghantam motor.

Should it prioritize your safety by hitting the motorcycle,

Demi keselamatanmu, apa sebaiknya mobil itu menabrak motor,

minimize danger to others by not swerving,

mengurangi bahaya pengendara lain dengan tidak berbelok,

even if it means hitting the large object and sacrificing your life,

walaupun kamu akan menabrak benda besar dan mengorbankan hidupmu,

or take the middle ground by hitting the SUV,

atau mengambil jalan tengah dengan menabrak SUV,

pilihan manakah yang memiliki tingkat keselamatan penumpang yang tinggi?

which has a high passenger safety rating?

So what should the self-driving car do?

Apa yang harus dilakukan mobil tanpa awak?

If we were driving that boxed in car in manual mode,

Jika kita terjebak di kondisi seperti itu dengan mobil dalam mode manual,

whichever way we'd react would be understood as just that,

dengan cara apa pun kita merespon akan dimengerti sebatas itu saja,

a reaction,

sebuah reaksi,

not a deliberate decision.

bukan sebuah keputusan yang terencana.

It would be an instinctual panicked move with no forethought or malice.

Itu adalah gerak instingtif karena panik tanpa pemikiran matang atau kesengajaan.

But if a programmer were to instruct the car to make the same move,

Namun, jika seorang programer memerintah mobil mengambil langkah yang sama

given conditions it may sense in the future,

dalam kondisi yang sama di masa mendatang,

well, that looks more like premeditated homicide.

tindakan itu rasanya seperti pembunuhan terencana.

Now, to be fair,

Sebenarnya,

self-driving cars are predicted to dramatically reduce traffic accidents

mobil tanpa awak digadangkan akan mengurangi laka lantas

and fatalities

dan kematian

by removing human error from the driving equation.

dengan menghilangkan faktor manusia dalam berkendara.

Plus, there may be all sorts of other benefits:

Belum lagi dengan kelebihan lainnya:

eased road congestion,

mengurai kepadatan lalu lintas,

decreased harmful emissions,

menekan emisi berbahaya,

and minimized unproductive and stressful driving time.

dan mengurangi jam berkendara yang penuh stres dan tidak produktif.

But accidents can and will still happen,

Namun, kecelakaan tetap bisa terjadi,

and when they do,

dan saat terjadi,

their outcomes may be determined months or years in advance

akibatnya dapat ditentukan berbulan-bulan atau bertahun-tahun sebelumnya

by programmers or policy makers.

oleh para programer atau penentu kebijakan.

And they'll have some difficult decisions to make.

Dan mereka punya beban berat dalam mengambil keputusan.

It's tempting to offer up general decision-making principles,

Kecenderungannya menawarkan prinsip umum pengambilan keputusan,

like minimize harm,

seperti meminimalisir bahaya,

but even that quickly leads to morally murky decisions.

tetapi itu akan berujung pada keputusan buah simalakama.

For example,

Contohnya,

let's say we have the same initial set up,

anggap saja permulaannya sama seperti di atas,

but now there's a motorcyclist wearing a helmet to your left

tetapi sekarang ada pengendara motor yang memakai helm di sebelah kirimu

and another one without a helmet to your right.

dan pengendara lain tanpa helm di kananmu.

Which one should your robot car crash into?

Mobil robotmu harus menabrak yang mana?

If you say the biker with the helmet because she's more likely to survive,

Kalau kamu bilang pengendara dengan helm karena dia sepertinya akan selamat,

then aren't you penalizing the responsible motorist?

bukankah kamu membebankan pengendara yang bertanggung jawab?

If, instead, you save the biker without the helmet

Jika sebaliknya, kamu menyelamatkan pengendara tanpa helm

because he's acting irresponsibly,

karena tindakannya itu tidak taat aturan,

then you've gone way beyond the initial design principle about minimizing harm,

maka kamu sudah menyalahi aturan dasar tentang meminimalisir bahaya,

and the robot car is now meting out street justice.

si mobil robot kini berhadapan dengan keadilan di jalanan.

The ethical considerations get more complicated here.

Keputusan moral menjadi lebih rumit.

In both of our scenarios,

Dalam dua skenario kita,

the underlying design is functioning as a targeting algorithm of sorts.

rancangan dasarnya difungsikan sebagai semacam algoritma menyasar.

In other words,

Dengan kata lain,

it's systematically favoring or discriminating

secara sistematis ia memihak atau mendiskriminasi

against a certain type of object to crash into.

jenis tertentu dari objek yang ditabraknya.

And the owners of the target vehicles

Dan pemilik kendaraan yang menjadi target

will suffer the negative consequences of this algorithm

akan menerima konsekuensi buruk dari algoritma ini

through no fault of their own.

padahal mereka tidak bersalah.

Our new technologies are opening up many other novel ethical dilemmas.

Tekonologi baru ini akan membuka banyak masalah moral baru.

For instance, if you had to choose between

Contohnya, jika kamu harus memilih antara

a car that would always save as many lives as possible in an accident,

mobil yang menyelamatkan sebanyak nyawa mungkin jika terjadi kecelakaan,

or one that would save you at any cost,

atau mobil yang hanya menyelamatkanmu dengan risiko apa pun,

which would you buy?

yang mana yang akan kamu beli?

What happens if the cars start analyzing and factoring in

Apa yang terjadi jika mobil tersebut mulai menganalisis dan melibatkan

the passengers of the cars and the particulars of their lives?

penumpang mobil dan rincian kehidupan mereka?

Could it be the case that a random decision

Apakah mungkin sebuah keputusan acak

is still better than a predetermined one designed to minimize harm?

lebih baik daripada yang terencana untuk meminimalisir bahaya?

And who should be making all of these decisions anyhow?

Dan siapakah yang harus membuat semua keputusan ini?

Programmers? Companies? Governments?

Programmer? Perusahaan? Pemerintah?

Reality may not play out exactly like our thought experiments,

Kenyataan mungkin tidak terjadi persis seperti yang kita bayangkan,

but that's not the point.

tetapi bukan itu masalahnya.

They're designed to isolate and stress test our intuitions on ethics,

Mereka dirancang untuk mengisolasi dan menguji intuisi kita kepada etika,

just like science experiments do for the physical world.

sama seperti yang eksperimen sains lakukan pada dunia nyata.

Spotting these moral hairpin turns now

Melihat tikungan tajam moral ini sekarang

will help us maneuver the unfamiliar road of technology ethics,

akan membantu kita mengarahkan jalan asing etika teknologi

and allow us to cruise confidently and conscientiously

dan membiarkan kita untuk pergi dengan percaya diri dan cermat

into our brave new future.

menuju masa depan yang maju.