The ethical dilemma of self-driving cars - Patrick Lin

Çeviri: Eren Gokce Gözden geçirme: Sancak Gülgen

This is a thought experiment.

Bu bir düşünce deneyi.

Let's say at some point in the not so distant future,

Diyelim ki gelecekte, çok da uzak olmayan bir noktada,

you're barreling down the highway in your self-driving car,

sürücüsüz arabanızla otoyolda hızla giderken

and you find yourself boxed in on all sides by other cars.

diğer arabalar sizi dört bir yandan çeviriyor.

Suddenly, a large, heavy object falls off the truck in front of you.

Birden önünüzdeki tırdan büyük, ağır bir nesne düşüyor.

Your car can't stop in time to avoid the collision,

Arabanız çarpışmadan kaçınmak için zamanında duramaz,

so it needs to make a decision:

o yüzden bir karar vermesi lazım:

go straight and hit the object,

Düz gidip nesneye çarpmak,

swerve left into an SUV,

soldaki cipin üzerine kırmak

or swerve right into a motorcycle.

veya sağdaki motosikletin üzerine kırmak.

Should it prioritize your safety by hitting the motorcycle,

Motosiklete çarparak güvenliğinize öncelik mi vermeli,

minimize danger to others by not swerving,

yandakilere doğru kırmayarak tehlikeyi mi azaltmalı,

even if it means hitting the large object and sacrificing your life,

büyük nesneye çarparak hayatınızı feda etmeniz anlamına gelse bile,

or take the middle ground by hitting the SUV,

yoksa yolcu güvenlik puanlaması yüksek olan

which has a high passenger safety rating?

cipe çarparak orta yolu mu seçmeli?

So what should the self-driving car do?

Bu durumda sürücüsüz araba ne yapmalı?

If we were driving that boxed in car in manual mode,

Eğer arabanın içinde manuel olarak biz sürüyor olsaydık,

whichever way we'd react would be understood as just that,

ne şekilde reaksiyon vereceğimiz,

a reaction,

kasıtlı bir karar

not a deliberate decision.

olarak değil, bir reaksiyon olarak görülürdü.

It would be an instinctual panicked move with no forethought or malice.

Önceden düşünce veya kasıt olmayan içgüdüsel bir panik hareketi olurdu.

But if a programmer were to instruct the car to make the same move,

Ama bir programcı arabaya gelecekte hissettiği koşulları göz önüne alarak

given conditions it may sense in the future,

aynı hareketi yapmasını emrederse,

well, that looks more like premeditated homicide.

bu önceden tasarlanmış bir cinayete benzer.

Now, to be fair,

Adil olmak gerekirse,

self-driving cars are predicted to dramatically reduce traffic accidents

sürücüsüz arabaların sürüş denkleminden insan hatasını kaldırarak

and fatalities

trafik kazalarını

by removing human error from the driving equation.

ve ölümleri dramatik olarak azaltacağı öngörülüyor.

Plus, there may be all sorts of other benefits:

Artı, belki başka yararları da var:

eased road congestion,

Rahatlayan trafik sıkışıklığı,

decreased harmful emissions,

düşen zararlı emisyonlar,

and minimized unproductive and stressful driving time.

azalan verimsiz ve stresli sürüş zamanı.

But accidents can and will still happen,

Ama kazalar olabilir ve hâlâ olacaktır;

and when they do,

olduğu zamansa,

their outcomes may be determined months or years in advance

sonuçları programcılar veya karar alıcılar tarafından

by programmers or policy makers.

aylar veya yıllar önce belirlenebilir.

And they'll have some difficult decisions to make.

Bazı zor kararlar vermeleri gerek.

It's tempting to offer up general decision-making principles,

Zararı azaltmak gibi genel karar alma prensiplerini

like minimize harm,

koymaları cazip gelmekle birlikte,

but even that quickly leads to morally murky decisions.

bu bile hemen etiksel olarak belirsiz kararlara yol açıyor.

For example,

Örneğin,

let's say we have the same initial set up,

aynı başlangıç kurulumuna sahibiz diyelim,

but now there's a motorcyclist wearing a helmet to your left

ama şimdi solunuzda kask giymiş bir motosikletçi var

and another one without a helmet to your right.

ve sağınızda ise kask giymemiş bir motosikletçi var.

Which one should your robot car crash into?

Robot arabanız hangisine çarpmalı?

If you say the biker with the helmet because she's more likely to survive,

Eğer yaşaması daha muhtemel diye kasklı motosikletçiye derseniz,

then aren't you penalizing the responsible motorist?

o zaman sorumluluk sahibi olan motosikletçiyi cezalandırmıyor musunuz?

If, instead, you save the biker without the helmet

Eğer onun yerine sorumsuzca hareket ettiği için

because he's acting irresponsibly,

kasksız motosikletçiyi kurtarırsanız,

then you've gone way beyond the initial design principle about minimizing harm,

o zaman zararı azaltma konusundaki ilk tasarım prensibinin çok ötesine geçtiniz

and the robot car is now meting out street justice.

ve robot araba artık yol adaletini pay etmiş olur.

The ethical considerations get more complicated here.

Burada etik düşünceler daha karmaşık hâle geliyor.

In both of our scenarios,

Her iki senaryomuzda da,

the underlying design is functioning as a targeting algorithm of sorts.

altta yatan tasarım sözde hedeflenen algoritma olarak işliyor.

In other words,

Diğer bir deyişle,

it's systematically favoring or discriminating

çarpmak için belli türde bir nesneyi

against a certain type of object to crash into.

sistemli olarak kayırıyor veya ayrım yapıyor.

And the owners of the target vehicles

Hedef araçların sahipleri ise

will suffer the negative consequences of this algorithm

kendi hataları olmadan bu algoritmanın olumsuz

through no fault of their own.

sonuçlarına katlanacak.

Our new technologies are opening up many other novel ethical dilemmas.

Yeni teknolojilerimiz pek çok değişik etiksel ikileme yol açıyor.

For instance, if you had to choose between

Örneğin, bir kazada hep mümkün olan

a car that would always save as many lives as possible in an accident,

en çok hayatı kurtaran ile ne olursa olsun

or one that would save you at any cost,

sizi kurtaran bir araba arasında seçim yapmak zorunda kalsanız

which would you buy?

hangisini alırdınız?

What happens if the cars start analyzing and factoring in

Eğer arabalar analiz etmeye ve arabaların yolcularını ve

the passengers of the cars and the particulars of their lives?

onların hayatlarının ayrıntılarını dâhil etmeye başlarsa ne olur?

Could it be the case that a random decision

Rastgele bir kararın, zararı azaltmak için

is still better than a predetermined one designed to minimize harm?

tasarlanmış, önceden belirlenen bir karardan daha iyi olması hâlâ mümkün mü?

And who should be making all of these decisions anyhow?

Bütün bu kararları bir şekilde kim veriyor?

Programmers? Companies? Governments?

Programcılar?

Şirketler?

Hükümetler?

Reality may not play out exactly like our thought experiments,

Gerçek tam olarak düşünce deneylerimiz gibi olup bitmeyebilir,

but that's not the point.

ama esas husus bu değil.

They're designed to isolate and stress test our intuitions on ethics,

Etik konusundaki önsezilerimizi soyutlayarak

stres testi yapmak için tasarlandılar,

just like science experiments do for the physical world.

aynı bilim deneylerinin fiziksel dünyaya yaptığı gibi.

Spotting these moral hairpin turns now

Bu ahlak virajlarını şimdi fark etmek,

will help us maneuver the unfamiliar road of technology ethics,

teknoloji etiklerinin bilinmeyen yollarında manevra yapmakta

and allow us to cruise confidently and conscientiously

bize yardımcı olur ve cesur, yeni geleceğimize güvenle

into our brave new future.

ve dikkatlice yol almamızı sağlar.