The ethical dilemma of self-driving cars - Patrick Lin

Fordító: Patay Ágnes Lektor: Maria Ruzsane Cseresnyes

This is a thought experiment.

Ez egy gondolatkísérlet.

Let's say at some point in the not so distant future,

Tegyük fel, hogy egyszer, a nem is annyira távoli jövőben

you're barreling down the highway in your self-driving car,

az autópályán száguldunk önvezető autónkkal,

and you find yourself boxed in on all sides by other cars.

és mindenhol autók vesznek körül.

Suddenly, a large, heavy object falls off the truck in front of you.

Hirtelen az előttünk haladó teherautóról egy nagy, nehéz tárgy esik elénk.

Your car can't stop in time to avoid the collision,

Autónk nem tud időben megállni, hogy elkerüljük az ütközést,

so it needs to make a decision:

így dönteni kell:

go straight and hit the object,

egyenesen nekiütközünk a tárgynak,

swerve left into an SUV,

vagy balra egy terepjáróba,

or swerve right into a motorcycle.

esetleg jobbra egy motorosba hajtunk.

Should it prioritize your safety by hitting the motorcycle,

Saját biztonságunk legyen a legfontosabb, és üssük el a motorost?

minimize danger to others by not swerving,

Vagy minimalizáljuk mások veszélyeztetését, és ne térjünk ki,

even if it means hitting the large object and sacrificing your life,

még ha a nagy tárggyal történő ütközés következtében életünket veszíthetjük is?

or take the middle ground by hitting the SUV,

Vagy köztes megoldásként menjünk bele a terepjáróba,

which has a high passenger safety rating?

amelynek jó az utasbiztonsága?

So what should the self-driving car do?

Mit csináljon tehát az önvezető autónk?

If we were driving that boxed in car in manual mode,

Ha kézzel irányítanánk ezt a beszorított autót,

whichever way we'd react would be understood as just that,

bárhogy is cselekednék,

az csak önkéntelen reakció lenne,

a reaction,

not a deliberate decision.

nem megfontolt döntés.

It would be an instinctual panicked move with no forethought or malice.

Ösztönös, pánikszerű cselekedet, előrelátás vagy szándékosság nélkül.

But if a programmer were to instruct the car to make the same move,

Ám, ha egy programozó meghatározza,

hogy adott jövőbeli feltételek mellett hogyan döntsön az autó,

given conditions it may sense in the future,

well, that looks more like premeditated homicide.

akkor ez inkább előre megfontolt gyilkosságnak tűnik.

Now, to be fair,

Valljuk be,

self-driving cars are predicted to dramatically reduce traffic accidents

az önvezető autók használatával drasztikusan csökken

a közlekedési balesetek és halálesetek száma

and fatalities

by removing human error from the driving equation.

azáltal, hogy az emberi hiba lehetőségét kivesszük a rendszerből.

Plus, there may be all sorts of other benefits:

Emellett egyéb előnyök is lehetnek:

eased road congestion,

kisebb közúti dugók,

decreased harmful emissions,

alacsonyabb károsanyag-kibocsátás,

and minimized unproductive and stressful driving time.

és rövidebb haszontalan, stresszes vezetéssel töltött idő.

But accidents can and will still happen,

Ám balesetek történhetnek és történnek is.

and when they do,

És mikor megtörténnek,

their outcomes may be determined months or years in advance

kimenetelüket már több hónappal, évvel előtte eldönthetik

by programmers or policy makers.

programozók, döntéshozók.

And they'll have some difficult decisions to make.

És ehhez néhány nehéz döntést kell meghozniuk.

It's tempting to offer up general decision-making principles,

Vonzó lenne általános döntési elveket,

mint például a következmények minimalizálása, venni figyelembe,

like minimize harm,

but even that quickly leads to morally murky decisions.

ám még ez is hamar morálisan elfogadhatatlan döntésekhez vezethet.

For example,

Például,

let's say we have the same initial set up,

tegyük fel, hogy az előbbi helyzetben

but now there's a motorcyclist wearing a helmet to your left

egy bukósisakos motoros van a bal.

and another one without a helmet to your right.

és egy bukósisak nélküli a jobb oldalunkon.

Which one should your robot car crash into?

Melyiknek menjen neki a robotautó?

If you say the biker with the helmet because she's more likely to survive,

Ha mondjuk a sisakosnak, csak mert ő nagyobb eséllyel marad életben,

then aren't you penalizing the responsible motorist?

nem büntetjük-e a felelős motorost?

If, instead, you save the biker without the helmet

Ha viszont nem mentjük meg a sisak nélküli motorost,

because he's acting irresponsibly,

mivel felelőtlenül viselkedik,

then you've gone way beyond the initial design principle about minimizing harm,

akkor nagyon eltérünk az alapelvtől, hogy minimalizáljuk a következményt,

and the robot car is now meting out street justice.

és robot autónk így utcai igazságosztóvá válik.

The ethical considerations get more complicated here.

Az erkölcsi problémák sokkal összetettebbek itt.

In both of our scenarios,

Mindkét forgatókönyv esetén

the underlying design is functioning as a targeting algorithm of sorts.

beépített program működik, különböző eseményekre írt algoritmusok formájában.

In other words,

Más szóval,

it's systematically favoring or discriminating

ez rendszerszerűen kedvez

against a certain type of object to crash into.

bizonyos tárgyaknak az ütközésekkor.

And the owners of the target vehicles

Az elütött jármű tulajdonosa

will suffer the negative consequences of this algorithm

pedig ezen algoritmusok,

through no fault of their own.

és nem saját hibája miatt kerül bajba.

Our new technologies are opening up many other novel ethical dilemmas.

Az új technológiák sok új erkölcsi kérdést vetnek fel.

For instance, if you had to choose between

Például, melyik autót választanánk?

a car that would always save as many lives as possible in an accident,

Azt, amelyik a lehető legtöbb életet menti meg egy baleset során,

or one that would save you at any cost,

vagy azt, amelyik minket ment meg bármi áron?

which would you buy?

What happens if the cars start analyzing and factoring in

Mi történik, ha az autók elkezdik elemezni és súlyozni

the passengers of the cars and the particulars of their lives?

az autók utasait és azok élethelyzetét.

Could it be the case that a random decision

Lehetséges, hogy egy véletlenszerű döntés jobb,

is still better than a predetermined one designed to minimize harm?

mint egy, a károk minimalizálása céljából, előre meghatározott?

And who should be making all of these decisions anyhow?

És egyébként kinek kellene meghozni ezeket a döntéseket?

Programmers? Companies? Governments?

A programozóknak?

A cégeknek?

A kormányoknak?

Reality may not play out exactly like our thought experiments,

A valóság lehet, nem pontosan olyan lesz, mint gondolatkísérleteink.

but that's not the point.

De nem ez a lényeg.

They're designed to isolate and stress test our intuitions on ethics,

Ezek jók, hogy elkülönítsük és teszteljük ösztönös erkölcsi megérzéseinket,

just like science experiments do for the physical world.

ahogyan a tudományos kísérletekben vizsgáljuk az anyagi világot.

Spotting these moral hairpin turns now

Ezeknek az erkölcsi problémáknak azonosítása segít

will help us maneuver the unfamiliar road of technology ethics,

a manőverezésben a technológiai etika ismeretlen útján,

and allow us to cruise confidently and conscientiously

és teszi lehetővé, hogy magabiztosan és lelkiismeretesen vezessünk

into our brave new future.

a boldog jövő felé.