The ethical dilemma of self-driving cars - Patrick Lin

Kääntäjä: Marja Oilinki Oikolukija: Ulla Vainio

This is a thought experiment.

Tämä on ajatuskoe.

Let's say at some point in the not so distant future,

Kuvittele, että jossain vaiheessa lähitulevaisuudessa

you're barreling down the highway in your self-driving car,

ajat itseohjautuvalla autolla valtatietä

and you find yourself boxed in on all sides by other cars.

ja huomaat olevasi muiden autojen välissä.

Suddenly, a large, heavy object falls off the truck in front of you.

Yhtäkkiä raskas esine tipahtaa edelläsi kulkevasta rekasta eteesi.

Your car can't stop in time to avoid the collision,

Autosi ei voi pysähtyä ajoissa välttääkseen törmäystä,

so it needs to make a decision:

joten sen on tehtävä päätös:

go straight and hit the object,

mennä suoraan esinettä päin

swerve left into an SUV,

kaarrettava vasemmalla olevaan citymaasturiin

or swerve right into a motorcycle.

tai oikealle moottoriåyötää päin.

Should it prioritize your safety by hitting the motorcycle,

Pitäisikö sen priorisoida sinun etuasi törmäämällä moottoripyörään.

minimize danger to others by not swerving,

minimoida muiden vahinkoja pysymällä kaistalla,

even if it means hitting the large object and sacrificing your life,

vaikka se tarkoittaisi törmäämistä ja sinun elämäsi uhraamista,

or take the middle ground by hitting the SUV,

vai törmätä maasturiin,

which has a high passenger safety rating?

jolla on korkein luokitus matkustajaturvallisuudessa?

So what should the self-driving car do?

Mitä siis itseohjautuvan auton tulisi tehdä?

If we were driving that boxed in car in manual mode,

Jos ajaisimme autoa itse,

whichever way we'd react would be understood as just that,

reaktiomme ymmärrettäisiin juuri sellaisena,

a reaction,

eli reaktiona,

not a deliberate decision.

ei tietoisena päätöksenä.

It would be an instinctual panicked move with no forethought or malice.

Se tulkittaisiin paniikinomaisena liikkeenä ilman pahaa tarkoitusta.

But if a programmer were to instruct the car to make the same move,

Mutta jos ohjelmoija antaa autolle ohjeet samaan liikkeeseen

given conditions it may sense in the future,

määrittäen ehdot, joita se voi kohdata tulevaisuudessa,

well, that looks more like premeditated homicide.

se alkaisi näyttää enemmän harkitulta murhalta.

Now, to be fair,

Ollaksemme reiluja:

self-driving cars are predicted to dramatically reduce traffic accidents

itseohjautuvien autojen on ennustettu vähentävän onnettomuuksia dramaattisesti,

and fatalities

samoin kuolemia,

by removing human error from the driving equation.

poistamalla yhtälöstä inhimillisen erehdyksen.

Plus, there may be all sorts of other benefits:

Niistä voi olla myös muunlaista hyötyä:

eased road congestion,

sujuvampaa liikennettä,

decreased harmful emissions,

päästöjen vähentymistä.

and minimized unproductive and stressful driving time.

ja vähemmän tuottamatonta ja stressaavaa ajoaikaa.

But accidents can and will still happen,

Onnettomuuksia voi silti tapahtua, ja tapahtuu,

and when they do,

ja kun niin käy,

their outcomes may be determined months or years in advance

lopputuloksen on ehkä määritellyt kuukausia tai vuosia sitten

by programmers or policy makers.

ohjelmoija tai päättäjä.

And they'll have some difficult decisions to make.

Heillä on edessään vaikeita päätöksiä.

It's tempting to offer up general decision-making principles,

On houkuttavaa tarjota yleisiä päätöksentekoperiaatteita,

like minimize harm,

kuten haitan minimointia,

but even that quickly leads to morally murky decisions.

mutta jopa tämä johtaa pian moraalisesti hämäriin päätöksiin.

For example,

Esimerkiksi

let's say we have the same initial set up,

oletetaan lähtötilanne muuten samaksi,

but now there's a motorcyclist wearing a helmet to your left

mutta nyt vasemmalla on kypäräpäinen moottoripyöräilijä

and another one without a helmet to your right.

ja oikealla kypärätön.

Which one should your robot car crash into?

Kumpaan robottiautosi tulisi törmätä?

If you say the biker with the helmet because she's more likely to survive,

Jos valitset kypäräpäisen siksi, että hän selviytyy todennäköisemmin,

then aren't you penalizing the responsible motorist?

etkö silloin rankaise vastuullista motoristia?

If, instead, you save the biker without the helmet

Jos taas valitset kypärättä ajavan pyöräilijän,

because he's acting irresponsibly,

koska hän käyttäytyy vastuuttomasti,

then you've gone way beyond the initial design principle about minimizing harm,

olet kaukana alkuperäisestä ohjeesta vanhinkojen minimoimisesta

and the robot car is now meting out street justice.

ja robottiauto harjoittaakin nyt katuoikeutta.

The ethical considerations get more complicated here.

Eettinen pohdinta mutkistuu.

In both of our scenarios,

Molemmissa skenaarioissa

the underlying design is functioning as a targeting algorithm of sorts.

suunnitelma perustuu kohteen luokittelualgoritmiin.

In other words,

Toisin sanoen

it's systematically favoring or discriminating

se systemaattisesti suosii tai syrjii

against a certain type of object to crash into.

tiettyjä kohteita törmäystilanteessa.

And the owners of the target vehicles

Kohdeajoneuvojen kuljettajat

will suffer the negative consequences of this algorithm

kärsivät näiden algoritmien kielteiset seuraukset

through no fault of their own.

ilman omaa syytään.

Our new technologies are opening up many other novel ethical dilemmas.

Teknologiamme avaa tien uusille eettisille dilemmoille.

For instance, if you had to choose between

Esimerkiksi jos sinun on valittava

a car that would always save as many lives as possible in an accident,

auto, joka aina pelastaisi onnettomuudessa mahdollisimman monta elämä,

or one that would save you at any cost,

tai auto, joka pelastaisi aina sinut,

which would you buy?

kumman ostaisit?

What happens if the cars start analyzing and factoring in

Mitä tapahtuu, jos auto alkaa analysoida ja arvioida

the passengers of the cars and the particulars of their lives?

auton matkustajien elämien arvoa?

Could it be the case that a random decision

Voiko sattumaan perustuva päätös

is still better than a predetermined one designed to minimize harm?

ollakin parempi kuin ennalta haitan minimoimiseen perustuva päätös?

And who should be making all of these decisions anyhow?

Ja kenelle nämä päätökset kuuluvat?

Programmers? Companies? Governments?

Ohjelmoijille?

Yrityksille?

Hallituksille?

Reality may not play out exactly like our thought experiments,

Todellisuus ei aina toimi kuten ajatuskokeemme,

but that's not the point.

mutta se ei ole tärkeää.

They're designed to isolate and stress test our intuitions on ethics,

Niiden avulla voi eristää ja testata eettisiä intuitioitamme,

just like science experiments do for the physical world.

kuten tieteelliset kokeet testaavat fyysistä maailmaa.

Spotting these moral hairpin turns now

Kun huomaamme näitä moraalisia käänteitä nyt,

will help us maneuver the unfamiliar road of technology ethics,

se auttaa kulkemaan teknologian etiikan uusilla poluilla

and allow us to cruise confidently and conscientiously

ja kuljettaa meidät varmasti ja tietoisesti

into our brave new future.

kohti uljasta uutta tulevaisuutta.