The ethical dilemma of self-driving cars - Patrick Lin

Traduttore: Camilla Casula Revisore: Marco Longhin

This is a thought experiment.

Questo è un esperimento mentale.

Let's say at some point in the not so distant future,

Ipotizziamo che a un certo punto, in un futuro non troppo lontano,

you're barreling down the highway in your self-driving car,

stiate sfrecciando in autostrada sulla vostra macchina senza conducente,

and you find yourself boxed in on all sides by other cars.

e vi troviate circondati su tutti i lati da altri veicoli.

Suddenly, a large, heavy object falls off the truck in front of you.

Improvvisamente, un oggetto voluminoso e pesante cade dal camion davanti a voi.

Your car can't stop in time to avoid the collision,

La vostra auto non può fermarsi in tempo per evitare l'impatto,

so it needs to make a decision:

e deve prendere una decisione:

go straight and hit the object,

proseguire diritto e colpire l'oggetto,

swerve left into an SUV,

sterzare a sinistra e urtare un SUV,

or swerve right into a motorcycle.

o sterzare a destra e colpire una moto.

Should it prioritize your safety by hitting the motorcycle,

Dovrebbe dare priorità alla vostra sicurezza colpendo la moto,

minimize danger to others by not swerving,

ridurre al minimo il danno agli altri senza sterzare,

even if it means hitting the large object and sacrificing your life,

anche se ciò significa schiantarsi contro il carico e sacrificare la vostra vita,

or take the middle ground by hitting the SUV,

oppure dovrebbe scegliere la via di mezzo e urtare il SUV,

which has a high passenger safety rating?

che ha un livello di sicurezza dei passeggeri elevato?

So what should the self-driving car do?

Cosa dovrebbe fare l'auto senza conducente?

If we were driving that boxed in car in manual mode,

Se stessimo guidando quell'auto circondata in modalità manuale,

whichever way we'd react would be understood as just that,

qualunque nostra possibile reazione sarebbe intesa semplicemente come tale,

a reaction,

una reazione,

not a deliberate decision.

non una decisione deliberata.

It would be an instinctual panicked move with no forethought or malice.

Sarebbe un'azione istintiva dettata dal panico,

senza premeditazione o malizia.

But if a programmer were to instruct the car to make the same move,

Ma se un programmatore desse all'auto l'istruzione di reagire nello stesso modo,

given conditions it may sense in the future,

viste le situazioni che potrebbero presentarsi in futuro,

well, that looks more like premeditated homicide.

allora sembrerebbe più un omicidio premeditato.

Now, to be fair,

Per essere corretti,

self-driving cars are predicted to dramatically reduce traffic accidents

le macchine autonome ridurranno molto gli incidenti stradali

and fatalities

e le vittime,

by removing human error from the driving equation.

eliminando l'errore umano dall'equazione della guida.

Plus, there may be all sorts of other benefits:

Inoltre, potrebbero apportare diversi altri vantaggi,

eased road congestion,

come la diminuzione del traffico,

decreased harmful emissions,

la riduzione delle emissioni nocive,

and minimized unproductive and stressful driving time.

e la minimizzazione del tempo stressante e sterile passato alla guida.

Gli incidenti, però, possono e continueranno a verificarsi

But accidents can and will still happen,

and when they do,

e, in tal caso,

their outcomes may be determined months or years in advance

i loro esiti potrebbero essere determinati con mesi o anni di anticipo

by programmers or policy makers.

dai programmatori o dai policy maker,

And they'll have some difficult decisions to make.

che avranno decisioni importanti da prendere.

It's tempting to offer up general decision-making principles,

È allettante l'idea di proporre principi decisionali generali,

like minimize harm,

come ridurre al minimo i danni,

but even that quickly leads to morally murky decisions.

ma anch'essi conducono rapidamente a decisioni moralmente discutibili.

For example,

Per esempio,

let's say we have the same initial set up,

immaginiamo le stesse condizioni di partenza,

but now there's a motorcyclist wearing a helmet to your left

ma ora ci sono una motociclista con il casco alla vostra sinistra

and another one without a helmet to your right.

e uno senza casco alla vostra destra.

Which one should your robot car crash into?

Contro quale dei due dovrebbe schiantarsi l'auto robot?

If you say the biker with the helmet because she's more likely to survive,

Se rispondete "quella con il casco" perché ha più probabilità di sopravvivere,

then aren't you penalizing the responsible motorist?

allora non state penalizzando il conducente responsabile?

If, instead, you save the biker without the helmet

Se, invece, salvate il motociclista senza casco

because he's acting irresponsibly,

perché agisce in maniera irresponsabile,

then you've gone way beyond the initial design principle about minimizing harm,

siete andati ben oltre il principio del progetto iniziale

di ridurre al minimo i danni,

and the robot car is now meting out street justice.

e ora l'auto robot sta applicando una sorta di giustizia fai da te.

The ethical considerations get more complicated here.

La riflessione etica qui si complica.

In both of our scenarios,

In entrambe i casi,

the underlying design is functioning as a targeting algorithm of sorts.

il progetto di base funziona come un algoritmo di ordinamento mirato.

In other words,

In altre parole,

it's systematically favoring or discriminating

predilige o esclude sistematicamente

against a certain type of object to crash into.

un certo tipo di oggetto contro cui schiantarsi.

And the owners of the target vehicles

I proprietari dei veicoli "bersaglio"

will suffer the negative consequences of this algorithm

subiranno le conseguenze negative di questo algoritmo,

through no fault of their own.

senza però avere alcuna colpa.

Our new technologies are opening up many other novel ethical dilemmas.

Le nuove tecnologie aprono la strada a molti altri nuovi dilemmi etici.

For instance, if you had to choose between

Per esempio, se doveste scegliere

a car that would always save as many lives as possible in an accident,

tra un'auto che salverebbe sempre più vite possibili in caso d'incidente

or one that would save you at any cost,

e una che salverebbe voi a tutti i costi,

which would you buy?

quale comprereste?

What happens if the cars start analyzing and factoring in

Cosa succederebbe se la macchina iniziasse ad analizzare e prendere in considerazione

the passengers of the cars and the particulars of their lives?

i passeggeri delle auto e i dettagli delle loro vite?

Could it be the case that a random decision

È possibile che una decisione casuale sia migliore

is still better than a predetermined one designed to minimize harm?

rispetto a una predeterminate, progettata per minimizzare i danni?

And who should be making all of these decisions anyhow?

In ogni caso, chi dovrebbe prendere tutte queste decisioni?

Programmers? Companies? Governments?

I programmatori?

Le aziende?

I governi?

Reality may not play out exactly like our thought experiments,

La realtà potrebbe non rivelarsi uguale ai nostri esperimenti mentali,

but that's not the point.

ma non è questo il punto.

They're designed to isolate and stress test our intuitions on ethics,

Sono progettati per isolare e mettere alla prova le nostre intuizioni etiche,

just like science experiments do for the physical world.

proprio come fanno gli esperimenti scientifici con il mondo fisico.

Spotting these moral hairpin turns now

Individuare adesso questi tornanti morali

will help us maneuver the unfamiliar road of technology ethics,

ci aiuterà a percorrere la strada inesplorata dell'etica della tecnologia

and allow us to cruise confidently and conscientiously

e ci permetterà di dirigerci fiduciosamente e coscientemente

into our brave new future.

verso il nostro nuovo ardito futuro.