The ethical dilemma of self-driving cars - Patrick Lin

Traducteur: Lucas P. Relecteur: Shadia Ramsahye

This is a thought experiment.

Ceci est une expérience de pensée.

Let's say at some point in the not so distant future,

Imaginons qu'un jour, dans un futur pas si lointain,

you're barreling down the highway in your self-driving car,

vous fonciez à toute allure sur l'autoroute, dans votre voiture autonome,

and you find yourself boxed in on all sides by other cars.

et vous vous trouvez enfermé de tous les côtés par d'autres voitures.

Suddenly, a large, heavy object falls off the truck in front of you.

Tout à coup, un objet lourd et volumineux tombe du camion qui roule devant vous.

Your car can't stop in time to avoid the collision,

Votre voiture ne peut s'arrêter à temps pour éviter la collision,

so it needs to make a decision:

elle doit donc prendre une décision :

go straight and hit the object,

aller tout droit et percuter l'objet,

swerve left into an SUV,

tourner à gauche et percuter un 4x4,

or swerve right into a motorcycle.

ou tourner à droite et percuter une moto.

Should it prioritize your safety by hitting the motorcycle,

Doit-elle faire passer votre sécurité en priorité en percutant la moto,

minimize danger to others by not swerving,

limiter le danger pour les autres en continuant tout droit,

even if it means hitting the large object and sacrificing your life,

même si cela implique de percuter l'objet et sacrifier votre vie,

or take the middle ground by hitting the SUV,

ou choisir une solution intermédiaire et percuter le 4x4,

which has a high passenger safety rating?

qui a une cote de sécurité du passager élevée ?

So what should the self-driving car do?

Alors, que doit faire la voiture autonome ?

If we were driving that boxed in car in manual mode,

Si cette voiture encerclée était conduite manuellement,

whichever way we'd react would be understood as just that,

n'importe quelle réaction serait considérée comme telle,

a reaction,

une réaction,

not a deliberate decision.

pas une décision délibérée.

It would be an instinctual panicked move with no forethought or malice.

Ce serait un geste instictif de panique sans préméditation ni malveillance.

But if a programmer were to instruct the car to make the same move,

Mais si un programmeur ordonnait à la voiture d'agir de la même façon,

given conditions it may sense in the future,

selon des conditions qu'elle pourrait détecter à l'avenir,

well, that looks more like premeditated homicide.

cela ressemble davantage à un homicide volontaire prémédité.

Now, to be fair,

Pour être juste,

self-driving cars are predicted to dramatically reduce traffic accidents

les voitures autonomes devraient réduire drastiquement

and fatalities

le nombre de décès et d'accidents

by removing human error from the driving equation.

en supprimant l'erreur humaine de l'équation de la conduite.

Plus, there may be all sorts of other benefits:

Il y aurait toutes sortes d'autres avantages :

eased road congestion,

des embouteillages atténués,

decreased harmful emissions,

des échappements nocifs diminués,

and minimized unproductive and stressful driving time.

et un temps de conduite stressant et improductif réduit au minimum.

But accidents can and will still happen,

Si des accidents peuvent et vont toujours arriver,

and when they do,

quand ils arrivent,

their outcomes may be determined months or years in advance

leurs bilans pourraient être déterminés des mois ou des années à l'avance

by programmers or policy makers.

par des programmeurs ou des décisionnaires.

And they'll have some difficult decisions to make.

Et ils vont avoir des décisions difficiles à prendre.

It's tempting to offer up general decision-making principles,

Il est tentant d'établir des principes décisionnels généraux,

like minimize harm,

comme de toujours limiter les dégâts,

but even that quickly leads to morally murky decisions.

mais même cela conduit vite à des décisions troubles sur le plan moral.

For example,

Par exemple,

let's say we have the same initial set up,

imaginons la même situation initiale,

but now there's a motorcyclist wearing a helmet to your left

mais cette fois avec un motard avec un casque à votre gauche,

and another one without a helmet to your right.

et un autre, sans casque, à votre droite.

Which one should your robot car crash into?

Lequel des deux votre voiture-robot doit-elle percuter ?

If you say the biker with the helmet because she's more likely to survive,

Si vous dites le motard avec un casque, parce qu'il a plus de chances de survivre,

then aren't you penalizing the responsible motorist?

alors n'êtes-vous pas en train de pénaliser le conducteur responsable ?

If, instead, you save the biker without the helmet

Si, plutôt, vous choisissez le motard sans casque

because he's acting irresponsibly,

parce qu'il agit de façon irresponsable,

then you've gone way beyond the initial design principle about minimizing harm,

alors vous avez largement dépassé le but initial, qui est de limiter les dégâts,

and the robot car is now meting out street justice.

et la voiture-robot transgresse alors le code de la route.

The ethical considerations get more complicated here.

Les considérations éthiques deviennent donc plus compliquées.

In both of our scenarios,

Dans nos deux scénarios,

the underlying design is functioning as a targeting algorithm of sorts.

le processus sous-jacent fonctionne comme un algorithme ciblant des types.

In other words,

Autrement dit,

it's systematically favoring or discriminating

il favorise ou discrimine systématiquement

against a certain type of object to crash into.

un certain type d'objet avec lequel entrer en collision.

And the owners of the target vehicles

Et les propriétaires des véhicules cibles

will suffer the negative consequences of this algorithm

souffriront les conséquences négatives de cet algorithme

through no fault of their own.

alors qu'ils n'ont pas commis d'erreur.

Our new technologies are opening up many other novel ethical dilemmas.

Nos nouvelles technologies ouvrent la voie à de nombreux autres débats éthiques.

For instance, if you had to choose between

Par exemple, si vous aviez à choisir entre

a car that would always save as many lives as possible in an accident,

une voiture qui sauve toujours autant de vies que possible lors d'un accident

or one that would save you at any cost,

ou une voiture qui vous sauve vous, et ce à n'importe quel prix,

which would you buy?

laquelle achèteriez-vous ?

What happens if the cars start analyzing and factoring in

Que se passe-t-il si la voiture se met à analyser et tenir compte

the passengers of the cars and the particulars of their lives?

des passagers dans la voiture et des particularités de leur vie ?

Could it be the case that a random decision

Se pourrait-il qu'une décision aléatoire

is still better than a predetermined one designed to minimize harm?

reste meilleure qu'une prédéterminée conçue pour limiter les dégâts ?

And who should be making all of these decisions anyhow?

Et qui doit prendre toutes ces décisions ?

Programmers? Companies? Governments?

Les programmeurs ?

Les entreprises ?

Les gouvernements ?

Reality may not play out exactly like our thought experiments,

La réalité peut ne pas se dérouler selon nos expériences de pensée,

but that's not the point.

mais là n'est pas la question.

They're designed to isolate and stress test our intuitions on ethics,

Elles sont conçues pour isoler et mettre nos intuitions éthiques à l'épreuve,

just like science experiments do for the physical world.

comme les expériences scientifiques le font pour le monde physique.

Spotting these moral hairpin turns now

Repérer aujourd'hui ces virages en épingle sur le plan moral

will help us maneuver the unfamiliar road of technology ethics,

nous aidra à manoeuvrer sur la route inconnue de l'éthique des technologies

and allow us to cruise confidently and conscientiously

et nous permettra de rouler consciencieusement et en toute confiance

into our brave new future.

vers le meilleur des avenirs.