The ethical dilemma of self-driving cars - Patrick Lin

Traductor: Lidia Cámara de la Fuente Revisor: Ciro Gomez

This is a thought experiment.

Este es un experimento mental.

Let's say at some point in the not so distant future,

Digamos que en algún momento en un futuro cercano,

you're barreling down the highway in your self-driving car,

irás a toda velocidad por la carretera en tu automóvil robótico

and you find yourself boxed in on all sides by other cars.

y estarás acorralado por todos lados por otros autos.

Suddenly, a large, heavy object falls off the truck in front of you.

De repente, un objeto grande y pesado cae del camión ante ti.

Your car can't stop in time to avoid the collision,

Tu auto no puede parar a tiempo para evitar la colisión,

so it needs to make a decision:

por eso debes tomar una decisión:

go straight and hit the object,

seguir recto y golpear el objeto,

swerve left into an SUV,

girar a la izquierda hacia un 4x4

or swerve right into a motorcycle.

o desviarse a la derecha hacia una motocicleta.

Should it prioritize your safety by hitting the motorcycle,

¿Debe priorizar tu seguridad golpeando la motocicleta,

minimize danger to others by not swerving,

minimizar el peligro para los demás no desviándose,

even if it means hitting the large object and sacrificing your life,

incluso si eso significa golpear el objeto grande y sacrificar tu vida,

or take the middle ground by hitting the SUV,

u optar por el término medio golpeando la camioneta,

which has a high passenger safety rating?

que tiene un alto índice de seguridad para sus pasajeros?

So what should the self-driving car do?

Entonces, ¿qué debe hacer el automóvil robótico?

If we were driving that boxed in car in manual mode,

Si condujéramos el automóvil en modo manual,

whichever way we'd react would be understood as just that,

de cualquier forma que quisiéramos reaccionar se entendería como solo eso,

a reaction,

una reacción,

not a deliberate decision.

no una decisión deliberada.

It would be an instinctual panicked move with no forethought or malice.

Sería un movimiento de pánico instintivo sin premeditación o malicia.

But if a programmer were to instruct the car to make the same move,

Pero si un programador tuviera que asignar al auto hacer un movimiento,

given conditions it may sense in the future,

dadas las condiciones que pueden presentarse en el futuro,

well, that looks more like premeditated homicide.

bueno, eso se parece más a homicidio premeditado.

Now, to be fair,

Ahora, para ser justos,

self-driving cars are predicted to dramatically reduce traffic accidents

con los autos robóticos se prevé reducir drásticamente los accidentes de tráfico

and fatalities

y las muertes

by removing human error from the driving equation.

por la eliminación del error humano en la conducción.

Además, puede haber todo tipo de beneficios adicionales:

Plus, there may be all sorts of other benefits:

eased road congestion,

congestión vial aliviada,

decreased harmful emissions,

disminución de emisiones nocivas,

and minimized unproductive and stressful driving time.

y reducción al mínimo del tiempo de conducción improductivo y estresante.

But accidents can and will still happen,

Pero los accidentes pueden suceder y sucederán,

and when they do,

y cuando sucedan,

their outcomes may be determined months or years in advance

los resultados pueden determinarse meses o años de antelación

by programmers or policy makers.

por programadores o diseñadores de políticas.

And they'll have some difficult decisions to make.

Y ellos tendrán que tomar algunas decisiones difíciles.

It's tempting to offer up general decision-making principles,

Es tentador ofrecer principios generales de decisión,

like minimize harm,

como minimizar el daño,

but even that quickly leads to morally murky decisions.

pero eso incluso lleva fácilmente a decisiones moralmente cuestionables.

For example,

Por ejemplo,

let's say we have the same initial set up,

con la misma configuración inicial,

but now there's a motorcyclist wearing a helmet to your left

pero a la izquierda un motociclista con casco

and another one without a helmet to your right.

y a la derecha otro sin casco.

Which one should your robot car crash into?

¿Con quién debería chocar el automóvil robótico?

If you say the biker with the helmet because she's more likely to survive,

Si dices con motociclista con casco por tener más probabilidad de sobrevivir,

then aren't you penalizing the responsible motorist?

entonces, ¿no penalizas al motociclista responsable?

If, instead, you save the biker without the helmet

Si, en cambio, vas hacia al motociclista sin casco

because he's acting irresponsibly,

porque él actúa de manera irresponsable, entonces

then you've gone way beyond the initial design principle about minimizing harm,

has ido mucho más allá del principio de diseño inicial de minimización de daños,

and the robot car is now meting out street justice.

y el automóvil robótico está ahora haciendo justicia en la calle.

The ethical considerations get more complicated here.

Las consideraciones éticas se complican más aquí.

In both of our scenarios,

En ambos escenarios,

the underlying design is functioning as a targeting algorithm of sorts.

el diseño subyacente funciona como un algoritmo de focalización de clases.

In other words,

En otras palabras,

it's systematically favoring or discriminating

favorece o discrimina sistemáticamente

against a certain type of object to crash into.

en contra de chocarse con un determinado tipo de objeto.

And the owners of the target vehicles

Y los dueños de los vehículos diana

will suffer the negative consequences of this algorithm

sufrirán las consecuencias negativas de este algoritmo

through no fault of their own.

por causas ajenas a su voluntad.

Our new technologies are opening up many other novel ethical dilemmas.

Nuestras nuevas tecnologías abren muchos otros dilemas éticos novedosos.

For instance, if you had to choose between

Por ejemplo, si tuvieras que elegir entre

a car that would always save as many lives as possible in an accident,

un auto que siempre quiera salvar tantas vidas como fuera posible en un accidente,

or one that would save you at any cost,

o uno que te salvara a ti a toda costa,

which would you buy?

¿cuál comprarías?

What happens if the cars start analyzing and factoring in

¿Qué sucede si los autos empiezan a analizar y factorizar

the passengers of the cars and the particulars of their lives?

a los pasajeros de los autos y los detalles de sus vidas?

¿Podría darse el caso de que una decisión al azar

Could it be the case that a random decision

is still better than a predetermined one designed to minimize harm?

siga siendo mejor que una predeterminada diseñada para minimizar el daño?

And who should be making all of these decisions anyhow?

¿Y quién debería tomar estas decisiones de todos modos?

Programmers? Companies? Governments?

¿Los programadores?

¿Las empresas?

¿Los gobiernos?

Reality may not play out exactly like our thought experiments,

La realidad no reproduce exactamente nuestros experimentos mentales,

but that's not the point.

pero ese no es el punto.

They're designed to isolate and stress test our intuitions on ethics,

Están diseñados para aislar y someter a presión a nuestras intuiciones éticas,

just like science experiments do for the physical world.

igual que los experimentos científicos lo hacen al probar el mundo físico.

Spotting these moral hairpin turns now

Detectar este giro en U moral

will help us maneuver the unfamiliar road of technology ethics,

nos ayudará a maniobrar en el camino desconocido de la ética de la tecnología,

and allow us to cruise confidently and conscientiously

y nos permitirá adentrarnos con confianza y conciencia

into our brave new future.

en nuestro nuevo y valiente futuro.