The ethical dilemma of self-driving cars - Patrick Lin

O dilema ético dos carros autodirigíveis - Patrick Lin

Tradutor: Leonardo Silva Revisor: Ruy Lopes Pereira

Este é um experimento mental.

This is a thought experiment.

Digamos que, em algum ponto de um futuro não tão distante,

Let's say at some point in the not so distant future,

you're barreling down the highway in your self-driving car,

você esteja à vontade na estrada, em seu carro autodirigível,

and you find yourself boxed in on all sides by other cars.

e se veja encurralado por carros em todos os lados.

Suddenly, a large, heavy object falls off the truck in front of you.

De repente, um objeto grande e pesado cai do caminhão que está à sua frente.

Seu carro não consegue parar a tempo de evitar a colisão,

Your car can't stop in time to avoid the collision,

so it needs to make a decision:

e ele precisa decidir:

go straight and hit the object,

seguir em frente e colidir com o objeto,

swerve left into an SUV,

desviar para a esquerda e bater num SUV,

or swerve right into a motorcycle.

ou desviar para a direita e bater numa moto.

Should it prioritize your safety by hitting the motorcycle,

Será que ele deve priorizar a sua segurança, atingindo a moto;

minimize danger to others by not swerving,

minimizar o risco aos outros, não desviando para o lado,

even if it means hitting the large object and sacrificing your life,

mesmo que isso signifique colidir com o grande objeto e sacrificar sua vida;

or take the middle ground by hitting the SUV,

ou ficar no meio termo e bater no SUV,

which has a high passenger safety rating?

que tem um alto índice de segurança para passageiros?

O que o autodirigível deve fazer, então?

So what should the self-driving car do?

If we were driving that boxed in car in manual mode,

Se estivéssemos dirigindo manualmente esse carro encurralado,

whichever way we'd react would be understood as just that,

qualquer que fosse nossa reação, seria apenas isso, uma reação,

a reaction,

não uma decisão intencional.

not a deliberate decision.

It would be an instinctual panicked move with no forethought or malice.

Seria um movimento instintivo e abrupto, sem premeditação ou maldade.

But if a programmer were to instruct the car to make the same move,

Mas se um programador instruísse o carro a fazer a mesma manobra,

given conditions it may sense in the future,

dando-lhe condições de prever situações semelhantes,

well, that looks more like premeditated homicide.

bem, isso parece mais homicídio premeditado.

Now, to be fair,

Bem, para ser justo,

self-driving cars are predicted to dramatically reduce traffic accidents

espera-se que carros autodirigíveis reduzam drasticamente

os acidentes de trânsito e fatalidades, retirando a falha humana da equação.

and fatalities

by removing human error from the driving equation.

Plus, there may be all sorts of other benefits:

E talvez haja vários outros benefícios:

eased road congestion,

menos congestionamento, menos emissão de gases nocivos

decreased harmful emissions,

and minimized unproductive and stressful driving time.

e menos tempo improdutivo e estressante na direção.

Mas os acidentes podem e vão continuar ocorrendo

But accidents can and will still happen,

and when they do,

e, quando ocorrerem, os resultados poderão ser determinados

their outcomes may be determined months or years in advance

com meses ou anos de antecedência

por programadores ou gestores públicos.

by programmers or policy makers.

And they'll have some difficult decisions to make.

E eles terão decisões difíceis a tomar.

É tentador elaborar princípios gerais de tomada de decisão,

It's tempting to offer up general decision-making principles,

like minimize harm,

como "minimizar danos",

mas até isso imediatamente nos leva a decisões moralmente obscuras.

but even that quickly leads to morally murky decisions.

For example,

Por exemplo, na situação apresentada no início,

let's say we have the same initial set up,

but now there's a motorcyclist wearing a helmet to your left

digamos que uma motociclista esteja à esquerda, com capacete,

and another one without a helmet to your right.

e que outro motociclista, sem capacete, esteja à direita.

Which one should your robot car crash into?

Com qual deles seu carro-robô deveria colidir?

If you say the biker with the helmet because she's more likely to survive,

Se você disser que é com a com capacete porque tem mais chances de sobreviver,

then aren't you penalizing the responsible motorist?

você não estaria penalizando uma motorista responsável?

If, instead, you save the biker without the helmet

Se você salvar o que está sem capacete, por ele estar sendo irresponsável,

because he's acting irresponsibly,

then you've gone way beyond the initial design principle about minimizing harm,

você terá ido muito além do princípio inicial de minimizar danos,

and the robot car is now meting out street justice.

e o carro-robô agora estará atuando como juiz nas ruas.

The ethical considerations get more complicated here.

As considerações éticas ficam mais complicadas aqui.

In both of our scenarios,

Em ambos os cenários,

the underlying design is functioning as a targeting algorithm of sorts.

a programação oculta estará funcionando como um algoritmo de escolha de alvos.

In other words,

Em outras palavras, estará favorecendo ou discriminando, de forma sistemática,

it's systematically favoring or discriminating

against a certain type of object to crash into.

determinado tipo de objeto com o qual pode colidir ou não.

And the owners of the target vehicles

E os proprietários dos veículos-alvo sofrerão as consequências desse algoritmo

will suffer the negative consequences of this algorithm

through no fault of their own.

sem ter qualquer culpa.

Our new technologies are opening up many other novel ethical dilemmas.

Nossas novas tecnologias estão trazendo muitos outros novos dilemas éticos.

For instance, if you had to choose between

Por exemplo, se você tivesse que escolher

a car that would always save as many lives as possible in an accident,

entre um carro que sempre poupasse o máximo de vidas possível num acidente,

or one that would save you at any cost,

ou um que poupasse você a qualquer custo,

which would you buy?

qual você compraria?

E se os carros começarem a analisar e a julgar

What happens if the cars start analyzing and factoring in

the passengers of the cars and the particulars of their lives?

os passageiros dos carros e as particularidades de suas vidas?

Could it be the case that a random decision

Será que uma decisão aleatória

is still better than a predetermined one designed to minimize harm?

seria melhor do que uma premeditada que vise a minimizar os danos?

And who should be making all of these decisions anyhow?

De qualquer forma, quem deveria tomar todas essas decisões?

Programmers? Companies? Governments?

Programadores? Empresas? Governos?

Reality may not play out exactly like our thought experiments,

A realidade pode não ser exatamente como nossos experimentos mentais,

but that's not the point.

mas essa não é a questão.

They're designed to isolate and stress test our intuitions on ethics,

Eles são feitos para isolar e pôr à prova nossas intuições sobre a ética,

just like science experiments do for the physical world.

tal como experimentos científicos fazem com o mundo físico.

Spotting these moral hairpin turns now

Vislumbrar agora essas curvas morais sinuosas

will help us maneuver the unfamiliar road of technology ethics,

vai nos ajudar a manobrar na estrada desconhecida da ética tecnológica

and allow us to cruise confidently and conscientiously

e nos permitir viajar de forma confiante e cuidadosa

into our brave new future.

rumo ao nosso novo e corajoso futuro.