The ethical dilemma of self-driving cars - Patrick Lin

Tradutor: Margarida Ferreira

This is a thought experiment.

Isto é um exercício intelectual.

Let's say at some point in the not so distant future,

Digamos que, um dia, num futuro não muito distante,

you're barreling down the highway in your self-driving car,

seguem rapidamente pela autoestrada no vosso carro autónomo

and you find yourself boxed in on all sides by other cars.

e encontram-se rodeados de carros por todos os lados.

Suddenly, a large, heavy object falls off the truck in front of you.

Subitamente, um objeto grande e pesado cai do camião que está à vossa frente.

Your car can't stop in time to avoid the collision,

O vosso carro não vai conseguir parar a tempo de evitar a colisão,

so it needs to make a decision:

portanto tem que tomar uma decisão:

go straight and hit the object,

avançar e colidir com o objeto,

swerve left into an SUV,

desviar-se para a esquerda e bater noutro veículo

or swerve right into a motorcycle.

ou desviar-se para a direita e bater numa motoreta.

Should it prioritize your safety by hitting the motorcycle,

Deverá dar prioridade à vossa segurança, batendo na motoreta,

minimize danger to others by not swerving,

minimizar o perigo para os outros, não se desviando,

even if it means hitting the large object and sacrificing your life,

mesmo que isso implique bater no objeto e sacrificar a vossa vida,

or take the middle ground by hitting the SUV,

ou escolher uma solução intermédia, e colidir com o outro veículo

which has a high passenger safety rating?

que tem uma alta probabilidade de segurança para o passageiro?

So what should the self-driving car do?

Que deverá fazer o carro autónomo?

If we were driving that boxed in car in manual mode,

Se estivermos a guiar o carro em modo manual,

whichever way we'd react would be understood as just that,

qualquer que seja a nossa reação, ela será entendida apenas como tal,

a reaction,

uma reação,

not a deliberate decision.

e não uma decisão deliberada.

It would be an instinctual panicked move with no forethought or malice.

Será um gesto instintivo de pânico sem premeditação ou maldade.

But if a programmer were to instruct the car to make the same move,

Mas, se um programador tiver que instruir o carro para agir do mesmo modo,

given conditions it may sense in the future,

segundo condições que possam acontecer no futuro,

well, that looks more like premeditated homicide.

isso já se parece mais com um homicídio premeditado.

Now, to be fair,

Para sermos justos,

self-driving cars are predicted to dramatically reduce traffic accidents

prevê-se que os carros autónomos reduzam drasticamente

and fatalities

os acidentes de trânsito e as mortes,

by removing human error from the driving equation.

eliminando o erro humano da equação da condução.

Plus, there may be all sorts of other benefits:

Além disso, pode haver todo o tipo de outros benefícios:

eased road congestion,

redução dos engarrafamentos na estrada,

decreased harmful emissions,

redução das emissões prejudiciais,

and minimized unproductive and stressful driving time.

e redução ao minimo do tempo de condução, Improdutiva e desgastante.

But accidents can and will still happen,

Mesmo assim, podem ocorrer, e ocorrerão, acidentes.

and when they do,

Quando isso acontecer,

their outcomes may be determined months or years in advance

os resultados podem ter sido determinados com meses ou anos de antecedência

by programmers or policy makers.

pelos programadores ou pelos legisladores.

And they'll have some difficult decisions to make.

Vão ter que tomar decisões difíceis.

It's tempting to offer up general decision-making principles,

É tentador apresentar princípios gerais de tomada de decisões,

like minimize harm,

como minimizar sempre os prejuízos.

but even that quickly leads to morally murky decisions.

Mas até isso leva facilmente a decisões moralmente questionáveis.

For example,

Por exemplo,

let's say we have the same initial set up,

digamos que temos o mesmo cenário inicial,

but now there's a motorcyclist wearing a helmet to your left

mas agora. à vossa esquerda, há um motociclista de capacete

and another one without a helmet to your right.

e à vossa direita há outro sem capacete.

Which one should your robot car crash into?

Em qual deles é que o nosso carro robô deve bater?

If you say the biker with the helmet because she's more likely to survive,

Se escolherem o motociclista de capacete porque tem maior hipótese de sobreviver,

then aren't you penalizing the responsible motorist?

não estão a penalizar o motociclista responsável?

If, instead, you save the biker without the helmet

Se, pelo contrário, escolherem o motociclista sem capacete

because he's acting irresponsibly,

porque está a agir irresponsavelmente,

then you've gone way beyond the initial design principle about minimizing harm,

estão a ultrapassar o princípio inicial de minimização de prejuízos

and the robot car is now meting out street justice.

e o carro robô estará a fazer justiça pelas próprias mãos.

The ethical considerations get more complicated here.

As considerações éticas ainda se complicam mais.

In both of our scenarios,

Em ambos os cenários,

the underlying design is functioning as a targeting algorithm of sorts.

o objetivo subjacente funciona como um algoritmo de focalização de tipos.

In other words,

Por outras palavras,

it's systematically favoring or discriminating

favorece ou discrimina, sistematicamente,

against a certain type of object to crash into.

um certo tipo de objeto no qual irá bater.

And the owners of the target vehicles

Os proprietários dos veículos alvo

will suffer the negative consequences of this algorithm

sofrerão as consequências negativas desse algoritmo

through no fault of their own.

sem qualquer culpa pessoal.

Our new technologies are opening up many other novel ethical dilemmas.

As novas tecnologias estão a apresentar muitos novos dilemas éticos.

For instance, if you had to choose between

Por exemplo, se tiverem que escolher

a car that would always save as many lives as possible in an accident,

entre um carro que salve sempre tantas vidas quanto possível, num acidente

or one that would save you at any cost,

e um carro que vos salve a qualquer custo,

which would you buy?

qual é que vão comprar?

What happens if the cars start analyzing and factoring in

O que acontece se os carros começarem a analisar e a ponderar

the passengers of the cars and the particulars of their lives?

os passageiros dos carros e os pormenores da vida deles?

Could it be the case that a random decision

Será que uma decisão ao acaso

is still better than a predetermined one designed to minimize harm?

continua a ser melhor do que uma razão pré-determinada,

destinada a minimizar os prejuízos?

And who should be making all of these decisions anyhow?

De resto, quem é que toma todas essas decisões?

Programmers? Companies? Governments?

Os programadores? As empresas?

Os governos?

Reality may not play out exactly like our thought experiments,

A realidade não corresponde exatamente aos nossos exercícios intelectuais

but that's not the point.

mas o problema não é esse.

They're designed to isolate and stress test our intuitions on ethics,

São concebidas para isolar e testar ao máximo as nossas intuições éticas,

just like science experiments do for the physical world.

tal como as experiências científicas o fazem para o mundo físico.

Spotting these moral hairpin turns now

Ter consciência destas reviravoltas morais

will help us maneuver the unfamiliar road of technology ethics,

ajudar-nos-á a percorrer a estrada desconhecida da ética da tecnologia

and allow us to cruise confidently and conscientiously

e permitir-nos-á viajar com confiança e consciência

into our brave new future.

até ao nosso bravo futuro novo.