The ethical dilemma of self-driving cars - Patrick Lin

Tłumaczenie: Martyna Selke Korekta: Marta Grochowalska

This is a thought experiment.

Przeprowadźmy eksperyment myślowy.

Let's say at some point in the not so distant future,

Wyobraźcie sobie, że w niedalekiej przyszłości

you're barreling down the highway in your self-driving car,

mkniecie autostradą w samochodzie autonomicznym

and you find yourself boxed in on all sides by other cars.

i z każdej strony otaczają was pojazdy.

Suddenly, a large, heavy object falls off the truck in front of you.

Nagle z ciężarówki przed wami wypada duży, ciężki przedmiot.

Your car can't stop in time to avoid the collision,

Wasz pojazd nie zdąży się zatrzymać, żeby uniknąć kolizji,

so it needs to make a decision:

więc musi podjąć decyzję:

go straight and hit the object,

jechać prosto i się z nim zderzyć,

swerve left into an SUV,

odbić w lewo na inny samochód

or swerve right into a motorcycle.

albo w prawo na motocykl.

Should it prioritize your safety by hitting the motorcycle,

Powinien wybrać twoje bezpieczeństwo uderzając w motocykl,

minimize danger to others by not swerving,

zminimalizować zagrożenie innych, pozostając na trasie,

even if it means hitting the large object and sacrificing your life,

nawet kosztem zderzenia z czymś dużym, poświęcając przy tym wasze życie,

or take the middle ground by hitting the SUV,

czy wybrać złoty środek i uderzyć w SUVa,

which has a high passenger safety rating?

który stoi wysoko w rankingu bezpieczeństwa pasażerów?

Co powinien zrobić samochód autonomiczny?

So what should the self-driving car do?

If we were driving that boxed in car in manual mode,

Gdybyśmy w tej sytuacji sami prowadzili samochód,

whichever way we'd react would be understood as just that,

jakkolwiek byśmy nie zareagowali, byłoby to postrzegane dokładnie tak,

a reaction,

jako reakcja,

not a deliberate decision.

a nie celowa decyzja.

It would be an instinctual panicked move with no forethought or malice.

Byłaby to pozbawiona złych zamiarów, instynktowna reakcja na panikę.

But if a programmer were to instruct the car to make the same move,

Gdyby jednak programista miał zaprogramować taki manewr,

given conditions it may sense in the future,

biorąc pod uwagę okoliczności mogące wystąpić w przyszłości,

well, that looks more like premeditated homicide.

to zaczyna już to wyglądać jak morderstwo z premedytacją.

Now, to be fair,

Trzeba jednak przyznać,

self-driving cars are predicted to dramatically reduce traffic accidents

że samochody autonomiczne mają drastycznie zmniejszyć liczbę wypadków

and fatalities

i ofiar śmiertelnych,

by removing human error from the driving equation.

właśnie dzięki eliminacji ludzkiego błędu z równania.

Plus, there may be all sorts of other benefits:

Poza tym są też inne zalety:

eased road congestion,

zmniejszenie zatłoczenia dróg,

decreased harmful emissions,

obniżenie szkodliwych emisji

and minimized unproductive and stressful driving time.

czy zminimalizowanie bezproduktywnego i stresującego czasu jazdy.

But accidents can and will still happen,

Ale wypadki mogą i będą się zdarzały,

and when they do,

a gdy do nich dojdzie,

their outcomes may be determined months or years in advance

to ich efekt może być ustalony z wielomiesięcznym wyprzedzeniem

przez programistów i ustawodawców.

by programmers or policy makers.

And they'll have some difficult decisions to make.

Będą musieli podjąć trudne decyzje.

It's tempting to offer up general decision-making principles,

Łatwo mówić ogólnikowo o zasadach w procesie decyzyjnym,

like minimize harm,

jak choćby o zminimalizowaniu szkód,

ale samo to szybko prowadzi do moralnie niejasnych decyzji.

but even that quickly leads to morally murky decisions.

For example,

Na przykład,

let's say we have the same initial set up,

powiedzmy, że sytuacja jest taka sama,

but now there's a motorcyclist wearing a helmet to your left

ale motocyklista jadący po lewej ma kask,

and another one without a helmet to your right.

a ten jadący po prawej - nie.

Which one should your robot car crash into?

W którego powinien uderzyć wasz samochód?

If you say the biker with the helmet because she's more likely to survive,

Czy nie karzemy odpowiedzialnego kierowcy, mówiąc, że w motocyklistkę w kasku,

then aren't you penalizing the responsible motorist?

bo ma większe szanse na przeżycie?

If, instead, you save the biker without the helmet

Za to wybierając kierowcę bez kasku,

because he's acting irresponsibly,

bo jest nieodpowiedzialny,

then you've gone way beyond the initial design principle about minimizing harm,

wykraczamy poza pierwotne założenie minimalizowania szkód,

and the robot car is now meting out street justice.

a robotyczne auto wymierza sprawiedliwość na ulicy.

The ethical considerations get more complicated here.

Te etyczne rozważania jeszcze bardziej się komplikują.

In both of our scenarios,

W obydwu przypadkach

the underlying design is functioning as a targeting algorithm of sorts.

programowanie opiera się na pewnym algorytmie nakierowywania.

In other words,

Innymi słowy,

it's systematically favoring or discriminating

systemowo faworyzuje albo dyskryminuje

against a certain type of object to crash into.

niektóre obiekty, w które można uderzyć.

And the owners of the target vehicles

A właściciele namierzonych pojazdów

will suffer the negative consequences of this algorithm

będą ponosić konsekwencje algorytmu,

through no fault of their own.

któremu nie są winni.

Our new technologies are opening up many other novel ethical dilemmas.

Nowe technologie stawiają nas przed wachlarzem etycznych dylematów.

For instance, if you had to choose between

Na przykład, gdybyście mieli wybrać

a car that would always save as many lives as possible in an accident,

między samochodem, który zawsze ocali tyle żyć, ile tylko możliwe,

or one that would save you at any cost,

a takim, który za wszelką cenę ocali was,

which would you buy?

który byście wybrali?

What happens if the cars start analyzing and factoring in

Co, jeśli samochody zaczną analizować i brać pod uwagę

the passengers of the cars and the particulars of their lives?

pasażerów pojazdów i szczegóły ich życia?

Could it be the case that a random decision

Czy przypadkowa decyzja

is still better than a predetermined one designed to minimize harm?

jest wciąż lepsza od tej zaprogramowanej do zminimalizowania szkód?

And who should be making all of these decisions anyhow?

Kto w ogóle powinien podejmować te decyzje?

Programmers? Companies? Governments?

Programiści? Przedsiębiorcy? Rządy?

Reality may not play out exactly like our thought experiments,

Rzeczywistość może się różnić od eksperymentów myślowych,

but that's not the point.

ale nie o to chodzi.

They're designed to isolate and stress test our intuitions on ethics,

Są stworzone do izolowania i testowania naszej intuicyjnej etyczności pod presją,

just like science experiments do for the physical world.

tak jak podczas eksperymentów naukowych w świecie fizycznym.

Spotting these moral hairpin turns now

Wychwytywanie tych moralnych ostrych zakrętów teraz,

will help us maneuver the unfamiliar road of technology ethics,

pomoże nam pokonać nieznaną drogę do etyki w technologii

and allow us to cruise confidently and conscientiously

i pozwoli nam pewnie i uważnie wjechać

into our brave new future.

do nowej, wspaniałej przyszłości.