Would you sacrifice one person to save five? - Eleanor Nelsen

Tłumaczenie: Ola Królikowska Korekta: Rysia Wand

Imagine you're watching a runaway trolley barreling down the tracks

Wyobraź sobie kolejkę pędzącą po torach

straight towards five workers who can't escape.

wprost na pięciu robotników, którzy nie mają jak uciec.

You happen to be standing next to a switch

Stoisz obok dźwigni,

that will divert the trolley onto a second track.

która przekieruje kolejkę na drugi tor.

Here's the problem.

Ale jest problem.

That track has a worker on it, too, but just one.

Na drugim torze też stoi robotnik.

What do you do?

Co zrobisz?

Do you sacrifice one person to save five?

Czy uratujesz pięć osób kosztem jednej?

This is the trolley problem,

To dylemat wagonika,

a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

eksperyment etyczny stworzony przez filozof Philippę Foot w 1967 roku.

It's popular because it forces us to think about how to choose

Zyskał popularność, bo zmusza do refleksji nad tym,

co wybrać, kiedy nie ma dobrego wyjścia.

when there are no good choices.

Do we pick the action with the best outcome

Czy postąpimy zgodnie z najlepszym rezultatem,

or stick to a moral code that prohibits causing someone's death?

czy kodeksem moralnym, który zabrania zabijania?

In one survey, about 90% of respondents said that it's okay to flip the switch,

W badaniu około 90% respondentów odpowiedziało, że pociągnęłoby za dźwignię

letting one worker die to save five,

i poświęciło życie jednego robotnika, aby uratować pięciu.

and other studies, including a virtual reality simulation of the dilemma,

Podobne wyniki dały badania z wirtualną symulacją dylematu.

have found similar results.

These judgments are consistent with the philosophical principle of utilitarianism

Opinie te są zgodne z filozoficzną zasadą utylitaryzmu,

which argues that the morally correct decision

która mówi, że najwłaściwsza moralnie

is the one that maximizes well-being for the greatest number of people.

jest decyzja maksymalizująca dobro jak największej liczby osób.

The five lives outweigh one,

Pięć istnień znaczy więcej niż jedno,

even if achieving that outcome requires condemning someone to death.

nawet jeśli będzie to oznaczało skazanie kogoś na śmierć.

But people don't always take the utilitarian view,

Ale ludzie nie zawsze dokonują utylitarystycznych wyborów,

which we can see by changing the trolley problem a bit.

co można łatwo zauważyć, jeśli zmienimy zasady dylematu.

This time, you're standing on a bridge over the track

Tym razem stoisz na moście nad torami

as the runaway trolley approaches.

tuż przed przyjazdem kolejki.

Now there's no second track,

Nie ma drugiego toru,

but there is a very large man on the bridge next to you.

ale obok ciebie na moście stoi otyły człowiek.

If you push him over, his body will stop the trolley,

Jeśli go popchniesz, swoim ciałem zatrzyma kolejkę

saving the five workers,

i uratuje pięciu robotników,

but he'll die.

ale sam zginie.

To utilitarians, the decision is exactly the same,

Utylitaryści nie zmieniają decyzji.

lose one life to save five.

Poświęcą jedną osobę, żeby uratować pięć.

But in this case, only about 10% of people

Ale w tym wypadku tylko 10% badanych uważa,

say that it's OK to throw the man onto the tracks.

że można zepchnąć człowieka z mostu.

Our instincts tell us that deliberately causing someone's death

Instynkt mówi nam, że celowe spowodowanie śmierci

is different than allowing them to die as collateral damage.

to co innego, niż przyzwolenie na śmierć jako skutek uboczny.

It just feels wrong for reasons that are hard to explain.

Choć trudno to wyjaśnić, wydaje nam się to złe.

This intersection between ethics and psychology

To dzięki skrzyżowaniu etyki z psychologią

is what's so interesting about the trolley problem.

dylemat wagonika jest tak ciekawy.

The dilemma in its many variations reveal that what we think is right or wrong

Różne wersje dylematu pokazują, że postrzeganie dobra i zła

depends on factors other than a logical weighing of the pros and cons.

zależy nie tylko od logicznego bilansu zysków i strat.

For example, men are more likely than women

Mężczyźni częściej niż kobiety odpowiadali,

to say it's okay to push the man over the bridge.

że zepchnęliby człowieka z mostu.

So are people who watch a comedy clip before doing the thought experiment.

Podobnie jak uczestnicy, którym przed badaniem pokazano komedię.

And in one virtual reality study,

W badaniu z wirtualną rzeczywistością

people were more willing to sacrifice men than women.

uczestnicy woleli poświęcić mężczyznę niż kobietę.

Researchers have studied the brain activity

Naukowcy badali aktywność mózgu

of people thinking through the classic and bridge versions.

uczestników wersji klasycznej i wersji z mostem.

Both scenarios activate areas of the brain involved in conscious decision-making

Obie wersje aktywują obszary mózgu odpowiadające za świadome decyzje

and emotional responses.

i reakcje emocjonalne.

But in the bridge version, the emotional response is much stronger.

Ale w wersji z mostem reakcja emocjonalna była silniejsza.

So is activity in an area of the brain

Większa była też aktywność obszaru mózgu

associated with processing internal conflict.

odpowiadająca za rozważanie wewnętrznych konfliktów.

Why the difference?

Skąd ta różnica?

One explanation is that pushing someone to their death feels more personal,

Może zrzucanie kogoś z mostu wydaje się bardziej osobiste,

activating an emotional aversion to killing another person,

aktywując emocjonalną niechęć do zabicia drugiej osoby.

but we feel conflicted because we know it's still the logical choice.

Jednocześnie czujemy się rozdarci, bo wiemy, że to wybór logiczny.

"Trolleyology" has been criticized by some philosophers and psychologists.

Część filozofów i psychologów krytykuje dylemat wagonika.

They argue that it doesn't reveal anything because its premise is so unrealistic

Ich zdaniem nie dowodzi on niczego, bo jego założenia są tak nierealne,

that study participants don't take it seriously.

że uczestnicy nie traktują ich poważnie.

But new technology is making this kind of ethical analysis

Rozwój technologii sprawia jednak, że ten rodzaj analizy etycznej

more important than ever.

jest ważniejszy niż kiedykolwiek.

For example, driver-less cars may have to handle choices

Na przykład samochody bez kierowcy mogą być zmuszone dokonać wyborów

like causing a small accident to prevent a larger one.

takich jak spowodowanie mniejszego wypadku.

Meanwhile, governments are researching autonomous military drones

Rządy pracują nad samodzielnymi dronami wojskowymi,

that could wind up making decisions of whether they'll risk civilian casualties

które być może zdecydują, czy poświęcić życie cywilów,

to attack a high-value target.

żeby zaatakować strategiczny cel.

If we want these actions to be ethical,

Jeśli chcemy, żeby wybierały etycznie,

we have to decide in advance how to value human life

musimy zawczasu zdecydować, na ile cenimy ludzkie życie

and judge the greater good.

i czy wybieramy mniejsze zło.

So researchers who study autonomous systems

Dlatego przy tworzeniu systemów decyzyjnych

naukowcy współpracują z filozofami,

are collaborating with philosophers

to address the complex problem of programming ethics into machines,

aby rozwiązać problem etyki w działaniu maszyn.

which goes to show that even hypothetical dilemmas

To pokazuje, że nawet z hipotetycznymi dylematami

can wind up on a collision course with the real world.

możemy kiedyś zetknąć się w rzeczywistości.