The ethical dilemma of self-driving cars - Patrick Lin

Übersetzung: ifb Kempten Lektorat: Judith Waczek

This is a thought experiment.

Dies ist ein Gedankenexperiment.

Let's say at some point in the not so distant future,

Angenommen, Sie fahren in naher Zukunft

you're barreling down the highway in your self-driving car,

in Ihrem selbstfahrenden Auto auf der Autobahn

and you find yourself boxed in on all sides by other cars.

und sind von allen Seiten von anderen Fahrzeugen umgeben.

Suddenly, a large, heavy object falls off the truck in front of you.

Plötzlich fällt vom LKW vor Ihnen ein großer, schwerer Gegenstand.

Your car can't stop in time to avoid the collision,

Ihr Auto kann einen Zusammenstoß nicht vermeiden,

so it needs to make a decision:

also muss es entscheiden:

go straight and hit the object,

darauf zufahren und das Objekt rammen,

swerve left into an SUV,

nach links in einen SUV ausweichen,

or swerve right into a motorcycle.

oder nach rechts in ein Motorrad?

Should it prioritize your safety by hitting the motorcycle,

Sollte es Ihre Sicherheit priorisieren, indem es Letzteres anfährt,

minimize danger to others by not swerving,

die Gefahr für andere minimieren, indem es nicht ausweicht,

even if it means hitting the large object and sacrificing your life,

selbst wenn dies einen Zusammenstoß, und damit Ihren Tod bedeuten könnte,

or take the middle ground by hitting the SUV,

oder den Mittelweg wählen, indem es den SUV trifft,

which has a high passenger safety rating?

der die Insassen besser schützt?

So what should the self-driving car do?

Was sollte das selbstfahrende Auto tun?

If we were driving that boxed in car in manual mode,

Wenn wir das eingezwängte Auto selbst im manuellen Modus fahren,

whichever way we'd react would be understood as just that,

würde es, egal wie wir reagierten, als genau dies verstanden werden:

a reaction,

eine Reaktion,

not a deliberate decision.

keine bewusste Entscheidung.

It would be an instinctual panicked move with no forethought or malice.

Es wäre eine instinktive Panikreaktion, ohne Voraussicht oder Böswilligkeit.

But if a programmer were to instruct the car to make the same move,

Aber würde das Auto so programmiert, dass es dasselbe Manöver ausführt,

given conditions it may sense in the future,

wenn es merkt, dass bestimmte Bedingungen erfüllt sind,

well, that looks more like premeditated homicide.

dann sähe dies eher nach vorsätzlicher Tötung aus.

Now, to be fair,

Bleiben wir fair:

self-driving cars are predicted to dramatically reduce traffic accidents

Selbstfahrende Autos sollen die Anzahl der Unfälle und Verkehrstoten

and fatalities

drastisch reduzieren,

by removing human error from the driving equation.

indem menschliches Versagen beim Fahren verhindert wird.

Plus, there may be all sorts of other benefits:

Es könnte auch viele weitere Vorteile geben:

eased road congestion,

Weniger Stau,

decreased harmful emissions,

weniger schädliche Abgase

and minimized unproductive and stressful driving time.

und weniger unproduktive, stressige Fahrzeit.

But accidents can and will still happen,

Aber Unfälle können und werden passieren,

and when they do,

und wenn es so ist,

their outcomes may be determined months or years in advance

wird ihr Ausgang vielleicht Monate oder Jahre im Voraus bestimmt werden,

by programmers or policy makers.

und zwar von Programmierern oder Entscheidungsträgern,

And they'll have some difficult decisions to make.

die schwierige Entscheidungen werden treffen müssen.

It's tempting to offer up general decision-making principles,

Man mag versucht sein grundsätzliche Entscheidungsprinzipien,

like minimize harm,

wie Schadensminimierung, zu formulieren,

but even that quickly leads to morally murky decisions.

doch selbst dies kann zu moralisch fragwürdigen Entscheidungen führen.

For example,

Sagen wir mal,

let's say we have the same initial set up,

wir hätten die gleiche Ausgangssituation,

but now there's a motorcyclist wearing a helmet to your left

aber jetzt ist links eine Rollerfahrerin mit Helm

and another one without a helmet to your right.

und rechts fährt jemand ohne Helm.

Which one should your robot car crash into?

Wen soll das Roboterauto rammen?

If you say the biker with the helmet because she's more likely to survive,

Nimmt man die Fahrerin mit Helm, da sie eher überleben wird,

then aren't you penalizing the responsible motorist?

bestraft man dann nicht verantwortungsbewusste Fahrer?

If, instead, you save the biker without the helmet

Nimmt man den Fahrer ohne Helm,

because he's acting irresponsibly,

da er verantwortungslos handelt,

then you've gone way beyond the initial design principle about minimizing harm,

dann stellt man sich über das ursprüngliche Schadensminimierungsprinzip

and the robot car is now meting out street justice.

und das Roboterauto übt Selbstjustiz.

The ethical considerations get more complicated here.

Die ethischen Erwägungen werden hier komplizierter.

In both of our scenarios,

In beiden Szenarien

the underlying design is functioning as a targeting algorithm of sorts.

fungiert das zugrundeliegende Konstrukt quasi als algorithmische Zielvorrichtung.

In other words,

Anders gesagt,

it's systematically favoring or discriminating

favorisiert oder diskriminiert es systematisch

against a certain type of object to crash into.

bestimmte Objekte, die gerammt werden sollten.

And the owners of the target vehicles

Und die Besitzer der Zielfahrzeuge

will suffer the negative consequences of this algorithm

werden die negativen Konsequenzen dieses Algorithmus tragen,

through no fault of their own.

und zwar ohne eigenes Verschulden.

Our new technologies are opening up many other novel ethical dilemmas.

Unsere neuen Technologien bringen viele neuartige ethische Dilemmata mit sich.

For instance, if you had to choose between

Hättest du etwa die Wahl zwischen einem Auto,

a car that would always save as many lives as possible in an accident,

das bei einem Unfall stets so viele Leben wie möglich retten würde,

or one that would save you at any cost,

und einem Auto, das definitiv dich retten würde,

which would you buy?

welches würdest du kaufen?

What happens if the cars start analyzing and factoring in

Was passiert, wenn Autos anfangen, ihre Insassen und die Details

the passengers of the cars and the particulars of their lives?

aus deren Leben zu analysieren und zu integrieren?

Could it be the case that a random decision

Ist eine zufällige Entscheidung besser,

is still better than a predetermined one designed to minimize harm?

als eine vorgegebene mit dem Ziel der Schadensminimierung?

And who should be making all of these decisions anyhow?

Und wer sollte all diese Entscheidungen überhaupt treffen?

Programmers? Companies? Governments?

Programmierer?

Unternehmen?

Regierungen?

Reality may not play out exactly like our thought experiments,

Unsere Gedankenexperimente werden zwar nicht unbedingt Realität,

but that's not the point.

aber darum geht es nicht.

They're designed to isolate and stress test our intuitions on ethics,

Sie sollen unsere Moralvorstellungen ausloten und hinterfragen,

just like science experiments do for the physical world.

wie wissenschaftliche Experimente über die physische Welt.

Spotting these moral hairpin turns now

Wenn wir diese moralischen Haarnadelkurven jetzt entdecken,

will help us maneuver the unfamiliar road of technology ethics,

können wir die unbekannten Straßen der Technologieethik bewältigen,

and allow us to cruise confidently and conscientiously

was uns ermöglicht, souverän und gewissenhaft

into our brave new future.

in eine schöne neue Zukunft zu fahren.