The ethical dilemma of self-driving cars - Patrick Lin

Μετάφραση: THOMAS TAOUSANIS Επιμέλεια: Ioannis Papacheimonas

This is a thought experiment.

Αυτό είναι ένα πείραμα σκέψης.

Let's say at some point in the not so distant future,

Ας πούμε ότι μια μέρα στο όχι και τόσο μακρινό μέλλον,

you're barreling down the highway in your self-driving car,

βρίσκεσαι στον αυτοκινητόδρομο με το αυτοοδηγούμενο όχημα σου

and you find yourself boxed in on all sides by other cars.

και παγιδεύεσαι από όλες τις μεριές από άλλα αυτοκίνητα.

Suddenly, a large, heavy object falls off the truck in front of you.

Ξαφνικά ένα μεγάλο και βαρύ αντικείμενο πέφτει από το φορτηγό μπροστά σου.

Το αυτοκίνητο σου δεν προλαβαίνει να σταματήσει έγκαιρα για να το αποφύγει,

Your car can't stop in time to avoid the collision,

so it needs to make a decision:

οπότε πρέπει να πάρει μια απόφαση:

go straight and hit the object,

συνεχίζει ευθεία και χτυπάει στο αντικείμενο,

swerve left into an SUV,

στρίβει αριστερά και χτυπάει στο φορτηγάκι,

or swerve right into a motorcycle.

ή στρίβει δεξιά και χτυπάει στην μηχανή.

Should it prioritize your safety by hitting the motorcycle,

Πρέπει για την ασφάλεια σου να χτυπήσει την μηχανή,

minimize danger to others by not swerving,

να ελαχιστοποιήσει τον κίνδυνο για τους υπόλοιπους μη στρίβοντας,

even if it means hitting the large object and sacrificing your life,

ακόμα κι αν αυτό σημαίνει να χτυπήσει το αντικείμενο και να σκοτωθείς,

or take the middle ground by hitting the SUV,

ή ακολουθεί την μέση λύση χτυπώντας το φορτηγάκι,

which has a high passenger safety rating?

το οποίο προσφέρει μεγάλη παθητική ασφάλεια στους επιβάτες του;

So what should the self-driving car do?

Λοιπόν, τι θα έπρεπε να κάνει το αυτοοδηγούμενο όχημα;

If we were driving that boxed in car in manual mode,

Αν οδηγούσαμε αυτό το παγιδευμένο αυτοκίνητο χειροκίνητα,

whichever way we'd react would be understood as just that,

οποιαδήποτε αντίδρασή μας θα εκλαμβανόταν ως ένα μόνο πράγμα:

a reaction,

ως μια αντίδραση

not a deliberate decision.

και όχι ως μια εκούσια απόφαση.

It would be an instinctual panicked move with no forethought or malice.

Θα ήταν μια ενστικτώδης πανικόβλητη αντίδραση χωρίς υστεροβουλία.

But if a programmer were to instruct the car to make the same move,

Αλλά αν ένας προγραμματιστής έπρεπε να δώσει οδηγίες στο αμάξι

given conditions it may sense in the future,

να αντιδράσει με τον ίδιο τρόπο σε δεδομένες συνθήκες στο μέλλον,

well, that looks more like premeditated homicide.

αυτό μάλλον μοιάζει με ανθρωποκτονία εκ προμελέτης.

Now, to be fair,

Για να είμαστε δίκαιοι,

self-driving cars are predicted to dramatically reduce traffic accidents

τα αυτοοδηγούμενα οχήματα προβλέπεται να μειώσουν εντυπωσιακά

τα τροχαία ατυχήματα και τους θανάτους

and fatalities

by removing human error from the driving equation.

απομακρύνοντας το ανθρώπινο λάθος από την οδηγική εξίσωση.

Plus, there may be all sorts of other benefits:

Επίσης, θα υπάρχουν και άλλα οφέλη:

eased road congestion,

συντονισμένη κυκλοφορία,

decreased harmful emissions,

μειωμένες εκπομπές ρύπων,

and minimized unproductive and stressful driving time.

και ελαχιστοποίηση του μη παραγωγικού και στρεσογόνου οδηγικού χρόνου.

But accidents can and will still happen,

Αλλά τα ατυχήματα θα συνεχίσουν να γίνονται,

and when they do,

και όταν θα γίνονται

their outcomes may be determined months or years in advance

τα αποτελέσματα τους ίσως να καθορίζονται μήνες και χρόνια εκ των προτέρων

by programmers or policy makers.

από προγραμματιστές ή διαμορφωτές πολιτικής.

And they'll have some difficult decisions to make.

Και θα πρέπει να πάρουν αρκετά δύσκολες αποφάσεις.

It's tempting to offer up general decision-making principles,

Είναι δελεαστικό να βάλουμε γενικές καθοριστικές αρχές,

like minimize harm,

όπως το ελάχιστο κακό,

but even that quickly leads to morally murky decisions.

αλλά ακόμα κι αυτό γρήγορα οδηγεί σε ηθικά σκοτεινές αποφάσεις.

For example,

Για παράδειγμα,

let's say we have the same initial set up,

ας πούμε ότι έχουμε την ίδια διευθέτηση,

but now there's a motorcyclist wearing a helmet to your left

αλλά τώρα υπάρχει ένας μοτοσυκλετιστής με κράνος στα αριστερά

and another one without a helmet to your right.

και ένας άλλος χωρίς κράνος στα δεξιά σου.

Which one should your robot car crash into?

Με ποιον από τους δύο θα έπρεπε να συγκρουστεί;

If you say the biker with the helmet because she's more likely to survive,

Αν πεις τον αναβάτη με το κράνος, επειδή είναι πιο πιθανό να επιβιώσει,

then aren't you penalizing the responsible motorist?

δεν τιμωρείς τότε τον υπεύθυνο μοτοσυκλετιστή;

If, instead, you save the biker without the helmet

Αν αντιθέτως, πεις τον αναβάτη χωρίς το κράνος

because he's acting irresponsibly,

επειδή φέρεται ανεύθυνα,

then you've gone way beyond the initial design principle about minimizing harm,

τότε έχεις ξεφύγει κατά πολύ από την αρχικά παραδεκτή αρχή της ελάχιστης ζημιάς

and the robot car is now meting out street justice.

και το ρομπότ-αυτοκίνητο αποδίδει πλέον δικαιοσύνη του δρόμου.

The ethical considerations get more complicated here.

Εδώ οι ηθικές ανησυχίες γίνονται πιο πολύπλοκες.

In both of our scenarios,

Και στα δύο σενάρια,

the underlying design is functioning as a targeting algorithm of sorts.

το βασικό σχέδιο λειτουργεί σαν ένας αλγόριθμος στοχοποίησης ανά είδος.

In other words,

Με άλλα λόγια,

it's systematically favoring or discriminating

συστηματικά προτιμάει ή ξεχωρίζει

against a certain type of object to crash into.

έναν συγκεκριμένο τύπο οχημάτων με τον οποίο θα συγκρούεται.

And the owners of the target vehicles

Και οι ιδιοκτήτες των στοχευόμενων οχημάτων

will suffer the negative consequences of this algorithm

θα υποστούν τις αρνητικές επιπτώσεις αυτού του αλγόριθμου

through no fault of their own.

χωρίς να φταίνε σε τίποτα.

Our new technologies are opening up many other novel ethical dilemmas.

Οι καινούργιες τεχνολογίες ανοίγουν πολλά ακόμα πρωτότυπα ηθικά διλήμματα.

For instance, if you had to choose between

Για παράδειγμα αν έπρεπε να διαλέξεις ανάμεσα

a car that would always save as many lives as possible in an accident,

σε ένα αυτοκίνητο που θα έσωζε όσες περισσότερες ζωές γίνεται σε ένα ατύχημα,

or one that would save you at any cost,

ή ένα που θα έσωζε εσένα με κάθε κόστος,

which would you buy?

ποιο θα αγόραζες;

Τι θα συνέβαινε αν τα αμάξια άρχιζαν να αναλύουν και να παραγοντοποιούν

What happens if the cars start analyzing and factoring in

the passengers of the cars and the particulars of their lives?

τους επιβάτες των αυτοκινήτων και στοιχεία από την ζωή τους;

Could it be the case that a random decision

Υπάρχει περίπτωση μια τυχαία απόφαση

is still better than a predetermined one designed to minimize harm?

να είναι καλύτερη από μια προκαθορισμένη σχεδιασμένη να ελαχιστοποιεί την ζημιά;

Και ποιος θα έπρεπε να παίρνει τελικά όλες αυτές τις αποφάσεις;

And who should be making all of these decisions anyhow?

Programmers? Companies? Governments?

Προγραμματιστές;

Εταιρίες;

Κυβερνήσεις;

Reality may not play out exactly like our thought experiments,

Η πραγματικότητα μπορεί να μην εξελιχτεί ακριβώς όπως τα πειράματα σκέψης,

but that's not the point.

αλλά δεν είναι αυτό το θέμα.

They're designed to isolate and stress test our intuitions on ethics,

Είναι σχεδιασμένα να απομονώνουν και να δοκιμάζουν την αντίληψη μας περί ηθικής,

just like science experiments do for the physical world.

ακριβώς όπως τα επιστημονικά πειράματα κάνουν στον φυσικό κόσμο.

Spotting these moral hairpin turns now

Εντοπίζοντας αυτά τα ηθικά προβλήματα από τώρα

will help us maneuver the unfamiliar road of technology ethics,

θα μας βοηθήσει να ελιχθούμε στον άγνωστο δρόμο της τεχνολογικής ηθικής,

and allow us to cruise confidently and conscientiously

και θα μας επιτρέψει να οδηγηθούμε με αυτοπεποίθηση και σιγουριά

into our brave new future.

στο πολλά υποσχόμενο μέλλον.