Damon Horowitz calls for a "moral operating system"

Μετάφραση: Konstantinos Agas Επιμέλεια: Leonidas Argyros

Power.

Δύναμη.

That is the word that comes to mind.

Αυτή η λέξη έρχεται στο μυαλό.

We're the new technologists.

Είμαστε οι νέοι τεχνολόγοι.

We have a lot of data, so we have a lot of power.

Έχουμε πολλά δεδομένα, επομένως έχουμε μεγάλη δύναμη.

How much power do we have?

Πόση δύναμη έχουμε;

Scene from a movie: "Apocalypse Now" -- great movie.

Σκηνή από την ταινία "Αποκάλυψη Τώρα" -- σπουδαία ταινία.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Πρέπει να πάμε τον ήρωά μας, το λοχαγό Γουίλαρντ στις εκβολές του ποταμού Nανγκ

so he can go pursue Colonel Kurtz.

ώστε να καταδιώξει τον ταγματάρχη Κερτς.

The way we're going to do this is fly him in and drop him off.

Ο τρόπος που θα το κάνουμε είναι να τον "πετάξουμε" και να τον αφήσουμε.

So the scene:

Οπότε η σκηνή:

the sky is filled with this fleet of helicopters carrying him in.

ο ουρανός είναι γεμάτος με αυτό το στόλο από ελικόπτερα που τον μεταφέρουν.

And there's this loud, thrilling music in the background,

Και υπάρχει αυτή η δυνατή, συγκλονιστική μουσική στο φόντο,

this wild music.

αυτή η άγρια μουσική.

♫ Dum da ta da dum ♫

♫

♫ Dum da ta da dum ♫

♫

♫ Da ta da da ♫

♫

That's a lot of power.

Μεγάλη δύναμη.

That's the kind of power I feel in this room.

Είναι αυτό το είδος της δύναμης που αισθάνομαι σ΄αυτό το δωμάτιο.

That's the kind of power we have

Αυτό το είδος της δύναμης που έχουμε

because of all of the data that we have.

εξ΄αιτίας όλων των δεδομένων που έχουμε.

Let's take an example.

Ας πάρουμε ένα παράδειγμα.

What can we do

Τι μπορούμε να κάνουμε

with just one person's data?

με τα δεδομένα ενός ατόμου;

What can we do

Τι μπορούμε να κάνουμε

with that guy's data?

με τα δεδομένα αυτού του ανθρώπου;

I can look at your financial records.

Μπορώ να κοιτάξω τα οικονομικά σου στοιχεία.

I can tell if you pay your bills on time.

Μπορώ να πω αν πληρώνεις έγκαιρα τους λογαριασμούς σου.

I know if you're good to give a loan to.

Ξέρω αν μπορείς να πάρεις ένα δάνειο.

I can look at your medical records; I can see if your pump is still pumping --

Μπορώ να κοιτάξω στο ιατρικό σου ιστορικό, μπορώ να δώ αν η καρδιά σου δουλεύει ακόμη --

see if you're good to offer insurance to.

να δω αν είσαι καλός πελάτης για ασφάλεια.

I can look at your clicking patterns.

Μπορώ να κοιτάξω που κλικάρεις.

When you come to my website, I actually know what you're going to do already

Όταν έρχεσαι στην ιστοσελίδα μου, στην πραγματικότητα ξέρω από πριν τι θα κάνεις,

because I've seen you visit millions of websites before.

επειδή σε έχω δει να επισκέπτεσαι εκατομμύρια ιστοσελίδες.

And I'm sorry to tell you,

Και λυπάμαι που στο λέω.

you're like a poker player, you have a tell.

αλλά είσαι σαν ένας παίχτης του πόκερ, έχεις συγκεκριμένο τρόπο σκέψης.

I can tell with data analysis what you're going to do

Μπορώ να προβλέψω, μέσω ανάλυσης δεδομένων, τι πρόκειται να κάνεις

before you even do it.

πριν το κάνεις.

I know what you like. I know who you are,

Ξέρω τι σου αρέσει. Ξέρω ποιος είσαι.

and that's even before I look at your mail

Κι αυτό πριν ακόμη κοιτάξω την αλληλογραφία σου

or your phone.

ή το τηλέφωνό σου.

Those are the kinds of things we can do

Τέτοια πράγματα μπορούμε να κάνουμε

with the data that we have.

με τα δεδομένα που έχουμε.

But I'm not actually here to talk about what we can do.

Αλλά, στην πραγματικότητα, δεν είμαι εδώ για να σας πω τι μπορούμε να κάνουμε.

I'm here to talk about what we should do.

Είμαι εδώ για να σας πω τι πρέπει να κάνουμε.

What's the right thing to do?

Ποιο είναι το σωστό;

Now I see some puzzled looks

Τώρα βλέπω μερικά απορημένα βλέμματα

like, "Why are you asking us what's the right thing to do?

όπως, "Γιατί ρωτάς εμάς ποιο είναι το σωστό που πρέπει να κάνουμε;

We're just building this stuff. Somebody else is using it."

Εμείς απλώς φτιάχνουμε αυτά τα πράγματα. Κάποιος άλλος τα χρησιμοποιεί."

Fair enough.

Αρκετά δίκαιο.

But it brings me back.

Αλλά με κάνει να θυμηθώ.

I think about World War II --

Θυμάμαι το Β' Παγκόσμιο Πόλεμο --

some of our great technologists then,

κάποιοι από τους καλύτερους τεχνολόγους μας τότε,

some of our great physicists,

κάποιοι από τους καλύτερους φυσικούς μας,

studying nuclear fission and fusion --

μελετούσαν την πυρηνική σχάση και τήξη --

just nuclear stuff.

και άλλα πυρηνικά θέματα.

We gather together these physicists in Los Alamos

Μαζεύουμε αυτούς τους φυσικούς στο Λος Άλαμος

to see what they'll build.

για να δούμε τι μπορούν να φτιάξουν.

We want the people building the technology

Θέλουμε τους ανθρώπους που φτιάχνουν την τεχνολογία

thinking about what we should be doing with the technology.

να σκέφτονται τι θα έπρεπε να κάνουμε με την τεχνολογία.

So what should we be doing with that guy's data?

Οπότε, τι πρέπει να κάνουμε με τα δεδομένα αυτού του ανθρώπου;

Should we be collecting it, gathering it,

Θα έπρεπε να τα συλλέγουμε και να τα μαζεύουμε,

so we can make his online experience better?

ώστε να κάνουμε τη διαδικτυακή του εμπειρία καλύτερη;

So we can make money?

Ώστε να βγάζουμε πιο πολλά χρήματα;

So we can protect ourselves

Ώστε να μπορούμε να προστατέψουμε τους εαυτούς μας

if he was up to no good?

αν δεν είχε καλούς σκοπούς;

Or should we respect his privacy,

Ή πρέπει να σεβαστούμε την προσωπική του ζωή,

protect his dignity and leave him alone?

να προστατέψουμε την αξιοπρέπειά του και να τον αφήσουμε μόνο του;

Which one is it?

Τι πρέπει να κάνουμε;

How should we figure it out?

Πώς θα το καταλάβουμε;

I know: crowdsource. Let's crowdsource this.

Ξέρω - ας ψηφίσουμε.

So to get people warmed up,

Οπότε για να ζεσταθούμε,

let's start with an easy question --

ας ξεκινήσουμε με μια εύκολη ερώτηση --

something I'm sure everybody here has an opinion about:

κάτι για το οποίο είμαι σίγουρος ότι όλοι εδώ έχουμε άποψη:

iPhone versus Android.

iPhone εναντίον Android.

Let's do a show of hands -- iPhone.

Ας σηκώσουμε χέρια -- iPhone.

Uh huh.

Αχά.

Android.

Android.

You'd think with a bunch of smart people

Θα περίμενες ότι τόσο έξυπνοι άνθρωποι

we wouldn't be such suckers just for the pretty phones.

δε θα πέφταμε σα χαζοί στα ωραία τηλέφωνα.

(Laughter)

(Γέλια)

Next question,

Επόμενη ερώτηση,

a little bit harder.

λίγο πιο δύσκολη.

Should we be collecting all of that guy's data

Θα έπρεπε να συλλέγουμε τα δεδομένα αυτού του ανθρώπου

to make his experiences better

για να κάνουμε καλύτερες τις εμπειρίες του

and to protect ourselves in case he's up to no good?

και να προστατέψουμε τον εαυτό μας, σε περίπτωση που έχει κακό σκοπό;

Or should we leave him alone?

Ή πρέπει να τον αφήσουμε ήσυχο;

Collect his data.

Να συλλέξουμε τα δεδομένα.

Leave him alone.

Να τον αφήσουμε ήσυχο.

You're safe. It's fine.

Είσαι ασφαλής. Εντάξει.

(Laughter)

(Γέλια)

Okay, last question --

Ωραία, τελευταία ερώτηση --

harder question --

πιο δύσκολη --

when trying to evaluate

στην προσπάθεια να αξιολογήσουμε

what we should do in this case,

τι θα έπρεπε να κάνουμε σε αυτήν την περίπτωση,

should we use a Kantian deontological moral framework,

θα έπρεπε να χρησιμοποιήσουμε ένα Καντιανό δεοντολογικό ηθικό πλαίσιο,

or should we use a Millian consequentialist one?

ή ένα Μιλλιανό τελεολογικό;

Kant.

Καντ.

Mill.

Μιλ.

Not as many votes.

Όχι τόσες πολλές ψήφοι.

(Laughter)

(Γέλια)

Yeah, that's a terrifying result.

Αυτό είναι ένα τρομακτικό αποτέλεσμα.

Terrifying, because we have stronger opinions

Τρομακτικό, γιατί έχουμε πιο ισχυρές απόψεις

about our hand-held devices

για τις φορητές συσκευές μας

than about the moral framework

παρά για το ηθικό πλαίσιο

we should use to guide our decisions.

που πρέπει να χρησιμοποιήσουμε για να πάρουμε τις αποφάσεις μας.

How do we know what to do with all the power we have

Πώς θα ξέρουμε τι να κάνουμε με όλη αυτή τη δύναμη που έχουμε

if we don't have a moral framework?

αν δεν έχουμε ένα ηθικό πλαίσιο;

We know more about mobile operating systems,

Ξέρουμε περισσότερα για λειτουργικά συστήματα φορητών συσκευών,

but what we really need is a moral operating system.

αλλά αυτό που χρειαζόμαστε είναι ένα λειτουργικό σύστημα ηθικής.

What's a moral operating system?

Τι είναι ένα λειτουργικό σύστημα ηθικής;

We all know right and wrong, right?

Όλοι γνωρίζουμε το καλό από το κακό, δεν είναι έτσι;

You feel good when you do something right,

Αισθάνεσαι καλά όταν κάνεις κάτι σωστό,

you feel bad when you do something wrong.

αισθάνεσαι άσχημα όταν κάνεις κάτι λάθος.

Our parents teach us that: praise with the good, scold with the bad.

Οι γονείς μας μαθαίνουν: έπαινος στο καλό, επίπληξη στο κακό.

But how do we figure out what's right and wrong?

Αλλά πώς καταλαβαίνουμε τι είναι σωστό και λάθος;

And from day to day, we have the techniques that we use.

Και σεκαθημερινή βάση έχουμε τεχνικές που χρησιμοποιούμε.

Maybe we just follow our gut.

Ίσως να χρησιμοποιήσουμε το ένστικτό μας.

Maybe we take a vote -- we crowdsource.

Ίσως να ψηφίσουμε.

Or maybe we punt --

Ή ίσως απλώς να το ρίξουμε στα νομικά --

ask the legal department, see what they say.

να ρωτήσουμε το νομικό τμήμα να δούμε τι λένε.

In other words, it's kind of random,

Με άλλα λόγια, γίνεται περίπου στην τύχη,

kind of ad hoc,

περίπου κατά περίπτωση,

how we figure out what we should do.

το πως διαλέγουμε αυτό που πρέπει να κάνουμε.

And maybe, if we want to be on surer footing,

Και ίσως, αν θέλουμε να πατήσουμε σε πιο στέρεο έδαφος,

what we really want is a moral framework that will help guide us there,

αυτό που χρειαζόμαστε στην πραγματικότητα είναι ένα ηθικό πλαίσιο που θα μας οδηγήσει,

that will tell us what kinds of things are right and wrong in the first place,

που θα μας πει καταρχάς ποια πράγματα είναι σωστά και λάθος,

and how would we know in a given situation what to do.

και πώς θα ξέρουμε σε μια δεδομένη στιγμή τι να κάνουμε.

So let's get a moral framework.

Οπότε ας βρούμε ένα ηθικό πλαίσιο.

We're numbers people, living by numbers.

Είμαστε άνθρωποι των αριθμών, ζούμε με τους αριθμούς.

How can we use numbers

Πώς μπορούμε να χρησιμοποιήσουμε τους αριθμούς

as the basis for a moral framework?

σα βάση για ένα ηθικό πλαίσιο;

I know a guy who did exactly that.

Ξέρω κάποιον που έκανε ακριβώς αυτό,

A brilliant guy --

Έναν πανέξυπνο τύπο --

he's been dead 2,500 years.

που έχει πεθάνει εδώ και 2500 χρόνια.

Plato, that's right.

Ο Πλάτωνας, αυτός είναι.

Remember him -- old philosopher?

Τον θυμάστε το γεροφιλόσοφο;

You were sleeping during that class.

Κοιμόσασταν σ΄αυτό το μάθημα.

And Plato, he had a lot of the same concerns that we did.

Ο Πλάτωνας είχε πολλές από τις ίδιες ανησυχίες που έχουμε κι εμείς.

He was worried about right and wrong.

Τον απασχολούσε το σωστό και το λάθος.

He wanted to know what is just.

Ήθελε να μάθει τι είναι δίκαιο.

But he was worried that all we seem to be doing

Αλλά τον απασχολούσε ότι αυτό που μοιάζουμε να κάνουμε

is trading opinions about this.

είναι να ανταλλάσουμε απόψεις γι αυτό.

He says something's just. She says something else is just.

Αυτός λέει ότι κάτι είναι δίκαιο. Αυτή λέει ότι κάτι άλλο είναι δίκαιο.

It's kind of convincing when he talks and when she talks too.

Είναι κάπως πειστικό όταν αυτός μιλά και όταν αυτή μιλά.

I'm just going back and forth; I'm not getting anywhere.

Απλώς πηγαίνω μπρος - πίσω. Δε φθάνω πουθενά.

I don't want opinions; I want knowledge.

Δε θέλω γνώμες, θέλω γνώση.

I want to know the truth about justice --

Θέλω να μάθω την αλήθεια για τη δικαιοσύνη --

like we have truths in math.

όπως έχουμες αλήθειες στα μαθηματικά.

In math, we know the objective facts.

Στα μαθηματικά, γνωρίζουμε τα αντικειμενικά δεδομένα.

Take a number, any number -- two.

Πάρτε ένα νούμερο, οποιοδήποτε νούμερο - δύο.

Favorite number. I love that number.

Ο αγαπημένος μου αριθμός. Μου αρέσει αυτός ο αριθμός.

There are truths about two.

Υπάρχουν αλήθειες για το δύο.

If you've got two of something,

Αν έχεις δύο από κάτι.

you add two more, you get four.

και προσθέσεις άλλα δύο παίρνεις τέσσερα.

That's true no matter what thing you're talking about.

Αυτό είναι αλήθεια ανεξάρτητα για ποιο πράγμα μιλάς.

It's an objective truth about the form of two,

Είναι μια αντικειμενική αλήθεια σχετικά με το δύο,

the abstract form.

την αόριστη μορφή του.

When you have two of anything -- two eyes, two ears, two noses,

Όταν έχεις δύο από οτιδήποτε -- δύο μάτια, δύο αυτιά, δύο μύτες,

just two protrusions --

απλώς δύο προεξοχές --

those all partake of the form of two.

αυτές απαρτίζουν τη μορφή του δύο.

They all participate in the truths that two has.

Όλες παίρνουν μέρος στις αλήθειες που έχει το δύο.

They all have two-ness in them.

Όλες έχουν τη δυ-ότητα μέσα τους.

And therefore, it's not a matter of opinion.

Και επομένως δεν είναι θέμα άποψης.

What if, Plato thought,

Τι θα γινόταν αν, σκέφτηκε ο Πλάτωνας,

ethics was like math?

η ηθική ήταν σαν τα μαθηματικά;

What if there were a pure form of justice?

Τι θα γινόταν αν υπήρχε μια καθαρή μορφή δικαιοσύνης;

What if there are truths about justice,

Τι θα γινόταν αν υπήρχαν αλήθειες για τη δικαιοσύνη,

and you could just look around in this world

και μπορούσες να ψάξεις γύρω σου στον κόσμο

and see which things participated,

και να δεις ποια πράγματα συμμετείχαν,

partook of that form of justice?

απάρτιζαν αυτή τη μορφή της δικαιοσύνης;

Then you would know what was really just and what wasn't.

Τότε θα ήξερες τι ήταν, στην πραγματικότητα, δίκαιο και τι όχι.

It wouldn't be a matter

Δε θα ήταν ένα θέμα

of just opinion or just appearances.

απλώς γνώμης ή εμφάνισης.

That's a stunning vision.

Αυτό είναι ένα εκπληκτικό όραμα.

I mean, think about that. How grand. How ambitious.

Σκεφτείτε το. Πόσο μεγαλειώδες. Πόσο φιλόδοξο.

That's as ambitious as we are.

Είναι τόσο φιλόδοξο όσο εμείς.

He wants to solve ethics.

Θέλει να λύσει την ηθική.

He wants objective truths.

Θέλει αντικειμενικές αλήθειες.

If you think that way,

Αν σκέφτεσαι έτσι,

you have a Platonist moral framework.

έχεις ένα Πλατωνικό ηθικό πλαίσιο.

If you don't think that way,

Αν δε σκέφτεσαι έτσι,

well, you have a lot of company in the history of Western philosophy,

λοιπόν, έχεις μεγάλη παρέα στην ιστορία της Δυτικής φιλοσοφίας,

because the tidy idea, you know, people criticized it.

γιατί αυτήν την τακτοποιημένη ιδέα - πολλοί την κριτίκαραν.

Aristotle, in particular, he was not amused.

Ειδικά ο Αριστοτέλης, δεν ήταν και τόσο ευχαριστημένος.

He thought it was impractical.

Σκεφτόταν ότι δεν ήταν πρακτική.

Aristotle said, "We should seek only so much precision in each subject

Ο Αριστοτέλης έλεγε: "Πρέπει να ψάχνουμε μόνο τόση τελειότητα σε κάθε θέμα

as that subject allows."

όση το θέμα επιτρέπει."

Aristotle thought ethics wasn't a lot like math.

Ο Αριστοτέλης πίστευε ότι η ηθική δεν είναι σαν τα μαθηματικά.

He thought ethics was a matter of making decisions in the here-and-now

Πίστευε ότι η ηθική ήταν ένα ζήτημα αποφάσεων στο εδώ και τώρα

using our best judgment

χρησιμοποιώντας την κρίση μας

to find the right path.

στην εξεύρεση του καλύτερου δρόμου.

If you think that, Plato's not your guy.

Αν σκέφτεσαι έτσι, τότε ο Πλάτωνας δεν είναι ο αγαπημένος σου.

But don't give up.

Αλλά μην τα παρατάς.

Maybe there's another way

Ίσως να υπάρχει κι άλλος τρόπος

that we can use numbers as the basis of our moral framework.

με τον οποίο μπορούμε να χρησιμοποιήσουμε τους αριθμούς σαν βάση για το ηθικό μας πλαίσιο.

How about this:

Ακούστε αυτό:

What if in any situation you could just calculate,

Τι θα γινόταν αν σε κάθε περίσταση μπορούσες να υπολογίσεις,

look at the choices,

να κοιτάξεις τις επιλογές,

measure out which one's better and know what to do?

και να μετρήσεις ποια είναι η καλύτερη και έτσι να ξέρεις τι να κάνεις;

That sound familiar?

Σας φαίνεται γνώριμο;

That's a utilitarian moral framework.

Αυτό είναι ένα ωφελιμιστικό ηθικό πλαίσιο.

John Stuart Mill was a great advocate of this --

Ο Τζον Στιούαρτ Μιλ ήταν μεγάλος υπέρμαχος αυτού --

nice guy besides --

κατά τα άλλα ωραίος τύπος --

and only been dead 200 years.

και πέθανε πριν από μόλις 200 χρόνια.

So basis of utilitarianism --

Λοιπόν, η βάση του ωφελιμισμού ---

I'm sure you're familiar at least.

είμαι σίγουρος ότι ήσαστε τουλάχιστον εξοικειωμένοι.

The three people who voted for Mill before are familiar with this.

Οι τρεις που ψήφισαν υπέρ του Μιλ πριν είναι εξοικειωμένοι μ' αυτό.

But here's the way it works.

Λοιπόν κοιτάξτε πώς δουλεύει.

What if morals, what if what makes something moral

Τι θα γινόταν αν η ηθική και αυτό που κάνει κάτι ηθικό,

is just a matter of if it maximizes pleasure

είναι απλώς θέμα του αν μεγιστοποιεί την ευχαρίστηση

and minimizes pain?

και ελαχιστοποιεί τον πόνο;

It does something intrinsic to the act.

Είναι κάτι εσωτερικό στην πράξη.

It's not like its relation to some abstract form.

Δεν είναι σαν να έχει σχέση με κάποια αόριστη μορφή.

It's just a matter of the consequences.

Είναι απλώς θέμα συνεπειών.

You just look at the consequences

Απλώς κοιτάζεις τις συνέπειες

and see if, overall, it's for the good or for the worse.

και βλέπεις αν, συνολικά, είναι για το καλύτερο ή το χειρότερο.

That would be simple. Then we know what to do.

Μοιάζει απλό. Τότε θα ξέραμε τι να κάνουμε.

Let's take an example.

Ας πάρουμε ένα παράδειγμα.

Suppose I go up

Έστω ότι σηκώνομαι

and I say, "I'm going to take your phone."

και λέω, "Θα σου πάρω το τηλέφωνο".

Not just because it rang earlier,

Όχι γιατί χτύπησε πριν,

but I'm going to take it because I made a little calculation.

αλλά θα στο πάρω γιατί έκανα ένα μικρό υπολογισμό.

I thought, that guy looks suspicious.

Σκέφτηκα, ότι αυτός ο τύπος μοιάζει ύποπτος.

And what if he's been sending little messages to Bin Laden's hideout --

Και αν στέλνει μηνύματα στο Μπιν Λάντεν στο καταφύγιό του --

or whoever took over after Bin Laden --

η σε οποιονδήποτε ανέλαβε μετά το Μπιν Λάντεν --

and he's actually like a terrorist, a sleeper cell.

και είναι στην πραγματικότητα τρομοκράτης, μυστικός πράκτορας.

I'm going to find that out, and when I find that out,

Θα το ανακαλύψω, και όταν το ανακαλύψω,

I'm going to prevent a huge amount of damage that he could cause.

Θα εμποδίσω την τεράστια καταστροφή που θα μπορούσε να προκαλέσει.

That has a very high utility to prevent that damage.

Το να αποτρέψω αυτήν την καταστροφή είναι πάρα πολύ ωφέλιμο.

And compared to the little pain that it's going to cause --

Και συγκρίνοντάς το με το μικρό πόνο που πρόκειται να προκαλέσω --

because it's going to be embarrassing when I'm looking on his phone

γιατί θα τον φέρω σε δύσκολη θέση όταν κοιτάξω στο τηλέφωνό του

and seeing that he has a Farmville problem and that whole bit --

και δω ότι παίζει το παιχνίδι Farmville --

that's overwhelmed

αυτό ξεπερνιέται

by the value of looking at the phone.

από την αξία του να κοιτάξω το τηλέφωνό του.

If you feel that way,

Αν αισθάνεσαι έτσι,

that's a utilitarian choice.

αυτό είναι μια ωφελιμιστική επιλογή.

But maybe you don't feel that way either.

Αλλά ίσως να μην αισθάνεσαι ούτε έτσι.

Maybe you think, it's his phone.

Ίσως σκέφτεσαι ότι είναι το δικό του τηλέφωνο.

It's wrong to take his phone

Είναι λάθος να του πάρω το τηλέφωνό του,

because he's a person

γιατί είναι ένας άνθρωπος

and he has rights and he has dignity,

και έχει δικαιώματα και αξιοπρέπεια,

and we can't just interfere with that.

και δεν μπορούμε απλώς να εμπλακούμε με αυτά.

He has autonomy.

Έχει αυτονομία.

It doesn't matter what the calculations are.

Δεν έχει σημασία τι υπολογισμούς κάναμε.

There are things that are intrinsically wrong --

Υπάρχουν πράγματα που είναι από τη φύση τους λάθος --

like lying is wrong,

όπως το να λές ψέματα είναι λάθος,

like torturing innocent children is wrong.

όπως το να βασανίζεις αθώα παιδιά είναι λάθος.

Kant was very good on this point,

Ο Καντ ήταν πολύ καλός σ΄αυτό το σημείο,

and he said it a little better than I'll say it.

και το είπε λίγο καλύτερα απ' ότι το λέω εγώ.

He said we should use our reason

Είπε ότι πρέπει να χρησιμοποιήσουμε τη λογική μας

to figure out the rules by which we should guide our conduct,

για να αντιληφθούμε τους κανόνες που θα καθοδηγήσουν τη συμπεριφορά μας.

and then it is our duty to follow those rules.

Και είναι καθήκον μας να ακολουθήσουμε αυτούς τους κανόνες.

It's not a matter of calculation.

Δεν είναι ένα θέμα υπολογισμού.

So let's stop.

Λοιπόν ας σταματήσουμε

We're right in the thick of it, this philosophical thicket.

Είμαστε χαμένοι μέσα σ' αυτό το φιλοσοφικό πυκνό δάσος.

And this goes on for thousands of years,

Και αυτό συνεχίζεται για χιλιάδες χρόνια,

because these are hard questions,

γιατί αυτές είναι δύσκολες ερωτήσεις,

and I've only got 15 minutes.

και έχω μόλις 15 λεπτά.

So let's cut to the chase.

Οπότε ας μπούμε στο ψητό.

How should we be making our decisions?

Πώς πρέπει να παίρνουμε τις αποφάσεις μας;

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Σύμφωνα με τον Πλάτωνα, τον Αριστοτέλη, τον Καντ, το Μιλ;

What should we be doing? What's the answer?

Τι πρέπει να κάνουμε; Ποια είναι η απάντηση;

What's the formula that we can use in any situation

Ποιος είναι ο τύπος που μπορούμε να χρησιμοποιήσουμε σε κάθε περίπτωση

to determine what we should do,

για να αποφασίσουμε τι πρέπει να κάνουμε,

whether we should use that guy's data or not?

αν πρέπει να χρησιμοποιήσουμε τα δεδομένα αυτού του τύπου ή όχι;

What's the formula?

Ποιος είναι ο τύπος;

There's not a formula.

Δεν υπάρχει τύπος.

There's not a simple answer.

Δεν υπάρχει μια απλή απάντηση.

Ethics is hard.

Η ηθική είναι δύσκολη.

Ethics requires thinking.

Η ηθική απαιτεί σκέψη.

And that's uncomfortable.

Κι αυτό είναι άβολο.

I know; I spent a lot of my career

Ξέρω, πέρασα μεγάλο μέρος της καριέρας μου

in artificial intelligence,

στην τεχνητή νοημοσύνη,

trying to build machines that could do some of this thinking for us,

προσπαθώντας να φτιάξω μηχανές που θα μπορούσαν να κάνουν ένα μέρος αυτής της σκέψης για μας,

that could give us answers.

που θα μπορούσαν να μας δώσουν απαντήσεις.

But they can't.

Αλλά δεν μπορούν.

You can't just take human thinking

Δεν μπορείς απλώς να πάρεις την ανθρώπινη σκέψη

and put it into a machine.

και να τη βάλεις σε μια μηχανή.

We're the ones who have to do it.

Πρέπει να το κάνουμε μόνοι μας.

Happily, we're not machines, and we can do it.

Ευτυχώς, δεν είμαστε μηχανές και μπορούμε να το κάνουμε.

Not only can we think,

Όχι μόνο μπορούμε να σκεφτούμε,

we must.

αλλά πρέπει.

Hannah Arendt said,

Η Χάνα Άρεντ είπε,

"The sad truth

"Η πικρή αλήθεια

is that most evil done in this world

είναι ότι το μεγαλύτερο κακό σ΄αυτόν τον κόσμο

is not done by people

δε γίνεται από ανθρώπους

who choose to be evil.

που επιλέγουν να είναι κακοί.

It arises from not thinking."

Προέρχεται από τη "μη σκέψη."

That's what she called the "banality of evil."

Αυτό το ονόμασε "κοινοτυπία του κακού."

And the response to that

Και η απάντηση σ' αυτό

is that we demand the exercise of thinking

είναι ότι απαιτούμε την άσκηση της σκέψης

from every sane person.

από κάθε λογικό άτομο.

So let's do that. Let's think.

Οπότε ας το κάνουμε αυτό. Ας σκεφτούμε.

In fact, let's start right now.

Πραγματικά, ας αρχίσουμε τώρα.

Every person in this room do this:

Ο καθένας από μας ας κάνει το εξής:

think of the last time you had a decision to make

σκεφτείτε την τελευταία στιγμή που είχατε να πάρετε μια απόφαση

where you were worried to do the right thing,

που ανησυχούσατε αν κάνατε το σωστό.

where you wondered, "What should I be doing?"

που αναρωτηθήκατε. "Τι πρέπει να κάνω;"

Bring that to mind,

Φέρτε το στο μυαλό σας.

and now reflect on that

Και τώρα αναλογιστείτε

and say, "How did I come up that decision?

και πείτε, "Πώς έφθασα σ΄αυτή την απόφαση;"

What did I do? Did I follow my gut?

Τι έκανα; Ακολούθησα το ένστικτό μου;

Did I have somebody vote on it? Or did I punt to legal?"

Είχα κάποιον να ψηφίσει; Ή το έριξα στα νομικά;

Or now we have a few more choices.

Ή τώρα έχουμε μερικές ακόμη επιλογές.

"Did I evaluate what would be the highest pleasure

"Υπολόγισα ποια θα ήταν η μεγαλύτερη ευχαρίστηση

like Mill would?

όπως θα έκανε ο Μιλ;

Or like Kant, did I use reason to figure out what was intrinsically right?"

Ή χρησιμοποίησα τη λογική για να δω τι ήταν το ουσιαστικά σωστό όπως ο Καντ;"

Think about it. Really bring it to mind. This is important.

Σκεφτείτε το. Πραγματικά φέρτε το στο μυαλό σας. Είναι σημαντικό.

It is so important

Είναι τόσο σημαντικό

we are going to spend 30 seconds of valuable TEDTalk time

ώστε θα αφιερώσουμε 30 δευτερόλεπτα πολύτιμου χρόνου TED ομιλίας

doing nothing but thinking about this.

χωρίς να κάνουμε τίποτε άλλο εκτός από το να σκεφτούμε αυτό.

Are you ready? Go.

Έτοιμοι; Πάμε.

Stop. Good work.

Σταματήστε. Καλή δουλειά.

What you just did,

Αυτό που μόλις κάνατε,

that's the first step towards taking responsibility

είναι το πρώτο βήμα στην κατεύθυνση του να πάρετε την ευθύνη

for what we should do with all of our power.

του τι θα έπρεπε να κάνουμε με όλη αυτή τη δύναμή μας.

Now the next step -- try this.

Τώρα το επόμενο βήμα -- δοκιμάστε αυτό.

Go find a friend and explain to them

Βρείτε ένα φίλο και εξηγείστε του

how you made that decision.

πώς πήρατε αυτή την απόφαση.

Not right now. Wait till I finish talking.

Όχι αμέσως. Περιμένετε μέχρι να τελειώσω την ομιλία μου.

Do it over lunch.

Κάντε το στο μεσημεριανό φαγητό.

And don't just find another technologist friend;

Και μη βρείτε άλλον ένα τεχνολόγο φίλο σας,

find somebody different than you.

βρείτε κάποιον διαφορετικό από εσάς.

Find an artist or a writer --

Βρείτε έναν καλλιτέχνη ή ένα συγγραφέα --

or, heaven forbid, find a philosopher and talk to them.

ή, προς Θεού, βρείτε ένα φιλόσοφο και μιλήστε του.

In fact, find somebody from the humanities.

Εδώ που τα λέμε, βρείτε κάποιον από τις ανθρωπιστικές επιστήμες.

Why? Because they think about problems

Γιατί; Διότι σκέφτονται τα προβλήματα

differently than we do as technologists.

διαφορετικά απ' ότι εμείς οι τεχνολόγοι.

Just a few days ago, right across the street from here,

Πριν λίγες μέρες, ακριβώς στον απέναντι δρόμο,

there was hundreds of people gathered together.

ήταν εκαντοντάδες άνθρωποι μαζεμένοι.

It was technologists and humanists

Ήταν τεχνολόγοι και ανθρωπιστές

at that big BiblioTech Conference.

σ' αυτό το συνέδριο BiblioTech.

And they gathered together

Και μαζεύτηκαν

because the technologists wanted to learn

γιατί οι τεχνολόγοι ήθελαν να μάθουν

what it would be like to think from a humanities perspective.

πώς θα ήταν να σκέφτεσαι με μια ανθρωπιστική προσέγγιση.

You have someone from Google

Έχεις κάποιον από τη Google

talking to someone who does comparative literature.

να μιλά σε κάποιον που κάνει συγκριτική λογοτεχνία.

You're thinking about the relevance of 17th century French theater --

Σκέφτεσαι πόσο σχετικό είναι το γαλλικό θέατρο του 17ου αιώνα --

how does that bear upon venture capital?

και πώς επιδρά στο κεφάλαιο μακροχρόνιων επενδύσεων;

Well that's interesting. That's a different way of thinking.

Λοιπόν, αυτό είναι το ενδιαφέρον. Αυτός είναι ένας διαφορετικός τρόπος σκέψης.

And when you think in that way,

Και όταν σκέφτεσαι έτσι,

you become more sensitive to the human considerations,

γίνεσαι πιο ευαίσθητος στις ανθρώπινες έγνοιες,

which are crucial to making ethical decisions.

κάτι που είναι βασικό στο να παίρνεις ηθικές αποφάσεις.

So imagine that right now

Οπότε σκεφτείτε ότι τώρα

you went and you found your musician friend.

πήγατε και βρήκατε το φίλο σας το μουσικό.

And you're telling him what we're talking about,

Και του λέτε αυτά που συζητάμε,

about our whole data revolution and all this --

και την επανάσταση στα δεδομένα μας και όλα αυτά --

maybe even hum a few bars of our theme music.

ίσως μουρμουρίζετε και λίγο από το μουσικό μας θέμα.

♫ Dum ta da da dum dum ta da da dum ♫

♫

Well, your musician friend will stop you and say,

Λοιπόν, ο μουσικός φίλος σας θα σας σταματήσει και θα σας πει,

"You know, the theme music

"Ξέρεις, το μουσικό θέμα

for your data revolution,

για την επανάσταση των δεδομένων,

that's an opera, that's Wagner.

είναι όπερα, είναι Βάγκνερ.

It's based on Norse legend.

Βασίζεται σ' ένα νορβηγικό μύθο.

It's Gods and mythical creatures

Είναι θεοί και μυθικά πλάσματα

fighting over magical jewelry."

που παλεύουν για μαγικά κοσμήματα."

That's interesting.

Ενδιαφέρον.

Now it's also a beautiful opera,

Είναι επίσης και μια όμορφη όπερα.

and we're moved by that opera.

Και μας συγκινεί.

We're moved because it's about the battle

Μας συγκινεί γιατί έχει σχέση με τη μάχη

between good and evil,

μεταξύ του καλού και του κακού,

about right and wrong.

μεταξύ του σωστού και του λάθους.

And we care about right and wrong.

Και μας ενδιαφέρει το σωστό και το λάθος.

We care what happens in that opera.

Μας ενδιαφέρει τι συμβαίνει σ' αυτή την όπερα.

We care what happens in "Apocalypse Now."

Μας ενδιαφέρει τι συμβαίνει στο "Αποκάλυψη Τώρα."

And we certainly care

Και σίγουρα μας ενδιαφέρει

what happens with our technologies.

τι συμβαίνει με τις τεχνολογίες μας.

We have so much power today,

Έχουμε τόσο πολύ δύναμη σήμερα,

it is up to us to figure out what to do,

είναι στο χέρι μας να αποφασίσουμε τι θα κάνουμε.

and that's the good news.

Και αυτά είναι τα καλά νέα.

We're the ones writing this opera.

Εμείς είμαστε αυτοί που γράφουμε αυτή την όπερα.

This is our movie.

Αυτή είναι η δική μας ταινία.

We figure out what will happen with this technology.

Εμείς αποφασίζουμε τι θα γίνει μ' αυτήν την τεχνολογία.

We determine how this will all end.

Εμείς αποφασίζουμε πως θα τελειώσει όλο αυτό.

Thank you.

Ευχαριστώ

(Applause)

(Χειροκροτήματα)