Can we build AI without losing control over it? | Sam Harris

Μετάφραση: Lucas Kaimaras Επιμέλεια: Nikolaos Benias

Θα σας μιλήσω για ένα σφάλμα στη λογική

I'm going to talk about a failure of intuition

that many of us suffer from.

που έχουν πολλοί από εμάς.

It's really a failure to detect a certain kind of danger.

Στην ουσία είναι αδυναμία να δούμε ένα ορισμένο είδος κινδύνου.

I'm going to describe a scenario

Θα περιγράψω ένα σενάριο

that I think is both terrifying

που θεωρώ ταυτόχρονα τρομακτικό,

and likely to occur,

αλλά και πιθανό να συμβεί,

and that's not a good combination,

και δεν είναι καλός συνδυασμός,

as it turns out.

όπως τελικά αποδεικνύεται.

And yet rather than be scared, most of you will feel

Αλλά αντί να τρομοκρατείστε, οι περισσότεροι πιστεύετε

that what I'm talking about is kind of cool.

ότι αυτό που σας λέω είναι μάλλον ωραίο.

I'm going to describe how the gains we make

Θα σας περιγράψω

πώς τα οφέλη που θα δρέψουμε από την τεχνητή νοημοσύνη

in artificial intelligence

μπορούν εν τέλει να μας καταστρέψουν.

could ultimately destroy us.

And in fact, I think it's very difficult to see how they won't destroy us

Και μάλιστα το θεωρώ απίθανο είτε να μην μας καταστρέψουν

ή να μας εμπνεύσουν να καταστραφούμε μόνοι μας.

or inspire us to destroy ourselves.

And yet if you're anything like me,

Αν όμως σκέφτεστε όπως εγώ,

you'll find that it's fun to think about these things.

θα το απολαμβάνετε να σκέφτεστε αυτά τα πράγματα.

And that response is part of the problem.

Κι αυτή η αντίδραση είναι μέρος του προβλήματος.

OK? That response should worry you.

Εντάξει; Αυτή η αντίδραση θα πρέπει να σας ανησυχεί.

And if I were to convince you in this talk

Κι αν επρόκειτο να σας πείσω με αυτή την ομιλία

that we were likely to suffer a global famine,

ότι είναι πιθανόν να αντιμετωπίσουμε παγκόσμιο λιμό,

είτε λόγω κλιματικής αλλαγής ή κάποιας άλλης καταστροφής,

either because of climate change or some other catastrophe,

and that your grandchildren, or their grandchildren,

και ότι τα εγγόνια σας, ή τα δικά τους εγγόνια,

are very likely to live like this,

είναι πολύ πιθανόν να ζήσουν κάπως έτσι,

you wouldn't think,

δεν θα σκεφτόσασταν,

"Interesting.

«Ενδιαφέρον.

I like this TED Talk."

Μου αρέσει αυτή η ομιλία TED».

Famine isn't fun.

Ο λιμός δεν είναι κάτι διασκεδαστικό.

Death by science fiction, on the other hand, is fun,

Από την άλλη, ο θάνατος μέσω επιστημονικής φαντασίας είναι διασκεδαστικός,

and one of the things that worries me most about the development of AI at this point

και κάτι που με ανησυχεί σε αυτό το στάδιο της εξέλιξης της τεχνητής νοημοσύνης

is that we seem unable to marshal an appropriate emotional response

είναι ότι αδυνατούμε να επιδείξουμε μια κατάλληλη συναισθηματική αντίδραση

to the dangers that lie ahead.

στους επικείμενους κινδύνους.

I am unable to marshal this response, and I'm giving this talk.

Ούτε εγώ μπορώ να έχω αυτή την αντίδραση και κάνω αυτή την ομιλία.

It's as though we stand before two doors.

Είναι σαν να στεκόμαστε μπροστά σε δύο πόρτες.

Behind door number one,

Πίσω από την πρώτη πόρτα,

we stop making progress in building intelligent machines.

παύουμε να κάνουμε πρόοδο στην παραγωγή ευφυών μηχανών.

Our computer hardware and software just stops getting better for some reason.

Για κάποιον λόγο παύουμε να βελτιώνουμε υλισμικό και λογισμικό στους υπολογιστές.

Now take a moment to consider why this might happen.

Τώρα σκεφτείτε για λίγο γιατί μπορεί να συμβεί αυτό.

I mean, given how valuable intelligence and automation are,

Εννοώ ότι, δεδομένης της μεγάλης αξίας της ευφυίας και των αυτοματισμών,

we will continue to improve our technology if we are at all able to.

εφόσον μπορούμε, θα συνεχίσουμε να βελτιώνουμε την τεχνολογία μας.

What could stop us from doing this?

Τι μπορεί να μας αποτρέψει;

A full-scale nuclear war?

Ένας πυρηνικός πόλεμος πλήρους κλίμακας;

A global pandemic?

Μια παγκόσμια πανδημία;

An asteroid impact?

Μια σύγκρουση με αστεροειδή;

Justin Bieber becoming president of the United States?

Να γίνει ο Τζάστιν Μπίμπερ πρόεδρος των ΗΠΑ;

(Laughter)

(Γέλια)

The point is, something would have to destroy civilization as we know it.

Το θέμα είναι ότι κάτι θα πρέπει να καταστρέψει τον σύγχρονο πολιτισμό.

You have to imagine how bad it would have to be

Θα πρέπει να φανταστείτε πόσο οδυνηρό πρέπει να είναι

to prevent us from making improvements in our technology

για να μας αποτρέψει από το να βελτιώσουμε την τεχνολογία μας

σε μόνιμη βάση,

permanently,

generation after generation.

στις επόμενες γενεές.

Almost by definition, this is the worst thing

Αυτό είναι σχεδόν εξ ορισμού

ό,τι χειρότερο έχει ποτέ συμβεί στην ανθρώπινη ιστορία.

that's ever happened in human history.

So the only alternative,

Έτσι η μόνη εναλλακτική

and this is what lies behind door number two,

-κι αυτή βρίσκεται πίσω από τη δεύτερη πόρτα-

is that we continue to improve our intelligent machines

είναι να συνεχίσουμε να βελτιώνουμε τις έξυπνες μηχανές μας

year after year after year.

χρόνο με τον χρόνο.

At a certain point, we will build machines that are smarter than we are,

Σε κάποιο σημείο, θα φτιάξουμε μηχανές που θα είναι πιο έξυπνες από εμάς,

and once we have machines that are smarter than we are,

κι όταν θα έχουμε μηχανές εξυπνότερες από εμάς,

they will begin to improve themselves.

θα αρχίσουν να βελτιώνονται μόνες τους.

And then we risk what the mathematician IJ Good called

Τότε διακινδυνεύουμε να έχουμε κάτι

που ο μαθηματικός Ι. Τζ. Γκουντ αποκάλεσε «έκρηξη ευφυίας»,

an "intelligence explosion,"

that the process could get away from us.

όπου η διαδικασία μπορεί να φύγει από τον έλεγχό μας.

Now, this is often caricatured, as I have here,

Αυτό συχνά απεικονίζεται, όπως σας δείχνω εδώ,

as a fear that armies of malicious robots

ως ένας φόβος ότι στρατιές από κακόβουλα ρομπότ

will attack us.

θα μας επιτεθούν.

But that isn't the most likely scenario.

Αλλά αυτό δεν είναι το πιο πιθανό σενάριο.

It's not that our machines will become spontaneously malevolent.

Δεν είναι ότι οι μηχανές μας θα γίνουν αυθόρμητα κακόβουλες.

The concern is really that we will build machines

Η πραγματική ανησυχία είναι ότι θα φτιάξουμε μηχανές

that are so much more competent than we are

που θα είναι τόσο πιο ικανές από εμάς

that the slightest divergence between their goals and our own

που η ελάχιστη απόκλιση μεταξύ των δικών τους στόχων και των δικών μας

could destroy us.

θα μπορούσε να μας καταστρέψει.

Just think about how we relate to ants.

Σκεφτείτε τη σχέση μας με τα μυρμήγκια.

We don't hate them.

Δεν τα μισούμε.

We don't go out of our way to harm them.

Δεν τα βλάπτουμε εκουσίως.

In fact, sometimes we take pains not to harm them.

Συχνά μάλιστα κάνουμε προσπάθεια να μην τα βλάψουμε.

We step over them on the sidewalk.

Αποφεύγουμε να τα πατήσουμε στο πεζοδρόμιο.

But whenever their presence

Αλλά όταν η παρουσία τους

seriously conflicts with one of our goals,

αντιτίθεται σοβαρά με τους στόχους μας,

let's say when constructing a building like this one,

ας πούμε, όταν φτιάχνουμε ένα τέτοιο κτήριο,

we annihilate them without a qualm.

τα εκμηδενίζουμε χωρίς δεύτερη σκέψη.

The concern is that we will one day build machines

Η ανησυχία είναι ότι μια μέρα θα φτιάξουμε μηχανές που,

that, whether they're conscious or not,

είτε ενσυνείδητα ή όχι,

could treat us with similar disregard.

θα μας μεταχειριστούν με παρόμοια αδιαφορία.

Now, I suspect this seems far-fetched to many of you.

Υποψιάζομαι ότι οι περισσότεροι το θεωρείτε παρατραβηγμένο.

I bet there are those of you who doubt that superintelligent AI is possible,

Βάζω στοίχημα ότι κάποιοι αμφιβάλλουν αν η υπερευφυής τεχνητή νοημοσύνη

είναι εφικτή, πολύ δε λιγότερο αναπόφευκτη.

much less inevitable.

But then you must find something wrong with one of the following assumptions.

Τότε όμως πρέπει να βρείτε κάποιο λάθος στις ακόλουθες υποθέσεις.

And there are only three of them.

Και είναι μόνο τρεις υποθέσεις.

Intelligence is a matter of information processing in physical systems.

Η ευφυΐα είναι θέμα επεξεργασίας της πληροφορίας σε υλικά συστήματα.

Actually, this is a little bit more than an assumption.

Βασικά, αυτό είναι κάτι παραπάνω από μια υπόθεση.

We have already built narrow intelligence into our machines,

Έχουμε ήδη ενσωματώσει περιορισμένη ευφυΐα στις μηχανές μας,

and many of these machines perform

και πολλές από αυτές ήδη αποδίδουν

at a level of superhuman intelligence already.

σε επίπεδο υπεράνθρωπης ευφυΐας.

And we know that mere matter

Και ξέρουμε πως η απλή ύλη

can give rise to what is called "general intelligence,"

μπορεί να δημιουργήσει αυτό που λέγεται «γενική ευφυΐα»,

an ability to think flexibly across multiple domains,

μια ικανότητα να σκεφτούμε ευέλικτα σε πολλαπλά επίπεδα,

because our brains have managed it. Right?

επειδή τα μυαλά μας τα έχουν καταφέρει, σωστά;

I mean, there's just atoms in here,

Εξάλλου μόνο άτομα υπάρχουν εκεί,

and as long as we continue to build systems of atoms

και όσο συνεχίζουμε να φτιάχνουμε συστήματα από άτομα

that display more and more intelligent behavior,

που επιδεικνύουν όλο και περισσότερο ευφυή συμπεριφορά,

we will eventually, unless we are interrupted,

αν δεν μας σταματήσει κάποιος,

we will eventually build general intelligence

τελικά θα βάλουμε τη γενική ευφυΐα

μέσα στις μηχανές μας.

into our machines.

It's crucial to realize that the rate of progress doesn't matter,

Είναι σημαντικό να καταλάβουμε ότι δεν έχει σημασία ο ρυθμός της προόδου,

because any progress is enough to get us into the end zone.

γιατί κάθε πρόοδος είναι αρκετή για να οδηγήσει σε αυτή την κατάληξη.

We don't need Moore's law to continue. We don't need exponential progress.

Δεν χρειάζεται ο Νόμος του Μουρ, ούτε κάποια εκθετική πρόοδος.

Χρειάζεται απλώς να συνεχίσουμε.

We just need to keep going.

The second assumption is that we will keep going.

Η δεύτερη υπόθεση είναι ότι θα συνεχίσουμε.

We will continue to improve our intelligent machines.

Θα συνεχίσουμε να βελτιώνουμε τις έξυπνες μηχανές μας.

And given the value of intelligence --

Και σύμφωνα με την αξία της ευφυΐας -

I mean, intelligence is either the source of everything we value

εννοώ ότι είτε η ευφυΐα είναι η πηγή για ό,τι θεωρούμε άξιο,

or we need it to safeguard everything we value.

ή χρειάζεται να περιφρουρήσουμε οτιδήποτε θεωρούμε άξιο.

It is our most valuable resource.

Είναι ο πιο πολύτιμος πόρος που έχουμε.

So we want to do this.

Έτσι, θέλουμε να το κάνουμε.

We have problems that we desperately need to solve.

Έχουμε προβλήματα και πρέπει να τα λύσουμε επειγόντως.

We want to cure diseases like Alzheimer's and cancer.

Θέλουμε να θεραπεύσουμε νόσους όπως τον καρκίνο και την Αλτσχάιμερ,

We want to understand economic systems. We want to improve our climate science.

να καταλάβουμε οικονομικά συστήματα, να βελτιώσουμε τη γνώση μας για το κλίμα.

So we will do this, if we can.

Γι' αυτό θα το κάνουμε, αν μπορούμε.

The train is already out of the station, and there's no brake to pull.

Το τρένο έχει ήδη ξεκινήσει και δεν έχει φρένο.

Finally, we don't stand on a peak of intelligence,

Τέλος, δεν έχουμε φτάσει στην αποκορύφωση της ευφυΐας,

or anywhere near it, likely.

μάλλον ούτε που την πλησιάσαμε.

And this really is the crucial insight.

Και αυτή είναι η σημαντική διαπίστωση.

This is what makes our situation so precarious,

Αυτό κάνει τόσο επισφαλή την κατάστασή μας,

και τόσο αναξιόπιστα τα προαίσθήματά μας σχετικά με το ρίσκο.

and this is what makes our intuitions about risk so unreliable.

Now, just consider the smartest person who has ever lived.

Απλώς σκεφτείτε το πιο έξυπνο άτομο που έχει ποτέ ζήσει.

On almost everyone's shortlist here is John von Neumann.

Κάποιον που όλοι σας θα έχετε κατά νου είναι ο Τζον φον Νόιμαν.

I mean, the impression that von Neumann made on the people around him,

Η εντύπωση που έκανε στους τριγύρω του ο φον Νόιμαν,

and this included the greatest mathematicians and physicists of his time,

συμπεριλαμβανομένων των πιο λαμπρών μαθηματικών και φυσικών της εποχής του,

is fairly well-documented.

έχει καταγραφεί επαρκώς.

If only half the stories about him are half true,

Και μόνο οι μισές ιστορίες γι' αυτόν να αληθεύουν,

χωρίς αμφιβολία

there's no question

he's one of the smartest people who has ever lived.

είναι από τους πιο έξυπνους ανθρώπους που έχουν ζήσει.

So consider the spectrum of intelligence.

Σκεφτείτε λοιπόν το φάσμα της ευφυΐας.

Here we have John von Neumann.

Εδώ είναι ο Τζον φον Νόιμαν.

And then we have you and me.

Κι εδώ είμαστε εσείς κι εγώ.

And then we have a chicken.

Μετά είναι οι κότες.

(Laughter)

(Γέλια)

Sorry, a chicken.

Συγνώμη, μια κότα.

(Laughter)

(Γέλια)

There's no reason for me to make this talk more depressing than it needs to be.

Δεν υπάρχει λόγος να κάνω την ομιλία πιο θλιβερή απ' όσο χρειάζεται.

(Laughter)

(Γέλια)

It seems overwhelmingly likely, however, that the spectrum of intelligence

Ωστόσο, φαίνεται εκπληκτικά πιθανόν ότι το φάσμα της ευφυΐας

extends much further than we currently conceive,

εκτείνεται πολύ πιο πέρα από όσο τώρα αντιλαμβανόμαστε,

and if we build machines that are more intelligent than we are,

και αν φτιάξουμε μηχανές πιο έξυπνες από εμάς,

they will very likely explore this spectrum

είναι πολύ πιθανόν να εξερευνήσουν αυτό το φάσμα

in ways that we can't imagine,

με τρόπους που δεν μπορούμε να φανταστούμε

and exceed us in ways that we can't imagine.

και να μας ξεπεράσουν σε αφάνταστο βαθμό.

And it's important to recognize that this is true by virtue of speed alone.

Και είναι σημαντικό να αναγνωρίσουμε ότι αυτό αληθεύει και μόνο λόγω ταχύτητας.

Right? So imagine if we just built a superintelligent AI

Σωστά; Φανταστείτε να φτιάχναμε μια υπερευφυή τεχνητή νοημοσύνη,

that was no smarter than your average team of researchers

που δεν θα ήταν εξυπνότερη από μια μέση ομάδα ερευνητών

at Stanford or MIT.

των πανεπιστημίων Στάνφορντ ή ΜΙΤ.

Well, electronic circuits function about a million times faster

Τα ηλεκτρονικά κυκλώματα λειτουργούν

ένα εκατομμύριο φορές ταχύτερα από τα βιοχημικά,

than biochemical ones,

so this machine should think about a million times faster

έτσι αυτή η μηχανή θα σκεφτόταν ένα εκατομμύριο φορές πιο γρήγορα

than the minds that built it.

από τους εγκεφάλους που την έφτιαξαν.

So you set it running for a week,

Με λειτουργία μίας εβδομάδας

and it will perform 20,000 years of human-level intellectual work,

θα παράξει έργο 20.000 ετών σε επίπεδο ανθρώπινης διάνοιας,

week after week after week.

και το ίδιο θα κάνει κάθε επόμενη εβδομάδα.

How could we even understand, much less constrain,

Πώς μπορούμε να καταλάβουμε, πολύ δε περισσότερο να περιορίσουμε,

a mind making this sort of progress?

έναν εγκέφαλο που κάνει τέτοια πρόοδο;

The other thing that's worrying, frankly,

Για να πω την αλήθεια, είναι επίσης ανησυχητικό

is that, imagine the best case scenario.

να φανταστούμε το καλύτερο δυνατό σενάριο.

So imagine we hit upon a design of superintelligent AI

Φανταστείτε να βρούμε ένα σχέδιο υπερεφυούς τεχνητής νοημοσύνης

που δεν έχει θέματα ασφάλειας.

that has no safety concerns.

We have the perfect design the first time around.

Θα έχουμε βρει το τέλειο σχέδιο για πρώτη φορά.

It's as though we've been handed an oracle

Θα είναι σαν να μας έχει δοθεί ένα μαντείο

that behaves exactly as intended.

που λειτουργεί ακριβώς όπως πρέπει.

Well, this machine would be the perfect labor-saving device.

Αυτή θα ήταν η τέλεια μηχανή εξοικονόμησης έργου.

It can design the machine that can build the machine

Θα σχεδιάσει τη μηχανή που θα κατασκευάσει τη μηχανή

that can do any physical work,

που θα κάνει κάθε σωματική εργασία,

powered by sunlight,

τροφοδοτούμενη από τον ήλιο,

more or less for the cost of raw materials.

με μόνο κόστος αυτό των πρώτων υλών.

So we're talking about the end of human drudgery.

Έτσι μιλάμε για το τέλος της ανθρώπινης αγγαρείας.

We're also talking about the end of most intellectual work.

Επίσης μιλάμε για το τέλος της περισσότερης διανοητικής εργασίας.

So what would apes like ourselves do in this circumstance?

Τι θα κάνουν οι πίθηκοι όπως εμείς σε αυτή την περίπτωση;

Well, we'd be free to play Frisbee and give each other massages.

Θα έχουμε χρόνο να παίζουμε φρίσμπι και να κάνουμε μασάζ ο ένας στον άλλον.

Add some LSD and some questionable wardrobe choices,

Προσθέστε λίγο LSD και κάποιες αμφίβολες επιλογές ένδυσης,

and the whole world could be like Burning Man.

κι όλος ο κόσμος θα μοιάζει με φεστιβάλ Burning Man.

(Laughter)

(Γέλια)

Now, that might sound pretty good,

Μπορεί βέβαια να ακούγεται αρκετά καλό,

but ask yourself what would happen

αλλά αναρωτηθείτε τι θα συνέβαινε

under our current economic and political order?

με την τωρινή οικονομική και πολιτική κατάσταση;

It seems likely that we would witness

Μοιάζει πιθανό ότι θα βιώσουμε

a level of wealth inequality and unemployment

ένα επίπεδο ανισότητας πλούτου και ανεργίας

που δεν έχουμε ξαναδεί.

that we have never seen before.

Absent a willingness to immediately put this new wealth

Αν απουσιάσει η θέληση να βάλουμε άμεσα αυτόν τον πλούτο

to the service of all humanity,

στην υπηρεσία όλης της ανθρωπότητας,

a few trillionaires could grace the covers of our business magazines

ελάχιστοι πολυεκατομμυριούχοι θα κοσμούν τα εξώφυλλα των οικονομικών περιοδικών,

while the rest of the world would be free to starve.

ενώ ο υπόλοιπος κόσμος θα είναι ελεύθερος να λιμοκτονήσει.

And what would the Russians or the Chinese do

Και τι θα κάνουν οι Ρώσοι ή οι Κινέζοι

if they heard that some company in Silicon Valley

αν μάθουν ότι μια εταιρεία στη Σίλικον Βάλεϊ

was about to deploy a superintelligent AI?

πρόκειται να κυκλοφορήσει μια υπερευφυή τεχνητή νοημοσύνη;

This machine would be capable of waging war,

Αυτή η μηχανή θα μπορούσε να κηρύξει πόλεμο,

whether terrestrial or cyber,

είτε συμβατικό είτε σε επίπεδο υπολογιστών,

with unprecedented power.

με ισχύ άνευ προηγουμένου.

This is a winner-take-all scenario.

Είναι ένα σενάριο όπου κερδίζει μόνο ένας.

To be six months ahead of the competition here

Όταν προηγείσαι εδώ έξι μήνες από τον ανταγωνισμό,

is to be 500,000 years ahead,

είναι σαν να είσαι 500.000 χρόνια μπροστά

at a minimum.

κατά το ελάχιστο.

So it seems that even mere rumors of this kind of breakthrough

Άρα φαίνεται ότι ακόμη και απλές φήμες για κάτι τόσο επαναστατικό

could cause our species to go berserk.

θα έκανε το είδος μας να τρελαθεί.

Now, one of the most frightening things,

Ένα από τα πιο τρομακτικά πράγματα,

in my view, at this moment,

κατά την άποψή μου, αυτή τη στιγμή,

are the kinds of things that AI researchers say

είναι αυτά που λένε οι ερευνητές της τεχνητής νοημοσύνης

when they want to be reassuring.

όταν θέλουν να μας καθησυχάσουν.

Κι ο πιο κοινός λόγος που προβάλλουν για να μην ανησυχούμε είναι ο χρόνος.

And the most common reason we're told not to worry is time.

This is all a long way off, don't you know.

Αυτό είναι πολύ μακριά, δεν το βλέπετε;

This is probably 50 or 100 years away.

Είναι περίπου 50 ή 100 χρόνια μετά.

One researcher has said,

Ένας ερευνητής έχει πει,

«Ανησυχώντας για ασφάλεια στην τεχνητή νοημοσύνη

"Worrying about AI safety

is like worrying about overpopulation on Mars."

είναι σαν να ανησυχούμε για υπερπληθυσμό στον Άρη».

This is the Silicon Valley version

Αυτό είναι η έκδοση της Σίλικον Βάλεϊ

of "don't worry your pretty little head about it."

του «μην ζαλίζεις το όμορφο κεφαλάκι σου».

(Laughter)

(Γέλια)

No one seems to notice

Κανείς δεν φαίνεται να βλέπει

that referencing the time horizon

ότι η αναφορά στον χρονικό ορίζοντα

is a total non sequitur.

είναι τελείως ανακόλουθη.

If intelligence is just a matter of information processing,

Αν η ευφυΐα είναι απλώς θέμα επεξεργασίας της πληροφορίας,

and we continue to improve our machines,

και συνεχίζουμε να βελτιώνουμε τις μηχανές μας,

we will produce some form of superintelligence.

σίγουρα θα δημιουργήσουμε κάποια μορφή υπερευφυΐας.

And we have no idea how long it will take us

Και δεν ξέρουμε πόσο χρόνο θα μας πάρει

να δημιουργήσουμε τις συνθήκες ώστε να το κάνουμε με ασφάλεια.

to create the conditions to do that safely.

Let me say that again.

Να το πω πάλι.

We have no idea how long it will take us

Δεν έχουμε ιδέα πόσο χρόνο θα μας πάρει

to create the conditions to do that safely.

να δημιουργήσουμε τις συνθήκες ώστε να το κάνουμε με ασφάλεια.

And if you haven't noticed, 50 years is not what it used to be.

Κι αν δεν το έχετε προσέξει, τα 50 χρόνια δεν είναι αυτό που ήταν.

This is 50 years in months.

Αυτό είναι 50 χρόνια σε μήνες.

This is how long we've had the iPhone.

Τόσον καιρό έχουμε το iPhone.

This is how long "The Simpsons" has been on television.

Τόσον καιρό παίζονται οι Σίμπσονς στην τηλεόραση.

Fifty years is not that much time

Τα 50 χρόνια δεν είναι τόσο πολλά

to meet one of the greatest challenges our species will ever face.

για μια από τις μεγαλύτερες προκλήσεις που θα αντιμετωπίσει το είδος μας.

Once again, we seem to be failing to have an appropriate emotional response

Και πάλι - αδυνατούμε να επιδείξουμε κατάλληλη συναισθηματική απόκριση

to what we have every reason to believe is coming.

σε κάτι που έχουμε κάθε λόγο να πιστεύουμε ότι θα έρθει.

The computer scientist Stuart Russell has a nice analogy here.

Ο επιστήμων υπολογιστών Στιούαρτ Ράσελ έχει μια ωραία αναλογία γι' αυτό.

He said, imagine that we received a message from an alien civilization,

Είπε, φανταστείτε ότι λάβαμε μήνυμα από εξωγήινο πολιτισμό,

which read:

που έλεγε:

"People of Earth,

«Άνθρωποι της Γης,

we will arrive on your planet in 50 years.

θα φτάσουμε στον πλανήτη σας σε 50 χρόνια.

Get ready."

Ετοιμαστείτε».

And now we're just counting down the months until the mothership lands?

Και τώρα απλώς μετράμε αντίστροφα τον χρόνο μέχρι να έρθει το διαστημόπλοιο.

We would feel a little more urgency than we do.

Θα το νιώθαμε ως κάτι λίγο πιο επιτακτικό από ό,τι τώρα.

Another reason we're told not to worry

Μας λένε επίσης να μην ανησυχούμε,

is that these machines can't help but share our values

γιατί οι μηχανές δεν μπορούν παρά να έχουν τις δικές μας αξίες,

because they will be literally extensions of ourselves.

καθώς κυριολεκτικά είναι προέκταση των εαυτών μας.

They'll be grafted onto our brains,

Θα συνδεθούν στον εγκέφαλό μας

and we'll essentially become their limbic systems.

και βασικά θα γίνουμε το μεταιχμιακό τους σύστημα.

Now take a moment to consider

Σκεφτείτε για ένα λεπτό

that the safest and only prudent path forward,

ότι ο ασφαλέστερος και ο μόνος συνετός δρόμος προς τα εμπρός

recommended,

που προτείνεται,

είναι να εμφυτεύσουμε αυτή την τεχνολογία απευθείας στον εγκέφαλό μας.

is to implant this technology directly into our brains.

Now, this may in fact be the safest and only prudent path forward,

Βέβαια, μπορεί να είναι ο ασφαλέστερος και ο μόνος συνετός δρόμος,

αλλά συνήθως οι ανησυχίες για την ασφάλεια μιας τεχνολογίας

but usually one's safety concerns about a technology

have to be pretty much worked out before you stick it inside your head.

πρέπει να έχουν επιλυθεί πριν την εμφυτεύσουμε στο κεφάλι μας.

(Laughter)

(Γέλια)

The deeper problem is that building superintelligent AI on its own

Το βαθύτερο πρόβλημα είναι ότι φαίνεται ευκολότερο

να φτάξεις ένα μεμονωμένο σύστημα τεχνητής νοημοσύνης,

seems likely to be easier

than building superintelligent AI

από το να φτιάξεις ένα σύστημα

and having the completed neuroscience

και να έχεις και επαρκή νευροεπιστήμη

that allows us to seamlessly integrate our minds with it.

που να επιτρέπει την εύκολη ενσωμάτωσή του στον εγκέφαλό μας.

And given that the companies and governments doing this work

Και δεδομένου ότι οι κυβερνήσεις και εταιρείες που θα το κάνουν

είναι πιθανόν θα θεωρούν ότι ανταγωνίζονται όλους τους άλλους,

are likely to perceive themselves as being in a race against all others,

given that to win this race is to win the world,

εφόσον όποιος το κάνει πρώτος θα κυριαρχήσει στον κόσμο,

provided you don't destroy it in the next moment,

με την προϋπόθεση ότι δεν θα τον καταστρέψει αμέσως μετά,

then it seems likely that whatever is easier to do

τότε μοιάζει πιθανό

ότι θα γίνει πρώτο οτιδήποτε γίνεται πιο εύκολα.

will get done first.

Now, unfortunately, I don't have a solution to this problem,

Δυστυχώς δεν έχω κάποια λύση γι' αυτό το πρόβλημα,

apart from recommending that more of us think about it.

εκτός από το να συστήσω να το ξανασκεφτούμε οι περισσότεροι.

I think we need something like a Manhattan Project

Νομίζω ότι χρειαζόμαστε κάτι σαν το Πρόγραμμα Μανχάταν

on the topic of artificial intelligence.

προσαρμοσμένο για την τεχνητή νοημοσύνη.

Not to build it, because I think we'll inevitably do that,

Όχι για να την φτιάξουμε, γιατί μάλλον είναι αναπόφευκτο,

but to understand how to avoid an arms race

αλλά να καταλάβουμε πώς να αποφύγουμε έναν αγώνα εξοπλισμών

and to build it in a way that is aligned with our interests.

και να την φτιάξουμε έτσι που να συμβαδίζει με τα συμφέροντά μας.

When you're talking about superintelligent AI

Όταν μιλάτε για υπερευφυή τεχνητή νοημοσύνη

that can make changes to itself,

που μπορεί να τροποποιήσει τον εαυτό της,

it seems that we only have one chance to get the initial conditions right,

φαίνεται ότι έχουμε μόνο μία πιθανότητα να ορίσουμε τις σωστές προϋποθέσεις,

and even then we will need to absorb

και ακόμη και τότε θα χρειαστεί να απορροφήσουμε

the economic and political consequences of getting them right.

τις οικονομικές και πολιτικές συνέπειες της σωστής εφαρμογής.

But the moment we admit

Αλλά μόλις παραδεχθούμε

that information processing is the source of intelligence,

ότι η επεξεργασία πληροφοριών είναι η πηγή της ευφυΐας,

that some appropriate computational system is what the basis of intelligence is,

ότι η βάση της ευφυΐας είναι κάποιο κατάλληλο υπολογιστικό σύστημα,

and we admit that we will improve these systems continuously,

και αποδεχθούμε να βελτιώνουμε αυτά τα συστήματα συνεχώς,

and we admit that the horizon of cognition very likely far exceeds

και παραδεχθούμε ότι ο γνωστικός ορίζοντας μάλλον ξεπερνά κατά πολύ

what we currently know,

όσα ήδη γνωρίζουμε,

then we have to admit

τότε πρέπει να παραδεχθούμε

that we are in the process of building some sort of god.

ότι βρισκόμαστε σε διαδικασία κατασκευής κάποιου είδους θεού.

Now would be a good time

Τώρα είναι η σωστή ώρα

να εξασφαλίσουμε ότι είναι ένας θεός με τον οποίον μπορούμε να ζήσουμε.

to make sure it's a god we can live with.

Thank you very much.

Σας ευχαριστώ πολύ.

(Applause)

(Χειροκρότημα)