How will AI change the world?

Μετάφραση: Nikolaos Kyriakidis Επιμέλεια: Vaia Katsarou

Τα επόμενα χρόνια η Τεχνητή Νοημοσύνη,

In the coming years, artificial intelligence

ενδεχομένως, να αλλάξει τη ζωή σας και μάλλον ολόκληρο τον κόσμο.

is probably going to change your life, and likely the entire world.

Δυσκολευόμαστε, βέβαια, να συμφωνήσουμε με ποιον τρόπο θα γίνει.

But people have a hard time agreeing on exactly how.

Ακολουθούν αποσπάσματα από μια συνέντευξη στο Παγκόσμιο Οικονομικό Φόρουμ,

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

του γνωστού καθηγητή πληροφορικής και ειδικού στην ΤΝ, Στιούαρτ Ράσελ,

helps separate the sense from the nonsense.

που μας βοηθά να ξεχωρίσουμε το λογικό από το παράλογο.

There’s a big difference between asking a human to do something

Υπάρχει μεγάλη διαφορά ανάμεσα στο να ζητήσετε από άνθρωπο να κάνει κάτι

and giving that as the objective to an AI system.

και να δώσετε αυτό το κάτι σε ένα σύστημα ΤΝ να το κάνει.

When you ask a human to get you a cup of coffee,

Όταν ζητάτε από έναν άνθρωπο να σας φέρει έναν καφέ,

δεν ενοείτε ότι αυτό θα πρέπει να γίνει ο στόχος ζωής του,

you don’t mean this should be their life’s mission,

and nothing else in the universe matters.

και τίποτε άλλο δεν έχει σημασία,

Even if they have to kill everybody else in Starbucks

ακόμη και αν χρειαστεί να σκοτώσει τους πάντες στα Starbucks

to get you the coffee before it closes— they should do that.

για να σας φέρει τον καφέ πριν κλείσει το κατάστημα.

No, that’s not what you mean.

Όχι, δεν σημαίνει αυτό.

All the other things that we mutually care about,

Σημαίνει ότι όλα τα άλλα πράγματα τα οποία μας ενδιαφέρουν

they should factor into your behavior as well.

θα πρέπει να ληφθούν υπόψη.

Το πρόβλημα με τον τρόπο που φτιάχνουμε συστήματα ΤΝ σήμερα

And the problem with the way we build AI systems now

είναι ότι τους δίνουμε ένα πολύ συγκεκριμένο στόχο.

is we give them a fixed objective.

The algorithms require us to specify everything in the objective.

Οι αλγόριθμοι μας ζητούν τα πάντα να είναι συγκεκριμένα στον στόχο.

And if you say, can we fix the acidification of the oceans?

Αν πείτε: «Μπορούμε να διορθώσουμε την οξίνιση των ωκεανών;»

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Ναι, μπορούμε με μια καταλυτική αντίδραση που θα ήταν εξαιρετικά αποτελεσματική,

but it consumes a quarter of the oxygen in the atmosphere,

αλλά θα κατανάλωνε το ένα τέταρτο του οξυγόνου της ατμόσφαιρας,

which would apparently cause us to die fairly slowly and unpleasantly

πράγμα που, προφανώς, θα μας σκότωνε αρκετά αργά και δυσάρεστα,

over the course of several hours.

μέσα σε μερικές ώρες.

So, how do we avoid this problem?

Πώς αποφεύγουμε αυτό το πρόβλημα, τότε;

You might say, okay, well, just be more careful about specifying the objective—

Θα λέγατε, εντάξει, ας είμαστε προσεκτικοί με τη συγκεκριμενοποίηση του στόχου,

don’t forget the atmospheric oxygen.

ας μην ξοδέψουμε όλο το οξυγόνο της ατμόσφαιρας.

And then, of course, some side effect of the reaction in the ocean

Τότε, φυσικά, κάποια παρενέργεια της αντίδρασης στη θάλασσα

poisons all the fish.

θα δηλητηρίαζε όλα τα ψάρια.

Okay, well I meant don’t kill the fish either.

Βασικά, δεν εννοούσαμε να σκοτωθούν ούτε τα ψάρια.

And then, well, what about the seaweed?

Τότε, μήπως τα φύκια;

Don’t do anything that’s going to cause all the seaweed to die.

Όχι, ούτε να κάνουμε κάτι που θα σκοτώσει όλα τα φύκια.

And on and on and on.

Και ούτω καθ′ εξής.

And the reason that we don’t have to do that with humans is that

Ο λόγος που δεν χρειάζεται να το κάνουμε αυτό με ανθρώπους είναι ότι

humans often know that they don’t know all the things that we care about.

οι άνθρωποι, συχνά, ξέρουν ότι δεν ξέρουν όλα τα πράγμα που μας ενδιαφέρουν.

If you ask a human to get you a cup of coffee,

Αν ζητήσετε από έναν άνθρωπο να σας φέρει έναν καφέ,

and you happen to be in the Hotel George Sand in Paris,

και τυχαίνει να βρίσκεστε στο ξενοδοχείο George Sand του Παρισιού,

where the coffee is 13 euros a cup,

όπου ένας καφές κάνει 13 ευρώ,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

απολύτως λογικά θα επιστρέψει και θα σας πει:

are you sure you want it, or I could go next door and get one?

«Κάνει 13 ευρώ, σίγουρα τον θέλεις ή να πάω παραδίπλα να σου πάρω έναν;»

And it’s a perfectly normal thing for a person to do.

Είναι απολύτως λογικό να το κάνει ένας άνθρωπος αυτό.

Αν θέλω να βάψω το σπίτι σας θα ρωτήσω:

To ask, I’m going to repaint your house—

is it okay if I take off the drainpipes and then put them back?

«Πειράζει αν βγάλω τις σωληνώσεις και τις ξαναβάλω μετά;»

We don't think of this as a terribly sophisticated capability,

Δεν το θεωρούμε αυτό τρομερά περίπλοκη ικανότητα,

but AI systems don’t have it because the way we build them now,

αλλά τα συστήματα ΤΝ δεν την έχουν, γιατί όπως τα φτιάχνουμε τώρα,

they have to know the full objective.

πρέπει να γνωρίζουν τον πλήρη το στόχο.

If we build systems that know that they don’t know what the objective is,

Αν φτιάξουμε συστήματα που να ξέρουν ότι δεν ξέρουν ποιος είναι ο στόχος,

then they start to exhibit these behaviors,

αρχίζουν να συμπεριφέρονται

like asking permission before getting rid of all the oxygen in the atmosphere.

σαν να ζητούν άδεια πριν εξαντλήσουν όλο το οξυγόνο της ατμόσφαιρας.

In all these senses, control over the AI system

Με αυτή την έννοια, ο έλεγχος σε ένα σύστημα ΤΝ προκύπτει

comes from the machine’s uncertainty about what the true objective is.

από την αβεβαιότητα της μηχανής για το ποιος είναι ο πραγματικός στόχος.

And it’s when you build machines that believe with certainty

Όταν φτιάχνεις μηχανές που πιστεύουν με βεβαιότητα

that they have the objective,

ότι κατέχουν το στόχο,

that’s when you get this sort of psychopathic behavior.

τότε εντοπίζεις αυτού του είδους την ψυχοπαθητική συμπεριφορά.

And I think we see the same thing in humans.

Νομίζω πως βλέπουμε το ίδιο πράγμα στους ανθρώπους.

What happens when general purpose AI hits the real economy?

Τι συμβαίνει όταν μια ΤΝ γενικού σκοπού χτυπάει την πραγματική οικονομία;

How do things change? Can we adapt?

Πώς αλλάζουν τα πράγματα; Μπορούμε να προσαρμοστούμε;

This is a very old point.

Αυτό είναι ένα πολύ παλιό θέμα.

Amazingly, Aristotle actually has a passage where he says,

Είναι απίστευτο ότι ο Αριστοτέλης γράφει

look, if we had fully automated weaving machines

ότι αν είχαμε πλήρως αυτόματες κλωστοϋφαντουργικές μηχανές

and plectrums that could pluck the lyre and produce music without any humans,

και πένες που θα έπαιζαν μουσική χωρίς ανθρώπους,

then we wouldn’t need any workers.

τότε δε θα χρειαζόμασταν καθόλου εργάτες.

That idea, which I think it was Keynes

Η ιδέα αυτή, η οποία είναι του Κέυνς, νομίζω,

who called it technological unemployment in 1930,

ο οποίος την αποκάλεσε τεχνολογική ανεργία, το 1930,

is very obvious to people.

είναι πολύ προφανής στον κόσμο.

They think, yeah, of course, if the machine does the work,

Πιστεύουν πως, ναι, φυσικά, αν η μηχανή κάνει τη δουλειά,

then I'm going to be unemployed.

τότε θα μείνω άνεργος.

You can think about the warehouses that companies are currently operating

Σκεφτείτε τις αποθήκες που χρησιμοποιούν σήμερα οι εταιρείες

for e-commerce, they are half automated.

για το ηλεκτρονικό εμπόριο, είναι ημι-αυτόματες.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Πώς δουλεύει αυτό: Σε μια παλιά αποθήκη, όπου υπάρχουν στοίβες από πράγματα παντού,

all over the place and humans go and rummage around

οι άνθρωποι πάνε και ψαχουλεύουν,

βρίσκουν αυτό που θέλουν και το στέλνουν.

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

Υπάρχει ένα ρομπότ που πάει και παίρνει από το ράφι αποθήκευσης

that contains the thing that you need,

το αντικείμενο που χρειάζεστε,

but the human has to pick the object out of the bin or off the shelf,

αλλά ο άνθρωπος πρέπει να μαζέψει το αντικείμενο από τον κάδο ή από το ράφι,

because that’s still too difficult.

γιατί παραμένει δύκολο.

But, at the same time,

Αλλά, όμως,

θα φτιάχνατε ένα ρομπότ αρκετά ικανό ώστε να επιλέξει

would you make a robot that is accurate enough to be able to pick

pretty much any object within a very wide variety of objects that you can buy?

σχεδόν οτιδήποτε αντικείμενο ανάμεσα σε χιλιάδες;

That would, at a stroke, eliminate 3 or 4 million jobs?

Θα καταργούσε 3 ή 4 εκατομμύρια δουλειές διά μιας;

There's an interesting story that E.M. Forster wrote,

Ο Ε. Μ. Φόρστερ έγραψε μια ενδιαφέρουσα ιστορία,

where everyone is entirely machine dependent.

στην οποία όλοι εξαρτώνται πλήρως από τις μηχανές.

The story is really about the fact that if you hand over

Η ιστορία στην πραγματικότητα μιλάει για το γεγονός ότι αν αφήναμε

the management of your civilization to machines,

να διαχειριστούν τον πολιτισμό μας οι μηχανές,

you then lose the incentive to understand it yourself

θα χάναμε το κίνητρο να τον κατανοήσουμε εμείς οι ίδιοι,

or to teach the next generation how to understand it.

ή να διδάξουμε την επόμενη γενιά το πώς να τον κατανοήσει.

You can see “WALL-E” actually as a modern version,

Δείτε το σαν τη σύγχρονη εκδοχή της ταινίας «WALL-E»

where everyone is enfeebled and infantilized by the machine,

όπου όλοι είναι αποδυναμωμένοι και οι μηχανές τους φέρονται σαν σε νήπια,

and that hasn’t been possible up to now.

πράγμα που δεν ήταν δυνατό μέχρι τώρα.

We put a lot of our civilization into books,

Μεγάλο μέρος του πολιτισμού μας βρίσκεται στα βιβλία,

but the books can’t run it for us.

αλλά τα βιβλία δεν θα τον δημιουργήσουν αντί για μας.

And so we always have to teach the next generation.

Εμείς πρέπει να διδάξουμε την επόμενη γενιά.

If you work it out, it’s about a trillion person years of teaching and learning

Αν το υπολογίσετε, είναι περίπου ένα τρισ. έτη διδασκαλίας και μάθησης,

and an unbroken chain that goes back tens of thousands of generations.

μια συνεχής αλυσίδα που πάει πίσω δεκάδες χιλιάδες γενιές.

Τι θα γίνει αν η αλυσίδα σπάσει;

What happens if that chain breaks?

I think that’s something we have to understand as AI moves forward.

Νομίζω ότι πρέπει να καταλάβουμε κάτι όσο η ΤΝ προχωράει.

The actual date of arrival of general purpose AI—

Η πραγματική ημερομηνία άφιξης της ΤΝ γενικού σκοπού,

you’re not going to be able to pinpoint, it isn’t a single day.

δεν θα είναι μια συγκεκριμένη μέρα.

It’s also not the case that it’s all or nothing.

Δεν ισχύει, επίσης, ότι είναι όλα ή τίποτα.

The impact is going to be increasing.

Η επίδρασή της θα είναι ολοένα σημαντικότερη.

So with every advance in AI,

Έτσι, με κάθε πρόοδο της ΤΝ,

it significantly expands the range of tasks.

το εύρος των εφαρμογών της μεγαλώνει σημαντικά.

So in that sense, I think most experts say by the end of the century,

Με αυτήν την έννοια, οι περισσότεροι ειδικοί λένε ότι μέχρι το τέλος του αιώνα

we’re very, very likely to have general purpose AI.

πολύ πιθανόν να έχουμε ΤΝ γενικού σκοπού.

The median is something around 2045.

Η μέση εκτίμηση είναι γύρω στο 2045.

I'm a little more on the conservative side.

Εγώ τείνω να είμαι λίγο πιο συντηρητικός.

I think the problem is harder than we think.

Το πρόβλημα είναι δυσκολότερο απ′ όσο νομίζουμε.

I like what John McAfee, he was one of the founders of AI,

Μου αρέσει ότι ο Τζον Μακάφι, ένας εκ των ιδρυτών της ΤΝ,

when he was asked this question, he said, somewhere between five and 500 years.

όταν ρωτήθηκε, είπε, περίπου ανάμεσα σε 5 και 500 χρόνια.

And we're going to need, I think, several Einsteins to make it happen.

Θα χρειαστούμε, βέβαια, αρκετούς Αϊνστάιν για να το καταφέρουμε.