The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Μετάφραση: Chryssa Rapessi Επιμέλεια: Vaia Katsarou

You've all experienced the progress of artificial intelligence.

Όλοι έχετε βιώσει την πρόοδο της τεχνητής νοημοσύνης.

Many of you may have spoken with a computer,

Πολλοί, ίσως, να έχετε μιλήσει με υπολογιστή,

and a computer understood you

που σας κατάλαβε

and spoke back to you.

και σας απάντησε.

With the rate of progress being that it is,

Με αυτόν τον ρυθμό προόδου,

it's not difficult to imagine that at some point in the future,

δεν είναι δύσκολο να φανταστεί κανείς

ότι κάποια στιγμή στο μέλλον,

our intelligent computers will become as smart or smarter than people.

οι έξυπνοι υπολογιστές μας θα γίνουν εξίσου έξυπνοι ή εξυπνότεροι από μας.

And it's also not difficult to imagine that when that happens,

Επίσης, δεν είναι δύσκολο να φανταστεί κανείς

ότι όταν συμβεί αυτό,

the impact of such artificial intelligence

ο αντίκτυπος μιας τέτοιας τεχνητής νοημοσύνης

is going to be truly, truly vast.

θα είναι πραγματικά, πραγματικά τεράστιος.

And you may wonder:

Ίσως αναρωτιέστε:

Is it going to be OK when technology is so impactful?

Θα είναι όλα καλά

όταν η τεχνολογία θα έχει τέτοια επίδραση;

And here my goal is to point out the existence of a force

Ο στόχος μου εδώ είναι να επισημάνω την ύπαρξη μιας δύναμης

that many of you may have not noticed,

που πολλοί από εσάς μπορεί να μην έχετε παρατηρήσει,

that gives me hope that indeed,

που μου δίνει ελπίδα ότι πράγματι,

we will be happy with the result.

θα είμαστε ευχαριστημένοι με το αποτέλεσμα.

So artificial intelligence.

Τεχνητή νοημοσύνη, λοιπόν.

What is it, and how does it work?

Τι είναι και πώς λειτουργεί;

Well, it turns out that it's very easy to explain

Λοιπόν, αποδεικνύεται ότι είναι πολύ εύκολο να εξηγήσουμε

how artificial intelligence works.

πώς λειτουργεί η τεχνητή νοημοσύνη.

Just one sentence.

Μόνο μία πρόταση.

Artificial intelligence is nothing but digital brains

Η τεχνητή νοημοσύνη δεν είναι παρά ψηφιακοί εγκέφαλοι

inside large computers.

μέσα σε μεγάλους υπολογιστές.

That's what artificial intelligence is.

Αυτό είναι η τεχνητή νοημοσύνη.

Every single interesting AI that you've seen

Κάθε ενδιαφέρουσα τεχνητή νοημοσύνη που έχετε δει

is based on this idea.

βασίζεται σε αυτήν την ιδέα.

Over the decades,

Για δεκαετίες,

scientists and engineers have been figuring out

επιστήμονες και μηχανικοί προσπαθούν να καταλάβουν

how such digital brains should work

πώς πρέπει να λειτουργούν τέτοιοι ψηφιακοί εγκέφαλοι

and how to build them, how to engineer them.

και πώς να τους κατασκευάσουν, πώς να τους σχεδιάσουν.

Now, I find it interesting

Βρίσκω ενδιαφέρον

that the seat of intelligence in human beings is our biological brain.

ότι η έδρα της νοημοσύνης σε μας

είναι ο βιολογικός μας εγκέφαλος.

It is fitting that the seat of intelligence

’Ετσι η έδρα της νοημοσύνης

στην τεχνητή νοημοσύνη

in artificial intelligence

is an artificial brain.

θα πρέπει να είναι ένας τεχνητός εγκέφαλος.

Here, I'd like to take a digression and tell you about how I got into AI.

Εδώ, θα ήθελα να κάνω μια παρέκκλιση

και να σας πω για το πώς μπήκα στην TN.

There were three forces that pulled me into it.

Tρεις δυνάμεις με τράβηξαν σε αυτήν.

The first one was that when I was a little child,

Η πρώτη ήταν ότι όταν ήμουν μικρό παιδί,

at around the age of five or six,

περίπου στην ηλικία των πέντε ή έξι ετών,

I was very struck by my own conscious experience,

εντυπωσιάστηκα τόσο πολύ από τη δική μου συνειδητή εμπειρία,

by the fact that I am me and I am experiencing things.

από το γεγονός ότι είμαι ο εαυτός μου και βιώνω πράγματα.

That when I look at things, I see them.

Ότι όταν κοιτάζω πράγματα, τα βλέπω.

Like, this feeling over time went away, though,

Aυτό το συναίσθημα εξαφανίστηκε με την πάροδο του χρόνου,

by simply mentioning it to you right now it comes back.

όμως επιστρέφει απλώς και μόνο που το αναφέρω αυτή τη στιγμή.

But this this feeling of ...

Το συναίσθημα αυτό,

That I am me, that you are you,

του ότι είμαι εγώ, ότι είσαι εσύ,

I found it very strange and very disturbing almost.

το βρήκα πολύ περίεργο

και σχεδόν ενοχλητικό.

And so when I learned about artificial intelligence,

Έτσι όταν έμαθα για την τεχνητή νοημοσύνη,

I thought, wow, if we could build a computer

σκέφτηκα ότι αν μπορούσαμε να φτιάξουμε έναν υπολογιστή

that is intelligent,

που να είναι έξυπνος,

maybe we will learn something about ourselves,

ίσως μάθουμε κάτι για τον εαυτό μας,

about our own consciousness.

για τη συνείδησή μας.

That was my first motivation that pulled me towards AI.

Αυτό ήταν το πρώτο μου κίνητρο που με τράβηξε προς την τεχνητή νοημοσύνη.

The second motivation was more pedestrian in a way.

Το δεύτερο κίνητρο ήταν κατά κάποιο τρόπο πιο πεζό.

I was simply curious about how intelligence works.

Ήμουν απλώς περίεργος για το πώς λειτουργεί η νοημοσύνη.

And when I was a teenager, an early teenager in the late '90s,

Όταν ήμουν έφηβος, πρώιμος έφηβος στα τέλη της δεκαετίας του ’90,

the sense that I got is that science simply did not know

η αίσθηση που είχα ήταν ότι η επιστήμη απλά δεν ήξερε

how intelligence worked.

πώς λειτουργούσε η νοημοσύνη.

There was also a third reason,

Υπήρχε κι ένας τρίτος λόγος,

which is that it was clear to me back then

ότι ήταν σαφές σε μένα τότε

that artificial intelligence,

ότι η τεχνητή νοημοσύνη,

if it worked, it would be incredibly impactful.

αν λειτουργούσε, θα είχε απίστευτο αντίκτυπο.

Now, it wasn't at all obvious

Δεν ήταν καθόλου προφανές

that it will be possible to make progress in artificial intelligence,

ότι θα ήταν δυνατό να σημειωθεί πρόοδος στην τεχνητή νοημοσύνη,

but if it were possible to make progress in artificial intelligence,

αλλά αν ήταν δυνατό να σημειωθεί πρόοδος

that would be incredibly impactful.

θα είχε απίστευτη επίδραση.

So these were the three reasons that pulled me towards AI.

Αυτοί ήταν, λοιπόν, οι τρεις λόγοι που με τράβηξαν προς αυτήν.

That's why I thought that's a great area to spend all my efforts on.

Γι′ αυτό σκέφτηκα ότι είναι ένας υπέροχος τομέας

να επικεντρωθώ.

So now let's come back to our artificial intelligence,

Ας επιστρέψουμε, λοιπόν, στην τεχνητή νοημοσύνη μας,

the digital brains.

τους ψηφιακούς εγκεφάλους.

Today, these digital brains

Σήμερα, αυτοί οι ψηφιακοί εγκέφαλοι

are far less smart than our biological brains.

είναι πολύ λιγότερο έξυπνοι από τους βιολογικούς μας εγκεφάλους.

When you speak to an AI chat bot,

Όταν μιλάτε σε ένα ρομπότ συνομιλίας ΤΝ,

you very quickly see that it's not all there,

πολύ γρήγορα βλέπετε ότι δεν είναι και τόσο τέλειο,

that it's, you know,

δηλαδή,

it understands mostly, sort of.

καταλαβαίνει στο περίπου.

But you can clearly see that there are so many things it cannot do

Βλέπετε ότι υπάρχουν πολλά πράγματα που δεν μπορεί να κάνει

and that there are some strange gaps.

και ότι υπάρχουν κάποια περίεργα κενά.

But this situation, I claim, is temporary.

Θεωρώ ότι αυτή η κατάσταση είναι προσωρινή.

As researchers and engineers continue to work on AI,

Καθώς οι ερευνητές και οι μηχανικοί συνεχίζουν να εργάζονται πάνω στην ΤΝ,

the day will come when the digital brains that live inside our computers

θα έρθει η μέρα που οι ψηφιακοί εγκέφαλοι που ζουν μέσα στους υπολογιστές μας

will become as good and even better than our own biological brains.

θα γίνουν εξίσου καλοί και ακόμη καλύτεροι από τους βιολογικούς μας εγκεφάλους.

Computers will become smarter than us.

Οι υπολογιστές θα γίνουν πιο έξυπνοι από εμάς.

We call such an AI an “AGI,” artificial general intelligence.

Ονομάζουμε μια τέτοια τεχνητή νοημοσύνη Γενική Τεχνητή Νοημοσύνη, «ΓΤΝ».

When we can say that the level at which we can teach the AI to do anything

Όταν μπορούμε να διδάξουμε την ΤΝ να κάνει οτιδήποτε,

that, for example, I can do, or someone else.

στο επίπεδο, για παράδειγμα, που εγώ ή κάποιος άλλος μπορεί να κάνει

So although AGI does not exist today,

Έτσι, παρόλο που η ΓΤΝ δεν υπάρχει σήμερα,

we can still gain a little bit of an insight

μπορούμε να πάρουμε μια ιδέα

into the impact of AGI once it's built.

για τον αντίκτυπο της ΓΤΝ μόλις κατασκευαστεί.

It is completely obvious

Είναι απολύτως προφανές

that such an AGI will have a dramatic impact

ότι μια τέτοια ΓΤΝ

θα έχει ασύληπτο αντίκτυπο

on every area of life, of human activity and society.

σε κάθε τομέα της ζωής,

της ανθρώπινης δραστηριότητας και της κοινωνίας.

And I want to go over a quick case study.

Θέλω να εξετάσω στα γρήγορα μια περίπτωση.

This is a narrow example of a very, very broad technology.

Είναι ένα μικρό παράδειγμα μιας πολύ ευρείας τεχνολογίας.

The example I want to present is health care.

Το παράδειγμα αφορά την υγειονομική περίθαλψη.

Many of you may have had the experience of trying to go to a doctor.

Πολλοί έχετε προσπαθήσει να πάτε σε γιατρό.

You need to wait for many months sometimes,

Πρέπει να περιμένετε πολλούς μήνες μερικές φορές,

and then when you do get to see a doctor, you get a small,

και όταν έρει η ώρα του ραντεβού

very limited amount of time with the doctor

έχετε ελάχιστο χρόνο με τον γιατρό.

and furthermore, the doctor, being only human,

Επιπλέον, ο γιατρός, όντας άνθρωπος,

can have only limited knowledge of all this,

μπορεί να έχει περιορισμένη γνώση

all the medical knowledge that exists.

όλης της ιατρικής γνώσης που υπάρχει.

And then by the end of it, you get a very large bill.

Αφήστε που μόλις τελειώσει σας χρεώνει ένα σωρό.

(Laughter)

(Γέλια)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Αν έχετε έναν έξυπνο υπολογιστή, μια ΓΤΝ, που είναι φτιαγμένη να είναι γιατρός,

it will have complete and exhaustive knowledge of all medical literature.

θα έχει πλήρη και εξαντλητική γνώση όλης της ιατρικής βιβλιογραφίας.

It will have billions of hours of clinical experience,

Θα έχει δισεκατομμύρια ώρες κλινικής εμπειρίας

and it will be always available and extremely cheap.

και θα είναι πάντα διαθέσιμη και εξαιρετικά φθηνή.

When this happens,

Όταν συμβεί αυτό,

we will look back at today's health care

θα βλέπουμε τη σημερινή υγειονομική περίθαλψη

similarly to how we look at 16th century dentistry.

με τον ίδιο τρόπο που βλέπουμε σήμερα

την οδοντιατρική του 16ου αιώνα.

(Laughter)

(Γέλια)

You know, when they tied people with belts and then have this drill,

Ξέρετε, όταν έδεναν τον κόσμο με λουριά και είχαν τρυπάνια

that's how today's health care will look like.

έτσι θα φαίνεται η σημερινή υγειονομική περίθαλψη.

And again, to emphasize, this is just one example.

Και αυτό είναι μόνο ένα παράδειγμα.

This is just one example.

Μόνο ένα παράδειγμα.

AGI will have dramatic and incredible impact

H ΓΤΝ θα έχει υπερβολικό και απίστευτο αντίκτυπο

on every single area of human activity.

σε κάθε τομέα της ανθρώπινης δραστηριότητας.

But when you see impact this large, you may wonder, "Gosh,

Αλλά όταν βλέπετε έναν τόσο μεγάλο αντίκτυπο, μπορεί να αναρωτηθείτε:

isn't this technology too impactful?"

«Θεέ μου, η τεχνολογία αυτή μας επηρεάζει υπερβολικά;»

And indeed, for every positive application of AGI,

Πράγματι, για κάθε θετική εφαρμογή της ΓΤΝ,

there will be a negative application as well.

θα υπάρχει και μια αρνητική εφαρμογή.

This technology is also going to be different

Η τεχνολογία αυτή θα είναι, επίσης, διαφορετική

from technologies that we are used to,

από αυτές που έχουμε συνηθίσει,

because it will have the ability to improve itself.

επειδή θα έχει τη δυνατότητα να αυτοβελτιωθεί.

It is possible to build an AGI

Είναι δυνατό να δημιουργηθεί μια ΓΤΝ

that will work on the next generation of AGI.

που θα δουλεύει πάνω στην επόμενη γενιά ΓΤΝ.

The closest analogue we have to this kind of rapid technological improvement

Το πιο κοντινό ανάλογο που έχουμε

σε τέτοια ταχεία τεχνολογική βελτίωση

is when the Industrial Revolution has taken place, where humans,

είναι η βιομηχανική επανάσταση,

όπου η υλική κατάσταση της ανθρώπινης κοινωνίας,

the material condition of human society, was very, very constant.

ήταν πολύ σταθερή

And then it was a rapid increase, rapid growth.

και ξαφνικά είχαμε μια ταχεία αύξηση, μια ταχεία ανάπτυξη.

With AGI,

Με την ΓΤΝ,

κάτι τέτοιο θα μπορεί να ξανασυμβεί, αλλά σε μικρότερο χρονικό διάστημα.

something like this could happen again, but on a shorter timescale.

And then furthermore,

Επιπλέον,

there are concerns around

υπάρχουν ανησυχίες

if an AGI ever becomes very, very powerful,

εάν η ΓΤΝ γίνει τόσο πολύ ισχυρή

which is possible,

κάτι που είναι δυνατό,

maybe it will want to go rogue being that it is an agent.

ίσως να θέλει να κάνει τα δικά της επειδή θα μπορεί να αυτενεργεί.

So this is a concern that exists with this unprecedented,

Υπάρχει αυτή η ανησυχία

με αυτήν την πρωτοφανή τεχνολογία που θα υπάρξει.

not yet existing technology.

And indeed,

Πράγματι,

you look at all the positive potential of AGI

αν κοιτάξετε όλες τις θετικές δυνατότητες της ΓΤΝ,

and all the concerning possibilities of AGI as well,

καθώς

και όλες τις ανησυχητικές δυνατότητες της ΓΤΝ,

and you may say, "Gosh, where is this all headed?"

θα πείτε: «Θεέ μου, πού πάει το πράγμα;»

One of my motivations in creating OpenAI was,

Ένα από τα κίνητρά μου για τη δημιουργία του OpenAI ήταν,

in addition to developing this technology,

εκτός από την ανάπτυξη αυτής της τεχνολογίας,

was also to address the questions

να αντιμετωπίσω τα ερωτήματα

that are posed by AGI, the difficult questions,

που θέτει η ΓΤΝ, τα δύσκολα ερωτήματα,

the concerns that we raised.

τις ανησυχίες που εγείραμε.

In addition to working with governments

Εκτός από τη συνεργασία με τις κυβερνήσεις

and helping them understand what is coming and prepare for it,

να τις βοηθήσουμε να καταλάβουν τι έρχεται ώστε να προετοιμαστούν,

we are also doing a lot of research

κάνουμε επίσης πολλή έρευνα

on addressing the technological side of things,

για την αντιμετώπιση της τεχνολογικής πλευράς των πραγμάτων,

έτσι ώστε η τεχνητή νοημοσύνη να μη θέλει ποτέ να κάνει τα δικά της.

so that the AI will never want to go rogue.

And this is something which I’m working on as well.

αυτό είναι κάτι πάνω στο οποίο εργάζομαι.

But I think, the thing to note,

Αλλά νομίζω, αυτό που πρέπει να σημειωθεί,

because AI and AGI is really the only area of the economy

επειδή η τεχνητή νοημοσύνη και η ΓΤΝ είναι ο μόνος τομέας της οικονομίας

where there is a lot of excitement, a lot of investment,

όπου υπάρχει πολύς ενθουσιασμός, πολλές επενδύσεις,

everyone is working on it,

και όλοι δουλευουν πάνω σ’ αυτό

there's a huge number of labs in the world trying to build the same thing.

υπάρχουν πολλά εργαστήρια στον κόσμο που προσπαθούν να κτίσουν το ίδιο πράγμα.

Even if OpenAI takes these desirable steps that I mentioned,

Ακόμα κι αν η OpenAI κάνει

αυτά τα επιθυμητά βήματα που ανέφερα,

what about the rest of the companies and the rest of the world?

τι θα γίνει με τις υπόλοιπες επιχειρήσεις και τον υπόλοιπο κόσμο;

And this is where I want to make my observation

Και εδώ θέλω να κάνω την παρατήρησή μου

about the force that exists.

για τη δύναμη που υπάρχει.

The observation is this: consider the world one year ago,

Η παρατήρηση είναι η εξής:

σκεφτείτε τον κόσμο πριν από ένα χρόνο,

as recently as one year ago.

πριν από ένα χρόνο ακριβώς.

People weren't really talking about AI, not in the same way at all.

Ο κόσμος δεν μιλούσε για την ΤΝ, καθόλου με ίδιο τρόπο.

What happened?

Τι συνέβη;

We all experienced what it's like to talk to a computer and to be understood.

Όλοι βιώσαμε πώς είναι να μιλάς σε υπολογιστή και να γίνεσαι κατανοητός.

The idea that computers will become really intelligent

Η ιδέα ότι οι υπολογιστές θα γίνουν πραγματικά έξυπνοι

and eventually more intelligent than us is becoming widespread.

και τελικά πιο έξυπνοι από εμάς γίνεται ευρέως διαδεδομένη.

It used to be a niche idea that only a few enthusiasts

Ήταν μια ιδέα που είχαν μόνο λίγοι λάτρεις

and hobbyists and people who were very into AI were thinking about.

και χομπίστες και ειδικευμένοι με την ΤΝ.

But now everyone is thinking about it.

Αλλά τώρα όλοι το σκέφτονται.

And as the AI continues to make progress,

Καθώς η τεχνητή νοημοσύνη συνεχίζει να σημειώνει πρόοδο,

καθώς η τεχνολογία συνεχίζει να προχωρά,

as technology continues to advance,

as more and more people see what AI can do

και όλο και πιο πολλοί βλέπουν τι μπορεί να κάνει η ΤΝ

and where it is headed towards,

και προς τα πού κατευθύνεται,

then it will become clear just how dramatic,

τότε θα γίνει σαφές πόσο τεράστια,

incredible and ...

απίστευτη και...

almost fantastical AGI is going to be

σχεδόν φανταστική θα είναι η ΓΤΝ

and how much trepidation is appropriate.

και πόσο πολύ μπορούμε να τρομοκρατηθούμε.

And what I claim will happen is that people will start to act

Σας λέω ότι οι άνθρωποι θα αρχίσουν να ενεργούν

in unprecedentedly collaborative way out of their own self-interest.

με πρωτοφανή συνεργατικό τρόπο έξω από το δικό τους συμφέρον.

It's already happening right now.

Συμβαίνει ήδη αυτή τη στιγμή.

You see the leading AGI companies starting to collaborate

Βλέπετε τις κορυφαίες εταιρείες ΓΤΝ να αρχίζουν να συνεργάζονται

for a specific example, through the Frontier Model Forum.

για ένα συγκεκριμένο παράδειγμα, μέσω του Frontier Model Forum.

And we will expect that companies that are competitors

Περιμένουμε ανταγωνιστικές επιχειρήσεις

will share technical information to make their AIs safe.

να μοιράζονται τεχνικές πληροφορίες για ασφαλή ΤΝ.

Μπορεί και οι κυβερνήσεις να το κάνουν αυτό.

We may even see governments do this.

For another example,

Ένα άλλο παράδειγμα,

at OpenAI, we really believed in how dramatic AGI is going to be.

στην OpenAI, πιστεύαμε πραγματικά στο πόσο απίστευτη θα είναι η ΓΤΝ.

So one of the ideas that we were operating by,

Έτσι, μία από τις ιδέες με τις οποίες λειτουργούμε,

and it's been written on our website for five years now,

κι έχει γραφτεί στην ιστοσελίδα μας εδώ και πέντε χρόνια,

that when technology gets such that we are very, very close to AGI,

είναι ότι όταν η τεχνολογία φτάσει στο βαθμό

ώστε να είμαστε πολύ κοντά στη ΓΤΝ,

σε υπολογιστές πιο έξυπνους από τους ανθρώπους,

to computers smarter than humans,

and if some other company is far ahead of us,

και αν κάποια άλλη εταιρεία είναι πολύ μπροστά από εμάς,

then rather than compete with them,

τότε αντί να τους ανταγωνιστούμε,

we will help them out, join them, in a sense.

θα τους βοηθήσουμε, θα ενωθούμε μαζί τους, κατά μία έννοια.

And why do that?

Γιατί να το κάνουμε αυτό;

Because we feel, we appreciate

Επειδή αισθανόμαστε, εκτιμούμε

how incredibly dramatic AGI is going to be.

πόσο απίστευτα σημαντική θα είναι η ΓΤΝ.

And my claim is that with each generation of capability advancements,

Το λέω αυτό γιατί πιστεύω ότι με κάθε γενιά προόδου ικανοτήτων,

as AI gets better

καθώς η ΤΝ βελτιώνεται,

and as all of you experience what AI can do,

καθώς όλοι θα βιώνουμε τι μπορεί να κάνει η τεχνητή νοημοσύνη,

as people who run AI efforts and AGI efforts

καθώς όσοι δουλεύουν πάνω στην ΤΝ και την ΓΤΝ

and people who work on them will experience it as well,

και όσοι εργάζονται πάνω σε αυτές θα το βιώσουν επίσης,

this will change the way we see AI and AGI,

θα αλλάξει ο τρόπος που βλέπουμε την τεχνητή νοημοσύνη και την ΓΤΝ

and that will change collective behavior.

και αυτό θα αλλάξει τη συλλογική συμπεριφορά.

And this is an important reason

Αυτός είναι ένας σημαντικός λόγος

why I'm hopeful

για τον οποίο ελπίζω

that despite the great challenges that's posed by this technology,

ότι τις μεγάλες προκλήσεις που θέτει αυτή η τεχνολογία,

we will overcome them.

θα τις ξεπεράσουμε.

Thank you.

Ευχαριστώ.

(Applause)

(Χειροκρότημα)