The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Μετάφραση: Eleni Tziafa Επιμέλεια: Chryssa Rapessi

We started OpenAI seven years ago

Ξεκινήσαμε με την OpenAI πριν από επτά χρόνια

because we felt like something really interesting was happening in AI

γιατί νιώσαμε ότι κάτι πολύ ενδιαφέρον γινόταν με την τεχνητή νοημοσύνη

and we wanted to help steer it in a positive direction.

και θέλαμε να την οδηγήσουμε προς μια θετική κατεύθυνση.

It's honestly just really amazing to see

Ειλικρινά, είναι εκπληκτική η εξέλιξη του τομέα από τότε που ξεκίνησε.

how far this whole field has come since then.

And it's really gratifying to hear from people like Raymond

Ακούμε με χαρά ωραία πράγματα άτομα όπως ο Ρέιμοντ:

[Η μάθηση ήταν δύσκολη για μένα που είμαι δυσλεξικός.

who are using the technology we are building, and others,

Το όνειρό μου ήταν να μάθω κώδικα,

for so many wonderful things.

και το ChatGPT ήταν σαν φίλος με μεγάλη υπομονή.

We hear from people who are excited,

Μαθαίνω κώδικα, η δυσλεξία μου δεν είναι πια εμπόδιο!]

we hear from people who are concerned,

Ακούμε ανθρώπους ενθουσιασμένους, ή ανήσυχους, ή και τα δύο ταυτόχρονα.

we hear from people who feel both those emotions at once.

And honestly, that's how we feel.

Ειλικρινά, κι εμείς το ίδιο νιώθουμε.

Above all, it feels like we're entering an historic period right now

Νιώθουμε ότι εισερχόμαστε σε μια ιστορική εποχή αυτή τη στιγμή

where we as a world are going to define a technology

όπου ο κόσμος πρόκειται να καθορίσει μια τεχνολογία

that will be so important for our society going forward.

που θα είναι τόσο σημαντική για το μέλλον της κοινωνίας μας.

And I believe that we can manage this for good.

Πιστεύω ότι μπορούμε να το χειριστούμε για καλό.

So today, I want to show you the current state of that technology

Σήμερα, θέλω να σας δείξω την τρέχουσα κατάσταση της τεχνολογίας

and some of the underlying design principles that we hold dear.

και ορισμένες από τις αρχές σχεδιασμού της που θεωρούμε πολύτιμες.

So the first thing I'm going to show you

Το πρώτο πράγμα που θα σας δείξω

is what it's like to build a tool for an AI

είναι ο τρόπος κατασκευής ενός εργαλείου για μια ΤΝ

σε σχέση με την κατασκευή του για έναν άνθρωπο.

rather than building it for a human.

So we have a new DALL-E model, which generates images,

Έχουμε ένα νέο μοντέλο DALL-E που δημιουργεί εικόνες

and we are exposing it as an app for ChatGPT to use on your behalf.

και το δίνουμε ως εφαρμογή για να το χρησιμοποιεί για σας το ChatGPT.

And you can do things like ask, you know,

Μπορεί κανείς να ζητήσει,

suggest a nice post-TED meal and draw a picture of it.

να προτείνει ένα καλό γεύμα μετά την ομιλία και να το ζωγραφίσει.

(Laughter)

(Γέλια)

Now you get all of the, sort of, ideation and creative back-and-forth

Τώρα καταλαβαίνετε περίπου την ιδέα και τις δημιουργικές αλλαγές

and taking care of the details for you that you get out of ChatGPT.

και την προσοχή στις λεπτομέρειες που σας δίνει το ChatGPT.

And here we go, it's not just the idea for the meal,

Ορίστε, δεν είναι μόνο η ιδέα για το γεύμα,

but a very, very detailed spread.

αλλά για ένα μενού με πάρα πολλές λεπτομέρειες.

So let's see what we're going to get.

Ορίστε τι θα πάρουμε.

But ChatGPT doesn't just generate images in this case --

Αλλά το ChatGPT δεν δημιουργεί μόνο κείμενο, αλλά και μια εικόνα.

sorry, it doesn't generate text, it also generates an image.

And that is something that really expands the power

Αυτό είναι κάτι που διευρύνει τη δυνατότητά του

of what it can do on your behalf in terms of carrying out your intent.

να κάνει πράγματα για σας εκπληρώνοντας την πρόθεσή σας.

And I'll point out, this is all a live demo.

Το τονίζω, είναι μια ζωντανή επίδειξη.

This is all generated by the AI as we speak.

Όλα αυτά δημιουργούνται από την ΤΝ ενώ μιλάμε.

So I actually don't even know what we're going to see.

Ούτε κι εγώ δεν ξέρω τι θα δούμε.

This looks wonderful.

Φαίνεται υπέροχο.

(Applause)

(Χειροκρότημα)

I'm getting hungry just looking at it.

Πεινάω και μόνο που το βλέπω.

Now we've extended ChatGPT with other tools too,

Επεκτείναμε το ChatGPT και με άλλα εργαλεία,

for example, memory.

για παράδειγμα, με μνήμη.

You can say "save this for later."

Μπορείτε να πείτε «κράτα το για αργότερα».

And the interesting thing about these tools

Το ενδιαφέρον με αυτά τα εργαλεία είναι ότι μπορούν να ελεγχθούν.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

Εμφανίζεται αυτό το κουμπί που γράφει «χρησιμοποιήστε την εφαρμογή DALL-E».

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

Θα το έχουν όλοι οι χρήστες του ChatGPT μέσα στους επόμενους μήνες.

Μπορείτε να δείτε επίσης τι ακριβώς κάνει,

And you can look under the hood and see that what it actually did

γράφει δηλαδή μια εντολή, όπως θα έκανε κι ένας άνθρωπος.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Έτσι έχετε τη δυνατότητα επίβλεψης,

how the machine is using these tools,

πώς η μηχανή χρησιμοποιεί τα εργαλεία,

which allows us to provide feedback to them.

ώστε να τους δίνουμε ανατροφοδότηση.

Now it's saved for later,

Αποθηκεύτηκε για αργότερα,

and let me show you what it's like to use that information

για να σας δείξω πώς χρησιμοποιούμε αυτές τις πληροφορίες.

and to integrate with other applications too.

και να προσθέσω και άλλες εφαρμογές.

You can say,

Μπορείτε να πείτε

“Now make a shopping list for the tasty thing

«Κάνε τώρα μια λίστα για ψώνια για εκείνο το νόστιμο πράγμα

I was suggesting earlier.”

που πρότεινα προηγουμένως».

And make it a little tricky for the AI.

Κάντε το λίγο πιο πολύπλοκο για την ΤΝ.

"And tweet it out for all the TED viewers out there."

«Στείλε το με τουίτ σε όλο το κοινό του TED».

(Laughter)

(Γέλια)

So if you do make this wonderful, wonderful meal,

Αν λοιπόν φτιάξετε αυτό το υπέροχο γεύμα,

I definitely want to know how it tastes.

θέλω οπωσδήποτε να μάθω τι γεύση έχει.

But you can see that ChatGPT is selecting all these different tools

Μπορείτε να δείτε ότι το ChatGPT επιλέγει όλα αυτά τα εργαλεία

without me having to tell it explicitly which ones to use in any situation.

χωρίς εγώ να του λέω ποιο να χρησιμοποιεί σε κάθε περίσταση.

And this, I think, shows a new way of thinking about the user interface.

Έτσι προκύπτει ένας νέος τρόπος σκέψης για τη διεπαφή χρήστη.

Like, we are so used to thinking of, well, we have these apps,

Έχουμε αυτές τις εφαρμογές,

we click between them, we copy/paste between them,

κάνουμε κλικ σε αυτές, αντιγραφή/επικόλληση μεταξύ τους,

and usually it's a great experience within an app

και συνήθως είναι ωραία μέσα σε μια εφαρμογή

as long as you kind of know the menus and know all the options.

εφόσον γνωρίζει κανείς τα μενού και όλες τις επιλογές.

Yes, I would like you to.

Ναι, θα ήθελα να το κάνεις.

Yes, please.

Ναι, παρακαλώ.

Always good to be polite.

Η ευγένεια πάνω απ′ όλα.

(Laughter)

(Γέλια)

And by having this unified language interface on top of tools,

Με αυτή την ενιαία γλωσσική διεπαφή και μαζί όλα τα εργαλεία,

the AI is able to sort of take away all those details from you.

η ΤΝ μπορεί να σας απαλλάξει από τις λεπτομέρειες.

So you don't have to be the one

Δεν χρειάζεται να υπαγορεύουμε το παραμικρό

who spells out every single sort of little piece

of what's supposed to happen.

από αυτά που πρόκειται να συμβούν.

And as I said, this is a live demo,

Όπως είπα, είναι μια ζωντανή επίδειξη,

so sometimes the unexpected will happen to us.

και καμιά φορά μπορεί να συμβεί κάτι απρόβλεπτο.

But let's take a look at the Instacart shopping list while we're at it.

Ας ρίξουμε μια ματιά στη λίστα για ψώνια, μια που είμαστε εδώ.

And you can see we sent a list of ingredients to Instacart.

Στείλαμε μια λίστα με τα συστατικά στην εφαρμογή.

Here's everything you need.

Είναι όλα όσα θα χρειαστείτε.

And the thing that's really interesting

Είναι πολύ ενδιαφέρον

is that the traditional UI is still very valuable, right?

ότι η παραδοσιακή διεπαφή εξακολουθεί να είναι πολύ χρήσιμη.

If you look at this,

Αν το δείτε αυτό,

you still can click through it and sort of modify the actual quantities.

μπορείτε να κάνετε κλικ και να αλλάξετε τις ποσότητες.

And that's something that I think shows

Νομίζω ότι αυτό δείχνει

that they're not going away, traditional UIs.

ότι δεν χάνονται οι παραδοσιακές διεπαφές.

Απλώς έχουμε έναν νέο, επαυξημένο τρόπο να τις κατασκευάζουμε.

It's just we have a new, augmented way to build them.

And now we have a tweet that's been drafted for our review,

Έχουμε ένα τουίτ που γράφτηκε για να το διορθώσουμε,

which is also a very important thing.

που είναι κι αυτό πολύ σημαντικό.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

Μπορούμε να πατήσουμε «εκτέλεση» και να κάνουμε έλεγχο,

we're able to change the work of the AI if we want to.

μπορούμε να αλλάξουμε το έργο της ΤΝ, αν το θέλουμε.

And so after this talk, you will be able to access this yourself.

Μετά από την ομιλία, θα έχετε κι εσείς πρόσβαση.

And there we go.

Ορίστε.

Cool.

Ωραίο.

Thank you, everyone.

Σας ευχαριστώ, όλους.

(Applause)

(Χειροκρότημα)

So we’ll cut back to the slides.

Θα αφήσουμε τις διαφάνειες.

Now, the important thing about how we build this,

Το σημαντικό για τον τρόπο κατασκευής,

it's not just about building these tools.

δεν είναι μόνο η κατασκευή των εργαλείων.

It's about teaching the AI how to use them.

Είναι να διδάξουμε την ΤΝ πώς να τα χρησιμοποιεί.

Like, what do we even want it to do

Τι ακριβώς θέλουμε να κάνει

when we ask these very high-level questions?

όταν ρωτάμε αυτές τις δύσκολες ερωτήσεις;

And to do this, we use an old idea.

Για να το κάνουμε αυτό, φαρμόζουμε μια παλιά ιδέα.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

Αν ανατρέξουμε στο άρθρο του Άλαν Τούρινγκ για το Τεστ Τούρινγκ, λέει:

you'll never program an answer to this.

Ποτέ δεν θα προγραμματίσεις μια απάντηση.

Instead, you can learn it.

Αντίθετα, θα τη διδάξεις.

You could build a machine, like a human child,

Θα φτιάξεις μια μηχανή σαν ένα ανθρώπινο παιδί,

and then teach it through feedback.

και μετά θα το διδάξεις μέσω ανατροφοδότησης.

Have a human teacher who provides rewards and punishments

Ένας άνθρωπος-δάσκαλος θα δίνει αμοιβές ή τιμωρίες

as it tries things out and does things that are either good or bad.

κάνοντας δοκιμές, είτε καλές είτε κακές.

And this is exactly how we train ChatGPT.

Έτσι ακριβώς εκπαιδεύουμε το ChatGPT.

It's a two-step process.

Είναι δύο τα στάδια.

First, we produce what Turing would have called a child machine

Πρώτα δημιουργούμε μια μηχανή-παιδί, όπως θα έλεγε ο Τούρινγκ

through an unsupervised learning process.

με μια διαδικασία μάθησης χωρίς επίβλεψη.

We just show it the whole world, the whole internet

Του δείχνουμε τα πάντα, όλο το διαδίκτυο, και λέμε:

and say, “Predict what comes next in text you’ve never seen before.”

«Πρόβλεψε τι ακολουθεί σε κείμενο που δεν έχεις ξαναδεί».

Αυτή η διαδικασία το εμπλουτίζει με εκπληκτικές δεξιότητες.

And this process imbues it with all sorts of wonderful skills.

For example, if you're shown a math problem,

Αν λοιπόν έχεις ένα μαθηματικό πρόβλημα,

ο μόνος τρόπος να το ολοκληρώσεις,

the only way to actually complete that math problem,

to say what comes next,

να πεις τι ακολουθεί,

αυτό εκεί το πράσινο εννέα,

that green nine up there,

is to actually solve the math problem.

είναι να λύσεις το μαθηματικό πρόβλημα.

But we actually have to do a second step, too,

Αλλά πρέπει σ′ ένα δεύτερο στάδιο,

which is to teach the AI what to do with those skills.

να μάθουμε την ΤΝ τι κάνει με αυτές τις δεξιότητες.

Γι′ αυτό παρέχουμε ανατροφοδότηση.

And for this, we provide feedback.

We have the AI try out multiple things, give us multiple suggestions,

Η ΤΝ δοκιμάζει πολλά πράγματα, και κάνει πολλές προτάσεις,

ένας άνθρωπος κρίνει ότι κάτι είναι καλύτερο από ένα άλλο.

and then a human rates them, says “This one’s better than that one.”

Αυτό ενισχύει όχι μόνο την πρόταση της ΤΝ,

And this reinforces not just the specific thing that the AI said,

αλλά και όλη τη διαδικασία που η ΤΝ χρησιμοποίησε για να δώσει την απάντηση.

but very importantly, the whole process that the AI used to produce that answer.

Αυτό της επιτρέπει να γενικεύει.

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

Της επιτρέπει να μαθαίνει, να μαντεύει την πρόθεσή σου

and apply it in scenarios that it hasn't seen before,

και να την εφαρμόζει σε πρωτόγνωρα δεδομένα

that it hasn't received feedback.

για τα οποία δεν έλαβε ανατροφοδότηση.

Now, sometimes the things we have to teach the AI

Μερικές φορές πρέπει να μάθουμε στην ΤΝ απρόσμενα πράγματα.

are not what you'd expect.

For example, when we first showed GPT-4 to Khan Academy,

Όταν πρωτοδείξαμε το GPT-4 στην Ακαδημία Khan,

they said, "Wow, this is so great,

είπαν: «Αυτό είναι καταπλητικό,

We're going to be able to teach students wonderful things.

θα μπορέσουμε να διδάξουμε εκπληκτικά πράγματα.

Only one problem, it doesn't double-check students' math.

Το πρόβλημα είναι ότι δεν ελέγχει τς ασκήσεις των μαθητών.

If there's some bad math in there,

Αν τα μαθηματικά δεν είναι σωστά,

it will happily pretend that one plus one equals three and run with it."

με χαρά θα πει ότι ένα κι ένα κάνουν τρία και θα συνεχίσει με αυτό».

So we had to collect some feedback data.

Έπρεπε λοιπόν να συγκεντρώσουμε ανατροφοδότηση.

Sal Khan himself was very kind

Ο Σαλ Καν ήταν πολύ ευγενικός

and offered 20 hours of his own time to provide feedback to the machine

και αφιέρωσε 20 ώρες για να δώσει ανατροφοδότηση στη μηχανή

alongside our team.

μαζί με την ομάδα μας.

And over the course of a couple of months we were able to teach the AI that,

Μέσα σε μερικούς μήνες μπορέσαμε να διδάξουμε την ΤΝ:

"Hey, you really should push back on humans

«Θα πρέπει να προωθείς στους ανθρώπους αυτό το συγκεκριμένο σενάριο».

in this specific kind of scenario."

And we've actually made lots and lots of improvements to the models this way.

Κάναμε πάρα πολλές βελτιώσεις στα μοντέλα με αυτόν τον τρόπο.

And when you push that thumbs down in ChatGPT,

Όταν κάνετε κλικ στο χεράκι προς τα κάτω,

that actually is kind of like sending up a bat signal to our team to say,

αυτό στέλνει ένα σήμα στην ομάδα μας που λέει:

«Εδώ υπάρχει μια αδυναμία για την οποία χρειάζεστε ανατροφοδότηση».

“Here’s an area of weakness where you should gather feedback.”

And so when you do that,

Όταν το κάνετε αυτό, ακούμε τους χρήστες

that's one way that we really listen to our users

and make sure we're building something that's more useful for everyone.

και βεβαιωνόμαστε ότι δημιουργούμε κάτι χρήσιμο για τον καθένα.

Now, providing high-quality feedback is a hard thing.

Είναι δύσκολο να βρεις υψηλού επιπέδου ανατροφοδότηση.

If you think about asking a kid to clean their room,

Αν ζητήσεις από ένα παιδί να καθαρίσει το δωμάτιό του,

if all you're doing is inspecting the floor,

αν το μόνο που κάνεις είναι να ελέγχεις το πάτωμα,

you don't know if you're just teaching them to stuff all the toys in the closet.

δεν ξέρεις αν απλώς το διδάσκεις να κρύβει όλα τα παιχνίδια στη ντουλάπα.

This is a nice DALL-E-generated image, by the way.

Αυτή είναι μια ωραία εικόνα που δημιούργησε το DALL-E.

And the same sort of reasoning applies to AI.

Η ίδια λογική εφαρμόζεται και στην ΤΝ.

As we move to harder tasks,

Καθώς προχωράμε σε πιο δύσκολα πράγματα,

we will have to scale our ability to provide high-quality feedback.

πρέπει να μπορούμε να παρέχουμε όλο και καλύτερη ανατροφοδότηση.

But for this, the AI itself is happy to help.

Σε αυτό, η ίδια η ΤΝ έρχεται να βοηθήσει.

It's happy to help us provide even better feedback

Μας βοηθά να παρέχουμε ακόμη καλύτερη ανατροφοδότηση

and to scale our ability to supervise the machine as time goes on.

και να επιβλέπουμε καλύτερα τη μηχανή όσο περνά ο καιρός.

And let me show you what I mean.

Να σας δείξω τι εννοώ.

For example, you can ask GPT-4 a question like this,

Μπορείτε να ρωτήσετε το GPT-4 μια τέτοια ερώτηση,

of how much time passed between these two foundational blogs

πόσος καιρός πέρασε μεταξύ δύο σημαντικών σταδίων

on unsupervised learning

εκμάθησης χωρίς επίβλεψη

and learning from human feedback.

και μάθησης από ανθρώπινη ανατροφοδότηση.

And the model says two months passed.

Το μοντέλο λέει ότι πέρασαν δύο μήνες.

But is it true?

Είναι όμως αλήθεια;

Like, these models are not 100-percent reliable,

Αυτά τα μοντέλα δεν είναι 100% αξιόπιστα,

although they’re getting better every time we provide some feedback.

ωστόσο γίνονται καλύτερα με κάθε ανατροφοδότηση.

But we can actually use the AI to fact-check.

Μπορούμε να χρησιμοποιήσουμε την ΤΝ για την επιβεβαίωση.

And it can actually check its own work.

Μπορεί να ελέγξει το ίδιο της το έργο.

You can say, fact-check this for me.

Μπορείς να πεις «έλεγξε αυτό».

Now, in this case, I've actually given the AI a new tool.

Εδώ έδωσα στην ΤΝ ένα νέο εργαλείο.

This one is a browsing tool

Είναι ένα εργαλείο αναζήτησης

where the model can issue search queries and click into web pages.

όπου το μοντέλο κάνει αναζητήσεις και κλικ σε ιστοσελίδες.

And it actually writes out its whole chain of thought as it does it.

Παράλληλα, καταγράφει όλη την πορεία σκέψης καθώς το κάνει.

It says, I’m just going to search for this and it actually does the search.

Λέει: «Θα ψάξω αυτό» και απλώς το ψάχνει.

It then it finds the publication date and the search results.

Βρίσκει την ημερομηνία δημοσίευσης και τα αποτελέσματα της αναζήτησης.

Μετά ξεκινά μια νέα αναζήτηση.

It then is issuing another search query.

It's going to click into the blog post.

Κάνει κλικ στην ανάρτηση του μπλογκ.

And all of this you could do, but it’s a very tedious task.

Μπορείτε να το κάνετε κι εσείς, αλλά είναι πολύ κουραστικό.

It's not a thing that humans really want to do.

Δεν θέλουν οι άνθρωποι να το κάνουν.

It's much more fun to be in the driver's seat,

Είναι πολύ πιο διασκεδαστικό να ηγείσαι,

να είσαι μάνατζερ, όπου μπορείς να τριπλοτσεκάρεις τη δουλειά.

to be in this manager's position where you can, if you want,

triple-check the work.

Εμφανίζονται τα αποτελέσματα

And out come citations

so you can actually go

και μπορείς πολύ εύκολα να ελέγξεις κάθε στοιχείο της διαδικασίας.

and very easily verify any piece of this whole chain of reasoning.

And it actually turns out two months was wrong.

Τελικά οι δύο μήνες ήταν λάθος.

Two months and one week,

Δύο μήνες και μία εβδομάδα,

that was correct.

αυτό ήταν το σωστό.

(Applause)

(Χειροκρότημα)

And we'll cut back to the side.

Ας συνεχίσουμε.

Νομίζω ότι το πιο ενδιαφέρον για μένα σε όλη αυτή τη διαδικασία

And so thing that's so interesting to me about this whole process

is that it’s this many-step collaboration between a human and an AI.

είναι η συνεργασία σε πολλά στάδια μεταξύ ανθρώπου και ΤΝ.

Because a human, using this fact-checking tool

Γιατί ένας άνθρωπος, με αυτό το εργαλείο ελέγχου

is doing it in order to produce data

το κάνει για να παράγει δεδομένα

for another AI to become more useful to a human.

ώστε μια άλλη ΤΝ να γίνει πιο χρήσιμη για τον άνθρωπο.

And I think this really shows the shape of something

Νομίζω ότι αυτό δείχνει ένα μοτίβο

that we should expect to be much more common in the future,

που αναμένουμε να γίνει σύνηθες στο μέλλον

where we have humans and machines kind of very carefully

όταν θα έχουμε ανθρώπους και μηχανές που θα έχουν σχεδιάσει με πολλή προσοχή

and delicately designed in how they fit into a problem

τη συνεργασία τους για την αντιμετώπιση και τη λύση ενός προβλήματος.

and how we want to solve that problem.

Επιβεβαιώνουμε ότι οι άνθρωποι θα έχουν τη διαχείριση, την επίβλεψη,

We make sure that the humans are providing the management, the oversight,

την ανατροφοδότηση

the feedback,

και οι μηχανές θα δουλεύουν με τρόπο ελέγξιμο και αξιόπιστο.

and the machines are operating in a way that's inspectable

and trustworthy.

Μαζί θα μπορέσουμε να δημιουργήσουμε ακόμη πιο αξιόπιστες μηχανές.

And together we're able to actually create even more trustworthy machines.

Με τον καιρό, αν το κάνουμε σωστά,

And I think that over time, if we get this process right,

θα μπορέσουμε να λύσουμε ανεπίλυτα προβλήματα.

we will be able to solve impossible problems.

Για να καταλάβετε πόσο ανεπίλυτα,

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

νομίζω ότι θα μπορούμε να ξανασκεφτούμε

of how we interact with computers.

κάθε μορφή διάδρασής μας με τους υπολογιστές.

For example, think about spreadsheets.

Για παράδειγμα, τα φύλλα εργασίας.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

Υπάρχουν εδώ και περίπου 40 χρόνια με παρόμοια μορφή.

I don't think they've really changed that much in that time.

Δεν άλλαξαν και πολύ με τον καιρό.

And here is a specific spreadsheet of all the AI papers on the arXiv

Βλέπουμε ένα φύλλο εργασίας με όλα τα άρθρα για την ΤΝ

for the past 30 years.

των τελευταίων 30 ετών.

There's about 167,000 of them.

Υπάρχουν περίπου 167 χιλιάδες.

And you can see there the data right here.

Μπορείτε να δείτε εδώ τα δεδομένα.

But let me show you the ChatGPT take on how to analyze a data set like this.

Θα σας δείξω όμως πώς το ChatGPT αναλύει αυτά τα δεδομένα.

So we can give ChatGPT access to yet another tool,

Μπορούμε να δώσουμε στο ChatGPT πρόσβαση σε ένα άλλο εργαλείο,

this one a Python interpreter,

είναι ένας μεταφραστής Python

so it’s able to run code, just like a data scientist would.

που μπορεί να τρέχει κώδικα όπως ένας ειδικός σε δεδομένα.

And so you can just literally upload a file

Μπορείτε απλώς να ανεβάσετε ένα αρχείο και να κάνετε ερωτήσεις γι′ αυτό.

and ask questions about it.

And very helpfully, you know, it knows the name of the file and it's like,

Η ΤΝ αναγνωρίζει αμέσως το αρχείο και κάνει το εξής:

"Oh, this is CSV," comma-separated value file,

«Είναι CSV, με δεδομένα που χωρίζονται με κόμμα.

"I'll parse it for you."

Θα τα αναλύσω εγώ για σένα».

The only information here is the name of the file,

Η μόνη πληροφορία εδώ είναι το όνομα του αρχείου,

the column names like you saw and then the actual data.

τα ονόματα στις στήλες που είδατε και τα ίδια τα δεδομένα.

And from that it's able to infer what these columns actually mean.

Με αυτά μπορεί να συνάγει τι ακριβώς σημαίνουν αυτές οι στήλες.

Like, that semantic information wasn't in there.

Αυτές οι πληροφορίες για τη σημασία δεν υπήρχαν.

It has to sort of, put together its world knowledge of knowing that,

Πρέπει να συνάγει από τις γνώσεις που έχει ότι:

“Oh yeah, arXiv is a site that people submit papers

«Το arXiv είναι μια ιστοσελίδα όπου υποβάλλονται άρθρα

and therefore that's what these things are and that these are integer values

άρα αυτά είναι άρθρα κι αυτοί είναι ακέραιοι αριθμοί

and so therefore it's a number of authors in the paper,"

άρα είναι ο αριθμός των συγγραφέων σε κάθε άρθρο»,

αυτό το κάνει ένας άνθρωπος,

like all of that, that’s work for a human to do,

και η ΤΝ μπορεί ευχαρίστως να βοηθήσει.

and the AI is happy to help with it.

Τώρα δεν ξέρω καν τι θέλω να ρωτήσω.

Now I don't even know what I want to ask.

So fortunately, you can ask the machine,

Ευτυχώς, μπορείτε να ρωτήσετε τη μηχανή:

"Can you make some exploratory graphs?"

«Μπορείς να κάνεις μερικά επεξηγηματικά γραφήματα;»

And once again, this is a super high-level instruction with lots of intent behind it.

Και πάλι, είναι μια υψηλού επιπέδου οδηγία με πολλά νοήματα.

But I don't even know what I want.

Αλλά δεν ξέρω καν τι θέλω.

And the AI kind of has to infer what I might be interested in.

Η ΤΝ πρέπει να υποθέσει τι θα με ενδιέφερε.

Δίνει λοιπόν μερικές καλές ιδέες, πιστεύω.

And so it comes up with some good ideas, I think.

Ιστόγραμμα αριθμού συγγραφέων ανά άρθρο,

So a histogram of the number of authors per paper,

χρονοδιάγραμμα άρθρων ανά έτος, ένα συννεφόλεξο των τίτλων των άρθρων.

time series of papers per year, word cloud of the paper titles.

All of that, I think, will be pretty interesting to see.

Νομίζω ότι όλα είναι πολύ ενδιαφέροντα.

Το πιο σπουδαίο είναι ότι μπορεί να το κάνει.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

Ορίστε μια καμπύλη κατανομής.

Βλέπετε ότι το σύνηθες είναι το «τρεις».

You see that three is kind of the most common.

It's going to then make this nice plot of the papers per year.

Έπειτα κάνει αυτό το διάγραμμα των άρθρων ανά έτος.

Something crazy is happening in 2023, though.

Κάτι παράλογο συμβαίνει όμως το 2023.

Looks like we were on an exponential and it dropped off the cliff.

Φαίνεται η ανοδική πορεία ξαφνικά γκρεμίστηκε.

Τι θα μπορούσε να συμβαίνει;

What could be going on there?

By the way, all this is Python code, you can inspect.

Όλα αυτά είναι κώδικας Python που μπορείτε να ελέγξετε.

And then we'll see word cloud.

Μετά βλέπουμε το συννεφόλεξο.

So you can see all these wonderful things that appear in these titles.

Μπορείτε να δείτε όλα τα υπέροχα πράγματα που εμφανίζονται στους τίτλους.

But I'm pretty unhappy about this 2023 thing.

Δεν μου αρέσει όμως αυτό το 2023.

It makes this year look really bad.

Αυτό το έτος φαίνεται χάλια.

Of course, the problem is that the year is not over.

Το πρόβλημα είναι ότι το έτος δεν τελείωσε.

So I'm going to push back on the machine.

Θα το επαναπροωθήσω στη μηχανή.

[Waitttt that's not fair!!!

[Περίμενε, δεν είναι δίκαιο!

2023 isn't over.

Το 2023 δεν τελείωσε.

What percentage of papers in 2022 were even posted by April 13?]

Τι ποσοστό άρθρων του 2022 δημοσιεύτηκαν ως τις 13 Απριλίου;]

So April 13 was the cut-off date I believe.

Η ημερομηνία διακοπής μάλλον ήταν η 13η Απριλίου.

Can you use that to make a fair projection?

Μπορείς να το χρησιμοποιήσεις για να κάνεις την αντιστοίχιση;

So we'll see, this is the kind of ambitious one.

Είναι πολύ υψηλή απαίτηση.

(Laughter)

(Γέλια)

So you know,

Για άλλη μια φορά,

again, I feel like there was more I wanted out of the machine here.

νομίζω ότι ήθελα περισσότερα εδώ από τη μηχανή.

I really wanted it to notice this thing,

Ήθελα να το προσέξει αυτό,

maybe it's a little bit of an overreach for it

αλλά ίσως είναι υπερβολικό

to have sort of, inferred magically that this is what I wanted.

να το κατατάξει, να εξάγει αυτόματα αυτό που ήθελα.

But I inject my intent,

Δήλωσα όμως την πρόθεσή μου,

I provide this additional piece of, you know, guidance.

παρείχα αυτή την πρόσθετη καθοδήγηση.

And under the hood,

Στο παρασκήνιο,

the AI is just writing code again, so if you want to inspect what it's doing,

η ΤΝ γράφει ξανά κώδικα, ώστε αν θέλετε να ελέγξετε τι κάνει,

it's very possible.

αυτό μπορεί να γίνει.

And now, it does the correct projection.

Τώρα κάνει τη σωστή προβολή.

(Applause)

(Χειροκρότημα)

If you noticed, it even updates the title.

Προσέξτε, άλλαξε ακόμη και τον τίτλο.

I didn't ask for that, but it know what I want.

Αυτό δεν το ζήτησα, αλλά ξέρει τι θέλω.

Now we'll cut back to the slide again.

Επιστρέφουμε στην παρουσίαση.

This slide shows a parable of how I think we ...

Παρουσιάζεται μια προσομοίωση,

A vision of how we may end up using this technology in the future.

ένα όραμα για το πώς θα γίνουμε

χρησιμοποιώντας αυτή την τεχνολογία στο μέλλον.

A person brought his very sick dog to the vet,

Ένα άτομο έφερε στον κτηνίατρο τον σοβαρά άρρωστο σκύλο του,

and the veterinarian made a bad call to say, “Let’s just wait and see.”

και ο κτηνίατρος έκανε το λάθος να πει: «Ας περιμένουμε και θα δούμε».

And the dog would not be here today had he listened.

Ο σκύλος δεν θα ήταν μαζί μας σήμερα αν άκουγαν τον κτηνίατρο.

In the meanwhile, he provided the blood test,

Εντωμεταξύ, έδωσε τις εξετάσεις αίματος,

like, the full medical records, to GPT-4,

όλο το ιατρικό ιστορικό, στο GPT-4,

which said, "I am not a vet, you need to talk to a professional,

το οποίο είπε: «Δεν είμαι κτηνίατρος, πρέπει να απευθυνθείς σε ειδικό,

here are some hypotheses."

ορίστε ορισμένες υποθέσεις».

He brought that information to a second vet

Πήγε τις πληροφορίες σε άλλον κτηνίατρο

who used it to save the dog's life.

ο οποίος τις χρησιμοποίησε κι έσωσε τη ζωή του σκύλου.

Now, these systems, they're not perfect.

Αυτά τα συστήματα δεν είναι τέλεια.

You cannot overly rely on them.

Δεν μπορούμε να στηριχτούμε υπερβολικά σε αυτά.

But this story, I think, shows

Αυτή η ιστορία νομίζω όμως ότι δείχνει

that a human with a medical professional

ότι ένας άνθρωπος κι ένας γιατρός

and with ChatGPT as a brainstorming partner

με τη βοήθεια του ChatGPT να δίνει ιδέες

was able to achieve an outcome that would not have happened otherwise.

μπόρεσαν να επιτύχουν κάτι που δεν θα γινόταν αλλιώς.

I think this is something we should all reflect on,

Νομίζω ότι όλοι πρέπει να το σκεφτούμε,

think about as we consider how to integrate these systems

να σκεφτούμε πώς θα ενσωματώσουμε αυτά τα συστήματα στον κόσμο μας.

into our world.

And one thing I believe really deeply,

Αυτό που πιστεύω ακράδαντα

is that getting AI right is going to require participation from everyone.

είναι ότι το να κάνουμε σωστή την ΤΝ χρειάζεται τη συμμετοχή όλων μας.

And that's for deciding how we want it to slot in,

Πρέπει να αποφασίσουμε πώς θέλουμε να παρεμβαίνει,

that's for setting the rules of the road,

να ορίσουμε τους κανόνες της διαδικασίας,

for what an AI will and won't do.

τι μπορεί να κάνει μια ΤΝ και τι όχι.

And if there's one thing to take away from this talk,

Αν κρατήσουμε κάτι από αυτή την ομιλία,

it's that this technology just looks different.

είναι ότι αυτή η τεχνολογία μοιάζει διαφορετική.

Just different from anything people had anticipated.

Απλώς διαφορετική πέρα από κάθε προσδοκία.

And so we all have to become literate.

Όλοι πρέπει να επιμορφωθούμε.

And that's, honestly, one of the reasons we released ChatGPT.

Είναι ένας από τους λόγους που κάναμε διαθέσιμο το GhatGPT.

Together, I believe that we can achieve the OpenAI mission

Μαζί πιστεύω ότι μπορούμε να πετύχουμε τον στόχο της OpenAI

of ensuring that artificial general intelligence

να εξασφαλίσουμε ότι γενικά η ΤΝ

benefits all of humanity.

θα ωφελήσει όλη την ανθρωπότητα.

Thank you.

Ευχαριστώ.

(Applause)

(Χειροκρότημα)

(Applause ends)

(Τέλος χειροκροτήματος)

Chris Anderson: Greg.

Κρις Άντερσον: Γκρεγκ.

Wow.

Ουάου.

I mean ...

Θέλω να πω...

I suspect that within every mind out here

υποψιάζομαι ότι μέσα τους όλοι εδώ

there's a feeling of reeling.

νιώθουν ένα δέος.

Like, I suspect that a very large number of people viewing this,

Πιθανόν πολλοί από αυτούς που παρακολουθούν

you look at that and you think, “Oh my goodness,

τα βλέπουν αυτά και σκέφτονται:

pretty much every single thing about the way I work, I need to rethink."

«Πρέπει να ξανασκεφτώ σχεδόν κάθε πράγμα σχετικά με τον τρόπο που δουλεύω».

Like, there's just new possibilities there.

Υπάρχουν ένα σωρό νέες δυνατότητες.

Am I right?

Σωστά τα λέω;

Who thinks that they're having to rethink the way that we do things?

Ποιοι συμφωνούν ότι πρέπει να σκεφτούμε ξανά πώς πράττουμε;

Yeah, I mean, it's amazing,

Νομίζω ότι είναι καταπληκτικό,

but it's also really scary.

αλλά και πραγματικά τρομακτικό.

So let's talk, Greg, let's talk.

Ας συζητήσουμε λίγο Γκρεγκ.

Γκρεγκ Μπρόκμαν: Βεβαίως.

I mean, I guess my first question actually is just

ΚΑ: Η πρώτη μου ερώτηση είναι απλώς πώς στο διάολο το κάνατε αυτό;

how the hell have you done this?

(Γέλια)

(Laughter)

OpenAI has a few hundred employees.

Η OpenAI έχει μερικές εκατοντάδες εργαζόμενους.

Google has thousands of employees working on artificial intelligence.

Η Google έχει χιλιάδες εργαζόμενους που δουλεύουν στην ΤΝ.

Why is it you who's come up with this technology

Πώς έγινε και φτιάξατε εσείς αυτή την τεχνολογία

that shocked the world?

που έχει καταπλήξει τον κόσμο;

Greg Brockman: I mean, the truth is,

ΓΜ: Η αλήθεια είναι

ότι πατήσαμε στους ώμους γιγάντων, δεν υπάρχει αμφιβολία.

we're all building on shoulders of giants, right, there's no question.

Η πρόοδος των υπολογιστών, των αλγορίθμων, των δεδομένων,

If you look at the compute progress,

the algorithmic progress, the data progress,

όλα αυτά είναι κοινά σε όλο τον κλάδο.

all of those are really industry-wide.

Νομίζω ότι στην OpenAI

κάναμε πολύ προσεκτικές επιλογές από τις πρώτες κιόλας μέρες.

But I think within OpenAI,

we made a lot of very deliberate choices from the early days.

Η πρώτη ήταν να βλέπουμε τα πράγματα όπως είναι.

And the first one was just to confront reality as it lays.

Σκεφτήκαμε πάρα πολύ γι′ αυτά:

And that we just thought really hard about like:

What is it going to take to make progress here?

Τι χρειάζεται για να κάνουμε πρόοδο εδώ;

We tried a lot of things that didn't work, so you only see the things that did.

Δοκιμάσαμε πολλά που απέτυχαν, αλλά βλέπετε μόνο αυτά που πέτυχαν.

Νομίζω ότι το πιο σημαντικό είναι να φτιάξεις ομάδες ανθρώπων

And I think that the most important thing has been to get teams of people

πολύ διαφορετικών μεταξύ τους που δουλεύουν μαζί αρμονικά.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

ΚΑ: Μπορούμε να έχουμε λίγο νερό εδώ;

Θα το χρειαστούμε, το θέμα σηκώνει πολλή συζήτηση.

I think we're going to need it, it's a dry-mouth topic.

But isn't there something also just about the fact

Δεν είναι όμως και το γεγονός

that you saw something in these language models

ότι είδατε κάτι σε αυτά τα γλωσσικά μοντέλα

that meant that if you continue to invest in them and grow them,

που σήμαινε ότι αν συνεχίζατε να επενδύετε σε αυτά,

that something at some point might emerge?

κάτι θα προέκυπτε κάποια στιγμή;

GB: Yes.

ΓΜ: Ναι.

And I think that, I mean, honestly,

Πιστεύω ειλικρινά

I think the story there is pretty illustrative, right?

ότι αυτή η ιστορία τα λέει όλα, σωστά;

I think that high level, deep learning,

Πάντα θέλαμε να έχουμε ένα υψηλό επίπεδο, να ασχολούμαστε με τα νευρωνικά δίκτυα,

like we always knew that was what we wanted to be,

was a deep learning lab, and exactly how to do it?

και πώς ακριβώς θα το κάναμε;

Νομίζω ότι στην αρχή δεν ξέραμε.

I think that in the early days, we didn't know.

Δοκιμάσαμε πολλά πράγματα,

We tried a lot of things,

κι ένα άτομο εργαζόταν στην εκπαίδευση ενός μοντέλου

and one person was working on training a model

για την πρόβλεψη του επόμενου χαρακτήρα στις κριτικές της Amazon,

to predict the next character in Amazon reviews,

and he got a result where -- this is a syntactic process,

και είχε ένα αποτέλεσμα, πρόκειται για μια διαδικασία σύνταξης,

you expect, you know, the model will predict where the commas go,

το μοντέλο προβλέπει πού θα μπουν τα κόμματα,

where the nouns and verbs are.

πού τα ρήματα και πού τα ουσιαστικά.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Αλλά μας προέκυψε ένα εργαλείο ανάλυσης συναισθημάτων.

This model could tell you if a review was positive or negative.

Το μοντέλο μπορούσε να πει αν μια κριτική ήταν θετική ή αρνητική.

I mean, today we are just like, come on, anyone can do that.

Σήμερα θεωρούμε ότι ο καθένας μπορεί να το κάνει.

But this was the first time that you saw this emergence,

Ήταν όμως η πρώτη φορά που το είδαμε,

this sort of semantics that emerged from this underlying syntactic process.

αυτό το είδος σημασίας που προέκυψε από τη διαδικασία της σύνταξης.

And there we knew, you've got to scale this thing,

Τότε καταλάβαμε ότι έπρεπε να το αναπτύξουμε αυτό, ως πού φτάνει.

you've got to see where it goes.

ΚΑ: Νομίζω ότι αυτό λύνει την απορία όλων,

CA: So I think this helps explain

the riddle that baffles everyone looking at this,

γιατί αυτά τα συστήματα περιγράφονται ως μηχανές πρόβλεψης.

because these things are described as prediction machines.

Αυτά που βλέπουμε να κάνουν...

And yet, what we're seeing out of them feels ...

it just feels impossible that that could come from a prediction machine.

φαίνεται αδύνατο να προέρχονται από μια μηχανή πρόβλεψης.

Just the stuff you showed us just now.

Αυτό ακριβώς που μας έδειξες μόλις τώρα.

And the key idea of emergence is that when you get more of a thing,

Η βασική ιδέα της ανακάλυψης είναι όταν προκύπτει κάτι παραπάνω,

suddenly different things emerge.

ξαφνικά κάτι διαφορετικό.

It happens all the time, ant colonies, single ants run around,

Σε αποικίες μυρμηγκιών,

μυρμήγκια τρέχουν μόνα τους, και όταν τα συγκεντρώνεις,

when you bring enough of them together,

βλέπεις αποικίες μυρμηγκιών με εντελώς διαφορετική συμπεριφορά.

you get these ant colonies that show completely emergent, different behavior.

Or a city where a few houses together, it's just houses together.

Ή μια πόλη, όπου μερικά σπίτια είναι απλώς μερικά σπίτια στο ίδιο μέρος.

Αλλά όταν μεγαλώνει ο αριθμός των σπιτιών,

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

προκύπτουν πράγματα, όπως προάστια, και πολιτιστικά κέντρα, κίνηση.

Give me one moment for you when you saw just something pop

Πες μου μια στιγμή που είδες να εμφανίζεται ξαφνικά

that just blew your mind

κάτι που σε ξάφνιασε απόλυτα,

that you just did not see coming.

που δεν το είδες να έρχεται.

GB: Yeah, well,

ΓΜ: Στο ChatGPT, αν προσθέσεις 40ψήφιους αριθμούς...

so you can try this in ChatGPT, if you add 40-digit numbers --

CA: 40-digit?

ΚΑ: 40ψήφιους;

GB: 40-digit numbers, the model will do it,

ΓΜ.: 40ψήφιους, το μοντέλο θα το κάνει,

which means it's really learned an internal circuit for how to do it.

που σημαίνει ότι πράγματι έμαθε έναν τρόπο να το κάνει.

And the really interesting thing is actually,

Είναι πραγματικά ενδιαφέρον,

αν του δώσεις να προσθέσει έναν 40ψήφιο αριθμό με έναν 35ψήφιο,

if you have it add like a 40-digit number plus a 35-digit number,

it'll often get it wrong.

πολλές φορές θα κάνει λάθος.

And so you can see that it's really learning the process,

Μπορείς να δεις ότι στ′ αλήθεια μαθαίνει τη διαδικασία,

but it hasn't fully generalized, right?

αλλά δεν έχει κάνει ακόμη τη γενίκευση.

It's like you can't memorize the 40-digit addition table,

Δεν μπορείς να απομνημονεύσεις τα αθροίσματα των 40ψήφιων,

that's more atoms than there are in the universe.

πιο πολλά άτομα υπάρχουν στο σύμπαν.

Θα έπρεπε να έχει μάθει κάτι γενικό,

So it had to have learned something general,

αλλά δεν το έχει ακόμη μάθει πλήρως,

but that it hasn't really fully yet learned that,

Oh, I can sort of generalize this to adding arbitrary numbers

να γενικεύσει στην πρόσθεση τυχαίων αριθμών

of arbitrary lengths.

με τυχαίο αριθμό ψηφίων.

ΚΑ: Αυτό που συνέβη λοιπόν

CA: So what's happened here

is that you've allowed it to scale up

είναι ότι του επιτρέψατε να αναβαθμίζεται

and look at an incredible number of pieces of text.

μέσω ενός τεράστιου αριθμού αποσπασμάτων κειμένων

And it is learning things

και μαθαίνει πράγματα

that you didn't know that it was going to be capable of learning.

που δεν ξέραμε ότι ήταν ικανό να μάθει.

GB Well, yeah, and it’s more nuanced, too.

ΓΜ: Αντιλαμβάνεται και τις διαφορές.

So one science that we’re starting to really get good at

Μια επιστήμη στην οποία αρχίζουμε να εντρυφούμε

is predicting some of these emergent capabilities.

είναι η πρόβλεψη ορισμένων από αυτές τις ικανότητες.

And to do that actually,

Για να το πετύχουμε αυτό,

one of the things I think is very undersung in this field

ένα από τα πράγματα που υποτιμώνται στον τομέα

είναι η ποιότητα κατασκευής.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

Έπρεπε να ανακατασκευάσουμε όλο μας το απόθεμα.

When you think about building a rocket,

Όταν κατασκευάζεις έναν πύραυλο,

every tolerance has to be incredibly tiny.

κάθε συμβιβασμός πρέπει να είναι απειροελάχιστος.

Same is true in machine learning.

Το ίδιο ισχύει για τη μηχανική μάθηση.

You have to get every single piece of the stack engineered properly,

Πρέπει κάθε κομματάκι να κατασκευάζεται όπως πρέπει,

and then you can start doing these predictions.

και τότε μπορεί κανείς να αρχίσει τις προβλέψεις.

There are all these incredibly smooth scaling curves.

Υπάρχουν αυτές οι απίστευτα αδιόρατες αναβαθμίσεις,

They tell you something deeply fundamental about intelligence.

κάτι βαθιά θεμελιώδες για την ευφυΐα.

Αν δεις το μπλογκ μας για το GPT-4

If you look at our GPT-4 blog post,

μπορείς να δεις εκεί όλες αυτές τις αναβαθμίσεις.

you can see all of these curves in there.

And now we're starting to be able to predict.

Τώρα μπορούμε πια να κάνουμε προβλέψεις.

Μπορούμε να προβλέψουμε την επίδοση σε προβλήματα κώδικα.

So we were able to predict, for example, the performance on coding problems.

We basically look at some models

Βασικά συγκρίνουμε με μοντέλα που είναι 10.000 ή 1.000 φορές μικρότερα.

that are 10,000 times or 1,000 times smaller.

And so there's something about this that is actually smooth scaling,

Αυτό είναι πράγματι μια αδιόρατη κλιμάκωση,

παρόλο που ακόμη είμαστε σε πρώιμο στάδιο.

even though it's still early days.

CA: So here is, one of the big fears then,

ΚΑ: Να λοιπόν ένας μεγάλος φόβος

that arises from this.

που πηγάζει από αυτό.

If it’s fundamental to what’s happening here,

Αν είναι θεμελιώδες αυτό που συμβαίνει εδώ,

that as you scale up,

σε μια κλιμάκωση,

things emerge that

προκύπτουν πράγματα

you can maybe predict in some level of confidence,

που μπορούν να προβλεφθούν με έναν βαθμό βεβαιότητας,

but it's capable of surprising you.

αλλά μπορεί να αποτελούν και έκπληξη.

Why isn't there just a huge risk of something truly terrible emerging?

Δεν υπάρχει τεράστιος κίνδυνος να προκύψει κάτι τρομακτικό;

GB: Well, I think all of these are questions of degree

ΓΜ: Νομίζω ότι όλα είναι ζήτημα βαθμού, κλίμακας και χρόνου.

and scale and timing.

And I think one thing people miss, too,

Οι άνθρωποι παραβλέπουν

is sort of the integration with the world is also this incredibly emergent,

ότι η ενσωμάτωση με τον κόσμο είναι επίσης πολύ ισχυρή.

sort of, very powerful thing too.

Είναι ένας από τους λόγους που νομίζουμε ότι είναι σημαντικό

And so that's one of the reasons that we think it's so important

to deploy incrementally.

να εξελιχθεί σταδιακά.

And so I think that what we kind of see right now, if you look at this talk,

Αυτό που βλέπουμε τώρα, σε αυτή την ομιλία,

είναι ότι εστιάζουμε στην παροχή υψηλής ποιότητας ανατροφοδότησης.

a lot of what I focus on is providing really high-quality feedback.

Σήμερα, τις εργασίες που κάνουμε, μπορούμε να τις επιβλέψουμε.

Today, the tasks that we do, you can inspect them, right?

Είναι εύκολο να δεις το μαθηματικό πρόβλημα

It's very easy to look at that math problem and be like, no, no, no,

και να πεις, όχι ρε μηχανή, το επτά είναι η σωστή απάντηση.

machine, seven was the correct answer.

Αλλά η σύνοψη ενός βιβλίου είναι δύσκολη στην επίβλεψη.

But even summarizing a book, like, that's a hard thing to supervise.

Πώς ξέρεις αν πρόκειται για μια καλή σύνοψη;

Like, how do you know if this book summary is any good?

Πρέπει να διαβάσεις όλο το βίβλιο. Κανείς δεν το θέλει.

You have to read the whole book.

No one wants to do that.

(Γέλια)

(Laughter)

And so I think that the important thing will be that we take this step by step.

Νομίζω ότι το σημαντικό είναι να πάμε βήμα-βήμα.

And that we say, OK, as we move on to book summaries,

Καθώς προχωράμε στη σύνοψη βιβλίων,

we have to supervise this task properly.

πρέπει να επιβλέψουμε σωστά τη διαδικασία.

We have to build up a track record with these machines

Πρέπει να φτιάξουμε ένα αρχείο με αυτές τις μηχανές

that they're able to actually carry out our intent.

ώστε να καταλαβαίνουν την πρόθεσή μας.

And I think we're going to have to produce even better, more efficient,

Νομίζω ότι θα πρέπει να παράγουμε ακόμη πιο αποτελεσματικούς,

πιο αξιόπιστους τρόπους αναβάθμισης,

more reliable ways of scaling this,

περίπου σαν να ευθυγραμμιζόμαστε με τη μηχανή.

sort of like making the machine be aligned with you.

CA: So we're going to hear later in this session,

ΚΑ: Θα ακούσουμε αργότερα σε αυτή τη συνεδρία,

there are critics who say that,

υπάρχουν σκεπτικιστές που λένε

you know, there's no real understanding inside,

ότι δεν υπάρχει μέσα τους αληθινή κατανόηση,

the system is going to always --

ποτέ δεν θα ξέρουμε ότι δεν παράγει λάθη,

we're never going to know that it's not generating errors,

that it doesn't have common sense and so forth.

ότι δεν έχει κοινή λογική και ούτω καθεξής.

Is it your belief, Greg, that it is true at any one moment,

Πιστεύεις, Γκρεγκ, ότι είναι αλήθεια αυτό,

but that the expansion of the scale and the human feedback

αλλά ότι η επέκταση της αναβάθμισης και η ανθρώπινη ανατροφοδότηση

that you talked about is basically going to take it on that journey

για την οποία μίλησες θα πάρει αυτή την πορεία

of actually getting to things like truth and wisdom and so forth,

και θα καταλήξει σε πράγματα όπως η αλήθεια και η σοφία,

with a high degree of confidence.

με υψηλό βαθμό βεβαιότητας;

Can you be sure of that?

Μπορείς να είσαι σίγουρος;

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

ΓΜ: Νομίζω ότι η OpenAI, εν ολίγοις, ναι μπορεί.

I believe that is where we're headed.

Πιστεύω ότι προς τα εκεί πάμε.

And I think that the OpenAI approach here has always been just like,

Πιστεύω ότι η προσέγγιση της OpenAI πάντα ήταν έτσι,

let reality hit you in the face, right?

άσε την πραγματικότητα να πέσει πάνω σου.

It's like this field is the field of broken promises,

Αυτό το πεδίο είναι γεμάτο αθετημένες υποσχέσεις,

όλων των ειδικών που λένε ότι θα συμβεί το τάδε κτλ.

of all these experts saying X is going to happen, Y is how it works.

Έλεγαν ότι τα νευρωνικά δίκτυα δεν θα λειτουργούσαν ούτε σε 70 χρόνια.

People have been saying neural nets aren't going to work for 70 years.

They haven't been right yet.

Δεν ξέρουμε ακόμη.

Μπορεί να επιβεβαιωθούν 70 χρόνια και ένα αργότερα ή κάτι τέτοιο.

They might be right maybe 70 years plus one

or something like that is what you need.

Η προσέγγισή μας όμως ήταν πάντα

But I think that our approach has always been,

να ξεπερνάμε τα όρια αυτής της τεχνολογίας,

you've got to push to the limits of this technology

να τη δοκιμάζουμε στην πράξη,

to really see it in action,

γιατί τότε μπορούμε να καταλάβουμε πώς θα συνεχίσουμε σε κάτι άλλο.

because that tells you then, oh, here's how we can move on to a new paradigm.

Δεν έχουμε εξαντλήσει ακόμη τα δεδομένα.

And we just haven't exhausted the fruit here.

ΚΑ: Έχεις μια αμφιλεγόμενη άποψη,

CA: I mean, it's quite a controversial stance you've taken,

ότι ο σωστός τρόπος είναι να το ανοίξεις στο κοινό

that the right way to do this is to put it out there in public

και μετά να το αξιοποίησεις

and then harness all this, you know,

αντί να αφήσεις την ομάδα σου να δίνει ανατροφοδότηση,

instead of just your team giving feedback,

the world is now giving feedback.

ο κόσμος δίνει τώρα ανατροφοδότηση.

But ...

Αλλά...

If, you know, bad things are going to emerge,

αν τυχόν προκύψουν άσχημα πράγματα,

it is out there.

θα είναι εκεί έξω.

So, you know, the original story that I heard on OpenAI

Η αρχική ιστορία που άκουσα στην OpenAI

when you were founded as a nonprofit,

όταν ιδρύθηκε ως μη κερδοσκοπική εταιρεία,

well you were there as the great sort of check on the big companies

ήταν ότι κάνατε έναν έλεγχο στις μεγάλες εταιρείες

doing their unknown, possibly evil thing with AI.

που έκαναν άγνωστα, ίσως άσχημα πράματα με την ΤΝ.

And you were going to build models that sort of, you know,

Άκουσα ότι θα φτιάχνατε μοντέλα

που θα τις καθιστούσαν υπεύθυνες

somehow held them accountable

and was capable of slowing the field down, if need be.

και θα μπορούσαν να επιβραδύνουν την έρευνα, αν χρειαζόταν.

Or at least that's kind of what I heard.

Αυτό τουλάχιστον είχα ακούσει.

And yet, what's happened, arguably, is the opposite.

Αυτό που συνέβη, ήταν ακριβώς το αντίθετο.

That your release of GPT, especially ChatGPT,

Η απελευθέρωση του GPT, και ιδιαίτερα του ChatGPT,

sent such shockwaves through the tech world

προκάλεσε σοκ στον κόσμο της τεχνολογίας

that now Google and Meta and so forth are all scrambling to catch up.

ώστε τώρα η Google και η Meta και άλλοι προσπαθούν να προλάβουν το κύμα.

And some of their criticisms have been,

Επικρίνοντας λένε

you are forcing us to put this out here without proper guardrails or we die.

ότι τις αναγκάζεις να τα δημοσιοποιήσουν χωρίς τα απαραίτητα μέτρα προστασίας.

You know, how do you, like,

Πώς θα είστε σίγουροι ότι αυτό που κάνετε

make the case that what you have done is responsible here and not reckless.

είναι υπεύθυνο και όχι ανεύθυνο.

GB: Yeah, we think about these questions all the time.

ΓΜ: Τα σκεφτόμαστε αυτά όλη την ώρα.

Like, seriously all the time.

Πραγματικά όλη την ώρα.

And I don't think we're always going to get it right.

Μπορεί να μην τα κάνουμε όλα σωστά.

But one thing I think has been incredibly important,

Ένα πράγμα νομίζω ότι είναι απίστευτα σημαντικό,

from the very beginning, when we were thinking

από πολύ νωρίς, όταν σκεφτόμασταν πώς να φτιάξουμε γενικά την ΤΝ,

about how to build artificial general intelligence,

πώς να ωφελήσει όλη την ανθρωπότητα,

actually have it benefit all of humanity,

πώς να το κάνει κανείς αυτό αλήθεια;

like, how are you supposed to do that, right?

Από προεπιλογή, φτιάχνεις κάτι στα κρυφά,

And that default plan of being, well, you build in secret,

και προκύπτει αυτό το πανίσχυρο πράγμα,

you get this super powerful thing,

σχεδιάζεις την ασφάλειά του και πατάς το κουμπί,

and then you figure out the safety of it and then you push “go,”

κι ελπίζεις να το πέτυχες.

and you hope you got it right.

Δεν ξέρω πώς να εκτελέσω αυτό το σχέδιο.

I don't know how to execute that plan.

Μπορεί να ξέρει κάποιος άλλος.

Maybe someone else does.

Για μένα ήταν πάντα τρομακτικό, δεν ένιωθα καλά.

But for me, that was always terrifying, it didn't feel right.

Νομίζω ότι αυτή η εναλλακτική προσέγγιση

And so I think that this alternative approach

είναι ο μόνος δρόμος που βλέπω,

is the only other path that I see,

να αφήνεις να σε βρει η πραγματικότητα.

which is that you do let reality hit you in the face.

And I think you do give people time to give input.

Δίνουμε στον κόσμο τον χρόνο να δώσει ανατροφοδότηση.

You do have, before these machines are perfect,

Πριν ακόμη τελειοποιηθούν αυτές οι μηχανές,

before they are super powerful, that you actually have the ability

πριν να γίνουν πανίσχυρες, έχετε τη δυνατότητα

να τις δείτε στην πράξη.

to see them in action.

And we've seen it from GPT-3, right?

Το είδαμε από το GPT-3, σωστά;

Στο GPT-3 πραγματικά φοβόμασταν

GPT-3, we really were afraid

that the number one thing people were going to do with it

τα πράγματα που θα έκαναν οι άνθρωποι,

ότι θα δημιουργούσαν παραπληροφόρηση, θα χειραγωγούσαν τις εκλογές.

was generate misinformation, try to tip elections.

Instead, the number one thing was generating Viagra spam.

Ωστόσο, το πρώτο πράγμα που έκαναν ήταν σπαμ για Viagra.

(Laughter)

(Γέλια)

CA: So Viagra spam is bad, but there are things that are much worse.

ΚΑ: Κακό το σπαμ για Viagra, αλλά υπάρχουν και χειρότερα.

Να ένα υποθετικό σενάριο.

Here's a thought experiment for you.

Suppose you're sitting in a room,

Ας πούμε ότι κάθεσαι σε ένα δωμάτιο,

there's a box on the table.

υπάρχει ένα κουτί στο τραπέζι.

You believe that in that box is something that,

Πιστεύεις ότι στο κουτί

there's a very strong chance it's something absolutely glorious

είναι πολύ πιθανό να υπάρχει κάτι απίστευτα υπέροχο

that's going to give beautiful gifts to your family and to everyone.

που θα δώσει υπέροχα δώρα στην οικογένειά σου και σε όλους.

But there's actually also a one percent thing in the small print there

Αλλά έχει και κάτι μικρά γραμματάκια εκεί

that says: “Pandora.”

που λένε «Πανδώρα».

And there's a chance

Υπάρχει μια πιθανότητα

that this actually could unleash unimaginable evils on the world.

να εξαπολυθούν ανείπωτα κακά στον κόσμο.

Do you open that box?

Θα ανοίξεις το κουτί;

GB: Well, so, absolutely not.

ΓΜ: Όχι βέβαια.

I think you don't do it that way.

Δεν νομίζω ότι αυτό κάνουμε.

Ειλικρινά, θα σου πω μια ιστορία που δεν έχω ξαναπεί σε κανέναν.

And honestly, like, I'll tell you a story that I haven't actually told before,

which is that shortly after we started OpenAI,

Λίγο αφότου ξεκινήσαμε την OpenAI,

I remember I was in Puerto Rico for an AI conference.

θυμάμαι ήμουν στο Πουέρτο Ρίκο σε ένα συνέδριο ΤΝ.

I'm sitting in the hotel room just looking out over this wonderful water,

Ήμουν στο δωμάτιο του ξενοδοχείου κι έβλεπα αυτά τα υπέροχα νερά,

all these people having a good time.

τους ανθρώπους να διασκεδάζουν.

And you think about it for a moment,

Αν το σκεφτείς λίγο,

θα μπορούσες να επιλέξεις αυτό το κουτί της Πανδώρας

if you could choose for basically that Pandora’s box

to be five years away

να ανοίξει πέντε χρόνια μετά

or 500 years away,

ή 500 χρόνια μετά,

which would you pick, right?

τι θα διάλεγες;

On the one hand you're like, well, maybe for you personally,

Από τη μια μεριά, ίσως για σένα προσωπικά,

it's better to have it be five years away.

θα ήταν καλύτερα πέντε χρόνια μετά.

But if it gets to be 500 years away and people get more time to get it right,

Αλλά αν γίνει 500 χρόνια μετά και έχουμε τον χρόνο να το κάνουμε σωστά,

which do you pick?

ποιο θα επιλέξεις;

And you know, I just really felt it in the moment.

Εκείνη τη στιγμή σκέφτηκα

I was like, of course you do the 500 years.

φυσικά και θα επιλέξουμε τα 500 χρόνια.

Ο αδερφός μου ήταν στον στρατό τότε

My brother was in the military at the time

and like, he puts his life on the line in a much more real way

βάζοντας τη ζωή του σε κίνδυνο με πολύ πιο απτό τρόπο

than any of us typing things in computers

απ′ ό,τι όλοι εμείς που γράφουμε σε υπολογιστές

and developing this technology at the time.

και αναπτύσσουμε αυτή την τεχνολογία.

And so, yeah, I'm really sold on the you've got to approach this right.

Πιστεύω στ′ αλήθεια ότι πρέπει να το κάνουμε σωστά.

But I don't think that's quite playing the field as it truly lies.

Αλλά δεν νομίζω ότι έτσι ακριβώς παίζεται το παιχνίδι.

Like, if you look at the whole history of computing,

Αν δει κανείς όλη την ιστορία της πληροφορικής,

I really mean it when I say that this is an industry-wide

το εννοώ όταν λέω ότι πρόκειται για όλο τον κλάδο,

or even just almost like

ή ακόμη για μια αλλαγή στην εξέλιξη του ανθρώπου και της τεχνολογίας.

a human-development- of-technology-wide shift.

And the more that you sort of, don't put together the pieces

Όσο δεν βάζουμε τα κομμάτια στη θέση τους,

that are there, right,

we're still making faster computers,

φτιάχνουμε ταχύτερους υπολογιστές,

we're still improving the algorithms, all of these things, they are happening.

διορθώνουμε τους αλγόριθμους, όλα αυτά συμβαίνουν.

And if you don't put them together, you get an overhang,

Αν δεν τα συνενώσεις, θα δημιουργήσεις μια ανωμαλία,

που σημαίνει ότι αν κάποιος το κάνει,

which means that if someone does,

ή τη στιγμή που κάποιος καταφέρει να ενώσει τα κομμάτια,

or the moment that someone does manage to connect to the circuit,

τότε έχουμε αίφνης αυτό το πανίσχυρο πράγμα,

then you suddenly have this very powerful thing,

χωρίς χρόνο προσαρμογής,

no one's had any time to adjust,

ποιος ξέρει αν είναι ασφαλές.

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Ένα πράγμα μένει στο μυαλό μου,

is like, even you think about development of other sort of technologies,

αν σκεφτείς τον προγραμματισμό ή άλλες τεχνολογίες,

αν σκεφτείς τα πυρηνικά όπλα,

think about nuclear weapons,

people talk about being like a zero to one,

όλοι μιλούν για μια κοσμογονική αλλαγή

sort of, change in what humans could do.

σε αυτά που μπορούν να κάνουν οι άνθρωποι.

But I actually think that if you look at capability,

Αν δούμε όμως τις δυνατότητες, εμφανίστηκαν σταδιακά μέσα στον χρόνο.

it's been quite smooth over time.

And so the history, I think, of every technology we've developed

Η ιστορία κάθε τεχνολογίας που αναπτύξαμε

has been, you've got to do it incrementally

δείχνει ότι πρέπει όλα να γίνονται σταδιακά

and you've got to figure out how to manage it

και πρέπει να βρούμε τρόπους διαχείρισης

for each moment that you're increasing it.

κάθε φορά που κάνουμε ένα βήμα μπροστά.

CA: So what I'm hearing is that you ...

ΚΑ: Αυτό που καταλαβαίνω

the model you want us to have

είναι ότι το μοντέλο που μας δίνεις

is that we have birthed this extraordinary child

είναι σαν να γεννήσαμε αυτό το χαρισματικό παιδί

that may have superpowers

που μπορεί να έχει υπερδυνάμεις

που μπορούν να ανεβάσουν την ανθρωπότητα σε άλλο επίπεδο.

that take humanity to a whole new place.

It is our collective responsibility to provide the guardrails

Είναι ευθύνη όλων μας να θέσουμε τα όρια

for this child

γι′ αυτό το παιδί,

to collectively teach it to be wise and not to tear us all down.

όλοι μαζί να το διδάξουμε να ενεργεί σοφά και να μη μας καταστρέψει όλους.

Is that basically the model?

Αυτό είναι ουσιαστικά το μοντέλο;

GB: I think it's true.

Γκ.Μπ.: Έτσι είναι.

And I think it's also important to say this may shift, right?

Είναι σημαντικό ότι μπορεί να υπάρξουν αλλαγές πορείας.

We've got to take each step as we encounter it.

Προχωράμε βήμα-βήμα, ανάλογα με το τι συναντάμε.

And I think it's incredibly important today

Είναι απίστευτα σημαντικό σήμερα

that we all do get literate in this technology,

να μάθουμε καλά αυτή την τεχνολογία

figure out how to provide the feedback,

να δούμε πώς θα δώσουμε ανατροφοδότηση,

decide what we want from it.

να αποφασίσουμε τι θα κάνουμε.

And my hope is that that will continue to be the best path,

Ελπίζω ότι αυτή θα συνεχίσει να είναι η καλύτερη πορεία,

but it's so good we're honestly having this debate

Είναι τόσο καλό που κάνουμε αυτή τη συζήτηση

because we wouldn't otherwise if it weren't out there.

γιατί δεν θα μπορούσαμε αν δεν ήταν ήδη ανοιχτά διαθέσιμο.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

Κ.Α.: Γκρεγκ Μπρόκμαν, σ′ ευχαριστώ πολύ, που ήρθες στο TED και μας κατέπληξες!

(Applause)

(Χειροκρότημα)