The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Traducteur: eric vautier Relecteur: Claire Ghyselen

We started OpenAI seven years ago

Nous avons lancé OpenAI il y a sept ans

because we felt like something really interesting was happening in AI

car nous sentions que quelque chose d’intéressant se produisait en IA

and we wanted to help steer it in a positive direction.

et que nous voulions contribuer à l’orienter dans un sens positif.

It's honestly just really amazing to see

Honnêtement, c’est incroyable de voir

how far this whole field has come since then.

à quel point ce domaine a progressé en sept ans.

And it's really gratifying to hear from people like Raymond

C’est très gratifiant d’entendre des gens comme Raymond,

who are using the technology we are building, and others,

une personne dyslexique dont la vie s’est améliorée grâce à ChatGPT.

for so many wonderful things.

We hear from people who are excited,

Nous entendons des gens enthousiastes,

we hear from people who are concerned,

des gens inquiets,

we hear from people who feel both those emotions at once.

des gens qui ressentent ces deux émotions à la fois.

And honestly, that's how we feel.

Et honnêtement, c’est ce que nous ressentons aussi.

Above all, it feels like we're entering an historic period right now

Et surtout, nous avons l’impression d’entrer dans une période historique

where we as a world are going to define a technology

où le monde entier va définir une technologie

that will be so important for our society going forward.

qui sera très importante pour notre société.

And I believe that we can manage this for good.

Et je crois que nous pouvons nous en servir pour faire le bien.

So today, I want to show you the current state of that technology

Aujourd’hui, je veux vous montrer l’état actuel de cette technologie

and some of the underlying design principles that we hold dear.

et certains des principes sous-jacents de conception qui nous sont chers.

So the first thing I'm going to show you

Je vais d’abord montrer comment construire un outil pour une IA

is what it's like to build a tool for an AI

plutôt que pour un humain.

rather than building it for a human.

So we have a new DALL-E model, which generates images,

Nous avons un nouveau modèle DALL-E, qui génère des images,

and we are exposing it as an app for ChatGPT to use on your behalf.

et nous l’exposons en tant qu’application que ChatGPT peut utiliser à votre place.

And you can do things like ask, you know,

Vous pouvez faire des choses comme...

suggest a nice post-TED meal and draw a picture of it.

suggérer un bon repas post-TED et en faire une image.

(Laughter)

(Rires)

Now you get all of the, sort of, ideation and creative back-and-forth

Vous bénéficiez ainsi de toute l’idéation et de l’enrichissement créatif,

and taking care of the details for you that you get out of ChatGPT.

ainsi que de la prise en charge des détails pour vous par ChatGPT.

And here we go, it's not just the idea for the meal,

La réponse n’est pas seulement une idée de repas,

but a very, very detailed spread.

mais d’une réponse très, très détaillée.

So let's see what we're going to get.

Voyons ce que nous allons obtenir.

But ChatGPT doesn't just generate images in this case --

Mais ChatGPT ne génère pas seulement des images dans ce cas -

sorry, it doesn't generate text, it also generates an image.

pardon, il ne génère pas du texte, mais aussi une image.

And that is something that really expands the power

C’est quelque chose qui étend vraiment la puissance

of what it can do on your behalf in terms of carrying out your intent.

de ce qu’il peut faire à votre place en comprenant votre intention.

And I'll point out, this is all a live demo.

Tout ceci est une démo en direct,

This is all generated by the AI as we speak.

entièrement généré par l’IA à la volée.

So I actually don't even know what we're going to see.

Je ne sais donc pas ce que nous allons voir.

This looks wonderful.

Cela semble merveilleux.

(Applause)

(Applaudissements)

I'm getting hungry just looking at it.

J’ai faim rien qu’en le regardant.

Now we've extended ChatGPT with other tools too,

Nous avons étendu ChatGPT à d’autres outils, par exemple la mémoire.

for example, memory.

You can say "save this for later."

Vous pouvez dire : « Sauvegarde ceci pour plus tard ».

And the interesting thing about these tools

L’intéressant avec ces outils est qu’ils sont faciles à inspecter.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

Ce pop-up « Utilisez l’application DALL-E » -

ceci sera disponible aux utilisateurs de ChatGPT dans les mois à venir -

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

vous pouvez voir ce qu’il a fait,

And you can look under the hood and see that what it actually did

en l’occurrence, écrire une commande comme un humain.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Vous avez donc la possibilité d'inspecter

how the machine is using these tools,

la façon dont la machine utilise ces outils,

which allows us to provide feedback to them.

ce qui nous permet de fournir un feedback.

Now it's saved for later,

C'est sauvegardé.

and let me show you what it's like to use that information

Je vais vous montrer comment utiliser ces informations

and to integrate with other applications too.

et les intégrer à d'autres applications.

You can say,

Vous pouvez dire :

“Now make a shopping list for the tasty thing

« Maintenant, fais la liste de courses

pour la chose savoureuse que j’ai suggérée tout à l’heure. »

I was suggesting earlier.”

And make it a little tricky for the AI.

Rendons les choses un peu plus compliquées.

"And tweet it out for all the TED viewers out there."

« Et tweete-la aux spectateurs de TED. »

(Laughter)

(Rires)

So if you do make this wonderful, wonderful meal,

Si vous préparez ce merveilleux repas, je veux absolument le goûter.

I definitely want to know how it tastes.

But you can see that ChatGPT is selecting all these different tools

Vous pouvez voir que ChatGPT sélectionne tous ces outils

without me having to tell it explicitly which ones to use in any situation.

sans que j’aie à lui dire explicitement lesquels utiliser.

And this, I think, shows a new way of thinking about the user interface.

Je pense que cela montre une nouvelle façon de penser l'interface utilisateur.

Like, we are so used to thinking of, well, we have these apps,

Nous sommes tellement habitués à avoir des applications,

we click between them, we copy/paste between them,

que nous copions/collons de l’une à l’autre.

Ça marche bien quand on connaît les menus et les options de l’application.

and usually it's a great experience within an app

as long as you kind of know the menus and know all the options.

Oui, j’aimerais que tu le fasses. Oui, s’il te plaît.

Yes, I would like you to.

Yes, please.

Always good to be polite.

C’est bien d’être poli.

(Laughter)

(Rires)

And by having this unified language interface on top of tools,

Grâce à cette interface en langage unifié qui se superpose aux outils,

the AI is able to sort of take away all those details from you.

l’IA vous affranchit en quelque sorte de tous ces détails.

So you don't have to be the one

Vous n’avez donc pas besoin d’expliquer chaque détail

who spells out every single sort of little piece

of what's supposed to happen.

de ce qui est censé se passer.

And as I said, this is a live demo,

Ma démo est en direct,

donc parfois l'inattendu nous arrive.

so sometimes the unexpected will happen to us.

But let's take a look at the Instacart shopping list while we're at it.

Mais jetons un œil à la liste de courses tant qu’on y est.

And you can see we sent a list of ingredients to Instacart.

Vous pouvez voir que nous avons envoyé une liste d’ingrédients.

Here's everything you need.

Voici ce dont vous avez besoin.

And the thing that's really interesting

Ce qui est vraiment intéressant,

is that the traditional UI is still very valuable, right?

c’est que l’interface utilisateur a encore de la valeur.

If you look at this,

Si vous regardez ceci,

you still can click through it and sort of modify the actual quantities.

vous pouvez toujours cliquer et modifier les quantités.

And that's something that I think shows

Je pense que cela montre

that they're not going away, traditional UIs.

que les interfaces utilisateur traditionnelles ne disparaîtront pas.

It's just we have a new, augmented way to build them.

C’est une façon augmentée de les construire.

And now we have a tweet that's been drafted for our review,

Voici le tweet qui a été rédigé pour validation, un point également important.

which is also a very important thing.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

On peut cliquer sur « Exécuter », et étant le décideur, on peut vérifier,

we're able to change the work of the AI if we want to.

et changer le travail de l’IA si on veut.

And so after this talk, you will be able to access this yourself.

Après ce talk, vous pourrez y accéder vous-mêmes.

And there we go.

Et voilà.

Cool.

C'est cool.

Thank you, everyone.

Merci à vous.

(Applause)

(Applaudissements)

So we’ll cut back to the slides.

Revenons à la présentation.

Now, the important thing about how we build this,

L’important dans ce développement

it's not just about building these tools.

n’est pas seulement de construire ces outils,

It's about teaching the AI how to use them.

mais aussi d’apprendre à l’IA à les utiliser.

Like, what do we even want it to do

Que voulons-nous qu’elle fasse

when we ask these very high-level questions?

lorsque nous posons ces questions abstraites ?

And to do this, we use an old idea.

Pour cela, nous utilisons une vieille idée.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

Alan Turing écrivait en 1950 qu’aucun programme ne saurait passer son test,

you'll never program an answer to this.

Instead, you can learn it.

à moins d’apprendre.

You could build a machine, like a human child,

Ce serait une machine, comme un enfant humain,

and then teach it through feedback.

qu’on éduquerait au fur et à mesure.

Have a human teacher who provides rewards and punishments

Un enseignant humain donnerait des récompenses et des punitions

as it tries things out and does things that are either good or bad.

selon des réponses bonnes ou mauvaises.

And this is exactly how we train ChatGPT.

Nous avons le même processus en deux étapes avec ChatGPT.

It's a two-step process.

First, we produce what Turing would have called a child machine

On a produit ce que Turing aurait appelé un enfant-machine

via un apprentissage non supervisé.

through an unsupervised learning process.

Nous lui montrons tout Internet et lui disons :

We just show it the whole world, the whole internet

and say, “Predict what comes next in text you’ve never seen before.”

« Prédis ce qui va arriver dans un texte que tu n’as jamais vu. »

Ce processus lui confère tout un tas de compétences extraordinaires.

And this process imbues it with all sorts of wonderful skills.

For example, if you're shown a math problem,

Par exemple, ce problème de maths.

La seule façon de dire ce qui vient ensuite -

the only way to actually complete that math problem,

to say what comes next,

la valeur « 9 » ici -

that green nine up there,

is to actually solve the math problem.

c’est de résoudre ce problème.

But we actually have to do a second step, too,

Mais il y a aussi une deuxième étape :

which is to teach the AI what to do with those skills.

expliquer à l’IA quoi faire de ces compétences.

D’où la nécessité d’un feedback.

And for this, we provide feedback.

We have the AI try out multiple things, give us multiple suggestions,

L’IA essaye plusieurs choses, fait plusieurs suggestions,

puis un humain les évalue, les compare.

and then a human rates them, says “This one’s better than that one.”

Cela renforce non seulement la chose spécifique que l’IA a dite,

And this reinforces not just the specific thing that the AI said,

mais aussi, et c’est important, le process utilisé par l’IA pour donner la réponse.

but very importantly, the whole process that the AI used to produce that answer.

Cela lui permet de généraliser, de déduire votre intention

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

and apply it in scenarios that it hasn't seen before,

et de l’appliquer à des scénarios inconnus,

that it hasn't received feedback.

pour lesquels elle n’a pas reçu de feedback.

Now, sometimes the things we have to teach the AI

Parfois, ce que nous devons enseigner à l’IA

are not what you'd expect.

n’est pas ce à quoi on s’attend.

For example, when we first showed GPT-4 to Khan Academy,

Quand on a présenté GPT-4 pour la première fois à la Khan Academy,

they said, "Wow, this is so great,

ils ont dit : « Génial, on va pouvoir enseigner des choses merveilleuses.

We're going to be able to teach students wonderful things.

Only one problem, it doesn't double-check students' math.

Seul problème : ça ne vérifie pas les compétences des élèves en maths.

If there's some bad math in there,

On peut répondre que 5+7=15 et faire comme si de rien n’était. »

it will happily pretend that one plus one equals three and run with it."

So we had to collect some feedback data.

Nous avons donc recueilli des feedbacks.

Sal Khan himself was very kind

Sal Khan lui-même a été très aimable ; il a consacré 20 heures de son temps

and offered 20 hours of his own time to provide feedback to the machine

pour travailler avec notre équipe à éduquer à la machine.

alongside our team.

And over the course of a couple of months we were able to teach the AI that,

Er en quelques mois, nous avons pu apprendre à l’IA que,

"Hey, you really should push back on humans

dans ce type de scénario, il faut vraiment se méfier des humains.

in this specific kind of scenario."

And we've actually made lots and lots of improvements to the models this way.

Cette méthode nous a permis d'apporter de nombreuses améliorations aux modèles.

And when you push that thumbs down in ChatGPT,

Et lorsque vous cliquez sur le pouce vers le bas,

that actually is kind of like sending up a bat signal to our team to say,

cela revient à envoyer un signal à notre équipe :

« Voici un sujet sur lequel vous devriez recueillir des feedbacks. »

“Here’s an area of weakness where you should gather feedback.”

And so when you do that,

C’est une façon pour nous d’écouter nos utilisateurs

that's one way that we really listen to our users

and make sure we're building something that's more useful for everyone.

et de nous assurer que nous construisons quelque chose de plus utile.

Now, providing high-quality feedback is a hard thing.

Il n’est pas facile de fournir un feedback de qualité.

If you think about asking a kid to clean their room,

Si vous demandez à un enfant de ranger sa chambre,

if all you're doing is inspecting the floor,

si vous ne faites qu'inspecter le sol,

you don't know if you're just teaching them to stuff all the toys in the closet.

vous ne savez pas s’il apprend juste à cacher tous ses jouets dans le placard.

This is a nice DALL-E-generated image, by the way.

Il s'agit d'une belle image générée par DALL-E, soit dit en passant.

And the same sort of reasoning applies to AI.

Le même type de raisonnement s’applique à l’IA.

As we move to harder tasks,

Plus les tâches seront difficiles,

we will have to scale our ability to provide high-quality feedback.

plus la qualité de nos feedbacks devra s’améliorer.

But for this, the AI itself is happy to help.

Mais l’IA elle-même est heureuse de nous aider

It's happy to help us provide even better feedback

à fournir un feedback encore meilleur

and to scale our ability to supervise the machine as time goes on.

et à accroître notre capacité à la superviser au fil du temps.

And let me show you what I mean.

Je vais vous montrer ce que je veux dire.

For example, you can ask GPT-4 a question like this,

Par exemple, vous pouvez poser à GPT-4 ce type de question :

of how much time passed between these two foundational blogs

combien de temps s’est écoulé entre ces deux articles fondateurs

on unsupervised learning

sur l’apprentissage non supervisé et celui basé sur les feedbacks ?

and learning from human feedback.

And the model says two months passed.

Il répond qu’il s’est écoulé deux mois, mais est-ce vrai ?

But is it true?

Like, these models are not 100-percent reliable,

Ces modèles ne sont pas fiables à 100 %,

although they’re getting better every time we provide some feedback.

même s’ils s’améliorent à chaque fois que nous fournissons un feedback.

But we can actually use the AI to fact-check.

Mais nous pouvons utiliser l’IA pour vérifier,

And it can actually check its own work.

vérifier en fait son propre travail.

You can say, fact-check this for me.

Vous pouvez lui dire : « Vérifie pour moi. »

Now, in this case, I've actually given the AI a new tool.

Dans ce cas, j’ai donné à l’IA un nouvel outil,

This one is a browsing tool

un outil de navigation Internet

where the model can issue search queries and click into web pages.

qui lui permet d’effectuer des recherches et de cliquer sur des pages web.

And it actually writes out its whole chain of thought as it does it.

Et elle écrit le fil de ses pensées en même temps.

It says, I’m just going to search for this and it actually does the search.

Elle dit : « Je vais chercher ceci » et effectue la recherche.

It then it finds the publication date and the search results.

Elle trouve la date de publication dans les résultats.

Elle fait alors une autre recherche.

It then is issuing another search query.

It's going to click into the blog post.

Elle clique sur l’article.

And all of this you could do, but it’s a very tedious task.

Vous pouvez faire tout cela, mais c’est très fastidieux.

It's not a thing that humans really want to do.

Les humains n’en ont pas envie.

It's much more fun to be in the driver's seat,

Il est plus amusant d’être le patron,

d’être le gestionnaire qui va, si vous le souhaitez, vérifier le travail.

to be in this manager's position where you can, if you want,

triple-check the work.

Le résultat qui s’affiche vous permet de vérifier

And out come citations

so you can actually go

and very easily verify any piece of this whole chain of reasoning.

très facilement n’importe quel élément de la chaîne de raisonnement.

And it actually turns out two months was wrong.

Il s’est avéré que deux mois, c’était faux.

Two months and one week,

La bonne réponse est deux mois et une semaine.

that was correct.

(Applause)

(Applaudissements)

And we'll cut back to the side.

Revenons à la présentation.

And so thing that's so interesting to me about this whole process

Ce qui me paraît intéressant dans tout ce processus,

is that it’s this many-step collaboration between a human and an AI.

c’est qu’il s’agit d’une collaboration entre un humain et une IA.

Because a human, using this fact-checking tool

L’humain utilise cet outil de vérification des faits

is doing it in order to produce data

afin de produire des données pour une autre IA

for another AI to become more useful to a human.

afin que celle-ci devienne plus utile à l’humain.

And I think this really shows the shape of something

Je pense qu'il s'agit là d'un exemple

that we should expect to be much more common in the future,

de ce qui devrait être de plus en plus courant à l’avenir :

where we have humans and machines kind of very carefully

les humains et les machines mettent beaucoup de soin et de délicatesse

and delicately designed in how they fit into a problem

dans leur manière de collaborer pour résoudre un problème.

and how we want to solve that problem.

We make sure that the humans are providing the management, the oversight,

Les humains assurent la gestion, la supervision et le feedback,

the feedback,

les machines travaillent d’une manière inspectable et digne de confiance.

and the machines are operating in a way that's inspectable

and trustworthy.

Ensemble, nous sommes en mesure de créer des machines encore plus fiables.

And together we're able to actually create even more trustworthy machines.

Je pense que si on parvient à régler ce processus,

And I think that over time, if we get this process right,

nous serons en mesure de résoudre des problèmes impossibles.

we will be able to solve impossible problems.

Et pour vous donner une idée du degré d’impossibilité dont je parle,

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

je pense qu’on saura repenser presque tous les aspects

of how we interact with computers.

de la façon d’interagir avec les ordinateurs.

For example, think about spreadsheets.

Pensez par exemple aux tableurs.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

Ils existent sous une forme ou une autre depuis, disons, 40 ans avec VisiCalc.

I don't think they've really changed that much in that time.

Je ne pense pas qu'ils aient beaucoup changé depuis.

And here is a specific spreadsheet of all the AI papers on the arXiv

Voici un tableur listant tous les articles sur l’IA publiés sur l’arXiv

for the past 30 years.

depuis 30 ans.

There's about 167,000 of them.

Il y en a environ 167 000.

And you can see there the data right here.

Vous pouvez voir les données ici.

But let me show you the ChatGPT take on how to analyze a data set like this.

Mais laissez-moi vous montrer comment ChatGPT analyse cet ensemble de données.

So we can give ChatGPT access to yet another tool,

Nous pouvons donner à ChatGPT l’accès à un autre outil,

this one a Python interpreter,

un interpréteur Python,

so it’s able to run code, just like a data scientist would.

afin qu’il puisse exécuter du code, comme le ferait un data scientist.

And so you can just literally upload a file

Vous pouvez littéralement télécharger un fichier puis poser des questions.

and ask questions about it.

And very helpfully, you know, it knows the name of the file and it's like,

Très pratique, il reconnaît le type de fichier -

"Oh, this is CSV," comma-separated value file,

un CSV, des valeurs séparées par des virgules -

"I'll parse it for you."

et va l’analyser pour vous.

The only information here is the name of the file,

La seule information est le nom du fichier,

the column names like you saw and then the actual data.

le nom des colonnes comme vous l’avez vu et les données elles-mêmes.

And from that it's able to infer what these columns actually mean.

Et de ça, il est capable de déduire ce que ces colonnes signifient réellement.

Like, that semantic information wasn't in there.

Il n’y avait pas d’informations sémantiques.

Elle rassemble sa connaissance du monde :

It has to sort of, put together its world knowledge of knowing that,

« Ah oui, arXiv est un site sur lequel les gens soumettent des articles

“Oh yeah, arXiv is a site that people submit papers

and therefore that's what these things are and that these are integer values

et donc ces valeurs entières sont le nombre d’auteurs dans l’article. »

and so therefore it's a number of authors in the paper,"

Tout cela, c’est du travail pour un humain,

like all of that, that’s work for a human to do,

et l’IA est heureuse d’aider à le faire.

and the AI is happy to help with it.

Maintenant, je ne sais même pas quoi demander.

Now I don't even know what I want to ask.

So fortunately, you can ask the machine,

Heureusement, vous pouvez demander à la machine :

"Can you make some exploratory graphs?"

« Peux-tu faire des graphiques exploratoires ? »

And once again, this is a super high-level instruction with lots of intent behind it.

Là encore, une instruction de haut niveau avec beaucoup d’intentions non dites.

But I don't even know what I want.

J’ignore ce que je veux.

L’IA doit déduire ce qui pourrait m’intéresser.

And the AI kind of has to infer what I might be interested in.

Et elle a trouvé de bonnes idées, je pense.

And so it comes up with some good ideas, I think.

Un diagramme du nombre d’auteurs par article,

So a histogram of the number of authors per paper,

une série chronologique d’articles par année, un nuage de mots des titres.

time series of papers per year, word cloud of the paper titles.

All of that, I think, will be pretty interesting to see.

Tout cela sera très intéressant à voir.

Et ce qui est génial, c’est qu’il peut vraiment le faire.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

Voici une courbe en cloche : trois est le nombre le plus courant.

You see that three is kind of the most common.

Il va ensuite établir ce joli graphique du nombre d’articles par année.

It's going to then make this nice plot of the papers per year.

Something crazy is happening in 2023, though.

Mais il se passe quelque chose de fou en 2023.

Looks like we were on an exponential and it dropped off the cliff.

C’était une exponentielle et elle s’est effondrée.

Que se passe-t-il ?

What could be going on there?

D'ailleurs, tout ceci est du code Python, vous pouvez l'inspecter.

By the way, all this is Python code, you can inspect.

And then we'll see word cloud.

Passons au nuage de mots.

So you can see all these wonderful things that appear in these titles.

Vous voyez toutes ces choses merveilleuses qui apparaissent dans les titres.

But I'm pretty unhappy about this 2023 thing.

Mais je suis mécontent de la courbe.

It makes this year look really bad.

Cela donne une mauvaise image de 2023.

Of course, the problem is that the year is not over.

Bien sûr, le problème est que l'année n'est pas terminée.

So I'm going to push back on the machine.

Je vais donc challenger la machine.

[Waitttt that's not fair!!!

[Attends, ce n’est pas juste ! L’année 2023 n’est pas terminée.]

2023 isn't over.

What percentage of papers in 2022 were even posted by April 13?]

[Quel est le pourcentage d’articles postés en 2022 avant le 13 avril ?]

So April 13 was the cut-off date I believe.

Le 13 avril était donc la date limite, je crois.

Can you use that to make a fair projection?

[Peux-tu utiliser cette date pour faire une projection juste ?]

So we'll see, this is the kind of ambitious one.

On va voir, la question est ambitieuse.

(Laughter)

(Rires)

So you know,

Vous savez,

again, I feel like there was more I wanted out of the machine here.

encore une fois, j’ai l’impression que j’attendais plus de la machine.

I really wanted it to notice this thing,

Je voulais vraiment qu’elle remarque cette erreur.

maybe it's a little bit of an overreach for it

C’est peut-être un peu exagéré

to have sort of, inferred magically that this is what I wanted.

d’attendre qu’elle déduise par magie que c’était ce que je voulais.

But I inject my intent,

Mais j’ai saisi mon intention,

I provide this additional piece of, you know, guidance.

j’ai fourni cet élément supplémentaire pour l’aider.

And under the hood,

Et sous le capot,

the AI is just writing code again, so if you want to inspect what it's doing,

l’IA écrit à nouveau du code, donc si vous voulez l’inspecter,

it's very possible.

c'est tout à fait possible.

And now, it does the correct projection.

Et maintenant, elle fait la projection correcte.

(Applause)

(Applaudissements)

If you noticed, it even updates the title.

Elle met même à jour le titre.

I didn't ask for that, but it know what I want.

Je ne l’avais pas demandé, mais elle sait ce que je veux.

Now we'll cut back to the slide again.

Nous allons maintenant revenir à la présentation.

This slide shows a parable of how I think we ...

Cette diapositive montre une parabole de la façon dont je pense que nous -

A vision of how we may end up using this technology in the future.

Une vision de la façon dont on pourrait utiliser cette technologie à l’avenir.

A person brought his very sick dog to the vet,

Quelqu’un a amené son chien très malade chez le vétérinaire,

qui a pris la mauvaise décision : « Attendons de voir. »

and the veterinarian made a bad call to say, “Let’s just wait and see.”

And the dog would not be here today had he listened.

Le chien ne serait pas là aujourd’hui si on l’avait écouté.

In the meanwhile, he provided the blood test,

Entre-temps, il a fourni l’analyse de sang,

like, the full medical records, to GPT-4,

le dossier médical complet, à GPT-4,

which said, "I am not a vet, you need to talk to a professional,

qui a dit : « Je ne suis pas vétérinaire, parlez à un professionnel,

here are some hypotheses."

mais voici quelques hypothèses. »

He brought that information to a second vet

Il a transmis cela à un second vétérinaire

who used it to save the dog's life.

qui a utilisé ces informations pour sauver la vie du chien.

Now, these systems, they're not perfect.

Ces systèmes ne sont pas parfaits.

You cannot overly rely on them.

Il ne faut pas trop s'y fier.

But this story, I think, shows

Mais cette histoire, je pense, montre

that a human with a medical professional

qu’un humain avec un professionnel de santé

and with ChatGPT as a brainstorming partner

et ChatGPT comme partenaire de réflexion

was able to achieve an outcome that would not have happened otherwise.

a pu obtenir un résultat qui ne se serait pas produit autrement.

I think this is something we should all reflect on,

Je pense qu’on doit tous y réfléchir

lorsque nous nous demandons comment intégrer ces systèmes dans notre monde.

think about as we consider how to integrate these systems

into our world.

And one thing I believe really deeply,

Je crois profondément

is that getting AI right is going to require participation from everyone.

que le bon usage de l’IA nécessitera la participation de tous.

And that's for deciding how we want it to slot in,

Il faut décider comment on veut qu’elle s’intègre,

that's for setting the rules of the road,

une sorte de code de la route qui dira ce qu’une IA fera et ne fera pas.

for what an AI will and won't do.

And if there's one thing to take away from this talk,

S’il y a une chose à retenir de ma conférence,

it's that this technology just looks different.

c’est que cette technologie est différente.

Just different from anything people had anticipated.

Différente de tout ce que les gens avaient prévu.

And so we all have to become literate.

Nous devons donc tous nous informer.

And that's, honestly, one of the reasons we released ChatGPT.

Honnêtement, c’est pourquoi nous avons lancé ChatGPT.

Together, I believe that we can achieve the OpenAI mission

Ensemble, je pense que nous pouvons réaliser la mission d’OpenAI,

of ensuring that artificial general intelligence

qui est de veiller à ce que l’IA générale profite à l’ensemble de l’humanité.

benefits all of humanity.

Thank you.

Je vous remercie.

(Applause)

(Applaudissements)

(Fin des applaudissements)

(Applause ends)

Chris Anderson: Greg.

Chris Anderson : Greg.

Wow.

Waouh !

I mean ...

Je veux dire...

I suspect that within every mind out here

Je soupçonne que chacun ici présent est en proie à un sentiment d’ébranlement,

there's a feeling of reeling.

Like, I suspect that a very large number of people viewing this,

qu’un très grand nombre de spectateurs

you look at that and you think, “Oh my goodness,

se disent : « Oh mon Dieu,

pretty much every single thing about the way I work, I need to rethink."

je dois repenser à peu près tout ce qui concerne ma façon de travailler. »

Like, there's just new possibilities there.

Ce sont de nouvelles possibilités.

Am I right?

Qui pense qu’il doit repenser sa façon de faire les choses ?

Who thinks that they're having to rethink the way that we do things?

Yeah, I mean, it's amazing,

Oui, c'est incroyable,

but it's also really scary.

mais c'est aussi très effrayant.

So let's talk, Greg, let's talk.

Alors parlons-en, Greg, parlons-en.

I mean, I guess my first question actually is just

Ma première question est : comment vous avez fait ça ?

how the hell have you done this?

(Rires)

(Laughter)

OpenAI has a few hundred employees.

OpenAI compte quelques centaines d'employés.

Google has thousands of employees working on artificial intelligence.

Google a des milliers d’employés qui travaillent sur l’IA.

Why is it you who's come up with this technology

Pourquoi est-ce vous qui êtes à l’origine de cette technologie

that shocked the world?

qui a choqué le monde ?

Greg Brockman: I mean, the truth is,

Greg Brockman : On est tous juchés sur les épaules de géants.

we're all building on shoulders of giants, right, there's no question.

Les progrès du calcul, de l’algorithmie, des données,

If you look at the compute progress,

c’est vrai dans toute l’industrie.

the algorithmic progress, the data progress,

all of those are really industry-wide.

Mais au sein d’OpenAI,

nous avons fait des choix délibérés dès les premiers jours.

But I think within OpenAI,

we made a lot of very deliberate choices from the early days.

Le premier a été de faire face à la réalité telle qu’elle se présente.

And the first one was just to confront reality as it lays.

Nous avons réfléchi très sérieusement à des questions comme :

And that we just thought really hard about like:

What is it going to take to make progress here?

« Que faut-il faire pour progresser ? »

We tried a lot of things that didn't work, so you only see the things that did.

Beaucoup de choses n’ont pas fonctionné, vous voyez le reste.

La chose la plus importante a été de réunir

And I think that the most important thing has been to get teams of people

des personnes très différentes et de les faire travailler de manière harmonieuse.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

CA : Pourrions-nous avoir de l’eau ?

Je pense que nous allons en avoir besoin.

I think we're going to need it, it's a dry-mouth topic.

But isn't there something also just about the fact

Mais n’y a-t-il pas aussi quelque chose dans le fait

that you saw something in these language models

que vous ayez vu quelque chose dans ces modèles linguistiques

that meant that if you continue to invest in them and grow them,

qui a permis en continuant à investir dans ces modèles et à les développer,

that something at some point might emerge?

Que quelque chose puisse émerger à un moment ou à un autre ?

GB: Yes.

GB : Oui.

And I think that, I mean, honestly,

Et honnêtement, je pense que l’histoire est assez édifiante.

I think the story there is pretty illustrative, right?

L’apprentissage profond de haut niveau, comme nous savions ce que nous voulions,

I think that high level, deep learning,

like we always knew that was what we wanted to be,

c’était une expé.

was a deep learning lab, and exactly how to do it?

Comment le faire exactement ?

Je pense qu'au début, nous ne le savions pas.

I think that in the early days, we didn't know.

On a essayé plein de choses,

We tried a lot of things,

Une personne travaillait sur l’entraînement d’un modèle

and one person was working on training a model

to predict the next character in Amazon reviews,

prédisant la lettre suivante dans les commentaires d’Amazon,

and he got a result where -- this is a syntactic process,

et il a obtenu un résultat - c’est un processus syntaxique,

you expect, you know, the model will predict where the commas go,

le modèle va prédire où vont les virgules,

where the nouns and verbs are.

où sont les noms et les verbes.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Mais il a en fait obtenu un logiciel d’analyse de sentiment.

This model could tell you if a review was positive or negative.

Il pouvait dire si une critique était positive ou négative.

I mean, today we are just like, come on, anyone can do that.

Aujourd’hui, tout le monde sait faire cela.

But this was the first time that you saw this emergence,

Mais c’était la première fois que l’on voyait cette émergence,

this sort of semantics that emerged from this underlying syntactic process.

cette sorte de sémantique qui émergeait de ce processus syntaxique sous-jacent.

And there we knew, you've got to scale this thing,

On savait qu’il fallait passer à l’échelle, voir où ça allait.

you've got to see where it goes.

CA : Cela permet d’expliquer

CA: So I think this helps explain

l’énigme qui déconcerte ceux qui s’y intéressent.

the riddle that baffles everyone looking at this,

Car ces objets sont décrits comme des machines à prédire.

because these things are described as prediction machines.

Et pourtant, ce qui en sort donne l’impression...

And yet, what we're seeing out of them feels ...

it just feels impossible that that could come from a prediction machine.

Il semble impossible que cela vienne d’une machine à prédire,

Just the stuff you showed us just now.

ce que vous nous avez montré tout à l’heure.

And the key idea of emergence is that when you get more of a thing,

L’idée clé de l’émergence est que si on pousse le modèle encore plus loin,

suddenly different things emerge.

quelque chose émerge.

On voit ça chez les fourmis : elles courent partout,

It happens all the time, ant colonies, single ants run around,

mais lorsqu’on en réunit assez,

when you bring enough of them together,

you get these ant colonies that show completely emergent, different behavior.

on obtient un comportement émergent complètement différent.

Or a city where a few houses together, it's just houses together.

Comme une ville où on n’a que quelques maisons au départ.

Mais plus le nombre augmente, des choses émergent,

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

comme des banlieues, des centres culturels et des embouteillages.

Give me one moment for you when you saw just something pop

Racontez-nous quand vous avez vu surgir quelque chose

that just blew your mind

qui vous a époustouflé

that you just did not see coming.

et que vous n'aviez pas vu venir.

GB: Yeah, well,

GB : Oui, eh bien...

so you can try this in ChatGPT, if you add 40-digit numbers --

Essayez ceci dans ChatGPT : additionnez des nombres de 40 chiffres -

CA: 40-digit?

CA : 40 chiffres ? GB : Oui.

GB: 40-digit numbers, the model will do it,

Il saura le faire, ce qui signifie qu’il l’a appris.

which means it's really learned an internal circuit for how to do it.

And the really interesting thing is actually,

Mais si on lui demande d’additionner un nombre à 40 chiffres et un nombre à 35,

if you have it add like a 40-digit number plus a 35-digit number,

it'll often get it wrong.

il se trompe souvent.

And so you can see that it's really learning the process,

Vous pouvez donc voir qu'il apprend vraiment le processus,

but it hasn't fully generalized, right?

mais qu’il ne l’a pas généralisé.

It's like you can't memorize the 40-digit addition table,

On ne peut pas retenir cette table - c’est plus qu’il n’y a d’atomes dans l’univers.

that's more atoms than there are in the universe.

Il a donc appris quelque chose de général,

So it had to have learned something general,

mais pas encore totalement appris

but that it hasn't really fully yet learned that,

Oh, I can sort of generalize this to adding arbitrary numbers

qu’il peut généraliser cela à l’addition de nombres arbitraires

of arbitrary lengths.

de longueurs arbitraires.

CA : Vous lui avez permis de prendre une autre dimension

CA: So what's happened here

is that you've allowed it to scale up

and look at an incredible number of pieces of text.

et d’ingurgiter un nombre incroyable de textes.

And it is learning things

Et il apprend des choses

that you didn't know that it was going to be capable of learning.

que vous ne le pensiez pas capable d’apprendre.

GB Well, yeah, and it’s more nuanced, too.

GB Oui, mais c’est aussi plus nuancé.

So one science that we’re starting to really get good at

Une science dans laquelle on commence à être vraiment bons,

is predicting some of these emergent capabilities.

c’est prédire certaines de ces capacités émergentes.

And to do that actually,

Et pour ce faire, une des choses très sous-estimées dans ce domaine,

one of the things I think is very undersung in this field

c'est la qualité de l'ingénierie.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

Nous avons dû reprogrammer presque tout.

When you think about building a rocket,

Dans la construction d'une fusée,

every tolerance has to be incredibly tiny.

les tolérances sont incroyablement faibles.

Same is true in machine learning.

C’est pareil en apprentissage automatique, chaque programme doit être bien conçu

You have to get every single piece of the stack engineered properly,

and then you can start doing these predictions.

pour pouvoir commencer à prédire.

There are all these incredibly smooth scaling curves.

Il existe des abaques incroyablement précis

qui renseignent sur cet aspect fondamental de l’intelligence.

They tell you something deeply fundamental about intelligence.

Lisez notre blog sur GPT-4, vous y verrez toutes ces courbes.

If you look at our GPT-4 blog post,

you can see all of these curves in there.

And now we're starting to be able to predict.

Et maintenant, on commence à prédire.

Par exemple, la performance sur les problèmes de codage.

So we were able to predict, for example, the performance on coding problems.

We basically look at some models

Nous examinons des modèles 10 000 ou 1 000 fois plus petits.

that are 10,000 times or 1,000 times smaller.

And so there's something about this that is actually smooth scaling,

On a donc un passage à l’échelle en douceur,

même si nous n’en sommes qu’aux balbutiements.

even though it's still early days.

CA: So here is, one of the big fears then,

CA : Voici l’une des grandes craintes que cela suscite.

that arises from this.

If it’s fundamental to what’s happening here,

S’il est clair qu’à mesure que vous développez ce modèle,

that as you scale up,

things emerge that

émergent des choses

you can maybe predict in some level of confidence,

que vous pouvez peut-être prédire avec un certain niveau de confiance,

but it's capable of surprising you.

mais qui sont capables de vous surprendre.

Why isn't there just a huge risk of something truly terrible emerging?

Quel est le risque de voir émerger quelque chose de vraiment terrible ?

GB: Well, I think all of these are questions of degree

GB : Tout est une question de degré, d’échelle et de timing.

and scale and timing.

Une chose échappe aux gens :

And I think one thing people miss, too,

l’intégration avec le monde est aussi incroyablement émergente,

is sort of the integration with the world is also this incredibly emergent,

mais également très puissante.

sort of, very powerful thing too.

C’est pourquoi il est si important de le déployer progressivement.

And so that's one of the reasons that we think it's so important

to deploy incrementally.

C’est ce que j’ai dit juste avant :

And so I think that what we kind of see right now, if you look at this talk,

je mets tous mes efforts à obtenir un feedback de haute qualité.

a lot of what I focus on is providing really high-quality feedback.

Les tâches qui sont effectuées peuvent être inspectées.

Today, the tasks that we do, you can inspect them, right?

Comme pour le problème de maths, on sait dire :

It's very easy to look at that math problem and be like, no, no, no,

« Non, non, machine, sept était la bonne réponse. »

machine, seven was the correct answer.

Même résumer un livre est difficile à superviser.

But even summarizing a book, like, that's a hard thing to supervise.

Comment savoir s’il est bon ? Il faut le lire en entier.

Like, how do you know if this book summary is any good?

You have to read the whole book.

Personne ne veut le faire.

No one wants to do that.

(Rires)

(Laughter)

And so I think that the important thing will be that we take this step by step.

Il est donc important de procéder étape par étape.

And that we say, OK, as we move on to book summaries,

Et nous décidons de passer aux résumés de livres,

we have to supervise this task properly.

nous devons le superviser correctement.

We have to build up a track record with these machines

Nous devons conserver la trace de ce qu’elles font

that they're able to actually carry out our intent.

pour vérifier qu’elles peuvent réaliser nos objectifs.

And I think we're going to have to produce even better, more efficient,

Nous devons trouver des façons encore meilleures, plus efficaces,

more reliable ways of scaling this,

plus fiables pour passer à l’échelle,

sort of like making the machine be aligned with you.

pour que la machine s’aligne sur vous.

CA: So we're going to hear later in this session,

CA : Nous entendrons plus tard des critiques qui disent

there are critics who say that,

you know, there's no real understanding inside,

qu’il n’y a pas de véritable compréhension,

the system is going to always --

que le système va toujours -

we're never going to know that it's not generating errors,

que nous n’allons jamais savoir s’il ne génère pas d’erreurs,

that it doesn't have common sense and so forth.

qu’il n’a pas de bon sens, etc.

Is it your belief, Greg, that it is true at any one moment,

Pensez-vous, Greg - c’est vrai à un moment donné -

but that the expansion of the scale and the human feedback

que le passage à l’échelle et le feedback humain dont vous avez parlé

that you talked about is basically going to take it on that journey

vont fondamentalement l’emmener sur le chemin

of actually getting to things like truth and wisdom and so forth,

de la vérité, de la sagesse, etc.,

with a high degree of confidence.

avec un haut degré de confiance.

Can you be sure of that?

Pouvez-vous en être sûr ?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

GB : Je pense qu’OpenAI - La réponse courte est oui.

I believe that is where we're headed.

Je crois qu’on se dirige vers ça.

And I think that the OpenAI approach here has always been just like,

L’approche d’OpenAI a toujours été de nous confronter à la réalité.

let reality hit you in the face, right?

It's like this field is the field of broken promises,

Ce domaine est celui des promesses non tenues,

des experts qui prédisent une chose, alors qu’une autre arrive.

of all these experts saying X is going to happen, Y is how it works.

On dit depuis 70 ans que les réseaux neuronaux ne fonctionnent pas - exact.

People have been saying neural nets aren't going to work for 70 years.

They haven't been right yet.

Peut-être qu’il faut encore attendre un an de plus.

They might be right maybe 70 years plus one

or something like that is what you need.

Mais notre approche, c’est :

But I think that our approach has always been,

pour voir vraiment une technologie à l’œuvre, il faut en repousser les limites

you've got to push to the limits of this technology

car c'est ainsi que l'on peut passer à un nouveau paradigme.

to really see it in action,

because that tells you then, oh, here's how we can move on to a new paradigm.

On n’en a pas encore exploré toutes les possibilités.

And we just haven't exhausted the fruit here.

CA : Vous avez adopté une position controversée,

CA: I mean, it's quite a controversial stance you've taken,

dire que la bonne façon de faire est de la rendre publique

that the right way to do this is to put it out there in public

et de l’exploiter.

and then harness all this, you know,

Au lieu que ce soit votre équipe,

instead of just your team giving feedback,

the world is now giving feedback.

c’est le monde entier qui donne un feedback.

But ...

Mais,

If, you know, bad things are going to emerge,

si de mauvaises choses doivent émerger, c’est trop tard.

it is out there.

L’histoire originale que j’ai entendue sur OpenAI,

So, you know, the original story that I heard on OpenAI

when you were founded as a nonprofit,

fondée sans but non lucratif,

well you were there as the great sort of check on the big companies

était que vous serviriez de contrôle sur les grandes entreprises

doing their unknown, possibly evil thing with AI.

qui faisaient des choses inconnues, et peut-être maléfiques, avec l’IA.

And you were going to build models that sort of, you know,

Vous alliez construire des modèles qui leur demanderaient des comptes

somehow held them accountable

and was capable of slowing the field down, if need be.

et seraient capables de freiner l’IA, si nécessaire.

Or at least that's kind of what I heard.

C’est ce que j’ai entendu.

And yet, what's happened, arguably, is the opposite.

Et pourtant, ce qui s’est passé, c’est le contraire.

That your release of GPT, especially ChatGPT,

Votre lancement de GPT, et en particulier de ChatGPT,

sent such shockwaves through the tech world

a provoqué une telle onde de choc

that now Google and Meta and so forth are all scrambling to catch up.

que Google, Meta et d’autres essaient frénétiquement de rattraper leur retard.

And some of their criticisms have been,

Certaines de leurs critiques ont été que

you are forcing us to put this out here without proper guardrails or we die.

vous les forcez à sortir cela sans garde-fous appropriés, sinon ils meurent.

You know, how do you, like,

Comment faites-vous pour démontrer

make the case that what you have done is responsible here and not reckless.

que ce que vous avez fait est responsable et pas irréfléchi ?

GB: Yeah, we think about these questions all the time.

GB : Nous réfléchissons à ces questions tout le temps.

Like, seriously all the time.

Sérieusement, tout le temps.

And I don't think we're always going to get it right.

Je ne pense pas que nous ayons toujours raison.

But one thing I think has been incredibly important,

Mais une chose a été extrêmement importante,

depuis le début, quand on cherchait comment construire

from the very beginning, when we were thinking

about how to build artificial general intelligence,

une IA générale qui servirait à toute l’humanité.

actually have it benefit all of humanity,

Comment est-on censé faire cela ?

like, how are you supposed to do that, right?

D’ordinaire, on construit en secret,

And that default plan of being, well, you build in secret,

on obtient cette chose super-puissante,

you get this super powerful thing,

on en détermine la sécurité et on appuie sur « Go »

and then you figure out the safety of it and then you push “go,”

en espérant que tout aille bien.

and you hope you got it right.

Je ne sais pas comment faire ça, peut-être quelqu’un le sait.

I don't know how to execute that plan.

Maybe someone else does.

Mais pour moi, c’était terrifiant, ça ne m’allait pas.

But for me, that was always terrifying, it didn't feel right.

C'est pourquoi je pense que cette approche alternative

And so I think that this alternative approach

est la seule voie que je voie :

is the only other path that I see,

il faut se confronter à la réalité.

which is that you do let reality hit you in the face.

And I think you do give people time to give input.

Il faut laisser aux gens le temps de donner leur avis.

You do have, before these machines are perfect,

Avant que ces machines soient parfaites, qu’elles soient super-puissantes,

before they are super powerful, that you actually have the ability

vous devez pouvoir les voir à l’œuvre.

to see them in action.

And we've seen it from GPT-3, right?

On l’a vu avec GPT-3, non ?

Avec GPT-3, nous craignions vraiment

GPT-3, we really were afraid

that the number one thing people were going to do with it

que les gens s’en servent en premier

pour générer de la désinformation pour influencer des élections.

was generate misinformation, try to tip elections.

Instead, the number one thing was generating Viagra spam.

Et non, en premier, ils ont généré des spams pour le Viagra.

(Laughter)

(Rires)

CA: So Viagra spam is bad, but there are things that are much worse.

CA : Ça, c’est mal, mais il y a bien pire.

Voici une expérience de pensée pour vous.

Here's a thought experiment for you.

Suppose you're sitting in a room,

Supposons que vous soyez dans une pièce avec une boîte sur une table.

there's a box on the table.

You believe that in that box is something that,

Vous pensez que dans cette boîte se trouve une chose

there's a very strong chance it's something absolutely glorious

qui a de fortes chances d’être absolument glorieuse,

that's going to give beautiful gifts to your family and to everyone.

qui va offrir de beaux cadeaux à votre famille et à tout le monde.

But there's actually also a one percent thing in the small print there

Mais il est inscrit en tout petits caractères : « Pandore ».

that says: “Pandora.”

And there's a chance

Il y a une possibilité

that this actually could unleash unimaginable evils on the world.

que cela puisse lâcher des maux inimaginables sur le monde.

Do you open that box?

Ouvrez-vous cette boîte ?

GB: Well, so, absolutely not.

GB : Absolument pas.

I think you don't do it that way.

Je pense qu’il ne faut pas procéder ainsi.

And honestly, like, I'll tell you a story that I haven't actually told before,

Et honnêtement -

Je vais vous raconter une histoire que je n’ai jamais racontée.

which is that shortly after we started OpenAI,

Peu après la création d’OpenAI,

I remember I was in Puerto Rico for an AI conference.

j’étais à Porto Rico pour une conférence sur l’IA.

I'm sitting in the hotel room just looking out over this wonderful water,

J’étais dans ma chambre,

je regardais cette mer magnifique, tous ces gens qui s’amusaient.

all these people having a good time.

Pensez-y un instant, si vous pouviez choisir

And you think about it for a moment,

if you could choose for basically that Pandora’s box

d’ouvrir cette boîte de Pandore,

to be five years away

soit dans cinq ans, soit dans 500 ans,

or 500 years away,

which would you pick, right?

que choisiriez-vous ?

On the one hand you're like, well, maybe for you personally,

D’un côté, on se dit que pour soi, il vaut mieux peut-être que ce soit dans cinq ans.

it's better to have it be five years away.

But if it gets to be 500 years away and people get more time to get it right,

Mais 500 ans, c’est mieux pour bien faire les choses,

que choisissez-vous ?

which do you pick?

À cet instant-là, c’était clair :

And you know, I just really felt it in the moment.

« Bien sûr que je choisis les 500 ans. »

I was like, of course you do the 500 years.

Mon frère était dans l'armée à l'époque

My brother was in the military at the time

and like, he puts his life on the line in a much more real way

et il a risqué sa vie d'une manière bien plus réelle

than any of us typing things in computers

que n’importe qui devant un ordinateur en train de développer une IA.

and developing this technology at the time.

And so, yeah, I'm really sold on the you've got to approach this right.

Donc, oui, je suis convaincu qu’il faut aborder les choses correctement.

But I don't think that's quite playing the field as it truly lies.

Mais je ne pense pas pour autant que le problème soit celui-là.

Like, if you look at the whole history of computing,

Si vous regardez l’histoire de l’informatique -

I really mean it when I say that this is an industry-wide

je le pense vraiment - il s’agit d’un bouleversement de l’industrie

or even just almost like

voire d’un changement technologique à l’échelle du développement humain.

a human-development- of-technology-wide shift.

And the more that you sort of, don't put together the pieces

Si on retarde le moment pour assembler les pièces du puzzle -

that are there, right,

tout est là : les ordinateurs sont toujours plus rapides,

we're still making faster computers,

les algorithmes s’améliorent, tout ça est en train d’arriver -

we're still improving the algorithms, all of these things, they are happening.

And if you don't put them together, you get an overhang,

on risque d’être mis un jour devant le fait accompli.

Donc, si quelqu’un le fait,

which means that if someone does,

si quelqu’un parvient à tout assembler,

or the moment that someone does manage to connect to the circuit,

on se retrouvera avec cette chose très puissante,

then you suddenly have this very powerful thing,

personne n’aura pu s’adapter,

no one's had any time to adjust,

et qui sait quels garde-fous seront en place.

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Ce que je retiens de tout ça -

is like, even you think about development of other sort of technologies,

Si on regarde d’autres technologies, comme les armes nucléaires,

think about nuclear weapons,

people talk about being like a zero to one,

on passe instantanément de zéro à un potentiel infini.

sort of, change in what humans could do.

But I actually think that if you look at capability,

Mais si on examine les capacités,

it's been quite smooth over time.

elles ont évolué progressivement au fil du temps.

And so the history, I think, of every technology we've developed

L’histoire de toutes les technologies qu’on a développées, c’est :

has been, you've got to do it incrementally

procédons par étapes et trouvons le moyen de les gérer

and you've got to figure out how to manage it

à chaque fois qu’on augmente leurs capacités.

for each moment that you're increasing it.

CA: So what I'm hearing is that you ...

CA : Ce que j’entends, c’est que vous -

the model you want us to have

Le modèle que vous voulez voir adopté,

is that we have birthed this extraordinary child

c’est que nous avons créé cet enfant extraordinaire

that may have superpowers

qui pourrait avoir des super-pouvoirs

that take humanity to a whole new place.

qui amèneraient l’humanité dans une nouvelle phase.

It is our collective responsibility to provide the guardrails

Il est de notre responsabilité collective de fournir les garde-fous

for this child

à cet enfant

to collectively teach it to be wise and not to tear us all down.

pour lui apprendre à être sage et à ne pas nous anéantir.

Is that basically the model?

C’est ça, votre modèle ?

GB: I think it's true.

GB : Je pense que oui.

And I think it's also important to say this may shift, right?

Mais il est important de dire qu’il peut aussi changer.

We've got to take each step as we encounter it.

Nous devons avancer étape par étape.

And I think it's incredibly important today

Il est extrêmement important aujourd’hui

that we all do get literate in this technology,

de tous se familiariser avec cette technologie,

figure out how to provide the feedback,

de savoir donner un feedback et de décider quoi en faire.

decide what we want from it.

And my hope is that that will continue to be the best path,

J’espère que cela continuera à être la bonne voie,

mais c’est bien que nous ayons ce débat,

but it's so good we're honestly having this debate

because we wouldn't otherwise if it weren't out there.

parce que nous ne l’aurions pas si on n’avait pas publié ChatGPT.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

CA : Greg, merci beaucoup d’être venu à TED et de nous avoir époustouflés.

(Applause)

(Applaudissements)