The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Vertaald door: Dorien Das

We started OpenAI seven years ago

We begonnen zeven jaar geleden met OpenAI

because we felt like something really interesting was happening in AI

omdat we dachten dat er iets heel interessant gebeurde in AI

and we wanted to help steer it in a positive direction.

we wilden helpen het in een positieve richting te sturen.

It's honestly just really amazing to see

Het is geweldig om te zien

how far this whole field has come since then.

hoever dit hele terrein nu is gekomen.

And it's really gratifying to hear from people like Raymond

Het is heel bevredigend om van mensen als Raymond te horen

who are using the technology we are building, and others,

die onze technologie gebruiken, en anderen,

for so many wonderful things.

voor zoveel geweldige dingen.

We hear from people who are excited,

We horen van enthousiaste mensen,

we hear from people who are concerned,

we horen van bezorgde mensen,

we hear from people who feel both those emotions at once.

we horen van mensen die beide emoties tegelijk voelen.

And honestly, that's how we feel.

En eerlijk gezegd, voelen wij ons ook zo.

Above all, it feels like we're entering an historic period right now

Het voelt vooral alsof we nu een een historische fase ingaan

where we as a world are going to define a technology

waar we als wereld een technologie zullen definiëren

that will be so important for our society going forward.

die heel belangrijk zal zijn voor onze toekomstige samenleving.

And I believe that we can manage this for good.

Ik geloof dat we dit voor altijd kunnen vastleggen.

So today, I want to show you the current state of that technology

Ik wil jullie de huidige status van die technologie laten zien

and some of the underlying design principles that we hold dear.

en enkele ontwerpprincipes die ons dierbaar zijn.

So the first thing I'm going to show you

Het eerste wat ik ga laten zien

is what it's like to build a tool for an AI

is hoe je een tool bouwt voor AI

in plaats van voor een mens.

rather than building it for a human.

So we have a new DALL-E model, which generates images,

We gebruiken een nieuw DALL-E-model, dat afbeeldingen genereert,

and we are exposing it as an app for ChatGPT to use on your behalf.

we geven het uit als een app voor ChatGPT.

And you can do things like ask, you know,

Je kunt nu dingen vragen,

suggest a nice post-TED meal and draw a picture of it.

stel een lekkere post-TED maaltijd voor en maak er een tekening van.

(Laughter)

(Gelach)

Now you get all of the, sort of, ideation and creative back-and-forth

Je krijgt nu allerlei bedenksels en creatieve ideeën.

and taking care of the details for you that you get out of ChatGPT.

ChatGPT zorgt voor de details.

And here we go, it's not just the idea for the meal,

Het is meer dan een idee voor een maaltijd,

but a very, very detailed spread.

maar een zeer, gedetailleerde spread.

So let's see what we're going to get.

Laten we zien wat we krijgen.

But ChatGPT doesn't just generate images in this case --

ChatGPT genereert niet alleen tekst,

sorry, it doesn't generate text, it also generates an image.

het genereert ook afbeeldingen.

And that is something that really expands the power

Dit breidt de kracht enorm uit

of what it can do on your behalf in terms of carrying out your intent.

wanneer het jouw intentie uitvoert.

And I'll point out, this is all a live demo.

Deze demo is volledig live.

This is all generated by the AI as we speak.

Dit wordt allemaal nu door de AI gegenereerd.

So I actually don't even know what we're going to see.

Dus ik weet niet wat we te zien krijgen.

This looks wonderful.

Dit ziet er fantastisch uit.

(Applause)

(Applaus)

I'm getting hungry just looking at it.

Ik krijg al honger als ik ernaar kijk.

Now we've extended ChatGPT with other tools too,

We hebben ChatGPT ook uitgebreid met andere tools,

for example, memory.

geheugen, bijvoorbeeld.

You can say "save this for later."

Je kunt zeggen "bewaar dit voor later".

And the interesting thing about these tools

Het interessante van deze tools is

dat ze te controleren zijn.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

Deze pop-up zegt "gebruik de DALL-E-app".

Dit wordt binnenkort beschikbaar voor alle ChatGPT gebruikers.

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

Hiermee kun je een kijkje nemen.

And you can look under the hood and see that what it actually did

Het heeft een prompt geschreven zoals een mens dat kan.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Je hebt deze mogelijkheden om te inspecteren

how the machine is using these tools,

hoe de machine deze tools gebruikt,

which allows us to provide feedback to them.

waardoor we ze feedback kunnen geven.

Now it's saved for later,

We hebben het opgeslagen

and let me show you what it's like to use that information

en ik zal je laten zien hoe je die informatie kunt gebruiken

and to integrate with other applications too.

en integreren in andere toepassingen.

You can say,

Je kunt nu zeggen

“Now make a shopping list for the tasty thing

"Maak nu een boodschappenlijstje voor het lekkers

I was suggesting earlier.”

dat ik eerder voorstelde".

And make it a little tricky for the AI.

Om het AI een beetje moeilijk te maken.

"And tweet it out for all the TED viewers out there."

"En tweet het naar alle TED-kijkers hier".

(Laughter)

(Gelach)

So if you do make this wonderful, wonderful meal,

Dus als je deze heerlijke maaltijd maakt,

I definitely want to know how it tastes.

wil ik zeker weten hoe het smaakt.

But you can see that ChatGPT is selecting all these different tools

Je ziet dat ChatGPT al deze verschillende tools selecteert

without me having to tell it explicitly which ones to use in any situation.

zonder dat ik specifiek vertel welke het in deze situatie moet gebruiken.

And this, I think, shows a new way of thinking about the user interface.

Dit toont een nieuwe manier van denken over de gebruikersinterface.

Like, we are so used to thinking of, well, we have these apps,

We zijn zo gewend aan de apps die we hebben,

we click between them, we copy/paste between them,

we klikken en kopiëren/plakken tussen apps

meestal geeft dit een prima ervaring

and usually it's a great experience within an app

zolang je de menu's en opties een beetje kent.

as long as you kind of know the menus and know all the options.

Ja, dat zou ik graag willen.

Yes, I would like you to.

Yes, please.

Ja, graag.

Always good to be polite.

Altijd beleefd blijven.

(Laughter)

(Gelach)

And by having this unified language interface on top of tools,

Door deze uniforme taalinterface bovenop de tools,

the AI is able to sort of take away all those details from you.

kan de AI al die details van je overnemen.

So you don't have to be the one

Jij hoeft dus niet zelf

who spells out every single sort of little piece

alle kleine stappen uit te leggen

of what's supposed to happen.

over wat er zou moeten gebeuren.

And as I said, this is a live demo,

Dit is een live demo,

so sometimes the unexpected will happen to us.

dus kan er iets onverwachts gebeuren.

But let's take a look at the Instacart shopping list while we're at it.

Laten we eens kijken naar de Instacart-boodschappenlijst.

And you can see we sent a list of ingredients to Instacart.

Kijk, we hebben een lijst met ingrediënten naar Instacart gestuurd.

Here's everything you need.

Dit is alles wat je nodig hebt.

And the thing that's really interesting

Wat echt interessant is,

is that the traditional UI is still very valuable, right?

is dat de traditionele UI nog steeds erg waardevol is.

If you look at this,

Kijk maar.

you still can click through it and sort of modify the actual quantities.

Je kunt er doorheen klikken en de hoeveelheden aanpassen.

And that's something that I think shows

Dat laat volgens mij zien

that they're not going away, traditional UIs.

dat traditionele UI's niet zullen verdwijnen.

It's just we have a new, augmented way to build them.

Ze worden op een nieuwe, betere manier gebouwd.

And now we have a tweet that's been drafted for our review,

Deze tweet is opgesteld voor onze beoordeling,

which is also a very important thing.

wat ook heel belangrijk is.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

Als we op " run" klikken, zijn we manager en we kunnen controleren.

we're able to change the work of the AI if we want to.

We kunnen het werk van de AI wijzigen als we dat willen.

And so after this talk, you will be able to access this yourself.

Dus na dit verhaal, kun je dit zelf proberen.

And there we go.

Daar gaan we.

Cool.

Gaaf.

Thank you, everyone.

Bedankt allemaal.

(Applause)

(Applaus)

So we’ll cut back to the slides.

We gaan terug naar de dia's.

Now, the important thing about how we build this,

Het belangrijkste over de manier waarop we dit bouwen,

it's not just about building these tools.

is dat het niet alleen om deze tools gaat.

It's about teaching the AI how to use them.

We willen AI leren hoe ze te gebruiken.

Like, what do we even want it to do

Wat willen we dat het doet

when we ask these very high-level questions?

wanneer we vragen van hoog niveau stellen?

And to do this, we use an old idea.

Laten we een oud idee gebruiken.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

Alan Turing zegt in zijn artikel over de Turingtest uit 1950,

you'll never program an answer to this.

dat er geen antwoord geprogrammeerd kan worden.

Instead, you can learn it.

Maar je kan het leren.

You could build a machine, like a human child,

Je kan een machine bouwen, zoals een kind

and then teach it through feedback.

en het dan via feedback dingen leren.

Have a human teacher who provides rewards and punishments

Met een menselijke leraar die beloningen en straffen geeft

as it tries things out and does things that are either good or bad.

terwijl het dingen uitprobeert die goed of slecht zijn.

And this is exactly how we train ChatGPT.

Zo trainen we ChatGPT ook.

It's a two-step process.

Het zijn twee stappen.

First, we produce what Turing would have called a child machine

We maken wat Turing een kindmachine genoemd zou hebben,

through an unsupervised learning process.

via een proces van leren zonder toezicht.

We just show it the whole world, the whole internet

We laten het op internet zien en zeggen:

and say, “Predict what comes next in text you’ve never seen before.”

"Voorspel wat hierna gebeurt in tekst die je niet kent".

Dit proces geeft het allerlei prachtige vaardigheden.

And this process imbues it with all sorts of wonderful skills.

For example, if you're shown a math problem,

Als je een wiskundig probleem hebt,

is de enige manier om het op te lossen,

the only way to actually complete that math problem,

to say what comes next,

te zeggen wat erna komt.

Die groene negen daarboven,

that green nine up there,

is to actually solve the math problem.

lost het probleem op.

But we actually have to do a second step, too,

Maar we moeten ook een tweede stap nemen,

which is to teach the AI what to do with those skills.

AI leren wat het met de vaardigheden moet doen.

Daarom geven we feedback.

And for this, we provide feedback.

We have the AI try out multiple things, give us multiple suggestions,

We laten de AI dingen uitproberen en suggesties geven.

Daarna zegt een mens: "Deze is beter dan die".

and then a human rates them, says “This one’s better than that one.”

Dit versterkt het specifieke ding dat AI zei

And this reinforces not just the specific thing that the AI said,

en het hele proces dat de AI gebruikte om tot dat antwoord te komen.

but very importantly, the whole process that the AI used to produce that answer.

Hierdoor kan het generaliseren.

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

Hiermee kan het leren, om je intentie af te leiden

and apply it in scenarios that it hasn't seen before,

en het toepassen in scenario's die nieuw zijn,

that it hasn't received feedback.

waarop geen feedback is gegeven.

Now, sometimes the things we have to teach the AI

Soms moeten we AI dingen leren

are not what you'd expect.

die je niet verwacht.

For example, when we first showed GPT-4 to Khan Academy,

Toen we GPT-4 lieten zien aan Khan Academy,

they said, "Wow, this is so great,

zeiden ze: "Dit is geweldig,

We're going to be able to teach students wonderful things.

hiermee kunnen we studenten geweldige dingen leren.

Only one problem, it doesn't double-check students' math.

Er is één probleem, het controleert de wiskunde van de studenten niet.

If there's some bad math in there,

Als er slechte wiskunde in zit,

it will happily pretend that one plus one equals three and run with it."

doet het alsof één plus één drie is en gaat ermee aan de slag".

So we had to collect some feedback data.

We moesten feedback verzamelen.

Sal Khan himself was very kind

Sal Khan was heel aardig

and offered 20 hours of his own time to provide feedback to the machine

en gaf 20 uur van zijn eigen tijd om feedback te geven aan de machine,

alongside our team.

samen met ons team.

And over the course of a couple of months we were able to teach the AI that,

Binnen een paar maanden konden we AI leren:

"Hey, you really should push back on humans

"Je moet echt verzet bieden tegen mensen

in this specific kind of scenario."

in dit specifieke soort scenario's".

And we've actually made lots and lots of improvements to the models this way.

We hebben op deze manier veel modellen verbeterd.

And when you push that thumbs down in ChatGPT,

Als je 'duim omlaag' kiest in ChatGPT,

that actually is kind of like sending up a bat signal to our team to say,

stuur je ons team het signaal:

"Hier zit een zwakke plek waarop feedback moet komen".

“Here’s an area of weakness where you should gather feedback.”

And so when you do that,

Als je dat doet,

that's one way that we really listen to our users

luisteren we echt naar onze gebruikers

and make sure we're building something that's more useful for everyone.

en zorgen we ervoor dat we iets bouwen dat iedereen kan gebruiken.

Now, providing high-quality feedback is a hard thing.

Goede feedback geven is moeilijk.

If you think about asking a kid to clean their room,

Als je kinderen vraagt hun kamer schoon te maken

if all you're doing is inspecting the floor,

en je bekijkt alleen de vloer,

you don't know if you're just teaching them to stuff all the toys in the closet.

leren ze dat ze hun speelgoed gewoon in de kast kunnen stoppen.

This is a nice DALL-E-generated image, by the way.

Dit is een mooie door DALL-E gegenereerde afbeelding.

And the same sort of reasoning applies to AI.

Hetzelfde geldt voor AI.

As we move to harder tasks,

Hoe moeilijker de taken worden,

we will have to scale our ability to provide high-quality feedback.

hoe beter we onze feedback moeten leren schalen.

But for this, the AI itself is happy to help.

Ook hierbij kan AI ons helpen.

It's happy to help us provide even better feedback

Het helpt ons nog betere feedback te geven

and to scale our ability to supervise the machine as time goes on.

en ons toezicht op de machine met de tijd aan te passen.

And let me show you what I mean.

Ik zal het laten zien.

For example, you can ask GPT-4 a question like this,

Je kunt GPT-4 bijvoorbeeld vragen:

of how much time passed between these two foundational blogs

hoeveel tijd zit er tussen twee fundamentele blogs

on unsupervised learning

over leren zonder toezicht

and learning from human feedback.

en leren van menselijke feedback.

And the model says two months passed.

Het model zegt: twee maanden.

But is it true?

Is dat waar?

Like, these models are not 100-percent reliable,

Deze modellen zijn niet 100% betrouwbaar,

although they’re getting better every time we provide some feedback.

hoewel ze steeds beter worden wanneer we feedback geven.

But we can actually use the AI to fact-check.

We kunnen AI gebruiken om feiten te controleren.

And it can actually check its own work.

Het kan zijn eigen werk controleren.

You can say, fact-check this for me.

Je zegt: controleer dit op feiten.

Now, in this case, I've actually given the AI a new tool.

In dit geval heb ik eigenlijk de AI een nieuwe tool gegeven.

This one is a browsing tool

Dit is een browse-tool.

where the model can issue search queries and click into web pages.

Het model kan er zoekopdrachten aan geven en naar webpagina's klikken.

And it actually writes out its whole chain of thought as it does it.

Het schrijft zijn hele gedachtegang uit terwijl het dat doet.

It says, I’m just going to search for this and it actually does the search.

Het zegt "Ik ga hiernaar zoeken" en voert de zoekopdracht uit.

It then it finds the publication date and the search results.

Het vindt dan de publicatiedatum en zoekresultaten

It then is issuing another search query.

Daarna zoekt het verder.

It's going to click into the blog post.

Het klikt op de blogpost.

And all of this you could do, but it’s a very tedious task.

Dit kun je zelf doen, maar het is een vervelende taak.

It's not a thing that humans really want to do.

Het is niet iets wat mensen leuk vinden.

It's much more fun to be in the driver's seat,

Het is veel leuker om te sturen,

om manager te zijn, wanneer je kunt, als je wilt,

to be in this manager's position where you can, if you want,

triple-check the work.

check je het nogmaals.

Nu komen de citaten.

And out come citations

so you can actually go

Hiermee kun je

and very easily verify any piece of this whole chain of reasoning.

elk deel van de redenering gemakkelijk verifiëren.

And it actually turns out two months was wrong.

"Twee maanden" was dus fout.

Two months and one week,

"Twee maanden en één week",

that was correct.

was het juiste antwoord.

(Applause)

(Applaus)

And we'll cut back to the side.

We gaan terug naar de dia.

And so thing that's so interesting to me about this whole process

Wat ik zo interessant vind aan dit hele proces

is that it’s this many-step collaboration between a human and an AI.

is de uitgebreide samenwerking tussen een mens en AI.

Because a human, using this fact-checking tool

Een mens wil met deze controle

is doing it in order to produce data

gegevens produceren,

for another AI to become more useful to a human.

zodat een andere AI nuttiger wordt voor een mens.

And I think this really shows the shape of something

Ik denk dat dit echt de vorm laat zien

that we should expect to be much more common in the future,

van wat we in de toekomst steeds vaker gaan zien.

where we have humans and machines kind of very carefully

Waarbij mensen en machines heel zorgvuldig

and delicately designed in how they fit into a problem

en delicaat worden ontworpen om in een bepaald probleem te passen

and how we want to solve that problem.

en hoe we dat probleem willen oplossen.

We make sure that the humans are providing the management, the oversight,

We zorgen dat mensen het beheer, het toezicht

en de feedback leveren,

the feedback,

de machines werken zo dat ze controleerbaar

and the machines are operating in a way that's inspectable

en betrouwbaar zijn.

and trustworthy.

Samen kunnen we nog betrouwbaardere machines maken.

And together we're able to actually create even more trustworthy machines.

Ik denk dat wanneer we dit voor elkaar krijgen,

And I think that over time, if we get this process right,

we onmogelijke problemen kunnen oplossen.

we will be able to solve impossible problems.

Ik geef je een idee van dit onmogelijke:

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

We moeten bijna elk aspect

of how we interact with computers.

van onze interactie met computers opnieuw bekijken.

For example, think about spreadsheets.

Denk eens aan spreadsheets.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

Ze bestaan al zo'n 40 jaar in een bepaalde vorm, die van VisiCalc.

I don't think they've really changed that much in that time.

Ze zijn in die tijd niet echt veranderd.

And here is a specific spreadsheet of all the AI papers on the arXiv

Dit is een concrete spreadsheet van alle AI-papers op de arXiv

for the past 30 years.

van de laatste 30 jaar.

There's about 167,000 of them.

Er zijn er ongeveer 167.000.

And you can see there the data right here.

Je kunt hier de gegevens zien.

But let me show you the ChatGPT take on how to analyze a data set like this.

Ik laat je de aanpak zien van ChatGPT van hoe je zo'n dataset analyseert.

So we can give ChatGPT access to yet another tool,

We geven ChatGPT nu toegang tot een andere tool,

this one a Python interpreter,

deze een Python-interpreter,

so it’s able to run code, just like a data scientist would.

zodat het code kan uitvoeren, net als een datawetenschapper.

And so you can just literally upload a file

Ik kan dus een bestand uploaden

and ask questions about it.

en er vragen over stellen.

And very helpfully, you know, it knows the name of the file and it's like,

Het is ook handig dat het de bestandsnaam weet, en zegt:

"Oh, this is CSV," comma-separated value file,

"Een CSV-bestand", de waarden zijn door komma's gescheiden,

"I'll parse it for you."

"Ik zal het parseren".

The only information here is the name of the file,

De enige informatie is de naam van het bestand,

the column names like you saw and then the actual data.

de kolomnamen en de eigenlijke gegevens.

And from that it's able to infer what these columns actually mean.

Daaruit kan het de betekenis van de kolommen afleiden.

Like, that semantic information wasn't in there.

De semanstische informatie staat er niet in.

Het stelt zijn wereldkennis samen door te redeneren dat:

It has to sort of, put together its world knowledge of knowing that,

“Oh yeah, arXiv is a site that people submit papers

"arXiv is een site waar mensen papers indienen,

and therefore that's what these things are and that these are integer values

daarom staan deze dingen hiervoor en dit zijn gehele waarden

and so therefore it's a number of authors in the paper,"

en betekent daarom het aantal auteurs".

Dat is mensenwerk,

like all of that, that’s work for a human to do,

en AI helpt daar graag bij.

and the AI is happy to help with it.

Ik weet niet wat ik moet vragen.

Now I don't even know what I want to ask.

So fortunately, you can ask the machine,

Nu kan ik de machine vragen:

"Can you make some exploratory graphs?"

"Kun je oriënterende grafieken maken?"

And once again, this is a super high-level instruction with lots of intent behind it.

Dit is een instructie op hoog niveau waar veel intentie achter zit.

But I don't even know what I want.

Nu weet ik niet eens wat ik wil.

And the AI kind of has to infer what I might be interested in.

AI moet nu afleiden waarin ik geïnteresseerd ben.

Het komt met een aantal goede ideeën.

And so it comes up with some good ideas, I think.

Een histogram met de auteurs per artikel,

So a histogram of the number of authors per paper,

een tijdreeks van papers per jaar, een woordwolk van de papertitels.

time series of papers per year, word cloud of the paper titles.

All of that, I think, will be pretty interesting to see.

Best interessant allemaal.

Gaaf dat dit echt kan.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

Een mooie normale verdeling.

Drie komt het meeste voor.

You see that three is kind of the most common.

Dan maakt het een grafiek van de papers per jaar.

It's going to then make this nice plot of the papers per year.

Something crazy is happening in 2023, though.

Er gebeurt iets geks in 2023.

Looks like we were on an exponential and it dropped off the cliff.

Er was een exponentiële koers en dan valt het weg.

Wat is hier aan de hand?

What could be going on there?

By the way, all this is Python code, you can inspect.

Alle Python-code kan worden gecontroleerd.

And then we'll see word cloud.

Nu de woordwolk.

So you can see all these wonderful things that appear in these titles.

Hierin zie je de dingen die in de titels voorkomen.

But I'm pretty unhappy about this 2023 thing.

Maar ik vind dit in 2023 maar niks.

It makes this year look really bad.

Nu lijkt dit een slecht jaar.

Of course, the problem is that the year is not over.

Het jaar is natuurlijk nog niet voorbij.

So I'm going to push back on the machine.

Ik ga even terugduwen.

[Waitttt that's not fair!!!

[Wacht. Dat is niet eerlijk.

2023 isn't over.

2023 is nog niet voorbij.

Welk percentage papers in 2022 was gepost vóór 13 april?]

What percentage of papers in 2022 were even posted by April 13?]

So April 13 was the cut-off date I believe.

13 april was geloof ik de sluitingsdatum.

Can you use that to make a fair projection?

[Kan je dat gebruiken voor een eerlijke projectie?]

So we'll see, this is the kind of ambitious one.

We zullen zien dat dit vrij ambitieus is.

(Laughter)

(Gelach)

So you know,

Dus je weet,

again, I feel like there was more I wanted out of the machine here.

ik wil hier meer uit de machine krijgen.

I really wanted it to notice this thing,

Ik wil dat het dit eruit pikt.

maybe it's a little bit of an overreach for it

Misschien is het teveel gevraagd

to have sort of, inferred magically that this is what I wanted.

dat het op magische wijze moest weten wat ik wilde.

But I inject my intent,

Ik heb mijn intentie ingevoerd

I provide this additional piece of, you know, guidance.

en nu voeg ik wat begeleiding toe.

And under the hood,

Achter de schermen

the AI is just writing code again, so if you want to inspect what it's doing,

schrijft AI weer code, dus als je wilt controleren wat het doet,

it's very possible.

is dat prima mogelijk.

And now, it does the correct projection.

Nu geeft het de juiste projectie.

(Applause)

(Applaus)

If you noticed, it even updates the title.

Kijk, het heeft de titel bijgewerkt.

I didn't ask for that, but it know what I want.

Dat vraag ik niet, het weet wat ik wil.

Now we'll cut back to the slide again.

We gaan terug naar de dia.

This slide shows a parable of how I think we ...

Hier zien we een parabel over hoe ik denk dat we...

A vision of how we may end up using this technology in the future.

een visie over hoe we technologie in de toekomst kunnen gebruiken.

A person brought his very sick dog to the vet,

Iemand brengt zijn zieke hond naar de dierenarts.

and the veterinarian made a bad call to say, “Let’s just wait and see.”

De dierenarts maakt een verkeerde keuze en zegt: "We kijken het aan".

And the dog would not be here today had he listened.

Als hij had geluisterd, zou de hond niet meer leven.

In the meanwhile, he provided the blood test,

Hij voert de bloedtest

like, the full medical records, to GPT-4,

met de medische gegevens in GPT-4 in

which said, "I am not a vet, you need to talk to a professional,

en deze zegt: "Ik ben geen dierenarts, die moet je raadplegen,

here are some hypotheses."

dit zijn hypotheses".

He brought that information to a second vet

Hij geeft dit door aan een tweede dierenarts,

who used it to save the dog's life.

die hiermee het leven van de hond redt.

Now, these systems, they're not perfect.

Deze systemen zijn niet perfect.

You cannot overly rely on them.

Je kunt er niet teveel op leunen.

But this story, I think, shows

Dit verhaal toont

that a human with a medical professional

dat een mens en een professional,

and with ChatGPT as a brainstorming partner

met ChatGPT als brainstormpartner

was able to achieve an outcome that would not have happened otherwise.

een resultaat heeft bereikt dat anders niet mogelijk was.

I think this is something we should all reflect on,

Hier zouden we allemaal over moeten nadenken,

think about as we consider how to integrate these systems

nu we deze systemen willen integreren

in de wereld.

into our world.

And one thing I believe really deeply,

Iets waar ik echt in geloof

is that getting AI right is going to require participation from everyone.

is dat iedereen moet meewerken om AI goed te implementeren

And that's for deciding how we want it to slot in,

Om te beslissen hoe we het willen inpassen,

that's for setting the rules of the road,

om de regels vast te stellen,

for what an AI will and won't do.

wat AI wel en niet mag doen.

And if there's one thing to take away from this talk,

Dit kun je alvast meenemen uit dit verhaal:

it's that this technology just looks different.

deze technologie ziet er vooral anders uit.

Just different from anything people had anticipated.

Anders dan mensen hadden verwacht.

And so we all have to become literate.

Dus we moeten de taal leren.

And that's, honestly, one of the reasons we released ChatGPT.

Dat is een van de redenen voor de release van ChatGPT.

Together, I believe that we can achieve the OpenAI mission

Samen kunnen we de OpenAI-missie waarmaken

of ensuring that artificial general intelligence

om ervoor te zorgen dat algemene AI

benefits all of humanity.

de hele mensheid ten goede komt.

Thank you.

Bedankt.

(Applause)

(Applaus)

(Applause ends)

(Applaus stopt)

Chris Anderson: Greg.

Chris Anderson: Greg.

Wow.

Wauw.

I mean ...

Ik bedoel...

I suspect that within every mind out here

Ik vermoed dat het iedereen hier

there's a feeling of reeling.

naast dat het ons duizelt.

Like, I suspect that a very large number of people viewing this,

Ik denk dat bij een groot aantal mensen die dit kijken,

you look at that and you think, “Oh my goodness,

denken: "Oh mijn hemel,

pretty much every single thing about the way I work, I need to rethink."

ik moet bijna mijn hele manier van werken herzien".

Like, there's just new possibilities there.

Hier liggen nieuwe mogelijkheden. Toch?

Am I right?

Wie denkt dat hun manier van werken zal moeten worden herzien?

Who thinks that they're having to rethink the way that we do things?

Yeah, I mean, it's amazing,

Het is geweldig

but it's also really scary.

en ook heel eng.

So let's talk, Greg, let's talk.

Dus laten we praten, Greg.

I mean, I guess my first question actually is just

Mijn eerste vraag is:

how the hell have you done this?

hoe heb je dit geflikt?

(Laughter)

(Gelach)

OpenAI has a few hundred employees.

OpenAI telt een paar honderd werknemers.

Google has thousands of employees working on artificial intelligence.

Google heeft duizenden werknemers die aan AI werken.

Why is it you who's come up with this technology

Hoe komt het dat jij met deze technologie komt

that shocked the world?

die de wereld schokt?

Greg Brockman: I mean, the truth is,

Greg Brockman: Nou,

we bouwen op de schouders van reuzen, zonder twijfel.

we're all building on shoulders of giants, right, there's no question.

Kijk naar de rekenvoortgang,

If you look at the compute progress,

algoritme-ontwikkeling, gegevensvoortgang,

the algorithmic progress, the data progress,

die zijn echt allemaal sectorbreed.

all of those are really industry-wide.

Maar met OpenAI,

hebben we vanaf het begin heel bewuste keuzes gemaakt.

But I think within OpenAI,

we made a lot of very deliberate choices from the early days.

De eerste was om de realiteit onder ogen zien.

And the first one was just to confront reality as it lays.

We hebben goed nagedacht over:

And that we just thought really hard about like:

What is it going to take to make progress here?

hoe kunnen we vooruitgang boeken?

We tried a lot of things that didn't work, so you only see the things that did.

We hebben veel geprobeerd, je ziet nu alleen wat werkt.

Het belangrijkste is geweest om teams van mensen

And I think that the most important thing has been to get teams of people

die veel van elkaar verschillen harmonieus samen te laten werken.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

CA: Mogen we het water hier hebben?

We zullen het nodig hebben, we krijgen een droge mond van dit thema.

I think we're going to need it, it's a dry-mouth topic.

But isn't there something also just about the fact

Hoe kwam het

that you saw something in these language models

dat je iets zag in de taalmodellen,

that meant that if you continue to invest in them and grow them,

want als je in ze blijft investeren en ze laat groeien,

that something at some point might emerge?

zal er op een gegeven moment iets tevoorschijn komen?

GB: Yes.

GB: Ja.

And I think that, I mean, honestly,

Eerlijk gezegd,

I think the story there is pretty illustrative, right?

Het verhaal is vrij illustratief, toch?

I think that high level, deep learning,

Deep learning op hoog niveau,

like we always knew that was what we wanted to be,

we wisten altijd al dat het zo moest zijn, een deep learning-lab.

was a deep learning lab, and exactly how to do it?

In het begin wisten we het niet.

I think that in the early days, we didn't know.

We hebben veel geprobeerd.

We tried a lot of things,

Een persoon werkte aan de training van een model

and one person was working on training a model

om het volgende personage in Amazon-recensies te voorspellen.

to predict the next character in Amazon reviews,

and he got a result where -- this is a syntactic process,

Hij had succes. Het is een syntactisch proces.

you expect, you know, the model will predict where the commas go,

Het model zou de plaats van de komma's voorspellen

where the nouns and verbs are.

en zelfstandige naamwoorden en werkwoorden.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Maar het was een indeler voor ultramoderne sentimentanalyse.

This model could tell you if a review was positive or negative.

Dit model vertelt je of een recensie positief of negatief is.

I mean, today we are just like, come on, anyone can do that.

Nu denken we: iedereen kan dat.

But this was the first time that you saw this emergence,

Maar dit was voor het eerst

this sort of semantics that emerged from this underlying syntactic process.

dat dit soort semantiek voortkwam uit dit onderliggende syntactische proces.

And there we knew, you've got to scale this thing,

Het moest geschaald worden om te zien waar het naartoe leidt.

you've got to see where it goes.

CA: Dit helpt verklaren

CA: So I think this helps explain

wat iedereen die hier naar kijkt verbijstert,

the riddle that baffles everyone looking at this,

because these things are described as prediction machines.

want ze worden beschreven als voorspelmachines?

Toch lijkt het

And yet, what we're seeing out of them feels ...

it just feels impossible that that could come from a prediction machine.

of dit onmogelijk uit een voorspelmachine kan komen.

Just the stuff you showed us just now.

Alleen al wat je ons hebt laten zien.

And the key idea of emergence is that when you get more of a thing,

Emergentie werkt zo dat als je meer van iets hebt,

suddenly different things emerge.

er iets ander uitkomt.

Het is gewoon. Individuele mieren lopen maar wat rond,

It happens all the time, ant colonies, single ants run around,

als je er genoeg samenbrengt,

when you bring enough of them together,

ontstaan er kolonies die volledig emergent, anders gedrag vertonen.

you get these ant colonies that show completely emergent, different behavior.

Or a city where a few houses together, it's just houses together.

Een stad met een enkel huis, is niks dan wat huizen bij elkaar.

Maar als het aantal huizen groeit,

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

onstaan er dingen, zoals buitenwijken, culturele centra en files.

Give me one moment for you when you saw just something pop

Vertel eens over een moment dat je iets zag

that just blew your mind

wat je versteld deed staan,

that you just did not see coming.

dat je gewoon niet zag aankomen.

GB: Yeah, well,

GB: Nou,

so you can try this in ChatGPT, if you add 40-digit numbers --

probeer dit eens in ChatGPT, voeg getallen van 40 cijfers toe.

CA: 40-digit?

CA: 40 cijfers?

GB: 40-digit numbers, the model will do it,

GB: Ja, het model doet het,

which means it's really learned an internal circuit for how to do it.

wat betekent dat het een intern circuit echt kent.

And the really interesting thing is actually,

Het interessante is,

als je het een 40-cijferig getal plus een 35-cijferig getal laat toevoegen,

if you have it add like a 40-digit number plus a 35-digit number,

it'll often get it wrong.

het antwoord vaak fout is.

And so you can see that it's really learning the process,

Zo zie je dat het echt een leerproces is,

but it hasn't fully generalized, right?

maar het is nog niet algemeen geworden.

It's like you can't memorize the 40-digit addition table,

Je kunt zo'n grote opteltabel niet uit je hoofd leren.

that's more atoms than there are in the universe.

dat zijn meer atomen dan het universum telt.

So it had to have learned something general,

Dus het moet iets algemeens geleerd hebben,

but that it hasn't really fully yet learned that,

wat het nog niet volledig beheerst.

Oh, I can sort of generalize this to adding arbitrary numbers

Het kan generaliseren door getallen toe te voegen

of arbitrary lengths.

of lengtes.

CA: So what's happened here

CA: Dus wat hier gebeurd

is that you've allowed it to scale up

kan doordat je het laat opschalen,

and look at an incredible number of pieces of text.

zodat het een enorm aantal teksten kan bekijken.

And it is learning things

Het leert dingen

that you didn't know that it was going to be capable of learning.

waarvan je niet wist dat het dat zou kunnen leren.

GB Well, yeah, and it’s more nuanced, too.

GB: Het ligt nog genuanceerder.

So one science that we’re starting to really get good at

Eén wetenschap waar we echt goed in beginnen te worden

is predicting some of these emergent capabilities.

is het voorspellen van deze vaardigheden.

And to do that actually,

Dat doen we met,

one of the things I think is very undersung in this field

iets wat te weinig aandacht krijgt,

engineeringkwaliteit.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

We moesten onze hele stack opnieuw bouwen.

When you think about building a rocket,

Als je en raket wilt bouwen,

every tolerance has to be incredibly tiny.

moet elke tolerantie heel klein zijn.

Same is true in machine learning.

Zo ook bij machine learning.

You have to get every single piece of the stack engineered properly,

Elk deeltje van de stack moet goed worden ontworpen,

and then you can start doing these predictions.

dan kan je voorspellingen gaan doen.

There are all these incredibly smooth scaling curves.

Er zijn ongelooflijk vloeiende schaalcurves.

Ze tonen iets fundamenteels over inteligentie.

They tell you something deeply fundamental about intelligence.

Als je onze GPT-4-blogpost bekijkt,

If you look at our GPT-4 blog post,

staan al de curves daarin.

you can see all of these curves in there.

And now we're starting to be able to predict.

Nu kunnen we beginnen te voorspellen.

Zoals bijvoorbeeld de prestaties bij codeerproblemen.

So we were able to predict, for example, the performance on coding problems.

We basically look at some models

We bekijken een paar modellen

that are 10,000 times or 1,000 times smaller.

die 10.000 of 1.000 keer kleiner zijn.

And so there's something about this that is actually smooth scaling,

Iets hierin is vloeiend schalen,

ook al is het nog vroeg.

even though it's still early days.

CA: So here is, one of the big fears then,

CA: Nu een grote angst

that arises from this.

die hieruit voortkomt.

If it’s fundamental to what’s happening here,

Als het essentieel hiervoor is,

that as you scale up,

dat als je opschaald

things emerge that

er dingen ontstaan

you can maybe predict in some level of confidence,

die je met enige betrouwbaarheid kunt voorspellen,

but it's capable of surprising you.

maar het kan je verrassen.

Why isn't there just a huge risk of something truly terrible emerging?

Bestaat er niet een groot risico dat er iets verschrikkelijks ontstaat?

GB: Well, I think all of these are questions of degree

GB: Dit zijn vragen over gradatie,

and scale and timing.

schaal en timing.

Wat over het hoofd gezien wordt

And I think one thing people miss, too,

is sort of the integration with the world is also this incredibly emergent,

is dat de integratie met de wereld ook heel emergent is,

ook iets heel krachtigs.

sort of, very powerful thing too.

Daarom vinden we het zo belangrijk

And so that's one of the reasons that we think it's so important

om geleidelijk te implementeren.

to deploy incrementally.

Wat we zien na deze presentatie,

And so I think that what we kind of see right now, if you look at this talk,

waar ik me op richt is hele goede feedback geven.

a lot of what I focus on is providing really high-quality feedback.

Momenteel kun je alle taken controleren.

Today, the tasks that we do, you can inspect them, right?

Het is simpel om op dit wiskundeprobleem te antwoorden:

It's very easy to look at that math problem and be like, no, no, no,

"Nee, zeven was het juiste antwoord".

machine, seven was the correct answer.

Zelfs het samenvatten van een boek is moeilijk te overzien.

But even summarizing a book, like, that's a hard thing to supervise.

Hoe weet je of de samenvatting klopt?

Like, how do you know if this book summary is any good?

Dan moet je het hele boek lezen. Dat wil niemand.

You have to read the whole book.

No one wants to do that.

(Gelach)

(Laughter)

And so I think that the important thing will be that we take this step by step.

Het is belangrijk dat we dit stap voor stap doen.

And that we say, OK, as we move on to book summaries,

Dus als we verdergaan met samenvattingen,

we have to supervise this task properly.

moeten we de taak behoorlijk overzien.

We have to build up a track record with these machines

We moeten een ervaring opbouwen met deze machines,

that they're able to actually carry out our intent.

erop toezien dat ze onze intentie kunnen uitvoeren.

And I think we're going to have to produce even better, more efficient,

We zullen betere, efficientere en betrouwbaardere manieren

more reliable ways of scaling this,

moeten ontwikkelen om dit te schalen.

sort of like making the machine be aligned with you.

De machine afgestemmen op jou.

CA: So we're going to hear later in this session,

CA: Zoals we later zullen horen

dat critici zeggen dat

there are critics who say that,

you know, there's no real understanding inside,

het geen werkelijk begrip heeft,

the system is going to always --

het systeem zal altijd...

we're never going to know that it's not generating errors,

we zullen nooit weten of het geen fouten maakt,

that it doesn't have common sense and so forth.

dat het geen verstand heeft, enzovoort.

Is it your belief, Greg, that it is true at any one moment,

Geloof je dat het mogelijk zal zijn

but that the expansion of the scale and the human feedback

dat de uitbreiding van de schaal en menselijke feedback

that you talked about is basically going to take it on that journey

het op een traject brengt

of actually getting to things like truth and wisdom and so forth,

om waarheid en wijsheid te genereren

with a high degree of confidence.

met hoge betrouwbaarheid.

Can you be sure of that?

Kun je dat zeker weten?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

GB: Nou, OpenAI, het antwoord is ja,

I believe that is where we're headed.

ik denk dat we die kant opgaan.

And I think that the OpenAI approach here has always been just like,

De aanpak van OpenAI altijd zo is geweest,

de werkelijkheid onder ogen zien.

let reality hit you in the face, right?

Dit lijkt het veld van de gebroken beloften,

It's like this field is the field of broken promises,

experts die zeggen dat X zal gebeuren, Y is hoe het werkt

of all these experts saying X is going to happen, Y is how it works.

Al 70 jaar zeggen ze: het neurale net gaat niet werken.

People have been saying neural nets aren't going to work for 70 years.

Ze hebben nog steeds ongelijk.

They haven't been right yet.

Misschien hebben ze gelijk over 70 plus één jaar

They might be right maybe 70 years plus one

of zoiets.

or something like that is what you need.

Onze aanpak is altijd geweest:

But I think that our approach has always been,

je moet de grenzen opzoeken van deze technologie,

you've got to push to the limits of this technology

het echt in actie zien.

to really see it in action,

Dan zul je zien: zo kunnen we overgaan op een nieuw paradigma.

because that tells you then, oh, here's how we can move on to a new paradigm.

We hebben het gewoon nog niet uitgeput.

And we just haven't exhausted the fruit here.

CA: Je standpunt is nogal controversieel,

CA: I mean, it's quite a controversial stance you've taken,

dat de juiste manier is om het openbaar te maken

that the right way to do this is to put it out there in public

en dan dit alles inzetten.

and then harness all this, you know,

Nu geeft niet alleen jouw team feedback,

instead of just your team giving feedback,

the world is now giving feedback.

de wereld geeft nu feedback.

But ...

Maar...

If, you know, bad things are going to emerge,

Als er slechte dingen uitkomen,

it is out there.

is het al losgelaten.

Het oorspronkelijke verhaal dat ik hoorde over OpenAI

So, you know, the original story that I heard on OpenAI

toen jullie als non-profit werden opgericht,

when you were founded as a nonprofit,

well you were there as the great sort of check on the big companies

jullie zouden de grote bedrijven gaan controleren,

doing their unknown, possibly evil thing with AI.

terwijl ze hun onbekende, mogelijk gevaarlijke AI-ding doen.

And you were going to build models that sort of, you know,

Jullie zouden het soort modellen bouwen

die ze verantwoordelijk moesten houden

somehow held them accountable

and was capable of slowing the field down, if need be.

en het veld kon vertragen, als dat nodig was.

Or at least that's kind of what I heard.

Dat is wat ik heb gehoord.

And yet, what's happened, arguably, is the opposite.

Er gebeurde juist het tegenovergestelde.

That your release of GPT, especially ChatGPT,

Jullie release van GPT, vooral ChatGPT,

sent such shockwaves through the tech world

zond zulke schokgolven door de techwereld

that now Google and Meta and so forth are all scrambling to catch up.

dat nu Google en Meta en anderen bezig zijn met een inhaalslag.

And some of their criticisms have been,

Deel van hun kritiek is geweest:

you are forcing us to put this out here without proper guardrails or we die.

we moeten dit accepteren zonder de juiste bewaking of we sterven.

You know, how do you, like,

Hoe maak je duidelijk

make the case that what you have done is responsible here and not reckless.

dat wat je hebt gedaan verantwoordelijk is en niet roekeloos.

GB: Yeah, we think about these questions all the time.

GB: Ja, we denken continue over deze vragen na.

Like, seriously all the time.

Echt voortdurend.

And I don't think we're always going to get it right.

Ik denk niet dat we het altijd goed zullen doen.

But one thing I think has been incredibly important,

Wat heel belangrijk was vanaf het begin, we dachten na over

from the very beginning, when we were thinking

hoe we AI konden bouwen, zodat het de mensheid helpt.

about how to build artificial general intelligence,

actually have it benefit all of humanity,

Hoe moet je dat aanpakken?

like, how are you supposed to do that, right?

Het standaardplan is dat het geheim is.

And that default plan of being, well, you build in secret,

you get this super powerful thing,

Dan krijg je iets super krachtigs,

je onderzoekt de veiligheid en dan druk je op "go"

and then you figure out the safety of it and then you push “go,”

Je hoopt dat het klopt.

and you hope you got it right.

Hoe moet ik dat plan uitvoeren?

I don't know how to execute that plan.

Weet iemand dat?

Maybe someone else does.

Ik vond dat altijd doodeng, het voelde niet goed.

But for me, that was always terrifying, it didn't feel right.

Dus denk ik dat deze alternatieve aanpak

And so I think that this alternative approach

het andere pad is,

is the only other path that I see,

de werkelijkheid zal het leren.

which is that you do let reality hit you in the face.

And I think you do give people time to give input.

Je geeft mensen de tijd om te reageren.

You do have, before these machines are perfect,

Vóór deze machines perfect zijn,

before they are super powerful, that you actually have the ability

voordat ze superkrachtig zijn, heb je de mogelijkheid

to see them in action.

om ze in actie te zien.

And we've seen it from GPT-3, right?

Dat hebben we gezien bij GPT-3.

GPT-3, we really were afraid

Toen waren we echt bang dat mensen het vooral zouden gebruiken

that the number one thing people were going to do with it

om desinformatie te creëren en verkiezingen te beïnvloeden.

was generate misinformation, try to tip elections.

Instead, the number one thing was generating Viagra spam.

Maar het belangrijkste gebruik was Viagra-spam maken.

(Laughter)

(Gelach)

CA: So Viagra spam is bad, but there are things that are much worse.

CA: Viagra-spam is slecht, maar er zijn ergere dingen.

Here's a thought experiment for you.

Een gedachte-experiment.

Suppose you're sitting in a room,

Stel, je zit in een kamer, er staat een doos op tafel.

there's a box on the table.

You believe that in that box is something that,

Je denkt dat in die doos,

there's a very strong chance it's something absolutely glorious

de kans is groot dat het fantastisch is,

that's going to give beautiful gifts to your family and to everyone.

prachtige geschenken voor je familie en iedereen.

But there's actually also a one percent thing in the small print there

Er staat ook één procent kans, in de kleine lettertjes

that says: “Pandora.”

waarin staat: "Pandora".

And there's a chance

De kans bestaat

that this actually could unleash unimaginable evils on the world.

dat dit onvoorstelbaar kwaad over de wereld kan afroepen.

Do you open that box?

Maak je de doos open?

GB: Well, so, absolutely not.

GB: Nee, absoluut niet.

I think you don't do it that way.

Ik denk dat je het niet zo doet.

And honestly, like, I'll tell you a story that I haven't actually told before,

Ik vertel je een verhaal dat ik nog niet eerder heb gedeeld.

which is that shortly after we started OpenAI,

Na OpenAI opgestart te hebben

I remember I was in Puerto Rico for an AI conference.

was ik in Puerto Rico op een AI-conferentie,

I'm sitting in the hotel room just looking out over this wonderful water,

Ik zit in de hotelkamer en kijk uit over een prachtig water,

all these people having a good time.

mensen die plezier maken.

Je staat er even bij stil,

And you think about it for a moment,

als je kon kiezen voor de doos van Pandora

if you could choose for basically that Pandora’s box

to be five years away

over vijf jaar

or 500 years away,

of over 500 jaar,

which would you pick, right?

welke zou je dan kiezen?

On the one hand you're like, well, maybe for you personally,

Misschien denk je, voor jou personlijk,

it's better to have it be five years away.

is over vijf jaar beter.

But if it gets to be 500 years away and people get more time to get it right,

Maar als het nog 500 jaar duurt, is er meer tijd om het te verbeteren.

Wat zou je kiezen?

which do you pick?

And you know, I just really felt it in the moment.

Ik voelde het echt op dat moment.

I was like, of course you do the 500 years.

Natuurlijk kies je voor 500 jaar.

Mijn broer zat toen in het leger,

My brother was in the military at the time

and like, he puts his life on the line in a much more real way

hij waagt zijn leven op een veel echtere manier dan wij

than any of us typing things in computers

terwijl we dingen in computers typen

and developing this technology at the time.

en deze technologie ontwikkelen.

And so, yeah, I'm really sold on the you've got to approach this right.

Ik ben er echt van overtuigd dat je dit goed moet aanpakken.

But I don't think that's quite playing the field as it truly lies.

Maar ik denk niet dat het hierom draait.

Like, if you look at the whole history of computing,

Als je de geschiedenis bekijkt van computers,

I really mean it when I say that this is an industry-wide

dit is echt een sectorbrede

or even just almost like

of zelfs

a human-development- of-technology-wide shift.

een mens-ontwikkeling -van-technologie-brede verschuiving.

And the more that you sort of, don't put together the pieces

Hoe minder je de delen samenbrengt

that are there, right,

die er zijn, we maken steeds snellere computers,

we're still making faster computers,

we verbeteren de algoritmes, al deze dingen gebeuren.

we're still improving the algorithms, all of these things, they are happening.

And if you don't put them together, you get an overhang,

Als je dit niet samenbrengt, krijg je een overhang.

Dus als iemand het wel doet,

which means that if someone does,

of het moment dat iemand het circuit verbindt,

or the moment that someone does manage to connect to the circuit,

dan ontstaat er ineens een heel krachtig ding,

then you suddenly have this very powerful thing,

niemand heeft zich kunnen aanpassen,

no one's had any time to adjust,

welke veiligheidsmaatregelen krijgt je dan?

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Eén ding vind ik heel belangrijk.

is like, even you think about development of other sort of technologies,

als je denkt aan de ontwikkeling van andere technologieën,

think about nuclear weapons,

zoals kernwapens,

people talk about being like a zero to one,

er wordt gezegd dat het een nul tot één,

sort of, change in what humans could do.

verandering in wat mensen kunnen.

But I actually think that if you look at capability,

Als je kijkt naar vermogen,

it's been quite smooth over time.

is dat in de tijd vrij gelijkmatig gegaan.

And so the history, I think, of every technology we've developed

De geschiedenis van elke ontwikkelde technologie

has been, you've got to do it incrementally

is dat je het stapsgewijs moet doen.

Je moet uitzoeken hoe je ermee omgaat

and you've got to figure out how to manage it

for each moment that you're increasing it.

voor elk moment dat je het vergroot.

CA: So what I'm hearing is that you ...

CA: Dus wat je nu zegt...

the model you want us to have

het model dat je voor ons wilt

is that we have birthed this extraordinary child

is dat we dit buitengewone kind hebben gebaard

that may have superpowers

dat superkrachten kan hebben

that take humanity to a whole new place.

die de mensheid in een nieuwe positie brengen.

It is our collective responsibility to provide the guardrails

Het is onze gezamenlijke taak om te zorgen voor de beveiliging

for this child

voor dit kind

to collectively teach it to be wise and not to tear us all down.

om het te leren verstandig te zijn en ons niet kapot te maken.

Is that basically the model?

Komt het model daarop neer?

GB: I think it's true.

GB: Dat is waar.

And I think it's also important to say this may shift, right?

We moeten onthouden dat dit nog kan verschuiven.

We've got to take each step as we encounter it.

We moeten elke stap nemen wanneer we die tegenkomen.

And I think it's incredibly important today

Vandaag is het heel belangrijk

that we all do get literate in this technology,

dat we allemaal geletterd raken in deze technologie,

figure out how to provide the feedback,

hoe kunnen we het feedback geven, wat willen we.

decide what we want from it.

And my hope is that that will continue to be the best path,

Ik hoop dat dat de beste weg zal blijken,

but it's so good we're honestly having this debate

het is zo goed dat we dit eerlijk voeren

because we wouldn't otherwise if it weren't out there.

en dat zouden we niet doen als het niet beschikbaar was.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

CA: Greg Brockman, bedankt dat je bij TED was en ons hebt verrast.

(Applause)

(Applaus)