The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Překladatel: Vladimír Harašta

We started OpenAI seven years ago

OpenAI jsme založili před sedmi lety,

because we felt like something really interesting was happening in AI

protože jsme měli pocit, že se v AI děje něco opravdu zajímavého

and we wanted to help steer it in a positive direction.

a chtěli jsme to pomoci nasměrovat pozitivním směrem.

It's honestly just really amazing to see

Upřímně řečeno, je opravdu úžasné vidět,

how far this whole field has come since then.

kam celý ten obor od té doby došel.

And it's really gratifying to hear from people like Raymond

A je opravdu příjemné slyšet o lidech jako Raymond,

who are using the technology we are building, and others,

kteří používají naši technologii, a o dalších,

for so many wonderful things.

kteří dělají spousty báječných věcí.

We hear from people who are excited,

Někteří lidé jsou nadšení,

we hear from people who are concerned,

někteří jsou znepokojeni,

we hear from people who feel both those emotions at once.

někdo cítí obě ty emoce najednou.

And honestly, that's how we feel.

A tak to namouduši cítíme i my.

Above all, it feels like we're entering an historic period right now

Především máme pocit, že právě vstupujeme do historické éry,

where we as a world are going to define a technology

kdy jako lidstvo vymezíme hranice technologie,

that will be so important for our society going forward.

která bude pro budoucnost společnosti velice důležitá.

And I believe that we can manage this for good.

A já věřím, že to dokážeme zvládnout už natrvalo.

So today, I want to show you the current state of that technology

Dnes vám chci ukázat současný stav této technologie

and some of the underlying design principles that we hold dear.

a některé základní principy návrhu, které ctíme.

So the first thing I'm going to show you

Jako první vám tedy ukážu,

is what it's like to build a tool for an AI

jaké to je vytvářet nástroj spíše pro AI než pro člověka.

rather than building it for a human.

So we have a new DALL-E model, which generates images,

Máme nový model DALL-E, který generuje obrázky

and we are exposing it as an app for ChatGPT to use on your behalf.

a ChatGPT vám ho zprostředkuje prostřednictvím aplikace.

And you can do things like ask, you know,

Můžete mu třeba zadat:

suggest a nice post-TED meal and draw a picture of it.

„Navrhni mi dobré jídlo, na které zajdu po skončení TEDu, a ukaž jak vypadá.“

(Laughter)

(smích)

Now you get all of the, sort of, ideation and creative back-and-forth

Teď od ChatGPT získáte veškeré nápady a tvůrčí zpětnou vazbu

and taking care of the details for you that you get out of ChatGPT.

se všemi těmi detaily, o které se za vás postaral.

And here we go, it's not just the idea for the meal,

A je to tady, není to jen nápad na jídlo,

but a very, very detailed spread.

ale velmi, velmi propracovaná představa hostiny.

So let's see what we're going to get.

Tak se podívejme, co nám nabízí.

But ChatGPT doesn't just generate images in this case --

ChatGPT v tomto případě negeneruje jen obrázky ‒

sorry, it doesn't generate text, it also generates an image.

omlouvám se, negeneruje jen text, ale také obrázek.

And that is something that really expands the power

A to výrazně rozšiřuje možnosti toho,

of what it can do on your behalf in terms of carrying out your intent.

co s ním můžete dělat, pokud chcete zrealizovat svůj záměr.

And I'll point out, this is all a live demo.

Podotýkám, že se jedná o živou ukázku.

This is all generated by the AI as we speak.

Všechno generuje AI během našeho rozhovoru.

So I actually don't even know what we're going to see.

Takže vlastně ani nevím, co uvidíme.

This looks wonderful.

Tohle vypadá báječně.

(Applause)

(potlesk)

I'm getting hungry just looking at it.

Dostávám hlad, jen jak se na to dívám.

Now we've extended ChatGPT with other tools too,

Nově jsme rozšířili ChatGPT také o další nástroje, teď si pamatuje stav.

for example, memory.

You can say "save this for later."

Můžete mu říct: „Toto si ulož na později.“

And the interesting thing about these tools

Na těchto nástrojích je zajímavé, že se dá dobře sledovat, co dělají.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

Tady se vám objeví malé okno, kde je napsáno „použij aplikaci DALL-E“.

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

V následujících měsících to bude k dispozici i všem uživatelům.

Můžete nahlédnout pod pokličku a pozorovat,

And you can look under the hood and see that what it actually did

že vlastně zadal příkaz do promptu stejně jako člověk.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Jde o určitou možnost dohlížet na to,

how the machine is using these tools,

jak stroj tyto nástroje používá,

which allows us to provide feedback to them.

čímž mu poskytujeme zpětnou vazbu.

Now it's saved for later,

Teď jsem si to uložil a dovolte,

and let me show you what it's like to use that information

abych vám ukázal, jak se ty informace dají použít

and to integrate with other applications too.

a také začlenit do dalších aplikací.

You can say,

Můžete říct:

“Now make a shopping list for the tasty thing

„Teď mi udělej nákupní seznam na tu pochoutku,

I was suggesting earlier.”

kterou jsem si předtím navrhnul,”

And make it a little tricky for the AI.

a udělejme to pro AI trochu složitější...

"And tweet it out for all the TED viewers out there."

„a tweetni to všem divákům TEDu.“

(Laughter)

(smích)

So if you do make this wonderful, wonderful meal,

Pokud si skutečně tohle úžasné jídlo uvaříte,

I definitely want to know how it tastes.

tak ho chci rozhodně ochutnat.

But you can see that ChatGPT is selecting all these different tools

Ale je vidět, že si ChatGPT všechny ty různé nástroje vybírá,

without me having to tell it explicitly which ones to use in any situation.

aniž bych mu musel výslovně říkat, které z nich má v dané situaci použít.

And this, I think, shows a new way of thinking about the user interface.

Myslím si, že to demonstruje nový způsob přemýšlení o uživatelském rozhraní.

Like, we are so used to thinking of, well, we have these apps,

Teď jsme zvyklí přemýšlet tak, že máme nějaké aplikace,

we click between them, we copy/paste between them,

mezi nimi se překlikáváme, kopírujeme a vkládáme

and usually it's a great experience within an app

a v rámci jedné aplikace je to skvělé, jakmile už znáte menu a všechny možnosti.

as long as you kind of know the menus and know all the options.

Ano, rád bych, abys...

Yes, I would like you to.

Yes, please.

Ano, prosím.

Always good to be polite.

Vždycky je dobré být zdvořilý.

(Laughter)

(smích)

And by having this unified language interface on top of tools,

A tím, že nad nástroji máme unifikované jazykové rozhraní,

the AI is able to sort of take away all those details from you.

je AI schopna vás od všech těchto detailů oprostit.

So you don't have to be the one

Takže už sami nemusíte hláskovat každičkou drobnost,

who spells out every single sort of little piece

of what's supposed to happen.

abyste naznačili, co se má stát.

And as I said, this is a live demo,

Jak jsem říkal, jde o živou ukázku,

so sometimes the unexpected will happen to us.

takže se občas stane něco neočekávaného.

But let's take a look at the Instacart shopping list while we're at it.

Ale když už jsme u toho, podívejme se na nákupní seznam Instacartu.

And you can see we sent a list of ingredients to Instacart.

A vidíte, že jsme do Instacartu poslali seznam ingrediencí.

Here's everything you need.

Máte tady vše, co potřebujete.

And the thing that's really interesting

Opravdu zajímavé je,

is that the traditional UI is still very valuable, right?

že tradiční uživatelské rozhraní je stále velmi užitečné.

If you look at this,

Když se podíváte sem,

you still can click through it and sort of modify the actual quantities.

stále ještě se tím dá proklikávat a upravovat množství.

And that's something that I think shows

A to je něco, co podle mě ukazuje,

that they're not going away, traditional UIs.

že tradiční uživatelská rozhraní nezmizí.

It's just we have a new, augmented way to build them.

Jen máme nový, bohatší způsob, jak je vytvářet.

And now we have a tweet that's been drafted for our review,

A teď tu máme tweet, abychom si to mohli překontrolovat,

which is also a very important thing.

což je také velmi důležité.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

Klikneme na „spustit“ a jsme tam, teď jsme manažerem, můžeme dohlížet

we're able to change the work of the AI if we want to.

a pokud chceme, jsme schopni změnit, jak AI funguje.

And so after this talk, you will be able to access this yourself.

Po této přednášce si to budete moct sami vyzkoušet.

And there we go.

A je to tady.

Cool.

Super.

Thank you, everyone.

Děkuji všem.

(Applause)

(potlesk)

So we’ll cut back to the slides.

Rychle zpět k prezentaci.

Now, the important thing about how we build this,

To nejdůležitější na tom, jak to vytváříme, je,

it's not just about building these tools.

že nejde jen o vybudování nástrojů.

It's about teaching the AI how to use them.

Jde o to naučit AI, jak je používat.

Like, what do we even want it to do

Co vůbec chceme, aby to dělalo,

when we ask these very high-level questions?

když pokládáme takové hodně obecné otázky?

And to do this, we use an old idea.

A k tomu využíváme starou myšlenku.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

Alan Turing v článku z roku 1950 o Turingově testu říká,

you'll never program an answer to this.

na tohle nikdy nenaprogramujete odpověď.

Instead, you can learn it.

Místo toho se to dá naučit.

You could build a machine, like a human child,

Můžete si postavit stroj podobný dítěti

and then teach it through feedback.

a pak ho učit pomocí zpětné vazby.

Have a human teacher who provides rewards and punishments

Mít lidského učitele, který uděluje odměny a tresty,

as it tries things out and does things that are either good or bad.

když stroj zkouší dělat věci, které jsou buď dobré nebo špatné.

And this is exactly how we train ChatGPT.

A přesně takhle trénujeme ChatGPT.

It's a two-step process.

Je to dvoufázový proces.

First, we produce what Turing would have called a child machine

Nejprve vyrobíme Turingův dětský stroj a necháme ho učit se bez dozoru.

through an unsupervised learning process.

Ukážeme mu celý svět, celý internet, a řekneme:

We just show it the whole world, the whole internet

and say, “Predict what comes next in text you’ve never seen before.”

„Predikuj, co bude v textu, který jsi nikdy předtím neviděl.“

A tento proces mu vštípí nejrůznější báječné dovednosti.

And this process imbues it with all sorts of wonderful skills.

For example, if you're shown a math problem,

Když třeba máte vyřešit matematický problém,

the only way to actually complete that math problem,

jediným způsobem, jak to spočítat, jak říct, co bude následovat,

to say what comes next,

ta zelená devítka tam nahoře,

that green nine up there,

is to actually solve the math problem.

je skutečně použít matematiku.

But we actually have to do a second step, too,

Ale my musíme udělat ještě druhý krok,

which is to teach the AI what to do with those skills.

naučit AI, co má s těmito dovednostmi dělat.

A k tomu mu dáváme zpětnou vazbu.

And for this, we provide feedback.

We have the AI try out multiple things, give us multiple suggestions,

Necháváme AI vyzkoušet si víc věcí, aby nám dala víc návrhů,

a pak je člověk ohodnotí: „Tenhle je lepší než tenhle.“

and then a human rates them, says “This one’s better than that one.”

To posiluje nejen konkrétní věc, kterou AI prohlásila,

And this reinforces not just the specific thing that the AI said,

ale co je velmi důležité, i celý proces, který AI použila k vytvoření odpovědi.

but very importantly, the whole process that the AI used to produce that answer.

Umožňuje jí to zobecňovat.

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

Umožňuje jí to učit, odvozovat vaše záměry

and apply it in scenarios that it hasn't seen before,

a použít je ve scénářích, které předtím neznala

that it hasn't received feedback.

a neměla k nim zpětnou vazbu.

Now, sometimes the things we have to teach the AI

Někdy musíme AI naučit věci, které byste neočekávali.

are not what you'd expect.

For example, when we first showed GPT-4 to Khan Academy,

Například, když jsme poprvé ukázali GPT-4 na Khanově akademii,

they said, "Wow, this is so great,

říkali: „Páni, to je tak skvělé,

We're going to be able to teach students wonderful things.

budeme moct učit studenty báječné věci.

Only one problem, it doesn't double-check students' math.

Jediný problém je, že to neověřuje výpočty studentů.

If there's some bad math in there,

Pokud udělají nějakou chybu,

it will happily pretend that one plus one equals three and run with it."

bude to vesele předstírat, že 1 plus 1 jsou 3 a poběží to dál."

So we had to collect some feedback data.

Tak jsme museli sesbírat data pro zpětnou vazbu.

Sal Khan himself was very kind

Sal Khan byl velmi laskavý

and offered 20 hours of his own time to provide feedback to the machine

a nabídl 20 hodin svého času, aby společně s naším týmem

alongside our team.

poskytli stroji zpětnou vazbu.

And over the course of a couple of months we were able to teach the AI that,

A během několika měsíců jsme byli schopni naučit AI:

"Hey, you really should push back on humans

„Hej, v tomto specifickém scénáři bys opravdu měla na lidi zatlačit.“

in this specific kind of scenario."

And we've actually made lots and lots of improvements to the models this way.

A skutečně jsme tímto způsobem dosáhli v modelech spousty vylepšení.

And when you push that thumbs down in ChatGPT,

Když v ChatGPT dáte palec dolů,

that actually is kind of like sending up a bat signal to our team to say,

je to jako byste poslali echolokační signál našemu týmu:

„Tady je slabá oblast, kde byste měli chtít zpětnou vazbu.“

“Here’s an area of weakness where you should gather feedback.”

Je to jedna z cest, kdy uživatelům opravdu nasloucháme

And so when you do that,

that's one way that we really listen to our users

and make sure we're building something that's more useful for everyone.

a ujišťujeme se, že vytváříme něco, co bude užitečnější pro všechny.

Now, providing high-quality feedback is a hard thing.

Poskytování vysoce kvalitní zpětné vazby je těžké.

If you think about asking a kid to clean their room,

Když požádáte dítě, aby si uklidilo pokoj

if all you're doing is inspecting the floor,

a pak zkontrolujete jen uklizenou podlahu,

you don't know if you're just teaching them to stuff all the toys in the closet.

nevíte, jestli ho tím jenom neučíte, aby všechny hračky nastrkalo do skříně.

This is a nice DALL-E-generated image, by the way.

Mimochodem, toto je pěkný obrázek vygenerovaný programem DALL-E.

And the same sort of reasoning applies to AI.

A stejný druh uvažování platí i pro umělou inteligenci.

As we move to harder tasks,

Jakmile přejdeme k těžším úlohám,

we will have to scale our ability to provide high-quality feedback.

budeme muset víc poskytovat vysoce kvalitní zpětnou vazbu.

But for this, the AI itself is happy to help.

Ale s tím nám samotná AI ráda pomůže.

It's happy to help us provide even better feedback

Ráda nám poskytuje ještě lepší zpětnou vazbu

and to scale our ability to supervise the machine as time goes on.

a postupem času rozšiřuje naši schopnost dohledu nad strojem.

And let me show you what I mean.

Dovolte mi to předvést.

For example, you can ask GPT-4 a question like this,

Můžete například GPT-4 položit takovouto otázku,

of how much time passed between these two foundational blogs

kolik času uplynulo mezi těmito dvěma zásadními blogy

on unsupervised learning

na téma učení se bez dohledu a ze zpětné vazby od lidí.

and learning from human feedback.

And the model says two months passed.

A model říká, že uplynuly dva měsíce.

But is it true?

Ale je to pravda?

Like, these models are not 100-percent reliable,

Tyhle modely nejsou stoprocentně spolehlivé,

although they’re getting better every time we provide some feedback.

i když se zlepšují pokaždé, když jim dáme nějakou zpětnou vazbu.

But we can actually use the AI to fact-check.

Ale my vlastně můžeme použít AI k ověřování faktů.

And it can actually check its own work.

Může kontrolovat sama sebe.

You can say, fact-check this for me.

Můžete říct, zkontroluj mi fakta.

Now, in this case, I've actually given the AI a new tool.

V tomto případě jsem vlastně dal AI nový nástroj.

This one is a browsing tool

Toto je prohlížeč webu,

where the model can issue search queries and click into web pages.

kde může model zadávat dotazy a klikat na webové stránky.

And it actually writes out its whole chain of thought as it does it.

A on během toho vypisuje celý svůj myšlenkový postup.

It says, I’m just going to search for this and it actually does the search.

Píše, že teď prostě hledá tohle a skutečně to vyhledávání provede.

It then it finds the publication date and the search results.

Pak najde datum zveřejnění a výsledky hledání.

Poté zadává další vyhledávání. Proklikne se do příspěvku na blogu.

It then is issuing another search query.

It's going to click into the blog post.

And all of this you could do, but it’s a very tedious task.

To všechno byste zvládli, ale je to velmi zdlouhavé.

It's not a thing that humans really want to do.

Lidem se do toho fakt nechce.

It's much more fun to be in the driver's seat,

Mnohem větší zábava je věci řídit, být na vedoucí pozici,

to be in this manager's position where you can, if you want,

kde můžete, pokud chcete, třikrát překontrolovat práci.

triple-check the work.

A vypisují se citace,

And out come citations

so you can actually go

takže vlastně můžete

and very easily verify any piece of this whole chain of reasoning.

velmi snadno ověřit kterýkoli článek v celém tom řetězci úvah.

And it actually turns out two months was wrong.

Skutečně se ukazuje, že ty dva měsíce nesedí.

Two months and one week,

Správně to měly být dva měsíce a jeden týden.

that was correct.

(Applause)

(potlesk)

And we'll cut back to the side.

Vrátíme se ke slajdům.

And so thing that's so interesting to me about this whole process

Pro mě je na celém tom procesu velmi zajímavé vidět,

is that it’s this many-step collaboration between a human and an AI.

jak tady vícekrokově spolupracuje člověk a AI.

Because a human, using this fact-checking tool

Protože člověk to pomocí nástroje na ověřování faktů dělá proto,

is doing it in order to produce data

aby vytvořil data pro jinou AI, aby byla lidem užitečnější.

for another AI to become more useful to a human.

And I think this really shows the shape of something

Myslím si, že to fakticky ukazuje podobu něčeho,

that we should expect to be much more common in the future,

s čím bychom se v budoucnu měli setkávat mnohem častěji,

where we have humans and machines kind of very carefully

kdy budeme velmi pečlivě a delikátně navrhovat,

and delicately designed in how they fit into a problem

jakým způsobem lidé a stroje zapadnou do řešení problému

and how we want to solve that problem.

a jak chceme tento problém vyřešit.

We make sure that the humans are providing the management, the oversight,

Dbáme na to, aby lidé řídili, poskytovali dohled, zpětnou vazbu

the feedback,

a aby stroje pracovaly kontrolovatelným a důvěryhodným způsobem.

and the machines are operating in a way that's inspectable

and trustworthy.

Společně jsme schopni skutečně vytvořit ještě důvěryhodnější stroje.

And together we're able to actually create even more trustworthy machines.

Postupem času, pokud tento proces správně nastavíme,

And I think that over time, if we get this process right,

vyřešíme i zatím neřešitelné problémy.

we will be able to solve impossible problems.

A abych vám přiblížil, o jakých neřešitelných problémech mluvím,

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

myslím, že budeme schopni přehodnotit téměř všechny aspekty

of how we interact with computers.

naší interakce s počítačem.

For example, think about spreadsheets.

Vzpomeňte si například na tabulkové procesory.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

V nějaké podobě jsou tu odjakživa, od dob Visicalcu nějakých 40 let.

I don't think they've really changed that much in that time.

Nemyslím si, že by se za tu dobu příliš změnily.

And here is a specific spreadsheet of all the AI papers on the arXiv

Tady je konkrétní tabulka všech článků o AI

uložených na arXiv za posledních 30 let.

for the past 30 years.

There's about 167,000 of them.

Je jich asi 167 000.

And you can see there the data right here.

A tady můžete přímo vidět ty údaje.

But let me show you the ChatGPT take on how to analyze a data set like this.

Ale dovolte mi, abych vám ukázal, jak ChatGPT analyzuje takový soubor dat.

So we can give ChatGPT access to yet another tool,

Můžeme dát ChatGPT přístup k dalšímu nástroji,

this one a Python interpreter,

tentokrát interpretru Pythonu,

so it’s able to run code, just like a data scientist would.

aby mohl spouštět kód stejně jako datový analytik.

And so you can just literally upload a file

Můžete prostě nahrát soubor a klást dotazy na data.

and ask questions about it.

And very helpfully, you know, it knows the name of the file and it's like,

A je velmi užitečné, že zná název souboru, takže si řekne:

"Oh, this is CSV," comma-separated value file,

„Aha, to je CSV,“ hodnoty jsou odděleny čárkou,

"I'll parse it for you."

„já vám to zanalyzuji.“

The only information here is the name of the file,

Jedinou informací zde je název souboru,

the column names like you saw and then the actual data.

názvy sloupců, jak jste viděli, a pak vlastní data.

And from that it's able to infer what these columns actually mean.

A z toho je schopen odvodit, co ty sloupce vlastně znamenají.

Like, that semantic information wasn't in there.

Ta sémantická informace tam nebyla.

It has to sort of, put together its world knowledge of knowing that,

Musí si dát dohromady své znalosti o světě, aby se dověděl:

“Oh yeah, arXiv is a site that people submit papers

„arXiv je stránka, kam lidé posílají články,

and therefore that's what these things are and that these are integer values

a proto tohle jsou asi články, a toto jsou celočíselné hodnoty,

and so therefore it's a number of authors in the paper,"

což musí být počet autorů článku,“ všechno tohle by musel udělat člověk

like all of that, that’s work for a human to do,

a AI s tím ráda pomůže.

and the AI is happy to help with it.

Ani nevím, na co bych se měl zeptat.

Now I don't even know what I want to ask.

So fortunately, you can ask the machine,

Naštěstí se můžete zeptat stroje:

"Can you make some exploratory graphs?"

„Můžeš mi navrhnout nějaké grafy?“

And once again, this is a super high-level instruction with lots of intent behind it.

A zase, tohle je nesmírně obecné zadání se spoustou možných záměrů.

But I don't even know what I want.

Ale já ani nevím, co chci.

A AI musí nějak odvodit, co by mě mohlo zajímat.

And the AI kind of has to infer what I might be interested in.

Snad přijde s nějakými dobrými nápady.

And so it comes up with some good ideas, I think.

Histogram počtu autorů na článek,

So a histogram of the number of authors per paper,

časová řada počtu článků za rok, četnost slov v názvech článků.

time series of papers per year, word cloud of the paper titles.

All of that, I think, will be pretty interesting to see.

To vše bude docela zajímavé vidět.

A je skvělé, že to skutečně dokáže.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

Je to tady, pěkná Gaussova křivka. Vidíte, že tři jsou asi tak nejčastější.

You see that three is kind of the most common.

It's going to then make this nice plot of the papers per year.

Pak udělá takový pěkný graf článků vydaných v daném roce.

Something crazy is happening in 2023, though.

Ale pro rok 2023 to vůbec nesedí.

Looks like we were on an exponential and it dropped off the cliff.

Jako by nám exponenciální průběh spadl z útesu. K čemu tam došlo?

What could be going on there?

Mimochodem, vše je v Pythonu, můžete si to prohlédnout.

By the way, all this is Python code, you can inspect.

And then we'll see word cloud.

A pak zobrazí slovní mrak.

So you can see all these wonderful things that appear in these titles.

Takže vidíte všechny ty báječné věci, které se objevují v názvech.

Ale já jsem dost nespokojený s tím průběhem v roce 2023.

But I'm pretty unhappy about this 2023 thing.

It makes this year look really bad.

Letošek nevypadá vůbec hezky.

Of course, the problem is that the year is not over.

Problém je v tom, že letošní rok ještě neskončil.

So I'm going to push back on the machine.

Takže dotlačím stroj k nápravě.

[Waitttt that's not fair!!!

[Pooočkej, to není fér!!! Rok 2023 ještě neskončil.

2023 isn't over.

What percentage of papers in 2022 were even posted by April 13?]

Kolik procent článků v roce 2022 bylo zveřejněno do 13. dubna?]

So April 13 was the cut-off date I believe.

Myslím, že data byla jen do 13. dubna.

Can you use that to make a fair projection?

Můžeš to použít ke zpřesnění průběhu?

So we'll see, this is the kind of ambitious one.

Tak uvidíme, tohle vypadá ambiciózně.

(Laughter)

(smích)

So you know,

Takže vidíte,

again, I feel like there was more I wanted out of the machine here.

zase mám pocit, že jsem z toho stroje dostal víc, než jsem zamýšlel.

I really wanted it to notice this thing,

Trval jsem na tom, aby si všiml toho propadu,

maybe it's a little bit of an overreach for it

možná, že pro něho je to takové trochu chytračení,

to have sort of, inferred magically that this is what I wanted.

aby si nějak magicky odvodil, že tohle je to, co jsem chtěl.

But I inject my intent,

Ale já do toho vnáším svůj záměr,

I provide this additional piece of, you know, guidance.

nabízím mu dodatečné vodítko.

And under the hood,

A pod kapotou si AI jen píše kód,

the AI is just writing code again, so if you want to inspect what it's doing,

takže pokud chcete zkontrolovat, co dělá, je to velmi snadné.

it's very possible.

And now, it does the correct projection.

A teď už zobrazuje správný průběh.

(Applause)

(potlesk)

If you noticed, it even updates the title.

Jestli jste si všimli, zaktualizoval i název.

I didn't ask for that, but it know what I want.

O to jsem nežádal, ale už ví, co chci.

Now we'll cut back to the slide again.

Teď se zase vrátíme k prezentaci.

This slide shows a parable of how I think we ...

Tento slajd ukazuje příměr, jak si myslím, že...

A vision of how we may end up using this technology in the future.

Je to vize toho, jak využití této technologie může dopadnout.

A person brought his very sick dog to the vet,

Člověk přivede svého velmi nemocného psa k veterináři

and the veterinarian made a bad call to say, “Let’s just wait and see.”

a veterinář zvolí špatné řešení: „Prostě počkáme a uvidíme.“

And the dog would not be here today had he listened.

A pes by tu dnes nebyl, kdyby ho poslechl.

In the meanwhile, he provided the blood test,

Mezitím dá GPT-4 k dispozici krevní test,

like, the full medical records, to GPT-4,

kompletní lékařské záznamy

which said, "I am not a vet, you need to talk to a professional,

a ten řekne: „Nejsem veterinář, musíte si promluvit s odborníkem,

here are some hypotheses."

tady je několik hypotéz.“

He brought that information to a second vet

Předá tu informaci jinému veterináři, který díky ní zachrání psovi život.

who used it to save the dog's life.

Now, these systems, they're not perfect.

Ty systémy nejsou dokonalé.

You cannot overly rely on them.

Nelze se na ně příliš spoléhat.

But this story, I think, shows

Ale tento příběh, myslím, ukazuje,

that a human with a medical professional

že je člověk ve spolupráci s odborníkem

and with ChatGPT as a brainstorming partner

a s ChatGPT jako partnerem pro brainstorming

was able to achieve an outcome that would not have happened otherwise.

schopen dosáhnout výsledku, který by se jinak nedostavil.

I think this is something we should all reflect on,

Myslím, že bychom se nad tím měli všichni zamyslet,

think about as we consider how to integrate these systems

přemýšlet o tom, jak tyto systémy začlenit do lidského světa.

into our world.

And one thing I believe really deeply,

A opravdu jsem hluboce přesvědčen,

is that getting AI right is going to require participation from everyone.

že správné nastavení AI bude vyžadovat účast všech.

And that's for deciding how we want it to slot in,

Abychom rozhodli, kdy nastane správný čas

that's for setting the rules of the road,

pro stanovení pravidel silničního provozu, pro to, co AI bude nebo nebude dělat.

for what an AI will and won't do.

And if there's one thing to take away from this talk,

A jednu věc byste si měli z této přednášky odnést,

it's that this technology just looks different.

a to že tato technologie prostě vypadá jinak.

Just different from anything people had anticipated.

Prostě se liší od všeho, co si lidé představovali.

And so we all have to become literate.

A proto se všichni musíme vzdělávat.

And that's, honestly, one of the reasons we released ChatGPT.

A to je, upřímně, jeden z důvodů, proč jsme zveřejnili ChatGPT.

Together, I believe that we can achieve the OpenAI mission

Věřím, že společně můžeme naplnit poslání společnosti OpenAI,

of ensuring that artificial general intelligence

a tím je zajistit, aby byla obecná AI přínosem pro celé lidstvo.

benefits all of humanity.

Thank you.

Děkuji.

(Applause)

(potlesk)

(potlesk končí)

(Applause ends)

Chris Anderson: Greg.

Chris Anderson: Gregu.

Wow.

Páni.

I mean ...

Tedy...

I suspect that within every mind out here

mám podezření, že jste tady všem

there's a feeling of reeling.

pěkně zamotal hlavu.

Like, I suspect that a very large number of people viewing this,

Mám třeba podezření, že spousta lidí, kteří to teď sledují ‒

you look at that and you think, “Oh my goodness,

díváte se na to a přemýšlíte:

pretty much every single thing about the way I work, I need to rethink."

„Proboha, to abych teď přehodnotil takřka veškerý přístup k práci.“

Like, there's just new possibilities there.

Prostě máme nové možnosti. Nemám pravdu?

Am I right?

Kdo si tady myslí, že musíme přehodnotit způsob, jakým pracujeme?

Who thinks that they're having to rethink the way that we do things?

Yeah, I mean, it's amazing,

Jo, teda to je úžasné, ale taky to lidi fakt děsí.

but it's also really scary.

So let's talk, Greg, let's talk.

Tak si, Gregu, promluvme.

I mean, I guess my first question actually is just

Myslím, že první otázka je vlastně prostá, jak jste to sakra udělal?

how the hell have you done this?

(smích)

(Laughter)

OpenAI has a few hundred employees.

OpenAI má několik set zaměstnanců.

Google has thousands of employees working on artificial intelligence.

V Google pracují na umělé inteligenci tisíce zaměstnanců.

Why is it you who's come up with this technology

Proč jste to byli právě vy,

kdo přišel s touto technologií, která šokovala svět?

that shocked the world?

Greg Brockman: I mean, the truth is,

Greg Brockman: Je pravda, že všichni bezpochyby stavíme na úspěších obrů.

we're all building on shoulders of giants, right, there's no question.

Výpočetní výkon, pokrok v algoritmech, v datech, to vše se týká celého oboru.

If you look at the compute progress,

the algorithmic progress, the data progress,

all of those are really industry-wide.

Ale myslím si, že jsme v OpenAI

hned od začátku udělali spoustu velmi promyšlených kroků.

But I think within OpenAI,

we made a lot of very deliberate choices from the early days.

Prvním z nich bylo postavit se realitě tak jak leží a běží.

And the first one was just to confront reality as it lays.

A že jsme opravdu důkladně přemýšleli třeba o tom,

And that we just thought really hard about like:

What is it going to take to make progress here?

jak dlouho bude trvat, než dosáhneme pokroku?

We tried a lot of things that didn't work, so you only see the things that did.

Ze spousty nefunkčních věcí vidíte jen to, co se povedlo.

Myslím, že nejdůležitější bylo přimět týmy lidí,

And I think that the most important thing has been to get teams of people

které se navzájem velmi odlišují, aby spolu harmonicky spolupracovaly.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

CA: Právě přinesli vodu, můžeme se napít?

Myslím, že ji budeme potřebovat, vysychá z toho v krku.

I think we're going to need it, it's a dry-mouth topic.

But isn't there something also just about the fact

Ale nespočívalo to také v tom,

že jste spatřoval nějaký potenciál v těch jazykových modelech,

that you saw something in these language models

that meant that if you continue to invest in them and grow them,

to znamená, že když do nich budete dál investovat a rozvíjet je,

that something at some point might emerge?

že by z toho možná někdy mohlo něco náhlého vzejít?

GB: Yes.

GB: Ano.

And I think that, I mean, honestly,

A upřímně řečeno, myslím si,

I think the story there is pretty illustrative, right?

že ten příběh tam byl docela ilustrativní.

Tím myslím to vysoké zobecnění, hluboké učení ‒

I think that high level, deep learning,

like we always knew that was what we wanted to be,

a jestli jsme věděli, že to, co chceme,

je laboratoř hlubokého učení a jak to udělat?

was a deep learning lab, and exactly how to do it?

Zpočátku jsme to nevěděli.

I think that in the early days, we didn't know.

Zkoušeli jsme spousty věcí, jeden člověk trénoval model,

We tried a lot of things,

and one person was working on training a model

který podle recenzí na Amazonu predikoval, kde mají být jaké znaky

to predict the next character in Amazon reviews,

and he got a result where -- this is a syntactic process,

a dostal výsledek, kde ‒ jde totiž o syntaktický rozbor,

you expect, you know, the model will predict where the commas go,

chcete, aby model predikoval, kde mají být čárky,

where the nouns and verbs are.

kde jsou podstatná jména a slovesa.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Ale on z toho udělal nejmodernější klasifikátor pro analýzu nálad.

This model could tell you if a review was positive or negative.

Tento model dokázal říct, zda je recenze pozitivní, nebo ne.

I mean, today we are just like, come on, anyone can do that.

Dneska jsme prostě takoví, no tak, to může udělat každý.

But this was the first time that you saw this emergence,

Ale to bylo poprvé, kdy jsme pozorovali ten náhlý vývin,

this sort of semantics that emerged from this underlying syntactic process.

ten druh sémantiky, který se vynořil ze základního syntaktického procesu.

And there we knew, you've got to scale this thing,

Věděli jsme, že na tom musíme dál stavět, zjistit, kam to povede.

you've got to see where it goes.

CA: Takže to asi vysvětluje hádanku, která mate každého, kdo se na to dívá,

CA: So I think this helps explain

the riddle that baffles everyone looking at this,

because these things are described as prediction machines.

protože tyto věci popisujeme jako predikční stroje.

A přesto, z toho, co právě vidíme, mám pocit...

And yet, what we're seeing out of them feels ...

it just feels impossible that that could come from a prediction machine.

prostě mi připadá nemožné, že to pochází od predikčního stroje.

Just the stuff you showed us just now.

Zrovna to, co jste nám teď ukázal.

And the key idea of emergence is that when you get more of a thing,

A klíčová myšlenka emergence je ta, že když z něčeho získáte něco dalšího,

suddenly different things emerge.

nabalí se na to různé věci.

It happens all the time, ant colonies, single ants run around,

Je to všude, mravenčí kolonie, mravenci pobíhají kolem,

když se jich sejde dost, vzniknou mravenčí kolonie,

when you bring enough of them together,

you get these ant colonies that show completely emergent, different behavior.

které vykazují zcela emergentní, odlišné chování.

Or a city where a few houses together, it's just houses together.

Nebo město, kde je několik domů pohromadě, je to prostě pár domů.

But as you grow the number of houses,

Ale jak počet domů roste,

things emerge, like suburbs and cultural centers and traffic jams.

vznikají věci, jako jsou předměstí a kulturní centra a dopravní zácpy.

Vzpomeňte na jeden moment, kdy jste viděl, jak se objevilo něco,

Give me one moment for you when you saw just something pop

that just blew your mind

co vám prostě vyrazilo dech, co jste prostě nečekal.

that you just did not see coming.

GB: Yeah, well,

GB: Jo, no,

so you can try this in ChatGPT, if you add 40-digit numbers --

to si můžete zkusit v ChatGPT, když sčítáte 40místná čísla ‒

CA: 40-digit?

CA: 40místná čísla?

GB: 40-digit numbers, the model will do it,

GB: 40místná čísla, model to zvládne,

which means it's really learned an internal circuit for how to do it.

což znamená, že vnitřní obvod se opravdu naučil, jak to udělat.

And the really interesting thing is actually,

A nejzajímavější vlastně je,

že pokud vám má sečíst 40místné a 35místné číslo,

if you have it add like a 40-digit number plus a 35-digit number,

it'll often get it wrong.

často to spočítá špatně.

And so you can see that it's really learning the process,

Takže vidíte, že se postup opravdu učí,

but it hasn't fully generalized, right?

ale ještě ho úplně nezobecnil.

It's like you can't memorize the 40-digit addition table,

Vy si taky nezapamatujete 40místnou sčítací tabulku,

to je víc atomů, než je ve vesmíru.

that's more atoms than there are in the universe.

Potřeboval se naučit zobecňovat,

So it had to have learned something general,

ale protože se ve skutečnosti ještě nenaučil dokonale sčítat ‒

but that it hasn't really fully yet learned that,

Oh, I can sort of generalize this to adding arbitrary numbers

aha, můžu to zobecnit na sčítání libovolných čísel libovolné délky.

of arbitrary lengths.

CA: So what's happened here

CA: Takže se stalo to, že jste mu umožnil to ještě rozšířit

is that you've allowed it to scale up

and look at an incredible number of pieces of text.

a vzít v úvahu neuvěřitelné množství textu.

And it is learning things

A teď se učí věci,

that you didn't know that it was going to be capable of learning.

o kterých jste nevěděl, že se je bude schopen naučit.

GB Well, yeah, and it’s more nuanced, too.

GB: A taky to jde víc do hloubky.

So one science that we’re starting to really get good at

Jeden předmět, ve kterém začínáme vynikat,

is predicting some of these emergent capabilities.

se zabývá predikcí emergentních schopností.

And to do that actually,

K tomu je potřeba jedna věc, která je v tomto oboru podceňována,

one of the things I think is very undersung in this field

a tou je určitá technická kvalita.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

Museli jsme předělat celou technologickou linku.

When you think about building a rocket,

Když uvažujete o stavbě rakety,

every tolerance has to be incredibly tiny.

musí být všechny tolerance neuvěřitelně přesné.

Same is true in machine learning.

Totéž platí pro strojové učení.

You have to get every single piece of the stack engineered properly,

Všechny technologické součásti musí být správně navrženy

and then you can start doing these predictions.

a až pak můžete začít s predikcemi.

There are all these incredibly smooth scaling curves.

Jedná se o neuvěřitelně hladké škálovací křivky.

Vypovídají něco hluboce zásadního o inteligenci.

They tell you something deeply fundamental about intelligence.

Když se podíváte na náš blog o GPT-4, všechny ty křivky tam uvidíte.

If you look at our GPT-4 blog post,

you can see all of these curves in there.

And now we're starting to be able to predict.

A začínáme umět predikovat.

Byli jsme třeba schopni predikovat výkon potřebný pro kódování.

So we were able to predict, for example, the performance on coding problems.

We basically look at some models

V podstatě bereme v úvahu modely,

that are 10,000 times or 1,000 times smaller.

které jsou 10000krát i 1000krát menší.

And so there's something about this that is actually smooth scaling,

Dalo by se říct, že jde vlastně o plynulé škálování,

even though it's still early days.

i když je to ještě v počáteční fázi.

CA: So here is, one of the big fears then,

CA: Tady pak panuje velká obava, která z toho vyplývá.

that arises from this.

If it’s fundamental to what’s happening here,

Pro to, co se tu děje, je zásadní, že jak škálujete nahoru,

that as you scale up,

things emerge that

náhle se objevují věci,

you can maybe predict in some level of confidence,

které možná s určitou mírou jistoty dokážete predikovat,

but it's capable of surprising you.

ale i tak vás dokážou překvapit.

Why isn't there just a huge risk of something truly terrible emerging?

Není v tom prostě obrovské riziko, že se objeví něco opravdu strašného?

GB: Well, I think all of these are questions of degree

GB: Myslím, že toto všechno se týká míry, rozsahu a načasování.

and scale and timing.

Myslím, že lidem také uniká, že určitá integrace se světem

And I think one thing people miss, too,

is sort of the integration with the world is also this incredibly emergent,

je také tak neuvěřitelně emergentní, také velice silná věc.

sort of, very powerful thing too.

To je důvod, proč si myslíme, že je důležité zavádět to postupně.

And so that's one of the reasons that we think it's so important

to deploy incrementally.

Myslím, že zrovna teď vidíte, když sledujete tuto přednášku,

And so I think that what we kind of see right now, if you look at this talk,

že se hodně soustředím na poskytování opravdu kvalitní zpětné vazby.

a lot of what I focus on is providing really high-quality feedback.

Dneska se dají ty úkoly, které zadáme, zkontrolovat.

Today, the tasks that we do, you can inspect them, right?

Je velmi snadné kouknout se na tu početní úlohu a říct, ne, ne, ne, stroji,

It's very easy to look at that math problem and be like, no, no, no,

správný výsledek je sedm.

machine, seven was the correct answer.

Ale dohlédnout na správné shrnutí obsahu knihy je těžké.

But even summarizing a book, like, that's a hard thing to supervise.

Jak víte, jestli je dost dobré? Musíte si přečíst celou knihu.

Like, how do you know if this book summary is any good?

You have to read the whole book.

To se nikomu nechce.

No one wants to do that.

(smích)

(Laughter)

And so I think that the important thing will be that we take this step by step.

A tak si myslím, že je důležité, abychom postupovali krok za krokem.

And that we say, OK, as we move on to book summaries,

Že si řekneme, OK, až přejdeme k souhrnům knih,

we have to supervise this task properly.

musíme na ten úkol řádně dohlédnout.

We have to build up a track record with these machines

Musíme u těch strojů zaznamenat všechna selhání,

that they're able to actually carry out our intent.

abychom věděli, že skutečně mohou realizovat náš záměr.

And I think we're going to have to produce even better, more efficient,

Myslím, že budeme muset vytvořit ještě lepší, efektivnější,

more reliable ways of scaling this,

spolehlivější způsoby, jak to škálovat,

sort of like making the machine be aligned with you.

aby úroveň strojů odpovídala úrovni znalostí lidí.

CA: So we're going to hear later in this session,

CA: Jak dneska ještě uslyšíme, někteří kritici říkají,

there are critics who say that,

you know, there's no real understanding inside,

že interně nikdo skutečně nechápe,

the system is going to always --

že systém bude vždycky ‒

we're never going to know that it's not generating errors,

že se nikdy nedozvíme, že generuje chyby,

that it doesn't have common sense and so forth.

že nemá zdravý selský rozum a tak dále.

Is it your belief, Greg, that it is true at any one moment,

Jste přesvědčen, Gregu, že bude vždycky platit,

but that the expansion of the scale and the human feedback

že ta expanze škálování a lidská zpětná vazba,

that you talked about is basically going to take it on that journey

o kterých jste mluvil, se v zásadě vydají směrem,

kdy se skutečně dopracují

of actually getting to things like truth and wisdom and so forth,

k pravdě a moudrosti a tak dále s vysokou mírou jistoty?

with a high degree of confidence.

Can you be sure of that?

Můžete si tím být jist?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

GB: Jo, no, myslím, že OpenAI, tedy, krátká odpověď je ano,

I believe that is where we're headed.

věřím, že k tomu směřujeme.

And I think that the OpenAI approach here has always been just like,

Myslím, že přístup OpenAI byl v tomto vždycky takový ‒

prostě nechat to hned prověřit realitou.

let reality hit you in the face, right?

It's like this field is the field of broken promises,

Vypadá to, jako by tenhle obor byl oborem planých slibů

všech těch expertů, kteří říkají, že se stane X, že Y funguje.

of all these experts saying X is going to happen, Y is how it works.

Lidé už 70 let tvrdí, že neuronové sítě nefungují.

People have been saying neural nets aren't going to work for 70 years.

Zatím se pletli.

They haven't been right yet.

Možná mají pravdu, možná je potřeba přidat ještě nějaký ten rok navíc.

They might be right maybe 70 years plus one

or something like that is what you need.

Ale náš přístup byl vždycky takový,

But I think that our approach has always been,

že musíte jít na hranici možností technologie, abyste ji viděli v akci,

you've got to push to the limits of this technology

to really see it in action,

protože to vám pak dá návod, jak přejít k novému paradigmatu.

because that tells you then, oh, here's how we can move on to a new paradigm.

A my jsme z ní prostě ještě nevyždímali všechno.

And we just haven't exhausted the fruit here.

CA: To jste zaujali dost kontroverzní postoj, když říkáte,

CA: I mean, it's quite a controversial stance you've taken,

že správný způsob, jak toho docílit, je zpřístupnit to veřejnosti

that the right way to do this is to put it out there in public

and then harness all this, you know,

a pak to všechno využít ‒

místo toho, aby ji poskytoval jen váš tým,

instead of just your team giving feedback,

the world is now giving feedback.

poskytuje teď zpětnou vazbu celý svět.

But ...

Ale...

If, you know, bad things are going to emerge,

Pokud se náhle objeví špatné věci, už to bude venku.

it is out there.

Původní příběh, který jsem slyšel o OpenAI v době,

So, you know, the original story that I heard on OpenAI

when you were founded as a nonprofit,

kdy jste zakládali neziskovku ‒

well you were there as the great sort of check on the big companies

byli jste velkým příslibem určité kontroly velkých společností,

doing their unknown, possibly evil thing with AI.

které s AI dělaly netransparentní a možná i nekalé věci.

And you were going to build models that sort of, you know,

A vy jste se chystali vytvářet modely,

které by je nějak vedly k zodpovědnosti

somehow held them accountable

and was capable of slowing the field down, if need be.

a které by byly schopny v případě potřeby obor zbrzdit.

Or at least that's kind of what I heard.

Aspoň tak nějak jsem o tom slyšel.

And yet, what's happened, arguably, is the opposite.

Přesto se podle všeho stal pravý opak.

That your release of GPT, especially ChatGPT,

Když jste uvolnili GPT, zejména ChatGPT,

způsobilo to v technologickém světě takový šok,

sent such shockwaves through the tech world

that now Google and Meta and so forth are all scrambling to catch up.

že se teď Google a Meta a další snaží dohnat, co se dá.

And some of their criticisms have been,

A částečně od nich zazněla kritika,

you are forcing us to put this out here without proper guardrails or we die.

že je nutíte, aby za každou cenu zveřejňovali věci bez řádných mantinelů.

You know, how do you, like,

Víte, jak odůvodníte,

make the case that what you have done is responsible here and not reckless.

že to, co jste udělali, je zodpovědné, a ne bezohledné?

GB: Yeah, we think about these questions all the time.

GB: Jo, o těchto otázkách přemýšlíme neustále.

Like, seriously all the time.

Vážně celou tu dobu.

And I don't think we're always going to get it right.

A nemyslím si, že vždycky všechno uděláme správně.

But one thing I think has been incredibly important,

Ale jedna věc byla neuvěřitelně důležitá ‒

od samého začátku, když jsme přemýšleli o tom,

from the very beginning, when we were thinking

about how to build artificial general intelligence,

jak vybudovat obecnou AI, aby z ní mělo prospěch celé lidstvo ‒

actually have it benefit all of humanity,

jak to jako máme udělat.

like, how are you supposed to do that, right?

Ten výchozí plán fungování, budujete to v utajení,

And that default plan of being, well, you build in secret,

máte super výkonnou věc,

you get this super powerful thing,

pak řešíte bezpečnost, zmáčknete „start“ a doufáte,

and then you figure out the safety of it and then you push “go,”

že máte všechno správně.

and you hope you got it right.

Nevím, jak takový plán provést. Možná to ví někdo jiný.

I don't know how to execute that plan.

Maybe someone else does.

Mě tohle vždycky děsilo, nepřipadalo mi to správné.

But for me, that was always terrifying, it didn't feel right.

A tak si myslím, že tenhle alternativní přístup

And so I think that this alternative approach

je jediná další cesta, kterou vidím,

is the only other path that I see,

which is that you do let reality hit you in the face.

totiž nechat to hned prověřit realitou.

And I think you do give people time to give input.

A lidem dáte čas, aby poskytli vstupy.

Ještě než budou tyto stroje dokonalé,

You do have, before these machines are perfect,

before they are super powerful, that you actually have the ability

ještě než budou super výkonné, máte skutečně možnost vidět je v akci.

to see them in action.

And we've seen it from GPT-3, right?

Už jsme to viděli u GPT-3.

U GPT-3 jsme se opravdu báli, že první věc, kterou s ním lidé udělají,

GPT-3, we really were afraid

that the number one thing people were going to do with it

bude generování dezinformací, pokusy o ovlivňování voleb.

was generate misinformation, try to tip elections.

Instead, the number one thing was generating Viagra spam.

Místo toho lidé jako první věc generovali spam na Viagru.

(Laughter)

(smích)

CA: Spam na Viagru je škodlivý, ale jsou mnohem horší věci.

CA: So Viagra spam is bad, but there are things that are much worse.

Mám pro vás myšlenkový experiment.

Here's a thought experiment for you.

Suppose you're sitting in a room,

Představte si, že sedíte v místnosti, kde na stole leží krabice.

there's a box on the table.

You believe that in that box is something that,

Máte za to, že v té krabici je něco,

co je s velmi velkou pravděpodobností něčím naprosto úžasným,

there's a very strong chance it's something absolutely glorious

that's going to give beautiful gifts to your family and to everyone.

co obdaruje báječnými dary vaši rodinu a všechny ostatní.

But there's actually also a one percent thing in the small print there

Ale je tu také malým písmem zmíněna taková drobnost,

that says: “Pandora.”

píše se tu o „Pandoře“.

And there's a chance

A existuje šance,

that this actually could unleash unimaginable evils on the world.

že by to skutečně mohlo ve světě rozpoutat nepředstavitelné neštěstí.

Do you open that box?

Otevřel byste tu krabici?

GB: Well, so, absolutely not.

GB: No, tak to rozhodně ne.

I think you don't do it that way.

Myslím, že takhle se to nedělá.

A upřímně, povím vám příběh, který jsem vlastně ještě nevyprávěl.

And honestly, like, I'll tell you a story that I haven't actually told before,

which is that shortly after we started OpenAI,

Krátce poté, co jsme začali s OpenAI,

I remember I was in Puerto Rico for an AI conference.

vzpomínám si, jak jsem byl v Portoriku na konferenci o AI.

I'm sitting in the hotel room just looking out over this wonderful water,

Sedím v hotelovém pokoji a dívám se na tu nádhernou vodu,

all these people having a good time.

všichni se dobře baví.

A vy chvíli přemýšlíte, jestli si máte vybrat

And you think about it for a moment,

if you could choose for basically that Pandora’s box

v podstatě tu Pandořinu skříňku

to be five years away

a mít to za pět let nebo to mít až za 500 let,

or 500 years away,

which would you pick, right?

co byste si vybral?

On the one hand you're like, well, maybe for you personally,

Na jednu stranu si říkáte, možná je lepší, když to bude za pět let.

it's better to have it be five years away.

Ale kdyby to mělo být až za 500 let a lidé měli čas udělat to správně,

But if it gets to be 500 years away and people get more time to get it right,

co byste si vybral?

which do you pick?

V té chvíli jsem prostě fakt cítil,

And you know, I just really felt it in the moment.

I was like, of course you do the 500 years.

že se rozhodnu pro těch 500 let, tak to vidí hodně lidí.

My brother was in the military at the time

Můj bratr byl tou dobou v armádě

and like, he puts his life on the line in a much more real way

a nasazoval svůj život mnohem hmatatelnějším způsobem

than any of us typing things in computers

než kdokoli z nás, kteří jsme psali na počítači

and developing this technology at the time.

a vyvíjeli v té době tuto technologii.

And so, yeah, I'm really sold on the you've got to approach this right.

Opravdu jsem byl přesvědčený, že je k tomu třeba přistupovat správně.

But I don't think that's quite playing the field as it truly lies.

Ale to podle mého názoru není zrovnoprávnění podmínek.

Like, if you look at the whole history of computing,

Když se podíváte na celou historii počítačů,

I really mean it when I say that this is an industry-wide

tak opravdu vážně tvrdím, že jde o posun v rámci celého oboru

or even just almost like

nebo dokonce o téměř celoplošný posun v oblasti vývoje technologií.

a human-development- of-technology-wide shift.

And the more that you sort of, don't put together the pieces

A čím víc necháváte ležet ladem jednotlivé části, které máte k dispozici ‒

that are there, right,

we're still making faster computers,

vyrábíme stále rychlejší počítače,

we're still improving the algorithms, all of these things, they are happening.

stále vylepšujeme algoritmy, všechno toto se děje.

And if you don't put them together, you get an overhang,

A pokud je nedáte dohromady, tak vznikne převis,

což znamená, že pokud to někdo udělá,

which means that if someone does,

or the moment that someone does manage to connect to the circuit,

nebo v okamžiku, kdy se někomu podaří zapojit obvod,

then you suddenly have this very powerful thing,

máte rázem něco extrémně mocného, na co nikdo zatím neměl čas zareagovat

no one's had any time to adjust,

a kdo ví, jaká bezpečnostní opatření máte.

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Z toho si beru ponaučení,

is like, even you think about development of other sort of technologies,

že i když uvažujete o vývoji dalších technologií, o jaderných zbraních,

think about nuclear weapons,

people talk about being like a zero to one,

lidé o tom mluví jako o obrovském posunu,

sort of, change in what humans could do.

o určité změně ve schopnostech lidí.

Ale co se týče způsobilosti, ta vždycky rostla celkem hladce.

But I actually think that if you look at capability,

it's been quite smooth over time.

And so the history, I think, of every technology we've developed

Proto si myslím, že v historii se každá technologie,

has been, you've got to do it incrementally

kterou jsme vyvinuli, vyvíjela postupně a učili jsme se,

and you've got to figure out how to manage it

jak ji zvládat pro každou novou etapu vývoje.

for each moment that you're increasing it.

CA: So what I'm hearing is that you ...

CA: Takže vy říkáte, že...

the model you want us to have

chcete, abychom přijali model, v němž jsme zplodili toto výjimečné dítě,

is that we have birthed this extraordinary child

that may have superpowers

jež může mít superschopnosti,

that take humanity to a whole new place.

které posouvají lidstvo na zcela novou úroveň.

It is our collective responsibility to provide the guardrails

Že naší společnou povinností

je stanovit tomuto dítěti hranice,

for this child

to collectively teach it to be wise and not to tear us all down.

abychom ho naučili být inteligentním, a ne aby nás všechny rozsápalo.

Is that basically the model?

Je to v podstatě ten model?

GB: I think it's true.

GB: Je to tak.

And I think it's also important to say this may shift, right?

A je také důležité říct, že se to může změnit.

We've got to take each step as we encounter it.

Musíme podniknout všechny kroky, jakmile na něco narazíme.

And I think it's incredibly important today

Dnes je neuvěřitelně důležité,

that we all do get literate in this technology,

abychom všichni tuto technologii zdatně zvládali,

figure out how to provide the feedback,

naučili se jí dávat zpětnou vazbu a určili, co od ní chceme.

decide what we want from it.

And my hope is that that will continue to be the best path,

A já doufám, že jsme na nejlepší cestě,

but it's so good we're honestly having this debate

ale je skvělé, že vedeme tuto upřímnou diskuzi,

because we wouldn't otherwise if it weren't out there.

protože bez možnosti osahat si to by to ani nešlo.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

CA: Gregu Brockmane, moc děkuji, že jste přišel na TED a otevřel nám oči.

(Applause)

(potlesk)