The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Переводчик: Anastasiya Balabanova Редактор: Natalia Savvidi

We started OpenAI seven years ago

Мы основали Open AI семь лет назад,

because we felt like something really interesting was happening in AI

потому что нам казалось, что в сфере ИИ происходит нечто очень интересное,

and we wanted to help steer it in a positive direction.

и нам хотелось помочь направить процесс в положительное русло.

It's honestly just really amazing to see

Честно говоря, меня поражает

how far this whole field has come since then.

прогресс в этой области с тех пор.

And it's really gratifying to hear from people like Raymond

Очень приятно слышать истории от таких людей, как Рэймонд,

who are using the technology we are building, and others,

которые используют создаваемую нами технологию,

for so many wonderful things.

и другие вдохновляющие истории.

We hear from people who are excited,

Люди выражают восхищение,

we hear from people who are concerned,

люди выражают озабоченность,

we hear from people who feel both those emotions at once.

есть люди, испытывающие обе эти эмоции одновременно.

And honestly, that's how we feel.

Откровенно говоря, мы испытываем то же самое.

Above all, it feels like we're entering an historic period right now

Прежде всего, есть ощущение того,

что сегодня мы пересекаем исторический рубеж,

where we as a world are going to define a technology

когда мы, человечество, определяем технологию,

that will be so important for our society going forward.

которая будет так важна для нашего общества в будущем.

And I believe that we can manage this for good.

Я верю, что мы можем управлять ею во благо.

So today, I want to show you the current state of that technology

Сегодня я хочу продемонстрировать вам нынешнее состояние этой технологии

и некоторые основополагающие и важные для нас принципы её дизайна.

and some of the underlying design principles that we hold dear.

So the first thing I'm going to show you

Первое, что я хочу показать, —

is what it's like to build a tool for an AI

это что значит создать инструмент для ИИ,

rather than building it for a human.

а не для человека.

So we have a new DALL-E model, which generates images,

У нас есть новая модель DALL-E, генерирующая изображения,

and we are exposing it as an app for ChatGPT to use on your behalf.

и мы даём ChatGPT возможность пользоваться ею как приложением.

And you can do things like ask, you know,

Можно, например, попросить ИИ:

suggest a nice post-TED meal and draw a picture of it.

«Посоветуй, как можно хорошо поесть после TED, и нарисуй эту еду».

(Laughter)

(Смех)

Now you get all of the, sort of, ideation and creative back-and-forth

Дальше происходит работа над идеей и творческий обмен,

and taking care of the details for you that you get out of ChatGPT.

а также работа над деталями, которую делает для вас ChatGPT.

And here we go, it's not just the idea for the meal,

Вот результат: это не просто идея еды,

but a very, very detailed spread.

а очень подробное её описание.

So let's see what we're going to get.

Давайте посмотрим, что у нас получилось.

But ChatGPT doesn't just generate images in this case --

В этом случае ChatGPT создал не просто картинки,

sorry, it doesn't generate text, it also generates an image.

простите, не просто текст, но также изображение.

And that is something that really expands the power

И это действительно расширяет возможности того,

of what it can do on your behalf in terms of carrying out your intent.

что можно создать по вашему поручению с точки зрения осуществления намерения.

And I'll point out, this is all a live demo.

Подчеркну, что всё это живая демонстрация,

This is all generated by the AI as we speak.

генерируемая ИИ в процессе нашего разговора.

So I actually don't even know what we're going to see.

Так что я даже не знаю, что мы получим.

This looks wonderful.

Выглядит чудесно.

(Applause)

(Аплодисменты)

I'm getting hungry just looking at it.

У меня разгорается аппетит только при виде этого.

Now we've extended ChatGPT with other tools too,

Мы дополнили ChatGPT и другими инструментами,

for example, memory.

например, памятью.

You can say "save this for later."

Можно сказать: «Сохрани это на потом».

And the interesting thing about these tools

Интересно, что эти инструменты очень легко видеть.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

Вот всплывающее окно: «Использовать приложение DALL-E».

В ближайшие месяцы эта функция будет доступна всем пользователям ChatGPT.

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

Можно копнуть глубже и увидеть,

And you can look under the hood and see that what it actually did

что ChatGPT просто написал информацию так, как это мог бы сделать человек.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Вы можете проверять,

how the machine is using these tools,

как машина пользуется этими инструментами,

which allows us to provide feedback to them.

что даёт нам обратную связь с ними.

Now it's saved for later,

Теперь это сохранено, а я покажу вам,

and let me show you what it's like to use that information

как можно использовать эту информацию и интегрировать её с другими приложениями.

and to integrate with other applications too.

You can say,

Вы можете сказать,

“Now make a shopping list for the tasty thing

«Теперь составь список продуктов для приготовления той вкусной еды,

I was suggesting earlier.”

о которой я говорил ранее».

And make it a little tricky for the AI.

И давайте усложним эту задачу для ИИ:

"And tweet it out for all the TED viewers out there."

«Опубликуй всё это в Твитере для всех зрителей TED».

(Laughter)

(Смех)

So if you do make this wonderful, wonderful meal,

Если эта чудесная еда будет приготовлена,

I definitely want to know how it tastes.

я, конечно же, хочу знать, какой она будет на вкус.

But you can see that ChatGPT is selecting all these different tools

Но вы видите, что ChatGPT выбирает все эти инструменты

without me having to tell it explicitly which ones to use in any situation.

без моего участия

в выборе конкретного инструмента в каждой из ситуаций.

And this, I think, shows a new way of thinking about the user interface.

Я считаю, что это демонстрирует новый подход к интерфейсу пользователя.

Like, we are so used to thinking of, well, we have these apps,

Например, мы так привыкли к тому,

что мы переключаемся с одного приложения на другое,

we click between them, we copy/paste between them,

копируем и вставляем,

and usually it's a great experience within an app

и часто внутри приложения всё проходит гладко,

as long as you kind of know the menus and know all the options.

если мы знакомы с опциями меню.

Yes, I would like you to.

Да, сделай это.

Yes, please.

Да, пожалуйста.

Always good to be polite.

Всегда полезно быть вежливым.

(Laughter)

(Смех)

And by having this unified language interface on top of tools,

Имея единый языковый интерфейс наряду с инструментами,

the AI is able to sort of take away all those details from you.

ИИ способен избавить вас от всех этих деталей.

So you don't have to be the one

Вам не нужно формулировать каждую деталь того,

who spells out every single sort of little piece

of what's supposed to happen.

что должно произойти.

And as I said, this is a live demo,

Поскольку это живая демонстрация,

so sometimes the unexpected will happen to us.

иногда будут случаться сюрпризы.

But let's take a look at the Instacart shopping list while we're at it.

Но давайте посмотрим на список продуктов в Instacart.

And you can see we sent a list of ingredients to Instacart.

Вот мы отправили список продуктов в Instacart.

Here's everything you need.

Вот всё, что вам понадобится.

And the thing that's really interesting

Интересно, что традиционный интерфейс пользователя

is that the traditional UI is still very valuable, right?

всё ещё играет важную роль.

If you look at this,

Посмотрите, вы всё ещё можете изменять количества в списке.

you still can click through it and sort of modify the actual quantities.

And that's something that I think shows

Это показывает,

that they're not going away, traditional UIs.

что традиционные интерфейсы пользователя будут продолжать использоваться.

It's just we have a new, augmented way to build them.

Просто теперь у нас есть новый, расширенный способ их создания.

And now we have a tweet that's been drafted for our review,

Вот твит, который нам осталось просмотреть,

which is also a very important thing.

что тоже очень важно.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

Мы можем опубликовать его,

мы распоряжаемся им, мы можем проверить его,

we're able to change the work of the AI if we want to.

мы можем исправить работу ИИ, если мы этого хотим.

And so after this talk, you will be able to access this yourself.

После этого выступления у вас тоже будет доступ к этому.

And there we go.

А вот и результат.

Cool.

Круто.

Thank you, everyone.

Всем спасибо.

(Applause)

(Аплодисменты)

So we’ll cut back to the slides.

А теперь вернёмся к слайдам.

Now, the important thing about how we build this,

В процессе создания этой технологии

it's not just about building these tools.

важно не только создавать инструменты,

It's about teaching the AI how to use them.

но и обучать ИИ, как ими пользоваться.

Like, what do we even want it to do

Что вообще мы хотим от ИИ,

when we ask these very high-level questions?

когда задаём эти сложные вопросы?

And to do this, we use an old idea.

Чтобы добиться этого, мы использовали старую идею.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

В 1950 году в статье о тесте Тьюринга Алан Тьюринг написал,

you'll never program an answer to this.

что этот ответ никогда не будет запрограммирован.

Instead, you can learn it.

Вместо этого его можно выучить.

You could build a machine, like a human child,

Можно построить машину как ребёнка,

and then teach it through feedback.

а потом обучить её с помощью обратной связи.

Have a human teacher who provides rewards and punishments

Нужен человек-учитель, поощряющий или наказывающий,

as it tries things out and does things that are either good or bad.

когда машина пробует разные вещи и делает что-то хорошо или плохо.

And this is exactly how we train ChatGPT.

Именно так мы и обучаем ChatGPT.

It's a two-step process.

Процесс состоит из двух этапов.

First, we produce what Turing would have called a child machine

Сначала мы создаём то, что Тьюринг назвал бы машиной-ребёнком,

through an unsupervised learning process.

в процессе неконтролируемого обучения.

We just show it the whole world, the whole internet

Мы показываем ей весь мир, весь интернет, и говорим:

and say, “Predict what comes next in text you’ve never seen before.”

«Предскажи, что будет дальше в тексте, которого ты ещё не видела».

And this process imbues it with all sorts of wonderful skills.

В этом процессе она приобретает разные удивительные навыки.

For example, if you're shown a math problem,

Если вам надо решить математическую задачу,

the only way to actually complete that math problem,

единственный способ это сделать —

to say what comes next,

показать, что следует, —

that green nine up there,

эта зелёная цифра девять —

is to actually solve the math problem.

это взять и решить эту математическую задачку.

But we actually have to do a second step, too,

Но нам надо сделать ещё и второй шаг—

which is to teach the AI what to do with those skills.

научить ИИ пользоваться этими навыками.

Для этого мы предоставляем обратную связь.

And for this, we provide feedback.

We have the AI try out multiple things, give us multiple suggestions,

ИИ пробует разные подходы, даёт нам разные предложения,

and then a human rates them, says “This one’s better than that one.”

а затем человек даёт им оценку: «Этот ответ лучше, чем тот».

Это подкрепляет не только конкретно то, что сказал ИИ,

And this reinforces not just the specific thing that the AI said,

но, что очень важно, весь процесс, который использовал ИИ, чтобы ответить.

but very importantly, the whole process that the AI used to produce that answer.

Это позволяет ИИ обобщать,

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

учить, делать выводы о вашем намерении

and apply it in scenarios that it hasn't seen before,

и применять эти знания в новых ситуациях,

that it hasn't received feedback.

для которых он ещё не получал обратной связи.

Now, sometimes the things we have to teach the AI

Иногда нам нужно учить ИИ делать что-то такое,

are not what you'd expect.

чего вы не ожидали.

For example, when we first showed GPT-4 to Khan Academy,

Например, когда мы впервые показали GPT-4 Академии Хана,

they said, "Wow, this is so great,

там сказали: «Здорово!

We're going to be able to teach students wonderful things.

Мы сможем учить детей чудесным вещам.

Но есть проблема: ИИ не проверяет вычисления учеников.

Only one problem, it doesn't double-check students' math.

If there's some bad math in there,

Если есть вычислительная ошибка,

it will happily pretend that one plus one equals three and run with it."

ИИ с радостью согласится, что один плюс один — это три».

So we had to collect some feedback data.

Поэтому нам пришлось собрать обратную связь.

Sal Khan himself was very kind

Сам Салман Хан потратил 20 часов личного времени,

and offered 20 hours of his own time to provide feedback to the machine

наряду с нашей командой, чтобы предоставить машине обратную связь.

alongside our team.

And over the course of a couple of months we were able to teach the AI that,

За пару месяцев мы смогли объяснить ИИ,

"Hey, you really should push back on humans

что в конкретном случае он должен перепроверять людей.

in this specific kind of scenario."

And we've actually made lots and lots of improvements to the models this way.

Таким образом мы во многом усовершенствовали модели.

And when you push that thumbs down in ChatGPT,

Когда вы сообщаете, что вам что-то не нравится в ChatGPT,

that actually is kind of like sending up a bat signal to our team to say,

это служит сигналом для нашей команды:

«Тут слабое место, где вам надо собрать обратную связь».

“Here’s an area of weakness where you should gather feedback.”

And so when you do that,

Когда вы делаете это,

that's one way that we really listen to our users

мы прислушиваемся к вам, нашим пользователям,

and make sure we're building something that's more useful for everyone.

и добиваемся того, чтобы то, что мы создаём,

было более полезным для всех.

Now, providing high-quality feedback is a hard thing.

Обеспечить высококачественную обратную связь непросто.

If you think about asking a kid to clean their room,

Скажем, вы просите ребёнка убрать комнату.

if all you're doing is inspecting the floor,

Если при этом вы проверяете только пол,

you don't know if you're just teaching them to stuff all the toys in the closet.

откуда вы знаете, что вы не учите ребёнка просто забивать игрушками шкаф?

This is a nice DALL-E-generated image, by the way.

Это, кстати, красивая картинка, созданная DALL-E.

And the same sort of reasoning applies to AI.

То же самое можно сказать об ИИ.

As we move to harder tasks,

С усложнением задач

we will have to scale our ability to provide high-quality feedback.

нам придётся предоставлять более высококачественную обратную связь.

But for this, the AI itself is happy to help.

Но и сам ИИ рад помочь нам с этим.

It's happy to help us provide even better feedback

Он рад помочь нам предоставлять лучшую обратную связь

and to scale our ability to supervise the machine as time goes on.

и улучшать нашу способность контролировать машину со временем.

And let me show you what I mean.

Я покажу вам, что я имею в виду.

For example, you can ask GPT-4 a question like this,

Например, вы можете задать GPT-4 такой вопрос:

of how much time passed between these two foundational blogs

сколько времени прошло между двумя основополагающими блогами

on unsupervised learning

о неконтролируемом обучении

and learning from human feedback.

и обучении с помощью обратной связи.

And the model says two months passed.

Модель отвечает, что прошло два месяца.

But is it true?

Но так ли это?

Like, these models are not 100-percent reliable,

Эти модели надёжны не на все 100%,

although they’re getting better every time we provide some feedback.

но они становятся точнее каждый раз, когда мы даём им обратную связь.

But we can actually use the AI to fact-check.

Однако мы можем использовать ИИ для проверки фактов.

And it can actually check its own work.

Машина в состоянии проверять собственную работу.

You can say, fact-check this for me.

Можно попросить её перепроверить что-то.

Now, in this case, I've actually given the AI a new tool.

В данном случае я предоставил ИИ новый инструмент,

This one is a browsing tool

средство просмотра,

с помощью которого модель может осуществлять поисковые запросы

where the model can issue search queries and click into web pages.

и нажимать на страницы.

And it actually writes out its whole chain of thought as it does it.

При этом она выдаёт всю свою цепочку мыслей.

It says, I’m just going to search for this and it actually does the search.

Она говорит, что собирается поискать нечто и осуществляет этот поиск.

It then it finds the publication date and the search results.

А затем она находит дату публикации в результатах поиска.

It then is issuing another search query.

Потом она запускает следующий поиск.

It's going to click into the blog post.

Она заходит на страницу блога.

And all of this you could do, but it’s a very tedious task.

Вы тоже могли бы всё это проделать, но это очень нудная работа.

It's not a thing that humans really want to do.

Людям не нравится делать такое.

It's much more fun to be in the driver's seat,

Намного интереснее быть на месте водителя,

быть на месте менеджера,

to be in this manager's position where you can, if you want,

где вы можете при желании осуществить тройную проверку.

triple-check the work.

Вот ссылки,

And out come citations

so you can actually go

и вы можете легко проверить каждый шаг этой мыслительной цепочки.

and very easily verify any piece of this whole chain of reasoning.

And it actually turns out two months was wrong.

Оказывается, это были не совсем два месяца.

Two months and one week,

Два месяца и одна неделя —

that was correct.

вот что правильно.

(Applause)

(Аплодисменты)

And we'll cut back to the side.

А теперь вернёмся к слайдам.

And so thing that's so interesting to me about this whole process

Больше всего в этом процессе меня интересует

is that it’s this many-step collaboration between a human and an AI.

многоэтапное сотрудничество между человеком и ИИ.

Because a human, using this fact-checking tool

Человек с таким инструментом для проверки фактов

is doing it in order to produce data

делает это для того, чтобы создать данные

for another AI to become more useful to a human.

для другого ИИ, чтобы тот стал более полезным для человека.

And I think this really shows the shape of something

Я считаю, что это демонстрирует тренд,

that we should expect to be much more common in the future,

который мы будем чаще видеть в будущем,

where we have humans and machines kind of very carefully

когда люди будут работать с машинами,

and delicately designed in how they fit into a problem

очень аккуратно и точно спроектированными с тем,

чтобы они подходили для проблемы и желаемого способа ее решения.

and how we want to solve that problem.

We make sure that the humans are providing the management, the oversight,

Мы заботимся о том, чтобы люди осуществляли управление, надзор

the feedback,

и предоставляли обратную связь,

and the machines are operating in a way that's inspectable

а работа машин легко поддавалась проверке

и была надёжной.

and trustworthy.

Совместными усилиями мы можем создавать ещё более надёжные машины.

And together we're able to actually create even more trustworthy machines.

Думаю, что со временем, организовав этот процесс правильно,

And I think that over time, if we get this process right,

мы сможем решать невероятные проблемы.

we will be able to solve impossible problems.

Чтобы вы поняли, какие невероятные проблемы я имею в виду,

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

я думаю, что мы сможем заново определить почти все аспекты того,

of how we interact with computers.

как мы взаимодействуем с компьютерами.

For example, think about spreadsheets.

Возьмём, например, электронные таблицы.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

Они существуют в той или иной форме уже лет 40, со времен VisiCalc.

I don't think they've really changed that much in that time.

Мне кажется, они мало изменились за это время.

And here is a specific spreadsheet of all the AI papers on the arXiv

Вот таблица всех публикаций об ИИ в arXiv

for the past 30 years.

за последние 30 лет.

There's about 167,000 of them.

Тут около 167 000 публикаций.

And you can see there the data right here.

Тут вы можете видеть данные.

But let me show you the ChatGPT take on how to analyze a data set like this.

Но давайте я покажу вам, как ChatGPT может проанализировать такой набор данных.

So we can give ChatGPT access to yet another tool,

Мы можем дать ChatGPT доступ к ещё одному инструменту.

this one a Python interpreter,

Это интерпретатор Python,

so it’s able to run code, just like a data scientist would.

позволяющий ChatGPT запускать программы, как это делает специалист по данным.

And so you can just literally upload a file

Так что можно просто загрузить файл

and ask questions about it.

и задать по нему вопросы.

And very helpfully, you know, it knows the name of the file and it's like,

К счастью, ИИ понимает, что это файл CSV,

"Oh, this is CSV," comma-separated value file,

файл со значениями, разделёнными запятыми,

и собирается преобразовать его соответственно.

"I'll parse it for you."

The only information here is the name of the file,

Единственная информация здесь — это название файла,

the column names like you saw and then the actual data.

названия столбцов и сами данные.

And from that it's able to infer what these columns actually mean.

Эта информации позволяет ИИ понять, что эти столбцы означают.

Like, that semantic information wasn't in there.

Семантической информации там нет.

It has to sort of, put together its world knowledge of knowing that,

ИИ должен скомбинировать свои знания о мире:

“Oh yeah, arXiv is a site that people submit papers

«Ну, да, arXiV — это сайт, куда люди отправляют статьи,

and therefore that's what these things are and that these are integer values

и поэтому это сами статьи, а тут — целые числа,

то есть это количество авторов в статье».

and so therefore it's a number of authors in the paper,"

like all of that, that’s work for a human to do,

Всё это работа для человека, с которой ИИ с радостью поможет.

and the AI is happy to help with it.

Я даже не знаю, что бы мне попросить.

Now I don't even know what I want to ask.

So fortunately, you can ask the machine,

К счастью, вы можете попросить машину

"Can you make some exploratory graphs?"

построить исследовательские графики.

And once again, this is a super high-level instruction with lots of intent behind it.

Опять-таки, это инструкция очень высокого уровня,

за которой может стоять множество целей.

But I don't even know what I want.

Но я даже не знаю, чего я хочу.

And the AI kind of has to infer what I might be interested in.

ИИ должен сделать вывод о том, что мне может быть интересно.

And so it comes up with some good ideas, I think.

Я думаю, что он выдаёт довольно хорошие идеи.

So a histogram of the number of authors per paper,

Гистограмма количества авторов по статьям,

time series of papers per year, word cloud of the paper titles.

статьи сгруппированные по годам,

облако слов из названий статей.

All of that, I think, will be pretty interesting to see.

Всё это, мне кажется, довольно интересно.

Самое главное, ИИ может построить эти графики.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

Вот красивая Гауссова кривая.

Видно, что число три встречается чаще всего.

You see that three is kind of the most common.

It's going to then make this nice plot of the papers per year.

А вот красивый график количества статей по годам.

Something crazy is happening in 2023, though.

Что-то странное происходит в 2023 году.

Looks like we were on an exponential and it dropped off the cliff.

Рост, казалось бы, был экспоненциальным, и вдруг он резко прекратился.

What could be going on there?

В чём тут может быть дело?

By the way, all this is Python code, you can inspect.

Кстати, это всё код Python, который вы можете проверить.

And then we'll see word cloud.

А вот и облако слов.

So you can see all these wonderful things that appear in these titles.

Вы видите все эти замечательные слова, встречающиеся в заголовках.

But I'm pretty unhappy about this 2023 thing.

Но мне очень не нравится ситуация в 2023 году.

It makes this year look really bad.

Год кажется очень плохим.

Of course, the problem is that the year is not over.

Конечно же, дело в том, что год ещё не закончился.

So I'm going to push back on the machine.

Так что я попрошу машину пересчитать.

[Waitttt that's not fair!!!

[Подожди, это не честно!!!

2023 isn't over.

2023 год ещё не закончился.

What percentage of papers in 2022 were even posted by April 13?]

Какой процент статей 2022 года был опубликован к 13 апреля?]

So April 13 was the cut-off date I believe.

Кажется, 13 апреля было датой начала отсчёта.

Can you use that to make a fair projection?

Можешь использовать эту дату, чтобы создать удовлетворительный прогноз?

So we'll see, this is the kind of ambitious one.

Как видите, это амбициозная задача.

(Laughter)

(Смех)

So you know,

Видите,

again, I feel like there was more I wanted out of the machine here.

я снова хотел получить от машины больше.

I really wanted it to notice this thing,

Я хотел, чтобы ИИ заметил этот нюанс,

maybe it's a little bit of an overreach for it

возможно я ожидаю слишком многого от машины,

to have sort of, inferred magically that this is what I wanted.

чтобы она волшебным способом поняла, чего я хочу.

But I inject my intent,

Но я добавляю своё намерение,

I provide this additional piece of, you know, guidance.

предоставляю дополнительную информацию, руководство.

And under the hood,

За кулисами

the AI is just writing code again, so if you want to inspect what it's doing,

ИИ просто переписывает код, и если вы хотите его проверить,

it's very possible.

это можно сделать.

And now, it does the correct projection.

И теперь мы видим правильный прогноз.

(Applause)

(Аплодисменты)

If you noticed, it even updates the title.

Если вы заметили, даже заголовок поменялся.

I didn't ask for that, but it know what I want.

Я об этом не просил, но ИИ знает, чего я хочу.

Now we'll cut back to the slide again.

Давайте теперь вернёмся к слайдам.

This slide shows a parable of how I think we ...

Этот слайд показывает видение того,

как мы станем использовать эту технологию в будущем.

A vision of how we may end up using this technology in the future.

A person brought his very sick dog to the vet,

Человек привёл свою очень больную собаку к ветеринару,

and the veterinarian made a bad call to say, “Let’s just wait and see.”

а ветеринар принял плохое решение — просто подождать.

And the dog would not be here today had he listened.

И этой собаки сегодня не было бы в живых, если бы он послушался.

In the meanwhile, he provided the blood test,

Между тем этот человек

предоставил ChatGPT анализы крови и медицинские данные,

like, the full medical records, to GPT-4,

which said, "I am not a vet, you need to talk to a professional,

и ChatGPT сказал: «Я не ветеринар, поговорите со специалистом,

here are some hypotheses."

но вот моя гипотеза».

He brought that information to a second vet

С этой гипотезой он пошёл к другому врачу,

who used it to save the dog's life.

который спас собаке жизнь.

Now, these systems, they're not perfect.

Конечно, эти системы неидеальны.

You cannot overly rely on them.

Нельзя полагаться на них на все 100%.

But this story, I think, shows

Но эта история показывает,

that a human with a medical professional

что человек с медицинским образованием

and with ChatGPT as a brainstorming partner

и с ChatGPT в качестве партнёра по разработке гипотез

was able to achieve an outcome that would not have happened otherwise.

смогли достичь результата, который был бы недостижим иначе.

I think this is something we should all reflect on,

Нам всем следует над этим поразмыслить,

think about as we consider how to integrate these systems

подумать о том, как мы хотим интегрировать эти системы

into our world.

в наш мир.

And one thing I believe really deeply,

Я твёрдо верю в то, что для того,

is that getting AI right is going to require participation from everyone.

чтобы создать хороший ИИ, потребуется участие каждого.

And that's for deciding how we want it to slot in,

Это касается того, куда мы хотим встроить ИИ,

that's for setting the rules of the road,

какие правила установим при этом,

for what an AI will and won't do.

что ИИ будет делать и чего нет.

And if there's one thing to take away from this talk,

Из моего выступления можно сделать следующий вывод:

it's that this technology just looks different.

эта технология просто очень отличается

Just different from anything people had anticipated.

от всего, что люди ожидали.

And so we all have to become literate.

И нам всем нужно её ознакомиться с ней.

And that's, honestly, one of the reasons we released ChatGPT.

Это одна из причин нашего решения выпустить ChatGPT.

Together, I believe that we can achieve the OpenAI mission

Я верю, что вместе мы можем воплотить миссию OpenAI:

of ensuring that artificial general intelligence

обеспечить, чтобы ИИ приносил пользу всему человечеству.

benefits all of humanity.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)

(Applause ends)

(Аплодисменты стихают)

Chris Anderson: Greg.

Крис Андерсон: Грег.

Wow.

Потрясающе!

I mean ...

То есть ...

I suspect that within every mind out here

Я подозреваю, что все присутствующие сейчас в шоке.

there's a feeling of reeling.

Я также подозреваю, что очень многие из тех, кто смотрит это выступление,

Like, I suspect that a very large number of people viewing this,

you look at that and you think, “Oh my goodness,

думают сейчас: «О, Господи,

pretty much every single thing about the way I work, I need to rethink."

мне придётся переосмыслить почти всё, что я делаю в своей работе».

Like, there's just new possibilities there.

Столько новых возможностей.

Am I right?

Вы согласны со мной?

Who thinks that they're having to rethink the way that we do things?

Кто считает, что нам придётся переосмыслить то, как мы работаем?

Yeah, I mean, it's amazing,

Да, это поразительно.

but it's also really scary.

Но это также пугает.

So let's talk, Greg, let's talk.

Давайте поговорим, Грег.

I mean, I guess my first question actually is just

Пожалуй, мой первый вопрос:

how the hell have you done this?

как вам это удалось?

(Laughter)

(Смех)

OpenAI has a few hundred employees.

У OpenAI в штате несколько сотен сотрудников.

Google has thousands of employees working on artificial intelligence.

В команде Google тысячи сотрудников работают над ИИ.

Why is it you who's come up with this technology

Как так получилось, что именно вы создали технологию,

that shocked the world?

повергнувшую мир в шок?

Greg Brockman: I mean, the truth is,

Грег Брокман: Правда в том,

we're all building on shoulders of giants, right, there's no question.

что мы создаёт на плечах у гигантов, в этом нет сомнений.

If you look at the compute progress,

Посмотрев на вычислительный успех,

на прогресс с алгоритмами и данными,

the algorithmic progress, the data progress,

этот прогресс виден во всей индустрии.

all of those are really industry-wide.

Но я думаю, что в OpenAI

But I think within OpenAI,

мы с самого начала сделали осознанный выбор по нескольким пунктам.

we made a lot of very deliberate choices from the early days.

Первый — смотреть правде в глаза.

And the first one was just to confront reality as it lays.

And that we just thought really hard about like:

Мы очень серьёзно задумались над тем,

What is it going to take to make progress here?

как добиться прогресса в этом вопросе.

We tried a lot of things that didn't work, so you only see the things that did.

Мы многое перепробовали, и вы видите только то, что сработало.

И я думаю, что самым главным было собрать команды очень разных людей

And I think that the most important thing has been to get teams of people

who are very different from each other to work together harmoniously.

и сделать так, чтобы они работали вместе гармонично.

CA: Can we have the water, by the way, just brought here?

КА: Принесите нам сюда воды, пожалуйста.

I think we're going to need it, it's a dry-mouth topic.

От этого разговора пересыхает в горле.

But isn't there something also just about the fact

Но не кроется ли что-то в том факте,

that you saw something in these language models

что вы увидели нечто особое в этих языковых моделях

that meant that if you continue to invest in them and grow them,

и поняли, что если вы продолжите инвестировать в них и развивать их,

that something at some point might emerge?

то в какой-то момент возникнет нечто абсолютно новое?

GB: Yes.

ГБ: Да.

And I think that, I mean, honestly,

Я думаю, сказать по правде,

I think the story there is pretty illustrative, right?

что наша история довольно показательна.

I think that high level, deep learning,

Мы всегда хотели быть лабораторией глубокого обучения,

like we always knew that was what we wanted to be,

was a deep learning lab, and exactly how to do it?

но как именно это сделать —

этого мы не знали в начале пути.

I think that in the early days, we didn't know.

Мы многое перепробовали,

We tried a lot of things,

and one person was working on training a model

и один человек обучал модель

to predict the next character in Amazon reviews,

предсказывать следующую букву в отзывах на Amazon,

and he got a result where -- this is a syntactic process,

и он добился результата.

Это синтаксический процесс,

you expect, you know, the model will predict where the commas go,

и модель начала предсказывать, где будет запятая,

where the nouns and verbs are.

где существительные, где глаголы.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Но в итоге он получил

свехсовременный классификатор анализа эмоциональной окраски высказываний.

This model could tell you if a review was positive or negative.

Модель могла отличить позитивный отзыв от негативного.

I mean, today we are just like, come on, anyone can do that.

Сегодня мы считаем, что кто угодно может это сделать.

But this was the first time that you saw this emergence,

Но тогда мы увидели впервые

this sort of semantics that emerged from this underlying syntactic process.

эту семантику, зародившуюся из синтаксического процесса.

And there we knew, you've got to scale this thing,

Мы поняли, что надо увеличить масштаб исследований

you've got to see where it goes.

и посмотреть, к чему они приведут.

CA: So I think this helps explain

КА: Это помогает объяснить

the riddle that baffles everyone looking at this,

загадку, которой все озадачены,

because these things are described as prediction machines.

потому что эти машины называют машинами прогнозирования.

Тем не менее, то, что мы получаем от них на выходе,

And yet, what we're seeing out of them feels ...

it just feels impossible that that could come from a prediction machine.

не похоже на предсказание от машины.

Just the stuff you showed us just now.

Взять хотя бы то, что вы показали нам сегодня.

And the key idea of emergence is that when you get more of a thing,

Ключевая идея возникновения в том, что при попытке получить больше

suddenly different things emerge.

вдруг появляется нечто новое.

It happens all the time, ant colonies, single ants run around,

Так бывает повсюду.

Отдельные муравьи бегают сами по себе,

when you bring enough of them together,

но как только их собирается достаточное количество,

you get these ant colonies that show completely emergent, different behavior.

возникают колонии с совершенно иным поведением.

Or a city where a few houses together, it's just houses together.

Или вот город: несколько домов рядом — это лишь отдельные дома.

Но когда домов становится больше,

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

возникают новые явления: спальные районы, культурные центры, пробки.

Give me one moment for you when you saw just something pop

Приведите мне один пример, когда вы обнаружили нечто,

that just blew your mind

потрясшее ваше воображение,

that you just did not see coming.

чего вы абсолютно не ожидали.

GB: Yeah, well,

ГБ: Хорошо.

so you can try this in ChatGPT, if you add 40-digit numbers --

Вы можете попробовать это в ChatGPT со сложением 40-значных чисел.

CA: 40-digit?

КА: 40-значных?

GB: 40-digit numbers, the model will do it,

ГБ: 40-значных чисел, модель это сделает,

which means it's really learned an internal circuit for how to do it.

то есть она выучила внутреннюю процедуру того, как это работает.

And the really interesting thing is actually,

Но интересно то, что если вы попросите её

if you have it add like a 40-digit number plus a 35-digit number,

сложить 40-значное число с 35-значным,

it'll often get it wrong.

она будет часто ошибаться.

And so you can see that it's really learning the process,

Так что можно наблюдать процесс обучения.

but it hasn't fully generalized, right?

Полного обобщения ещё не произошло.

It's like you can't memorize the 40-digit addition table,

Вы не можете запомнить таблицу сложения 40-значных чисел —

that's more atoms than there are in the universe.

это больше атомов, чем во всей Вселенной.

So it had to have learned something general,

То есть ей пришлось выучить общее правило,

but that it hasn't really fully yet learned that,

но она ещё не выучила это правило полностью,

Oh, I can sort of generalize this to adding arbitrary numbers

не научилась обобщать его для сложения произвольных чисел

of arbitrary lengths.

произвольной длины.

CA: So what's happened here

КА: То есть вы позволили ей увеличить масштаб

is that you've allowed it to scale up

and look at an incredible number of pieces of text.

и посмотреть на огромный объём текстовой информации,

And it is learning things

и она учится понимать то,

that you didn't know that it was going to be capable of learning.

что вы не считали возможным для неё.

GB Well, yeah, and it’s more nuanced, too.

ГБ: Это так, плюс есть ещё нюансы.

So one science that we’re starting to really get good at

Мы всё лучше и лучше начинаем прогнозировать

is predicting some of these emergent capabilities.

некоторые из этих новых способностей.

And to do that actually,

Чтобы добиться этого,

one of the things I think is very undersung in this field

существует недооценённое качество —

is sort of engineering quality.

качество программирования.

Like, we had to rebuild our entire stack.

Нам пришлось создать заново целый блок.

When you think about building a rocket,

Представьте себе: вы строите ракету,

every tolerance has to be incredibly tiny.

и позволяются только крошечные отклонения.

Same is true in machine learning.

Тоже самое и с машинным обучением.

You have to get every single piece of the stack engineered properly,

Каждый элемент блока должен быть должным образом запрограммирован,

and then you can start doing these predictions.

и тогда можно делать эти прогнозы.

There are all these incredibly smooth scaling curves.

Существуют плавные графики масштабирования.

They tell you something deeply fundamental about intelligence.

Они показывают нам нечто очень фундаментальное об интеллекте.

If you look at our GPT-4 blog post,

Если посмотреть на публикацию в блоге от ChatGPT-4,

you can see all of these curves in there.

там можно увидеть все эти кривые.

And now we're starting to be able to predict.

Теперь мы начинаем прогнозировать.

Мы смогли, к примеру, спрогнозировать эффективность в решении проблем с кодом.

So we were able to predict, for example, the performance on coding problems.

We basically look at some models

Мы смотрим на модели,

that are 10,000 times or 1,000 times smaller.

которые в 10 000 раз или 1 000 раз меньше.

And so there's something about this that is actually smooth scaling,

В этом плавном масштабировании что-то есть ,

even though it's still early days.

хотя мы находимся только в начале пути.

CA: So here is, one of the big fears then,

КА: Вот один из больших страхов,

that arises from this.

порождаемых этим.

If it’s fundamental to what’s happening here,

Если это основа того,

that as you scale up,

что в процессе увеличения масштаба

things emerge that

неизбежно зарождаются вещи,

you can maybe predict in some level of confidence,

которые вы можете прогнозировать в какой-то мере,

but it's capable of surprising you.

но которые всё ещё способны вас удивить.

Why isn't there just a huge risk of something truly terrible emerging?

Есть ли огромный риск зарождения чего-то ужасного?

GB: Well, I think all of these are questions of degree

ГБ: Я думаю, всё это вопросы степени,

and scale and timing.

масштаба и времени.

And I think one thing people miss, too,

Люди часто упускают из виду,

is sort of the integration with the world is also this incredibly emergent,

что интеграция ИИ в наш мир — это тоже удивительное

sort of, very powerful thing too.

мощное новое явление.

And so that's one of the reasons that we think it's so important

Поэтому мы думаем, что очень важно внедрять ИИ постепенно.

to deploy incrementally.

Если посмотреть на это выступление,

And so I think that what we kind of see right now, if you look at this talk,

я много фокусируюсь на высококачественной обратной связи.

a lot of what I focus on is providing really high-quality feedback.

Вы можете проверять то, что мы делаем.

Today, the tasks that we do, you can inspect them, right?

Если взять математическую задачу, можно легко сказать машине,

It's very easy to look at that math problem and be like, no, no, no,

что ответ неправилен и правильный ответ — это семь.

machine, seven was the correct answer.

Но даже краткое изложение книги сложно проконтролировать.

But even summarizing a book, like, that's a hard thing to supervise.

Откуда вы знаете, что оно сделано хорошо?

Like, how do you know if this book summary is any good?

Надо прочесть всю книгу.

You have to read the whole book.

Никто не хочет этого делать.

No one wants to do that.

(Смех)

(Laughter)

And so I think that the important thing will be that we take this step by step.

Поэтому я считаю важным решать это поэтапно.

And that we say, OK, as we move on to book summaries,

Если будет осуществляться краткое изложение книг,

we have to supervise this task properly.

нам нужно будет проверять его должным образом.

We have to build up a track record with these machines

Нам нужно следить за данными этих машин,

that they're able to actually carry out our intent.

чтобы убедиться, что они могут осуществлять наши намерения.

And I think we're going to have to produce even better, more efficient,

Думаю, нам придётся создавать лучшие, более продуктивные

more reliable ways of scaling this,

и надёжные способы увеличения масштаба,

sort of like making the machine be aligned with you.

лучше согласовывать машину с нами.

CA: So we're going to hear later in this session,

КА: Далее в этой сессии мы услышим критиков,

there are critics who say that,

которые говорят, что нет истинного понимания

you know, there's no real understanding inside,

the system is going to always --

и мы никогда не узнаем, генерирует ли система ошибки,

we're never going to know that it's not generating errors,

that it doesn't have common sense and so forth.

что у неё нет здравого смысла и так далее.

Is it your belief, Greg, that it is true at any one moment,

В вашем понимании, Грег, правда ли это,

but that the expansion of the scale and the human feedback

и поможет ли масштабирование и обратная связь от человека,

that you talked about is basically going to take it on that journey

о которой вы говорили, задать правильный курс

of actually getting to things like truth and wisdom and so forth,

на правду, мудрость и так далее?

Можете ли вы утверждать это с высокой степенью уверенности?

with a high degree of confidence.

Can you be sure of that?

Можно ли поручиться за это?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

ГБ: Короткий ответ в связи с OpenAI — это да.

I believe that is where we're headed.

Это то, к чему мы идём.

And I think that the OpenAI approach here has always been just like,

OpenAI в этом плане всегда считал,

let reality hit you in the face, right?

что необходимо смотреть в лицо суровой реальности.

It's like this field is the field of broken promises,

Эта область деятельности — поле невыполненных обещаний,

of all these experts saying X is going to happen, Y is how it works.

когда эксперты говорят, что произойдёт А, а происодит Б.

Люди уже 70 лет говорят, что нейронные сети не сработают.

People have been saying neural nets aren't going to work for 70 years.

Пока ещё они не оказались правы.

They haven't been right yet.

Может они окажутся правы через 71 год

They might be right maybe 70 years plus one

или что-то в этом роде.

or something like that is what you need.

Но наш подход всегда состоял в том,

But I think that our approach has always been,

чтобы довести эту технологию до предела,

you've got to push to the limits of this technology

увидеть её в действии,

to really see it in action,

потому что так мы можем увидеть, как перейти к новой парадигме.

because that tells you then, oh, here's how we can move on to a new paradigm.

Мы ещё не исчерпали все возможности.

And we just haven't exhausted the fruit here.

КА: Вы защищаете здесь довольно спорную позицию,

CA: I mean, it's quite a controversial stance you've taken,

что правильнее всего выпустить технологию в открытый доступ

that the right way to do this is to put it out there in public

and then harness all this, you know,

а затем использовать обратную связь от всего мира,

instead of just your team giving feedback,

the world is now giving feedback.

а не только от вашей команды,

But ...

Но...

If, you know, bad things are going to emerge,

технология в открытый доступе, и может произойти нечто плохое.

it is out there.

So, you know, the original story that I heard on OpenAI

OpenAI вначале была создана как некоммерческая организация.

when you were founded as a nonprofit,

well you were there as the great sort of check on the big companies

Вы были отличной сдерживающей силой для больших компаний,

doing their unknown, possibly evil thing with AI.

которые, возможно, делают с ИИ нечто, способное принести зло.

And you were going to build models that sort of, you know,

Вы собирались создать модели,

которые держали бы их подотчётными,

somehow held them accountable

and was capable of slowing the field down, if need be.

и могли бы сдержать гонку в отрасли при необходимости.

Or at least that's kind of what I heard.

По крайней мере, это то, что я слышал.

And yet, what's happened, arguably, is the opposite.

А получилось всё в точности наоборот.

That your release of GPT, especially ChatGPT,

Ваш выпуск GPT, в особенности ChatGPT,

sent such shockwaves through the tech world

стал таким шоком для всей индустрии,

that now Google and Meta and so forth are all scrambling to catch up.

что теперь Google, Meta и другие пытаются догнать вас.

And some of their criticisms have been,

Их критикой было отчасти то,

you are forcing us to put this out here without proper guardrails or we die.

что вы вынуждаете их выпускать продукт без должных мер безопасности,

иначе им придёт конец.

You know, how do you, like,

Чем вы можете подтвердить,

make the case that what you have done is responsible here and not reckless.

что вы действовали ответственно, а не безрассудно?

GB: Yeah, we think about these questions all the time.

ГБ: Да, мы всё время думаем над этим.

Like, seriously all the time.

В самом деле, всё время.

And I don't think we're always going to get it right.

Не думаю, что мы всегда будем делать всё правильно.

But one thing I think has been incredibly important,

Но для нас было очень важно с самого начала,

from the very beginning, when we were thinking

когда мы думали об универсальном ИИ,

about how to build artificial general intelligence,

это как создать его таким,

actually have it benefit all of humanity,

чтобы он приносил пользу всему человечеству.

Как это осуществить?

like, how are you supposed to do that, right?

Стандартный план: создать что-то в тайне,

And that default plan of being, well, you build in secret,

you get this super powerful thing,

получить супер мощный инструмент,

and then you figure out the safety of it and then you push “go,”

убедиться в его безопасности, запустить его и надеяться,

and you hope you got it right.

что вы сделали всё верно.

I don't know how to execute that plan.

Я не знаю, как выполнить такой план.

Maybe someone else does.

Может быть, кто-то другой знает.

But for me, that was always terrifying, it didn't feel right.

Но меня всегда такой план пугал, казался неправильным.

And so I think that this alternative approach

Поэтому я думаю, что наш подход —

это единственный путь, который я вижу:

is the only other path that I see,

which is that you do let reality hit you in the face.

смотреть в лицо суровой реальностью.

And I think you do give people time to give input.

Думаю, что надо дать людям время внести свой вклад.

You do have, before these machines are perfect,

До того, как эти машины станут идеальными,

before they are super powerful, that you actually have the ability

до того, как они станут более мощными,

у вас должна быть возможность увидеть их в действии.

to see them in action.

And we've seen it from GPT-3, right?

Мы видели это на примере GPT-3.

GPT-3, we really were afraid

С GPT-3 мы очень боялись,

that the number one thing people were going to do with it

что люди в первую очередь захотят генерировать дезинформацию,

was generate misinformation, try to tip elections.

чтобы повлиять на выборы.

Instead, the number one thing was generating Viagra spam.

Вместо этого, самое популярным стал спам с Виагрой.

(Laughter)

(Смех)

CA: So Viagra spam is bad, but there are things that are much worse.

КА: Спам с Виагрой — это неприятно, но есть и более ужасные вещи.

Here's a thought experiment for you.

Вот вам мысленный эксперимент.

Suppose you're sitting in a room,

Предположим, вы сидите в комнате,

there's a box on the table.

на столе стоит ящик.

You believe that in that box is something that,

Вы думаете, что в этом ящике

there's a very strong chance it's something absolutely glorious

с очень большой вероятностью находится нечто замечательное,

that's going to give beautiful gifts to your family and to everyone.

прекрасные подарки для вашей семьи и всех остальных.

But there's actually also a one percent thing in the small print there

Но на самом деле есть и другая вероятность в 1% —

мелким шрифтом там написано «Пандора».

that says: “Pandora.”

And there's a chance

Есть шанс,

that this actually could unleash unimaginable evils on the world.

что этот 1% может распространить по миру невообразимое зло.

Do you open that box?

Откроете ли вы этот ящик?

GB: Well, so, absolutely not.

ГБ: Нет, конечно же.

I think you don't do it that way.

Думаю, что так не делают.

And honestly, like, I'll tell you a story that I haven't actually told before,

Я расскажу вам историю, которую до сих пор никому не рассказывал.

which is that shortly after we started OpenAI,

Вскоре после того, как мы запустили OpenAI,

I remember I was in Puerto Rico for an AI conference.

я был в Пуэрто Рико на конференции, посвящённой ИИ.

I'm sitting in the hotel room just looking out over this wonderful water,

Я сидел у себя в отеле, глядя на прекрасную поверхность воды

all these people having a good time.

и на людей, наслаждающихся жизнью.

И я задумался:

And you think about it for a moment,

если бы можно было выбрать время для этого ящика Пандоры —

if you could choose for basically that Pandora’s box

to be five years away

через 5 лет или 500,

or 500 years away,

which would you pick, right?

что бы вы выбрали?

On the one hand you're like, well, maybe for you personally,

С одной стороны, для вас лично, возможно,

it's better to have it be five years away.

было бы лучше через 5 лет.

But if it gets to be 500 years away and people get more time to get it right,

Но если это займёт 500 лет, чтобы у людей было больше времени сделать всё верно,

which do you pick?

что вы предпочтёте?

And you know, I just really felt it in the moment.

В тот момент я это чётко почувствовал.

I was like, of course you do the 500 years.

Конечно, через 500 лет.

My brother was in the military at the time

Мой брат в то время служил в армии,

and like, he puts his life on the line in a much more real way

рисковал своей жизнью, и это было намного реальнее,

than any of us typing things in computers

чем у нас, экспериментировавших за компьютерами

and developing this technology at the time.

и развивавших эту технологию в то время.

And so, yeah, I'm really sold on the you've got to approach this right.

Так что я абсолютно уверен, что тут нужен правильный подход.

But I don't think that's quite playing the field as it truly lies.

Но я не думаю, что это происходит на самом деле.

Like, if you look at the whole history of computing,

Если посмотреть на всю историю вычислительной техники,

I really mean it when I say that this is an industry-wide

я говорю серьёзно, когда называю это явлением в масштабах всей отрасли,

or even just almost like

или даже практически

a human-development- of-technology-wide shift.

сдвигом в масштабах всего технологического прогресса.

And the more that you sort of, don't put together the pieces

В то время как люди пытаются сложить составные части правильно,

that are there, right,

we're still making faster computers,

создаются более мощные компьютеры,

we're still improving the algorithms, all of these things, they are happening.

улучшаются алгоритмы — всё это продолжает происходить.

And if you don't put them together, you get an overhang,

Если не все составные части собраны правильно, возникает опасность.

which means that if someone does,

И к тому моменту, когда кому-то удаётся осуществить прорыв

or the moment that someone does manage to connect to the circuit,

и возникает супер мощная технология,

then you suddenly have this very powerful thing,

никто не успел адаптироваться

no one's had any time to adjust,

и неизвестно, какие меры безопасности были приняты.

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Я делаю из этого такой вывод:

is like, even you think about development of other sort of technologies,

даже если говорить о разработке других технологий,

think about nuclear weapons,

например, ядерного оружия,

people talk about being like a zero to one,

люди говорят о мгновенных резких переменах.

sort of, change in what humans could do.

But I actually think that if you look at capability,

Но я считаю, если говорить о возможностях,

it's been quite smooth over time.

перемены происходили плавно.

And so the history, I think, of every technology we've developed

Так что я думаю, что история всех созданных нами технологий

has been, you've got to do it incrementally

свидетельствует о том, что надо развиваться постепенно,

and you've got to figure out how to manage it

и находить способы управлять ими

на каждым очередном шагу.

for each moment that you're increasing it.

CA: So what I'm hearing is that you ...

КА: Как понимаю, вы хотите, чтобы мы думали так:

the model you want us to have

is that we have birthed this extraordinary child

мы создали этого удивительного ребёнка,

that may have superpowers

у которого, вероятно, есть супер-способности,

that take humanity to a whole new place.

и человечество перейдёт в новое состояние.

It is our collective responsibility to provide the guardrails

Наша коллективная ответственность — обеспечить безопасность этому ребёнку

for this child

to collectively teach it to be wise and not to tear us all down.

и вместе научить его быть мудрым и не уничтожить всех нас.

Is that basically the model?

Так это в вашем понимании?

GB: I think it's true.

ГБ: Я думаю, это правда.

And I think it's also important to say this may shift, right?

Важно оговориться, что всё может измениться.

We've got to take each step as we encounter it.

Нужно двигаться поэтапно.

And I think it's incredibly important today

В данный момент очень важно,

that we all do get literate in this technology,

чтобы мы все ознакомились с этой технологией,

figure out how to provide the feedback,

понимали, как давать ей обратную связь,

decide what we want from it.

и решили бы, чего мы хотим от неё.

And my hope is that that will continue to be the best path,

Надеюсь, что и дальше этот путь будет наилучшим.

Но я очень рад, что мы ведём этот разговор откровенно.

but it's so good we're honestly having this debate

because we wouldn't otherwise if it weren't out there.

Он не состоялся бы, если бы модель не была запущена.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

КА: Грег Брокман, спасибо вам за то, что пришли и взбудоражили наши умы.

(Applause)

(Аплодисменты)