The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

번역: Junyoung Lee 검토: Ju-young Moon

We started OpenAI seven years ago

저희가 오픈AI를 설립한 건 7년 전입니다.

because we felt like something really interesting was happening in AI

AI에서 흥미로운 일이 벌어지고 있다고 느껴서

and we wanted to help steer it in a positive direction.

긍정적인 방향으로 이끌어 보고 싶었죠.

It's honestly just really amazing to see

그 후로 이 분야가 얼마나 발전했는지 보면 정말 놀라운데요.

how far this whole field has come since then.

And it's really gratifying to hear from people like Raymond

우리가 만드는 기술을 잘 활용하고 계신

who are using the technology we are building, and others,

레이먼드 같은 분의 말씀을 들으면 기쁘고 다른 좋은 이야기도 듣게 되죠.

for so many wonderful things.

We hear from people who are excited,

그리고 저희가 하는 일을 기대하는 분이나

we hear from people who are concerned,

걱정하는 분들도 있으며

we hear from people who feel both those emotions at once.

두 감정을 복합적으로 느끼는 분들도 있습니다.

And honestly, that's how we feel.

솔직히 저희도 같은 마음 이고요.

Above all, it feels like we're entering an historic period right now

우리는 지금 역사적인 시기에 들어서고 있습니다.

where we as a world are going to define a technology

이제 우리는 세계적 차원에서 미래 사회 발전에

that will be so important for our society going forward.

중요한 역할을 할 기술을 정의하게 될 거예요.

And I believe that we can manage this for good.

그리고 저는 인류가 이 기술을 선하게 활용할 수 있다고 생각해요.

So today, I want to show you the current state of that technology

오늘 강연에서 저희가 보유한 이 기술의 현재 상태와

and some of the underlying design principles that we hold dear.

중요하게 여기는 기본 설계 원칙을 소개하려고 합니다.

So the first thing I'm going to show you

가장 먼저 보여드릴 건 인공지능이 사용할 도구를 만드는 과정이며

is what it's like to build a tool for an AI

인간이 사용하는 도구는 아니에요.

rather than building it for a human.

So we have a new DALL-E model, which generates images,

저희가 새로 출시한

이미지 생성 ‘DALL-E’ 모델은 곧 공개할 앱이며 여러분이 아니라

and we are exposing it as an app for ChatGPT to use on your behalf.

챗GPT를 위한 것이죠.

And you can do things like ask, you know,

이렇게 활용할 수 있는데요.

suggest a nice post-TED meal and draw a picture of it.

‘TED 뒤풀이 식사 메뉴 추천과 그림도 그려 줘’

(Laughter)

(웃음)

Now you get all of the, sort of, ideation and creative back-and-forth

이제 아이데이션과 창작 과정까지 챗GPT의 도움뿐 아니라

and taking care of the details for you that you get out of ChatGPT.

세부 사항마저도 챗GPT가 처리해 줍니다.

And here we go, it's not just the idea for the meal,

보시죠, 메뉴만 정하는 게 아니라

but a very, very detailed spread.

아주 상세하게 진수성찬을 차려 줄 겁니다.

So let's see what we're going to get.

뭐가 나오는지 볼까요.

But ChatGPT doesn't just generate images in this case --

하지만 이 경우에 챗GPT는 텍스트를 생성하는 게 아니라

sorry, it doesn't generate text, it also generates an image.

이미지도 생성하죠.

And that is something that really expands the power

챗GPT의 능력이 확장되는 것으로

of what it can do on your behalf in terms of carrying out your intent.

일을 대신할 뿐만 아니라 사용자의 의도까지 파악할 수 있습니다.

And I'll point out, this is all a live demo.

이건 현장에서 보여드리는 라이브 데모인데요.

This is all generated by the AI as we speak.

지금 말하는 이 순간에 AI가 답변을 생성하고 있어요.

So I actually don't even know what we're going to see.

어떤 답을 할지 궁금하군요.

This looks wonderful.

이거 정말 멋진데요!

(Applause)

(박수)

I'm getting hungry just looking at it.

보기만 해도 군침이 도네요.

Now we've extended ChatGPT with other tools too,

저희는 챗GPT에 다른 도구들도 추가했죠.

for example, memory.

그중 하나는 메모리입니다.

You can say "save this for later."

‘이건 나중을 위해 저장해 줘’라고 말하면 됩니다.

And the interesting thing about these tools

흥미로운 점은 이런 도구들은 검증하기가 쉽다는 거예요.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

팝업창이 떴네요. DALL-E 앱을 사용할게요.

이 앱은 몇 달 안에 모든 챗GPT 사용자에게 배포될 겁니다.

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

화면을 자세히 들여다보면 AI가 프롬프트를 썼다는 걸 알 수 있습니다.

And you can look under the hood and see that what it actually did

was write a prompt just like a human could.

마치 인간처럼 말이죠.

And so you sort of have this ability to inspect

사용자가 검증할 수도 있어서

how the machine is using these tools,

AI가 이런 도구들을 사용한 방법을 알 수 있죠.

which allows us to provide feedback to them.

그래서 AI에 피드백을 제공할 수 있어요.

Now it's saved for later,

이제 나중에 보기로 저장했으니 얻은 그 정보를 이용하고 다른 앱과

and let me show you what it's like to use that information

and to integrate with other applications too.

통합하는 방법을 보여드릴 겁니다.

You can say,

이렇게 말해볼까요?

“Now make a shopping list for the tasty thing

’내가 좀 전에 제안한 맛있는 음식을′

‘쇼핑 목록으로 만들어 줘’

I was suggesting earlier.”

And make it a little tricky for the AI.

AI에 다음과 같은 명령을 추가해서 난이도를 높일게요.

"And tweet it out for all the TED viewers out there."

‘그리고 TED 청중들을 위해 트위터에 글로 남겨 줘’

(Laughter)

(웃음)

So if you do make this wonderful, wonderful meal,

정말 훌륭한 요리를 만든다면 어떤 맛인지 꼭 알고 싶잖아요.

I definitely want to know how it tastes.

But you can see that ChatGPT is selecting all these different tools

챗GPT가 이 모든 다양한 도구를 직접 선택하는 모습 보이시나요?

without me having to tell it explicitly which ones to use in any situation.

특정한 도구를 사용하라고 구체적으로 지시하지 않았는데도요.

And this, I think, shows a new way of thinking about the user interface.

이로써 ‘사용자 인터페이스’의 새로운 시각을 보여 줍니다.

Like, we are so used to thinking of, well, we have these apps,

우리에게 보통 익숙한 건 여러 앱을 사용하면서

we click between them, we copy/paste between them,

앱 사이를 왔다 갔다 하고 앱에서 앱으로 복사 붙여넣기도 하는 거죠.

왔다 갔다 하는 게 그렇게 나쁜 경험은 아닙니다.

and usually it's a great experience within an app

as long as you kind of know the menus and know all the options.

모든 메뉴와 옵션을 알고 있다면요.

‘네, 그렇게 하셔도 좋습니다.’ ‘네, 그렇게 하세요.’

Yes, I would like you to.

Yes, please.

Always good to be polite.

예의상 좋다고 해줄게요.

(Laughter)

(웃음)

And by having this unified language interface on top of tools,

새로운 도구뿐만 아니라 통합된 언어 인터페이스까지 갖추어서

the AI is able to sort of take away all those details from you.

AI가 세부 절차들을 혼자서 다 처리할 수 있게 됐습니다.

So you don't have to be the one

그래서 모든 걸 일일이 하나씩 명령할 필요가 없어졌지만

who spells out every single sort of little piece

of what's supposed to happen.

And as I said, this is a live demo,

지금은 라이브 데모라서

가끔 이렇게 예상치 못한 일이 일어날 수 있어요.

so sometimes the unexpected will happen to us.

But let's take a look at the Instacart shopping list while we're at it.

처리되는 동안 아까 요청한 인스타카트 쇼핑 목록도 살펴보죠.

And you can see we sent a list of ingredients to Instacart.

보시다시피 인스타카트에 필요한 재료 목록을 보관해 뒀어요.

Here's everything you need.

다 보관했는데 정말 흥미로운 건

And the thing that's really interesting

is that the traditional UI is still very valuable, right?

전통적인 UI도 여전히 가치가 있다는 거예요.

If you look at this,

보시면 사용자가 클릭해서 구입량을 수정할 수 있습니다.

you still can click through it and sort of modify the actual quantities.

And that's something that I think shows

제 생각에는 이런 걸 보면

that they're not going away, traditional UIs.

전통적인 UI가 사라지지는 않을 것 같아요.

It's just we have a new, augmented way to build them.

UI를 구축하는 새로운 방법이 생겼을 뿐이니까요.

And now we have a tweet that's been drafted for our review,

이제 트윗 초안이 완성되어 검토를 기다리고 있네요.

which is also a very important thing.

이것도 아주 중요한 절차이며 ‘실행’을 클릭하면 됩니다.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

우리가 관리자이며 검증할 수 있으므로

we're able to change the work of the AI if we want to.

인공 지능이 완료한 작업도 원한다면 얼마든지 수정할 수 있습니다.

And so after this talk, you will be able to access this yourself.

이 강연이 끝나면 여러분도 이 트윗을 확인하실 수 있을 겁니다.

And there we go.

다 됐네요.

Cool.

좋습니다

Thank you, everyone.

고맙습니다.

(Applause)

(박수)

So we’ll cut back to the slides.

슬라이드로 돌아가죠.

Now, the important thing about how we build this,

이 도구들을 제작할 때 중요한 점은

it's not just about building these tools.

단지 도구만 만들면 끝이 아니라는 겁니다.

It's about teaching the AI how to use them.

AI에게 도구 사용 방법을 가르치는 게 중요해요.

Like, what do we even want it to do

이런 수준 높은 질문을 해서 도대체 어떤 작업을 시키려는 걸까요?

when we ask these very high-level questions?

And to do this, we use an old idea.

도구 사용법을 가르칠 때 저희는 오래된 기법을 활용합니다.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

앨런 튜링이 1950년 발표한 튜링 테스트 관련 논문을 찾아보면

you'll never program an answer to this.

정답을 프로그래밍할 수는 없다고 이야기했지만 배우게 할 순 있죠.

Instead, you can learn it.

You could build a machine, like a human child,

인간 아이 같은 기계를 만들어서 피드백을 주면서 가르치는 거예요.

and then teach it through feedback.

Have a human teacher who provides rewards and punishments

인간 교사가 기계에 보상이나 벌을 주는데 기계의 시도가

as it tries things out and does things that are either good or bad.

좋은지 나쁜지 인간이 판단해요.

And this is exactly how we train ChatGPT.

이런 방식으로 챗GPT를 훈련하는데 2단계 과정이죠.

It's a two-step process.

First, we produce what Turing would have called a child machine

튜링이 ‘어린이 기계’라고 불렀을 법한 것을 제작합니다.

비지도형 기계 학습 과정을 통해

through an unsupervised learning process.

기계에 전 세계와 전 인터넷을 보여주고 이렇게 말합니다.

We just show it the whole world, the whole internet

and say, “Predict what comes next in text you’ve never seen before.”

‘네가 처음 보는 텍스트지만 다음에 뭐가 나올지 예측해 봐’

이 과정에서 기계는 온갖 멋진 기술을 획득하게 됩니다.

And this process imbues it with all sorts of wonderful skills.

예를 들어 수학 문제를 보여줄 때

For example, if you're shown a math problem,

그 수학 문제를 실제로 풀게 하려면 반드시 이렇게 질문해야 해요.

the only way to actually complete that math problem,

to say what comes next,

‘다음에 나오는 값이 뭐야?’

that green nine up there,

저기 있는 녹색 9가 실제로 수학 문제를 푼 답이죠.

is to actually solve the math problem.

But we actually have to do a second step, too,

하지만 두 번째 단계도 거쳐야 합니다.

which is to teach the AI what to do with those skills.

그 기술을 어떻게 활용할지 인공지능에게 알려 주는 겁니다.

그러려면 저희는 인공지능에 피드백을 제공해야 하고요.

And for this, we provide feedback.

We have the AI try out multiple things, give us multiple suggestions,

AI가 여러 가지를 시도해 보고 더 많은 제안을 하면

인간은 그걸 평가합니다 ‘이게 저것보다 낫네’

and then a human rates them, says “This one’s better than that one.”

그러면 AI가 자신이 내놓은 특정 대답만을 강화하는 게 아니라

And this reinforces not just the specific thing that the AI said,

그 대답을 만들어 내기 위해 사용된 전체 과정을 강화하게 되고

but very importantly, the whole process that the AI used to produce that answer.

일반화도 할 수 있죠.

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

이렇게 하면 AI는 여러분의 의도를 배우고 추론해서

and apply it in scenarios that it hasn't seen before,

난생처음 보고 피드백도 못 받은 시나리오에 적용합니다.

that it hasn't received feedback.

Now, sometimes the things we have to teach the AI

인공지능에게 가르칠 것들이 생각과는 다를 때가 있어요.

are not what you'd expect.

For example, when we first showed GPT-4 to Khan Academy,

예를 들어 ‘칸 아카데미’에 처음으로 챗GPT-4를 선보였을 때

they said, "Wow, this is so great,

이렇게 말했어요 ‘와, 대단해요!’

We're going to be able to teach students wonderful things.

‘학생들에게 멋진 것들을 가르칠 수 있겠네요’ 라고요.

그렇지만 학생들의 계산을 검토하지 않는 게 문제였죠.

Only one problem, it doesn't double-check students' math.

If there's some bad math in there,

잘못된 계산이 있어도

it will happily pretend that one plus one equals three and run with it."

AI는 인간이 잘못 말한 대로 1+1=3을 정답으로 받아들여요

So we had to collect some feedback data.

그래서 저희는 피드백 데이터를 수집해야 했습니다.

Sal Khan himself was very kind

친절하게도 살 칸 씨가

and offered 20 hours of his own time to provide feedback to the machine

무려 20시간을 들여서 우리 팀과 함께 기계에 피드백을 제공했습니다.

alongside our team.

And over the course of a couple of months we were able to teach the AI that,

몇 달에 걸쳐 AI를 다음과 같이 가르쳤어요.

"Hey, you really should push back on humans

‘이런 특정한 시나리오에서는 인간이 틀렸다면 반박해야 해’라고요.

in this specific kind of scenario."

And we've actually made lots and lots of improvements to the models this way.

이런 방식으로 모델을 정말 많이 개선했죠.

And when you push that thumbs down in ChatGPT,

만약 여러분이 챗GPT에서 엄지 내림 버튼을 클릭하시면

that actually is kind of like sending up a bat signal to our team to say,

저희 팀에게 ‘배트 시그널’로 소환 신호를 보내는 셈이죠.

‘여기가 약점 분야이니 피드백을 수집하세요’라고

“Here’s an area of weakness where you should gather feedback.”

사용자가 그렇게 해주면 저희는 사용자의 말을 반영해서

And so when you do that,

that's one way that we really listen to our users

and make sure we're building something that's more useful for everyone.

모두에게 더 유용한 기술을 만들 수 있어요.

Now, providing high-quality feedback is a hard thing.

유익한 피드백을 주는 건 어렵습니다.

If you think about asking a kid to clean their room,

애들한테 방을 청소하라고 해 놓고 바닥 검사만 한다면

if all you're doing is inspecting the floor,

you don't know if you're just teaching them to stuff all the toys in the closet.

애들이 장난감을 옷장에 넣어도 할 말이 없잖아요.

This is a nice DALL-E-generated image, by the way.

참고로 이 사진은 ‘DALL-E’가 생성한 멋진 이미지입니다.

And the same sort of reasoning applies to AI.

AI에도 같은 추론이 적용됩니다.

As we move to harder tasks,

더 어려운 과제로 넘어가면

we will have to scale our ability to provide high-quality feedback.

양질의 피드백을 제공하는 능력을 우리가 확장해야 할 겁니다.

But for this, the AI itself is happy to help.

이 경우에는 인공지능도 기꺼이 돕고 갈수록 더 나은 피드백을 제공하며

It's happy to help us provide even better feedback

and to scale our ability to supervise the machine as time goes on.

기계를 감독하는 능력을 강화하도록 인공지능이 도움을 주죠.

And let me show you what I mean.

무슨 뜻인지 보여드릴게요.

For example, you can ask GPT-4 a question like this,

예를 들면 챗GPT-4에 이런 질문을 할 수 있습니다.

of how much time passed between these two foundational blogs

’비지도형 기계학습과 인간 피드백으로부터의 학습에 관한′

on unsupervised learning

‘다음 두 블로그 포스팅 사이의 시간 간격’을 묻는 거예요

and learning from human feedback.

And the model says two months passed.

모델은 두 달이라고 말하는데요.

But is it true?

이 모델들은 100% 신뢰할 수 없는데 과연 사실일까요?

Like, these models are not 100-percent reliable,

although they’re getting better every time we provide some feedback.

피드백을 줄 때마다 개선되기는 하더라도요.

But we can actually use the AI to fact-check.

하지만 인공지능에게 사실 확인까지도 명령할 수 있어요.

And it can actually check its own work.

자신의 작업을 스스로 검증하는 거죠.

You can say, fact-check this for me.

‘사실인지 검증해 줘’라고 말하면 됩니다.

Now, in this case, I've actually given the AI a new tool.

이 사례에서는 AI에 새 도구를 줬습니다.

This one is a browsing tool

이 도구는 브라우징 툴로

where the model can issue search queries and click into web pages.

모델이 직접 검색 쿼리를 발행하고 웹페이지를 클릭해 확인할 수 있습니다.

And it actually writes out its whole chain of thought as it does it.

그리고 전체 생각의 연결고리를 쭉 적어 내려가죠.

‘이걸 검색해 볼게요’라고 말하고는 진짜 검색을 합니다.

It says, I’m just going to search for this and it actually does the search.

It then it finds the publication date and the search results.

그러면 블로그 발행일과 검색 결과를 찾습니다.

이제 또 다른 검색 쿼리를 발행하고 블로그 포스팅을 클릭할 거예요.

It then is issuing another search query.

It's going to click into the blog post.

And all of this you could do, but it’s a very tedious task.

여러분이 전부 다 직접 할 수 있지만 지루한 작업이죠.

It's not a thing that humans really want to do.

인간이 정말로 하고 싶은 건 조종석에 앉는 거니까요.

It's much more fun to be in the driver's seat,

관리자가 되어서 완료된 작업을 원하는 만큼 얼마든지 확인할 수 있고

to be in this manager's position where you can, if you want,

triple-check the work.

출처도 나타납니다.

And out come citations

so you can actually go

이 전체 추론의 연결고리 중 어느 부분이든 손쉽게 검증할 수 있죠.

and very easily verify any piece of this whole chain of reasoning.

And it actually turns out two months was wrong.

두 달은 틀렸고 두 달하고 일주일이 정답이었습니다.

Two months and one week,

that was correct.

(Applause)

(박수)

And we'll cut back to the side.

슬라이드로 다시 돌아가서...

And so thing that's so interesting to me about this whole process

이 모든 과정에서 가장 흥미로운 점은

is that it’s this many-step collaboration between a human and an AI.

이것이 인간과 인공지능 사이에 일어나는 복합 단계의 협업이라는 겁니다.

Because a human, using this fact-checking tool

인간이 이런 사실 확인 도구를 사용해서 데이터를 생산하면

is doing it in order to produce data

for another AI to become more useful to a human.

그렇게 또 다른 AI가 인간에게 더 유용해질 수 있습니다.

And I think this really shows the shape of something

제 생각엔 아무래도 이런 패턴을 앞으로 더 흔하게 볼 수 있을 겁니다.

that we should expect to be much more common in the future,

where we have humans and machines kind of very carefully

아주 신중하고 섬세하게 설계된 기계와 인간이 힘을 모아

and delicately designed in how they fit into a problem

어떻게 문제에 접근하고 어떻게 그 문제를 해결할 건지

and how we want to solve that problem.

알아내는 거죠.

We make sure that the humans are providing the management, the oversight,

저희가 하는 일은 이런 건데 사람은 관리, 감독, 피드백을 제공하고

the feedback,

기계는 검증하고 신뢰할 수 있도록 운영하게 하는 거예요.

and the machines are operating in a way that's inspectable

and trustworthy.

And together we're able to actually create even more trustworthy machines.

서로 힘을 합쳐

더 믿음직한 기계를 만들 수 있는 과정을 제대로 해낸다면

And I think that over time, if we get this process right,

시간이 흐르면서 아무리 불가능한 문제도 해결할 수 있을 거예요.

we will be able to solve impossible problems.

And to give you a sense of just how impossible I'm talking,

얼마나 불가능한 것들을 의미하냐면...

I think we're going to be able to rethink almost every aspect

컴퓨터와의 상호 작용에 관한 모든 측면을 재검토할 수 있습니다.

of how we interact with computers.

For example, think about spreadsheets.

예를 들어 스프레드시트를 생각해보세요.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

40년 전 ‘비지칼크’ 때부터 특정 형식의 스프레드시트를 사용했죠.

I don't think they've really changed that much in that time.

그 긴 시간 동안 크게 달라진 건 없는 것 같아요...

And here is a specific spreadsheet of all the AI papers on the arXiv

이건 지난 30년간 아카이브에 올라온

약 16만 7천 편이 있네요.

for the past 30 years.

There's about 167,000 of them.

And you can see there the data right here.

여기 보시면 데이터가 있습니다.

But let me show you the ChatGPT take on how to analyze a data set like this.

이제 챗GPT가 이런 데이터 셋을 분석하는 방법을 보여드리겠습니다.

So we can give ChatGPT access to yet another tool,

챗GPT가 다른 도구에 액세스하게 권한을 줄 수 있어요.

this one a Python interpreter,

파이썬 인터프리터라는 이 도구는

so it’s able to run code, just like a data scientist would.

마치 데이터 과학자처럼 코드를 실행할 수 있습니다.

And so you can just literally upload a file

그럼 말 그대로 파일을 업로드하고 질문만 하면 됩니다.

and ask questions about it.

And very helpfully, you know, it knows the name of the file and it's like,

아주 유용하게도 AI가 파일 형식을 인식합니다.

"Oh, this is CSV," comma-separated value file,

‘이건 CSV, 쉼표로 구분된 데이터 파일이군요’

"I'll parse it for you."

’분석해 드릴게요”

The only information here is the name of the file,

여기서 유일한 정보는 파일명과

the column names like you saw and then the actual data.

아까 보셨던 열 이름인 실제 데이터예요

And from that it's able to infer what these columns actually mean.

그 정보만 가지고 AI가 이 열의 의미를 추론할 수 있죠.

Like, that semantic information wasn't in there.

그렇게 쓸만한 정보는 없었는데도

It has to sort of, put together its world knowledge of knowing that,

AI는 온 지식을 한데 모아서 다음의 사실을 알아내요.

“Oh yeah, arXiv is a site that people submit papers

‘네, 아카이브는 사람들이 논문을 제출하는 곳이며’

and therefore that's what these things are and that these are integer values

‘그래서 이것들이 그 논문이고 그러므로 이게 정숫값이며’

and so therefore it's a number of authors in the paper,"

‘그래서 결국 이건 논문 저자의 수입니다’

like all of that, that’s work for a human to do,

이런 분석은 보통 인간의 영역이죠.

and the AI is happy to help with it.

이렇게 AI가 기꺼이 도와줬고 이제는 뭘 물어볼지 생각이 안 나요.

Now I don't even know what I want to ask.

So fortunately, you can ask the machine,

다행히 AI에 이렇게 질문할 수도 있습니다.

"Can you make some exploratory graphs?"

‘탐색 그래프를 만들어 줄래?’라고요.

And once again, this is a super high-level instruction with lots of intent behind it.

또 한 번 아주 높은 수준의 명령인데 많은 의도를 담고 있습니다.

But I don't even know what I want.

사용자는 뭘 원하는지 모르죠.

AI는 제가 흥미를 느낄 만한 걸 알아내야 하고

And the AI kind of has to infer what I might be interested in.

좋은 아이디어로써

And so it comes up with some good ideas, I think.

논문 당 저자 수를 나타내는 히스토그램과

So a histogram of the number of authors per paper,

time series of papers per year, word cloud of the paper titles.

연간 논문의 시계열과 논문 제목의 워드클라우드

All of that, I think, will be pretty interesting to see.

전부 다 꽤 흥미로워 보입니다.

AI가 이 작업을 실제로도 할 수 있으니 더 좋죠.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

멋진 종 모양 그래프이며 발행 논문 수는 세 편이 가장 흔하죠.

You see that three is kind of the most common.

이제 연간 논문 수 그래프를 AI가 그릴 겁니다.

It's going to then make this nice plot of the papers per year.

2023년에 엄청난 일이 있었나 보네요.

Something crazy is happening in 2023, though.

Looks like we were on an exponential and it dropped off the cliff.

논문 수가 기하급수적으로 올라가다가 벼랑 끝으로 떨어졌어요.

이유가 뭘까요?

What could be going on there?

참고로 이 도구는 파이썬 코드로 검증에 사용하실 수 있죠.

By the way, all this is Python code, you can inspect.

And then we'll see word cloud.

그리고 워드 클라우드도 보이고 이렇게 멋진 그래픽도 보이죠.

So you can see all these wonderful things that appear in these titles.

But I'm pretty unhappy about this 2023 thing.

하지만 2023년이 마음에 안 드네요.

It makes this year look really bad.

올해 수치가 정말 안 좋아 보이는데 물론 올해가 아직 안 끝나서 그렇죠.

Of course, the problem is that the year is not over.

So I'm going to push back on the machine.

그래서 AI에게 한마디 좀 할게요.

[Waitttt that's not fair!!!

[이건 타당하지 않아]

2023 isn't over.

[2023년은 안 끝났잖아.]

What percentage of papers in 2022 were even posted by April 13?]

[2022년 4월 13일 기준으로 논문 수가 그해 전체의 몇 퍼센트야?]

So April 13 was the cut-off date I believe.

[올해 4월 13일이 기준일 겁니다.]

Can you use that to make a fair projection?

[그 수치를 이용해서 값을 타당하게 예측할 수 있을까?]

So we'll see, this is the kind of ambitious one.

이건 좀 무리한 요구일 수도 있겠어요.

(Laughter)

(웃음)

So you know,

그래도 제 생각엔 이 기계에서 뭔가 더 얻을 수 있을 것 같습니다.

again, I feel like there was more I wanted out of the machine here.

I really wanted it to notice this thing,

기계가 스스로 2023년의 오류를 파악하기를 원했죠.

maybe it's a little bit of an overreach for it

좀 과한 기대 같기도 하지만요.

to have sort of, inferred magically that this is what I wanted.

‘당신이 원하는 게 이거예요’라고 AI가 마법처럼 추론할 수는 없잖아요.

But I inject my intent,

하지만 저는 제 의도를 전달하고 거기에다 추가로 지침까지 제공합니다.

I provide this additional piece of, you know, guidance.

And under the hood,

화면을 보시면

the AI is just writing code again, so if you want to inspect what it's doing,

AI가 다시 코드를 작성하고 있어요 어떻게 작업하는지 확인하고 싶다면

it's very possible.

당연히 가능합니다.

And now, it does the correct projection.

이제... 올바른 예측을 실행하네요.

(Applause)

(박수)

If you noticed, it even updates the title.

눈치채셨는지 모르겠는데 제목까지도 업데이트합니다.

I didn't ask for that, but it know what I want.

제가 요청한 건 아니지만 AI는 제가 원하는 걸 알아요.

Now we'll cut back to the slide again.

슬라이드로 다시 돌아가겠습니다.

This slide shows a parable of how I think we ...

이 슬라이드에서 한 이야기를 들려드릴게요.

A vision of how we may end up using this technology in the future.

이 일화는 우리가 미래에 이 기술을 어떻게 사용할 수 있을지 보여 줍니다.

A person brought his very sick dog to the vet,

한 사람이 아픈 개를 병원에 데려왔는데

and the veterinarian made a bad call to say, “Let’s just wait and see.”

수의사가 ‘일단 두고 보자’라고 잘못된 판단을 내렸죠.

And the dog would not be here today had he listened.

그 말을 들었다면 이 개는 죽었을 거예요.

In the meanwhile, he provided the blood test,

보호자는 챗GPT-4에 혈액 검사 결과와 전체 의료 기록을 제공했어요.

like, the full medical records, to GPT-4,

이렇게 쓰여 있었죠.

which said, "I am not a vet, you need to talk to a professional,

‘저는 수의사가 아닙니다 전문가와 상담하세요.’

here are some hypotheses."

’여기 몇 가지 추측입니다.′

He brought that information to a second vet

보호자는 그 정보를 다른 수의사에게 전달했고

who used it to save the dog's life.

그 정보를 이용해서 해당 수의사가 개를 살렸죠.

Now, these systems, they're not perfect.

이 시스템은 완벽하지 않기 때문에 너무 의지하면 안 돼요.

You cannot overly rely on them.

But this story, I think, shows

하지만 이 사례는

that a human with a medical professional

한 인간이 의료 전문가의 도움과 챗GPT의 브레인스토밍으로

and with ChatGPT as a brainstorming partner

was able to achieve an outcome that would not have happened otherwise.

엄청난 결과를 얻어냈으며 이 시스템이 없었다면 불가능했겠죠.

I think this is something we should all reflect on,

이건 모두 한번 생각해 볼 만한 부분이에요.

think about as we consider how to integrate these systems

시스템을 활용하기 좋은 방법은 뭘까요?

into our world.

And one thing I believe really deeply,

저의 확고한 생각은

AI를 제대로 만들려면 모두 동참할 필요가 있다는 겁니다.

is that getting AI right is going to require participation from everyone.

And that's for deciding how we want it to slot in,

우리가 이걸 어떻게 사용할지 직접 결정하는 거죠.

that's for setting the rules of the road,

AI가 해도 되고 해서는 안 되는 것 등 규칙을 정하는 겁니다.

for what an AI will and won't do.

And if there's one thing to take away from this talk,

이 강연에서 한 가지 얻어 가실 게 있다면

it's that this technology just looks different.

달라 보이는 기술일 뿐인 것입니다.

Just different from anything people had anticipated.

그저 사람들이 예상했던 것과 다를 뿐이며

And so we all have to become literate.

우리는 익숙해져야 하죠.

And that's, honestly, one of the reasons we released ChatGPT.

그래서 챗GPT를 세상에 선보인 이유이기도 해요.

Together, I believe that we can achieve the OpenAI mission

우리가 함께 힘을 모으면 오픈AI의 사명은

of ensuring that artificial general intelligence

인류에게 도움이 되는 인공지능을 실현할 수 있다고 믿습니다.

benefits all of humanity.

Thank you.

감사합니다.

(Applause)

(박수)

(Applause ends)

(박수가 끝난다)

Chris Anderson: Greg.

크리스 앤더슨: 그렉 씨...

Wow.

대단하네요!

I mean ...

제 말은...

I suspect that within every mind out here

제 생각엔 여기 계신 분들은

there's a feeling of reeling.

혼란스러울 거예요.

Like, I suspect that a very large number of people viewing this,

이걸 보고 계신 많은 분중에 보면서 ‘맙소사!’

you look at that and you think, “Oh my goodness,

pretty much every single thing about the way I work, I need to rethink."

’내가 하는 일에 대한 모든 것을 다시 생각해야 해.′

Like, there's just new possibilities there.

여기서 수많은 가능성이 생기는 거예요.

Am I right?

맞죠?

Who thinks that they're having to rethink the way that we do things?

세상에서 우리가 하는 일을 다시 생각하는 사람이 얼마나 있을까요?

Yeah, I mean, it's amazing,

당연히 대단하죠.

but it's also really scary.

하지만 한편으론 엄청나게 두려울걸요. 그래서 몇 가지 질문을 할게요.

So let's talk, Greg, let's talk.

I mean, I guess my first question actually is just

제가 물어볼 첫 번째 질문은 이걸 도대체 어떻게 한 건가요?

how the hell have you done this?

(Laughter)

(웃음)

OpenAI has a few hundred employees.

오픈AI에는 몇백 명의 직원이 있으며

Google has thousands of employees working on artificial intelligence.

구글에는 인공지능을 연구하는 수천 명의 직원들이 있죠.

Why is it you who's come up with this technology

그런데 세계를 놀라게 만든 이 기술을 만든 사람이 왜 당신인가요?

that shocked the world?

Greg Brockman: I mean, the truth is,

그렉 브록만: 제 말은, 진실은...

we're all building on shoulders of giants, right, there's no question.

우리는 거인들의 어깨 위에서 개발하고 있어요.

If you look at the compute progress,

계산 진행을 보시면 알고리즘 진행, 데이터 진행 등

the algorithmic progress, the data progress,

이런 것들은 다 업계 전반에 비슷하게 퍼져있지만

all of those are really industry-wide.

But I think within OpenAI,

오픈AI 내부에선 초창기 때부터 신중한 선택을 많이 했어요.

we made a lot of very deliberate choices from the early days.

And the first one was just to confront reality as it lays.

그리고 이 선택들 중에서 첫 번째는 현실을 있는 그대로 직면하는 것이었죠.

And that we just thought really hard about like:

‘이 산업에서 어떻게 하면 성과를 낼까?’와 같은 질문을 생각했고

What is it going to take to make progress here?

We tried a lot of things that didn't work, so you only see the things that did.

다수의 실패에 직면했지만 여러분은 성공한 것만 보는 거고

제가 제일 중요하게 생각하는 일은

And I think that the most important thing has been to get teams of people

who are very different from each other to work together harmoniously.

매우 다른 사람들이 모여서 같이 조화롭게 일하게 만드는 일이에요.

CA: Can we have the water, by the way, just brought here?

크리스 앤더슨: 물 한 잔만 줄 수 있을까요?

I think we're going to need it, it's a dry-mouth topic.

말을 많이 했더니 목이 마르네요.

But isn't there something also just about the fact

하지만 이 언어모델을...

that you saw something in these language models

계속 투자하고 발전시키면

that meant that if you continue to invest in them and grow them,

무언가가 나타날 수도 있다는 것에 대해서

that something at some point might emerge?

아이디어가 나오지 않나요?

GB: Yes.

그렉 브록만: 네.

And I think that, I mean, honestly,

그리고 제 생각엔...

I think the story there is pretty illustrative, right?

솔직히, 이 얘기는 상당히 명확하게 보여주는데요.

I think that high level, deep learning,

저는 우리가 인간들이 항상 원했던

like we always knew that was what we wanted to be,

깊은 수준의 학습을 초창기엔 어떻게 만들어야 할지

was a deep learning lab, and exactly how to do it?

몰랐다고 생각하는데 우리는 많은 것을 시도했고

I think that in the early days, we didn't know.

We tried a lot of things,

그리고 우리의 직원 중 한 명이 하나의 언어모델로

and one person was working on training a model

to predict the next character in Amazon reviews,

아마존 리뷰에서 다음 글자를 예측하는 훈련시키고 있었는데

and he got a result where -- this is a syntactic process,

그가 받았던 결과가

언어모델에서 다음 쉼표가 어디 있을지

you expect, you know, the model will predict where the commas go,

명사와 동사들의 자리를 예측하니까 구문론적인 방법이죠.

where the nouns and verbs are.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

하지만 그는 최첨단 감정 분석 분류기를 얻었어요.

This model could tell you if a review was positive or negative.

이 언어모델은 리뷰가 긍정적 아니면 부정적인지 알려줄 수 있었거든요.

I mean, today we are just like, come on, anyone can do that.

오늘날 우리는 이 일이 누구나 할 수 있는 일처럼 보이겠지만

But this was the first time that you saw this emergence,

저희는 그때 AI가 문맥을...

this sort of semantics that emerged from this underlying syntactic process.

파악할 수 있게 된 것을 처음 봤어요.

And there we knew, you've got to scale this thing,

그때부터 우린 이 일을 더 크게 만들고 얼마나 발전할지 알아야겠다고 생각했죠.

you've got to see where it goes.

크리스 앤더슨: 방금 말씀으로 헷갈리는...

CA: So I think this helps explain

모든 분에게 다 설명이 된 것 같군요.

the riddle that baffles everyone looking at this,

because these things are described as prediction machines.

왜냐하면 이 언어모델들이 예측 기계라고 설명되었으니까요.

And yet, what we're seeing out of them feels ...

그렇지만 언어모델들이 하는 일을 보면

it just feels impossible that that could come from a prediction machine.

예측하는 기계에서 나오는 건 불가능해 보여요.

Just the stuff you showed us just now.

강연에서 보여주셨던 것 말이죠.

And the key idea of emergence is that when you get more of a thing,

그리고 출현이라는 중요한 아이디어는 갑작스러운 거잖아요.

suddenly different things emerge.

It happens all the time, ant colonies, single ants run around,

매일 일어나죠: 개미들은 혼자서도 돌아다니지만

개미들을 충분히 모으면

when you bring enough of them together,

개미 군체가 되고 완전히 다른 행동이 드러나죠.

you get these ant colonies that show completely emergent, different behavior.

Or a city where a few houses together, it's just houses together.

하지만 집이 몇 채밖에 없는 도시에 집의 수를 늘리면

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

지역이랑 문화센터나 교통체증 같은 일이 출현하죠.

Give me one moment for you when you saw just something pop

예상 못 했던 충격적인 일이 있었다면 얘기해주세요.

that just blew your mind

that you just did not see coming.

GB: Yeah, well,

그렉 브록만: 네

so you can try this in ChatGPT, if you add 40-digit numbers --

챗GPT에서도 해볼 수 있는데 40자리 수들을 더하면

CA: 40-digit?

크리스 앤더슨: 40자리요?

GB: 40-digit numbers, the model will do it,

그렉 브록만: 네, 이를 수행하는 방법에 대한

which means it's really learned an internal circuit for how to do it.

내부 회로를 완전히 배웠다는 뜻이죠.

And the really interesting thing is actually,

그리고 여기에서 정말 흥미로운 점은

if you have it add like a 40-digit number plus a 35-digit number,

40자리 수랑 35자리 수를 더하면 언어모델은 사실 자주 틀리지만

it'll often get it wrong.

And so you can see that it's really learning the process,

여기서 언어모델은 이런 방법을 배우죠.

but it hasn't fully generalized, right?

하지만 완전하게 배우진 못했잖아요?

It's like you can't memorize the 40-digit addition table,

여러분들이 40자리 숫자들을 못 더하는 것과 비슷한 건데요.

that's more atoms than there are in the universe.

우주 전체에 있는 원자들의 수보다 40자리 숫자들이 더 크거든요.

So it had to have learned something general,

그래서 조금 더 일반적이지만 완전히 학습 못 한 것을 배워야 했죠.

but that it hasn't really fully yet learned that,

Oh, I can sort of generalize this to adding arbitrary numbers

언어모델은 이 일을 임의의 숫자와 임의의 길이를 더해서 일반화해요.

of arbitrary lengths.

크리스 앤더슨: 그래서 여기서 일어난 건

CA: So what's happened here

is that you've allowed it to scale up

믿을 수 없는 길이의 글을 읽을 수 있도록 확대한 것이며

and look at an incredible number of pieces of text.

And it is learning things

학습 못 할 거라고 예상한 것들을 이 언어모델이 학습하고 있죠.

that you didn't know that it was going to be capable of learning.

GB Well, yeah, and it’s more nuanced, too.

그렉 브록만: 네, 뉘앙스도 파악해요.

So one science that we’re starting to really get good at

그래서 더 향상된 기술은 발전하는 기술을 예측하는 거죠.

is predicting some of these emergent capabilities.

And to do that actually,

그리고 그걸 해내기 위해선 이 분야에서

one of the things I think is very undersung in this field

과소평가 된 일을 해야 하는데 그게 공학 품질입니다.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

저희의 언어모델을 완전히 다시 개발해야 하는 건데요.

When you think about building a rocket,

로켓을 조립한다고 생각하면

every tolerance has to be incredibly tiny.

모든 공차는 믿을 수 없을 정도로 작아야 하는데 인공지능 학습도 같아요.

Same is true in machine learning.

You have to get every single piece of the stack engineered properly,

인공지능의 모든 부분을 제대로 설계해야 하고

and then you can start doing these predictions.

그래야 예측이 가능합니다.

There are all these incredibly smooth scaling curves.

이 수치들은 지능에 대한 아주 중요한 것을 알려주죠.

They tell you something deeply fundamental about intelligence.

저희의 GPT-4 블로그 포스트를 보면 곡선들이 다 보이는데

If you look at our GPT-4 blog post,

you can see all of these curves in there.

우리는 예측하는 기술을 할 수 있거든요.

And now we're starting to be able to predict.

So we were able to predict, for example, the performance on coding problems.

그리고 코딩 문제의 성능 같은 문제들도 예측할 수 있죠.

We basically look at some models

그래서 우리는 간단히 말해서

that are 10,000 times or 1,000 times smaller.

만 배나 천 배 더 작은 모델들을 봅니다.

And so there's something about this that is actually smooth scaling,

그리고 이 일을 잘 해냈어요.

아직도 초창기이지만 말이에요.

even though it's still early days.

CA: So here is, one of the big fears then,

크리스 앤더슨: 여러분이 느끼는 큰 두려움 중 하나가

that arises from this.

여기서 나오네요.

If it’s fundamental to what’s happening here,

이 일이 인공지능 개발에서 중요하면 일을 확대할수록 무언가가 나타나는데

that as you scale up,

things emerge that

you can maybe predict in some level of confidence,

여기에서 자신감을 느낄 수 있고

but it's capable of surprising you.

언어모델이 당신을 놀랍게 만들 수도 있을 텐데요.

Why isn't there just a huge risk of something truly terrible emerging?

정말 끔찍한 일이 일어날 위험이 크지 않은 이유는요?

GB: Well, I think all of these are questions of degree

그렉 브록만: 제가 보기엔 이 문제들은

정도, 규모, 타이밍이며 미처 생각하지 못하는 것 중의 하나가

and scale and timing.

And I think one thing people miss, too,

is sort of the integration with the world is also this incredibly emergent,

이 언어모델을 세계와 연결하는 일은 아주 강력한 힘을 불러올 수 있어요.

sort of, very powerful thing too.

그래서 저희는 점진적으로 전개하는 것이 중요하다고 생각해요.

And so that's one of the reasons that we think it's so important

to deploy incrementally.

And so I think that what we kind of see right now, if you look at this talk,

그래서 이 강연을 통해서 우리가 중요하게 바라보는 게 있다면

a lot of what I focus on is providing really high-quality feedback.

매우 우수한 피드백을 주는 것에 집중해요.

오늘날, 우린 우리가 하는 일을 점검할 수 있죠?

Today, the tasks that we do, you can inspect them, right?

예를 들어, 수학 문제를 보고 ’아니야, 아니라고, 이건 틀렸어′

It's very easy to look at that math problem and be like, no, no, no,

‘AI야, 7이 정답이었잖아.’

machine, seven was the correct answer.

하지만 책을 요약하는 일 같은 일들은 점검하기가 어렵죠.

But even summarizing a book, like, that's a hard thing to supervise.

책의 요약이 좋은지 책을 다 읽어야 하잖아요.

Like, how do you know if this book summary is any good?

You have to read the whole book.

하지만 읽기는 싫죠.

No one wants to do that.

(웃음)

(Laughter)

And so I think that the important thing will be that we take this step by step.

그래서 중요한 것은 단계별로 발전하는 것이에요.

And that we say, OK, as we move on to book summaries,

독후감으로 넘어갈 때 더 제대로 점검할 수 있도록요.

we have to supervise this task properly.

We have to build up a track record with these machines

그리고 사용자의 요구를 실행할 수 있다는 것을 계속 기록해야 하고

that they're able to actually carry out our intent.

And I think we're going to have to produce even better, more efficient,

기록하는 방법 또한 더 우수하며 효율적으로 개발해야겠죠.

more reliable ways of scaling this,

sort of like making the machine be aligned with you.

언어모델이 사용자의 요구를 더 정확히 들어줄 수 있도록요.

CA: So we're going to hear later in this session,

크리스 앤더슨: 그래서 이 인터뷰 이후

there are critics who say that,

다음과 같이 비평하는 사람들은 진정한 이해가 없는 거군요.

you know, there's no real understanding inside,

the system is going to always --

’시스템에 항상 오류가 없다는 건 절대 모를 것이다’라고요.

we're never going to know that it's not generating errors,

that it doesn't have common sense and so forth.

상식 등등이 없는 거죠.

Is it your belief, Greg, that it is true at any one moment,

그렉, 믿음이 있나요?

인간의 피드백 스케일이 더 커지는 어느 순간에

but that the expansion of the scale and the human feedback

that you talked about is basically going to take it on that journey

당신이 말한 것이 기본적으로...

인공지능한테 진실과 지혜 같은 것에 실제로 도달하는 여정을 떠날 텐데요.

of actually getting to things like truth and wisdom and so forth,

with a high degree of confidence.

확고한 자신감을 가지고 그것을 실행할 수 있나요?

Can you be sure of that?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

그렉 : 그런 기술은 오픈AI한테 부여할 수 있다고 생각해요.

I believe that is where we're headed.

우리 기술의 지향점이고요.

And I think that the OpenAI approach here has always been just like,

그리고 오픈AI에서 늘 보여준 접근법은 현실을 있는 그대로 직면하는 것이죠.

let reality hit you in the face, right?

It's like this field is the field of broken promises,

이 분야는 지켜지 못한 약속 같은 분야예요.

X는 일어날 것이고 Y는 방법이라고 말하는 모든 전문가의 말처럼요.

of all these experts saying X is going to happen, Y is how it works.

사람들은 근 70년간 신경망 기술은 불가능할 거라고 말했죠.

People have been saying neural nets aren't going to work for 70 years.

아직은 아니지만 맞을 수도 있고 70년 이상 걸릴 수도 있어요.

They haven't been right yet.

They might be right maybe 70 years plus one

or something like that is what you need.

하지만 우리의 접근법은 항상 이 기술을 제대로 보기 위해

But I think that our approach has always been,

you've got to push to the limits of this technology

기술의 한계를 최대한 줄여야 새로운 패러다임으로 넘어간다고 하지만

to really see it in action,

because that tells you then, oh, here's how we can move on to a new paradigm.

이 노력의 결실을 아직 못 봤어요.

And we just haven't exhausted the fruit here.

크리스 앤더슨: 아주 논란이 많을 입장을 취하셨는데요.

CA: I mean, it's quite a controversial stance you've taken,

that the right way to do this is to put it out there in public

언어모델을 공적으로 만들어서

and then harness all this, you know,

당신의 팀이 피드백을 주는 것이 아닌

instead of just your team giving feedback,

the world is now giving feedback.

전 세계가 피드백을 주고 있죠.

But ...

그렇지만... 나쁜 일들이 일어나면

If, you know, bad things are going to emerge,

it is out there.

전 세계가 알 거예요.

So, you know, the original story that I heard on OpenAI

그래서 제가 오픈AI에서 들은 이야기는 비영리로 시작했을 때

when you were founded as a nonprofit,

well you were there as the great sort of check on the big companies

대기업들이 AI로 무슨 일을 벌이는지

doing their unknown, possibly evil thing with AI.

확인하기 시작했다고 들었으며

And you were going to build models that sort of, you know,

그들을 책임지게 할 필요에 따라 산업 전체를 늦출 수 있는 기술과

somehow held them accountable

and was capable of slowing the field down, if need be.

언어모델을 개발한다고 들었어요.

Or at least that's kind of what I heard.

그게 제가 들은 이야기지만 사실 일어난 일들은 완전히 반대죠.

And yet, what's happened, arguably, is the opposite.

That your release of GPT, especially ChatGPT,

당신들의 GPT의 출시 특히, 챗GPT의 출시는

sent such shockwaves through the tech world

전자기계 분야에서 큰 파동을 일으켜서 구글과 메타가 따라잡으려고 했어요.

that now Google and Meta and so forth are all scrambling to catch up.

And some of their criticisms have been,

그리고 그들의 비난 중 몇 개는

you are forcing us to put this out here without proper guardrails or we die.

아무런 준비도 없이 AI 세상과 밥벌이를 하기 위해 싸워야 합니다.

You know, how do you, like,

여러분들이 만든 것이 문제가 아니라

make the case that what you have done is responsible here and not reckless.

좋은 일이라는 것을 어떻게 확신하죠?

GB: Yeah, we think about these questions all the time.

그렉 브록만: 우리는 그런 문제들을 늘 고민하죠.

Like, seriously all the time.

언제나 그랬어요.

And I don't think we're always going to get it right.

그리고 우리가 항상 맞을 거라는 생각은 하지 않아요.

But one thing I think has been incredibly important,

하지만 제가 매우 중요하게 생각하는 건 초창기 때부터 우리는

from the very beginning, when we were thinking

‘인공 일반 지능을 어떻게 개발할 것인가?’ 그리고

about how to build artificial general intelligence,

‘그것을 전 인류를 위해 어떻게 쓸 것인가?’ 를 생각했죠.

actually have it benefit all of humanity,

어떻게 할 수 있을까요?

like, how are you supposed to do that, right?

비밀리에 진행해야 하잖아요...

And that default plan of being, well, you build in secret,

you get this super powerful thing,

아주 강력한 기술을 만들었고 이것의 안전함과 시작 시점을 결정하는 주체는

and then you figure out the safety of it and then you push “go,”

우리였으며 그 결정이 맞았길 기도하는 것밖에 없었죠.

and you hope you got it right.

저는 그 계획을 실행시키는 방법을 모르지만 다른 사람은 알 수도 있어서

I don't know how to execute that plan.

Maybe someone else does.

전 그 일이 항상 두려웠고 정답이 아닌 것처럼 보였어요.

But for me, that was always terrifying, it didn't feel right.

그래서 우리가 지금 하는 다른 방법은

And so I think that this alternative approach

저한테 보이는 단 하나뿐인 방법이며 그것은 현실 그대로 직면하는 것이고

is the only other path that I see,

which is that you do let reality hit you in the face.

And I think you do give people time to give input.

대중에게 피드백 받을 시간도 필요해요.

이 기술이 완벽해지기 전에

You do have, before these machines are perfect,

before they are super powerful, that you actually have the ability

그리고 엄청나게 강력해지기 전에 기술의 효능감을 보게 될 거예요.

to see them in action.

And we've seen it from GPT-3, right?

그리고 GPT-3에서 벌써 봤죠? GPT-3에서는 우리는 사람들이

GPT-3, we really were afraid

that the number one thing people were going to do with it

잘못된 정보를 생성하고 선거에 정보를 제공하는 점이 우려됐으며

was generate misinformation, try to tip elections.

Instead, the number one thing was generating Viagra spam.

제일 중요한 건 19금 스팸을 생성하는 거였죠.

(Laughter)

(웃음)

CA: So Viagra spam is bad, but there are things that are much worse.

크리스 앤더슨: 19금 스팸은 나쁘지만 더 나쁜 것들이 있다는 것이네요.

Here's a thought experiment for you.

생각할 수 있는 것을 드릴게요.

Suppose you're sitting in a room,

방 안에 앉아 있다고 가정했을 때 책상 위엔 박스가 있고

there's a box on the table.

You believe that in that box is something that,

당신은 그 박스에...

there's a very strong chance it's something absolutely glorious

모든 사람한테 줄 선물이

that's going to give beautiful gifts to your family and to everyone.

엄청나게 행복하게 만들어 줄 물건이 있다고 칩시다.

But there's actually also a one percent thing in the small print there

그리고 1%의 확률로 작은 글씨로 쓰여 있는

‘판도라’ 상자처럼

that says: “Pandora.”

And there's a chance

상상도 못 할 악을 만들 수 있습니다.

that this actually could unleash unimaginable evils on the world.

Do you open that box?

당신은 그 박스를 열 건가요?

GB: Well, so, absolutely not.

그렉 브록만: 아니요, 절대 안 열죠.

I think you don't do it that way.

그렇게 하는 게 아니라

And honestly, like, I'll tell you a story that I haven't actually told before,

전에 하지 않은 이야기를 들려드릴게요.

which is that shortly after we started OpenAI,

오픈AI를 시작한 지 얼마 안 됐을 때

I remember I was in Puerto Rico for an AI conference.

저는 인공지능 콘퍼런스에 다녀오기 위해 푸에르토리코에 있었어요.

I'm sitting in the hotel room just looking out over this wonderful water,

저는 아름다운 물가가 보이는 호텔 방에서

all these people having a good time.

즐겁게 지내는 사람들을 보면서 잠깐 생각했는데

And you think about it for a moment,

판도라의 상자를... 선택할 수 있었다면

if you could choose for basically that Pandora’s box

to be five years away

5년 뒤에 아니면 500년 뒤에 말이죠.

or 500 years away,

which would you pick, right?

당신은 어느 쪽을 선택했을까요?

On the one hand you're like, well, maybe for you personally,

한편으로 여러분들을 위해서라면

it's better to have it be five years away.

5년 뒤가 나을 수도 있겠죠.

But if it gets to be 500 years away and people get more time to get it right,

하지만 500년 뒤에 열리고 더 많은 사람이 알게 되고 준비한다면

which do you pick?

어떤 것을 선택할까요?

And you know, I just really felt it in the moment.

그리고 저는 생각했죠.

I was like, of course you do the 500 years.

당연히 500년 뒤라고요.

제 형이 군대에 있었을 때

My brother was in the military at the time

그는 훨씬 더 실제적인 방식으로 자신의 생명을 걸고 있었어요.

and like, he puts his life on the line in a much more real way

than any of us typing things in computers

우리가 컴퓨터로 타이핑하고 이 기술을 개발하는 것보다 말이죠.

and developing this technology at the time.

And so, yeah, I'm really sold on the you've got to approach this right.

전 여러분이 동참해야 하는 사실에 정말 마음이 끌렸어요.

But I don't think that's quite playing the field as it truly lies.

하지만 있는 그대로의 상황을 받아들이는 건 아니라고 생각해요.

Like, if you look at the whole history of computing,

정보처리의 역사를 보면

I really mean it when I say that this is an industry-wide

이 분야 전체에서...

or even just almost like

발전은

a human-development- of-technology-wide shift.

인류 전체의 발전이었죠.

And the more that you sort of, don't put together the pieces

그리고 이 분야에서 가진 기술들로

that are there, right,

발전하지 않으려고 해도 컴퓨터들은 빨라지고

we're still making faster computers,

we're still improving the algorithms, all of these things, they are happening.

알고리즘은 더 나아지고 이런 일들이 일어나고 있습니다.

And if you don't put them together, you get an overhang,

그리고 기술을 안 쓰면

which means that if someone does,

다른 사람이 쓸 텐데

or the moment that someone does manage to connect to the circuit,

그들이 회로를 연결한다든지 하면

then you suddenly have this very powerful thing,

아주 강력한 것이 개발되겠죠.

no one's had any time to adjust,

아무도 이 신기술에 준비할 시간이 없었고

who knows what kind of safety precautions you get.

그 강력한 신기술을 준비할 기술은 아무도 있는지 몰랐어요.

And so I think that one thing I take away

그래서 제가 여기서 눈여겨볼 만한 기술의 발전에 대해 생각해 보면

is like, even you think about development of other sort of technologies,

think about nuclear weapons,

예를 들어 핵무기는 사람들이 인간의 한계를

people talk about being like a zero to one,

sort of, change in what humans could do.

무에서 유로 만들어준다고 하죠.

But I actually think that if you look at capability,

그렇지만 기술의 능력을 보면 꽤 안정적이었어요.

it's been quite smooth over time.

And so the history, I think, of every technology we've developed

그리고 인류가 개발한 모든 기술은 점진적으로 발전해서

has been, you've got to do it incrementally

and you've got to figure out how to manage it

발전할 때마다 어떻게 관리할 것인지 생각해야 했습니다.

for each moment that you're increasing it.

CA: So what I'm hearing is that you ...

크리스 앤더슨: 지금 제가 듣고 있는 것은...

the model you want us to have

당신이 우리가 갖고 있길 원하는 언어모델은

is that we have birthed this extraordinary child

우리가 초능력이 있을 수도 있는

that may have superpowers

인류를 한 차원 더 끌어올릴 수 있는

that take humanity to a whole new place.

비상한 아이를 탄생시켰다는 건데요.

It is our collective responsibility to provide the guardrails

그리고 이 아이를 안전하게

for this child

우리들을 다 공격하지 않고 지혜롭게 키우기 위한 책임은

to collectively teach it to be wise and not to tear us all down.

우리 모두에게 있고요.

Is that basically the model?

그게 이 언어모델이 맞나요?

GB: I think it's true.

그렉 브록만: 저는 그렇게 생각합니다.

And I think it's also important to say this may shift, right?

그리고 이게 바뀔 수도 있겠죠?

We've got to take each step as we encounter it.

우리는 직접 대면하는 것처럼 단계별로 접근해야 합니다.

And I think it's incredibly important today

그리고 저는 오늘날 우리가 이 기술에 대해서

that we all do get literate in this technology,

실질적인 문맹이 되지 않도록 배워야 하고

figure out how to provide the feedback,

피드백을 어떻게 줄지 생각하고 이 기술에서 얻으려는 것을 정해야 해요.

decide what we want from it.

And my hope is that that will continue to be the best path,

그리고 제 바람은 최선의 길로 계속 이어지는 것이며

but it's so good we're honestly having this debate

우리가 솔직하게 토론하는 것은 매우 유익한 것이죠.

because we wouldn't otherwise if it weren't out there.

그렇지 않았다면 못 했을 테니까요.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

크리스 앤더슨: 브록만 씨! 귀한 강연 감사합니다.

(Applause)

(박수)