What Is an AI Anyway? | Mustafa Suleyman | TED

번역: Hyerin Kim 검토: JY Kang

I want to tell you what I see coming.

제가 보는 미래에 대해 이야기 해보고자 합니다.

I've been lucky enough to be working on AI for almost 15 years now.

저는 운이 좋게도 15년 동안 AI를 연구해왔습니다.

Back when I started, to describe it as fringe would be an understatement.

처음 시작할 때는 비주류라고 하는 건 말할 것도 없고,

Researchers would say, “No, no, we’re only working on machine learning.”

연구자들조차 “아니요, 우리가 하는 건 그냥 기계 학습이에요.” 라고 말했죠.

Because working on AI was seen as way too out there.

왜냐하면 AI에 대한 연구는 비현실적이라 여겨졌거든요.

In 2010, just the very mention of the phrase “AGI,”

2010년에는 인공일반지능을 뜻하는 “AGI”라는 표현을 언급하기만 해도

artificial general intelligence,

would get you some seriously strange looks

못마땅한 시선을 보냈고

and even a cold shoulder.

심지어 따돌리기까지 했습니다.

"You're actually building AGI?" people would say.

사람들은 이렇게 말했죠. “실제로 AGI를 만든다고요?”

"Isn't that something out of science fiction?"

“공상 과학 소설에서나 나오는 거 아닌가요?”

People thought it was 50 years away or 100 years away,

사람들은 50년, 100년이 지나야 인공지능이 가능할 거라 생각했습니다.

if it was even possible at all.

Talk of AI was, I guess, kind of embarrassing.

제 생각에 AI에 대한 이야기조차 부끄러운 일이었던 거 같아요.

People generally thought we were weird.

사람들은 우리를 이상한 사람 취급했습니다.

And I guess in some ways we kind of were.

어쩌면 정말 그랬을지도 모르고요.

It wasn't long, though, before AI started beating humans

그런데 얼마 지나지 않아

at a whole range of tasks

AI가 모든 작업에서 인간을 능가하기 시작했습니다.

that people previously thought were way out of reach.

전에는 절대 불가능하다고 생각했던 것들에서요.

Understanding images,

이미지를 이해하는 것,

translating languages,

언어를 번역하는 것,

transcribing speech,

말을 글자로 옮기는 것,

playing Go and chess

바둑이나 체스를 두는 것,

and even diagnosing diseases.

심지어 질병을 진단하는 것까지 말이죠.

People started waking up to the fact

사람들은 AI가 엄청난 영향을 미칠 것이라는 사실을 깨닫기 시작했고,

that AI was going to have an enormous impact,

저와 같은 기술자들에게 꽤 어려운 질문들을 던졌습니다.

and they were rightly asking technologists like me

some pretty tough questions.

Is it true that AI is going to solve the climate crisis?

AI가 기후 위기를 해결할 수 있다는 것이 사실인가요?

Will it make personalized education available to everyone?

모든 사람이 개인 맞춤형 교육을 받을 수 있게 될까요?

Does it mean we'll all get universal basic income

그러면 우리 모두가 보편적 기본 소득을 받게 되고

and we won't have to work anymore?

더 이상 일을 하지 않아도 된다는 뜻인가요?

Should I be afraid?

AI를 두려워해야 할까요?

What does it mean for weapons and war?

무기와 전쟁에 대해서는 어떤 영향이 있을까요?

And of course, will China win?

중국이 경쟁에서 이길까요? 우리가 앞서고 있나요?

Are we in a race?

Are we headed for a mass misinformation apocalypse?

허위 정보가 넘치는 대재앙을 맞게 될까요?

All good questions.

모두 좋은 질문입니다.

But it was actually a simpler

하지만 그보다 더 단순하고 더 본질적인 질문에

and much more kind of fundamental question that left me puzzled.

저는 당혹감을 느꼈습니다.

One that actually gets to the very heart of my work every day.

사실 제가 매일 하는 일의 핵심을 찌르는 질문이죠.

One morning over breakfast,

어느 날 아침,

my six-year-old nephew Caspian was playing with Pi,

저의 여섯 살짜리 조카 카스피안이 ‘파이(Pi)’와 놀고 있었습니다.

the AI I created at my last company, Inflection.

파이는 제가 다니던 회사 ‘인플렉션’에서 만든 인공지능 기기죠.

With a mouthful of scrambled eggs,

조카는 계란 스크램블을 입 한가득 먹고는

he looked at me plain in the face and said,

제 얼굴을 평온하게 쳐다보면서 물었습니다.

"But Mustafa, what is an AI anyway?"

“무스타파 삼촌, 근데 AI가 뭐예요?”

He's such a sincere and curious and optimistic little guy.

제 조카는 정말 진실되고 호기심이 많고 낙천적인 꼬마예요.

He'd been talking to Pi about how cool it would be if one day in the future,

그 아이는 파이에게 언젠가 동물원에서 공룡을 볼 수 있다면

he could visit dinosaurs at the zoo.

얼마나 좋을지 이야기하기도 하고,

And how he could make infinite amounts of chocolate at home.

집에서 엄청난 양의 초콜릿을 만드는 방법을 묻기도 합니다.

And why Pi couldn’t yet play I Spy.

그리고 왜 파이가 아직 게임은 못 하는지 묻기도 하고요.

"Well," I said, "it's a clever piece of software

저는 이렇게 답했어요.

“음, 인공지능은 똑똑한 소프트웨어라서 인터넷에 있는 대부분의 글을 읽고

that's read most of the text on the open internet,

and it can talk to you about anything you want."

네가 원하는 건 뭐든지 이야기해줄 수 있어.”

"Right.

“아하!

So like a person then?"

사람처럼요?”

I was stumped.

저는 난감했습니다.

Genuinely left scratching my head.

머리를 긁적이며 자리를 피했어요.

All my boring stock answers came rushing through my mind.

상투적이고 따분한 대답이 제 머릿속을 스쳐 지나갔습니다.

"No, but AI is just another general-purpose technology,

“아니, AI는 일종의 범용 기술이야. 인쇄술이나 증기기관처럼 말이지.

like printing or steam."

It will be a tool that will augment us

인공지능은 우리 능력을 더 강화하고

and make us smarter and more productive.

더 똑똑하고 생산적으로 만들어줄 거야.

And when it gets better over time,

그리고 시간이 지날수록 더 발전해서

it'll be like an all-knowing oracle

전지전능한 예언자처럼

that will help us solve grand scientific challenges."

중대한 과학적 난제들을 해결하는 데 도움을 줄 거야.”

You know, all of these responses started to feel, I guess,

제 생각에 이런 식의 대답은 약간 자기 방어적으로 느껴졌어요.

a little bit defensive.

And actually better suited to a policy seminar

사실 정책 세미나에 더 어울리는 이야기죠.

than breakfast with a no-nonsense six-year-old.

진지한 여섯 살짜리 아이와의 아침 식사 자리가 아니고요.

"Why am I hesitating?" I thought to myself.

“내가 왜 망설이는 거지?” 속으로 생각했습니다.

You know, let's be honest.

자, 솔직해져 봅시다.

My nephew was asking me a simple question

제 조카가 던진 간단한 질문은

that those of us in AI just don't confront often enough.

AI에 종사하는 우리들이 자주 접하지 못하는 질문이었어요.

What is it that we are actually creating?

우리가 창조하는 것은 정말 도대체 무엇일까요?

What does it mean to make something totally new,

이전에 알던 다른 어떤 발명품과도 근본적으로 다른,

fundamentally different to any invention that we have known before?

전혀 새로운 걸 만드는 것은 무엇을 의미할까요?

It is clear that we are at an inflection point

우리는 분명 인류 역사의 변곡점에 서 있습니다.

in the history of humanity.

On our current trajectory,

현재 우리의 궤도에서,

we're headed towards the emergence of something

새로 등장한 무언가를 설명하려고 고군분투하고 있습니다.

that we are all struggling to describe,

and yet we cannot control what we don't understand.

하지만 우리가 이해하지도 못한 것을 통제한다는 것은 불가능하겠죠.

And so the metaphors,

그렇기에 비유라든지,

the mental models,

심리 모형이라든지,

the names, these all matter

이름 같은 것들이 중요합니다.

if we’re to get the most out of AI whilst limiting its potential downsides.

AI의 잠재적 단점을 제한하면서 AI를 최대한 활용하려면요.

As someone who embraces the possibilities of this technology,

이 기술의 가능성을 받아들이면서도

but who's also always cared deeply about its ethics,

이것의 윤리성에 대해 늘 깊이 고민하는 사람이라면

we should, I think,

우리가 만드는 것이 무엇인지는 쉽게 설명할 수 있어야 할 겁니다.

be able to easily describe what it is we are building.

And that includes the six-year-olds.

여섯 살 아이들도 이해할 수 있도록 말이죠.

So it's in that spirit that I offer up today the following metaphor

그런 관점에서 저는 오늘 다음과 같은 비유를 통해서

for helping us to try to grapple with what this moment really is.

지금 우리가 어떤 순간에 있는지 가늠할 수 있도록 해드리려 합니다.

I think AI should best be understood

저는 AI를 이해하는 가장 좋은 방법은

as something like a new digital species.

AI를 새로운 디지털 종으로 보는 거라고 생각합니다.

Now, don't take this too literally,

글자 그대로 받아들이지는 마세요.

but I predict that we'll come to see them as digital companions,

제 생각에 앞으로 우리는 AI를 디지털 친구로 보게 될 겁니다.

new partners in the journeys of all our lives.

우리 삶의 여정에서 새로운 동반자로 말이죠.

Whether you think we’re on a 10-, 20- or 30-year path here,

앞으로 10년, 20년 혹은 30년이 걸릴지 모르지만

this is, in my view, the most accurate and most fundamentally honest way

제 생각에는 이 관점이 다가오는 현실을 설명하는

of describing what's actually coming.

가장 정확하고 근본적인 방법입니다.

And above all, it enables everybody to prepare for

그리고 무엇보다도 모든 사람이

앞으로 다가오는 것이 무엇인지 알고 대비하도록 해줍니다.

and shape what comes next.

Now I totally get, this is a strong claim,

이 강력한 주장에 대해,

and I'm going to explain to everyone as best I can why I'm making it.

여러분께 최선을 다해 설명해 드리겠습니다.

But first, let me just try to set the context.

먼저 전체적인 맥락을 짚어보죠.

From the very first microscopic organisms,

지구상 최초의 생명체인 미생물의 탄생은

life on Earth stretches back billions of years.

수십억 년 전으로 거슬러 올라갑니다.

Over that time, life evolved and diversified.

그 후에 생명은 진화하고 다양화되었죠.

Then a few million years ago, something began to shift.

그런데 몇 백만 년 전, 무언가 바뀌기 시작했습니다.

After countless cycles of growth and adaptation,

셀 수 없이 많은 성장과 적응을 반복한 끝에

one of life’s branches began using tools, and that branch grew into us.

한 계통에서 도구를 사용하기 시작했고, 그 계통이 성장해 우리가 되었습니다.

We went on to produce a mesmerizing variety of tools,

우리는 넋이 나갈 정도로 다양한 도구들을 만들어 냈습니다.

at first slowly and then with astonishing speed,

처음에는 느렸지만, 곧 놀라운 속도로

we went from stone axes and fire

돌도끼와 불에서부터

to language, writing and eventually industrial technologies.

언어와 문자, 그리고 산업 기술까지 발전시켰습니다.

One invention unleashed a thousand more.

하나의 발명은 천 개의 기술들을 더 만들어 냈습니다.

And in time, we became homo technologicus.

시간이 흐르면서 우리는 호모 테크놀로지쿠스가 되었습니다.

Around 80 years ago,

약 80년 전, 또 다른 새로운 기술 계통이 시작되었습니다.

another new branch of technology began.

With the invention of computers,

컴퓨터의 발명과 함께,

we quickly jumped from the first mainframes and transistors

우리는 최초의 중앙 처리장치와 트랜지스터 기술에서

현재의 스마트폰과 가상 현실 장치로 빠르게 도약했습니다.

to today's smartphones and virtual-reality headsets.

Information, knowledge, communication, computation.

정보, 지식, 통신, 계산.

In this revolution,

이 혁명 속에서,

creation has exploded like never before.

기술 창조는 그 어느 때보다 폭발적으로 증가했습니다.

And now a new wave is upon us.

그리고 이제 우리에게는 새로운 물결이 찾아왔습니다.

Artificial intelligence.

인공 지능이죠.

These waves of history are clearly speeding up,

역사의 물결은 확실히 빨라지고 있어요.

as each one is amplified and accelerated by the last.

각 물결이 증폭되고 가속화되기 때문이죠.

And if you look back,

돌이켜보면,

it's clear that we are in the fastest

우리는 역사상 가장 빠르고

and most consequential wave ever.

가장 중요한 물결을 마주한 것이 분명합니다.

The journeys of humanity and technology are now deeply intertwined.

인류와 기술의 여정은 깊이 얽혀 있습니다.

In just 18 months,

불과 18개월 만에,

over a billion people have used large language models.

10억 명이 넘는 사람들이 대규모 언어 모델을 사용했습니다.

We've witnessed one landmark event after another.

우리는 획기적인 사건들을 연달아 목격했습니다.

Just a few years ago, people said that AI would never be creative.

불과 몇 년 전만 해도,

사람들은 AI가 결코 창의적일 수 없다고 말했습니다.

And yet AI now feels like an endless river of creativity,

하지만 인공지능은 이제 무한한 창의성의 강처럼 느껴집니다.

making poetry and images and music and video that stretch the imagination.

상상력을 키워주는 시와 그림, 음악과 영상을 만들죠.

People said it would never be empathetic.

사람들은 AI가 절대 공감할 수 없을 것이라 말했습니다.

And yet today, millions of people enjoy meaningful conversations with AIs,

하지만 오늘날, 수백만 명의 사람들이 AI와 의미 있는 대화를 나누고,

talking about their hopes and dreams

자신의 희망과 꿈에 대해 이야기하고,

and helping them work through difficult emotional challenges.

감정적인 어려움과 문제를 헤쳐나갈 수 있도록 돕고 있습니다.

AIs can now drive cars,

AI는 이제 자동차를 운전할 수 있고,

manage energy grids

전력망을 관리하고,

and even invent new molecules.

심지어 새로운 분자구조를 발견할 수도 있습니다.

Just a few years ago, each of these was impossible.

불과 몇 년 전만 해도, 이 모든 것이 불가능했죠.

And all of this is turbocharged by spiraling exponentials of data

이 모든 것은 데이터와 계산이 기하급수적으로 증가하면서

and computation.

급격히 가속화되었습니다.

Last year, Inflection 2.5, our last model,

작년에 저희 최신 모델인 인플렉션 2.5는

used five billion times more computation

딥마인드 AI보다 계산 능력이 50억 배나 증가했습니다.

than the DeepMind AI that beat the old-school Atari games

10년 전의 구식 아타리 게임기를 이겼던 수준에 비해서 말이죠.

just over 10 years ago.

That's nine orders of magnitude more computation.

그때보다 계산 능력이 9자리 배수로 늘어난 셈입니다.

10x per year,

거의 10년 동안 매년 10배씩 증가한 셈이죠.

every year for almost a decade.

Over the same time, the size of these models has grown

같은 기간에 이러한 모델의 크기는 처음에는 수천만 개의 매개변수였다가

from first tens of millions of parameters to then billions of parameters,

그 다음에는 수십억 개의 매개변수로,

and very soon, tens of trillions of parameters.

그리고 곧 수십조 개의 매개변수로 규모가 커졌습니다.

If someone did nothing but read 24 hours a day for their entire life,

만약 사람이 평생 동안 하루 24시간 내내 책만 읽는다면

they'd consume eight billion words.

80억개의 단어를 소비할 것입니다.

And of course, that's a lot of words.

물론 그것도 엄청난 숫자죠.

But today, the most advanced AIs consume more than eight trillion words

하지만 오늘날의 최첨단 AI는

한 달 동안의 훈련 한 번에 8조 개 이상의 단어를 소비합니다.

in a single month of training.

And all of this is set to continue.

그리고 그 과정을 계속 반복하죠.

The long arc of technological history is now in an extraordinary new phase.

기나긴 기술의 역사가 이제 전혀 새로운 시대를 맞이합니다.

So what does this mean in practice?

그렇다면 이것이 실제로 의미하는 바는 무엇일까요?

Well, just as the internet gave us the browser

인터넷이 브라우저를, 스마트폰이 앱을 등장시킨 것처럼

and the smartphone gave us apps,

the cloud-based supercomputer is ushering in a new era

클라우드 기반 슈퍼컴퓨터는

유비쿼터스 AI의 새로운 시대로 우리를 안내하고 있습니다.

of ubiquitous AIs.

Everything will soon be represented by a conversational interface.

머지않아 모든 조작이 대화형으로 이루어질 것입니다.

Or, to put it another way, a personal AI.

또 다른 방향으로는, 개인용 AI가 제공될 것입니다.

And these AIs will be infinitely knowledgeable,

그리고 이러한 AI는 무한한 지식을 습득할 것이고,

and soon they'll be factually accurate and reliable.

사실을 기반으로 정확하면서, 신뢰할 수 있게 될 것입니다.

They'll have near-perfect IQ.

AI는 완벽에 가까운 IQ를 갖게 될 것입니다.

They’ll also have exceptional EQ.

뛰어난 EQ도 갖게 되겠죠.

They’ll be kind, supportive, empathetic.

친절하고, 도움을 주고, 공감해 줄 것입니다.

These elements on their own would be transformational.

이러한 요소는 그 자체로도 혁신입니다.

Just imagine if everybody had a personalized tutor in their pocket

모든 사람이 각자의 주머니 속에 맞춤형 개인교사를 가지고 있고

and access to low-cost medical advice.

저렴한 가격으로 진찰을 받을 수 있다고 상상해 보세요.

A lawyer and a doctor,

변호사와 의사, 사업 전략가, 코치 등

a business strategist and coach --

all in your pocket 24 hours a day.

모든 걸 하루 24시간 주머니에 넣고 다닐 수 있습니다.

But things really start to change when they develop what I call AQ,

그런데 제가 AQ라고 부르는 “행동 지수”를 개발하면서

their “actions quotient.”

상황이 정말 바뀌기 시작합니다.

This is their ability to actually get stuff done

AQ는 바로 디지털 세계와 물리적 세계에서

in the digital and physical world.

실제로 AI가 해낼 수 있는 일의 능력치입니다.

And before long, it won't just be people that have AIs.

머지않아 AI를 가진 존재는 사람뿐만이 아닐 것입니다.

Strange as it may sound, every organization,

이상하게 들릴지 모르지만

중소기업부터 비영리 단체, 중앙 정부에 이르기까지 모든 조직은

from small business to nonprofit to national government,

each will have their own.

저마다의 AI를 가지게 될 것입니다.

Every town, building and object

모든 마을, 건물, 사물들은

will be represented by a unique interactive persona.

각각의 대화형 인격체로 표현될 것입니다.

And these won't just be mechanistic assistants.

AI는 단순히 기계적 조력자가 아니라,

They'll be companions, confidants,

동반자, 절친한 친구,

동료가 될 것입니다.

colleagues, friends and partners,

우리처럼 다양하고 특별한 친구이자 동반자로서 말이죠.

as varied and unique as we all are.

At this point, AIs will convincingly imitate humans at most tasks.

그때는 AI가 거의 모든 일에서 인간을 모방하게 될 것입니다.

And we'll feel this at the most intimate of scales.

그리고 우리의 일상에서 이 사실을 느낄 수 있을 거예요.

An AI organizing a community get-together for an elderly neighbor.

AI가 이웃 노인들을 위해 주민모임을 기획합니다.

A sympathetic expert helping you make sense of a difficult diagnosis.

친절한 전문가가 어려운 진단을 이해할 수 있도록 도와줍니다.

But we'll also feel it at the largest scales.

그리고 보다 큰 규모에서도 그 사실을 느낄 수 있을 겁니다.

Accelerating scientific discovery,

과학적 발견이 가속화됨에 따라,

autonomous cars on the roads,

도로 위의 자율 주행 자동차,

drones in the skies.

하늘의 드론.

They'll both order the takeout and run the power station.

모두 테이크아웃 주문을 하고 발전소를 운영할 겁니다.

They’ll interact with us and, of course, with each other.

AI는 인간과 상호작용하고 그들끼리도 상호작용할 겁니다.

They'll speak every language,

그들은 모든 언어를 구사하고,

take in every pattern of sensor data,

다양한 감각 정보를 활용할 것입니다.

sights, sounds,

시각, 소리, 정보의 흐름 등 모든 패턴을 이해하고

streams and streams of information,

far surpassing what any one of us could consume in a thousand lifetimes.

우리가 평생 동안 소화하는 정보량을 훨씬 능가할 겁니다.

So what is this?

그렇다면 이게 뭘까요?

What are these AIs?

이 AI는 무엇일까요?

If we are to prioritize safety above all else,

다른 어떤 것보다 안전을 우선시하고

to ensure that this new wave always serves and amplifies humanity,

이 새로운 물결이 항상 인류에게 도움이 되고 발전할 수 있도록 하려면

then we need to find the right metaphors for what this might become.

AI가 어떻게 될 것인지에 대한 적절한 비유를 찾아야 합니다.

For years, we in the AI community, and I specifically,

수년 동안 AI 관련자들, 특히 저 같은 경우는

have had a tendency to refer to this as just tools.

AI를 그저 도구로 여기고 있었습니다.

But that doesn't really capture what's actually happening here.

하지만 그렇게 해서는 실제로 어떤 일이 벌어지는지 알 수 없죠.

AIs are clearly more dynamic,

AI는 분명히 훨씬 역동적이고

more ambiguous, more integrated

훨씬 모호하고

단순한 도구와는 달리 훨씬 복합적이고 새롭습니다.

and more emergent than mere tools,

which are entirely subject to human control.

기존 도구는 전적으로 인간의 통제를 받으니까요.

So to contain this wave,

따라서 이러한 물결 속에서,

to put human agency at its center

인간의 선택의지를 중심에 두고,

의도치 않게 발생할 수 있는 결과를 완화하기 위해서는

and to mitigate the inevitable unintended consequences

that are likely to arise,

we should start to think about them as we might a new kind of digital species.

AI를 새로운 종류의 디지털 종처럼 생각하기 시작해야 합니다.

Now it's just an analogy,

이는 단지 비유일 뿐이고,

it's not a literal description, and it's not perfect.

문자 그대로의 뜻이 아니며, 완벽하지도 않습니다.

For a start, they clearly aren't biological in any traditional sense,

우선 이 종은 전통적인 의미에서 생물학적으로 정의되지 않습니다.

but just pause for a moment

하지만 잠깐 생각을 멈추고

and really think about what they already do.

AI가 하고 있는 일에 대해 진지하게 생각해 보세요.

They communicate in our languages.

우리 언어로 의사소통을 하죠.

They see what we see.

우리가 보는 것들을 봅니다.

They consume unimaginably large amounts of information.

상상할 수 없을 만큼 많은 양의 정보를 소비합니다.

They have memory.

기억력이 있습니다.

They have personality.

그들에겐 개성이 있고,

They have creativity.

창의성이 있습니다.

심지어 어느 정도 추리를 할 수도 있고 기본적인 계획을 세울 수도 있습니다.

They can even reason to some extent and formulate rudimentary plans.

They can act autonomously if we allow them.

우리가 허락한다면 그들은 자율적으로 행동할 수 있습니다.

And they do all this at levels of sophistication

그리고 이 모든 일들을 매우 정교하게 수행하며

that is far beyond anything that we've ever known from a mere tool.

기존에 알던 단순한 도구로 할 수 있는 수준을 훨씬 뛰어넘죠.

And so saying AI is mainly about the math or the code

AI가 수학과 프로그램 코드로 이루어졌다고 말하는 것은

is like saying we humans are mainly about carbon and water.

인간이 탄소와 물로 이루어졌다고 말하는 것과 같습니다.

It's true, but it completely misses the point.

맞는 말이지만, 요점을 완전히 놓쳤습니다.

And yes, I get it, this is a super arresting thought

네, 그래요, 이건 정말 흥미로운 생각이지만

but I honestly think this frame helps sharpen our focus on the critical issues.

솔직히 이 틀을 통해 우리는 중요한 문제들에 집중할 수 있습니다..

What are the risks?

어떤 위험이 있을까요?

What are the boundaries that we need to impose?

우리가 둬야 할 경계는 무엇일까요?

What kind of AI do we want to build or allow to be built?

어떤 종류의 AI를 원하고 그걸 얼마나 허용해야 할까요?

This is a story that's still unfolding.

이에 대한 논의는 아직 진행 중입니다.

Nothing should be accepted as a given.

아무것도 당연시해서는 안 됩니다.

We all must choose what we create.

무엇을 창조할지는 우리가 선택해야 합니다.

What AIs we bring into the world, or not.

어떤 AI를 세상에 내놓을지 말지에 대해서요.

These are the questions for all of us here today,

이 질문들은 오늘 여기 이 자리에 있는 우리 모두와

and all of us alive at this moment.

현재 살고 있는 우리 모두에게 던지는 질문입니다.

For me, the benefits of this technology are stunningly obvious,

저에게 이 기술의 이점은 놀라울 정도로 명백하고

and they inspire my life's work every single day.

제 일상에 매일 영감을 줍니다.

But quite frankly, they'll speak for themselves.

하지만 솔직히 말해서, 그들은 스스로 말할 것입니다.

Over the years, I've never shied away from highlighting risks

수 년 동안 저는 위험성과 단점에 대해 이야기하기를 주저하지 않았습니다.

and talking about downsides.

Thinking in this way helps us focus on the huge challenges

그래야 앞으로 직면하게 될 엄청난 문제에 주목하게 되죠.

that lie ahead for all of us.

But let's be clear.

하지만 분명한 사실은

There is no path to progress

기술을 뒤로한 채로 발전할 수 있는 길은 없습니다.

where we leave technology behind.

The prize for all of civilization is immense.

모든 문명이 받는 보상이 어마어마합니다.

We need solutions in health care and education, to our climate crisis.

의료, 교육, 기후 위기에 대한 해결책이 필요한 상황에서

And if AI delivers just a fraction of its potential,

AI가 잠재력의 일부만 발휘한다면

the next decade is going to be the most productive in human history.

향후 10년은 인류 역사상 가장 생산적인 시기가 될 것입니다.

Here's another way to think about it.

이에 대해 생각해 볼 수 있는 또 다른 방법이 있습니다.

In the past,

과거에는,

unlocking economic growth often came with huge downsides.

경제 성장의 실현에는 큰 단점이 따랐습니다.

The economy expanded as people discovered new continents

사람들이 새로운 대륙을 발견하고

새롭게 국경을 열면서 경제는 확장되었습니다.

and opened up new frontiers.

But they colonized populations at the same time.

하지만 그와 동시에 주민들을 식민지화했습니다.

We built factories,

우리는 공장을 지었지만,

but they were grim and dangerous places to work.

그곳은 일하기에 암울하고 위험한 곳이었습니다.

We struck oil,

우리는 석유를 찾아냈지만,

but we polluted the planet.

지구를 오염시켰습니다.

Now because we are still designing and building AI,

지금 우리는 여전히 AI를 설계하고 구축하는 단계이기 때문에,

we have the potential and opportunity to do it better,

아직 더 철저히 잘 할 수 있는 기회와 잠재력을 가지고 있습니다.

radically better.

And today, we're not discovering a new continent

그리고 지금은 신대륙을 발견하고 자원을 약탈하지 않습니다.

and plundering its resources.

We're building one from scratch.

아예 처음부터 새로 만들고 있죠.

Sometimes people say that data or chips are the 21st century’s new oil,

가끔 사람들은 정보나 반도체가 21세기의 새로운 석유라고 말하지만,

but that's totally the wrong image.

그건 완전히 잘못된 생각입니다.

AI is to the mind

AI의 사고 범위는 핵융합 발전과도 같습니다.

what nuclear fusion is to energy.

Limitless, abundant,

무한하고 풍부하며,

world-changing.

세상을 변화시킵니다.

And AI really is different,

그리고 AI는 정말 다릅니다.

and that means we have to think about it creatively and honestly.

우리가 이에 대해 창의적이고 정직하게 생각해야 한다는 뜻이죠.

We have to push our analogies and our metaphors

그에 대한 비유와 은유를 최대한 이끌어내야

to the very limits

앞으로 벌어질 일을 헤쳐나갈 수 있습니다.

to be able to grapple with what's coming.

Because this is not just another invention.

이건 단순한 발명품이 아니기 때문입니다.

AI is itself an infinite inventor.

AI는 그 자체로 무한한 발명가입니다.

And yes, this is exciting and promising and concerning

네, 이것은 흥미진진하고, 유망하며, 흥미롭고

and intriguing all at once.

동시에 걱정되기도 합니다.

To be quite honest, it's pretty surreal.

정말 솔직히 말씀드리면, 정말 초현실적입니다.

But step back,

하지만 한 걸음 물러나

see it on the long view of glacial time,

빙하기만큼 긴 시간의 관점으로 바라보면

and these really are the very most appropriate metaphors that we have today.

현재 우리가 할 수 있는 적절한 비유는 다음과 같습니다.

Since the beginning of life on Earth,

지구에 생명이 시작된 이래로

we've been evolving, changing

우리는 진화하고, 변화했으며,

and then creating everything around us in our human world today.

오늘날 인류 세계를 둘러싼 모든 것을 창조해왔습니다.

And AI isn't something outside of this story.

그리고 AI도 이 이야기에서 벗어난 것이 아닙니다.

In fact, it's the very opposite.

사실, 완전히 정반대입니다.

It's the whole of everything that we have created,

우리가 창조한 모든 것이 엄선된 상태로 한데 모여 있어서

distilled down into something that we can all interact with

우리는 그와 상호작용함으로써 혜택을 얻을 수 있습니다.

and benefit from.

It's a reflection of humanity across time,

이것은 시간을 거쳐온 인류의 모습을 반영하고 있고

and in this sense,

그런 의미에서는 전혀 새로운 종이 아닙니다.

it isn't a new species at all.

This is where the metaphors end.

비유는 여기서 끝입니다.

Here's what I'll tell Caspian next time he asks.

다음에 조카 카스피언이 물으면 저는 이렇게 말할 것입니다.

AI isn't separate.

"AI는 따로 구분된 것이 아니야.

AI isn't even in some senses, new.

어떤 면에서 AI는 전혀 새로운 게 아니란다.

AI is us.

AI는 바로 우리와 같아.

It's all of us.

우리 모두와 똑같지."

And this is perhaps the most promising and vital thing of all

어쩌면 이것이야말로 가장 가능성 있고 중요한 답으로

that even a six-year-old can get a sense for.

여섯 살 짜리 아이도 이해할 수 있을 것입니다.

As we build out AI,

우리가 AI를 구축할 때는 모든 좋은 것들을 반영해야 합니다.

we can and must reflect all that is good,

all that we love,

우리가 사랑하는 것들과 인류에게 특별한 모든 것들:

all that is special about humanity:

our empathy, our kindness,

공감, 친절, 호기심, 창의성 등이 반드시 반영되어야 하죠.

our curiosity and our creativity.

This, I would argue, is the greatest challenge of the 21st century,

저는 이것이 21세기의 가장 큰 도전이자,

but also the most wonderful,

우리에게 가장 훌륭한 영감을 주는 희망찬 기회라고 말하고 싶습니다.

inspiring and hopeful opportunity for all of us.

Thank you.

감사합니다.

(Applause)

(박수)

Chris Anderson: Thank you Mustafa.

크리스 앤더슨: 감사합니다, 무스타파.

It's an amazing vision and a super powerful metaphor.

놀라운 시각이고 정말 강력한 비유였어요 .

You're in an amazing position right now.

지금 당신은 특별한 위치에 있잖아요.

I mean, you were connected at the hip

OpenAI에서 일어나고 있는 놀라운 일을 가장 잘 알고 계시죠.

to the amazing work happening at OpenAI.

You’re going to have resources made available,

개발 자원을 더 투입할 예정이고,

there are reports of these giant new data centers,

거대한 새 데이터 센터 구축에 천 억 달러 투자 얘기도 있습니다.

100 billion dollars invested and so forth.

And a new species can emerge from it.

거기서 새로운 종이 생겨날 수 있죠.

I mean, in your book,

당신의 저서를 보면 놀라울 정도로 낙관적 시각이고,

you did, as well as painting an incredible optimistic vision,

you were super eloquent on the dangers of AI.

인공지능의 위험성에 대해서도 아주 솔직하고 거침없이 나타냈죠.

And I'm just curious, from the view that you have now,

제가 궁금한 것은 지금 가지고 계신 시각에서

what is it that most keeps you up at night?

가장 걱정스러운 부분은 무엇인가요?

Mustafa Suleyman: I think the great risk is that we get stuck

무스타파 슐레이만: 제 생각에 우리가 직면할 가장 큰 위험은

in what I call the pessimism aversion trap.

제가 비관적 혐오의 함정이라고 부르는 것인데요.

You know, we have to have the courage to confront

나쁜 시나리오에 대한 가능성에 맞설 용기가 있어야만

the potential of dark scenarios

in order to get the most out of all the benefits that we see.

우리가 기대하는 모든 이점을 최대한 활용할 수 있습니다.

So the good news is that if you look at the last two or three years,

좋은 소식은 지난 2~3년 사이에는

there have been very, very few downsides, right?

단점이 거의 없었다는 것입니다.

It’s very hard to say explicitly what harm an LLM has caused.

LLM이 어떤 해를 끼쳤는지 확실히 말하기는 매우 어렵습니다.

But that doesn’t mean that that’s what the trajectory is going to be

하지만 향후 10년 동안에도 그렇게 될 거라는 보장은 없죠.

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

그래서 만약 몇 가지 특정 기능에 주목한다면,

take for example, autonomy.

자율성을 예로 들어보죠.

Autonomy is very obviously a threshold

자율성은 분명히 우리 사회의 위험을 증가시키는 한계입니다.

over which we increase risk in our society.

And it's something that we should step towards very, very closely.

그리고 우리가 아주 아주 조심스럽게 나아가야 할 부분이죠.

The other would be something like recursive self-improvement.

다른 하나는 반복적인 자기개선 같은 것입니다.

If you allow the model to independently self-improve,

모델이 독립적으로 스스로를 개선하고,

update its own code,

자체적으로 코드를 업데이트하고,

explore an environment without oversight, and, you know,

감독 없이 환경을 탐색하도록 허용하는 것이죠.

without a human in control to change how it operates,

운영 방식의 변화를 사람이 통제하지 않는다면,

that would obviously be more dangerous.

분명히 더 위험할 것입니다.

But I think that we're still some way away from that.

하지만 아직까지 우리는 갈 길이 멀다고 생각합니다.

이 문제에 진정으로 맞서려면 아직 5~10년은 더 걸릴 것 같아요.

I think it's still a good five to 10 years before we have to really confront that.

But it's time to start talking about it now.

하지만 지금부터 논의를 시작해야죠.

크리스 앤더슨: 디지털 종은 다른 생물종과 달리

CA: A digital species, unlike any biological species,

9개월이 아니라 9나노초 만에 복제할 수 있으며,

can replicate not in nine months,

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

복제본을 무한히 만들어낼 수 있습니다.

all of which have more power than we have in many ways.

모든 부분에서 우리보다 강력한 힘을 가지고 있습니다.

I mean, the possibility for unintended consequences seems pretty immense.

제 말은, 의도치 않은 결과가 발생할 가능성이 정말 엄청나다는 거죠.

And isn't it true that if a problem happens,

문제가 생긴다면 단시간에 일어날 수도 있는 것 아닌가요?

it could happen in an hour?

MS: No.

무스타파 슐레이만: 아니요.

That is really not true.

그건 사실이 아닙니다.

I think there's no evidence to suggest that.

그것을 시사할 만한 증거는 없는 것 같습니다.

And I think that, you know,

제 생각에는, 아시다시피,

that’s often referred to as the “intelligence explosion.”

흔히 “지능 폭발”이라고 하는데요.

And I think it is a theoretical, hypothetical maybe

제가 보기엔 이론적 가설일 뿐입니다.

that we're all kind of curious to explore,

다들 호기심을 갖고 탐구하고 있지만 그럴 것이라는 증거는 없습니다.

but there's no evidence that we're anywhere near anything like that.

And I think it's very important that we choose our words super carefully.

그리고 단어 선택에 신중할 필요가 있다고 생각해요.

말씀하신 그것이 종이라는 개념을 사용할 때의 약점 중 하나입니다.

Because you're right, that's one of the weaknesses of the species framing,

that we will design the capability for self-replication into it

자가 복제를 할 수 있는 능력을 갖도록 설계할 거라면

if people choose to do that.

그것은 인간의 선택의 문제죠.

And I would actually argue that we should not,

사실 저는 그래서는 안 된다고 주장하고 싶습니다.

그건 우리가 계속 숨겨둬야 할 위험한 능력 중 하나일 것입니다.

that would be one of the dangerous capabilities

that we should step back from, right?

So there's no chance that this will "emerge" accidentally.

그러니까 이런 일이 우연히 “나타날” 가능성은 없죠.

I really think that's a very low probability.

그럴 확률은 매우 낮다고 생각해요.

It will happen if engineers deliberately design those capabilities in.

엔지니어가 그런 기능을 의도적으로 설계하면 일어날 일입니다.

And if they don't take enough efforts to deliberately design them out.

혹은 엔지니어들이 신중한 설계에 충분한 노력을 들이지 않는다면 말이죠.

그래서 아주 초기에 안전중심 설계를 도입하는 시도를

And so this is the point of being explicit

and transparent about trying to introduce safety by design very early on.

분명하고 투명하게 하는 것이 중요한 점이 되겠습니다.

CA: Thank you, your vision of humanity injecting into this new thing

크리스 앤더슨: 감사합니다.

이 새로운 것에 인류를, 우리의 가장 좋은 부분을 대입하고,

the best parts of ourselves,

avoiding all those weird, biological, freaky,

우리가 직면할지도 모르는 이상하고 생물학적이고 기괴하고

horrible tendencies that we can have in certain circumstances,

끔찍한 방향성을 피하게 하는 당신의 시각은

I mean, that is a very inspiring vision.

제게 정말 인상 깊었습니다.

And thank you so much for coming here and sharing it at TED.

그리고 여기 TED에 와서 공유해 주셔서 정말 감사합니다.

Thank you, good luck.

감사합니다, 행운을 빕니다.

(Applause)

(박수)