Jeff Dean: AI isn't as smart as you think -- but it could be | TED

번역: 성준 안 검토: DK Kim

Hi, I'm Jeff.

안녕하세요, 제프입니다.

I lead AI Research and Health at Google.

구글에서 AI 연구와 의료 부서를 맡고 있습니다.

I joined Google more than 20 years ago,

20년도 전에 구글에 입사했는데

when we were all wedged into a tiny office space,

그때는 아주 좁은 사무실에서 일했습니다.

above what's now a T-Mobile store in downtown Palo Alto.

지금 팔로 알토 시내 티모바일 매장 위입니다.

I've seen a lot of computing transformations in that time,

그때부터 컴퓨터는 급격히 발전했으며

지난 10년 동안에는 AI가 큰 발전을 했습니다.

and in the last decade, we've seen AI be able to do tremendous things.

But we're still doing it all wrong in many ways.

하지만 여전히 여러 측면에서 완전히 잘못하고 있는 일들이 많습니다.

That's what I want to talk to you about today.

오늘은 이에 대해 이야기해보려 합니다.

But first, let's talk about what AI can do.

그에 앞서, 인공 지능으로 무엇을 할 수 있는지 보죠.

So in the last decade, we've seen tremendous progress

지난 10년간 인공 지능은 큰 발전을 이뤘는데,

in how AI can help computers see, understand language,

AI를 써서 컴퓨터가 보고 언어를 이해하며

understand speech better than ever before.

이전보다 말을 더 잘 분석할 수 있게 됐습니다.

Things that we couldn't do before, now we can do.

이전에는 할 수 없던 일을 할 수 있게 된 것입니다.

If you think about computer vision alone,

컴퓨터 시각 분야만 고려하면

just in the last 10 years,

겨우 10년 만에 컴퓨터는 효과적인 시각을 개발했습니다.

computers have effectively developed the ability to see;

10 years ago, they couldn't see, now they can see.

10년 전에는 시각이 없었지만 이제는 볼 수 있습니다.

You can imagine this has had a transformative effect

이러한 발전이 컴퓨터 활용 분야 확장에 큰 영향을 미쳤음을 알 수 있습니다.

on what we can do with computers.

대표적인 시각 활용 분야를 몇 가지 살펴봅시다.

So let's look at a couple of the great applications

enabled by these capabilities.

기계 학습으로 홍수를 보다 정확히 예측하고 안전을 지킬 수 있습니다.

We can better predict flooding, keep everyone safe,

using machine learning.

언어를 백 가지 이상 번역해서 의사 소통이 더 쉬워졌고,

We can translate over 100 languages so we all can communicate better,

보다 정확한 질병의 예측 및 진단으로

and better predict and diagnose disease,

where everyone gets the treatment that they need.

모든 사람이 필요한 치료를 받을 수 있게 됐습니다.

So let's look at two key components

다음으로 인공 지능의 발전을 가능케 한

that underlie the progress in AI systems today.

핵심 요소 두 가지를 살펴보겠습니다.

The first is neural networks,

첫 번째는 인공 신경망입니다.

a breakthrough approach to solving some of these difficult problems

몇몇 어려운 문제를 해결하는 획기적인 방법으로서,

that has really shone in the last 15 years.

지난 15년간 크게 유행했습니다.

But they're not a new idea.

하지만 새로운 건 아닙니다.

And the second is computational power.

두 번째는 연산 능력입니다.

It actually takes a lot of computational power

인공 신경망을 활용하려면 연산 능력이 많이 필요한데

to make neural networks able to really sing,

and in the last 15 years, we’ve been able to halve that,

지난 15년간 필요한 연산 능력을 반으로 낮출 수 있었으며

덕분에 인공 지능이 이만큼 발전했다 말할 수 있습니다.

and that's partly what's enabled all this progress.

But at the same time, I think we're doing several things wrong,

하지만 동시에 잘못하고 있는 것들도 몇 가지 있다고 봅니다.

and that's what I want to talk to you about

이에 관해서는 마지막에 말씀 드리겠습니다.

at the end of the talk.

First, a bit of a history lesson.

일단, 역사를 조금 보죠.

So for decades,

수십 년 동안, 컴퓨터를 이용한 거의 처음부터

almost since the very beginning of computing,

사람들은 보고 언어를 이해하고,

people have wanted to be able to build computers

that could see, understand language, understand speech.

말을 분석할 수 있는 컴퓨터를 만들길 원했습니다.

The earliest approaches to this, generally,

이를 위해 초창기에는 보통

어려운 작업을 수행할 명령어들을 하나하나 손수 입력했지만

people were trying to hand-code all the algorithms

that you need to accomplish those difficult tasks,

그리 성공적이지 못했습니다.

and it just turned out to not work very well.

But in the last 15 years, a single approach

그런데 지난 15년 동안 개발된 한 방법이

예기치 않게 모든 문제를 한 번에 해결했습니다.

unexpectedly advanced all these different problem spaces all at once:

neural networks.

바로 인공 신경망입니다.

So neural networks are not a new idea.

인공 신경망은 새로운 것이 아닙니다.

They're kind of loosely based

생물의 신경계 특성을 대략 유사하게 따온 것입니다.

on some of the properties that are in real neural systems.

And many of the ideas behind neural networks

신경망에 대한 수많은 연구가 1960, 70년대부터 있었습니다.

have been around since the 1960s and 70s.

A neural network is what it sounds like,

인공 신경망이란 말 그대로

a series of interconnected artificial neurons

인공 신경들이 서로 연결되어 있는 망으로

that loosely emulate the properties of your real neurons.

생물의 신경을 대략 비슷하게 따라한 것입니다.

An individual neuron in one of these systems

이 시스템에 있는 개별 신경은

has a set of inputs,

각각 가중치가 있는 입력값이 있고

each with an associated weight,

and the output of a neuron

신경의 결과값은

is a function of those inputs multiplied by those weights.

입력값에 가중치를 곱한 값입니다.

So pretty simple,

아주 간단합니다.

and lots and lots of these work together to learn complicated things.

이런 신경들이 아주 많이 모여서 복잡한 것을 학습합니다.

So how do we actually learn in a neural network?

그렇다면 인공 신경망은 실제로 어떻게 학습할까요?

It turns out the learning process

학습 과정에서는

consists of repeatedly making tiny little adjustments

반복적으로 가중치를 미세 조정하고

to the weight values,

strengthening the influence of some things,

특정 값의 영향력은 높이고 다른 값의 영향력은 낮춥니다.

weakening the influence of others.

By driving the overall system towards desired behaviors,

원하는 행동을 하도록 전체 시스템을 조정하면

these systems can be trained to do really complicated things,

이 시스템은 매우 복잡한 작업을 수행하도록 학습할 수 있습니다.

예를 들어 다른 언어로 번역을 하거나

like translate from one language to another,

사진 속 물체가 무엇인지 인식하는 등

detect what kind of objects are in a photo,

all kinds of complicated things.

온갖 복잡한 일을 할 수 있습니다.

인공 신경망에 처음으로 관심을 갖게 된 계기는

I first got interested in neural networks

when I took a class on them as an undergraduate in 1990.

1990년, 학부 때 들었던 수업이었습니다.

At that time,

당시엔

neural networks showed impressive results on tiny problems,

인공 신경망이 작은 규모의 문제는 수월히 해결할 수 있었지만

but they really couldn't scale to do real-world important tasks.

현실의 중요한 문제는 해결할 수 없었습니다.

But I was super excited.

그래도 정말 재미있었습니다.

(Laughter)

(웃음)

I felt maybe we just needed more compute power.

전에는 단순히 연산 능력만 더 있으면 되지 않을까 생각했었습니다.

And the University of Minnesota had a 32-processor machine.

당시 미네소타 대학엔 프로세서 32개짜리 컴퓨터가 있었는데,

I thought, "With more compute power,

계산을 더 빨리 할 수 있다면

boy, we could really make neural networks really sing."

인공 신경망을 제대로 활용할 수 있겠다고 생각했죠.

So I decided to do a senior thesis on parallel training of neural networks,

그래서 인공 신경망의 병렬 학습을 졸업 논문으로 하기로 했습니다.

한 컴퓨터나 여러 컴퓨터의 프로세서를 이용해서

the idea of using processors in a computer or in a computer system

to all work toward the same task,

모두가 인공 신경망의 학습이라는 같은 과제를 수행하는 거였습니다.

that of training neural networks.

32 processors, wow,

프로세서 32개로 말입니다!

we’ve got to be able to do great things with this.

이걸로 대단한 일을 해낼 수 있을 것이라 생각했습니다.

But I was wrong.

하지만 제 생각이 틀렸습니다.

Turns out we needed about a million times as much computational power

1990년 당시의 컴퓨터보다 연산 능력이 약 백만 배 좋아야

as we had in 1990

before we could actually get neural networks to do impressive things.

비로소 인공 신경망을 본격적으로 활용할 수 있던 것입니다.

But starting around 2005,

하지만 2005년 무렵부터는

thanks to the computing progress of Moore's law,

무어의 법칙에 따른 연산 능력의 발전으로

실제로 그 수준에 이르는 연산 능력을 갖추게 되었고

we actually started to have that much computing power,

and researchers in a few universities around the world started to see success

전 세계 몇몇 대학 연구진들은

인공 신경망을 다양한 문제 해결에 성공적으로 활용하기 시작했습니다.

in using neural networks for a wide variety of different kinds of tasks.

I and a few others at Google heard about some of these successes,

구글에 있던 저와 동료들은

이 소식을 듣고 아주 거대한 신경망을 학습시키는 과제를 시작했습니다.

and we decided to start a project to train very large neural networks.

One system that we trained,

우리가 학습시킨 한 시스템은

we trained with 10 million randomly selected frames

유튜브 영상 중 무작위로 선택한 장면 천만 개를 학습했습니다.

from YouTube videos.

The system developed the capability

이 시스템은 여러 종류의 사물을 인식할 수 있게 되었습니다.

to recognize all kinds of different objects.

And it being YouTube, of course,

물론 유튜브니까 고양이를 인식할 수 있었습니다.

it developed the ability to recognize cats.

YouTube is full of cats.

유튜브에는 고양이가 정말 많아요.

(웃음)

(Laughter)

But what made that so remarkable

여기서 주목할 만한 점은

is that the system was never told what a cat was.

인공 신경망한테 고양이가 무엇인지 알려주지 않았다는 것입니다.

So using just patterns in data,

단지 자료에 있는 특징만으로

the system honed in on the concept of a cat all on its own.

스스로 고양이라는 개념을 학습한 것입니다.

All of this occurred at the beginning of a decade-long string of successes,

이 전부가 구글 등의 기업에서 지난 10년간 인공 신경망을

of using neural networks for a huge variety of tasks,

여러 분야에 성공적으로 활용하기 시작한 초기에 이룬 성과입니다.

at Google and elsewhere.

Many of the things you use every day,

이 외에도 일상에서 접할 수 있는

스마트폰의 음성 인식 개선이나

things like better speech recognition for your phone,

improved understanding of queries and documents

검색 품질 개선을 위한 질문과 문서 이해 개선,

for better search quality,

better understanding of geographic information to improve maps,

정확한 지도 제공을 위한 지리 정보 학습 등이 있습니다.

and so on.

Around that time,

그 무렵 인공 신경망 계산에 특화된

we also got excited about how we could build hardware that was better tailored

컴퓨터 제작에 관심을 갖기 시작했습니다.

to the kinds of computations neural networks wanted to do.

인공 신경망 계산은 특징이 두 가지 있습니다.

Neural network computations have two special properties.

첫 번째는 정밀도가 낮아도 계산할 수 있다는 점입니다.

The first is they're very tolerant of reduced precision.

Couple of significant digits, you don't need six or seven.

여섯 개나 일곱 개가 아니라 중요한 숫자 두어 개면 충분합니다.

And the second is that all the algorithms are generally composed

두 번째는 보통 모든 알고리즘이

of different sequences of matrix and vector operations.

서로 다른 배열의 행렬과 벡터 연산으로 되어있다는 점입니다.

So if you can build a computer

정밀도가 낮은 행렬과 벡터 연산은 아주 잘 하지만

that is really good at low-precision matrix and vector operations

다른 분야는 별로인 컴퓨터가 있다면

but can't do much else,

that's going to be great for neural-network computation,

인공 신경망 계산에는 충분히 쓰일 수 있습니다.

even though you can't use it for a lot of other things.

여러분이 그런 컴퓨터를 만들면 사람들이 훌륭하게 사용할 것입니다.

And if you build such things, people will find amazing uses for them.

이것은 저희가 처음 만든 TPU v1입니다.

This is the first one we built, TPU v1.

"TPU" stands for Tensor Processing Unit.

TPU는 텐서 처리 장치의 약자입니다.

These have been used for many years behind every Google search,

지난 몇 년 간 구글의 검색과 번역을 비롯해

for translation,

딥마인드사의 알파고 대국에 쓰였으며

in the DeepMind AlphaGo matches,

so Lee Sedol and Ke Jie maybe didn't realize,

알파고와 대국한 이세돌과 커제는

TPU가 꽂힌 기계와 바둑을 뒀는지 모를 것입니다.

but they were competing against racks of TPU cards.

And we've built a bunch of subsequent versions of TPUs

이후엔 훨씬 빠른 여러 후속판을 만들었습니다.

that are even better and more exciting.

But despite all these successes,

하지만 이런 성공을 거뒀어도

I think we're still doing many things wrong,

여전히 잘못하고 있는 부분이 있다고 생각합니다.

핵심적인 것 세 가지와 개선 방법을 말씀드리려 합니다.

and I'll tell you about three key things we're doing wrong,

and how we'll fix them.

첫째로, 오늘날 대부분의 인공 신경망은

The first is that most neural networks today

are trained to do one thing, and one thing only.

단 한 가지 작업만을 학습했습니다.

중점을 둔 특정한 한 가지 과제를 학습시키는데

You train it for a particular task that you might care deeply about,

but it's a pretty heavyweight activity.

손이 상당히 많이 가는 일입니다.

자료들을 구성하고

You need to curate a data set,

you need to decide what network architecture you'll use

이 과제에 어떤 인공 신경망 구조를 사용할지 정하고,

for this problem,

가중치를 무작위 값으로 초기화하고,

you need to initialize the weights with random values,

apply lots of computation to make adjustments to the weights.

가중치를 조정하기 위해 수많은 계산을 해야 합니다.

And at the end, if you’re lucky, you end up with a model

그리고 운이 좋다면,

원하는 그 작업을 아주 잘 처리하는 모델을 만들 수 있습니다.

that is really good at that task you care about.

But if you do this over and over,

하지만 이 과정을 계속 하다 보면

you end up with thousands of separate models,

아주 유능한 개별 모델 수천 개가 생기겠지만

each perhaps very capable,

필요한 작업마다 다 따로 노는 셈입니다.

but separate for all the different tasks you care about.

But think about how people learn.

반면 사람이 학습하는 걸 보죠.

In the last year, many of us have picked up a bunch of new skills.

작년 동안 여러 공부를 하셨을 것입니다.

I've been honing my gardening skills,

저는 원예를 공부하면서 수직 수경 재배를 실험했습니다.

experimenting with vertical hydroponic gardening.

To do that, I didn't need to relearn everything I already knew about plants.

수경 재배를 연구하면서 이미 아는 것을 다시 공부할 필요는 없었습니다.

I was able to know how to put a plant in a hole,

식물을 심는 법이나 물을 주는 법,

how to pour water, that plants need sun,

식물은 햇빛이 필요하다는 사실을 알고 있고

and leverage that in learning this new skill.

새로운 것을 배울 때는 이걸 적절히 활용할 수 있었습니다.

Computers can work the same way, but they don’t today.

컴퓨터도 이런 식으로 할 수 있지만 아직은 아닙니다.

If you train a neural network from scratch,

아무것도 없는 상태에서 인공 신경망을 학습시킨다면

it's effectively like forgetting your entire education

이전에 가르쳤던 내용은 사실상 전부 잊어버릴 것입니다.

every time you try to do something new.

뭔가 새로운 걸 학습할 때마다 말입니다.

말도 안되죠?

That’s crazy, right?

So instead, I think we can and should be training

그래서 수천, 수백만 개의 작업을 처리할 수 있는

multitask models that can do thousands or millions of different tasks.

다중 작업 모델을 만들어야 한다고 생각했습니다.

Each part of that model would specialize in different kinds of things.

다중 작업 모델의 각 부분은 서로 다른 분야에 특화되어 있습니다.

And then, if we have a model that can do a thousand things,

천 가지의 과제를 처리할 수 있는 모델이 있다면

and the thousand and first thing comes along,

천한 번째 일이 생겼을 때

we can leverage the expertise we already have

관련 분야에 이미 갖고 있는 전문 지식을 적절히 활용해서

in the related kinds of things

so that we can more quickly be able to do this new task,

새로운 작업을 더 신속히 처리할 수 있습니다.

마치 여러분이 처음 보는 문제와 맞닥뜨렸을 때

just like you, if you're confronted with some new problem,

문제 해결에 도움이 될 이미 아는 것이 무엇인지

you quickly identify the 17 things you already know

that are going to be helpful in solving that problem.

빠르게 파악하듯이 말입니다.

Second problem is that most of our models today

둘째 문제는 오늘날 대부분의 모델이

deal with only a single modality of data --

한 가지 형태의 자료만 처리한다는 것입니다.

with images, or text or speech,

영상이나 문자, 음성 중 한 가지 형태만 처리할 뿐

but not all of these all at once.

모든 형태를 한 번에 처리하진 못합니다.

반면에 사람들은 어떻게 하는지 생각해보세요.

But think about how you go about the world.

You're continuously using all your senses

모든 감각을 끊임없이 활용해

to learn from, react to,

배우고, 반응하고,

figure out what actions you want to take in the world.

어떤 행동을 취해야 할지 알아냅니다.

이게 훨씬 더 합리적이고

Makes a lot more sense to do that,

and we can build models in the same way.

이 같은 방식의 모델을 만들 수 있습니다.

We can build models that take in these different modalities of input data,

다양한 형태의 입력을 처리하는 모델을 만들어

문자, 영상, 음성 등 형태와 상관없이 결합시켜

text, images, speech,

but then fuse them together,

so that regardless of whether the model sees the word "leopard,"

이 모델이 표범이라는 단어를 보거나

sees a video of a leopard or hears someone say the word "leopard,"

표범의 영상을 보거나 표범이라는 말을 들어도

the same response is triggered inside the model:

같은 처리를 하게 하는 것입니다.

the concept of a leopard

여기서 표범은

can deal with different kinds of input data,

다른 형태의 입력이 될 수 있는데,

even nonhuman inputs, like genetic sequences,

인간 외적인 방법일 수도 있습니다.

영상, 문자, 동영상뿐 아니라 유전자 서열, 3차원 점 구름처럼요.

3D clouds of points, as well as images, text and video.

The third problem is that today's models are dense.

세 번째 문제로 인공 지능 모델의 뉴런은 지금 조밀합니다.

There's a single model,

하나의 모델이

the model is fully activated for every task,

모든 작업과 예제에 신경망을 전부 동원하며

for every example that we want to accomplish,

whether that's a really simple or a really complicated thing.

작업이 아주 쉬운 것이든, 아주 복잡하든 상관하지 않습니다.

This, too, is unlike how our own brains work.

이것도 우리 뇌가 작동하는 방식과 다른 점입니다.

Different parts of our brains are good at different things,

뇌의 각 부분은 서로 다른 분야에 특화되어있고

and we're continuously calling upon the pieces of them

현재 과제에 연관된 부분에

that are relevant for the task at hand.

끊임없이 요청을 합니다.

For example, nervously watching a garbage truck

예를 들어 내 차를 향해 후진하는 청소차를 불안하게 보고 있는 상황이라면

back up towards your car,

셰익스피어의 소네트 감상을 담당하는 부분의 뇌는 아마 활동하지 않겠죠.

the part of your brain that thinks about Shakespearean sonnets

is probably inactive.

(Laughter)

(웃음)

AI models can work the same way.

AI 모델도 이런 식으로 움직이게 할 수 있습니다.

Instead of a dense model,

조밀한 모델 대신 띄엄띄엄 활성화하는 모델을 만들 수 있습니다.

we can have one that is sparsely activated.

So for particular different tasks, we call upon different parts of the model.

작업에 필요한 부분만 쓰는 방식입니다.

During training, the model can also learn which parts are good at which things,

학습하면서 어느 부분이 어떤 일을 잘 하는지 알 수 있기 때문에

to continuously identify what parts it wants to call upon

새로운 작업을 할 때 어느 부분이 필요한지 계속 알 수 있습니다.

in order to accomplish a new task.

The advantage of this is we can have a very high-capacity model,

이 모델은 아주 고성능이면서 동시에 효율도 높은데

but it's very efficient,

어떤 작업이든 필요한 부분만 사용하기 때문입니다.

because we're only calling upon the parts that we need

for any given task.

이 세 가지만 개선한다면

So fixing these three things, I think,

인공 지능이 더 유용해질 것이라 생각합니다.

will lead to a more powerful AI system:

instead of thousands of separate models,

따로 노는 수천 개의 모델 대신

train a handful of general-purpose models

수천, 수백만 가지의 일을 처리할 수 있는

that can do thousands or millions of things.

소수의 다목적 모델을 학습시켜야 합니다.

Instead of dealing with single modalities,

한 형태의 자료만 처리하는 것이 아니라

deal with all modalities,

모든 형태의 자료를 처리, 결합할 수 있어야 합니다.

and be able to fuse them together.

And instead of dense models, use sparse, high-capacity models,

뉴런이 조밀한 모델보다는 띄엄띄엄 있는 고성능 모델을 쓰고

where we call upon the relevant bits as we need them.

필요할 때 필요한 부분만 활용합니다.

We've been building a system that enables these kinds of approaches,

저희는 이런 방식을 실현할 수 있는 시스템을 준비해왔으며

and we’ve been calling the system “Pathways.”

그것을 ‘패스웨이’로 부릅니다.

So the idea is this model will be able to do

개념적으로 패스웨이는

작업 수천, 수만 개를 처리할 수 있고

thousands or millions of different tasks,

and then, we can incrementally add new tasks,

새 작업을 추가할 수 있으며,

and it can deal with all modalities at once,

모든 형태의 입력을 동시에 처리하고

and then incrementally learn new tasks as needed

필요에 따라 새 작업을 학습할 수 있고

and call upon the relevant bits of the model

각 예제 및 작업 처리에 필요한 부분만 사용합니다.

for different examples or tasks.

And we're pretty excited about this,

정말 재미있는 개념으로 AI에 일보 전진이 될 것이라 생각합니다.

we think this is going to be a step forward

in how we build AI systems.

But I also wanted to touch on responsible AI.

여기에 더해 책임감 있는 AI를 잠깐 이야기하고 싶습니다.

We clearly need to make sure that this vision of powerful AI systems

한 가지 명확한 점은

이 뛰어난 AI 개념이 분명 모두에게 유용할 것이라는 것입니다.

benefits everyone.

These kinds of models raise important new questions

패스웨이와 같은 모델은 인공 지능을 만들면서 유념해야 하는

about how do we build them with fairness,

공정성, 해석 가능성, 개인 정보 보호, 보안 등에 대해

interpretability, privacy and security,

for all users in mind.

새롭고도 중요한 의문을 제기합니다.

For example, if we're going to train these models

예를 들어 수천, 수백만 개의 작업을 훈련시킬 때는

on thousands or millions of tasks,

방대한 자료를 학습시킬 수 있어야 할 뿐만 아니라

we'll need to be able to train them on large amounts of data.

And we need to make sure that data is thoughtfully collected

용의주도하게 자료를 수집해야 하며

and is representative of different communities and situations

전 세계의 여러 집단과 상황을 아우를 수 있어야 합니다.

all around the world.

And data concerns are only one aspect of responsible AI.

하지만 자료 문제는 책임감 있는 AI의 일부일 뿐입니다.

We have a lot of work to do here.

해야 할 일이 굉장히 많습니다.

So in 2018, Google published this set of AI principles

2018년, 구글에서 AI의 원칙을 수립해

by which we think about developing these kinds of technology.

관련 기술의 발전을 다시 생각할 기회를 갖게 했습니다.

And these have helped guide us in how we do research in this space,

이 원칙은 앞으로 어떤 자세로 연구에 임해야 하고

제품에 어떻게 활용해야 하는지를 알려줍니다.

how we use AI in our products.

And I think it's a really helpful and important framing

AI를 사회에 적용하는 방법에 대한

for how to think about these deep and complex questions

깊고 복잡한 의문을 해결하는 데

about how we should be using AI in society.

큰 도움이 되리라 생각합니다.

We continue to update these as we learn more.

연구를 해나가면서 우리는 이 원칙을 계속 갱신하고 있습니다.

이런 원칙 대부분은 활발히 연구되고 있습니다.

Many of these kinds of principles are active areas of research --

super important area.

아주 중요한 부분이죠.

Moving from single-purpose systems that kind of recognize patterns in data

단순히 자료의 특성을 인식하는 단일 목적 시스템에서

to these kinds of general-purpose intelligent systems

사회를 더 잘 분석하는 다목적 지능 시스템으로 전환한다면

that have a deeper understanding of the world

will really enable us to tackle

인류가 직면한 심각한 문제 해결에 도움이 될 것입니다.

some of the greatest problems humanity faces.

For example,

예를 들면 인공 지능 모델에 화학과 물리학을 접목해

we’ll be able to diagnose more disease;

we'll be able to engineer better medicines

더 많은 질병을 진단하고 더 좋은 약을 개발할 수 있으며

by infusing these models with knowledge of chemistry and physics;

we'll be able to advance educational systems

교육 시스템과 접목한다면 개개인에게 맞춤형 수업을 제공해

by providing more individualized tutoring

to help people learn in new and better ways;

학생이 새롭고 더 나은 방법으로 공부할 수 있을 것입니다.

we’ll be able to tackle really complicated issues,

그리고 기후 변화나 청정 에너지 등

like climate change,

and perhaps engineering of clean energy solutions.

아주 복잡한 사회 문제 해결에도 도움이 될 것입니다.

So really, all of these kinds of systems

다시 말해, 이 시스템에는

are going to be requiring the multidisciplinary expertise

전 세계 사람들의 종합적인 전문 지식이 필요합니다.

of people all over the world.

So connecting AI with whatever field you are in,

어떤 분야에 종사하든, 발전하려면 인공 지능과 연계해야 합니다.

in order to make progress.

So I've seen a lot of advances in computing,

지난 수십 년간 컴퓨터의 성능과 연산 방법의 진전이

and how computing, over the past decades,

has really helped millions of people better understand the world around them.

전 세계 수백만 명이 서로를 이해하는 데에 큰 도움을 줬습니다.

And AI today has the potential to help billions of people.

오늘날 인공 지능은 수십억 명에게 도움을 줄 가능성이 있습니다.

We truly live in exciting times.

우리는 정말 재미있는 시대에 살고 있습니다.

Thank you.

감사합니다.

(Applause)

(박수)

Chris Anderson: Thank you so much.

CA: 말씀 감사합니다. 몇 가지 추가 질문을 드릴까 합니다.

I want to follow up on a couple things.

This is what I heard.

제가 알기로

Most people's traditional picture of AI

대부분의 사람들이 떠올리는 인공 지능은

is that computers recognize a pattern of information,

컴퓨터가 정보의 규칙을 인식하고

and with a bit of machine learning,

기계 학습으로 학습하기 때문에

they can get really good at that, better than humans.

사람보다 더 잘 처리하는 것입니다.

앞서 말씀하시면서

What you're saying is those patterns

그 규칙이 더 이상 인공 지능이 처리하는 개별적인 것이 아니라

are no longer the atoms that AI is working with,

that it's much richer-layered concepts

모든 방식과 형태를 아우르는

that can include all manners of types of things

훨씬 다층적인 개념이며,

that go to make up a leopard, for example.

모두 모여서 표범이 된다고 했습니다.

So what could that lead to?

그렇다면 다음은 어떻게 될까요?

Give me an example of when that AI is working,

그런 인공 지능이 언제 활용되는지,

what do you picture happening in the world

향후 5년 혹은 10년의 세계는 어떨지 예를 들어주시겠어요?

in the next five or 10 years that excites you?

Jeff Dean: I think the grand challenge in AI

JD: 인공 지능을 상용화할 때 가장 큰 문제는

is how do you generalize from a set of tasks

이미 아는 작업을 이용해 새로운 작업을 처리할 수 있도록

you already know how to do

to new tasks,

as easily and effortlessly as possible.

쉽고 편하게 일반화하는가입니다.

And the current approach of training separate models for everything

모든 작업에 각각 모델을 만드는 현재의 방법은

means you need lots of data about that particular problem,

한 문제에 많은 자료가 필요합니다.

because you're effectively trying to learn everything

사실상 세계나 문제를 처음부터 새로 배우는 것과 같기 때문입니다.

about the world and that problem, from nothing.

But if you can build these systems

하지만 수천, 수백만 개의 작업 처리 방법이 이미 합쳐진

that already are infused with how to do thousands and millions of tasks,

시스템을 제작할 수 있다면

then you can effectively teach them to do a new thing

비교적 적은 예제로도

새로운 것을 효과적으로 학습시킬 수 있을 것입니다.

with relatively few examples.

So I think that's the real hope,

진짜로 바라는 것은

that you could then have a system where you just give it five examples

해결하고 싶은 작업의 예제를

of something you care about,

다섯 개만 제시해도 새로운 작업을 학습할 수 있는 것입니다.

and it learns to do that new task.

CA: You can do a form of self-supervised learning

CA: 아주 소수의 예제로도 학습하는

that is based on remarkably little seeding.

자기 지도 학습을 할 수 있단 말씀이시죠?

JD: Yeah, as opposed to needing 10,000 or 100,000 examples

JD: 맞습니다.

예제가 만 개, 십만 개 필요했던 이전과는 다르게 말이죠.

to figure everything in the world out.

CA: 거기서 의도하지 않은 부적절한 결과도 있지 않나요?

CA: Aren't there kind of terrifying unintended consequences

possible, from that?

JD: I think it depends on how you apply these systems.

JD: 어떻게 활용하느냐에 따라 다르다 생각합니다.

It's very clear that AI can be a powerful system for good,

인공 지능은 좋은 곳에 적절하게 쓰일 수도 있고

or if you apply it in ways that are not so great,

부적절한 곳에 쓰여서

it can be a negative consequence.

부정적인 결과를 가져올 수도 있습니다.

So I think that's why it's important to have a set of principles

그렇기 때문에 앞서 말한 원칙이 매우 중요하다 생각합니다.

by which you look at potential uses of AI

인공 지능의 가능성과

and really are careful and thoughtful about how you consider applications.

인공 지능을 어떻게 활용할지

다시 생각할 기회를 주기 때문입니다.

CA: One of the things people worry most about

CA: 사람들이 가장 염려하는 것은

is that, if AI is so good at learning from the world as it is,

말씀하셨던 대로 인공 지능이 사회를 있는 그대로 학습을 잘 한다면

it's going to carry forward into the future

현재 사회의 잘못된 부분도

aspects of the world as it is that actually aren't right, right now.

그대로 학습할 것이라는 것입니다.

And there's obviously been a huge controversy about that

그리고 최근 구글에서 매우 큰 논란이 있었습니다.

recently at Google.

Some of those principles of AI development,

인공 지능 개발 원칙 일부를

you've been challenged that you're not actually holding to them.

사실상 준수하지 않았다고 합니다.

Not really interested to hear about comments on a specific case,

특정 지어서 묻고 싶지는 않지만

but ... are you really committed?

정말 잘 지키섰나요?

How do we know that you are committed to these principles?

구글이 원칙을 준수하는지 알 방법이 있나요?

Is that just PR, or is that real, at the heart of your day-to-day?

원칙은 단순히 홍보일 뿐인가요?

아니면 정말 중요한 것인가요?

JD: No, that is absolutely real.

JD: 원칙은 정말 중요합니다.

Like, we have literally hundreds of people

저희 부서에서 수백 명이

working on many of these related research issues,

관련 연구를 하고 있습니다.

because many of those things are research topics

원칙 자체만으로 연구 주제로서 합당하기 때문입니다.

in their own right.

How do you take data from the real world,

실제 사회를 토대로 데이터를 만들 때

that is the world as it is, not as we would like it to be,

어떻게 내가 원하는 대로가 아닌,

있는 그대로 반영할 수 있을까?

and how do you then use that to train a machine-learning model

어떻게 기계 학습 모델을 학습시키고

and adapt the data bit of the scene

현장의 자료를 적용하거나

or augment the data with additional data

추가 자료로 기존 자료를 검증해서

so that it can better reflect the values we want the system to have,

사회 자체에 있는 것이 아니라 원하는 가치를 반영할 수 있을까?

not the values that it sees in the world?

CA: But you work for Google,

CA: 하지만 구글에서 일하고 계시고,

Google is funding the research.

구글이 연구에 자금을 지원합니다.

How do we know that the main values that this AI will build

그렇다면 인공 지능을 만들 때 가장 중요하게 여기는 가치가

사회를 위한 것인지 어떻게 알죠?

are for the world,

and not, for example, to maximize the profitability of an ad model?

사회를 위해서가 아니라

광고 모델의 수익성을 최대화하려 할 수도 있잖아요.

When you know everything there is to know about human attention,

사람들의 관심사가 어떤지 알게 되면

사람들이 숨기는 야릇하고 음습한 부분도 상당히 알게 될 텐데 말입니다.

you're going to know so much

about the little wriggly, weird, dark parts of us.

구글의 연구진 내에는

In your group, are there rules about how you hold off,

사회 발전과 수익을 철저히 분리해서 생각하는,

church-state wall between a sort of commercial push,

반드시 돈이 되야 한다는

금전적 압박 같은 것을 떠나

"You must do it for this purpose,"

so that you can inspire your engineers and so forth,

인공 지능 개발으로 사회 발전에 기여하도록 하는 규칙이 있나요?

to do this for the world, for all of us.

JD: Yeah, our research group does collaborate

JD: 네, 저희 연구진은 구글 전체에서 여러 팀과 협업합니다.

with a number of groups across Google,

구글 광고, 검색, 지도 등이요.

including the Ads group, the Search group, the Maps group,

협업뿐만 아니라 기본적 연구도 하고 공개합니다.

so we do have some collaboration, but also a lot of basic research

that we publish openly.

작년에는 각기 다른 주제로 논문을 천 개 이상 발표했으며

We've published more than 1,000 papers last year

in different topics, including the ones you discussed,

그중에는 앞서 말했던 것도 있고

기계 학습 모델의 공정성, 해석 가능성을 포함해

about fairness, interpretability of the machine-learning models,

매우 중요한 주제들을 다뤘습니다.

things that are super important,

and we need to advance the state of the art in this

이렇게 원칙 관련 연구를 최첨단으로 발전시켜

in order to continue to make progress

인공 지능을 개발할 때

to make sure these models are developed safely and responsibly.

확실히 안전하고 책임감을 갖고 만들 수 있도록 하고 있습니다.

CA: It feels like we're at a time when people are concerned

CA: 사람들이 거대 기술 회사의 영향력을

about the power of the big tech companies,

염려하는 시대인 것 같습니다.

and it's almost, if there was ever a moment to really show the world

더 나은 미래를 위해

that this is being done to make a better future,

원칙을 지키는 모습을 보여주는 것이

that is actually key to Google's future,

더 나은 미래, 구글의 미래를 위해

as well as all of ours.

가장 중요한 것이 아닐까 생각합니다.

JD: Indeed.

JD: 맞습니다. CA: 이렇게 말씀해주셔서 감사드리고,

CA: It's very good to hear you come and say that, Jeff.

CA: TED에 나와주셔서 감사합니다.

Thank you so much for coming here to TED.

JD: 감사합니다.

JD: Thank you.

(박수)

(Applause)