How will AI change the world?

번역: Hyeryung Kim 검토: DK Kim

다가오는 미래에는 인공 지능이 여러분의 삶을 바꾸고

In the coming years, artificial intelligence

is probably going to change your life, and likely the entire world.

어쩌면 온 세상을 바꾼다고 하지만

정확히 어떻게 바뀐다는 건지는 아직 불명확합니다.

But people have a hard time agreeing on exactly how.

다음 내용은 유명한 인공 지능 전문가인

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

스튜어트 러셀 박사의 인터뷰에서 발췌한 내용으로

helps separate the sense from the nonsense.

거짓과 진실을 구분하는 데 도움이 될 것입니다.

There’s a big difference between asking a human to do something

스튜어트 러셀: 인간에게 어떤 일을 부탁하는 것과

and giving that as the objective to an AI system.

인공 지능에 그 일을 시키는 것은 매우 다릅니다.

When you ask a human to get you a cup of coffee,

어떤 사람한테 커피 한 잔을 사 오라고 할 때

you don’t mean this should be their life’s mission,

그게 그 사람 인생의 사명이나 무조건이라는 말은 아닙니다.

and nothing else in the universe matters.

Even if they have to kill everybody else in Starbucks

스타벅스가 문 닫기 전에 커피를 사려고

to get you the coffee before it closes— they should do that.

거기 있는 사람들을 다 죽이라는 뜻도 아니죠.

No, that’s not what you mean.

네, 그건 절대 아닙니다.

All the other things that we mutually care about,

우리가 신경 쓰는 모든 상황을 고려해서 행동을 취하라는 말이죠.

they should factor into your behavior as well.

현재 인공 지능이 작동하는 방식은 정해진 목표만 받는 방식입니다.

And the problem with the way we build AI systems now

is we give them a fixed objective.

인공 지능에 주는 목표에는 모든 것이 들어있어야 합니다.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

예를 들어 로봇에 해양 산성화를 멈추라는 목표를 준다고 합시다.

Yeah, you could have a catalytic reaction that does that extremely efficiently,

촉매 반응을 이용하면 효과적으로 수행할 수 있지만

but it consumes a quarter of the oxygen in the atmosphere,

그러려면 대기 중의 산소를 사분의 일 정도 소모해야 하고

which would apparently cause us to die fairly slowly and unpleasantly

사람들은 산소가 부족해서

몇 시간에 걸쳐 천천히 고통스럽게 죽게 됩니다.

over the course of several hours.

So, how do we avoid this problem?

그러면 어떻게 이런 문제를 피할 수 있을까요?

You might say, okay, well, just be more careful about specifying the objective—

이렇게 생각할 수 있겠죠.

“그래, 목표를 좀 더 구체적으로 주자.

don’t forget the atmospheric oxygen.

대기 중의 산소 농도도 고려할 것.”

And then, of course, some side effect of the reaction in the ocean

그러면 당연히 다른 부작용이 생기겠죠.

바닷속에 독이 퍼져서 물고기가 다 죽게 됩니다.

poisons all the fish.

Okay, well I meant don’t kill the fish either.

“좋아. 그럼 물고기도 죽이지 말 것.

And then, well, what about the seaweed?

아, 그러면 해조류는 어떡하지?

Don’t do anything that’s going to cause all the seaweed to die.

해조류도 죽이지 말 것.”

계속 이런 식이죠.

And on and on and on.

And the reason that we don’t have to do that with humans is that

로봇이 아닌 인간에게는 이렇게 할 필요가 없습니다.

humans often know that they don’t know all the things that we care about.

대개 인간은 필요한 모든 것을 모른다는 것을 알기 때문이죠.

If you ask a human to get you a cup of coffee,

어떤 사람에게 커피 한 잔을 사다 달라고 부탁했는데

and you happen to be in the Hotel George Sand in Paris,

파리에 있는 조지 샌드 호텔이었다면

where the coffee is 13 euros a cup,

그곳은 커피가 한 잔에 만팔천 원입니다.

it’s entirely reasonable to come back and say, well, it’s 13 euros,

그러면 그 사람은 다시 돌아와서 커피가 만팔천 원인데 그냥 사 올지

are you sure you want it, or I could go next door and get one?

아니면 다른 곳에 가 볼지 물어보겠죠.

And it’s a perfectly normal thing for a person to do.

인간이면 당연히 그렇게 할 겁니다.

To ask, I’m going to repaint your house—

제가 여러분 집 외벽에 페인트칠을 다시 한다면

is it okay if I take off the drainpipes and then put them back?

배수관을 떼었다가 다시 붙여도 되겠냐고 먼저 물어보겠죠.

We don't think of this as a terribly sophisticated capability,

인간에게 이는 그렇게 대단하고 정교한 능력이 아닙니다.

but AI systems don’t have it because the way we build them now,

하지만 현재의 인공 지능은 그런 식으로 만든 것이 아니어서

they have to know the full objective.

임무를 전부 다 알려줘야 합니다.

If we build systems that know that they don’t know what the objective is,

만약 인공 지능이 다른 변수도 고려할 수 있게 만들면

then they start to exhibit these behaviors,

대기 중의 산소를 다 제거하기 전에

like asking permission before getting rid of all the oxygen in the atmosphere.

인공 지능은 미리 물어보고 허락받는 행동을 할 겁니다.

In all these senses, control over the AI system

이런 모든 면에서 볼 때 인공 지능 시스템을 통제하는 것은

comes from the machine’s uncertainty about what the true objective is.

인공 지능이 임무의 진정한 목적을 모르게 하는 것에서 옵니다.

And it’s when you build machines that believe with certainty

기계가 고정된 목표만 수행하면 된다는 확신을 갖고 행동하도록 설계하면

that they have the objective,

that’s when you get this sort of psychopathic behavior.

이렇게 상식에 벗어난 결과가 나옵니다.

And I think we see the same thing in humans.

인간도 마찬가지이죠.

What happens when general purpose AI hits the real economy?

범용 인공 지능이 실물 경제에 타격을 준다면 어떻게 될까요?

How do things change? Can we adapt?

세상은 어떻게 바뀔까요? 우린 여기에 적응할 수 있을까요?

This is a very old point.

이는 아주 오래된 문제입니다.

Amazingly, Aristotle actually has a passage where he says,

놀랍게도 실제로 아리스토텔레스가 이런 말을 했다는 기록이 있습니다.

look, if we had fully automated weaving machines

“완전히 자동화된 직물 짜는 기계와

and plectrums that could pluck the lyre and produce music without any humans,

스스로 리라를 연주하고 작곡하는 기계가 있다면

then we wouldn’t need any workers.

그 어떤 일꾼도 필요 없을 것이다.”

That idea, which I think it was Keynes

1930년, 케인스라는 경제학자는

who called it technological unemployment in 1930,

이것을 ‘기술적 실업’이라고 불렀는데

is very obvious to people.

그 의미는 아주 명확합니다.

They think, yeah, of course, if the machine does the work,

한 마디로 기계가 일을 다 한다면 우린 모두 실업자가 된다는 거죠.

then I'm going to be unemployed.

You can think about the warehouses that companies are currently operating

기업이 온라인 판매 제품 보관에 이용하는 창고는

for e-commerce, they are half automated.

반자동으로 운영됩니다.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

수많은 상품이 낡은 창고 여기저기에 쌓여 있고

all over the place and humans go and rummage around

사람들이 가서 이리저리 뒤져 필요한 물건을 가져와 배송합니다.

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

필요한 물건이 있는 선반 전체를 들어서 가져다주는 로봇도 있긴 하지만

that contains the thing that you need,

but the human has to pick the object out of the bin or off the shelf,

물건을 골라 선반에서 꺼내는 일은 사람이 해야 합니다.

because that’s still too difficult.

로봇에겐 아직 어렵기 때문이죠.

But, at the same time,

하지만 동시에

would you make a robot that is accurate enough to be able to pick

수많은 물건 중에서 딱 필요한 물건만

pretty much any object within a very wide variety of objects that you can buy?

정확하게 골라서 꺼낼 수 있는 로봇을 만든다면 어떨까요?

That would, at a stroke, eliminate 3 or 4 million jobs?

일자리 삼사백만 개 정도가 한 번에 없어져 버리겠죠.

There's an interesting story that E.M. Forster wrote,

E. M. 포스터라는 작가가 쓴 흥미로운 이야기에서는

where everyone is entirely machine dependent.

모든 사람들이 전적으로 기계에 의존합니다.

The story is really about the fact that if you hand over

이 이야기가 보여주는 것은

문명의 주도권을 기계에 넘겨주면

the management of your civilization to machines,

you then lose the incentive to understand it yourself

우리는 의욕을 잃게 되어 스스로 이해하려 하지도 않고

or to teach the next generation how to understand it.

다음 세대에게 문명을 이해하는 법을 가르치려고도 않게 된다는 것입니다.

You can see “WALL-E” actually as a modern version,

현대판 ‘월-E’를 보게 될지도 모르겠네요.

where everyone is enfeebled and infantilized by the machine,

사람들이 모두 나약해져서 기계한테 어린애 취급당하는 거죠.

and that hasn’t been possible up to now.

물론 아직 그런 일은 없었지만요.

We put a lot of our civilization into books,

우리는 문명의 상당 부분을 책에 기록하지만

but the books can’t run it for us.

책이 그걸 전달하지는 못합니다.

And so we always have to teach the next generation.

우리가 다음 세대를 직접 가르쳐야 하죠.

If you work it out, it’s about a trillion person years of teaching and learning

생각해 보면 가르치고 배우는 데 엄청난 노동력이 필요하고

and an unbroken chain that goes back tens of thousands of generations.

수많은 세대를 거쳐 끊어지지 않고 계속 이어져 내려온 것이죠.

What happens if that chain breaks?

만약 끊어져 버리면 어떻게 될까요?

I think that’s something we have to understand as AI moves forward.

이 또한 인공 지능이 발전하면서 생각해 봐야 할 부분입니다.

The actual date of arrival of general purpose AI—

범용 인공 지능이 실현되는 그날이 정확히 언제가 될지는

you’re not going to be able to pinpoint, it isn’t a single day.

확신할 수 없고 하루아침에 되는 일이 아닙니다.

It’s also not the case that it’s all or nothing.

‘모 아니면 도’ 같은 일도 아니죠.

The impact is going to be increasing.

영향은 점점 커질 것입니다.

So with every advance in AI,

인공 지능이 발전할 때마다

it significantly expands the range of tasks.

임무의 범위는 점점 넓어지겠죠.

So in that sense, I think most experts say by the end of the century,

그런 의미에서 대부분 전문가들이 이번 세기 말까지는

we’re very, very likely to have general purpose AI.

범용 인공 지능이 실현될 것이 매우 확실할 거라고 얘기합니다.

The median is something around 2045.

중앙값은 2045년 정도로 예측되는데

I'm a little more on the conservative side.

저는 좀 더 보수적인 쪽입니다.

I think the problem is harder than we think.

제 생각에 이 문제는 보기보다 어렵습니다.

I like what John McAfee, he was one of the founders of AI,

인공 지능의 창시자 중 하나인 존 매커피는 이 질문에

when he was asked this question, he said, somewhere between five and 500 years.

향후 5년에서 500년 사이라고 답했는데 저는 여기에 동의하며

And we're going to need, I think, several Einsteins to make it happen.

이게 실현되려면 아인슈타인 같은 사람이 몇 명 더 필요할 것 같습니다.