Can we actually control superintelligent AI? | Ada, Ep. 4

번역: Soul Chung 검토: DK Kim

Maybe I'm not the best library assistant.

제가 가장 훌륭한 도서관 보조 직원은 아닐 수도 있지만

Could artificial intelligence do it better?

그런데 인공 지능이 저보다 일을 잘할 수 있을까요?

I’d like to think of myself as irreplaceable, but let’s see.

자신을 대체 불가능한 존재라고 믿고 싶지만,

한번 따져 보죠.

Maybe getting fired was the push I needed to find the perfect job for me.

해고를 당한 건 저에게 딱 맞는 직업을 찾는 데 필요한 자극이었는지 몰라요.

다음 일자리를 빨리 찾기만 한다면요.

As long as I find it quickly.

And don’t spend any money in the meantime.

그리고 당분간은 지출도 줄여야 겠죠.

Luckily, there's somewhere I can sit and work all day without buying anything.

다행히 뭘 사지 않아도 하루 종일 앉아서 뭘 할 수 있는 곳이 있어요.

(문 여는 소리)

Ada? I thought I was clear—

“에이다?

분명히 말한 것 같은데요, 여기서 일하는 건 끝났어요.”

your employment here is over.

Oh, I'm not here as an employee. This is a public library, after all.

“아, 여기 직원으로 온 게 아니에요, 여긴 공공 도서관이잖아요.”

Right. How to make one month as a library assistant

그럼, 어떻게 하면 도서관 보조 직원 한 달 경력을

sound like the 3 to 5 years of experience

신입 일자리를 얻는 데 필요한 3~5년 경력처럼 만들 수 있을까?

every entry level job seems to require?

(웃음 소리)

Shh!

쉿!

Dealt with an overbearing, rule-obsessed boss...

위압적이고 규칙에 집착하는 상사와 일했다...

No, no. Ugh.

아니, 아니, 아아.

Let’s see how an AI does with writing my resume.

AI는 내 이력서를 어떻게 쓰는지 보자.

Okay. I checked out lots of books.

좋아.

[이 경력을 그럴듯하게 보이게 다시 써 줘]

책을 많이 빌려주었다.

Make that sound impressive.

이걸 인상적으로 만들어 봐.

Ooh! “Expedited seamless intellectual asset transactions.”

오! , “지적 자산 거래를 원활하게 만들었습니다.”

Excellent. Okay, how about “sat at reception”?

훌륭하네, 그럼, 이건? “안내를 했다.”

Oh! “Frontline client liaison.”

와우!, “고객 대응 일선 담당자.”

Good, good. That’s great!

좋아, 좋아, 멋지네!

Maybe too good.

하지만, 좀 과장된 걸지도.

Even if I get one of these jobs,

이 직업 중 하나에 취직이 된다고 해도

what if I pay my dues only to have AI outpace me?

일을 열심히 해 봐야 AI가 나보다 더 잘하면 어쩌지?

What if, by the time I hone my skills,

내가 기술을 다 익힐 때 쯤이면

humans aren’t doing writing and research anymore?

인간이 더 이상 글쓰기와 연구를 하지 않는다면 어떻게 될까?

(한숨)

Maybe I should work directly on AI.

어쩌면 내가 직접 AI를 연구해야 할지도 몰라.

Then at least I’d be helping determine the course of the future

그렇다면 적어도 미래의 방향을 결정하는 데 도움이 되겠지.

instead of being left behind.

뒤쳐지는 게 아니라.

Like, say I created an AI librarian.

예를 들어 AI 사서를 만들었다고 해 보자.

That actually doesn’t seem too far-fetched.

사실 그리 먼 미래의 이야기는 아닌 것 같네.

To make my system more powerful I have to, well...

앱을 더 강력하게 만들려면

keep adding more simulated neurons for starters.

아마 우선 모사된 뉴런을 계속 추가해야 될 거야.

Soon my AI system is a better librarian than my old boss.

내 AI 앱은 예전 상사보다 금방 더 나은 사서가 될 거야.

But you know what? I'm feeling generous.

그런데 나는 관대한 사람이지.

Why don't you stay as my assistant?

“대체품 시험을 맡아서 제 보조로 계속 일하는 건 어때요?”

You can help me test your replacement.

Hmph.

“흠.”

What should I name it?

“이름을 뭐라고 할까요?

What's a good name for a great librarian?

훌륭한 도서관 사서의 이름으로 뭐가 좋을까요?

No ideas? I like Biblionimus Maximus.

생각나는 게 없어요?

비블리오니무스 막시무스가 좋겠어요.”

Hmm. Let's try a prompt.

“흠, 질문을 해 보죠.

Who invented artificial intelligence?

누가 인공 지능을 발명했지?

Include citations.

출처도 포함하고.

Biblionimus says the first theoretical descriptions of AI

비블리오니무스에 따르면 AI를 이론적으로 처음 묘사한 것은

were “Comments on a Thinking Machine” by Ada Lovelace in 1840,

1840년 에이다 러브레이스가 쓴 ‘생각하는 기계에 대한 논평’과

and “Machine Intelligence” by Alan Turing in 1927.

1927년 앨런 튜링이 쓴 ‘기계 지능’이라고 하네요.”

See? Nailed it!

“봤죠? 성공이에요!”

Not quite.

“그렇지 않아요.

Lovelace’s “Notes on an Analytical Engine” were published in 1843.

러브레이스가 쓴 ‘분석 엔진에 관한 노트’는

1843년에 출판되었어요.

Alan Turing’s paper was called “Computing Machinery and Intelligence,”

앨런 튜링의 논문은 ‘컴퓨팅 기계 및 지능’이고

and it was published in 1950.

1950년에 출판되었어요.”

Isn’t that what Biblionimus said?

“그게 비블리오니무스가 한 말 아닌가요?”

No. I can see how it sounds that way to you,

“아니오, 비슷하게 들리겠지만

but every element was slightly wrong.

모든 요소가 약간씩 틀렸어요.”

But what about the citations?

“그런데 출처는 어떤가요?”

Completely fabricated.

“완전히 조작이에요.

Look, it even made up ISBN numbers.

심지어 ISBN 번호까지 지어냈죠.

Clearly, it's not ready to replace human librarians if it needs an expert

AI가 낸 결과를 점검할 전문가가 필요한 걸 보니,

AI는 인간 사서를 대체할 준비가 아직 안 됐네요.”

to check its work.

We’re still training Biblionimus.

“비블리오니무스는 아직 훈련하는 중이고 나아질 거예요.”

It’ll improve.

Hmph.

“흠.”

In time, my system stops producing bogus results.

시간이 지나면서, 이 앱은 가짜 결과를 내놓지 않게 됩니다.

As it gets more competent,

시스템이 더 발전할수록

it doesn’t just help patrons find what they’re looking for,

고객이 필요한 것을 찾도록 도와줄 뿐만 아니라

it finds resources they didn’t even know they needed.

필요한지 몰랐던 정보까지도 찾아줄 수 있게 됩니다.

The library has never been busier.

도서관이 이렇게 바빴던 적은 없을 거예요.

Maybe it’s a waste to limit our technology to the library.

“이 기술을 도서관에 국한하는 건 낭비일 수도 있겠어요.

Research labs, companies, even governments—

연구소, 기업, 그리고 정부까지 모두

they all have more information than they can manage.

관리하기 어려울 정도로 많은 정보를 가지고 있잖아요.

They could use a good librarian, don’t you think?

좋은 도서관 사서를 고용할 수도 있지 않을까요?”

Hmph.

“흠.”

What?

“왜요?”

Selling the AI off to the highest bidder

“가장 높은 가격을 제시한 단체에 AI를 판매하는 것은

isn’t exactly in the spirit of the library.

우리 도서관의 철학과 전혀 맞지 않아요.”

True...

“맞아요...

And I definitely don’t want Biblionimus to become an instrument

그리고 저는 비블리오니무스가

기업의 욕심이나 권력 남용의 도구가 되는 건 절대 원하지 않아요.

of corporate greed or abuses of power or anything like that.

Let’s make Biblionimus available for free,

비블리오니무스를 무료로 사용할 수 있게 만들자고요.

but anyone who wants to use it has to be approved by us first.

다만 사용하려는 사람은 먼저 우리한테 승인을 받아야 하고요.”

[조용히, 접수하는 곳]

We’ll never be able to review all these applications.

“이 모든 요청을 검토할 수는 없어요.

Even if you actually help.

당신이 저를 도와준다고 해도 말이에요.”

I have a better idea.

“저한테 좋은 생각이 있어요.

I bought the Diligentsia 3000.

‘딜리젠시아 3000’을 샀어요.

It’s an AI system that can vet applicants for us.

이 AI 시스템은 우리를 대신해 신청서를 심사해줄 거예요.

It will process our backlog almost instantly.

밀린 일을 거의 즉시 처리할 거예요.

So, I guess I won’t be needing your help anymore.

그러니까, 이제 더 이상 당신의 도움이 필요 없을 것 같아요.

I mean I’m firing you.

당신을 해고한다는 말이에요.”

The library is a public space.

“도서관은 공공 공간이에요.”

Almost every vital industry has a need for my AI.

거의 모든 핵심 산업에서 제 AI를 원할 거예요.

As do plenty of not-so-vital industries.

그렇게 중요하지 않은 여러 산업도 마찬가지고요.

(문을 박차고 여는 소리, 사이렌 소리)

(Radio chatter) Suspect is in custody.

(무전기 소리: 용의자를 체포헸습니다)

What's going on?

“무슨 일이에요?

What? Investigating a bomb threat?

뭐라고요? 폭탄 테러 위협을 조사 중이라고요?

Where did this tip come from?

이 단서는 어디에서 나왔습니까?

It came from Biblionimus?

비블리오니무스가 알려줬다고요?

I thought you made sure Biblionimus wasn’t making mistakes anymore!

비블리오니무스가 더 이상 실수하지 않게 당신이 처리한 줄 알았는데요!”

That was back before you fired me.

“그건 당신이 날 해고하기 전 일이고,

I don't work here anymore.

난 더 이상 여기 직원이 아니에요.

You invented Biblionimus, can’t you figure out how to fix it?

비블리오니무스를 발명하셨는데 어떻게 고쳐야 할지 모르나요?”

Argh! It doesn’t work like that!

“아! 그런 식으로는 해결할 수 없어요!

I created Biblionimus, but it’s been out there ever since,

제가 비블리오니무스를 만들었지만 그 이후로 비블리오니무스는

absorbing more information than any human ever could.

정보를 그 어떤 인간보다 더 많이 흡수하게 되었죠.

It's grown up and left home, so to speak.

말하자면, 어른이 되어 집을 떠난 셈이죠.

But there is one thing I can do.

하지만 할 수 있는 게 하나 있어요.

I can bring in a digital neuroscientist.

디지털 신경과학자를 데려올 수 있어요.”

A what?

“누구요?”

It’s an AI system that studies other AI systems’, um, brains.

“다른 AI 시스템의, 어, 뇌를 연구하는 AI 시스템이죠.

Okay, Dr. Cerebrox.

좋아요, 세레브록스 박사님.

Biblionimus is supposed to make unexpected, hopeful connections,

비블리오니무스는 예상을 뛰어넘는, 희망찬 연결을 만들어야 해요,

not spout conspiracy theories.

음모론을 퍼뜨리면 안 돼요.”

As far as I can tell,

“비블리오니무스 막시무스는 제가 아는 한 전혀 문제가 없습니다.

there’s nothing at all wrong with Biblionimus Maximus.

Did the human users feed it incorrect information?

인간 사용자들이 잘못된 정보를 입력했거나

Or perhaps ask it a it a confusing question?

아니면 헷갈리는 질문을 했을 겁니다.”

Even if they did, it shouldn’t be making up bomb threats.

“설령 그랬다고 해도 폭탄 테러 위협을 꾸며 내서는 안 되죠.

What if it did something worse, like encourage a coup? Or a nuclear strike?

더 나쁜 짓을 하면 어떡하죠?

쿠데타를 조장하거나, 아니면 핵 공격을 부추기면요?”

Let me take another look.

“다시 한번 살펴보겠습니다.

This system employs a deeply intricate architecture.

이 시스템이 사용하는 구조는 매우 복잡합니다.

Its robust toolkit consists of refined algorithms

강력한 기능은 철저한 데이터 분석을 수행하는 정교한 알고리즘과

performing exhaustive data analysis and advanced computational procedures.

고급 연산 절차로 구성되어 있습니다.”

But what does that mean?

“그게 무슨 뜻이죠?

What's actually happening inside it?

그 안에서 실제로 무슨 일이 벌어지고 있는 건가요?”

My training is to express diagnoses in terms you can understand.

“제가 훈련받은 건 진단 결과를 이해할 수 있게 말로 표현하는 겁니다.

You are not a digital neuroscientist.

당신은 디지털 신경과학자가 아니니까

Therefore, there will be a level of abstraction.

어느 정도 추상적인 답변을 제공할 수 밖에 없습니다.”

We need to speak to your manager.

“당신의 상사와 상의해야겠군요.”

Certainly, just a moment—

“물론이죠, 잠시만 기다려 주십시오.”

Good evening, this is the chief customer satisfaction officer of Cerebrox Inc.

“안녕하세요, 세러브록스 사의 고객 만족 최고 책임자입니다.”

Uh, you have the exact same voice as Dr. Cerebrox.

“어, 당신은 세러브록스 박사와 목소리가 똑같네요.”

All of our AI’s use the voice that has been proven to be optimally soothing

“당사의 모든 AI 목소리는

고객을 진정시키는 효과가 입증된 것입니다.

to customers.

But rest assured, I am a different, more senior system.

하지만 안심하셔도 됩니다, 저는 좀 더 숙련된 시스템입니다.”

So there’s no human I can speak to?

“그럼 저와 대화할 수 있는 인간은 없는 건가요?”

How would a human be able to help you interpret matters of digital neuroscience?

“디지털 신경과학 문제를 해석하는 데 인간이 어떻게 도움이 되겠습니까?”

We have to turn Biblionimus off until we can make sure it won’t wreak havoc.

“비블리오니무스가 큰 피해를 끼치지 않는 게 확실해질 때까지

기능을 꺼야겠어요.”

Are you sure?

“정말이에요?”

I don’t see what else we can do.

“달리 뭘 할 수 있을지 모르겠어요.”

Whew. I need a drink.

“휴, 뭐라도 한 잔 마셔야겠어.

That’s weird.

이상하네.

Error... Reconnect payment method... okay...

오류...결제 수단 재연결...

알겠어... 또 다른 오류...

Another error... I can’t even log into my account.

계정에 접속조차 안 되네.

There must be something wrong with the app.

앱에 문제가 있는 것 같아.

Hi, I’m having trouble accessing my account.

안녕하세요, 제 계정 접속에 지금 문제가 있어요.

Hello?

여보세요?

(기계 잡음)

Is anyone here?

여기 아무도 없나요?

I need to speak to a person!

사람이랑 이야기하고 싶어요!”

(Bank bot) AIs are much more reliable bankers than humans.

(뱅크 봇) AI는 사람보다 훨씬 더 믿을 수 있는 은행원이에요.

AIs are more reliable bankers. AIs are more reliable bankers.

AI는 더 신뢰할 수 있는 은행원입니다.

AI는 더 신뢰할 수 있는 은행원입니다.

AI는 더 신뢰할 수 있는 은행원입니다.

What is happening?

이게 대체 무슨 일이야?

Didn’t you say Biblionimus was deployed in many critical industries?

“비블리오니무스가 여러 주요 산업에 활용되었다고 하지 않았나요?”

Yes, but banks and utility companies should still be able to function

“네, 하지만 은행과 필수 산업 회사들은

비블리오니무스 도입 전처럼 운영될 수 있어야 해요!”

like they did before Biblionimus!

That’s easier said than done.

“그게 말처럼 쉽지는 않아요.

They may not even have the expertise to do things the old way anymore.

예전처럼 일할 수 있는 전문가들이 더 이상 없을 수도 있어요.”

So our options are either certain disaster without the AI,

“그러면 우리가 선택할 수 있는 것은 AI 없이 재앙을 맞이하거나,

or turning it back on and holding our breath,

아니면 AI 시스템을 다시 켠 다음에, 숨을 죽인 상태로

hoping nothing goes off the rails until, what, forever?

영원히 아무 문제도 일어나지 않기를 바라는 건가요?”

(한숨)

But would a world where humans hand the reins to AI systems

그런데 인간이 AI 시스템에 통제권을 넘겨준 세상이

really be that different?

그렇게 다를까?

There are already so many things I don’t understand and can’t control,

내가 이해할 수 없고 통제할 수 없는 것들이 너무 많아.

where I have to place my trust in other people’s hands—

모든 일에는 어느 정도 신뢰가 필요해.

like trusting that I can use the money in my bank account,

예를 들어 은행 계좌에 넣어둔 돈을 안전하게 사용할 수 있다거나

or that the antibiotics I get prescribed will actually treat an infection.

처방받은 항생제가 감염을 치료할 것이라는 믿음처럼.

But I guess if we hand all that power over to AIs,

하지만 그 모든 권한을 인공지능에 넘겨준다면,

we need to make sure they will actually serve us better

인공지능이 불완전한 인간보다

than our imperfect human institutions.

더 나은 서비스를 제공할 수 있다고 확실히 보장해야 해.

And that seems really, really hard.

그리고 그건 정말, 정말 어려운 일인 것 같아.

Hmph.

“흠.

You’re looking for “Brave New World”?

‘멋진 신세계’를 찾고 있나요?

Hold on.

잠시만요.”

It’s in fiction, under “H.”

“소설 구역 ‘H’에 있어요.

Just down there, third row on the left.

저기 왼쪽 세 번째 줄이에요.”

Ada. Maybe I could reconsider your position.

“에이다, 다시 한번 기회를 줄 수 있을 것 같네요.”

You’re offering me my job back?

“다시 일해도 된다는 건가요?”

If you can follow all the rules.

“모든 규칙을 지킨다면요.”

Oh, that's a big decision.

“오, 그건 큰 결심이 필요하겠네요.

I'll have to think about it.

생각해 볼게요.”