How a Worm Could Save Humanity From Bad AI | Ramin Hasani | TED

번역: KATE KANG 검토: DK Kim

My wildest dream is to design artificial intelligence

친구 같은 인공 지능을 설계하는 것이 제 가장 원대한 꿈입니다.

that is our friend, you know.

If you have an AI system that helps us understand mathematics,

만약 수학을 이해하도록 도와주는 인공 지능이 있다면,

you can solve the economy of the world.

세계 경제 문제를 해결할 수 있을 거예요.

If you have an AI system that can understand humanitarian sciences,

인문 사회 과학을 이해할 수 있는 인공 지능이 있다면,

we can actually solve all of our conflicts.

우리는 모든 갈등을 해결할 수 있을 것입니다.

I want this system to, given Einstein’s and Maxwell’s equations,

저는 이 인공 지능이 아인슈타인과 맥스웰의 방정식을 들고서

take it and solve new physics, you know.

새로운 물리를 해결할 수 있기를 바랍니다.

If you understand physics, you can solve the energy problem.

물리를 이해하면 에너지 문제를 해결할 수 있습니다.

So you can actually design ways for humans

그래서 인간이 스스로 더 나은 사람이

to be the better versions of themselves.

될 수 있는 방법을 설계할 수 있습니다.

I'm Ramin Hasani.

저는 라민 하사니이고 리퀴드 AI의 공동 설립자이자 CEO입니다.

I’m the cofounder and CEO of Liquid AI.

Liquid AI is an AI company built on top of a technology

리퀴드 AI는

제가 전에 MIT에서 발명한 기술을 바탕으로 만든 AI 회사입니다.

that I invented back at MIT.

It’s called “liquid neural networks.”

이 기술의 이름은 ‘액체 신경망’입니다.

These are a form of flexible intelligence,

이는 유연한 지능의 일종인데,

as opposed to today's AI systems that are fixed, basically.

기본적으로 고정된 오늘날의 AI 시스템과는 대조적입니다.

So think about your brain.

우리 두뇌를 생각해 보세요.

You can change your thoughts.

우리는 생각을 바꿀 수 있죠.

When somebody talks to you,

누군가가 우리에게 말을 걸 때

you can completely change the way you respond.

우리는 반응하는 방식을 완전히 바꿀 수 있습니다.

우리 시스템에는 항상 피드백이라는 메커니즘이 있습니다.

You always have a mechanism that we call feedback in your system.

So basically when you receive information from someone as an input,

따라서 기본적으로 누군가로부터 정보를 입력으로 받으면

you basically process that information, and then you reply.

기본적으로 해당 정보를 처리한 다음 회신합니다.

For liquid neural networks,

액체 신경망에는

we simply got those feedback mechanisms, and we added that to the system.

그런 피드백 메커니즘을 시스템에 추가했을 뿐입니다.

So that means it has the ability of thinking.

이 말은 사고력이 있다는 뜻이죠.

That property is inspired by nature.

이 특징은 자연에서 따왔습니다.

We looked into brains of animals and, in particular,

우리는 동물의 뇌,

특히, 작은꼬마선충이라는 아주 작은 벌레를 연구했습니다.

a very, very tiny worm called “C. elegans”

The fascinating fact about the brain of the worm

이 벌레의 뇌에서 놀라운 사실은

is that it shares 75 percent of the genome that it has with humans.

이 벌레의 유전자 중 75%를 인간과 공유한다는 것입니다.

We have the entire genome mapped.

우리는 전체 유전자 지도를 완성했습니다.

So we understand a whole lot

그래서 이 벌레의 신경계 기능도 아주 많이 알고 있습니다.

about the functionality of its nervous system as well.

So if you understand the properties of cells in the worm,

따라서 이 벌레에 있는 세포의 특성을 이해한다면

maybe we can build intelligent systems that are as good as the worm

벌레 못지않은 지능형 시스템을 만들어

and then evolve them into systems that are better than even humans.

인간보다 더 나은 시스템으로 발전시킬 수 있을 것입니다.

The reason why we are studying nature is the fact that we can actually,

우리가 자연을 연구하는 이유는

우리가 설계할 수 있는 모든 종류의 알고리즘을 탐색해서

having a shortcut through exploring all the possible kind of algorithms

지름길을 찾을 수 있기 때문입니다.

that you can design.

You can look into nature,

자연을 들여다보면 단축키를 얻어서

that would give you like, a shortcut

to really faster get into efficient algorithms

효율적인 알고리즘을 더 빨리 찾을 수 있습니다.

because nature has done a lot of search,

자연은 수십억 년에 걸친 진화를 통해 수없이 탐색을 해왔으니까요.

billions of years of evolution, right?

So we learned so much from those principles.

우리는 그 원리들에서 많은 것을 배웠습니다.

I just brought a tiny principle from the worm

저는 그저 벌레에서 얻은 작은 원리를

into artificial neural networks.

인공 지능 신경망에 적용했습니다.

And now they are flexible,

이제 인공 지능은 유연해져서

and they can solve problems in an explainable way

문제를 해결하고 나서 설명을 할 수 있습니다.

that was not possible before.

예전에는 불가능했었죠.

AI is becoming very capable, right?

AI가 매우 능력 있는 존재가 되고 있죠?

The reason why AI is hard to regulate

AI를 규제하기 어려운 이유는

is because we cannot understand, even the people who design the systems,

시스템을 설계하는 사람들조차도 이해할 수 없기 때문입니다.

we don't understand those systems.

우리는 그 시스템을 이해하지 못합니다.

블랙박스죠.

They are black boxes.

With Liquid, because we are fundamentally using mathematics

액체 신경망은 기본적으로

이해 가능한 수학을 사용하기 때문에,

that are understandable,

we have tools to really understand

우리는 시스템의 어느 부분이 무엇을 담당하는지

and pinpoint which part of the system is responsible for what,

정확히 이해하고 찾아낼 수 있는 도구를 갖추고 있습니다.

you're designing white box systems.

화이트박스 시스템을 설계하는 거죠.

So if you have systems that you can understand their behavior,

따라서 시스템의 동작을 이해할 수 있다면

that means even if you scale them into something very, very intelligent,

시스템을 매우 지능적인 것으로 확장하더라도

you can always have a lot of control over that system

항상 해당 시스템을 대부분 제어할 수 있습니다.

because you understand it.

우리가 시스템을 이해하니까요.

불량한 AI가 되도록 절대 놔두지 않을 겁니다.

You can never let it go rogue.

So all of the crises we are dealing with right now,

우리가 지금 당면하고 있는 모든 위기는,

you know, doomsday kind of scenarios,

예컨대 종말 시나리오 같은 것은,

is all about scaling a technology that we don't understand.

우리가 이해하지 못하는 기술을 확장하기 때문입니다.

With Liquid, our purpose is to really calm people down

리퀴드에서 우리의 목적은 사람들을 진정시키고

and show people that, hey,

작동 메커니즘에 대한 통제력과 가시성이 높으면서도

you can have very powerful systems,

매우 강력한 시스템을 만들 수 있다는 것을

that you have a lot of control and visibility

into their working mechanisms.

사람들에게 보여주는 것입니다.

The gift of having something [with] superintelligence is massive,

초지능이 있는 무언가를 가질 때 얻을 수 있는 선물은 어마어마하고

and it can enable a lot of things for us.

초지능은 우리가 많은 것을 할 수 있게 해 줄 것입니다.

But at the same time,

하지만 동시에 우리는 이 기술을 통제할 수 있어야 합니다.

we need to have control over that technology.

Because this is the first time that we’re going to have a technology

왜냐하면 인류 전체를 합친 것보다 더 뛰어난 기술을

갖게 되는 것은 이번이 처음이니까요.

that is going to be better than all of humanity combined.