What are the most important moral problems of our time? | Will MacAskill

번역: TJ Kim 검토: Yoonyoung Chang

This is a graph

이 그래프는

that represents the economic history of human civilization.

인류 문명의 경제사를 보여줍니다.

[World GDP per capita over the last 200,000 years]

[과거 20만 년간의 전 세계 1인당 국내총생산]

There's not much going on, is there.

별 움직임이 없죠?

For the vast majority of human history,

인류 역사의 대부분

pretty much everyone lived on the equivalent of one dollar per day,

거의 모든 사람들이 하루 1달러 정도로 살아왔고

and not much changed.

크게 달라진 게 없었죠.

But then, something extraordinary happened:

그러다 놀라운 일이 생깁니다.

the Scientific and Industrial Revolutions.

바로 과학 및 산업 혁명이죠.

And the basically flat graph you just saw

방금 본 것처럼 평평하던 그래프가

transforms into this.

이렇게 변합니다.

What this graph means is that, in terms of power to change the world,

이 그래프는 인간이 세상을 바꾸는 힘에 있어

we live in an unprecedented time in human history,

역사상 유례없는 시기에 우리가 살고 있음을 보여 주지만

and I believe our ethical understanding hasn't yet caught up with this fact.

전 그에 걸맞은 도덕적 인식은 한참 부족하다고 생각합니다.

The Scientific and Industrial Revolutions

과학 및 산업혁명은

transformed both our understanding of the world

우리들이 세상을 알고

and our ability to alter it.

바꿀 수도 있는 힘을 줬죠.

What we need is an ethical revolution

이제 우리에게 필요한 건 도덕적 혁명입니다.

so that we can work out

더 좋은 세상을 만들기 위해

how do we use this tremendous bounty of resources

이 엄청난 자원들을 어떻게 사용할지

to improve the world.

잘 따져봐야 합니다.

For the last 10 years,

지난 10년 동안

my colleagues and I have developed a philosophy and research program

저는 동료들과 함께 하나의 이념이자 연구인 프로그램을 개발했는데

that we call effective altruism.

효율적 이타주의라고 부릅니다.

It tries to respond to these radical changes in our world,

급변하는 세상에서 증거와 신중한 추론 등을 바탕으로

uses evidence and careful reasoning to try to answer this question:

다음과 같은 질문에 답을 제시합니다.

How can we do the most good?

어떻게 최대한 선을 행할 수 있을까?

Now, there are many issues you've got to address

이 문제에 뛰어들기 전에

if you want to tackle this problem:

먼저 생각해봐야 할 것들은

whether to do good through your charity

자선단체 혹은 직장

or your career or your political engagement,

아니면 정치적 관여를 통할 것인지

what programs to focus on, who to work with.

어떤 프로그램, 또 어떤 사람들과 함께 할 것인지 등이겠죠.

But what I want to talk about

하지만 지금 얘기하려는 건

is what I think is the most fundamental problem.

제 생각에 가장 근본적인 문제에 관한 것입니다.

Of all the many problems that the world faces,

세상에 있는 많은 문제들 중

which should we be focused on trying to solve first?

과연 무엇에 먼저 초점을 맞춰야 할까요?

Now, I'm going to give you a framework for thinking about this question,

그 생각에 도움이 될 기본 틀을 보여드릴 텐데

and the framework is very simple.

사실 아주 간단합니다.

A problem's higher priority,

문제의 우선순위가 클수록

the bigger, the more easily solvable and the more neglected it is.

해결하기도, 방치되기도 더 쉽다는 겁니다.

Bigger is better,

문제가 클수록 더 좋은 건

because we've got more to gain if we do solve the problem.

해결만 하면 더 많이 얻기 때문이죠.

More easily solvable is better

좀 더 쉽게 해결할 수 있어 좋은 건

because I can solve the problem with less time or money.

시간과 비용이 절약되기 때문입니다.

And most subtly,

그리고 아주 묘하게도

more neglected is better, because of diminishing returns.

수확 체감의 법칙 대로라면 방치됐을수록 더 좋겠죠.

The more resources that have already been invested into solving a problem,

어떤 문제의 해결에 이미 많은 투자를 한 상태라면

the harder it will be to make additional progress.

추가적 성과를 내기는 더 어렵기 마련이니까요.

Now, the key thing that I want to leave with you is this framework,

오늘 이야기의 핵심은 바로 이 기본 틀입니다.

so that you can think for yourself

세상에서 가장 중요한 문제가 무엇인지

what are the highest global priorities.

여러분 스스로 생각해 보는데 도움이 될 거예요.

But I and others in the effective altruism community

저와 함께 효율적 이타주의에 동참하는 사람들은

have converged on three moral issues that we believe are unusually important,

전에 없이 중요하고 이 기본 틀에도 잘 들어맞는

score unusually well in this framework.

세 가지 도덕적 문제에 몰두해 왔습니다.

First is global health.

첫째, 세계 보건입니다.

This is supersolvable.

확실히 해결 가능한 문제죠.

We have an amazing track record in global health.

지금까지 성과 또한 대단히 좋았습니다.

Rates of death from measles, malaria, diarrheal disease

홍역, 말라리아, 설사병 등으로 인한 사망률이

are down by over 70 percent.

70% 넘게 줄었고

And in 1980, we eradicated smallpox.

1980년엔 천연두를 박멸했죠.

I estimate we thereby saved over 60 million lives.

이렇게 구한 사람의 수는 6천만 명 이상으로 추산됩니다.

That's more lives saved than if we'd achieved world peace

그 기간 동안 세상에 전쟁이 없었더라도 더 많은 사람을 살리진 못 했겠죠.

in that same time period.

On our current best estimates,

현재 가장 근접한 추산으로

we can save a life by distributing long-lasting insecticide-treated bed nets

수천 달러면, 장시간의 살충효과를 가진 모기장을 보급해

for just a few thousand dollars.

생명을 구할 수 있습니다.

This is an amazing opportunity.

정말 놀라운 일이죠.

The second big priority is factory farming.

두 번째 우선순위는 공장식 사육입니다.

This is superneglected.

너무 방치되고 있는 문제죠.

There are 50 billion land animals used every year for food,

매년 식용으로 소비되는 5백억 마리의 가축 대부분은

and the vast majority of them are factory farmed,

공장식 사육장에서 공급되는데

living in conditions of horrific suffering.

정말 끔찍한 환경에서 사육되고 있습니다.

They're probably among the worst-off creatures on this planet,

아마도 지구 상에서 가장 불쌍한 생명체 중 하나지만

and in many cases, we could significantly improve their lives

많은 경우, 그들의 삶은 현저히 개선될 수 있습니다.

for just pennies per animal.

한 마리당 몇 푼이면 되는데

Yet this is hugely neglected.

너무 방치되고 있죠.

There are 3,000 times more animals in factory farms

버려진 애완동물들보다 공장식 농장에서 사육되는 가축들이

than there are stray pets,

3천 배나 많지만

but yet, factory farming gets one fiftieth of the philanthropic funding.

자선 기금은 50분의 1 정도 밖에 안됩니다.

That means additional resources in this area

그렇기 때문에 여기에 조금만 더 투자를 하면

could have a truly transformative impact.

정말 획기적인 변화를 가져올 수 있는 것이죠.

Now the third area is the one that I want to focus on the most,

세 번째 영역은 제가 가장 관심이 많은 것으로

and that's the category of existential risks:

실존적 위험의 범주에 속하는

events like a nuclear war or a global pandemic

핵전쟁이나 전 세계적인 유행병과 같이

that could permanently derail civilization

한 문명을 말살시킬 수도

or even lead to the extinction of the human race.

인류의 종말을 가져올 수도 있는 것들입니다.

Let me explain why I think this is such a big priority

이것이 왜 그토록 중요한지

in terms of this framework.

이 기본 틀에서 말씀드리죠.

First, size.

첫째, 규모입니다.

How bad would it be if there were a truly existential catastrophe?

실제로 실존적 재앙이 닥친다면 도대체 얼마나 심각한 것일까요?

Well, it would involve the deaths of all seven billion people on this planet

지구 상의 70억 명 모두를 죽음으로 몰아넣을 텐데

and that means you and everyone you know and love.

여러분과 여러분이 알고, 사랑하는 모든 이들을 포함하죠.

That's just a tragedy of unimaginable size.

상상하기 힘든 규모의 비극입니다.

But then, what's more,

하지만 더한 것은

it would also mean the curtailment of humanity's future potential,

정말 엄청난 인류의 미래 잠재력마저

and I believe that humanity's potential is vast.

둔화시키는 결과를 낳겠죠.

The human race has been around for about 200,000 years,

인류는 약 20만 년 동안이나 존재해 왔고

and if she lives as long as a typical mammalian species,

일반적 포유류의 기준으로

she would last for about two million years.

앞으로 약 2백만 년의 시간은 더 있을 거라고 봅니다.

If the human race were a single individual,

인류를 한 개인으로 생각하면

she would be just 10 years old today.

이제 겨우 10살 정도인 거죠.

And what's more, the human race isn't a typical mammalian species.

게다가, 다른 포유류들과 인류를 비교할 순 없겠죠.

There's no reason why, if we're careful,

잘만 한다면, 인류가 겨우

we should die off after only two million years.

2백만 년 후에 멸종할 이유는 없습니다.

The earth will remain habitable for 500 million years to come.

지구는 앞으로 5억 년은 생명체가 살기에 적합할 것이고

And if someday, we took to the stars,

언젠가 다른 행성들을 찾게 되면

the civilization could continue for billions more.

인류 문명은 수억 년 더 지속할 수 있겠죠.

So I think the future is going to be really big,

이렇게 미래의 가능성은 무궁무진하다고 생각하지만

but is it going to be good?

그 미래가 과연 좋은 것일까요?

Is the human race even really worth preserving?

인류가 지속되어야 할 가치가 정말 있는 걸까요?

Well, we hear all the time about how things have been getting worse,

살기 힘들어졌다는 얘기를 늘 듣고 있지만

but I think that when we take the long run,

사실 오랜 시간을 놓고 보면

things have been getting radically better.

세상은 정말 살기 좋아졌습니다.

Here, for example, is life expectancy over time.

한 예로 평균수명을 보죠.

Here's the proportion of people not living in extreme poverty.

극빈층에 속하지 않는 사람들의 비율입니다.

Here's the number of countries over time that have decriminalized homosexuality.

더 이상 동성애를 범죄로 취급하지 않는 나라들의 숫자죠.

Here's the number of countries over time that have become democratic.

시간을 거치며 민주화된 나라들입니다.

Then, when we look to the future, there could be so much more to gain again.

따라서, 미래를 바라보면 역시 얻는 것들이 훨씬 더 많겠죠.

We'll be so much richer,

훨씬 더 부유해질 테고

we can solve so many problems that are intractable today.

현재 어려움을 겪고 있는 많은 문제 또한 해결할 수 있겠죠.

So if this is kind of a graph of how humanity has progressed

시간을 거치며 전체적인 인간의 번영에 있어

in terms of total human flourishing over time,

인류가 얼마나 발전을 거두는지 이 그래프가 보여준다면

well, this is what we would expect future progress to look like.

미래에는 이 정도쯤 되리란 예상이 가능합니다.

It's vast.

엄청나죠.

Here, for example,

예를 들어 이쯤에선

is where we would expect no one to live in extreme poverty.

누구도 극심한 빈곤에 시달리지 않습니다.

Here is where we would expect everyone to be better off

이쯤에선 모든 사람들이 오늘날 가장 부유한 사람보다

than the richest person alive today.

더 나은 삶을 누리게 됩니다.

Perhaps here is where we would discover the fundamental natural laws

아마도 이쯤에선 근본적인 자연의 법칙을 발견해

that govern our world.

세상을 운영하는데 활용하겠죠.

Perhaps here is where we discover an entirely new form of art,

아마도 이 쯤에선, 아주 새로운 예술의 형태가 소개될 텐데

a form of music we currently lack the ears to hear.

지금은 들을 수 없는 종류의 음악입니다.

And this is just the next few thousand years.

앞으로 수천 년 내에 벌어질 일들이죠.

Once we think past that,

과거를 생각해 보면

well, we can't even imagine the heights that human accomplishment might reach.

인간의 한계를 가늠하기란 쉽지 않습니다.

So the future could be very big and it could be very good,

미래는 아주 거창하고 좋을 수도 있지만

but are there ways we could lose this value?

우리가 그 가치를 상실할 수 있을까요?

And sadly, I think there are.

안타깝게도, 전 그렇다고 생각합니다.

The last two centuries brought tremendous technological progress,

지난 두 세기 동안의 엄청난 과학기술의 발전은

but they also brought the global risks of nuclear war

전 세계에 핵전쟁의 위협과

and the possibility of extreme climate change.

극심한 기후변화를 야기했습니다.

When we look to the coming centuries,

앞으로 수백 년 동안

we should expect to see the same pattern again.

같은 상황이 반복될 거라고 생각해야겠죠.

And we can see some radically powerful technologies on the horizon.

벌써 아주 급진적인 기술들이 소개되고 있습니다.

Synthetic biology might give us the power to create viruses

합성생물학은 우리에게 전에 없는 전염성과 치사율을 가진

of unprecedented contagiousness and lethality.

바이러스를 만들어 낼 능력을 줄 수도 있겠죠.

Geoengineering might give us the power to dramatically alter the earth's climate.

지구공학은 기후를 현저히 바꿀 능력을 줄 수도 있습니다.

Artificial intelligence might give us the power to create intelligent agents

인공지능은 인간보다 우월한 지적 개체를 만들어 낼

with abilities greater than our own.

능력을 줄 수도 있습니다.

Now, I'm not saying that any of these risks are particularly likely,

이런 위험 요소들 중 특별히 어떤 게 실현될거 라는 건 아니지만

but when there's so much at stake,

위험부담이 크다면

even small probabilities matter a great deal.

아주 작은 확률이라도 신중히 고려해야겠죠.

Imagine if you're getting on a plane and you're kind of nervous,

조금 긴장한 상태에서 비행기를 탔는데

and the pilot reassures you by saying,

기장이 이렇게 말한다고 상상해 보세요.

"There's only a one-in-a-thousand chance of crashing. Don't worry."

"추락률은 천분의 일밖에 안되니 걱정하지 마십시오."

Would you feel reassured?

과연 안심이 될까요?

For these reasons, I think that preserving the future of humanity

이런 이유 때문에 인류의 미래를 지키는 건

is among the most important problems that we currently face.

현재 당면한 가장 중요한 문제들 중 하나입니다.

But let's keep using this framework.

이 기본 틀을 계속 이용해 보죠.

Is this problem neglected?

이것은 방치된 문제일까요?

And I think the answer is yes,

제 생각엔 그렇습니다.

and that's because problems that affect future generations

미래 세대가 겪을 수 있는 문제들은

are often hugely neglected.

보통 방치되기 마련이니까요.

Why?

왜 그럴까요?

Because future people don't participate in markets today.

미래의 사람들이 현재 경제활동이나

They don't have a vote.

정치에 참여하지 않기 때문입니다.

It's not like there's a lobby representing the interests

2300년대에 태어날 이들을 위해 누군가 로비를

of those born in 2300 AD.

해줄 수 있는 것도 아니죠.

They don't get to influence the decisions we make today.

오늘날 우리가 내리는 결정에 그들은 영향을 주지 못합니다.

They're voiceless.

선택의 여지가 없죠.

And that means we still spend a paltry amount on these issues:

다음과 같은 문제들에 여전히 관심이 적은 이유입니다:

nuclear nonproliferation,

핵 확산 방지,

geoengineering, biorisk,

지구공학, 생물학적 위협,

artificial intelligence safety.

안전한 인공지능.

All of these receive only a few tens of millions of dollars

이 모든 것들에 지원되는 자선 기금은

of philanthropic funding every year.

매년 수천만 달러에 불과한데

That's tiny compared to the 390 billion dollars

미국에서 지출되는 연 3,900억 달러의 기금에

that's spent on US philanthropy in total.

비하면 정말 적습니다.

The final aspect of our framework then:

이 기본 틀의 마지막 측면인

Is this solvable?

해결할 수 있는가?

I believe it is.

전 그렇다고 믿습니다.

You can contribute with your money,

여러분은 돈을 기부하거나

your career or your political engagement.

직장 혹은 정치적 관여를 통해 동참할 수 있습니다.

With your money, you can support organizations

여러분의 기부금은 이런 문제들의 해결을 위해 애쓰는

that focus on these risks,

단체들에 지원됩니다.

like the Nuclear Threat Initiative,

'핵 위협 방지 구상'처럼

which campaigns to take nuclear weapons off hair-trigger alert,

핵무기 사용을 막기 위한 캠페인을 벌이는 곳이나

or the Blue Ribbon Panel, which develops policy to minimize the damage

푸른 리본 패널처럼 자연 또는 인간으로부터 발생하는

from natural and man-made pandemics,

유행병의 피해를 최소화하기 위한 정책을 개발하는 곳도 있고,

or the Center for Human-Compatible AI, which does technical research

인간과 공존하는 인공지능 센터처럼 안전하고 신뢰할 수 있는

to ensure that AI systems are safe and reliable.

인공지능 시스템을 위해 기술 연구하는 곳도 있습니다.

With your political engagement,

정치적 관여를 통해

you can vote for candidates that care about these risks,

이런 문제들에 신경 쓰는 정치인들에 투표하고

and you can support greater international cooperation.

더 나아가 국제적 협력까지 지원할 수 있겠죠.

And then with your career, there is so much that you can do.

여러분들의 직업 또한 유용하게 쓰일 수 있습니다.

Of course, we need scientists and policymakers and organization leaders,

과학자, 국회의원, 각계각층의 지도자들이

but just as importantly,

물론 필요하지만

we also need accountants and managers and assistants

회계사, 관리자, 대리들도

to work in these organizations that are tackling these problems.

이런 문제 해결에 힘쓰는 단체들에겐 아주 중요한 거죠.

Now, the research program of effective altruism

효율적 이타주의를 연구하는 프로그램은

is still in its infancy,

이제 걸음마 단계이고

and there's still a huge amount that we don't know.

배워야 할 것들이 아직 많습니다.

But even with what we've learned so far,

하지만 지금까지 쌓아온 지식으로도

we can see that by thinking carefully

우리는 신중하게 생각할 수 있고

and by focusing on those problems that are big, solvable and neglected,

크고, 해결할 수 있고, 방치되어 온 문제들에 접근한다면

we can make a truly tremendous difference to the world

세상에 정말 엄청난 변화를 가져올 수 있습니다.

for thousands of years to come.

앞으로 수천 년 동안 말이죠.

Thank you.

감사합니다.

(Applause)

(박수)