What are the most important moral problems of our time? | Will MacAskill

翻訳: Hiroshi Uchiyama 校正: Eriko Tsukamoto

This is a graph

このグラフは

that represents the economic history of human civilization.

人類文明の経済史を表しています

[World GDP per capita over the last 200,000 years]

［過去20万年間の 世界の１人当たりのGDP推移］

There's not much going on, is there.

あまり変化がありませんよね

For the vast majority of human history,

人類史の大部分において

pretty much everyone lived on the equivalent of one dollar per day,

ほぼすべての人が１日１ドル相当の生活をし

and not much changed.

あまり変わっていません

But then, something extraordinary happened:

しかしその後 驚くべきことが起こりました

the Scientific and Industrial Revolutions.

科学革命そして産業革命です

And the basically flat graph you just saw

ご覧になった 基本的に平坦だったグラフが

transforms into this.

このように変化します

What this graph means is that, in terms of power to change the world,

このグラフが意味するのは 世界を変革する力という点では

we live in an unprecedented time in human history,

私たちは今 人類史の新たな局面を 生きているということです

and I believe our ethical understanding hasn't yet caught up with this fact.

倫理的な理解力はこの事実に まだ追い付けていないと思います

The Scientific and Industrial Revolutions

科学革命と産業革命は

transformed both our understanding of the world

私たちの世界に対する理解と 変化をもたらす力を

and our ability to alter it.

すっかり変えてしまいました

What we need is an ethical revolution

私たちが必要としているのは倫理改革で

so that we can work out

それにより

how do we use this tremendous bounty of resources

世界を改善するために 莫大な資源を どう活用するか

to improve the world.

考えることが可能になります

For the last 10 years,

これまでの10年間に

my colleagues and I have developed a philosophy and research program

私と同僚とで「効果的利他主義」という 哲学と研究プログラムを

that we call effective altruism.

開発しました

It tries to respond to these radical changes in our world,

世界の急進的な変化に対処しようと試み

uses evidence and careful reasoning to try to answer this question:

根拠と慎重な推論に基づいて これに答えようとするものです

How can we do the most good?

どうすれば最大の善を行えるのか？

Now, there are many issues you've got to address

まず この問題に立ち向うためには

if you want to tackle this problem:

扱うべき課題がたくさんあります

whether to do good through your charity

善い行いを 慈善活動で実践するのか

or your career or your political engagement,

仕事や政治活動を通して進めるのか—

what programs to focus on, who to work with.

どのプログラムに重点を置き 誰と協力すべきか などです

But what I want to talk about

でもここでお話ししたいのは

is what I think is the most fundamental problem.

私が考える最も根本的な問題です

Of all the many problems that the world faces,

世界が直面する全ての問題の中でも

which should we be focused on trying to solve first?

最初に着目し解決を試みるべき 問題は何でしょうか？

Now, I'm going to give you a framework for thinking about this question,

この問題を考えるための フレームワークを示しましょう

and the framework is very simple.

それはとてもシンプルです

A problem's higher priority,

優先順位が高い問題とは

the bigger, the more easily solvable and the more neglected it is.

より大きく より簡単に解決でき より見過ごされているものです

Bigger is better,

大きい方が良いのは

because we've got more to gain if we do solve the problem.

その問題が解決すると リターンがより大きいからです

More easily solvable is better

より簡単に解決できる方が良いのは

because I can solve the problem with less time or money.

少ない時間と費用で 問題を解決できるからです

And most subtly,

そして絶妙な点は 「収穫逓減」の観点から

more neglected is better, because of diminishing returns.

見過ごされた手付かずの 問題の方が良いのです

The more resources that have already been invested into solving a problem,

既に問題解決に費やされた リソースが大きいほど

the harder it will be to make additional progress.

更なる進歩を生み出すのは 難しくなります

Now, the key thing that I want to leave with you is this framework,

今日お話しする このフレームワークで

so that you can think for yourself

世界の最優先課題を

what are the highest global priorities.

自分の事として考えられるようになります

But I and others in the effective altruism community

効果的利他主義の研究コミュニティの 私たちは

have converged on three moral issues that we believe are unusually important,

このフレームワークで著しくスコアが高く 他に抜きん出て重要と考える倫理課題を

score unusually well in this framework.

３つに収束しました

First is global health.

第１は国際保健です

This is supersolvable.

これは解決可能性がきわめて高いです

We have an amazing track record in global health.

国際保健問題については 素晴らしい実績があります

Rates of death from measles, malaria, diarrheal disease

はしか マラリア 下痢性疾患による死亡率は

are down by over 70 percent.

70％以上も低下しました

And in 1980, we eradicated smallpox.

1980年には天然痘を根絶しました

I estimate we thereby saved over 60 million lives.

これは 6,000万人以上の 命を救ったと推定します

That's more lives saved than if we'd achieved world peace

同じ期間に世界平和を実現したとしたら 救えたはずの命の数を

in that same time period.

上回ります

On our current best estimates,

現時点でのベストな推定では

we can save a life by distributing long-lasting insecticide-treated bed nets

わずか数千ドルで購入できる 長期間効く殺虫剤が塗布された蚊帳で

for just a few thousand dollars.

ひとつの命が救えます

This is an amazing opportunity.

これは驚くべきチャンスです

The second big priority is factory farming.

２番目の重要優先課題は工場式畜産です

This is superneglected.

非常に見過ごされています

There are 50 billion land animals used every year for food,

毎年500億もの陸生動物が食料にされ

and the vast majority of them are factory farmed,

その大部分は凄惨な苦しみの伴う

living in conditions of horrific suffering.

工場飼育をされています

They're probably among the worst-off creatures on this planet,

そのような動物は地球上 最も虐げられた生き物に含まれ

and in many cases, we could significantly improve their lives

多くの場合 一匹当り数セントで 彼らの生活環境を

for just pennies per animal.

著しく改善できるのです

Yet this is hugely neglected.

非常に見過ごされていることです

There are 3,000 times more animals in factory farms

保護犬猫の3,000倍の数の動物が

than there are stray pets,

工場飼育されていますが

but yet, factory farming gets one fiftieth of the philanthropic funding.

工場式畜産動物が受ける慈善的支援金額は 犬猫の50分の1に過ぎません

That means additional resources in this area

この分野での追加資源が

could have a truly transformative impact.

革新的なインパクトを持つということです

Now the third area is the one that I want to focus on the most,

３つ目の分野は私が最も着目したい分野で

and that's the category of existential risks:

人類存続の危機というカテゴリーです

events like a nuclear war or a global pandemic

例えば核戦争や世界的な疫病のように

that could permanently derail civilization

文明を永久に停滞させたり

or even lead to the extinction of the human race.

一歩誤ると人類を滅亡に 導きかねないリスクのことです

Let me explain why I think this is such a big priority

このフレームワークで なぜこれが優先されるか

in terms of this framework.

説明させてください

First, size.

第１にその規模です

How bad would it be if there were a truly existential catastrophe?

真に人類存続に関わる大災害があるとしたら 如何に凄まじい事になるのか？

Well, it would involve the deaths of all seven billion people on this planet

おそらく地球上の70億人全てが 死滅することになるでしょうし

and that means you and everyone you know and love.

その中にはあなたや あなたの知人や愛する人が皆含まれます

That's just a tragedy of unimaginable size.

想像できない規模の悲劇です

But then, what's more,

そして更に悪いことには

it would also mean the curtailment of humanity's future potential,

それは人類が持つ未来の可能性が 狭まることを意味しますが

and I believe that humanity's potential is vast.

私は人類には とても大きな 可能性があると信じています

The human race has been around for about 200,000 years,

人類は約20万年生息していますが

and if she lives as long as a typical mammalian species,

典型的な哺乳類の種として生息を続けた場合

she would last for about two million years.

その寿命は約200万年程です

If the human race were a single individual,

人類の歴史を人生に置き換えると

she would be just 10 years old today.

今は10歳くらいでしょう

And what's more, the human race isn't a typical mammalian species.

更に人類は典型的な哺乳類ではありません

There's no reason why, if we're careful,

注意深く行動すれば

we should die off after only two million years.

たった200万年で 絶滅する理由などありません

The earth will remain habitable for 500 million years to come.

地球は後５億年は居住可能でしょう

And if someday, we took to the stars,

そしていつか私たちが他の星に行けば

the civilization could continue for billions more.

更に何十億年も文明を維持できるでしょう

So I think the future is going to be really big,

未来はとても大きくなると私は思います

but is it going to be good?

でも 良くなっていくのでしょうか？

Is the human race even really worth preserving?

人類は存続する価値があるのでしょうか？

Well, we hear all the time about how things have been getting worse,

ことある毎に 物事が悪くなるのを耳にしますが

but I think that when we take the long run,

私が思うに長い目で見れば

things have been getting radically better.

物事は劇的に良くなっています

Here, for example, is life expectancy over time.

例えばこれは 平均余命の推移です

Here's the proportion of people not living in extreme poverty.

極貧生活をしていない人口の割合

Here's the number of countries over time that have decriminalized homosexuality.

同性愛が合法化された国の数

Here's the number of countries over time that have become democratic.

民主化された国の数の推移

Then, when we look to the future, there could be so much more to gain again.

未来を見通したときには もっと向上するでしょう

We'll be so much richer,

私たちはもっと裕福になり

we can solve so many problems that are intractable today.

現在では手に負えない 多くの問題を解決できるでしょう

So if this is kind of a graph of how humanity has progressed

このグラフが 総合的な人類の繁栄という観点で

in terms of total human flourishing over time,

人類の進歩を示すとすると

well, this is what we would expect future progress to look like.

私たちが予想する未来の進展は このようなものです

It's vast.

大規模なのです

Here, for example,

これがその例で

is where we would expect no one to live in extreme poverty.

誰も極端な貧困で生活する人がいない世界です

Here is where we would expect everyone to be better off

誰もがこんにちの最も裕福な人よりも 良い生活ができるであろう

than the richest person alive today.

そんな世界です

Perhaps here is where we would discover the fundamental natural laws

私達の住む世界を支配する 自然の法則を発見できる

that govern our world.

そんな世界です

Perhaps here is where we discover an entirely new form of art,

もしかしたらまったく新しい形式の芸術や

a form of music we currently lack the ears to hear.

今はまだ理解できない新しい音楽を 発見できるかもしれません

And this is just the next few thousand years.

それらはたった数千年先の話です

Once we think past that,

その先を考えてみると

well, we can't even imagine the heights that human accomplishment might reach.

人類の成果が到達できるかもしれない高みは 想像さえできません

So the future could be very big and it could be very good,

未来はとても壮大で とても素晴らしいものになり得るのです

but are there ways we could lose this value?

でもこの価値を失う道筋は あるのでしょうか？

And sadly, I think there are.

残念なことにあるのです

The last two centuries brought tremendous technological progress,

過去２世紀は途轍もない 科学技術の進歩をもたらしました

but they also brought the global risks of nuclear war

それと同時に世界的な核戦争の脅威や

and the possibility of extreme climate change.

極端な気候変動の可能性をもたらしたのです

When we look to the coming centuries,

来たるべき世紀を展望すると

we should expect to see the same pattern again.

同じパターンが見えることを 想定すべきです

And we can see some radically powerful technologies on the horizon.

劇的に強力な科学技術が興るでしょう

Synthetic biology might give us the power to create viruses

合成生物学により かつてない 伝染性と致死性を持つ

of unprecedented contagiousness and lethality.

ウィルスを作り出すことが 可能になるかもしれません

Geoengineering might give us the power to dramatically alter the earth's climate.

地球工学で劇的に地球の気候を 変えられるようになるかもしれません

Artificial intelligence might give us the power to create intelligent agents

人工知能で人類より優れた能力を持つ 知的エージェントを

with abilities greater than our own.

作れるようになるかもしれません

Now, I'm not saying that any of these risks are particularly likely,

ただし どの脅威が特に実現しやすいかが 問題なのではなく

but when there's so much at stake,

及ぼす影響の大きさを考えると

even small probabilities matter a great deal.

可能性が低くてもそれは大変なことなのです

Imagine if you're getting on a plane and you're kind of nervous,

航空機に乗ることを想像してください 不安になった皆さんを

and the pilot reassures you by saying,

安心させようと パイロットがこう言います

"There's only a one-in-a-thousand chance of crashing. Don't worry."

「事故に遭う確率はたった1,000分の１です 心配はいりません」

Would you feel reassured?

安心できたでしょうか？

For these reasons, I think that preserving the future of humanity

このような理由から 人類の生存を保障することが

is among the most important problems that we currently face.

私たちが現在直面する 最も重要な問題の一つだと考えます

But let's keep using this framework.

ではこのフレームワークを 使い続けましょう

Is this problem neglected?

これは見過ごされた問題か？

And I think the answer is yes,

その答えは「Yes」だと思います

and that's because problems that affect future generations

なぜなら未来の世代に影響する問題は しばしば容易に

are often hugely neglected.

見過ごされてしまうからです

Why?

なぜでしょう？

Because future people don't participate in markets today.

それは未来の人がこんにちの市場には 存在しないからです

They don't have a vote.

選挙権も持ちません

It's not like there's a lobby representing the interests

2300年に生まれてくる人の 利益を代弁する

of those born in 2300 AD.

ロビー活動もありません

They don't get to influence the decisions we make today.

彼らは こんにち我々が行う判断に 干渉することができません

They're voiceless.

訴えるすべがないのです

And that means we still spend a paltry amount on these issues:

そう考えると いろいろな問題への投資は まだわずかなものです

nuclear nonproliferation,

核拡散防止

geoengineering, biorisk,

地球工学 バイオリスク

artificial intelligence safety.

人工知能の安全性などです

All of these receive only a few tens of millions of dollars

今挙げたことに費やされる額は 毎年慈善団体の基金からの

of philanthropic funding every year.

数千万ドルに過ぎません

That's tiny compared to the 390 billion dollars

米国の慈善活動への支出総額は 3,900億ドルですから

that's spent on US philanthropy in total.

それに比較すれば微々たるものです

The final aspect of our framework then:

このフレームワークの 最後の側面 それは

Is this solvable?

解決可能かどうかです

I believe it is.

私は可能だと思います

You can contribute with your money,

皆さんは寄付をして 貢献することができます

your career or your political engagement.

あるいは仕事や 政治的活動を通して貢献できます

With your money, you can support organizations

このようなリスクに取り組む団体を

that focus on these risks,

資金面で支援できます

like the Nuclear Threat Initiative,

例えば核脅威イニシアティブです

which campaigns to take nuclear weapons off hair-trigger alert,

この団体は核兵器を一触即発の状況から 引き離す活動をしていますし

or the Blue Ribbon Panel, which develops policy to minimize the damage

ブルーリボン・パネルは自然現象や 人為的な原因のパンデミック被害を

from natural and man-made pandemics,

最小化するための政策立案をしていますし

or the Center for Human-Compatible AI, which does technical research

Center for Human-Compatible AI では 人工知能を安全で信頼できるシステムに

to ensure that AI systems are safe and reliable.

するための技術研究を行っています

With your political engagement,

皆さんが政治に参加すれば

you can vote for candidates that care about these risks,

それらのリスクに 関心を持つ候補者に投票でき

and you can support greater international cooperation.

さらに大きな国際協力活動を支援できます

And then with your career, there is so much that you can do.

また 仕事を通してできることも たくさんあります

Of course, we need scientists and policymakers and organization leaders,

もちろん研究者や政治家や 組織のリーダーは必要ですが

but just as importantly,

同様に重要なことは

we also need accountants and managers and assistants

そうした問題に取り組む組織には

to work in these organizations that are tackling these problems.

会計士やマネージャーや アシスタントも必要なのです

Now, the research program of effective altruism

現在 効果的利他主義の研究プログラムは

is still in its infancy,

始まって間もなく

and there's still a huge amount that we don't know.

まだ わからないことが沢山あります

But even with what we've learned so far,

しかしこれまで学びとったことだけでも

we can see that by thinking carefully

慎重に熟考し 重大で解決可能な

and by focusing on those problems that are big, solvable and neglected,

見過ごされてきた問題に焦点を当てることで

we can make a truly tremendous difference to the world

これからの数千年にわたる大きな変革を

for thousands of years to come.

世界にもたらすことができるのです

Thank you.

ありがとうございました

(Applause)

（拍手）