The 4 greatest threats to the survival of humanity

翻訳: Kumiko UGAJIN 校正: Tomoyuki Suzuki

In January of 1995, Russia detected a nuclear missile headed its way.

1995年1月 ロシアは１発の 核ミサイルの飛来を探知しました

The alert went all the way to the president,

警報は大統領まで伝えられ

who was deciding whether to strike back

反撃するかどうか検討されました

when another system contradicted the initial warning.

別のシステムが最初の警報と 矛盾していたからです

What they thought was the first missile in a massive attack

大規模攻撃の最初の１発だと 考えられたものは

was actually a research rocket studying the Northern Lights.

実際はオーロラを研究する 調査用ロケットでした

This incident happened after the end of the Cold War,

この事件は 冷戦終結後のことでしたが

but was nevertheless one of the closest calls we’ve had

地球規模の核戦争の引き金となりうる

to igniting a global nuclear war.

かつてないほど際どい出来事の ひとつとなりました

With the invention of the atomic bomb,

原爆の発明で

humanity gained the power to destroy itself for the first time in our history.

人類は 史上初めて 自らを滅ぼす力を手に入れました

Since then, our existential risk—

以来 人類の存続を脅かすリスク ―

risk of either extinction

つまり 人類滅亡のリスク

or the unrecoverable collapse of human civilization—

または 人類の文明を再生不能にまで 破壊するリスクですが―

has steadily increased.

これは 着々と増しています

It’s well within our power to reduce this risk,

このリスクを減らす能力を 人類は十分持っています

but in order to do so,

しかし そうするには

we have to understand which of our activities

人類の活動のうち 現在 脅威となっているのは何か

pose existential threats now, and which might in the future.

また 将来 脅威となりうるのは何か 理解する必要があります

So far, our species has survived 2,000 centuries,

これまで 人類は2,000世紀ほどを 生きており

each with some extinction risk from natural causes—

どの世紀にも自然が原因となる 滅亡のリスクを回避してきました

asteroid impacts, supervolcanoes, and the like.

小惑星の衝突 火山の大噴火などです

Assessing existential risk is an inherently uncertain business

人類の存続を脅かすリスクを見積もるのは 本来 不確実なことです

because usually when we try to figure out how likely something is,

何かが発生する確率を 計算するには 普通

we check how often it's happened before.

それが今まで発生した頻度を 調べるからです

But the complete destruction of humanity has never happened before.

しかし 人類の完全な破滅は 今まで起きたことがありません

While there’s no perfect method to determine our risk from natural threats,

自然の脅威によるリスクを判断する 完璧な方法は存在しない一方で

experts estimate it’s about 1 in 10,000 per century.

専門家はそれを １世紀につき 約１万分の１と推定しています

Nuclear weapons were our first addition to that baseline.

核兵器は この基準値を 人類が初めて上昇させました

While there are many risks associated with nuclear weapons,

核兵器の直接的なリスクが 多くある一方で

the existential risk comes from the possibility

人類の存続を脅かすリスクが

of a global nuclear war that leads to a nuclear winter,

核の冬をもたらす 地球規模の核戦争の 可能性から生じます

where soot from burning cities blocks out the sun for years,

市街の火災で生じる すすが 何年も太陽をさえぎり

causing the crops that humanity depends on to fail.

人類が頼みにしている穀物が 実らなくなります

We haven't had a nuclear war yet,

人類に 核の冬の経験はありませんが

but our track record is too short to tell if they’re inherently unlikely

こうしたことはまず起きないのか 今まで幸運なだけなのか

or we’ve simply been lucky.

経験がとても不足していて 判断できません

We also can’t say for sure

また 断言できないのは

whether a global nuclear war would cause a nuclear winter so severe

地球規模の核戦争が 核の冬を厳しいものにするに留まるか

it would pose an existential threat to humanity.

人類存続の脅威となるのかです

The next major addition to our existential risk was climate change.

人類の存続を脅かすリスクで 次に加わる 大きなものは 気候変動です

Like nuclear war, climate change could result

核戦争と同様 気候変動も 何としても避けるべき

in a lot of terrible scenarios that we should be working hard to avoid,

様々な恐ろしい状況を もたらすかも知れませんが

but that would stop short of causing extinction or unrecoverable collapse.

滅亡や回復不能な破壊には 至らないでしょう

We expect a few degrees Celsius of warming,

私たちは数℃の 気温上昇を予想していますが

but can’t yet completely rule out 6 or even 10 degrees,

6℃もしくは10℃もの上昇も まだ 完全には除外できません

which would cause a calamity of possibly unprecedented proportions.

こうなるとおそらく 空前規模の 大災害を引き起こすでしょう

Even in this worst-case scenario,

この最悪のシナリオにおいてさえ

it’s not clear whether warming would pose a direct existential risk,

温暖化が人類の存続を脅かす 直接的なリスクとなるかは不透明ですが

but the disruption it would cause would likely make us more vulnerable

温暖化による破壊により 人類の存続を脅かすリスクに対して

to other existential risks.

一層 脆弱になることでしょう

The greatest risks may come from technologies that are still emerging.

最大のリスクは 今後登場する技術に あるかもしれません

Take engineered pandemics.

遺伝子操作による病気の大流行を例にします

The biggest catastrophes in human history have been from pandemics.

人類史上 最もひどい大災害は 病気の世界的な流行によるものです

And biotechnology is enabling us to modify and create germs

加えて 生物工学によって 自然発生のものより ずっと致命的な細菌を

that could be much more deadly than naturally occurring ones.

遺伝子操作により 作ることが可能になっています

Such germs could cause pandemics through biowarfare and research accidents.

こうした遺伝子は 生物兵器や研究上の事故で 病気の世界的流行を招くでしょう

Decreased costs of genome sequencing and modification,

ゲノムの配列決定と組換えの コストが下がったことに加え

along with increased availability of potentially dangerous information

致死性のウイルスの遺伝子が公表されるなど 潜在的に危険な情報が

like the published genomes of deadly viruses,

入手しやすくなってきていますし

also increase the number of people and groups

しかも こうした病原体を 作れる能力を秘めた ―

who could potentially create such pathogens.

人々や集団の数が増えています

Another concern is unaligned AI.

次の懸念事項は 人間の価値に沿わない人工知能です

Most AI researchers think this will be the century

人工知能の研究者のほとんどは 今世紀中に

where we develop artificial intelligence that surpasses human abilities

人間の能力を全面的に上回る 人工知能が開発されるだろうと

across the board.

考えています

If we cede this advantage, we place our future in the hands

人間が優位性を明け渡すと 自分たちの未来を 自らが開発したシステムに

of the systems we create.

委ねることになります

Even if created solely with humanity’s best interests in mind,

もっぱら人類の最善の利益になることを 念頭に置いて開発されたとしても

superintelligent AI could pose an existential risk

超知能を持つ人工知能が 人間の価値に完璧に沿っていなければ

if it isn’t perfectly aligned with human values—

人類の存続を脅かすリスクを もたらすかも知れません

a task scientists are finding extremely difficult.

そのような人工知能を作ることは 非常に困難だと科学者は気づきつつあります

Based on what we know at this point,

現時点での知識に基づいて

some experts estimate the anthropogenic existential risk

専門家の中には 人間由来の 人類破滅のリスクの程度は

is more than 100 times higher than the background rate of natural risk.

普段から存在する自然由来のものより 百倍以上も高いと推定する人がいます

But these odds depend heavily on human choices.

しかし こうした確率は 人類の選択に大きく依存します

Because most of the risk is from human action, and it’s within human control.

リスクのほとんどが人類の活動によるもので 人類の管理下にあるものだからです

If we treat safeguarding humanity's future as the defining issue of our time,

私たちが 人類の未来を護ることを 今の時代の決定的課題とするならば

we can reduce this risk.

このリスクを減らすことができます

Whether humanity fulfils its potential—

人類が 自らの潜在能力を発揮するのか―

or not—

それとも しないのか―

is in our hands.

私たちの手にかかっています