The 4 greatest threats to the survival of humanity

Переводчик: Rostislav Golod Редактор: Anna Pecot

In January of 1995, Russia detected a nuclear missile headed its way.

В январе 1995 года Россия зафиксировала запуск ядерной ракеты в свою сторону.

The alert went all the way to the president,

Сигнал тревоги был передан по команде самому́ президенту,

who was deciding whether to strike back

которому предстояло принять решение о нанесении ответного удара.

when another system contradicted the initial warning.

Но тут поступила новая информация с опровержением.

What they thought was the first missile in a massive attack

То, что российские власти посчитали ядерной ракетой,

was actually a research rocket studying the Northern Lights.

был запуск в научных целях — для изучения северного сияния.

This incident happened after the end of the Cold War,

Этот инцидент произошёл вскоре после окончания Холодной войны,

but was nevertheless one of the closest calls we’ve had

но он существенно приблизил мир

to igniting a global nuclear war.

к началу глобальной ядерной войны.

With the invention of the atomic bomb,

С изобретением атомной бомбы

humanity gained the power to destroy itself for the first time in our history.

человечество впервые в истории оказалось на грани самоуничтожения.

Since then, our existential risk—

С тех пор угроза глобальной катастрофы —

risk of either extinction

полного вымирания

or the unrecoverable collapse of human civilization—

либо необратимого краха человеческой цивилизации —

has steadily increased.

только возрастала.

It’s well within our power to reduce this risk,

В наших силах снизить эти риски,

однако для этого необходимо разобраться,

but in order to do so,

we have to understand which of our activities

какая деятельность человека представляет угрозу глобальной катастрофы сегодня,

pose existential threats now, and which might in the future.

а какая окажется потенциально опасной в будущем.

So far, our species has survived 2,000 centuries,

На протяжении всей истории своего существования, —

а это уже более 2 000 столетий, —

each with some extinction risk from natural causes—

человечество находилось на грани исчезновения

в результате природных катаклизмов —

asteroid impacts, supervolcanoes, and the like.

падения астероида, извержения супервулканов и прочих явлений.

Прогнозирование глобальных катастроф

Assessing existential risk is an inherently uncertain business

по определению сопряжено с высокой долей неопределённости,

because usually when we try to figure out how likely something is,

потому что когда мы пытаемся установить вероятность какого-то явления,

we check how often it's happened before.

мы оцениваем, как часто подобное происходило в прошлом.

But the complete destruction of humanity has never happened before.

Однако полного вымирания человечества никогда не случалось.

While there’s no perfect method to determine our risk from natural threats,

Не существует достоверных методик

рассчёта вероятности нашего исчезновения в результате природных катаклизмов,

experts estimate it’s about 1 in 10,000 per century.

но, по оценкам экспертов, она составляет 1 к 10 000 в 100 лет.

Nuclear weapons were our first addition to that baseline.

С изобретением ядерного оружия появилась новая, техногенная угроза человечеству.

While there are many risks associated with nuclear weapons,

Ядерное оружие сопряжено с различными рисками, в том числе угрозой вымирания

the existential risk comes from the possibility

в результате глобальной ядерной войны.

of a global nuclear war that leads to a nuclear winter,

В случае ядерного конфликта неизбежно наступит ядерная зима —

из-за дыма и сажи на Земле образуется плотная завеса,

where soot from burning cities blocks out the sun for years,

которая на многие годы закроет планету от солнечных лучей.

causing the crops that humanity depends on to fail.

Погибнут сельскохозяйственные культуры — начнётся продовольственный кризис.

We haven't had a nuclear war yet,

Ядерной войны в истории планеты ещё не случалось,

but our track record is too short to tell if they’re inherently unlikely

однако прошло мало времени, чтобы делать выводы о том,

является ли это событие маловероятным

or we’ve simply been lucky.

или нам просто везло.

We also can’t say for sure

Мы также не можем утверждать,

whether a global nuclear war would cause a nuclear winter so severe

будет ли ядерная зима, которая последует за ядерной войной, настолько серьёзной,

it would pose an existential threat to humanity.

что она станет глобальной угрозой всему человечеству.

The next major addition to our existential risk was climate change.

Ещё одним опасным вызовом может стать изменение климата.

Like nuclear war, climate change could result

Подобно ядерной войне, эта проблема может привести

in a lot of terrible scenarios that we should be working hard to avoid,

ко множеству трагических сценариев, и мы обязаны предотвратить их любой ценой.

but that would stop short of causing extinction or unrecoverable collapse.

Однако есть вероятность, что климатическая угроза

не обернётся вымиранием либо необратимым крахом цивилизации.

Ожидается, что среднемировая температура вырастет на несколько градусов Цельсия,

We expect a few degrees Celsius of warming,

but can’t yet completely rule out 6 or even 10 degrees,

однако нельзя полностью исключать её повышения на 6 или даже 10 градусов,

which would cause a calamity of possibly unprecedented proportions.

что повлечёт за собой бедствие беспрецедентных масштабов.

Even in this worst-case scenario,

Но даже при самом неблагоприятном сценарии мы не можем утверждать,

it’s not clear whether warming would pose a direct existential risk,

что глобальное потепление обернётся глобальной катастрофой.

but the disruption it would cause would likely make us more vulnerable

Вероятнее всего, планете будет нанесёт урон,

в результате которого человечество станет более подвержено

to other existential risks.

другим глобальным рискам.

The greatest risks may come from technologies that are still emerging.

Серьёзнейшую угрозу могут представлять и развивающиеся технологии.

Take engineered pandemics.

Взять, к примеру, антропогенные пандемии.

The biggest catastrophes in human history have been from pandemics.

На протяжени всей истории человечества

крупнейшие катастрофы происходили в результате пандемий.

С развитием биотехнологий человек научился модифицировать и создавать микроорганизмы,

And biotechnology is enabling us to modify and create germs

that could be much more deadly than naturally occurring ones.

являющиеся гораздо более смертоносными, чем те, которые существуют в природе.

Such germs could cause pandemics through biowarfare and research accidents.

Пандемия может начаться

в результате биологической войны или утечки патогенов из лаборатории.

Decreased costs of genome sequencing and modification,

Снизилась стоимость технологий секвенирования и модификации генома,

along with increased availability of potentially dangerous information

стала более доступной потенциально опасная информация,

like the published genomes of deadly viruses,

например, были опубликованы геномы смертельных вирусов.

also increase the number of people and groups

Также выросло число биотехнологов и лабораторий,

who could potentially create such pathogens.

способных разработать опасные патогены.

Ещё одним поводом для беспокойства

Another concern is unaligned AI.

являются технологии искусственного интеллекта (ИИ).

Most AI researchers think this will be the century

Большинство специалистов по ИИ считают,

что уже в этом веке ИИ превзойдут способности человека

where we develop artificial intelligence that surpasses human abilities

во всех областях нашей деятельности.

across the board.

If we cede this advantage, we place our future in the hands

Смириться с этим превосходством

означает отдать наше будущее в руки технологий, которые мы создали.

of the systems we create.

Even if created solely with humanity’s best interests in mind,

Даже если разработка искусственного сверхинтеллекта

преследует самые благие цели,

superintelligent AI could pose an existential risk

ИИ будет нести в себе риск глобальной катастрофы,

if it isn’t perfectly aligned with human values—

если его деятельность не будет соответствовать человеческим ценностям.

a task scientists are finding extremely difficult.

Учёные предполагают, что добиться этого будет весьма непросто.

Based on what we know at this point,

Исходя из того, что нам известно сегодня,

some experts estimate the anthropogenic existential risk

эксперты считают, что антропогенные риски глобальных катастроф

is more than 100 times higher than the background rate of natural risk.

превосходят природные риски более чем в 100 раз.

But these odds depend heavily on human choices.

Но вероятность наступления этих рисков во многом зависит от нас самих.

Because most of the risk is from human action, and it’s within human control.

Поскольку большинство рисков связано с человеческой деятельностью,

в наших силах их предотвратить.

If we treat safeguarding humanity's future as the defining issue of our time,

Если обеспечение будущего человечества станет важнейшим вопросом нашего времени,

we can reduce this risk.

мы сможем снизить вероятность наступления этих рисков.

Whether humanity fulfils its potential—

Реализует ли человечество свой потенциал

or not—

или нет —

is in our hands.

решать нам.