The 4 greatest threats to the survival of humanity

Перекладач: Dariia Berestiuk Утверджено: Олена Сьомак

In January of 1995, Russia detected a nuclear missile headed its way.

У січні 1995 року Росія зафіксувала ядерну ракету у своєму напрямку.

The alert went all the way to the president,

Сповіщення про тривогу дійшло до президента,

who was deciding whether to strike back

який приймав рішення, чи завдати удар у відповідь,

when another system contradicted the initial warning.

в той час як інша система суперечила початковому попередженню.

What they thought was the first missile in a massive attack

Те, що вони вважали першою ракетою масштабної атаки,

was actually a research rocket studying the Northern Lights.

насправді було метеорологічною ракетою для дослідження північного сяйва.

This incident happened after the end of the Cold War,

Цей інцидент стався після закінчення холодної війни,

but was nevertheless one of the closest calls we’ve had

але, незважаючи на це, він був одним із найкритичніших моментів,

to igniting a global nuclear war.

що міг спричинити глобальну ядерну війну.

With the invention of the atomic bomb,

З винаходом атомної бомби

humanity gained the power to destroy itself for the first time in our history.

вперше в історії людство отримало можливість знищити себе.

Since then, our existential risk—

Відтоді наш екзистенційний ризик —

risk of either extinction

ризик або вимирання

or the unrecoverable collapse of human civilization—

або безповоротного краху людської цивілізації —

has steadily increased.

неухильно зростає.

It’s well within our power to reduce this risk,

У наших силах зменшити цей ризик,

but in order to do so,

але для цього ми повинні розуміти,

we have to understand which of our activities

які види нашої діяльності

pose existential threats now, and which might in the future.

становлять екзистенційну загрозу зараз, а які можуть її нести у майбутньому.

So far, our species has survived 2,000 centuries,

Дотепер наш вид пережив 2 000 століть,

each with some extinction risk from natural causes—

кожне з яких було пов’язане з певним ризиком вимирання через природні причини —

asteroid impacts, supervolcanoes, and the like.

зіткнення з астероїдами, супервулкани, тощо.

Assessing existential risk is an inherently uncertain business

Оцінка ризику для існування — це за своєю суттю невизначена справа,

because usually when we try to figure out how likely something is,

тому що зазвичай, коли ми намагаємося з’ясувати, наскільки ймовірним щось є,

we check how often it's happened before.

ми перевіряємо, як часто це траплялося раніше.

But the complete destruction of humanity has never happened before.

Але повного знищення людства ще ніколи не траплялося.

While there’s no perfect method to determine our risk from natural threats,

Хоч не існує досконалого методу визначення ризику вимирання від природних загроз,

experts estimate it’s about 1 in 10,000 per century.

за оцінками експертів, він становить приблизно 1 до 10 000 на століття.

Nuclear weapons were our first addition to that baseline.

Ядерна зброя була нашим першим доповненням до цієї статистики.

While there are many risks associated with nuclear weapons,

І хоча існує багато ризиків, пов’язаних з ядерною зброєю,

the existential risk comes from the possibility

екзистенційний ризик пов’язаний з потенційною можливістю

of a global nuclear war that leads to a nuclear winter,

глобальної ядерної війни, яка призведе до ядерної зими.

where soot from burning cities blocks out the sun for years,

Тоді кіптява від палаючих міст роками закриватиме сонце,

causing the crops that humanity depends on to fail.

спричиняючи загибель врожаю, від якого залежить виживання людства.

We haven't had a nuclear war yet,

У нас ще не було ядерної війни,

but our track record is too short to tell if they’re inherently unlikely

але наш послужний список занадто короткий, щоб сказати,

чи є вона за своєю природою малоймовірною, чи нам просто пощастило.

or we’ve simply been lucky.

We also can’t say for sure

Також ми не впевнені у тому,

whether a global nuclear war would cause a nuclear winter so severe

чи спричинить глобальна ядерна війна настільки сувору ядерну зиму,

it would pose an existential threat to humanity.

що вона становитиме загрозу для існування людства.

The next major addition to our existential risk was climate change.

Наступним серйозним доповненням до нашого ризику для існування стала зміна клімату.

Like nuclear war, climate change could result

Як і ядерна війна, зміна клімату може призвести

in a lot of terrible scenarios that we should be working hard to avoid,

до безлічі жахливих сценаріїв, яких ми мусимо уникнути за будь-якої ціни,

but that would stop short of causing extinction or unrecoverable collapse.

але які не призведуть до вимирання або безповоротного колапсу.

We expect a few degrees Celsius of warming,

Ми очікуємо потепління на кілька градусів за Цельсієм,

but can’t yet completely rule out 6 or even 10 degrees,

але все ще не можемо повністю виключати ймовірність на 6 або навіть 10 градусів,

which would cause a calamity of possibly unprecedented proportions.

які спричинять катастрофу, можливо, безпрецедентних масштабів.

Even in this worst-case scenario,

Навіть за найгіршого сценарію не зрозуміло,

it’s not clear whether warming would pose a direct existential risk,

чи становитиме потепління пряму загрозу для існування,

but the disruption it would cause would likely make us more vulnerable

але руйнування, які воно спричинить, ймовірно, зроблять нас більш вразливими

to other existential risks.

до інших ризиків для існування.

The greatest risks may come from technologies that are still emerging.

Найбільші ризики можуть походити від технологій, які все ще розвиваються.

Take engineered pandemics.

Наприклад, штучно створені пандемії.

The biggest catastrophes in human history have been from pandemics.

Пандемії спричинили найбільші катастрофи в історії людства.

And biotechnology is enabling us to modify and create germs

А біотехнології дозволяють нам модифікувати і створювати мікроби,

that could be much more deadly than naturally occurring ones.

які можуть бути куди більш смертоносними, ніж ті, що зустрічаються в природі.

Such germs could cause pandemics through biowarfare and research accidents.

Ці мікроби можуть викликати пандемії через біологічну війну та дослідні експерименти.

Decreased costs of genome sequencing and modification,

Зниження вартості селекції та модифікації геномів,

along with increased availability of potentially dangerous information

а також зростання доступу до потенційно небезпечної інформації,

like the published genomes of deadly viruses,

такої як публікації даних про геноми смертельних вірусів,

also increase the number of people and groups

також збільшують кількість людей і груп,

who could potentially create such pathogens.

які потенційно можуть створювати такі патогени.

Another concern is unaligned AI.

Невпорядкований ШІ також викликає занепокоєння.

Most AI researchers think this will be the century

Більшість дослідників ШІ вважають, що саме в цьому столітті

where we develop artificial intelligence that surpasses human abilities

ми розробимо штучний інтелект, який перевершить людські здібності

across the board.

в усіх сферах життя.

If we cede this advantage, we place our future in the hands

Якщо ми поступимося цією перевагою, ми віддамо наше майбутнє в руки систем,

of the systems we create.

які ми створюємо.

Even if created solely with humanity’s best interests in mind,

Навіть якщо надрозумний ШІ буде створений виключно в інтересах людства,

superintelligent AI could pose an existential risk

він може становити екзистенційний ризик,

if it isn’t perfectly aligned with human values—

якщо він не буде ідеально узгоджений з людськими цінностями —

a task scientists are finding extremely difficult.

це завдання, яке вчені вважають надзвичайно складним.

Based on what we know at this point,

Виходячи з того, що ми знаємо на даний момент,

some experts estimate the anthropogenic existential risk

окремі фахівці оцінюють антропогенний екзистенційний ризик

is more than 100 times higher than the background rate of natural risk.

більш ніж у 100 разів вищим ніж фоновий рівень природного ризику.

But these odds depend heavily on human choices.

Проте ці показники значною мірою залежать від людського вибору.

Because most of the risk is from human action, and it’s within human control.

Тому що більша частина ризику походить від дій людини

і знаходиться в межах людського контролю.

If we treat safeguarding humanity's future as the defining issue of our time,

Якщо ми сприйматимемо захист майбутнього людства головним питанням нашого часу,

we can reduce this risk.

ми зможемо зменшити цей ризик.

Whether humanity fulfils its potential—

Те, чи реалізує людство свій потенціал —

or not—

чи ні —

is in our hands.

залежить від нас самих.