Is AI the most important technology of the century?

Переводчик: Rostislav Golod Редактор: Anna Pecot

What's the most important century in human history?

Какой самый важный век в истории человечества?

Some might argue it’s a period of extensive military campaigning,

Возможно, кто-то скажет, это эпоха масштабных военных завоеваний,

like Alexander the Great’s in the 300s BCE,

например поход Александра Македонского в IV веке до нашей эры,

which reshaped political and cultural borders.

изменивший политические и культурные границы своего времени.

Others might cite the emergence of a major religion,

Кто-то предположит, что это время возникновения одной из основных религий,

such as Islam in the 7th century,

например, ислама в VII веке,

что позволило систематизировать и распространить религиозные ценности

which codified and spread values across such borders.

через установленные границы.

Or perhaps it’s the Industrial Revolution of the 1700s

А может быть, это промышленная революция XVIII века,

that transformed global commerce

благодаря которой изменились международная торговля

and redefined humanity's relationship with labor.

и рынок труда.

Whatever the answer, it seems like any century vying for that top spot

Как бы там ни было, похоже, что любой век, претендующий на звание самого важного,

is at a moment of great change—

совпал с эпохой великих перемен,

when the actions of our ancestors shifted humanity’s trajectory

когда действия наших предков изменили траекторию развития человечества

for centuries to come.

на многие века.

So if this is our metric, is it possible that right now—

Если руководствоваться этим принципом,

возможно, самым важным окажется наше столетие?

this century— is the most important one yet?

The 21st century has already proven to be a period of rapid technological growth.

XXI век уже можно назвать эпохой стремительного технического прогресса.

Phones and computers have accelerated the pace of life.

Благодаря телефонам и компьютерам заметно ускорился темп жизни.

And we’re likely on the cusp of developing new transformative technologies,

И, вероятно, мы стоим на пороге новых достижений в науке и технике,

like advanced artificial intelligence,

таких как передовой искусственный интеллект,

that could entirely change the way people live.

который может коренным образом изменить жизнь человека.

Meanwhile, many technologies we already have

Между тем из-за многих существующих технологий

contribute to humanity’s unprecedented levels of existential risk—

уже возникли беспрецедентные угрозы глобальной катастрофы

that’s the risk of our species going extinct

или серьёзных катаклизмов,

or experiencing some kind of disaster that permanently limits

чреватых полным вымиранием нашего вида

humanity’s ability to grow and thrive.

или лишением человечества возможности процветания.

The invention of the atomic bomb marked a major rise in existential risk,

Реальная угроза глобальной катастрофы появилась с изобретением атомной бомбы,

and since then we’ve only increased the odds against us.

и с тех пор риски уничтожения человечества продолжали расти.

It’s profoundly difficult to estimate the odds

Крайне сложно оценить вероятность того,

of an existential collapse occurring this century.

произойдёт ли глобальная катастрофа уже в этом столетии.

Very rough guesses put the risk of existential catastrophe

По самым приблизительным оценкам,

её риск вследствие наступления ядерной зимы

due to nuclear winter and climate change at around 0.1%,

и изменения климата составляет около 0,1%.

with the odds of a pandemic causing the same kind of collapse

При этом вероятность схожего по масштабам события, вызванного пандемией,

at a frightening 3%.

равен аж 3%.

Given that any of these disasters could mean the end of life as we know it,

Учитывая, что любая из этих катастроф

означает прекращение жизни в известных нам формах,

these aren’t exactly small figures,

это не такие уж маленькие числа.

And it’s possible this century could see the rise of new technologies

Не исключено, что в этом столетии появятся новые технологии,

которые создадут дополнительные угрозы глобальных катастроф.

that introduce more existential risks.

Эксперты в области искусственного интеллекта (ИИ)

AI experts have a wide range of estimates regarding

значительно расходятся во мнении относительно того,

when artificial general intelligence will emerge,

когда появится универсальный ИИ (УИИ).

but according to some surveys, many believe it could happen this century.

По мнению некоторых из них, это может произойти уже в нашем веке.

Currently, we have relatively narrow forms of artificial intelligence,

В настоящее время существуют лишь относительно слабые системы ИИ,

which are designed to do specific tasks like play chess or recognize faces.

предназначенные для решения конкретных задач,

например для игры в шахматы или распознавания лиц.

Even narrow AIs that do creative work are limited to their singular specialty.

Даже прикладные программы ИИ, выполняющие творческие задачи,

ограничены узкой специализацией.

But artificial general intelligences, or AGIs,

В отличие от них универсальный ИИ, или УИИ,

would be able to adapt to and perform any number of tasks,

сможет адаптироваться и выполнять любое число задач,

quickly outpacing their human counterparts.

быстро опережая интеллектуальные способности человека.

There are a huge variety of guesses about what AGI could look like,

Существует много гипотез относительного того,

что будет представлять собой УИИ и с чем столкнётся человечество,

and what it would mean for humanity to share the Earth

with another sentient entity.

когда на Земле появятся новые «братья по разуму».

AGIs might help us achieve our goals,

Программы УИИ или помогут нам в достижении целей,

they might regard us as inconsequential,

или решат, что наше существование не имеет для них значения,

or, they might see us as an obstacle to swiftly remove.

или посчитают нас помехами, которые нужно немедленно устранить.

So in terms of existential risk,

Поэтому во избежание глобальной угрозы человечеству необходимо,

it's imperative the values of this new technology align with our own.

чтобы общечеловеческие ценности распространялись и на новые технологии.

This is an incredibly difficult philosophical and engineering challenge

Это невероятно сложная философская и техническая задача,

для решения которой потребуются неимоверные интеллектуальные усилия.

that will require a lot of delicate, thoughtful work.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Но даже если мы в этом преуспеем,

последствия появления УИИ всё равно могут оказаться непредсказуемыми.

Let’s imagine an AGI emerges with deep respect for human life

Представим себе, что у нас есть УИИ,

в основе которого заложены глубокое уважение к человеческой жизни

and a desire to solve all humanity’s troubles.

и желание решить все проблемы человечества.

But to avoid becoming misaligned,

Чтобы избежать каких-либо разногласий,

it's been developed to be incredibly rigid about its beliefs.

алгоритмы УИИ разработаны так,

чтобы новые технологии жёстко придерживались заложенных убеждений.

If these machines became the dominant power on Earth,

Если бы эти машины стали доминирующей силой,

their strict values might become hegemonic,

строго придерживающейся определённых ценностей,

на Земле установилась бы гегемония,

locking humanity into one ideology that would be incredibly resistant to change.

а человечество оказалось бы в плену идеологии,

не терпящей каких бы то ни было изменений.

History has taught us that no matter how enlightened

История научила нас тому,

что какой бы просвещённой ни считала бы себя цивилизация,

a civilization thinks they are,

they are rarely up to the moral standards of later generations.

её моральные ценности редко соответствуют этическим нормам следующих поколений.

And this kind of value lock in could permanently distort or constrain

И подобная фиксация ценностей может навсегда исказить или ограничить

humanity’s moral growth.

нравственное развитие человечества.

Универсальный ИИ сопряжён с высокой долей неопределённости,

There's a ton of uncertainty around AGI,

and it’s profoundly difficult to predict how any existential risks

так что предвидеть все риски,

с которыми человечество столкнётся в будущем столетии,

will play out over the next century.

практически невозможно.

It’s also possible that new, more pressing concerns

Не исключено также, что появятся новые, более острые проблемы,

might render these risks moot.

на фоне которых все эти угрозы станут и вовсе неактуальны.

But even if we can't definitively say that ours is the most important century,

Но даже если мы не можем с уверенностью сказать, что наш век — самый важный,

велика вероятность, что решения, которые будут приняты нашим поколением,

it still seems like the decisions we make might have a major impact

окажут существенное влияние на будущее всего человечества.

on humanity’s future.

So maybe we should all live like the future depends on us—

Поэтому, возможно, нам следует жить, будто от нас зависит будущее,

because actually, it just might.

а так оно, скорее всего, и будет.