Is AI the most important technology of the century?

Translator: Nikolina Krasteva Reviewer: Anton Hikov

What's the most important century in human history?

Кой е най-важният век в човешката история?

Some might argue it’s a period of extensive military campaigning,

Някои твърдят, че това е период на мащабни военни кампании,

like Alexander the Great’s in the 300s BCE,

като на Александър Велики през 300-те години пр.н.е.,

which reshaped political and cultural borders.

които прекрояват политическите и културни граници.

Others might cite the emergence of a major religion,

Други могат да посочат появата на голяма религия,

such as Islam in the 7th century,

като исляма през VII век,

which codified and spread values across such borders.

която кодифицира и разпространява ценности през тези граници.

Or perhaps it’s the Industrial Revolution of the 1700s

А може би това е индустриалната революция през 1700-те години,

that transformed global commerce

която променя световната търговия

and redefined humanity's relationship with labor.

и преосмисля връзката на човечеството с труда.

Whatever the answer, it seems like any century vying for that top spot

Какъвто и да е отговорът, изглежда, че всеки век, борещ се за това първо място

is at a moment of great change—

се намира в момент на голяма промяна -

when the actions of our ancestors shifted humanity’s trajectory

когато действията на предците ни са променяли траекторията на човечеството

for centuries to come.

за векове напред.

So if this is our metric, is it possible that right now—

Ако това е нашият показател, възможно ли е точно сега -

this century— is the most important one yet?

този век - да е най-важният досега?

The 21st century has already proven to be a period of rapid technological growth.

21-ви век вече доказа, че е период на бърз технологичен растеж.

Phones and computers have accelerated the pace of life.

Телефоните и компютрите ускориха темпото на живот.

And we’re likely on the cusp of developing new transformative technologies,

И вероятно сме на прага на развитието на нови трансформиращи технологии,

like advanced artificial intelligence,

като напреднал изкуствен интелект,

that could entirely change the way people live.

което може да промени изцяло начина на живот на хората.

Meanwhile, many technologies we already have

Междувременно много технологии, които вече имаме

contribute to humanity’s unprecedented levels of existential risk—

допринасят за невижданите нива на екзистенциален риск за човечеството -

that’s the risk of our species going extinct

това е рискът нашият вид да изчезне

or experiencing some kind of disaster that permanently limits

или преживяване на някакво бедствие, което трайно ограничава

humanity’s ability to grow and thrive.

способността на човечеството да расте и процъфтява.

The invention of the atomic bomb marked a major rise in existential risk,

Изобретяването на атомната бомба бележи голямо нарастване на екзистенциалния риск,

and since then we’ve only increased the odds against us.

и оттогава само увеличаваме шансовете срещу нас.

It’s profoundly difficult to estimate the odds

Изключително трудно е да се оценят шансовете

of an existential collapse occurring this century.

на екзистенциален срив настъпващ през този век.

Very rough guesses put the risk of existential catastrophe

Много груби предположения поставят риска от екзистенциалната катастрофа

due to nuclear winter and climate change at around 0.1%,

поради ядрената зима и изменението на климата около 0,1%,

with the odds of a pandemic causing the same kind of collapse

с вероятността пандемия да причини същия вид срив

at a frightening 3%.

с плашещите 3%.

Given that any of these disasters could mean the end of life as we know it,

Предвид, че всяко от тези бедствия може да значи край на живота, какъвто го знаем,

these aren’t exactly small figures,

това не са съвсем малки цифри.

And it’s possible this century could see the rise of new technologies

И е възможно този век да види възходът на новите технологии,

that introduce more existential risks.

които носят повече екзистенциални рискове.

AI experts have a wide range of estimates regarding

Експертите по ИИ имат широк диапазон на оценките относно

when artificial general intelligence will emerge,

кога изкуственият общ интелект ще се появи,

but according to some surveys, many believe it could happen this century.

но според проучвания, мнозина вярват, че това може да се случи през този век.

Currently, we have relatively narrow forms of artificial intelligence,

В момента имаме сравнително тесни форми на изкуствения интелект,

which are designed to do specific tasks like play chess or recognize faces.

които са създадени за специфични задачи като игра на шах или разпознаване на лица.

Even narrow AIs that do creative work are limited to their singular specialty.

И тесните ИИ, които вършат творчески труд, са ограничени до своята специалност.

But artificial general intelligences, or AGIs,

Но изкуствените общи интелекти, или AGIs,

would be able to adapt to and perform any number of tasks,

ще могат да се адаптират и да изпълняват всякакъв брой задачи,

quickly outpacing their human counterparts.

бързо изпреварващи техните човешки двойници.

There are a huge variety of guesses about what AGI could look like,

Има огромно разнообразие от предположения за това как може да изглежда AGI,

and what it would mean for humanity to share the Earth

и какво би означавало човечеството да споделя Земята

with another sentient entity.

с друго съзнателно същество.

AGIs might help us achieve our goals,

AGIs могат да ни помогнат да постигнем целите си,

they might regard us as inconsequential,

те могат да ни смятат за незначителни,

or, they might see us as an obstacle to swiftly remove.

или пък да ни видят като пречка, която трябва бързо да отстранят.

So in terms of existential risk,

Така че по отношение на екзистенциалния риск,

it's imperative the values of this new technology align with our own.

наложително е ценностите на тази нова технология да съответстват на нашите.

This is an incredibly difficult philosophical and engineering challenge

Това е невероятно трудно философско и инженерно предизвикателство,

that will require a lot of delicate, thoughtful work.

което ще изисква много деликатна, задълбочена работа.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Но дори и да успеем, AGI все още може да доведе до друг сложен резултат.

Let’s imagine an AGI emerges with deep respect for human life

Да си представим, че се появи AGI с дълбоко уважение към човешкия живот

and a desire to solve all humanity’s troubles.

и желание за решаване всички беди на човечеството.

But to avoid becoming misaligned,

Но за да се избегне разминаване,

it's been developed to be incredibly rigid about its beliefs.

той е разработен да бъде изключително твърд по отношение на убежденията си.

If these machines became the dominant power on Earth,

Ако тези машини станат доминиращата сила на Земята,

their strict values might become hegemonic,

техните строги ценности могат да станат хегемонистични,

locking humanity into one ideology that would be incredibly resistant to change.

затваряйки човечеството в идеология, която ще бъде невероятно устойчива на промени.

History has taught us that no matter how enlightened

Историята ни учи, че без значение колко просветени

a civilization thinks they are,

една цивилизация ги смята,

they are rarely up to the moral standards of later generations.

те рядко отговарят на моралните стандарти на по-късните поколения.

And this kind of value lock in could permanently distort or constrain

И този вид ценностно блокиране може трайно да изкриви или ограничи

humanity’s moral growth.

моралното израстване на човечеството.

There's a ton of uncertainty around AGI,

Има много несигурност около AGI,

and it’s profoundly difficult to predict how any existential risks

и е много трудно да се предвиди как всички екзистенциални рискове

will play out over the next century.

ще се разиграят през следващия век.

It’s also possible that new, more pressing concerns

Възможно е също така нови, по-належащи проблеми

might render these risks moot.

да направят тези рискове спорни.

But even if we can't definitively say that ours is the most important century,

Но дори и да не можем да кажем категорично че нашият век е най-важният,

it still seems like the decisions we make might have a major impact

все още изглежда, че решенията които правим, могат да имат голямо влияние

on humanity’s future.

върху бъдещето на човечеството.

So maybe we should all live like the future depends on us—

Може би всички трябва да живеем сякаш бъдещето зависи от нас -

because actually, it just might.

защото всъщност може и да е така.