Is AI the most important technology of the century?

Prevodilac: Milenka Okuka Lektor: Una Kavazović

What's the most important century in human history?

Koji je najvažniji vek u ljudskoj istoriji?

Some might argue it’s a period of extensive military campaigning,

Neki bi tvrdili da je to period opsežnih vojnih kampanja,

like Alexander the Great’s in the 300s BCE,

poput onih Aleksandra Velikog iz 300-ih g.p.n.e,

which reshaped political and cultural borders.

koje su preoblikovale političke i kulturološke granice.

Others might cite the emergence of a major religion,

Drugi bi naveli pojavu veće religije,

such as Islam in the 7th century,

poput islama u VII veku,

which codified and spread values across such borders.

koji je kodifikovao i proširio vrednosti širom granica.

Or perhaps it’s the Industrial Revolution of the 1700s

Ili je to možda industrijska revolucija iz 1700-ih

that transformed global commerce

koja je transformisala globalnu trgovinu

and redefined humanity's relationship with labor.

i redefinisala odnos ljudi prema radu.

Whatever the answer, it seems like any century vying for that top spot

Koji god bio odgovor, čini se da je svaki vek koji se nadmeće za prvu poziciju

is at a moment of great change—

trenutak velike promene -

when the actions of our ancestors shifted humanity’s trajectory

kada su postupci naših predaka izmenili putanju čovečanstva

for centuries to come.

u nadolazećim vekovima.

So if this is our metric, is it possible that right now—

Ukoliko nam je to merilo, da li je moguće da je upravo sad -

this century— is the most important one yet?

ovaj vek - najvažniji od svih prethodnih?

The 21st century has already proven to be a period of rapid technological growth.

Već se ispostavilo da je XXI vek period ubrzanog tehnološkog napretka.

Phones and computers have accelerated the pace of life.

Telefoni i kompjuteri su ubrzali životni ritam.

And we’re likely on the cusp of developing new transformative technologies,

I verovatno smo na ivici razvoja novih preobražajnih tehnologija,

like advanced artificial intelligence,

poput napredne veštačke inteligencije,

that could entirely change the way people live.

koje bi mogle u potpunosti da promene način na koji ljudi žive.

Meanwhile, many technologies we already have

Istovremeno, mnoge tehnologije koje već posedujemo

contribute to humanity’s unprecedented levels of existential risk—

doprinose nivoima egzistencijalnog rizika bez presedana po čovečanstvo -

that’s the risk of our species going extinct

a to je rizik od izumiranja naše vrste

or experiencing some kind of disaster that permanently limits

ili doživljavanja nekakve katastrofe koja bi trajno ograničila

humanity’s ability to grow and thrive.

sposobnost čovečanstva da raste i napreduje.

The invention of the atomic bomb marked a major rise in existential risk,

Izum atomske bombe je obeležio ogroman rast u egzistencijalnom riziku,

and since then we’ve only increased the odds against us.

a otad smo samo uvećali izglede protiv nas.

It’s profoundly difficult to estimate the odds

Istinski je komplikovano izračunati izglede

of an existential collapse occurring this century.

od egzistencijalnog kolapsa u ovom veku.

Very rough guesses put the risk of existential catastrophe

Krajnje okvirna nagađanja procenjuju rizik od egzistencijalne katastrofe

due to nuclear winter and climate change at around 0.1%,

zbog nuklearne zime i klimatskih promena na oko 0,1%,

with the odds of a pandemic causing the same kind of collapse

sa izgledima da isti kolaps izazove pandemija

at a frightening 3%.

na zastrašujućih 3%.

Given that any of these disasters could mean the end of life as we know it,

Kako bi bilo koja od ovih katastrofa mogla da znači kraj života kakvog znamo,

these aren’t exactly small figures,

ne radi se baš o sitnim brojkama.

And it’s possible this century could see the rise of new technologies

A moguće je da će ovaj vek posvedočiti usponu novih tehnologija

that introduce more existential risks.

koje će uvesti dodatni egzistencijalni rizik.

Stručnjaci za VI imaju širok dijapazon procena u vezi sa tim

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

kada će se pojaviti veštačka opšta inteligencija,

but according to some surveys, many believe it could happen this century.

ali prema nekim anketama, mnogi veruju da bi se to moglo desiti u ovom veku.

Currently, we have relatively narrow forms of artificial intelligence,

Trenutno imamo relativno svedene oblike veštačke inteligencije,

which are designed to do specific tasks like play chess or recognize faces.

koji su osmišljeni da obavljaju specifične zadatke,

poput igranja šaha ili prepoznavanja lica.

Even narrow AIs that do creative work are limited to their singular specialty.

Čak i svedene VI koje obavljaju kreativne poslove

ograničene su na pojedinačnu specijalnost.

But artificial general intelligences, or AGIs,

Međutim, veštačke opšte inteligencije ili VOI

would be able to adapt to and perform any number of tasks,

bi mogle da budu prilagodljive i da izvode brojne zadatke,

quickly outpacing their human counterparts.

brzo nadmašujući svoje ljudske pandane.

There are a huge variety of guesses about what AGI could look like,

Pretpostavke kako bi VOI mogla da izgleda uveliko variraju,

and what it would mean for humanity to share the Earth

kao i šta bi to značilo za čovečanstvo da deli zemlju

with another sentient entity.

sa drugim svesnim entitetom.

AGIs might help us achieve our goals,

VOI bi mogla da nam pomogne u ispunjavanju ciljeva,

they might regard us as inconsequential,

mogla bi da nas smatra beznačajnim

or, they might see us as an obstacle to swiftly remove.

ili bi mogla da gleda na nas kao na prepreku koju treba hitno ukloniti.

So in terms of existential risk,

Te je u smislu egzistencijalnog rizika

it's imperative the values of this new technology align with our own.

suštinski važno da se vrednosti ove nove tehnologije podudare sa našim.

This is an incredibly difficult philosophical and engineering challenge

Radi se o izuzetno komplikovanom filozofskom i inženjerskom izazovu

that will require a lot of delicate, thoughtful work.

koji će zahtevati mnogo prefinjenog, promišljenog rada.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Ipak, čak i ako uspemo, VOI bi i dalje mogla da dovede do drugog složenog ishoda.

Let’s imagine an AGI emerges with deep respect for human life

Recimo da se VOI pojavi sa istinskim poštovanjem za ljudski život

and a desire to solve all humanity’s troubles.

i željom da reši sve ljudske neprilike.

But to avoid becoming misaligned,

Međutim, kako bi se izbegla nekompatibilnost,

it's been developed to be incredibly rigid about its beliefs.

razvijena je da bude krajnje rigidna u vezi sa svojim uverenjima.

If these machines became the dominant power on Earth,

Ukoliko ove mašine postanu dominantna sila na zemlji,

their strict values might become hegemonic,

njihove stroge vrednosti bi mogle postati hegemonističke

locking humanity into one ideology that would be incredibly resistant to change.

i učauriti čovečanstvo u jednu ideologiju koja bi bila krajnje otporna na promene.

History has taught us that no matter how enlightened

Iz istorije smo naučili da koliko god prosvetljenom

a civilization thinks they are,

neka civilizacija smatrala sebe,

they are rarely up to the moral standards of later generations.

retko doseže moralne standarde kasnijih generacija.

And this kind of value lock in could permanently distort or constrain

A ovakav vid učaurivanja vrednosti bi mogao trajno iskriviti ili ograničiti

humanity’s moral growth.

moralni rast čovečanstva.

There's a ton of uncertainty around AGI,

Postoji gomila neizvesnosti u vezi sa VOI,

and it’s profoundly difficult to predict how any existential risks

a istinski je teško predvideti kako će bilo koji egzistencijalni rizik

will play out over the next century.

da se odvija u narednom veku.

It’s also possible that new, more pressing concerns

Takođe je moguće da bi zbog novih, hitnijih briga

might render these risks moot.

ovi rizici mogli biti prevaziđeni.

But even if we can't definitively say that ours is the most important century,

Međutim, čak i ako ne možemo sa sigurnošću tvrditi da je naš vek najvažniji,

it still seems like the decisions we make might have a major impact

i dalje se čini da bi odluke koje donosimo mogle da imaju značajan uticaj

on humanity’s future.

na budućnost čovečanstva.

So maybe we should all live like the future depends on us—

Stoga bi svi možda trebalo da živimo kao da budućnost zavisi od nas -

because actually, it just might.

jer bi zapravo baš to i mogao da bude slučaj.