Is AI the most important technology of the century?

Tłumaczenie: Krystian Dorożyński Korekta: Ola Królikowska

What's the most important century in human history?

Które stulecie w dziejach ludzkości jest najważniejsze?

Some might argue it’s a period of extensive military campaigning,

Jedni powiedzą, że to czasy wielkich kampanii wojennych,

like Alexander the Great’s in the 300s BCE,

na przykład Aleksandra Wielkiego, czyli w IV wieku p.n.e.,

which reshaped political and cultural borders.

przez które granice polityczne i kulturowe uległy zmianom.

Others might cite the emergence of a major religion,

Inni mogliby się odwołać do narodzin którejś z głównych religii,

such as Islam in the 7th century,

na przykład islamu w VII wieku p.n.e.,

which codified and spread values across such borders.

który skodyfikował i upowszechnił pewne wartości w obrębie tych granic.

Or perhaps it’s the Industrial Revolution of the 1700s

Jeszcze inni powiedzą, że to rewolucja przemysłowa w XVIII wieku,

that transformed global commerce

która zmieniła oblicze światowego handlu i przedefiniowała relację człowiek-praca.

and redefined humanity's relationship with labor.

Whatever the answer, it seems like any century vying for that top spot

Wspólnym mianownikiem wszystkich stuleci kandydujących do tytułu najważniejszego

is at a moment of great change—

są wielkie zmiany,

when the actions of our ancestors shifted humanity’s trajectory

gdy przez działania naszych przodków trajektoria ludzkości ulegała zmianom,

for centuries to come.

których skutek odczuwały następne pokolenia.

So if this is our metric, is it possible that right now—

Jeśli przyjąć powyższe kryterium, to czy jest możliwe, że teraźniejszość,

this century— is the most important one yet?

czyli XXI wiek, jest tym najważniejszym?

The 21st century has already proven to be a period of rapid technological growth.

XXI wiek okazał się okresem gwałtownego wzrostu technologicznego.

Phones and computers have accelerated the pace of life.

Telefony komórkowe i komputery nadały pęd naszemu życiu.

And we’re likely on the cusp of developing new transformative technologies,

Ludzkość jest prawdopodobnie o krok od nowych, rewolucyjnych wynalazków,

like advanced artificial intelligence,

takich jak zaawansowana sztuczna inteligencja,

that could entirely change the way people live.

która byłaby w stanie zupełnie odmienić nasze życie.

Meanwhile, many technologies we already have

Tymczasem wiele z dostępnych obecnie technologii

contribute to humanity’s unprecedented levels of existential risk—

przyczyniło się do niespotykanego dotąd wzrostu ryzyka egzystencjalnego,

that’s the risk of our species going extinct

czyli ryzyka związanego z wyginięciem naszego gatunku,

or experiencing some kind of disaster that permanently limits

lub jakąś katastrofą, która trwale ograniczyłaby

humanity’s ability to grow and thrive.

zdolność ludzkości do rozwoju.

The invention of the atomic bomb marked a major rise in existential risk,

Wynalezienie bomby atomowej było momentem znacznego wzrostu ryzyka egzystencjalnego

and since then we’ve only increased the odds against us.

i od tamtego momentu sprawa się jedynie pogarsza.

It’s profoundly difficult to estimate the odds

Bardzo trudno oszacować szanse

of an existential collapse occurring this century.

wystąpienia egzystencjalnego załamania w tym stuleciu.

Very rough guesses put the risk of existential catastrophe

Według wstępnych prognoz ryzyko wystąpienia katastrofy egzystencjonalnej

due to nuclear winter and climate change at around 0.1%,

spowodowanej zimą nuklearną lub zmianą klimatu wynosi 0,1%,

with the odds of a pandemic causing the same kind of collapse

przy czym szanse wybuchu pandemii mającego ten sam skutek

at a frightening 3%.

wynoszą aż 3%.

Given that any of these disasters could mean the end of life as we know it,

Jeśli przyjmiemy, że te katastrofy oznaczają koniec znanego nam życia,

these aren’t exactly small figures,

liczby te nie są wcale takie małe.

And it’s possible this century could see the rise of new technologies

Możliwe, że XXI wiek jest czasem rozwoju wielu nowych technologii,

that introduce more existential risks.

które stworzyły kolejne ryzyka egzystencjonalne.

Eksperci od sztucznej inteligencji przeprowadzili wiele prognoz

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

szacujących, kiedy pojawi się sztuczna inteligencja,

but according to some surveys, many believe it could happen this century.

ale według pewnych badań wielu uważa, że może to się stać w tym wieku.

Currently, we have relatively narrow forms of artificial intelligence,

Obecnie dysponujemy okrojonymi formami sztucznej inteligencji,

which are designed to do specific tasks like play chess or recognize faces.

wykonującej takie zadnia jak gra w szachy czy rozpoznawanie twarzy.

Even narrow AIs that do creative work are limited to their singular specialty.

Nawet wąska SI wykonująca pracę kreatywną nie wychodzi poza swoją specjalizację.

But artificial general intelligences, or AGIs,

Ale silna sztuczna inteligencja SSI

would be able to adapt to and perform any number of tasks,

mogłaby wykonywać i adaptować się do niezliczonej liczby zadań,

quickly outpacing their human counterparts.

szybko wyprzedzając ludzki odpowiednik.

There are a huge variety of guesses about what AGI could look like,

Jest wiele różnych prognoz co do tego, jak SSI mogłaby wyglądać

and what it would mean for humanity to share the Earth

i co oznaczałoby dla ludzkości dzielenie życia na ziemi

with another sentient entity.

z innym świadomym bytem.

AGIs might help us achieve our goals,

SSI mogłaby pomóc nam osiągać nasze cele,

they might regard us as inconsequential,

postrzegać nas jako coś nieistotnego

or, they might see us as an obstacle to swiftly remove.

albo uznać nas za przeszkodę, którą trzeba szybko usunąć.

So in terms of existential risk,

Więc jeśli chodzi o ryzyko egzystencjalne,

it's imperative the values of this new technology align with our own.

konieczne jest, żeby wartości nowej technologii pokrywały się z naszymi.

This is an incredibly difficult philosophical and engineering challenge

Jest to ogromne wyzwanie, zarówno filozoficznie jak i inżynieryjnie,

that will require a lot of delicate, thoughtful work.

które będzie wymagało wiele ostrożnej, przemyślanej pracy.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Ale nawet jeśli nam uda, SSI mogłaby prowadzić do kolejnych komplikacji.

Let’s imagine an AGI emerges with deep respect for human life

Załóżmy, że nowopowstałe SSI cechuje głębokie poszanowanie ludzkiego życia

and a desire to solve all humanity’s troubles.

i chęć rozwiązania wszelkich problemów ludzkości.

But to avoid becoming misaligned,

Ale żeby uniknąć niespójności,

it's been developed to be incredibly rigid about its beliefs.

została tak zaprogramowana, żeby ściśle trzymała się swoich przekonań.

If these machines became the dominant power on Earth,

Jeśli takie maszyny staną się dominującą siłą na Ziemi,

their strict values might become hegemonic,

ich ścisłe wartości mogą stać się hegemoniczne,

locking humanity into one ideology that would be incredibly resistant to change.

co wiązałoby ludzkość z jedną ideologią wyjątkowo odporną na zmiany.

History has taught us that no matter how enlightened

Historia uczy nas, że nieważne,

jak dana cywilizacja postrzega się w kwestii rozwoju,

a civilization thinks they are,

they are rarely up to the moral standards of later generations.

rzadko spełnia standardy moralne późniejszych pokoleń.

And this kind of value lock in could permanently distort or constrain

Taki rodzaj ograniczenia wartości mogłby zniekształcić lub zatrzymać

humanity’s moral growth.

wzrost moralny ludzkości.

There's a ton of uncertainty around AGI,

Jest wiele niepewności związanych z SSI

and it’s profoundly difficult to predict how any existential risks

i wyjątkowo trudno przewidzieć, jak ryzyka egzystencjalne

will play out over the next century.

rozwiną się w następnym wieku.

It’s also possible that new, more pressing concerns

Możliwe, że nowe, bardziej naglące problemy

might render these risks moot.

mogą zniwelować te ryzyka.

But even if we can't definitively say that ours is the most important century,

Mimo że nie można z pewnością stwierdzić, że nasz wiek jest najważniejszy,

it still seems like the decisions we make might have a major impact

wygląda na to, że nasze decyzje mogą mieć znaczny wpływ

on humanity’s future.

na przyszłość ludzkości.

So maybe we should all live like the future depends on us—

Więc może powinniśmy żyć tak, jakby przyszłość zależała od nas?

because actually, it just might.

Bo być może tak właśnie jest.