The most important century in human history

Translator: Syarifa Nurbela Reviewer: Reno Kanti Riananda

What's the most important century in human history?

Apa abad terpenting dalam sejarah manusia?

Some might argue it’s a period of extensive military campaigning,

Sebagian mungkin berpendapat bahwa itu adalah periode kampanye militer ekstensif,

like Alexander the Great’s in the 300s BCE,

seperti periode Iskandar yang Agung di abad 300-an SM,

which reshaped political and cultural borders.

yang mengubah batas-batas politik dan budaya.

Others might cite the emergence of a major religion,

Sebagiannya lagi mungkin mengutip munculnya agama besar,

such as Islam in the 7th century,

seperti Islam di abad ke-7,

which codified and spread values across such borders.

yang mengodifikasi dan menyebarkan nilai melintasi batas-batas tersebut.

Or perhaps it’s the Industrial Revolution of the 1700s

Atau mungkin, Revolusi Industri pada tahun 1700-an

that transformed global commerce

yang mengubah perdagangan global

and redefined humanity's relationship with labor.

dan mendefinisikan kembali hubungan manusia dengan tenaga kerja.

Whatever the answer, it seems like any century vying for that top spot

Apa pun jawabannya, tampaknya setiap abad yang bersaing sebagai abad terpenting

is at a moment of great change—

saat itu sedang mengalami perubahan besar—

when the actions of our ancestors shifted humanity’s trajectory

ketika tindakan nenek moyang kita menggeser lintasan umat manusia

for centuries to come.

untuk abad-abad berikutnya.

So if this is our metric, is it possible that right now—

Jadi jika ini adalah metrik kita, apakah mungkin bahwa saat ini—

this century— is the most important one yet?

abad ini— adalah yang paling penting?

The 21st century has already proven to be a period of rapid technological growth.

Abad ke-21 telah terbukti menjadi masa pertumbuhan teknologi yang pesat.

Phones and computers have accelerated the pace of life.

Telepon dan komputer telah mempercepat laju kehidupan.

And we’re likely on the cusp of developing new transformative technologies,

Dan kita mungkin berada di puncak pengembangan teknologi transformatif baru,

like advanced artificial intelligence,

seperti kecerdasan buatan yang canggih,

that could entirely change the way people live.

yang dapat mengubah cara hidup manusia sepenuhnya.

Meanwhile, many technologies we already have

Sementara itu, kebanyakan teknologi yang sudah kita miliki

contribute to humanity’s unprecedented levels of existential risk—

berkontribusi pada melonjaknya tingkat risiko eksistensial manusia—

that’s the risk of our species going extinct

risiko kepunahan spesies kita

or experiencing some kind of disaster that permanently limits

atau mengalami semacam bencana yang secara permanen membatasi

humanity’s ability to grow and thrive.

kemampuan manusia untuk tumbuh dan berkembang.

The invention of the atomic bomb marked a major rise in existential risk,

Penemuan bom atom menandai peningkatan besar risiko eksistensial,

and since then we’ve only increased the odds against us.

dan sejak itu kita semakin meningkatkan risiko.

It’s profoundly difficult to estimate the odds

Sangat sulit untuk memperkirakan kemungkinan

of an existential collapse occurring this century.

keruntuhan eksistensial yang terjadi abad ini.

Very rough guesses put the risk of existential catastrophe

Dugaan kasar menempatkan risiko bencana eksistensial

due to nuclear winter and climate change at around 0.1%,

akibat musim dingin nuklir dan perubahan iklim sekitar 0,1%,

with the odds of a pandemic causing the same kind of collapse

dengan kemungkinan pandemi menyebabkan jenis keruntuhan yang sama

at a frightening 3%.

di tingkat 3% yang menakutkan.

Given that any of these disasters could mean the end of life as we know it,

Mengingat bencana ini dapat berarti akhir kehidupan yang kita kenal,

these aren’t exactly small figures,

ini bukanlah angka yang kecil.

And it’s possible this century could see the rise of new technologies

Dan mungkin saja abad ini dapat melihat munculnya teknologi baru

that introduce more existential risks.

yang mengakibatkan lebih banyak risiko eksistensial.

AI experts have a wide range of estimates regarding

Ahli AI memiliki berbagai perkiraan mengenai

when artificial general intelligence will emerge,

kapan kecerdasan umum buatan akan muncul,

but according to some surveys, many believe it could happen this century.

tetapi menurut survei, banyak yang yakin bahwa itu akan terjadi abad ini.

Currently, we have relatively narrow forms of artificial intelligence,

Saat ini, kita memiliki bentuk kecerdasan buatan yang relatif sempit,

which are designed to do specific tasks like play chess or recognize faces.

yang dirancang untuk tugas spesifik seperti main catur atau mengenali wajah.

Even narrow AIs that do creative work are limited to their singular specialty.

Bahkan AI di bidang kreatif hanya terbatas pada spesialisasi tunggal mereka.

But artificial general intelligences, or AGIs,

Namun, kecerdasan umum buatan, atau AGI,

would be able to adapt to and perform any number of tasks,

akan mampu untuk beradaptasi dan melakukan sejumlah tugas,

quickly outpacing their human counterparts.

dengan cepat melampaui rekan manusia mereka.

There are a huge variety of guesses about what AGI could look like,

Ada berbagai macam perkiraan tentang seperti apa AGI,

and what it would mean for humanity to share the Earth

dan apa artinya bagi umat manusia untuk berbagi Bumi

with another sentient entity.

dengan entitas berakal lainnya.

AGIs might help us achieve our goals,

AGI mungkin membantu kita mencapai tujuan kita,

they might regard us as inconsequential,

mungkin menganggap kita tidak penting,

or, they might see us as an obstacle to swiftly remove.

atau mungkin melihat kita sebagai hambatan yang harus dihilangkan.

So in terms of existential risk,

Jadi, dalam hal risiko eksistensial,

it's imperative the values of this new technology align with our own.

nilai-nilai teknologi baru ini harus selaras dengan nilai yang kita anut.

This is an incredibly difficult philosophical and engineering challenge

Ini adalah tantangan filosofis dan teknik yang sangat sulit

that will require a lot of delicate, thoughtful work.

yang akan membutuhkan banyak pekerjaan yang rumit dan bijaksana.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Namun, meskipun berhasil, AGI masih dapat menghasilkan kerumitan lainnya.

Let’s imagine an AGI emerges with deep respect for human life

Bayangkan AGI muncul dengan rasa hormat yang mendalam terhadap kehidupan manusia

and a desire to solve all humanity’s troubles.

dan ingin memperbaiki semua masalah kemanusiaan.

But to avoid becoming misaligned,

Namun, agar tidak terjadi kesesatan,

it's been developed to be incredibly rigid about its beliefs.

AGI telah dikembangkan menjadi sangat kaku tentang keyakinannya.

If these machines became the dominant power on Earth,

Jika mesin ini menjadi kekuatan yang dominan di Bumi,

their strict values might become hegemonic,

nilai-nilai ketat mereka mungkin menjadi hegemonik,

locking humanity into one ideology that would be incredibly resistant to change.

memerangkap manusia ke sebuah ideologi yang sangat resisten terhadap perubahan.

History has taught us that no matter how enlightened

Sejarah telah mengajarkan bahwa seberapa pun

a civilization thinks they are,

sebuah peradaban merasa tercerahkan,

they are rarely up to the moral standards of later generations.

mereka jarang sekali memenuhi standar moral generasi selanjutnya.

And this kind of value lock in could permanently distort or constrain

Dan penguncian nilai semacam ini dapat mendistorsi atau membatasi secara permanen

humanity’s moral growth.

perkembangan moral kemanusiaan.

There's a ton of uncertainty around AGI,

Ada banyak ketidakpastian pada AGI,

and it’s profoundly difficult to predict how any existential risks

dan sangat sulit untuk memprediksi bagaimana risiko eksistensial

will play out over the next century.

akan berperan di abad berikutnya.

It’s also possible that new, more pressing concerns

Mungkin juga kekhawatiran baru yang lebih mendesak

might render these risks moot.

dapat membuat risiko ini diperdebatkan.

But even if we can't definitively say that ours is the most important century,

Namun, meski tak bisa memastikan bahwa abad kita yang paling penting,

it still seems like the decisions we make might have a major impact

keputusan yang kita buat tampaknya akan tetap memiliki dampak yang besar

on humanity’s future.

terhadap masa depan umat manusia.

So maybe we should all live like the future depends on us—

Jadi, mungkin kita harus hidup seolah masa depan bergantung pada kita—

because actually, it just might.

karena sebenarnya, itu mungkin saja.