The 4 greatest threats to the survival of humanity

Translator: lý hân Reviewer: My Den

In January of 1995, Russia detected a nuclear missile headed its way.

Tháng 1 năm 1995, nước Nga phát hiện tên lửa hạt nhân đang trên đường lao đến.

The alert went all the way to the president,

Cảnh báo được gửi đến tận tay tổng thống,

who was deciding whether to strike back

khi ông đang cân nhắc liệu có nên đánh trả

when another system contradicted the initial warning.

một hệ thống khác thông báo hoàn toàn ngược lại so với báo cáo ban đầu.

What they thought was the first missile in a massive attack

Thứ họ tưởng là tên lửa mở đường cho một cuộc tấn công vĩ mô

was actually a research rocket studying the Northern Lights.

thực chất chỉ là tên lửa nghiên cứu Bắc cực quang.

This incident happened after the end of the Cold War,

Sự việc xảy ra sau khi Chiến Tranh Lạnh đã kết thúc,

but was nevertheless one of the closest calls we’ve had

nhưng vẫn là một trong những hồi chuông báo động sớm nhất

to igniting a global nuclear war.

về khả năng bắt đầu một cuộc chiến tranh hạt nhân toàn cầu.

With the invention of the atomic bomb,

Với sự ra đời của bom nguyên tử,

humanity gained the power to destroy itself for the first time in our history.

lần đầu tiên trong lịch sử loài người có được sức mạnh tự hủy diệt.

Since then, our existential risk—

Từ đó, rủi ro về sự tồn tại của nhân loại—

risk of either extinction

dù là nguy cơ tuyệt chủng

or the unrecoverable collapse of human civilization—

hay sự sụp đổ không thể cứu vãn của nền văn minh nhân loại—

has steadily increased.

dần trở nên khả thi.

It’s well within our power to reduce this risk,

Ngăn chặn nguy cơ này hoàn toàn nằm trong khả năng con người,

but in order to do so,

nhưng để làm được điều đó,

we have to understand which of our activities

chúng ta phải hiểu những hoạt động nào của chúng ta

pose existential threats now, and which might in the future.

đặt ra các mối đe dọa hiện hữu ngay bây giờ, và có thể trong tương lai.

So far, our species has survived 2,000 centuries,

Cho đến nay, giống loài của ta đã tồn tại qua 2000 thế kỉ,

each with some extinction risk from natural causes—

mỗi thế kỉ đều có nguy cơ tuyệt chủng do tác động tự nhiên—

asteroid impacts, supervolcanoes, and the like.

chấn động từ các tiểu hành tinh, siêu núi lửa phun trào, và tương tự.

Assessing existential risk is an inherently uncertain business

Đánh giá rủi ro tồn tại là một công việc vốn không chắc chắn

because usually when we try to figure out how likely something is,

bởi vì thông thường khi chúng ta cố gắng tìm ra khả năng xảy ra một điều gì đó,

we check how often it's happened before.

chúng ta kiểm tra tần suất nó xảy ra trước đây.

But the complete destruction of humanity has never happened before.

Nhưng sự hủy diệt hoàn toàn của nhân loại chưa từng xảy ra trước đây.

While there’s no perfect method to determine our risk from natural threats,

Dù không có phương pháp hoàn hảo để xác định rủi ro trước các mối đe dọa tự nhiên,

experts estimate it’s about 1 in 10,000 per century.

các chuyên gia ước tính tỷ lệ này là khoảng 1/10000 mỗi thế kỷ.

Nuclear weapons were our first addition to that baseline.

Vũ khí hạt nhân là sự bổ sung đầu tiên vào khả năng ấy.

While there are many risks associated with nuclear weapons,

Trong khi có nhiều rủi ro bắt nguồn từ vũ khí hạt nhân,

the existential risk comes from the possibility

rủi ro sinh tồn đến từ khả năng diễn ra

of a global nuclear war that leads to a nuclear winter,

về một cuộc chiến tranh hạt nhân toàn cầu dẫn đến đến một mùa đông hạt nhân,

where soot from burning cities blocks out the sun for years,

khi khói đen từ các thành phố cháy rụi che mất mặt trời trong nhiều năm,

causing the crops that humanity depends on to fail.

khiến cho mùa màng mà loài người phụ thuộc vào thất bại.

We haven't had a nuclear war yet,

Chúng ta vẫn chưa gây ra cuộc chiến tranh hạt nhân nào,

but our track record is too short to tell if they’re inherently unlikely

nhưng dữ liệu của chúng ta quá ít để biết liệu chúng có khả năng xảy ra không

or we’ve simply been lucky.

hay đơn giản ta chỉ đang ăn may.

We also can’t say for sure

Chúng ta cũng không thể khẳng định

whether a global nuclear war would cause a nuclear winter so severe

liệu chiến tranh hạt nhân có dẫn đến mùa đông hạt nhân tồi tệ đến nỗi

it would pose an existential threat to humanity.

đe dọa sự tồn tại của nhân loại hay không.

The next major addition to our existential risk was climate change.

Nhân tố tiếp theo góp phần vào rủi ro tồn tại của con người là biến đổi khí hậu.

Like nuclear war, climate change could result

Như chiến tranh hạt nhân, biến đổi khí hẩu có thể dẫn đến

in a lot of terrible scenarios that we should be working hard to avoid,

nhiều viễn cảnh trầm trọng mà chúng ta nên nỗ lực tránh,

but that would stop short of causing extinction or unrecoverable collapse.

nhưng đó chỉ ngăn chặn tạm thời sự tuyệt chủng hoặc sụp đổ không thể xoay chuyển.

We expect a few degrees Celsius of warming,

Chúng tôi dự kiến ​​ấm lên vài độ C,

but can’t yet completely rule out 6 or even 10 degrees,

nhưng không thể hoàn toàn loại bỏ khả năng tăng 6 hoặc thậm chí 10 độ,

which would cause a calamity of possibly unprecedented proportions.

việc này có thể gây ra thảm họa với hậu quả chưa từng có.

Even in this worst-case scenario,

Trường hợp xấu nhất,

it’s not clear whether warming would pose a direct existential risk,

vẫn không thể chắc chắn việc ấm lên sẽ ảnh hưởng trực tiếp đến sự tồn tại của ta,

but the disruption it would cause would likely make us more vulnerable

nhưng sự gián đoạn mà nó gây ra có thể làm cho con người yếu thế hơn

to other existential risks.

trước một rủi ro tồn tại khác.

The greatest risks may come from technologies that are still emerging.

Rủi ro lớn nhất có lẽ đến từ các công nghệ vẫn đang trên đà phát triển.

Take engineered pandemics.

Như đại dịch nhân tạo.

The biggest catastrophes in human history have been from pandemics.

Những thảm họa lớn nhất trong lịch sử loài người đều bắt nguồn đại dịch bệnh.

And biotechnology is enabling us to modify and create germs

Và công nghệ sinh học đang cho phép ta chỉnh sửa và tạo ra các mầm bệnh

that could be much more deadly than naturally occurring ones.

còn có thể chết chóc hơn các mầm bệnh bắt nguồn từ tự nhiên.

Such germs could cause pandemics through biowarfare and research accidents.

Mầm bệnh trở thành đại dịch qua chiến tranh sinh học hoặc tai nạn nghiên cứu.

Decreased costs of genome sequencing and modification,

Giá cả của việc giải trình tự và chỉnh sửa bộ gen càng đi xuống,

along with increased availability of potentially dangerous information

ccùng với sự sẵn có ngày càng tăng của thông tin nguy hiểm tiềm ẩn

like the published genomes of deadly viruses,

như công bố về các bộ gen của các vi rút chết chóc,

also increase the number of people and groups

cũng góp phần gia tăng số cá nhân và nhóm người

who could potentially create such pathogens.

có thể tạo ra các dịch bệnh tương tự.

Another concern is unaligned AI.

Mâu thuẫn về AI là một mối lo khác.

Most AI researchers think this will be the century

Đa phần các nhà nghiên cứu AI cho rằng thế kỉ này

where we develop artificial intelligence that surpasses human abilities

là lúc ta phát triển trí tuệ nhân tạo vượt trội hơn cả khả năng con người

across the board.

trong mọi lĩnh vực.

If we cede this advantage, we place our future in the hands

Nếu chúng ta từ bỏ lợi thế này, chúng ta đặt tương lai của chính mình vào tay

of the systems we create.

các hệ thống mà chính chúng ta tạo nên.

Even if created solely with humanity’s best interests in mind,

Ngay cả khi được tạo ra chỉ vì lợi ích tốt nhất của con người,

superintelligent AI could pose an existential risk

AI siêu trí tuệ có thể đem lại nguy cơ tồn tại

if it isn’t perfectly aligned with human values—

nếu nó mẫu thuẫn với giá trị của con người-

a task scientists are finding extremely difficult.

một nhiệm vụ mà các nhà khoa học đang tìm kiếm vô cùng khó khăn.

Dựa trên những gì chúng tôi biết tại thời điểm này,

Based on what we know at this point,

some experts estimate the anthropogenic existential risk

một số chuyên gia ước tính nguy cơ tồn tại do thảm họa nhân tạo

is more than 100 times higher than the background rate of natural risk.

cao hơn 100 lần so với tỉ lệ thảm họa tự nhiên mà chúng ta đã biết.

But these odds depend heavily on human choices.

Nhưng những tỷ lệ cược này phụ thuộc nhiều vào sự lựa chọn của con người.

Because most of the risk is from human action, and it’s within human control.

Vì hầu hết rủi ro là từ hành động con người, và nằm trong tầm kiểm soát của ta.

If we treat safeguarding humanity's future as the defining issue of our time,

Nếu chúng ta xem việc bảo vệ tương lai của nhân loại

là vấn đề quan trọng của thời đại chúng ta,

we can reduce this risk.

chúng ta có thể giảm nguy cơ này.

Whether humanity fulfils its potential—

Liệu nhân loại có phát huy hết tiềm năng của mình—

or not—

hay không—

is in our hands.

phụ thuộc vào chúng ta.