Is AI the most important technology of the century?

Translator: Ngọc Quỳnh Đặng Reviewer: Mai Tran

What's the most important century in human history?

Thế kỷ nào là quan trọng nhất trong lịch sử loài người?

Some might argue it’s a period of extensive military campaigning,

Một vài người cho rằng đó là thời kỳ chiến dịch quân sự mở rộng,

like Alexander the Great’s in the 300s BCE,

như thời của Alexander Đại đế vào khoảng năm 300 trước công nguyên,

which reshaped political and cultural borders.

là thời kì đã định hình lại các ranh giới văn hóa và chính trị.

Others might cite the emergence of a major religion,

Những người khác cho rằng sự ra đời của một tôn giáo lớn,

such as Islam in the 7th century,

ví dụ như Hồi giáo vào thế kỷ thứ 7,

which codified and spread values across such borders.

thì đã chuẩn hóa và lan tỏa các giá trị xuyên ranh giới các quốc gia.

Or perhaps it’s the Industrial Revolution of the 1700s

Hoặc có lẽ đó là cuộc Cách mạng Công nghiệp vào những năm 1700

that transformed global commerce

đã biến đổi thương mại toàn cầu

and redefined humanity's relationship with labor.

và tái định nghĩa mối quan hệ của nhân loại với lao động.

Whatever the answer, it seems like any century vying for that top spot

Dù câu trả lời là gì, có vẻ như bất kỳ thế kỷ nào giành vị trí hàng đầu

is at a moment of great change—

thì đều là thời điểm của sự thay đổi lớn--

when the actions of our ancestors shifted humanity’s trajectory

khi hành động của tổ tiên chúng ta làm thay đổi quỹ đạo của nhân loại

for centuries to come.

trong nhiều thế kỷ tới.

So if this is our metric, is it possible that right now—

Vì vậy nếu như đây là quy chuẩn, thì liệu có thể rằng ngay lúc này,

this century— is the most important one yet?

chính thế kỷ này mới là thế kỷ quan trọng nhất?

The 21st century has already proven to be a period of rapid technological growth.

Thế kỷ 21 đã cho chứng tỏ là một thời kỳ phát triển công nghệ nhanh chóng.

Phones and computers have accelerated the pace of life.

Điện thoại và máy tính đã đẩy nhanh nhịp sống của con người.

And we’re likely on the cusp of developing new transformative technologies,

Và chúng ta đang trên đà phát triển những công nghệ biến đổi mới,

like advanced artificial intelligence,

như trí tuệ nhân tạo cao cấp,

that could entirely change the way people live.

là thứ có thể làm thay đổi hoàn toàn lối sống của con người.

Meanwhile, many technologies we already have

Trong khi đó, nhiều công nghệ mà chúng ta vốn có

contribute to humanity’s unprecedented levels of existential risk—

lại góp phần vào mức độ rủi ro hiện sinh chưa từng thấy của nhân loại--

that’s the risk of our species going extinct

đó là nguy cơ khiến giống loài của chúng ta bị tuyệt chủng

or experiencing some kind of disaster that permanently limits

hoặc đối diện với một vài thảm họa mà vĩnh viễn kìm hãm

humanity’s ability to grow and thrive.

khả năng sinh trưởng và phát triển của nhân loại.

The invention of the atomic bomb marked a major rise in existential risk,

Việc phát minh bom nguyên tử đánh dấu bước nhảy vọt của rủi ro hiện sinh,

and since then we’ve only increased the odds against us.

và kể từ đó chúng ta chỉ làm tăng thêm khả năng chống lại chúng ta.

It’s profoundly difficult to estimate the odds

Nó cực kì khó để ước tính khả năng

of an existential collapse occurring this century.

của một sự sụp đổ hiện sinh xuất hiện trong thế kỷ này.

Very rough guesses put the risk of existential catastrophe

Những suy đoán thô sơ có nguy cơ gây ra thảm họa hiện sinh

due to nuclear winter and climate change at around 0.1%,

do mùa đông hạt nhân và biến đổi khí hậu ở khoảng 0.1%,

with the odds of a pandemic causing the same kind of collapse

với khả năng của một dịch bệnh gây ra một loại sụp đổ tương tự

at a frightening 3%.

ở mức đáng sợ là 3%.

Được cho rằng bất kì thảm họa nào trong số này có thể chính là

Given that any of these disasters could mean the end of life as we know it,

dấu chấm hết của sự sống,

these aren’t exactly small figures,

đây chính xác là các số liệu không hề nhỏ,

And it’s possible this century could see the rise of new technologies

Và thế kỷ này cũng có thể thấy được sự gia tăng của công nghệ mới

that introduce more existential risks.

là thứ gây ra nhiều rủi ro hiện sinh hơn.

AI experts have a wide range of estimates regarding

Các chuyên gia AI có một loạt dự đoán về việc

when artificial general intelligence will emerge,

khi nào trí tuệ nhân tạo tổng hợp sẽ xuất hiện,

but according to some surveys, many believe it could happen this century.

nhưng theo một vài khảo sát, nhiều người tin rằng nó có thể xảy ra ở thế kỷ này.

Currently, we have relatively narrow forms of artificial intelligence,

Hiện nay, chúng ta có những dạng thức trí tuệ nhân tạo tương đối hẹp,

which are designed to do specific tasks like play chess or recognize faces.

chúng được thiết kế để làm các việc cụ thể như chơi cờ hoặc nhận diện khuôn mặt.

Even narrow AIs that do creative work are limited to their singular specialty.

Ngay cả các AI hẹp làm việc sáng tạo cũng bị hạn chế bởi chuyên môn duy nhất của nó.

But artificial general intelligences, or AGIs,

Nhưng trí tuệ nhân tạo tổng hợp, hay AGI,

would be able to adapt to and perform any number of tasks,

sẽ có thể thích nghi và thực hiện bất cứ công việc nào,

quickly outpacing their human counterparts.

nhanh chóng vượt xa đối tác con người của chúng.

There are a huge variety of guesses about what AGI could look like,

Có nhiều suy đoán khác nhau về việc AGI sẽ trông như thế nào,

and what it would mean for humanity to share the Earth

và nó có ý nghĩa gì đối với nhân loại khi phải chia sẻ Trái Đất

with another sentient entity.

với một thực thể có tri giác khác.

AGIs might help us achieve our goals,

AGI có thể giúp chúng ta đạt được các mục tiêu của mình,

they might regard us as inconsequential,

chúng có thể xem loài người là vô hại,

or, they might see us as an obstacle to swiftly remove.

hoặc, chúng cũng có thể xem chúng ta như trở ngại để nhanh chóng loại bỏ.

So in terms of existential risk,

Do đó khi xét về rủi ro hiện sinh,

it's imperative the values of this new technology align with our own.

điều bắt buộc là giá trị của công nghệ mới này phải tương đồng

với giá trị của chúng ta.

This is an incredibly difficult philosophical and engineering challenge

Đây là một thách thức cực khó về mặt triết lý và kĩ thuật

that will require a lot of delicate, thoughtful work.

nó đòi hỏi rất nhiều công việc tỉ mỉ, cẩn trọng.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Nhưng, kể cả khi chúng ta thành công, AGI vẫn có thể đưa tới kết quả phức tạp khác.

Let’s imagine an AGI emerges with deep respect for human life

Hãy tưởng tượng một AGI xuất hiện với sự tôn trọng sâu sắc cuộc sống của con người

and a desire to solve all humanity’s troubles.

và một khao khát muốn giải quyết tất cả các vấn đề của nhân loại.

But to avoid becoming misaligned,

Nhưng để tránh trở nên lệch lạc,

it's been developed to be incredibly rigid about its beliefs.

nó đã được phát triển để trở nên cực kì cứng rắn với niềm tin của mình.

If these machines became the dominant power on Earth,

Nếu những máy móc này trở thành quyền lực thống trị trên thế giới,

their strict values might become hegemonic,

các giá trị nghiêm ngặt của chúng có thể trở nên độc đoán,

locking humanity into one ideology that would be incredibly resistant to change.

nhốt con người vào một hệ tư tưởng cực kì khó khăn để thay đổi.

History has taught us that no matter how enlightened

Lịch sử đã dạy ta rằng bất kể nền văn minh cho rằng họ giác ngộ như thế nào,

a civilization thinks they are,

they are rarely up to the moral standards of later generations.

họ hiếm khi đạt tới các tiêu chuẩn đạo đức của các thế hệ sau.

And this kind of value lock in could permanently distort or constrain

Và loại giá trị ép buộc này có thể vĩnh viễn làm biến dạng hoặc kìm hãm

humanity’s moral growth.

sự phát triển đạo đức của con người.

There's a ton of uncertainty around AGI,

Có vô vàn những biến số về AGI,

and it’s profoundly difficult to predict how any existential risks

và thực sự rất khó đế dự đoán cách mà bất kì các rủi ro hiện sinh nào

will play out over the next century.

sẽ diễn ra trong thế kỷ tới.

It’s also possible that new, more pressing concerns

Cũng có thể là những mối quan tâm mới, cấp bách hơn

might render these risks moot.

có thể đưa tới các rủi ro ít thực tế.

But even if we can't definitively say that ours is the most important century,

Nhưng kể cả khi chúng ta không thể khẳng định rằng thế kỷ của chúng ta

là thế kỉ quan trọng nhất,

it still seems like the decisions we make might have a major impact

thì dường như những quyết định chúng ta đưa ra có lẽ vẫn sẽ có tác động to lớn

on humanity’s future.

đối với tương lai của nhân loại.

So maybe we should all live like the future depends on us—

Vì vậy có lẽ chúng ta nên sống như thể tương lai phụ thuộc vào chính chúng ta,

because actually, it just might.

bởi trên thực tế, nó chỉ có thể như vậy.