Is AI the most important technology of the century?

Translator: Masoud Nayeb Reviewer: sadegh vn

What's the most important century in human history?

مهم‌ترین قرن در تاریخ بشریت کدام است

Some might argue it’s a period of extensive military campaigning,

برخی ممکن است اذعان کنند که دوران یک لشکرکشی طولانی است

like Alexander the Great’s in the 300s BCE,

مانند لشکرکشی اسکندر بزرگ ۳۰۰ سال پیش از میلاد مسیح

which reshaped political and cultural borders.

که مرزهای فرهنگی سیاسی را تغییر داد.

Others might cite the emergence of a major religion,

برخی دیگر ممکن است ظهور یک دین بزرگ را بیان کنند.

such as Islam in the 7th century,

مانند ظهور اسلام در قرن هفتم میلادی

which codified and spread values across such borders.

که ارزش‌های انسانی را مدون کرد و در دنیا گسترش داد.

Or perhaps it’s the Industrial Revolution of the 1700s

یا شاید دوران انقلاب صنعتی در قرن ۱۸ است

that transformed global commerce

که تجارت جهانی را تغییر داد

and redefined humanity's relationship with labor.

و تعریف تازه‌ای از رابطه انسان و کار را ارائه کرد.

Whatever the answer, it seems like any century vying for that top spot

جواب هر چه که باشد به نظر می‌رسد، که تمامی قرن‌های در رقابت برای جایگاه اول

is at a moment of great change—

در زمان یک تغییر بزرگ بوده‌اند.

when the actions of our ancestors shifted humanity’s trajectory

زمانی که اعمال اجدادمان مسیر حرکت بشریت را برای قرن‌های آتی

for centuries to come.

تغییر داده است.

So if this is our metric, is it possible that right now—

پس اگر این معیار ما باشد، آیا ممکن است که هم‌اکنون،

this century— is the most important one yet?

همین قرن حاضر، مهم‌ترین قرن تاکنون باشد؟

The 21st century has already proven to be a period of rapid technological growth.

قرن ۲۱ام تا کنون نشان داده است که دوران رشد سریع تکنولوژی است.

Phones and computers have accelerated the pace of life.

تلفن‌ها و کامپیوترها سرعت زندگی را افزایش داده‌اند.

And we’re likely on the cusp of developing new transformative technologies,

و احتمالا بشریت در نزدیکی توسعه یک تکنولوژی دگرگون کننده جدید

like advanced artificial intelligence,

مانند هوش مصنوعی پیشرفته است،

that could entirely change the way people live.

که می‌تواند نحوه زندگی انسان‌ها را به طور کامل تغییر دهد.

Meanwhile, many technologies we already have

در حالی که بسیاری از تکنولوژی‌هایی که هم اکنون در دسترس هستند،

contribute to humanity’s unprecedented levels of existential risk—

خطر بی‌سابقه‌ای برای بقای بشریت ایجاد می‌کنند.

that’s the risk of our species going extinct

این خطر انقراض گونه ما،

or experiencing some kind of disaster that permanently limits

یا تجربه نوعی فاجعه است، که برای همیشه

humanity’s ability to grow and thrive.

توانایی انسان‌ها برای رشد و نمو را محدود می‌کند.

The invention of the atomic bomb marked a major rise in existential risk,

اختراع بمب اتم یکی از این خطرات بزرگ برای بقای بشریت بود،

and since then we’ve only increased the odds against us.

و از آن پس ما فقط احتمال انقراض خود را افزایش داده‌ایم.

It’s profoundly difficult to estimate the odds

تخمین احتمال یک فروپاشی در بقای بشریت

of an existential collapse occurring this century.

در این قرن بسیار دشوار است.

Very rough guesses put the risk of existential catastrophe

حدس‌های تقریبی احتمال یک فاجعه برای بقای بشریت

due to nuclear winter and climate change at around 0.1%,

بر اثر زمستان هسته‌ای و تغییرات جوی را حدود ۰.۱ %

with the odds of a pandemic causing the same kind of collapse

و فراگیری یک بیماری به همان میزان مخرب را

at a frightening 3%.

میزان وحشتناک ۳% پیش‌بینی کرده‌اند.

Given that any of these disasters could mean the end of life as we know it,

با توجه به این که هر کدام از این فجایع می‌تواند زندگی انسان‌ها را پایان دهد،

these aren’t exactly small figures,

این ارقام، ارقام کمی نیستند.

And it’s possible this century could see the rise of new technologies

و ممکن است این قرن ظهور تکنولوژی جدیدی را شاهد باشد

that introduce more existential risks.

که خطرات بیشتری برای بقای بشریت ایجاد کند.

AI experts have a wide range of estimates regarding

متخصصان هوش مصنوعی تخمین‌های گوناگونی در رابطه با

when artificial general intelligence will emerge,

زمان ایجاد شدن هوش مصنوعی کلی دارند.

but according to some surveys, many believe it could happen this century.

اما براساس برخی نظرسنجی‌ها بسیاری براین باور هستند که زمان این پدیده قرن حاظر است.

Currently, we have relatively narrow forms of artificial intelligence,

هم اکنون، ما گونه‌های نسبتا محدودی از هوش مصنوعی را در اختیار داریم،

which are designed to do specific tasks like play chess or recognize faces.

که طراحی شده‌اند تا اعمال مشخصی مانند بازی شطرنج یا تشخیص چهره را انجام دهند.

Even narrow AIs that do creative work are limited to their singular specialty.

حتی هوش‌های مصنوعی محدودی که با خلاقیت عمل می‌کنند محدود به تخصص خود هستند.

But artificial general intelligences, or AGIs,

اما هوش مصنوعی کلی، یا ای جی آی‌‌ها، ‌

would be able to adapt to and perform any number of tasks,

می‌توانند سازگار شوند و هر تعداد فعالیت را انجام دهند،

quickly outpacing their human counterparts.

و به سرعت از همتایان انسانی خود پیشی بگیرند.

There are a huge variety of guesses about what AGI could look like,

حدس‌های بسیار گوناگونی در رابطه با اینکه هوش‌های مصنوعی کلی،

and what it would mean for humanity to share the Earth

و اشتراک زمین با یک گونه با ادراک دیگر

with another sentient entity.

به چه صورتی خواهند بود، وجود دارد.

AGIs might help us achieve our goals,

ای جی آی‌ها ممکن است به ما در دستیابی اهدافمان

they might regard us as inconsequential,

کمک کنند، ما را بی‌اهمیت تلقی کنند،

or, they might see us as an obstacle to swiftly remove.

یا ما را به عنوان مانعی ببینند که می‌بایست به سرعت حذف شود.

So in terms of existential risk,

پس با دیدگاه خطر برای بقای انسان

it's imperative the values of this new technology align with our own.

لازم است که ارزش های این تکنولوژی جدید با ارزش‌های ما در یک راستا باشند.

This is an incredibly difficult philosophical and engineering challenge

این یک چالش فیلسوفانه و مهندسی بسیار دشوار است،

that will require a lot of delicate, thoughtful work.

که نیازمند تفکر و دقت بسیار زیادی است.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

البته حتی اگر ما موفق شویم، باز ممکن است ای جی آی منجر به پیامد پیچیده دیگری شود.

Let’s imagine an AGI emerges with deep respect for human life

تصور کنید ای جی آی با احترام زیادی برای زندگی انسان

and a desire to solve all humanity’s troubles.

و میلی به رفع تمامی مشکلات بشریت پدیدار شود

But to avoid becoming misaligned,

ولی برای جلوگیری از تغییر جهت در باورهایش

it's been developed to be incredibly rigid about its beliefs.

به‌گونه‌ای توسعه یابد که بر عقایدش پایبند باشد.

If these machines became the dominant power on Earth,

چنان‌ چه این ماشین‌ها قدرت غالب بر روی زمین شوند،

their strict values might become hegemonic,

ارزش‌های محض آن ممکن است مسلط شود

locking humanity into one ideology that would be incredibly resistant to change.

و بشریت را در یک ایدئولوژی بسیار مقاوم در برابر تغییر محبوس کند.

History has taught us that no matter how enlightened

تاریخ به ما آموخته که هر قدر یک تمدن

a civilization thinks they are,

باور بر روشن فکری داشته باشد

they are rarely up to the moral standards of later generations.

به ندرت به سطح استانداردهای اخلاقی نسل‌های بعد می‌رسد.

And this kind of value lock in could permanently distort or constrain

و این‌گونه حبس ارزش‌ها ممکن است به صورت دائمی رشد اخلاقی بشریت را

humanity’s moral growth.

محدود یا منحرف کند.

There's a ton of uncertainty around AGI,

تردیدهای بسیاری در رابطه با ای جی آی وجود دارد،

and it’s profoundly difficult to predict how any existential risks

و پیش‌بینی اینکه هرگونه خطر برای بقای بشریت در قرن آینده

will play out over the next century.

چگونه رخ خواهد داد، بسیار دشوار است.

It’s also possible that new, more pressing concerns

همچنین ممکن است که تهدیدات جدید و خطرناک‌تر

might render these risks moot.

خطرات حاضر را بی‌اثر کنند.

But even if we can't definitively say that ours is the most important century,

اما حتی اگر نتوان به طور قطع قرن حاضر را مهم‌ترین قرن تاریخ دانست،

it still seems like the decisions we make might have a major impact

به نظر می‌رسد که تصمیمات ما ممکن است تاثیر عمده‌ای

on humanity’s future.

بر آینده بشریت داشته باشد.

So maybe we should all live like the future depends on us—

پس شاید همگی ما باید با دید تاثیر احتمالی‌مان بر آینده زندگی کنیم

because actually, it just might.

چون در حقیقت ممکن است این چنین باشد.