The 4 greatest threats to the survival of humanity

Translator: Javid Naseri Reviewer: shirin etebar

In January of 1995, Russia detected a nuclear missile headed its way.

در ژانویه ۱۹۹۵، روسیه متوجه شد که یک موشک هسته‌ای در حال حرکت است.

The alert went all the way to the president,

هشدار در نهایت به رئیس جمهور رسید که

who was deciding whether to strike back

در حال تصمیم‌گیری بود که مقابله به مثل کند یا خیر،

when another system contradicted the initial warning.

زمانی که سامانه دیگری با هشدار اولیه در تضاد بود.

What they thought was the first missile in a massive attack

آنچه آنها فکر می‌کردند اولین موشک از یک حمله گسترده بود،

was actually a research rocket studying the Northern Lights.

در واقع یک موشک تحقیقاتی بود که شفق شمالی را مطالعه می‌کرد.

This incident happened after the end of the Cold War,

این حادثه پس از پایان جنگ سرد اتفاق افتاد،

but was nevertheless one of the closest calls we’ve had

اما با این وجود یکی از جدی‌ترین مخاطراتی بود که برای

to igniting a global nuclear war.

برافروختن یک جنگ هسته‌ای جهانی داشتیم.

With the invention of the atomic bomb,

با اختراع بمب اتم،

humanity gained the power to destroy itself for the first time in our history.

بشریت برای اولین بار در تاریخ ما، قدرت نابودی خود را به دست آورد.

Since then, our existential risk—

از آن زمان، خطر وجودی ما -

risk of either extinction

خطر انقراض

or the unrecoverable collapse of human civilization—

یا سقوط غیرقابل جبران تمدن بشری -

has steadily increased.

به طور پیوسته افزایش یافته است.

It’s well within our power to reduce this risk,

کاهش این خطر در توان ماست،

but in order to do so,

اما برای انجام این کار،

we have to understand which of our activities

ما باید درک کنیم که کدام یک از فعالیت‌های ما در حال حاضر

pose existential threats now, and which might in the future.

و کدام یک ممکن است در آینده تهدیدی وجودی باشد.

So far, our species has survived 2,000 centuries,

تاکنون، گونه‌ی ما از ۲,۰۰۰ قرن جان سالم به در برده‌ که

each with some extinction risk from natural causes—

هر کدام با برخی از خطرات انقراض ناشی از علل طبیعی مانند

asteroid impacts, supervolcanoes, and the like.

برخورد سیارک ها، ابر آتشفشان‌ها و مواردی از این دست روبرو هستند.

Assessing existential risk is an inherently uncertain business

ارزیابی تهدید وجودی یک کار ذاتا نامطمئن است زیرا

because usually when we try to figure out how likely something is,

معمولاً وقتی سعی می‌کنیم بفهمیم که احتمال وقوع چیزی چقدر است،

we check how often it's happened before.

بررسی می‌کنیم که قبلا چند بار اتفاق افتاده است.

But the complete destruction of humanity has never happened before.

اما نابودی کامل بشریت قبلاً هرگز اتفاق نیفتاده است.

While there’s no perfect method to determine our risk from natural threats,

در حالی که هیچ روش کاملی برای تعیین خطر ما از تهدیدات طبیعی وجود ندارد،

experts estimate it’s about 1 in 10,000 per century.

کارشناسان تخمین می‌زنند که این خطر ۱ در ۱۰,۰۰۰ در هر قرن است.

Nuclear weapons were our first addition to that baseline.

سلاح‌های هسته‌ای اولین افزوده ما به آن خط مبنا بود.

While there are many risks associated with nuclear weapons,

در حالی که خطرات زیادی در ارتباط با سلاح‌های هسته‌ای وجود دارد،

the existential risk comes from the possibility

تهدید وجودی از احتمالِ

of a global nuclear war that leads to a nuclear winter,

یک جنگ هسته‌ای جهانی ناشی می‌شود که به زمستان هسته‌ای منتهی می‌گردد،

where soot from burning cities blocks out the sun for years,

جایی که دوده‌های حاصل از سوختن شهرها، نور خورشید را برای سال‌ها مسدود می‌کنند،

causing the crops that humanity depends on to fail.

باعث می‌شود محصولاتی که بشریت به آن وابسته است از بین برود.

We haven't had a nuclear war yet,

هنوز جنگ هسته‌ای نداشته‌ایم،

but our track record is too short to tell if they’re inherently unlikely

اما سابقه ما بسیار کوتاه است که بگوییم آیا رویدادی ذاتاً بعید است یا خیر.

or we’ve simply been lucky.

یا ما به سادگی، خوش‌شانس بوده‌ایم.

We also can’t say for sure

نمی‌توان با اطمینان گفت که

whether a global nuclear war would cause a nuclear winter so severe

جنگ هسته‌ای جهانی باعث زمستان هسته‌ای چنان شدیدی می‌شود که

it would pose an existential threat to humanity.

تهدید وجودی برای بشریت شود.

The next major addition to our existential risk was climate change.

مسئله مهم بعدی که به تهدید وجودی ما اضافه شد، تغییرات اقلیمی بود.

Like nuclear war, climate change could result

مانند جنگ هسته‌ای، تغییرات اقلیمی می تواند منجر به

in a lot of terrible scenarios that we should be working hard to avoid,

سناریوهای وحشتناک زیادی شود که باید سخت تلاش کنیم تا از آنها اجتناب کنیم.

but that would stop short of causing extinction or unrecoverable collapse.

اما این امر باعث انقراض یا فروپاشی جبران‌ناپذیر نخواهد شد.

We expect a few degrees Celsius of warming,

ما انتظار داریم اقلیم چند درجه سانتی‌گراد گرم شود،

but can’t yet completely rule out 6 or even 10 degrees,

اما هنوز نمی‌توان افزایش ۶ یا حتی ۱۰ درجه را کاملاً رد کرد،

which would cause a calamity of possibly unprecedented proportions.

که می‌تواند فاجعه‌ای با ابعاد احتمالاً بی‌سابقه ایجاد کند.

Even in this worst-case scenario,

حتی در بدترین سناریو برای این مورد،

it’s not clear whether warming would pose a direct existential risk,

مشخص نیست که آیا گرمایش اقلیمی تهدید مستقیم وجودی را به همراه خواهد داشت یا نه،

but the disruption it would cause would likely make us more vulnerable

اما اختلالی که ایجاد می‌کند احتمالا ما را نسبت به

to other existential risks.

سایر خطرات وجودی آسیب پذیرتر می‌کند.

The greatest risks may come from technologies that are still emerging.

بزرگترین خطرات ممکن است ناشی ازفناوری‌هایی باشد که پیوسته در حال ظهور هستند.

Take engineered pandemics.

همه‌گیری‌های مهندسی‌شده را در نظر بگیرید.

The biggest catastrophes in human history have been from pandemics.

بزرگترین فجایع تاریخ بشر ناشی از همه‌گیری‌ها بوده است.

And biotechnology is enabling us to modify and create germs

و بیوتکنولوژی، ما را قادر می‌سازد میکروب‌هایی را تغییر دهیم و

that could be much more deadly than naturally occurring ones.

تولید کنیم که می‌توانند بسیار کشنده‌تر از میکروب‌های طبیعی باشند.

Such germs could cause pandemics through biowarfare and research accidents.

چنین میکروب‌هایی می‌توانند از طریق جنگ‌های زیستی و حوادث تحقیقاتی باعث همه‌گیری شوند.

Decreased costs of genome sequencing and modification,

کاهش هزینه‌های توالی‌یابی و اصلاح ژنوم،

along with increased availability of potentially dangerous information

همراه با افزایش دسترسی به اطلاعات بالقوه خطرناک

like the published genomes of deadly viruses,

مانند ژنوم‌های منتشر‌شده ویروس های کشنده،

also increase the number of people and groups

تعداد افراد و گروه‌هایی را نیز افزایش می‌دهد که

who could potentially create such pathogens.

به طور بالقوه می توانند چنین پاتوژن‌هایی را تولید کنند.

Another concern is unaligned AI.

نگرانی دیگر، هوش مصنوعی غیرهمسو است.

Most AI researchers think this will be the century

اکثر محققان هوش مصنوعی فکرمی‌کنند که

where we develop artificial intelligence that surpasses human abilities

این قرنی خواهد بود که در آن هوش مصنوعی را فراتر از توانایی‌های انسانی

across the board.

به صورت عمومی توسعه دهیم.

If we cede this advantage, we place our future in the hands

اگر این مزیت را از دست بدهیم، آینده خود را دراختیار سیستم هایی قرار می‌دهیم

of the systems we create.

که خودمان، آن‌ها را ایجاد می‌کنیم.

Even if created solely with humanity’s best interests in mind,

حتی اگر صرفاً با در نظر گرفتنِ بهترین منافع بشریت ایجاد شود،

superintelligent AI could pose an existential risk

هوش مصنوعی فراهوشمند اگر کاملاً با ارزش‌های انسانی

if it isn’t perfectly aligned with human values—

همسو نباشد، می‌تواند تهدیدی وجودی ایجاد کند-

a task scientists are finding extremely difficult.

کاری که دانشمندان آن را بسیار دشوار می‌دانند.

Based on what we know at this point,

بر اساس آنچه تا اینجا می‌دانیم،

some experts estimate the anthropogenic existential risk

برخی از کارشناسان تهدید وجودی انسانی را

is more than 100 times higher than the background rate of natural risk.

بیش از ۱۰۰ برابر بیشتر از نرخ عادی خطرات طبیعی، تخمین می‌زنند.

But these odds depend heavily on human choices.

اما این احتمال‌ها به شدت به انتخاب‌های بشری بستگی دارد.

Because most of the risk is from human action, and it’s within human control.

زیرا بیشترین تهدید، ناشی از اعمال انسان و در کنترل انسان است.

If we treat safeguarding humanity's future as the defining issue of our time,

اگر حفاظت از آینده بشریت را مسئله تعیین‌کننده زمان خود بدانیم،

we can reduce this risk.

می‌توانیم این خطر را کاهش دهیم.

Whether humanity fulfils its potential—

اینکه بشریت پتانسیل خود را برآورده می‌کند-

or not—

یا نه -

is in our hands.

در دست ما است.