Is AI the most important technology of the century?

תרגום: zeeva livshitz עריכה: Ido Dekkers

What's the most important century in human history?

מהי המאה הכי חשובה בהיסטוריה האנושית?

Some might argue it’s a period of extensive military campaigning,

יש שיטענו שזו תקופה של מערכה צבאית נרחבת,

like Alexander the Great’s in the 300s BCE,

כמו של אלכסנדר מוקדון בשנות ה-300 לפני הספירה,

which reshaped political and cultural borders.

שעיצב מחדש את הגבולות הפוליטיים והתרבותיים.

Others might cite the emergence of a major religion,

אחרים עשויים לצטט את הופעתה של דת מרכזית,

such as Islam in the 7th century,

כמו האיסלאם במאה ה-7,

which codified and spread values across such borders.

אשר קודדה והפיצה ערכים מעבר לגבולות כאלה.

Or perhaps it’s the Industrial Revolution of the 1700s

או אולי זו המהפכה התעשייתית של שנות ה-1700

that transformed global commerce

ששינתה את המסחר העולמי

and redefined humanity's relationship with labor.

והגדירה מחדש את מערכת היחסים של האנושות עם עבודה.

Whatever the answer, it seems like any century vying for that top spot

לא משנה מה התשובה, זה נראה כאילו כל מאה שמתחרה על המקום הראשון

is at a moment of great change—

נמצאת ברגע של שינוי גדול-

when the actions of our ancestors shifted humanity’s trajectory

כאשר מעשי אבותינו שינו את מסלול האנושות

for centuries to come.

במשך מאות שנים קדימה.

So if this is our metric, is it possible that right now—

אז אם זה המדד שלנו, האם ייתכן שכרגע-

this century— is the most important one yet?

המאה הזו- היא החשובה ביותר עד כה?

The 21st century has already proven to be a period of rapid technological growth.

המאה ה-21 כבר הוכיחה את עצמה כתקופה של צמיחה טכנולוגית מהירה.

Phones and computers have accelerated the pace of life.

הטלפונים והמחשבים האיצו את קצב החיים.

And we’re likely on the cusp of developing new transformative technologies,

וסביר להניח שאנחנו על סף התפתחויות טכנולוגיות טרנספורמטיביות חדשות,

like advanced artificial intelligence,

כמו בינה מלאכותית מתקדמת,

that could entirely change the way people live.

זה יכול לשנות לגמרי את הדרך שבה אנשים חיים.

Meanwhile, many technologies we already have

בינתיים, הרבה טכנולוגיות שכבר יש לנו, תורמות

לרמות סיכון קיומי חסרות תקדים של האנושות -

contribute to humanity’s unprecedented levels of existential risk—

that’s the risk of our species going extinct

זוהי סכנת הכחדת המין שלנו

or experiencing some kind of disaster that permanently limits

או לחוות סוג של אסון שמגביל לצמיתות

humanity’s ability to grow and thrive.

את היכולת של האנושות לגדול ולשגשג.

The invention of the atomic bomb marked a major rise in existential risk,

המצאת פצצת האטום סימנה עלייה משמעותית בסיכון הקיומי,

and since then we’ve only increased the odds against us.

ומאז רק הגדלנו את הסיכויים נגדנו.

It’s profoundly difficult to estimate the odds

קשה מאוד להעריך את הסיכויים

of an existential collapse occurring this century.

של קריסה קיומית המתרחשת במאה הזו.

Very rough guesses put the risk of existential catastrophe

ניחושים גסים מאוד מציבים את הסיכון של קטסטרופה קיומית

due to nuclear winter and climate change at around 0.1%,

עקב חורף גרעיני ושינויי האקלים בסביבות 0.1%,

with the odds of a pandemic causing the same kind of collapse

עם הסיכויים שמגיפה תגרום אותו סוג של קריסה

at a frightening 3%.

ב-3% מפחידים.

Given that any of these disasters could mean the end of life as we know it,

בהתחשב בכך שכל אחד מהאסונות הללו יכול להתכוון לסוף החיים כפי שאנו מכירים אותם,

these aren’t exactly small figures,

אלו לא בדיוק נתונים קטנים,

And it’s possible this century could see the rise of new technologies

וייתכן שהמאה הזו תוכל לראות את עלייתן של טכנולוגיות חדשות

that introduce more existential risks.

שמציגות יותר סיכונים קיומיים.

AI experts have a wide range of estimates regarding

למומחי AI יש מגוון רחב של הערכות לגבי

when artificial general intelligence will emerge,

מצב כאשר אינטליגנציה כללית מלאכותית תופיע,

but according to some surveys, many believe it could happen this century.

אבל לפי כמה סקרים, רבים מאמינים שזה יכול לקרות במאה הנוכחית.

Currently, we have relatively narrow forms of artificial intelligence,

נכון לעכשיו, יש לנו צורות צרות יחסית של בינה מלאכותית,

which are designed to do specific tasks like play chess or recognize faces.

שנועדו לבצע משימות ספציפיות כמו לשחק שח או לזהות פרצופים.

Even narrow AIs that do creative work are limited to their singular specialty.

אפילו AI צרות שעושים עבודה יצירתית מוגבלות למומחיות הייחודית שלהם.

But artificial general intelligences, or AGIs,

אבל אינטליגנציות כלליות מלאכותיות, או AGIs,

would be able to adapt to and perform any number of tasks,

יוכלו להסתגל ל- ולבצע כל מספר של משימות,

quickly outpacing their human counterparts.

כשהם מתגברים במהירות על עמיתיהם האנושיים.

There are a huge variety of guesses about what AGI could look like,

יש מגוון עצום של ניחושים על איך AGI יכולה להיראות,

and what it would mean for humanity to share the Earth

ומה זה אומר לאנושות לשתף את כדור הארץ

with another sentient entity.

עם ישות חיה אחרת.

AGIs might help us achieve our goals,

AGIs עשויות לעזור לנו להשיג את המטרות שלנו,

they might regard us as inconsequential,

הן עלולות לראות אותנו כחסרי משמעות,

or, they might see us as an obstacle to swiftly remove.

או שהן עלולות לראות בנו מכשול שיש להסיר במהירות.

So in terms of existential risk,

אז במונחים של סיכון קיומי,

it's imperative the values of this new technology align with our own.

זה הכרחי שהערכים של הטכנולוגיה החדשה הזו יישרו קו עם הטכנולוגיה שלנו.

This is an incredibly difficult philosophical and engineering challenge

זהו אתגר פילוסופי והנדסי קשה להפליא

that will require a lot of delicate, thoughtful work.

שידרוש הרבה עבודה עדינה ומתחשבת.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

עם זאת, גם אם נצליח, AGI עדיין יכולה להוביל לתוצאה מסובכת נוספת.

Let’s imagine an AGI emerges with deep respect for human life

בואו נדמיין ש-AGI מופיעה עם כבוד עמוק לחיי אדם

and a desire to solve all humanity’s troubles.

ורצון לפתור את כל הצרות של האנושות.

אבל להימנע מלהיות מחוץ לשורה,

But to avoid becoming misaligned,

היא פותחה להיות נוקשה באופן יוצא דופן לגבי אמונותיה.

it's been developed to be incredibly rigid about its beliefs.

אם המכונות הללו יהפכו להיות הכוח הדומיננטי על פני כדור הארץ,

If these machines became the dominant power on Earth,

הערכים הנוקשים שלהן עשויים להיות הגמוניים,

their strict values might become hegemonic,

locking humanity into one ideology that would be incredibly resistant to change.

שנועלים את האנושות באידאולוגיה אחת שתהיה עמידה להפליא בפני שינויים.

ההיסטוריה לימדה אותנו שלא משנה כמה נאורות

History has taught us that no matter how enlightened

הציוויליזציה חושבת שהן,

a civilization thinks they are,

they are rarely up to the moral standards of later generations.

רק לעתים רחוקות הן עומדות באמות המידה המוסריות של הדורות הבאים.

And this kind of value lock in could permanently distort or constrain

וסוג כזה של ערך ננעל יכול לעוות או להגביל לצמיתות

humanity’s moral growth.

את הצמיחה המוסרית של האנושות.

יש המון אי ודאות סביב AGI,

There's a ton of uncertainty around AGI,

וקשה מאוד לחזות איך סיכונים קיומיים כלשהם

and it’s profoundly difficult to predict how any existential risks

ישחקו במהלך המאה הבאה.

will play out over the next century.

ייתכן גם שחששות חדשים, דחופים יותר

It’s also possible that new, more pressing concerns

עלולים להפוך את הסיכונים הללו למופרכים.

might render these risks moot.

אבל גם אם איננו יכולים לומר סופית שהמאה שלנו היא החשובה ביותר,

But even if we can't definitively say that ours is the most important century,

עדיין נראה שההחלטות שאנו עושים יהיו בעלות השפעה גדולה

it still seems like the decisions we make might have a major impact

על עתידה של האנושות.

on humanity’s future.

So maybe we should all live like the future depends on us—

אז אולי כולנו צריכים לחיות כאילו העתיד תלוי בנו-

because actually, it just might.

כי בעצם זה פשוט יכול להיות.