Nick Bostrom: Humanity's biggest problems aren't what you think they are

מתרגם: Adam Golub מבקר: Ido Dekkers

I want to talk today about --

אני רוצה לדבר היום על --

I've been asked to take the long view, and I'm going to tell you what

התבקשתי להסתכל לטווח הארוך, ואני אגיד לכם מהן לדעתי

I think are the three biggest problems for humanity

שלוש הבעיות הכי גדולות של בני האדם.

from this long point of view.

מנקודת המבט הזו

Some of these have already been touched upon by other speakers,

על חלקן כבר דיברו מרצים אחרים

which is encouraging.

שזה מעודד אותי

It seems that there's not just one person

נדמה כי יש יותר מלבד איש אחד

who thinks that these problems are important.

שחושב שהבעיות הללו חשובות.

The first is -- death is a big problem.

הראשונה היא -- המוות הוא בעיה גדולה.

If you look at the statistics,

אם תסתכלו על הסטטיסטיקות

the odds are not very favorable to us.

הסיכוים נגדנו.

So far, most people who have lived have also died.

נכון לעכשיו, רוב האנשים שחיו עד כה גם מתו.

Roughly 90 percent of everybody who has been alive has died by now.

בערך 90 אחוז מכל מי שפעם היה בחיים עכשיו מת.

So the annual death rate adds up to 150,000 --

שיעור התמותה השנתי מגיע ל150,000 --

sorry, the daily death rate -- 150,000 people per day,

סליחה, השיעור היומי -- 150,000 ביום

which is a huge number by any standard.

שזה מספר ענק לפי כל קנה מידה.

The annual death rate, then, becomes 56 million.

כך שהשיעור השנתי מגיע ל56 מיליון.

If we just look at the single, biggest cause of death -- aging --

אם נסתכל על הגורם העקרי למוות -- זקנה --

it accounts for roughly two-thirds of all human people who die.

היא גורמת לבערך שני-שליש של כל מקרי המוות בעולם.

That adds up to an annual death toll

זה מחיר דמים שנתי

of greater than the population of Canada.

שיותר גדול מהאוכלוסיה של קנדה.

Sometimes, we don't see a problem

לפעמים, אנחנו לא רואים בעיה

because either it's too familiar or it's too big.

מפני שהיא מוכרת מדי או שהיא גדולה מדי.

Can't see it because it's too big.

לא רואים אותה כי היא גדולה מדי.

I think death might be both too familiar and too big

לדעתי המוות גדול מדי וגם מוכר מדי

for most people to see it as a problem.

בשביל שרוב האנשים יראו אותו בתור בעיה.

Once you think about it, you see this is not statistical points;

ברגע שחושבים על זה, רואים שזה לא מידע סטטיסטי;

these are -- let's see, how far have I talked?

זה -- בואו נראה, כמה זמן כבר דברתי?

I've talked for three minutes.

אני מדבר כבר שלוש דקות.

So that would be, roughly, 324 people have died since I've begun speaking.

אז זה, בערך, 324 אנשים מתו מאז שהתחלתי לדבר.

People like -- it's roughly the population in this room has just died.

אנשים כמו -- זה בערך מספר האנשים שנמצאים באולם הזה, מתו.

Now, the human cost of that is obvious,

עכשיו, המחיר האנושי ברור

once you start to think about it -- the suffering, the loss --

כאשר אתה מתחיל לחשוב עליו -- הסבל, האובדן --

it's also, economically, enormously wasteful.

זה גם, מבחינה כלכלית, בזבוז ענק.

I just look at the information, and knowledge, and experience

אני פשוט מסתכל על המידע, הידע והניסיון

that is lost due to natural causes of death in general,

שנאבדו כתוצאה של מוות טבעי באופן כללי,

and aging, in particular.

וזקנה, במיוחד.

Suppose we approximated one person with one book?

נגיד ונעריך בן אדם אחד כשווה לספר אחד?

Now, of course, this is an underestimation.

עכשיו, כמובן, זו הערכת חסר.

A person's lifetime of learning and experience

הלמידה והניסיון של תקופת חיים של בן אדם

is a lot more than you could put into a single book.

היא הרבה יותר ממה שאפשר לשים בספר.

But let's suppose we did this.

אבל בואו נגיד שנשווה בינהם.

52 million people die of natural causes each year

52 מיליון אנשים מתים מסיבות טבעיות כל שנה

corresponds, then, to 52 million volumes destroyed.

וזה משתווה ל 52 מיליון ספרים שנהרסו.

Library of Congress holds 18 million volumes.

ספריית הקונגרס מכילה 18 מיליון ספרים.

We are upset about the burning of the Library of Alexandria.

היינו בהלם כשספריית אלכסנדריה נשרפה.

It's one of the great cultural tragedies

זה אחת הטרגדיות התרבותיות הגדולות

that we remember, even today.

שנזכרת עד היום.

But this is the equivalent of three Libraries of Congress --

אבל זה שווה לשלוש ספריות קונגרס --

burnt down, forever lost -- each year.

נשרפות, נאבדות לתמיד -- כל שנה.

So that's the first big problem.

אז זו הבעיה הראשונה.

And I wish Godspeed to Aubrey de Grey,

ואני מאחל דרך צלחה לאוברי דה גריי,

and other people like him,

ועוד אנשים כמוהו,

to try to do something about this as soon as possible.

שינסו לעשות משהו בנוגע לזה כמה שיותר מהר.

Existential risk -- the second big problem.

סיכון אקסיסטנציאלי -- הבעיה השנייה.

Existential risk is a threat to human survival, or to the long-term potential of our species.

סיכון אקסיסטנציאלי הוא הוא סיכון להשרדותו של האדם, או לפוטנציאל לאורך טווח של גזענו.

Now, why do I say that this is a big problem?

עכשיו, מדוע אני אומר כי זו בעיה גדולה?

Well, let's first look at the probability --

בואו נסתכל על ההסתברות --

and this is very, very difficult to estimate --

וזה מאוד, מאוד קשה להעריך --

but there have been only four studies on this in recent years,

אבל היו רק ארבעה מחקרים בשנים אחרונות,

which is surprising.

שזה מפתיע.

You would think that it would be of some interest

היית חושב כי הנושא היה מעורר הרבה עניין

to try to find out more about this given that the stakes are so big,

בלגלות יותר בעניין זה לאור ההשלכות הגדולות.

but it's a very neglected area.

אך זה תחום מוזנח למדי.

But there have been four studies --

אך בוצעו ארבעה מחקרים --

one by John Lesley, wrote a book on this.

אחד קים ג'ון לאסלי, מי שכתב ספר בנושא.

He estimated a probability that we will fail

הוא שיער את ההסתברות שנכשל

to survive the current century: 50 percent.

לשרוד את תקופת מאה השנים האלו: 50 אחוז.

Similarly, the Astronomer Royal, whom we heard speak yesterday,

באופן דומה, האסטרונום רויאל, שממנו שמענו אתמול,

also has a 50 percent probability estimate.

גם משער 50 אחוז הסתברות.

Another author doesn't give any numerical estimate,

עוד חוקר אחד לא נותן השערה מספרית,

but says the probability is significant that it will fail.

אך אומר כי ההסתברות שנכשל משמעותית.

I wrote a long paper on this.

אני כתבתי חיבור ארוך בנושא הזה.

I said assigning a less than 20 percent probability would be a mistake

אני אמרתי שלהציע הסתברות שנמוכה מ20 אחוז תהיה טעות

in light of the current evidence we have.

לאור ההוכחות הקיימות.

Now, the exact figures here,

עכשיו, המידע המדויק פה,

we should take with a big grain of salt,

לא כדאי שנקח אותו ביותר מדי רצינות,

but there seems to be a consensus that the risk is substantial.

אבל נדמה כי קיים קונצנזוס כי הסיכון הוא משמעותי.

Everybody who has looked at this and studied it agrees.

כל מי שבחן את זה וחקר את זה מסכים.

Now, if we think about what just reducing

עכשיו אם נחשוב על לצמצם

the probability of human extinction by just one percentage point --

את הסיכון של ההכחדה של האדם ברק אחוז אחד --

not very much -- so that's equivalent to 60 million lives saved,

לא כל כך הרבה -- אז זה שווה ל 60 מיליון אנשים שניצלים.

if we just count the currently living people, the current generation.

אם רק נספור את מספר האנשים שחיים עתה, הדור העכשווי.

Now one percent of six billion people is equivalent to 60 million.

עכשיו אחד אחוז של 6 מיליארד שווה 60 מיליון.

So that's a large number.

אז זה מספר גדול.

If we were to take into account future generations

אם ניקח בחשבון את דורות עתידיים

that will never come into existence if we blow ourselves up,

שלא יתקיימו אם נפוצץ את עצמנו,

then the figure becomes astronomical.

אז המספרים נעשים אסטרונומיים.

If we could eventually colonize a chunk of the universe --

אם נוכל לאכלס חלק מהיקום --

the Virgo supercluster --

צביר-על הבתולה --

maybe it will take us 100 million years to get there,

אולי יקח לנו 100 מיליון שנה להגיע לזה,

but if we go extinct we never will.

אבל אם נכחד לא נגיע אף פעם.

Then, even a one percentage point reduction

אז, אפילו צמצום של אחוז אחד

in the extinction risk could be equivalent

בסיכון ההכחדה שלנו יכול להשתוות

to this astronomical number -- 10 to the power of 32.

למספר האסטרונומי הזה -- 10 בחזקה 32.

So if you take into account future generations as much as our own,

אז אם לוקחים בחשבון את הדורות העתידיים

every other moral imperative of philanthropic cost just becomes irrelevant.

כל ציווי מוסרי של מחיר פילנתרופי נעשה שולי.

The only thing you should focus on

הדבר היחיד שכדאי להתמקד בו

would be to reduce existential risk

הוא לצמצם את הסיכון האקסיסטנציאלי

because even the tiniest decrease in existential risk

כי אפילו הצמצום הזעיר ביותר

would just overwhelm any other benefit you could hope to achieve.

היה מכניע כל יתרון אחר שאפשר להשיג.

And even if you just look at the current people,

ואפילו אם נסתכל רק על האנשים הקיימים,

and ignore the potential that would be lost if we went extinct,

ונתעלם מהפוטנציאל שיאבד אם היינו נכחדים,

it should still have a high priority.

זה עדיין צריך להיות בעדיפות גבוהה.

Now, let me spend the rest of my time on the third big problem,

עכשיו אדבר בזמן שנותר לי על הבעיה השלישית,

because it's more subtle and perhaps difficult to grasp.

כי הוא יותר עדין ואולי קשה לקלוט.

Think about some time in your life --

תחשבו על תקופה מסוימת בחייכם --

some people might never have experienced it -- but some people,

לאחדים מאיתנו תקופה כזאת אולי לא נחוותה -- אבל השאר

there are just those moments that you have experienced

יש את החוויות שחוויתם

where life was fantastic.

כאשר החיים היו נפלאים.

It might have been at the moment of some great, creative inspiration

זה אולי קרה יחד עם רגע של השראה יצירתית

you might have had when you just entered this flow stage.

שהיה לכם כשנכנסתם לתקופה של מוזה

Or when you understood something you had never done before.

או כשהבנתם משהו שלא הבנתם קודם

Or perhaps in the ecstasy of romantic love.

או אולי באקסטזה של אהבה רומנטית.

Or an aesthetic experience -- a sunset or a great piece of art.

או בחוויה אסטטית -- שקיעת שמש או יצירת אומנות.

Every once in a while we have these moments,

מדי פעם יש לנו רגעים כאלה,

and we realize just how good life can be when it's at its best.

ואנו מבינים עד כמה החיים יכולים להיות טובים כשהם בשיאם.

And you wonder, why can't it be like that all the time?

ואתה תוהה למה זה לא יכול להיות ככה כל הזמן?

You just want to cling onto this.

אתה רוצה לתפוס ולא לשחרר את הרגע.

And then, of course, it drifts back into ordinary life and the memory fades.

ואז, כמובן, החיים חוזרים להיות רגילים והזכרון דוהה.

And it's really difficult to recall, in a normal frame of mind,

ומאוד קשה להיזכר בו בחיים היומיומיים.

just how good life can be at its best.

כמה יפים חיים יכולים להיות בשיאם.

Or how bad it can be at its worst.

או כמה גרועים הם כשהם הכי גרועים.

The third big problem is that life isn't usually

הבעיה השלישית היא שהחיים בדרך כלל לא

as wonderful as it could be.

נפלאים כמו שהם יכולים להיות.

I think that's a big, big problem.

אני חושב שזובעיה גדולה.

It's easy to say what we don't want.

קל לאמר מה אנחנו לא רוצים.

Here are a number of things that we don't want --

הנה מספר דברים שאנחנו לא רוצים --

illness, involuntary death, unnecessary suffering, cruelty,

מחלות, מוות בלתי רצוי, סבל מיותר, אכזריות,

stunted growth, memory loss, ignorance, absence of creativity.

גדילה מוגבלת, אובדן זכרון, בורות, חוסר יצירתיות.

Suppose we fixed these things -- we did something about all of these.

נניח שנתקן את הדברים האלה - שעשינו משהו כדי לטפל בכל הדברים האלה

We were very successful.

הצלחנו מאוד.

We got rid of all of these things.

נפטרנו מכל הדברים האלה.

We might end up with something like this,

אולי היה יוצא לנו משהו כזה,

which is -- I mean, it's a heck of a lot better than that.

שזה -- כלומר זה הרבה יותר טוב מזה.

But is this really the best we can dream of?

אבל זה באמת הכי טוב שאפשר לשאוף?

Is this the best we can do?

זה הכי טוב שאנחנו יכולים לעשות?

Or is it possible to find something a little bit more inspiring to work towards?

או קיים דבר יותר טוב שכדאי לעבוד לקראתו?

And if we think about this,

ואם נחשוב על זה,

I think it's very clear that there are ways

ברור מאוד שיש דרכים

in which we could change things, not just by eliminating negatives,

לשנות דברים, לא רק בהסרת דברים שליליים,

but adding positives.

אלא גם בהוספת דברים חיוביים.

On my wish list, at least, would be:

ברשימת הבקשות שלי היו:

much longer, healthier lives, greater subjective well-being,

חיים הרבה יותר ארוכים ובריאים, רמת רווחה יותר גבוהה באופן סוביקטיבי,

enhanced cognitive capacities, more knowledge and understanding,

יכולות מוחיות מוגברות, יותר ידע והבנה,

unlimited opportunity for personal growth

הזדמנויות להתפתחות אישית ללא הגבלות

beyond our current biological limits, better relationships,

מעבר לגבולותנו הביולוגיים, קשרים יותר טובים,

an unbounded potential for spiritual, moral

פוטנציאל להתפתחות רוחנית, מוסרית

and intellectual development.

ואינטלקטואלית בלתי מוגבלת.

If we want to achieve this, what, in the world, would have to change?

אם היינו רוצים להשיג את זה, מה, בעולמנו, היה צריך להשתנות?

And this is the answer -- we would have to change.

וזאת התשובה -- אנחנו צריכים להשתנות.

Not just the world around us, but we, ourselves.

לא רק את העולם מסביב, אלא אנחנו, עצמנו.

Not just the way we think about the world, but the way we are -- our very biology.

לא רק איך שאנחנו חושבים על העולם, אלא גם איך שאנחנו -- הביולוגיה שלנו.

Human nature would have to change.

הטבע האנושי היה צריך להשתנות.

Now, when we think about changing human nature,

עכשיו, כשאנחנו חושבים על לשנות את הטבע האנושי,

the first thing that comes to mind

הדבר הראשון שעולה על דעתנו

are these human modification technologies --

הוא הטכנולוגיה לשיפור האנוש --

growth hormone therapy, cosmetic surgery,

טיפול בהורמוני גדילה, ניתוחים פלסטיים,

stimulants like Ritalin, Adderall, anti-depressants,

סמים ממריצים כגון ריטלין, אדראל, תרופות נגד דכאון,

anabolic steroids, artificial hearts.

סטרואידים אנאבוליים, לבבות מלאכותיים.

It's a pretty pathetic list.

רשימה די פתטית.

They do great things for a few people

הם עושים דברים נפלאים למעטים מאיתנו

who suffer from some specific condition,

שסובלים מבעיות מסוימות,

but for most people, they don't really transform

אך לרובנו, הם לא ממש משנים

what it is to be human.

את עצם האנושיות.

And they also all seem a little bit --

ובנוסף הם כולם נראים קצת --

most people have this instinct that, well, sure,

לרוב האנשים יש אינסטינקט ש, ובכן,

there needs to be anti-depressants for the really depressed people.

צריכות להיות תרופות נגד דכאון לסובלי דכאון חמור.

But there's a kind of queasiness

אבל יש מעין אי נוחות

that these are unnatural in some way.

שהן לא טבעיות באיזשהו מובן.

It's worth recalling that there are a lot of other

שווה לזכור שיש הרבה

modification technologies and enhancement technologies that we use.

טכנולוגיות לשיפור ושינוי האנוש אחרות שמשמשות אותנו.

We have skin enhancements, clothing.

יש לנו אמצעי שיפור עור, בגדים.

As far as I can see, all of you are users of this

ככל הנראה, כולכם פה משתמשים

enhancement technology in this room, so that's a great thing.

בטכנולוגיות האילו, אז זה דבר מעולה.

Mood modifiers have been used from time immemorial --

סמים שמשפיעים על מצב הרוח משמשים אותנו כבר מאז זמן שאינו זכור לנו --

caffeine, alcohol, nicotine, immune system enhancement,

קפאין, אלכוהול, ניקוטין, מגבירי מערכת החיסון,

vision enhancement, anesthetics --

משפרי ראיה, חומרי הרדמה --

we take that very much for granted,

אנחנו לוקחים אתם כמובן מאליו,

but just think about how great progress that is --

רק חשבו על כמה התקדמות השגנו --

like, having an operation before anesthetics was not fun.

כלומר, לעשות ניתוח לפני שהיו חומרי הרדמה לא היה כיף.

Contraceptives, cosmetics and brain reprogramming techniques --

אמצעי מניעה,קוסמטיקה וטכניקות לשינויים מוחיים --

that sounds ominous,

זה נשמע כמבשר רעות,

but the distinction between what is a technology --

אבל ההבדל בין טכנולוגיה --

a gadget would be the archetype --

האב-טיפוס יהיה הגאדג'ט --

and other ways of changing and rewriting human nature is quite subtle.

ודרכים אחרות לשנות את טבע האנוש הוא מאוד עדין.

So if you think about what it means to learn arithmetic or to learn to read,

אז אם תחשוב על מה זה אומר ללמוד חשבון או ללמוד לקרוא

you're actually, literally rewriting your own brain.

אתה בעצם, באופן מילולי בונה את מוחך מחדש.

You're changing the microstructure of your brain as you go along.

אתה משנה את מבנה המיקרו של מוחך תוך כדי.

So in a broad sense, we don't need to think about technology

אז בגדול, אנחנו לא צריכים לחשוב על טכנולוגיה

as only little gadgets, like these things here,

רק כגאדג'טים קטנים, כמו אלה פה,

but even institutions and techniques,

אלא גם מוסדות, וטכניקות,

psychological methods and so forth.

שיטות פסיכולוגיות וכו'.

Forms of organization can have a profound impact on human nature.

צורות אירגון חברתי יכול להשפיע באופן משמעותי על הטבע האנושי.

Looking ahead, there is a range of technologies

במבט קדימה, יש מגוון טכנולוגיות

that are almost certain to be developed sooner or later.

שכמעט בוודאות יפתחו אותן בסופו של דבר.

We are very ignorant about what the time scale for these things are,

אנחנו מאוד לא מודעים למהו טווח הזמן של הדברים האלה,

but they all are consistent with everything we know

אבל הם כולם מותאמים למה שאנחנו יודעים

about physical laws, laws of chemistry, etc.

על חוקי הפיזיקה, כימיה, וכו'

It's possible to assume,

אפשר להניח,

setting aside a possibility of catastrophe,

אם נשים בצד את האפשרות של אסון,

that sooner or later we will develop all of these.

שבסופו של דבר אנחנו נפתח את כולן.

And even just a couple of these would be enough

ורק כמה מהן יספיקו

to transform the human condition.

לשנות את המצב האנושי.

So let's look at some of the dimensions of human nature

אז בואו נסתכל על כמה היבטים של טבע האנוש

that seem to leave room for improvement.

שאולי יש בהם מקום לשיפור.

Health span is a big and urgent thing,

טווח הבריאות הוא דבר גדול ודחוף

because if you're not alive,

כי אם אתה לא חי,

then all the other things will be to little avail.

אז כל הדברים האחרים לא יעזרו.

Intellectual capacity -- let's take that box,

יכולת אינטלקטואלית -- בואו נקח את הנושא הזה,

which falls into a lot of different sub-categories:

שנכלל בהרבה תת-קטגוריות:

memory, concentration, mental energy, intelligence, empathy.

זכרון, ריכוז, כוח מוחי, משכל, אמפטיה.

These are really great things.

אלה דברים ממש טובים.

Part of the reason why we value these traits

חלק מהסיבה שאנחנו מעריכים את התכונות הללו

is that they make us better at competing with other people --

זה בגלל שהן עוזרות לנו בלהתחרות עם אנשים אחרים --

they're positional goods.

הן משאבים מעמדיים.

But part of the reason --

אבל חלק אחר מהסיבה --

and that's the reason why we have ethical ground for pursuing these --

וזאת הסיבה שיש לנו בסיס אתי לרצות להשיג אותן --

is that they're also intrinsically valuable.

זה שהן בעלות ערך באופן מהותי.

It's just better to be able to understand more of the world around you

זה פשוט עדיף להבין יותר טוב את העולם שסביבך

and the people that you are communicating with,

והאנשים שאתה מתקשר איתם,

and to remember what you have learned.

ולזכור את מה שלמדת עד כה.

Modalities and special faculties.

אפנויות ויכולות מיוחדות.

Now, the human mind is not a single unitary information processor,

עכשיו המוח האנושי אינו מעבד מידע חד שימושי,

but it has a lot of different, special, evolved modules

יש לו הרבה מודולים מיוחדים, מגוונים ומפותחים

that do specific things for us.

שעושים דברים מסוימים עבורנו.

If you think about what we normally take as giving life a lot of its meaning --

אם תחשוב על מה שאנחנו מבינים כדברים שנותנים לחיים את משמעותם --

music, humor, eroticism, spirituality, aesthetics,

מוסיקה, הומור, ארוטיות, רוחניות, אסטתיות

nurturing and caring, gossip, chatting with people --

אכפתיות, רכילות, פיטפוטים עם אנשים --

all of these, very likely, are enabled by a special circuitry

כל הדברים הללו הם, קרוב לוודאי, מתאפשרים על ידי מעגל חשמלי מוחי מיוחד

that we humans have,

שיש לבני אדם,

but that you could have another intelligent life form that lacks these.

אבל שאפשר לדמיין יצור חי אינטליגנטי אחר בלעדיהם.

We're just lucky that we have the requisite neural machinery

אנחנו ברי מזל שיש לנו את המנגנונים העצביים ההכרחיים

to process music and to appreciate it and enjoy it.

לעבד מוזיקה ולהעריך אותה ולהנות ממנה.

All of these would enable, in principle -- be amenable to enhancement.

אפשר -ברמת העקרון - לחזק את כל המנגנונים האלה.

Some people have a better musical ability

לאחדים מאיתנו יש יכולת מוזיקלית,

and ability to appreciate music than others have.

ואת היכולת להעריך מוזיקה, שמפותחות יותר מאחרים.

It's also interesting to think about what other things are --

גם מעניין לחשוב על מנגנונים אחרים --

so if these all enabled great values,

אז אם כל המנגנונים האלה יוצרים לנו ערכים גדולים,

why should we think that evolution has happened to provide us

למה שנחשוב שאבולוציה סיפקה אותנו

with all the modalities we would need to engage

עם כל האפנויות שהיינו צריכים כדי

with other values that there might be?

לעבוד עם ערכים אחרים אפשריים?

Imagine a species

דמיינו שיש גזע

that just didn't have this neural machinery for processing music.

שהיה חסר לו את המנגנון המוחי הזה להעריך ולעבד מוזיקה.

And they would just stare at us with bafflement

והיו בוהים בנו בתמהון

when we spend time listening to a beautiful performance,

כשהיינו מבלים זמן בהזנת מופע מוזיקלי יפה,

like the one we just heard -- because of people making stupid movements,

כמו זה ששמענו כרגע -- כתוצעה מאנשים עושים תנועות טפשיות,

and they would be really irritated and wouldn't see what we were up to.

והם היו מתעצבנים ולא היו מבינים מה אנחנו עושים.

But maybe they have another faculty, something else

אבל אולי להם הייתה איזשהי יכולת אחרת

that would seem equally irrational to us,

שהייתה נראית לנו לא היגיונית באותה מידה,

but they actually tap into some great possible value there.

אבל להם הייתה גישה לאיזשהו ערך גדול אפשרי.

But we are just literally deaf to that kind of value.

אבל אנחנו פשוט חרשים לערך הזה.

So we could think of adding on different,

אז אנחנו יכולים לחשוב על להוסיף

new sensory capacities and mental faculties.

יכולות חושיות ומוחיות חדשות.

Bodily functionality and morphology and affective self-control.

פונקציונליות גופנית ושליטה עצמית יעילה.

Greater subjective well-being.

מצב עצמי טוב יותר.

Be able to switch between relaxation and activity --

היכולת להחליף בין רוגע ופעילות --

being able to go slow when you need to do that, and to speed up.

היכולת ללכת לעט כשצריך ולמהר.

Able to switch back and forth more easily

להשיג את היכולת להחליף יותר מהר

would be a neat thing to be able to do --

היה יכול להיות מגניב --

easier to achieve the flow state,

היכולת להגיע למצב של ריכוז מוחלט

when you're totally immersed in something you are doing.

כשאתה לגמרי משקיע במה שאתה עושה.

Conscientiousness and sympathy.

מצפוניות וסימפטיה.

The ability to -- it's another interesting application

היכולת -- זה עוד ישום מעניין

that would have large social ramification, perhaps.

שהיה בעל השלכות חברתיות, אולי.

If you could actually choose to preserve your romantic attachments to one person,

אם יכולת להחליט להקדיש את רצונך הרומנטי לבן אדם אחד בלבד,

undiminished through time,

שלא ידהה עם הזמן,

so that wouldn't have to -- love would never have to fade if you didn't want it to.

כדי שזה לא -- אהבה לא הייתה נחלשת אם לא היית רוצה.

That's probably not all that difficult.

זה בטח לא כזה קשה.

It might just be a simple hormone or something that could do this.

אולי זה פשוט עניין של הורמון או משהו אחר שיכול לעשות את זה.

It's been done in voles.

עשינו את זה כבר עם נברנים

You can engineer a prairie vole to become monogamous

אנחנו יכולים להנדס נברני שדה מונוגמיים

when it's naturally polygamous.

למרות שהם פוליגמיים בטבע.

It's just a single gene.

זה רק גן אחד.

Might be more complicated in humans, but perhaps not that much.

זה אולי יהיה יותר מורכב עם בני אדם, אבל ייתכן שלא בהרבה.

This is the last picture that I want to --

זו התמונה האחרונה שאני רוצה להציג --

now we've got to use the laser pointer.

עכשיו נצטרך להשתמש בסמן לייזר.

A possible mode of being here would be a way of life --

פה יש לנו צורת קיום שתהפוך לצורת חיים --

a way of being, experiencing, thinking, seeing,

הצורה שבה אנו קיימים, חווים, חושבים, רואים,

interacting with the world.

מקיימים אינטרקציה עם העולם.

Down here in this little corner, here, we have the little sub-space

פה למטה יש לנו את התת-מרחב הקטן הזה

of this larger space that is accessible to human beings --

מתוך המרחב הגדול יותר שנגיש לבני אדם --

beings with our biological capacities.

יצורים עם היכולות הביולוגיות שלנו.

It's a part of the space that's accessible to animals;

זה חלק מהמרחב שנגיש לחיות;

since we are animals, we are a subset of that.

היות שאנחנו חיות, אנחנו תת-קבוצה של זה.

And then you can imagine some enhancements of human capacities.

ואז תוכלו לדמיין חיזוקים של יכולות אנושיות.

There would be different modes of being you could experience

יהיו צורות קיום אחרות שתוכלו לחוות

if you were able to stay alive for, say, 200 years.

אם יכולתם להשאר בחיים עד גיל, נגיד, 200.

Then you could live sorts of lives and accumulate wisdoms

אז הייתם יכולים לחיות חיים אחרים ולצבור חוכמות

that are just not possible for humans as we currently are.

שפשוט לא אפשריות להשיג במצבנו האנושי הנוכחי.

So then, you move off to this larger sphere of "human +,"

אז אתה מתרחק מהתחום הזה של "אנוש +"

and you could continue that process and eventually

ויכולת להמשיך בתהליך הזה ובסופו של דבכ

explore a lot of this larger space of possible modes of being.

חוקר הרבה מהמרחב הגדול יותר של צורות הקיום האפשריות הללו.

Now, why is that a good thing to do?

עכשיו, למה זה דבר שטוב לעשות?

Well, we know already that in this little human circle there,

אנחנו יודעים כבר שבעיגול הקטן הזה פה של בני אדם,

there are these enormously wonderful and worthwhile modes of being --

יש צורות קיום ממש נפלאות בעלות ערך --

human life at its best is wonderful.

חיי האדם הם מעוליים במיטבם.

We have no reason to believe that within this much, much larger space

אין לנו סיבה לחשוב שבתוך המרחב ההרבה, הרבה יותר גדול הזה

there would not also be extremely worthwhile modes of being,

לא יהיו עוד צורות קיום ממש טובות גם כן,

perhaps ones that would be way beyond our wildest ability

אולי צורות קיום שיהיו מעבר למה שאנחנו

even to imagine or dream about.

יכולים לדמיין או לחלום אפילו.

And so, to fix this third problem,

ולכן, לתקן את הבעיה השלישית הזו,

I think we need -- slowly, carefully, with ethical wisdom and constraint --

אני חושב שאני צריכים -- לאט, בזהירות, עם חוכמה מוסרית ובאופן מחושב --

develop the means that enable us to go out in this larger space and explore it

לפתח את האמצעים לצאת למרחב הגדול הזה ולגלות אותו

and find the great values that might hide there.

ולמצוא את הערכים הגדולים שייתכן נמצא שם.

Thanks.

תודה.