Nick Bostrom: Humanity's biggest problems aren't what you think they are

Ник Бостром рассказывает о наших самых больших проблемах

Переводчик: Nikolas Fose Редактор: Olga Golubeva

I want to talk today about --

Сегодня я хочу поговорить о ...

I've been asked to take the long view, and I'm going to tell you what

Меня попросили посмотреть далеко в будущее, и вот что я думаю.

I think are the three biggest problems for humanity

Я полагаю, с этой точки зрения,

from this long point of view.

у человечества есть три главные проблемы.

Some of these have already been touched upon by other speakers,

Некоторые из них уже поднимались другими ораторами,

which is encouraging.

что ободряет.

It seems that there's not just one person

Видимо, существует много людей,

who thinks that these problems are important.

которые считают эти проблемы важными.

The first is -- death is a big problem.

Первая. Смерть — это огромная проблема.

If you look at the statistics,

Если взглянуть на статистику,

the odds are not very favorable to us.

наши шансы не очень благоприятны.

So far, most people who have lived have also died.

Сейчас большинство когда-либо живших людей уже мертвы.

Roughly 90 percent of everybody who has been alive has died by now.

Примерно 90% всех, кто был жив, сейчас мёртв.

So the annual death rate adds up to 150,000 --

Ежегодная, простите, ежедневная смертность

sorry, the daily death rate -- 150,000 people per day,

составляет 150 тысяч человек в день,

which is a huge number by any standard.

что является огромным числом, независимо от стандартов.

The annual death rate, then, becomes 56 million.

Ежегодная смертность составляет 56 миллионов.

If we just look at the single, biggest cause of death -- aging --

Возьмём только основную причину смерти — старение —

it accounts for roughly two-thirds of all human people who die.

на чью долю приходится примерно две трети всех смертей.

That adds up to an annual death toll

Ежегодно смерть уносит больше людей,

of greater than the population of Canada.

чем живёт в Канаде.

Sometimes, we don't see a problem

Временами мы не видим саму проблему:

because either it's too familiar or it's too big.

она либо слишком привычна, либо слишком колоссальна.

Can't see it because it's too big.

Не видим, потому что она слишком огромна.

I think death might be both too familiar and too big

Я считаю, смерть может быть и слишком знакомой и слишком большой

for most people to see it as a problem.

для большинства людей, чтобы видеть в этом проблему.

Once you think about it, you see this is not statistical points;

Если вы задумаетесь, вы увидите, что это не просто цифры.

these are -- let's see, how far have I talked?

Это… давайте взглянем на то, как долго я вещаю?

I've talked for three minutes.

Я говорю уже около трёх минут.

So that would be, roughly, 324 people have died since I've begun speaking.

Это будет, примерно, 324 смерти с того момента, как я начал говорить.

People like -- it's roughly the population in this room has just died.

Людей как... это, как будто все люди в этом зале только что умерли.

Now, the human cost of that is obvious,

Человеческие потери очевидны.

once you start to think about it -- the suffering, the loss --

Когда вы задумываетесь об этом — о страданиях, потерях —

it's also, economically, enormously wasteful.

это к тому же очень затратно экономически.

I just look at the information, and knowledge, and experience

Я рассматриваю только информацию, знания и опыт,

that is lost due to natural causes of death in general,

которые потеряны из-за смерти по естественным причинам в целом,

and aging, in particular.

и старения, в частности.

Suppose we approximated one person with one book?

Предположим, мы приравняли одного человека к одной книге.

Now, of course, this is an underestimation.

Это, конечно, недооценка.

A person's lifetime of learning and experience

Жизненный опыт и обучение человека

is a lot more than you could put into a single book.

гораздо больше того, что можно записать в одну книгу.

But let's suppose we did this.

Но, предположим, мы сделали это.

52 million people die of natural causes each year

52 миллиона человек умирает естественной смертью каждый год.

corresponds, then, to 52 million volumes destroyed.

Это соответствует уничтожению 52 миллионов книжных томов.

Library of Congress holds 18 million volumes.

Библиотека Конгресса США содержит 18 миллионов томов.

We are upset about the burning of the Library of Alexandria.

Мы огорчены утратой Александрийской библиотеки.

It's one of the great cultural tragedies

Это одна из величайших культурных трагедий,

that we remember, even today.

которую мы помним даже сейчас.

But this is the equivalent of three Libraries of Congress --

Она эквивалентна трём Библиотекам Конгресса США...

burnt down, forever lost -- each year.

сожжена, потеряна навсегда... и так каждый год.

So that's the first big problem.

Итак, это первая огромная проблема.

And I wish Godspeed to Aubrey de Grey,

Я хочу пожелать удачи Обри де Грею,

and other people like him,

и другим людям,

to try to do something about this as soon as possible.

в их попытках решить эту проблему как можно скорее.

Existential risk -- the second big problem.

Экзистенциальный риск — вторая большая проблема.

Existential risk is a threat to human survival, or to the long-term potential of our species.

Экзистенциальный риск является угрозой для человеческого выживания или для наших долговременных возможностей.

Now, why do I say that this is a big problem?

Теперь, почему же я сказал, что это является проблемой?

Well, let's first look at the probability --

Хорошо, давайте взглянем на вероятность…

and this is very, very difficult to estimate --

её очень сложно оценить...

but there have been only four studies on this in recent years,

за последние годы по этому вопросу

which is surprising.

было всего четыре исследования, что удивляет.

You would think that it would be of some interest

Можно подумать, что есть некий интерес к попыткам

to try to find out more about this given that the stakes are so big,

найти что-то об этой теме, учитывая, что ставки высоки,

but it's a very neglected area.

но это весьма запущенная область.

But there have been four studies --

Но были четыре исследования...

one by John Lesley, wrote a book on this.

одно из них Джона Лесли, написавшего книгу об этой проблеме.

He estimated a probability that we will fail

Он оценил вероятность того,

to survive the current century: 50 percent.

что мы не в состоянии пережить этот век, как 50 %.

Similarly, the Astronomer Royal, whom we heard speak yesterday,

Так же, Королевский астроном (Мартин Рис), которого мы слушали вчера,

also has a 50 percent probability estimate.

говорил о 50% вероятности.

Another author doesn't give any numerical estimate,

Другой автор не даёт конкретных числовых оценок,

but says the probability is significant that it will fail.

но говорит о значительной вероятности.

I wrote a long paper on this.

Я написал длинную работу об этом.

I said assigning a less than 20 percent probability would be a mistake

Я говорил, что давать вероятность меньше 20% было бы ошибкой,

in light of the current evidence we have.

в свете тех доказательств, что мы имеем.

Now, the exact figures here,

Теперь есть точные цифры,

we should take with a big grain of salt,

которые мы можем принять с большой осторожностью,

but there seems to be a consensus that the risk is substantial.

но мы должны прийти к согласию, что риски существенны.

Everybody who has looked at this and studied it agrees.

Все те, кто смотрел и изучал эти работы, согласны с этим.

Now, if we think about what just reducing

Если мы подумаем о сокращении

the probability of human extinction by just one percentage point --

вероятности человеческого вымирания на 1%...

not very much -- so that's equivalent to 60 million lives saved,

это не так много... это 60 миллионов спасённых жизней,

if we just count the currently living people, the current generation.

если просто посчитать всех живущих, то это нынешнее поколение.

Now one percent of six billion people is equivalent to 60 million.

Один процент от 6 миллиардов, это 60 миллионов.

So that's a large number.

Это огромное число.

If we were to take into account future generations

Если принять во внимание будущие поколения,

that will never come into existence if we blow ourselves up,

которые могут не появиться, если мы уничтожим себя,

then the figure becomes astronomical.

тогда цифры станут просто астрономическими.

If we could eventually colonize a chunk of the universe --

Если мы, в конце концов, могли бы колонизировать часть вселенной...

the Virgo supercluster --

скопление галактик в Деве...

maybe it will take us 100 million years to get there,

возможно, это заняло бы 100 миллионов лет,

but if we go extinct we never will.

но если мы вымрем, мы никогда этого не сделаем.

Then, even a one percentage point reduction

Тогда, даже сокращение риска исчезновения на 1%

in the extinction risk could be equivalent

будет эквивалентно

to this astronomical number -- 10 to the power of 32.

этой астрономической цифре: 10 в 32 степени.

So if you take into account future generations as much as our own,

Итак, если принять все будущие поколения, как свои собственные,

every other moral imperative of philanthropic cost just becomes irrelevant.

все остальные моральные двигатели филантропических затрат перестают быть значимыми.

The only thing you should focus on

Нужно сфокусироваться на одной вещи —

would be to reduce existential risk

снижение экзистенциального риска,

because even the tiniest decrease in existential risk

потому что даже крохотное снижение глобальных рисков

would just overwhelm any other benefit you could hope to achieve.

позволит овладеть любыми выгодами, которых надеялись достичь.

And even if you just look at the current people,

И если взглянуть на нынешних людей и проигнорировать весь потенциал,

and ignore the potential that would be lost if we went extinct,

который может быть потерян, если мы все погибнем,

it should still have a high priority.

это по-прежнему будет иметь высокий приоритет.

Now, let me spend the rest of my time on the third big problem,

Теперь, позвольте мне потратить оставшееся время на третью большую проблему,

because it's more subtle and perhaps difficult to grasp.

потому что она достаточно тонкая и, возможно, трудна для осознания.

Think about some time in your life --

Подумайте о каком-то этапе вашей жизни...

some people might never have experienced it -- but some people,

некоторые люди никогда это не испытывали...

there are just those moments that you have experienced

но у других были моменты осознания того,

where life was fantastic.

что жизнь потрясающая.

It might have been at the moment of some great, creative inspiration

Это могло быть в моменты огромного, творческого вдохновения

you might have had when you just entered this flow stage.

которые, вероятно, у вас были, когда вы попали в «поток».

Or when you understood something you had never done before.

Или когда вы поняли, как делается что-то, с первого раза.

Or perhaps in the ecstasy of romantic love.

Или в порыве экстаза от романтической любви.

Or an aesthetic experience -- a sunset or a great piece of art.

Или эстетическое переживание... закат солнца или великолепное произведение искусства.

Every once in a while we have these moments,

Каждый раз в такие моменты

and we realize just how good life can be when it's at its best.

мы понимаем, насколько хороша может быть жизнь в своих лучших проявлениях.

And you wonder, why can't it be like that all the time?

Вы удивляетесь, почему эти моменты не могут быть постоянны?

You just want to cling onto this.

Вы цепляетесь за эти вещи.

And then, of course, it drifts back into ordinary life and the memory fades.

И затем, конечно же, вас переносит в повседневность и воспоминания блекнут.

And it's really difficult to recall, in a normal frame of mind,

И в обычном состоянии духа эти вещи действительно трудно вспомнить,

just how good life can be at its best.

насколько хороша может быть жизнь в своих лучших проявлениях.

Or how bad it can be at its worst.

Или насколько ужасна она может быть в плохих проявлениях.

The third big problem is that life isn't usually

Третья большая проблема это то, что жизнь

as wonderful as it could be.

обычно не так восхитительна, какой может быть.

I think that's a big, big problem.

Я считаю, это огромная, колоссальная проблема.

It's easy to say what we don't want.

Легко перечислить то, чего мы не желаем.

Here are a number of things that we don't want --

Вот, например, чего мы не хотим:

illness, involuntary death, unnecessary suffering, cruelty,

болезни, невольная смерть, ненужные страдания, жестокость,

stunted growth, memory loss, ignorance, absence of creativity.

задержка роста, потеря памяти, невежество, отсутствие творчества.

Suppose we fixed these things -- we did something about all of these.

Предположим, мы решили эти вещи… мы сделали что-то с каждой из них.

We were very successful.

Нам очень повезло.

We got rid of all of these things.

Мы избавились от этих вещей.

We might end up with something like this,

Мы могли бы сделать что-то вроде этого.

which is -- I mean, it's a heck of a lot better than that.

Что... Я имею в виду, это чертовски здорово,

But is this really the best we can dream of?

но действительно ли это лучше того, о чем мы можем мечтать?

Is this the best we can do?

Это самое лучшее, что мы можем сделать?

Or is it possible to find something a little bit more inspiring to work towards?

Или возможно есть что-то более воодушевляющее для работы над этим?

And if we think about this,

Если мы задумаемся,

I think it's very clear that there are ways

думаю, ясно, что есть способы, при помощи которых мы могли бы

in which we could change things, not just by eliminating negatives,

изменить положение вещей, не только за счёт устранения негатива,

but adding positives.

но и добавляя позитив.

On my wish list, at least, would be:

Мой минимальный список желаний включает:

much longer, healthier lives, greater subjective well-being,

намного более продолжительную и здоровую жизнь, больше благополучия,

enhanced cognitive capacities, more knowledge and understanding,

расширение познавательных способностей, больше знаний и понимания,

unlimited opportunity for personal growth

бесконечные возможности для персонального роста

beyond our current biological limits, better relationships,

за пределами наших биологических возможностей, лучшее взаимопонимание,

an unbounded potential for spiritual, moral

неограниченный потенциал для духовного,

and intellectual development.

нравственного и интеллектуального развития.

If we want to achieve this, what, in the world, would have to change?

Что необходимо поменять в нашем мире, чтобы достичь этого?

And this is the answer -- we would have to change.

И вот ответ на вопрос — мы должны изменить.

Not just the world around us, but we, ourselves.

Не просто мир вокруг нас, но и себя самих.

Not just the way we think about the world, but the way we are -- our very biology.

Не только наше восприятие мира, но и нас самих, нашей истинной биологии.

Human nature would have to change.

Природа человека должна измениться.

Now, when we think about changing human nature,

Теперь, когда мы подумаем об изменении человеческой природы,

the first thing that comes to mind

первое, что приходит в голову —

are these human modification technologies --

это технологии модификации человека:

growth hormone therapy, cosmetic surgery,

применение гормона роста, пластическая хирургия,

stimulants like Ritalin, Adderall, anti-depressants,

стимуляторы (риталин, аддералл), антидепрессанты,

anabolic steroids, artificial hearts.

анаболические стероиды, искусственные сердца.

It's a pretty pathetic list.

Это довольно жалкий список.

They do great things for a few people

Они здорово помогают определённой группе людей,

who suffer from some specific condition,

которые страдают от некоторых специфичных состояний.

but for most people, they don't really transform

Но для большинства людей они

what it is to be human.

не меняют сути того, что значит быть человеком.

And they also all seem a little bit --

Кроме того, отношение к ним...

most people have this instinct that, well, sure,

многие уверены, что, хорошо, конечно,

there needs to be anti-depressants for the really depressed people.

антидепрессанты действительно необходимы подавленным людям.

But there's a kind of queasiness

Но есть некоторое беспокойство,

that these are unnatural in some way.

что это несколько неестественно.

It's worth recalling that there are a lot of other

Стоит напомнить, что есть много других

modification technologies and enhancement technologies that we use.

изменяющих и усовершенствующих технологий, которые мы используем.

We have skin enhancements, clothing.

У нас есть технологии улучшения кожи — одежда.

As far as I can see, all of you are users of this

Насколько я могу видеть, каждый из вас в этой комнате

enhancement technology in this room, so that's a great thing.

использует эту технологию, так что, это большое дело.

Mood modifiers have been used from time immemorial --

Модификаторы настроения использовались с незапамятных времён...

caffeine, alcohol, nicotine, immune system enhancement,

кофеин, алкоголь, никотин, повышение иммунной системы,

vision enhancement, anesthetics --

улучшение зрения, обезболивающие.

we take that very much for granted,

Мы принимаем это нечто как само собой разумеющееся,

but just think about how great progress that is --

но подумайте насколько это большой прогресс,

like, having an operation before anesthetics was not fun.

например, операция без обезболивания была невесела.

Contraceptives, cosmetics and brain reprogramming techniques --

Контрацептивы, косметика и техники перепрограммирования мозга...

that sounds ominous,

это звучит угрожающе.

but the distinction between what is a technology --

Но разница между тем, что является технологией —

a gadget would be the archetype --

новое устройство будет образцом —

and other ways of changing and rewriting human nature is quite subtle.

и иными способами изменения и перезаписи человеческого естества довольно тонка.

So if you think about what it means to learn arithmetic or to learn to read,

Если вы задумаетесь: что значит выучить арифметику или научиться читать?

you're actually, literally rewriting your own brain.

Вы на самом деле, буквально переписываете свой мозг.

You're changing the microstructure of your brain as you go along.

При этом вы изменяете микроструктуры вашего мозга.

So in a broad sense, we don't need to think about technology

В широком смысле, нам не нужно думать о технологии

as only little gadgets, like these things here,

только как о новых устройствах, таких, как эти,

but even institutions and techniques,

а как об институтах и техниках,

psychological methods and so forth.

психологических методах и так далее.

Forms of organization can have a profound impact on human nature.

Организации могут оказать глубокое воздействие на человеческую природу.

Looking ahead, there is a range of technologies

Смотря в будущее, существует ряд технологий,

that are almost certain to be developed sooner or later.

которые определённо будут разработаны рано или поздно.

We are very ignorant about what the time scale for these things are,

Нам не известно, сколько времени понадобится для разработки этих технологий,

but they all are consistent with everything we know

но все они соответствуют всему тому,

about physical laws, laws of chemistry, etc.

что мы знаем о законах физики, химических законах и других.

It's possible to assume,

Можно считать,

setting aside a possibility of catastrophe,

что снижение вероятности возможных катастроф,

that sooner or later we will develop all of these.

рано или поздно приведёт нас к развитию этих технологий.

And even just a couple of these would be enough

И даже парочки из них будет достаточно,

to transform the human condition.

чтобы изменить человека.

So let's look at some of the dimensions of human nature

Итак, давайте взглянем не некоторые аспекты человеческой природы,

that seem to leave room for improvement.

которые могут быть улучшены.

Health span is a big and urgent thing,

Протяжённость здоровой жизни это важное и срочное дело,

because if you're not alive,

потому что, если вы не живы,

then all the other things will be to little avail.

тогда все остальные вещи станут слабо полезны.

Intellectual capacity -- let's take that box,

Интеллектуальный потенциал — давайте возьмём его.

which falls into a lot of different sub-categories:

Его можно разложить на много разных категорий:

memory, concentration, mental energy, intelligence, empathy.

память, концентрация, умственные силы, интеллект, переживания.

These are really great things.

Все это очень важно.

Part of the reason why we value these traits

Одна из причин, почему мы ценим эти качества —

is that they make us better at competing with other people --

они делают нас конкурентноспособными...

they're positional goods.

они являются позиционными товарами.

But part of the reason --

С другой стороны, причина нравственных оснований

and that's the reason why we have ethical ground for pursuing these --

стремления к этим качествам в том,

is that they're also intrinsically valuable.

что они ценны по своей сути.

It's just better to be able to understand more of the world around you

Так здорово иметь возможность понимать

and the people that you are communicating with,

мир вокруг нас и людей, с которыми мы общаемся,

and to remember what you have learned.

и помнить то, чему мы научились.

Modalities and special faculties.

Условия и специальные возможности.

Now, the human mind is not a single unitary information processor,

Человеческий разум — это не только один цельный информационный процессор,

but it has a lot of different, special, evolved modules

но и много разных, специально задействованных модулей,

that do specific things for us.

которые делают конкретные вещи для нас.

If you think about what we normally take as giving life a lot of its meaning --

Давайте подумаем о том, что придаёт жизни смысл:

music, humor, eroticism, spirituality, aesthetics,

музыка, юмор, эротика, духовность, эстетика,

nurturing and caring, gossip, chatting with people --

воспитание и забота, слухи, общение с людьми.

all of these, very likely, are enabled by a special circuitry

Все они, скорей всего, задействованы специальной схемой,

that we humans have,

которая есть у людей, но могла быть и другая форма разумной жизни,

but that you could have another intelligent life form that lacks these.

в которой был бы недостаток таких вещей.

We're just lucky that we have the requisite neural machinery

Нам просто повезло, что у нас есть необходимые нейронные механизмы

to process music and to appreciate it and enjoy it.

для обработки музыки, понимания и восхищения ею.

All of these would enable, in principle -- be amenable to enhancement.

Всё это, в принципе, поддаётся улучшению.

Some people have a better musical ability

Некоторые люди имеют лучший музыкальный слух

and ability to appreciate music than others have.

и возможность оценивать музыку, чем другие.

It's also interesting to think about what other things are --

Интересно, что же представляют из себя другие возможности.

so if these all enabled great values,

Итак, если все они имеют большое значение,

why should we think that evolution has happened to provide us

почему мы должны считать, что эволюция предоставила нам

with all the modalities we would need to engage

все условия для взаимодействия

with other values that there might be?

с другими возможностями, которые могут существовать?

Imagine a species

Представьте виды, которые просто не имеют

that just didn't have this neural machinery for processing music.

нейронных механизмов для обработки музыки.

And they would just stare at us with bafflement

И они будут глазеть на нас с недоумением,

when we spend time listening to a beautiful performance,

когда мы слушаем великолепное представление —

like the one we just heard -- because of people making stupid movements,

как только что прослушанное — из-за людей, делающих глупые движения.

and they would be really irritated and wouldn't see what we were up to.

Их бы это всё раздражало, и они не поняли бы, чем это мы занимались.

But maybe they have another faculty, something else

Но, быть может, у них есть другая способность, что-то ещё,

that would seem equally irrational to us,

что, возможно, так же будет злить нас,

but they actually tap into some great possible value there.

но оно действительно ценно для них.

But we are just literally deaf to that kind of value.

Но мы не сможем понять, в чём его ценность.

So we could think of adding on different,

Таким образом, мы можем размышлять о добавлении других,

new sensory capacities and mental faculties.

новых сенсорных и умственных способностей,

Bodily functionality and morphology and affective self-control.

физической функциональности и морфологии и контроле эмоций,

Greater subjective well-being.

большем субъективном благополучии,

Be able to switch between relaxation and activity --

о возможности переключаться между релаксацией и активной деятельностью,

being able to go slow when you need to do that, and to speed up.

возможность замедлиться и ускориться, когда это необходимо.

Able to switch back and forth more easily

Способность легко переключаться

would be a neat thing to be able to do --

будет отличным условием для возможности

easier to achieve the flow state,

более лёгкого достижения состояния «потока»,

when you're totally immersed in something you are doing.

когда вы полностью погружены в созидание.

Conscientiousness and sympathy.

Добросовестность и сочувствие.

The ability to -- it's another interesting application

Cпособности... Это другое интересное применение,

that would have large social ramification, perhaps.

которое может иметь широкие общественные последствия.

If you could actually choose to preserve your romantic attachments to one person,

Если бы вы захотели сохранить романтические отношения с другим человеком,

undiminished through time,

неуменьшающиеся со временем, так что никогда не придётся...

so that wouldn't have to -- love would never have to fade if you didn't want it to.

любовь никогда не угаснет, если вы этого не захотите.

That's probably not all that difficult.

Вероятно, это не так уж и трудно.

It might just be a simple hormone or something that could do this.

Может быть, обычный гормон или что-то подобное, способное сделать это.

It's been done in voles.

Это было сделано с полёвками.

You can engineer a prairie vole to become monogamous

Можно модифицировать степную полёвку, чтобы она стала моногамной,

when it's naturally polygamous.

хотя изначально она полигамна.

It's just a single gene.

Это просто один ген.

Might be more complicated in humans, but perhaps not that much.

Может для людей это будет несколько сложнее, но не слишком.

This is the last picture that I want to --

Это последняя картинка, которую я хочу...

now we've got to use the laser pointer.

я воспользуюсь лазерной указкой.

A possible mode of being here would be a way of life --

Вероятным способом бытия будет жизненный путь...

a way of being, experiencing, thinking, seeing,

образ жизни, опыт, размышления, созерцание,

interacting with the world.

взаимодействие с миром.

Down here in this little corner, here, we have the little sub-space

Здесь, снизу, в этом уголочке есть небольшое подпространство,

of this larger space that is accessible to human beings --

часть большего пространства, доступного человечеству...

beings with our biological capacities.

существам с нашими биологическими возможностями.

It's a part of the space that's accessible to animals;

Это часть пространства доступная для животных...

since we are animals, we are a subset of that.

поскольку мы тоже являемся животными, мы здесь подсистема.

And then you can imagine some enhancements of human capacities.

Вы можете представить себе некоторые улучшения человеческого потенциала.

There would be different modes of being you could experience

Можно представить множество способов существования,

if you were able to stay alive for, say, 200 years.

если вы сможете оставаться в живых в течение хотя бы 200 лет.

Then you could live sorts of lives and accumulate wisdoms

Тогда вы смогли бы прожить разные жизни и накопить знания,

that are just not possible for humans as we currently are.

которые просто недоступны для нынешних нас.

So then, you move off to this larger sphere of "human +,"

И затем вы смогли бы достичь этой большой сферы, «Человек +»

and you could continue that process and eventually

и продолжить этот процесс и, в конечном итоге,

explore a lot of this larger space of possible modes of being.

исследовать большую часть этого огромного пространства возможных способов бытия.

Now, why is that a good thing to do?

Теперь, почему же это хорошая идея?

Well, we know already that in this little human circle there,

Хорошо, мы уже знаем, что в этом небольшом круге для людей,

there are these enormously wonderful and worthwhile modes of being --

есть крайне замечательные и сто́ящие способы существования...

human life at its best is wonderful.

человеческая жизнь прекрасна в своих лучших проявлениях.

We have no reason to believe that within this much, much larger space

У нас нет оснований полагать, что в этом намного большем пространстве

there would not also be extremely worthwhile modes of being,

не будет также крайне полезных способов существования,

perhaps ones that would be way beyond our wildest ability

возможно тех, о которых мы не рискуем представить

even to imagine or dream about.

даже в самых смелых мечтах.

And so, to fix this third problem,

Итак, чтобы решить третью проблему,

I think we need -- slowly, carefully, with ethical wisdom and constraint --

Я считаю, мы должны... медленно, осторожно, мудро и сдержанно

develop the means that enable us to go out in this larger space and explore it

разработать средства, которые позволят нам войти в это огромное пространство и изучить его.

and find the great values that might hide there.

И найти потрясающие блага, которые там могут быть спрятаны.

Thanks.

Спасибо.