What would happen if we upload our brains to computers? | Robin Hanson

Переводчик: Yuliya Semkulich Редактор: Anna Zvereva

Someday, we may have robots as smart as people,

Возможно, однажды появятся роботы, такие же умные, как люди, —

artificial intelligence, AI.

появится искусственный интеллект, ИИ.

How could that happen?

Как это может произойти?

One route is that we'll just keep accumulating better software,

Первый сценарий: мы просто продолжим усовершенствовать ПО,

like we've been doing for 70 years.

чем мы и занимаемся последние 70 лет.

At past rates of progress, that may take centuries.

Судя по последним достижениям, на это могут уйти столетия.

Some say it'll happen a lot faster

Некоторые считают, что всё произойдёт гораздо быстрее,

as we discover grand new powerful theories of intelligence.

когда возникнут новые грандиозные по своей мощности теории об интеллекте.

I'm skeptical.

В чём я сомневаюсь.

But a third scenario

А вот третий сценарий —

is what I'm going to talk about today.

предмет моего сегодняшнего выступления:

The idea is to port the software from the human brain.

перенос логико-математической системы из человеческого мозга.

To do this, we're going to need three technologies to be good enough,

Чтобы это осуществить, нам необходимы три технических решения,

and none of them are there yet.

которых пока ещё не существует.

First, we're going to need lots of cheap, fast, parallel computers.

Во-первых, понадобится много дешёвых, быстрых параллельных компьютеров.

Second, we're going to need to scan individual human brains

Во-вторых, нужно будет отсканировать отдельный человеческий мозг

in fine spatial and chemical detail,

в высоком разрешении, с химическими особенностями,

to see exactly what cells are where, connected to what, of what type.

чтобы понять, где находятся различные типы клеток и с чем они связаны.

And third, we're going to need computer models

В-третьих, нам потребуются компьютерные модели работы

of how each kind of brain cell works --

каждого типа мозговых клеток:

taking input signals, changing interval state

как происходит приём входящих сигналов, изменение внутреннего состояния

and sending output signals.

и отправка исходящих сигналов.

If we have good enough models of all the kinds of brain cells

Если у нас будут годные прототипы всех типов мозговых клеток

and a good enough model of the brain,

и достаточно точная копия мозга,

we can put it together to make a good enough model of an entire brain,

мы сможем объединить это всё в достойную модель совершенного мозга,

and that model would have the same input-output behavior as the original.

которая будет иметь те же входящие и исходящие сигналы, что оригинал.

So if you talk to it, it might talk back.

Если с ней заговорить, она ответит.

If you ask it to do things, it might do them.

Если попросить её что-то сделать, она, возможно, сделает.

And if we could do that, everything would change.

И если мы сможем это сделать, всё изменится.

People have been talking about this idea for decades,

Люди десятилетиями обсуждают эту идею,

under the name of "uploads."

называя её «загрузки».

I'm going to call them "ems."

Я буду называть их «ЭМы» [от ЭМуляторы].

When they talk about it, they say,

При разговоре на эту тему всплывают такие вопросы:

"Is this even possible?

«А возможно ли такое в принципе?

If you made one, would it be conscious? Or is it just an empty machine?

Будет ли у созданной модели сознание? Или это будет просто пустая машина?

If you made one of me, is that me or someone else?"

Если её сделать из моего мозга, она будет мной или кем-то другим?

These are all fascinating questions that I'm going to ignore ...

Я проигнорирую все эти интереснейшие вопросы...

(Laughter)

(Смех)

because I see a neglected question:

потому что без внимания остаётся другой:

What would actually happen?

как всё будет на самом деле?

I became obsessed with this question.

Я стал одержим этим вопросом.

I spent four years trying to analyze it,

На протяжении четырёх лет я пытался в нём разобраться

using standard academic tools, to guess what would happen,

с помощью научных инструментов, чтобы предугадать, что произойдёт,

and I'm here to tell you what I found.

и сегодня готов рассказать о своих находках.

But be warned --

Но предупреждаю:

I'm not offering inspiration, I'm offering analysis.

я ни к чему не призываю, а лишь предлагаю результат анализа.

I see my job as telling you what's most likely to happen

Моя задача — рассказать вам, что вероятнее всего произойдёт,

if we did the least to avoid it.

если мы не попытаемся этого избежать.

If you aren't at least a bit disturbed by something I tell you here,

Если вы до сих пор не обеспокоены тем, что я говорю, значит,

you're just not paying attention.

вы просто невнимательно слушали.

(Laughter)

(Смех)

OK, the first thing I can tell you

Что ж, первое, что я могу сказать —

is that ems spend most of their life in virtual reality.

«ЭМы» бо́льшую часть времени проводят в виртуальной реальности.

This is what you might look like if you were using virtual reality.

Находясь в виртуальной реальности, вы, скорее всего, будете выглядеть так.

And this is what you might see:

И вот что вы можете испытать:

sunlight glinting off of water, you might hear gulls flying above,

увидеть солнечный свет, отражаемый от воды, услышать крики чаек,

you might even feel the wind on your cheeks or smell seawater,

с помощью крутого оборудования вы даже можете почувствовать

with advanced hardware.

ветер на лице и запах морской воды.

Now, if you were to spend a lot of time here,

Если вы будете проводить там много времени,

you might want a dashboard

потребуется панель мониторинга,

where you could do things like make a phone call,

с которой вы сможете, например, звонить,

move to a new virtual world,

перемещаться в другой виртуальный мир,

check your bank account.

проверять банковский счёт.

Now, while this is what you would look like in virtual reality,

Пока вы будете выглядеть так, находясь в виртуальной реальности,

this is what an em would look like in virtual reality.

«ЭМ» будет выглядеть вот так.

It's computer hardware sitting in a server rack somewhere.

Это компьютерное оборудование, расположенное в какой-то серверной.

But still, it could see and experience the same thing.

Однако они смогут понимать и испытывать то же, что и мы.

But some things are different for ems.

Но в некоторых аспектах у «ЭМов» есть отличия.

First, while you'll probably always notice that virtual reality isn't entirely real,

Во-первых, для вас виртуальная реальность всегда будет чем-то не вполне настоящим,

to an em, it can feel as real to them as this room feels to you now

«ЭМу» же она будет казаться настоящей, как вам эта комната

or as anything ever feels.

или что угодно вокруг.

And ems also have some more action possibilities.

Также у «ЭМов» выше уровень оперативных возможностей.

For example, your mind just always runs at the same speed,

Например, ваш мозг всегда работает на одной скорости,

but an em can add more or less computer hardware to run faster or slower,

а «ЭМ» может ускорить или замедлить деятельность с помощью оборудования,

and therefore, if the world around them seems to be going too fast,

и поэтому, если всё вокруг происходит слишком быстро,

they can just speed up their mind,

они могут ускорить своё мышление,

and the world around them would seem to slow down.

и окружающий мир для них замедлится.

In addition, an em can make a copy of itself at that moment.

К тому же, «ЭМы» могут создавать копии самих себя в определённый момент.

This copy would remember everything the same,

У этой копии будут такие же воспоминания,

and if it starts out with the same speed, looking at the same speed,

и если она начнёт жить с той же скоростью,

it might even need to be told, "You are the copy."

возможно, придётся сказать ей: «Ты — копия».

And em could make archive copies,

Ещё «ЭМ» мог бы делать архивные копии,

and with enough archives,

и если ме́ста для хранения будет достаточно,

an em can be immortal --

«ЭМы» смогут жить вечно —

in principle, though not usually in practice.

это в теории, пока на практике не пробовали.

And an em can move its brain, the computer that represents its brain,

«ЭМ» сможет перемещать свой мозг, точнее, содержащий его компьютер,

from one physical location to another.

из одного физического места в другое.

Ems can actually move around the world at the speed of light,

«ЭМы» смогут перемещаться по миру со скоростью света,

and by moving to a new location,

и, перемещаясь в новое место,

they can interact more quickly with ems near that new location.

они смогут быстрее взаимодействовать с находящимися поблизости «ЭМами».

So far, I've been talking about what ems can do.

До этого момента я говорил о том, что «ЭМы» смогут делать.

What do ems choose to do?

Но что «ЭМы» станут делать?

To understand that, we'll need to understand three key facts.

Чтобы ответить на этот вопрос, нам необходимо понять три важнейших факта.

First, ems by definition do what the human they emulate would do

Во-первых, «ЭМы» по определению поступили бы так,

как поступили бы в такой же ситуации люди, которых они имитируют.

in the same situation.

So their lives and behavior are very human.

Поэтому жизнь и поведение «ЭМов» очень человеческие.

They're mainly different because they're living in a different world.

Основное отличие состоит в том, что они живут в другом мире.

Second, ems need real resources to survive.

Во-вторых, «ЭМам» нужны для выживания настоящие ресурсы.

You need food and shelter or you'll die.

Вам нужны еда и кров, иначе вы погибнете.

Also, ems need computer hardware, energy, cooling, or they can't exist.

«ЭМы» не смогут существовать без оборудования, энергии и охлаждения.

For every subjective minute that an em experiences,

За каждую субъективную минуту, прожитую «ЭМом»,

someone, usually that em, had to work to pay for it.

кто-то — обычно этот же «ЭМ» — должен работать, чтобы оплатить её.

Third, ems are poor.

В-третьих, «ЭМы» бедны.

(Laughter)

(Смех)

The em population can grow quicker than the em economy,

Популяция «ЭМов» может расти быстрее, чем их экономика,

so that means wages fall down to em subsistence levels.

поэтому зарплаты будут падать до уровня прожиточного минимума «ЭМа».

That means ems have to be working most of the time.

Это значит, что бо́льшую часть времени «ЭМам» придётся работать,

So that means this is what ems usually see:

то есть чаще всего «ЭМы» будут видеть

beautiful and luxurious, but desks --

прекрасные и роскошные, но рабочие столы,

they're working most of the time.

ведь они почти всегда за работой.

Now, a subsistence wage scenario, you might think, is exotic and strange,

Сценарий с прожиточным минимумом может показаться экзотичным и странным,

but it's actually the usual case in human history,

однако в истории человечества это обычное дело,

and it's how pretty much all wild animals have ever lived,

да и жизнь диких животных всегда такой и была,

so we know what humans do in this situation.

так что мы знаем, что делают люди в таком случае:

Humans basically do what it takes to survive,

в основном то, что необходимо для выживания.

and this is what lets me say so much about the em world.

И именно это позволяет мне сказать многое о мире «ЭМов».

When creatures are rich, like you,

Если существо богато, как вы, например,

you have to know a lot about what they want

ему нужно хорошо знать, чего оно хочет,

to figure out what they do.

чтобы понять, что ему делать.

When creatures are poor,

Когда существо бедно,

you know that they mostly do what it takes to survive.

вы знаете, что бо́льшую часть времени оно борется за выживание.

So we've been talking about the em world from the point of view of the ems --

Мы поговорили о мире «ЭМов» с их точки зрения,

now, let's step back and look at their whole world.

теперь давайте сделаем шаг назад и посмотрим на их мир в целом.

First, the em world grows much faster than ours,

Во-первых, их мир растёт гораздо быстрее нашего,

roughly a hundred times faster.

примерно раз в сто.

So the amount of change we would experience in a century or two,

Те изменения, которые происходят у нас за столетие или два,

they would experience in a year or two.

«ЭМы» переживут за 1–2 года.

And I'm not really willing to project this age much beyond that,

И я не берусь предсказывать события дальше этого времени,

because plausibly by then something else will happen, I don't know what.

потому что к тому моменту что-то явно произойдёт, и я не знаю что.

Second, the typical emulation runs even faster,

Во-вторых, типичная эмуляция проходит ещё быстрее,

roughly a thousand times human speed.

примерно в 1 000 раз быстрее, чем в мире людей.

So for them, they experience thousands of years in this year or two,

Поэтому по их меркам за 1–2 года они проживают тысячи лет,

and for them, the world around them is actually changing more slowly

и для них мир вокруг меняется гораздо медленнее

than your world seems to change for you.

по сравнению с тем, как мир меняется для вас.

Third, ems are crammed together in a small number of very dense cities.

В-третьих, «ЭМы» теснятся в горстке густо населённых городов.

This is not only how they see themselves in virtual reality,

Дело не только в том, как они видят себя в виртуальной реальности,

it's also how they actually are physically crammed together.

но и в том, что они физически находятся очень близко друг к другу.

So at em speeds, physical travel feels really painfully slow,

Для «ЭМов» при их скоростях физическое путешествие — пытка;

so most em cities are self-sufficient,

большинство их городов самодостаточны;

most war is cyber war,

большинство войн — это кибер-войны,

and most of the rest of the earth away from the em cities

а бо́льшая часть земли вдали от городов «ЭМов»

is left to the humans, because the ems really aren't that interested in it.

оставлена людям, потому что эти территории «ЭМам» не интересны.

Speaking of humans,

Кстати, о людях,

you were wanting to hear about that.

вам стоит это послушать:

Humans must retire, at once, for good.

люди должны будут уйти в отставку. Навсегда.

They just can't compete.

Они просто не выдержат конкуренции.

Now, humans start out owning all of the capital in this world.

Итак, сначала люди будут обладать всем мировым капиталом.

The economy grows very fast, their wealth grows very fast.

Начнётся быстрый рост экономики и повышение благосостояния.

Humans get rich, collectively.

Все люди разбогатеют.

As you may know, most humans today don't actually own that much

Как вам известно, сегодня большинство людей не имеют почти ничего,

besides their ability to work,

кроме своей способности работать.

so between now and then, they need to acquire sufficient assets,

Так что до того момента им надо обзавестись достаточным объёмом активов,

insurance or sharing arrangements,

страховкой или долей в имуществе,

or they may starve.

дабы не умереть с голоду.

I highly recommend avoiding this outcome.

Настоятельно рекомендую избегать такого исхода.

(Laughter)

(Смех)

Now, you might wonder,

Возможно, вам станет интересно,

why would ems let humans exist?

зачем «ЭМам» люди?

Why not kill them, take their stuff?

Почему бы не убить их и отобрать имущество?

But notice we have many unproductive retirees around us today,

Заметьте, сегодня нас окружает множество нетрудоспособных пенсионеров,

and we don't kill them and take their stuff.

но мы их не убиваем и не отбираем у них имущество.

(Laughter)

(Смех)

In part, that's because it would disrupt the institutions we share with them.

Отчасти потому, что это подорвёт работу общественных институтов:

Other groups would wonder who's next,

другие слои задумаются о том, кто следующий.

so plausibly, ems may well let humans retire in peace during the age of em.

Так что, скорее всего, «ЭМы» позволят людям уйти на пенсию.

You should worry more that the age of em only lasts a year or two

Лучше беспокойтесь о том, что эпоха «ЭМов» продлиться всего пару лет,

and you don't know what happens next.

а что будет дальше — неизвестно.

Ems are very much like humans,

«ЭМы» очень похожи на людей,

but they are not like the typical human.

но они не похожи на среднестатистического человека.

The typical em is a copy of the few hundred most productive humans.

Типичный «ЭМ» — это копия нескольких сотен самых продуктивных людей.

So in fact, they are as elite, compared to the typical human,

То есть по сравнению с обычным человеком они являются элитой,

as the typical billionaire, Nobel Prize winner,

подобно миллиардерам, обладателям Нобелевской премии,

Olympic gold medalist, head of state.

Олимпийским золотым медалистам, главам государств.

Ems look on humans perhaps with nostalgia and gratitude,

Возможно, «ЭМы» смотрят на людей с ностальгией и благодарностью,

but not so much respect,

но без должного уважения,

which is, if you think about it, how you think about your ancestors.

подобного тому, с которым мы вспоминаем наших предков.

We know many things about how humans differ in terms of productivity.

Мы знаем, как люди отличаются с точки зрения продуктивности,

We can just use those to predict features of ems --

и можем это использовать, чтобы предсказать особенности «ЭМов»:

for example, they tend to be smart, conscientious, hard-working,

например, скорее всего они будут умны, сознательны, трудолюбивы,

married, religious, middle-aged.

женаты, религиозны, среднего возраста.

These are features of ems.

Вот характеристики «ЭМов».

Em world also contains enormous variety.

«ЭМы» также отличаются огромным разнообразием.

Not only does it continue on with most of the kinds of variety that humans do,

Мало того, что они будут различаться параметрами, присущим человеку,

including variety of industry and profession,

в том числе сферами занятости и профессиями,

they also have many new kinds of variety,

появятся и новые отличительные черты,

and one of the most important is mind speed.

одной из которых будет скорость мышления.

Ems can plausibly go from human speed

«ЭМы» вполне могут разогнаться с человеческой скорости

up to a million times faster than human speed,

до скорости в миллион раз быстрее

and down to a billion times slower than human speed.

или в миллиард раз медленнее.

Faster ems tend to have markers of high status.

Чем быстрее «ЭМ», тем выше его статус.

They embody more wealth. They win arguments.

Они владеют бóльшим богатством, одерживают победы в спорах,

They sit at premium locations.

занимают лучшие места расположения.

Slower ems are mostly retirees,

Более медленные «ЭМы» — в основном, пенсионеры

and they are like the ghosts of our literature.

и похожи на призраков из книг.

If you recall, ghosts are all around us --

Если помните, призраки повсюду...

you can interact with them if you pay the price.

С ними можно связаться, если вы готовы на это,

But they don't know much, they can't influence much,

но они мало что знают, мало на что влияют

and they're obsessed with the past, so what's the point?

и помешаны на прошлом, так что какой в этом смысл?

(Laughter)

(Смех)

Ems also have more variety in the structure of their lives.

Также жизнь «ЭМов» отличается по структуре.

This is your life: you start and you end, really simple.

Ваша жизнь проста: вы рождаетесь и умираете.

This is the life of an em,

Жизнь «ЭМа» заключается в том,

who every day splits off some short-term copies

что каждый день он создаёт кратковременные копии

to do short-term tasks and then end.

для выполнения небольших задач, а затем удаляет их.

We'll talk more about those short term versions in a moment,

Об этих копиях мы ещё поговорим, отмечу лишь,

but they are much more efficient

что они гораздо эффективнее,

because they don't have to rest for the next day.

потому что им не нужен отдых.

This em is more opportunistic.

Этот «ЭМ» действует по обстоятельствам.

They make more copies of themselves when there's more demand for that.

Он создаёт больше копий, когда это требуется.

They don't know which way the future's going.

Он не знает, что его ждёт в будущем.

This is an em designer,

А это «ЭМ»-проектировщик:

who conceives of a large system

он придумывает огромную систему,

and then breaks recursively into copies who elaborate that,

затем рекурсивно размножает копии для более тщательной проработки деталей,

so ems can implement larger, more coherent designs.

поэтому он может выполнять более крупные, слаженные проекты.

This an emulation plumber

Это симуляция сантехника,

who remembers that every day, for the last 20 years,

который помнит, что каждый день последние 20 лет

they only ever worked two hours a day, a life of leisure.

он работал только два часа в день — не жизнь, а рай.

But what really happened is, every day they had a thousand copies,

Однако на самом деле каждый день у него были тысячи копий,

each of whom did a two-hour plumbing job,

каждая из которых выполняла двухчасовую работу,

and only one of them went on to the next day.

и только одна из них продолжила жить после.

Objectively, they're working well over 99 percent of the time.

В реальности он работал более 99 процентов своей жизни,

Subjectively, they remember a life of leisure.

но помнит лишь жизнь, полную отдыха.

(Laughter)

(Смех)

This, again, is you. You start and you end.

Это — снова вы. Вы рождаетесь и умираете.

This could be you if at the start of party,

Это могли бы быть вы, если в начале вечеринки

you took a drug that meant you would not remember that party

вы приняли бы наркотик, заставивший бы вас забыть о ней

ever after that day.

навсегда.

Some people do this, I'm told.

Мне сказали, что некоторые так и делают.

Toward the end of the party,

К концу вечеринки скажете ли вы

will you say to yourself, "I'm about to die, this is terrible.

самому себе: «Я умираю, это ужасно.

That person tomorrow isn't me, because they won't remember what I do."

Тот, кто проснётся завтра — не я, ведь он не помнит того, что помню я».

Or you could say, "I will go on tomorrow. I just won't remember what I did."

Или вы скажете: «Я продолжу жить завтра. Просто не буду помнить, что я делал».

This is an em who splits off a short-term copy

Это «ЭМ», который создаёт кратковременную копию

to do a short-term task and then end.

на время выполнения задачи, а затем удаляет её.

They have the same two attitude possibilities.

У него те же две точки зрения.

They can say, "I'm a new short-term creature with a short life. I hate this."

Он скажет: «Я — временная копия с короткой жизнью. Это ужасно».

Или: «Я — часть единого целого, которое не запомнит эту часть».

Or "I'm a part of a larger creature who won't remember this part."

I predict they'll have that second attitude,

Думаю, они, скорее, будут иметь второе мнение,

not because it's philosophically correct, but because it helps them get along.

и не потому что это философски верно, а ради выживания в их мире.

Today, if the president says we must invade Iraq,

Если президент скажет, что мы должны вторгнуться в Ирак,

and you say, "Why?"

и вы спросите: «Зачем?»

and they say, "State secret,"

и он ответит: «Государственная тайна»,

you're not sure if you can trust them,

вы не будете уверены, можно ли ему доверять,

but for ems, a copy of the president and a copy of you can go inside a safe,

но «ЭМы» — копии президента и копия вас — смогут уединиться,

explain all their secret reasons,

объясниться по поводу всех тайных причин,

and then one bit comes out from your copy to yourself,

и затем бит этой копии передаётся вам,

telling you if you were convinced.

рассказывая вам так, чтобы вас убедить.

So now you can know there is a good reason.

Теперь вы знаете, что есть веская причина.

I know you guys are all eager to evaluate this world.

Я знаю, что вы стремитесь оценить этот мир.

You're eager to decide if you love it or hate it.

Вам не терпится решить, нравится он вам или нет.

But think: your ancestors from thousands of years ago

Но подумайте: ваши предки, тысячи лет назад,

would have loved or hated your world

полюбили или возненавидели бы ваш мир,

based on the first few things they heard about it,

услышав о нём ничтожно мало,

ведь ваш мир для них непонятен.

because your world is really just weird.

So before judging a strange future world, you should really learn a lot about it,

Прежде чем судить странный мир будущего, узнайте о нём побольше,

почитайте об этом в книгах,

maybe read a whole book about it,

and then, if you don't like it, work to change it.

и если он вам не понравится, постарайтесь его изменить.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)