What would happen if we upload our brains to computers? | Robin Hanson

Tradutor: Denise Pelusch Revisor: Maricene Crus

Someday, we may have robots as smart as people,

Um dia, poderemos ter robôs tão inteligentes quanto pessoas,

artificial intelligence, AI.

inteligência artificial, IA.

How could that happen?

Como isso pode acontecer?

One route is that we'll just keep accumulating better software,

Um dos caminhos é continuar acumulando softwares melhores,

like we've been doing for 70 years.

como temos feito por 70 anos.

At past rates of progress, that may take centuries.

Nos ritmos passados de progresso, levaria séculos.

Some say it'll happen a lot faster

Alguns dizem que acontecerá muito mais rápido

as we discover grand new powerful theories of intelligence.

pelas descobertas grandiosas de novas teorias de inteligência.

I'm skeptical.

Eu sou cético.

But a third scenario

Um terceiro cenário

is what I'm going to talk about today.

é sobre o qual eu vou falar hoje.

The idea is to port the software from the human brain.

A ideia é conectar uma porta ao software do cérebro humano.

To do this, we're going to need three technologies to be good enough,

Para isso, precisamos que três tipos de tecnologia estejam à altura,

and none of them are there yet.

e nenhuma delas chegou lá ainda.

First, we're going to need lots of cheap, fast, parallel computers.

Primeiro, precisaremos de muitos computadores paralelos

mais baratos e rápidos.

Second, we're going to need to scan individual human brains

Segundo, precisaremos escanear cérebros humanos individuais

in fine spatial and chemical detail,

em detalhes espaciais e químicos,

to see exactly what cells are where, connected to what, of what type.

para identificar onde fica cada célula, com o que se conectam, e de que tipo.

And third, we're going to need computer models

E terceiro, precisaremos de modelos computacionais

of how each kind of brain cell works --

de como cada tipo de célula cerebral funciona,

taking input signals, changing interval state

tomando sinais de entrada, mudando o estado do intervalo

and sending output signals.

e emitindo sinais de saída.

If we have good enough models of all the kinds of brain cells

Se tivermos modelos satisfatórios de todos os tipos de neurônios

and a good enough model of the brain,

e um modelo satisfatório de cérebro,

we can put it together to make a good enough model of an entire brain,

podemos juntá-los e fazer um modelo satisfatório do cérebro todo,

and that model would have the same input-output behavior as the original.

com o mesmo comportamento de entrada e saída do original.

So if you talk to it, it might talk back.

Se falarmos com ele, ele poderá nos responder.

If you ask it to do things, it might do them.

Se pedirmos para fazer algo, ele fará.

And if we could do that, everything would change.

E se pudermos fazer isso, tudo pode mudar.

People have been talking about this idea for decades,

Fala-se desta ideia por décadas, com o nome de uploads.

under the name of "uploads."

I'm going to call them "ems."

Eu vou chamá-los de "ems".

When they talk about it, they say,

Quando falam dele, dizem:

"Is this even possible?

"Isso é mesmo possível?

If you made one, would it be conscious? Or is it just an empty machine?

Se fizerem um, ele seria consciente ou só uma máquina vazia?

If you made one of me, is that me or someone else?"

Se fizerem um de mim, seria eu mesmo ou outra pessoa?"

These are all fascinating questions that I'm going to ignore ...

Essas são perguntas fascinantes que eu vou ignorar.

(Laughter)

(Risos)

because I see a neglected question:

Porque há uma questão negligenciada: o que aconteceria na realidade?

What would actually happen?

I became obsessed with this question.

Fiquei obcecado com esta pergunta.

I spent four years trying to analyze it,

Passei quatro anos tentando analisá-la,

using standard academic tools, to guess what would happen,

usando ferramentas acadêmicas padrão para pesquisar o que aconteceria,

and I'm here to tell you what I found.

e vou contar a vocês o que eu descobri.

But be warned --

Fiquem avisados:

I'm not offering inspiration, I'm offering analysis.

não estou oferecendo inspiração, mas sim uma análise.

I see my job as telling you what's most likely to happen

Meu trabalho é explicar o que provavelmente aconteceria

if we did the least to avoid it.

se não fizermos o mínimo para evitar isso.

If you aren't at least a bit disturbed by something I tell you here,

Se o que eu vou lhes contar não incomodar ao menos um pouco,

you're just not paying attention.

é porque não estão prestando atenção.

(Laughter)

(Risos)

OK, the first thing I can tell you

A primeira coisa que eu posso contar

is that ems spend most of their life in virtual reality.

é que "ems" passam a maior parte da vida na realidade virtual.

This is what you might look like if you were using virtual reality.

É assim que nos parecemos usando realidade virtual.

And this is what you might see:

E vemos algo como isto:

sunlight glinting off of water, you might hear gulls flying above,

a luz do sol se refletindo na água, ouvir gaivotas voando acima,

you might even feel the wind on your cheeks or smell seawater,

talvez sentir o vento na face ou o cheiro da água do mar,

with advanced hardware.

com o hardware avançado.

Now, if you were to spend a lot of time here,

Se passarmos mais tempo ali, precisaríamos de um painel de controle

you might want a dashboard

where you could do things like make a phone call,

para fazer coisas como telefonemas,

move to a new virtual world,

mudar para um mundo virtual diferente, verificar sua conta bancária.

check your bank account.

Now, while this is what you would look like in virtual reality,

Enquanto nós nos pareceríamos assim na realidade virtual,

this is what an em would look like in virtual reality.

um "em" se pareceria assim.

It's computer hardware sitting in a server rack somewhere.

É um hardware de computador numa prateleira em algum lugar.

But still, it could see and experience the same thing.

Ainda assim, ele poderia ver e viver o mesmo.

But some things are different for ems.

Mas algumas coisas são diferentes para os "ems".

First, while you'll probably always notice that virtual reality isn't entirely real,

Primeiro, enquanto a realidade virtual nunca será totalmente real para vocês,

to an em, it can feel as real to them as this room feels to you now

para um "em", ela é tão real quanto esta sala é para vocês,

or as anything ever feels.

ou qualquer outra sensação.

And ems also have some more action possibilities.

Os "ems" também têm algumas possibilidades de ação a mais.

For example, your mind just always runs at the same speed,

Por exemplo: o seu cérebro sempre opera na mesma velocidade,

but an em can add more or less computer hardware to run faster or slower,

mas um "em" pode ter mais ou menos hardware para ir mais rápido ou devagar,

and therefore, if the world around them seems to be going too fast,

e assim, se o mundo ao seu redor parece ir rápido demais,

they can just speed up their mind,

eles podem acelerar suas mentes,

and the world around them would seem to slow down.

e o mundo ao seu redor parecerá ter desacelerado.

In addition, an em can make a copy of itself at that moment.

O "em" também pode fazer uma cópia de si mesmo naquele momento.

This copy would remember everything the same,

Esta cópia se lembraria de tudo igual,

and if it starts out with the same speed, looking at the same speed,

e se começasse olhando para a mesma velocidade,

it might even need to be told, "You are the copy."

poderia até precisar ser avisado: "Você é uma cópia".

And em could make archive copies,

O "em" pode arquivar cópias, com arquivos suficientes,

and with enough archives,

an em can be immortal --

um "em" pode ser imortal, em conceito, não geralmente na prática.

in principle, though not usually in practice.

And an em can move its brain, the computer that represents its brain,

Um "em" pode movimentar o computador que representa a sua mente,

from one physical location to another.

de uma locação física para outra.

Ems can actually move around the world at the speed of light,

Os "ems" podem se mover ao redor do mundo na velocidade da luz,

and by moving to a new location,

e ao irem para outro lugar,

they can interact more quickly with ems near that new location.

podem interagir mais rapidamente com os "ems" por ali.

So far, I've been talking about what ems can do.

Até agora, eu falei sobre o que os "ems" podem fazer.

What do ems choose to do?

O que os "ems" escolhem fazer?

To understand that, we'll need to understand three key facts.

Para entender o que, precisamos entender três fatos-chave.

First, ems by definition do what the human they emulate would do

Primeiro, "ems", por definição, agem como agiriam os humanos a quem imitam

in the same situation.

naquela mesma situação.

So their lives and behavior are very human.

Sua vida e comportamento são bem humanos.

They're mainly different because they're living in a different world.

São diferentes principalmente por viverem num outro mundo.

Second, ems need real resources to survive.

Segundo, "ems" precisam de recursos reais para sobreviver.

You need food and shelter or you'll die.

Vocês precisam de comida e abrigo para não morrer.

Also, ems need computer hardware, energy, cooling, or they can't exist.

Também, "ems" precisam de hardware de computador, eletricidade, ventilação.

For every subjective minute that an em experiences,

Para cada minuto subjetivo que um "em" vive,

someone, usually that em, had to work to pay for it.

alguém, geralmente um "em", teve que trabalhar para pagar.

Third, ems are poor.

Terceiro, "ems" são pobres.

(Laughter)

The em population can grow quicker than the em economy,

A população de "ems" pode crescer mais rápido que sua economia,

so that means wages fall down to em subsistence levels.

o que significa que os salários diminuem a níveis de subsistência,

That means ems have to be working most of the time.

e que os "ems" têm que trabalhar a maioria do tempo.

So that means this is what ems usually see:

Então isto é o que um "em" geralmente vê:

beautiful and luxurious, but desks --

lindas e luxuosas, mas são escrivaninhas. Trabalham a maioria do tempo.

they're working most of the time.

Now, a subsistence wage scenario, you might think, is exotic and strange,

Um cenário de salário de subsistência, pensamos, é exótico e estranho,

but it's actually the usual case in human history,

mas é na verdade o caso comum da história humana,

and it's how pretty much all wild animals have ever lived,

e é assim que animais selvagens sempre viveram,

so we know what humans do in this situation.

então sabemos o que humanos fazem nessas situações.

Humans basically do what it takes to survive,

Humanos basicamente fazem o que é preciso para sobreviver,

and this is what lets me say so much about the em world.

e isto é o que me permite dizer tanto sobre o mundo "em".

When creatures are rich, like you,

Quando criaturas são ricas, como vocês,

you have to know a lot about what they want

têm que saber muito daquilo que querem para saber o que fazer.

to figure out what they do.

When creatures are poor,

Quando são pobres,

you know that they mostly do what it takes to survive.

fazem aquilo que é preciso para sobreviver.

So we've been talking about the em world from the point of view of the ems --

Estamos falando do mundo "em" do ponto de vista dos "ems".

now, let's step back and look at their whole world.

Vamos agora olhar para o mundo deles.

First, the em world grows much faster than ours,

Primeiro, o mundo "em" cresce muito mais rápido que o nosso,

roughly a hundred times faster.

cerca de 100 vezes mais rápido.

So the amount of change we would experience in a century or two,

As mudanças que vivenciamos em um ou dois séculos,

they would experience in a year or two.

eles vivenciaram nos dois últimos anos.

And I'm not really willing to project this age much beyond that,

Não quero estimar uma idade muito além disso,

because plausibly by then something else will happen, I don't know what.

porque é viável que algo mais acontecerá, mas eu não sei o quê.

Second, the typical emulation runs even faster,

Segundo, uma emulação típica roda mais rápido,

roughly a thousand times human speed.

cerca de mil vezes a velocidade humana.

So for them, they experience thousands of years in this year or two,

Eles vivenciam mil anos em um ano ou dois,

and for them, the world around them is actually changing more slowly

e o mundo à sua volta muda mais devagar do que o mundo parece mudar para você.

than your world seems to change for you.

Third, ems are crammed together in a small number of very dense cities.

Terceiro, os "ems" se juntam em poucas, mas densas cidades.

This is not only how they see themselves in virtual reality,

Isto não é apenas como eles se veem na realidade virtual,

it's also how they actually are physically crammed together.

é também como se juntam fisicamente.

So at em speeds, physical travel feels really painfully slow,

Na velocidade "em" a viagem física parece penosamente devagar,

e por isso a maioria das cidades "ems" são autossuficientes,

so most em cities are self-sufficient,

most war is cyber war,

a maioria das guerras, cibernéticas,

and most of the rest of the earth away from the em cities

e a maioria do resto do mundo fora das cidades "em"

is left to the humans, because the ems really aren't that interested in it.

é deixada para humanos, porque "ems" não estão interessados nelas.

Speaking of humans,

Falando em humanos, o que vocês estão interessados.

you were wanting to hear about that.

Humans must retire, at once, for good.

Humanos precisam se aposentar de uma vez por todas.

They just can't compete.

Não têm como competir.

Now, humans start out owning all of the capital in this world.

No começo, humanos usufruíam de todo o capital do mundo.

The economy grows very fast, their wealth grows very fast.

A economia cresceu rápido, sua riqueza também.

Humans get rich, collectively.

Humanos enriquecem coletivamente.

As you may know, most humans today don't actually own that much

Como talvez saibam, a maioria dos humanos não possui muito

besides their ability to work,

além da habilidade de trabalhar,

so between now and then, they need to acquire sufficient assets,

entre o agora e o futuro, precisam adquirir bens suficientes,

insurance or sharing arrangements,

seguros ou acordos de partilha, ou poderão passar fome.

or they may starve.

I highly recommend avoiding this outcome.

Eu recomendo evitar esse desfecho.

(Laughter)

Now, you might wonder,

Talvez se perguntem: "Por que 'ems' deixam humanos existir?

why would ems let humans exist?

Why not kill them, take their stuff?

Por que não os matam, tomam suas coisas?"

But notice we have many unproductive retirees around us today,

Mas notem que temos muitos aposentados ociosos ao nosso redor,

and we don't kill them and take their stuff.

e não os matamos para tomar suas coisas.

(Laughter)

(Risos)

In part, that's because it would disrupt the institutions we share with them.

Em parte, porque isso perturbaria instituições que compartilhamos com eles.

Other groups would wonder who's next,

Outros se perguntariam: "Quem é o próximo?"

so plausibly, ems may well let humans retire in peace during the age of em.

É viável que "ems" deixarão humanos aposentarem-se em paz na sua era.

You should worry more that the age of em only lasts a year or two

O mais preocupante é que a era "em" dura uns dois anos

and you don't know what happens next.

e não sabemos o que acontecerá depois.

Ems are very much like humans,

"Ems" são como humanos, mas não como típicos humanos.

but they are not like the typical human.

The typical em is a copy of the few hundred most productive humans.

O típico "em" é uma cópia de algumas centenas de humanos mais produtivos.

So in fact, they are as elite, compared to the typical human,

De fato, são a elite, comparando com o típico humano,

as the typical billionaire, Nobel Prize winner,

como o típico bilionário, o vencedor do Prêmio Nobel,

Olympic gold medalist, head of state.

o medalhista olímpico, o chefe de estado.

Ems look on humans perhaps with nostalgia and gratitude,

"Ems" veem humanos talvez com nostalgia e gratidão,

but not so much respect,

mas não com muito respeito,

which is, if you think about it, how you think about your ancestors.

o que é, se pensarmos nisso, como pensamos em nossos antepassados.

We know many things about how humans differ in terms of productivity.

Sabemos muito sobre como humanos se diferenciam em produtividade.

We can just use those to predict features of ems --

Isso nos permite prever as características dos "ems".

for example, they tend to be smart, conscientious, hard-working,

Por exemplo, tendem a ser espertos, conscientes, batalhadores,

married, religious, middle-aged.

casados, religiosos, de meia idade.

These are features of ems.

Características de "ems".

Em world also contains enormous variety.

O mundo "em" também tem uma variedade enorme.

Not only does it continue on with most of the kinds of variety that humans do,

Continua a grande parte dos tipos de variedades humana,

including variety of industry and profession,

incluindo variedades de indústria e profissões,

they also have many new kinds of variety,

assim como tipos novos de variedades,

and one of the most important is mind speed.

e uma das mais importantes é a velocidade da mente.

Ems can plausibly go from human speed

"Ems" podem rodar da velocidade humana até um milhão de vezes mais rápido,

up to a million times faster than human speed,

and down to a billion times slower than human speed.

e um bilhão de vezes mais devagar.

Faster ems tend to have markers of high status.

"Ems" mais rápidos tendem a ter um status mais elevado.

They embody more wealth. They win arguments.

Personificam mais riqueza, ganham discussões,

They sit at premium locations.

alocam-se em lugares proeminentes.

Slower ems are mostly retirees,

A maioria dos "ems" lentos é aposentada,

and they are like the ghosts of our literature.

semelhantes aos fantasmas da nossa literatura.

If you recall, ghosts are all around us --

Lembrem-se que fantasmas estão ao nosso redor:

you can interact with them if you pay the price.

podemos interagir com eles por um preço.

But they don't know much, they can't influence much,

Mas não sabem muito, não podem ser muito influentes,

and they're obsessed with the past, so what's the point?

e são obcecados com o passado, então para quê?

(Laughter)

Ems also have more variety in the structure of their lives.

"Ems" também têm mais variedade em sua estrutura de vida.

This is your life: you start and you end, really simple.

A sua vida é assim: começa e termina, muito simples.

This is the life of an em,

Essa é a vida de um "em",

who every day splits off some short-term copies

que diariamente se divide em cópias de curto prazo

to do short-term tasks and then end.

para fazer tarefas curtas, e daí acabam.

We'll talk more about those short term versions in a moment,

Falaremos mais sobre as versões de curto prazo daqui a pouco,

but they are much more efficient

são muito mais eficientes, pois não precisam descansar pro dia seguinte.

because they don't have to rest for the next day.

This em is more opportunistic.

Este "em" é mais oportunista.

They make more copies of themselves when there's more demand for that.

Faz mais cópias de si mesmo quando há mais demanda.

They don't know which way the future's going.

Não sabe para onde o futuro o levará.

This is an em designer,

Este é um projetista "em", que cria um sistema amplo

who conceives of a large system

and then breaks recursively into copies who elaborate that,

e então se divide em cópias recorrentes que o elaboram,

so ems can implement larger, more coherent designs.

para poder realizar designs maiores e mais coerentes.

This an emulation plumber

Esta é cópia de um encanador que todos os dias, nos últimos 20 anos,

who remembers that every day, for the last 20 years,

they only ever worked two hours a day, a life of leisure.

só trabalhou por duas horas por dia, uma vida de lazer.

But what really happened is, every day they had a thousand copies,

Todos os dias, eles se dividiam em milhares de cópias,

each of whom did a two-hour plumbing job,

e cada uma trabalhava por duas horas, e só uma continuava no dia seguinte.

and only one of them went on to the next day.

Objectively, they're working well over 99 percent of the time.

Objetivamente, trabalham 99% do tempo.

Subjetivamente, eles se lembram de uma vida de lazer.

Subjectively, they remember a life of leisure.

(Laughter)

This, again, is you. You start and you end.

Este, novamente, é você, com um começo e um fim.

This could be you if at the start of party,

Este poderia ser você se no começo da festa,

you took a drug that meant you would not remember that party

tomasse uma droga que te faria esquecer da festa depois daquele dia.

ever after that day.

Some people do this, I'm told.

Alguns fazem isso, ouvi dizer.

Toward the end of the party,

No fim da festa,

will you say to yourself, "I'm about to die, this is terrible.

você diz a si mesmo: "Vou morrer, isso é horrível.

That person tomorrow isn't me, because they won't remember what I do."

A pessoa de amanhã não sou eu, porque não se lembrarão do que eu fiz".

Or you could say, "I will go on tomorrow. I just won't remember what I did."

Talvez você diria: "Vou existir amanhã. Só não vou me lembrar do que fiz".

This is an em who splits off a short-term copy

Aqui, um "em" que se divide em uma cópia de curto prazo

to do a short-term task and then end.

para tarefas curtas e se desfazer.

They have the same two attitude possibilities.

Tem as mesmas possibilidades de atitude.

They can say, "I'm a new short-term creature with a short life. I hate this."

Dizer: "Sou uma criatura nova de vida curta. Odeio isso".

Or "I'm a part of a larger creature who won't remember this part."

Ou: "Sou parte de uma criatura maior que não se lembrará desta parte".

I predict they'll have that second attitude,

Eu prevejo a segunda atitude, não por ser filosoficamente correta,

not because it's philosophically correct, but because it helps them get along.

mas porque os ajuda neste mundo.

Today, if the president says we must invade Iraq,

Se o presidente disser: "Temos que invadir o Iraque",

and you say, "Why?"

e perguntamos: "Por quê?", eles dirão: "Segredo de Estado",

and they say, "State secret,"

you're not sure if you can trust them,

talvez duvidemos deles, mas para "ems",

but for ems, a copy of the president and a copy of you can go inside a safe,

uma cópia do presidente e uma sua podem entrar num cofre,

explain all their secret reasons,

explicar os motivos secretos,

and then one bit comes out from your copy to yourself,

e uma parte sai da sua cópia e te diz se você se convenceu.

telling you if you were convinced.

So now you can know there is a good reason.

Agora você sabe que há um motivo.

I know you guys are all eager to evaluate this world.

Sei que estão ansiosos pra avaliar esse mundo

You're eager to decide if you love it or hate it.

e decidir se o amam ou odeiam.

But think: your ancestors from thousands of years ago

Mas pensem: seus ancestrais de milhares de anos atrás

would have loved or hated your world

teriam amado ou odiado seu mundo baseados no que ouviram sobre ele,

based on the first few things they heard about it,

because your world is really just weird.

porque o seu mundo é mesmo esquisito.

So before judging a strange future world, you should really learn a lot about it,

Então antes de julgar um mundo futuro estranho, deveriam aprender sobre ele,

maybe read a whole book about it,

talvez ler um livro todo, e então, se não gostarem, tentem mudá-lo.

and then, if you don't like it, work to change it.

Thank you.

Obrigado.

(Applause)

(Aplausos)