What would happen if we upload our brains to computers? | Robin Hanson

Traductor: Miguel A. Quiceno Revisor: Lidia Cámara de la Fuente

Someday, we may have robots as smart as people,

Algún día puede que tengamos robots tan inteligentes como personas,

artificial intelligence, AI.

inteligencia artificial, IA.

How could that happen?

¿Cómo podría suceder eso?

One route is that we'll just keep accumulating better software,

Un camino es que vamos a seguir acumulando mejor software,

like we've been doing for 70 years.

como lo hemos estado haciendo desde hace 70 años.

At past rates of progress, that may take centuries.

A ritmos de progreso anteriores, eso podría tomar siglos.

Some say it'll happen a lot faster

Algunos dicen que sucederá mucho más rápido,

as we discover grand new powerful theories of intelligence.

a medida que descubramos grandes,

nuevas y poderosas teorías de la inteligencia.

I'm skeptical.

Soy escéptico.

But a third scenario

Pero sobre un tercer escenario,

is what I'm going to talk about today.

es de lo que hablaré hoy.

The idea is to port the software from the human brain.

La idea es portar el software desde el cerebro humano.

To do this, we're going to need three technologies to be good enough,

Para hacer esto, necesitaremos tres tecnologías

que sean lo suficientemente buenas y ninguna de ellas existe aún.

and none of them are there yet.

First, we're going to need lots of cheap, fast, parallel computers.

Primero que todo, necesitaremos muchas computadoras baratas, rápidas y paralelas.

Second, we're going to need to scan individual human brains

Segundo, necesitaremos escanear cerebros de individuos humanos,

in fine spatial and chemical detail,

en fino detalle espacial y químico,

to see exactly what cells are where, connected to what, of what type.

para ver exactamente en qué lugar están conectadas las células y a qué y qué tipo.

And third, we're going to need computer models

Y tercero, necesitaremos modelos de computadora

of how each kind of brain cell works --

de cómo funciona cada tipo de neurona...

taking input signals, changing interval state

tomar las señales de entrada, cambiar el estado de intervalo

and sending output signals.

y enviar señales de salida.

If we have good enough models of all the kinds of brain cells

Si tenemos suficientes modelos buenos de todos los tipos de neuronas

and a good enough model of the brain,

y un modelo del cerebro suficientemente bueno,

we can put it together to make a good enough model of an entire brain,

podemos juntarlo para hacer un modelo, suficientemente bueno de todo un cerebro

and that model would have the same input-output behavior as the original.

y ese modelo tendría el mismo comportamiento del original.

So if you talk to it, it might talk back.

Así que, si le hablan a eso, podría responder.

If you ask it to do things, it might do them.

Si le piden que haga cosas, podría hacerlas.

And if we could do that, everything would change.

Y si pudiéramos hacer eso, todo cambiaría.

People have been talking about this idea for decades,

La gente ha estado hablando de esta idea durante décadas,

under the name of "uploads."

bajo el nombre de "cargar software".

I'm going to call them "ems."

Los llamaré "ems".

When they talk about it, they say,

Cuando hablan de ello, dicen:

"Is this even possible?

"¿Es esto siquiera posible?

If you made one, would it be conscious? Or is it just an empty machine?

Si hicieras uno, ¿sería consciente? ¿O es solo una máquina vacía?

Si hicieras uno de mí, ¿sería yo o alguien más?".

If you made one of me, is that me or someone else?"

These are all fascinating questions that I'm going to ignore ...

Todas estas son preguntas fascinantes, que voy a ignorar...

(Laughter)

(Risas)

because I see a neglected question:

porque veo una pregunta olvidada:

What would actually happen?

¿Qué pasaría realmente?

I became obsessed with this question.

Me obsesioné con esta pregunta.

I spent four years trying to analyze it,

Pasé cuatro años tratando de analizarla,

using standard academic tools, to guess what would happen,

utilizando herramientas académicas estándar, para descifrar qué pasaría

and I'm here to tell you what I found.

y estoy aquí para contarles lo que encontré.

But be warned --

Pero tengan cuidado,

I'm not offering inspiration, I'm offering analysis.

no estoy ofreciendo inspiración, estoy ofreciendo análisis.

I see my job as telling you what's most likely to happen

Veo mi trabajo como el contarles, lo que es más probable que suceda,

if we did the least to avoid it.

si hicimos muy poco para evitarlo.

If you aren't at least a bit disturbed by something I tell you here,

Si no están al menos un poco perturbados por lo que les diga aquí,

you're just not paying attention.

simplemente no están prestando la atención.

(Laughter)

(Risas)

OK, the first thing I can tell you

Bueno, lo primero que puedo decir

is that ems spend most of their life in virtual reality.

es que los ems pasan la mayor parte de su vida en la realidad virtual.

This is what you might look like if you were using virtual reality.

A esto podría parecerse si utilizaran la realidad virtual.

And this is what you might see:

Y esto es lo que podrían ver:

sunlight glinting off of water, you might hear gulls flying above,

la luz del sol que destella en el agua, podrían oír las gaviotas volando,

you might even feel the wind on your cheeks or smell seawater,

podrían incluso sentir el viento en sus mejillas u oler el agua de mar

with advanced hardware.

con un hardware avanzado.

Now, if you were to spend a lot of time here,

Ahora, si pasaran mucho tiempo aquí, podrían querer un panel de mandos,

you might want a dashboard

where you could do things like make a phone call,

donde pudieran hacer cosas como una llamada telefónica,

move to a new virtual world,

pasar a un nuevo mundo virtual,

check your bank account.

revisar su cuenta bancaria.

Now, while this is what you would look like in virtual reality,

Mientras que es así como les parecería a Uds. la realidad virtual,

this is what an em would look like in virtual reality.

así es como un em se vería en realidad virtual.

It's computer hardware sitting in a server rack somewhere.

Es hardware de computadora, ubicado en un servidor en alguna parte.

But still, it could see and experience the same thing.

Pero aun así, podría ver y experimentar lo mismo.

Pero algunas cosas son diferentes para los ems.

But some things are different for ems.

First, while you'll probably always notice that virtual reality isn't entirely real,

Primero, mientras que Uds. probablemente siempre notarán

que la realidad virtual no es del todo verdadera,

to an em, it can feel as real to them as this room feels to you now

un em, puede sentirla tan real como ahora es esta sala para Uds.,

or as anything ever feels.

o como cualquier cosa que uno siente.

And ems also have some more action possibilities.

Los ems también tienen algunas posibilidades más de acción.

For example, your mind just always runs at the same speed,

Por ejemplo, nuestra mente siempre corre a la misma velocidad,

but an em can add more or less computer hardware to run faster or slower,

pero un em puede agregar o quitar hardware,

para operar más rápido o lento,

and therefore, if the world around them seems to be going too fast,

y, por lo tanto, si el mundo alrededor parece ir demasiado rápido,

they can just speed up their mind,

simplemente pueden acelerar sus mentes,

and the world around them would seem to slow down.

y el mundo que les rodea parecería ralentizarse.

In addition, an em can make a copy of itself at that moment.

Además, un em puede hacer una copia de sí mismo en ese momento.

This copy would remember everything the same,

Esta copia recordaría todo igual

and if it starts out with the same speed, looking at the same speed,

y si comienza con la misma velocidad --observando a la misma velocidad--

it might even need to be told, "You are the copy."

podría incluso necesitar que le dijeran: "Tú eres la copia".

And em could make archive copies,

Y un em podría archivar copias de archivos y con suficientes archivos,

and with enough archives,

an em can be immortal --

un em puede ser inmortal;

in principle, though not usually in practice.

en teoría, aunque no en la práctica por lo general.

Y un em puede trasladar su cerebro, la computadora que representa su cerebro,

And an em can move its brain, the computer that represents its brain,

from one physical location to another.

de una ubicación física a otra.

Ems can actually move around the world at the speed of light,

De hecho, los ems pueden viajar por el mundo a la velocidad de la luz

and by moving to a new location,

y al moverse a una nueva ubicación,

they can interact more quickly with ems near that new location.

pueden interactuar más rápidamente con ems cerca de esa nueva ubicación.

So far, I've been talking about what ems can do.

Hasta ahora, he estado hablando de lo que los ems pueden hacer.

What do ems choose to do?

¿Qué deciden hacer los ems?

To understand that, we'll need to understand three key facts.

Para entender eso, necesitaremos entender tres hechos claves.

First, ems by definition do what the human they emulate would do

Primero...

por definición los ems emulan lo que el humano haría en la misma situación.

in the same situation.

So their lives and behavior are very human.

Así que, su vida y comportamiento

es muy humano.

They're mainly different because they're living in a different world.

Son principalmente diferentes porque están viviendo en un mundo diferente.

Second, ems need real resources to survive.

Segundo, los ems necesitan recursos reales para sobrevivir.

You need food and shelter or you'll die.

Uds. necesitan comida y refugio o de lo contrario morirían.

Del mismo modo, los ems necesitan hardware, energía,

Also, ems need computer hardware, energy, cooling, or they can't exist.

refrigeración, pues de otra manera no pueden existir.

For every subjective minute that an em experiences,

Por cada minuto subjetivo que experimenta un em,

someone, usually that em, had to work to pay for it.

alguien, en general ese em, tuvo que trabajar para pagar por ello.

Third, ems are poor.

Tercero, los ems son pobres.

(Laughter)

(Risas)

La población de ems puede crecer más rápido que la economía de los ems,

The em population can grow quicker than the em economy,

de modo que los salarios se reducen a los niveles de subsistencia de ems.

so that means wages fall down to em subsistence levels.

That means ems have to be working most of the time.

Eso significa que los ems deben trabajar la mayoría del tiempo.

So that means this is what ems usually see:

Así que esto significa, que esto es lo que los ems generalmente ven:

beautiful and luxurious, but desks --

hermosos y lujosos... pero al final escritorios.

they're working most of the time.

Trabajan la mayoría del tiempo.

Podría pensarse que un escenario de salario de subsistencia es exótico y raro,

Now, a subsistence wage scenario, you might think, is exotic and strange,

pero en realidad es el caso habitual en la historia humana

but it's actually the usual case in human history,

and it's how pretty much all wild animals have ever lived,

y es como casi todos los animales salvajes han vivido,

so we know what humans do in this situation.

así que sabemos lo que hacen los humanos en esta situación.

Humans basically do what it takes to survive,

Básicamente, los humanos hacen lo que se necesita para sobrevivir

and this is what lets me say so much about the em world.

y esto es lo que me permite decir tanto acerca del mundo de los ems.

When creatures are rich, like you,

Cuando las criaturas son ricas, como Uds.,

you have to know a lot about what they want

se tiene que saber mucho de lo que ellos quieren, para averiguar lo que hacen.

to figure out what they do.

When creatures are poor,

Cuando las criaturas son pobres, la mayoría hace lo necesario para sobrevivir.

you know that they mostly do what it takes to survive.

So we've been talking about the em world from the point of view of the ems --

Hemos hablado del mundo de los ems, desde la perspectiva de los ems.

now, let's step back and look at their whole world.

Ahora, demos un paso atrás y observemos todo su mundo.

First, the em world grows much faster than ours,

Primero, el mundo de los ems crece mucho más rápido que el nuestro,

roughly a hundred times faster.

cerca de cien veces más rápido.

Así que la misma cantidad de cambio que experimentaríamos en un siglo o dos,

So the amount of change we would experience in a century or two,

they would experience in a year or two.

ellos lo experimentarían en un año o dos.

And I'm not really willing to project this age much beyond that,

Y no estoy dispuesto a proyectar esta época mucho más allá de eso,

because plausibly by then something else will happen, I don't know what.

porque posiblemente para entonces, algo más sucederá, no sé qué.

Second, the typical emulation runs even faster,

Segundo, la emulación típica se ejecuta aún más rápido,

roughly a thousand times human speed.

aproximadamente mil veces la velocidad humana.

So for them, they experience thousands of years in this year or two,

Así que, ellos experimentan miles de años en ese año o dos,

and for them, the world around them is actually changing more slowly

y para ellos el mundo que les rodea cambia más lentamente,

than your world seems to change for you.

de lo que el mundo parece cambiar para Uds.

Third, ems are crammed together in a small number of very dense cities.

Tercero, los ems se hacinan en un número pequeño de ciudades muy pobladas.

This is not only how they see themselves in virtual reality,

Esto no es solo cómo se ven a sí mismas en la realidad virtual,

it's also how they actually are physically crammed together.

también es cómo realmente están hacinadas físicamente.

Así que, a velocidad de ems, los viajes físicos parecen dolorosamente lentos,

So at em speeds, physical travel feels really painfully slow,

por lo que la mayoría de las ciudades son autosuficientes,

so most em cities are self-sufficient,

most war is cyber war,

las guerra cibernéticas,

and most of the rest of the earth away from the em cities

y la mayor parte del resto de la Tierra, lejos de las ciudades de ems,

is left to the humans, because the ems really aren't that interested in it.

se deja a los humanos, ya que los ems no están realmente interesados en ella.

Speaking of humans,

Hablando de humanos,

you were wanting to hear about that.

querían oír hablar acerca de eso.

Humans must retire, at once, for good.

Los humanos deben retirarse, a la vez y para bien.

They just can't compete.

Simplemente no pueden competir.

Now, humans start out owning all of the capital in this world.

Ahora, los humanos empiezan a poseer todo el capital de este mundo.

The economy grows very fast, their wealth grows very fast.

La economía crece muy rápido; su riqueza crece muy rápido.

Humans get rich, collectively.

Los humanos se hacen ricos colectivamente.

As you may know, most humans today don't actually own that much

Como saben, la mayoría de los humanos hoy día no poseen realmente mucho,

besides their ability to work,

aparte de su capacidad para trabajar,

so between now and then, they need to acquire sufficient assets,

por lo que entre ahora y luego, necesitan adquirir suficientes activos,

insurance or sharing arrangements,

seguros o acuerdos de participación,

or they may starve.

o pueden morir de hambre.

I highly recommend avoiding this outcome.

Recomiendo encarecidamente evitar este resultado.

(Laughter)

(Risas)

Ahora, podrían preguntarse, ¿por qué los ems permitirían a los humanos existir?

Now, you might wonder,

why would ems let humans exist?

Why not kill them, take their stuff?

¿Por qué no matarlos y tomar sus cosas?

But notice we have many unproductive retirees around us today,

Pero noten que tenemos muchos jubilados improductivos, que nos rodean hoy día

and we don't kill them and take their stuff.

y no los matamos y tomamos sus cosas.

(Laughter)

(Risas)

In part, that's because it would disrupt the institutions we share with them.

En parte, eso se debe a que rompería las instituciones que compartimos con ellos.

Otros grupos se preguntarían quién es el próximo.

Other groups would wonder who's next,

De manera muy plausible, los ems sí pueden

so plausibly, ems may well let humans retire in peace during the age of em.

permitir a los humanos retirarse en paz durante la era de ems.

Uds. deberían preocuparse más por la edad de un em,

You should worry more that the age of em only lasts a year or two

ya que solo dura un año o dos y no se sabe lo que sucede a continuación.

and you don't know what happens next.

Ems are very much like humans,

Los ems son muy parecidos a los humanos,

but they are not like the typical human.

pero no son como el humano típico.

The typical em is a copy of the few hundred most productive humans.

El típico em es una copia de los pocos cientos de humanos más productivos.

So in fact, they are as elite, compared to the typical human,

De hecho, son como una élite en comparación con el típico humano,

as the typical billionaire, Nobel Prize winner,

como el típico multimillonario,

Premio Nobel, medallista olímpico de oro, jefe de Estado.

Olympic gold medalist, head of state.

Ems look on humans perhaps with nostalgia and gratitude,

Los ems observan a los humanos, quizás con nostalgia y gratitud,

but not so much respect,

pero no tanto con respeto,

lo cual es, si piensan en ello, cómo Uds. piensan sobre sus antepasados.

which is, if you think about it, how you think about your ancestors.

We know many things about how humans differ in terms of productivity.

Sabemos mucho sobre cómo los humanos difieren en términos de productividad.

We can just use those to predict features of ems --

Solo podemos usarlos para predecir características de ems.

for example, they tend to be smart, conscientious, hard-working,

Por ejemplo, tienden a ser inteligentes, conscientes, trabajadores, casados,

married, religious, middle-aged.

religiosos, de mediana edad.

These are features of ems.

Son las características de los ems.

Em world also contains enormous variety.

El mundo de ems también tiene una gran variedad.

Not only does it continue on with most of the kinds of variety that humans do,

No solo la mayoría del tipo de variedades humanas,

including variety of industry and profession,

incluyendo la variedad de industria y profesión,

they also have many new kinds of variety,

también tienen muchos tipos nuevos de variedad,

and one of the most important is mind speed.

y uno de los más importantes es la velocidad de la mente.

Ems can plausibly go from human speed

Es posible para los ems ir desde la velocidad humana,

up to a million times faster than human speed,

hasta un millón de veces más rápido que la velocidad humana

and down to a billion times slower than human speed.

y hasta mil millones de veces más lento que la velocidad humana.

Los ems más rápidos tienden a tener marcadores de alto estatus.

Faster ems tend to have markers of high status.

They embody more wealth. They win arguments.

reflejan más riqueza, ganan discusiones, se sientan en lugares privilegiados.

They sit at premium locations.

Slower ems are mostly retirees,

Los más lentos son sobre todo jubilados

and they are like the ghosts of our literature.

y son como los fantasmas de nuestra literatura.

If you recall, ghosts are all around us --

Si recuerdan, los fantasmas nos rodean a todos;

you can interact with them if you pay the price.

pueden interactuar con ellos si pagan el precio,

But they don't know much, they can't influence much,

pero no saben mucho, no pueden influir mucho

and they're obsessed with the past, so what's the point?

y están obsesionados con el pasado, así que ¿cuál es el punto?

(Laughter)

Ems also have more variety in the structure of their lives.

Los ems también tienen más variedad en la estructura de sus vidas.

This is your life: you start and you end, really simple.

Esta es su vida: empiezan y terminan, muy simple.

Esta es la vida de un em que hace algunas copias a corto plazo cada día,

This is the life of an em,

who every day splits off some short-term copies

para hacer tareas a corto plazo y luego terminar.

to do short-term tasks and then end.

We'll talk more about those short term versions in a moment,

Hablaremos más sobre esas versiones a corto plazo en un momento;

but they are much more efficient

pero son mucho más eficientes porque no necesitan descansar para el día siguiente.

because they don't have to rest for the next day.

This em is more opportunistic.

Este em es más oportunista.

They make more copies of themselves when there's more demand for that.

Hacen más copias de sí mismos cuando hay más demanda de eso.

No saben de qué manera va el futuro.

They don't know which way the future's going.

This is an em designer,

Este es un em de diseñador que concibe un sistema grande

who conceives of a large system

y luego se divide recursivamente en copias que elaboran eso,

and then breaks recursively into copies who elaborate that,

so ems can implement larger, more coherent designs.

para que los ems puedan implementar diseños más grandes y más coherentes.

This an emulation plumber

Este un plomero de emulación,

who remembers that every day, for the last 20 years,

que recuerda que todos los días, por los últimos 20 años,

they only ever worked two hours a day, a life of leisure.

solo han trabajado dos horas diarias; una vida de ocio.

But what really happened is, every day they had a thousand copies,

Pero lo que realmente sucedió es que cada día tenían mil copias,

each of whom did a two-hour plumbing job,

y cada una hizo un trabajo de dos horas de plomería

and only one of them went on to the next day.

y solo una continúo al día siguiente.

Objetivamente están trabajando bien más del 99 % del tiempo.

Objectively, they're working well over 99 percent of the time.

Subjetivamente, recuerdan una vida de ocio.

Subjectively, they remember a life of leisure.

(Laughter)

Esto de nuevo, son Uds. Empiezan y terminan.

This, again, is you. You start and you end.

This could be you if at the start of party,

Esto podría ser Uds. si al inicio de la fiesta,

you took a drug that meant you would not remember that party

tomaran una droga que provocara que no recordaran esa fiesta,

ever after that day.

absolutamente nada después de ese día.

Some people do this, I'm told.

Me dicen que algunas personas hacen esto.

Toward the end of the party,

Mi pregunta es, ¿al final de la fiesta se dirían a sí mismos:

will you say to yourself, "I'm about to die, this is terrible.

'Estoy a punto de morir, esto es terrible.

That person tomorrow isn't me, because they won't remember what I do."

Esa persona mañana no seré yo, porque no recordará lo que hago?'.

Or you could say, "I will go on tomorrow. I just won't remember what I did."

O podrían decir:

"Continuaré con el mañana, solo que no recordaré lo que hice".

This is an em who splits off a short-term copy

Este es un em que divide una copia a corto plazo,

to do a short-term task and then end.

para hacer una tarea a corto plazo y luego terminar.

They have the same two attitude possibilities.

Tiene las mismas dos posibles actitudes.

They can say, "I'm a new short-term creature with a short life. I hate this."

Puede decir: "Soy una nueva criatura a corto plazo de corta vida. Odio esto".

Or "I'm a part of a larger creature who won't remember this part."

O: "Soy una parte de una criatura más grande que no recordará esta parte".

I predict they'll have that second attitude,

Predigo que tendrán esa segunda actitud,

not because it's philosophically correct, but because it helps them get along.

no porque sea filosóficamente correcto, sino porque les ayuda a avanzar.

Today, if the president says we must invade Iraq,

Hoy, si el presidente dice que debemos invadir Irak,

y Uds. dicen: ¿por qué? y les dicen: secreto de Estado;

and you say, "Why?"

and they say, "State secret,"

you're not sure if you can trust them,

no están seguros si pueden confiar en ellos,

but for ems, a copy of the president and a copy of you can go inside a safe,

pero los ems, copias de Uds. y del presidente

pueden ir dentro de una caja fuerte, explicar todas sus razones secretas

explain all their secret reasons,

and then one bit comes out from your copy to yourself,

y luego un bit sale de su copia de sí mismos,

telling you if you were convinced.

diciéndoles si están convencidos.

So now you can know there is a good reason.

Así que ahora, pueden saber que hay una buena razón.

I know you guys are all eager to evaluate this world.

Sé que están ansiosos por evaluar este mundo.

You're eager to decide if you love it or hate it.

Están ansiosos por decidir si les gusta o lo odian.

But think: your ancestors from thousands of years ago

Pero piensen, sus antepasados de hace miles de años

would have loved or hated your world

habrían amado u odiado su mundo,

con base a las primeras cosas que escucharon sobre él,

based on the first few things they heard about it,

because your world is really just weird.

porque su mundo es realmente extraño.

Así que antes de juzgar un extraño mundo futuro,

So before judging a strange future world, you should really learn a lot about it,

realmente deberían aprender mucho sobre él, quizá leer un libro al respecto

maybe read a whole book about it,

and then, if you don't like it, work to change it.

y luego, si no les gusta: trabajar para cambiarlo.

Gracias.

Thank you.

(Aplausos)

(Applause)