What would happen if we upload our brains to computers? | Robin Hanson

Traduttore: Nicoletta Pedrana Revisore: Federico MINELLE

Someday, we may have robots as smart as people,

Un giorno potremmo avere robot intelligenti come gli esseri umani,

artificial intelligence, AI.

intelligenze artificiali, AI.

How could that happen?

Come potrebbe succedere?

One route is that we'll just keep accumulating better software,

Un modo è quello di creare, semplicemente, software migliori,

like we've been doing for 70 years.

come abbiamo fatto per 70 anni.

At past rates of progress, that may take centuries.

Ma con i ritmi del passato, potrebbero volerci secoli.

Some say it'll happen a lot faster

Alcuni sostengono che avverrà molto prima,

as we discover grand new powerful theories of intelligence.

grazie alla scoperta di nuove, potenti teorie sull'intelligenza.

I'm skeptical.

Sono un po' scettico.

But a third scenario

Ma è di un terzo scenario che vorrei parlarvi oggi.

is what I'm going to talk about today.

The idea is to port the software from the human brain.

L'idea è quella di trasferire il software cerebrale.

To do this, we're going to need three technologies to be good enough,

Per riuscirci, tre tecnologie devono raggiungere un livello

and none of them are there yet.

che ancora nessuna di esse ha raggiunto.

First, we're going to need lots of cheap, fast, parallel computers.

Primo, ci vorranno molti computer economici e veloci, in parallelo;

Second, we're going to need to scan individual human brains

secondo, dovremo scansionare singoli cervelli umani

in fine spatial and chemical detail,

ad alta risoluzione chimica e spaziale,

to see exactly what cells are where, connected to what, of what type.

per osservare dove sono le cellule, a cosa sono connesse, e di che tipo sono.

And third, we're going to need computer models

Terzo, ci vorranno dei modelli informatici

of how each kind of brain cell works --

del funzionamento di ogni cellula cerebrale -

taking input signals, changing interval state

ricezione dei dati, variazione degli stati di intervallo

and sending output signals.

ed emissione dei dati.

If we have good enough models of all the kinds of brain cells

Con modelli abbastanza buoni di tutti i tipi di cellule cerebrali,

and a good enough model of the brain,

e del cervello nel suo complesso,

we can put it together to make a good enough model of an entire brain,

possiamo ricostruire un modello cerebrale soddisfacente,

and that model would have the same input-output behavior as the original.

e quel modello si comporterebbe come l'originale.

So if you talk to it, it might talk back.

Se gli rivolgeste la parola, potrebbe rispondervi.

If you ask it to do things, it might do them.

Se gli chiedeste qualcosa, potrebbe farla.

And if we could do that, everything would change.

Se riuscissimo a realizzarlo, cambierebbe tutto.

People have been talking about this idea for decades,

È un'idea di cui si parla da decenni,

under the name of "uploads."

sotto il nome di "uploads".

I'm going to call them "ems."

Io li chiamerò "EM".

When they talk about it, they say,

Quando se ne parla, ci si chiede:

"Is this even possible?

"Ma è davvero possibile?

If you made one, would it be conscious? Or is it just an empty machine?

Se ne crei uno, sarebbe consapevole? O solo una macchina vuota?

If you made one of me, is that me or someone else?"

Se ne modellaste uno su di me, sarebbe me o qualcun altro?"

These are all fascinating questions that I'm going to ignore ...

Sono tutte domande affascinanti, che ho deciso di ignorare -

(Laughter)

(Risate)

because I see a neglected question:

Perché la domanda che nessuno si fa è: cosa succederebbe davvero?

What would actually happen?

I became obsessed with this question.

Questa domanda mi ossessiona.

I spent four years trying to analyze it,

Ho passato quattro anni a cercare di analizzarla,

using standard academic tools, to guess what would happen,

usando strumenti tipicamente accademici per prevedere cosa succederebbe;

and I'm here to tell you what I found.

e sono qui per dirvi cosa ho scoperto.

But be warned --

Ma attenzione -

I'm not offering inspiration, I'm offering analysis.

non sono qui per offrire un'ispirazione, bensì un'analisi.

I see my job as telling you what's most likely to happen

Il mio lavoro è quello di dirvi cosa probabilmente accadrebbe

if we did the least to avoid it.

se facessimo il minimo per evitarlo.

If you aren't at least a bit disturbed by something I tell you here,

Se non sarete turbati almeno un po’, da quello che vi dirò,

you're just not paying attention.

vuol dire che non fate attenzione.

(Laughter)

(Risate)

OK, the first thing I can tell you

La prima cosa che posso dirvi

is that ems spend most of their life in virtual reality.

e che le EM passano tutta la loro vita nella realtà virtuale.

This is what you might look like if you were using virtual reality.

Se usaste la realtà virtuale, potrebbe apparire così.

And this is what you might see:

E questo è quello che potreste percepire:

sunlight glinting off of water, you might hear gulls flying above,

il sole che risplende sull'acqua, i gabbiani che volano,

you might even feel the wind on your cheeks or smell seawater,

persino il vento sulle guance, o l'odore del mare,

with advanced hardware.

con un hardware evoluto.

Now, if you were to spend a lot of time here,

Se vi trovaste a passare molto tempo qui,

vorreste un pannello di controllo

you might want a dashboard

where you could do things like make a phone call,

dove fare cose come telefonare,

move to a new virtual world,

muovervi in un mondo virtuale,

check your bank account.

controllare il conto in banca.

Now, while this is what you would look like in virtual reality,

Ora, mentre voi apparireste così, nella realtà virtuale,

this is what an em would look like in virtual reality.

ecco come, nella realtà virtuale, apparirebbero le EM.

It's computer hardware sitting in a server rack somewhere.

È un computer posto in un qualunque scaffale da server.

But still, it could see and experience the same thing.

Che può comunque vedere, e provare, la stessa cosa.

La condizione delle EM è un po' diversa, però.

But some things are different for ems.

First, while you'll probably always notice that virtual reality isn't entirely real,

Primo, anche se voi notereste sempre

che la realtà virtuale non è completamente reale,

to an em, it can feel as real to them as this room feels to you now

per una EM sarebbe reale come per voi lo è questa stanza,

or as anything ever feels.

o come qualsiasi cosa sperimentiate.

And ems also have some more action possibilities.

Le EM hanno anche altre possibilità di azione.

For example, your mind just always runs at the same speed,

Ad esempio, la vostra mente funziona a velocità costante,

but an em can add more or less computer hardware to run faster or slower,

mentre una EM può avere più o meno hardware

per operare più velocemente o lentamente.

and therefore, if the world around them seems to be going too fast,

Pertanto, se il mondo le sembra andare troppo velocemente,

they can just speed up their mind,

a loro basta accelerare la mente

and the world around them would seem to slow down.

e il mondo sembrerà rallentare.

In addition, an em can make a copy of itself at that moment.

Inoltre una EM può fare una copia di sé stessa in quel momento.

This copy would remember everything the same,

Questa copia ricorderà tutto,

and if it starts out with the same speed, looking at the same speed,

e se cominciasse alla stessa velocità, osservando alla stessa velocità,

it might even need to be told, "You are the copy."

potrebbe essere necessario dirle, "Tu sei la copia."

And em could make archive copies,

Le EM potrebbero fare copie di archivio

and with enough archives,

e con abbastanza copie in archivio

an em can be immortal --

una EM può essere immortale -

in principle, though not usually in practice.

almeno teoricamente, sebbene spesso non in pratica.

And an em can move its brain, the computer that represents its brain,

Una EM può trasferire il suo cervello, il computer che lo rappresenta,

from one physical location to another.

da una posizione fisica ad un'altra.

Ems can actually move around the world at the speed of light,

Le EM possono attraversare il mondo alla velocità della luce,

and by moving to a new location,

così da interagire rapidamente

they can interact more quickly with ems near that new location.

con le EM vicine a quella nuova posizione.

So far, I've been talking about what ems can do.

Finora abbiamo parlato di quello che le EM possono fare.

What do ems choose to do?

Ma cosa sceglierebbero di fare?

To understand that, we'll need to understand three key facts.

Per capirlo, abbiamo bisogno di comprendere tre punti chiave.

First, ems by definition do what the human they emulate would do

Primo, le EM per definizione fanno

ciò che l'umano emulato farebbe nella stessa situazione.

in the same situation.

So their lives and behavior are very human.

Quindi vite e comportamenti delle EM sono molto umani.

They're mainly different because they're living in a different world.

Sono diversi, soprattutto, perché vivono in un mondo diverso.

Second, ems need real resources to survive.

Secondo, le EM hanno bisogno di risorse reali per sopravvivere.

You need food and shelter or you'll die.

Voi avete bisogno di cibo e riparo, altrimenti morireste.

Also, ems need computer hardware, energy, cooling, or they can't exist.

Le EM hanno bisogno di hardware, energia, raffreddamento, o non funzionerebbero.

For every subjective minute that an em experiences,

Per ogni minuto vissuto da una EM,

someone, usually that em, had to work to pay for it.

qualcuno, solitamente la stessa EM, ha dovuto lavorare per pagarlo.

Third, ems are poor.

Terzo, le EM sono povere.

(Laughter)

(Risate)

The em population can grow quicker than the em economy,

Il numero di EM cresce più in fretta della loro economia.

so that means wages fall down to em subsistence levels.

Significa che gli stipendi scendono ai minimi della sussistenza delle EM.

That means ems have to be working most of the time.

E che le EM devono lavorare la maggior parte del tempo.

So that means this is what ems usually see:

Ecco, quindi, quello che vedono le EM:

beautiful and luxurious, but desks --

belle e lussuose, ma scrivanie -

they're working most of the time.

lavorano la maggior parte del tempo.

Now, a subsistence wage scenario, you might think, is exotic and strange,

Ora troverete insolita e strana l'ipotesi della retribuzione minima:

but it's actually the usual case in human history,

ma è un caso abituale, nella storia dell'umanità,

and it's how pretty much all wild animals have ever lived,

ed è come tutti gli animali selvaggi hanno sempre vissuto,

so we know what humans do in this situation.

quindi sappiamo cosa fa l'uomo, in certe situazioni.

Humans basically do what it takes to survive,

L'uomo fa ciò che gli serve per sopravvivere,

and this is what lets me say so much about the em world.

ed è questo che mi permette di parlare così del mondo delle EM.

When creatures are rich, like you,

Quando le creature sono ricche, come voi,

you have to know a lot about what they want

bisogna sapere molto su cosa vogliono,

to figure out what they do.

per comprendere cosa fanno.

When creatures are poor,

Quando le creature sono povere,

you know that they mostly do what it takes to survive.

faranno il necessario per sopravvivere.

So we've been talking about the em world from the point of view of the ems --

Abbiamo parlato del mondo dal punto di vista delle EM.

Facciamo un passo indietro e osserviamo il loro mondo,

now, let's step back and look at their whole world.

First, the em world grows much faster than ours,

Primo: il mondo delle EM cresce molto più rapidamente rispetto al nostro,

roughly a hundred times faster.

all'incirca 100 volte più rapidamente.

So the amount of change we would experience in a century or two,

I cambiamenti a cui noi assisteremmo in un secolo o due,

they would experience in a year or two.

loro li otterrebbero in un anno o due.

And I'm not really willing to project this age much beyond that,

Non sono così disposto a prevedere oltre questo lasso di tempo,

because plausibly by then something else will happen, I don't know what.

perché probabilmente succederà qualcos'altro, e non so cosa.

Second, the typical emulation runs even faster,

Secondo: l'emulazione tipica va molto più velocemente,

roughly a thousand times human speed.

circa 1000 volte la velocità dell'uomo.

So for them, they experience thousands of years in this year or two,

Loro accumulano in un anno o due un'esperienza di migliaia di anni,

and for them, the world around them is actually changing more slowly

e il mondo attorno a loro cambia più lentamente

than your world seems to change for you.

rispetto al mondo per voi.

Terzo: le EM sono ammassate in poche città popolose.

Third, ems are crammed together in a small number of very dense cities.

This is not only how they see themselves in virtual reality,

Questo non è solo come si percepiscono nella realtà virtuale,

it's also how they actually are physically crammed together.

ma è come sono realmente ammassate fisicamente.

So at em speeds, physical travel feels really painfully slow,

Alla velocità delle EM, i movimenti fisici sono penosamente lenti:

so most em cities are self-sufficient,

quindi le loro città sono autosufficienti,

most war is cyber war,

le guerre sono perlopiù informatiche,

and most of the rest of the earth away from the em cities

e il resto della Terra, lontano dalle loro città,

viene lasciato all'uomo, poiché le EM vi sono poco interessate.

is left to the humans, because the ems really aren't that interested in it.

Speaking of humans,

Per quanto riguarda gli uomini,

you were wanting to hear about that.

perché vorrete sapere anche questo,

Humans must retire, at once, for good.

gli umani andranno in pensione, una volta per sempre.

They just can't compete.

Semplicemente, non potranno competere.

Now, humans start out owning all of the capital in this world.

Gli umani partono possedendo tutto il capitale di questo mondo.

The economy grows very fast, their wealth grows very fast.

L'economia cresce velocemente, il benessere cresce velocemente.

Humans get rich, collectively.

L'umanità si arricchisce, collettivamente.

As you may know, most humans today don't actually own that much

E come saprete,

oggi molti uomini non possiedono altro che la loro capacità di lavorare.

besides their ability to work,

so between now and then, they need to acquire sufficient assets,

Per cui, tra oggi e quando succederà, devono acquisire sufficienti beni,

insurance or sharing arrangements,

assicurazioni o quote azionarie,

or they may starve.

altrimenti moriranno di fame.

I highly recommend avoiding this outcome.

Raccomando vivamente di evitare quest'ultimo scenario.

(Laughter)

(Risate)

Now, you might wonder,

Ora potreste chiedervi:

why would ems let humans exist?

perché le EM ci lasciano vivere?

Why not kill them, take their stuff?

Perché non ucciderci e prenderci tutto?

But notice we have many unproductive retirees around us today,

Sapete che oggi abbiamo, attorno a noi, molti pensionati improduttivi,

and we don't kill them and take their stuff.

ma non li uccidiamo per prendere le loro proprietà.

(Laughter)

(Risate)

In part, that's because it would disrupt the institutions we share with them.

In parte perché sconvolgeremmo le istituzioni che abbiamo in comune.

Other groups would wonder who's next,

E altri gruppi penserebbero: "Chi sarà il prossimo?"

so plausibly, ems may well let humans retire in peace during the age of em.

Perciò, si presume, le EM potrebbero lasciarci andare in pensione in pace.

You should worry more that the age of em only lasts a year or two

Dovrebbe preoccuparvi

che l'era delle EM durerà solo una, due anni

and you don't know what happens next.

e che non saprete cosa succederà dopo.

Ems are very much like humans,

Le EM sono molto simili agli uomini,

but they are not like the typical human.

ma non ai tipici umani.

The typical em is a copy of the few hundred most productive humans.

La tipica EM è una copia

delle poche centinaia di umani più produttivi.

So in fact, they are as elite, compared to the typical human,

In effetti sono una élite, se paragonata all'uomo medio,

as the typical billionaire, Nobel Prize winner,

come i miliardari, i premi Nobel,

Olympic gold medalist, head of state.

le medaglie d'oro olimpiche, i capi di Stato.

Ems look on humans perhaps with nostalgia and gratitude,

Le EM ci vedono, forse, con nostalgia e gratitudine,

but not so much respect,

ma non con molto rispetto,

which is, if you think about it, how you think about your ancestors.

che è il modo in cui, se ci pensate, considerate i vostri antenati.

We know many things about how humans differ in terms of productivity.

Sappiamo molto su come gli uomini differiscono nella produttività,

We can just use those to predict features of ems --

e possiamo usarlo per prevedere il futuro delle EM:

for example, they tend to be smart, conscientious, hard-working,

per esempio, possono essere intelligenti, coscienziose, lavoratrici,

married, religious, middle-aged.

sposate, religiose, di mezza età.

These are features of ems.

Queste sono le caratteristiche delle EM.

Em world also contains enormous variety.

Il mondo delle EM è molto diversificato.

Not only does it continue on with most of the kinds of variety that humans do,

Non solo progrediscono con tutte le varianti della specie umana,

including variety of industry and profession,

compresa una grande varietà di industrie e professioni:

they also have many new kinds of variety,

ne hanno anche altre specifiche,

and one of the most important is mind speed.

e la velocità mentale è una delle più importanti.

Ems can plausibly go from human speed

Le EM possono andare dalla velocità di ragionamento umana

up to a million times faster than human speed,

fino a oltre dieci milioni di volte maggiori,

and down to a billion times slower than human speed.

o rallentare a miliardi di volte meno della velocità umana.

Faster ems tend to have markers of high status.

Le EM più veloci sono, di norma, di status più elevato.

They embody more wealth. They win arguments.

Rappresentano il benessere, vincono nelle discussioni.

They sit at premium locations.

Stanno nei posti migliori.

Slower ems are mostly retirees,

Le EM più lente sono, in gran parte, pensionate,

and they are like the ghosts of our literature.

e sono come i fantasmi della letteratura.

If you recall, ghosts are all around us --

Avete presente, i fantasmi sono tutti attorno a noi:

you can interact with them if you pay the price.

interagite con loro se volete pagarne il prezzo.

But they don't know much, they can't influence much,

Ma non sanno molto, non possono influenzare,

and they're obsessed with the past, so what's the point?

e sono ossessionate dal passato, quindi dov'è il problema?

(Laughter)

(Risate)

Ems also have more variety in the structure of their lives.

Le EM hanno più varietà nella struttura delle loro vite.

This is your life: you start and you end, really simple.

Quella della vostra vita è semplice: nasci, e poi muori.

This is the life of an em,

Questa è la vita di una EM,

who every day splits off some short-term copies

che ogni giorno duplica alcune sue copie a breve termine

to do short-term tasks and then end.

per fare compiti a breve termine.

We'll talk more about those short term versions in a moment,

Parleremo meglio di queste versioni a breve termine fra poco,

but they are much more efficient

ma sono molto efficienti

because they don't have to rest for the next day.

perché non devono riposarsi il giorno successivo.

This em is more opportunistic.

Queste EM sono più opportuniste.

They make more copies of themselves when there's more demand for that.

Si creano delle copie quando c'è necessità di averle.

They don't know which way the future's going.

Non sanno da che parte andrà il futuro.

This is an em designer,

Questo è una EM progettata,

who conceives of a large system

che ha concepito un grande sistema

and then breaks recursively into copies who elaborate that,

e crea ricorsivamente delle copie per svolgere il lavoro,

so ems can implement larger, more coherent designs.

così le EM possono realizzare progetti più grandi, più coerenti.

This an emulation plumber

Questa è una emulazione di idraulico

who remembers that every day, for the last 20 years,

che ricorda che ogni giorno, per 20 anni,

they only ever worked two hours a day, a life of leisure.

ha lavorato due ore al giorno: una vita di svago.

But what really happened is, every day they had a thousand copies,

Ma in realtà ogni giorno si creavano migliaia di copie,

each of whom did a two-hour plumbing job,

e ciascuna lavorava due ore da idraulico,

and only one of them went on to the next day.

e solo una di loro continuava il giorno dopo.

Objectively, they're working well over 99 percent of the time.

Oggettivamente, lavorano più del 99% del tempo.

Subjectively, they remember a life of leisure.

Soggettivamente, loro ricordano una vita di svago.

(Laughter)

(Risate)

This, again, is you. You start and you end.

Questo siete voi. Inizio e fine.

This could be you if at the start of party,

Questi potreste essere voi, se all'inizio di una festa

you took a drug that meant you would not remember that party

avete preso delle droghe

che non vi faranno ricordare mai più nulla di questa festa.

ever after that day.

Some people do this, I'm told.

MI dicono che alcuni lo fanno.

Toward the end of the party,

Verso la fine della festa, direte a voi stessi:

will you say to yourself, "I'm about to die, this is terrible.

"Sto per morire, è terribile.

Quella persona domani non sarò più io, perché non ricorderà cosa ho fatto oggi."

That person tomorrow isn't me, because they won't remember what I do."

Or you could say, "I will go on tomorrow. I just won't remember what I did."

O potreste dire: "Domani continuerò, solo non mi ricorderò cosa ho fatto."

This is an em who splits off a short-term copy

Questa è una EM che crea una copia a breve termine

to do a short-term task and then end.

per fare un breve lavoro e poi finirla.

They have the same two attitude possibilities.

Hanno gli stessi due atteggiamenti possibili.

They can say, "I'm a new short-term creature with a short life. I hate this."

Possono dire: "Sono un'altra creatura a breve termine, e non mi piace."

Or "I'm a part of a larger creature who won't remember this part."

Oppure: "Sono una parte di una creatura più grande che non mi ricorderà."

I predict they'll have that second attitude,

Credo che avranno di più il secondo atteggiamento,

not because it's philosophically correct, but because it helps them get along.

non perché corretto, ma perché consente loro di continuare.

Today, if the president says we must invade Iraq,

Oggi, se il Presidente dice che dobbiamo invadere l'Iraq,

and you say, "Why?"

e voi dite: "Perché?"

and they say, "State secret,"

e vi dicono: "Segreto di Stato,"

you're not sure if you can trust them,

non siete sicuri se vi potete fidare,

but for ems, a copy of the president and a copy of you can go inside a safe,

ma per le EM, una copia del Presidente e una vostra possono trovarsi al sicuro,

explain all their secret reasons,

spiegare le loro ragioni segrete,

and then one bit comes out from your copy to yourself,

e un vostro bit viene fuori dalla vostra copia,

telling you if you were convinced.

dicendovi se siete convinti.

So now you can know there is a good reason.

Così adesso sapete che c'è una buona ragione.

I know you guys are all eager to evaluate this world.

So che siete tutti impazienti di valutare questo mondo.

You're eager to decide if you love it or hate it.

Desiderosi di decidere se amarlo o odiarlo.

But think: your ancestors from thousands of years ago

Ma pensateci: i vostri antenati di migliaia di anni fa

would have loved or hated your world

avrebbero amato o odiato il vostro mondo

based on the first few things they heard about it,

basandosi sui primi dati a disposizione,

because your world is really just weird.

perché il vostro mondo è veramente strano.

So before judging a strange future world, you should really learn a lot about it,

Quindi, prima di giudicare un possibile strano mondo futuro,

dovete prima imparare, magari leggerci un libro,

maybe read a whole book about it,

and then, if you don't like it, work to change it.

e se poi non vi piace, lavorare per cercare di cambiarlo.

Thank you.

Grazie.

(Applause)

(Applausi)