What would happen if we upload our brains to computers? | Robin Hanson

Traducteur: Claire Ghyselen Relecteur: Denise Cosentino

Someday, we may have robots as smart as people,

Un jour, nous aurons sans doute des robots aussi intelligents que les hommes,

artificial intelligence, AI.

l'intelligence artificielle, IA.

How could that happen?

Comment cela pourrait-il arriver ?

One route is that we'll just keep accumulating better software,

Un des chemins est de continuer à accumuler des logiciels meilleurs,

like we've been doing for 70 years.

comme nous le faisons depuis 70 ans.

At past rates of progress, that may take centuries.

À la vitesse du progrès actuel, ça pourrait prendre des siècles.

Some say it'll happen a lot faster

Certains disent que ça arrivera bien plus vite

as we discover grand new powerful theories of intelligence.

quand nous découvrirons des théories nouvelles sur l'intelligence.

I'm skeptical.

Je reste sceptique.

But a third scenario

Il y a cependant un troisième scénario.

is what I'm going to talk about today.

C'est de celui-ci que je vais vous parler.

The idea is to port the software from the human brain.

L'idée est d'importer le logiciel à partir d'un cerveau humain.

To do this, we're going to need three technologies to be good enough,

Nous aurons besoin que trois technologies soient à la hauteur,

and none of them are there yet.

ce qui n'est pas encore le cas.

First, we're going to need lots of cheap, fast, parallel computers.

D'abord, nous avons besoin de beaucoup d'ordinateurs parallèles,

bons marchés et rapides.

Second, we're going to need to scan individual human brains

Ensuite, nous devons scanner le cerveau d'humains

in fine spatial and chemical detail,

avec une haute précision de détails spatiaux et chimiques,

to see exactly what cells are where, connected to what, of what type.

pour détecter quelles sont les cellules, et comment elles sont connectées.

And third, we're going to need computer models

Enfin, nous avons besoin de modèles numériques

of how each kind of brain cell works --

sur la manière dont chaque cellule du cerveau fonctionne

taking input signals, changing interval state

quand elle absorbe un signal, change l'intervalle,

and sending output signals.

et émet des signaux.

If we have good enough models of all the kinds of brain cells

Si on développe des modèles suffisamment bons

de toutes les sortes de cellules et du cerveau,

and a good enough model of the brain,

we can put it together to make a good enough model of an entire brain,

on peut les associer et créer un modèle suffisamment bon du cerveau entier.

and that model would have the same input-output behavior as the original.

Ce modèle aurait alors un comportement entrées-sorties identique à l'original.

So if you talk to it, it might talk back.

Si on lui adresse la parole, il pourrait nous répondre.

If you ask it to do things, it might do them.

Si on lui demande une chose, il la faira.

And if we could do that, everything would change.

Si on parvient à créer ça, tout va changer.

People have been talking about this idea for decades,

On parle de cette idée depuis des années

under the name of "uploads."

sous le nom de « téléchargements ».

I'm going to call them "ems."

Moi, j'appelle ça « ems ».

When they talk about it, they say,

Quand on en parle, les gens se demandent

"Is this even possible?

si c'est réellement possible.

If you made one, would it be conscious? Or is it just an empty machine?

Dans ce cas, aurait-il une conscience ? Ou ne serait-ce qu'une machine creuse ?

If you made one of me, is that me or someone else?"

Si on en crée un à partir de moi, est-ce moi ou quelqu'un d'autre ?

These are all fascinating questions that I'm going to ignore ...

Toutes ces questions sont fascinantes, mais je vais les ignorer...

(Laughter)

(Rires)

because I see a neglected question:

car il y a une question que l'on néglige :

What would actually happen?

qu'est-ce qui se passera vraiment ?

I became obsessed with this question.

Je suis obsédé par cette question.

I spent four years trying to analyze it,

J'ai passé quatre ans à essayer de l'analyser

using standard academic tools, to guess what would happen,

en utilisant des outils académiques traditionnels pour chercher des réponses.

and I'm here to tell you what I found.

Je vais vous confier mes découvertes.

But be warned --

Gardez bien à l'esprit

I'm not offering inspiration, I'm offering analysis.

que je ne vous propose non pas de l'inspiration mais une analyse.

I see my job as telling you what's most likely to happen

Je dois vous expliquer ce qui va probablement se passer

if we did the least to avoid it.

si nous faisons le moins possible pour l'éviter.

If you aren't at least a bit disturbed by something I tell you here,

Si ce que je vais vous raconter ne vous trouble pas un petit peu,

you're just not paying attention.

c'est que vous n'êtes pas attentifs.

(Laughter)

(Rires)

OK, the first thing I can tell you

OK. La première chose à mentionner,

is that ems spend most of their life in virtual reality.

c'est que les ems passent la plupart de leur vie dans la réalité virtuelle.

This is what you might look like if you were using virtual reality.

Si vous utilisez la réalité virtuelle, vous ressembleriez à ceci,

And this is what you might see:

et vous verriez quelque chose comme ça :

sunlight glinting off of water, you might hear gulls flying above,

les reflets de lumière sur l'eau, le son des mouettes qui volent, peut-être,

you might even feel the wind on your cheeks or smell seawater,

la sensation du vent sur les joues ou l'odeur des embruns,

with advanced hardware.

avec du matériel sophistiqué.

Now, if you were to spend a lot of time here,

Si vous y passez beaucoup de temps,

you might want a dashboard

vous aurez besoin d'un tableau de bord,

where you could do things like make a phone call,

pour téléphoner,

move to a new virtual world,

voyager dans un autre monde virtuel,

check your bank account.

ou vérifier votre compte bancaire.

Now, while this is what you would look like in virtual reality,

Donc, ici, c'est vous, dans le monde virtuel,

this is what an em would look like in virtual reality.

mais un em dans le monde virtuel ressemble à ça.

It's computer hardware sitting in a server rack somewhere.

Des équipements informatiques quelque part, dans des racks.

But still, it could see and experience the same thing.

Néanmoins, il pourrait voir et vivre les mêmes choses que vous.

But some things are different for ems.

Mais certaines choses sont différentes pour les ems.

First, while you'll probably always notice that virtual reality isn't entirely real,

D'abord, pour vous, une réalité virtuelle ne sera jamais totalement réelle.

to an em, it can feel as real to them as this room feels to you now

Mais pour un em, la sensation de réel sera la même pour lui

or as anything ever feels.

autant que pour vous ou toute autre sensation.

And ems also have some more action possibilities.

Les ems ont aussi plus de possibilités d'influence.

For example, your mind just always runs at the same speed,

Votre esprit, par exemple, tourne toujours à la même vitesse.

but an em can add more or less computer hardware to run faster or slower,

Mais un em pourra ajouter ou retirer du matériel pour moduler sa vitesse.

and therefore, if the world around them seems to be going too fast,

Donc, si le monde qui les entoure semble aller trop vite,

they can just speed up their mind,

ils peuvent accélérer leur esprit,

and the world around them would seem to slow down.

et le monde semblera ralentir.

In addition, an em can make a copy of itself at that moment.

De plus, un em peut se cloner à ce moment-là.

This copy would remember everything the same,

Cette copie aurait la même mémoire des choses,

and if it starts out with the same speed, looking at the same speed,

et si elle tourne à la même vitesse, observant un monde aussi rapide,

it might even need to be told, "You are the copy."

il faudra sans doute lui rappeler qu'elle est la copie.

And em could make archive copies,

Un em pourrait archiver ses copies.

and with enough archives,

Avec suffisamment d'archives,

an em can be immortal --

un em devient immortel,

in principle, though not usually in practice.

en principe, mais pas en pratique.

And an em can move its brain, the computer that represents its brain,

Un em peut encore déménager son cerveau l'ordinateur qui représente son cerveau

from one physical location to another.

d'un endroit à un autre.

Ems can actually move around the world at the speed of light,

Les em peuvent faire le tour du monde à la vitesse de la lumière,

and by moving to a new location,

et en déménageant,

they can interact more quickly with ems near that new location.

ils peuvent interagir plus rapidement avec d'autres ems, plus proches.

So far, I've been talking about what ems can do.

Jusqu'ici, j'ai décrit ce que les ems sont capables de faire.

What do ems choose to do?

Mais que choisiront les ems de faire ?

To understand that, we'll need to understand three key facts.

Pour répondre à ça, il faut comprendre trois facteurs cruciaux.

First, ems by definition do what the human they emulate would do

D'abord, les ems, par définition, agissent comme l'humain qu'ils imitent agirait

in the same situation.

dans la même situation.

So their lives and behavior are very human.

Leur vie et leurs comportements sont donc très humains.

They're mainly different because they're living in a different world.

Ils sont principalement différents parce qu'ils vivent dans un autre monde.

Second, ems need real resources to survive.

Ensuite, les ems ont besoin de resources physiques pour survivre.

You need food and shelter or you'll die.

Nous avons besoin d'alimentation et d'un abri sans quoi nous mourrons.

Also, ems need computer hardware, energy, cooling, or they can't exist.

Les ems, eux, ont besoin de matériel numérique, d'énergie, de refroidissement.

For every subjective minute that an em experiences,

Pour chaque instant subjectif qu'un em vit,

someone, usually that em, had to work to pay for it.

quelqu'un, sans doute ce même em, a dû travailler pour payer ça.

Third, ems are poor.

Troisièmement, les ems sont indigents.

(Laughter)

(Rires)

The em population can grow quicker than the em economy,

La démographie ems va grandir plus vite que leur économie.

so that means wages fall down to em subsistence levels.

Donc, leur salaire va chuter jusqu'au niveau minimum de subsistance.

That means ems have to be working most of the time.

Les ems devront travailler la plupart du temps.

So that means this is what ems usually see:

Les ems ont une vision de ça en général :

beautiful and luxurious, but desks --

une vue magnifique, luxueuse, mais avec un bureau

they're working most of the time.

car ils travaillent la plupart du temps.

Now, a subsistence wage scenario, you might think, is exotic and strange,

Un scénario de salaire de subsistance peut paraître exotique et étrange

but it's actually the usual case in human history,

mais c'est un cas habituel dans l'histoire de l'humanité

and it's how pretty much all wild animals have ever lived,

et c'est ainsi que vivent les animaux sauvages.

so we know what humans do in this situation.

On sait ce que les hommes font dans cette situation.

Humans basically do what it takes to survive,

Ils font ce qui est nécessaire pour survivre,

and this is what lets me say so much about the em world.

et c'est sur cette connaissance que je peux parler du monde des ems.

When creatures are rich, like you,

Quand un être est riche, comme vous,

you have to know a lot about what they want

il doit bien savoir ce qu'il veut, pour déterminer ce qu'il doit faire.

to figure out what they do.

When creatures are poor,

Dans l'indigence,

you know that they mostly do what it takes to survive.

vous savez que les êtres font ce qu'ils peuvent pour survivre.

So we've been talking about the em world from the point of view of the ems --

Quittons un instant le monde du point de vue des ems,

now, let's step back and look at their whole world.

et prenons de la hauteur pour observer leur monde.

First, the em world grows much faster than ours,

D'abord, leur monde croît plus rapidement que le nôtre,

roughly a hundred times faster.

par un facteur 100 environ.

So the amount of change we would experience in a century or two,

L'évolution qui a nécessité un ou deux siècles chez l'homme,

they would experience in a year or two.

sera vécue par les ems en un ou deux ans.

And I'm not really willing to project this age much beyond that,

Je n'ai pas envie de me projeter davantage dans le temps,

because plausibly by then something else will happen, I don't know what.

car quelque chose surviendra sans doute mais je ne sais pas quoi.

Second, the typical emulation runs even faster,

Ensuite, la copie typique tourne plus vite que l'homme,

roughly a thousand times human speed.

environ un facteur 1 000.

So for them, they experience thousands of years in this year or two,

Pour eux, un ou deux ans seront vécus comme un millier d'années.

and for them, the world around them is actually changing more slowly

Enfin, le monde qui les entoure semble changer plus lentement

than your world seems to change for you.

que le sentiment que nous en avons.

Third, ems are crammed together in a small number of very dense cities.

Troisièmement, les ems sont entassés dans un petit nombre de cités très denses.

This is not only how they see themselves in virtual reality,

Il ne s'agit pas uniquement de leur vision d'eux-mêmes dans la réalité virtuelle,

it's also how they actually are physically crammed together.

mais aussi de leur réalité physique.

So at em speeds, physical travel feels really painfully slow,

À la vitesse des ems, voyager physiquement est terriblement lent,

so most em cities are self-sufficient,

et donc, les villes ems sont auto-suffisantes,

most war is cyber war,

la plupart des guerres sont cyber,

and most of the rest of the earth away from the em cities

et la grande partie du reste du monde loin des cités ems

is left to the humans, because the ems really aren't that interested in it.

est abandonnée aux humains, parce que ça n'intéresse pas les ems.

Speaking of humans,

Parlons des humains,

you were wanting to hear about that.

c'est sans doute le sujet qui vous intéresse.

Humans must retire, at once, for good.

Les humains doivent prendre leur retraite une fois pour toute.

They just can't compete.

Ils sont disqualifiés, point.

Now, humans start out owning all of the capital in this world.

Maintenant, les humains vont posséder tout le capital du monde.

The economy grows very fast, their wealth grows very fast.

Leur richesse va grandir aussi vite que la croissance de l'économie.

Humans get rich, collectively.

Les humains deviendront collectivement riches.

As you may know, most humans today don't actually own that much

Vous le savez, les humains n'ont pas tant de possessions que ça

besides their ability to work,

hormis leur capacité de travailler.

so between now and then, they need to acquire sufficient assets,

Entre maintenant et ce futur, ils doivent acquérir suffisamment de biens

insurance or sharing arrangements,

et d'assurances ou d'arrangements en commun

or they may starve.

sans quoi ils mourront de faim.

I highly recommend avoiding this outcome.

Je vous recommande vivement d'éviter ça.

(Laughter)

(Rires)

Now, you might wonder,

Vous pourriez vous demander

why would ems let humans exist?

pourquoi les ems nous laisseraient vivre.

Why not kill them, take their stuff?

Pourquoi pas nous tuer, prendre nos biens ?

But notice we have many unproductive retirees around us today,

Nous avons beaucoup de retraités, non productifs, autour de nous

and we don't kill them and take their stuff.

et nous ne les tuons pas pour les voler.

(Laughter)

(Rires)

In part, that's because it would disrupt the institutions we share with them.

En partie parce que ça perturberait les institutions que nous partageons avec eux.

Other groups would wonder who's next,

D'autres se demanderont qui est le suivant

so plausibly, ems may well let humans retire in peace during the age of em.

et probablement que les ems permettront aux humains

de se retirer en paix pendant leur ère.

You should worry more that the age of em only lasts a year or two

Plus inquiétant : l'ère des ems ne durera qu'un an ou deux.

and you don't know what happens next.

On ne sait pas ce qui arrivera après.

Ems are very much like humans,

Les ems ressemblent beaucoup aux humains

but they are not like the typical human.

mais ils ne sont pas similaires à l'homme typique.

The typical em is a copy of the few hundred most productive humans.

Le em typique est une copie des quelques centaines d'humains les plus productifs.

So in fact, they are as elite, compared to the typical human,

Donc, il s'agit d'une élite par rapport à l'homme typique,

as the typical billionaire, Nobel Prize winner,

comme un milliardaire, un lauréat du Prix Nobel,

Olympic gold medalist, head of state.

un athlète olympique ou un chef d'État.

Ems look on humans perhaps with nostalgia and gratitude,

Les ems nous observeront peut-être avec nostalgie et gratitude,

but not so much respect,

mais sans doute pas avec respect.

which is, if you think about it, how you think about your ancestors.

C'est ce qui se passe avec nos ancêtres.

We know many things about how humans differ in terms of productivity.

Nous savons combien les humains sont différents en termes de productivité.

We can just use those to predict features of ems --

Parmi ça, on peut prédire les traits des ems.

for example, they tend to be smart, conscientious, hard-working,

Par exemple, ils seront intelligents, consciencieux, travailleurs,

married, religious, middle-aged.

mariés, religieux et quinquagénaires.

These are features of ems.

Telles sont leurs caractéristiques.

Em world also contains enormous variety.

Ils auront aussi une grande diversité.

Not only does it continue on with most of the kinds of variety that humans do,

C'est la continuité de la diversité des actions humaines,

including variety of industry and profession,

notamment la variété des industries, des professions.

they also have many new kinds of variety,

Il y aura aussi une nouvelle sorte de variété,

and one of the most important is mind speed.

la plus importante étant la vitesse de l'esprit.

Ems can plausibly go from human speed

Les ems pourront démarrer avec la vitesse de l'esprit humain

up to a million times faster than human speed,

et la dépasser des millions de fois,

and down to a billion times slower than human speed.

ou la ralentir à une vitesse des milliards de fois plus lente.

Faster ems tend to have markers of high status.

Les ems les plus rapides auront un statut plus élevé.

They embody more wealth. They win arguments.

Ils incarnent plus de richesse. ils gagnent.

They sit at premium locations.

Ils sont en première classe.

Slower ems are mostly retirees,

Les plus lents seront des retraités,

and they are like the ghosts of our literature.

semblables aux fantômes dans notre littérature.

If you recall, ghosts are all around us --

Rappelez-vous, les fantômes nous entourent

you can interact with them if you pay the price.

on peut interagir avec eux, si on en paye le prix.

But they don't know much, they can't influence much,

Mais ils sont ignorants et ils ont peu d'influence.

and they're obsessed with the past, so what's the point?

Ils sont obsédés par le passé. À quoi cela sert-il ?

(Laughter)

(Rires)

Ems also have more variety in the structure of their lives.

Ems auront aussi une plus grande variété dans leur vie.

This is your life: you start and you end, really simple.

Voici votre vie : elle a un début, et une fin. C'est simple.

This is the life of an em,

Voici la vie d'un em :

who every day splits off some short-term copies

Tous les jours, il clone une copie court-terme

to do short-term tasks and then end.

pour réaliser des tâches à court-terme et puis c'est fini.

We'll talk more about those short term versions in a moment,

Nous parlerons plus tard de ces versions court-terme.

but they are much more efficient

Mais elles sont plus efficaces :

because they don't have to rest for the next day.

elles ne doivent pas se reposer pour le lendemain.

This em is more opportunistic.

Ce em est plus opportuniste.

They make more copies of themselves when there's more demand for that.

Ils créent plus de clones quand le besoin est là.

They don't know which way the future's going.

Ils ne savent pas ce que l'avenir réserve.

This is an em designer,

Voici un em designer, qui conçoit un large système

who conceives of a large system

and then breaks recursively into copies who elaborate that,

et se scinde en copies récurrentes qui élaborent ce système.

so ems can implement larger, more coherent designs.

Donc, les ems peuvent installer des structures plus larges et cohérentes.

This an emulation plumber

Voici une copie bouche-trou

who remembers that every day, for the last 20 years,

qui se rappelle que chaque jour, pour 20 ans,

they only ever worked two hours a day, a life of leisure.

ils ont travaillé seulement 2 heures par jour, cool quoi.

But what really happened is, every day they had a thousand copies,

Mais en réalité, chaque jour, des centaines de clones sont créées

each of whom did a two-hour plumbing job,

pour réaliser des tâches pendant deux heures,

and only one of them went on to the next day.

et seul un em survit le lendemain.

Objectively, they're working well over 99 percent of the time.

Objectivement, ils travaillent plus que 99% de leur temps.

Subjectivement, une vie de farniente.

Subjectively, they remember a life of leisure.

(Laughter)

(Rires)

This, again, is you. You start and you end.

Vous êtes ici. Votre début, votre fin.

This could be you if at the start of party,

Ceci pourrait être vous si vous allez à une soirée

you took a drug that meant you would not remember that party

et vous fumez une drogue qui vous empêcherait de vous rappeler cette soirée.

ever after that day.

Some people do this, I'm told.

J'ai entendu parler de ça.

Toward the end of the party,

À la fin de la soirée,

will you say to yourself, "I'm about to die, this is terrible.

vous penserez que vous allez mourir, que c'est affreux.

That person tomorrow isn't me, because they won't remember what I do."

La personne demain ne sera pas moi,

car elle ne se rappelera pas ce qu'elle a fait.

Or you could say, "I will go on tomorrow. I just won't remember what I did."

Ou bien penserez-vous que vous continuez demain, un souvenir en moins ?

This is an em who splits off a short-term copy

Voici un em qui clone une copie court-terme

to do a short-term task and then end.

pour réaliser une tâche, et qui meurt.

They have the same two attitude possibilities.

Ces ems ont le choix entre les deux attitudes.

They can say, "I'm a new short-term creature with a short life. I hate this."

Ils peuvent dire : « Je suis le nouveau avec une vie limitée et je déteste ça. »

Or "I'm a part of a larger creature who won't remember this part."

Ou : « Je suis part d'un être majeur qui ne se rappellera pas de ça. »

I predict they'll have that second attitude,

Je pense que ce 2e comportement prévaudra,

not because it's philosophically correct, but because it helps them get along.

pas seulement car c'est philosophiquement correct mais car ça aide à gérer.

Today, if the president says we must invade Iraq,

Si le président décrète qu'il faut envahir l'Irak,

and you say, "Why?"

vous demandez pourquoi.

and they say, "State secret,"

C' est : « Secret d'État. »

you're not sure if you can trust them,

Vous ne savez pas s'il faut y croire.

but for ems, a copy of the president and a copy of you can go inside a safe,

Mais avec les ems, une copie du président et de vous vont dans un coffre-fort,

explain all their secret reasons,

explicitent les raisons secrètes,

and then one bit comes out from your copy to yourself,

et votre copie revient vers votre copie originale

telling you if you were convinced.

vous expliquer, si elle est convaincue.

So now you can know there is a good reason.

Vous savez qu'il y a une bonne raison.

I know you guys are all eager to evaluate this world.

Je sais que vous êtes tous curieux d'évaluer ce monde,

You're eager to decide if you love it or hate it.

de déterminer si vous l'aimez ou pas.

But think: your ancestors from thousands of years ago

Pensez que vos ancêtres il y a des milliers d'années

would have loved or hated your world

auraient pu aimer ou détester votre monde

based on the first few things they heard about it,

sur la base des premiers éléments qu'ils auront entendus

because your world is really just weird.

car notre monde est vraiment bizarre.

So before judging a strange future world, you should really learn a lot about it,

Avant de juger un monde futur étrange, c'est important de s'informer à son sujet.

maybe read a whole book about it,

Lire un bouquin, par exemple.

and then, if you don't like it, work to change it.

Si vous n'aimez pas ça, changez-le.

Thank you.

Merci.

(Applause)

(Applaudissements)