What would happen if we upload our brains to computers? | Robin Hanson

Fordító: Péter Pallós Lektor: Reka Lorinczy

Someday, we may have robots as smart as people,

Valaha talán olyan okos robotjaink lesznek, mint az ember.

artificial intelligence, AI.

Mesterséges intelligencia, MI.

How could that happen?

Hogy valósul ez meg?

One route is that we'll just keep accumulating better software,

Az egyik út, hogy gyűjtjük a jobbnál jobb szoftvereket,

like we've been doing for 70 years.

ahogy 70 éve tesszük.

At past rates of progress, that may take centuries.

A fejlődés eddigi ütemével ez századokig tarthat.

Some say it'll happen a lot faster

Van, aki szerint sokkal gyorsabban megtörténik,

as we discover grand new powerful theories of intelligence.

minthogy új, grandiózus, hatékony intelligenciaelméleteket dolgozunk ki.

I'm skeptical.

Kétlem.

But a third scenario

De van harmadik forgatókönyv is.

is what I'm going to talk about today.

Erről beszélek ma.

The idea is to port the software from the human brain.

Az ötlet: töltsük le az emberi agy szoftverét!

To do this, we're going to need three technologies to be good enough,

Három elég jó technológia kell hozzá;

and none of them are there yet.

egyikük sincs még meg.

First, we're going to need lots of cheap, fast, parallel computers.

Először, sok, gyors, olcsó, párhuzamos számítógépre lesz szükség.

Second, we're going to need to scan individual human brains

Másodszor, finom térbeli és kémiai részletességgel be kell szkennelni

in fine spatial and chemical detail,

egy-egy emberi agyat,

to see exactly what cells are where, connected to what, of what type.

hogy lássuk, melyik sejt hol van, mihez, milyen típusúhoz kapcsolódik.

And third, we're going to need computer models

Harmadszor, szükségünk lesz

minden agysejttípus működési modelljére:

of how each kind of brain cell works --

taking input signals, changing interval state

a bemenő jel vétele, időbeni állapotváltozása,

and sending output signals.

a kimenő jel küldése.

If we have good enough models of all the kinds of brain cells

Ha mindenféle agysejtről elég jó modellünk lesz,

and a good enough model of the brain,

s ugyanígy az agyról is,

we can put it together to make a good enough model of an entire brain,

az agy elég jó modelljét rakhatjuk össze,

and that model would have the same input-output behavior as the original.

és a modell bemenet-kimenet szempontjából úgy fog viselkedni, mint az eredeti.

So if you talk to it, it might talk back.

Ha beszélünk hozzá, válaszolni fog.

If you ask it to do things, it might do them.

Ha megkérjük valamire, tán megteszi.

And if we could do that, everything would change.

Ha ezt megcsináljuk, minden megváltozik.

People have been talking about this idea for decades,

Erről az ún. feltöltési ötletről

under the name of "uploads."

évtizedek óta beszélnek.

I'm going to call them "ems."

Én em-nek fogom nevezni.

When they talk about it, they say,

Róla beszélve megkérdik:

"Is this even possible?

"Egyáltalán lehetséges?

If you made one, would it be conscious? Or is it just an empty machine?

Ha egy elkészül, lesz tudata? Vagy csak üres gép lesz?

If you made one of me, is that me or someone else?"

Ha rólam készül, az én leszek, vagy valaki más?"

These are all fascinating questions that I'm going to ignore ...

Lenyűgöző kérdések, de én rájuk sem hederítek...

(Laughter)

(Nevetés)

because I see a neglected question:

mert egy elhanyagolt kérdés lebeg előttem:

What would actually happen?

Valójában mi fog történni?

I became obsessed with this question.

Nem hagy nyugodni a kérdés.

I spent four years trying to analyze it,

Elemzésével négy évet töltöttem,

using standard academic tools, to guess what would happen,

a szokásos egyetemi eszközöket használva, hogy rájöjjek, mi lesz,

and I'm here to tell you what I found.

és elmondom, mire jutottam.

But be warned --

De figyelmeztetem önöket,

I'm not offering inspiration, I'm offering analysis.

hogy nem ihletet, hanem elemzést kínálok.

I see my job as telling you what's most likely to happen

Tisztem csak azt elmondani, ami valószínűleg történni fog,

if we did the least to avoid it.

hogy legalább megpróbáljuk megakadályozni.

If you aren't at least a bit disturbed by something I tell you here,

Ha mondandóm legalább nem kavarja föl önöket,

you're just not paying attention.

akkor nem figyelnek eléggé.

(Laughter)

(Nevetés)

OK, the first thing I can tell you

Az első, amit közlök önökkel,

is that ems spend most of their life in virtual reality.

hogy az emek életük javát virtuális valóságban töltik.

This is what you might look like if you were using virtual reality.

Önök ezért úgy nézhetnek ki, mint aki virtuális valóságot használ.

And this is what you might see:

Talán ezt látjuk.

sunlight glinting off of water, you might hear gulls flying above,

a napfény visszaverődik a vízfelszínről, fenn sirályok vijjognak,

you might even feel the wind on your cheeks or smell seawater,

arcunkon érezzük a szelet, vagy érezzük a tenger illatát

with advanced hardware.

a fejlett hardverrel.

Now, if you were to spend a lot of time here,

Ha sok időt szándékozunk itt tölteni,

you might want a dashboard

tán műszerfalat is szeretnénk,

where you could do things like make a phone call,

amelyről pl. telefonálhatunk,

move to a new virtual world,

másik virtuális világba mehetünk át,

check your bank account.

megnézhetjük bankszámlánkat.

Now, while this is what you would look like in virtual reality,

Miközben ilyenek leszünk a virtuális valóságban,

this is what an em would look like in virtual reality.

egy em ilyen lesz a virtuális valóságban.

It's computer hardware sitting in a server rack somewhere.

Az valahol egy szerverben lévő hardver.

But still, it could see and experience the same thing.

De mégis ugyanazt tapasztalja.

But some things are different for ems.

De az emeknek néhány dolog más.

First, while you'll probably always notice that virtual reality isn't entirely real,

Először, mi alighanem mindig fölismerjük, hogy a virtuális valóság nem valódi,

to an em, it can feel as real to them as this room feels to you now

de az em valósnak érzi, mint mi ezt a helyiséget,

or as anything ever feels.

vagy bármi mást.

And ems also have some more action possibilities.

Az emeknek nagyobb mozgásterük is van.

For example, your mind just always runs at the same speed,

Pl., agyunk működési sebessége mindig azonos,

but an em can add more or less computer hardware to run faster or slower,

de az em több vagy kevesebb számítógéppel gyorsabb vagy lassabb lehet,

and therefore, if the world around them seems to be going too fast,

ezért ha környezetük túl gyorsnak bizonyul,

they can just speed up their mind,

fölgyorsíthatják tudatukat,

and the world around them would seem to slow down.

és így környezetük lassulni látszik.

In addition, an em can make a copy of itself at that moment.

Az em ráadásul abban a pillanatban lemásolhatja magát.

This copy would remember everything the same,

A másolat mindenre ugyanúgy fog emlékezni,

and if it starts out with the same speed, looking at the same speed,

és ha azonos sebességgel indul,

it might even need to be told, "You are the copy."

lehet, hogy rá kell szólni: "Te csak másolat vagy."

And em could make archive copies,

Az em készíthet archív másolatot is,

and with enough archives,

s ha elég van belőlük,

an em can be immortal --

az em elvileg halhatatlan lehet, –

in principle, though not usually in practice.

ha a gyakorlatban nem is.

And an em can move its brain, the computer that represents its brain,

Az em az egyik helyről a másikra képes mozgatni az agyát,

from one physical location to another.

azaz a számítógépet.

Ems can actually move around the world at the speed of light,

Az em a Föld körül fénysebességgel mozog,

and by moving to a new location,

s miközben új helyre megy,

they can interact more quickly with ems near that new location.

gyorsabban kölcsönhatásba léphet az ott lévő emekkel.

So far, I've been talking about what ems can do.

Eddig arról beszéltem, mit tehetnek az emek.

What do ems choose to do?

Mit szándékoznak tenni?

To understand that, we'll need to understand three key facts.

Ennek megértéséhez három lényeges dolgot meg kell értenünk.

First, ems by definition do what the human they emulate would do

Először, az em meghatározásánál fogva azt teszi, amit hasonló esetben

in the same situation.

az utánzott ember tenni szokott.

So their lives and behavior are very human.

Élete és viselkedése nagyon emberi.

They're mainly different because they're living in a different world.

A különbséget az okozza, hogy más világban élnek.

Second, ems need real resources to survive.

Másodszor, életben maradásához az emnek valódi erőforrások kellenek.

You need food and shelter or you'll die.

Mi ha nem jutunk élelemhez és fedélhez, elpusztulunk.

Also, ems need computer hardware, energy, cooling, or they can't exist.

Az em-nek hardverre, energiára, hűtésre van szüksége, másként elpusztul.

For every subjective minute that an em experiences,

Az em minden egyes percéért valakinek – általában az em-nek –

someone, usually that em, had to work to pay for it.

meg kellett fizetnie.

Third, ems are poor.

Harmadszor, az em szegény.

(Laughter)

(Nevetés)

The em population can grow quicker than the em economy,

Az em-népesség gyorsabban nő, mint az em gazdasága,

so that means wages fall down to em subsistence levels.

ezért a bérek az em megélhetési szintjére esnek vissza.

That means ems have to be working most of the time.

Ezért az emnek ideje nagy részét munkával kell töltenie.

So that means this is what ems usually see:

Ezért az em általában ezt látja:

beautiful and luxurious, but desks --

gyönyörű és luxus – de csak asztalok –,

they're working most of the time.

és állandóan működnek.

Now, a subsistence wage scenario, you might think, is exotic and strange,

Úgy hihetik, hogy a létminimum bér kivételes és furcsa,

but it's actually the usual case in human history,

de a történelemben ez az általános helyzet,

and it's how pretty much all wild animals have ever lived,

és a vadállatok nagyjából így élnek.

Tudjuk, hogy az ember mit tesz ilyen helyzetben.

so we know what humans do in this situation.

Humans basically do what it takes to survive,

Az ember azt teszi, ami a túléléshez kell,

and this is what lets me say so much about the em world.

ezért mondhatok ennyit az emek világáról.

When creatures are rich, like you,

Ha a teremtmények gazdagok,

you have to know a lot about what they want

sokat kell tudnunk arról, amit akarnak,

to figure out what they do.

szándékukra rá kell jönniük.

When creatures are poor,

Szegény teremtményekről tudjuk,

you know that they mostly do what it takes to survive.

mit szoktak tenni a túlélésért.

So we've been talking about the em world from the point of view of the ems --

Az emek világát eddig az ő szemszögükből tárgyaltuk,

now, let's step back and look at their whole world.

de most nézzük egész világukat.

First, the em world grows much faster than ours,

Először, az em-világ gyorsabban nő, mint a miénk,

roughly a hundred times faster.

kb. százszor gyorsabban.

So the amount of change we would experience in a century or two,

Az olyan mértékű változást, amelyet 1–2 század alatt tapasztalnánk,

they would experience in a year or two.

ők egy-két év alatt átélik.

And I'm not really willing to project this age much beyond that,

Nem akarom korunkat tovább is kivetíteni,

because plausibly by then something else will happen, I don't know what.

mert valami más is történhet; nem tudom mi.

Second, the typical emulation runs even faster,

Másodszor, a tipikus utánzás még gyorsabban megy,

roughly a thousand times human speed.

kb. az emberi sebességnél ezerszer gyorsabban.

So for them, they experience thousands of years in this year or two,

Ezért az emek ezer évet egy-két év alatt élnek át,

and for them, the world around them is actually changing more slowly

s számukra környezetük változása lassabb,

than your world seems to change for you.

mint ahogy nekünk a miénké.

Third, ems are crammed together in a small number of very dense cities.

Harmadszor, az emek városokban vannak sűrűn összezsúfolódva.

This is not only how they see themselves in virtual reality,

Nemcsak arról van szó, hogyan látják magukat a virtuális valóságban,

it's also how they actually are physically crammed together.

hanem arról is, hogy fizikailag mennyire zsúfolódtak össze.

So at em speeds, physical travel feels really painfully slow,

Az em sebességéhez mérten a fizikai utazás fájdalmasan lassúnak tűnik,

so most em cities are self-sufficient,

úgyhogy a legtöbb em város önálló,

most war is cyber war,

a legtöbb háború kiberháború,

and most of the rest of the earth away from the em cities

s a Földnek az em-városoktól távol eső többi, maradék része

is left to the humans, because the ems really aren't that interested in it.

az emberé marad, mert az emeket nem érdekli.

Speaking of humans,

Az emberről szólva –

you were wanting to hear about that.

persze, szeretnének hallani róla.

Humans must retire, at once, for good.

Az ember rögtön, örökre nyugdíjba mehet.

They just can't compete.

Képtelen állni a versenyt.

Now, humans start out owning all of the capital in this world.

Az ember a világ összes tőkéjének birtokában indult útjára.

The economy grows very fast, their wealth grows very fast.

A gazdaság igen gyorsan fejlődik, vagyona gyorsan gyarapszik.

Humans get rich, collectively.

Az ember társadalomban lett gazdag.

As you may know, most humans today don't actually own that much

Nyilván tudják, hogy ma a legtöbb embernek nincs egyebe,

besides their ability to work,

mint a munkaképessége,

so between now and then, they need to acquire sufficient assets,

így időnként elegendő tőkéről, biztosítási vagy osztalékmegállapodásról

insurance or sharing arrangements,

kell gondoskodnia,

or they may starve.

különben éhen hal.

I highly recommend avoiding this outcome.

Óvva intek mindenkit ettől.

(Laughter)

(Nevetés)

Now, you might wonder,

Eltűnődhetnek azon,

why would ems let humans exist?

miért hagyják életben az emek az embert?

Why not kill them, take their stuff?

Miért nem ölik meg, s veszik el mindenét?

But notice we have many unproductive retirees around us today,

De vegyük észre: rengeteg haszontalan nyugdíjas él köröttünk,

and we don't kill them and take their stuff.

nem öljük meg őket, nem vesszük el mindenüket.

(Laughter)

(Nevetés)

In part, that's because it would disrupt the institutions we share with them.

Részben azért, mert akkor közös intézményeink tönkremennének.

Other groups would wonder who's next,

Mások azon tűnődnek, ki a következő.

so plausibly, ems may well let humans retire in peace during the age of em.

Az emek várhatóan hagyják az embert az em életében nyugalomba vonulni.

You should worry more that the age of em only lasts a year or two

Inkább a miatt izgassuk magunkat, hogy az em csak egy-két évig él,

and you don't know what happens next.

s fogalmunk sincs, mi lesz az után.

Ems are very much like humans,

Az emek nagyon hasonlítanak az emberre,

but they are not like the typical human.

de nem a tipikus emberre.

The typical em is a copy of the few hundred most productive humans.

A tipikus em a legtermékenyebb pár száz ember másolata.

So in fact, they are as elite, compared to the typical human,

A tipikus emberhez képest ők az elit,

as the typical billionaire, Nobel Prize winner,

mint a tipikus milliárdos, Nobel-díjas,

Olympic gold medalist, head of state.

olimpiai győztes, államfő.

Ems look on humans perhaps with nostalgia and gratitude,

Az emek az emberre valószínű nosztalgiával s hálásan tekintenek,

but not so much respect,

de nem nagy tisztelettel,

which is, if you think about it, how you think about your ancestors.

mint ahogy őseinkre mi szoktunk gondolni.

We know many things about how humans differ in terms of productivity.

Tudjuk, hogy az emberek termelékenysége mennyire különböző.

We can just use those to predict features of ems --

Azokat csak az emek jellemzésére használjuk:

for example, they tend to be smart, conscientious, hard-working,

pl. hogy rendszerint okosak, lelkiismeretesek, szorgalmasak,

married, religious, middle-aged.

házasok, vallásosak, középkorúak.

These are features of ems.

Ezek az emek tulajdonságai.

Em world also contains enormous variety.

Az emek világa óriási változatosságot mutat.

Not only does it continue on with most of the kinds of variety that humans do,

Nemcsak emberi változatok jellemzik őket,

including variety of industry and profession,

beleértve az ipar s foglalkozások változatait;

they also have many new kinds of variety,

sok új változatuk is van,

and one of the most important is mind speed.

az egyik legfontosabb a gondolkodás sebessége.

Ems can plausibly go from human speed

Az emek sebessége az ember gondolkodási sebessége

up to a million times faster than human speed,

és a milliószor akkora sebesség közé esik,

and down to a billion times slower than human speed.

vagy az emberénél milliárdszor lassabb.

Faster ems tend to have markers of high status.

A gyorsabb emek magasabb státuszúak.

They embody more wealth. They win arguments.

Vagyonosabbak, a vitákat megnyerik.

They sit at premium locations.

Kitüntetett helyeken ülnek.

Slower ems are mostly retirees,

A lassabb emek általában nyugdíjasok,

and they are like the ghosts of our literature.

hasonlítanak az irodalomból ismert szellemekre.

If you recall, ghosts are all around us --

Emlékeznek, szellemek vesznek körbe minket,

you can interact with them if you pay the price.

kapcsolatba léphetünk velük, ha megadjuk az árát.

But they don't know much, they can't influence much,

De nem sokat tudnak, nincs sok befolyásuk,

and they're obsessed with the past, so what's the point?

a múlt foglalkoztatja őket; ugyan, mi értelme?

(Laughter)

(Nevetés)

Ems also have more variety in the structure of their lives.

Az emek létük struktúrájában is nagy változatosságot mutatnak.

This is your life: you start and you end, really simple.

Ilyen a mi életünk: van kezdete és vége, igazán egyszerű.

This is the life of an em,

Az em élete viszont ilyen:

who every day splits off some short-term copies

minden nap rövid távú másolatokra oszlik

to do short-term tasks and then end.

rövid távú feladatok végzéséhez, és kész.

We'll talk more about those short term versions in a moment,

Rögtön szólok a rövid távú változatokról,

but they are much more efficient

de sokkal hatékonyabbak,

because they don't have to rest for the next day.

mert másnap nem kell pihenniük.

This em is more opportunistic.

Ez az em szemfülesebb.

They make more copies of themselves when there's more demand for that.

Több másolatot készítenek magukról. ha szükség van rájuk.

They don't know which way the future's going.

Nem tudják, hogy alakul a jövő.

This is an em designer,

Ez egy em-tervező,

who conceives of a large system

amely nagy rendszerből alakítja ki tervét,

and then breaks recursively into copies who elaborate that,

aztán rekurzív módon másolatokra oszlik, amelyek megvalósítják.

so ems can implement larger, more coherent designs.

Az emek nagyobb, logikusabb tervet valósíthatnak meg.

This an emulation plumber

Ez egy vízszerelő-másolata,

who remembers that every day, for the last 20 years,

aki emlékszik, hogy az utóbbi 20 évben

they only ever worked two hours a day, a life of leisure.

naponta csak két órát dolgozott; édes élet!

But what really happened is, every day they had a thousand copies,

Az történt, hogy naponta ezer másolatot készítettek,

each of whom did a two-hour plumbing job,

mind naponta két-két órát dolgozott,

and only one of them went on to the next day.

csak egyikük érte meg a másnapot.

Objektíve az idő 99%-ában jól dolgoznak.

Objectively, they're working well over 99 percent of the time.

Szubjektíve emlékeznek az édes életre.

Subjectively, they remember a life of leisure.

(Laughter)

(Nevetés)

This, again, is you. You start and you end.

Ezek megint mi vagyunk. kezdet és vég.

This could be you if at the start of party,

Megtörténhet, ha a buli elején

you took a drug that meant you would not remember that party

gyógyszert veszünk be, amelytől másnap már

ever after that day.

nem emlékszünk a bulira.

Some people do this, I'm told.

Egyesek ezt csinálják, mondták nekem.

Toward the end of the party,

A buli vége felé azt mondjuk:

will you say to yourself, "I'm about to die, this is terrible.

"Haldoklom, ez szörnyű.

That person tomorrow isn't me, because they won't remember what I do."

A holnapi alak nem én vagyok, mert nem emlékszik, mit teszek."

Or you could say, "I will go on tomorrow. I just won't remember what I did."

Azt is mondhatjuk: "Holnap folytatom, csak nem fogok emlékezni semmire."

This is an em who splits off a short-term copy

Egy em szedi szét a rövid távú másolatot,

to do a short-term task and then end.

hogy rövid távú feladatot végezzen, majd kimúljon.

They have the same two attitude possibilities.

Ismét két attitűdlehetőségük van.

They can say, "I'm a new short-term creature with a short life. I hate this."

Az emek mondhatják: "Új, rövid távú és életű lény vagyok; ezt utálom".

Or "I'm a part of a larger creature who won't remember this part."

Vagy: "Nagyobb lény része vagyok, aki nem fog emlékezni e részre."

I predict they'll have that second attitude,

Megjósolom: nem azért a másik attitűd szerint járnak el,

not because it's philosophically correct, but because it helps them get along.

mert az filozófiailag helyes, hanem mert így boldogulhatnak.

Today, if the president says we must invade Iraq,

Ha az elnök ma azt mondja: Irakot el kell foglalnunk,

and you say, "Why?"

s megkérdezzük: "Miért?",

and they say, "State secret,"

a válasz: "Államtitok",

you're not sure if you can trust them,

nem biztos, hogy bízhatunk bennük.

but for ems, a copy of the president and a copy of you can go inside a safe,

De az em, ami az elnök másolata, s a mi másolatunk beleáshat

explain all their secret reasons,

a titkos okok magyarázatába,

and then one bit comes out from your copy to yourself,

s valami kiderül a másolatunkból mi magunknak,

telling you if you were convinced.

s közli, ha meg lettünk győzve.

So now you can know there is a good reason.

Megtudhatjuk, hogy jó ok van rá.

I know you guys are all eager to evaluate this world.

Tudom: tűkön ülnek, hogy értékelhessék a világot.

You're eager to decide if you love it or hate it.

Alig várják, hogy eldönthessék: tetszik vagy utálják.

But think: your ancestors from thousands of years ago

De gondoljanak bele: évezredekkel ezelőtti őseiknek

would have loved or hated your world

vajon tetszett volna vagy utálnák világunkat

based on the first few things they heard about it,

kevés és hézagos ismeretük alapján,

because your world is really just weird.

mert világunk elég fura.

So before judging a strange future world, you should really learn a lot about it,

Mielőtt ítéletet alkotnánk a jövő világról, tudjunk meg többet róla,

tán egy könyvet olvassunk el róla,

maybe read a whole book about it,

and then, if you don't like it, work to change it.

aztán ha nem tetszik, változtassunk rajta.

Thank you.

Köszönöm.

(Applause)

(Taps)