What would happen if we upload our brains to computers? | Robin Hanson

Çeviri: Cihan Ekmekçi Gözden geçirme: Ramazan Şen

Someday, we may have robots as smart as people,

Bir gün insanlar kadar zeki robotlara,

artificial intelligence, AI.

yapay zekâya sahip olabiliriz.

How could that happen?

Bu nasıl olabilir?

One route is that we'll just keep accumulating better software,

Bir yolu sürekli daha iyi yazılımlar geliştirmeye devam etmek,

like we've been doing for 70 years.

tıpkı son 70 yıldır yaptığımız gibi.

At past rates of progress, that may take centuries.

Son zamanlardaki değerlendirmelerle bu yüzyıllar sürebilir.

Some say it'll happen a lot faster

Kimi insanlar, yeni güçlü zekâ teorileri

as we discover grand new powerful theories of intelligence.

keşfedildikçe bunun çok daha hızlı olacağını savunuyorlar.

I'm skeptical.

Ben ise şüpheciyim.

But a third scenario

Ancak bugün üzerinde konuşmak istediğim

is what I'm going to talk about today.

üçüncü bir senaryo var.

The idea is to port the software from the human brain.

Ana fikir, yazılımı insan beyninden elde etmek.

To do this, we're going to need three technologies to be good enough,

Bunu gerçekleştirmek için iyi olması gereken üç teknolojik alan var

and none of them are there yet.

ve üçü de henüz hazır değil.

First, we're going to need lots of cheap, fast, parallel computers.

Öncelikle çok sayıda ucuz, hızlı ve paralel bilgisayarlara gerek duyacağız.

Second, we're going to need to scan individual human brains

İkincisi, her bir insan beynini konumsal ve kimyasal ayrıntılarıyla

in fine spatial and chemical detail,

taramaya gerek duyacağız,

to see exactly what cells are where, connected to what, of what type.

böylelikle hangi hücrelerin nerede, neye bağlı ve ne tür olduğunu anlayacağız.

And third, we're going to need computer models

Üçüncüsü ise her bir beyin hücresinin nasıl çalıştığına ilişkin

of how each kind of brain cell works --

bilgisayar modellerine gerek duyacağız;

taking input signals, changing interval state

gelen sinyalleri alacak, zaman aralıkları değişecek

and sending output signals.

dışarı sinyal gönderecek.

If we have good enough models of all the kinds of brain cells

Her tür beyin hücresinin ve de beynin yeterli düzeyde

and a good enough model of the brain,

iyi modellerini elde edersek,

we can put it together to make a good enough model of an entire brain,

tüm beyin için yeterli düzeyde iyi bir model oluşturabiliriz,

and that model would have the same input-output behavior as the original.

bu model de orijinal beyinle aynı giriş-çıkış davranışını sergiler.

So if you talk to it, it might talk back.

Yani onunla konuşursanız, cevap verebilir.

If you ask it to do things, it might do them.

İş yapmasını isterseniz, onları yapabilir.

And if we could do that, everything would change.

Bunu başarabilirsek, her şey değişecektir.

People have been talking about this idea for decades,

İnsanlar bu fikir üzerinde ''uploads'' (yüklemeler) adı altında

under the name of "uploads."

uzun yıllardır tartışıyor,

I'm going to call them "ems."

ben onlara ''emler'' diyeceğim.

When they talk about it, they say,

İnsanlar bunun hakkında konuştukları zaman soruyorlar:

"Is this even possible?

''Böyle bir şey mümkün mü?

If you made one, would it be conscious? Or is it just an empty machine?

Yapsanız bile, bilinci olur mu? Yoksa boş bir makine mi olur?

If you made one of me, is that me or someone else?"

Benden bir tane yapsanız, o ben mi olurum başkası mı?

These are all fascinating questions that I'm going to ignore ...

Bu harika soruların hepsini görmezden geleceğim...

(Laughter)

(Gülüşmeler)

because I see a neglected question:

çünkü gözardı edilen bir soru var:

What would actually happen?

Ne olurdu peki?

I became obsessed with this question.

Bu soruya kafayı taktım.

I spent four years trying to analyze it,

Analiz etmek için dört yıl harcadım,

using standard academic tools, to guess what would happen,

ne olacağını tahmin etmek için standart akademik araçlar kullandım

and I'm here to tell you what I found.

ve ne bulduğumu söylemek için buradayım.

But be warned --

Ancak dikkatli olun,

I'm not offering inspiration, I'm offering analysis.

ilham değil, sadece bir analiz sunuyorum.

I see my job as telling you what's most likely to happen

Bundan kaçınmak için gerekeni yapmazsak, neler olacağını

if we did the least to avoid it.

size söylemek benim görevim.

If you aren't at least a bit disturbed by something I tell you here,

Eğer size söylediklerim biraz da olsa sizi rahatsız etmiyorsa,

you're just not paying attention.

dikkat vermiyorsunuz demektir.

(Laughter)

(Gülüşmeler)

OK, the first thing I can tell you

Pekâlâ, size söyleyebileceğim ilk şey,

is that ems spend most of their life in virtual reality.

emler hayatlarının çoğunu sanal gerçeklikte geçiriyorlar.

This is what you might look like if you were using virtual reality.

Sanal gerçeklik kullanıyor olsanız muhtemelen buna benzerdiniz.

And this is what you might see:

Göreceğiniz şu olurdu:

sunlight glinting off of water, you might hear gulls flying above,

Suyun üzerinde süzülen güneş ışığı, uçan martıları duyabilirsiniz,

you might even feel the wind on your cheeks or smell seawater,

hatta ileri donanım sayesinde rüzgârı yüzünüzde hissedip

with advanced hardware.

deniz kokusunu bile alabilirsiniz.

Now, if you were to spend a lot of time here,

Burada çok vakit geçirecek olsanız,

you might want a dashboard

telefon görüşmesi,

where you could do things like make a phone call,

yeni bir sanal gerçekliğe taşınmak,

move to a new virtual world,

banka hesabınıza göz atmak gibi

check your bank account.

işleriniz için bir kontrol paneli isterdiniz.

Now, while this is what you would look like in virtual reality,

Siz sanal gerçeklikte böyle iken,

this is what an em would look like in virtual reality.

emler bu şekilde görünüyor.

It's computer hardware sitting in a server rack somewhere.

Bilgisayar donanımı bir sunucu yığınında oturuyor.

But still, it could see and experience the same thing.

Yine de aynı şeyi görüyor ve tecrübe ediyor.

But some things are different for ems.

Ancak bazı şeyler emler için farklı.

First, while you'll probably always notice that virtual reality isn't entirely real,

Siz muhtemelen her zaman sanal gerçekliğin gerçek olmadığını anlarsınız,

to an em, it can feel as real to them as this room feels to you now

bir em için ise, sanal gerçeklik size bu salonun hissettirdiği

or as anything ever feels.

kadar gerçektir.

And ems also have some more action possibilities.

Ayrıca emlerin daha çok faaliyet imkânları vardır.

For example, your mind just always runs at the same speed,

Örneğin, aklınız hep aynı hızda çalışır

but an em can add more or less computer hardware to run faster or slower,

fakat bir em daha hızlı veya yavaş çalışabilmek için donanımdan faydalanır,

and therefore, if the world around them seems to be going too fast,

bu yüzden de çevrelerindeki dünya onlar için aşırı hızlıdır,

they can just speed up their mind,

akıllarını anında hızlandırırlar

and the world around them would seem to slow down.

ve çevrelerindeki dünya yavaşlamaya başlar.

In addition, an em can make a copy of itself at that moment.

Buna ek olarak, bir em istediği an kendisini kopyalayabilir.

This copy would remember everything the same,

Bu kopya her şeyi aynı şekilde hatırlar

and if it starts out with the same speed, looking at the same speed,

ve aynı hızla başlarsa

it might even need to be told, "You are the copy."

''Sen kopyasın'' diye söylenmesi bile gerekebilir.

And em could make archive copies,

Bir em arşiv kopyaları yapabilir

and with enough archives,

ve yeterli sayıda arşivle

an em can be immortal --

bir em ölümsüz olabilir,

in principle, though not usually in practice.

teoride tabii, uygulamada değil.

And an em can move its brain, the computer that represents its brain,

Bir em beynini oynatabilir, beynini temsil eden bilgisayarı

from one physical location to another.

bir fiziksel konumdan diğerine götürebilir.

Ems can actually move around the world at the speed of light,

Emler aslında dünyada ışık hızında hareket ederler,

and by moving to a new location,

yeni bir konuma taşınmaları,

they can interact more quickly with ems near that new location.

o çevredeki emlerle çok hızlı etkileşim kurmaları anlamına gelir.

So far, I've been talking about what ems can do.

Şu ana dek emlerin neler yapabileceğini anlattım.

What do ems choose to do?

Peki emler ne yapmayı seçer?

To understand that, we'll need to understand three key facts.

Bunu anlamak için önce üç kilit gerçeği anlamamız gerek.

First, ems by definition do what the human they emulate would do

İlk olarak emler taklit ettikleri insanın aynı şartlar altında

in the same situation.

yaptıklarını yaparlar.

So their lives and behavior are very human.

Yani hayat ve davranışları oldukça insanidir.

They're mainly different because they're living in a different world.

Genel olarak farklıdırlar, çünkü farklı bir dünyada yaşıyorlar.

Second, ems need real resources to survive.

İkincisi, emlerin yaşamak için gerçek kaynaklara ihtiyaçları vardır.

You need food and shelter or you'll die.

Besin ve barınak olmadan yaşayamazsınız.

Also, ems need computer hardware, energy, cooling, or they can't exist.

Ayrıca emler yaşamak için donanımlarına, enerjiye, soğutmaya gerek duyar.

For every subjective minute that an em experiences,

Bir emin yaşadığı her öznel dakika için,

someone, usually that em, had to work to pay for it.

birisi, genellikle o em, bedelini ödemek için çalışmak zorundadır.

Third, ems are poor.

Üçüncüsü ise emler yoksuldur.

(Laughter)

(Gülme)

The em population can grow quicker than the em economy,

Em populasyonu, em ekonomisinden daha hızlı büyüyebilir,

so that means wages fall down to em subsistence levels.

bu da maaşların asgari düzeye düşmesi anlamına gelir.

That means ems have to be working most of the time.

Yani emlerin zamanın çoğunda çalışması gerekmektedir.

So that means this is what ems usually see:

Bu da emlerin genellikle şunları gördüğü anlamına gelir:

beautiful and luxurious, but desks --

Çok güzel ve lüks, ama masalar,

they're working most of the time.

zamanın çoğunu çalışarak geçiriyorlar.

Now, a subsistence wage scenario, you might think, is exotic and strange,

Bir asgari ücret senaryosu, egzotik ve tuhaf olduğunu düşünebilirsiniz

but it's actually the usual case in human history,

ama aslında insanlık tarihinde karşılaşılan budur,

and it's how pretty much all wild animals have ever lived,

tüm vahşi hayvanların yaşayış şekli de böyledir,

yani bu durumda insanların ne yaptığını biliyoruz.

so we know what humans do in this situation.

Humans basically do what it takes to survive,

İnsanlar, yaşamak için gerekli olanı yapıyorlar,

and this is what lets me say so much about the em world.

işte bu sebepten em dünyası hakkında bu kadar şey söyleyebilyorum.

When creatures are rich, like you,

Canlılar sizler gibi zengin oldukları zaman,

you have to know a lot about what they want

ne yaptıklarını anlamak için ne istediklerini

to figure out what they do.

çok iyi bilmeniz gerek.

When creatures are poor,

Yoksul olduklarında,

you know that they mostly do what it takes to survive.

yaşamak için genellikle gerekeni yaptıklarını bilirsiniz.

So we've been talking about the em world from the point of view of the ems --

Em dünyasını onların bakış açısından konuşuyoruz,

şimdi bir adım geriye gidip tüm dünyalarına bakalım.

now, let's step back and look at their whole world.

First, the em world grows much faster than ours,

Öncelikle em dünyası bizimkinden çok daha hızlı gelişiyor,

roughly a hundred times faster.

kabaca yüz kat kadar daha hızlı.

So the amount of change we would experience in a century or two,

Yani bir veya iki yüzyıl içinde yaşayacağımız değişikliği

they would experience in a year or two.

onlar bir veya iki yıl içinde yaşarlar.

And I'm not really willing to project this age much beyond that,

Ben bu çağı pek öngörme yanlısı değilim,

çünkü o zamana dek başka bir şey olacaktır, ne olduğunu bilmiyorum.

because plausibly by then something else will happen, I don't know what.

Second, the typical emulation runs even faster,

İkincisi, normal bir emülasyon çok daha hızlıdır,

roughly a thousand times human speed.

kabaca insan hızından bin kat fazla.

So for them, they experience thousands of years in this year or two,

Yani onlar için binlerce yıl, bir iki yıl içinde yaşanır,

and for them, the world around them is actually changing more slowly

onlara göre çevrelerindeki dünya sizin dünyanızın değişmesine oranla

than your world seems to change for you.

çok daha yavaş değişmektedir.

Third, ems are crammed together in a small number of very dense cities.

Üçüncüsü ise emler az sayıda çok yoğun şehirlerde sıkışarak var olurlar.

This is not only how they see themselves in virtual reality,

Bu yalnızca kendilerini sanal gerçeklikte nasıl gördükleri değil,

it's also how they actually are physically crammed together.

gerçekten de fiziksel olarak tıkış tıkıştırlar.

So at em speeds, physical travel feels really painfully slow,

Yani em hızına göre fiziksel seyahat acı verici şekilde yavaştır,

so most em cities are self-sufficient,

em şehirlerinin çoğu kendi kendine yeterken,

most war is cyber war,

savaşların çoğu siber savaşlardır,

and most of the rest of the earth away from the em cities

em şehirlerinden uzak kalan dünyanın çoğu

is left to the humans, because the ems really aren't that interested in it.

insanlara kalmıştır, çünkü emler buna ilgi duymuyordur artık.

Speaking of humans,

Söz insanlara gelmişken,

you were wanting to hear about that.

bunu duymak istiyorsunuz.

Humans must retire, at once, for good.

İnsanların emekli olması gerek, hep birden, sonsuza dek.

They just can't compete.

Aynı kulvarda olamazlar artık.

Now, humans start out owning all of the capital in this world.

İnsanlar bu dünyadaki kapitale sahip olarak başladı.

The economy grows very fast, their wealth grows very fast.

Ekonomi çok hızlı büyür, zenginlik hızla artar.

Humans get rich, collectively.

İnsanlar toplu olarak zenginleşir.

As you may know, most humans today don't actually own that much

Bildiğiniz üzere, çoğu insan bugün o kadar çok şeye sahip değil,

besides their ability to work,

çalışabilme yetisi dışında,

so between now and then, they need to acquire sufficient assets,

yani o zamandan bu zamana yeterli varlıkları elde etmesi gerek,

insurance or sharing arrangements,

- sigorta ve anlaşmalı paylaşımlar -

or they may starve.

aksi hâlde açlıktan ölürler.

I highly recommend avoiding this outcome.

Bu sonuçtan kaçınmayı şiddetle öneriyorum.

(Laughter)

(Gülüşmeler)

Now, you might wonder,

Emlerin insanların yaşamasına

why would ems let humans exist?

neden izin verdiğini,

Why not kill them, take their stuff?

onları öldürüp mallarını almadığını merak edebilirsiniz.

But notice we have many unproductive retirees around us today,

Bugün aramızda üretken olmayan çok sayıda emekli var,

and we don't kill them and take their stuff.

onları öldürüp mallarına konmuyoruz.

(Laughter)

(Gülüşmeler)

In part, that's because it would disrupt the institutions we share with them.

Kısmen bunun sebebi, onlarla paylaştığımız kurumları altüst edecek olması.

Other groups would wonder who's next,

Diğer gruplar sırada kimin olduğunu merak edecektir,

so plausibly, ems may well let humans retire in peace during the age of em.

o yüzden em çağında emler insanların barış içinde emekliliğine izin vermeliler.

You should worry more that the age of em only lasts a year or two

Em çağının yalnızca bir iki sene sürmesi daha endişe verici,

and you don't know what happens next.

sonra ne olacağını da bilmiyorsunuz.

Ems are very much like humans,

Emler tıpkı insanlar gibidir

but they are not like the typical human.

ama sıradan bir insan gibi değil.

The typical em is a copy of the few hundred most productive humans.

Sıradan bir em birkaç yüz çok üretken insanın bir kopyasıdır.

So in fact, they are as elite, compared to the typical human,

Yani gerçekte sıradan bir insana kıyasla, sıradan bir milyarder,

as the typical billionaire, Nobel Prize winner,

bir Nobel kazananı, olimpik madalya sahibi

Olympic gold medalist, head of state.

veya devlet başkanı kadar elittirler.

Ems look on humans perhaps with nostalgia and gratitude,

Emler insanlara muhtemelen nostalji ve şükranla bakmaktadırlar,

but not so much respect,

ancak saygı duymazlar,

which is, if you think about it, how you think about your ancestors.

aslında siz de atalarınızı aynı bakış açısıyla düşünüyorsunuz.

We know many things about how humans differ in terms of productivity.

Üretkenlik konusunda insanların nasıl ayrıldığı hakkında çok şey biliyoruz.

We can just use those to predict features of ems --

Bunu emlerin geleceğini sezmede kullanabiliriz,

for example, they tend to be smart, conscientious, hard-working,

örneğin onlar daha zeki, itinalı, çalışkan,

married, religious, middle-aged.

evli, dindar, orta yaşlı.

These are features of ems.

İşte bunlar emlerin özellikleri.

Em world also contains enormous variety.

Emlerin dünyasında ayrıca inanılmaz çeşitlilik var.

Not only does it continue on with most of the kinds of variety that humans do,

Yalnızca insanlara özgü çeşitlilik değil,

including variety of industry and profession,

endüstriyel ve mesleki çeşitlilik

they also have many new kinds of variety,

ve pek çok yeni çeşitlilik türü içeriyor.

and one of the most important is mind speed.

En önemlilerinden biri akıl hızı.

Ems can plausibly go from human speed

Emler insan hızından bir milyon kata kadar

up to a million times faster than human speed,

daha hızlı ve bir milyar kat daha yavaş

and down to a billion times slower than human speed.

faaliyet gösterebilirler.

Faster ems tend to have markers of high status.

Daha hızlı emler yüksek statü sahibidir.

They embody more wealth. They win arguments.

Varlıklıdırlar ve tartışmaları kazanırlar.

They sit at premium locations.

Özel konumlarda otururlar.

Slower ems are mostly retirees,

Daha yavaş emler genellikle emeklidir,

and they are like the ghosts of our literature.

edebiyatımızın hayaletleri gbidirler.

If you recall, ghosts are all around us --

Hatırlarsanız hayaletler tüm çevremizdedir,

you can interact with them if you pay the price.

bedelini öderseniz etkileşime geçebilirsiniz.

But they don't know much, they can't influence much,

Ancak çok bilgileri ve etkileri yoktur,

and they're obsessed with the past, so what's the point?

geçmişle saplantılıdırlar, o hâlde ne anlamı var?

(Laughter)

(Gülüşme)

Ems also have more variety in the structure of their lives.

Emlerin ayrıca yaşam temellerinde daha çok çeşitlilik vardır.

This is your life: you start and you end, really simple.

İşte senin hayatın: Başla ve bitir. Gerçekten basit.

This is the life of an em,

Bu bir em'in hayatı.

who every day splits off some short-term copies

Kısa vadeli görevleri yapmak için her gün

bazı kısa vadeli kopyaları ayırır ve bitirir.

to do short-term tasks and then end.

We'll talk more about those short term versions in a moment,

Birazdan bu kısa vadeli versiyonlara daha çok değineceğiz

but they are much more efficient

ama sonraki gün dinlenmek zorunda

because they don't have to rest for the next day.

olmadıkları için çok daha etkililer.

This em is more opportunistic.

Bu em daha fırsatçı.

They make more copies of themselves when there's more demand for that.

Daha fazla talep olduğu zaman kendisinden daha fazla kopya yapıyor.

They don't know which way the future's going.

Geleceğin ne yöne gittiğini bilmiyorlar.

This is an em designer,

Bu bir em tasarımcısı,

who conceives of a large system

geniş çapta bir sistem oluşturup

and then breaks recursively into copies who elaborate that,

işlemi tekrarlandıran parçalara bölünüyor,

so ems can implement larger, more coherent designs.

böylelikle emler daha geniş ve uyumlu tasarımlar uygulayabiliyor.

This an emulation plumber

Bu bir emülasyon tesisatçısı,

who remembers that every day, for the last 20 years,

son 20 yılın her gününü hatırlıyor,

they only ever worked two hours a day, a life of leisure.

yalnızca günde 2 saat çalışıyorlar, hayat boyu boş zaman.

But what really happened is, every day they had a thousand copies,

Ancak aslında olan, her gün bin kopya oluşturmuş olmaları,

each of whom did a two-hour plumbing job,

her biri iki saatlik tesisat yapıyor

and only one of them went on to the next day.

ve yalnızca biri ertesi gün devam ediyor.

Objectively, they're working well over 99 percent of the time.

Nesnel olursak, zamanın %99'unu çalışarak geçiriyorlar.

Öznel olarak hayat boyu boş zaman hatırlarlar.

Subjectively, they remember a life of leisure.

(Laughter)

(Gülüşme)

This, again, is you. You start and you end.

Yine bu sizsiniz. Başlayıp sona eriyorsunuz.

This could be you if at the start of party,

Bu bir partinin başlarında bir ilaç alıp

you took a drug that meant you would not remember that party

ertesi gün partiyi hiç hatırlamayacak olan

ever after that day.

siz olabilirsiniz.

Some people do this, I'm told.

Duyduğuma göre bunu yapanlar varmış.

Toward the end of the party,

Partinin sonuna doğru,

will you say to yourself, "I'm about to die, this is terrible.

kendinize ''Ölmek üzereyim, bu korkunç, yarın bu ben olmayacağım,

That person tomorrow isn't me, because they won't remember what I do."

çünkü yaptıklarımı hatırlamayacağım.'' mı dersiniz?

Or you could say, "I will go on tomorrow. I just won't remember what I did."

Yoksa ''Yarın hayat devam ediyor, sadece yaptığımı hatırlamayacağım.'' mı?

This is an em who splits off a short-term copy

Bu kısa süreli bir iş yapıp sona ermek için

to do a short-term task and then end.

kısa süreli kopya ayıran bir em.

They have the same two attitude possibilities.

Aynı davranış olanaklarına sahipler.

They can say, "I'm a new short-term creature with a short life. I hate this."

''Kısa vadeli kısa hayatlı bir yaratığım, bundan nefret ediyorum'' da diyebilirler,

Or "I'm a part of a larger creature who won't remember this part."

''Bu kısmı hatırlamayan daha büyük bir yaratığın parçasıyım'' da.

I predict they'll have that second attitude,

Bence ikinci davranışa sahip olacaklar.

not because it's philosophically correct, but because it helps them get along.

Düşünsel olarak doğru olduğu için değil, iyi geçinmelerine yardım ettiği için.

Today, if the president says we must invade Iraq,

Başkan, bugün Irak'ı işgal etmemiz gerek derse,

and you say, "Why?"

nedenini sorarsanız,

and they say, "State secret,"

''Devlet sırrı'' diyeceklerdir,

you're not sure if you can trust them,

güvenebileceğinizden emin olamazsınız,

but for ems, a copy of the president and a copy of you can go inside a safe,

emler içinse başkan ve sizin bir kopyanız gizli bir yere gidip

explain all their secret reasons,

gizli sebepleri konuşabilirsiniz,

and then one bit comes out from your copy to yourself,

sonra kendi kopyanızdan bir parça

telling you if you were convinced.

size ikna olduğunuzu söyler.

So now you can know there is a good reason.

Artık iyi bir sebebi olduğunu bilebilirsiniz.

I know you guys are all eager to evaluate this world.

Bu dünyayı değerlendirmeye istekli olduğunuzu biliyorum.

You're eager to decide if you love it or hate it.

Sevdiğinize veya nefret ettiğinize karar vermeye.

But think: your ancestors from thousands of years ago

Ancak düşünün: Binlerce sene önce atalarınız

would have loved or hated your world

duydukları ilk şeyden yola çıkarak

based on the first few things they heard about it,

dünyanızı sever veya ondan nefret ederdi,

because your world is really just weird.

çünkü dünyanız gerçekten tuhaf.

So before judging a strange future world, you should really learn a lot about it,

O yüzden garip bir geleceği yargılamadan önce onun hakkında çok bilgi edinin,

maybe read a whole book about it,

hakkında güzel bir kitap okuyun,

and then, if you don't like it, work to change it.

beğenmezseniz değiştirmeye çalışın.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)