How to get empowered, not overpowered, by AI | Max Tegmark

Çeviri: Melis Meyer-Gümüs Gözden geçirme: Figen Ergürbüz

After 13.8 billion years of cosmic history,

13,8 milyar yıllık kozmik geçmişin ardından

our universe has woken up

evrenimiz uyandı

and become aware of itself.

ve kendi farkına vardı.

From a small blue planet,

Küçük mavi bir gezegenden

tiny, conscious parts of our universe have begun gazing out into the cosmos

evrenimizin ufacık, bilinçli parçaları uzayı teleskoplarla

with telescopes,

gözetlemeye başladılar

ve mahçup edici bir şey keşfettiler.

discovering something humbling.

We've discovered that our universe is vastly grander

Evrenimizin atalarımızın düşündüğünden

than our ancestors imagined

çok daha büyük olduğunu

and that life seems to be an almost imperceptibly small perturbation

ve hayatın, aksi taktirde ölü olacak bir evrende ufacık ve belli belirsiz

on an otherwise dead universe.

bir sapma olduğunu keşfettik.

But we've also discovered something inspiring,

Aynı zamanda büyüleyici bir şey keşfettik;

which is that the technology we're developing has the potential

geliştirdiğimiz teknolojinin, hayatın ilerlemesine

to help life flourish like never before,

yardım etme potansiyelinin daha önce hiç olmadığı kadar fazla olduğunu

not just for centuries but for billions of years,

sadece yüzyıllardır değil milyarlarca senedir

and not just on earth but throughout much of this amazing cosmos.

ve sadece dünyada değil, bu müthiş evrenin birçok yerinde...

I think of the earliest life as "Life 1.0"

En erken yaşamı "Yaşam 1.0" olarak düşünüyorum

because it was really dumb,

çünkü gerçekten aptaldı,

like bacteria, unable to learn anything during its lifetime.

bakteri gibi, yaşamı boyunca öğrenmekten aciz.

I think of us humans as "Life 2.0" because we can learn,

Biz insanları "Yaşam 2.0" olarak tahayyül ediyorum çünkü öğrenebiliyoruz

which we in nerdy, geek speak,

bilgisayar diliyle konuşursak

might think of as installing new software into our brains,

beynimize yeni bir program kurmak ile kıyaslanabilir,

like languages and job skills.

diller ve iş becerileri gibi.

"Life 3.0," which can design not only its software but also its hardware

Kendi yazılımını ve donanımını tasarlayan "Yaşam 3.0"

of course doesn't exist yet.

tabii ki henüz mevcut değil.

But perhaps our technology has already made us "Life 2.1,"

Ama belki teknolojimiz bizi zaten "Yaşam 2.1" yapmıştır

with our artificial knees, pacemakers and cochlear implants.

yapay dizlerimiz, kalp pillerimiz ve biyonik kulaklarımız ile.

So let's take a closer look at our relationship with technology, OK?

O zaman teknoloji ile olan ilişkimize daha yakından bakalım mı?

As an example,

Örnek verecek olursak

the Apollo 11 moon mission was both successful and inspiring,

Apollo 11 ay misyonunun hem başarılı hem de ilham verici olması

showing that when we humans use technology wisely,

biz insanların, teknolojiyi akıllıca kullandığımızda

we can accomplish things that our ancestors could only dream of.

atalarımızın sadece hayal edebilecekleri şeyleri başarabildiğimizi gösteriyor.

But there's an even more inspiring journey

Ama daha da ilham verici bir yolculuk var

propelled by something more powerful than rocket engines,

roket motorundan daha güçlü bir şey ile çalıştırılan,

where the passengers aren't just three astronauts

yolcuları sadece üç astronottan değil,

but all of humanity.

bütün insanlıktan oluşan.

Let's talk about our collective journey into the future

Yapay zekâ ile geleceğe

with artificial intelligence.

ortak yolculuğumuzdan bahsedelim.

My friend Jaan Tallinn likes to point out that just as with rocketry,

Arkadaşım Jaan Tallinn, füze biliminde olduğu gibi

it's not enough to make our technology powerful.

teknolojiyi güçlendirmemizin yeterli olmadığını ifade ediyor.

We also have to figure out, if we're going to be really ambitious,

Aynı zamanda gerçekten azimli olup olmayacağımızı,

how to steer it

nasıl yönlendireceğimizi

and where we want to go with it.

ve hedefimizi çözmemiz lazım.

So let's talk about all three for artificial intelligence:

Yapay zekâ bakımından önemli üç konudan da bahsedelim:

the power, the steering and the destination.

güç, yönlendirme ve hedef.

Let's start with the power.

Güç ile başlayalım.

I define intelligence very inclusively --

Ben zekâyı çok kapsamlı ama basit bir şekilde,

simply as our ability to accomplish complex goals,

karışık hedeflerin üstesinden gelme yeteneğimiz olarak tanımlıyorum

because I want to include both biological and artificial intelligence.

çünkü hem biyolojik hem de yapay zekâyı dâhil etmek istiyorum.

And I want to avoid the silly carbon-chauvinism idea

Karbon şovenizminin 'sadece etten kemikten isen zeki olabilirsin'

that you can only be smart if you're made of meat.

şeklindeki saçma sapan fikrini çürütmek istiyorum.

It's really amazing how the power of AI has grown recently.

Son zamanlarda yapay zekânın gücü inanılmaz derecede arttı.

Just think about it.

Sadece bir düşünün.

Not long ago, robots couldn't walk.

Daha düne kadar robotlar yürüyemiyordu.

Now, they can do backflips.

Şimdi ise ters takla atabiliyorlar.

Not long ago,

Daha düne kadar

we didn't have self-driving cars.

sürücüsüz arabalarımız yoktu.

Now, we have self-flying rockets.

Şimdi ise pilotsuz roketlerimiz var.

Not long ago,

Daha düne kadar

AI couldn't do face recognition.

yapay zekânın yüz tanımlaması yoktu.

Now, AI can generate fake faces

Şimdi ise yapay zekâ sahte yüzler oluşturup

and simulate your face saying stuff that you never said.

yüzünü hiç söylemediğin şeyleri söylüyormuş gibi taklit edebiliyor.

Not long ago,

Daha düne kadar

AI couldn't beat us at the game of Go.

yapay zekâ, Go oyununda bizi yenemezdi.

Then, Google DeepMind's AlphaZero AI took 3,000 years of human Go games

Sonra Google DeepMind'ın AlphaZero yapay zekâsı 3000 yıllık Go oyunlarını

and Go wisdom,

ve Go bilgeliğini alıp

ignored it all and became the world's best player by just playing against itself.

görmezden geldi ve kendisine karşı oynayarak dünyanın en iyi oyuncusu oldu.

And the most impressive feat here wasn't that it crushed human gamers,

Burada en çarpıcı başarı oyuncuları yenmesi değil

but that it crushed human AI researchers

senelerini oyun oynama yazılımlarının geliştirilmesine adamış

who had spent decades handcrafting game-playing software.

yapay zekâ araştırmacılarını yenmesi.

And AlphaZero crushed human AI researchers not just in Go but even at chess,

Ve AlphaZero yapay zekâ araştırmacıları sadece Go'da değil

which we have been working on since 1950.

1950'den beri üzerinde çalıştığımız satrançta bile yendi.

So all this amazing recent progress in AI really begs the question:

Yapay zekâda son zamanlardaki inanılmaz ilerleme gerçekten şu soruyu ortaya atıyor

How far will it go?

Ne kadar ileriye gidecek?

I like to think about this question

Bu soruyu yer şekillerinin

in terms of this abstract landscape of tasks,

görevleri temsil ettiği soyut bir alan olarak düşünmenizi istiyorum;

where the elevation represents how hard it is for AI to do each task

rakım, her bir görevi insanlarla aynı seviyede yapmanın yapay zekâ için

at human level,

ne kadar zor olduğunu,

and the sea level represents what AI can do today.

deniz seviyesi ise yapay zekânın bugün yapabildiklerini gösteriyor.

The sea level is rising as AI improves,

Yapay zekâ geliştikçe deniz seviyesi yükseliyor

so there's a kind of global warming going on here in the task landscape.

yani bu görev alanında bir tür küresel ısınma gerçekleşiyor.

And the obvious takeaway is to avoid careers at the waterfront --

Buradaki ana fikir deniz kıyısındaki kariyerlerden kaçınmamız --

(Laughter)

(Kahkaha)

which will soon be automated and disrupted.

yakında otomatikleştirilip dağıtılacak.

But there's a much bigger question as well.

Ama ortada daha büyük bir soru var.

How high will the water end up rising?

Su daha ne kadar yükselecek?

Will it eventually rise to flood everything,

Sonunda her şeyi sular altında mı bırakacak,

matching human intelligence at all tasks.

insan zekâsıyla her görevde eşit bir seviyeye gelerek.

This is the definition of artificial general intelligence --

İşte bu genel yapay zekânın tanımı --

AGI,

GYZ, başlangıçtan bu yana

which has been the holy grail of AI research since its inception.

yapay zekâ araştırmalarının nihai ve ulaşılması neredeyse imkânsız hedefi.

By this definition, people who say,

Bu tanım ile

"Ah, there will always be jobs that humans can do better than machines,"

"Her zaman insanların makinelerden daha iyi yapabileceği işler olacak"

are simply saying that we'll never get AGI.

diyen insanlar, hiçbir zaman GYZ'ye ulaşamayacağımızı söylüyorlar.

Sure, we might still choose to have some human jobs

Tabii hâlâ beşeri bir iş seçebiliriz

or to give humans income and purpose with our jobs,

veya insanlar işlerimizle maaş alabilir ya da amaç edinebilirler

but AGI will in any case transform life as we know it

ama ne olursa olsun GYZ alışageldiğimiz hayatı değiştirecek

with humans no longer being the most intelligent.

ve artık insanlar en zeki olmayacak.

Now, if the water level does reach AGI,

Eğer GYZ deniz seviyesine ulaşırsa yapay zekânın ilerleme süreci

then further AI progress will be driven mainly not by humans but by AI,

ağırlıklı olarak insanlar tarafından değil yapay zekâ tarafından yönlendirilecek

which means that there's a possibility

ve bu demektir ki bir ihtimal

that further AI progress could be way faster

yapay zekâ yıllardır süregelen insana özgü araştırma ve geliştirme

than the typical human research and development timescale of years,

zaman ölçeğinden çok daha hızlı gelişebilir.

raising the controversial possibility of an intelligence explosion

Bununla birlikte tartışmalı zekâ patlaması ihtimali yükseliyor,

where recursively self-improving AI

kendini geliştiren yapay zekâ

rapidly leaves human intelligence far behind,

insan zekâsını hızla mazide bırakarak

creating what's known as superintelligence.

süper zekâ olarak bilinen şeyi yaratıyor.

Alright, reality check:

Tamam, gerçeğe dönelim:

Are we going to get AGI any time soon?

Yakın zamanda GYZ olacak mı?

Some famous AI researchers, like Rodney Brooks,

Bazı ünlü yapay zekâ araştırmacıları, Rodney Brooks gibi,

think it won't happen for hundreds of years.

bunun yüzlerce yıl daha gerçekleşmeyeceğini düşünüyor.

But others, like Google DeepMind founder Demis Hassabis,

Ama başkaları, Google DeepMind kurucusu Demis Hassabis gibi,

are more optimistic

daha olumlu bakıyorlar

and are working to try to make it happen much sooner.

ve daha erken olması için çalışıyorlar.

And recent surveys have shown that most AI researchers

En son yapılan anketlere göre yapay zekâ araştırmacılarının çoğunluğu

actually share Demis's optimism,

Demis'in iyimserliğini paylaşıyor,

expecting that we will get AGI within decades,

beklenti o ki, GYZ birkaç on yıl içerisinde ortaya çıkacak

so within the lifetime of many of us,

yani birçoğumuz hâlen hayattayken,

which begs the question -- and then what?

bu da akıllara şu soruyu getiriyor -- peki ya sonra?

What do we want the role of humans to be

İnsanın rolü ne olmalı,

if machines can do everything better and cheaper than us?

eğer makineler her şeyi bizden daha iyi ve daha ucuza yapabiliyorsa?

The way I see it, we face a choice.

Bence bir tercih yapmalıyız.

One option is to be complacent.

İlk seçenek, ilgisiz kalmak.

We can say, "Oh, let's just build machines that can do everything we can do

Diyebiliriz ki, "Bizim yapabildiklerimizi yapabilen makineler geliştirelim

and not worry about the consequences.

ve sonuçlarını düşünmeyelim.

Come on, if we build technology that makes all humans obsolete,

Hadi ama, teknoloji biz insanları işe yaramaz bir yığına dönüştürüyorsa

what could possibly go wrong?"

sorun bunun neresinde?

(Laughter)

(Kahkaha)

But I think that would be embarrassingly lame.

Ama bence bu utandırıcı bir şekilde saçma olur.

I think we should be more ambitious -- in the spirit of TED.

Bence daha hırslı olmalıyız -- TED'i örnek alarak.

Let's envision a truly inspiring high-tech future

Gerçekten ilham veren yüksek teknolojili bir gelecek hayal edip

and try to steer towards it.

ona doğru yönelmeyi deneyelim.

This brings us to the second part of our rocket metaphor: the steering.

Bu bizi roket metaforunun ikinci bölümüne getiriyor: yönlendirme.

We're making AI more powerful,

Biz yapay zekâyı daha güçlü yapıyoruz

but how can we steer towards a future

ama nasıl bir geleceğe doğru yönlendirelim ki

where AI helps humanity flourish rather than flounder?

YZ insanlığın ilerlemesine yardım etsin, bocalamasından ziyade?

To help with this,

Buna yardım etmek için

I cofounded the Future of Life Institute.

Yaşamın Geleceği Enstitüsünü kurduk,

küçük, kâr amacı olmayan, faydalı teknoloji kullanımını

It's a small nonprofit promoting beneficial technology use,

and our goal is simply for the future of life to exist

destekleyen... Amacımız sadece yaşamın geleceğinin var olması

and to be as inspiring as possible.

ve bunun mümkün olduğunca ilham verici olması.

You know, I love technology.

Ben teknolojiyi seviyorum biliyorsunuz.

Technology is why today is better than the Stone Age.

Bugünün taş devrinden daha iyi olması teknoloji sayesinde.

And I'm optimistic that we can create a really inspiring high-tech future ...

Gerçekten ilham verici yüksek teknolojili bir gelecek yaratabileceğimize inanıyorum,

if -- and this is a big if --

eğer -- ve bu büyük bir eğer --

if we win the wisdom race --

eğer akıl yarışını kazanırsak --

the race between the growing power of our technology

ki bu yarış, teknolojimizin büyüyen gücü

and the growing wisdom with which we manage it.

ve onu yöneten aklın gelişen bilgeliği arasında.

But this is going to require a change of strategy

Ama bunun için stratejinin değişmesi gerekiyor

because our old strategy has been learning from mistakes.

çünkü eski stratejimiz hatalardan ders çıkarıyor.

We invented fire,

Ateşi keşfettik,

screwed up a bunch of times --

birkaç kere çuvalladık --

invented the fire extinguisher.

yangın tüpünü icat ettik.

(Laughter)

(Kahkaha)

We invented the car, screwed up a bunch of times --

Arabayı icat ettik, birkaç kere çuvalladık --

trafik ışıklarını, emniyet kemerini ve hava yastığını icat ettik

invented the traffic light, the seat belt and the airbag,

but with more powerful technology like nuclear weapons and AGI,

ama daha güçlü teknolojiyle, nükleer silah ve GYZ gibi

learning from mistakes is a lousy strategy,

hatalardan öğrenmek kötü bir strateji,

don't you think?

öyle değil mi?

(Laughter)

(Kahkaha)

It's much better to be proactive rather than reactive;

Önetkin olmak tepkili olmaktan çok daha iyi;

plan ahead and get things right the first time

ileriye dönük planlayıp ilk seferde doğru yapmak...

because that might be the only time we'll get.

çünkü bu tek şansımız olabilir.

But it is funny because sometimes people tell me,

Komik bir durum çünkü bazen insanlar bana diyor ki

"Max, shhh, don't talk like that.

"Max, öyle deme.

That's Luddite scaremongering."

Bu korku tellallığı."

But it's not scaremongering.

Ama korku tellallığı değil bu.

It's what we at MIT call safety engineering.

MIT'de iş güvenliği mühendisliği olarak adlandırdığımız şey.

Think about it:

Düşünün:

before NASA launched the Apollo 11 mission,

NASA Apollo 11 misyonunu fırlatmadan önce,

they systematically thought through everything that could go wrong

insanları patlayıcı yakıt tanklarının üstüne koyup

when you put people on top of explosive fuel tanks

kimsenin yardım edemeyeceği bir yere fırlattığında

and launch them somewhere where no one could help them.

ters gidebilecek her şeyi sistematik olarak düşündüler.

And there was a lot that could go wrong.

Ve ters gidecek birçok şey vardı.

Was that scaremongering?

O korku tellallığı mıydı?

No.

Hayır.

That's was precisely the safety engineering

O tam olarak bu misyonun

that ensured the success of the mission,

başarısını sağlayan iş güvenliği

and that is precisely the strategy I think we should take with AGI.

ve bu tam olarak GYZ için kullanmamız gereken strateji.

Think through what can go wrong to make sure it goes right.

Doğru gitmesini sağlamak için yanlış gidebilecekleri düşün.

So in this spirit, we've organized conferences,

Bunun için en iyi, yapay zekâ araştırmacılarını

bringing together leading AI researchers and other thinkers

ve diğer düşünürleri bir araya getirip YZ'yi faydalı tutmak için ihtiyacımız olan

to discuss how to grow this wisdom we need to keep AI beneficial.

akıl nasıl büyür diye konuşmak için konferanslar düzenledik.

Our last conference was in Asilomar, California last year

En son konferansımız geçen sene Asilomar, Kaliforniya'daydı

and produced this list of 23 principles

ve orada 23 maddeden oluşan bir liste yapıldı,

şu ana dek binden fazla YZ araştırmacısı ve üst düzey endüstri liderleri

which have since been signed by over 1,000 AI researchers

and key industry leaders,

tarafından imzalandı

and I want to tell you about three of these principles.

ve size bu maddelerin üçünden bahsetmek istiyorum.

One is that we should avoid an arms race and lethal autonomous weapons.

Bir, cephane yarışı ve ölümcül özerk silahları bırakmalıyız.

The idea here is that any science can be used for new ways of helping people

Buradaki fikir, her bilim insanlara yardım etmek ya da zarar vermek için

or new ways of harming people.

kullanılabilir.

For example, biology and chemistry are much more likely to be used

Mesela biyoloji ve kimya insanları öldürmek için yeni yollar bulmak yerine

for new medicines or new cures than for new ways of killing people,

daha çok yeni ilaçlar ve yeni tedaviler için kullanılır,

because biologists and chemists pushed hard --

çünkü biyologlar ve kimyagerler

and successfully --

biyolojik ve kimyasal silahların yasaklanması için çok direndiler

for bans on biological and chemical weapons.

ve başarılı oldular.

And in the same spirit,

Ve aynı düşünceyle

most AI researchers want to stigmatize and ban lethal autonomous weapons.

çoğu YZ araştırmacısı ölümcül özerk silahları kınayıp yasaklamak istiyor.

Another Asilomar AI principle

Başka bir Asilomar yapay zekâ prensibi ise

is that we should mitigate AI-fueled income inequality.

yapay zekâ bölümündeki maaş ayrımcılığını azaltmak.

I think that if we can grow the economic pie dramatically with AI

Bence biz milli gelir pastasını yapay zekâ ile önemli ölçüde büyütebiliyorsak

and we still can't figure out how to divide this pie

ve herkesin durumunun daha iyi olması için

hâlâ bu pastayı nasıl bölüşeceğimizi çözemiyorsak

so that everyone is better off,

then shame on us.

bize yazıklar olsun.

(Applause)

(Alkış)

Alright, now raise your hand if your computer has ever crashed.

Peki, şimdi elinizi kaldırın eğer bilgisayarınız bir kere bile çöktüyse.

(Laughter)

(Kahkaha)

Wow, that's a lot of hands.

Vay be, baya bir kişi.

Well, then you'll appreciate this principle

O zaman yapay zekâ güvenlik araştırmalarına

that we should invest much more in AI safety research,

daha çok para yatırmamız hoşunuza gider

because as we put AI in charge of even more decisions and infrastructure,

çünkü yapay zekâya daha çok karar ve altyapı sorumluluğu verdikçe

we need to figure out how to transform today's buggy and hackable computers

bugünün sorunlu ve hacklenebilen bilgisayarları nasıl gerçekten güvenilir

into robust AI systems that we can really trust,

ve sağlam yapay zekâ sistemlerine dönüşür çözmemiz lazım

because otherwise,

çünkü aksi hâlde

all this awesome new technology can malfunction and harm us,

bütün bu muhteşem yeni teknoloji arızalı çalışıp bize zarar verir

or get hacked and be turned against us.

veya hacklenip bize karşı kullanılabilir.

And this AI safety work has to include work on AI value alignment,

Ve bu yapay zekâ güvenlik çalışmasının, YZ değer sırası çalışmasını içermesi lazım

because the real threat from AGI isn't malice,

çünkü GYZ'den gelen gerçek tehlike saçma Hollywood filmlerindeki

like in silly Hollywood movies,

kötülük değil

but competence --

aksine beceri --

AGI accomplishing goals that just aren't aligned with ours.

GYZ'nin bizim hedeflerimizle paralel olmayan hedeflere ulaşması...

For example, when we humans drove the West African black rhino extinct,

Mesela biz insanlar Batı Afrika gergedanının neslini tükettiğimizde

we didn't do it because we were a bunch of evil rhinoceros haters, did we?

bunu, onlardan nefret ettiğimiz için yapmadık, değil mi?

We did it because we were smarter than them

Onlardan daha akıllı olduğumuz için yaptık

and our goals weren't aligned with theirs.

ve bizim hedeflerimiz onlarınkine uymadı.

But AGI is by definition smarter than us,

Ama GYZ doğası gereği bizden daha akıllı

so to make sure that we don't put ourselves in the position of those rhinos

yani GYZ'yi yaratırken o gergedanlarla aynı duruma

if we create AGI,

düşmemek için

we need to figure out how to make machines understand our goals,

makinelerin bizim hedeflerimizi anlamasını, benimsemesini ve sürdürmesini

adopt our goals and retain our goals.

nasıl sağlayabileceğimizi çözmeliyiz.

And whose goals should these be, anyway?

Peki kimin hedefleri olmalı?

Which goals should they be?

Hangi hedefler olmalı?

This brings us to the third part of our rocket metaphor: the destination.

Bu bizi roket metaforumuzun üçüncü bölümüne getiriyor: istikâmet.

We're making AI more powerful,

yapay zekâyı daha güçlü yapıp

nasıl yönlendireceğimizi çözmeye çalışıyoruz

trying to figure out how to steer it,

but where do we want to go with it?

ama bununla nereye varmak istiyoruz?

This is the elephant in the room that almost nobody talks about --

Bu, burada TED'de bile konuşulmayan

not even here at TED --

görmezden gelinen aşikâr gerçek

because we're so fixated on short-term AI challenges.

çünkü biz kısa süreli zorlu yapay zekâ işlerine şartlanmışız.

Look, our species is trying to build AGI,

Bizim cinsimiz GYZ'yi

motivated by curiosity and economics,

meraktan ve ekonomiden motive olarak geliştirmeye çalışıyor

but what sort of future society are we hoping for if we succeed?

ama gelecekte ne tür bir toplum başarmayı umuyoruz?

We did an opinion poll on this recently,

Geçenlerde bununla ilgili bir görüş anketi yaptık

and I was struck to see

ve çoğu insanın aslında

that most people actually want us to build superintelligence:

süper zekâ, bizden her yönden çok daha akıllı olan yapay zekâ

AI that's vastly smarter than us in all ways.

geliştirmemizi istediklerini görmeme şaşırdım.

What there was the greatest agreement on was that we should be ambitious

Hemfikir olduğumuz konu azimli olmamız

and help life spread into the cosmos,

ve yaşamın uzaya dağılmasına yardım etmemiz

but there was much less agreement about who or what should be in charge.

ama kimin veya neyin sorumlu olacağı konusunda pek aynı fikirde olamadık.

And I was actually quite amused

Ve aslında oldukça eğlendim

to see that there's some some people who want it to be just machines.

bazı insanların sadece makinelerin sorumlu olmasını istediklerini görünce.

(Laughter)

(Kahkaha)

And there was total disagreement about what the role of humans should be,

İnsanın rolü hakkında en basit seviyede bile

even at the most basic level,

büyük fikir ayrımı vardı.

so let's take a closer look at possible futures

Şimdi yönelebileceğimiz muhtemel geleceklere

that we might choose to steer toward, alright?

daha yakından bakalım.

So don't get me wrong here.

Beni yanlış anlamayın.

I'm not talking about space travel,

Uzay yolculuğundan değil,

merely about humanity's metaphorical journey into the future.

sadece insanlığın geleceğe mecazi yolculuğundan bahsediyorum.

So one option that some of my AI colleagues like

YZ iş arkadaşlarımın beğendiği bir seçenek, esir edilmiş bir tanrı gibi

is to build superintelligence and keep it under human control,

internet bağlantısı kesilmiş ve onu kontrol eden için

like an enslaved god,

akıl almaz teknoloji

disconnected from the internet

ve zenginlik getiren

and used to create unimaginable technology and wealth

süper zekâ geliştirip onu insan denetiminin

for whoever controls it.

altında tutmak.

But Lord Acton warned us

Ama Acton efendi bizi uyardı;

that power corrupts, and absolute power corrupts absolutely,

güç bozar ve sınırsız güç mutlaka bozar.

so you might worry that maybe we humans just aren't smart enough,

O yüzden insanların yeteri kadar zeki, daha doğrusu bilgili olmadıklarından

or wise enough rather,

bu kadar güçle başa çıkmak için,

to handle this much power.

endişe edebilirsiniz.

Also, aside from any moral qualms you might have

Üstün akılları esir almakla ilgili

about enslaving superior minds,

her ahlaki şüphenin yanında

you might worry that maybe the superintelligence could outsmart us,

süper zekânın belki bizi zekâsıyla yenip zincirlerini kırıp

break out and take over.

yönetimi ele geçirebileceğinden endişe edebilirsiniz.

But I also have colleagues who are fine with AI taking over

Ama yapay zekânın yönetimi ele geçirmesine ve insanın neslinin tükenmesine

and even causing human extinction,

kafa yormayan iş arkadaşlarım var,

as long as we feel the the AIs are our worthy descendants,

yeter ki yapay zekânın gelecekteki kıymetli kuşağımız olduğunu hissedelim,

like our children.

çocuklarımız gibi.

But how would we know that the AIs have adopted our best values

Ama nasıl bilebiliriz ki, yapay zekâların en iyi değerlerimizi benimseyip

and aren't just unconscious zombies tricking us into anthropomorphizing them?

sadece bilinçsiz zombiler olup bizi onları insanlaştırmak için kandırmadıklarını?

Also, shouldn't those people who don't want human extinction

İnsan neslinin tükenmesini istemeyen insanların da

have a say in the matter, too?

bunda söz hakkı olması gerekmiyor mu?

Now, if you didn't like either of those two high-tech options,

Bu iki yüksek teknoloji opsiyonunu beğenmediyseniz

it's important to remember that low-tech is suicide

uzay açısından düşük teknolojinin intihar olduğunu

from a cosmic perspective,

hatırlamak önemli,

because if we don't go far beyond today's technology,

çünkü bugünkü teknolojinin çok ilerisine gitmezsek

the question isn't whether humanity is going to go extinct,

soru insanlığın tükeneceği değil

merely whether we're going to get taken out

ancak daha iyi teknolojinin çözebileceği

by the next killer asteroid, supervolcano

bir sonraki katil asteroitin,

or some other problem that better technology could have solved.

yanardağın veya başka sorunun bizi yok etmesi.

So, how about having our cake and eating it ...

Peki, değerlerimiz uyumlu olduğu için bize iyi davranan

with AGI that's not enslaved

köleleştirilmemiş genel yapay zekâ ile

but treats us well because its values are aligned with ours?

oturup pasta yemeye ne dersiniz?

This is the gist of what Eliezer Yudkowsky has called "friendly AI,"

Bu Eliezer Yudkowsky'nin "samimi yapay zekâ ''dediği ana fikir

and if we can do this, it could be awesome.

ve bunu yapabilirsek mükemmel olur.

It could not only eliminate negative experiences like disease, poverty,

Sadece hastalık, fakirlik, suç ve başka işkenceler gibi kötü tecrübeleri

crime and other suffering,

yok etmekle kalmaz,

but it could also give us the freedom to choose

aynı zamanda müthiş çeşitlilikte pozitif tecrübeleri

from a fantastic new diversity of positive experiences --

seçme özgürlüğünü verir --

basically making us the masters of our own destiny.

bizi kendi kaderimizin efendisi yaparak.

So in summary,

Özet olarak

our situation with technology is complicated,

teknolojiyle olan durumumuz karışık

but the big picture is rather simple.

ama büyük resim oldukça basit.

Most AI researchers expect AGI within decades,

Çoğu yapay zekâ araştırmacısı GYZ'yi birkaç on yıl içinde bekliyor

and if we just bumble into this unprepared,

ve biz buna hazırlıksız girişirsek

it will probably be the biggest mistake in human history --

bu muhtemelen insanlık tarihinin en büyük hatası olur --

let's face it.

gerçekçi olmak gerekirse.

It could enable brutal, global dictatorship

Eşi görülmemiş eşitsizlikle acımasız diktatörlük,

with unprecedented inequality, surveillance and suffering,

gözetim ve işkence, hatta belki insan neslinin tükenmesine

and maybe even human extinction.

yol açabilir.

But if we steer carefully,

Ama dikkatlice yönelirsek

we could end up in a fantastic future where everybody's better off:

herkesin çok daha iyi durumda olduğu müthiş bir geleceğe varabiliriz:

the poor are richer, the rich are richer,

fakir daha zengin, zengin daha zengin,

everybody is healthy and free to live out their dreams.

herkes sağlıklı ve hayallerini gerçekleştirmekte özgür.

Now, hang on.

Şimdi durun.

Do you folks want the future that's politically right or left?

Sizler sağcı mı solcu mu bir gelecek istiyorsunuz?

Do you want the pious society with strict moral rules,

Sıkı ahlaki kuralları olan muhafazakâr mı

or do you an hedonistic free-for-all,

ya da 7/24 Burning Man gibi hedonistik

more like Burning Man 24/7?

herkese bedava toplum mu istiyorsunuz?

Do you want beautiful beaches, forests and lakes,

Güzel plajlar, ormanlar ve göller mi istersiniz

or would you prefer to rearrange some of those atoms with the computers,

yoksa sanal tecrübe sağlayarak bu atomların birkaçını

enabling virtual experiences?

bilgisayarla düzeltmek mi?

With friendly AI, we could simply build all of these societies

Samimi yapay zekâ ile kolaylıkla bu toplumları geliştirip

and give people the freedom to choose which one they want to live in

insanlara yaşamak istedikleri yeri seçme özgürlüğünü verebiliriz

because we would no longer be limited by our intelligence,

çünkü artık zekâmızla değil, sadece fizik kurallarıyla

merely by the laws of physics.

sınırlanacağız.

So the resources and space for this would be astronomical --

Bunun için kaynaklar ve mekân

literally.

aşırı büyük olur.

So here's our choice.

Seçeneklerimiz şunlar;

We can either be complacent about our future,

ya geleceğimizle ilgili kayıtsız kalırız,

taking as an article of blind faith

her yeni teknolojinin kârlı olacağına körü körüne inanıp

that any new technology is guaranteed to be beneficial,

bunu mantra olarak

and just repeat that to ourselves as a mantra over and over and over again

dümensiz bir gemi gibi kendi eskimemize doğru yönelirken,

as we drift like a rudderless ship towards our own obsolescence.

kendimize sürekli tekrarlayabiliriz.

Or we can be ambitious --

Ya da hırslı olabiliriz --

thinking hard about how to steer our technology

teknolojimizi nasıl yönlendireceğimizi

and where we want to go with it

ve nereye varmak istediğimizi iyice düşünerek

to create the age of amazement.

muhteşem çağı geliştirmek için.

We're all here to celebrate the age of amazement,

Hepimiz muhteşem çağı kutlamak için buradayız

and I feel that its essence should lie in becoming not overpowered

ve hissediyorum ki özünde ona boyun eğmek değil

but empowered by our technology.

teknolojimizle güçlenmek var.

Thank you.

Teşekkürler.

(Applause)

(Alkış)