Can we build AI without losing control over it? | Sam Harris

Çeviri: pinar sadi Gözden geçirme: Yunus ASIK

I'm going to talk about a failure of intuition

Birçoğumuzun muzdarip olduğu

that many of us suffer from.

bir önsezi yetersizliğinden bahsedeceğim.

It's really a failure to detect a certain kind of danger.

Belirli tür bir tehlikeyi sezmek gerçekten bir yetersizliktir.

I'm going to describe a scenario

Bir senaryo anlatacağım,

that I think is both terrifying

korkunç olduğunu düşündüğüm

and likely to occur,

ve gerçekleşmesi muhtemel olan

and that's not a good combination,

ve görünen o ki

as it turns out.

iyi bir kombinasyon da değil.

And yet rather than be scared, most of you will feel

Yine de korkmak yerine çoğunuz, bahsettiklerimin

that what I'm talking about is kind of cool.

havalı olduğunu düşüneceksiniz.

I'm going to describe how the gains we make

Yapay zekâdaki kazanımlarımızın

in artificial intelligence

nihayetinde bizi nasıl

could ultimately destroy us.

mahvedeceğinden bahsedeceğim.

And in fact, I think it's very difficult to see how they won't destroy us

Hatta bence, bizi mahvetmeyeceğini veya kendimizi mahvetmeyi bize

or inspire us to destroy ourselves.

aşılamayacağını düşünmek çok güç.

And yet if you're anything like me,

Fakat sizler de benim gibiyseniz,

you'll find that it's fun to think about these things.

bunları düşünmenin zevkli olacağını keşfedeceksiniz.

And that response is part of the problem.

Ve bu yanıtta sorunun bir parçası.

OK? That response should worry you.

Bu yanıt sizi endişelendirmeli.

And if I were to convince you in this talk

Bu konuşmada sizi, olası bir küresel bir kıtlığa,

that we were likely to suffer a global famine,

iklim değişikliği veya başka bir afetten dolayı,

either because of climate change or some other catastrophe,

torunlarınız veya onların torunlarının muhtemelen

and that your grandchildren, or their grandchildren,

bu şekilde yaşama durumuna

are very likely to live like this,

yakın olduğuna ikna ediyor olsaydım,

you wouldn't think,

"İlginç.

"Interesting.

Bu TED konuşmasını beğendim."

I like this TED Talk."

diye düşünmezdiniz.

Famine isn't fun.

Kıtlık eğlenceli değildir.

Death by science fiction, on the other hand, is fun,

Diğer taraftan bilim kurgudaki ölüm ise eğlencelidir

ve bu noktada beni yapay zekâdaki

and one of the things that worries me most about the development of AI at this point

en çok endişelendiren gelişmelerden biri,

is that we seem unable to marshal an appropriate emotional response

önümüzde uzanan tehlikelere, uygun duyarlı bir yanıtı

to the dangers that lie ahead.

sıralayamıyor gibi görünüyoruz.

I am unable to marshal this response, and I'm giving this talk.

Bu yanıtı sıralayamıyorum ve bu konuşmayı yapıyorum.

It's as though we stand before two doors.

İki kapının önünde duruyoruz gibi.

Behind door number one,

1 numaralı kapının ardında

we stop making progress in building intelligent machines.

zeki makine üretmedeki gelişmeleri durduruyoruz.

Our computer hardware and software just stops getting better for some reason.

Her nedense bilgisayarlarımızın donanım

ve yazılımı daha iyi olmayı durduruyor.

Now take a moment to consider why this might happen.

Şimdi bir dakikanızı ayırın ve bunun

neden olabileceğini değerlendirin.

I mean, given how valuable intelligence and automation are,

Yani, zekâ ve otomasyonun ne kadar

değerli olduğu göz önüne alındığında,

we will continue to improve our technology if we are at all able to.

yapabilirsek, teknolojimizi geliştirmeye devam edeceğiz.

What could stop us from doing this?

Bunu yapmamızı ne engelleyebilir?

A full-scale nuclear war?

Büyük çaplı bir nükleer savaş mı?

A global pandemic?

Küresel bir salgın mı?

An asteroid impact?

Asteroit çarpması mı?

Justin Bieber becoming president of the United States?

Justin Bieber'in Amerika Başkanı olması mı?

(Laughter)

(Kahkahalar)

The point is, something would have to destroy civilization as we know it.

Mesele şu ki, bildiğimiz üzere

bir şeyler medeniyeti yok etmeli.

You have to imagine how bad it would have to be

Ne kadar kötü olabileceğini hayal etmelisiniz,

to prevent us from making improvements in our technology

teknolojimizde iyileştirme yapmamızı engellemenin,

permanently,

daimi olarak,

generation after generation.

nesilden nesile.

Almost by definition, this is the worst thing

Neredeyse, doğası gereği

that's ever happened in human history.

bu, insan tarihinde gerçekleşen en kötü şey.

So the only alternative,

Bu yüzden tek alternatif,

and this is what lies behind door number two,

ikinci kapının ardındaki,

is that we continue to improve our intelligent machines

akıllı makinelerimizi yıllar geçtikçe

year after year after year.

geliştirmeye devam etmemiz.

At a certain point, we will build machines that are smarter than we are,

Bir noktada da bizden daha akıllı makineler inşa edeceğiz

and once we have machines that are smarter than we are,

ve bizden akıllı makinelerimiz olduğunda onlar,

they will begin to improve themselves.

kendilerini geliştirmeye başlayacaklar.

And then we risk what the mathematician IJ Good called

Ve sonra, matematikçi IJ Good'un "zekâ patlaması" olarak

an "intelligence explosion,"

adlandırdığı bu süreçle,

that the process could get away from us.

bizden kurtulabilecekler.

Now, this is often caricatured, as I have here,

Sıklıkla karikatürize edilir, benim de burada yaptığım gibi,

as a fear that armies of malicious robots

korku kötücül robot ordularının

will attack us.

bize saldırmaları.

But that isn't the most likely scenario.

Ama bu çok da olası bir senaryo değil.

It's not that our machines will become spontaneously malevolent.

Kendiliğinden makinelerimiz kötücül olacak değil.

The concern is really that we will build machines

Asıl kaygılandıran ise; bizden o kadar çok daha yetkin

that are so much more competent than we are

makineler üreteceğiz ki bizim ve onların

that the slightest divergence between their goals and our own

amaçları arasındaki en küçük bir fark, bizi

could destroy us.

ortadan kaldırabilecek.

Just think about how we relate to ants.

Nasıl da karıncalar gibi olacağımızı bir düşünün.

We don't hate them.

Onlardan nefret etmiyoruz.

We don't go out of our way to harm them.

Onlara zarar vermek için yolumuzu değiştirmiyoruz.

In fact, sometimes we take pains not to harm them.

Üstelik bazen onlara zarar vermemeye çalışıyoruz.

We step over them on the sidewalk.

Kaldırımlarda üzerlerinden geçiyoruz.

But whenever their presence

Ancak ne zaman onların varlıkları

seriously conflicts with one of our goals,

bizim hedeflerimizle çakışsa,

let's say when constructing a building like this one,

diyelim ki bu gibi bir bina inşa ederken,

we annihilate them without a qualm.

tereddütsüz imha edebiliyoruz onları.

The concern is that we will one day build machines

Endişe uyandıran ise bir gün, bilinçli olsun veya olmasın

that, whether they're conscious or not,

bize de benzer bir umursamazlıkla muamele edebilecek

could treat us with similar disregard.

makineler üreteceğiz.

Now, I suspect this seems far-fetched to many of you.

Zannederim ki bir çoğunuza ihtimal dışı görünüyor bu durum.

I bet there are those of you who doubt that superintelligent AI is possible,

Eminim ki bazılarınız süper zeki

Yapay Zekâ'nın kaçınılmaz olması şöyle dursun,

much less inevitable.

mümkünlüğünden dahi şüphe duyuyor.

But then you must find something wrong with one of the following assumptions.

Ancak sonra ileriki varsayımlardan

bazılarında bir tuhaflık bulmalısınız.

And there are only three of them.

Ve sadece üç tanesi var.

Intelligence is a matter of information processing in physical systems.

Zekâ, fiziksel sistemlerde bilgi işleme ile ilgilidir.

Actually, this is a little bit more than an assumption.

Aslında bu bir varsayımdan biraz fazla.

We have already built narrow intelligence into our machines,

Zaten makinelerimizde kısıtlı zekâyı kurduk ve

and many of these machines perform

bu makinelerin çoğu çoktan

at a level of superhuman intelligence already.

üstün insan seviyesinde bir performansta.

And we know that mere matter

Ve biliyoruz ki bu mutlak mesele,

can give rise to what is called "general intelligence,"

"genel zekâ" denilen birçok alanda esneklikle

an ability to think flexibly across multiple domains,

düşünebilme yeteneğine sebep olabilir,

because our brains have managed it. Right?

çünkü beyinlerimiz bunu başardı değil mi?

I mean, there's just atoms in here,

Yani sadece atomlar var burada

and as long as we continue to build systems of atoms

ve biz gitgide daha zeki davranışlar sergileyen atomlar

that display more and more intelligent behavior,

sistemi kurmaya devam ettikçe,

we will eventually, unless we are interrupted,

nihayetinde makinelerimize

we will eventually build general intelligence

genel zekâyı kurabileceğiz,

into our machines.

engellenmedikçe.

It's crucial to realize that the rate of progress doesn't matter,

İlerlemenin seviyesinin önemli olmadığının farkına varmak çok mühim,

because any progress is enough to get us into the end zone.

çünkü herhangi bir gelişme bizi sayı çizgisine getirmeye yetebilir.

We don't need Moore's law to continue. We don't need exponential progress.

Devam etmek için Moore kanununa gerek yok.

Üstel bir gelişime ihtiyacımız yok.

We just need to keep going.

Sadece devam etmeliyiz.

The second assumption is that we will keep going.

İkinci varsayım ise devam etmemiz.

We will continue to improve our intelligent machines.

Akıllı makinelerimizi geliştirmeye devam edeceğiz.

And given the value of intelligence --

Ve zekânın değeri göz önüne alınırsa,

I mean, intelligence is either the source of everything we value

yani zekâ ya bütün değer verdiklerimizin kaynağıdır ya da

or we need it to safeguard everything we value.

değer verdiğimiz her şeyi

korumak için ona ihtiyacımız vardır.

It is our most valuable resource.

Bizim en değerli kaynağımızdır.

So we want to do this.

O yüzden bunu yapmak isteriz.

We have problems that we desperately need to solve.

Umutsuzca çözmek istediğimiz problemlerimiz vardır.

We want to cure diseases like Alzheimer's and cancer.

Alzheimer ve kanser gibi hastalıkları tedavi etmek isteriz.

We want to understand economic systems. We want to improve our climate science.

Ekonomi sistemlerini anlamak isteriz.

İklim bilimini ilerletmek isteriz.

So we will do this, if we can.

Yani yapabilirsek bunu yapacağız.

The train is already out of the station, and there's no brake to pull.

Tren çoktan istasyondan çıktı ve basılabilecek bir fren yok.

Finally, we don't stand on a peak of intelligence,

Velhasıl, zekânın zirvesinde duramayız

or anywhere near it, likely.

ya da yakınında herhangi bir yerde.

And this really is the crucial insight.

Ve bu gerçekten mühim bir öngörüdür.

This is what makes our situation so precarious,

Durumumuzu istikrarsız yapan ve

and this is what makes our intuitions about risk so unreliable.

risk hakkındaki sezgilerimizi güvenilmez kılan bu durum.

Now, just consider the smartest person who has ever lived.

Şimdi yaşamış en zeki insanı düşünün.

On almost everyone's shortlist here is John von Neumann.

Buradaki hemen hemen herkesin son listesinde John von Neumann vardır.

I mean, the impression that von Neumann made on the people around him,

Yani, John von Neumann' nın çevresindeki insanlardaki etkisi,

and this included the greatest mathematicians and physicists of his time,

zamanının en iyi matematikçileri ve fizikçileri de dâhil olmak üzere,

is fairly well-documented.

oldukça detaylı olarak hazırlanmış.

If only half the stories about him are half true,

Hakkında anlatılanların yarısı yarı gerçek ise

there's no question

şimdiye dek yaşamış

he's one of the smartest people who has ever lived.

en zeki insan olduğuna şüphe yok.

So consider the spectrum of intelligence.

Öyleyse zekâ spektrumunu bir düşünün.

Here we have John von Neumann.

Bir tarafta John von Neumann

And then we have you and me.

ve diğer tarafta siz ve ben.

And then we have a chicken.

Ve bir de tavuk.

(Laughter)

(Gülüşmeler)

Sorry, a chicken.

Pardon, bir tavuk.

(Laughter)

(Gülüşmeler)

There's no reason for me to make this talk more depressing than it needs to be.

Bu konuşmayı gereğinden daha depresif yapmama gerek yok.

(Laughter)

(Gülüşmeler)

It seems overwhelmingly likely, however, that the spectrum of intelligence

Ezici bir üstünlükle olası görünüyor ancak zekâ spektrumu

extends much further than we currently conceive,

şu anda tasarlayabileceğimizden daha da ileriye uzanıyor

and if we build machines that are more intelligent than we are,

ve kendimizden daha zeki makineler üretirsek

they will very likely explore this spectrum

büyük ihtimalle bu spektrumu hayal edemeyeceğimiz

in ways that we can't imagine,

ölçüde keşfedecekler

and exceed us in ways that we can't imagine.

ve o ölçüde bizi aşacaklar.

And it's important to recognize that this is true by virtue of speed alone.

Ve hızın fazileti gereği bunun doğru olduğunu anlamak önemli.

Right? So imagine if we just built a superintelligent AI

Değil mi? Stanford veya MIT'deki ortalama araştırmacı takımınızdan

that was no smarter than your average team of researchers

daha zeki olmayan süper zeki Yapay Zekâ

at Stanford or MIT.

geliştirdiğimizi düşünün.

Well, electronic circuits function about a million times faster

Elektronik devreler, biyokimyasallardan milyon kez

than biochemical ones,

daha hızlı çalışır, yani

so this machine should think about a million times faster

bu makine onu yapan beyinlerden milyon kez daha

than the minds that built it.

hızlı çalışmalıdır.

So you set it running for a week,

Bir haftalığına çalışmaya ayarlasanız

and it will perform 20,000 years of human-level intellectual work,

ve insan seviyesinde 20.000 yıl sürecek zihinsel

week after week after week.

işleri yapacak, haftalarca.

How could we even understand, much less constrain,

Engellemek şöyle dursun, bu tarz bir zihinsel

a mind making this sort of progress?

ilerlemeyi nasıl durdurabiliriz ki?

The other thing that's worrying, frankly,

Endişe uyandıran diğer bir şey ise,

is that, imagine the best case scenario.

açıkcası, olabilecek en iyi senaryoyu düşünün.

So imagine we hit upon a design of superintelligent AI

Hiçbir kaygı barındırmayan bir süper zeki Yapay Zekâ

that has no safety concerns.

tasarımı keşfettiğimizi düşünün.

We have the perfect design the first time around.

İlk seferde en iyi tasarımı bulduk.

It's as though we've been handed an oracle

Tam da istenilen şekilde davranan bir

that behaves exactly as intended.

kâhin bize verilmiş gibi.

Well, this machine would be the perfect labor-saving device.

Bu makine müthiş bir işten tasarruf ettiren bir aygıt olurdu.

It can design the machine that can build the machine

Güneş ışığıyla çalışan, herhangi bir fiziksel işi yapabilen,

that can do any physical work,

aşağı yukarı ham maddeleri

powered by sunlight,

maliyetinde olan makineyi

more or less for the cost of raw materials.

yapabilecek makineyi tasarlayabilir.

So we're talking about the end of human drudgery.

Yani insanların yaptığı angarya işlerin sonundan bahsediyoruz.

We're also talking about the end of most intellectual work.

Aynı zamanda çoğu zihinsel işlerin de sonundan bahsediyoruz.

So what would apes like ourselves do in this circumstance?

Böyle bir durumda biz maymunlar ne yapardık?

Well, we'd be free to play Frisbee and give each other massages.

Birbirimize masaj yapabilir ve frizbi oynayabiliriz.

Add some LSD and some questionable wardrobe choices,

Biraz LSD ve tartışmaya açık giysi seçimlerini de ekleyin

and the whole world could be like Burning Man.

ve bütün dünya Burning Man (festival) gibi olabilir.

(Laughter)

(Gülüşmeler)

Now, that might sound pretty good,

Şimdi kulağa hoş gelebilir ama

but ask yourself what would happen

kendinize şu anki ekonomik ve siyasi düzenimizde

under our current economic and political order?

ne olabileceğini sorun.

It seems likely that we would witness

Daha önce görmediğimiz düzeyde

a level of wealth inequality and unemployment

eşitsiz bir zenginlik ve işsizliğe

that we have never seen before.

tanık olurduk gibi görünüyor.

Absent a willingness to immediately put this new wealth

Bu yeni zenginliği derhal tüm insanlığın hizmetine

to the service of all humanity,

sunmadaki isteksizlikle,

a few trillionaires could grace the covers of our business magazines

dünyanın geri kalanı açlıktan ölürken birkaç trilyoner

while the rest of the world would be free to starve.

ekonomi dergilerimizin kapaklarını süslüyor olabilir.

And what would the Russians or the Chinese do

Peki ya Ruslar ya da Çinliler, Silikon Vadisi'ndeki

if they heard that some company in Silicon Valley

bazı şirketlerin üstün zeki Yapay Zekâ'yı dağıtmak

was about to deploy a superintelligent AI?

üzere olduğunu duysa ne yaparlardı?

This machine would be capable of waging war,

Karasal ya da siber, bu makine

whether terrestrial or cyber,

tahmin edilemez bir güçle savaş

with unprecedented power.

çıkarabilecek potansiyelde olurdu.

This is a winner-take-all scenario.

Bu kazananın her şeyi aldığı bir senaryo.

To be six months ahead of the competition here

Buradaki rekabetten 6 ay ilerde olmak

is to be 500,000 years ahead,

minimum 500.000 yıl

at a minimum.

ileride olmaktır.

So it seems that even mere rumors of this kind of breakthrough

Demek ki bu tür bir atılımın sadece söylentisi bile

could cause our species to go berserk.

türümüzün çıldırmasına yol açabiliyor.

Now, one of the most frightening things,

Şimdi en korkutucu şeylerden bir tanesi

in my view, at this moment,

bana göre, şu anda,

are the kinds of things that AI researchers say

Yapay Zekâ araştırmacılarının güven verici olmak istediklerinde

when they want to be reassuring.

söyledikleri şeyler.

Ve en sık bize endişe etmememiz

And the most common reason we're told not to worry is time.

için söylenen neden ise zaman.

This is all a long way off, don't you know.

Çok çok uzakta, haberin yok mu?

This is probably 50 or 100 years away.

Muhtemelen 50 ya da 100 yıl kadar uzakta.

One researcher has said,

Bir araştırmacı dedi ki;

"Yapay Zekâ güvenliği için endişelenmek

"Worrying about AI safety

is like worrying about overpopulation on Mars."

Mars'ta aşırı nüfus artışına endişelenmek gibi."

This is the Silicon Valley version

Bu Silikon Vadisi'nin

of "don't worry your pretty little head about it."

"Sıkmayın tatlı canınızı" versiyonu.

(Laughter)

(Gülüşmeler)

No one seems to notice

Zamana referanslamanın

that referencing the time horizon

tamamen yersiz bir deyim

is a total non sequitur.

olduğunu kimse fark etmiyor.

If intelligence is just a matter of information processing,

Zekâ eğer bilgi işlemeden ibaretse

and we continue to improve our machines,

ve biz makinelerimizi geliştirmeye devam edersek

we will produce some form of superintelligence.

bir tür süper zekâ üreteceğiz.

And we have no idea how long it will take us

Ve güvenli bir biçimde yapmak için gerekli şartları yaratmanın

to create the conditions to do that safely.

ne kadar süreceği hakkında hiçbir fikrimiz yok.

Let me say that again.

Bir daha söyleyeyim.

We have no idea how long it will take us

Güvenli bir biçimde yapmak için gerekli şartları yaratmanın

to create the conditions to do that safely.

ne kadar süreceği hakkında hiçbir fikrimiz yok.

And if you haven't noticed, 50 years is not what it used to be.

Ve eğer fark etmediyseniz, 50 yıl eskisi gibi değil artık.

This is 50 years in months.

Bu ay olarak 50 yıl.

This is how long we've had the iPhone.

Bu kadar zamandır iPhone var.

This is how long "The Simpsons" has been on television.

Bu kadar zamandır "The Simpsons" (Simpsonlar) televizyonda.

Fifty years is not that much time

50 yıl, türümüzün karşılaşabileceği

to meet one of the greatest challenges our species will ever face.

en büyük zorluklar için fazla bir zaman değil.

Once again, we seem to be failing to have an appropriate emotional response

Bir defa daha uygun duygusal karşılık vermede başarısız gibiyiz,

to what we have every reason to believe is coming.

yaklaştığına inanmamız için tüm gerekçelere sahipken.

The computer scientist Stuart Russell has a nice analogy here.

Bilgisayar bilimcisi Stuart Russell'ın güzel bir benzetimi var.

He said, imagine that we received a message from an alien civilization,

Diyor ki; uzaylı bir medeniyetten bir mektup aldığımızı düşünün,

which read:

şöyle diyor:

"People of Earth,

"Dünya Halkı,

we will arrive on your planet in 50 years.

50 yıl içinde gezegeninize ulaşacağız.

Get ready."

Hazırlanın."

And now we're just counting down the months until the mothership lands?

Ve şimdi, ana gemi varana kadar ay ay geri mi sayacağız?

We would feel a little more urgency than we do.

Normalden biraz daha fazla aciliyet hissederdik.

Another reason we're told not to worry

Endişelenmememiz söylenen

is that these machines can't help but share our values

bir diğer gerekçe ise

bu makinelerin istemeden bizim değerlerimizi paylaşacak

because they will be literally extensions of ourselves.

olmaları, çünkü bizim devamımız gibi olacaklar.

They'll be grafted onto our brains,

Beyinlerimize aşılanacaklar

and we'll essentially become their limbic systems.

ve temelde onların limbik sistemi olacağız.

Now take a moment to consider

Şimdi bir dakikanızı ayırın ve

that the safest and only prudent path forward,

önümüzdeki en sağlam ve ihtiyatlı yolun,

recommended,

önerilenin, bu teknolojiyi

is to implant this technology directly into our brains.

direkt olarak beyinlerimize

yerleştirmek olduğunu değerlendirin.

Now, this may in fact be the safest and only prudent path forward,

Belki de bu, önümüzdeki en güvenli ve özenli yol olabilir

but usually one's safety concerns about a technology

ama genelde kişinin teknoloji hakkındaki güvenlik endişelerinin

have to be pretty much worked out before you stick it inside your head.

kafasının içine bir şey yerleştirmeden çözülmesi gerekir.

(Laughter)

(Kahkahalar)

The deeper problem is that building superintelligent AI on its own

Daha derindeki problem ise süper zeki YZ geliştirmek başlı başına

seems likely to be easier

daha kolay gibi görünüyor,

than building superintelligent AI

sorunsuzca zihinlerimizle entegre

and having the completed neuroscience

olabilen tamamlanmış sinirbilimli

that allows us to seamlessly integrate our minds with it.

bir yapay zekâ geliştirmektense.

And given that the companies and governments doing this work

Ve farz edelim ki devletlerin ve şirketlerin bunu yapıyorken

are likely to perceive themselves as being in a race against all others,

birbirleriyle yarış içerisindeymişçe algılamaları

given that to win this race is to win the world,

ve bu yarışı kazanmalarının da dünyayı kazanmak sanmaları,

provided you don't destroy it in the next moment,

peşi sıra mahvetmemek şartıyla,

then it seems likely that whatever is easier to do

sonrasında hangisi en kolaysa

will get done first.

ilk o yapılacakmış gibi görünüyor.

Now, unfortunately, I don't have a solution to this problem,

Şu an ne yazık ki bu soruna bir çözümüm yok,

apart from recommending that more of us think about it.

çoğumuza bunu düşünmeyi önermek dışında.

I think we need something like a Manhattan Project

Yapay Zekâ konusunda Manhattan Projesi gibi

on the topic of artificial intelligence.

bir şeye ihtiyacımız var.

Not to build it, because I think we'll inevitably do that,

Geliştirmek için değil, çünkü

kaçınılamaz bir şekilde yapacağız bana göre,

but to understand how to avoid an arms race

ama silahlanma yarışından nasıl kaçıncağımızı anlamak

and to build it in a way that is aligned with our interests.

ve menfaatlerimiz doğrultusunda inşa etmek için.

When you're talking about superintelligent AI

Süper zeki YZ 'nın kendi başına değişiklikler

that can make changes to itself,

yapabileceğinden bahsederken,

it seems that we only have one chance to get the initial conditions right,

ana koşulları doğru anlamada tek şansımız varmış gibi görünüyor

and even then we will need to absorb

ve o zaman dahi bunları doğru anlamanın

the economic and political consequences of getting them right.

siyasi ve ekonomik sonuçlarını özümsememiz gerekecektir.

But the moment we admit

Bilgi işlemenin yapay zekânın

that information processing is the source of intelligence,

kaynağı olduğunu kabul ettiğimiz an,

that some appropriate computational system is what the basis of intelligence is,

bu bazı uygun hesaplama sistemlerinin zekânın temeli olduğunu

and we admit that we will improve these systems continuously,

ve bu sistemleri aralıksız geliştireceğimizi kabul ettiğimizde

and we admit that the horizon of cognition very likely far exceeds

ve bilişin ufkunun bildiğimizden daha uzaklara uzandığını

what we currently know,

kabul ettiğimizde,

then we have to admit

bir çeşit yaratıcı

that we are in the process of building some sort of god.

geliştirme sürecinde olduğumuzu

kabul etmek durumunda olacağız.

Now would be a good time

Şu an ise bu yaratıcıyla yaşayabilme durumumuza

to make sure it's a god we can live with.

karar vermek için doğru zaman olabilir.

Thank you very much.

Çok teşekkürler.

(Applause)

(Alkışlar)