How will AI change the world?

Çeviri: esra kurul Gözden geçirme: Eren Gokce

Gelecek yıllarda yapay zeka,

In the coming years, artificial intelligence

muhtemelen hayatınızı ve tüm dünyayı değiştirecek.

is probably going to change your life, and likely the entire world.

Ama insanlar tam olarak nasıl olduğunu kabul etmekte zorlanıyorlar.

But people have a hard time agreeing on exactly how.

Altta ünlü bilgisayar bilimi profesörü ve yapay zeka uzmanı

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

Stuart Russell’ın duyuları saçmalıktan ayırdığı

helps separate the sense from the nonsense.

Dünya Ekonomi Forumu röportajından alıntılar mevcut.

There’s a big difference between asking a human to do something

Bir insandan bir şey yapmasını istemek ile bunu bir yapay zeka sistemine

and giving that as the objective to an AI system.

amaç olarak vermek arasında büyük bir fark vardır.

When you ask a human to get you a cup of coffee,

Birinden size kahve getirmesini istediğinizde,

bunun onun hayatının misyonu olması gerektiğini

you don’t mean this should be their life’s mission,

evrende başka hiçbir şeyin önemi

and nothing else in the universe matters.

olmadığını kastetmezsiniz.

Even if they have to kill everybody else in Starbucks

Kapanmadan önce size kahve getirmek için Starbucks’taki

to get you the coffee before it closes— they should do that.

herkesi öldürmek zorunda kalsalar bile bunu yapmalılar.

No, that’s not what you mean.

Hayır, bunu kastetmediniz.

All the other things that we mutually care about,

Karşılıklı olarak önemsediğimiz diğer tüm şeyler,

they should factor into your behavior as well.

davranışlarınızı da hesaba katmalıdır.

And the problem with the way we build AI systems now

Yapay Zeka sistemlerini kurma şeklimizle ilgili sorun şu:

Onlara sabit bir hedef veriyoruz.

is we give them a fixed objective.

The algorithms require us to specify everything in the objective.

Algoritmalar, hedefteki her şeyi belirtmemizi istiyor.

And if you say, can we fix the acidification of the oceans?

“Okyanusların asitlenmesini düzeltebilir miyiz?″ derseniz

Yeah, you could have a catalytic reaction that does that extremely efficiently,

bunu son derece verimli bir şekilde yapan

katalitik bir reaksiyon elde edebilirsiniz

but it consumes a quarter of the oxygen in the atmosphere,

ancak bu atmosferdeki oksijenin dörtte birini tüketir,

which would apparently cause us to die fairly slowly and unpleasantly

bu da görünüşe göre birkaç saat içinde oldukça yavaş ve nahoş

over the course of several hours.

bir şekilde ölmemize neden olur.

So, how do we avoid this problem?

Peki, bu problemden nasıl kaçınırız?

You might say, okay, well, just be more careful about specifying the objective—

Diyebilirsiniz ki tamam, sadece hedefi belirleme konusunda daha dikkatli olun—

don’t forget the atmospheric oxygen.

atmosferik oksijeni unutmayın.

And then, of course, some side effect of the reaction in the ocean

Ve sonra tabii ki reaksiyonun okyanustaki bazı yan etkileri

poisons all the fish.

bütün balıkları zehirler.

Okay, well I meant don’t kill the fish either.

Balığı da öldürmeyin demek istedim.

And then, well, what about the seaweed?

Peki ya deniz yosunu?

Don’t do anything that’s going to cause all the seaweed to die.

Tüm deniz yosunlarının ölmesine sebep olacak hiçbir şey yapma.

And on and on and on.

Ve benzerleri.

And the reason that we don’t have to do that with humans is that

Ve bunu insanlarla yapmak zorunda olmamamızın nedeni,

humans often know that they don’t know all the things that we care about.

insanlar çoğunlukla önemsediğimiz her şeyi bilmiyorlar.

If you ask a human to get you a cup of coffee,

Eğer bir insana size bir fincan kahve getirmesini söylerseniz

and you happen to be in the Hotel George Sand in Paris,

ve bir fincan kahvenin 13 euro olduğu

where the coffee is 13 euros a cup,

Paris’teki Hotel George Sand’da olursanız,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

geri gelmeniz ve “o, 13 Euro istediğinden emin misin?”

ya da “yan tarafa gidebilirim ve bir tane alabilir miyim?” demeniz tamamen makul.

are you sure you want it, or I could go next door and get one?

And it’s a perfectly normal thing for a person to do.

Bu tamamen bir kişinin yapması için normal bir şey.

To ask, I’m going to repaint your house—

Evini yeniden boyayacağım—

is it okay if I take off the drainpipes and then put them back?

Tahliye borularını çıkarsam ve sonra geri taksam sorun olur mu?

We don't think of this as a terribly sophisticated capability,

Bunun çok gelişmiş bir beceri olduğunu düşünmüyoruz

but AI systems don’t have it because the way we build them now,

ancak yapay zeka sistemlerinizin bu becerisi yok,

üretme şeklimiz nedeniyle,

they have to know the full objective.

bütün amacı bilmesi gerekir.

If we build systems that know that they don’t know what the objective is,

Amacın ne olduğunu bilmediklerini bilen bir sistem kurarsak

then they start to exhibit these behaviors,

ardından bu davranışları sergilemeye başlarlar,

like asking permission before getting rid of all the oxygen in the atmosphere.

atmosferdeki tüm oksijeni yok etmeden önce izin istemek gibi.

In all these senses, control over the AI system

Tüm bu açılardan, yapay zeka sistemi üzerindeki kontrol,

comes from the machine’s uncertainty about what the true objective is.

makinenin gerçek hedefin ne olduğu konusundaki belirsizliğinden kaynaklanır.

And it’s when you build machines that believe with certainty

Kesinlikle hedefe sahip olduğuna inanan makineler yaptığınız anda

that they have the objective,

böylesine psikopatça bir davranış sergiliyorsunuz.

that’s when you get this sort of psychopathic behavior.

And I think we see the same thing in humans.

Sanırım aynı şeyi insanlarda da görüyoruz.

What happens when general purpose AI hits the real economy?

Her amaca uygun Yapay Zeka, reel sektörü de etkilediğinde ne olacak?

How do things change? Can we adapt?

İşler nasıl değişecek?

Uyum sağlayabilecek miyiz?

This is a very old point.

Bu uzun süredir tartışılan bir konu.

Amazingly, Aristotle actually has a passage where he says,

Şaşırtıcı bir şekilde Aristotle’ın bir sözü var

look, if we had fully automated weaving machines

bak dört dörtlük otomatik dokuma makinelerimiz olsaydı

and plectrums that could pluck the lyre and produce music without any humans,

penalar liri çalabilir ve insan olmadan müzik üretebilirlerdi,

then we wouldn’t need any workers.

o zaman hiç müzisyene ihtiyacımız olmazdı.

That idea, which I think it was Keynes

1930′da bunu teknolojik işsizlik olarak adlandıran kişinin

who called it technological unemployment in 1930,

Keynes olduğunu düşündüğüm bu fikir,

is very obvious to people.

insanlar için çok açık.

They think, yeah, of course, if the machine does the work,

Tam olarak şöyle düşünüyorlar: “Makine işi hallediyorsa

then I'm going to be unemployed.

işsiz kalacağım demektir.”

You can think about the warehouses that companies are currently operating

Şirketlerin hâlihazırda e-ticaret için kullandıkları ambarları düşünün,

for e-commerce, they are half automated.

bunlar yarı otomatik.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Bunun işleyiş şekli, her yerde birikmiş tonlarca eşyanın olduğu

all over the place and humans go and rummage around

ve insanların ortalığı karıştırdığı

ve ardından geri getirip gönderdiği eski bir depo—

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

ihtiyacınız olan her şeyi bulunduran raf ünitesini

that contains the thing that you need,

gidip getiren bir robot var

but the human has to pick the object out of the bin or off the shelf,

ancak insan, nesneyi ya çöp kutusundan ya da raftan almak zorundadır

because that’s still too difficult.

çünkü bu hala çok zor.

But, at the same time,

Ancak aynı zamanda,

would you make a robot that is accurate enough to be able to pick

satın alabileceğiniz, çeşitli nesnelerin içerisinden

pretty much any object within a very wide variety of objects that you can buy?

herhangi bir nesneyi seçebilmek için yeterince hassas bir robot yapar mıydınız?

That would, at a stroke, eliminate 3 or 4 million jobs?

Bu tek seferde üç ya da dört milyon işe darbe yapar mıydı?

There's an interesting story that E.M. Forster wrote,

E.M. Forster’ın yazdığı,

where everyone is entirely machine dependent.

herkesin tamamen makinelere bağlı olduğu ilginç bir hikaye var.

The story is really about the fact that if you hand over

Hikaye aslında, uygarlığınızın yönetimini

the management of your civilization to machines,

makinelere devrederseniz,

you then lose the incentive to understand it yourself

o zaman kendini anlama veya gelecek nesillere

or to teach the next generation how to understand it.

nasıl anlayacaklarını öğretme dürtünü kaybedersin.

You can see “WALL-E” actually as a modern version,

“WALL-E”yi aslında herkesin makine tarafından

güçsüzleştirildiği ve çocuklaştırıldığı, modern bir versiyon olarak görebilirsiniz

where everyone is enfeebled and infantilized by the machine,

and that hasn’t been possible up to now.

bu şu ana kadar mümkün olmadı.

We put a lot of our civilization into books,

Medeniyetimizin çoğunu kitaplara aktardık

ama kitaplar onu bizim için yönetemiyor.

but the books can’t run it for us.

And so we always have to teach the next generation.

Her zaman gelecek nesillere öğretmek zorundayız.

If you work it out, it’s about a trillion person years of teaching and learning

Eğer çözerseniz, yaklaşık bir trilyon kişi yıllık öğretme, öğrenme

and an unbroken chain that goes back tens of thousands of generations.

ve on binlerce nesil öncesine dayanan kesintisiz bir zincir demektir.

What happens if that chain breaks?

O zincir kırılırsa ne olur?

I think that’s something we have to understand as AI moves forward.

Yapay Zeka ilerledikçe anlamamız gereken bir şey olduğunu düşünüyorum.

The actual date of arrival of general purpose AI—

Genel amaçlı yapay zekanın gerçek ortaya çıkma tarihini

you’re not going to be able to pinpoint, it isn’t a single day.

tam olarak belirleyemeyeceksiniz, bu tek bir günden ibaret değil.

It’s also not the case that it’s all or nothing.

Ayrıca durum böyle değil ya hep ya hiç.

The impact is going to be increasing.

Etki giderek artacak.

So with every advance in AI,

Yapay zekadaki her bir ilerlemede

it significantly expands the range of tasks.

görev yelpazesini önemli ölçüde genişletir.

So in that sense, I think most experts say by the end of the century,

Bu anlamda, sanırım çoğu uzman yüzyılın sonunda şunu söylüyor:

we’re very, very likely to have general purpose AI.

“Genel amaçlı yapay zekaya sahip olmamız çok ama çok muhtemel.”

The median is something around 2045.

Medyan, 2045 civarında bir şeydir.

I'm a little more on the conservative side.

Ben biraz daha muhafazakar taraftayım.

I think the problem is harder than we think.

Sanırım sorun düşündüğümüzden daha zor.

I like what John McAfee, he was one of the founders of AI,

John McAfee’yi seviyorum, yapay zeka’nın kurucularından biriydi,

when he was asked this question, he said, somewhere between five and 500 years.

kendisine bu soru sorulduğunda şöyle dedi: “Beş ila 500 yıl arasında bir yerde.”

And we're going to need, I think, several Einsteins to make it happen.

“Sanırım bunu yapacak birkaç Einstein’lara ihtiyacımız olacak.”