The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Çeviri: Fatih Keskin Gözden geçirme: Başak Gökdaş

You've all experienced the progress of artificial intelligence.

Hepiniz yapay zekanın gelişimini deneyimlediniz.

Many of you may have spoken with a computer,

Birçoğunuz muhtemelen bir bilgisayarla konuştunuz

and a computer understood you

ve bilgisayar sizi anladı

and spoke back to you.

ve size cevap geri cevap verdi.

With the rate of progress being that it is,

Gelişme hızı böyle devam ettiği sürece

it's not difficult to imagine that at some point in the future,

gelecekte bir noktada akıllı bilgisayarlarımızın

our intelligent computers will become as smart or smarter than people.

insanlar kadar veya insanlardan daha zeki olacağını hayal etmek pek de zor değil.

And it's also not difficult to imagine that when that happens,

Ayrıca bu olduğunda yapay zekanın etkisinin

the impact of such artificial intelligence

gerçekten ve gerçekten büyük olacağını

is going to be truly, truly vast.

hayal etmek de zor değil.

And you may wonder:

Belki merak ediyorsunuzdur:

Is it going to be OK when technology is so impactful?

Teknoloji bu kadar etkili olduğunda herhangi bir sorun olmayacak mı?

And here my goal is to point out the existence of a force

Burada bulunma amacım, bir gücün varlığına dikkat çekmek.

that many of you may have not noticed,

Bu gücü belki de çoğunuz fark etmemişsinizdir

that gives me hope that indeed,

ve bu da bana sonuçtan gerçekten mutlu olacağımıza dair umut veriyor.

we will be happy with the result.

So artificial intelligence.

Pekala, yapay zeka.

What is it, and how does it work?

Nedir ve nasıl çalışır?

Well, it turns out that it's very easy to explain

Görünen o ki yapay zekanın nasıl çalıştığını açıklamak gayet basit.

how artificial intelligence works.

Just one sentence.

Sadece tek bir cümleyle:

Artificial intelligence is nothing but digital brains

Yapay zeka, büyük bilgisayarların içindeki dijital beyinlerden

inside large computers.

başka bir şey değildir.

That's what artificial intelligence is.

İşte yapay zeka tam olarak budur.

Every single interesting AI that you've seen

Gördüğünüz her ilgi çekici yapay zeka,

is based on this idea.

bu fikre dayanmaktadır.

Over the decades,

On yıllar boyunca bilim insanları ve mühendisler,

scientists and engineers have been figuring out

how such digital brains should work

bu tarz dijital beyinlerin nasıl çalışacağıyla, nasıl kurulacağıyla

and how to build them, how to engineer them.

ve nasıl mühendislikleri yapılacağıyla ilgilenmiştir.

Now, I find it interesting

İnsanların zeka merkezlerinin, biyolojik beyinlerinde bulunmasını

that the seat of intelligence in human beings is our biological brain.

ilgi çekici buluyorum.

It is fitting that the seat of intelligence

Yapay zekanın zeka merkezinin yapay bir beyinde olması

in artificial intelligence

is an artificial brain.

doğru olacaktır.

Here, I'd like to take a digression and tell you about how I got into AI.

Şimdi konunun biraz dışına çıkıp

sizlere yapay zeka sektörüne nasıl girdiğimi anlatmak isterim.

There were three forces that pulled me into it.

Beni içine çeken üç güç vardı.

The first one was that when I was a little child,

İlki, küçük bir çocukken,

at around the age of five or six,

yaklaşık beş veya altı yaşlarındayken,

I was very struck by my own conscious experience,

kendi bilinçli deneyimimden, yani benim ben olmamdan ve

by the fact that I am me and I am experiencing things.

bazı şeyleri deneyimlediğimden çok etkilenmiştim.

That when I look at things, I see them.

Etrafımdakilere baktığımda onları idrak ettiğimi biliyorum.

Like, this feeling over time went away, though,

Her ne kadar bu hissiyatı zamanla kaybetsem de

by simply mentioning it to you right now it comes back.

şu anda sırf size ondan bahsetmem bile onu geri getiriyor.

But this this feeling of ...

Ama şu hissiyatı,

That I am me, that you are you,

benim ben ve sizin de siz olma hissiyatını,

I found it very strange and very disturbing almost.

çok garip ve neredeyse çok rahatsız edici buluyorum.

And so when I learned about artificial intelligence,

Yani yapay zekayı duyduğumda

I thought, wow, if we could build a computer

dedim ki, vay canına eğer akıllı bir bilgisayar yapabilirsek

that is intelligent,

maybe we will learn something about ourselves,

belki de kendimiz ve kendi bilincimiz hakkında bazı şeyler öğrenebiliriz.

about our own consciousness.

That was my first motivation that pulled me towards AI.

İşte bu, beni yapay zekaya çeken ilk motivasyonumdu.

The second motivation was more pedestrian in a way.

İkinci motivasyon bir bakıma biraz daha sıkıcıydı.

I was simply curious about how intelligence works.

Sadece, yapay zekanın nasıl çalıştığını merak etmiştim.

And when I was a teenager, an early teenager in the late '90s,

Ve ben gençken, 90'ların sonundaki bir gençken,

the sense that I got is that science simply did not know

merakım, bilimin aklın nasıl çalıştığını bilmemesinden kaynaklanıyordu.

how intelligence worked.

There was also a third reason,

Ayrıca üçüncü bir neden daha vardı

which is that it was clear to me back then

ve o zamanlar bana daha belirgindi:

that artificial intelligence,

Yapay zeka, eğer çalışırsa son derece etkili olacaktı.

if it worked, it would be incredibly impactful.

Now, it wasn't at all obvious

O anda yapay zekada ilerleme kaydetmenin mümkün olacağı hiç de bariz değildi

that it will be possible to make progress in artificial intelligence,

but if it were possible to make progress in artificial intelligence,

ancak eğer yapay zekada ilerleme kaydetmek mümkün olsaydı,

that would be incredibly impactful.

inanılmaz derecede etkili olacaktı.

So these were the three reasons that pulled me towards AI.

Yani beni yapay zekaya çeken üç neden buydu.

That's why I thought that's a great area to spend all my efforts on.

Bu yüzden buranın tüm çabalarımı harcamak için harika bir alan olduğunu düşündüm.

So now let's come back to our artificial intelligence,

Hadi şimdi bizim yapay zekamıza dönelim,

the digital brains.

dijital beyinlere.

Today, these digital brains

Bugünlerde bu dijital beyinler

are far less smart than our biological brains.

biyolojik beyinlerimizden çok daha az zekidir.

When you speak to an AI chat bot,

Bir yapay zeka sohbet robotu ile sohbet ettiğinizde

you very quickly see that it's not all there,

hemen göreceksiniz ki henüz yolun sonunda değil,

that it's, you know,

yani, demeye çalıştığım

it understands mostly, sort of.

sizi bir bakıma anlıyor, tamam.

But you can clearly see that there are so many things it cannot do

Ancak yapamayacağı pek çok şeyin

ve bazı garip boşluklarının olduğunu açıkça görebilirsiniz.

and that there are some strange gaps.

But this situation, I claim, is temporary.

Ama bu durum, iddia ediyorum ki geçicidir.

As researchers and engineers continue to work on AI,

Araştırmacılar ve mühendisler yapay zeka üzerinde çalışmaya devam ederken

the day will come when the digital brains that live inside our computers

bir gün gelecek ve bilgisayarlarımızda yaşayan o dijital beyinler

will become as good and even better than our own biological brains.

kendi biyolojik beyinlerimiz kadar iyi ve belki de daha iyi olacaklar.

Computers will become smarter than us.

Bilgisayarlar bizden daha akıllı olacak.

We call such an AI an “AGI,” artificial general intelligence.

Böyle bir yapay zekaya “AGI” yani yapay genel zeka diyoruz.

When we can say that the level at which we can teach the AI to do anything

Bu seviyede yapay zekaya, örneğin ben yada başka biri,

that, for example, I can do, or someone else.

herhangi bir şey yapmayı öğretebilir.

So although AGI does not exist today,

Her ne kadar AGI bugün var olmasa da

we can still gain a little bit of an insight

kurulduğu zaman olacağı etkiler hakkında biraz anlayış edinebiliriz.

into the impact of AGI once it's built.

It is completely obvious

Çok bariz ki

that such an AGI will have a dramatic impact

bu çeşit bir AGI yaşamın bütün bölgelerine,

on every area of life, of human activity and society.

insan aktivitesine ve topluma büyük bir etkide bulunacaktır.

And I want to go over a quick case study.

Şimdi hızlı bir örnek olay incelemesi yapmak istiyorum.

This is a narrow example of a very, very broad technology.

Bu, çok ve çok geniş bir teknolojinin dar bir örneğidir.

The example I want to present is health care.

Vermek istediğim örnek sağlık hizmetlerinden geliyor.

Many of you may have had the experience of trying to go to a doctor.

Birçoğunuz doktora gitmeye çalışmışsınızdır.

You need to wait for many months sometimes,

Bazen aylarca beklemeniz gerekir

and then when you do get to see a doctor, you get a small,

ve sonra doktora göründüğünüzde onunla kısa ve çok sınırlı bir süre geçirirsiniz.

very limited amount of time with the doctor

and furthermore, the doctor, being only human,

Dahası, doktor sadece bir insan olduğundan

can have only limited knowledge of all this,

bütün var olan tıbbi bilgilerin içinde onun sadece sınırlı bir bilgisi vardır.

all the medical knowledge that exists.

And then by the end of it, you get a very large bill.

Ve işiniz bittiğinde elinize çok uzun bir fatura verirler.

(Laughter)

(Kahkahalar)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Eğer ki doktor olmak için kurulmuş, AGI gibi akıllı bir bilgisayarınız olsaydı

it will have complete and exhaustive knowledge of all medical literature.

tüm tıp literatürü hakkında eksiksiz ve kapsamlı bilgiye sahip olurdu.

It will have billions of hours of clinical experience,

Milyarlarca saatlik klinik deneyime sahip,

and it will be always available and extremely cheap.

her zaman kullanılabilir ve son derece ucuz olurdu.

When this happens,

Bu yaşandığında

we will look back at today's health care

günümüz sağlık hizmetlerine

similarly to how we look at 16th century dentistry.

şu an 16. yüzyıl dişçiliğine baktığımız gibi bakacağız.

(Laughter)

(Kahkahalar)

You know, when they tied people with belts and then have this drill,

Hani şu, insanları kemerlerle bağlayıp matkap kullandıkları zamanlar.

that's how today's health care will look like.

İşte bugünün sağlık hizmetleri böyle görünecek.

And again, to emphasize, this is just one example.

Ve yine vurgulamak gerekirse bu sadece bir örnek.

This is just one example.

Sadece bir.

AGI will have dramatic and incredible impact

AGI, insan faaliyetinin her alanı üzerinde

on every single area of human activity.

büyük ve inanılmaz bir etkiye sahip olacak.

But when you see impact this large, you may wonder, "Gosh,

Ancak bu kadar büyük etki gördüğünüzde şöyle düşünebilirsiniz:

“Tanrım, bu teknoloji haddinden fazla etkili değil mi?”

isn't this technology too impactful?"

And indeed, for every positive application of AGI,

Ve gerçekten, AGI’nın her pozitif kullanılışında

there will be a negative application as well.

yanında bir negatif kullanışı da beraberinde getirecektir.

This technology is also going to be different

Bu teknoloji ayrıca diğer alışık olduğumuz teknolojilerden farklı olacaktır

from technologies that we are used to,

because it will have the ability to improve itself.

çünkü kendini geliştirme yeteneğine sahip olacaktır.

It is possible to build an AGI

Bir sonraki nesil AGI üzerinde çalışacak bir AGI yapmak mümkündür.

that will work on the next generation of AGI.

The closest analogue we have to this kind of rapid technological improvement

Bu tür hızlı teknolojik gelişmeye en benzer şey,

is when the Industrial Revolution has taken place, where humans,

Sanayi Devrimi yaşandığında

insan toplumunun materyal durumunun çok ama çok sabit kalıp

the material condition of human society, was very, very constant.

And then it was a rapid increase, rapid growth.

sonrasında hızlı bir artış, hızlı bir büyüme yaşanmasıdır.

With AGI,

AGI ile

something like this could happen again, but on a shorter timescale.

böyle bir şey yeniden ancak daha kısa bir zaman ölçeğinde yaşanabilir.

And then furthermore,

Ve dahası

there are concerns around

etrafta dolaşan endişeler var ve bunlar

if an AGI ever becomes very, very powerful,

eğer AGI çok ama çok güçlü olursa,

which is possible,

bu da tabii mümkün,

maybe it will want to go rogue being that it is an agent.

belki kendisi akıllı bir ajan olduğundan yoldan çıkmak isteyebileceğinden geliyor.

So this is a concern that exists with this unprecedented,

Yani etrafta bu eşsiz, henüz var olmayan teknolojiden kaynaklanan bir endişe var.

not yet existing technology.

And indeed,

Ve gerçekten de

you look at all the positive potential of AGI

AGI’nın tüm pozitif potansiyeline

and all the concerning possibilities of AGI as well,

ve AGI’nın tüm endişe verici olasılıklarına bakarsınız

and you may say, "Gosh, where is this all headed?"

“Tanrım, tüm bunlar nereye gidiyor?” diyebilirsiniz.

One of my motivations in creating OpenAI was,

OpenAI’yı oluşturmadaki motivasyonlarımdan biri,

in addition to developing this technology,

bu teknolojiyi geliştirmenin yanı sıra,

was also to address the questions

AGI’nın oluşturduğu sorulara,

that are posed by AGI, the difficult questions,

zor sorulara,

the concerns that we raised.

yarattığımız endişelere değinmekti.

In addition to working with governments

Hükümetlerle çalışmak

and helping them understand what is coming and prepare for it,

ve onlara neyin geldiğini anlamalarına yardımcı olmak

ve onları buna hazırlamanın yanı sıra, teknoloji yönüne değindiğimiz

we are also doing a lot of research

on addressing the technological side of things,

bir sürü araştırma yapıyoruz.

so that the AI will never want to go rogue.

Böylece yapay zeka asla yoldan çıkmak istemeyecek.

And this is something which I’m working on as well.

Bu benim de üzerinde çalıştığım bir şey.

But I think, the thing to note,

Ama bence

because AI and AGI is really the only area of the economy

yapay zeka ve AGI hakikaten bir sürü heyecan ve yatırım bulunduran,

where there is a lot of excitement, a lot of investment,

herkesin üzerinde çalıştığı tek ekonomi alanı olduğundan

everyone is working on it,

there's a huge number of labs in the world trying to build the same thing.

dünyada aynı şeyi yaratmaya çalışan çokça laboratuvar olmasını fark etmeliyiz.

Even if OpenAI takes these desirable steps that I mentioned,

OpenAI bahsettiğim bu arzu edilen adımları atsa bile

what about the rest of the companies and the rest of the world?

şirketlerin ve dünyanın geri kalanı ne olacak?

And this is where I want to make my observation

İşte burada, var olan güç hakkındaki gözlemlerimi yapmak istiyorum.

about the force that exists.

The observation is this: consider the world one year ago,

Gözlemim şu: Bir yıl önceki dünyayı düşünün,

as recently as one year ago.

bir yıl öncecik dünya.

People weren't really talking about AI, not in the same way at all.

İnsanlar yapay zeka hakkında şu anda konuştuğumuz gibi konuşmuyorlardı.

What happened?

Ne oldu?

We all experienced what it's like to talk to a computer and to be understood.

Hepimiz bir bilgisayarla konuşmanın ve anlaşılmanın ne olduğunu deneyimledik.

The idea that computers will become really intelligent

Bilgisayarların bizden gerçekten akıllı

and eventually more intelligent than us is becoming widespread.

ve eninde sonunda bizden akıllı olacağı fikri yaygınlaşıyor.

It used to be a niche idea that only a few enthusiasts

Eskiden sadece birkaç meraklının, hobileri olanların

and hobbyists and people who were very into AI were thinking about.

ve yapay zekayı çok seven insanların düşündüğü niş bir fikirdi.

But now everyone is thinking about it.

Ama şimdi herkes onun hakkında düşünüyor.

And as the AI continues to make progress,

Yapay zeka ilerleme kaydettiği sürece,

as technology continues to advance,

teknoloji ilerleme kaydettiği sürece

as more and more people see what AI can do

ve daha çok insan yapay zekanın ne yapabileceğini

and where it is headed towards,

ve nereye gittiğini gördüğünde

then it will become clear just how dramatic,

o zaman AGI’nın ne kadar büyük,

incredible and ...

inanılmaz ve...

almost fantastical AGI is going to be

neredeyse fantastik olacağı ile

and how much trepidation is appropriate.

ne kadar endişenin uygun olduğu belirginleşecek.

And what I claim will happen is that people will start to act

İnsanlar, kendi çıkarlarını gözetmeden daha önce görülmemiş bir işbirliği içinde

in unprecedentedly collaborative way out of their own self-interest.

harekete geçmeye başlayacaklarını öne sürüyorum.

It's already happening right now.

Bu, zaten şu anda yaşanmakta.

You see the leading AGI companies starting to collaborate

Önde gelen AGI şirketlerinin, belirli bir örnek vermek gerekirse

for a specific example, through the Frontier Model Forum.

örneğin Frontier Model Forum’u kullanarak işbirliği yapmaya başladığını görüyoruz.

And we will expect that companies that are competitors

Rakip olan şirketlerin, yapay zekalarını güvenli kılmak için

will share technical information to make their AIs safe.

teknik bilgiler paylaşmalarını bekliyoruz.

Hükümetler bile bunu yapmaya başlayabilir.

We may even see governments do this.

For another example,

Başka bir örnek vermek gerekirse

at OpenAI, we really believed in how dramatic AGI is going to be.

OpenAI’da AGI’nın gerçekten bu kadar büyük etkisi olacağını bekliyorduk.

So one of the ideas that we were operating by,

Baz aldığımız ve internet sitemizde 5 yıldır yazılı olan bir inancımız var.

and it's been written on our website for five years now,

that when technology gets such that we are very, very close to AGI,

Bu inanca göre, teknoloji gelişip AGI’ya çok yakınlaştığımız zaman,

yani insanlardan zeki bilgisayarlar dönemine,

to computers smarter than humans,

and if some other company is far ahead of us,

eğer bizden daha önde bir şirket varsa

then rather than compete with them,

onlarla rekabet etmek yerine

we will help them out, join them, in a sense.

onlara yardım edeceğiz, bir bakıma onlara katılacağız.

And why do that?

Peki bunu niye yapıyoruz?

Because we feel, we appreciate

Çünkü biz AGI’nın ne kadar büyük olacağını takdir ediyoruz

how incredibly dramatic AGI is going to be.

And my claim is that with each generation of capability advancements,

Benim iddiama göre her yeni nesil kapasite geliştirmesiyle

as AI gets better

yapay zeka geliştiğinde

and as all of you experience what AI can do,

ve yapay zeka çabaları ile AGI çabalarını yürüten ve üzerlerinde çalışanlarla sizler

as people who run AI efforts and AGI efforts

yapay zekanın neler yapabileceğini deneyimlediğiniz zaman

and people who work on them will experience it as well,

this will change the way we see AI and AGI,

yapay zekaya ve AGI’ya bakış açımız değişecek

and that will change collective behavior.

ve bu da kolektif davranışımızı değiştirecek.

And this is an important reason

Ve her ne kadar bu teknolojinin yarattığı büyük engeller olsa da

why I'm hopeful

işte bu önemli sebepten dolayı

that despite the great challenges that's posed by this technology,

onların üstesinden geleceğimiz konusunda umutluyum.

we will overcome them.

Thank you.

Teşekkür ederim.

(Alkışlar)

(Applause)