The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Çeviri: Ozay Ozaydin Gözden geçirme: esra kurul

We started OpenAI seven years ago

OpenAI’yi yedi yıl önce kurduk

because we felt like something really interesting was happening in AI

çünkü yapay zeka alanında gerçekten ilginç bir şeyler olduğunu hissettik

and we wanted to help steer it in a positive direction.

ve bunu olumlu bir yöne yönlendirmeye yardımcı olmak istedik.

It's honestly just really amazing to see

O zamandan bu yana tüm bu alanın

how far this whole field has come since then.

ne kadar ilerlediğini görmek gerçekten şaşırtıcı.

And it's really gratifying to hear from people like Raymond

Raymond gibi insanların bizim ve diğerlerinin geliştirdiği teknolojiyi

who are using the technology we are building, and others,

pek çok harika şey için kullandığını duymak

for so many wonderful things.

gerçekten çok sevindirici.

We hear from people who are excited,

Heyecan duyan,

we hear from people who are concerned,

endişe duyan

we hear from people who feel both those emotions at once.

ve bu iki duyguyu aynı anda hisseden kişileri duyuyoruz.

And honestly, that's how we feel.

Dürüst olmak gerekirse, biz de böyle hissediyoruz.

Above all, it feels like we're entering an historic period right now

Her şeyden önce, şu anda dünya olarak toplumumuz için

where we as a world are going to define a technology

ileride çok önemli olacak bir teknolojiyi

that will be so important for our society going forward.

tanımlayacağımız tarihi bir döneme girdiğimizi hissediyorum.

And I believe that we can manage this for good.

Bunu iyi bir şekilde yönetebileceğimize inanıyorum.

So today, I want to show you the current state of that technology

Bu nedenle bugün size bu teknolojinin mevcut durumunu

and some of the underlying design principles that we hold dear.

ve değer verdiğimiz bazı temel tasarım ilkelerini göstermek istiyorum.

So the first thing I'm going to show you

Size göstereceğim ilk şey,

is what it's like to build a tool for an AI

bir insan için araç geliştirmek yerine

rather than building it for a human.

bir yapay zeka için araç geliştirmenin nasıl bir şey olduğu.

So we have a new DALL-E model, which generates images,

Görüntü üreten yeni bir DALL-E modelimiz var

and we are exposing it as an app for ChatGPT to use on your behalf.

ve bunu ChatGPT’nin sizin adınıza kullanacağı bir uygulama olarak sunuyoruz.

And you can do things like ask, you know,

TED sonrası güzel bir yemek önermek

suggest a nice post-TED meal and draw a picture of it.

ve bunun resmini çizmek gibi şeyler yapabilirsiniz.

(Laughter)

(Kahkaha)

Now you get all of the, sort of, ideation and creative back-and-forth

Artık ChatGPT’den elde ettiğiniz tüm fikir ve yaratıcılığa

and taking care of the details for you that you get out of ChatGPT.

ve sizin için ayrıntılarla ilgilenme özelliklerine sahipsiniz.

And here we go, it's not just the idea for the meal,

İşte başlıyoruz, sadece yemek fikri değil,

but a very, very detailed spread.

çok ama çok detaylı bir sunum.

So let's see what we're going to get.

Bakalım ne alacağız.

But ChatGPT doesn't just generate images in this case --

Ancak ChatGPT bu durumda sadece görüntü oluşturmaz --

sorry, it doesn't generate text, it also generates an image.

pardon, metin oluşturmaz, aynı zamanda bir görüntü de oluşturur.

And that is something that really expands the power

Bu, niyetinizi gerçekleştirme açısından

of what it can do on your behalf in terms of carrying out your intent.

sizin adınıza yapabileceklerinin gücünü gerçekten artıran bir şeydir.

And I'll point out, this is all a live demo.

Belirtmek isterim ki, bunların hepsi canlı bir demo.

This is all generated by the AI as we speak.

Biz konuşurken bunların hepsi AI tarafından üretiliyor.

So I actually don't even know what we're going to see.

Yani aslında ne göreceğimizi bile bilmiyorum.

This looks wonderful.

Bu harika görünüyor.

(Applause)

(Alkışlar)

I'm getting hungry just looking at it.

Baktıkça acıkıyorum.

Now we've extended ChatGPT with other tools too,

Şimdi ChatGPT’yi başka araçlarla da genişlettik,

for example, memory.

örneğin bellek.

You can say "save this for later."

“Bunu sonraya sakla” diyebilirsiniz.

And the interesting thing about these tools

Bu araçlarla ilgili ilginç olan şey,

is they're very inspectable.

denetlenmeye çok açık olmalarıdır.

So you get this little pop up here that says "use the DALL-E app."

“DALL-E uygulamasını kullanın” yazan küçük bir pencere açılıyor.

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

Bu arada, bu önümüzdeki aylarda tüm ChatGPT kullanıcılarına geliyor.

And you can look under the hood and see that what it actually did

Kaputun altına bakabilir ve aslında yaptığı şeyin

tıpkı bir insan gibi bir komut yazmak olduğunu görebilirsiniz.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

Böylece makinenin bu araçları nasıl kullandığını

how the machine is using these tools,

denetleme olanağına sahip oluyorsunuz

ve bu da onlara geri bildirim sağlamamıza olanak tanıyor.

which allows us to provide feedback to them.

Now it's saved for later,

Şimdi daha sonrası için kaydedildi

and let me show you what it's like to use that information

ve size bu bilgileri kullanmanın ve diğer uygulamalarla

and to integrate with other applications too.

entegre etmenin nasıl bir şey olduğunu göstereyim.

You can say,

“Şimdi daha önce

“Now make a shopping list for the tasty thing

önerdiğim lezzetli şey için bir alışveriş listesi hazırla”

I was suggesting earlier.”

diyebilirsiniz.

And make it a little tricky for the AI.

Yapay zeka için biraz daha zorlaştıralım.

"And tweet it out for all the TED viewers out there."

“Tüm TED izleyicileri için bunu tweetle.”

(Laughter)

(Kahkaha)

So if you do make this wonderful, wonderful meal,

Eğer bu harika yemeği yaparsanız,

I definitely want to know how it tastes.

tadının nasıl olduğunu kesinlikle bilmek isterim.

But you can see that ChatGPT is selecting all these different tools

Ancak ChatGPT’nin, herhangi bir durumda hangisini kullanacağını

without me having to tell it explicitly which ones to use in any situation.

açıkça söylememe gerek kalmadan tüm bu farklı araçları seçtiğini görebilirsiniz.

And this, I think, shows a new way of thinking about the user interface.

Bence bu, kullanıcı arayüzü hakkında yeni bir düşünme biçimini gösteriyor.

Like, we are so used to thinking of, well, we have these apps,

Şöyle düşünmeye çok alışkınız: Bu uygulamalara sahibiz,

aralarında tıklıyoruz, aralarında kopyala/yapıştır yapıyoruz

we click between them, we copy/paste between them,

ve genellikle menüleri ve tüm seçenekleri bildiğiniz sürece

and usually it's a great experience within an app

as long as you kind of know the menus and know all the options.

bir uygulama içinde harika bir deneyim yaşıyorsunuz.

Yes, I would like you to.

Evet, isterim.

Yes, please.

Evet, lütfen.

Always good to be polite.

Kibar olmak her zaman iyidir.

(Laughter)

(Kahkaha)

And by having this unified language interface on top of tools,

Araçların üzerinde bu birleşik dil ara yüzüne sahip olarak,

the AI is able to sort of take away all those details from you.

yapay zeka tüm bu ayrıntıları sizden alabilir.

So you don't have to be the one

Yani ne olması gerektiğine dair

who spells out every single sort of little piece

her bir küçük parçayı açıklayan

of what's supposed to happen.

kişi olmak zorunda değilsiniz.

And as I said, this is a live demo,

Dediğim gibi, bu canlı bir demo,

so sometimes the unexpected will happen to us.

bu yüzden bazen beklenmedik şeyler başımıza gelebilir.

But let's take a look at the Instacart shopping list while we're at it.

Ama hazır başlamışken Instacart alışveriş listesine de bir göz atalım.

And you can see we sent a list of ingredients to Instacart.

Instacart’a bir malzeme listesi gönderdiğimizi görebilirsiniz.

Here's everything you need.

İhtiyacınız olan her şey burada.

And the thing that's really interesting

Gerçekten ilginç olan şey,

is that the traditional UI is still very valuable, right?

geleneksel kullanıcı arayüzünün hala çok değerli olması, değil mi?

If you look at this,

Buna bakarsanız,

you still can click through it and sort of modify the actual quantities.

yine de tıklayabilir ve gerçek miktarları değiştirebilirsiniz.

And that's something that I think shows

Bence bu, geleneksel kullanıcı arayüzlerinin

that they're not going away, traditional UIs.

ortadan kalkmayacağını gösteren bir şey.

Sadece onları inşa etmek için yeni ve geliştirilmiş bir yöntemimiz var.

It's just we have a new, augmented way to build them.

And now we have a tweet that's been drafted for our review,

Şimdi incelememiz için hazırlanmış bir tweet var,

which is also a very important thing.

ki bu da çok önemli bir şey.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

“Çalıştır”a tıklayabiliriz ve işte oradayız, yöneticiyiz, denetleyebiliyoruz,

we're able to change the work of the AI if we want to.

istersek yapay zekanın çalışmasını değiştirebiliyoruz.

And so after this talk, you will be able to access this yourself.

Yani bu konuşmadan sonra buna kendiniz erişebileceksiniz.

And there we go.

İşte başlıyoruz.

Cool.

Güzel.

Thank you, everyone.

Herkese teşekkür ederim.

(Applause)

(Alkışlar)

So we’ll cut back to the slides.

Slaytlara geri dönelim.

Now, the important thing about how we build this,

Şimdi, bunu nasıl inşa ettiğimizle ilgili önemli olan şey,

it's not just about building these tools.

sadece bu araçları inşa etmek değil.

It's about teaching the AI how to use them.

Yapay zekaya bunları nasıl kullanacağını öğretmekle ilgili.

Like, what do we even want it to do

Mesela, bu çok üst düzey soruları sorduğumuzda

when we ask these very high-level questions?

ne yapmasını istiyoruz?

And to do this, we use an old idea.

Bunu yapmak için de eski bir fikri kullanıyoruz.

Alan Turing’in 1950′de Turing testiyle ilgili yazdığı makaleye geri dönerseniz,

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

you'll never program an answer to this.

asla bir cevap programlayamayacağınızı söylüyor.

Instead, you can learn it.

Bunun yerine, öğrenebilirsiniz.

You could build a machine, like a human child,

Bir makine yapabilirsiniz, tıpkı bir çocuk gibi,

and then teach it through feedback.

ve onu geri beslemeyle eğitebilirsiniz.

Have a human teacher who provides rewards and punishments

Bir şeyler denedikçe ve iyi ya da kötü şeyler yaptıkça

as it tries things out and does things that are either good or bad.

ödül ve ceza veren bir insan öğretmene sahipsiniz.

And this is exactly how we train ChatGPT.

ChatGPT’yi tam olarak bu şekilde eğitiyoruz.

It's a two-step process.

İki aşamalı bir süreç.

First, we produce what Turing would have called a child machine

İlk olarak, denetimsiz bir öğrenme süreci aracılığıyla Turing’in

through an unsupervised learning process.

çocuk makine diyeceği şeyi üretiyoruz.

We just show it the whole world, the whole internet

Bunu tüm dünyaya, tüm internete gösteriyoruz

and say, “Predict what comes next in text you’ve never seen before.”

ve “Daha önce hiç görmediğin bir metinle sonra ne olacağını tahmin et” diyoruz.

And this process imbues it with all sorts of wonderful skills.

Bu süreç ona her türlü harika becerileri kazandırıyor.

For example, if you're shown a math problem,

Örneğin, size bir matematik problemi gösterilirse,

the only way to actually complete that math problem,

bu matematik problemini gerçekten tamamlamanın,

to say what comes next,

bir sonraki adımın ne olduğunu söylemenin,

that green nine up there,

yani şu yeşil dokuzu söylemenin

is to actually solve the math problem.

tek yolu matematik problemini gerçekten çözmektir.

But we actually have to do a second step, too,

Ama ikinci bir adım daha atmamız gerekiyor,

which is to teach the AI what to do with those skills.

o da AI’a bu becerilerle ne yapacağını öğretmek.

And for this, we provide feedback.

Bunun için de geri bildirim yapıyoruz.

We have the AI try out multiple things, give us multiple suggestions,

AI’ın çok şeyi denemesini, bize çok öneri sunmasını

ve sonra birinin bunları değerlendirerek “Bu, bundan daha iyi” demesini sağlıyoruz.

and then a human rates them, says “This one’s better than that one.”

And this reinforces not just the specific thing that the AI said,

Bu da sadece YZ’nin söylediği belirli bir şeyi değil,

daha da önemlisi, YZ’nin bu cevabı üretmek için kullandığı tüm süreci güçlendirir.

but very importantly, the whole process that the AI used to produce that answer.

And this allows it to generalize.

Bu da genelleme yapabilmesini sağlar.

It allows it to teach, to sort of infer your intent

Öğretmesine, niyetinizi çıkarmasına

ve daha önce görmediği, geri bildirim almadığı senaryolarda

and apply it in scenarios that it hasn't seen before,

that it hasn't received feedback.

uygulamasına olanak tanır.

Now, sometimes the things we have to teach the AI

Şimdi, bazen yapay zekaya öğretmemiz gereken şeyler

are not what you'd expect.

beklediğiniz gibi olmayabilir.

For example, when we first showed GPT-4 to Khan Academy,

Örneğin, GPT-4′ü Khan Academy’ye ilk gösterdiğimizde,

they said, "Wow, this is so great,

“Vay canına, bu çok harika,

We're going to be able to teach students wonderful things.

öğrencilere harika şeyler öğretebileceğiz.

Only one problem, it doesn't double-check students' math.

Tek bir sorun var, öğrencilerin hesabını iki kez kontrol etmiyor.

If there's some bad math in there,

Eğer içinde yanlış hesap varsa,

it will happily pretend that one plus one equals three and run with it."

bir artı bir eşittir üçmüş gibi davranacak ve bunu seve seve yapacaktır.”

So we had to collect some feedback data.

Bu yüzden bazı geri bildirim verisi toplamamız gerekti.

Sal Khan himself was very kind

Sal Khan’ın kendisi çok nazikti

and offered 20 hours of his own time to provide feedback to the machine

ve ekibimizle birlikte makineye geri bildirim sağlamak için

alongside our team.

20 saatini ayırdı.

And over the course of a couple of months we were able to teach the AI that,

Birkaç ay boyunca yapay zekaya şunu öğretmeyi başardık:

"Hey, you really should push back on humans

“Hey, bu tür özel senaryolarda

in this specific kind of scenario."

insanları gerçekten geri püskürtmelisin.”

And we've actually made lots and lots of improvements to the models this way.

Aslında bu şekilde modellerde pek çok iyileştirme yaptık.

And when you push that thumbs down in ChatGPT,

ChatGPT’de baş parmağınızı aşağı doğru ittiğinizde,

that actually is kind of like sending up a bat signal to our team to say,

bu aslında ekibimize “İşte geri bildirim toplamanız gereken bir zayıflık alanı”

“Here’s an area of weakness where you should gather feedback.”

demek için bir tür yarasa sinyali göndermek gibidir.

And so when you do that,

Bunu yaptığınızda,

that's one way that we really listen to our users

kullanıcılarımızı gerçekten dinlememizin ve herkes için

and make sure we're building something that's more useful for everyone.

daha kullanışlı bir şey inşa ettiğimizden emin olmamızın bir yolu budur.

Now, providing high-quality feedback is a hard thing.

Şimdi, yüksek kaliteli geri bildirim vermek zor bir şeydir.

If you think about asking a kid to clean their room,

Bir çocuktan odasını temizlemesini istediğinizi düşünürseniz,

if all you're doing is inspecting the floor,

yaptığınız tek şey zemini kontrol etmekse,

you don't know if you're just teaching them to stuff all the toys in the closet.

ona tüm oyuncakları dolaba tıkmayı öğretip öğretmediğinizi bilemezsiniz.

This is a nice DALL-E-generated image, by the way.

Bu arada, DALL-E tarafından oluşturulmuş güzel bir görüntü.

And the same sort of reasoning applies to AI.

Aynı mantık yapay zeka için de geçerli.

As we move to harder tasks,

Daha zor görevlere geçtikçe,

we will have to scale our ability to provide high-quality feedback.

yüksek kaliteli geri bildirim sağlama becerimizi ölçeklendirmemiz gerekecek.

But for this, the AI itself is happy to help.

Ancak bunun için yapay zekanın kendisi yardımcı olmaktan mutluluk duyar.

It's happy to help us provide even better feedback

Zaman geçtikçe daha da iyi geri bildirim vermemize

and to scale our ability to supervise the machine as time goes on.

ve makineyi denetleme yetimizi artırmamıza yardımcı olmaktan mutluluk duyuyor.

And let me show you what I mean.

Size ne demek istediğimi göstereyim.

For example, you can ask GPT-4 a question like this,

Örneğin, GPT-4′e şöyle bir soru sorabilirsiniz:

of how much time passed between these two foundational blogs

Denetimsiz öğrenme ve insan geribildiriminden

on unsupervised learning

öğrenme hakkındaki bu iki temel blog arasında

and learning from human feedback.

ne kadar zaman geçti?

And the model says two months passed.

Model iki ay geçtiğini söylüyor.

But is it true?

Ama bu doğru mu?

Like, these models are not 100-percent reliable,

Mesela, bu modeller yüzde 100 güvenilir değil,

although they’re getting better every time we provide some feedback.

ancak her geri bildirim yaptığımızda daha iyi hale geliyorlar.

But we can actually use the AI to fact-check.

Ama aslında yapay zekayı gerçekleri kontrol etmek için kullanabiliriz.

And it can actually check its own work.

Aslında kendi çalışmasını kontrol edebilir.

You can say, fact-check this for me.

Benim için kontrol et diyebilirsiniz.

Now, in this case, I've actually given the AI a new tool.

Şimdi, bu durumda, yapay zekaya yeni bir araç verdim.

This one is a browsing tool

Bu, modelin arama sorguları oluşturabildiği

where the model can issue search queries and click into web pages.

ve web sayfalarına tıklayabildiği bir tarama aracıdır.

And it actually writes out its whole chain of thought as it does it.

Bunu yaparken aslında tüm düşünce zincirini yazar.

It says, I’m just going to search for this and it actually does the search.

Sadece bunu arayacağım diyor ve gerçekten arama yapıyor.

It then it finds the publication date and the search results.

Daha sonra yayın tarihini ve arama sonuçlarını bulur.

It then is issuing another search query.

Daha sonra başka bir arama yapıyor.

It's going to click into the blog post.

Blog yazısına tıklayacak.

And all of this you could do, but it’s a very tedious task.

Tüm bunları yapabilirsiniz, ancak bu çok sıkıcı bir iş.

It's not a thing that humans really want to do.

Bu insanların gerçekten yapmak istediği bir şey değil.

It's much more fun to be in the driver's seat,

Sürücü koltuğunda olmak

işi keyfinize göre üç kez bile kontrol edebileceğiniz

to be in this manager's position where you can, if you want,

bu yönetici pozisyonunda olmak çok daha eğlenceli.

triple-check the work.

And out come citations

Alıntılar ortaya çıkıyor,

so you can actually go

böylece aslında gidip

and very easily verify any piece of this whole chain of reasoning.

tüm bu mantık zincirinin herhangi bir parçasını kolayca doğrulayabilirsiniz.

And it actually turns out two months was wrong.

Aslında iki ayın yanlış olduğu ortaya çıktı.

Two months and one week,

İki ay ve bir hafta,

that was correct.

doğru olan bu.

(Applause)

(Alkış)

And we'll cut back to the side.

Slayta dönelim.

And so thing that's so interesting to me about this whole process

Tüm bu süreçte benim için en ilginç olan şey,

is that it’s this many-step collaboration between a human and an AI.

bunun bir insan ile yapay zeka arasındaki çok adımlı bir işbirliği olması.

Because a human, using this fact-checking tool

Çünkü bu kontrol aracını kullanan biri,

is doing it in order to produce data

bunu başka bir yapay zekanın

for another AI to become more useful to a human.

bir insana daha faydalı olabilmesi için veri üretmek amacıyla yapıyor.

And I think this really shows the shape of something

Bence bu, gelecekte çok daha yaygın olmasını beklememiz gereken,

that we should expect to be much more common in the future,

insanların ve makinelerin bir soruna nasıl uyduklarını

where we have humans and machines kind of very carefully

ve bu sorunu nasıl çözmek istediğimizi çok dikkatli

and delicately designed in how they fit into a problem

ve hassas bir şekilde tasarladığımız

and how we want to solve that problem.

bir şeyin şeklini gösteriyor.

We make sure that the humans are providing the management, the oversight,

İnsanların yönetimi, gözetimi ve geri bildirimi sağladığından

the feedback,

ve makinelerin denetlenebilir

and the machines are operating in a way that's inspectable

ve güvenilir bir şekilde çalıştığından

and trustworthy.

emin oluyoruz.

And together we're able to actually create even more trustworthy machines.

Birlikte aslında daha da güvenilir makineler yaratabiliyoruz.

Bu süreci doğru bir şekilde yürütürsek,

And I think that over time, if we get this process right,

zaman içinde imkansız sorunları çözebileceğimizi düşünüyorum.

we will be able to solve impossible problems.

And to give you a sense of just how impossible I'm talking,

Ne kadar imkansız bir şeyden bahsettiğimi anlamanız için,

I think we're going to be able to rethink almost every aspect

bilgisayarlarla etkileşimimizin neredeyse her yönünü

of how we interact with computers.

yeniden düşünebileceğimizi düşünüyorum.

For example, think about spreadsheets.

Örneğin, hesap tablolarını düşünün.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

O zamandan beri bir şekilde varlar, 40 yıl önce VisiCalc ile diyelim.

I don't think they've really changed that much in that time.

Bu süre içinde çok fazla değiştiklerini sanmıyorum.

And here is a specific spreadsheet of all the AI papers on the arXiv

İşte son 30 yılda arXiv’deki tüm yapay zeka makalelerinin

for the past 30 years.

bir tablosu.

There's about 167,000 of them.

Yaklaşık 167,000 tane var.

And you can see there the data right here.

Verileri burada görebilirsiniz.

But let me show you the ChatGPT take on how to analyze a data set like this.

Ancak size ChatGPT’nin böyle bir veri setini nasıl analiz edeceğini göstereyim.

So we can give ChatGPT access to yet another tool,

ChatGPT’ye başka bir araca erişim verebiliriz,

this one a Python interpreter,

bu bir Python yorumlayıcısı,

so it’s able to run code, just like a data scientist would.

böylece tıpkı bir veri bilimcisinin yapacağı gibi kod çalıştırabilir.

And so you can just literally upload a file

Yani tam olarak bir dosya yükleyebilir

and ask questions about it.

ve sorular sorabilirsiniz.

And very helpfully, you know, it knows the name of the file and it's like,

Çok yardımcı bir şekilde, bilirsiniz, dosyanın adını bilir ve

"Oh, this is CSV," comma-separated value file,

“Oh, bu CSV,” virgülle ayrılmış değer dosyası,

"I'll parse it for you."

“Sizin için ayrıştıracağım.”

The only information here is the name of the file,

Buradaki tek bilgi dosyanın adı,

the column names like you saw and then the actual data.

gördüğünüz gibi sütun adları ve ardından gerçek verilerdir.

And from that it's able to infer what these columns actually mean.

Buradan, bu sütunların gerçekte ne anlama geldiği çıkarılabilir.

Like, that semantic information wasn't in there.

Sanki o anlamsal bilgi orada yokmuş gibi.

It has to sort of, put together its world knowledge of knowing that,

“Evet, arXiv insanların makale gönderdiği bir site ve bu nedenle

“Oh yeah, arXiv is a site that people submit papers

bu şeylerin ne olduğu ve bunların tamsayı olduğu

and therefore that's what these things are and that these are integer values

ve bu nedenle makaledeki yazar sayısı olduğu”

and so therefore it's a number of authors in the paper,"

bilgisini bir araya getirmek zorundadır.

tüm bunlar gibi, bunu da bir insanın yapması gerekir

like all of that, that’s work for a human to do,

ve AI bu konuda yardımcı olmaktan mutluluk duyar.

and the AI is happy to help with it.

Now I don't even know what I want to ask.

Şimdi ne sormak istediğimi bile bilmiyorum.

So fortunately, you can ask the machine,

Neyse ki, makineye

“Bazı keşif grafikleri yapabilir misin?” diye sorabilirsiniz.

"Can you make some exploratory graphs?"

And once again, this is a super high-level instruction with lots of intent behind it.

Bir kez daha, bu, arkasında çok fazla niyet olan süper üst düzey bir talimattır.

But I don't even know what I want.

Ama ben ne istediğimi bile bilmiyorum.

And the AI kind of has to infer what I might be interested in.

AI da neyle ilgilenebileceğime dair bir çıkarım yapmak zorunda.

And so it comes up with some good ideas, I think.

Bence bazı iyi fikirler ortaya çıkıyor.

So a histogram of the number of authors per paper,

Yani makale başına yazar sayısı histogramı,

time series of papers per year, word cloud of the paper titles.

yıl başına makale zaman serisi, makale başlıklarının kelime bulutu.

All of that, I think, will be pretty interesting to see.

Sanırım tüm bunları görmek oldukça ilginç olacak.

And the great thing is, it can actually do it.

Harika olan şey, bunu gerçekten yapabiliyor olması.

Here we go, a nice bell curve.

İşte başlıyoruz, güzel bir çan eğrisi.

You see that three is kind of the most common.

Üçün en yaygın olanı olduğunu görüyorsunuz.

It's going to then make this nice plot of the papers per year.

Daha sonra her yıl gazetelerin bu güzel grafiğini oluşturacak.

Something crazy is happening in 2023, though.

Yine de 2023′te çılgınca bir şey oluyor.

Looks like we were on an exponential and it dropped off the cliff.

Görünüşe göre üstel bir seyir izliyorduk ve uçurumdan düştük.

What could be going on there?

Orada neler oluyor olabilir?

By the way, all this is Python code, you can inspect.

Bu arada, tüm bunlar Python kodu, inceleyebilirsiniz.

And then we'll see word cloud.

Sonra kelime bulutunu göreceğiz.

So you can see all these wonderful things that appear in these titles.

Böylece bu başlıklarda görünen tüm bu harika şeyleri görebilirsiniz.

But I'm pretty unhappy about this 2023 thing.

Ama şu 2023 meselesi beni çok mutsuz ediyor.

It makes this year look really bad.

Bu yılı gerçekten kötü gösteriyor.

Of course, the problem is that the year is not over.

Tabii ki sorun, yılın henüz bitmemiş olması.

So I'm going to push back on the machine.

Bu yüzden makineyi geri iteceğim.

[Waitttt that's not fair!!!

[Bekle bu adil değil!!!

2023 isn't over.

2023 daha bitmedi.

What percentage of papers in 2022 were even posted by April 13?]

2022′deki makalelerin yüzde kaçı 13 Nisan’a kadar gönderildi?]

So April 13 was the cut-off date I believe.

Sanırım 13 Nisan son tarihti.

Can you use that to make a fair projection?

Bunu adil bir projeksiyon yapmak için kullanabilir misiniz?

So we'll see, this is the kind of ambitious one.

Göreceğiz, bu iddialı bir tür.

(Laughter)

(Gülüşmeler)

So you know,

Yani yine

again, I feel like there was more I wanted out of the machine here.

makineden istediğim daha fazla şey varmış gibi hissediyorum.

I really wanted it to notice this thing,

Bu şeyi fark etmesini gerçekten istedim,

maybe it's a little bit of an overreach for it

belki de sihirli bir şekilde istediğimin

to have sort of, inferred magically that this is what I wanted.

bu olduğu sonucuna varması biraz abartılı olabilir.

But I inject my intent,

Ancak niyetimi enjekte ediyorum,

I provide this additional piece of, you know, guidance.

bu ek parçayı, bilirsiniz, rehberlik ediyorum.

And under the hood,

Kaputun altında,

the AI is just writing code again, so if you want to inspect what it's doing,

AI sadece tekrar kod yazıyor, bu yüzden ne yaptığını incelemek istiyorsanız,

it's very possible.

bu çok mümkün.

And now, it does the correct projection.

Şimdi, doğru projeksiyonu yapıyor.

(Applause)

(Alkışlar)

If you noticed, it even updates the title.

Fark ettiyseniz, başlığı bile güncelliyor.

I didn't ask for that, but it know what I want.

Bunu ben istemedim, ama ne istediğimi biliyorum.

Now we'll cut back to the slide again.

Şimdi tekrar slayta döneceğiz.

This slide shows a parable of how I think we ...

Bu slaytta bir benzetme gösterilmektedir nasıl düşündüğümüzü...

A vision of how we may end up using this technology in the future.

Gelecekte bu teknolojiyi nasıl kullanabileceğimize dair bir vizyon.

A person brought his very sick dog to the vet,

Bir kişi çok hasta olan köpeğini veterinere getirmiş

and the veterinarian made a bad call to say, “Let’s just wait and see.”

ve veteriner kötü bir karar vererek “Bekleyelim ve görelim” demiş.

And the dog would not be here today had he listened.

Dinlemiş olsaydı köpek bugün burada olmazdı.

In the meanwhile, he provided the blood test,

Bu arada, GPT-4′e kan testini,

like, the full medical records, to GPT-4,

yani tüm tıbbi kayıtları verdi ve

which said, "I am not a vet, you need to talk to a professional,

“Ben veteriner değilim, bir profesyonelle konuşmanız gerekiyor,

here are some hypotheses."

işte bazı hipotezler” dedi.

He brought that information to a second vet

Bu bilgiyi köpeğin hayatını kurtarmak için kullanan

who used it to save the dog's life.

ikinci bir veterinere götürdü.

Now, these systems, they're not perfect.

Şimdi, bu sistemler mükemmel değil.

You cannot overly rely on them.

Onlara fazla güvenemezsiniz.

But this story, I think, shows

Ama bence bu hikaye,

that a human with a medical professional

bir tıp uzmanıyla ve beyin fırtınası

and with ChatGPT as a brainstorming partner

ortağı olarak ChatGPT ile bir insanın,

başka türlü gerçekleşmeyecek bir sonuca ulaşabildiğini gösteriyor.

was able to achieve an outcome that would not have happened otherwise.

I think this is something we should all reflect on,

Bence bu, bu sistemleri dünyamıza nasıl entegre edeceğimizi düşünürken

think about as we consider how to integrate these systems

hepimizin üzerinde düşünüp, kafa yorması gereken bir konu.

into our world.

And one thing I believe really deeply,

Gerçekten derinden inandığım bir şey varsa

is that getting AI right is going to require participation from everyone.

o da AI’ı doğru şekilde kullanmanın herkesin katılımını gerektireceğidir.

And that's for deciding how we want it to slot in,

Bu, nasıl yer almasını istediğimize karar vermek,

that's for setting the rules of the road,

yolun kurallarını belirlemek,

bir AI’ın ne yapıp ne yapmayacağını belirlemek içindir.

for what an AI will and won't do.

And if there's one thing to take away from this talk,

Bu konuşmadan çıkarılacak bir şey varsa,

it's that this technology just looks different.

o da bu teknolojinin farklı göründüğüdür.

Just different from anything people had anticipated.

İnsanların beklediğinden çok farklıydı.

And so we all have to become literate.

Bu yüzden hepimiz okuryazar olmak zorundayız.

And that's, honestly, one of the reasons we released ChatGPT.

Dürüst olmak gerekirse, ChatGPT’yi çıkarmamızın nedenlerinden biri de bu.

Together, I believe that we can achieve the OpenAI mission

Birlikte, yapay genel zekânın tüm insanlığa

of ensuring that artificial general intelligence

fayda sağlaması yönündeki OpenAI misyonunu

benefits all of humanity.

başarabileceğimize inanıyorum.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)

(Applause ends)

(Alkışlar sona erer)

Chris Anderson: Greg.

Chris Anderson: Greg.

Wow.

Vay canına.

I mean ...

Yani...

I suspect that within every mind out here

Buradaki her zihnin içinde bir sersemleme hissi

there's a feeling of reeling.

olduğundan şüpheleniyorum.

Like, I suspect that a very large number of people viewing this,

Sanırım bunu izleyen çok sayıda insan,

you look at that and you think, “Oh my goodness,

“Aman Tanrım, çalışma şeklimle ilgili

pretty much every single thing about the way I work, I need to rethink."

hemen hemen her şeyi yeniden düşünmem gerekiyor” diye düşünüyor.

Like, there's just new possibilities there.

Sanki orada yeni olasılıklar varmış gibi.

Am I right?

Haksız mıyım?

Who thinks that they're having to rethink the way that we do things?

İşleri yapma şeklimizi yeniden düşünmek zorunda olduklarını kim düşünüyor?

Yeah, I mean, it's amazing,

Evet, yani, bu harika,

but it's also really scary.

ama aynı zamanda gerçekten korkutucu.

So let's talk, Greg, let's talk.

Hadi konuşalım Greg, konuşalım.

I mean, I guess my first question actually is just

Sanırım ilk sorum

how the hell have you done this?

bunu nasıl başardığın olacak.

(Laughter)

(Gülüşmeler)

OpenAI has a few hundred employees.

OpenAI’nin birkaç yüz çalışanı var.

Google has thousands of employees working on artificial intelligence.

Google’ın yapay zeka üzerinde çalışan binlerce çalışanı var.

Why is it you who's come up with this technology

Neden dünyayı şok eden bu teknolojiyi

that shocked the world?

bulan sizsiniz?

Greg Brockman: I mean, the truth is,

Greg Brockman: Gerçek şu ki,

hepimiz devlerin omuzları üzerinde yükseliyoruz, buna şüphe yok.

we're all building on shoulders of giants, right, there's no question.

Hesaplamadaki ilerlemeye,

If you look at the compute progress,

algoritmik ilerlemeye, verideki ilerleye bakarsanız,

the algorithmic progress, the data progress,

bunların hepsi endüstri-çapında.

all of those are really industry-wide.

Ama bence OpenAI içinde,

But I think within OpenAI,

ilk günlerden itibaren çok bilinçli seçimler yaptık.

we made a lot of very deliberate choices from the early days.

İlki de gerçeklerle olduğu gibi yüzleşmekti.

And the first one was just to confront reality as it lays.

And that we just thought really hard about like:

Bu konuda gerçekten çok düşündük:

What is it going to take to make progress here?

Burada ilerleme kaydetmek için ne gerekiyor?

We tried a lot of things that didn't work, so you only see the things that did.

İşe yaramayan pek çok şey denedik, siz sadece işe yarayanları görüyorsunuz.

And I think that the most important thing has been to get teams of people

Bence en önemli şey, birbirinden çok farklı insanlardan oluşan ekiplerin

who are very different from each other to work together harmoniously.

uyumlu bir şekilde birlikte çalışmasını sağlamak oldu.

CA: Can we have the water, by the way, just brought here?

CA: Bu arada suyu buraya getirebilir miyiz?

I think we're going to need it, it's a dry-mouth topic.

Sanırım buna ihtiyacımız olacak, bu dili damağı kurutan bir konu.

But isn't there something also just about the fact

Ancak bu dil modellerinde, onlara yatırım yapmaya

that you saw something in these language models

ve onları büyütmeye devam ederseniz,

that meant that if you continue to invest in them and grow them,

bir noktada bir şeylerin ortaya çıkabileceği anlamına gelen

that something at some point might emerge?

bir şey görmüş olmanızla ilgili bir şey de yok mu?

GB: Yes.

GB: Evet.

And I think that, I mean, honestly,

Bence, yani, dürüst olmak gerekirse,

I think the story there is pretty illustrative, right?

bence buradaki hikaye oldukça açıklayıcı, değil mi?

I think that high level, deep learning,

Bence üst düzey, derin öğrenme,

her zaman olmak istediğimiz şeyin bu olduğunu biliyorduk,

like we always knew that was what we wanted to be,

was a deep learning lab, and exactly how to do it?

bir derin öğrenme labıydı.

Sanırım ilk günlerde bunu bilmiyorduk.

I think that in the early days, we didn't know.

Pek çok şey denedik

We tried a lot of things,

ve bir kişi Amazon incelemelerinde bir sonraki karakteri tahmin etmek için

and one person was working on training a model

bir modeli eğitmek üzerinde çalışıyordu

to predict the next character in Amazon reviews,

and he got a result where -- this is a syntactic process,

ve şöyle bir sonuç elde etti - bu sözdizimsel bir süreçtir,

you expect, you know, the model will predict where the commas go,

bilirsiniz, model virgüllerin nereye gideceğini,

isimlerin ve fiillerin nerede olduğunu tahmin eder.

where the nouns and verbs are.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Ama aslında bundan son teknoloji ürünü bir duygu analizi sınıflandırıcısı elde etti.

This model could tell you if a review was positive or negative.

Bu model size bir yorumun olumlu ya da olumsuz olduğunu söyleyebilir.

I mean, today we are just like, come on, anyone can do that.

Yani bugün, hadi ama, bunu herkes yapabilir diyoruz.

But this was the first time that you saw this emergence,

Ancak bu ortaya çıkışı, bu altta yatan sözdizimsel süreçten

this sort of semantics that emerged from this underlying syntactic process.

ortaya çıkan bu tür bir anlambilimi ilk kez gördünüz.

And there we knew, you've got to scale this thing,

O zaman anladık ki, bu şeyi ölçeklendirmeli

you've got to see where it goes.

ve nereye gittiğini görmeliyiz.

CA: So I think this helps explain

CA: Sanırım bu,

bu konuya bakan herkesi şaşırtan bilmeceyi açıklamaya yardımcı oluyor,

the riddle that baffles everyone looking at this,

because these things are described as prediction machines.

çünkü bu şeyler tahmin makineleri olarak tanımlanıyor.

And yet, what we're seeing out of them feels ...

Yine de, onlardan gördüğümüz şey...

it just feels impossible that that could come from a prediction machine.

bunun bir tahmin makinesinden gelmesi imkansız gibi geliyor.

Just the stuff you showed us just now.

Az önce bize gösterdiğin şeyler.

And the key idea of emergence is that when you get more of a thing,

Ortaya çıkışın ana fikri, bir şeyden daha fazla elde ettiğinizde,

suddenly different things emerge.

aniden farklı şeylerin ortaya çıkmasıdır.

It happens all the time, ant colonies, single ants run around,

Bu her zaman olur, karınca kolonileri, tek tek karıncalar etrafta dolaşır,

when you bring enough of them together,

yeterince karıncayı bir araya getirdiğinizde,

you get these ant colonies that show completely emergent, different behavior.

farklı davranışlar gösteren bu karınca kolonilerini elde edersiniz.

Or a city where a few houses together, it's just houses together.

Ya da birkaç evin bir arada olduğu bir şehir, sadece evlerdir.

But as you grow the number of houses,

Ancak konut sayısı arttıkça,

things emerge, like suburbs and cultural centers and traffic jams.

banliyöler, kültür merkezleri ve trafik gibi şeyler ortaya çıkar.

Give me one moment for you when you saw just something pop

Hiç beklemediğiniz bir anda aklınızı başınızdan alan

that just blew your mind

bir şeyin ortaya çıktığını

that you just did not see coming.

gördüğünüz bir anınızı anlatın.

GB: Yeah, well,

GB: Evet,

so you can try this in ChatGPT, if you add 40-digit numbers --

bunu ChatGPT’de deneyebilirsiniz, eğer 40 basamaklı sayılar eklerseniz --

CA: 40-digit?

CA: 40 haneli mi?

GB: 40-digit numbers, the model will do it,

GB: 40 basamaklı sayılar, model bunu yapacaktır,

which means it's really learned an internal circuit for how to do it.

bu da nasıl yapılacağına dair gerçekten bir iç devre öğrendiği anlamına gelir.

And the really interesting thing is actually,

Asıl ilginç olan ise,

if you have it add like a 40-digit number plus a 35-digit number,

40 basamaklı bir sayı ile 35 basamaklı bir sayıyı toplatırsanız,

it'll often get it wrong.

genellikle yanlış yapar.

And so you can see that it's really learning the process,

Böylece süreci gerçekten öğrendiğini görebilirsiniz,

but it hasn't fully generalized, right?

ancak tam olarak genelleşmedi, değil mi?

It's like you can't memorize the 40-digit addition table,

Bu, 40 basamaklı toplama tablosunu ezberleyememek gibi bir şey,

that's more atoms than there are in the universe.

bu da evrendeki atom sayısından daha fazladır.

So it had to have learned something general,

Yani genel bir şey öğrenmiş olmalı,

but that it hasn't really fully yet learned that,

ancak henüz tam olarak şunu öğrenmemiş olmalı:

Oh, I can sort of generalize this to adding arbitrary numbers

Bunu rastgele uzunluktaki, rastgele sayıları

of arbitrary lengths.

toplamak için genelleştirebilirim.

CA: So what's happened here

CA: Yani burada olan şey,

is that you've allowed it to scale up

ölçeklenmesine

ve inanılmaz sayıda metin parçasına bakmasına izin verdiniz.

and look at an incredible number of pieces of text.

And it is learning things

Öğrenebileceğini bilmediğiniz şeyleri öğreniyor.

that you didn't know that it was going to be capable of learning.

GB Well, yeah, and it’s more nuanced, too.

GB: Evet, ayrıca daha incelikli bir konu.

So one science that we’re starting to really get good at

Gerçekten iyi olmaya başladığımız bir bilim dalı,

ortaya çıkan bu yeteneklerden bazılarını tahmin etmektir.

is predicting some of these emergent capabilities.

And to do that actually,

Bunu yapmak için,

one of the things I think is very undersung in this field

bu alanda çok az önemsendiğini düşündüğüm şeylerden biri de

is sort of engineering quality.

mühendislik kalitesidir.

Like, we had to rebuild our entire stack.

Tüm yığınımızı yeniden inşa etmek zorunda kaldık.

When you think about building a rocket,

Bir roket inşa etmeyi düşündüğünüzde,

every tolerance has to be incredibly tiny.

her toleransın inanılmaz küçük olması gerekir.

Same is true in machine learning.

Aynı şey makine öğrenmesinde de geçerlidir.

You have to get every single piece of the stack engineered properly,

Yığının her bir parçasını düzgün tasarlamanız gerekir

and then you can start doing these predictions.

ve sonra tahminleri yapmaya başlayabilirsiniz.

There are all these incredibly smooth scaling curves.

Tüm bu yumuşak ölçeklendirme eğrileri var.

They tell you something deeply fundamental about intelligence.

Size zeka hakkında son derece temel bir şey söylüyorlar.

If you look at our GPT-4 blog post,

GPT-4 blog yazımıza bakarsanız,

you can see all of these curves in there.

tüm bu eğrileri orada görebilirsiniz.

And now we're starting to be able to predict.

Şimdi tahmin edebilmeye başlıyoruz.

So we were able to predict, for example, the performance on coding problems.

Böylece, örneğin kodlama problemlerindeki performansı tahmin edebildik.

We basically look at some models

Temelde 10.000 kat veya 1.000 kat daha küçük olan

that are 10,000 times or 1,000 times smaller.

bazı modellere bakıyoruz.

And so there's something about this that is actually smooth scaling,

Dolayısıyla, henüz erken olmasına rağmen, bu konuda gerçekten de

even though it's still early days.

sorunsuz ölçeklendirilebilecek bir şey var.

CA: So here is, one of the big fears then,

CA: O halde en büyük korkulardan biri de

that arises from this.

buradan kaynaklanıyor.

If it’s fundamental to what’s happening here,

Burada olan şey temelde buysa,

that as you scale up,

ölçeği büyüttükçe,

things emerge that

belki belli bir güven seviyesinde

you can maybe predict in some level of confidence,

tahmin edebileceğiniz şeyler ortaya çıkar,

but it's capable of surprising you.

ancak bu sizi şaşırtabilir.

Why isn't there just a huge risk of something truly terrible emerging?

Neden gerçekten korkunç bir şeyin ortaya çıkması gibi büyük bir risk yok?

GB: Well, I think all of these are questions of degree

GB: Bence bunların hepsi derece, ölçek

and scale and timing.

ve zamanlama ile ilgili sorular.

And I think one thing people miss, too,

Bence insanların gözden kaçırdığı,

is sort of the integration with the world is also this incredibly emergent,

dünya ile bütünleşmenin aynı zamanda inanılmaz derecede ortaya çıkan,

sort of, very powerful thing too.

çok güçlü bir şey olduğu.

And so that's one of the reasons that we think it's so important

Aşamalı olarak dağıtımın çok önemli olduğunu düşünmemizin

to deploy incrementally.

nedenlerinden biri de bu.

And so I think that what we kind of see right now, if you look at this talk,

Bence şu anda gördüğümüz şey, bu konuşmaya bakarsanız,

a lot of what I focus on is providing really high-quality feedback.

odaklandıklarımın yüksek kaliteli geri bildirim olduğunu görürsünüz.

Today, the tasks that we do, you can inspect them, right?

Bugün, yaptığımız işleri denetleyebiliyorsunuz, değil mi?

It's very easy to look at that math problem and be like, no, no, no,

Bu matematik problemine bakıp, hayır, hayır, hayır,

makine, doğru cevap yediydi demek çok kolay.

machine, seven was the correct answer.

But even summarizing a book, like, that's a hard thing to supervise.

Ama bir kitabı özetlemek bile denetlemesi zor bir şey.

Like, how do you know if this book summary is any good?

Mesela, bu kitap özeti iyi mi değil mi nereden biliyorsun?

You have to read the whole book.

Bütün kitabı okumalısın.

No one wants to do that.

Kimse bunu yapmak istemiyor.

(Laughter)

(Kahkaha)

And so I think that the important thing will be that we take this step by step.

Bu nedenle önemli olanın bunu adım adım gerçekleştirmemiz olduğunu düşünüyorum.

And that we say, OK, as we move on to book summaries,

Biz de tamam diyoruz, kitap özetlerine geçerken,

we have to supervise this task properly.

bu görevi düzgün denetlemeliyiz.

We have to build up a track record with these machines

Bu makinelerin amacımızı gerçekten

yerine getirebildiklerine dair bir sicil oluşturmamız gerekiyor.

that they're able to actually carry out our intent.

And I think we're going to have to produce even better, more efficient,

Bence bunu ölçeklendirmek için daha da iyi, daha verimli,

daha güvenilir yollar üretmemiz gerekecek,

more reliable ways of scaling this,

bir nevi makinenin sizinle aynı hizada olmasını sağlamak gibi.

sort of like making the machine be aligned with you.

CA: So we're going to hear later in this session,

CA: Bu oturumun ilerleyen bölümlerinde duyacağımız üzere,

there are critics who say that,

you know, there's no real understanding inside,

içeride gerçek bir anlayış olmadığını,

sistemin her zaman hata üretmeyeceğini,

the system is going to always --

sağduyulu olmadığını

we're never going to know that it's not generating errors,

ve benzeri şeyleri asla bilemeyeceğimizi

that it doesn't have common sense and so forth.

söyleyen eleştirmenler var.

Is it your belief, Greg, that it is true at any one moment,

Greg, bunun herhangi bir anda doğru olduğuna,

but that the expansion of the scale and the human feedback

ancak ölçeğin genişlemesinin ve bahsettiğin geri bildirimin

that you talked about is basically going to take it on that journey

temelde onu hakikat, bilgelik

of actually getting to things like truth and wisdom and so forth,

ve benzeri şeylere yüksek derecede güvenle

ulaşma yolculuğuna çıkaracağına inanıyor musun?

with a high degree of confidence.

Can you be sure of that?

Bundan emin olabilir misiniz?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

GB: Evet, bence OpenAI, yani kısa cevap evet,

I believe that is where we're headed.

gittiğimiz yerin bu olduğuna inanıyorum.

And I think that the OpenAI approach here has always been just like,

Bence OpenAI’nin buradaki yaklaşımı hep “Bırakın gerçeklik yüzünüze çarpsın”

let reality hit you in the face, right?

şeklinde olmuştur, değil mi?

It's like this field is the field of broken promises,

Sanki bu alan tutulmayan sözlerin,

of all these experts saying X is going to happen, Y is how it works.

X olacak, Y böyle işliyor diyen uzmanların alanı gibi.

People have been saying neural nets aren't going to work for 70 years.

İnsanlar 70 yıldır sinir ağlarının işe yaramayacağını söylüyor.

They haven't been right yet.

Henüz haklı çıkmadılar.

They might be right maybe 70 years plus one

Haklı olabilirler,

belki 70 yıl sonra ya da onun gibi bir şey.

or something like that is what you need.

But I think that our approach has always been,

Ama bence bizim yaklaşımımız her zaman şu olmuştur:

you've got to push to the limits of this technology

Bu teknolojiyi iş başında görmek için sınırlarını zorlamalısınız,

to really see it in action,

çünkü bu size o zaman,

because that tells you then, oh, here's how we can move on to a new paradigm.

ah, işte yeni bir paradigmaya nasıl geçebileceğimizi söyler.

And we just haven't exhausted the fruit here.

Buradaki meyveleri henüz tüketmedik.

CA: I mean, it's quite a controversial stance you've taken,

CA: Demek istediğim, bunu yapmanın doğru yolunun

that the right way to do this is to put it out there in public

halka açık bir şekilde ortaya koymak

ve daha sonra tüm bunları kullanmak olduğu konusunda

and then harness all this, you know,

oldukça tartışmalı bir duruş sergilediniz, bilirsiniz,

instead of just your team giving feedback,

the world is now giving feedback.

sadece ekibiniz değil dünya artık geri bildirim veriyor.

But ...

Ama ...

If, you know, bad things are going to emerge,

Eğer, biliyorsunuz, kötü şeyler ortaya çıkacak

it is out there.

zaten orada.

So, you know, the original story that I heard on OpenAI

OpenAI hakkında duyduğum ilk hikaye,

kar amacı gütmeyen bir kuruluş olarak kurulduğunuzda,

when you were founded as a nonprofit,

well you were there as the great sort of check on the big companies

büyük şirketlerin yapay zeka ile ilgili bilinmeyen,

doing their unknown, possibly evil thing with AI.

muhtemelen şeytani şeyleri yapmalarının önünde bir kontrol olarak oradaydınız.

And you were going to build models that sort of, you know,

Bir şekilde onları sorumlu tutacak

somehow held them accountable

ve gerektiğinde sahayı yavaşlatabilecek

and was capable of slowing the field down, if need be.

modeller inşa edecektiniz.

Or at least that's kind of what I heard.

Ya da en azından ben öyle duydum.

And yet, what's happened, arguably, is the opposite.

Oysa olan şey, tartışmalı bir şekilde, bunun tam tersidir.

That your release of GPT, especially ChatGPT,

GPT’yi, özellikle de ChatGPT’yi piyasaya sürmeniz

teknoloji dünyasında öyle bir şok etkisi yarattı ki,

sent such shockwaves through the tech world

that now Google and Meta and so forth are all scrambling to catch up.

şimdi Google, Meta ve diğerlerinin hepsi bunu yakalamak için çabalıyor.

And some of their criticisms have been,

Eleştirilerinden bazıları da şu oldu:

you are forcing us to put this out here without proper guardrails or we die.

Bizi bunu uygun korkuluklar olmadan buraya koymaya zorluyorsunuz yoksa ölürüz.

You know, how do you, like,

Bilirsiniz, burada yaptığınız şeyin

make the case that what you have done is responsible here and not reckless.

pervasızca değil de sorumlu bir şekilde yapıldığını nasıl savunursunuz?

GB: Yeah, we think about these questions all the time.

GB: Evet, bu soruları her zaman düşünüyoruz.

Like, seriously all the time.

Yani, cidden her zaman.

And I don't think we're always going to get it right.

Bunu her zaman doğru yapabileceğimizi sanmıyorum.

But one thing I think has been incredibly important,

Ama bence en başından beri,

yapay genel zekayı nasıl inşa edeceğimizi,

from the very beginning, when we were thinking

aslında tüm insanlığa nasıl fayda sağlayacağını düşündüğümüzde,

about how to build artificial general intelligence,

actually have it benefit all of humanity,

bunu nasıl yapacağımızı düşünmek

like, how are you supposed to do that, right?

inanılmaz derecede önemliydi, değil mi?

And that default plan of being, well, you build in secret,

Bu varsayılan plan, gizlice inşa edersiniz,

you get this super powerful thing,

bu süper güçlü şeyi elde edersiniz

ve sonra bunun güvenliğini çözersiniz

and then you figure out the safety of it and then you push “go,”

ve sonra “başlat” düğmesine basar ve doğru yaptığınızı umarsınız.

and you hope you got it right.

O planı nasıl uygulayacağımı bilmiyorum.

I don't know how to execute that plan.

Maybe someone else does.

Belki başka biri biliyordur.

But for me, that was always terrifying, it didn't feel right.

Ama benim için bu her zaman korkutucuydu, doğru gelmiyordu.

And so I think that this alternative approach

Bence bu alternatif yaklaşım

is the only other path that I see,

benim gördüğüm diğer tek yol,

which is that you do let reality hit you in the face.

yani gerçekliğin yüzünüze çarpmasına izin vermeniz.

And I think you do give people time to give input.

İnsanlara görüşlerini bildirmeleri için zaman tanımanız.

You do have, before these machines are perfect,

Bu makineler mükemmel olmadan önce,

before they are super powerful, that you actually have the ability

süper güçlü olmadan önce, onları gerçekten çalışırken

to see them in action.

görme olanağına sahipsiniz.

And we've seen it from GPT-3, right?

Bunu GPT-3′te gördük, değil mi?

GPT-3, we really were afraid

GPT-3, insanların bununla yapacakları ilk şeyin

that the number one thing people were going to do with it

yanlış bilgi üretmek ve seçimleri etkilemeye çalışmak

was generate misinformation, try to tip elections.

olacağından gerçekten korkuyorduk.

Instead, the number one thing was generating Viagra spam.

Onun yerine ilk yapılan Viagra spami üretmekti.

(Laughter)

(Gülüşmeler)

CA: So Viagra spam is bad, but there are things that are much worse.

CA: Viagra spam’i kötü ama çok daha kötü olan şeyler de var.

Here's a thought experiment for you.

İşte size bir düşünce deneyi.

Suppose you're sitting in a room,

Suppose you’re sitting in a room,

there's a box on the table.

there’s a box on the table.

You believe that in that box is something that,

O kutunun içinde öyle bir şey olduğuna inanıyorsunuz ki,

there's a very strong chance it's something absolutely glorious

çok güçlü bir ihtimalle ailenize ve herkese güzel hediyeler verecek

that's going to give beautiful gifts to your family and to everyone.

kesinlikle muhteşem bir şey olacak.

But there's actually also a one percent thing in the small print there

Ama aslında orada küçük puntolarla

“Pandora” yazan yüzde birlik bir şey de var.

that says: “Pandora.”

And there's a chance

Bunun aslında

that this actually could unleash unimaginable evils on the world.

dünyaya hayal bile edilemeyecek kötülükler getirme ihtimali var.

Do you open that box?

O kutuyu açar mısın?

GB: Well, so, absolutely not.

GB: Yani, kesinlikle hayır.

I think you don't do it that way.

Onu o şekilde yapmayacağını düşünmüyorum.

And honestly, like, I'll tell you a story that I haven't actually told before,

Dürüst olmak gerekirse, size daha önce anlatmadığım bir hikaye anlatacağım;

OpenAI’yi başlattıktan kısa bir süre sonra,

which is that shortly after we started OpenAI,

I remember I was in Puerto Rico for an AI conference.

bir yapay zeka konferansı için Porto Riko’da olduğumu hatırlıyorum.

I'm sitting in the hotel room just looking out over this wonderful water,

Otel odasında oturmuş bu harika suya bakıyorum,

all these people having a good time.

tüm bu insanlar iyi vakit geçiriyor.

And you think about it for a moment,

Bir an için düşünün,

if you could choose for basically that Pandora’s box

eğer Pandora’nın kutusunun

to be five years away

beş yıl ya da

500 yıl uzakta olmasını seçebilseydiniz,

or 500 years away,

which would you pick, right?

hangisini seçerdiniz, değil mi?

On the one hand you're like, well, maybe for you personally,

Bir yandan, belki de kişisel olarak sizin için

it's better to have it be five years away.

beş yıl uzakta olması daha iyidir dersiniz.

But if it gets to be 500 years away and people get more time to get it right,

Ama eğer 500 yıl sonraysa ve insanlar doğruyu bulmak için

daha fazla zamana sahip olacaksa, hangisini seçersiniz?

which do you pick?

And you know, I just really felt it in the moment.

O anda bunu gerçekten hissettim.

I was like, of course you do the 500 years.

Ben de tabii ki 500 yıl derdim.

My brother was in the military at the time

Kardeşim o sırada ordudaydı

and like, he puts his life on the line in a much more real way

ve hayatını, bilgisayarda bir şeyler yazan

than any of us typing things in computers

ve o sırada bu teknolojiyi geliştiren

and developing this technology at the time.

herhangi birimizden çok daha gerçek bir şekilde ortaya koydu.

And so, yeah, I'm really sold on the you've got to approach this right.

Bu yüzden, bu konuya doğru yaklaşmanız gerektiği konusunda gerçekten ikna oldum.

But I don't think that's quite playing the field as it truly lies.

Ancak bunun sahayı gerçekte olduğu gibi oynamak olduğunu düşünmüyorum.

Like, if you look at the whole history of computing,

Bilgisayarın tüm tarihine bakarsanız,

I really mean it when I say that this is an industry-wide

bunun endüstri çapında

ya da hatta neredeyse teknolojinin insan gelişimi çapında

or even just almost like

a human-development- of-technology-wide shift.

bir değişim olduğunu söylerken gerçekten ciddiyim.

And the more that you sort of, don't put together the pieces

Ne kadar çok parçayı bir araya getirmezseniz,

that are there, right,

doğru,

hala daha hızlı bilgisayarlar yapıyoruz,

we're still making faster computers,

we're still improving the algorithms, all of these things, they are happening.

hala algoritmaları geliştiriyoruz, tüm bunlar oluyor.

And if you don't put them together, you get an overhang,

Eğer bunları bir araya getirmezseniz, bir çıkıntınız olur,

which means that if someone does,

yani eğer birisi bunu yaparsa

or the moment that someone does manage to connect to the circuit,

ya da birisi devreye bağlanmayı başardığı anda,

aniden çok güçlü bir şeye sahip olursunuz,

then you suddenly have this very powerful thing,

kimsenin uyum sağlamak için zamanı olmaz,

no one's had any time to adjust,

who knows what kind of safety precautions you get.

kim bilir ne tür güvenlik önlemleri alırsınız.

And so I think that one thing I take away

Sanırım buradan çıkardığım bir şey de,

is like, even you think about development of other sort of technologies,

diğer teknolojilerin gelişimini düşünseniz bile,

think about nuclear weapons,

nükleer silahları düşünün,

people talk about being like a zero to one,

insanlar insanların yapabilecekleri şeylerin

sort of, change in what humans could do.

sıfırdan bire değiştiğinden bahsediyor.

But I actually think that if you look at capability,

Ama aslında kapasiteye bakarsanız,

it's been quite smooth over time.

zaman içinde oldukça düzgün olduğunu düşünüyorum.

And so the history, I think, of every technology we've developed

Bence geliştirdiğimiz her teknolojinin tarihi,

has been, you've got to do it incrementally

bunu aşamalı olarak yapmanız

and you've got to figure out how to manage it

ve artırdığınız her an için

for each moment that you're increasing it.

bunu nasıl yöneteceğinizi bulmanız gerektiğidir.

CA: So what I'm hearing is that you ...

CA: Yani duyduğum kadarıyla siz...

the model you want us to have

sahip olmamızı istediğiniz model,

is that we have birthed this extraordinary child

insanlığı yepyeni bir yere taşıyacak

that may have superpowers

süper güçlere sahip olabilecek

that take humanity to a whole new place.

bu olağanüstü çocuğu doğurduğumuz.

It is our collective responsibility to provide the guardrails

Bu çocuğa hep birlikte bilge olmayı

ve hepimizi yıkmamayı öğretmek için

for this child

to collectively teach it to be wise and not to tear us all down.

korkuluklar sağlamak bizim ortak sorumluluğumuzdur.

Is that basically the model?

Temel model bu mu?

GB: I think it's true.

GB: Bence bu doğru.

And I think it's also important to say this may shift, right?

Bence bunun değişebileceğini söylemek de önemli, değil mi?

We've got to take each step as we encounter it.

Her adımı karşılaştığımız gibi atmalıyız.

And I think it's incredibly important today

Bence bugün hepimizin bu teknolojide okur-yazar olmamız,

that we all do get literate in this technology,

geri bildirimi nasıl sağlayacağımızı bulmamız

figure out how to provide the feedback,

ve bundan ne istediğimize karar vermemiz

decide what we want from it.

son derece önemli.

And my hope is that that will continue to be the best path,

Umudum bunun en iyi yol olmaya devam etmesi,

ancak dürüstçe bu tartışmayı yapıyor olmamız çok iyi

but it's so good we're honestly having this debate

because we wouldn't otherwise if it weren't out there.

çünkü aksi takdirde varolmasaydı bunu yapamazdık.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

CA: Greg Brockman, TED’e gelip aklımızı

başımızdan aldığınız için çok teşekkür ederiz.

(Applause)

(Alkışlar)