How to Keep AI Under Control | Max Tegmark | TED

Çeviri: Figen Ergürbüz Ekmekçi Gözden geçirme: Eren Gokce

Five years ago,

Beş yıl önce

I stood on the TED stage

TED sahnesindeydim

and warned about the dangers of superintelligence.

ve süper-zekânın tehlikeleri hakkında uyarı yaptım.

I was wrong.

Yanılmışım.

It went even worse than I thought.

Düşündüğümden daha bile kötü gitti.

(Laughter)

(Kahkahalar)

I never thought governments would let AI companies get this far

Hükûmetlerin, yapay zekâ şirketlerinin ciddi mevzuat olmaksızın

without any meaningful regulation.

bu kadar ileri gitmelerine izin vereceklerini hiç düşünmemiştim.

And the progress of AI went even faster than I predicted.

Ve yapay zekânın ilerlemesi tahmin ettiğimden daha hızlı gitti.

Look, I showed this abstract landscape of tasks

Bakın, yüksekliğin yapay zekânın bir görevi insan düzeyinde yapmasının

where the elevation represented how hard it was for AI

ne kadar zor olduğunu simgelediği

to do each task at human level.

bu soyut manzarayı göstermiştim.

And the sea level represented what AI could be back then.

Ve deniz seviyesi, o zamanlar yapay zekânın ne olabileceğini temsil ediyordu.

And boy or boy, has the sea been rising fast ever since.

Ve aman tanrım, deniz o zamandan beri hızla yükseliyor.

But a lot of these tasks have already gone blub blub blub blub blub blub.

Ancak bu görevlerin çoğu çoktan (blub blub blub blub blub) oldu.

And the water is on track to submerge all land,

Ve su, tüm araziyi kaplama ve insan zekâsıyla tüm bilişsel görevlerde

matching human intelligence at all cognitive tasks.

denk olma yolunda ilerliyor.

This is a definition of artificial general intelligence, AGI,

Bu OpenAI, Google DeepMind ve Anthropic

which is the stated goal of companies like OpenAI,

gibi şirketlerin belirlenmiş hedefi olan

“yapay genel zekâ”nın (YGZ) bir tanımıdır.

Google DeepMind and Anthropic.

And these companies are also trying to build superintelligence,

Ve bu şirketler aynı zamanda bir süper-zekâ oluşturarak

leaving human intelligence far behind.

insan zekâsını çok geride bırakmaya çalışıyor.

And many think it'll only be a few years, maybe, from AGI to superintelligence.

Ve birçok kişi, YGZ’den süper-zekâya sadece birkaç yılda geçeceğimize inanıyor.

So when are we going to get AGI?

Peki YGZ’yi ne zaman başaracağız?

Well, until recently, most AI researchers thought it was at least decades away.

Yakın zamana kadar çoğu yapay zekâ araştırmacısı bunun

en az birkaç on yıl uzakta olduğunu düşünüyordu.

And now Microsoft is saying, "Oh, it's almost here."

Ve şimdi Microsoft diyor ki, “Neredeyse geldi.”

We're seeing sparks of AGI in ChatGPT-4,

ChatGPT-4′te YGZ kıvılcımları görüyoruz

and the Metaculus betting site is showing the time left to AGI

ve Metaculus bahis sitesi, YGZ’ye kalan sürenin

plummeting from 20 years away to three years away

son on sekiz ayda

yirmi yıldan üç yıla düştüğünü gösteriyor.

in the last 18 months.

And leading industry people are now predicting

Ve sektörden önemli isimler

that we have maybe two or three years left until we get outsmarted.

zekâmızın alt edilmesine iki veya üç yıl kaldığını tahmin ediyor.

So you better stop talking about AGI as a long-term risk,

Bu yüzden YGZ’den “uzun vadeli bir risk” olarak bahsetmeyi bıraksanız iyi olur

or someone might call you a dinosaur stuck in the past.

yoksa birisi size geçmişte kalmış bir dinozor diyebilir.

It's really remarkable how AI has progressed recently.

Yapay zekânın son zamanlarda nasıl ilerlediği gerçekten dikkat çekici.

Not long ago, robots moved like this.

Kısa bir süre önce robotlar böyle hareket ediyordu.

(Music)

(Müzik)

Now they can dance.

Artık dans edebiliyorlar.

(Music)

(Müzik)

Just last year, Midjourney produced this image.

Henüz geçen yıl Midjourney bu görüntüyü üretti.

This year, the exact same prompt produces this.

Bu yıl, tam olarak aynı komut bunu üretiyor.

Deepfakes are getting really convincing.

Deepfakeler gerçekten inandırıcı hâle geliyor.

(Video) Deepfake Tom Cruise: I’m going to show you some magic.

(Video) Deepfake Tom Cruise: Size bir sihir göstereceğim.

It's the real thing.

Gerçek olan bu.

(Laughs)

(Gülüyor)

I mean ...

Demek istediğim...

It's all ...

Hepsi...

the real ...

gerçek.

thing.

Max Tegmark: Or is it?

Max Tegmark: Ya da öyle mi?

And Yoshua Bengio now argues

Ve Yoshua Bengio şimdi büyük dil modellerinin

that large language models have mastered language

dilde ve bilgide Turing testini geçecek noktaya kadar

and knowledge to the point that they pass the Turing test.

uzmanlaştığını savunuyor.

I know some skeptics are saying,

Bazı şüphecilerin

"Nah, they're just overhyped stochastic parrots

“Hayır, onlar sadece dünya algısından yoksun aşırı abartılmış

that lack a model of the world,"

rastgele konuşan papağanlar” dediklerini biliyorum

but they clearly have a representation of the world.

ama açıkça dünyanın bir temsiline sahipler.

In fact, we recently found that Llama-2 even has a literal map of the world in it.

Hatta son zamanlarda Llama-2′nin içinde gerçek bir dünya haritası olduğunu gördük.

And AI also builds

Ayrıca yapay zekâ,

doğru ve yanlış olduğunu düşündüğü şeyler gibi daha soyut kavramların

geometric representations of more abstract concepts

like what it thinks is true and false.

geometrik gösterimlerini oluşturur.

So what's going to happen if we get AGI and superintelligence?

Peki YGZ ve süper-zekâyı ele geçirirsek ne olacak?

If you only remember one thing from my talk, let it be this.

Konuşmamdan sadece bir şeyi hatırlayacaksanız o da bu olsun.

AI godfather, Alan Turing predicted

Yapay zekânın babası Alan Turing,

that the default outcome is the machines take control.

varsayılan sonucun makinelerin kontrolü ele geçirmesi olduğunu tahmin etti.

The machines take control.

Makineler kontrolü ele geçiriyor.

I know this sounds like science fiction,

Bunun kulağa bilim kurgu gibi geldiğini biliyorum

but, you know, having AI as smart as GPT-4

ama GPT-4 kadar akıllı yapay zekâya sahip olmak da

also sounded like science fiction not long ago.

kısa bir süre önce bilim kurgu gibi geliyordu.

And if you think of AI,

Ve eğer yapay zekâyı düşünüyorsanız

if you think of superintelligence in particular, as just another technology,

özellikle de süper-zekâyı elektrik gibi

like electricity,

başka bir teknoloji olarak düşünüyorsanız

you're probably not very worried.

muhtemelen çok endişeli değilsiniz.

But you see,

Ama gördüğünüz gibi

Turing thinks of superintelligence more like a new species.

Turing süper-zekâyı daha çok yeni bir tür gibi düşünüyor.

Think of it,

Bir düşünün,

we are building creepy, super capable,

ürkütücü, süper yetenekli,

uyumayan ve bizden çok daha hızlı düşünen,

amoral psychopaths

that don't sleep and think much faster than us,

kendi kopyalarını üretebilen,

can make copies of themselves

hiçbir insani yanı bulunmayan

and have nothing human about them at all.

ahlaksız psikopatlar inşa ediyoruz.

So what could possibly go wrong?

Yani ne yanlış gidebilir ki?

(Laughter)

(Kahkahalar)

And it's not just Turing.

Ve bu sadece Turing değil.

OpenAI CEO Sam Altman, who gave us ChatGPT,

Bize ChatGPT’yi veren OpenAI CEO’su Sam Altman, geçtiğimiz günlerde

recently warned that it could be "lights out for all of us."

bunun “hepimiz için bir felaket olabileceği” konusunda uyardı.

Anthropic CEO, Dario Amodei, even put a number on this risk:

Antropik CEO’su Dario Amodei, bu riske bir oran bile koydu:

10-25 percent.

yüzde 10 ila 25.

And it's not just them.

Ve sadece onlar değil.

Human extinction from AI went mainstream in May

Yapay zekâ kaynaklı insan neslinin tükenmesi

when all the AGI CEOs and who's who of AI researchers

Mayıs ayında tüm YGZ CEO’ları ve saygın yapay zekâ araştırmacıları çıkıp

bu konuda uyarı yapınca ana akım oldu.

came on and warned about it.

And last month, even the number one of the European Union

Ve geçen ay, Avrupa Birliği’nin bir numarası bile yapay zekâ tarafından

warned about human extinction by AI.

insan neslinin tükenmesi konusunda uyardı.

So let me summarize everything I've said so far

Şimdiye kadar söylediğim her şeyi tek bir kedi mim slaytında özetleyeyim:

in just one slide of cat memes.

Three years ago,

Üç yıl önce

people were saying it's inevitable, superintelligence,

insanlar bunun -süper zekânın- kaçınılmaz olduğunu söylüyorlardı,

it'll be fine,

sorun yok

it's decades away.

daha on yıllar var.

Last year it was more like,

Geçen yıl daha ziyade şöyleydi:

It's inevitable, it'll be fine.

Bu kaçınılmaz, sorun yok iyi olacak.

Now it's more like,

Şimdi daha çok şöyle:

It's inevitable.

Bu kaçınılmaz.

(Laughter)

(Kahkahalar)

But let's take a deep breath and try to raise our spirits

Ama derin bir nefes alalım daha iyi hissetmeye

ve kendimizi neşelendirmeye çalışalım

and cheer ourselves up,

because the rest of my talk is going to be about the good news,

çünkü konuşmamın geri kalanında iyi haberler olacak,

that it's not inevitable, and we can absolutely do better,

bu kaçınılmaz değil ve kesinlikle daha iyisini yapabiliriz,

alright?

tamam mı?

(Applause)

(Alkış)

So ...

Yani...

The real problem is that we lack a convincing plan for AI safety.

Asıl sorun, yapay zekâ güvenliği için ikna edici bir planın olmamasıdır.

People are working hard on evals

İnsanlar, riskli yapay zekâ davranışları arayan

looking for risky AI behavior, and that's good,

değerlendirme algoritmaları üzerinde çok çalışıyorlar ve bu iyi

but clearly not good enough.

ama yeterince iyi olmadığı aşikâr.

They're basically training AI to not say bad things

Temelde yapay zekâyı kötü şeyler söylememesi için eğitiyorlar,

rather than not do bad things.

kötü şeyler yapmaması için değil.

Moreover, evals and debugging are really just necessary,

Dahası, değerlendirme ve hata ayıklama, güvenlik için gerekli

not sufficient, conditions for safety.

fakat yeterli olmayan koşullardır.

In other words,

Başka bir deyişle,

they can prove the presence of risk,

riskin varlığını kanıtlayabilirler

not the absence of risk.

yokluğunu değil.

So let's up our game, alright?

Hadi o zaman oyunumuzu geliştirelim.

Try to see how we can make provably safe AI that we can control.

Kontrol edebildiğimiz, kanıtlanabilir ölçüde güvenli

yapay zekâyı nasıl yapabileceğimizi anlamaya çalışın.

Guardrails try to physically limit harm.

Korkuluklar, zararı fiziksel olarak sınırlamaya çalışır.

But if your adversary is superintelligence

Ama düşmanınız süper zekâ

or a human using superintelligence against you, right,

veya size karşı süper zekâ kullanan bir insansa çabalamak yeterli değildir.

trying is just not enough.

You need to succeed.

Başarılı olmak zorundasın.

Harm needs to be impossible.

Zarar imkânsız olmalı.

So we need provably safe systems.

Bu yüzden bize güvenirliği kanıtlanabilir sistemler gerek.

Provable, not in the weak sense of convincing some judge,

Kanıtlanabilir derken, ”Bir hâkimi ikna etmek” gibi zayıf bir anlamda değil

but in the strong sense of there being something that's impossible

“fizik yasalarına göre imkânsız” gibi güçlü bir anlamda.

according to the laws of physics.

Because no matter how smart an AI is,

Çünkü bir yapay zekâ ne kadar akıllı olursa olsun

it can't violate the laws of physics and do what's provably impossible.

fizik yasalarını ihlal edemez ve mümkün olmayan bir şeyi yapamaz.

Steve Omohundro and I wrote a paper about this,

Steve Omohundro ve ben bununla ilgili bir makale yazdık

and we're optimistic that this vision can really work.

ve bu vizyonun gerçekten işe yarayabileceği konusunda iyimseriz.

So let me tell you a little bit about how.

Öyleyse size nasıl olduğundan biraz bahsedeyim:

There's a venerable field called formal verification,

Kodla ilgili şeyleri kanıtlayan “program doğrulama” adında saygın bir alan var.

which proves stuff about code.

And I'm optimistic that AI will revolutionize automatic proving business

Ayrıca yapay zekânın “otomatik kanıtlama” işinde

ve aynı zamanda program sentezinde, yani otomatik olarak çok iyi kod yazma işinde

and also revolutionize program synthesis,

the ability to automatically write really good code.

devrim yaratacağı konusunda iyimserim.

So here is how our vision works.

İşte vizyonumuzun işleyiş şekli:

You, the human, write a specification

Siz, bir insan olarak yapay zekâ aracınızın uyması gereken, doğru şifre

that your AI tool must obey,

olmadan laptopunuza giriş yapması imkânsız olan veya bir DNA yazıcısının

that it's impossible to log in to your laptop

without the correct password,

or that a DNA printer cannot synthesize dangerous viruses.

tehlikeli virüsleri sentezleyemeyeceği bir spesifikasyon yazıyorsunuz.

Then a very powerful AI creates both your AI tool

Ardından çok güçlü bir yapay zekâ, hem yapay zekâ aracınızı yaratır

and a proof that your tool meets your spec.

hem de aracınızın özelliklerinizi karşıladığına dair bir kanıt oluşturur.

Machine learning is uniquely good at learning algorithms,

Makine öğrenimi algoritmaları öğrenmede benzersiz bir şekilde iyidir

but once the algorithm has been learned,

ancak algoritma öğrenildikten sonra

you can re-implement it in a different computational architecture

doğrulanması daha kolay olan farklı bir hesaplama mimarisinde

that's easier to verify.

yeniden uygulayabilirsiniz.

Now you might worry,

Şimdi endişelenebilirsiniz, bu güçlü yapay zekâyı,

how on earth am I going to understand this powerful AI

onun yarattığı güçlü yapay zekâ aracını

and the powerful AI tool it built

ve de bunun kanıtını

and the proof,

nasıl anlayacağım,

if they're all too complicated for any human to grasp?

bütün bunlar insanın kavrayamayacağı kadar karmaşıksa?

Here is the really great news.

İşte gerçekten harika haber.

You don't have to understand any of that stuff,

Bunların hiçbirini anlamak zorunda değilsiniz

because it's much easier to verify a proof than to discover it.

çünkü bir kanıtı doğrulamak, onu keşfetmekten çok daha kolaydır.

So you only have to understand or trust your proof-checking code,

Bu nedenle, sadece birkaç yüz satır uzunluğunda olabilen

kontrol kodunuzu anlamanız veya ona güvenmeniz yeterlidir.

which could be just a few hundred lines long.

And Steve and I envision

Steve ve ben, bu tür ispat denetleyicilerinin

that such proof checkers get built into all our compute hardware,

tüm bilgi işlem donanımımıza yerleştirileceğini düşünüyoruz,

so it just becomes impossible to run very unsafe code.

bu yüzden çok güvenli olmayan kod çalıştırmak imkânsız hâle geliyor.

What if the AI, though, isn't able to write that AI tool for you?

Ya yapay zekâ, bu yapay zekâ aracını sizin için yazamazsa?

Then there's another possibility.

Sonra başka bir olasılık daha var.

You train an AI to first just learn to do what you want

Bir yapay zekâyı önce istediğinizi yapmayı öğrenmek için eğitiyorsunuz

and then you use a different AI

ve sonra öğrenilmiş algoritma ve bilgiyi

to extract out the learned algorithm and knowledge for you,

sizin için çıkarması için farklı bir yapay zekâ kullanıyorsunuz,

like an AI neuroscientist.

bir yapay zekâ sinir bilimci gibi.

This is in the spirit of the field of mechanistic interpretability,

Bu, gerçekten etkileyici hızla ilerleme kaydeden

which is making really impressive rapid progress.

mekanik yorumlanabilirlik alanının ruhunda var.

Provably safe systems are clearly not impossible.

Kanıtlanmış güvenli sistemler kesinlikle imkânsız değildir.

Let's look at a simple example

İlk önce verilerden bir algoritmayı makine öğrendiğimiz

of where we first machine-learn an algorithm from data

ve ardından onu spesifikasyona uygun bir kod biçiminde ayıkladığımız

and then distill it out in the form of code

basit bir örneğe bakalım, tamam mı?

that provably meets spec, OK?

Let’s do it with an algorithm that you probably learned in first grade,

Bunu muhtemelen birinci sınıfta öğrendiğiniz bir algoritma ile yapalım

addition,

artı

where you loop over the digits from right to left,

sayıları sağdan sola doğru döngülüyorsunuz

and sometimes you do a carry.

ve bazen bir taşıma yapıyorsunuz.

We'll do it in binary,

Sanki on yerine iki parmağınızla

as if you were counting on two fingers instead of ten.

sayıyormuşsunuz gibi ikili olarak yapacağız.

And we first train a recurrent neural network,

Ve önce tekrarlayan bir sinir ağını eğitiyoruz

never mind the details,

-ayrıntılara takılmayın-

to nail the task.

görevi başarıyla tamamlaması için.

So now you have this algorithm that you don't understand how it works

Şimdi bizim yazılımcı dilinde

parametre olarak adlandırdığımız

in a black box

defined by a bunch of tables of numbers that we, in nerd speak,

bir grup sayı tablosu tarafından tanımlanan bir kara kutuda

nasıl çalıştığını anlamadığınız bu algoritmaya sahipsiniz.

call parameters.

Then we use an AI tool we built to automatically distill out from this

Daha sonra öğrenilen algoritmayı Python programı biçiminde otomatik olarak

the learned algorithm in the form of a Python program.

ayıklamak için oluşturduğumuz bir yapay zekâ aracını kullanıyoruz.

And then we use the formal verification tool known as Daphne

Ardından, bu programın sadece eğitim verilerinizdeki sayıları değil,

to prove that this program correctly adds up any numbers,

herhangi bir sayıyı doğru şekilde topladığını kanıtlamak için

not just the numbers that were in your training data.

Dafny olarak bilinen resmi doğrulama aracını kullanıyoruz.

So in summary,

Özetle,

provably safe AI, I'm convinced is possible,

kanıtlanabilir şekilde güvenli yapay zekânın mümkün olduğuna ikna oldum

but it's going to take time and work.

ancak zaman ve emek gerekecek.

And in the meantime,

Ve bu arada

let's remember that all the AI benefits

çoğu insanın heyecan duyduğu

that most people are excited about

bütün bu yapay zekâ avantajlarının

actually don't require superintelligence.

aslında süper zekâ gerektirmediğini hatırlayalım.

We can have a long and amazing future with AI.

Yapay zekâ ile uzun ve şaşırtıcı bir geleceğimiz olabilir.

So let's not pause AI.

Bu yüzden yapay zekâyı duraklatmayalım.

Let's just pause the reckless race to superintelligence.

Süper zekâya giden pervasız yarışı duraklatalım.

Let's stop obsessively training ever-larger models

Anlamadığımız her zamankinden daha büyük modelleri

takıntılı bir şekilde eğitmeyi bırakalım.

that we don't understand.

Let's heed the warning from ancient Greece

Antik Yunan’dan gelen uyarıya kulak verelim

and not get hubris, like in the story of Icarus.

ve İkarus’un hikâyesindeki gibi kibirli olmayalım.

Because artificial intelligence

Çünkü yapay zekâ

is giving us incredible intellectual wings

saplantılı bir şekilde güneşe uçmaya çalışmayı bırakırsak

with which we can do things beyond our wildest dreams

entelektüel bakımdan en çılgın hayallerimizin bile ötesine

if we stop obsessively trying to fly to the sun.

uçmamızı sağlayacak inanılmaz kanatlar veriyor.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)