Don't fear superintelligent AI | Grady Booch

Çeviri: Enes Anbar Gözden geçirme: Cihan Ekmekçi

When I was a kid, I was the quintessential nerd.

Çocukken tam bir inektim.

I think some of you were, too.

Galiba bazılarınız da inektiniz.

(Laughter)

(Kahkaha)

And you, sir, who laughed the loudest, you probably still are.

Ve siz beyefendi, en sesli gülen, siz muhtemelen hala ineksiniz.

(Laughter)

(Kahkaha)

I grew up in a small town in the dusty plains of north Texas,

Kuzey Teksas'ın tozlu düz arazilerinde küçük bir kasabada büyüdüm.

the son of a sheriff who was the son of a pastor.

Babam şerif, büyükbabam ise bir papazdı.

Getting into trouble was not an option.

Başımı belaya sokmak hiç kaçınılmaz değildi.

And so I started reading calculus books for fun.

Bu yüzden öylesine matematik kitapları okumaya başladım.

(Laughter)

(Kahkaha)

You did, too.

Sen de okudun.

That led me to building a laser and a computer and model rockets,

Bu okumalar lazer, bilgisayar ve maket roketler yapmamı sağladı.

and that led me to making rocket fuel in my bedroom.

Bunlar ise roket yakıtı yapmamı sağladı.

Now, in scientific terms,

Şimdi, bilimsel olarak

we call this a very bad idea.

biz buna "çok kötü bir fikir" deriz.

(Laughter)

(Kahkaha)

Around that same time,

O zamanlarda,

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

Stanley Kubrick'in filmi "2001: Uzay Macerası" sinemalara gelmişti,

and my life was forever changed.

ve benim hayatım sonsuza kadar değişmişti.

I loved everything about that movie,

Bu filmi çok sevmiştim,

especially the HAL 9000.

özellikle HAL 9000'i.

Now, HAL was a sentient computer

HAL, uzay gemisi Keşif'i Dünya'dan

designed to guide the Discovery spacecraft

Jüpiter'e götürmek için tasarlanmış

from the Earth to Jupiter.

duyguları olan bir bilgisayar.

HAL was also a flawed character,

HAL ayrıca kusurlu bir karaktere sahip.

for in the end he chose to value the mission over human life.

Çünkü sonunda, görevi insan hayatına tercih etmişti.

Now, HAL was a fictional character,

HAL uydurma bir karakter,

but nonetheless he speaks to our fears,

ama yine de o korkularımızı simgeliyor,

our fears of being subjugated

İnsanlığımızı umursamayan

by some unfeeling, artificial intelligence

duygusuz bir yapay zeka tarafından

who is indifferent to our humanity.

kontrol altına alınma korkumuz.

I believe that such fears are unfounded.

Bu tür korkuların yersiz olduğuna inanıyorum.

Indeed, we stand at a remarkable time

Gerçekten de insan tarihinde

in human history,

olağanüstü bir zamandayız.

where, driven by refusal to accept the limits of our bodies and our minds,

Vücudumuzun ve aklımızın limitleri olduğunu kabul etmeyişimizle

we are building machines

Yaşam deneyimini

of exquisite, beautiful complexity and grace

hayallerin ötesinde geliştirecek

that will extend the human experience

üstün bir karmaşıklık ve zarafete sahip

in ways beyond our imagining.

makineler üretiyoruz.

After a career that led me from the Air Force Academy

Beni hava harp okulundan hava komutasına, oradan da

to Space Command to now,

şimdiye getiren kariyerden sonra

I became a systems engineer,

sistem mühendisi oldum.

and recently I was drawn into an engineering problem

Geçenlerde NASA'nın Mars göreviyle ilgili

associated with NASA's mission to Mars.

bir mühendislik probleminde yer aldım.

Now, in space flights to the Moon,

Ay'a giden uzay uçuşlarında

we can rely upon mission control in Houston

uçuşla ilgili her şeyde

to watch over all aspects of a flight.

Houston'daki görev merkezine bağlıyız.

However, Mars is 200 times further away,

Fakat, Mars 200 kat uzakta.

and as a result it takes on average 13 minutes

Sonuç olarak, bir sinyalin Dünya'dan Mars'a ulaşması

for a signal to travel from the Earth to Mars.

ortalama 13 dakika sürüyor.

If there's trouble, there's not enough time.

Bir sorun varsa, yeteri kadar zaman yok.

And so a reasonable engineering solution

Makul bir mühendislik çözümü sunmak için

calls for us to put mission control

görev kontrolü uzay aracı Orion'ın

inside the walls of the Orion spacecraft.

içine koymamız gerekir.

Another fascinating idea in the mission profile

Görev profilindeki başka bir enteresan fikir

places humanoid robots on the surface of Mars

insanlar Mars'a varmadan önce,

before the humans themselves arrive,

Mars'ın yüzeyine insansı robotlar

first to build facilities

gönderip tesisler kurdurmak,

and later to serve as collaborative members of the science team.

sonra onları araştırma ekibinin ortak mensubu yapmak.

Now, as I looked at this from an engineering perspective,

Bu fikre bir mühendisin bakış açısından baktığımda,

it became very clear to me that what I needed to architect

tasarlamam gereken şeyin akıllı, iş birliği yapabilen,

was a smart, collaborative,

sosyal zekaya sahip bir yapay zeka olduğu

socially intelligent artificial intelligence.

çok açık ve netti.

In other words, I needed to build something very much like a HAL

Başka deyişle, HAL'e çok benzeyen bir şey yapmam gerekti.

but without the homicidal tendencies.

ama adam öldürme meyili olmayan bir HAL.

(Laughter)

(Kahkaha)

Let's pause for a moment.

Biraz ara verelim.

Is it really possible to build an artificial intelligence like that?

Böyle bir yapay zeka yapmak gerçekten mümkün mü?

Actually, it is.

Aslında mümkün.

In many ways,

Bir çok yönüyle,

this is a hard engineering problem

yapay zeka ilkeleriyle, bu zor

with elements of AI,

bir mühendislik problemidir,

not some wet hair ball of an AI problem that needs to be engineered.

mühendisliği yapılacak basit bir yapay zeka problemi değil.

To paraphrase Alan Turing,

Alan Turing'in dediği gibi,

I'm not interested in building a sentient machine.

Duyguları olan bir makine yapmakla ilgilenmiyorum.

I'm not building a HAL.

Bir HAL yapmıyorum.

All I'm after is a simple brain,

Tek yapmak istediğim,

something that offers the illusion of intelligence.

zeka yanılsaması gösteren basit bir beyin.

The art and the science of computing have come a long way

HAL ilk gösterildiğinden beri, programlama sanatı ve bilimi

since HAL was onscreen,

uzun yol kat etti.

and I'd imagine if his inventor Dr. Chandra were here today,

HAL'in yaratıcısı eğer burada olsaydı,

he'd have a whole lot of questions for us.

eminim bize soracağı çok soru olurdu.

Is it really possible for us

"Milyonlarca cihazdan oluşan bir sistemin

to take a system of millions upon millions of devices,

veri akışını okuyup onların hata ve eylemlerini

to read in their data streams,

önceden tahmin etmek

to predict their failures and act in advance?

gerçekten mümkün mü?"

Yes.

Evet.

Can we build systems that converse with humans in natural language?

"İnsanlarla doğal dilde sohbet edebilen sistemler yapabilir miyiz?"

Yes.

Evet.

Can we build systems that recognize objects, identify emotions,

"Objeleri ve duyguları tanımlayabilen, duygusal davranan

emote themselves, play games and even read lips?

oyun oynayabilen ve hatta dudak okuyabilen sistemler yapabilir miyiz?

Yes.

Evet.

Can we build a system that sets goals,

''Hedefler koyup o hedefleri gerçekleştirmek

that carries out plans against those goals and learns along the way?

için planlar yapan ve bu esnada öğrenen bir sistem yapabilir miyiz?''

Yes.

Evet.

Can we build systems that have a theory of mind?

"Akıl teorisi olan sistemler yapabilir miyiz?"

This we are learning to do.

İşte bunu yapmayı öğreniyoruz.

Can we build systems that have an ethical and moral foundation?

"Etik ve ahlaki temeli olan sistemler yapabilir miyiz?"

This we must learn how to do.

İşte bunu öğrenmek zorundayız.

So let's accept for a moment

Farz edelim ki

that it's possible to build such an artificial intelligence

bu ve benzeri amaçlar için bu tür

for this kind of mission and others.

bir yapay zeka geliştirmek mümkün olsun.

The next question you must ask yourself is,

Kendinize sormanız gereken ilk soru şu olmalı:

should we fear it?

Bundan korkmalı mıyız?

Now, every new technology

Her yeni teknoloji

brings with it some measure of trepidation.

korkuyu da kendiyle birlikte getirir.

When we first saw cars,

Arabaları ilk gördüğümüzde

people lamented that we would see the destruction of the family.

insanlar ailenin yok oluşunu göreceğimizden yakındılar.

When we first saw telephones come in,

Telefonlar hayatımıza girdiğinde

people were worried it would destroy all civil conversation.

herkes bunun medeni konuşmayı tahrip edeceğinden endişeliydi.

At a point in time we saw the written word become pervasive,

Yazılı kelimelerin kalıcı olduğunu anladığımız zaman

people thought we would lose our ability to memorize.

insanlar ezber yeteneğimizin kaybolacağını sandılar.

These things are all true to a degree,

Bütün bunlar bir noktaya kadar doğru

but it's also the case that these technologies

Fakat bu teknolojilerin yaşam deneyimimizi

brought to us things that extended the human experience

inanılmaz şekillerde geliştirecek şeyler

in some profound ways.

getirdiği de bir gerçek.

So let's take this a little further.

Hadi bunu bir adım daha öteye taşıyalım.

I do not fear the creation of an AI like this,

Bu tür bir yapay zekanın yaratılmasından korkmuyorum,

because it will eventually embody some of our values.

çünkü zamanla yapay zeka bazı değerlerimizi cisimleştirecek.

Consider this: building a cognitive system is fundamentally different

Şunu düşünün: Bilişsel bir sistem yapmak geleneksel yazılım yoğunluklu

than building a traditional software-intensive system of the past.

bir sistem yapmaktan temel olarak farklı.

We don't program them. We teach them.

Onları programlamıyoruz. Onlara öğretiyoruz.

In order to teach a system how to recognize flowers,

Bir sisteme çiçekleri nasıl tanıyacağını öğretmek için

I show it thousands of flowers of the kinds I like.

ona sevdiğim türde binlerce çiçek gösteririm.

In order to teach a system how to play a game --

Bir sisteme oyun oynamayı öğretmek için

Well, I would. You would, too.

Öğretirdim, sen de öğretirdin.

I like flowers. Come on.

Çiçekleri severim, hadi ama.

To teach a system how to play a game like Go,

Bir sisteme Go gibi bir oyunu oynamayı öğretmek için

I'd have it play thousands of games of Go,

Ona binlerce Go oynattırırdım.

but in the process I also teach it

Fakat bu süreçte ona ayrıca

how to discern a good game from a bad game.

iyi oyunu kötü oyundan ayırmayı da öğretirim.

If I want to create an artificially intelligent legal assistant,

Yapay zekası olan bir avukat yardımcısı yaratmak istersem,

I will teach it some corpus of law

ona biraz hukuk dağarcığı öğretirim,

but at the same time I am fusing with it

ama aynı zamanda hukukun bir parçası olan

the sense of mercy and justice that is part of that law.

merhamet ve adalet duygusunu da aşılarım.

In scientific terms, this is what we call ground truth,

Bilimsel olarak söyleyecek olursam, buna "kesin referans" deriz

and here's the important point:

İşte önemli nokta şu:

in producing these machines,

Bu makineleri üretirken

we are therefore teaching them a sense of our values.

onlara kendi değerlerimizden bir parça da öğretiriz.

To that end, I trust an artificial intelligence

Bu noktaya kadar, daha çok olmasa da yapay zekaya iyi yetişmiş

the same, if not more, as a human who is well-trained.

bir insana güvendiğim kadar güvenirim.

But, you may ask,

Fakat şunu sorabilirsiniz:

what about rogue agents,

Ya kötüye kullanan 3. partiler?

some well-funded nongovernment organization?

bazı iyi finanse edilmiş sivil toplum kuruluşları?

I do not fear an artificial intelligence in the hand of a lone wolf.

Yalnız bir kurdun elindeki yapay zekadan korkmam.

Clearly, we cannot protect ourselves against all random acts of violence,

Açıkçası, kendimizi bütün rastgele şiddet olaylarına karşı koruyamayız.

but the reality is such a system

Ancak gerçeklik öyle bir sistem ki

requires substantial training and subtle training

insan kaynaklarının çok ötesinde oldukça büyük

far beyond the resources of an individual.

ve kıvrak zekaya sahip bir eğitime ihtiyaç duyar.

And furthermore,

Dahası...

it's far more than just injecting an internet virus to the world,

Bir düğmeye basıp milyonlarca yere yayılan ve

where you push a button, all of a sudden it's in a million places

laptopların her yerde patlamasına yol açan bir internet virüsü

and laptops start blowing up all over the place.

sızdırmaktan çok daha fazlası.

Now, these kinds of substances are much larger,

Bu tür maddeler çok daha büyük,

and we'll certainly see them coming.

ve kesinlikle bunlara tanık olacağız.

Do I fear that such an artificial intelligence

Yapay zekanın bütün insanlığı

might threaten all of humanity?

tehdit edebileceğinden korkuyor muyum?

If you look at movies such as "The Matrix," "Metropolis,"

"The Matrix", "Metropolis", "Terminator" gibi filmlere ya da

"The Terminator," shows such as "Westworld,"

"Westworld" gibi dizilere bakarsanız

they all speak of this kind of fear.

onlar hep bu tür bir korkudan bahsederler.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

Gerçekten de filozof Nick Bostrom "Süper Zeka" kitabında

he picks up on this theme

bu konudan bahseder.

and observes that a superintelligence might not only be dangerous,

Süper zekanın sadece tehlikeli olabileceğini değil

it could represent an existential threat to all of humanity.

ayrıca varoluşsal bir tehdit oluşturabileceğini gözlemliyor.

Dr. Bostrom's basic argument

Dr. Bostrom'un temel argümanı şöyle:

is that such systems will eventually

Bu sistemler zamanla o kadar çok

have such an insatiable thirst for information

bilgiye doyumsuzca aç olacaklar ki

that they will perhaps learn how to learn

belki de öğrenmeyi öğrenecekler

and eventually discover that they may have goals

ve zamanla insanların ihtiyaçlarıyla çelişen

that are contrary to human needs.

amaçlara sahip olacaklar.

Dr. Bostrom has a number of followers.

Dr. Bostrom'un bir çok takipçisi var.

He is supported by people such as Elon Musk and Stephen Hawking.

Elon Musk ve Stephen Hawking gibi insanlar tarafından destekleniyor.

With all due respect

Bu parlak beyinlere

to these brilliant minds,

saygısızlık etmek istemem ama

I believe that they are fundamentally wrong.

onların aslında hatalı olduğuna inanıyorum.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Dr. Bostrom'un argümanlarının ayrıntılarına inmek isterdim ama

and I don't have time to unpack them all,

o kadar zamanım yok.

but very briefly, consider this:

Şunu çok kısaca bir düşünün:

super knowing is very different than super doing.

Süper bilmek süper yapmaktan çok farklı.

HAL was a threat to the Discovery crew

HAL Keşif'i bütün yönleriyle

only insofar as HAL commanded all aspects of the Discovery.

komuta ettiği sürece, o Keşif tayfasına karşı bir tehditti.

So it would have to be with a superintelligence.

Bu yüzden onun süper zekaya sahip olması gerekir.

It would have to have dominion over all of our world.

Onun bütün dünya üzerinde egemenliği olurdu.

This is the stuff of Skynet from the movie "The Terminator"

Bu The Terminator'deki Skynet şeyi işte,

in which we had a superintelligence

İnsan iradesi üzerinde kontrolü olan,

that commanded human will,

dünyanın her bir köşesindeki

that directed every device that was in every corner of the world.

her bir cihazı yöneten bir süper zeka.

Practically speaking,

Gerçekçi konuşursak,

it ain't gonna happen.

bu olmayacak.

We are not building AIs that control the weather,

Bizler havayı kontrol eden, zamanı yönlendiren,

that direct the tides,

kaprisli, karmakarışık

that command us capricious, chaotic humans.

insanları komuta eden yapay zekalar yapmıyoruz.

And furthermore, if such an artificial intelligence existed,

Buna ek olarak, böyle bir yapay zeka olsaydı,

it would have to compete with human economies,

insan ekonomisiyle yarışmak zorunda olurdu, dolayısıyla

and thereby compete for resources with us.

kaynaklar için bizimle yarışırlardı.

And in the end --

Sonunda

don't tell Siri this --

Siri'ye şunu söylemeyin:

we can always unplug them.

"Hiç olmadı fişini çekeriz."

(Laughter)

(Kahkaha)

We are on an incredible journey

Makinelerimizle mükemmel bir

of coevolution with our machines.

evrim birlikteliği yolculuğundayız.

The humans we are today

Bugünkü olduğumuz insan

are not the humans we will be then.

o zamankiyle aynı olmayacak.

To worry now about the rise of a superintelligence

Süper zekanın yükselişi hakkında şimdi bu kadar endişelenmemiz

is in many ways a dangerous distraction

bir çok yönüyle tehlikeli bir dikkat dağınıklığıdır,

because the rise of computing itself

çünkü programlamanın yükselişi

brings to us a number of human and societal issues

bize çözmemiz gereken bir çok insancıl ve toplumsal

to which we must now attend.

sorunlar getirecek.

How shall I best organize society

İnsanların iş gücüne olan ihtiyaç azaldığında

when the need for human labor diminishes?

toplumda düzeni en iyi nasıl sağlarım:

How can I bring understanding and education throughout the globe

Dünya geneline nasıl anlayış ve eğitim getiririm ve yine de

and still respect our differences?

farklılıklarımıza saygı gösteririm?

How might I extend and enhance human life through cognitive healthcare?

İnsan hayatını bilişsel sağlık hizmeti ile nasıl genişletebilir ve geliştirebilirim?

How might I use computing

Bizi yıldızlara götürecek programlamayı

to help take us to the stars?

nasıl kullabilirim?

And that's the exciting thing.

İşte bu heyecan verici bir şey.

The opportunities to use computing

İnsan deneyimini ilerletmek için

to advance the human experience

programlama kullanma fırsatı

are within our reach,

elimizde

here and now,

Bu aralar

and we are just beginning.

daha yeni başlıyoruz.

Thank you very much.

Çok teşekkürler.

(Applause)

(Alkış)