What Is an AI Anyway? | Mustafa Suleyman | TED

Çeviri: Ozay Ozaydin Gözden geçirme: Başak Gökdaş

I want to tell you what I see coming.

Size ne olacağını gördüğümü söylemek istiyorum.

I've been lucky enough to be working on AI for almost 15 years now.

Neredeyse 15 yıldır yapay zeka çalıştığım için yeterince şanslıyım.

Back when I started, to describe it as fringe would be an understatement.

Başladığım zamanlarda, bunu sınırda olarak tanımlamak yetersiz kalırdı.

Researchers would say, “No, no, we’re only working on machine learning.”

Araştırmacılar “Hayır, hayır, biz sadece makine öğrenimi çalışıyoruz” diyorlardı.

Because working on AI was seen as way too out there.

Çünkü YZ üzerinde çalışmak çok uçuk bir şey olarak görülüyordu.

In 2010, just the very mention of the phrase “AGI,”

2010 yılında, “AGI” yani yapay genel zeka ifadesinden bahsetmek bile

artificial general intelligence,

would get you some seriously strange looks

size ciddi şekilde tuhaf bakılmasına ve hatta soğuk davranılmasına neden olurdu.

and even a cold shoulder.

"You're actually building AGI?" people would say.

Gerçekten yapay zeka mı geliştiriyorsunuz? İnsanlar şöyle derdi.

"Isn't that something out of science fiction?"

“Bu bilim kurgu değil mi?”

People thought it was 50 years away or 100 years away,

İnsanlar bunun 50 ya da 100 yıl ötede olduğunu düşünürdü,

if it was even possible at all.

tabii eğer mümkünse.

Talk of AI was, I guess, kind of embarrassing.

Yapay zekadan bahsetmek sanırım biraz utanç vericiydi.

People generally thought we were weird.

İnsanlar genellikle tuhaf olduğumuzu düşünüyordu.

And I guess in some ways we kind of were.

Sanırım bazı açılardan öyleydik de.

It wasn't long, though, before AI started beating humans

Yine de yapay zekanın, insanların daha önce ulaşamayacağını düşündüğü

at a whole range of tasks

bir dizi görevde

that people previously thought were way out of reach.

insanları yenmeye başlaması çok uzun sürmedi.

Understanding images,

Görüntüleri anlamak,

translating languages,

dilleri tercüme etmek,

transcribing speech,

konuşmaları yazıya dökmek,

playing Go and chess

Go ve satranç oynamak

and even diagnosing diseases.

ve hatta hastalıkları teşhis etmek.

People started waking up to the fact

İnsanlar yapay zekanın

that AI was going to have an enormous impact,

muazzam bir etkisi olacağı gerçeğine uyanmaya başladılar

and they were rightly asking technologists like me

ve haklı olarak benim gibi teknoloji uzmanlarına

some pretty tough questions.

oldukça zor sorular soruyorlardı.

Is it true that AI is going to solve the climate crisis?

Yapay zekanın iklim krizini çözeceği doğru mu?

Kişiselleştirilmiş eğitimi herkes için kullanılabilir hale getirecek mi?

Will it make personalized education available to everyone?

Does it mean we'll all get universal basic income

Hepimiz evrensel temel gelire sahip olacağız

ve artık çalışmak zorunda kalmayacak mıyız?

and we won't have to work anymore?

Should I be afraid?

Korkmalı mıyım?

What does it mean for weapons and war?

Silahlar ve savaş için ne anlama geliyor?

And of course, will China win?

Tabii ki Çin kazanacak mı?

Are we in a race?

Bir yarış içinde miyiz?

Are we headed for a mass misinformation apocalypse?

Kitlesel bir yanlış bilgilendirme kıyametine mi gidiyoruz?

All good questions.

Hepsi güzel sorular.

But it was actually a simpler

Ama aslında kafamı kurcalayan

and much more kind of fundamental question that left me puzzled.

daha basit ve çok daha temel bir soruydu.

One that actually gets to the very heart of my work every day.

Aslında her gün yaptığım işin tam kalbine inen bir soru.

One morning over breakfast,

Bir sabah kahvaltıda,

my six-year-old nephew Caspian was playing with Pi,

altı yaşındaki yeğenim Caspian,

the AI I created at my last company, Inflection.

son şirketim Inflection’da yarattığım yapay zeka Pi ile oynuyordu.

With a mouthful of scrambled eggs,

Ağzında çırpılmış yumurtayla

he looked at me plain in the face and said,

yüzüme baktı ve

"But Mustafa, what is an AI anyway?"

“Ama Mustafa, yapay zeka nedir ki?” dedi.

He's such a sincere and curious and optimistic little guy.

O kadar içten, meraklı ve iyimser bir çocuk ki.

He'd been talking to Pi about how cool it would be if one day in the future,

Pi ile gelecekte bir gün hayvanat bahçesindeki

dinozorları ziyaret edebilmesinin

he could visit dinosaurs at the zoo.

ne kadar harika olacağından bahsediyordu.

And how he could make infinite amounts of chocolate at home.

Evde nasıl sonsuz miktarda çikolata yapabileceğinden.

And why Pi couldn’t yet play I Spy.

Pi’nin neden henüz I Spy oynayamadığından.

"Well," I said, "it's a clever piece of software

Dedim ki, “bu açık internetteki metinlerin çoğunu okuyan

that's read most of the text on the open internet,

akıllı bir yazılım parçası

and it can talk to you about anything you want."

ve seninle istediğin her şey hakkında konuşabilir.”

"Right.

“Doğru.

So like a person then?"

Yani bir insan gibi mi?”

I was stumped.

Şaşkına dönmüştüm.

Genuinely left scratching my head.

Gerçekten kafamı kaşımak zorunda kaldım.

All my boring stock answers came rushing through my mind.

Tüm sıkıcı cevaplarım aklımdan geçmeye başladı.

"No, but AI is just another general-purpose technology,

“Hayır, ama yapay zeka matbaa ya da buhar gibi

like printing or steam."

genel amaçlı başka bir teknoloji.”

It will be a tool that will augment us

Bizi güçlendirecek ve bizi daha akıllı

and make us smarter and more productive.

ve üretken kılacak bir araç olacak.

And when it gets better over time,

Zaman içinde daha iyi hale geldiğinde,

it'll be like an all-knowing oracle

büyük bilimsel zorlukları çözmemize

that will help us solve grand scientific challenges."

yardımcı olacak her şeyi bilen bir kâhin gibi olacak.”

You know, all of these responses started to feel, I guess,

Tüm bu yanıtlar sanırım biraz

a little bit defensive.

savunmacı gelmeye başladı.

And actually better suited to a policy seminar

Aslında altı yaşında kül yutmaz bir çocukla kahvaltıdan çok

than breakfast with a no-nonsense six-year-old.

bir politika seminerine daha uygun.

"Why am I hesitating?" I thought to myself.

Neden tereddüt ediyorum? Kendi kendime düşündüm.

You know, let's be honest.

Dürüst olalım.

My nephew was asking me a simple question

Yeğenim bana yapay zeka alanında çalışan

that those of us in AI just don't confront often enough.

bizlerin yeterince sık yüzleşmediği basit bir soru soruyordu.

What is it that we are actually creating?

Aslında yarattığımız şey nedir?

What does it mean to make something totally new,

Tamamen yeni, daha önce bildiğimiz

fundamentally different to any invention that we have known before?

herhangi bir icattan temelde farklı bir şey yapmak ne anlama geliyor?

It is clear that we are at an inflection point

İnsanlık tarihinde

bir dönüm noktasında olduğumuz açık.

in the history of humanity.

On our current trajectory,

Mevcut yörüngemizde,

we're headed towards the emergence of something

hepimizin tanımlamakta zorlandığı bir şeyin

that we are all struggling to describe,

ortaya çıkmasına doğru gidiyoruz

and yet we cannot control what we don't understand.

ve yine de anlamadığımız şeyi kontrol edemiyoruz.

And so the metaphors,

Dolayısıyla metaforlar,

the mental models,

zihinsel modeller,

the names, these all matter

isimler, bunların hepsi

yapay zekadan en iyi şekilde yararlanmak

if we’re to get the most out of AI whilst limiting its potential downsides.

ve potansiyel olumsuzluklarını sınırlamak için önemli.

As someone who embraces the possibilities of this technology,

Bu teknolojinin olanaklarını benimseyen

ama aynı zamanda etik değerlerini de

but who's also always cared deeply about its ethics,

her zaman derinden önemseyen biri olarak,

we should, I think,

inşa ettiğimiz şeyin ne olduğunu

be able to easily describe what it is we are building.

kolayca tanımlayabilmemiz gerektiğini düşünüyorum.

And that includes the six-year-olds.

Buna altı yaşındaki çocuklar da dahil.

So it's in that spirit that I offer up today the following metaphor

İşte bu ruhla, bugün bize bu anın

gerçekte ne olduğunu kavramamıza yardımcı olacak şu metaforu öneriyorum.

for helping us to try to grapple with what this moment really is.

I think AI should best be understood

Bence yapay zeka en iyi şekilde

as something like a new digital species.

yeni bir dijital tür olarak anlaşılmalıdır.

Now, don't take this too literally,

Şimdi, bunu kelimenin tam anlamıyla almayın,

but I predict that we'll come to see them as digital companions,

ancak onları dijital yoldaşlar, tüm yaşamlarımızın yolculuklarında

new partners in the journeys of all our lives.

yeni ortaklar olarak görmeye başlayacağımızı tahmin ediyorum.

Whether you think we’re on a 10-, 20- or 30-year path here,

İster 10, ister 20 ya da 30 yıllık bir yolda olduğumuzu düşünün,

this is, in my view, the most accurate and most fundamentally honest way

bana göre bu, aslında gelmekte olanı tanımlamanın

of describing what's actually coming.

en doğru ve temelde en dürüst yolu.

And above all, it enables everybody to prepare for

Her şeyden önemlisi, herkesin bundan sonra olacaklara hazırlanmasını

and shape what comes next.

ve bunları şekillendirmesini sağlıyor.

Now I totally get, this is a strong claim,

Şimdi, bunun güçlü bir iddia olduğunu anlıyorum

and I'm going to explain to everyone as best I can why I'm making it.

ve bunu neden yaptığımı elimden geldiğince herkese açıklayacağım.

But first, let me just try to set the context.

Ama önce bağlamı belirlemeye çalışayım.

From the very first microscopic organisms,

İlk mikroskobik organizmalardan bu yana,

life on Earth stretches back billions of years.

Dünya üzerindeki yaşam milyarlarca yıl öncesine dayanmaktadır.

Over that time, life evolved and diversified.

Bu süre zarfında yaşam evrimleşti ve çeşitlendi.

Then a few million years ago, something began to shift.

Birkaç milyon yıl önce ise bir şeyler değişmeye başladı.

After countless cycles of growth and adaptation,

Sayısız büyüme ve adaptasyon döngüsünden sonra,

one of life’s branches began using tools, and that branch grew into us.

yaşamın dallarından biri alet kullanmaya başladı ve bu dal bize dönüştü.

We went on to produce a mesmerizing variety of tools,

Büyüleyici çeşitlilikte aletler üretmeye devam ettik,

at first slowly and then with astonishing speed,

önce yavaş yavaş sonra şaşırtıcı bir hızla taş baltalar

we went from stone axes and fire

ve ateşten dile, yazıya ve nihayetinde

to language, writing and eventually industrial technologies.

endüstriyel teknolojilere geçtik.

One invention unleashed a thousand more.

Bir icat binlercesini daha serbest bıraktı.

And in time, we became homo technologicus.

Zamanla homo technologicus olduk.

Around 80 years ago,

Yaklaşık 80 yıl önce,

another new branch of technology began.

yeni bir teknoloji dalı daha başladı.

With the invention of computers,

Bilgisayarların icadıyla birlikte

we quickly jumped from the first mainframes and transistors

ilk ana bilgisayarlardan ve transistörlerden

günümüzün akıllı telefonlarına

to today's smartphones and virtual-reality headsets.

ve sanal gerçeklik kulaklıklarına hızlı bir sıçrama yaptık.

Information, knowledge, communication, computation.

Enformasyon, bilgi, iletişim, hesaplama.

In this revolution,

Bu devrimde yaratıcılık daha önce hiç olmadığı kadar patladı.

creation has exploded like never before.

And now a new wave is upon us.

Şimdi yeni bir dalga üzerimizde.

Artificial intelligence.

Yapay zeka.

These waves of history are clearly speeding up,

Tarihin bu dalgaları açıkça hızlanıyor,

as each one is amplified and accelerated by the last.

çünkü her biri bir öncekiyle güçleniyor ve hızlanıyor.

Geriye dönüp baktığımızda,

And if you look back,

it's clear that we are in the fastest

şimdiye kadarki en hızlı

and most consequential wave ever.

ve en önemli dalganın içinde olduğumuzu görüyoruz.

The journeys of humanity and technology are now deeply intertwined.

İnsanlığın ve teknolojinin yolculukları artık derinden iç içe geçmiş durumda.

In just 18 months,

Sadece 18 ay içinde

over a billion people have used large language models.

bir milyardan fazla insan büyük dil modellerini kullandı.

We've witnessed one landmark event after another.

Birbiri ardına dönüm noktası niteliğinde olaylara tanık olduk.

Just a few years ago, people said that AI would never be creative.

Sadece birkaç yıl önce insanlar yapay zekanın

asla yaratıcı olamayacağını söylüyordu.

And yet AI now feels like an endless river of creativity,

Oysa şimdi yapay zeka sonsuz bir yaratıcılık nehri gibi akıyor,

making poetry and images and music and video that stretch the imagination.

hayal gücünü zorlayan şiirler, resimler, müzik ve videolar üretiyor.

People said it would never be empathetic.

İnsanlar asla empati kuramayacağını söylüyordu.

And yet today, millions of people enjoy meaningful conversations with AIs,

Oysa bugün milyonlarca insan YZ’lerle anlamlı sohbetler yapıyor,

umutları ve hayalleri hakkında konuşuyor

talking about their hopes and dreams

ve zorlu duygusal zorlukların üstesinden gelmelerine yardımcı oluyor.

and helping them work through difficult emotional challenges.

AIs can now drive cars,

YZ’ler artık araba sürebiliyor,

manage energy grids

enerji şebekelerini yönetebiliyor

and even invent new molecules.

ve hatta yeni moleküller icat edebiliyor.

Just a few years ago, each of these was impossible.

Sadece birkaç yıl önce bunların her biri imkansızdı.

And all of this is turbocharged by spiraling exponentials of data

Tüm bunlar, veri ve hesaplamanın sarmal üstelleri tarafından

and computation.

turbo şarj ediliyor.

Last year, Inflection 2.5, our last model,

Geçen yıl, son modelimiz olan Inflection 2.5,

used five billion times more computation

10 yıl kadar önce eski usul Atari oyunlarını yenen

than the DeepMind AI that beat the old-school Atari games

DeepMind yapay zekasından beş milyar kat

just over 10 years ago.

daha fazla hesaplama kullandı.

That's nine orders of magnitude more computation.

Bu, dokuz kat daha fazla hesaplama anlamına geliyor.

10x per year,

Neredeyse on yıl boyunca

every year for almost a decade.

her yıl, yılda 10 kat.

Over the same time, the size of these models has grown

Aynı süre içinde, bu modellerin boyutu

from first tens of millions of parameters to then billions of parameters,

önce on milyonlarca parametreden milyarlarca parametreye

and very soon, tens of trillions of parameters.

ve çok yakında da on trilyonlarca parametreye ulaştı.

If someone did nothing but read 24 hours a day for their entire life,

Eğer bir kişi hayatı boyunca günde 24 saat okumaktan başka bir şey yapmasaydı,

they'd consume eight billion words.

sekiz milyar kelime tüketirdi.

And of course, that's a lot of words.

Tabii ki bu çok fazla kelime demek.

But today, the most advanced AIs consume more than eight trillion words

Ancak bugün, en gelişmiş yapay zekalar tek bir aylık eğitimde

in a single month of training.

sekiz trilyondan fazla kelime tüketiyor.

And all of this is set to continue.

Tüm bunlar devam edecek.

The long arc of technological history is now in an extraordinary new phase.

Teknoloji tarihinin uzun eğrisi şimdi olağanüstü yeni bir aşamada.

So what does this mean in practice?

Peki bu pratikte ne anlama geliyor?

Well, just as the internet gave us the browser

Tıpkı internetin bize tarayıcıyı,

and the smartphone gave us apps,

akıllı telefonun da uygulamaları sunması gibi,

the cloud-based supercomputer is ushering in a new era

bulut tabanlı süper bilgisayar da yeni bir her yerde bulunan

of ubiquitous AIs.

yapay zeka çağını başlatıyor.

Everything will soon be represented by a conversational interface.

Yakında her şey bir konuşma arayüzü tarafından temsil edilecek.

Or, to put it another way, a personal AI.

Ya da başka bir deyişle, kişisel bir YZ.

And these AIs will be infinitely knowledgeable,

Bu YZ’ler sonsuz derecede bilgili olacaklar

and soon they'll be factually accurate and reliable.

ve yakında gerçeklere dayalı olarak doğru ve güvenilir olacaklar.

They'll have near-perfect IQ.

Mükemmele yakın bir IQ’ya sahip olacaklar.

They’ll also have exceptional EQ.

Ayrıca olağanüstü bir EQ’ya sahip olacaklar.

They’ll be kind, supportive, empathetic.

Nazik, destekleyici ve empatik olacaklar.

These elements on their own would be transformational.

Bu unsurlar kendi başlarına dönüşümsel olacaktır.

Just imagine if everybody had a personalized tutor in their pocket

Herkesin cebinde kişiselleştirilmiş bir öğretmen olduğunu

and access to low-cost medical advice.

ve düşük maliyetli tıbbi tavsiyelere erişebildiğini hayal edin.

A lawyer and a doctor,

Bir avukat, bir doktor,

a business strategist and coach --

bir iş stratejisti ve bir koç...

all in your pocket 24 hours a day.

hepsi günün 24 saati cebinizde.

But things really start to change when they develop what I call AQ,

Ancak benim AQ dediğim “eylem katsayısı“nı geliştirdiklerinde

their “actions quotient.”

işler gerçekten değişmeye başlar.

This is their ability to actually get stuff done

Bu, dijital ve fiziksel dünyada

gerçekten bir şeyler yapabilme becerileridir.

in the digital and physical world.

And before long, it won't just be people that have AIs.

Çok geçmeden, yapay zekaya sahip olanlar sadece insanlar olmayacak.

Strange as it may sound, every organization,

Kulağa garip gelse de, küçük işletmelerden

from small business to nonprofit to national government,

kar amacı gütmeyen kuruluşlara ve ulusal hükümete kadar

each will have their own.

her kuruluşun kendi yapay zekası olacak.

Every town, building and object

Her kasaba, bina ve nesne

will be represented by a unique interactive persona.

benzersiz bir interaktif kişilik tarafından temsil edilecek.

And these won't just be mechanistic assistants.

Bunlar sadece mekanik yardımcılar olmayacak.

They'll be companions, confidants,

Hepimiz gibi çeşitli ve benzersiz yoldaşlar,

colleagues, friends and partners,

sırdaşlar, meslektaşlar, arkadaşlar

as varied and unique as we all are.

ve ortaklar olacaklar.

At this point, AIs will convincingly imitate humans at most tasks.

Bu noktada, YZ’ler çoğu görevde insanları ikna edici bir şekilde taklit edecek.

And we'll feel this at the most intimate of scales.

Biz bunu en samimi ölçeklerde hissedeceğiz.

An AI organizing a community get-together for an elderly neighbor.

Yaşlı bir komşu için bir topluluk buluşması organize eden bir YZ.

A sympathetic expert helping you make sense of a difficult diagnosis.

Zor bir teşhisi anlamlandırmanıza yardımcı olan sempatik bir uzman.

But we'll also feel it at the largest scales.

Ancak bunu en büyük ölçeklerde de hissedeceğiz.

Accelerating scientific discovery,

Hızlanan bilimsel keşifler,

autonomous cars on the roads,

yollardaki otonom arabalar,

drones in the skies.

gökyüzündeki dronlar.

They'll both order the takeout and run the power station.

Hem yemek siparişi verecekler hem de elektrik santralini işletecekler.

They’ll interact with us and, of course, with each other.

Bizimle ve elbette birbirleriyle etkileşime girecekler.

They'll speak every language,

Her dili konuşacaklar,

take in every pattern of sensor data,

her türlü sensör verisini,

sights, sounds,

görüntüyü, sesi,

streams and streams of information,

akışı ve bilgi akışını,

far surpassing what any one of us could consume in a thousand lifetimes.

herhangi birimizin bin ömür boyunca

tüketebileceğinden çok daha fazlasını alacaklar.

So what is this?

Peki nedir bu?

What are these AIs?

Bu yapay zekalar nedir?

If we are to prioritize safety above all else,

Güvenliği her şeyin üstünde tutacaksak,

to ensure that this new wave always serves and amplifies humanity,

bu yeni dalganın her zaman insanlığa hizmet etmesini

ve insanlığı güçlendirmesini sağlayacaksak,

then we need to find the right metaphors for what this might become.

bunun neye dönüşebileceğine dair doğru metaforları bulmamız gerekiyor.

For years, we in the AI community, and I specifically,

Yıllardır, YZ topluluğunda bizler ve özellikle de ben,

have had a tendency to refer to this as just tools.

buna sadece araçlar deme eğilimindeyiz.

But that doesn't really capture what's actually happening here.

Ancak bu, burada gerçekte neler olduğunu tam olarak yansıtmıyor.

AIs are clearly more dynamic,

YZ’ler, tamamen insan kontrolüne tabi olan

more ambiguous, more integrated

salt araçlardan açıkça daha dinamik,

and more emergent than mere tools,

daha belirsiz, daha entegre

which are entirely subject to human control.

ve daha ortaya çıkan bir yapıya sahip.

So to contain this wave,

Dolayısıyla bu dalgayı kontrol altına almak,

to put human agency at its center

insan failliğini merkeze koymak

and to mitigate the inevitable unintended consequences

ve ortaya çıkması muhtemel kaçınılmaz

that are likely to arise,

istenmeyen sonuçları hafifletmek için,

we should start to think about them as we might a new kind of digital species.

onları yeni bir tür dijital tür gibi düşünmeye başlamalıyız.

Now it's just an analogy,

Şimdi bu sadece bir benzetme,

it's not a literal description, and it's not perfect.

gerçek bir tanım değil ve mükemmel değil.

For a start, they clearly aren't biological in any traditional sense,

Başlangıç olarak, geleneksel anlamda biyolojik olmadıkları açıktır,

but just pause for a moment

ancak bir an için durun

and really think about what they already do.

ve halihazırda ne yaptıklarını gerçekten düşünün.

They communicate in our languages.

Bizim dillerimizle iletişim kuruyorlar.

They see what we see.

Bizim gördüklerimizi görüyorlar.

They consume unimaginably large amounts of information.

Hayal edilemeyecek kadar büyük miktarda bilgi tüketiyorlar.

They have memory.

Hafızaları var.

They have personality.

Kişilikleri var.

They have creativity.

Yaratıcılıkları var.

They can even reason to some extent and formulate rudimentary plans.

Hatta bir dereceye kadar akıl yürütebilir ve ilkel planlar formüle edebilirler.

They can act autonomously if we allow them.

Eğer izin verirsek özerk olarak hareket edebilirler.

And they do all this at levels of sophistication

Tüm bunları, şimdiye kadar sadece bir araçtan

that is far beyond anything that we've ever known from a mere tool.

bildiğimiz her şeyin çok ötesinde sofistike seviyelerde yapıyorlar.

And so saying AI is mainly about the math or the code

Dolayısıyla YZ’nın esas olarak matematik ya da kodla ilgili olduğunu söylemek,

is like saying we humans are mainly about carbon and water.

biz insanların esas olarak karbon ve suyla ilgili olduğumuzu söylemek gibidir.

It's true, but it completely misses the point.

Bu doğru ama asıl noktayı tamamen gözden kaçırıyor.

And yes, I get it, this is a super arresting thought

Evet, anlıyorum, bu çok çarpıcı bir düşünce ama dürüst olmak gerekirse

but I honestly think this frame helps sharpen our focus on the critical issues.

bu çerçevenin kritik konulara odaklanmamıza

yardımcı olduğunu düşünüyorum.

What are the risks?

Riskler nelerdir?

What are the boundaries that we need to impose?

Koymamız gereken sınırlar nelerdir?

What kind of AI do we want to build or allow to be built?

Ne tür bir yapay zeka inşa etmek ya da inşa edilmesine izin vermek istiyoruz?

This is a story that's still unfolding.

Bu hâlâ ortaya çıkmakta olan bir hikaye.

Nothing should be accepted as a given.

Hiçbir şey verili olarak kabul edilmemelidir.

We all must choose what we create.

Hepimiz ne yaratacağımızı seçmeliyiz.

What AIs we bring into the world, or not.

Dünyaya hangi YZ’leri getireceğimizi ya da getirmeyeceğimizi.

These are the questions for all of us here today,

Bunlar bugün burada bulunan

and all of us alive at this moment.

ve şu anda hayatta olan hepimiz için sorular.

For me, the benefits of this technology are stunningly obvious,

Benim için bu teknolojinin faydaları şaşırtıcı derecede açık

and they inspire my life's work every single day.

ve her gün hayatımın çalışmalarına ilham veriyorlar.

But quite frankly, they'll speak for themselves.

Ama açıkçası, kendi adlarına konuşacaklar.

Over the years, I've never shied away from highlighting risks

Yıllar boyunca, riskleri vurgulamaktan ve olumsuzluklardan bahsetmekten

and talking about downsides.

asla kaçınmadım.

Thinking in this way helps us focus on the huge challenges

Bu şekilde düşünmek, hepimizi bekleyen büyük zorluklara

that lie ahead for all of us.

odaklanmamıza yardımcı oluyor.

But let's be clear.

Ancak açık olalım.

There is no path to progress

Teknolojiyi geride bırakarak ilerleyebileceğimiz bir yol yok.

where we leave technology behind.

The prize for all of civilization is immense.

Tüm uygarlık için ödül çok büyük.

We need solutions in health care and education, to our climate crisis.

Sağlık ve eğitim alanlarında, iklim krizine karşı çözümlere ihtiyacımız var.

And if AI delivers just a fraction of its potential,

Eğer yapay zeka potansiyelinin sadece bir kısmını ortaya koyarsa,

the next decade is going to be the most productive in human history.

önümüzdeki on yıl insanlık tarihinin en üretken dönemi olacak.

Here's another way to think about it.

İşte bunu düşünmenin başka bir yolu.

In the past,

Geçmişte,

ekonomik büyümenin kilidini açmak

unlocking economic growth often came with huge downsides.

genellikle büyük dezavantajlarla birlikte geliyordu.

The economy expanded as people discovered new continents

İnsanlar yeni kıtalar keşfettikçe

ve yeni sınırlar açtıkça ekonomi de genişledi.

and opened up new frontiers.

But they colonized populations at the same time.

Ama aynı zamanda nüfusları da sömürgeleştirdiler.

We built factories,

Fabrikalar inşa ettik,

but they were grim and dangerous places to work.

ancak buralar çalışmak için acımasız ve tehlikeli yerlerdi.

We struck oil,

Petrol bulduk ama gezegeni kirlettik.

but we polluted the planet.

Now because we are still designing and building AI,

Şimdi hâlâ yapay zeka tasarlayıp inşa ettiğimiz için,

we have the potential and opportunity to do it better,

bunu daha iyi, radikal bir şekilde daha iyi yapma potansiyeline

radically better.

ve fırsatına sahibiz.

And today, we're not discovering a new continent

Bugün, yeni bir kıta keşfedip kaynaklarını yağmalamıyoruz.

and plundering its resources.

We're building one from scratch.

Sıfırdan bir kıta inşa ediyoruz.

Sometimes people say that data or chips are the 21st century’s new oil,

Bazen insanlar veri ya da çiplerin 21.yüzyılın yeni petrolü olduğunu söylüyor

but that's totally the wrong image.

ama bu tamamen yanlış bir imaj.

AI is to the mind

Nükleer füzyon enerji için neyse

what nuclear fusion is to energy.

yapay zeka da zihin için odur.

Limitless, abundant,

Sınırsız, bol, dünyayı değiştiren.

world-changing.

And AI really is different,

YZ gerçekten farklı

ve bu da onun hakkında yaratıcı

and that means we have to think about it creatively and honestly.

ve dürüst bir şekilde düşünmemiz gerektiği anlamına geliyor.

We have to push our analogies and our metaphors

Gelmekte olan şeyle başa çıkabilmek için

to the very limits

analojilerimizi ve metaforlarımızı

to be able to grapple with what's coming.

en uç noktalara kadar zorlamalıyız.

Because this is not just another invention.

Çünkü bu sadece başka bir icat değil.

AI is itself an infinite inventor.

Yapay zekanın kendisi sonsuz bir mucit.

And yes, this is exciting and promising and concerning

Evet, bu aynı anda hem heyecan verici, hem umut verici, hem endişe verici,

and intriguing all at once.

hem de merak uyandırıcı.

To be quite honest, it's pretty surreal.

Dürüst olmak gerekirse, oldukça gerçeküstü.

But step back,

Ancak bir adım geri çekilip,

see it on the long view of glacial time,

buzul zamanının uzun bakış açısıyla baktığımızda,

and these really are the very most appropriate metaphors that we have today.

bunlar gerçekten de bugün sahip olduğumuz en uygun metaforlar.

Since the beginning of life on Earth,

Dünya üzerindeki yaşamın başlangıcından bu yana

we've been evolving, changing

evrim geçiriyor, değişiyor

and then creating everything around us in our human world today.

ve bugün insan dünyamızda etrafımızdaki her şeyi yaratıyoruz.

And AI isn't something outside of this story.

Yapay zeka bu hikayenin dışında bir şey değil.

In fact, it's the very opposite.

Aslında tam tersi.

It's the whole of everything that we have created,

Yarattığımız her şeyin,

hepimizin etkileşime girebileceği ve faydalanabileceği bir şeye

distilled down into something that we can all interact with

and benefit from.

indirgenmiş halidir.

It's a reflection of humanity across time,

İnsanlığın zaman içindeki bir yansımasıdır

and in this sense,

ve bu anlamda yeni bir tür değildir.

it isn't a new species at all.

This is where the metaphors end.

Metaforların bittiği yer burası.

Here's what I'll tell Caspian next time he asks.

Caspian bir dahaki sefere sorduğunda ona şunu söyleyeceğim.

AI isn't separate.

Yapay zeka ayrı değildir.

AI isn't even in some senses, new.

YZ bazı açılardan yeni bile değil.

AI is us.

YZ biziz.

It's all of us.

Hepimiziz.

And this is perhaps the most promising and vital thing of all

Bu belki de altı yaşındaki bir çocuğun bile

that even a six-year-old can get a sense for.

anlayabileceği en umut verici ve hayati şey.

As we build out AI,

YZ’yi oluştururken,

we can and must reflect all that is good,

iyi olan her şeyi, sevdiğimiz her şeyi,

all that we love,

insanlığa dair özel olan

all that is special about humanity:

her şeyi yansıtabiliriz ve yansıtmalıyız:

our empathy, our kindness,

empatimizi, nezaketimizi,

our curiosity and our creativity.

merakımızı ve yaratıcılığımızı.

This, I would argue, is the greatest challenge of the 21st century,

İddia ediyorum ki bu, 21. yüzyılın en büyük zorluğu

but also the most wonderful,

ama aynı zamanda hepimiz için en harika,

inspiring and hopeful opportunity for all of us.

ilham verici ve umut verici fırsatıdır.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Teşekkür ederim Mustafa.

It's an amazing vision and a super powerful metaphor.

Bu inanılmaz bir vizyon ve süper güçlü bir metafor.

You're in an amazing position right now.

Şu anda inanılmaz bir konumdasın.

I mean, you were connected at the hip

Yani, OpenAI’da gerçekleşen muhteşem çalışmaya

to the amazing work happening at OpenAI.

göbeğinizden bağlısınız.

You’re going to have resources made available,

Kaynaklara sahip olacaksınız,

there are reports of these giant new data centers,

bu devasa yeni veri merkezleri hakkında raporlar var,

100 billion dollars invested and so forth.

100 milyar dolar yatırım yapıldı vb.

And a new species can emerge from it.

Bundan yeni bir tür ortaya çıkabilir.

I mean, in your book,

Demek istediğim, kitabınızda

you did, as well as painting an incredible optimistic vision,

inanılmaz iyimser bir vizyon çizmenin yanı sıra,

you were super eloquent on the dangers of AI.

yapay zekanın tehlikeleri konusunda da çok etkili konuştunuz.

And I'm just curious, from the view that you have now,

Merak ediyorum, şu anda sahip olduğunuz görüşe göre,

what is it that most keeps you up at night?

sizi geceleri en çok uyutmayan şey nedir?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Süleyman: Bence en büyük risk,

kötümserlikten kaçınma tuzağı dediğim şeye takılıp kalmamız.

in what I call the pessimism aversion trap.

You know, we have to have the courage to confront

Bilirsiniz, gördüğümüz tüm faydalardan en iyi şekilde yararlanmak için

the potential of dark scenarios

karanlık senaryoların potansiyeliyle yüzleşme cesaretine sahip olmalıyız.

in order to get the most out of all the benefits that we see.

So the good news is that if you look at the last two or three years,

İyi haber şu ki, son iki ya da üç yıla bakarsanız,

there have been very, very few downsides, right?

çok ama çok az olumsuzluk olduğunu görürsünüz, değil mi?

It’s very hard to say explicitly what harm an LLM has caused.

LLM’nin ne gibi bir zarara yol açtığını açıkça söylemek çok zor.

But that doesn’t mean that that’s what the trajectory is going to be

Ancak bu, önümüzdeki 10 yıl boyunca

gidişatın böyle olacağı anlamına gelmiyor.

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

Bence birkaç spesifik yetkinliğe dikkat ederseniz,

take for example, autonomy.

örneğin otonomiyi ele alalım.

Autonomy is very obviously a threshold

Otonomi çok açık bir şekilde

over which we increase risk in our society.

toplumumuzda riski arttırdığımız bir eşiktir.

And it's something that we should step towards very, very closely.

Çok ama çok yakından adım atmamız gereken bir şey.

The other would be something like recursive self-improvement.

Diğeri ise özyinelemeli kendini geliştirme gibi bir şey olabilir.

If you allow the model to independently self-improve,

Modelin bağımsız olarak kendini geliştirmesine, kodunu güncellemesine,

update its own code,

gözetim olmadan

explore an environment without oversight, and, you know,

bir ortamı keşfetmesine izin verirseniz

bilirsiniz, nasıl çalıştığını değiştirmek için kontrolde bir insan olmadan,

without a human in control to change how it operates,

that would obviously be more dangerous.

bu açıkça daha tehlikeli olacaktır.

But I think that we're still some way away from that.

Ama bence hâlâ bundan çok uzaktayız.

I think it's still a good five to 10 years before we have to really confront that.

Bence bununla gerçekten yüzleşmemiz için daha beş ila on yıl var.

But it's time to start talking about it now.

Ama artık bunun hakkında konuşmaya başlamanın zamanı geldi.

CA: A digital species, unlike any biological species,

CA: Dijital bir tür, herhangi bir biyolojik türden farklı olarak,

can replicate not in nine months,

dokuz ayda değil,

but in nine nanoseconds,

dokuz nanosaniyede çoğalabilir

and produce an indefinite number of copies of itself,

ve kendisinin belirsiz sayıda kopyasını üretebilir,

all of which have more power than we have in many ways.

bunların hepsi birçok yönden sahip olduğumuzdan daha fazla güce sahiptir.

I mean, the possibility for unintended consequences seems pretty immense.

Demek istediğim, istenmeyen sonuçların

ortaya çıkma olasılığı oldukça yüksek görünüyor.

And isn't it true that if a problem happens,

Eğer bir sorun olursa, bunun bir saat içinde

it could happen in an hour?

gerçekleşebileceği doğru değil mi?

MS: No.

MS: Hayır.

That is really not true.

Bu gerçekten doğru değil.

I think there's no evidence to suggest that.

Bence bunu gösteren hiçbir kanıt yok.

And I think that, you know,

Bence, bilirsiniz,

that’s often referred to as the “intelligence explosion.”

bu genellikle “zeka patlaması” olarak adlandırılır.

And I think it is a theoretical, hypothetical maybe

Bence bu hepimizin keşfetmeye meraklı olduğu teorik,

that we're all kind of curious to explore,

varsayımsal bir şey olabilir,

but there's no evidence that we're anywhere near anything like that.

ancak böyle bir şeyin yakınında olduğumuza dair hiçbir kanıt yok.

And I think it's very important that we choose our words super carefully.

Bence kelimelerimizi çok dikkatli seçmemiz çok önemli.

Because you're right, that's one of the weaknesses of the species framing,

Çünkü haklısınız, tür çerçevesinin zayıflıklarından biri de bu;

that we will design the capability for self-replication into it

insanlar bunu yapmayı seçerse,

kendi kendini kopyalama yeteneğini tasarlayacağız.

if people choose to do that.

And I would actually argue that we should not,

Ben aslında bunu yapmamamız gerektiğini,

bunun geri adım atmamız gereken

that would be one of the dangerous capabilities

tehlikeli yeteneklerden biri olduğunu iddia ediyorum, değil mi?

that we should step back from, right?

So there's no chance that this will "emerge" accidentally.

Yani bunun kazara “ortaya çıkma” ihtimali yok.

I really think that's a very low probability.

Bunun gerçekten çok düşük bir olasılık olduğunu düşünüyorum.

It will happen if engineers deliberately design those capabilities in.

Mühendisler bu kabiliyetleri kasıtlı olarak tasarlarlarsa ortaya çıkacaktır.

And if they don't take enough efforts to deliberately design them out.

Eğer bunları kasıtlı olarak tasarlamak için yeterince çaba göstermezlerse.

And so this is the point of being explicit

İşte bu nedenle, tasarım yoluyla güvenliği

and transparent about trying to introduce safety by design very early on.

çok erken bir aşamada sağlamaya çalışmak konusunda açık ve şeffaf olmak gerekir.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Teşekkür ederim, insanlığın bu yeni şeye kendimizin en iyi yanlarını

the best parts of ourselves,

enjekte etme vizyonunuz,

avoiding all those weird, biological, freaky,

belirli durumlarda sahip olabileceğimiz tüm o tuhaf, biyolojik, acayip,

horrible tendencies that we can have in certain circumstances,

korkunç eğilimlerden kaçınmak,

I mean, that is a very inspiring vision.

yani bu çok ilham verici bir vizyon.

And thank you so much for coming here and sharing it at TED.

Buraya geldiğiniz ve TED’de paylaştığınız için çok teşekkür ederim.

Thank you, good luck.

Teşekkürler, iyi şanslar.

(Applause)

(Alkışlar)