How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Çeviri: Ozay Ozaydin Gözden geçirme: Eren Gokce

When I talk to people about artificial intelligence,

İnsanlarla yapay zekâ hakkında konuştuğumda,

something I hear a lot from non-experts is “I don’t understand AI.”

uzman olmayanlardan en çok duyduğum şey “Yapay zekâyı anlamıyorum.” oluyor.

But when I talk to experts, a funny thing happens.

Ancak uzmanlarla konuştuğumda komik bir şey oluyor.

They say, “I don’t understand AI, and neither does anyone else.”

“Yapay zekâyı ben de anlamıyorum, başkaları da anlamıyor” diyorlar.

This is a pretty strange state of affairs.

Bu oldukça garip bir durum.

Normally, the people building a new technology

Normalde, yeni bir teknolojiyi geliştiren insanlar

understand how it works inside and out.

onun nasıl çalıştığını tam anlamıyla anlarlar.

But for AI, a technology that's radically reshaping the world around us,

Ancak etrafımızdaki dünyayı kökten yeniden şekillendiren bir teknoloji olan YZ için

that's not so.

durum böyle değil.

Experts do know plenty about how to build and run AI systems, of course.

Uzmanlar elbette YZ sistemlerinin nasıl inşa edileceği

ve çalıştırılacağı hakkında çok şey biliyor.

But when it comes to how they work on the inside,

Ancak konu içeride nasıl çalıştıklarına geldiğinde,

there are serious limits to how much we know.

ne kadar bildiğimizin ciddi sınırları var.

And this matters because without deeply understanding AI,

Bu önemli çünkü YZ’yi derinlemesine anlamadan,

it's really difficult for us to know what it will be able to do next,

bir sonraki adımda neler yapabileceğini,

hatta şu anda neler yapabileceğini bilmemiz gerçekten zor.

or even what it can do now.

And the fact that we have such a hard time understanding

Teknolojide neler olup bittiğini anlamakta

what's going on with the technology and predicting where it will go next,

ve bundan sonra nereye gideceğini tahmin etmekte

bu kadar zorlanıyor olmamız,

is one of the biggest hurdles we face in figuring out how to govern AI.

YZ’yi nasıl yöneteceğimizi bulmakta karşılaştığımız en büyük engellerden biri.

But AI is already all around us,

Ancak YZ zaten etrafımızda,

so we can't just sit around and wait for things to become clearer.

bu yüzden oturup her şeyin netleşmesini bekleyemeyiz.

We have to forge some kind of path forward anyway.

Her hâlükârda ileriye doğru bir yol çizmek zorundayız.

I've been working on these AI policy and governance issues

Önce San Francisco’da, şimdi de Washington DC’de olmak üzere

for about eight years,

yaklaşık sekiz yıldır

First in San Francisco, now in Washington, DC.

bu YZ politika ve yönetişim konuları üzerinde çalışıyorum.

Along the way, I've gotten an inside look

Bu süre zarfında hükûmetlerin

at how governments are working to manage this technology.

bu teknolojiyi yönetmek için nasıl çalıştıklarına içeriden baktım.

And inside the industry, I've seen a thing or two as well.

Sektörün içinde de bir iki şey gördüm.

So I'm going to share a couple of ideas

Bu yüzden yapay zekâyı yönetme yolumuzun

for what our path to governing AI could look like.

neye benzeyebileceğine dair birkaç fikir paylaşacağım.

But first, let's talk about what actually makes AI so hard to understand

Ama önce, yapay zekâyı anlamayı ve tahmin etmeyi bu kadar zorlaştıran şeyin

and predict.

ne olduğundan bahsedelim.

One huge challenge in building artificial "intelligence"

Yapay “zekâ” oluşturmanın en büyük zorluklarından biri,

is that no one can agree on what it actually means

kimsenin zeki olmanın gerçekte ne anlama geldiği konusunda

to be intelligent.

hemfikir olamamasıdır.

Bu, yeni bir teknoloji inşa ederken içinde bulunulması gereken tuhaf bir durum.

This is a strange place to be in when building a new tech.

When the Wright brothers started experimenting with planes,

Wright kardeşler uçakları denemeye başladıklarında

they didn't know how to build one,

nasıl bir uçak yapacaklarını bilmiyorlardı

but everyone knew what it meant to fly.

ama herkes uçmanın ne demek olduğunu biliyordu.

With AI on the other hand,

Öte yandan yapay zekâ söz konusu olduğunda,

different experts have completely different intuitions

farklı uzmanlar zekânın temelinde neyin yattığı konusunda

about what lies at the heart of intelligence.

tamamen farklı sezgilere sahip.

Is it problem solving?

Problem çözme mi?

Is it learning and adaptation,

Öğrenme ve adaptasyon mu,

are emotions,

duygular

or having a physical body somehow involved?

ya da fiziksel bir bedene sahip olmak bir şekilde işin içinde mi?

We genuinely don't know.

Gerçekten bilmiyoruz.

But different answers lead to radically different expectations

Ancak farklı yanıtlar, teknolojinin nereye gittiği

ve oraya ne kadar hızlı ulaşacağı konusunda

about where the technology is going and how fast it'll get there.

kökten farklı beklentilere yol açıyor.

An example of how we're confused is how we used to talk

Kafamızın nasıl karıştığına dair bir örnek, eskiden

about narrow versus general AI.

dar ve genel yapay zekâ hakkında nasıl konuştuğumuzdur.

For a long time, we talked in terms of two buckets.

Uzun bir süre boyunca iki kova terimiyle konuştuk.

A lot of people thought we should just be dividing between narrow AI,

Pek çok insan, bir sonraki YouTube videosunu önermek gibi

trained for one specific task,

belirli bir görev için eğitilmiş

like recommending the next YouTube video,

dar yapay zekâ ile

bir insanın yapabileceği her şeyi yapabilen yapay genel zekâ

versus artificial general intelligence, or AGI,

veya AGI arasında ayrım yapmamız gerektiğini düşünüyordu.

that could do everything a human could do.

We thought of this distinction, narrow versus general,

Bu ayrımı, dar ve genel ayrımını,

as a core divide between what we could build in practice

pratikte inşa edebileceklerimiz ile

gerçekten akıllı olabilecekler arasındaki

and what would actually be intelligent.

temel bir ayrım olarak düşündük.

But then a year or two ago, along came ChatGPT.

Ama bir ya da iki yıl önce ChatGPT ortaya çıktı.

If you think about it,

Eğer düşünürseniz,

you know, is it narrow AI, trained for one specific task?

bilirsiniz, belirli bir görev için eğitilmiş dar bir yapay zekâ mı?

Or is it AGI and can do everything a human can do?

Yoksa AGI mi ve bir insanın yapabileceği her şeyi yapabilir mi?

Clearly the answer is neither.

Açıkçası cevap ikisi de değil.

It's certainly general purpose.

Kesinlikle genel amaçlı.

It can code, write poetry,

Kod yazabilir, şiir yazabilir,

iş sorunlarını analiz edebilir,

analyze business problems, help you fix your car.

arabanızı tamir etmenize yardımcı olabilir.

But it's a far cry from being able to do everything

Ancak her şeyi sizin ya da benim yapabileceğim kadar

as well as you or I could do it.

iyi yapabilmekten çok uzak.

So it turns out this idea of generality

Dolayısıyla, bu genellik fikrinin

doesn't actually seem to be the right dividing line

aslında akıllı olan ve olmayan arasındaki

doğru ayrım çizgisi olmadığı ortaya çıkıyor.

between intelligent and not.

And this kind of thing

Bu tür bir şey

is a huge challenge for the whole field of AI right now.

şu anda tüm yapay zekâ alanı için büyük bir zorluk.

Ne inşa etmeye çalıştığımız ya da bundan sonraki yol haritasının

We don't have any agreement on what we're trying to build

or on what the road map looks like from here.

nasıl göründüğü konusunda herhangi bir anlaşmamız yok.

We don't even clearly understand the AI systems that we have today.

Bugün sahip olduğumuz YZ sistemlerini bile net bir şekilde anlamıyoruz.

Why is that?

Neden böyle?

Researchers sometimes describe deep neural networks,

Araştırmacılar bazen bugün inşa edilen ana yapay zekâ türü olan

the main kind of AI being built today,

derin sinir ağlarını bir kara kutu olarak tanımlıyorlar.

as a black box.

But what they mean by that is not that it's inherently mysterious

Ancak bununla kastettikleri şey, doğası gereği gizemli olduğu

and we have no way of looking inside the box.

ve kutunun içine bakmanın bir yolu olmadığı değil.

The problem is that when we do look inside,

Sorun şu ki, içine baktığımızda bulduğumuz şey,

what we find are millions,

belirli bir şekilde birbirine eklenen

billions or even trillions of numbers

ve çarpılan milyonlarca, milyarlarca

that get added and multiplied together in a particular way.

ve hatta trilyonlarca sayıdır.

What makes it hard for experts to know what's going on

Uzmanların neler olup bittiğini anlamasını zorlaştıran şey,

is basically just, there are too many numbers,

temelde çok fazla sayı olması ve bunların ne işe yaradığını

and we don't yet have good ways of teasing apart what they're all doing.

ayırt etmek için henüz iyi yöntemlere sahip olmamamızdır.

There's a little bit more to it than that, but not a lot.

Bundan biraz daha fazlası var ama çok değil.

So how do we govern this technology

Peki anlamakta ve tahmin etmekte zorlandığımız

that we struggle to understand and predict?

bu teknolojiyi nasıl yöneteceğiz?

I'm going to share two ideas.

İki fikir paylaşacağım.

One for all of us and one for policymakers.

Biri hepimiz için, diğeri de politika yapıcılar için.

First, don't be intimidated.

Birincisi, gözünüz korkmasın.

Either by the technology itself

Ya teknolojinin kendisinden

or by the people and companies building it.

ya da onu geliştiren insanlardan ve şirketlerden.

On the technology,

Teknoloji konusunda,

AI can be confusing, but it's not magical.

YZ kafa karıştırıcı olabilir, ancak sihirli değildir.

There are some parts of AI systems we do already understand well,

YZ sistemlerinin halihazırda iyi anladığımız bazı kısımları var

and even the parts we don't understand won't be opaque forever.

ve anlamadığımız kısımlar bile sonsuza kadar anlaşılmaz kalmayacak.

An area of research known as “AI interpretability”

“YZ yorumlanabilirliği” olarak bilinen bir araştırma alanı,

has made quite a lot of progress in the last few years

tüm bu milyarlarca sayının ne yaptığını anlamlandırma konusunda

in making sense of what all those billions of numbers are doing.

son birkaç yılda oldukça ilerleme kaydetti.

One team of researchers, for example,

Örneğin bir araştırma ekibi,

found a way to identify different parts of a neural network

bir sinir ağının farklı kısımlarını tanımlamanın bir yolunu buldu

that they could dial up or dial down

ve bu kısımları çevirerek YZ’nin cevaplarını

to make the AI's answers happier or angrier,

daha mutlu ya da öfkeli,

more honest,

daha dürüst,

more Machiavellian, and so on.

daha Makyavelist vb. hâle getirebildiler.

If we can push forward this kind of research further,

Bu tür araştırmaları daha da ilerletebilirsek,

then five or 10 years from now,

bundan beş ya da 10 yıl sonra,

we might have a much clearer understanding of what's going on

kara kutu olarak adlandırılan şeyin içinde neler olup bittiğini

inside the so-called black box.

çok daha net bir şekilde anlayabiliriz.

And when it comes to those building the technology,

Teknolojiyi geliştirenlere gelince,

teknoloji uzmanları bazen sanki teknik detaylara vakıf değilseniz,

technologists sometimes act as though

if you're not elbows deep in the technical details,

bu teknolojiyle ne yapmamız gerektiği konusunda

then you're not entitled to an opinion on what we should do with it.

fikir beyan etme hakkınız yokmuş gibi davranıyorlar.

Expertise has its place, of course,

Uzmanlığın elbette bir yeri var,

but history shows us how important it is

ancak tarih bize yeni bir teknolojiden etkilenen insanların

that the people affected by a new technology

onu nasıl kullanacağımızı şekillendirmede

get to play a role in shaping how we use it.

rol oynamasının ne kadar önemli olduğunu gösteriyor.

Like the factory workers in the 20th century who fought for factory safety,

Tıpkı 20. yüzyılda fabrika güvenliği için mücadele eden fabrika işçileri ya da

or the disability advocates

internetin erişilebilir olmasını sağlayan engelli savunucuları gibi.

who made sure the world wide web was accessible.

You don't have to be a scientist or engineer to have a voice.

Söz sahibi olmak için bilim insanı ya da mühendis olmanıza gerek yok.

(Applause)

(Alkışlar)

Second, we need to focus on adaptability, not certainty.

İkinci olarak, kesinliğe değil, uyarlanabilirliğe odaklanmamız gerekiyor.

A lot of conversations about how to make policy for AI

YZ için nasıl politika oluşturulacağına dair birçok konuşma,

get bogged down in fights between, on the one side,

bir tarafta “YZ’yi şu anda gerçekten sıkı bir şekilde düzenlemeliyiz

people saying, "We have to regulate AI really hard right now

çünkü çok riskli” diyen insanlar arasındaki kavgalara boğuluyor.

because it's so risky."

And on the other side, people saying,

Diğer tarafta ise,

“But regulation will kill innovation, and those risks are made up anyway.”

“Ama düzenleme inovasyonu öldürecek ve bu riskler zaten uydurma” diyenler var.

But the way I see it,

Ama benim gördüğüm kadarıyla

it’s not just a choice between slamming on the brakes

bu sadece frene basmak ya da gaza basmak arasında bir seçim değil.

or hitting the gas.

If you're driving down a road with unexpected twists and turns,

Beklenmedik dönemeçleri olan bir yolda araba kullanıyorsanız,

then two things that will help you a lot

size çok yardımcı olacak iki şey ön camdan net bir görüşe

are having a clear view out the windshield

and an excellent steering system.

ve mükemmel bir direksiyon sistemine sahip olmaktır.

In AI, this means having a clear picture of where the technology is

Yapay zekâda bu, teknolojinin nerede olduğuna ve nereye gittiğine dair

net bir resme sahip olmak ve farklı senaryolarda ne yapılacağına dair

and where it's going,

and having plans in place for what to do in different scenarios.

planlara sahip olmak anlamına gelir.

Concretely, this means things like investing in our ability to measure

Somut olarak bu, YZ sistemlerinin neler yapabileceğini ölçme yeteneğimize

yatırım yapmak gibi şeyler anlamına gelir.

what AI systems can do.

This sounds nerdy, but it really matters.

Bu kulağa inekçe geliyor ama gerçekten önemli.

Right now, if we want to figure out

Şu anda, bir YZ’nin kritik altyapıyı hacklemek

whether an AI can do something concerning,

veya birini siyasi inançlarını değiştirmeye ikna etmek gibi

like hack critical infrastructure

or persuade someone to change their political beliefs,

ilgili bir şey yapıp yapamayacağını anlamak istiyorsak,

our methods of measuring that are rudimentary.

bunu ölçme yöntemlerimiz ilkeldir.

We need better.

Daha iyisine ihtiyacımız var.

We should also be requiring AI companies,

Ayrıca YZ şirketlerinden,

especially the companies building the most advanced AI systems,

özellikle de en gelişmiş YZ sistemlerini inşa eden şirketlerden,

to share information about what they're building,

ne inşa ettikleri, sistemlerinin neler yapabildiği

what their systems can do

ve riskleri nasıl yönettikleri hakkında

and how they're managing risks.

bilgi paylaşmalarını talep etmeliyiz.

And they should have to let in external AI auditors to scrutinize their work

Ayrıca, şirketlerin sadece kendi ev ödevlerine not vermemeleri için

çalışmalarını incelemeleri için

harici YZ denetçilerine izin vermek zorunda olmalıdırlar.

so that the companies aren't just grading their own homework.

(Applause)

(Alkışlar)

A final example of what this can look like

Bunun neye benzeyebileceğine dair son bir örnek,

is setting up incident reporting mechanisms,

olay raporlama mekanizmalarının kurulmasıdır;

böylece gerçek dünyada işler ters gittiğinde,

so that when things do go wrong in the real world,

ne olduğuna ve bir dahaki sefere nasıl düzeltebileceğimize dair

we have a way to collect data on what happened

and how we can fix it next time.

veri toplamanın bir yolunu bulabiliriz.

Just like the data we collect on plane crashes and cyber attacks.

Tıpkı uçak kazaları ve siber saldırılar hakkında topladığımız veriler gibi.

None of these ideas are mine,

Bu fikirlerin hiçbiri bana ait değil

and some of them are already starting to be implemented in places like Brussels,

ve bazıları Brüksel, Londra ve hatta

Washington gibi yerlerde uygulanmaya başlandı bile.

London, even Washington.

But the reason I'm highlighting these ideas,

Ancak bu fikirleri, ölçüm, açıklama,

measurement, disclosure, incident reporting,

olay raporlamayı vurgulamamın nedeni,

bize ön camdan daha net bir görüş sağlayarak

is that they help us navigate progress in AI

by giving us a clearer view out the windshield.

YZ’deki ilerlemeyi yönlendirmemize yardımcı olmalarıdır.

If AI is progressing fast in dangerous directions,

Eğer YZ tehlikeli yönlerde hızla ilerliyorsa,

these policies will help us see that.

bu politikalar bunu görmemize yardımcı olacaktır.

And if everything is going smoothly, they'll show us that too,

Eğer her şey yolunda gidiyorsa, bunu da bize gösterecekler

and we can respond accordingly.

ve biz de buna göre yanıt verebileceğiz.

What I want to leave you with

Size bırakmak istediğim konu,

is that it's both true that there's a ton of uncertainty

YZ alanında bir ton belirsizlik

ve anlaşmazlık olduğunun doğru olduğu.

and disagreement in the field of AI.

And that companies are already building and deploying AI

Şirketlerin halihazırda hepimizi etkileyecek şekilde

all over the place anyway in ways that affect all of us.

her yerde YZ’yi inşa ettikleri ve kullandıkları.

Left to their own devices,

Kendi hâllerine bırakıldıklarında,

it looks like AI companies might go in a similar direction

YZ şirketleri sosyal medya şirketlerine benzer bir yöne gidebilir,

to social media companies,

kaynaklarının çoğunu web uygulamaları oluşturmaya

spending most of their resources on building web apps

ve kullanıcıların dikkatini çekmeye harcayabilir gibi görünüyor.

and for users' attention.

And by default, it looks like the enormous power of more advanced AI systems

Varsayılan olarak, daha gelişmiş YZ sistemlerinin muazzam gücü,

might stay concentrated in the hands of a small number of companies,

az sayıda şirketin, hatta az sayıda bireyin elinde

yoğunlaşmış olarak kalabilir gibi görünüyor.

or even a small number of individuals.

But AI's potential goes so far beyond that.

Ancak YZ’nin potansiyeli bunun çok ötesine geçiyor.

AI already lets us leap over language barriers

YZ şimdiden dil engellerini aşmamızı

and predict protein structures.

ve protein yapılarını tahmin etmemizi sağlıyor.

More advanced systems could unlock clean, limitless fusion energy

Daha gelişmiş sistemler temiz, sınırsız füzyon enerjisinin kilidini açabilir

or revolutionize how we grow food

ya da gıda yetiştirme şeklimizde veya 1000 başka şeyde devrim yaratabilir.

or 1,000 other things.

And we each have a voice in what happens.

Her birimiz ne olacağı konusunda söz sahibiyiz.

We're not just data sources,

Bizler sadece veri kaynakları değiliz,

we are users,

bizler kullanıcıyız,

we're workers,

bizler işçiyiz,

we're citizens.

bizler vatandaşız.

So as tempting as it might be,

Bu nedenle, ne kadar cazip olursa olsun,

we can't wait for clarity or expert consensus

YZ ile ne olmasını istediğimizi anlamak için

to figure out what we want to happen with AI.

netlik veya uzman konsensüsü bekleyemeyiz.

AI is already happening to us.

YZ zaten başımıza geliyor.

What we can do is put policies in place

Yapabileceğimiz şey, bize teknolojinin

to give us as clear a picture as we can get

nasıl değiştiğine dair olabildiğince net bir resim sunacak politikaları

of how the technology is changing,

uygulamaya koymak ve ardından arenaya girip

and then we can get in the arena and push for futures we actually want.

gerçekten istediğimiz gelecekler için bastırmaktır.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)