AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Çeviri: Fatih Keskin Gözden geçirme: Cihan Ekmekçi

So I've been an AI researcher for over a decade.

On yıldan fazla bir süredir yapay zeka araştırmacılığı yapmaktayım.

And a couple of months ago, I got the weirdest email of my career.

Ve birkaç ay önce kariyerimin en garip e-postasını aldım.

A random stranger wrote to me

Rastgele bir yabancı bana yazıp

saying that my work in AI is going to end humanity.

yapay zekadaki çalışmalarımın insanlığın sonunu getireceğini söyledi.

Now I get it, AI, it's so hot right now.

Tamam anladım; yapay zeka, şu anda çok ateşli.

(Laughter)

(Kahkahalar)

It's in the headlines pretty much every day,

Hemen hemen her gün

bazen çeşitli havalı şeylerden,

sometimes because of really cool things

like discovering new molecules for medicine

bir ilaç için yeni moleküller keşfetmekten

or that dope Pope in the white puffer coat.

veya beyaz şişme montlu Papa resminden dolayı manşetlerde yer alıyor.

But other times the headlines have been really dark,

Ama bazen manşetler karanlık olabiliyor.

like that chatbot telling that guy that he should divorce his wife

Örneğin bir ara, bir sohbet robotu bir adama karısını boşamasını söylemişti

or that AI meal planner app proposing a crowd pleasing recipe

ve bir yapay zeka uygulaması klor gazlı, herkesin hoşuna gidecek

featuring chlorine gas.

yemek tarifleri vermişti.

And in the background,

Ve önceden

we've heard a lot of talk about doomsday scenarios,

kıyamet senaryoları, varoluşsal risk ve tekillikler hakkında çok konuşma yapıldı.

existential risk and the singularity,

with letters being written and events being organized

Bunların gerçekleşmeyeceğinden emin olmak için bu konularda

to make sure that doesn't happen.

mektuplar yazıldı, etkinlikler düzenlendi.

Now I'm a researcher who studies AI's impacts on society,

Bakın, ben yapay zekanın toplum üzerindeki etkilerini inceleyen bir araştırmacıyım

and I don't know what's going to happen in 10 or 20 years,

ve 10 veya 20 yıl içinde neler olacağını bilmiyorum

and nobody really does.

ve aslında kimse bilmiyor.

But what I do know is that there's some pretty nasty things going on right now,

Ama şunu biliyorum ki şu anda bazı fena şeyler yaşanmakta

because AI doesn't exist in a vacuum.

çünkü yapay zeka, dünyadan kopuk var olamaz.

It is part of society, and it has impacts on people and the planet.

Toplumun bir parçasıdır ve insanlar ile gezegenimiz üzerinde etkisi vardır.

Yapay zeka modelleri, iklim değişikliğine katkıda bulunabilir.

AI models can contribute to climate change.

Their training data uses art and books created by artists

Yapay zeka eğitim verileri, sanatçıların yaptığı sanatları ve kitapları

and authors without their consent.

onların rızası olmadan kullanıyor.

And its deployment can discriminate against entire communities.

Ve yapay zeka yayılırsa bütün topluluklara karşı ırkçılık yapabilir.

But we need to start tracking its impacts.

Ama etkilerini takip etmeye başlamalıyız.

We need to start being transparent and disclosing them and creating tools

Şeffaf olmaya, etkilerini ortaya çıkmaya ve araçlar üretmeye başlayalım ki

so that people understand AI better,

insanlar yapay zekayı daha iyi anlayabilsin

ve böylece gelecek jenerasyon yapay zeka modelleri

so that hopefully future generations of AI models

are going to be more trustworthy, sustainable,

daha güvenilir, sürdürülebilir ve bizi öldürme olasılığı daha düşük olsun;

maybe less likely to kill us, if that's what you're into.

eğer ilgilendiğiniz buysa tabii.

But let's start with sustainability,

Sürdürülebilirlikle başlayalım,

because that cloud that AI models live on is actually made out of metal, plastic,

çünkü yapay zekanın yaşadığı o bulut, aslında metal ile plastikten yapılma

and powered by vast amounts of energy.

ve büyük miktarda enerji tüketmektedir.

And each time you query an AI model, it comes with a cost to the planet.

Ve bir yapay zeka modeline soru sorduğunuzda, gezegenimiz etkilenir.

Last year, I was part of the BigScience initiative,

Geçen yıl, dünyanın her yerinden binlerce araştırmayı getiren

which brought together a thousand researchers

BigScience girişiminin bir parçasıydım.

from all over the world to create Bloom,

Burada, ChatGPT gibi

the first open large language model, like ChatGPT,

ilk açık kodlu, büyük bir dil modeli olan Bloom'u

but with an emphasis on ethics, transparency and consent.

ahlaka, şeffaflığa ve rızaya önem vererek kurduk.

And the study I led that looked at Bloom's environmental impacts

Benim yürüttüğüm araştırma, Bloom'un çevreye verdiği etkiyi araştırdı ve

found that just training it used as much energy

onu eğitmenin, bütün yıl boyunca 30 haneye sağlanan enerjiye eşit olduğunu

as 30 homes in a whole year

and emitted 25 tons of carbon dioxide,

ve 25 ton karbondioksit salımına yol açtığını buldu.

which is like driving your car five times around the planet

Bu da arabanızla tüm gezegeni 5 kere turlamaya eşdeğerdir.

just so somebody can use this model to tell a knock-knock joke.

Bütün bunlar, sırf biri bu modele bulmaca sorabilsin diye yapılıyor.

And this might not seem like a lot,

Bütün bunlar fazla gibi gözükmese de

but other similar large language models,

GPT-3 gibi diğer büyük dil modelleri,

like GPT-3,

emit 20 times more carbon.

20 kat daha fazla karbon salınımı yapmakta.

But the thing is, tech companies aren't measuring this stuff.

Ama mesele şu ki teknoloji şirketleri bu şeyleri ölçmüyor.

They're not disclosing it.

Bunları açıklamıyorlar.

And so this is probably only the tip of the iceberg,

Yani bu büyük ihtimalle buzdağının görünen ucu,

even if it is a melting one.

her ne kadar erimekte olsa bile.

And in recent years we've seen AI models balloon in size

Ve son yıllarda, yapay zeka boyutlarının şiştiğine tanıklık ettik

because the current trend in AI is "bigger is better."

çünkü yapay zekada şu anda "daha büyük, daha iyi" akımı var.

But please don't get me started on why that's the case.

Ama bunun neden böyle olduğu konusuna hiç girmeyeyim.

In any case, we've seen large language models in particular

Her halükarda, bazı büyük dil modellerinin son beş yılda,

grow 2,000 times in size over the last five years.

özellikle 2000 kat büyüdüğünü gördük.

And of course, their environmental costs are rising as well.

Ve tabii ki çevreye olan masrafları da git gide artıyor.

The most recent work I led, found that switching out a smaller,

Yürüttüğüm en son çalışmada, daha büyük bir dil modelini

more efficient model for a larger language model

daha küçük ve daha verimli bir modelle değiştirmenin

emits 14 times more carbon for the same task.

aynı görev için 14 kat daha fazla karbon salınımı yaptığını bulduk.

Like telling that knock-knock joke.

O bulmaca sorusunu sormak gibi.

And as we're putting in these models into cell phones and search engines

Bu modelleri cep telefonlarına, arama motorlarına,

and smart fridges and speakers,

akıllı buzdolaplarına ve hoparlörlere koyduğumuzda

the environmental costs are really piling up quickly.

çevreye olan masrafları hızlıca birikiyor.

So instead of focusing on some future existential risks,

Yani gelecekteki bazı varoluşsal risklere odaklanmak yerine,

let's talk about current tangible impacts

hadi şu anki hissedilir etkiler ve

and tools we can create to measure and mitigate these impacts.

bu etkileri ölçebilecek ve azaltabilecek araçların yapımı hakkında konuşalım.

I helped create CodeCarbon,

CodeCarbon'u kurmaya yardım ettim.

a tool that runs in parallel to AI training code

CodeCarbon, yapay zeka eğitim koduyla paralel çalışıp

that estimates the amount of energy it consumes

ne kadar enerji tüketildiğini ve ne kadar karbon salındığını hesaplayan bir araçtır.

and the amount of carbon it emits.

And using a tool like this can help us make informed choices,

Ve bunun gibi araçlar, bir modeli

like choosing one model over the other because it's more sustainable,

sürdürülebilir olduğu için seçmek veya yapay zeka modellerini

salınımlarını şiddetle düşürecek yenilenebilir enerji üzerinde kurmak gibi

or deploying AI models on renewable energy,

which can drastically reduce their emissions.

daha bilinçli seçimler yapmamıza yardımcı olabilir.

But let's talk about other things

Ancak gelin başka şeyler konuşalım

because there's other impacts of AI apart from sustainability.

çünkü yapay zekanın sürdürülebilirlik dışında başka etkileri de var.

For example, it's been really hard for artists and authors

Örneğin sanatçılar ve yazarlar için hayatlarının çalışmalarının

to prove that their life's work has been used for training AI models

rızaları olmadan yapay zeka modellerinin eğitiminde kullanıldığını kanıtlamak

without their consent.

gerçekten zor olmuştur.

And if you want to sue someone, you tend to need proof, right?

Ve eğer birine dava açacaksan genelde kanıta ihtiyacın olur, değil mi?

So Spawning.ai, an organization that was founded by artists,

Öyle ki sanatçılar tarafından kurulan bir kuruluş olan Spawning.ai,

created this really cool tool called “Have I Been Trained?”

"Have I Been Trained?" adında gerçekten havalı bir araç yarattılar.

And it lets you search these massive data sets

Burada, büyük veri setlerinde arama yapıp sizi kullanıyorlar mı görebilirsiniz.

to see what they have on you.

Now, I admit it, I was curious.

İtiraf ediyorum, merak ettim.

I searched LAION-5B,

İçinde görüntüler ve metinler bulunduran büyük veri seti LAION-5B'yi

which is this huge data set of images and text,

to see if any images of me were in there.

benim resimlerimi kullanıyor mı görmek için arama yaptım.

Now those two first images,

Orada ilk iki görüntü benim,

that's me from events I've spoken at.

konuştuğum etkinliklerdeki ben.

But the rest of the images, none of those are me.

Ama resimlerin geri kalanı ben değilim.

They're probably of other women named Sasha

Muhtemelen internete fotoğrafını koyan Sasha adındaki diğer kadınlardan.

who put photographs of themselves up on the internet.

And this can probably explain why,

Ve bu da muhtemelen, sık sık,

when I query an image generation model

bir görsel oluşturma modeline

to generate a photograph of a woman named Sasha,

Sasha adında bir kadın fotoğrafı oluştur dediğimde

more often than not I get images of bikini models.

bikini modelleri görüntülerini aldığımı açıklayabilir.

Sometimes they have two arms,

Bazen iki kolları, bazen de üç kolları olsa da

sometimes they have three arms,

(Kahkahalar)

but they rarely have any clothes on.

üzerlerinde nadiren kıyafetleri vardır.

And while it can be interesting for people like you and me

Bu veri setlerinde arama yapmak sizin benim gibi insanların

to search these data sets,

hoşuna gitse de

for artists like Karla Ortiz,

Karla Ortiz gibi sanatçılar için

this provides crucial evidence that her life's work, her artwork,

hayatının çalışmasının, kendi sanatının, yapay zeka modellerinin eğitiminde

was used for training AI models without her consent,

rızası olmadan kullanıldığına ilişkin önemli kanıt taşıyor.

and she and two artists used this as evidence

Karla ile iki sanatçı, bunu yapay zeka şirketlerine telif ihlali sebebiyle

to file a class action lawsuit against AI companies

for copyright infringement.

toplu dava açmada kanıt olarak kullandı.

And most recently --

Ve yakın zamanda--

(Applause)

(Alkışlar)

And most recently Spawning.ai partnered up with Hugging Face,

Ve yakın zamanda Spawning.ai, çalıştığım Hugging Face şirketiyle ortaklık kurarak

the company where I work at,

to create opt-in and opt-out mechanisms for creating these data sets.

bu veri setlerini yaratırken kullanılacak

isteğe bağlı veri paylaşım mekanizmalarını yarattılar.

Because artwork created by humans shouldn’t be an all-you-can-eat buffet

Çünkü insanların yaptığı sanat eserleri,

yapay zeka modellerini eğitirken kullanılan açık bir büfe olmamalı.

for training AI language models.

(Applause)

(Alkışlar)

The very last thing I want to talk about is bias.

Konuşmak istediğim son konu taraflılık.

You probably hear about this a lot.

Muhtemelen bunu çok kez duymuşsunuzdur.

Tanımı, yapay zeka modellerinin kodlarında basmakalıp veya ırkçılık ile cinsiyetçilik

Formally speaking, it's when AI models encode patterns and beliefs

that can represent stereotypes or racism and sexism.

yansıtıcı kalıp ve inançların kullanılmasıdır.

One of my heroes, Dr. Joy Buolamwini, experienced this firsthand

Kahramanlarımdan biri olan Dr. Joy Buolamwini, kendi gözleriyle

when she realized that AI systems wouldn't even detect her face

yapay zeka sistemlerinin kendisi beyaz bir maske takmadığı sürece

unless she was wearing a white-colored mask.

yüzünü tanımadıklarına şahit oldu.

Digging deeper, she found that common facial recognition systems

Daha derine indiğinde, sıradan yüz tanıma sistemlerinin beyaz erkeklerle kıyasla

were vastly worse for women of color compared to white men.

beyaz olmayan kadınlar için çok daha kötü olduğunu buldu.

And when biased models like this are deployed in law enforcement settings,

Ve bunun gibi taraf tutan modeller, yasa uygulama ortamlarında kullanıldığında

this can result in false accusations, even wrongful imprisonment,

geçtiğimiz aylarda birçok kişiye olduğu gibi

which we've seen happen to multiple people in recent months.

haksız suçlamalara, hatta ve hatta haksız tutuklamalara yol açabilir.

For example, Porcha Woodruff was wrongfully accused of carjacking

Örneğin, sekiz aylık hamile Porcha Woodruff,

at eight months pregnant

yapay zeka sistemi onu yanlış bir şekilde tanımladığından araba kaçırmayla suçlandı.

because an AI system wrongfully identified her.

Ama ne yazık ki bu sistemler kara kutular gibilerdir.

But sadly, these systems are black boxes,

and even their creators can't say exactly why they work the way they do.

Yani yaratıcıları bile niye böyle çalıştıklarını bilmiyorlar.

And for example, for image generation systems,

Örneğin, görüntü oluşturma sistemleri

if they're used in contexts like generating a forensic sketch

sanığın tasviri baz alınan robot resim oluşturma bağlamlarında kullanıldığında

based on a description of a perpetrator,

they take all those biases and they spit them back out

o taraflılığı tehlikeli bir suçlu, terörist veya çete üyesi tanımlamada

for terms like dangerous criminal, terrorists or gang member,

kullanıyor ve yansıtıyorlar.

which of course is super dangerous

Bu araçlar haliyle, toplumda kullanılmaya başlandığı zaman aşırı tehlikelidir.

when these tools are deployed in society.

And so in order to understand these tools better,

Ben de bu tarz araçları daha iyi anlamak için

I created this tool called the Stable Bias Explorer,

Stable Bias Explorer adında bir araç yarattım.

which lets you explore the bias of image generation models

Bu araçla görsel oluşturma modellerindeki taraflılığa

through the lens of professions.

mesleklerin bakış açısından bakabiliyorsunuz.

So try to picture a scientist in your mind.

Bu yüzden zihninizde bir bilim insanı hayal etmeye çalışın.

Don't look at me.

Bana bakmayın.

What do you see?

Ne görüyorsunuz?

A lot of the same thing, right?

Bir sürü aynı şeyi, değil mi?

Men in glasses and lab coats.

Gözlüklü ve laboratuvar önlüklü erkekler.

And none of them look like me.

Ve hiçbiri bana benzemiyor.

And the thing is,

Demek istediğim,

is that we looked at all these different image generation models

tüm bu farklı görsel oluşturma modellerine baktık

and found a lot of the same thing:

ve hep aynı şeyi bulduk:

significant representation of whiteness and masculinity

Baktığımız her 150 meslekte,

across all 150 professions that we looked at,

gerçek dünyayla kıyaslandığında bile,

even if compared to the real world,

kayda değer beyaz ırk ve erkeklik temsili, ABD işçi istatistikleri bürosu.

the US Labor Bureau of Statistics.

These models show lawyers as men,

Bu modeller avukatları

and CEOs as men, almost 100 percent of the time,

ve CEO'ları neredeyse her zaman %100 erkek olarak gösteriyor.

even though we all know not all of them are white and male.

Ama tabii ki hepsinin beyaz ve erkek olmadığını biliyoruz.

And sadly, my tool hasn't been used to write legislation yet.

Ne yazık ki aracım henüz bir yasa yazmada kullanılmadı.

But I recently presented it at a UN event about gender bias

Ama geçenlerde onu bir Birleşmiş Milletler cinsiyet taraflılığı oturumunda

as an example of how we can make tools for people from all walks of life,

her çeşit meslekten insan için araç yapabileceğimizi göstermek için sundum.

even those who don't know how to code,

Böylece kodlamayı bilmeyen insanlar bile

to engage with and better understand AI because we use professions,

meslekleri kullandığımızdan yapay zekayla etkileşime girip onu anlayabilir.

but you can use any terms that are of interest to you.

Ama tabii ki meslek yerine istediğiniz terimi kullanabilirsiniz.

And as these models are being deployed,

Ve bu modeller kullanılmaya başlandıkça

are being woven into the very fabric of our societies,

toplumlarımızın, cep telefonlarımızın

our cell phones, our social media feeds,

ve sosyal medya akışlarımızın kumaşına işliyor.

even our justice systems and our economies have AI in them.

Hatta adalet sistemlerimiz ve ekonomilerimizde bile yapay zeka var.

And it's really important that AI stays accessible

Ve yapay zekanın erişilebilir kalması çok önemlidir

so that we know both how it works and when it doesn't work.

çünkü böylece hem nasıl çalıştığını hem de ne zaman çalışmadığını biliriz.

And there's no single solution for really complex things like bias

Ayrıca taraflılık, telif hakkı ve iklim değişikliği gibi karmaşık şeylerin

or copyright or climate change.

tek bir çözümü yok.

But by creating tools to measure AI's impact,

Ancak, yapay zekanın etkisini ölçmek için araçlar yaratalım ki

we can start getting an idea of how bad they are

ne kadar kötü olduklarına dair bir fikir edinmeye başlayalım

and start addressing them as we go.

ve ilerledikçe onları ele alalım.

Start creating guardrails to protect society and the planet.

Toplumu ve gezegeni korumak için korkuluklar kurmaya başlayalım.

And once we have this information,

Ve o bilgilere sahip olduğumuzda

companies can use it in order to say,

şirketler bunu kullanarak şöyle diyebilir:

OK, we're going to choose this model because it's more sustainable,

Tamam, bu modeli seçeceğiz çünkü daha sürdürülebilir

this model because it respects copyright.

ya da şu modeli çünkü telife saygı duyuyor.

Legislators who really need information to write laws,

Yasa yazarken gerçekten bilgilere ihtiyaç duyan yasa koyucular,

can use these tools to develop new regulation mechanisms

bu araçları kullanarak yeni yasa mekanizmaları

or governance for AI as it gets deployed into society.

veya topluma girmeye başladıkça yapay zeka denetimi geliştirebilirler.

Siz ve ben gibi kullanıcılar da bu bilgiyi kullanarak

And users like you and me can use this information

to choose AI models that we can trust,

bizi yanlış temsil etmeyecek ve verilerimizi hor kullanmayacak

not to misrepresent us and not to misuse our data.

güvenilir bir yapay modeli seçebiliriz.

But what did I reply to that email

Peki, çalışmalarımın insanlığın sonunu getireceğini söyleyen e-postaya ne dedim?

that said that my work is going to destroy humanity?

I said that focusing on AI's future existential risks

Ona, yapay zekanın gelecekteki varoluşsal risklerine odaklanmak

is a distraction from its current,

şu anki fazlasıyla hissedilir etkilerinden

very tangible impacts

and the work we should be doing right now, or even yesterday,

ve bu etkileri azaltmak için şu an, hatta dün yapmamız gereken çalışmalardan

for reducing these impacts.

bizi saptırır dedim.

Because yes, AI is moving quickly, but it's not a done deal.

Çünkü evet, yapay zeka hızlı gelişiyor ama henüz bu iş bitmedi.

We're building the road as we walk it,

Bu yolu üzerinde yürürken inşa ediyoruz

and we can collectively decide what direction we want to go in together.

ve birlikte, beraber hangi yöne gitmek istediğimize karar verebiliriz.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)