How AI and Democracy Can Fix Each Other | Divya Siddarth | TED

Çeviri: Figen Ergürbüz Gözden geçirme: Selin Tüfekçi

Recently I told someone my work is on democracy and technology.

Geçenlerde birine işimin demokrasi ve teknoloji üzerine olduğunu söyledim.

He turned to me and said,

Bana döndü ve şöyle dedi

“Wow...

“Vay canına...

I’m sorry.”

senin için üzüldüm.”

(Laughter)

(Kahkahalar)

But I love my work.

Ama işimi seviyorum.

I know that we can build a world

Teknolojik harikaların getirilerinin

where technological marvels are directed towards people's benefit,

insanların yararına yönlendirildiği bir dünya inşa edebileceğimizi

using their input.

biliyorum.

We have gotten so used to seeing democracy as a problem to be solved.

Demokrasiyi çözülmesi gereken bir sorun olarak görmeye alıştık.

But I see democracy as a solution,

Bense demokrasiyi bir çözüm olarak görüyorum

not as a problem.

sorun olarak değil.

Democracy was once a radical political project,

Demokrasi bir zamanlar radikal bir politik projeydi,

itself a cutting-edge social technology,

kendisi de ileri bir sosyal teknolojiydi,

a new way to answer the very question we are faced with now,

şimdilerde yapay zekâ çağında karşı karşıya olduğumuz

in the era of artificial intelligence:

soruya yanıt vermek için yeni bir fırsattı:

how do we use our capabilities to live well together?

Yeteneklerimizi birlikte refah içinde yaşamak için nasıl kullanırız?

We are told that transformative technologies like AI are too complicated,

Bize yapay zekâ gibi dönüştürücü teknolojilerin

demokratik yöntemlerle yönetilemeyecek kadar karmaşık,

or too risky

or too important to be governed democratically.

riskli veya ciddi olduğu söylendi.

But this is precisely why they must be.

Ama tam da bu yüzden demokratik yöntemlerle yönetilmeliler.

If existing democracy is unequal to the task,

Mevcut demokrasi bu iş için uygun değilse

our job is not to give up on it.

bizim görevimiz demokrasiden vazgeçmek değil

Our job is to evolve it.

demokrasiyi geliştirmek dönüştürmektir.

And to use technology as an asset to help us do so.

Ve teknolojiyi bu konuda bize yardımcı olacak bir araç olarak kullanmak.

Still, I understand his doubts.

Yine de arkadaşımın şüphelerini anlıyorum.

I never meant to build my life around new forms of democracy.

Hayatımı demokrasinin yeni modelleri etrafında inşa etmek istemedim.

I started out just really believing in the power of science.

Sadece bilimin gücüne gerçekten inanarak başladım.

I was modifying DNA in my kitchen at 12,

12 yaşındayken mutfağımızda DNA’yı değiştiriyordum

and when I got to Stanford as a computational biology major,

ve hesaplamalı biyoloji eğitimi almak üzere Stanford’a geldiğimde

I was converted to a new belief -- technology.

başka bir inanca yöneldim -- teknoloji.

I truly believed in the power of tech to change the world.

Teknolojinin dünyayı değiştirme gücüne gerçekten inandım.

Maybe, like many of you.

Belki, birçoğunuz gibi.

But I saw that the technologies that really made a difference

Ama cidden fark yaratan teknolojilerin kolektifle birlikte

were the ones that were built with and for the collective.

ve kolektif için inşa edilmiş teknolojiler olduğunu gördüm.

Bağımlılık yaratan 19. sosyal medya uygulamasına pompalanan

Not the billions of dollars

pumped into the 19th addiction-fueling social app.

milyarlarca dolar değil de,

But the projects that combine creating something truly new

gerçekten yeni bir şey yaratmayı onu insanların erişebileceği,

with building in ways for people to access,

yararlanabileceği ve yönetebileceği şekilde inşa etmekle

benefit from and direct it.

birleştiren projeler.

Instead of social media, think of the internet.

Sosyal medya yerine interneti düşünün.

Built with public resources on open standards.

Açık standartlarda kamu kaynakları ile oluşturulmuştur.

This is what brought me to democracy.

Beni demokrasiye yönlendiren işte buydu.

Technology expands what we are capable of.

Teknoloji, yapabileceklerimizin sınırlarını genişletiyor.

Democracy is how we decide what to do with that capability.

Demokrasi, bu kapasite ile ne yapacağımıza nasıl karar vereceğimiz.

Since then, I've worked on using democracy as a solution

O zamandan beri Hindistan, ABD, İngiltere, Tayvan’da

in India, the US, the UK, Taiwan.

demokrasiyi çözüm olarak kullanmak üzerine çalıştım.

I've worked alongside incredible collaborators

Demokrasiyi kullanarak COVID ve veri hakları gibi problemleri çözmeye

to use democracy to help solve COVID,

yardımcı olmak için

to help solve data rights.

inanılmaz iş ortaklarıyla birlikte çalıştım.

And as I'll tell you today,

Ve de bugün sizlere bahsedeceğim gibi,

to help solve AI governance with policymakers around the world

yapay zekâ yönetiminin çözülmesine yardımcı olmak için dünyadaki politika

and cutting-edge technology companies like OpenAI and Anthropic.

belirleyici kişiler ve Open AI, Anthropic gibi teknoloji şirketleriyle çalıştım.

How?

Nasıl mı?

By recognizing that democracy is still in its infancy.

Demokrasinin hâlâ emekleme aşamasında olduğunu kabul ederek.

It is an early form of collective intelligence,

Kolektif zekânın erken bir formudur

a way to put together decentralized input from diverse sources

çeşitli kaynaklardan merkezi olmayan verileri bir araya getirmenin

and produce decisions that are better than the sum of their parts.

ve bunlarla daha iyi kararlar üretmenin bir yoludur.

That’s why, when my fantastic cofounder Saffron Huang and I

Bu nedenle, harika kurucu ortağım Saffron Huang ve ben

dönüştürücü teknoloji için yeni demokratik yönetim modelleri oluşturmak

left our jobs at Google DeepMind and Microsoft

to build new democratic governance models for transformative tech,

amacıyla Google DeepMind ve Microsofttaki işlerimizi bıraktığımızda

I named our nonprofit the Collective Intelligence Project,

o sırada gelişim aşamasında olan kolektif ilerleme için kolektif zekâ üretme

as a nod to the ever-evolving project of building collective intelligence

projemize de gönderme yapmak için kâr amacı gütmeyen kuruluşumuza

for collective flourishing.

Kolektif Zekâ Projesi adını verdim.

Since then we've done just that,

O zamandan beri tam da bunu yaptık,

building new collective intelligence models to direct artificial intelligence,

yapay zekâyı yönlendirmek, demokratik süreçleri yürütmek için

to run democratic processes.

yeni kolektif zekâ modelleri oluşturduk.

And we've incorporated the voices of thousands of people into AI governance.

Binlerce insanı yapay zekâ yönetimine dahil ettik.

Here are a few of the things we've learned.

İşte öğrendiğimiz şeylerden birkaçı.

First, people are willing and able to have difficult,

Birincisi, insanlar düşündürücü konularda

complex conversations on nuanced topics.

zor ve karmaşık konuşmalar yapmaya istekliler ve bunda iyiler.

When we asked people about the risks of AI they were most concerned about,

Yapay zekânın hangi riskinin onları en çok endişelendirdiğini sorduğumuzda

they didn't reach for easy answers.

kolaya kaçmadılar.

Out of more than 100 risks put forward,

Ortaya konulan 100′den fazla riskten

the top-cited one: overreliance on systems we don't understand.

en çok bahsedilen şuydu anlamadığımız sistemlere aşırı güvenmek.

We talked to people across the country,

Ortabatı’daki bir gaziden Güney’deki genç bir öğretmene kadar

from a veteran in the Midwest to a young teacher in the South.

ülkenin dört bir yanındaki insanlarla konuştuk.

People were excited about the possibilities of this technology,

İnsanlar bu teknolojinin olanakları konusunda heyecanlıydılar,

but there were specific things they wanted to understand

ancak modeller dünyaya yayılmadan önce

onların neler yapabilecekleri konusunda anlamak istedikleri belirli şeyler vardı.

about what models were capable of before seeing them deployed in the world.

A lot more reasonable than many of the policy conversations that we're in.

Bugün yaptığımız politika konuşmalarının çoğundan çok daha makul.

And importantly, we saw very little of the polarization

Ve daha da önemlisi, sürekli olarak bahsedilen

we're always hearing about.

kutuplaşmayı çok az gördük.

On average, just a few divisive statements

Ortalama yüzlerce fikirbirliği ifadesi arasında

for hundreds of consensus statements.

sadece birkaç bölücü ifade vardı.

Even on the contentious issues of the day,

İfade özgürlüğü veya ırk ve cinsiyet gibi

like free speech or race and gender,

zamanın tartışmalı konularında bile

we saw far more agreement than disagreement.

anlaşmazlıktan çok daha fazla anlaşma gördük.

Almost three quarters of people agree that AI should protect free speech.

İnsanların neredeyse dörtte üçü yapay zekânın ifade özgürlüğünü koruması

Ninety percent agree that AI should not be racist or sexist.

ve %90′ı onun ırkçı veya cinsiyetçi olmaması gerektiği konusunda hemfikir.

Only around 50 percent think that AI should be funny though,

Sadece %50′si yapay zekânın komik olması gerektiğini düşünüyor,

so they are still contentious issues out there.

yani hâlâ tartışmalı konular yok değil.

These last statistics

Bu son istatistikler,

are from our collective constitution project with Anthropic,

dünyanın en güçlü dil modellerinden birini 1000 temsilci Amerikan tarafından yazılan

where we retrained one of the world's most powerful language models

ilkeler üzerine tekrar eğittiğimiz,

on principles written by 1,000 representative Americans.

Anthropic ile olan ortak anayasa projemizden.

Not AI developers or regulators or researchers at elite universities.

Elit üniversitelerdeki yapay zekâ geliştirici,

düzenleyici veya araştırmacılar tarafından değil.

We built on a way of training AI

Yazılı bir dizi ilkeye veya bir anayasaya dayanan

that relies on a written set of principles or a constitution,

bir yapay zekâ eğitim modeli inşa ettik,

we asked ordinary people to cowrite this constitution,

ve sıradan insanlardan bu anayasayı yazmalarını istedik,

we compared it to a model that researchers had come up with.

sonra onu araştırmacıların bulduğu bir modelle karşılaştırdık.

When we started this project, I wasn't sure what to expect.

Bu projeye başladığımızda ne bekleyeceğimi bilmiyordum.

Maybe the naysayers were right.

Belki de hayır diyenler haklıydı.

AI is complicated.

Yapay zekâ karmaşıktır.

Maybe people wouldn't understand what we were asking them.

Belki insanlar onlardan istediğimiz şeyi anlayamayacaktı.

Maybe we'd end up with something awful.

Belki de sonuç berbat olacaktı.

But the people’s model, trained on the cowritten constitution,

Ancak birlikte yazılan anayasa üzerine eğitilmiş modellerden,

was just as capable and more fair

sıradan insalara ait olan araştırmacıların modeli kadar yetenekliydi

than the model the researchers had come up with.

ve ondan daha adildi.

People with little to no experience in AI

Yapay zekâ konusunda çok az deneyimi olan veya hiç deneyimi olmayan insanlar

did better than researchers, who work on this full-time,

daha adil bir chat botu oluşturmakta bu alanda tam zamanlı çalışan

in building a fairer chatbot.

araştırmacılardan daha iyi bir iş çıkardılar.

Maybe I shouldn't have been surprised.

Belki de şaşırmamalıydım.

As one of our participants from another process said,

Başka bir süreçte katılımcılarımızdan birinin söylediği gibi,

"They may be experts in AI, but I have eight grandchildren.

“Yapay zekâ konusunda uzman olabilirler, ancak sekiz torunum var.

I know how to pick good values."

Gerçek değerleri seçmeyi çok iyi bilirim.”

If technology expands what we are capable of

Teknoloji yapabileceklerimizin sınırlarını genişletiyorsa

and democracy is how we decide what to do with that capability,

ve demokrasi bu kapasiteyle ne yapacağımıza karar verme şeklimiz ise,

here is early evidence that democracy can do a good job deciding.

işte bu, demokrasinin karar vermekte iyi iş çıkarabileceğinin erken kanıtı.

Of course, these processes aren't enough.

Tabii ki bu süreçler yeterli değil.

Kolektif zekâ, teknoloji ve demokrasinin

Collective intelligence requires a broader reimagining of technology

daha kapsamlı bir şekilde yeniden tasarlanmasını gerektirir.

and democracy.

That’s why we’re also working on co-ownership models

Ayrıca sonuç olarak hepimize ait olan yapay zekânın temeli olan veriler için

for the data that AI is built on -- which, after all, belongs to all of us --

ortak mülkiyet modelleri üzerine çalışmamızın ve daha iyi karar süreçleri

oluşturmak için yapay zekânın kendisini kullanmamızın nedeni de bu.

and using AI itself to create new and better decision-making processes.

Taking advantage of the things

Devasa miktarlarda metin girişini işlemek gibi

that language models can do that humans can’t,

dil modellerinin yapabileceği insanların yapamayacağı şeylerde

like processing huge amounts of text input.

yapay zekâdan faydalanıyoruz.

Our work in Taiwan has been an incredible test bed for all of this.

Tayvan'daki çalışmalarımız tüm bunlar için inanılmaz bir test yatağı oldu.

Along with Minister Audrey Tang and the Ministry of Digital Affairs,

Bakan Audrey Tang ve Dijital İşler Bakanlığı ile birlikte

we are working on processes to ask Taiwan's millions of citizens

Tayvan’ın milyonlarca vatandaşına yapay zekâyla birlikte bir gelecekte

what they actually want to see as a future with AI.

gerçekten ne görmek istediklerini sormak için çalışıyoruz.

And using that input not just to legislate,

Ve bu girdiyi sadece yasa yapmak için değil,

yapay zekâyı geliştirmek için de kullanıyoruz.

but to build.

Because one thing that has already come out of these processes

Çünkü bu süreçlerden ortaya çıkan insanların yapay zekâda

is that people are truly excited about a public option for AI,

herkese açık bir seçenek konusunda gerçekten heyecanlı olmalarıdır.

one that is built on shared public data that is reliably safe,

Topluluklara erişim, yararlanma ve ihtiyaçlarına göre ayarlama

that allows communities to access, benefit from

imkanı sunan,

güvenilirliği yüksek kamusal veriler üzerine geliştirilmiş bir seçenek.

and adjust it to their needs.

This is what the world of technology could look like.

Teknoloji dünyası böyle görünüyor olabilir.

Steered by the many for the many.

Çoğunluk için çoğunluk tarafından yönlendiriliyor gibi.

I often find that we accept unnecessary trade-offs

Dönüştürücü teknoloji söz konusu olduğunda sıklıkla

gereksiz bedeller ödemeyi kabul ettiğimizi görüyorum.

when it comes to transformative tech.

We are told that we might need to sacrifice democracy

Teknolojik ilerleme uğruna

demokrasiden ödün vermek zorunda kalabileceğimiz söyleniyor.

for the sake of technological progress.

We have no choice but to concentrate power to keep ourselves safe

Kendimizi olası risklerden korumak için

gücü tek bir noktaya toplamaktan başka seçeneğimiz olmadığı.

from possible risks.

This is wrong.

Bunlar doğru değil.

It is impossible to have any one of these things --

İlerleme, güvenlik veya demokratik katılım--

progress, safety or democratic participation --

bunlardan herhangi birisine--

diğer ikisi olmaksızın sahip olmak imkansızdır.

without the others.

If we resign ourselves to only two of the three,

Bu üçünden sadece ikisine razı olursak,

we will end up with either centralized control or chaos.

kendimizi merkezi kontrol altında ya da kaos içinde buluruz.

Either a few people get to decide or no one does.

Birkaç kişi kontrolde olur ya da kimse kontrolde olmaz.

These are both terrible outcomes,

Bunlardan her ikisi de korkunç sonuçlar,

and our work shows that there is another way.

ve çalışmalarımız bunun başka bir yolu olduğunu gösteriyor.

Each of our projects advanced progress,

Projelerimizin her biri

safety and democratic participation

ileri teknoloji demokratik yapay zekâ modelleri oluşturarak,

by building cutting-edge democratic AI models,

yaygın riskleri anlamak için kamu uzmanlığından faydalanarak,

by using public expertise as a way to understand diffuse risks

ve dijital varlıklar için dijital ortak mülkiyet modelleri tasarlayarak

and by imagining co-ownership models for the digital commons.

ilerleme, güvenlik ve demokratik katılımı geliştirdi.

We are so far from the best collective intelligence systems we could have.

Sahip olabileceğimiz en iyi kolektif istihbarat sistemlerinden çok uzaktayız.

If we started over on building a decision-making process for the world,

Dünya için yeniden bir karar verme süreci oluşturmaya başlasaydık,

what would we choose?

neyi seçerdik?

Maybe we'd be better at separating financial power from political power.

Belki finansal gücü siyasi iktidardan daha iyi ayırırdık.

Maybe we'd create thousands of new models of corporations

Belki binlerce yeni şirket veya bürokrasi modeli

or bureaucracies.

yaratırdık.

Maybe we'd build in the voices of natural elements

Belki bunları yaparken doğayı veya gelecek nesilleri de

or future generations.

düşünürdük.

Here's a secret.

Size bir sır vereyim.

In some ways, we are always starting from scratch.

Bir bakıma her zaman sıfırdan başlıyoruz.

Yeni teknolojiler yeni kolektif zekâ sistemleriyle birlikte gelebilecek

New technologies usher in new paradigms

that can come with new collective intelligence systems.

yeni paradigmaları başlatıyor.

We can create new ways of living well together

Bunları değişim için bir fırsat olarak kullanırsak,

if we use these brief openings for change.

birlikte refah içinde yaşamak için yeni yollar ortaya koyabiliriz.

The story of technology and democracy is far from over.

Teknoloji ve demokrasinin hikâyesi daha bitmedi.

It doesn't have to be this way.

Böyle olmak zorunda değil.

Her şey hayal bile edemeyeceğimiz kadar iyi olabilirdi.

Things could be unimaginably better.

As the Indian author Arundhati Roy once said,

Hintli yazar Arundhati Roy’un

"Another world is not only possible,

bir zamanlar dediği gibi,

“Başka bir dünya sadece mümkün değil, o yolda, geliyor.

she is on her way.

On a quiet day, I can hear her breathing."

Sessiz bir günde, nefesini duyabiliyorum.”

I can hear our new world breathing.

Yeni dünyamızın nefes aldığını duyabiliyorum.

One in which we shift the systems we have

Görmek istediğimiz dünyaları inşa etmek için mevcut sistemlerimizi

towards using the solution of democracy to build the worlds we want to see.

demokrasi çözümünü kullanmaya adapte ettiğimiz bir dünya.

The future is up to us.

Gelecek bize bağlı.

We have a world to win.

Kazanmamız gereken bir dünya var.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)