We're building a dystopia just to make people click on ads | Zeynep Tufekci

Çeviri: Cihan Ekmekçi Gözden geçirme: Gizem Dumlu

So when people voice fears of artificial intelligence,

İnsanlar yapay zekayla ilgili korkularını dile getirdiğinde

very often, they invoke images of humanoid robots run amok.

genellikle kontrolden çıkmış insansı robotları hayal ederler.

You know? Terminator?

Terminatör gibi.

You know, that might be something to consider,

Düşünmeye değer olsa da

but that's a distant threat.

uzak bir tehdit bu.

Or, we fret about digital surveillance

Bazen de geçmişe özgü benzetmelerle

with metaphors from the past.

dijital gözetlenme kaygısı taşıyoruz.

"1984," George Orwell's "1984,"

George Orwell'in ''1984'' adlı eseri

it's hitting the bestseller lists again.

şu an yine en çok satanlar listesinde.

It's a great book,

Harika bir kitap

but it's not the correct dystopia for the 21st century.

ama 21. yüzyıl için doğru distopya değil.

What we need to fear most

En çok korkmamız gereken şey

is not what artificial intelligence will do to us on its own,

yapay zekanın kendi başına bize ne yapacağı değil,

but how the people in power will use artificial intelligence

güç sahibi insanların bizi kontrol ve manipüle etmek adına

to control us and to manipulate us

yeni, bazen saklı,

in novel, sometimes hidden,

bazen de belirsiz ve beklenmeyen şekilde

subtle and unexpected ways.

bunu nasıl kullanacakları.

Much of the technology

Yakın gelecekteki bağımsızlığımızı

that threatens our freedom and our dignity in the near-term future

ve itibarımızı tehdit eden teknolojinin büyük kısmı

is being developed by companies

verilerimizi ve dikkatimizi toplayıp

in the business of capturing and selling our data and our attention

reklamcı ve benzerlerine satan

to advertisers and others:

şirketler tarafından geliştiriliyor:

Facebook, Google, Amazon,

Facebook, Google, Amazon,

Alibaba, Tencent.

Alibaba, Tencent.

Now, artificial intelligence has started bolstering their business as well.

Şimdi yapay zeka da onların işlerine katkıda bulunmaya başladı.

And it may seem like artificial intelligence

Yapay zeka, internet reklamcılığından sonra gelen

is just the next thing after online ads.

yeni bir teknoloji gibi görünse de

It's not.

durum farklı.

It's a jump in category.

Söz konusu olan, ilgili alanda yepyeni bir açılım.

It's a whole different world,

Tamamen farklı bir dünya

and it has great potential.

ve büyük potansiyeli var.

It could accelerate our understanding of many areas of study and research.

Araştırma ve inceleme alanlarındaki kavrayışımızı hızlandırabilir.

But to paraphrase a famous Hollywood philosopher,

Ancak ünlü bir Hollywood filozofundan alıntı yapacak olursam,

"With prodigious potential comes prodigious risk."

''Muhteşem potansiyel muhteşem riskler barındırır.''

Now let's look at a basic fact of our digital lives, online ads.

Dijital hayatlarımızdaki temel bir gerçeğe bakalım.

İnternet reklamları. Öyle değil mi? Onları yok sayıyoruz.

Right? We kind of dismiss them.

They seem crude, ineffective.

Basit ve dikkat dağıtıcı görünüyorlar.

We've all had the experience of being followed on the web

Okuduğumuz veya arattığımız bir konuyla ilgili reklamlar tarafından

by an ad based on something we searched or read.

internette takip edilme tecrübesini hepimiz yaşadık.

You know, you look up a pair of boots

Hani bir çift botun fiyatına bakarsınız

and for a week, those boots are following you around everywhere you go.

ve sonra bütün hafta girdiğiniz her sayfada botlar sizi takip eder.

Even after you succumb and buy them, they're still following you around.

Karşı koyamayıp satın aldıktan sonra bile sizi takip ederler.

We're kind of inured to that kind of basic, cheap manipulation.

Bu basit ve ucuz manipülasyonu adeta kanıksamış durumdayız.

We roll our eyes and we think, "You know what? These things don't work."

Göz devirip kendi kendimize ''İşe yaramıyor bunlar.'' diyoruz.

Except, online,

Ne var ki internet ortamında,

the digital technologies are not just ads.

dijital teknolojiler reklamlardan ibaret değil.

Now, to understand that, let's think of a physical world example.

Bunu anlamak için fiziksel bir dünya örneği ele alalım.

You know how, at the checkout counters at supermarkets, near the cashier,

Süpermarketlerde kasaların hemen yanında

there's candy and gum at the eye level of kids?

çocukların göz hizasında şekerleme ve sakız olur.

That's designed to make them whine at their parents

İlgili düzenek, aileler tam marketten çıkmak üzereyken

just as the parents are about to sort of check out.

çocuklarının bunları ısrarla istemeleri için tasarlanmıştır.

Now, that's a persuasion architecture.

Bu bir ikna mimarisi.

It's not nice, but it kind of works.

Pek hoş değil ama işe yarıyor.

That's why you see it in every supermarket.

Bu yüzden de her süpermarkette görüyoruz.

Now, in the physical world,

Fiziksel dünyada,

such persuasion architectures are kind of limited,

bu ikna mimarileri sınırlıdır,

because you can only put so many things by the cashier. Right?

çünkü kasiyerin yanına koyabileceğiniz şeylerin bir sınırı var, değil mi?

And the candy and gum, it's the same for everyone,

Şeker ve sakız herkes için aynı,

even though it mostly works

her ne kadar yanında

only for people who have whiny little humans beside them.

sızlanan çocuklar olan aileler için işe yarasa da.

In the physical world, we live with those limitations.

Fiziksel dünyada bu sınırlarla yaşıyoruz.

In the digital world, though,

Ancak dijital dünyada,

persuasion architectures can be built at the scale of billions

ikna mimarisi, milyarlara erişecek şekilde inşa edilebilir

and they can target, infer, understand

ve bu reklamlar aynı zamanda

and be deployed at individuals

bireyleri teker teker hedef alarak anlayabilir,

one by one

zayıf noktalarını tespit ederek

by figuring out your weaknesses,

onlara kişisel seviyede nüfuz edebilir

and they can be sent to everyone's phone private screen,

hatta herkesin kişisel telefon ekranına bile gönderilebilir,

so it's not visible to us.

böylelikle bizler görmeyiz.

And that's different.

Ve bu oldukça farklı.

And that's just one of the basic things that artificial intelligence can do.

Bu, yapay zekanın yapabileceği temel şeylerden yalnızca biri.

Now, let's take an example.

Bir örnek verelim.

Let's say you want to sell plane tickets to Vegas. Right?

Diyelim ki Las Vegas'a uçak bileti satmak istiyorsunuz.

So in the old world, you could think of some demographics to target

Eski düzende, deneyim ve öngörülerinize dayanarak

based on experience and what you can guess.

hedef bir demografik kesim belirlersiniz.

You might try to advertise to, oh,

Reklam yapmayı da deneyebilirsiniz,

men between the ages of 25 and 35,

25-35 yaş aralığındaki erkekler

or people who have a high limit on their credit card,

veya kredi kartı limiti yüksek olan insanlar

or retired couples. Right?

veya emekli çiftler, değil mi?

That's what you would do in the past.

Geçmişte böyle yapardınız.

With big data and machine learning,

Şimdi büyük veri ve makine öğrenimi ile

that's not how it works anymore.

işler artık böyle yürümüyor.

So to imagine that,

Bunu anlamak için

think of all the data that Facebook has on you:

Facebook'un sizinle ilgili sahip olduğu tüm verileri düşünün:

every status update you ever typed,

Yazdığınız her durum bildirisi,

every Messenger conversation,

her bir Messenger sohbeti,

every place you logged in from,

oturum açtığınız her konum,

all your photographs that you uploaded there.

yüklediğiniz tüm fotoğraflar.

If you start typing something and change your mind and delete it,

Bir şey yazmaya başlayıp sonra vazgeçip silerseniz

Facebook keeps those and analyzes them, too.

Facebook bu silinenleri de saklayıp analiz ediyor.

Increasingly, it tries to match you with your offline data.

Çevrimdışı verilerinizle sizi gitgide eşleştirmeye çalışıyor.

It also purchases a lot of data from data brokers.

Ayrıca veri acentalarından da çok fazla veri satın alıyor.

It could be everything from your financial records

Finansal kayıtlarınızdan tarama geçmişinize kadar

to a good chunk of your browsing history.

her şey bu veri setinde olabilir.

Right? In the US, such data is routinely collected,

ABD'de bu tür veriler rutin olarak toplanıyor,

collated and sold.

karşılaştırılıyor ve satılıyor.

In Europe, they have tougher rules.

Avrupa'da daha sıkı kurallar var.

So what happens then is,

Yani aslında olan şey,

by churning through all that data, these machine-learning algorithms --

tüm bu veriler harmanlanarak bu makine öğrenimli algoritmalar -

that's why they're called learning algorithms --

onlara bu yüzden öğrenen algoritmalar deniyor -

they learn to understand the characteristics of people

daha önce Las Vegas'a gitmek için uçak bileti alan insanların

who purchased tickets to Vegas before.

özelliklerini nasıl ayrıştıracaklarını öğreniyorlar.

When they learn this from existing data,

Var olan verilerden bunu öğrendiklerinde

they also learn how to apply this to new people.

bunu yeni insanlara uygulamayı da öğreniyorlar.

So if they're presented with a new person,

Böylece, yeni bir bireyle karşılaştıklarında

they can classify whether that person is likely to buy a ticket to Vegas or not.

onun Vegas'a bilet alıp almayacağını sınıflandırabiliyorlar.

Fine. You're thinking, an offer to buy tickets to Vegas.

Olsun diye düşünüyorsunuz, alt tarafı Vegas'a uçak bileti teklifi.

I can ignore that.

Görmezden gelebilirim.

But the problem isn't that.

Ancak asıl sorun bu değil.

The problem is,

Asıl sorun şu ki

we no longer really understand how these complex algorithms work.

biz bu karmaşık algoritmaların nasıl çalıştığını artık anlamıyoruz.

We don't understand how they're doing this categorization.

Bu sınıflandırmayı nasıl yaptıklarını artık anlamıyoruz.

It's giant matrices, thousands of rows and columns,

Dev matematik matrisleri, binlerce sıra ve sütun,

maybe millions of rows and columns,

belki de milyonlarcası...

and not the programmers

Ve tüm verilere sahip olsalar bile,

and not anybody who looks at it,

ne programcılar,

even if you have all the data,

ne de bunları inceleyen biri

understands anymore how exactly it's operating

bunun tam olarak nasıl işlediğini anlayabiliyor.

any more than you'd know what I was thinking right now

Tıpkı size beynimden bir kesit göstersem

if you were shown a cross section of my brain.

ne düşündüğümü anlayamayacağınız gibi.

It's like we're not programming anymore,

Sanki artık programlama yapmıyoruz,

we're growing intelligence that we don't truly understand.

tam olarak anlayamadığımız bir bilinç geliştiriyoruz.

And these things only work if there's an enormous amount of data,

Üstelik bu mekanizmalar yalnızca müthiş miktarda veri varsa çalışıyor,

so they also encourage deep surveillance on all of us

dolayısı ile hepimizin üzerinde kapsamlı bir gözetleme de teşvik ediliyor ki

so that the machine learning algorithms can work.

makine öğrenimli algoritmalar işini yapabilsin.

That's why Facebook wants to collect all the data it can about you.

Bu yüzden Facebook, hakkınızda toplayabildiği tüm veriyi istiyor.

The algorithms work better.

Algoritmalar daha iyi çalışıyor.

So let's push that Vegas example a bit.

Şu Vegas örneğinin biraz üstüne gidelim.

What if the system that we do not understand

Ya anlamadığımız bu sistem

was picking up that it's easier to sell Vegas tickets

mani döneme geçmek üzere olan bipolar insanlara

to people who are bipolar and about to enter the manic phase.

Vegas bileti satmanın daha kolay olduğunu anlarsa?

Such people tend to become overspenders, compulsive gamblers.

Bu insanlar çok para harcamaya ve dürtüsel kumarbazlığa meyilli oluyor.

They could do this, and you'd have no clue that's what they were picking up on.

Bunu yapabilirler ve söz konusu kriteri seçtiklerinden haberiniz bile olmaz.

I gave this example to a bunch of computer scientists once

Bu örneği bir grup bilgisayar bilimcisine verdim,

and afterwards, one of them came up to me.

sonra içlerinden biri yanıma geldi.

He was troubled and he said, "That's why I couldn't publish it."

Rahatsız olmuştu ve şöyle dedi: ''İşte bu yüzden yayınlayamadım.''

I was like, "Couldn't publish what?"

''Neyi yayınlayamadın?'' dedim.

He had tried to see whether you can indeed figure out the onset of mania

Mani halinin ön belirtilerinin klinik semptomlardan önce

from social media posts before clinical symptoms,

sosyal medya paylaşımlarından anlaşılabilirliğini incelemişti

and it had worked,

ve işe yaramıştı,

and it had worked very well,

gerçekten işe yaramıştı

and he had no idea how it worked or what it was picking up on.

ama nasıl işe yaradığı veya ne tür bilgi topladığını o da bilmiyordu.

Now, the problem isn't solved if he doesn't publish it,

Yayınlamadığı zaman problem çözülmüyor

because there are already companies

çünkü zaten bu teknolojiyi geliştiren

that are developing this kind of technology,

halihazırda şirketler var.

and a lot of the stuff is just off the shelf.

Bunun pek çoğu satışa hazır.

This is not very difficult anymore.

Artık bunu yapmak çok zor değil.

Do you ever go on YouTube meaning to watch one video

Tek bir video izlemek için YouTube'a girip

and an hour later you've watched 27?

bir saat sonra 27 video izlediğiniz oluyor mu hiç?

You know how YouTube has this column on the right

YouTube'ta sağ tarafta

that says, "Up next"

''Sıradaki'' diye bir sütun var

and it autoplays something?

ve otomatik yeni video başlatıyor.

It's an algorithm

Bu bir algoritma,

picking what it thinks that you might be interested in

ilgilendiğinizi ve kendi başınıza bulamayacağınızı düşündüğü

and maybe not find on your own.

videoları seçiyor.

It's not a human editor.

Editör bir insan değil.

It's what algorithms do.

Algoritmaların işi bu.

It picks up on what you have watched and what people like you have watched,

Sizin ve sizin gibi insanların izlediklerini derliyor,

and infers that that must be what you're interested in,

ilgi alanlarınızın bunlar olduğu

ve daha fazlasını görmek istediğiniz çıkarımını yapıyor,

what you want more of,

and just shows you more.

daha fazlasını gösteriyor.

It sounds like a benign and useful feature,

İyi, faydalı bir özelllik gibi görünüyor

except when it isn't.

ama öyle değil.

So in 2016, I attended rallies of then-candidate Donald Trump

2016'da o zaman aday olan Trump'ın toplantılarına

to study as a scholar the movement supporting him.

destekçilerini araştırmak üzere akademisyen olarak katıldım.

I study social movements, so I was studying it, too.

İşim gereği sosyal akımları inceliyorum, yani araştırıyordum da.

And then I wanted to write something about one of his rallies,

Sonra toplantılarından biri hakkında yazmak istedim,

so I watched it a few times on YouTube.

o yüzden de toplantıyı YouTube'da birkaç kez izledim.

YouTube started recommending to me

YouTube, beyaz ırk üstünlüğü ile ilgili

and autoplaying to me white supremacist videos

radikallik seviyesi giderek artan videolar önermeye

in increasing order of extremism.

ve onları otomatik oynatmaya başladı.

If I watched one,

Eğer bir tane izlediysem

it served up one even more extreme

YouTube daha marjinal bir tanesini buldu

and autoplayed that one, too.

ve onu da otomatik yürüttü.

If you watch Hillary Clinton or Bernie Sanders content,

Hillary Clinton veya Bernie Sanders ile ilgili içerikler izlerseniz

YouTube recommends and autoplays conspiracy left,

YouTube komplocu solcuları öneriyor ve oynatıyor,

and it goes downhill from there.

ondan sonra da gittikçe kötüleşiyor.

Well, you might be thinking, this is politics, but it's not.

Bunun yalnızca siyaset olduğunu düşünebilirsiniz ama değil.

This isn't about politics.

Bu siyasetle ilgili değil.

This is just the algorithm figuring out human behavior.

Bu sadece insan davranışını anlayan algoritma.

I once watched a video about vegetarianism on YouTube

Bir kez YouTube'ta vejeteryanlıkla ilgili bir video izledim

and YouTube recommended and autoplayed a video about being vegan.

ve YouTube vegan olmak hakkında bir video önerip oynattı.

It's like you're never hardcore enough for YouTube.

YouTube için hiçbir zaman yeteri kadar cüretkar olamıyoruz.

(Laughter)

(Gülüşmeler)

So what's going on?

Peki aslında ne oluyor?,

Now, YouTube's algorithm is proprietary,

YouTube algoritması patentli,

but here's what I think is going on.

yine de şöyle olduğunu düşünüyorum.

The algorithm has figured out

Algoritma şunu fark etti ki

that if you can entice people

insanları etkilemek için

into thinking that you can show them something more hardcore,

onlara daha cüretkar videolar sunarsan,

they're more likely to stay on the site

muhtemelen sitede daha fazla kalacak,

watching video after video going down that rabbit hole

o anlaşılmaz yola girerek ardı ardına video izleyecek,

while Google serves them ads.

bu esnada Google da reklam sunacak.

Now, with nobody minding the ethics of the store,

Hazır, işin etik kısmını önemseyen kimse de yokken,

these sites can profile people

bu siteler,

Yahudiler aleyhine paylaşım yapan

who are Jew haters,

who think that Jews are parasites

ve onların parazit olduğunu düşünen

and who have such explicit anti-Semitic content,

radikal Yahudi düşmanları özelinde profilleme yapabiliyor

and let you target them with ads.

ve reklamlarla onları hedeflemenizi sağlıyor.

They can also mobilize algorithms

Ayrıca algoritmaları genişleterek,

to find for you look-alike audiences,

sizin için benzer kitleler bulup

people who do not have such explicit anti-Semitic content on their profile

profillerinde bu tip, Yahudi karşıtı, aykırı içerik bulunmayan

but who the algorithm detects may be susceptible to such messages,

fakat algoritmanın bu tür mesajlara karşı

duyarlı olabileceğini belirlediği kişileri yakalıyor

and lets you target them with ads, too.

ve onları da reklamlarla hedeflemenize izin veriyor.

Now, this may sound like an implausible example,

İnanılmaz bir örnek gibi gelebilir

but this is real.

ama bu gerçek.

ProPublica investigated this

ProPublica bunu soruşturdu

and found that you can indeed do this on Facebook,

ve Facebook'ta bunu gerçekten yapabileceğinizi ortaya koydu,

and Facebook helpfully offered up suggestions

Facebook ilgili kitleyi genişletmede

on how to broaden that audience.

öneriler sunarak yardımcı oldu.

BuzzFeed tried it for Google, and very quickly they found,

BuzzFeed bunu Google için denedi ve hızla anladılar ki

yep, you can do it on Google, too.

bunu Google'da da yapabiliyoruz.

And it wasn't even expensive.

Pahalı bile değildi.

The ProPublica reporter spent about 30 dollars

ProPublica habercisi bu kategoriyi hedeflemek için

to target this category.

30 dolar kadar harcadı.

So last year, Donald Trump's social media manager disclosed

Geçen sene Trump'ın sosyal medya yetkilisi kargaşayı sona erdirmek için

that they were using Facebook dark posts to demobilize people,

gizli Facebook paylaşımları kullandıklarını açıkladı,

not to persuade them,

insanları ikna için değil,

but to convince them not to vote at all.

hiç oy vermemelerini sağlamak için.

And to do that, they targeted specifically,

Bunu yapmak için özel olarak hedef belirlediler,

for example, African-American men in key cities like Philadelphia,

mesela önemli Philadelphia kentlerindeki Afro Amerikalı erkekler,

and I'm going to read exactly what he said.

hatta tam olarak ne dediğini okuyacağım.

I'm quoting.

Alıntı yapıyorum.

They were using "nonpublic posts

''Görülebilirliğini siyasi kampanyanın kontrol ettiği

whose viewership the campaign controls

böylece sadece görmesini istediğimiz insanların görebileceği

so that only the people we want to see it see it.

herkese açık olmayan paylaşımlar.

We modeled this.

Bunu biz tasarladık.

It will dramatically affect her ability to turn these people out."

Bu, onun söz konusu insanları

kazanma yetisini önemli ölçüde etkileyecektir.''

What's in those dark posts?

Bu gizli paylaşımlarda ne var peki?

We have no idea.

Hiçbir fikrimiz yok.

Facebook won't tell us.

Facebook bize açıklamıyor.

So Facebook also algorithmically arranges the posts

Facebook ayrıca algoritmik bir şekilde arkadaşlarınızın paylaşımlarını

that your friends put on Facebook, or the pages you follow.

ve takip ettiğiniz sayfaları düzenliyor.

It doesn't show you everything chronologically.

Size her şeyi kronolojik olarak göstermiyor.

It puts the order in the way that the algorithm thinks will entice you

Algoritmanın, sitede daha fazla kalmanızı sağlayacak şekilde

to stay on the site longer.

kurduğu düzeni uyguluyor.

Now, so this has a lot of consequences.

Bunun pek çok sonucu var.

You may be thinking somebody is snubbing you on Facebook.

Facebook'ta birinin takipçiniz olduğunu düşünüyor olabiliirsiniz.

The algorithm may never be showing your post to them.

Oysa algoritma sizin paylaşımınızı asla onlara göstermiyor olabilir.

The algorithm is prioritizing some of them and burying the others.

Algoritma kimini öne çıkarırken kimini ortadan kaldırıyor.

Experiments show

Deneyler gösteriyor ki

that what the algorithm picks to show you can affect your emotions.

algoritmanın sizin için seçtikleri duygularınızı etkileyebilir.

But that's not all.

Bununla da bitmiyor.

It also affects political behavior.

Siyasi davranışınızı da etkiliyor.

So in 2010, in the midterm elections,

2010 yılı orta dönem seçimlerinde,

Facebook did an experiment on 61 million people in the US

Facebook, ABD'deki 61 milyon insan üstünde

that was disclosed after the fact.

daha sonra açıklanan bir deney yaptı.

So some people were shown, "Today is election day,"

Bir grup insana ''Bugün seçim günü'' yazısı gösterildi,

the simpler one,

bu daha basit olandı,

and some people were shown the one with that tiny tweak

diğer bir gruba ise aynı şey, küçük bir farkla gösterildi:

with those little thumbnails

''Oy verdim'' butonuna tıklayan arkadaşlarının

of your friends who clicked on "I voted."

küçük fotoğraflarının bulunduğu versiyon.

This simple tweak.

Bu kadar basit bir nüans.

OK? So the pictures were the only change,

Değişen tek şey fotoğraflardı

and that post shown just once

ve seçmen kütüğünce de onaylandığı üzere,

bu araştırmaya istinaden

turned out an additional 340,000 voters

yalnızca bir kez gösterilen bu paylaşım

o seçimde

in that election,

according to this research

340.000 ek seçmen olarak sonuçlandı.

as confirmed by the voter rolls.

A fluke? No.

Şans eseri mi? Hayır.

Because in 2012, they repeated the same experiment.

Çünkü 2012'de aynı deneyi tekrarladılar.

And that time,

O zaman,

that civic message shown just once

yalnızca bir kez gösterilen sivil mesaj

turned out an additional 270,000 voters.

270.000 ek seçmen olarak geri döndü.

For reference, the 2016 US presidential election

Hatırlatayım, 2016 ABD başkanlık seçimleri

was decided by about 100,000 votes.

yaklaşık 100.000 oy farkıyla belirlendi.

Now, Facebook can also very easily infer what your politics are,

Yani Facebook kolaylıkla politikanız hakkında çıkarım yapabiliyor,

even if you've never disclosed them on the site.

siz bunu sitede hiç açıklamamış olsanız bile.

Right? These algorithms can do that quite easily.

Bu algoritmalar bunu oldukça kolay başarabiliyorlar.

What if a platform with that kind of power

Peki ya bu güce sahip bir platform

decides to turn out supporters of one candidate over the other?

bunu adaylardan birinin destekçilerini arttırmak için kullanırsa?

How would we even know about it?

Bundan haberimiz olur mu?

Now, we started from someplace seemingly innocuous --

Masum gibi görünen bir yerden başladık:

online adds following us around --

Bizi takip eden reklamlardan...

and we've landed someplace else.

şimdiyse çok farklı bir yerdeyiz.

As a public and as citizens,

Hem halk hem de vatandaş olarak

we no longer know if we're seeing the same information

artık aynı bilgileri görüp görmediğimizi

or what anybody else is seeing,

ve başkalarının ne gördüğünü bilmiyoruz

and without a common basis of information,

ve ortak bir bilgi tabanı olmadan,

little by little,

adım adım,

public debate is becoming impossible,

toplumsal tartışma imkansız hale geliyor,

and we're just at the beginning stages of this.

biz bunun sadece başlangıç aşamasındayız.

These algorithms can quite easily infer

Bu algoritmalar kolaylıkla

things like your people's ethnicity,

insanların etnik özelliklerini,

religious and political views, personality traits,

dini ve siyasi görüşlerini, kişilik özelliklerini,

intelligence, happiness, use of addictive substances,

zekasını, mutluluğunu, madde kullanıp kullanmadığını,

parental separation, age and genders,

ailesinin durumunu, yaş ve cinsiyetini

just from Facebook likes.

sadece Facebook beğenilerinden tahmin edebilir.

These algorithms can identify protesters

Bu algoritmalar, yüzleri kısmen gizlenmiş olsa da

even if their faces are partially concealed.

protestocuların kimliğini belirleyebilir.

These algorithms may be able to detect people's sexual orientation

Hatta bu algoritmalar insanların cinsel yönelimini

just from their dating profile pictures.

sadece tanışma uygulamalarındaki profil fotoğraflarından anlayabilir.

Now, these are probabilistic guesses,

Tabii bunlar olasılıksal tahminler,

so they're not going to be 100 percent right,

%100 doğru olamazlar

but I don't see the powerful resisting the temptation to use these technologies

ama insanlar sadece bazı sonuçlar yanlış olduğu için

bu teknolojileri kullanma arzularına direnmeyecekler,

just because there are some false positives,

which will of course create a whole other layer of problems.

bu da beraberinde bir yığın farklı sorun getirecek.

Imagine what a state can do

Devletlerin vatandaşları hakkında sahip oldukları

with the immense amount of data it has on its citizens.

müthiş miktarda veriyle neler yapabileceklerini düşünün.

China is already using face detection technology

Çin, insanları tespit etmek ve tutuklamak için

to identify and arrest people.

yüz tanıma teknolojisini kullanıyor bile.

And here's the tragedy:

İşin acı kısmı şu ki biz,

we're building this infrastructure of surveillance authoritarianism

gözetlemeye dayalı bu otoriter altyapıyı

merely to get people to click on ads.

yalnızca insanların reklamlara tıklaması için geliştiriyoruz.

And this won't be Orwell's authoritarianism.

Bu Orwell'in otoriter rejimi olmayacak.

This isn't "1984."

Bu ''1984'' değil.

Now, if authoritarianism is using overt fear to terrorize us,

Eğer otoriterlik bizi paniğe sürüklemek için aleni korku kullanacaksa

we'll all be scared, but we'll know it,

hepimiz korkacağız ama bundan haberimiz olacak,

we'll hate it and we'll resist it.

nefret duyacağız ve karşı koyacağız.

But if the people in power are using these algorithms

Ancak mevki sahibi insanlar bu algoritmaları

to quietly watch us,

bizi sessizce izlemek,

to judge us and to nudge us,

yargılamak ve dürtmek,

to predict and identify the troublemakers and the rebels,

sorun çıkaranlar ve asileri önceden tahmin etmek ve kimliğini belirlemek,

to deploy persuasion architectures at scale

üzerimizde ikna mimarisi oluşturmak

and to manipulate individuals one by one

ve tek tek bireyleri manipüle etmek için

using their personal, individual weaknesses and vulnerabilities,

kişisel zayıf ve hassas noktalarımızdan yararlanarak kullanırlarsa,

and if they're doing it at scale

dahası bunu ölçeklendirip

through our private screens

özel ekranlarımızdan

so that we don't even know

çevremizdeki insanların

what our fellow citizens and neighbors are seeing,

ne gördüklerini bilemeyeceğimiz bir şekilde yaparlarsa,

that authoritarianism will envelop us like a spider's web

bu otoriter rejim bizi bir örümcek ağı gibi kıstırır

and we may not even know we're in it.

ve biz yakalandığımızı bile anlamayız.

So Facebook's market capitalization

Facebook'un piyasa değeri

is approaching half a trillion dollars.

yarım trilyon dolara yaklaşıyor.

It's because it works great as a persuasion architecture.

Bunun sebebi ikna mimarisi olarak harika çalışıyor olması.

But the structure of that architecture

Ancak bu mimari yapı

is the same whether you're selling shoes

ayakkabı satıyor olsanız da aynı

or whether you're selling politics.

siyaset satıyor olsanız da.

The algorithms do not know the difference.

Algoritmalar farkı anlamıyor.

The same algorithms set loose upon us

Reklamlara karşı bizi sabırlı kılmak için

to make us more pliable for ads

üzerimize salınan bu algoritmalar,

are also organizing our political, personal and social information flows,

aynı zamanda siyasi, kişisel ve sosyal bilgi akışımızı da düzenliyor

and that's what's got to change.

ve bu değişmek zorunda.

Now, don't get me wrong,

Beni yanlış anlamayın,

we use digital platforms because they provide us with great value.

bize büyük fayda sağladıkları için dijital platformları kullanıyoruz.

I use Facebook to keep in touch with friends and family around the world.

Facebook ile dünyanın her yerinden aile ve arkadaşlarımla görüşebiliyorum.

I've written about how crucial social media is for social movements.

Sosyal medyanın, sosyal hareketler için ne kadar önemli olduğu hakkında yazdım.

I have studied how these technologies can be used

Bu teknolojilerin dünyadaki sansür uygulamalarını aşmak için

to circumvent censorship around the world.

nasıl kullanılabileceği üzerine çalıştım.

But it's not that the people who run, you know, Facebook or Google

Facebook ve Google yöneticilerinin

are maliciously and deliberately trying

kasten ve kötü niyetli bir şekilde

to make the country or the world more polarized

ülkeyi ve dünyayı kutuplaştırmaya

veya radikalliği teşvik etmeye çalıştığını söylemiyorum.

and encourage extremism.

I read the many well-intentioned statements

Bu insanların yayınladığı

that these people put out.

pek çok iyi niyetli yazı okudum.

But it's not the intent or the statements people in technology make that matter,

Ancak bu konuda niyet veya ifadelerin bir önemi yok.

it's the structures and business models they're building.

Sorun, inşa ettikleri bu yapı ve iş modelleri.

And that's the core of the problem.

Sorunun kökeninde bu var.

Either Facebook is a giant con of half a trillion dollars

Ya Facebook yarım trilyon değerinde dev bir yapı

and ads don't work on the site,

ve reklamlar bu sitede çalışmıyor,

it doesn't work as a persuasion architecture,

ikna mimarisi olarak faaliyet göstermiyor

or its power of influence is of great concern.

ya da etki gücü dehşet verici.

It's either one or the other.

İkisinden biri.

It's similar for Google, too.

Google için de aynısı söz konusu.

So what can we do?

Peki ne yapabiliriz?

This needs to change.

Bunun değişmesi gerekiyor.

Now, I can't offer a simple recipe,

Basit bir formül öneremem

because we need to restructure

çünkü dijital teknolojimizin çalışma şeklini

the whole way our digital technology operates.

yeniden inşa etmemiz gerekiyor.

Everything from the way technology is developed

Teknolojinin geliştirilme biçiminden,

to the way the incentives, economic and otherwise,

ekonomik ve diğer alanlardaki teşviklerin

are built into the system.

sisteme taşınmasına kadar her şey...

We have to face and try to deal with

Tescilli algoritmalar tarafından yaratılan şeffaflık noksanlığı,

the lack of transparency created by the proprietary algorithms,

makine öğrenimi anlaşılmazlığının yapısal zorluğu

the structural challenge of machine learning's opacity,

ve hakkımızda toplanan tüm bu rastgele veri sorunlarıyla yüzleşmek

all this indiscriminate data that's being collected about us.

ve bunların üstesinden gelmeye çalışmak zorundayız.

We have a big task in front of us.

Bize büyük bir görev düşüyor.

We have to mobilize our technology,

Teknolojimizi, yaratıcılığımızı

our creativity

ve evet, siyasetimizi

and yes, our politics

harekete geçirmemiz lazım,

so that we can build artificial intelligence

böylece kişisel amaçlarımızda bizi destekleyen

that supports us in our human goals

but that is also constrained by our human values.

fakat insani değerlere de bağlı

yapay zekayı inşa edebiliriz.

And I understand this won't be easy.

Bunun kolay olmayacağını biliyorum.

We might not even easily agree on what those terms mean.

Bu terimlerin ne anlama geldiği konusunda bile kolayca anlaşamayabiliriz.

But if we take seriously

Ancak bu kadar çok faaliyet konusunda

how these systems that we depend on for so much operate,

sürekli ihtiyaç duyduğumuz bu sistemlerin çalışma şeklini ciddiye alırsak,

I don't see how we can postpone this conversation anymore.

bu konuşmayı ertelemek için hiçbir sebep göremiyorum.

These structures

Bu yapılar,

are organizing how we function

bizim işleyişimizi düzenliyor

and they're controlling

ve ne yapıp ne yapamayacağımızı kontrol ediyor.

what we can and we cannot do.

And many of these ad-financed platforms,

Reklamla finanse edilen bu platformların çoğu

they boast that they're free.

ücretsiz olmakla övünüyorlar.

In this context, it means that we are the product that's being sold.

Bu bağlamda, bunun anlamı şu: Satılmakta olan ürün biziz.

We need a digital economy

Veri ve dikkatimizin

where our data and our attention

en yüksek ücreti veren otoriter veya demagoga satılmadığı

is not for sale to the highest-bidding authoritarian or demagogue.

bir dijital ekonomiye ihtiyacımız var.

(Applause)

(Alkışlar)

So to go back to that Hollywood paraphrase,

Şu Hollywood sözüne geri dönmek gerekirse,

we do want the prodigious potential

yapay zeka ve dijital teknolojinin müthiş potansiyelinin

of artificial intelligence and digital technology to blossom,

çiçek açmasını elbette istiyoruz

but for that, we must face this prodigious menace,

fakat bunun olması için bu müthiş tehditle yüzleşmemiz lazım,

open-eyed and now.

gözlerimiz tamamen açık ve şimdi.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)