Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Çeviri: Cihan Ekmekçi Gözden geçirme: Figen Ergürbüz

Around five years ago,

Yaklaşık beş yıl önce,

it struck me that I was losing the ability

benimle aynı düşünmeyen insanlarla

to engage with people who aren't like-minded.

bağlantı kurma yeteneğimi kaybettiğimi fark ettim.

The idea of discussing hot-button issues with my fellow Americans

Diğer Amerikalılarla hassas konularda tartışma fikri

was starting to give me more heartburn

deniz aşırı ülkelerde şüpheli radikallerle bağlantı kurduğum zamanlara göre

than the times that I engaged with suspected extremists overseas.

çok daha fazla geriyordu beni.

It was starting to leave me feeling more embittered and frustrated.

Bu beni daha hırçın ve öfkeli yapıyordu.

And so just like that,

Bu yüzden de

I shifted my entire focus

tüm odak noktamı değiştirerek

from global national security threats

küresel ulusal güvenlik tehditlerinden

to trying to understand what was causing this push

bu duruma sebep olan şeyi anlamaya yönlendirdim,

towards extreme polarization at home.

yurdumdaki aşırı kutuplaşma.

As a former CIA officer and diplomat

Eski bir CIA ajanı ve diplomat olarak

who spent years working on counterextremism issues,

ki ektremizm karşıtı konularda çalışmaya yıllarımı verdim,

I started to fear that this was becoming a far greater threat to our democracy

bu konunun demokrasimize diğer her tür dış düşmana göre

than any foreign adversary.

çok daha büyük bir tehdide dönüşüyordu.

And so I started digging in,

Ben de araştırmaya başladım,

and I started speaking out,

sesimi duyurmaya başladım,

which eventually led me to being hired at Facebook

bu da beni sonunda Facebook'ta işe alınmaya kadar götürdü

and ultimately brought me here today

ve bugün de işte buraya,

to continue warning you about how these platforms

bu platformların pek çoğumuzu nasıl manipüle ettiği

are manipulating and radicalizing so many of us

ve radikalleştirdiği hakkında sizleri uyarmak

and to talk about how to reclaim our public square.

ve ortak noktamızı yeniden kazanmayı konuşmak için.

I was a foreign service officer in Kenya

Kenya'da dış hizmetler yetkilisiydim,

just a few years after the September 11 attacks,

11 Eylül saldırılarından birkaç yıl sonraydı

and I led what some call "hearts and minds" campaigns

ve bazılarının ''kalpler ve akıllar'' dediği kampanyaları

along the Somalia border.

Somali sınırlarında yürütüyordum.

A big part of my job was to build trust with communities

İşimin büyük bir bölümü topluluklar arasında güven aşılamak,

deemed the most susceptible to extremist messaging.

radikallerin iletişiminde en hassas kabul edilen konu.

I spent hours drinking tea with outspoken anti-Western clerics

Açık sözlü, Batı karşıtı din insanlarıyla saatlerce oturup çay içtim

and even dialogued with some suspected terrorists,

ve hatta şüpheli teröristlerle bile iletişim kurdum.

and while many of these engagements began with mutual suspicion,

Bu bağlantıların pek çoğu karşılıklı şüpheyle başlasa da

I don't recall any of them resulting in shouting or insults,

hiçbirinin bağırma veya hakaretle sonuçlandığını hatırlamıyorum.

and in some case we even worked together on areas of mutual interest.

Hatta ortak menfaatin söz konusu olduğu birkaç konuda birlikte çalıştık.

The most powerful tools we had were to simply listen, learn

Sahip olduğumuz en güçlü silahlar dinlemek, öğrenmek

and build empathy.

ve empati kurmak.

This is the essence of hearts and minds work,

Kalpler ve akıllar işinin özü bu

because what I found again and again is that what most people wanted

çünkü tekrar tekrar şunu fark ettim ki çoğu insanın istediği şey

was to feel heard, validated and respected.

dinlendiğini, onaylandığını ve saydı duyulduğunu hissetmek.

And I believe that's what most of us want.

Öyle inanıyorum ki çoğumuzun istediği şey bu.

So what I see happening online today is especially heartbreaking

Bugün internette yaşananlar ise özellikle üzücü

and a much harder problem to tackle.

ve çözmesi çok daha zor bir sorun.

We are being manipulated by the current information ecosystem

Mevcut bilgi ekosistemi tarafından manipüle ediliyoruz,

entrenching so many of us so far into absolutism

O kadar çoğumuzu öylesine mutlakıyet içine almış ki

that compromise has become a dirty word.

''orta yolu bulmak'' kötü bir kelime oldu.

Because right now,

Çünkü şu anda,

social media companies like Facebook

Facebook gibi sosyal medya şirketleri

profit off of segmenting us and feeding us personalized content

ön yargılarımızı hem geçerli kılan hem de bunu istismar eden

that both validates and exploits our biases.

kişiselleştirilmiş içerikle bizi besleyip parçalara ayırarak kâr sağlıyor.

Their bottom line depends on provoking a strong emotion

Ana fikir, güçlü bir duygu provoke ederek

to keep us engaged,

bizi bağlantıda tutmak,

often incentivizing the most inflammatory and polarizing voices,

genellikle en tahrik edici ve kutuplaştırıcı sesleri teşvik ediyor;

to the point where finding common ground no longer feels possible.

konu öyle bir noktaya varıyor ki ortak paydada buluşmak mümkün olmuyor.

And despite a growing chorus of people crying out for the platforms to change,

Giderek daha çok insan bu platformların değişmesi için çağrıda bulunsa da

it's clear they will not do enough on their own.

kendi başlarına yeterli şey yapmayacakları kesin.

So governments must define the responsibility

Bu yüzden hükûmetlerin sorumluluk alıp

for the real-world harms being caused by these business models

bu işletme modelinin yarattığı gerçek zararlar için

and impose real costs on the damaging effects

ve kamu sağlığı, halkçılık ilkelerimiz ve demokrasimize olan yıkıcı etkileri için

they're having to our public health, our public square and our democracy.

gerçek bedeller empoze etmesi gerek.

But unfortunately, this won't happen in time for the US presidential election,

Ama ne yazık ki ABD başkanlık seçimlerine kadar bu gerçekleşemeyecek,

so I am continuing to raise this alarm,

ben de bu endişeyi dile getiriyorum

because even if one day we do have strong rules in place,

çünkü bir gün çok katı kurallar gelse de

it will take all of us to fix this.

bunu düzeltmek için hepimizin bir olması gerekecek.

When I started shifting my focus from threats abroad

Odak noktamı yurt dışındaki tehditlerden

to the breakdown in civil discourse at home,

yurdumdaki konuları anlamaya yönelttiğimde

I wondered if we could repurpose some of these hearts and minds campaigns

bu kalpler ve akıllar kampanyalarını yeniden bir amaç yükleyerek

bölünmelere çare bulabilir miyiz diye merak ettim.

to help heal our divides.

Our more than 200-year experiment with democracy works

Demokrasiyle olan 200 yılı aşkın denememizin işe yaramasının sebebi

in large part because we are able to openly and passionately

büyük oranda açıkça en iyi çözümlere dair fikirlerimizi tartışabiliyor olmamız.

debate our ideas for the best solutions.

But while I still deeply believe

Ancak ben hâlâ yüz yüze sohbetlerin gücüne içten inanıyor olsam da

in the power of face-to-face civil discourse,

it just cannot compete

sosyal medyanın kutuplaştırıcı etkileri ve ölçeğiyle yarışamaz bile.

with the polarizing effects and scale of social media right now.

The people who are sucked down these rabbit holes

Sosyal medya hırsının bu bilinmezliklerinee sürüklenen insanlar

of social media outrage

often feel far harder to break of their ideological mindsets

ideolojik zihin yapılarını kırmada

birlikte çalıştığım savunmasız toplumlara göre çok daha fazla zorluk çekiyorlar.

than those vulnerable communities I worked with ever were.

So when Facebook called me in 2018

Facebook 2018 yılında bana ulaşıp

and offered me this role

seçim için siyasi reklam operasyonlarını yönetme işini teklif ettiğinde

heading its elections integrity operations for political advertising,

I felt I had to say yes.

Evet demek zorundaymış gibi hissettim.

I had no illusions that I would fix it all,

Her şeyi düzeltebileceğime dair bir fikre kapılmadım

but when offered the opportunity

ama fırsat sunulduğunda

to help steer the ship in a better direction,

geminin dümenini daha iyi bir yöne çevirecektim.

I had to at least try.

En azından denemeliydim.

I didn't work directly on polarization,

Doğrudan kutuplaşma üzerine çalışmadım

but I did look at which issues were the most divisive in our society

ama toplumumuzda en bölücü sorunların neler olduğunu inceledim,

and therefore the most exploitable in elections interference efforts,

bunlar seçim müdahele çalışmalarında en çok kötüye kullanılabilecek sorunlardı,

which was Russia's tactic ahead of 2016.

2016 öncesinde Rusya'nın taktiği buydu.

So I started by asking questions.

Sorular sorarak başladım.

I wanted to understand the underlying systemic issues

Tüm bunlara izin veren ve altta yatan sistematik sorunları anlamak istiyordum ki

that were allowing all of this to happen,

in order to figure out how to fix it.

nasıl düzeltebileceğimi anlayabileyim.

Now I still do believe in the power of the internet

Hâlâ internetin, daha çok insanın sesini duyurabilme gücüne inanıyorum

to bring more voices to the table,

but despite their stated goal of building community,

fakat amaçlarının topluluk inşa etme olduğunu belirtmelerine karşın

the largest social media companies as currently constructed

en büyük sosyal medya şirketleri şu anki varlıkları itibarıyla

are antithetical to the concept of reasoned discourse.

mantıklı iletişim konseptine tamamen aykırı.

There's no way to reward listening,

Dinlemeyi ödüllendiren,

to encourage civil debate

sivil münazarayı teşvik eden

and to protect people who sincerely want to ask questions

ve samimiyetle soru sormak isteyen insanları koruyacak bir yöntem,

in a business where optimizing engagement and user growth

katılım ve kullanıcı sayısını optimize etmenin

are the two most important metrics for success.

başarı için en önemli iki ölçüt olduğu bir işletmede mevcut değil.

There's no incentive to help people slow down,

İnsanları yavaşlatacak, bir noktada durmalarını sağlayacak bir çıta,

to build in enough friction that people have to stop,

recognize their emotional reaction to something,

bir şeye verdikleri duygusal tepkinin farkına varıp

and question their own assumptions before engaging.

tartışmaya katılmadan önce kendi varsayımlarını sorgulayacak bir neden yok.

The unfortunate reality is:

Acı gerçek şu ki

lies are more engaging online than truth,

yalanlar, gerçeklerden daha bağlayıcı.

and salaciousness beats out wonky, fact-based reasoning

Ve yakışıksız davranışlar gerçeğe dayalı mantığı

in a world optimized for frictionless virality.

sorunsuz hızlı yayılma için optimize edilmiş bir dünyada yeniyor.

As long as algorithms' goals are to keep us engaged,

Algoritmaların amacı bizi bağlantıda tutmak oldukça

they will continue to feed us the poison that plays to our worst instincts

en kötü içgüdülerimiz ve insani zayıflıklarımızı hedef alan zehri

and human weaknesses.

bize aşılamaya devam edecekler.

And yes, anger, mistrust,

Evet, öfke, güvensizlik,

the culture of fear, hatred:

korku ve nefret kültürü...

none of this is new in America.

Bunlar Amerika'da yeni değil.

But in recent years, social media has harnessed all of that

Ancak son zamanlarda sosyal medya tüm bunları kapsadı

and, as I see it, dramatically tipped the scales.

ve öyle görüyorum ki ölçekleri ciddi şekilde aştı.

And Facebook knows it.

Facebook da bunu biliyor.

A recent "Wall Street Journal" article

Yeni bir ''Wall Street Journal'' yazısı

exposed an internal Facebook presentation from 2018

2018 yılından bir şirket içi Facebook sunumu ortaya çıkardı,

that specifically points to the companies' own algorithms

sunum, özellikle şirketlerin sahip olduğu algoritmaların

for growing extremist groups' presence on their platform

platformlarında radikal grupların büyümesi ve kullanıcılarını kutuplaştırması için

and for polarizing their users.

kullanımına işaret ediyor.

But keeping us engaged is how they make their money.

Ama bizi bağlantıda tutarak para kazanıyorlar.

The modern information environment is crystallized around profiling us

Modern bilgi çevresi bizi profillemek üzerine

and then segmenting us into more and more narrow categories

ve de bizi parçalara ayırıp giderek daha küçük kategorilere sokarak

to perfect this personalization process.

bu kişiselleştirme sürecini kusursuzlaştırma üzerine kurulu.

We're then bombarded with information confirming our views,

Sonra da görüşlerimizi onaylayan bilgilerle bombardımana uğruyoruz,

reinforcing our biases,

ön yargılarımız belirginleşiyor

and making us feel like we belong to something.

ve bir şeye aitmiş hissine kapılıyoruz.

These are the same tactics we would see terrorist recruiters

Teröristlerin mürit alımında

zayıf gençlik üzerinde kullandığı taktiklerin aynısı,

using on vulnerable youth,

albeit in smaller, more localized ways before social media,

fark şu ki onlar bunu sosyal medyadan önce daha küçük daha yerel yollarla yapıyor,

with the ultimate goal of persuading their behavior.

nihai hedefleri davranışlarını haklı göstermek.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Ne yazık ki gerçek bir etki yaratmak için Facebook tarafından yetkilendirilmedim.

In fact, on my second day, my title and job description were changed

Hatta ikinci günümde ünvanım ve iş tanımım değiştirildi

and I was cut out of decision-making meetings.

ve karar verme toplantılarından muaf tutuldum.

My biggest efforts,

En büyük çabalarım,

trying to build plans

yanlış bilgi ve siyasi reklamlarda seçmen baskılamayla savaşma planlarım reddedildi.

to combat disinformation and voter suppression in political ads,

were rejected.

And so I lasted just shy of six months.

O yüzden altı aydan biraz az bir süre kalabildim.

But here is my biggest takeaway from my time there.

Ama orada geçirdiğim zamandan alıp getirdiğim en büyük şey bu.

There are thousands of people at Facebook

Facebook'ta binlerce insan,

who are passionately working on a product

dünyayı daha iyi kıldığına inandıkları bir ürün üstünde hırsla çalışıyorlar

that they truly believe makes the world a better place,

but as long as the company continues to merely tinker around the margins

ancak şirket, içerik politikası ve moderasyon konusunda

of content policy and moderation,

tüm sistemin nasıl tasarlandığı ve paraya endekslendiğini düşünmek yerine

as opposed to considering

how the entire machine is designed and monetized,

yetersiz düzenlemelerle idare etmeye devam ederse

they will never truly address how the platform is contributing

platformun nefret, ayrımcılık ve radikalleşmeye

to hatred, division and radicalization.

nasıl çanak tuttuğuyla asla ilgilenemeyecekler.

And that's the one conversation I never heard happen during my time there,

İşte orada bulunduğum zaman içinde hiç yapıldığını duymadığım bir sohbet

because that would require fundamentally accepting

çünkü bu temel olarak inşa ettiğiniz bu şeyin

that the thing you built might not be the best thing for society

toplum için en iyi şey olmayabileceğini

and agreeing to alter the entire product and profit model.

ve tüm ürünü ve kâr modelini değiştirmeyi kabul etmeyi gerektirir.

So what can we do about this?

Peki bu konuda ne yapabiliriz?

I'm not saying that social media bears the sole responsibility

Ben, sosyal medyanın bugün içinde bulunduğumuz durumun

for the state that we're in today.

tek sorumlusu olduğunu söylemiyorum.

Clearly, we have deep-seated societal issues that we need to solve.

Besbelli çözmemiz gereken derin toplumsal sorunlarımız var.

But Facebook's response, that it is just a mirror to society,

Ancak Facebook'un cevabı, topluma ayna tutuyor,

is a convenient attempt to deflect any responsibility

platformlarının, zararlı içerikleri artırmasının

from the way their platform is amplifying harmful content

ve bazı kullanıcıları radikal görüşlere itmesinin sorumluluğunu

and pushing some users towards extreme views.

uygun bir şekilde üzerinden atıyor.

And Facebook could, if they wanted to,

Facebook, eğer isterse, bunun bir kısmını düzeltebilir.

fix some of this.

They could stop amplifying and recommending the conspiracy theorists,

Komplo teoricilerini, nefret gruplarını, yanlış bilgi tacirlerini

the hate groups, the purveyors of disinformation

önermeyi ve artırmayı durdurabilir

and, yes, in some cases even our president.

ve hatta bazı durumlarda başkanımızı.

They could stop using the same personalization techniques

Ayakkabı satmak için kullanılan kişiselleştirme tekniklerini

to deliver political rhetoric that they use to sell us sneakers.

bize siyasi tartışma yaratmak için kullanmaya son verebilirler.

They could retrain their algorithms

Algoritmalarına yenden yön vererek

to focus on a metric other than engagement,

bağlantıdan ziyade bir ölçüm üzerine odaklayabilirler,

and they could build in guardrails to stop certain content from going viral

belli içeriklerin tekrar görülmeden viral olmasının önüne geçebilirler.

before being reviewed.

And they could do all of this

Üstelik tüm bunları "doğrunun tek yargıcı" olmadan yapabilirler.

without becoming what they call the arbiters of truth.

But they've made it clear that they will not go far enough

Ancak şunu açıkça belirttiler ki buna zorlanmadıkları sürece

to do the right thing without being forced to,

doğru şeyi yapmak için gerekeni yapmayacaklar

and, to be frank, why should they?

ve doğrusu, niye yapsınlar ki?

The markets keep rewarding them, and they're not breaking the law.

Pazarlar onları ödüllendiriyor ve yasaları da çiğnemiyorlar.

Because as it stands,

Çünkü gerçek şu ki

there are no US laws compelling Facebook, or any social media company,

Facebook veya diğer hiçbir sosyal medya şirketini

to protect our public square,

ortak kamu alanımız, demokrasimiz ve hatta seçimlerimizi korumak için

our democracy

and even our elections.

yaptırımı olan bir ABD yasası yok.

We have ceded the decision-making on what rules to write and what to enforce

Yazılıp uygulanacak kuralların karar verme imtiyazını

to the CEOs of for-profit internet companies.

kâr amaçlı internet şirketlerinin CEO'larına devrettik.

Is this what we want?

İstediğimiz bu mu?

A post-truth world where toxicity and tribalism

Toksitlik ve ilkelliğin köprü kurma ve konsensüse galip geldiği,

trump bridge-building and consensus-seeking?

gerçeklerin önemsizleştiği bir dünya mı?

I do remain optimistic that we still have more in common with each other

Hala şu konuda iyimserim ki birbirimizle olan ortak yanlarımız

than the current media and online environment portray,

mevcut medya ve internet ortamının gösterdiğinden daha fazla.

and I do believe that having more perspective surface

Yine inanıyorum ki daha çok bakış açısına sahip olmak

makes for a more robust and inclusive democracy.

daha güçlü ve katılımlı bir demokrasi demek.

But not the way it's happening right now.

Ancak şu an olduğu şekliyle değil.

And it bears emphasizing, I do not want to kill off these companies.

Şunu da vurgulayayım, ben bu şirketleri yok etmek istemiyorum.

I just want them held to a certain level of accountability,

Yalnızca bir nebze sorumluluk almalarını istiyorum,

just like the rest of society.

tıpkı toplumun diğer kalanı gibi.

It is time for our governments to step up and do their jobs

Artık devletlerin harekete geçip işlerini yapmasının,

of protecting our citizenry.

vatandaşlığımızı korumasının zamanı.

And while there isn't one magical piece of legislation

Tüm bunları düzeltecek tek bir sihirli yasa olmasa da

that will fix this all,

I do believe that governments can and must find the balance

Hükûmetlerin ifade özgürlüğü ile bu platformların

between protecting free speech

toplum üzerinde olan etkileri için onları sorumlu tutma arasında

and holding these platforms accountable for their effects on society.

bir denge bulabileceğine ve bulması gerektiğine inanıyorum.

And they could do so in part by insisting on actual transparency

Bunu kısmen gerçekleştirmek için önerilenler sisteminin

around how these recommendation engines are working,

nasıl çalıştığı hakkında şeffaf davranabilirler,

around how the curation, amplification and targeting are happening.

seçimin, artırmanın ve hedeflemenin nasıl olduğu hakkında.

You see, I want these companies held accountable

Bu şirketlerin sorumlu tutulmasını istememin sebebi

not for if an individual posts misinformation

bir kişi yanlış bilgi veya aşırı radikal bir görüş paylaşırsa diye değil

or extreme rhetoric,

but for how their recommendation engines spread it,

öneri sisteminin bunu yayma şekli,

how their algorithms are steering people towards it,

algoritmaların, insanları buna yönlendirme şekli

and how their tools are used to target people with it.

ve ellerindeki araçların insanları hedeflemede kullanma şekli.

I tried to make change from within Facebook and failed,

Facebook'un içinden değişiklik yapmaya çalıştım ve başarısız oldum,

and so I've been using my voice again for the past few years

ben de son birkaç yıldır bunu dile getirerek

to continue sounding this alarm

bu soruna dikkat çekiyorum

and hopefully inspire more people to demand this accountability.

ve umuyorum ki daha fazla insan bu sorumluluğu talep edecektir.

My message to you is simple:

Sizlere mesajım basit:

pressure your government representatives

devlet temsilcilerinize bu konuda baskı yapın,

to step up and stop ceding our public square to for-profit interests.

harekete geçip kâr amaçlı menfaatlere ortak alanımızı teslim etmesinler.

Help educate your friends and family

Aile ve arkadaşlarınızı, internette nasıl manipüle edildiklerini anlatarak eğitin.

about how they're being manipulated online.

Push yourselves to engage with people who aren't like-minded.

Aynı fikirde olmayan insanlarla iletişim kurmaya çalışın.

Make this issue a priority.

Bunu öncelik hâline getirin.

We need a whole-society approach to fix this.

Bunu çözmek için toplumsal bir yaklaşıma ihtiyacımız var.

And my message to the leaders of my former employer Facebook is this:

Önceki işverenim Facebook'un liderlerine mesajım şöyle:

right now, people are using your tools exactly as they were designed

Şu anda insanlar sizin araçlarınızı tamamen tasarladığını şekilde kullanıyor,

to sow hatred, division and distrust,

nefret, ayrımcılık ve güvensizlik ekmek için.

and you're not just allowing it, you are enabling it.

Ve buna izin vermekle kalmıyor, bunu mümkün kılıyorsunuz.

And yes, there are lots of great stories

Ve evet, tüm dünya çapında

of positive things happening on your platform around the globe,

platformunuzda gerçekleşen harika pozitif hikâyeler de var

but that doesn't make any of this OK.

ancak bu hiçbir şeyi mazur göstermiyor.

And it's only getting worse as we're heading into our election,

Biz seçimlere yaklaşırken durum daha kötüye gidiyor

and even more concerning,

ve daha endişe verici bir hâl alıyor,

face our biggest potential crisis yet,

en büyük potansiyel kriz,

if the results aren't trusted, and if violence breaks out.

eğer sonuçlar güvenilir değilse ve eğer şiddet baş gösterirse.

So when in 2021 you once again say, "We know we have to do better,"

2021 yılında şöyle, "Daha iyisini yapmamız lazım" dediğinizde

I want you to remember this moment,

bu anı hatırlamanızı istiyorum

because it's no longer just a few outlier voices.

çünkü bu artık birkaç sivri görüş olmayacak.

Civil rights leaders, academics,

Sivil haklar liderleri, akademisyenler,

journalists, advertisers, your own employees,

gazeteciler, reklamcılar, kendi çalışanlarınız

are shouting from the rooftops

ilkelerinizin ve işletme uygulamalarınızın

that your policies and your business practices

insanlara ve demokrasiye zarar verdiğini avaz avaz bağırıyor olacaklar.

are harming people and democracy.

You own your decisions,

Kendi kararlarınızın sahibisiniz

but you can no longer say that you couldn't have seen it coming.

ama artık bunun olacağını göremediğinizi söyleyemezsiniz.

Thank you.

Teşekkür ederim.