Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Translator: Priscilla Joanne Reviewer: Nathaniel Luis Reyhan Soesilo

Around five years ago,

Sekitar lima tahun yang lalu,

it struck me that I was losing the ability

Saya menyadari saya sudah tidak bisa

to engage with people who aren't like-minded.

berhubungan dengan orang lain yang tidak sepemikiran.

The idea of discussing hot-button issues with my fellow Americans

Ide untuk membahas isu-isu panas bersama rekan Amerika saya

was starting to give me more heartburn

mulai terasa lebih tidak nyaman

than the times that I engaged with suspected extremists overseas.

dibandingkan saat menghadapi tersangka teroris di luar negeri.

It was starting to leave me feeling more embittered and frustrated.

Ini membuat saya merasa semakin sakit hati dan frustasi.

And so just like that,

Dan karena itu,

I shifted my entire focus

saya mengalihkan seluruh fokus saya

from global national security threats

dari ancaman keamanan global

to trying to understand what was causing this push

untuk memahami apa yang menyebabkan dorongan

towards extreme polarization at home.

ke arah polarisasi ekstrem di tanah air.

As a former CIA officer and diplomat

Sebagai mantan pegawai CIA dan diplomat

who spent years working on counterextremism issues,

yang bertahun-tahun bekerja menanggulangi ekstremisme,

I started to fear that this was becoming a far greater threat to our democracy

saya mulai khawatir ini akan menjadi ancaman yang lebih besar ke demokrasi kita

than any foreign adversary.

daripada musuh asing mana pun.

And so I started digging in,

Jadi, saya mulai menyelidikinya,

and I started speaking out,

dan mulai menyuarakannya,

which eventually led me to being hired at Facebook

hingga akhirnya, saya direkrut Facebook

and ultimately brought me here today

dan akhirnya membawa saya ke sini hari ini

to continue warning you about how these platforms

untuk terus memperingatkan Anda tentang cara platform ini

are manipulating and radicalizing so many of us

memanipulasi dan meradikalisasi kita

and to talk about how to reclaim our public square.

dan membahas cara untuk merebut kembali ruang publik kita.

I was a foreign service officer in Kenya

Saya dulu petugas luar negeri di Kenya,

just a few years after the September 11 attacks,

hanya beberapa tahun setelah serangan 11 September,

and I led what some call "hearts and minds" campaigns

dan saya memimpin kampanye "hati dan pikiran"

along the Somalia border.

di sepanjang perbatasan Somalia.

A big part of my job was to build trust with communities

Pekerjaan saya adalah untuk membangun kepercayaan masyarakat

deemed the most susceptible to extremist messaging.

yang dianggap paling rentan terhadap pesan ekstremis.

I spent hours drinking tea with outspoken anti-Western clerics

Saya berjam-jam minum teh dengan tokoh anti-barat yang blak-blakan

and even dialogued with some suspected terrorists,

dan bahkan berdialog dengan beberapa tersangka teroris,

and while many of these engagements began with mutual suspicion,

dan meski kebanyakan ini berawal dari saling curiga,

I don't recall any of them resulting in shouting or insults,

saya tidak ingat ada yang mengakibatkan teriakan atau hinaan,

and in some case we even worked together on areas of mutual interest.

dan beberapa kali, kami bekerja sama di area yang sama-sama menarik.

The most powerful tools we had were to simply listen, learn

Alat paling ampuh yang kami miliki adalah menyimak, mempelajari,

and build empathy.

dan membangun empati.

This is the essence of hearts and minds work,

Ini adalah inti dari pekerjaan "hati dan pikiran,"

because what I found again and again is that what most people wanted

karena yang selalu saya temukan adalah orang-orang

was to feel heard, validated and respected.

ingin merasa didengar, diakui, dan dihormati.

And I believe that's what most of us want.

Dan saya percaya itu adalah keinginan kita semua.

So what I see happening online today is especially heartbreaking

Jadi, kejadian di internet saat ini sangat memilukan

and a much harder problem to tackle.

dan masalahnya sangat sulit diatasi.

We are being manipulated by the current information ecosystem

Kita sedang dimanipulasi oleh ekosistem informasi saat ini

entrenching so many of us so far into absolutism

yang membawa kebanyakan dari kita menuju absolutisme

that compromise has become a dirty word.

sehingga kompromi telah menjadi kata kotor.

Because right now,

Karena kini,

social media companies like Facebook

perusahaan sosial media seperti Facebook

profit off of segmenting us and feeding us personalized content

meraup untung dari memecah dan memberi kita konten khusus

that both validates and exploits our biases.

yang mengakui dan mengeksploitasi bias kita.

Their bottom line depends on provoking a strong emotion

Inti bisnis mereka adalah memprovokasi emosi kuat kita

to keep us engaged,

untuk menarik perhatian kita,

often incentivizing the most inflammatory and polarizing voices,

seringnya mengedepankan opini yang paling menghasut dan radikal,

to the point where finding common ground no longer feels possible.

sampai ke titik di mana mufakat terasa mustahil.

And despite a growing chorus of people crying out for the platforms to change,

Dan meskipun banyak orang menginginkan platformnya berubah,

it's clear they will not do enough on their own.

sudah jelas bahwa mereka akan diam saja.

So governments must define the responsibility

Jadi, pemerintah harus memperjelas tanggung jawab

for the real-world harms being caused by these business models

terhadap dampak negatif dari bisnis model seperti ini,

and impose real costs on the damaging effects

dan memberikan sanksi atas kerusakan yang disebabkan

they're having to our public health, our public square and our democracy.

terhadap kesehatan masyarakat, ruang publik, dan demokrasi kita.

But unfortunately, this won't happen in time for the US presidential election,

Sayangnya, hal ini tidak mungkin terjadi sebelum pemilu presiden AS.

so I am continuing to raise this alarm,

Jadi, saya akan terus mengingatkan ini,

because even if one day we do have strong rules in place,

karena, meskipun nanti kami punya peraturan yang jelas

it will take all of us to fix this.

kita semua tetap harus membantu.

When I started shifting my focus from threats abroad

Saat saya berpaling dari ancaman luar negeri

to the breakdown in civil discourse at home,

ke kacaunya diskusi publik di tanah air,

I wondered if we could repurpose some of these hearts and minds campaigns

saya berpikir, bisakah kami mengubah kampanye "hati dan pikiran"

to help heal our divides.

untuk menyatukan kita kembali.

Our more than 200-year experiment with democracy works

Eksperimen kami selama 200 tahun dengan demokrasi berhasil

in large part because we are able to openly and passionately

karena kami bisa bermusyawarah dengan semangat dan terbuka

debate our ideas for the best solutions.

untuk mendapatkan solusi yang terbaik.

But while I still deeply believe

Meskipun saya masih percaya

in the power of face-to-face civil discourse,

kekuatan dari pengaruh diskusi publik tatap muka,

it just cannot compete

tetap saja ini akan kalah

with the polarizing effects and scale of social media right now.

dengan pengaruh sosial media yang begitu besar dan radikal.

The people who are sucked down these rabbit holes

Orang-orang yang sudah terperangkap

dalam huru-hara sosial media

of social media outrage

often feel far harder to break of their ideological mindsets

biasanya lebih kesulitan untuk keluar dari mindset radikal

than those vulnerable communities I worked with ever were.

dibandingkan orang-orang di wilayah rentan yang dulu saya kunjungi.

So when Facebook called me in 2018

Jadi, saat Facebook menghubungi saya pada 2018

and offered me this role

dan menawarkan pekerjaan

heading its elections integrity operations for political advertising,

sebagai kepala operasi integritas pemilu untuk iklan kampanye,

I felt I had to say yes.

saya merasa harus menerimanya.

I had no illusions that I would fix it all,

Saya tahu saya tidak dapat membenahi semuanya

but when offered the opportunity

tapi ketika saya diberi kesempatan

to help steer the ship in a better direction,

untuk ikut mengatur haluan,

I had to at least try.

paling tidak saya harus mencoba.

I didn't work directly on polarization,

Saya tidak melawan polarisasi secara langsung,

but I did look at which issues were the most divisive in our society

tapi saya mencari isu apa yang paling memecah belah masyarakat,

and therefore the most exploitable in elections interference efforts,

maka paling bisa dieksploitasi dalam usaha mengganggu pemilu,

which was Russia's tactic ahead of 2016.

yaitu taktik Rusia menjelang tahun 2016.

So I started by asking questions.

Saya mulai dengan beberapa pertanyaan.

I wanted to understand the underlying systemic issues

Saya ingin memahami isu-isu sistemik dasar

that were allowing all of this to happen,

yang menjadi akar permasalahan semua ini

in order to figure out how to fix it.

agar saya bisa menyelesaikannya.

Now I still do believe in the power of the internet

Saya yakin akan dampak baik internet

to bring more voices to the table,

dalam menyuarakan suara lebih banyak orang.

but despite their stated goal of building community,

Meskipun tujuannya adalah membangun komunitas,

the largest social media companies as currently constructed

korporasi sosial media besar yang ada saat ini

are antithetical to the concept of reasoned discourse.

tidak dibangun di atas konsep diskusi publik yang wajar.

There's no way to reward listening,

Saling mendengarkan,

to encourage civil debate

saling berdebat,

and to protect people who sincerely want to ask questions

dan saling bertanya tidak akan mungkin didorong

in a business where optimizing engagement and user growth

oleh bisnis yang kesuksesannya ditentukan oleh

are the two most important metrics for success.

ketertarikan publik dan jumlah pengguna.

There's no incentive to help people slow down,

Tidak ada insentif bagi mereka untuk menenangkan pembaca,

to build in enough friction that people have to stop,

untuk memperlambat, sehingga pembaca dapat berhenti sejenak,

recognize their emotional reaction to something,

menyadari reaksi emosional mereka terhadap sesuatu,

and question their own assumptions before engaging.

dan mempertanyakan asumsi mereka sebelum ikut berdiskusi.

The unfortunate reality is:

Sayangnya, kenyataannya:

lies are more engaging online than truth,

dusta lebih manis dibanding fakta,

and salaciousness beats out wonky, fact-based reasoning

dan gosip panas lebih menarik dibandingkan fakta

in a world optimized for frictionless virality.

di dalam dunia yang memupuk ketenaran semata.

As long as algorithms' goals are to keep us engaged,

Selama algoritmenya dirancang untuk terus memancing perhatian kita,

they will continue to feed us the poison that plays to our worst instincts

mereka akan terus memberi racun yang mengeksploitasi insting terburuk kita

and human weaknesses.

dan kelemahan manusiawi kita.

And yes, anger, mistrust,

Dan juga, amarah, keraguan,

the culture of fear, hatred:

budaya ketakutan dan kebencian,

none of this is new in America.

semua ini bukan hal baru di Amerika.

But in recent years, social media has harnessed all of that

Tapi beberapa tahun ini, media sosial sudah memanfaatkan semua itu

and, as I see it, dramatically tipped the scales.

dan, setahu saya, sudah membalik keadaan secara drastis.

And Facebook knows it.

Dan Facebook menyadari hal ini.

A recent "Wall Street Journal" article

Barusan, artikel Wall Street Journal

exposed an internal Facebook presentation from 2018

mengekspos sebuah presentasi internal Facebook pada 2018

that specifically points to the companies' own algorithms

yang menunjukkan bahwa algoritme perusahaan mereka

for growing extremist groups' presence on their platform

mendukung pertambahan grup ekstremis di platform mereka

and for polarizing their users.

dan meradikalisasi pengguna mereka.

But keeping us engaged is how they make their money.

Tetapi, mereka meraup keuntungan dengan terus memancing perhatian kita.

The modern information environment is crystallized around profiling us

Dalam ekosistem informasi masa kini, jantungnya adalah melakukan profiling,

and then segmenting us into more and more narrow categories

lalu membagi-bagi kita ke dalam banyak kategori kecil

to perfect this personalization process.

untuk menyempurnakan proses personalisasi ini.

We're then bombarded with information confirming our views,

Kita lalu dihujani dengan informasi yang meyakinkan pandangan kita,

reinforcing our biases,

memperkuat bias kita,

and making us feel like we belong to something.

dan membuat kita merasa menjadi bagian dari sesuatu.

These are the same tactics we would see terrorist recruiters

Ini taktik yang juga digunakan oleh perekrut teroris

using on vulnerable youth,

yang memanfaatkan pemuda yang rentan,

albeit in smaller, more localized ways before social media,

walau secara lokal dan kecil-kecilan sebelum media sosial,

with the ultimate goal of persuading their behavior.

agar akhirnya mereka dapat dibujuk untuk ikut beraksi.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Sayangnya, saya tidak didukung Facebook untuk memberikan dampak nyata.

In fact, on my second day, my title and job description were changed

Bahkan, di hari kedua saya bekerja, jabatan dan uraian tugas saya diganti,

and I was cut out of decision-making meetings.

dan saya dikeluarkan dari rapat-rapat penting.

My biggest efforts,

Kerja keras saya,

trying to build plans

rencana yang saya susun

to combat disinformation and voter suppression in political ads,

untuk melawan disinformasi dan penindasan pemilih di iklan kampanye

were rejected.

ditolak.

And so I lasted just shy of six months.

Jadi, saya hanya bertahan kurang dari enam bulan.

But here is my biggest takeaway from my time there.

Tetapi, ini pelajaran yang saya dapatkan setelah bekerja di sana.

There are thousands of people at Facebook

Ada ribuan orang di Facebook

who are passionately working on a product

yang sangat antusias mengerjakan

sebuah produk yang mereka yakini membuat dunia ini lebih baik,

that they truly believe makes the world a better place,

but as long as the company continues to merely tinker around the margins

tetapi selama korporasi tersebut terus melakukan seadanya

of content policy and moderation,

dalam kebijakan konten dan moderasi,

as opposed to considering

alih-alih membenahi

how the entire machine is designed and monetized,

desain dan monetisasi dari keseluruhan sistem,

they will never truly address how the platform is contributing

mereka tidak akan betul-betul menangani dampak dari platform mereka

to hatred, division and radicalization.

yang menyebarkan kebencian, perpecahan, dan radikalisasi.

And that's the one conversation I never heard happen during my time there,

Inilah perbincangan yang tidak pernah saya dengar saat saya di sana,

because that would require fundamentally accepting

karena mereka harus terlebih dahulu menerima

that the thing you built might not be the best thing for society

bahwa karya mereka mungkin tidak selalu berdampak baik

and agreeing to alter the entire product and profit model.

dan juga berani merombak seluruh produk dan profit model mereka.

So what can we do about this?

Jadi, apa yang bisa kita lakukan?

I'm not saying that social media bears the sole responsibility

Saya tidak mengatakan bahwa hanya media sosial saja

for the state that we're in today.

yang bersalah atas situasi kita saat ini.

Clearly, we have deep-seated societal issues that we need to solve.

Jelas, ada masalah sosial yang mengakar yang harus sama-sama kita pecahkan.

But Facebook's response, that it is just a mirror to society,

Namun, pernyataan dari Facebook, bahwa semua ini hanya cerminan masyarakat,

is a convenient attempt to deflect any responsibility

hanyalah alasan mereka untuk lari dari tanggung jawab

from the way their platform is amplifying harmful content

terhadap platform mereka yang menyebarluaskan konten berbahaya

and pushing some users towards extreme views.

dan mendorong beberapa pengguna terhadap ekstremisme.

And Facebook could, if they wanted to,

Dan Facebook bisa, kalau mereka mau,

fix some of this.

memperbaiki beberapa masalah ini.

They could stop amplifying and recommending the conspiracy theorists,

Mereka bisa berhenti menyebarkan dan merekomendasikan teori konspirasi,

the hate groups, the purveyors of disinformation

kelompok kebencian, penyebar disinformasi

and, yes, in some cases even our president.

dan ya, dalam beberapa kasus bahkan presiden kita sendiri.

They could stop using the same personalization techniques

Mereka bisa berhenti menyampaikan retorika politik

to deliver political rhetoric that they use to sell us sneakers.

menggunakan taktik personalisasi yang digunakan untuk menjual sepatu.

They could retrain their algorithms

Algoritme mereka bisa dilatih ulang

to focus on a metric other than engagement,

agar tidak fokus memancing perhatian,

and they could build in guardrails to stop certain content from going viral

dan mereka bisa membuat haluan untuk mencegah konten tertentu menjadi viral

before being reviewed.

sebelum diulas.

And they could do all of this

Mereka bisa melakukan semua ini

without becoming what they call the arbiters of truth.

tanpa menjadi apa yang mereka sebut sebagai sang penentu kebenaran.

But they've made it clear that they will not go far enough

Tetapi mereka sudah terus terang tidak akan berupaya besar

to do the right thing without being forced to,

untuk melakukan hal benar tanpa dipaksa terlebih dulu,

and, to be frank, why should they?

ya, karena, untuk apa?

The markets keep rewarding them, and they're not breaking the law.

Pasar akan terus mendukung, dan mereka tidak melanggar hukum.

Because as it stands,

Karena situasinya saat ini,

there are no US laws compelling Facebook, or any social media company,

tidak ada ketentuan di AS yang mewajibkan Facebook, atau media sosial lainnya,

to protect our public square,

untuk melindungi ruang publik kita,

our democracy

demokrasi kita,

and even our elections.

dan bahkan pemilu kita.

We have ceded the decision-making on what rules to write and what to enforce

Kita sudah menyerahkan kendali atas keputusan peraturannya

to the CEOs of for-profit internet companies.

kepada para CEO perusahaan profit.

Is this what we want?

Apakah ini yang kita mau?

A post-truth world where toxicity and tribalism

dunia paska-kebenaran di mana toksisitas dan tribalisme

trump bridge-building and consensus-seeking?

berjaya atas pengertian dan musyawarah?

I do remain optimistic that we still have more in common with each other

Saya masih optimis kita memiliki lebih banyak persamaan di antara kita

than the current media and online environment portray,

daripada yang media dan internet saat ini tunjukkan,

and I do believe that having more perspective surface

dan saya percaya memberikan ruang untuk berbagai perspektif

makes for a more robust and inclusive democracy.

akan membuat demokrasi kita menjadi lebih kuat dan inklusif.

But not the way it's happening right now.

Tapi, keadaan saat ini tidak mengarah ke sana.

And it bears emphasizing, I do not want to kill off these companies.

Dan perlu digarisbawahi, saya bukan ingin perusahaan-perusahaan ini ditutup.

I just want them held to a certain level of accountability,

Saya hanya ingin mereka memegang tanggung jawab yang sepadan,

just like the rest of society.

sama seperti yang masyarakat pegang.

It is time for our governments to step up and do their jobs

Sudah seharusnya pemerintah maju dan melakukan pekerjaan mereka,

of protecting our citizenry.

yaitu melindungi rakyat.

And while there isn't one magical piece of legislation

Dan meskipun tidak mungkin ada satu undang-undang ajaib

that will fix this all,

yang dapat memperbaiki semuanya,

I do believe that governments can and must find the balance

saya percaya pemerintah bisa dan harus menemukan keseimbangan

between protecting free speech

antara menjaga kebebasan berpendapat

and holding these platforms accountable for their effects on society.

dan menjaga tanggung jawab para platform atas dampaknya terhadap masyarakat.

And they could do so in part by insisting on actual transparency

Mereka dapat menegakkannya dengan menuntut transparansi

around how these recommendation engines are working,

mengenai bagaimana proses sistem rekomendasi mereka,

around how the curation, amplification and targeting are happening.

melakukan penilaian, amplifikasi, dan penargetan konten.

You see, I want these companies held accountable

Saya berharap para korporasi bertanggung jawab,

not for if an individual posts misinformation

bukan atas satu individu yang menyebar misinformasi

or extreme rhetoric,

atau retorik ekstrem,

but for how their recommendation engines spread it,

tetapi atas bagaimana sistem rekomendasi mereka menyebarkannya,

how their algorithms are steering people towards it,

bagaimana algoritme mereka menggiring banyak orang,

and how their tools are used to target people with it.

dan bagaimana peranti mereka menargetkan pengguna.

I tried to make change from within Facebook and failed,

Saya sudah berusaha mengubahnya dari dalam Facebook, dan saya gagal,

and so I've been using my voice again for the past few years

jadi sekarang saya bersuara lagi

to continue sounding this alarm

untuk terus menyadarkan semua orang

and hopefully inspire more people to demand this accountability.

sehingga semoga semakin banyak yang menuntut pertanggungjawaban ini.

My message to you is simple:

Pesan saya simpel:

pressure your government representatives

desak anggota perwakilan rakyat Anda

to step up and stop ceding our public square to for-profit interests.

untuk maju agar ruang publik kita jangan diserahkan untuk kepentingan perusahaan.

Help educate your friends and family

Bantu edukasi teman dan keluarga Anda

about how they're being manipulated online.

tentang bagaimana mereka dimanipulasi di situs daring.

Push yourselves to engage with people who aren't like-minded.

Dorong diri Anda untuk berhubungan dengan orang yang tidak sepemikiran.

Make this issue a priority.

Prioritaskan isu ini.

We need a whole-society approach to fix this.

Kita perlu kontribusi dari masyarakat luas untuk memperbaiki hal ini.

And my message to the leaders of my former employer Facebook is this:

Dan pesan saya kepada para pimpinan dan mantan rekan saya di Facebook adalah:

right now, people are using your tools exactly as they were designed

saat ini, banyak pihak memanfaatkan alat kalian sesuai dengan rancangannya

to sow hatred, division and distrust,

untuk menabur kebencian, perpecahan, dan kecurigaan,

and you're not just allowing it, you are enabling it.

dan kalian bukan sekedar membiarkannya, kalian memungkinkannya.

And yes, there are lots of great stories

Dan ya, ada banyak cerita hebat

of positive things happening on your platform around the globe,

tentang hal-hal positif yang terjadi di platform kalian di seluruh dunia.

but that doesn't make any of this OK.

Namun, bukan berarti semuanya aman-aman saja.

And it's only getting worse as we're heading into our election,

Keadaan justru akan semakin memburuk dengan pemilu mendatang,

and even more concerning,

dan yang lebih mengkhawatirkan,

face our biggest potential crisis yet,

yaitu potensi krisis paling besar sejauh ini,

if the results aren't trusted, and if violence breaks out.

jika hasilnya tidak dipercayai publik, kemudian terjadi kericuhan.

So when in 2021 you once again say, "We know we have to do better,"

Jika di tahun 2021 Anda bilang, "Kita tahu kita harus jadi lebih baik,"

I want you to remember this moment,

saya ingin Anda mengenang momen ini,

because it's no longer just a few outlier voices.

karena isu ini bukan diangkat oleh satu dua orang saja.

Civil rights leaders, academics,

Para pejuang hak sipil, civitas akademika,

journalists, advertisers, your own employees,

jurnalis, pemasang iklan, pegawai kalian sendiri,

are shouting from the rooftops

mereka semua terang-terangan mengatakan

that your policies and your business practices

bahwa kebijakan dan praktik bisnis kalian

are harming people and democracy.

merusak masyarakat dan demokrasi.

You own your decisions,

Anda tentukan sendiri,

but you can no longer say that you couldn't have seen it coming.

tapi jangan bilang kalau Anda tidak menyangkanya.

Thank you.

Terima kasih.