Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Traducător: Claudia Pravat Corector: Iosif Szenasi

Around five years ago,

Cu vreo cinci ani în urmă,

it struck me that I was losing the ability

mi-am dat seama că îmi pierdeam capacitatea

to engage with people who aren't like-minded.

de a interacționa cu cei care nu gândesc ca mine.

The idea of discussing hot-button issues with my fellow Americans

Ideea de a dezbate subiecte sensibile cu colegii mei americani

was starting to give me more heartburn

începuse să îmi dea mai multe dureri de stomac

than the times that I engaged with suspected extremists overseas.

decât discuțiile cu presupușii extremiști de peste hotare.

It was starting to leave me feeling more embittered and frustrated.

Începuseră să-mi dea o senzație de ură și frustrare.

And so just like that,

Așa că, brusc,

I shifted my entire focus

mi-am mutat toată atenția

from global national security threats

de la amenințările la adresa securității naționale

to trying to understand what was causing this push

la încercarea de a înțelege de unde venea acest impuls

towards extreme polarization at home.

spre o polarizare exagerată.

As a former CIA officer and diplomat

Ca fost ofițer CIA și diplomat

who spent years working on counterextremism issues,

care a petrecut mulți ani în probleme de antiterorism,

I started to fear that this was becoming a far greater threat to our democracy

mă temeam că acest lucru e o amenințare mult mai mare pentru democrație

than any foreign adversary.

decât orice adversar extern.

And so I started digging in,

Așadar, am început să cercetez

and I started speaking out,

și să-mi exprim părerea,

which eventually led me to being hired at Facebook

lucru care a dus la angajarea mea la Facebook

and ultimately brought me here today

și în final m-a adus azi aici,

to continue warning you about how these platforms

ca să vă avertizez despre faptul că aceste platforme

are manipulating and radicalizing so many of us

ne manipulează și radicalizează pe foarte mulți dintre noi,

and to talk about how to reclaim our public square.

și să vedem cum ne recâștigăm spațiul public.

I was a foreign service officer in Kenya

Am fost diplomat în Kenya

just a few years after the September 11 attacks,

la câțiva ani după atacurile din 11 septembrie,

and I led what some call "hearts and minds" campaigns

și am condus așa numitele campanii „inimi și minți”

along the Somalia border.

de-a lungul graniței cu Somalia.

A big part of my job was to build trust with communities

O parte importantă era să consolidez încrederea în comunitățile

deemed the most susceptible to extremist messaging.

considerate cele mai expuse la mesaje extremiste.

I spent hours drinking tea with outspoken anti-Western clerics

Am petrecut ore întregi bând ceai cu clerici declarați antioccidentali

and even dialogued with some suspected terrorists,

și chiar am stat de vorbă cu câțiva presupuși teroriști;

and while many of these engagements began with mutual suspicion,

și deși multe dintre aceste întâlniri au început cu suspiciune reciprocă,

I don't recall any of them resulting in shouting or insults,

nu-mi amintesc să fi degenerat niciuna în strigăte și insulte,

and in some case we even worked together on areas of mutual interest.

iar în unele cazuri chiar am colaborat în domenii de interes reciproc.

The most powerful tools we had were to simply listen, learn

Cele mai puternice instrumente sunt să ascultăm, să înțelegem

and build empathy.

și să dezvoltăm empatie.

This is the essence of hearts and minds work,

Aceasta e esența programului „inimi și minți”,

because what I found again and again is that what most people wanted

deoarece am descoperit în repetate rânduri că ceea ce își doresc oamenii

was to feel heard, validated and respected.

este să se simtă auziți, recunoscuți și respectați.

And I believe that's what most of us want.

Și cred că asta ne dorim cu toții.

So what I see happening online today is especially heartbreaking

E dureros să văd ce se întâmplă azi în mediul online

and a much harder problem to tackle.

și e o problemă mult mai greu de rezolvat.

We are being manipulated by the current information ecosystem

Suntem manipulați de ecosistemul informațional actual,

entrenching so many of us so far into absolutism

care a încrâncenat pe mulți dintre noi în absolutism,

that compromise has become a dirty word.

încât compromisul a devenit un cuvânt murdar.

Because right now,

Pentru că în acest moment,

social media companies like Facebook

rețelele sociale precum Facebook

profit off of segmenting us and feeding us personalized content

profită de pe urma diviziunii noastre și ne furnizează conținut personalizat

that both validates and exploits our biases.

care ne validează și în același timp ne exploatează prejudecățile.

Their bottom line depends on provoking a strong emotion

Rezultatul lor final se bazează pe provocarea unei emoții puternice

to keep us engaged,

care să ne țină conectați,

often incentivizing the most inflammatory and polarizing voices,

stimulând adesea vocile cele mai instigatoare și polarizante,

to the point where finding common ground no longer feels possible.

până când nu mai e posibilă găsirea unul numitor comun.

And despite a growing chorus of people crying out for the platforms to change,

Și deși sunt multe voci care cer ca platformele să se schimbe,

it's clear they will not do enough on their own.

e limpede că nu vor face suficient din proprie inițiativă.

So governments must define the responsibility

Prin urmare, guvernele trebuie să stabilească responsabilitatea

for the real-world harms being caused by these business models

pentru daunele din viața reală provocate de aceste modele de business

and impose real costs on the damaging effects

și să impună costuri reale pentru efectele dăunătoare

they're having to our public health, our public square and our democracy.

pe care le au asupra sănătății publice, a spațiului public și a democrației.

But unfortunately, this won't happen in time for the US presidential election,

Din păcate, asta nu se va întâmpla înainte de alegerile prezidențiale,

so I am continuing to raise this alarm,

așa că voi continua să trag acest semnal de alarmă,

because even if one day we do have strong rules in place,

deoarece, chiar dacă vom avea cândva reguli care să funcționeze,

it will take all of us to fix this.

e nevoie de noi toți pentru a rezolva acest lucru.

When I started shifting my focus from threats abroad

Când mi-am mutat atenția de la amenințările externe

to the breakdown in civil discourse at home,

la criza din discursul public de acasă,

I wondered if we could repurpose some of these hearts and minds campaigns

m-am întrebat dacă putem schimba unele campanii de inimi și minți,

to help heal our divides.

pentru a ajuta să ne vindecăm dezbinările.

Our more than 200-year experiment with democracy works

Experiența noastră cu democrația, veche de peste 200 de ani,

in large part because we are able to openly and passionately

funcționează în parte datorită faptului că putem dezbate deschis și cu pasiune

debate our ideas for the best solutions.

ideile pe care le avem, ca să găsim cele mai bune soluții.

But while I still deeply believe

Dar, deși cred cu adevărat

in the power of face-to-face civil discourse,

în puterea dialogului față în față,

it just cannot compete

acesta nu se poate compara

with the polarizing effects and scale of social media right now.

cu efectele polarizatoare și amploarea rețelelor sociale în acest moment.

The people who are sucked down these rabbit holes

Oamenii care cad în aceste capcane

ale revoltei din social media

of social media outrage

often feel far harder to break of their ideological mindsets

renunță mai greu la mentalitățile lor ideologice

than those vulnerable communities I worked with ever were.

decât acele comunități defavorizate cu care am lucrat.

So when Facebook called me in 2018

Așadar, când m-au sunat cei de la Facebook în 2018

and offered me this role

și mi-au oferit această poziție,

heading its elections integrity operations for political advertising,

să conduc operațiunile de integritate a alegerilor în publicitatea politică,

I felt I had to say yes.

am simțit că trebuie să accept.

I had no illusions that I would fix it all,

Nu aveam iluzii că voi rezolva totul,

but when offered the opportunity

dar când mi s-a oferit ocazia

to help steer the ship in a better direction,

de a dirija nava într-o direcție mai bună,

I had to at least try.

trebuia măcar să încerc.

I didn't work directly on polarization,

Nu am lucrat direct pe polarizare,

but I did look at which issues were the most divisive in our society

ci am căutat problemele care dezbinau cel mai mult societatea,

and therefore the most exploitable in elections interference efforts,

fiind cele mai utilizate în încercările de amestec în alegeri,

which was Russia's tactic ahead of 2016.

care a fost tactica Rusiei înainte de 2016.

So I started by asking questions.

Am început prin a pune întrebări.

I wanted to understand the underlying systemic issues

Voiam să înțeleg problemele de bază ale acestui sistem

that were allowing all of this to happen,

care au permis ca toate acestea să se întâmple,

in order to figure out how to fix it.

pentru a ști cum să le rezolvăm.

Now I still do believe in the power of the internet

Încă mai cred în puterea internetului

to bring more voices to the table,

de a aduce mai multe voci laolaltă,

but despite their stated goal of building community,

dar în ciuda scopului declarat de a construi o comunitate,

the largest social media companies as currently constructed

cum sunt construite acum cele mai mari companii de social media,

are antithetical to the concept of reasoned discourse.

sunt în antiteză cu conceptul de discurs rațional.

There's no way to reward listening,

Nu e nicio modalitate de a răsplăti ascultarea,

to encourage civil debate

de a încuraja dialogul civilizat

and to protect people who sincerely want to ask questions

și de a proteja oamenii care chiar vor să pună întrebări,

in a business where optimizing engagement and user growth

în domeniul unde optimizarea implicării și creșterea numărului de utilizatori

are the two most important metrics for success.

sunt cei mai importanți indicatori ai succesului.

There's no incentive to help people slow down,

Nu există interes de a-i ajuta pe oameni să se calmeze,

to build in enough friction that people have to stop,

de a crea suficientă presiune încât oamenii să se oprească,

recognize their emotional reaction to something,

să-și dea seama de reacția lor emoțională

and question their own assumptions before engaging.

și să-și examineze propriile opinii înainte să răspundă.

The unfortunate reality is:

Din păcate, realitatea stă cam așa:

lies are more engaging online than truth,

minciunile sunt mai interesante decât adevărul,

and salaciousness beats out wonky, fact-based reasoning

iar scandalul întrece argumentul rațional, bazat pe realitate,

in a world optimized for frictionless virality.

într-o lume optimizată pentru viralitate fără divergențe.

As long as algorithms' goals are to keep us engaged,

Atâta vreme cât scopurile algoritmilor sunt să ne țină conectați,

they will continue to feed us the poison that plays to our worst instincts

vor continua să ne furnizeze otrava care ne manevrează

and human weaknesses.

cele mai rele instincte și slăbiciuni umane.

And yes, anger, mistrust,

Desigur, furia, neîncrederea,

the culture of fear, hatred:

cultura fricii, ura...

none of this is new in America.

nimic din toate acestea nu sunt ceva nou în America.

But in recent years, social media has harnessed all of that

Dar în ultimii ani, social media a folosit aceste lucruri

and, as I see it, dramatically tipped the scales.

și, după părerea mea, a înclinat simțitor balanța.

And Facebook knows it.

Iar Facebook știe asta.

A recent "Wall Street Journal" article

Un articol recent din „Wall Street Journal”

exposed an internal Facebook presentation from 2018

a dezvăluit o prezentare internă din 2018 de la Facebook,

that specifically points to the companies' own algorithms

care arată în mod specific că algoritmii companiei sunt responsabili

for growing extremist groups' presence on their platform

pentru creșterea prezenței grupurilor extremiste pe platforma lor

and for polarizing their users.

și pentru polarizarea utilizatorilor.

But keeping us engaged is how they make their money.

Dar pentru ca ei să facă bani, trebuie să ne țină implicați.

The modern information environment is crystallized around profiling us

Mediul informațional modern e axat pe crearea profilului nostru,

and then segmenting us into more and more narrow categories

iar apoi pe împărțirea în categorii din ce în ce mai mici,

to perfect this personalization process.

pentru a perfecționa procesul de personalizare.

We're then bombarded with information confirming our views,

Suntem apoi bombardați cu informații care ne confirmă opiniile,

reinforcing our biases,

întărindu-ne propriile prejudecăți

and making us feel like we belong to something.

și dându-ne senzația că aparținem undeva.

These are the same tactics we would see terrorist recruiters

Sunt aceleași tactici pe care le folosesc teroriștii

using on vulnerable youth,

când vor să recruteze tineri vulnerabili,

albeit in smaller, more localized ways before social media,

deși cu metode mai reduse și localizate, înainte de apariția rețelelor sociale,

with the ultimate goal of persuading their behavior.

având ca scop influențarea comportamentului.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Din păcate, Facebook nu mi-a permis niciodată să am un impact real.

In fact, on my second day, my title and job description were changed

De fapt, în a doua zi, mi-au schimbat titlul și fișa postului

and I was cut out of decision-making meetings.

și am fost exclusă din ședințele unde se luau decizii.

My biggest efforts,

Eforturile mele

trying to build plans

de a elabora planuri

to combat disinformation and voter suppression in political ads,

de combatere a dezinformării și suprimării alegătorilor în reclamele electorale

were rejected.

au fost respinse.

And so I lasted just shy of six months.

Așadar, am rezistat puțin sub șase luni.

But here is my biggest takeaway from my time there.

Dar am plecat de acolo cu ceva foarte important.

There are thousands of people at Facebook

Sunt mii de oameni la Facebook

who are passionately working on a product

care lucrează cu pasiune la un proiect

that they truly believe makes the world a better place,

despre care cred cu adevărat că va schimba lumea,

but as long as the company continues to merely tinker around the margins

dar atâta timp cât compania va continua să cârpească doar pe la marginile

of content policy and moderation,

conținutului politic și ale moderării,

as opposed to considering

în loc să se gândească

how the entire machine is designed and monetized,

la cum e proiectată și monetizată întreaga mașinărie,

they will never truly address how the platform is contributing

nu vor aborda cu adevărat modul în care platforma

to hatred, division and radicalization.

contribuie la ură, dezbinare și radicalizare.

And that's the one conversation I never heard happen during my time there,

Și asta e o discuție pe care n-am auzit-o cât am lucrat acolo,

because that would require fundamentally accepting

pentru că asta ar fi însemnat acceptarea în esență

that the thing you built might not be the best thing for society

a faptului că ceea ce construiești s-ar putea să nu fie bun pentru societate

and agreeing to alter the entire product and profit model.

și să fii gata să modifici întregul produs și model de profit.

So what can we do about this?

Ce putem face?

I'm not saying that social media bears the sole responsibility

Nu spun că social media poartă întreaga responsabilitate

for the state that we're in today.

pentru starea în care suntem azi.

Clearly, we have deep-seated societal issues that we need to solve.

În mod cert, avem de rezolvat probleme sociale profunde.

But Facebook's response, that it is just a mirror to society,

Dar răspunsul Facebook, că e doar o oglindă a societății,

is a convenient attempt to deflect any responsibility

e o încercare convenabilă de a respinge orice responsabilitate

from the way their platform is amplifying harmful content

a modului în care platforma lor amplifică conținut dăunător

and pushing some users towards extreme views.

și împinge anumiți utilizatori către opinii extremiste.

And Facebook could, if they wanted to,

Iar Facebook ar putea, dacă ar dori,

fix some of this.

să remedieze aceste lucruri.

They could stop amplifying and recommending the conspiracy theorists,

Ar putea să oprească amplificarea și favorizarea de teorii ale conspirației,

the hate groups, the purveyors of disinformation

ale grupurilor xenofobe, ale furnizorilor de dezinformare

and, yes, in some cases even our president.

și, da, în unele cazuri chiar a președintelui nostru.

They could stop using the same personalization techniques

Ar putea să nu mai folosească același procedeu de personalizare

to deliver political rhetoric that they use to sell us sneakers.

pentru a furniza și retorică politică și pentru a vinde teniși.

They could retrain their algorithms

Ar putea să reprogrameze algoritmii

to focus on a metric other than engagement,

să se axeze pe alt parametru diferit de implicare,

and they could build in guardrails to stop certain content from going viral

și ar putea construi bariere care să împiedice viralizarea conținutului

before being reviewed.

înainte de a fi analizat.

And they could do all of this

Și ar putea face toate astea

without becoming what they call the arbiters of truth.

fără să se transforme în arbitrul adevărului.

But they've made it clear that they will not go far enough

Însă au explicat clar că nu vor merge până acolo

to do the right thing without being forced to,

încât să facă ce trebuie fără a fi obligați,

and, to be frank, why should they?

și de ce s-o facă, sincer vorbind?

The markets keep rewarding them, and they're not breaking the law.

Piețele continuă să-i recompenseze și nu încalcă nicio lege.

Because as it stands,

Deoarece în forma actuală,

there are no US laws compelling Facebook, or any social media company,

nu există nicio lege în SUA care să oblige Facebook sau altă companie de social media

to protect our public square,

să protejeze spațiul public,

our democracy

democrația

and even our elections.

sau chiar alegerile.

We have ceded the decision-making on what rules to write and what to enforce

Am cedat luarea deciziilor cu privire la ce reguli să scriem și să le impunem

to the CEOs of for-profit internet companies.

directorilor de la companiile de internet care fac profit.

Is this what we want?

Asta ne dorim?

A post-truth world where toxicity and tribalism

O lume post-adevăr, unde intoxicarea și tribalismul

trump bridge-building and consensus-seeking?

ne împiedică să stabilim legături și să ne dorim consensul?

I do remain optimistic that we still have more in common with each other

Rămân însă optimistă că încă avem mai multe lucruri în comun

than the current media and online environment portray,

decât prezintă mass-media actuală și mediul online,

and I do believe that having more perspective surface

și cred că având o vedere de ansamblu

makes for a more robust and inclusive democracy.

contribuie la o democrație mai robustă și incluzivă.

But not the way it's happening right now.

Dar nu așa cum se întâmplă acum.

And it bears emphasizing, I do not want to kill off these companies.

Și merită să menționez că nu vreau să distrugem aceste companii,

I just want them held to a certain level of accountability,

vreau doar să fie trase la răspundere

just like the rest of society.

cum se întâmplă în restul societății.

It is time for our governments to step up and do their jobs

E timpul ca guvernele noastre să înceapă să-și facă datoria

of protecting our citizenry.

de a proteja cetățenii.

And while there isn't one magical piece of legislation

Deși nu există o lege fermecată

that will fix this all,

care să rezolve toate astea,

I do believe that governments can and must find the balance

cred că guvernele pot și trebuie să găsească balanța

between protecting free speech

între a apăra libertatea de exprimare

and holding these platforms accountable for their effects on society.

și a trage la răspundere aceste platforme pentru efectele asupra societății.

And they could do so in part by insisting on actual transparency

Ar putea face acest lucru punând accent pe transparență

around how these recommendation engines are working,

în modul în care funcționează motoarele de căutare,

around how the curation, amplification and targeting are happening.

modul în care se desfășoară căutarea, răspândirea și targetarea.

You see, I want these companies held accountable

Vreau ca aceste companii să fie trase la răspundere

not for if an individual posts misinformation

nu pentru că o persoană postează informații false

or extreme rhetoric,

sau retorică extremistă,

but for how their recommendation engines spread it,

ci pentru cum sunt răspândite de motoarele de căutare,

how their algorithms are steering people towards it,

cum algoritmii direcționează oamenii către ele

and how their tools are used to target people with it.

și cum sunt folosite aceste instrumente pentru a-i urmări pe oameni.

I tried to make change from within Facebook and failed,

Am încercat să schimb lucrurile din interiorul Facebook și n-am reușit,

and so I've been using my voice again for the past few years

așa că mi-am folosit vocea în ultimii ani

to continue sounding this alarm

pentru a trage un semnal de alarmă,

and hopefully inspire more people to demand this accountability.

sperând că voi inspira mai mulți oameni să ceară această responsabilizare.

My message to you is simple:

Mesajul meu e simplu:

pressure your government representatives

Puneți presiune pe reprezentanții guvernului,

to step up and stop ceding our public square to for-profit interests.

să ia atitudine și să nu mai cedeze spațiul public în interes financiar.

Help educate your friends and family

Educați-vă prietenii și familia

about how they're being manipulated online.

despre cum sunt manipulați online.

Push yourselves to engage with people who aren't like-minded.

Străduiți-vă să interacționați cu persoane care nu gândesc ca voi.

Make this issue a priority.

Faceți din asta o prioritate.

We need a whole-society approach to fix this.

E nevoie de întreaga societate pentru a rezolva această problemă.

And my message to the leaders of my former employer Facebook is this:

Iar mesajul meu pentru șefii de la Facebook e acesta:

right now, people are using your tools exactly as they were designed

În prezent, aceste mijloace sunt folosite așa cum au fost gândite,

to sow hatred, division and distrust,

să semene ură, dezbinare și neîncredere,

and you're not just allowing it, you are enabling it.

și nu numai că le acceptați, ci le permiteți să facă asta.

And yes, there are lots of great stories

Desigur că sunt și povești minunate,

of positive things happening on your platform around the globe,

despre lucruri bune care se întâmplă pe această platformă în întreaga lume,

but that doesn't make any of this OK.

dar asta nu face ca totul să fie bine.

And it's only getting worse as we're heading into our election,

Iar lucrurile se înrăutățesc pe măsură ce se apropie alegerile,

and even more concerning,

iar faptul cel mai îngrijorător

face our biggest potential crisis yet,

e că ne confruntăm cu cea mai mare criză de până acum,

if the results aren't trusted, and if violence breaks out.

dacă rezultatele nu prezintă încredere și vor izbucni violențe.

So when in 2021 you once again say, "We know we have to do better,"

Iar în 2021, când veți spune „Trebuie să ne străduim mai mult”,

I want you to remember this moment,

vreau să vă amintiți acest moment,

because it's no longer just a few outlier voices.

pentru că nu mai e vorba doar de câteva voci răzlețe.

Civil rights leaders, academics,

Liderii mișcării pentru drepturi civile, academicieni,

journalists, advertisers, your own employees,

jurnaliști, agenții de publicitate, angajații dumneavoastră,

are shouting from the rooftops

strigă din toate puterile

that your policies and your business practices

că politicile și practicile voastre

are harming people and democracy.

fac rău oamenilor și democrației.

You own your decisions,

Sunteți stăpâni pe deciziile voastre,

but you can no longer say that you couldn't have seen it coming.

dar nu mai puteți spune că nu v-ați așteptat la așa ceva.

Thank you.

Vă mulțumesc!