Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Traduttore: Lilja Orlandi Revisore: Silvia Monti

Circa cinque anni fa,

Around five years ago,

ho notato che stavo perdendo la capacità

it struck me that I was losing the ability

to engage with people who aren't like-minded.

di interagire con le persone che la pensavano in modo diverso.

The idea of discussing hot-button issues with my fellow Americans

L'idea di discutere su questioni scottanti con i miei concittadini americani

was starting to give me more heartburn

iniziava a darmi più bruciori di stomaco

delle volte in cui avevo avuto a che fare con sospetti estremisti all'estero.

than the times that I engaged with suspected extremists overseas.

It was starting to leave me feeling more embittered and frustrated.

Stava iniziando a farmi sentire più amareggiata e frustrata.

And so just like that,

E così,

I shifted my entire focus

ho spostato tutta la mia attenzione

from global national security threats

dalle minacce globali alla sicurezza nazionale

al cercare di capire cosa stesse causando questa spinta

to trying to understand what was causing this push

towards extreme polarization at home.

verso un'estrema polarizzazione nel mio Paese.

As a former CIA officer and diplomat

Come ex agente della CIA e diplomatica

che ha passato anni a lavorare su problematiche anti-estremiste,

who spent years working on counterextremism issues,

I started to fear that this was becoming a far greater threat to our democracy

ho iniziato a temere che questa stesse diventando

una minaccia assai più grande per la nostra democrazia

than any foreign adversary.

di qualsiasi nemico straniero.

And so I started digging in,

Perciò ho iniziato a fare ricerche

and I started speaking out,

e a parlarne apertamente,

which eventually led me to being hired at Facebook

cosa che mi ha portata a essere assunta da Facebook

e, infine, a essere qui oggi

and ultimately brought me here today

to continue warning you about how these platforms

per continuare a mettervi in guardia su come queste piattaforme

are manipulating and radicalizing so many of us

stiano manipolando e radicalizzando così tanti di noi,

and to talk about how to reclaim our public square.

e per parlare di come riappropriarci della nostra piazza pubblica.

I was a foreign service officer in Kenya

Sono stata un funzionario estero in Kenya

just a few years after the September 11 attacks,

qualche anno dopo l'attacco dell'11 settembre,

and I led what some call "hearts and minds" campaigns

e ho guidato quelle che alcuni chiamano campagne "dei cuori e delle menti"

along the Somalia border.

lungo il confine somalo.

A big part of my job was to build trust with communities

Gran parte del mio lavoro consisteva nel costruire un rapporto di fiducia

deemed the most susceptible to extremist messaging.

con le comunità ritenute più sensibili ai messaggi estremisti.

Ho passato ore a bere tè con dichiarati esponenti antioccidentali.

I spent hours drinking tea with outspoken anti-Western clerics

and even dialogued with some suspected terrorists,

Mi sono anche confrontata con dei sospetti terroristi.

and while many of these engagements began with mutual suspicion,

Sebbene molte di queste interazioni siano iniziate con sospetto reciproco,

non ricordo che nessuna di esse sia mai sfociata in urla o insulti.

I don't recall any of them resulting in shouting or insults,

and in some case we even worked together on areas of mutual interest.

In alcuni casi, abbiamo addirittura lavorato insieme

su aree di comune interesse.

L'arma più potente che avevamo

The most powerful tools we had were to simply listen, learn

era semplicemente ascoltare, imparare e creare empatia.

and build empathy.

This is the essence of hearts and minds work,

Questa è l'essenza del lavoro dei cuori e delle menti,

perché quello che ho riscontrato di continuo

because what I found again and again is that what most people wanted

è che ciò che la maggior parte delle persone voleva

was to feel heard, validated and respected.

era sentirsi ascoltata, approvata e rispettata.

E credo che sia anche ciò che molti di noi vogliono.

And I believe that's what most of us want.

So what I see happening online today is especially heartbreaking

Quello che vedo accadere oggi online è straziante

ed è un problema molto più difficile da affrontare.

and a much harder problem to tackle.

We are being manipulated by the current information ecosystem

Veniamo manipolati dall'attuale ecosistema dell'informazione,

entrenching so many of us so far into absolutism

il quale sta facendo trincerare molti di noi nell'assolutismo,

that compromise has become a dirty word.

al punto che "compromesso" è diventata una parolaccia.

Because right now,

Perché, ora come ora,

social media companies like Facebook

compagnie di social media come Facebook traggono profitto dal segmentarci,

profit off of segmenting us and feeding us personalized content

per poi fornirci dei contenuti personalizzati

that both validates and exploits our biases.

che confermano e allo stesso tempo sfruttano i nostri preconcetti.

Their bottom line depends on provoking a strong emotion

L'obiettivo principale è quello di provocare forti emozioni

to keep us engaged,

per tenerci impegnati,

often incentivizing the most inflammatory and polarizing voices,

spesso incentivando le voci più provocatorie e polarizzanti

to the point where finding common ground no longer feels possible.

fino al punto in cui trovare un punto d'incontro sembra impossibile.

And despite a growing chorus of people crying out for the platforms to change,

E nonostante un coro crescente di persone chieda alle piattaforme un cambiamento,

it's clear they will not do enough on their own.

è evidente che queste persone da sole non riusciranno a fare molto.

So governments must define the responsibility

Quindi i governi devono definire le responsabilità

per i danni reali che vengono causati da questi modelli di business

for the real-world harms being caused by these business models

e imporre dei costi reali sugli effetti dannosi che stanno avendo

and impose real costs on the damaging effects

they're having to our public health, our public square and our democracy.

sulla nostra sanità pubblica, sulla nostra piazza pubblica

e sulla nostra democrazia.

Purtroppo questo non avverrà in tempo per le elezioni presidenziali degli USA,

But unfortunately, this won't happen in time for the US presidential election,

so I am continuing to raise this alarm,

perciò continuerò a lanciare questo allarme,

because even if one day we do have strong rules in place,

perché anche se un giorno dovessimo avere forti norme in vigore,

it will take all of us to fix this.

ci sarà comunque bisogno dell'aiuto di tutti noi per sistemare le cose.

When I started shifting my focus from threats abroad

Quando ho iniziato a spostare la mia attenzione dalle minacce estere

to the breakdown in civil discourse at home,

alla disgregazione del dibattito civile nel mio Paese,

I wondered if we could repurpose some of these hearts and minds campaigns

mi sono chiesta se avessimo potuto riproporre

alcune di quelle campagne dei cuori e delle menti

to help heal our divides.

per risanare le nostre divergenze.

Our more than 200-year experiment with democracy works

Il nostro esperimento di oltre 200 anni con la democrazia funziona

in large part because we are able to openly and passionately

in buona parte perché siamo in grado di mettere in discussione le nostre idee,

apertamente e con passione, per trovare le soluzioni migliori.

debate our ideas for the best solutions.

Sebbene io creda profondamente

But while I still deeply believe

in the power of face-to-face civil discourse,

nel potere del dibattito civile faccia a faccia,

it just cannot compete

non può competere

with the polarizing effects and scale of social media right now.

con gli effetti polarizzanti e con la portata dei social media attuali.

The people who are sucked down these rabbit holes

Le persone che vengono risucchiate

da questo vortice di indignazione sui social media

of social media outrage

often feel far harder to break of their ideological mindsets

spesso sono più difficili da separare dalle loro mentalità ideologiche

di quanto lo siano mai state quelle comunità vulnerabili con cui ho lavorato.

than those vulnerable communities I worked with ever were.

So when Facebook called me in 2018

Perciò quando Facebook mi ha chiamata nel 2018

and offered me this role

e mi ha offerto l'incarico

di capo delle operazioni di integrità elettorale per la propaganda politica,

heading its elections integrity operations for political advertising,

I felt I had to say yes.

ho sentito che dovevo dire di sì.

I had no illusions that I would fix it all,

Sapevo che non sarei riuscita a sistemare tutto,

but when offered the opportunity

ma quando ti viene data la possibilità

to help steer the ship in a better direction,

di contribuire a guidare la nave verso una direzione migliore,

I had to at least try.

devi almeno provarci.

I didn't work directly on polarization,

Non ho lavorato direttamente sulla polarizzazione,

but I did look at which issues were the most divisive in our society

ma ho esaminato

quali sono stati i temi che hanno creato più divisione nella nostra società

and therefore the most exploitable in elections interference efforts,

e quindi i più sfruttabili nei tentativi di interferenza elettorale,

which was Russia's tactic ahead of 2016.

ovvero la tattica della Russia in vista del 2016.

So I started by asking questions.

Ho iniziato facendo delle domande.

I wanted to understand the underlying systemic issues

Volevo capire quale fosse il problema sistemico di fondo

that were allowing all of this to happen,

che stava permettendo a tutto ciò di accadere,

in order to figure out how to fix it.

in modo da pensare a come poterlo risolvere.

Now I still do believe in the power of the internet

Io credo ancora nel potere di internet,

nella sua capacità di dare spazio a più voci,

to bring more voices to the table,

but despite their stated goal of building community,

ma nonostante l'obiettivo dichiarato di costruire una comunità,

the largest social media companies as currently constructed

le più grandi compagnie di social media, per come sono fatte adesso,

are antithetical to the concept of reasoned discourse.

sono inconciliabili con il concetto di discorso ragionato.

There's no way to reward listening,

Non c'è modo di premiare l'ascolto,

to encourage civil debate

di incoraggiare un dibattito civile

e di proteggere le persone che vogliono fare delle domande in modo sincero

and to protect people who sincerely want to ask questions

in a business where optimizing engagement and user growth

in un business

in cui ottimizzare il coinvolgimento e la crescita degli utenti

are the two most important metrics for success.

sono i due parametri più importanti per il successo.

There's no incentive to help people slow down,

Non c'è nessun incentivo ad aiutare le persone a rallentare,

to build in enough friction that people have to stop,

a creare un attrito sufficiente a far sì che le persone si fermino,

riconoscano la loro reazione emotiva a qualcosa

recognize their emotional reaction to something,

and question their own assumptions before engaging.

e mettano in discussione le loro stesse ipotesi prima di partecipare.

The unfortunate reality is:

La triste realtà è

lies are more engaging online than truth,

che le bugie dette online attraggono di più della verità

and salaciousness beats out wonky, fact-based reasoning

e l'oscenità batte il traballante ragionamento basato sui fatti

in a world optimized for frictionless virality.

in un mondo ottimizzato per una viralità che non trova dissenso.

As long as algorithms' goals are to keep us engaged,

Finché gli algoritmi avranno lo scopo di attirare la nostra attenzione,

they will continue to feed us the poison that plays to our worst instincts

continueranno a nutrirci del veleno

che risveglia i nostri peggiori istinti e le debolezze umane.

and human weaknesses.

And yes, anger, mistrust,

E sì, la rabbia, la diffidenza,

la cultura della paura, il disprezzo...

the culture of fear, hatred:

none of this is new in America.

niente di tutto questo è nuovo in America.

But in recent years, social media has harnessed all of that

Ma negli ultimi anni, i social media hanno sfruttato tutto questo

e, per come la vedo io, hanno fatto inclinare la bilancia drasticamente.

and, as I see it, dramatically tipped the scales.

And Facebook knows it.

E Facebook lo sa.

Un recente articolo del "Wall Street Journal"

A recent "Wall Street Journal" article

exposed an internal Facebook presentation from 2018

ha denunciato una presentazione interna di Facebook del 2018

che evidenzia in modo particolare il ruolo degli algoritmi delle società stesse

that specifically points to the companies' own algorithms

for growing extremist groups' presence on their platform

nella crescente presenza di gruppi estremisti sulla loro piattaforma

and for polarizing their users.

e nella polarizzazione dei loro utenti.

But keeping us engaged is how they make their money.

Ma tenerci impegnati è il loro modo di guadagnare.

The modern information environment is crystallized around profiling us

L'ambiente dell'informazione moderno

è cristallizzato intorno alla nostra profilazione

and then segmenting us into more and more narrow categories

e alla nostra segmentazione

in un numero sempre maggiore di categorie più piccole

to perfect this personalization process.

per perfezionare il processo di personalizzazione.

Dopodiché, veniamo bombardati di informazioni

We're then bombarded with information confirming our views,

che confermano il nostro punto di vista, consolidano i nostri pregiudizi

reinforcing our biases,

and making us feel like we belong to something.

e ci fanno sentire come se appartenessimo a qualcosa.

These are the same tactics we would see terrorist recruiters

Queste sono le stesse tattiche che venivano usate

dai reclutatori di terroristi su giovani ragazzi vulnerabili,

using on vulnerable youth,

albeit in smaller, more localized ways before social media,

anche se in modo più piccolo e più localizzato,

prima dei social media,

with the ultimate goal of persuading their behavior.

con l'obiettivo finale di persuadere il loro comportamento.

Purtroppo non sono stata mai autorizzata da Facebook ad avere un impatto reale.

Unfortunately, I was never empowered by Facebook to have an actual impact.

In fact, on my second day, my title and job description were changed

Di fatto, il secondo giorno, il mio titolo e le mie mansioni sono stati cambiati

e sono stata tagliata fuori dalle riunioni decisionali.

and I was cut out of decision-making meetings.

My biggest efforts,

Tutti i miei sforzi per cercare di sviluppare piani

trying to build plans

to combat disinformation and voter suppression in political ads,

per combattere la disinformazione e la soppressione degli elettori

nelle inserzioni politiche

were rejected.

sono stati rigettati.

And so I lasted just shy of six months.

Sono durata poco meno di sei mesi.

Ma ecco cosa ho imparato durante il tempo trascorso lì:

But here is my biggest takeaway from my time there.

There are thousands of people at Facebook

ci sono migliaia di persone in Facebook

who are passionately working on a product

che stanno lavorando con passione su un prodotto

that they truly believe makes the world a better place,

che credono fermamente possa rendere il mondo un posto migliore,

ma fino a quando le società si limiteranno a rimanere sul vago

but as long as the company continues to merely tinker around the margins

of content policy and moderation,

riguardo alla politica dei contenuti e alla moderazione

as opposed to considering

invece di considerare com'è progettata e monetizzata l'intera macchina,

how the entire machine is designed and monetized,

non affronteranno mai il problema di come la piattaforma stia contribuendo

they will never truly address how the platform is contributing

to hatred, division and radicalization.

all'odio, alla divisione e alla radicalizzazione.

And that's the one conversation I never heard happen during my time there,

E questo è il tipo di conversazione che non è mai avvenuta mentre ero lì,

because that would require fundamentally accepting

perché ciò richiederebbe fondamentalmente accettare

che le cose che hanno creato

that the thing you built might not be the best thing for society

potrebbero non essere la scelta migliore per la società,

and agreeing to alter the entire product and profit model.

e anche accettare di modificare l'intero modello di prodotto e di profitto.

So what can we do about this?

Quindi cosa possiamo fare a riguardo?

Non sto dicendo che i social media sono gli unici responsabili

I'm not saying that social media bears the sole responsibility

for the state that we're in today.

dello stato in cui ci troviamo oggi.

Clearly, we have deep-seated societal issues that we need to solve.

Ci sono chiaramente questioni sociali radicate che dobbiamo risolvere.

But Facebook's response, that it is just a mirror to society,

Ma la risposta di Facebook, che è solo uno specchio della società,

is a convenient attempt to deflect any responsibility

è un tentativo conveniente di sviare ogni responsabilità

from the way their platform is amplifying harmful content

dal modo in cui la loro piattaforma amplifica i contenuti dannosi

and pushing some users towards extreme views.

e spinge alcuni utenti verso posizioni estreme.

And Facebook could, if they wanted to,

E Facebook potrebbe, se solo volesse,

fix some of this.

sistemare qualcosa.

They could stop amplifying and recommending the conspiracy theorists,

Potrebbe smetterla di amplificare e raccomandare teorici della cospirazione,

the hate groups, the purveyors of disinformation

gruppi d'odio, chi causa disinformazione

and, yes, in some cases even our president.

e sì, in alcuni casi anche il nostro Presidente.

They could stop using the same personalization techniques

Potrebbe smetterla di utilizzare le stesse tecniche di personalizzazione

to deliver political rhetoric that they use to sell us sneakers.

per trasmettere la stessa retorica politica

usata per venderci le scarpe da ginnastica.

They could retrain their algorithms

Potrebbero riconvertire i loro algoritmi

to focus on a metric other than engagement,

per concentrarsi su un parametro diverso dal tenerci impegnati,

and they could build in guardrails to stop certain content from going viral

e potrebbero costruire delle barriere

per impedire che certi contenuti diventino virali

before being reviewed.

prima di venire revisionati.

And they could do all of this

E potrebbero fare tutto questo

senza diventare quelli che loro chiamano "gli arbitri della verità".

without becoming what they call the arbiters of truth.

But they've made it clear that they will not go far enough

Ma hanno già chiarito che non si spingeranno

al punto da fare la cosa giusta senza essere costretti a farlo,

to do the right thing without being forced to,

e, a essere sinceri, perché dovrebbero?

and, to be frank, why should they?

I mercati continuano a premiarli e non stanno infrangendo la legge.

The markets keep rewarding them, and they're not breaking the law.

Because as it stands,

Perché allo stato attuale,

there are no US laws compelling Facebook, or any social media company,

non ci sono leggi statunitensi che obblighino Facebook

o qualsiasi altra società di social media a proteggere la nostra piazza pubblica,

to protect our public square,

la nostra democrazia

our democracy

and even our elections.

e perfino le nostre elezioni.

We have ceded the decision-making on what rules to write and what to enforce

Abbiamo ceduto il potere decisionale su quali norme scrivere e quali applicare

to the CEOs of for-profit internet companies.

agli amministratori delegati delle società internet a scopo di lucro.

Is this what we want?

È questo che vogliamo?

A post-truth world where toxicity and tribalism

Un mondo post-verità dove la tossicità e il tribalismo

prevalgono sulla costruzione di ponti e sulla ricerca del consenso?

trump bridge-building and consensus-seeking?

I do remain optimistic that we still have more in common with each other

Rimango ottimista sul fatto che abbiamo ancora più cose in comune l'un l'altro

than the current media and online environment portray,

rispetto a ciò che viene ritratto dai media e dall'ambiente online,

and I do believe that having more perspective surface

e credo che avere un'ottica più ampia

makes for a more robust and inclusive democracy.

renda la democrazia più solida e inclusiva,

But not the way it's happening right now.

ma non nel modo in cui sta accadendo ora.

E va sottolineato che non voglio distruggere queste società.

And it bears emphasizing, I do not want to kill off these companies.

I just want them held to a certain level of accountability,

Voglio solo che sia riconosciuto loro un certo livello di responsabilità,

just like the rest of society.

proprio come al resto della società.

It is time for our governments to step up and do their jobs

È tempo che i nostri governi si facciano avanti

e svolgano il loro lavoro per proteggere i propri cittadini.

of protecting our citizenry.

And while there isn't one magical piece of legislation

E anche se non esiste una magica legge in grado di risolvere tutto questo,

that will fix this all,

I do believe that governments can and must find the balance

credo che i governi possano e debbano trovare l'equilibrio

between protecting free speech

tra la tutela della libertà di parola

e il ritenere queste piattaforme responsabili

and holding these platforms accountable for their effects on society.

per i loro effetti sulla società.

And they could do so in part by insisting on actual transparency

E potrebbero farlo in parte insistendo su un'effettiva trasparenza

around how these recommendation engines are working,

sul modo in cui funzionano questi motori di raccomandazione,

around how the curation, amplification and targeting are happening.

su come avvengono la curation, l'amplificazione e il targeting.

You see, I want these companies held accountable

Vedete, voglio che queste società siano ritenute responsabili

not for if an individual posts misinformation

non per i post di disinformazione o la retorica estrema di un individuo,

or extreme rhetoric,

but for how their recommendation engines spread it,

ma per come i loro motori di raccomandazione li diffondono,

how their algorithms are steering people towards it,

per come i loro algoritmi orientano le persone verso di essi

and how their tools are used to target people with it.

e per come i loro strumenti li usano per bersagliare le persone.

I tried to make change from within Facebook and failed,

Ho provato a cambiare Facebook dall'interno e non ci sono riuscita.

Così, negli ultimi anni, ho usato di nuovo la mia voce

and so I've been using my voice again for the past few years

to continue sounding this alarm

per continuare a diffondere questo messaggio

and hopefully inspire more people to demand this accountability.

nella speranza di ispirare più persone a esigere questa responsabilità.

My message to you is simple:

Il mio messaggio per voi è semplice:

pressure your government representatives

fate pressione sui vostri rappresentanti governativi

to step up and stop ceding our public square to for-profit interests.

affinché si facciano avanti

e smettano di cedere la nostra piazza pubblica a interessi di lucro.

Help educate your friends and family

Aiutate la vostra famiglia e i vostri amici a informarsi

about how they're being manipulated online.

riguardo a come vengono manipolati online.

Push yourselves to engage with people who aren't like-minded.

Sforzatevi di interagire con persone che non la pensano come voi.

Make this issue a priority.

Fate di questo problema una priorità.

We need a whole-society approach to fix this.

Abbiamo bisogno dell'intera società per risolvere questo problema.

And my message to the leaders of my former employer Facebook is this:

E il mio messaggio ai dirigenti del mio ex datore di lavoro Facebook è questo:

right now, people are using your tools exactly as they were designed

in questo momento, le persone stanno usando i vostri strumenti

esattamente come sono stati progettati

to sow hatred, division and distrust,

per seminare odio, divisione e diffidenza,

and you're not just allowing it, you are enabling it.

e voi non lo state solo permettendo, state fornendo i mezzi.

And yes, there are lots of great stories

E sì, ci sono un sacco di storie positive di cose

of positive things happening on your platform around the globe,

che accadono sulla vostra piattaforma in tutto il mondo,

but that doesn't make any of this OK.

ma questo non rende nulla di tutto ciò accettabile.

And it's only getting worse as we're heading into our election,

E la situazione non fa che peggiorare man mano che ci avviciniamo alle elezioni,

and even more concerning,

e, cosa ancora più preoccupante,

face our biggest potential crisis yet,

affrontiamo la nostra più grande potenziale crisi finora,

if the results aren't trusted, and if violence breaks out.

se i risultati non sono attendibili e se scoppia la violenza.

So when in 2021 you once again say, "We know we have to do better,"

Così, quando nel 2021 direte ancora una volta:

"Sappiamo che dobbiamo fare di meglio",

I want you to remember this moment,

voglio che ricordiate questo momento,

perché non si tratta più solo di qualche voce solitaria.

because it's no longer just a few outlier voices.

Civil rights leaders, academics,

Leader dei diritti civili, accademici,

journalists, advertisers, your own employees,

giornalisti, pubblicitari, i vostri stessi dipendenti

are shouting from the rooftops

stanno gridando a tutto il mondo

that your policies and your business practices

che le vostre politiche e le vostre pratiche commerciali

are harming people and democracy.

stanno danneggiando le persone e la democrazia.

You own your decisions,

Siete voi a decidere,

but you can no longer say that you couldn't have seen it coming.

ma non potrete più dire che non potevate prevederlo.

Thank you.

Grazie.