Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Tradutor: Larissa Soares Revisora: Margarida Ferreira

Around five years ago,

Há uns cinco anos,

it struck me that I was losing the ability

percebi que estava a perder a capacidade

to engage with people who aren't like-minded.

de dialogar com pessoas que não pensam como eu.

The idea of discussing hot-button issues with my fellow Americans

A ideia de discutir questões controversas com os meus colegas americanos

was starting to give me more heartburn

estava a começar a dar-me mais azia

than the times that I engaged with suspected extremists overseas.

do que na época em que eu dialogava com estrangeiros suspeitos de extremismo.

It was starting to leave me feeling more embittered and frustrated.

Estava a começar a sentir-me mais amarga e mais frustrada.

And so just like that,

E então, de repente,

I shifted my entire focus

mudei completamente o foco, das ameaças à segurança nacional global

from global national security threats

to trying to understand what was causing this push

passei para a tentativa de entender

o que estava a causar esta polarização extrema no meu país.

towards extreme polarization at home.

As a former CIA officer and diplomat

Como antiga agente da CIA e diplomata,

who spent years working on counterextremism issues,

que passou anos a trabalhar com questões contra o extremismo,

I started to fear that this was becoming a far greater threat to our democracy

comecei a recear que a coisa passasse a ser

uma ameaça muito maior para a democracia

than any foreign adversary.

do que qualquer adversário estrangeiro.

And so I started digging in,

Então, comecei a escavar, e comecei a falar alto,

and I started speaking out,

which eventually led me to being hired at Facebook

o que acabou por me levar a ser contratada pelo Facebook

and ultimately brought me here today

e finalmente me trouxe aqui hoje

to continue warning you about how these platforms

para continuar a alertar-vos para o facto de essas plataformas

are manipulating and radicalizing so many of us

estarem a manipular e a radicalizar tanta gente,

and to talk about how to reclaim our public square.

e para dizer como se pode recuperar a nossa praça pública.

I was a foreign service officer in Kenya

Fui funcionária do serviço de relações exteriores no Quénia

just a few years after the September 11 attacks,

poucos anos depois dos ataques do 11 de Setembro

and I led what some call "hearts and minds" campaigns

e chefiei as campanhas de "corações e espíritos"

along the Somalia border.

na fronteira da Somália.

A big part of my job was to build trust with communities

Uma grande parte do meu trabalho

era criar laços de confiança com as comunidades

deemed the most susceptible to extremist messaging.

consideradas mais suscetíveis a mensagens extremistas.

I spent hours drinking tea with outspoken anti-Western clerics

Eu passava horas a tomar chá com clérigos abertamente anti-ocidente

and even dialogued with some suspected terrorists,

e até dialoguei com supostos terroristas.

and while many of these engagements began with mutual suspicion,

Embora muitos destes encontros tenham começado com suspeitas mútuas,

I don't recall any of them resulting in shouting or insults,

não me lembro de nenhum deles ter acabado aos gritos ou insultos,

and in some case we even worked together on areas of mutual interest.

e, nalguns casos, até trabalhámos juntos em áreas de interesse mútuo.

The most powerful tools we had were to simply listen, learn

As ferramentas mais poderosas que nós tínhamos

eram simplesmente ouvir, aprender e criar empatia.

and build empathy.

This is the essence of hearts and minds work,

Essa é a essência do trabalho da conquista de corações e espíritos,

because what I found again and again is that what most people wanted

porque o que eu descobri repetidas vezes é que a maioria das pessoas queriam

was to feel heard, validated and respected.

sentir-se ouvidas, reconhecidas e respeitadas.

And I believe that's what most of us want.

E acredito que isso é o que muitos de nós querem.

So what I see happening online today is especially heartbreaking

Mas o que eu vejo acontecer hoje "online", é especialmente entristecedor

and a much harder problem to tackle.

e um problema muito mais difícil de lidar.

We are being manipulated by the current information ecosystem

Nós estamos a ser manipulados pelo atual ecossistema de informação

entrenching so many of us so far into absolutism

que barrica muitos de nós tão profundamente no absolutismo

that compromise has become a dirty word.

que o compromisso passou a ser uma palavra ofensiva.

Because right now,

Porque atualmente,

social media companies like Facebook

as empresas de redes sociais como o Facebook,

profit off of segmenting us and feeding us personalized content

lucram com a segmentação e alimentam-nos com a personalização de conteúdos

that both validates and exploits our biases.

o que valida e explora os nossos preconceitos.

Their bottom line depends on provoking a strong emotion

O resultado final depende de provocarem uma emoção forte

to keep us engaged,

para nos manterem envolvidos,

often incentivizing the most inflammatory and polarizing voices,

incentivando as vozes mais incendiárias e polarizadoras

to the point where finding common ground no longer feels possible.

até ao ponto em que encontrar pontos comuns deixa de parecer possível.

And despite a growing chorus of people crying out for the platforms to change,

Apesar do crescente coro de pessoas que reclamam uma mudança nas plataformas,

it's clear they will not do enough on their own.

está claro que elas não vão fazer o suficiente por si mesmas.

So governments must define the responsibility

Então, os governos devem definir a responsabilidade

for the real-world harms being caused by these business models

pelos danos concretos causados por estes modelos de negócio

and impose real costs on the damaging effects

e impor custos concretos sobre os efeitos prejudiciais

they're having to our public health, our public square and our democracy.

que estão a ter na saúde pública, no espaço público e na democracia.

But unfortunately, this won't happen in time for the US presidential election,

Infelizmente, isso não vai acontecer a tempo para as eleições presidenciais,

so I am continuing to raise this alarm,

e, por isso, eu continuo a fazer soar este alarme

because even if one day we do have strong rules in place,

porque, mesmo que um dia venhamos a adotar regras fortes,

it will take all of us to fix this.

todos nós seremos precisos para consertar isto.

When I started shifting my focus from threats abroad

Quando eu comecei a mudar o meu foco das ameaças exteriores

to the breakdown in civil discourse at home,

para o colapso no discurso civil do meu país,

I wondered if we could repurpose some of these hearts and minds campaigns

pensei se poderíamos reaproveitar as campanhas de corações e espíritos

to help heal our divides.

para curar as nossas divergências.

Our more than 200-year experiment with democracy works

A nossa experiência de mais de 200 anos com a democracia

in large part because we are able to openly and passionately

funciona, em grande medida, porque conseguimos debater ideias

aberta e apaixonadamente para chegar às melhores soluções.

debate our ideas for the best solutions.

But while I still deeply believe

Mas, embora ainda acredite profundamente

in the power of face-to-face civil discourse,

no poder do discurso civil cara a cara,

it just cannot compete

não podemos competir hoje

with the polarizing effects and scale of social media right now.

com os efeitos polarizadores e a dimensão das redes socais.

The people who are sucked down these rabbit holes

As pessoas sugadas para estas ratoeiras de indignação das redes sociais

of social media outrage

often feel far harder to break of their ideological mindsets

normalmente sentem ser mais difícil superar as suas mentalidades ideológicas

than those vulnerable communities I worked with ever were.

do que as comunidades vulneráveis com que eu trabalhei.

So when Facebook called me in 2018

Então, quando o Facebook me ligou, em 2018,

and offered me this role

e me ofereceu a função de chefiar as operações

heading its elections integrity operations for political advertising,

de integridade eleitoral para a propaganda política,

I felt I had to say yes.

eu senti que devia aceitar.

I had no illusions that I would fix it all,

Eu não tinha ilusões quanto a solucionar tudo,

but when offered the opportunity

mas quando me ofereceram a oportunidade

to help steer the ship in a better direction,

de ajudar a guiar o barco numa direção melhor,

I had to at least try.

pelo menos, eu tinha de tentar.

I didn't work directly on polarization,

Eu não trabalhei diretamente sobre a polarização,

but I did look at which issues were the most divisive in our society

mas pude ver quais eram as questões mais fraturantes da nossa sociedade

and therefore the most exploitable in elections interference efforts,

e, portanto, mais exploráveis pelos esforços de interferência eleitoral,

which was Russia's tactic ahead of 2016.

que foi a tática russa em 2016.

So I started by asking questions.

Então, comecei a fazer perguntas.

I wanted to understand the underlying systemic issues

Eu queria entender as questões sistémicas subjacentes

that were allowing all of this to happen,

que permitiam que isso acontecesse,

in order to figure out how to fix it.

para entender como reparar isso.

Now I still do believe in the power of the internet

Eu ainda acredito no poder da Internet

to bring more voices to the table,

de fazer ouvir mais vozes

but despite their stated goal of building community,

mas, apesar do objetivo declarado de criar comunidades,

the largest social media companies as currently constructed

as maiores empresas de redes sociais, tal como estão organizadas atualmente,

are antithetical to the concept of reasoned discourse.

opõem-se ao conceito de discurso racional.

There's no way to reward listening,

Não há nenhuma forma de premiar o ouvir,

to encourage civil debate

de encorajar o debate civil

and to protect people who sincerely want to ask questions

e de proteger as pessoas que sinceramente querem fazer perguntas

in a business where optimizing engagement and user growth

num negócio em que a otimização do envolvimento

e o aumento de utilizadores

are the two most important metrics for success.

são as duas coisas mais importantes para a métrica do êxito.

There's no incentive to help people slow down,

Não há nenhum incentivo para ajudar as pessoas a abrandar,

to build in enough friction that people have to stop,

para criar fricção suficiente para forçar as pessoas a parar,

recognize their emotional reaction to something,

a reconhecer a sua reação emotiva a qualquer coisa,

and question their own assumptions before engaging.

e a questionar as suas premissas antes de se envolverem.

The unfortunate reality is:

A infeliz realidade é que as mentiras

lies are more engaging online than truth,

são mais atraentes "online" do que a verdade

and salaciousness beats out wonky, fact-based reasoning

e o obsceno supera o raciocínio com base em factos, mas instável,

in a world optimized for frictionless virality.

num mundo otimizado para uma viralidade sem atrito.

As long as algorithms' goals are to keep us engaged,

Enquanto o objetivo dos algoritmos for manter-nos envolvidos,

they will continue to feed us the poison that plays to our worst instincts

eles vão continuar a alimentar-nos

com o veneno que brinca com os nossos piores instintos

and human weaknesses.

e fraquezas humanas.

And yes, anger, mistrust,

A raiva, a desconfiança,

the culture of fear, hatred:

a cultura do medo, o ódio,

none of this is new in America.

nada disso é novo nos EUA..

But in recent years, social media has harnessed all of that

Mas ultimamente, as redes sociais têm dominado isso tudo

and, as I see it, dramatically tipped the scales.

e, a meu ver, desequilibraram drasticamente a balança.

And Facebook knows it.

O Facebook sabe isso.

A recent "Wall Street Journal" article

Um artigo recente do "Wall Street Journal"

exposed an internal Facebook presentation from 2018

revelou uma apresentação interna do Facebook, de 2018,

that specifically points to the companies' own algorithms

que aponta especificamente para o papel dos algoritmos da companhia

for growing extremist groups' presence on their platform

no crescimento de grupos extremistas na sua plataforma

and for polarizing their users.

e na polarização dos utilizadores.

But keeping us engaged is how they make their money.

Mas é mantendo-nos envolvidos que eles ganham dinheiro.

The modern information environment is crystallized around profiling us

O ambiente moderno da informação

está cristalizado em torno da avaliação dos nossos perfis

and then segmenting us into more and more narrow categories

e da segmentação em categorias cada vez mais estreitas

to perfect this personalization process.

para aperfeiçoar este processo de personalização.

We're then bombarded with information confirming our views,

Somos bombardeados com informações que confirmam as nossas opiniões,

reinforcing our biases,

reforçam os nossos preconceitos

and making us feel like we belong to something.

e fazem-nos sentir que pertencemos a qualquer coisa.

These are the same tactics we would see terrorist recruiters

São as mesmas táticas que os recrutas de organizações terroristas

using on vulnerable youth,

usam com os jovens vulneráveis,

albeit in smaller, more localized ways before social media,

embora de um modo mais reduzido e mais localizado

antes das redes sociais,

with the ultimate goal of persuading their behavior.

com o objetivo final de influenciar o comportamento deles.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Infelizmente, o Facebook nunca me deu poder para ter um impacto real.

In fact, on my second day, my title and job description were changed

De facto, logo no segundo dia,

o meu título e a descrição laboral foram alterados

and I was cut out of decision-making meetings.

e fui excluída das reuniões de tomadas de decisão.

My biggest efforts,

Os meus maiores esforços, a tentativa de criar planos

trying to build plans

to combat disinformation and voter suppression in political ads,

para combater a desinformação

e a supressão do voto em propaganda política,

were rejected.

foram rejeitados.

And so I lasted just shy of six months.

Assim, vim-me embora antes de completar seis meses.

But here is my biggest takeaway from my time there.

Esta é a maior conclusão que eu tirei do tempo que ali passei:

There are thousands of people at Facebook

há milhares de pessoas no Facebook

who are passionately working on a product

que trabalham apaixonadamente num produto

that they truly believe makes the world a better place,

que realmente acreditam que faz do mundo um lugar melhor,

but as long as the company continues to merely tinker around the margins

mas, enquanto a companhia continuar a mexer apenas nas margens

of content policy and moderation,

do policiamento e moderação de conteúdos,

as opposed to considering

em vez de considerar

how the entire machine is designed and monetized,

como é que todo o maquinismo é concebido e rentabilizado,

they will never truly address how the platform is contributing

nunca irão verdadeiramente avaliar como a plataforma está a contribuir

to hatred, division and radicalization.

para o ódio, para a divisão e para a radicalização.

And that's the one conversation I never heard happen during my time there,

Esta é uma conversa que eu nunca ouvi durante o tempo que por lá andei

because that would require fundamentally accepting

porque isso requeria aceitar, fundamentalmente,

that the thing you built might not be the best thing for society

que aquilo que se construiu podia não ser a melhor coisa para a sociedade,

and agreeing to alter the entire product and profit model.

e concordar alterar todo o produto e o modelo de lucro.

So what can we do about this?

Então, o que é que podemos fazer?

I'm not saying that social media bears the sole responsibility

Eu não estou a dizer que as redes sociais têm toda a responsabilidade

for the state that we're in today.

pelo estado em que estamos hoje.

Clearly, we have deep-seated societal issues that we need to solve.

Claramente, temos profundas questões sociais a resolver.

But Facebook's response, that it is just a mirror to society,

Mas a resposta do Facebook, que é apenas um reflexo da sociedade,

is a convenient attempt to deflect any responsibility

é uma tentativa conveniente de desviar quaisquer responsabilidades

from the way their platform is amplifying harmful content

quanto à maneira como a plataforma está a amplificar um conteúdo prejudicial

and pushing some users towards extreme views.

e a levar alguns utilizadores ao extremismo.

And Facebook could, if they wanted to,

E o Facebook, se quisesse,

fix some of this.

podia concertar alguma coisa.

They could stop amplifying and recommending the conspiracy theorists,

Podiam deixar de amplificar e recomendar os teóricos da conspiração,

the hate groups, the purveyors of disinformation

os grupos de ódio, os fornecedores de desinformação

and, yes, in some cases even our president.

e, nalguns casos, até o nosso presidente.

They could stop using the same personalization techniques

Podiam deixar de usar, para divulgar retórica política,

to deliver political rhetoric that they use to sell us sneakers.

as mesmas técnicas de personalização que usam para vender sapatos.

They could retrain their algorithms

Podiam refazer os seus algoritmos

to focus on a metric other than engagement,

para terem como foco uma métrica que não fosse o envolvimento

and they could build in guardrails to stop certain content from going viral

e podiam criar proteções para impedir que certos conteúdos se tornassem virais

before being reviewed.

antes de serem revistos.

And they could do all of this

Podiam fazer tudo isso

without becoming what they call the arbiters of truth.

sem se tornarem naquilo a que chamam os "árbitrios da verdade".

But they've made it clear that they will not go far enough

Mas já deixaram claro que não irão tão longe

to do the right thing without being forced to,

para fazer o que está certo, sem serem forçados,

and, to be frank, why should they?

e, para ser franca, porque é que haviam de ir?

The markets keep rewarding them, and they're not breaking the law.

Os mercados recompensam-nos, e eles não estão a violar nenhuma lei.

Because as it stands,

Porque, atualmente,

there are no US laws compelling Facebook, or any social media company,

não há leis nos EUA para obrigar o Facebook, ou qualquer outra rede social,

to protect our public square,

a proteger a nossa praça pública,

a nossa democracia,

our democracy

and even our elections.

ou mesmo as nossas eleições.

We have ceded the decision-making on what rules to write and what to enforce

Abdicámos da tomada de decisões quanto às regras a escrever e a impor

to the CEOs of for-profit internet companies.

aos diretores de empresas de Internet com fins lucrativos.

Is this what we want?

É isso que nós queremos?

A post-truth world where toxicity and tribalism

Um mundo de pós-verdades onde a toxicidade e o tribalismo

trump bridge-building and consensus-seeking?

superam a construção de pontes e a procura de consensos?

I do remain optimistic that we still have more in common with each other

Eu sou otimista e creio que temos mais em comum uns com os outros

than the current media and online environment portray,

do que o ambiente "online" e os "media" retratam,

and I do believe that having more perspective surface

e acredito que ter uma maior área para perspetiva

makes for a more robust and inclusive democracy.

cria uma democracia mais robusta e inclusiva.

But not the way it's happening right now.

Mas não da forma que está hoje a ocorrer.

And it bears emphasizing, I do not want to kill off these companies.

Vale a pena sublinhar que eu não quero fechar essas empresas.

I just want them held to a certain level of accountability,

Só quero que tenham um certo nível de responsabilização,

just like the rest of society.

tal como o resto da sociedade.

It is time for our governments to step up and do their jobs

É altura de os nossos governos agirem e fazerem o seu trabalho

of protecting our citizenry.

de proteger os cidadãos.

And while there isn't one magical piece of legislation

Enquanto não houver uma lei mágica

that will fix this all,

que resolva tudo isto,

I do believe that governments can and must find the balance

creio que os governos podem e devem encontrar o equilíbrio

between protecting free speech

entre proteger a liberdade de expressão

and holding these platforms accountable for their effects on society.

e responsabilizar essas plataformas pelos seus efeitos na sociedade.

And they could do so in part by insisting on actual transparency

Podiam fazer isso, em parte, ao insistir na verdadeira transparência

around how these recommendation engines are working,

sobre como funcionam os mecanismos de recomendação,

around how the curation, amplification and targeting are happening.

sobre como a curadoria, a amplificação e o direcionamento estão a ocorrer.

You see, I want these companies held accountable

Eu quero que essas companhias sejam responsabilizadas

not for if an individual posts misinformation

não pelas publicações de desinformação individuais

or extreme rhetoric,

ou de retórica extrema,

but for how their recommendation engines spread it,

mas pela forma como o mecanismo de recomendação as distribui,

how their algorithms are steering people towards it,

e como o algoritmo guia as pessoas nessa direção,

and how their tools are used to target people with it.

e como essas ferramentas são usadas para visar as pessoas.

I tried to make change from within Facebook and failed,

Tentei fazer mudanças no interior do Facebook e falhei,

and so I've been using my voice again for the past few years

e portanto passei a usar novamente a minha voz nos últimos anos

to continue sounding this alarm

para continuar a fazer soar o alarme.

and hopefully inspire more people to demand this accountability.

Espero inspirar mais pessoas a exigir essa responsabilidade.

My message to you is simple:

A minha mensagem para vocês é simples:

pressure your government representatives

pressionem os vossos representantes no governo para agir

to step up and stop ceding our public square to for-profit interests.

e para deixar de ceder a praça pública aos interesses do lucro.

Help educate your friends and family

Ajudem a educar amigos e familiares

about how they're being manipulated online.

sobre como estão a ser manipulados "online".

Push yourselves to engage with people who aren't like-minded.

Esforcem-se por se envolverem com pessoas

que não tenham a mesma mentalidade que vocês.

Make this issue a priority.

Façam desta questão uma prioridade.

We need a whole-society approach to fix this.

Precisamos de uma abordagem de toda a sociedade para consertar isto.

And my message to the leaders of my former employer Facebook is this:

A minha mensagem para os líderes do meu antigo patrão, o Facebook, é esta:

right now, people are using your tools exactly as they were designed

Neste momento, as pessoas estão a usar as vossas ferramentas

exatamente da maneira como elas foram concebidas

to sow hatred, division and distrust,

para semear o ódio, a divisão e a desconfiança,

and you're not just allowing it, you are enabling it.

e vocês não só estão a permiti-lo, como estão a criar condições para isso.

And yes, there are lots of great stories

Há muitas histórias ótimas

of positive things happening on your platform around the globe,

sobre coisas positivas que acontecem na vossa plataforma em todo o mundo,

but that doesn't make any of this OK.

mas isso não faz nada daquilo OK.

And it's only getting worse as we're heading into our election,

E só vai piorando à medida que nos aproximamos das eleições,

and even more concerning,

e, ainda mais preocupante,

face our biggest potential crisis yet,

encaramos o que é potencialmente a nossa maior crise,

if the results aren't trusted, and if violence breaks out.

se os resultados não forem fiáveis, e se o resultado for a violência.

So when in 2021 you once again say, "We know we have to do better,"

Em 2021, quando disserem novamente: "Nós sabemos que temos de melhorar",

I want you to remember this moment,

quero que se lembrem deste momento,

because it's no longer just a few outlier voices.

porque já não são apenas algumas vozes desgarradas.

Civil rights leaders, academics,

Líderes a favor dos direitos civis, académicos, jornalistas,

journalists, advertisers, your own employees,

anunciantes, os vossos empregados,

are shouting from the rooftops

estão a gritar do topo dos prédios

that your policies and your business practices

que as vossas políticas e as vossas práticas de negócio

are harming people and democracy.

estão a prejudicar as pessoas e a democracia.

You own your decisions,

Vocês têm direito às vossas decisões,

but you can no longer say that you couldn't have seen it coming.

mas já não podem dizer

que não perceberam que isso podia acontecer.

Thank you.

Obrigada.