Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Tradutor: Carolina Ragazzi de Aguirre Revisor: Maricene Crus

Around five years ago,

Cerca de cinco anos atrás,

it struck me that I was losing the ability

percebi que estava perdendo a habilidade

to engage with people who aren't like-minded.

de me envolver com pessoas que não pensam como eu.

The idea of discussing hot-button issues with my fellow Americans

A ideia de discutir questões polêmicas com meus colegas americanos

was starting to give me more heartburn

estava começando a me dar mais azia

than the times that I engaged with suspected extremists overseas.

do que as vezes que me envolvi com suspeitos de extremismo no exterior.

It was starting to leave me feeling more embittered and frustrated.

Estava começando a ficar mais amarga e frustrada.

And so just like that,

E assim,

I shifted my entire focus

mudei todo o meu foco de ameaças à segurança nacional global

from global national security threats

to trying to understand what was causing this push

para tentar entender o que estava causando esse impulso

towards extreme polarization at home.

rumo à polarização extrema nos EUA.

As a former CIA officer and diplomat

Como ex-oficial da CIA e diplomata

who spent years working on counterextremism issues,

que passou anos trabalhando em questões de contraextremismo,

I started to fear that this was becoming a far greater threat to our democracy

comecei a temer que isso estivesse virando uma ameaça muito maior à nossa democracia

than any foreign adversary.

do que qualquer adversário estrangeiro.

And so I started digging in,

Comecei a me aprofundar e a me manifestar sobre isso,

and I started speaking out,

which eventually led me to being hired at Facebook

o que acabou me levando a ser contratada pelo Facebook

and ultimately brought me here today

e finalmente me trouxe aqui hoje

to continue warning you about how these platforms

para continuar alertando você sobre como essas plataformas

are manipulating and radicalizing so many of us

estão manipulando e radicalizando muitos de nós,

and to talk about how to reclaim our public square.

e para falar sobre como recuperar as praças públicas digitais.

I was a foreign service officer in Kenya

Eu fui oficial do serviço estrangeiro no Quênia

just a few years after the September 11 attacks,

apenas alguns anos após os ataques do 11 de setembro,

and I led what some call "hearts and minds" campaigns

e conduzi as chamadas campanhas "Hearts and Minds"

along the Somalia border.

ao longo da fronteira com a Somália.

A big part of my job was to build trust with communities

Grande parte do meu trabalho era construir a confiança das comunidades

deemed the most susceptible to extremist messaging.

consideradas mais suscetíveis a mensagens extremistas.

I spent hours drinking tea with outspoken anti-Western clerics

Passava horas bebendo chá com clérigos antiocidentais declarados

and even dialogued with some suspected terrorists,

e até dialogava com alguns suspeitos de terrorismo,

and while many of these engagements began with mutual suspicion,

e, embora muitos desses encontros começassem com suspeita mútua,

I don't recall any of them resulting in shouting or insults,

não me lembro de nenhum deles resultando em gritos ou insultos,

and in some case we even worked together on areas of mutual interest.

e, em alguns casos, até trabalhamos juntos em áreas de interesse mútuo.

The most powerful tools we had were to simply listen, learn

As ferramentas mais poderosas que tínhamos eram simplesmente escutar, aprender

and build empathy.

e cultivar empatia.

This is the essence of hearts and minds work,

Esta é a essência do trabalho da Hearts and Minds,

because what I found again and again is that what most people wanted

porque vi repetidamente que a maioria das pessoas queria

was to feel heard, validated and respected.

se sentir ouvida, validada e respeitada.

And I believe that's what most of us want.

E acredito que é isso que a maioria de nós deseja.

So what I see happening online today is especially heartbreaking

Então, o que vejo acontecendo on-line hoje é especialmente triste

and a much harder problem to tackle.

e muito mais difícil de resolver.

We are being manipulated by the current information ecosystem

Estamos sendo manipulados pelo atual ecossistema de informações,

entrenching so many of us so far into absolutism

enraizando tantos de nós no absolutismo, que "meio-termo" se tornou um palavrão.

that compromise has become a dirty word.

Because right now,

Porque agora, empresas de rede social como o Facebook

social media companies like Facebook

profit off of segmenting us and feeding us personalized content

lucram nos segmentando e fornecendo conteúdo personalizado

that both validates and exploits our biases.

que valida e explora nossos preconceitos.

Their bottom line depends on provoking a strong emotion

O resultado final depende de provocar um sentimento forte

to keep us engaged,

para nos manter engajados,

often incentivizing the most inflammatory and polarizing voices,

frequentemente incentivando as vozes mais inflamatórias e polarizadoras,

to the point where finding common ground no longer feels possible.

ao ponto de não parecer mais possível chegarmos a um consenso.

And despite a growing chorus of people crying out for the platforms to change,

E apesar de um coro crescente de pessoas clamando pela mudança das plataformas,

it's clear they will not do enough on their own.

está claro que elas não farão o suficiente por conta própria.

So governments must define the responsibility

Portanto, os governos devem determinar a responsabilidade

for the real-world harms being caused by these business models

para os danos do mundo real causados por esses modelos de negócios

and impose real costs on the damaging effects

e impor custos reais sobre os efeitos prejudiciais

they're having to our public health, our public square and our democracy.

que estão causando na nossa saúde pública, nossa praça pública e nossa democracia.

But unfortunately, this won't happen in time for the US presidential election,

Mas, infelizmente, isso não vai acontecer a tempo da eleição presidencial nos EUA,

so I am continuing to raise this alarm,

então continuo a dar esse alerta,

because even if one day we do have strong rules in place,

porque mesmo se um dia tivermos regras fortes em vigor,

it will take all of us to fix this.

todos teremos que agir pra consertar isso.

When I started shifting my focus from threats abroad

Quando comecei a mudar meu foco de ameaças no exterior

to the breakdown in civil discourse at home,

para o colapso do discurso civil nos EUA,

I wondered if we could repurpose some of these hearts and minds campaigns

me perguntei se podíamos redirecionar algumas campanhas Hearts and Minds

to help heal our divides.

para ajudar a curar nossas diferenças.

Our more than 200-year experiment with democracy works

Nossa experiência de mais de 200 anos com a democracia funciona

in large part because we are able to openly and passionately

em grande parte porque podemos debater de forma aberta e apaixonada

debate our ideas for the best solutions.

nossas ideias para as melhores soluções.

Mas embora ainda acredite profundamente no poder do discurso civil "olho no olho",

But while I still deeply believe

in the power of face-to-face civil discourse,

it just cannot compete

ele não consegue competir

with the polarizing effects and scale of social media right now.

com os efeitos polarizadores e a dimensão das redes sociais no momento.

The people who are sucked down these rabbit holes

As pessoas sugadas por essas armadilhas de indignação nas redes sociais

of social media outrage

often feel far harder to break of their ideological mindsets

muitas vezes parecem mais difíceis de romper com as mentalidades ideológicas

than those vulnerable communities I worked with ever were.

do que as comunidades vulneráveis com as quais trabalhei.

So when Facebook called me in 2018

Então, quando me ligaram do Facebook em 2018

and offered me this role

e me ofereceram esta função

heading its elections integrity operations for political advertising,

de liderar operações de integridade eleitoral para publicidade política,

I felt I had to say yes.

senti que tinha que aceitar.

I had no illusions that I would fix it all,

Eu não tinha ilusões de que iria consertar tudo,

but when offered the opportunity

mas quando ofereceram a oportunidade de ajudar a conduzir melhor as coisas,

to help steer the ship in a better direction,

I had to at least try.

eu tinha pelo menos que tentar.

I didn't work directly on polarization,

Não trabalhava diretamente na polarização,

but I did look at which issues were the most divisive in our society

mas eu analisava quais questões eram as mais polêmicas em nossa sociedade

and therefore the most exploitable in elections interference efforts,

e, portanto, as mais exploráveis nos esforços de interferência eleitoral,

which was Russia's tactic ahead of 2016.

que era a tática da Rússia antes de 2016.

So I started by asking questions.

Então comecei fazendo perguntas.

I wanted to understand the underlying systemic issues

Eu queria entender os problemas sistêmicos subjacentes

that were allowing all of this to happen,

que estavam permitindo tudo isso,

in order to figure out how to fix it.

para descobrir como corrigi-los.

Now I still do believe in the power of the internet

Ainda acredito no poder da internet para fazer mais vozes serem ouvidas,

to bring more voices to the table,

but despite their stated goal of building community,

mas apesar do objetivo declarado de construir uma comunidade,

the largest social media companies as currently constructed

as maiores empresas de rede social atuais

are antithetical to the concept of reasoned discourse.

são antitéticas no conceito de discurso racional.

There's no way to reward listening,

Não há como recompensar o ato de escutar,

to encourage civil debate

como encorajar o debate civil

and to protect people who sincerely want to ask questions

e como proteger as pessoas que desejam sinceramente fazer perguntas

in a business where optimizing engagement and user growth

em uma indústria na qual otimizar o engajamento e o crescimento do usuário

are the two most important metrics for success.

são as duas métricas mais importantes para o sucesso.

There's no incentive to help people slow down,

Não há incentivo para ajudar as pessoas a irem mais devagar,

to build in enough friction that people have to stop,

para criar conflito suficiente para que as pessoas parem,

recognize their emotional reaction to something,

identifiquem a reação emocional a algo

and question their own assumptions before engaging.

e questionem as próprias suposições antes de se envolverem.

The unfortunate reality is:

A triste realidade é:

lies are more engaging online than truth,

mentiras são mais envolventes on-line do que verdades,

and salaciousness beats out wonky, fact-based reasoning

e a obscenidade vence o raciocínio baseado em fatos

in a world optimized for frictionless virality.

em um mundo otimizado para viralidade sem atrito.

As long as algorithms' goals are to keep us engaged,

Enquanto o objetivo dos algoritmos for nos manter engajados,

they will continue to feed us the poison that plays to our worst instincts

continuarão a nos alimentar com o veneno que ataca nossos piores instintos

and human weaknesses.

e fraquezas humanas.

And yes, anger, mistrust,

E sim, raiva, desconfiança, a cultura do medo, ódio:

the culture of fear, hatred:

none of this is new in America.

nada disso é novo nos Estados Unidos.

But in recent years, social media has harnessed all of that

Mas, nos últimos anos, a rede social explorou isso

and, as I see it, dramatically tipped the scales.

e, a meu ver, desequilibrou dramaticamente a balança.

And Facebook knows it.

E o Facebook sabe disso.

Um artigo recente do "Wall Street Journal"

A recent "Wall Street Journal" article

exposed an internal Facebook presentation from 2018

expôs uma apresentação interna do Facebook em 2018

that specifically points to the companies' own algorithms

que aponta especificamente os próprios algoritmos das empresas

for growing extremist groups' presence on their platform

para aumentar a presença de grupos extremistas em sua plataforma

and for polarizing their users.

e polarizar os usuários.

But keeping us engaged is how they make their money.

Mas eles ganham dinheiro nos mantendo engajados.

The modern information environment is crystallized around profiling us

O ambiente de informação moderno é formado fazendo nossos perfis

and then segmenting us into more and more narrow categories

e depois nos segmentando em categorias cada vez mais restritas

to perfect this personalization process.

para aperfeiçoar este processo de personalização.

We're then bombarded with information confirming our views,

Somos bombardeados com informações que confirmam nossas opiniões,

reinforcing our biases,

reforçando nossos preconceitos e nos fazendo sentir incluídos.

and making us feel like we belong to something.

These are the same tactics we would see terrorist recruiters

São as mesmas táticas que víamos recrutadores de terroristas

using on vulnerable youth,

usando em jovens vulneráveis,

albeit in smaller, more localized ways before social media,

embora de formas menos pronunciadas e mais localizadas antes da rede social,

with the ultimate goal of persuading their behavior.

com o objetivo final de persuadir comportamentos.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Infelizmente, nunca tive o poder no Facebook de causar um impacto real.

In fact, on my second day, my title and job description were changed

Na verdade, no meu segundo dia, meu título e descrição de funções foram alterados

and I was cut out of decision-making meetings.

e fui cortada das reuniões de tomada de decisão.

Meus maiores esforços,

My biggest efforts,

trying to build plans

tentando criar planos para combater a desinformação e repressão eleitoral

to combat disinformation and voter suppression in political ads,

em anúncios políticos, foram rejeitados.

were rejected.

And so I lasted just shy of six months.

Fiquei lá por pouco menos de seis meses.

But here is my biggest takeaway from my time there.

Mas eis a minha maior lição do meu tempo lá.

There are thousands of people at Facebook

Existem milhares de pessoas no Facebook trabalhando apaixonadamente em um produto

who are passionately working on a product

that they truly believe makes the world a better place,

que eles realmente acreditam que torna o mundo um lugar melhor,

but as long as the company continues to merely tinker around the margins

mas enquanto a empresa continuar a apenas mexer nos limites

of content policy and moderation,

da política de conteúdo e moderação,

as opposed to considering

ao invés de considerar como a máquina é projetada e monetizada,

how the entire machine is designed and monetized,

they will never truly address how the platform is contributing

eles nunca irão realmente abordar como a plataforma está contribuindo

to hatred, division and radicalization.

para o ódio, divisão e radicalização.

And that's the one conversation I never heard happen during my time there,

Essa é a única conversa que nunca escutei durante meu tempo lá,

because that would require fundamentally accepting

porque exigiria fundamentalmente aceitar

that the thing you built might not be the best thing for society

que o que criaram pode não ser o melhor para a sociedade,

and agreeing to alter the entire product and profit model.

e concordar em alterar todo o modelo de produto e lucro.

So what can we do about this?

Então, o que podemos fazer sobre isso?

I'm not saying that social media bears the sole responsibility

Não estou dizendo que a rede social seja a única responsável

for the state that we're in today.

para a situação em que estamos hoje.

Clearly, we have deep-seated societal issues that we need to solve.

Claramente, temos questões sociais profundas que precisamos resolver.

But Facebook's response, that it is just a mirror to society,

Mas a resposta do Facebook, de que ele é só um espelho da sociedade,

is a convenient attempt to deflect any responsibility

é uma tentativa conveniente de desviar qualquer responsabilidade

from the way their platform is amplifying harmful content

na maneira como a plataforma deles está amplificando conteúdo prejudicial

and pushing some users towards extreme views.

e levando alguns usuários a opiniões extremas.

And Facebook could, if they wanted to,

E o Facebook poderia, se eles quisessem,

fix some of this.

consertar algumas dessas coisas.

They could stop amplifying and recommending the conspiracy theorists,

Eles poderiam parar de destacar e sugerir teóricos da conspiração,

the hate groups, the purveyors of disinformation

grupos de ódio, fornecedores de desinformação

and, yes, in some cases even our president.

e, sim, em alguns casos, até o presidente dos EUA.

They could stop using the same personalization techniques

Eles poderiam parar de usar as mesmas técnicas de personalização

to deliver political rhetoric that they use to sell us sneakers.

que usam para nos vender tênis para apresentar retórica política.

They could retrain their algorithms

Eles poderiam refazer os algoritmos

to focus on a metric other than engagement,

para focar uma métrica diferente de engajamento,

and they could build in guardrails to stop certain content from going viral

e criar formas de proteção para impedir que determinado conteúdo se torne viral

before being reviewed.

antes de ser revisado.

And they could do all of this

E eles poderiam fazer tudo isso

without becoming what they call the arbiters of truth.

sem se tornar o que chamam de "árbitros da verdade".

But they've made it clear that they will not go far enough

Mas deixaram claro que não farão a coisa certa se não forem forçados a isso.

to do the right thing without being forced to,

and, to be frank, why should they?

E, sinceramente, por que fariam?

The markets keep rewarding them, and they're not breaking the law.

Os mercados continuam recompensando-os e eles não estão infringindo a lei.

Because as it stands,

Porque, atualmente,

there are no US laws compelling Facebook, or any social media company,

não há leis nos EUA que forcem o Facebook ou qualquer empresa de rede social

to protect our public square,

a proteger nossa praça pública digital,

our democracy

nossa democracia e até mesmo nossas eleições.

and even our elections.

We have ceded the decision-making on what rules to write and what to enforce

Cedemos a tomada de decisão sobre quais regras escrever e o que fazer para cumprir

to the CEOs of for-profit internet companies.

para os CEOs de empresas de internet com fins lucrativos.

Is this what we want?

É isso que nós queremos?

A post-truth world where toxicity and tribalism

Um mundo pós-verdade no qual a toxicidade e o tribalismo

trump bridge-building and consensus-seeking?

superam o diálogo e a busca de consenso?

I do remain optimistic that we still have more in common with each other

Continuo otimista de que ainda temos mais em comum

than the current media and online environment portray,

do que a mídia atual e o ambiente on-line retratam,

and I do believe that having more perspective surface

e acredito que ter mais perspectiva

makes for a more robust and inclusive democracy.

contribui para uma democracia mais robusta e inclusiva.

But not the way it's happening right now.

Mas não do jeito que está agora.

And it bears emphasizing, I do not want to kill off these companies.

E vale a pena enfatizar: não quero acabar com essas empresas.

I just want them held to a certain level of accountability,

Eu só quero que tenham um certo nível de responsabilidade,

just like the rest of society.

assim como o resto da sociedade.

It is time for our governments to step up and do their jobs

É hora das autoridades se posicionarem e cumprirem sua função

of protecting our citizenry.

de proteger os cidadãos.

And while there isn't one magical piece of legislation

E enquanto não há uma legislação mágica para consertar tudo isso,

that will fix this all,

I do believe that governments can and must find the balance

acredito que os governos podem e devem encontrar o equilíbrio

between protecting free speech

entre proteger a liberdade de expressão

and holding these platforms accountable for their effects on society.

e responsabilizar essas plataformas por seus efeitos na sociedade.

And they could do so in part by insisting on actual transparency

E poderiam fazer isso em parte insistindo na transparência real

around how these recommendation engines are working,

em torno de como esses mecanismos de recomendação estão funcionando;

around how the curation, amplification and targeting are happening.

e como a curadoria, amplificação e segmentação estão acontecendo.

You see, I want these companies held accountable

Quero que essas empresas sejam responsabilizadas

not for if an individual posts misinformation

não quando um indivíduo postar informações incorretas

or extreme rhetoric,

ou retórica extrema,

but for how their recommendation engines spread it,

mas quando os mecanismos deles de recomendação as espalharem,

how their algorithms are steering people towards it,

seus algoritmos direcionarem as pessoas para isso,

and how their tools are used to target people with it.

e suas ferramentas forem usadas para atingir as pessoas com ele.

I tried to make change from within Facebook and failed,

Tentei fazer mudanças dentro do Facebook e falhei,

and so I've been using my voice again for the past few years

mas tenho usado minha voz novamente nos últimos anos

to continue sounding this alarm

para continuar soando este alarme

and hopefully inspire more people to demand this accountability.

e, quem sabe, inspirar mais pessoas a exigir essa responsabilização.

My message to you is simple:

Minha mensagem para você é simples:

pressure your government representatives

pressione seus representantes no governo

to step up and stop ceding our public square to for-profit interests.

a se posicionarem e pararem de ceder nossa praça pública

para interesses com fins lucrativos.

Help educate your friends and family

Ajude a educar amigos e familiares

about how they're being manipulated online.

sobre como eles estão sendo manipulados on-line.

Push yourselves to engage with people who aren't like-minded.

Esforce-se para interagir com pessoas que não têm os mesmos interesses.

Make this issue a priority.

Faça deste assunto uma prioridade.

We need a whole-society approach to fix this.

Precisamos de uma abordagem de toda a sociedade para consertar isso.

And my message to the leaders of my former employer Facebook is this:

E minha mensagem para os líderes do meu ex-empregador Facebook é esta:

right now, people are using your tools exactly as they were designed

as pessoas estão usando suas ferramentas exatamente como foram projetadas

to sow hatred, division and distrust,

para semear ódio, divisão e desconfiança,

and you're not just allowing it, you are enabling it.

e vocês não só estão permitindo, mas possibilitando isso.

And yes, there are lots of great stories

E sim, há muitas histórias ótimas

of positive things happening on your platform around the globe,

de coisas positivas acontecendo em sua plataforma ao redor do mundo,

but that doesn't make any of this OK.

mas isso não torna nada disso certo.

And it's only getting worse as we're heading into our election,

Só está piorando à medida em que as eleições se aproximam,

and even more concerning,

e ainda mais preocupante,

face our biggest potential crisis yet,

enfrentaremos nossa maior crise potencial até agora,

if the results aren't trusted, and if violence breaks out.

se os resultados não forem confiáveis e se houver violência.

So when in 2021 you once again say, "We know we have to do better,"

E quando em 2021 vocês disserem de novo: "Sabemos que temos que fazer melhor",

I want you to remember this moment,

quero que se lembrem deste momento,

because it's no longer just a few outlier voices.

porque não são mais apenas algumas vozes esparsas.

Civil rights leaders, academics,

Líderes dos direitos civis, acadêmicos,

journalists, advertisers, your own employees,

jornalistas, anunciantes, seus próprios funcionários

are shouting from the rooftops

estão gritando para todos escutarem

that your policies and your business practices

que suas políticas e práticas de negócios prejudicam as pessoas e a democracia.

are harming people and democracy.

You own your decisions,

Vocês podem agir como quiserem,

but you can no longer say that you couldn't have seen it coming.

mas não podem mais dizer que por essa vocês não esperavam.

Thank you.

Obrigada.