Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Traductor: Mariana Hernández Revisor: Sebastian Betti

Hace casi cinco años,

Around five years ago,

it struck me that I was losing the ability

me di cuenta de que estaba perdiendo la capacidad

to engage with people who aren't like-minded.

de hablar con quienes no piensan como yo.

The idea of discussing hot-button issues with my fellow Americans

Pensar en hablar sobre asuntos actuales con otros estadounidenses

was starting to give me more heartburn

me provocaba más acidez

than the times that I engaged with suspected extremists overseas.

que las veces en que conversé con supuestos extremistas extranjeros.

It was starting to leave me feeling more embittered and frustrated.

Empecé a sentirme más resentida y frustrada.

And so just like that,

Así que,

I shifted my entire focus

en vez de enfocarme

from global national security threats

en las amenazas extranjeras a la seguridad nacional,

to trying to understand what was causing this push

me concentré en entender qué estaba provocando

towards extreme polarization at home.

la polarización extrema en el país.

As a former CIA officer and diplomat

Como exdiplomática y exoficial de la CIA

who spent years working on counterextremism issues,

con años de experiencia en asuntos antiextremistas,

I started to fear that this was becoming a far greater threat to our democracy

me preocupó que esta fuera una amenaza más grande a la democracia

than any foreign adversary.

que cualquier adversario extranjero.

And so I started digging in,

Así que empecé a investigar,

and I started speaking out,

empecé a hablar,

which eventually led me to being hired at Facebook

lo que me llevó a ser contratada por Facebook

and ultimately brought me here today

y lo que me trajo aquí, hoy,

to continue warning you about how these platforms

para seguir alertándolos sobre cómo estas plataformas

are manipulating and radicalizing so many of us

manipulan y radicalizan a tantos

and to talk about how to reclaim our public square.

y para hablar sobre cómo recuperar la opinión pública.

I was a foreign service officer in Kenya

Trabajé en Kenia, en el Servicio Exterior,

just a few years after the September 11 attacks,

poco después de los ataques del 11 de septiembre

and I led what some call "hearts and minds" campaigns

y dirigí las campañas para ganar corazones y mentes

along the Somalia border.

a lo largo de la frontera con Somalia.

A big part of my job was to build trust with communities

Mi trabajo era construir lazos de confianza con las comunidades

deemed the most susceptible to extremist messaging.

consideradas más susceptibles a los mensajes extremistas.

I spent hours drinking tea with outspoken anti-Western clerics

Pasé horas tomando té con clérigos abiertamente antioccidentales

and even dialogued with some suspected terrorists,

incluso dialogué con algunos supuestos terroristas,

and while many of these engagements began with mutual suspicion,

y aunque en muchos de los encuentros había desconfianza,

no recuerdo que alguno terminara con gritos e insultos,

I don't recall any of them resulting in shouting or insults,

and in some case we even worked together on areas of mutual interest.

en algunos casos hasta trabajamos en áreas que eran de interés mutuo.

The most powerful tools we had were to simply listen, learn

Las mejores herramientas eran escuchar, aprender

and build empathy.

y desarrollar empatía.

This is the essence of hearts and minds work,

Esa es la esencia para ganar corazones y mentes,

porque una y otra vez

because what I found again and again is that what most people wanted

vi que la mayoría quiere sentir que se les escucha, valida y respeta.

was to feel heard, validated and respected.

And I believe that's what most of us want.

Creo que es lo que la mayoría queremos.

So what I see happening online today is especially heartbreaking

Lo que está pasando en línea es particularmente doloroso

and a much harder problem to tackle.

y más difícil de abordar.

We are being manipulated by the current information ecosystem

Nos está manipulando el ecosistema de información actual,

entrenching so many of us so far into absolutism

nos está orillando al absolutismo

that compromise has become a dirty word.

de manera que no nos es posible alcanzar acuerdos.

Because right now,

Actualmente,

social media companies like Facebook

las empresas como Facebook

ganan dinero al segmentarnos y mostrarnos contenido personalizado

profit off of segmenting us and feeding us personalized content

that both validates and exploits our biases.

que valida y explota nuestras preferencias.

Their bottom line depends on provoking a strong emotion

Sus resultados dependen de provocar una fuerte respuesta emocional

to keep us engaged,

que mantenga nuestra atención,

often incentivizing the most inflammatory and polarizing voices,

lo que incita a las voces más provocadoras y polarizadoras,

hasta que no es posible encontrar llegar a un acuerdo.

to the point where finding common ground no longer feels possible.

And despite a growing chorus of people crying out for the platforms to change,

Aunque cada vez más personas exigen cambios a las plataformas,

it's clear they will not do enough on their own.

está claro que, por sí solas, no harán lo suficiente.

So governments must define the responsibility

Es por eso que los gobiernos deben definir responsabilidades

for the real-world harms being caused by these business models

por los daños que este modelo de negocios provoca en el mundo

and impose real costs on the damaging effects

e imponer sanciones reales por los efectos dañinos

they're having to our public health, our public square and our democracy.

sobre la salud, la opinión pública y la democracia.

But unfortunately, this won't happen in time for the US presidential election,

Por desgracia, no pasará antes de las elecciones de EE. UU.,

so I am continuing to raise this alarm,

así que seguiré dando la alarma,

because even if one day we do have strong rules in place,

porque incluso si algún día tuviéramos reglas firmes,

it will take all of us to fix this.

será trabajo de todos arreglarlo.

When I started shifting my focus from threats abroad

Cuando decidí dejar las amenazas extranjeras

to the breakdown in civil discourse at home,

y estudiar el colapso del diálogo en el país,

I wondered if we could repurpose some of these hearts and minds campaigns

pensé en reutilizar las campañas para ganar corazones y mentes

to help heal our divides.

a fin de reparar las divisiones.

Our more than 200-year experiment with democracy works

Nuestro experimento de más de 200 años con la democracia

funciona en gran parte porque podemos debatir con pasión y apertura

in large part because we are able to openly and passionately

debate our ideas for the best solutions.

a fin de encontrar las mejores soluciones.

But while I still deeply believe

Aunque sigo creyendo

in the power of face-to-face civil discourse,

en conversar de forma civilizada y de frente,

it just cannot compete

sé que no se puede competir

with the polarizing effects and scale of social media right now.

con la magnitud y los efectos polarizadores de las redes sociales.

The people who are sucked down these rabbit holes

Es más difícil que quienes caen en la trampa

of social media outrage

de enojarse en las redes

often feel far harder to break of their ideological mindsets

se liberen de su ideología

than those vulnerable communities I worked with ever were.

que las comunidades vulnerables con las que trabajé.

So when Facebook called me in 2018

Así que cuando Facebook me llamó en 2018

and offered me this role

y me hablaron sobre dirigir

heading its elections integrity operations for political advertising,

las campañas políticas publicitarias para garantizar la integridad electoral,

I felt I had to say yes.

acepté la oferta.

I had no illusions that I would fix it all,

Sabía que no arreglaría todo,

but when offered the opportunity

pero cuando me ofrecieron

to help steer the ship in a better direction,

guiar el barco en una mejor dirección,

I had to at least try.

tenía que intentarlo.

I didn't work directly on polarization,

No trabajé directamente con la polarización,

but I did look at which issues were the most divisive in our society

pero sí investigué qué asuntos eran los más divisivos para la sociedad

and therefore the most exploitable in elections interference efforts,

y, por lo tanto, los que podían usarse para interferir en las elecciones,

which was Russia's tactic ahead of 2016.

lo que hizo Rusia frente a 2016.

So I started by asking questions.

Empecé haciendo preguntas.

I wanted to understand the underlying systemic issues

Quería entender los problemas sistémicos subyacentes

that were allowing all of this to happen,

que daban pie a esta situación,

in order to figure out how to fix it.

para encontrar la solución.

Now I still do believe in the power of the internet

Sigo creyendo en el poder de Internet

to bring more voices to the table,

para dar voz a más personas,

but despite their stated goal of building community,

pero aunque el objetivo de las redes es construir una comunidad,

the largest social media companies as currently constructed

el diseño actual de las empresas que las poseen

are antithetical to the concept of reasoned discourse.

se opone al concepto del discurso razonado.

There's no way to reward listening,

No es posible recompensar a quienes escuchan,

to encourage civil debate

ni fomentar el debate civilizado,

and to protect people who sincerely want to ask questions

ni proteger a quienes quieren hacer preguntas

in a business where optimizing engagement and user growth

en un negocio donde la participación y el número de usuarios

are the two most important metrics for success.

son las métricas más importantes de éxito.

There's no incentive to help people slow down,

No hay un incentivo que detenga a la gente,

to build in enough friction that people have to stop,

que los haga hacer una pausa,

recognize their emotional reaction to something,

reconocer su respuesta emocional ante algo

and question their own assumptions before engaging.

y cuestionar sus propias ideas antes de participar.

The unfortunate reality is:

La triste realidad es que, en línea,

lies are more engaging online than truth,

las mentiras son más cautivadoras que la verdad,

and salaciousness beats out wonky, fact-based reasoning

la salacidad le gana al razonamiento basado en hechos y especializado

in a world optimized for frictionless virality.

en un mundo optimizado para viralizar contenido con facilidad.

As long as algorithms' goals are to keep us engaged,

Mientras los objetivos de los algoritmos sean mantenernos cautivos,

they will continue to feed us the poison that plays to our worst instincts

seguirán mostrándonos contenido que alimenta nuestros peores instintos

and human weaknesses.

y debilidades humanas.

And yes, anger, mistrust,

Es cierto que el enojo, la desconfianza,

the culture of fear, hatred:

la cultura del miedo y el odio

none of this is new in America.

son viejos conocidos de EE. UU.,

But in recent years, social media has harnessed all of that

pero en años recientes, la redes se han aprovechado de ellos

and, as I see it, dramatically tipped the scales.

y, en mi opinión, inclinaron la balanza drásticamente.

And Facebook knows it.

Facebook lo sabe.

A recent "Wall Street Journal" article

En un artículo del Wall Street Journal

exposed an internal Facebook presentation from 2018

se dio a conocer una de sus presentaciones internas de 2018

that specifically points to the companies' own algorithms

en la que se indica que gracias a los propios algoritmos de la empresa,

for growing extremist groups' presence on their platform

la presencia de grupos extremistas en la plataforma

and for polarizing their users.

y la polarización de los usuarios aumentó.

But keeping us engaged is how they make their money.

Pero así es como ganan dinero, al hacernos participar.

The modern information environment is crystallized around profiling us

El ambiente actual de la información se centra en trazar nuestros perfiles

and then segmenting us into more and more narrow categories

y segmentarlos en categorías cada vez más específicas

to perfect this personalization process.

para perfeccionar el proceso de personalización.

We're then bombarded with information confirming our views,

Después nos bombardean con información que confirma nuestras opiniones,

reinforcing our biases,

refuerza nuestros prejuicios

and making us feel like we belong to something.

y nos hace sentir que somos parte de algo.

These are the same tactics we would see terrorist recruiters

Son las mismas tácticas empleadas por los reclutadores terroristas

using on vulnerable youth,

con jóvenes vulnerables

albeit in smaller, more localized ways before social media,

antes de que hubiera redes sociales, pero en menor escala y de forma localizada

with the ultimate goal of persuading their behavior.

con el objetivo de persuadirlos.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Por desgracia, Facebook nunca me permitió hacer la diferencia.

De hecho, en mi segundo día, el nombre de mi cargo y mis funciones cambiaron

In fact, on my second day, my title and job description were changed

y me retiraron de las juntas donde se tomaban las decisiones.

and I was cut out of decision-making meetings.

My biggest efforts,

Mis esfuerzos

trying to build plans

por crear planes

to combat disinformation and voter suppression in political ads,

que combatieran la desinformación y la supresión de votantes

were rejected.

fueron rechazados.

And so I lasted just shy of six months.

Apenas estuve seis meses ahí.

But here is my biggest takeaway from my time there.

Pero esto es lo que aprendí:

There are thousands of people at Facebook

hay miles de personas en Facebook

who are passionately working on a product

que trabajan con pasión en un producto

that they truly believe makes the world a better place,

que creen hará del mundo un lugar mejor,

pero si la empresa sigue haciendo cambios superficiales

but as long as the company continues to merely tinker around the margins

of content policy and moderation,

a las políticas de contenido y moderación,

as opposed to considering

en vez de considerar

how the entire machine is designed and monetized,

su diseño general y cómo gana dinero

they will never truly address how the platform is contributing

nunca abordarán cómo es que la plataforma contribuye

to hatred, division and radicalization.

al odio, la división y la radicalización.

And that's the one conversation I never heard happen during my time there,

Esa es la única conversación que nunca se dio mientras estuve ahí,

because that would require fundamentally accepting

porque básicamente tendrían que aceptar

that the thing you built might not be the best thing for society

que lo que construyeron no es lo mejor para la sociedad

and agreeing to alter the entire product and profit model.

y que hay que cambiar todo el producto y el modelo de ganancias.

So what can we do about this?

Así que, ¿qué podemos hacer?

I'm not saying that social media bears the sole responsibility

No estoy diciendo que las redes sean las únicas responsables

for the state that we're in today.

de nuestro estado actual.

Clearly, we have deep-seated societal issues that we need to solve.

Está claro que tenemos problemas sociales arraigados que debemos resolver,

pero la respuesta de Facebook, que solo son un espejo de la sociedad,

But Facebook's response, that it is just a mirror to society,

is a convenient attempt to deflect any responsibility

es un intento conveniente de evadir la responsabilidad

from the way their platform is amplifying harmful content

que tiene su plataforma por amplificar el contenido dañino

and pushing some users towards extreme views.

y llevar a algunos usuarios a los extremos.

And Facebook could, if they wanted to,

Si Facebook quisiera

fix some of this.

podría arreglar algunas cosas.

They could stop amplifying and recommending the conspiracy theorists,

Podrían dejar de amplificar y recomendar a los conspiranoicos,

the hate groups, the purveyors of disinformation

los grupos de odio, los que promueven la desinformación

and, yes, in some cases even our president.

y, en algunos casos, hasta al presidente.

They could stop using the same personalization techniques

Podrían dejar de usar las mismas técnicas de personalización

to deliver political rhetoric that they use to sell us sneakers.

para presentarnos retórica política y vendernos zapatillas.

They could retrain their algorithms

Podrían reentrenar a sus algoritmos

to focus on a metric other than engagement,

para que no midan la participación,

and they could build in guardrails to stop certain content from going viral

podrían crear políticas y prácticas que impidan que el contenido se viralice

before being reviewed.

sin antes revisarlo.

And they could do all of this

Y lo podrían hacer

without becoming what they call the arbiters of truth.

sin volverse jueces de la verdad.

Sin embargo, ya dejaron en claro

But they've made it clear that they will not go far enough

que no harán lo correcto a menos que los obliguen

to do the right thing without being forced to,

y, para ser honestos, ¿por qué lo harían?

and, to be frank, why should they?

The markets keep rewarding them, and they're not breaking the law.

Los mercados siguen premiándolos y no violan las leyes.

Because as it stands,

Porque resulta

there are no US laws compelling Facebook, or any social media company,

que no hay leyes en EE. UU. que obliguen a Facebook o a cualquier otra red social

to protect our public square,

a proteger la opinión pública,

our democracy

la democracia

and even our elections.

y las elecciones.

We have ceded the decision-making on what rules to write and what to enforce

Permitimos que los directores de las empresas lucrativas de Internet

to the CEOs of for-profit internet companies.

decidieran qué reglas redactar y cuáles hacer cumplir.

Is this what we want?

¿Es lo que queremos?

A post-truth world where toxicity and tribalism

¿Un mundo regido por la posverdad donde la toxicidad y el tribalismo

trump bridge-building and consensus-seeking?

no nos permitan construir lazos y buscar consensos?

I do remain optimistic that we still have more in common with each other

Quiero ser optimista y pensar que tenemos más en común

than the current media and online environment portray,

de lo que los medios y el ambiente en línea actual muestran.

and I do believe that having more perspective surface

Pienso que se necesita una perspectiva más amplia

makes for a more robust and inclusive democracy.

para hacer a la democracia más sólida e incluyente,

pero no en la forma como se está dando.

But not the way it's happening right now.

And it bears emphasizing, I do not want to kill off these companies.

Quiero enfatizar que no busco que estas empresas desaparezcan.

I just want them held to a certain level of accountability,

Quiero que tengan cierto grado de responsabilidad,

just like the rest of society.

como el resto de la sociedad.

It is time for our governments to step up and do their jobs

Es hora de que los gobiernos den un paso adelante, hagan su trabajo

of protecting our citizenry.

y protejan a la ciudadanía.

And while there isn't one magical piece of legislation

Y aunque no haya una ley mágica

that will fix this all,

que lo solucione todo,

I do believe that governments can and must find the balance

pienso que los gobiernos pueden y deben encontrar el balance

between protecting free speech

entre proteger la libertad de expresión

and holding these platforms accountable for their effects on society.

y responsabilizar a las empresas por los efectos que producen en la sociedad.

And they could do so in part by insisting on actual transparency

Podrían hacerlo si exigieran transparencia

around how these recommendation engines are working,

en el funcionamiento de los motores de recomendación,

around how the curation, amplification and targeting are happening.

la selección, la amplificación y la focalización de contenidos.

You see, I want these companies held accountable

Quiero que las empresas se hagan responsables

not for if an individual posts misinformation

no por alguien que publica información errónea

or extreme rhetoric,

o retórica extremista,

but for how their recommendation engines spread it,

sino por cómo sus motores de recomendación difunden esa información,

how their algorithms are steering people towards it,

por cómo sus algoritmos guían a las personas a encontrarla

and how their tools are used to target people with it.

y por cómo se utilizan sus herramientas para atacar a otros.

I tried to make change from within Facebook and failed,

Intenté hacer cambios desde el interior de Facebook y fallé,

por eso he usado mi voz en los últimos años

and so I've been using my voice again for the past few years

to continue sounding this alarm

para dar la alarma

and hopefully inspire more people to demand this accountability.

e inspirar a más personas

a que exijan a las empresas rendir cuentas.

My message to you is simple:

Mi mensaje es simple:

pressure your government representatives

Exijan a sus gobernantes

to step up and stop ceding our public square to for-profit interests.

que den un paso adelante y ya no cedan la opinión pública a intereses lucrativos.

Help educate your friends and family

Eduquen a sus amigos y familiares

about how they're being manipulated online.

sobre la manipulación en redes.

Push yourselves to engage with people who aren't like-minded.

Convivan con personas que no piensan como Uds.

Make this issue a priority.

Den prioridad a este tema.

We need a whole-society approach to fix this.

Necesitamos abordarlo como sociedad para solucionarlo.

And my message to the leaders of my former employer Facebook is this:

Mi mensaje para los líderes de Facebook, mi antigua empresa, es:

en este momento, sus herramientas se usan tal y como fueron diseñadas,

right now, people are using your tools exactly as they were designed

to sow hatred, division and distrust,

y se usan para plantar odio, división y desconfianza,

and you're not just allowing it, you are enabling it.

Uds. no solo lo permiten, lo hacen posible.

And yes, there are lots of great stories

Y sí, en su plataforma hay muchas historias

of positive things happening on your platform around the globe,

de cosas buenas que pasan en el mundo,

but that doesn't make any of this OK.

pero eso no justifica lo demás.

And it's only getting worse as we're heading into our election,

Entre más nos acercamos a la elección, la situación empeora

and even more concerning,

y es más preocupante,

face our biggest potential crisis yet,

nos enfrentamos a la que podría ser la peor crisis

if the results aren't trusted, and if violence breaks out.

si la gente no confía en los resultados y estalla la violencia.

So when in 2021 you once again say, "We know we have to do better,"

Así que, en 2021, cuando declaren otra vez "sabemos que tenemos que mejorar",

I want you to remember this moment,

quiero que recuerden este momento,

because it's no longer just a few outlier voices.

porque ya no son solo algunas voces.

Civil rights leaders, academics,

Hay activistas de derechos civiles, académicos,

journalists, advertisers, your own employees,

periodistas, anunciantes, sus propios empleados

are shouting from the rooftops

que gritan a los cuatro vientos

that your policies and your business practices

que sus políticas y prácticas comerciales

are harming people and democracy.

dañan a la gente y a la democracia.

You own your decisions,

Admiten lo que hacen,

but you can no longer say that you couldn't have seen it coming.

pero ya no pueden decir que no pueden evitarlo.

Thank you.

Gracias.