Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Traducteur: Lucien Cauchy Relecteur: Claire Ghyselen

Around five years ago,

Il y a environ cinq ans,

it struck me that I was losing the ability

je me suis rendue compte que je devenais incapable

to engage with people who aren't like-minded.

de dialoguer avec les gens qui ne pensaient pas comme moi.

The idea of discussing hot-button issues with my fellow Americans

L'idée de débattre des sujets sensibles avec mes compatriotes Américains

was starting to give me more heartburn

commençait à devenir plus rebutante

que d'aller dialoguer avec de présumés extrémistes étrangers.

than the times that I engaged with suspected extremists overseas.

It was starting to leave me feeling more embittered and frustrated.

Cela commençait à me rendre de plus en plus amère et frustrée.

And so just like that,

Et d'un seul coup,

I shifted my entire focus

mon attention s'est portée

from global national security threats

des problèmes de sécurité nationale

to trying to understand what was causing this push

à essayer de comprendre

ce qui poussait notre pays vers une polarisation extrême.

towards extreme polarization at home.

As a former CIA officer and diplomat

En tant qu'ancienne agent de la CIA et diplomate

qui a travaillé des années sur les problématiques extrémistes,

who spent years working on counterextremism issues,

I started to fear that this was becoming a far greater threat to our democracy

j'ai commencé à craindre que ces divisions soient plus dangereuses pour la démocratie

than any foreign adversary.

que n'importe quelle menace étrangère.

And so I started digging in,

J'ai donc commencé à me renseigner,

and I started speaking out,

et j'ai commencé à m'exprimer,

which eventually led me to being hired at Facebook

ce qui m'a conduit à être engagée par Facebook

and ultimately brought me here today

et finalement amenée ici, aujourd'hui,

to continue warning you about how these platforms

pour continuer à vous prévenir de la façon dont ces plateformes

are manipulating and radicalizing so many of us

manipulent et radicalisent tant d'entre nous,

and to talk about how to reclaim our public square.

et pour parler de la reconquête de notre espace public.

I was a foreign service officer in Kenya

En tant que diplomate, j'ai été envoyée au Kenya,

just a few years after the September 11 attacks,

quelques années après les attaques du 11 septembre,

and I led what some call "hearts and minds" campaigns

et j'ai dirigé ces opérations appelées « cœurs et âmes, »

along the Somalia border.

près de la frontière somalienne.

A big part of my job was to build trust with communities

La gros de mon travail était d'établir la confiance

entre les communautés jugées plus sensibles aux discours extrémistes.

deemed the most susceptible to extremist messaging.

I spent hours drinking tea with outspoken anti-Western clerics

J'ai passé des heures à boire le thé

avec de fervents religieux anti-occidentaux

and even dialogued with some suspected terrorists,

et même à discuter avec quelques terroristes présumés,

and while many of these engagements began with mutual suspicion,

et bien que ces rencontres commençaient dans la suspicion mutuelle,

je ne me rappelle d'aucun finissant dans un haussement du ton ou des insultes,

I don't recall any of them resulting in shouting or insults,

and in some case we even worked together on areas of mutual interest.

et parfois,

nous avons même travaillé ensemble sur des centres d'intérêt communs.

The most powerful tools we had were to simply listen, learn

L'outil le plus efficace que nous avions était de simplement écouter, apprendre,

and build empathy.

et développer de l'empathie.

This is the essence of hearts and minds work,

C'est l'essence du travail du cœur et de l'âme,

car j'ai constaté de nombreuses fois que la plupart des gens désirent

because what I found again and again is that what most people wanted

was to feel heard, validated and respected.

se sentir écoutés, validés et respectés.

And I believe that's what most of us want.

Et je crois que la plupart d'entre nous désirons cela.

So what I see happening online today is especially heartbreaking

Donc ce que je vois en ligne aujourd'hui me touche particulièrement

and a much harder problem to tackle.

et s'avère être un problème bien plus difficile à résoudre.

We are being manipulated by the current information ecosystem

Nous sommes manipulés par cet écosystème d'information actuel

entrenching so many of us so far into absolutism

qui nous pousse tellement à nous retrancher dans l'absolutisme,

that compromise has become a dirty word.

que « compromis » est devenu un gros mot.

Because right now,

Parce qu'en ce moment même,

social media companies like Facebook

les entreprises de réseaux sociaux comme Facebook

profit off of segmenting us and feeding us personalized content

tirent profit à nous diviser et à nous procurer des contenus personnalisés

that both validates and exploits our biases.

qui valident et exploitent nos préjugés.

Their bottom line depends on provoking a strong emotion

Leurs profits dépendent de leur capacité à provoquer de fortes émotions

to keep us engaged,

pour nous garder captivés,

often incentivizing the most inflammatory and polarizing voices,

souvent en mettant en avant les personnes les plus provocatrices et polarisantes,

to the point where finding common ground no longer feels possible.

au point que trouver un terrain d'entente ne semble plus possible.

And despite a growing chorus of people crying out for the platforms to change,

Et malgré une communauté croissante demandant désespérément du changement,

it's clear they will not do enough on their own.

il est évident que les plateformes ne feront pas assez par eux-mêmes.

So governments must define the responsibility

Les gouvernement doivent donc définir la responsabilité

for the real-world harms being caused by these business models

des dommages causés dans le monde physique par ce modèle économique

et imposer un coût réel

and impose real costs on the damaging effects

aux effets néfastes affectant notre santé publique,

they're having to our public health, our public square and our democracy.

notre espace public et notre démocratie.

But unfortunately, this won't happen in time for the US presidential election,

Malheureusement, cela ne sera pas en place à temps pour l'élection présidentielle,

so I am continuing to raise this alarm,

alors je continue de sonner l'alarme,

because even if one day we do have strong rules in place,

car même si un jour nous établissons de très bonnes lois,

it will take all of us to fix this.

nous aurons besoin de tout le monde pour s'occuper de ce problème.

When I started shifting my focus from threats abroad

Quand j'ai porté mon attention des problèmes étrangers

to the breakdown in civil discourse at home,

à la défaillance des débats civiques chez nous,

I wondered if we could repurpose some of these hearts and minds campaigns

je me suis demandée s'il était possible d'utiliser ces opérations « cœur et âme »

to help heal our divides.

pour aider à réparer nos divisions.

Our more than 200-year experiment with democracy works

Notre expérience démocratique sur plus de 200 ans fonctionne

in large part because we are able to openly and passionately

en grande partie grâce à la possibilité

de débattre ouvertement et passionnément jusqu'à trouver la bonne solution.

debate our ideas for the best solutions.

Mais bien que je crois intimement

But while I still deeply believe

in the power of face-to-face civil discourse,

dans l’intérêt d'un débat public en face-à-face,

it just cannot compete

il ne peut plus rivaliser

with the polarizing effects and scale of social media right now.

avec les effets polarisants à l'échelle des réseaux sociaux d'aujourd'hui.

The people who are sucked down these rabbit holes

Les gens qui sont pris dans ces pièges de l'indignation sur les réseaux sociaux

of social media outrage

often feel far harder to break of their ideological mindsets

ont souvent plus de mal à casser leurs points de vue idéologiques

than those vulnerable communities I worked with ever were.

que toutes les communautés vulnérables avec lesquelles j'ai travaillé.

So when Facebook called me in 2018

Alors, quand Facebook m'a appelée en 2018,

and offered me this role

et m'a offert ce poste

heading its elections integrity operations for political advertising,

pour superviser la gestion déontologique des publicités politiques,

I felt I had to say yes.

je me suis sentie obligée de l'accepter.

I had no illusions that I would fix it all,

Je me doutais bien que je ne pourrais pas tout arranger,

but when offered the opportunity

mais avec une telle opportunité

to help steer the ship in a better direction,

de pouvoir mettre les choses dans le droit chemin,

I had to at least try.

il fallait au moins que j'essaie.

I didn't work directly on polarization,

Je n'ai pas pu travailler sur la polarisation,

but I did look at which issues were the most divisive in our society

mais j'ai pu voir quels étaient les sujets les plus clivants dans notre société,

and therefore the most exploitable in elections interference efforts,

et donc les plus exploitables par ceux qui veulent interférer dans les élections,

which was Russia's tactic ahead of 2016.

ce qui était déjà la tactique des Russes en 2016.

So I started by asking questions.

J'ai donc commencé à poser des questions.

I wanted to understand the underlying systemic issues

Je voulais comprendre les problèmes inhérents et systémiques

that were allowing all of this to happen,

qui permettaient à tout cela d'arriver,

in order to figure out how to fix it.

afin de comprendre comment les réparer.

Now I still do believe in the power of the internet

Je crois toujours dans la force d'Internet pour amener plus de gens à débattre,

to bring more voices to the table,

but despite their stated goal of building community,

mais malgré leur but avoué de construire une communauté,

the largest social media companies as currently constructed

les plus grandes entreprises de réseaux sociaux, actuellement,

are antithetical to the concept of reasoned discourse.

sont bâties à l'opposé du concept de débat raisonné.

There's no way to reward listening,

Il n'y a aucun moyen de récompenser l'écoute,

to encourage civil debate

d'encourager le débat public,

and to protect people who sincerely want to ask questions

et de protéger les gens qui veulent sincèrement poser des questions,

in a business where optimizing engagement and user growth

dans un business où optimiser l'implication et le nombre d'utilisateurs

are the two most important metrics for success.

sont les deux principales mesures du succès.

There's no incentive to help people slow down,

Rien n'est fait pour aider les gens à prendre du recul,

to build in enough friction that people have to stop,

pour construire un frein qui leur permette de s'arrêter,

de reconnaitre leurs réactions émotionnelles,

recognize their emotional reaction to something,

and question their own assumptions before engaging.

et de questionner leurs propres avis avant de discuter.

The unfortunate reality is:

Malheureusement, en réalité,

lies are more engaging online than truth,

les mensonges sont plus captivants que la vérité,

and salaciousness beats out wonky, fact-based reasoning

et le licencieux l'emporte sur le raisonnement basé sur les faits

in a world optimized for frictionless virality.

dans un monde optimisé pour la viralité sans contrôle.

As long as algorithms' goals are to keep us engaged,

Tant que le but des algorithmes est de nous garder captivés,

they will continue to feed us the poison that plays to our worst instincts

ils continueront à nous donner le poison

qui joue sur nos pires instincts et faiblesses humaines.

and human weaknesses.

And yes, anger, mistrust,

Et oui, la colère, la défiance,

la culture de la peur, la haine :

the culture of fear, hatred:

none of this is new in America.

aucune n'est nouvelle aux États-Unis.

But in recent years, social media has harnessed all of that

Mais ces dernières années, les réseaux sociaux s'en sont emparés

et, de mon point de vue, ont dramatiquement démesuré les échelles.

and, as I see it, dramatically tipped the scales.

And Facebook knows it.

Et Facebook le sait.

A recent "Wall Street Journal" article

Un article récent du « Wall Street Journal » dénonce

exposed an internal Facebook presentation from 2018

un rapport interne de Facebook de 2018,

that specifically points to the companies' own algorithms

dans lequel était démontré que les algorithmes de l'entreprise

for growing extremist groups' presence on their platform

rendaient les groupes extrémistes plus visibles sur leur plateforme,

and for polarizing their users.

et polarisaient leurs utilisateurs.

But keeping us engaged is how they make their money.

Mais nous garder captivés est leur manière de gagner de l'argent.

The modern information environment is crystallized around profiling us

Le modèle économique de l'information consiste en l'établissement de nos profils

and then segmenting us into more and more narrow categories

et de nous ranger dans des catégories de plus en plus précises

to perfect this personalization process.

afin de parfaire ce processus de personnalisation.

Nous sommes ensuite bombardés d'informations confirmant nos pensées,

We're then bombarded with information confirming our views,

reinforcing our biases,

renforçant nos préjugés,

and making us feel like we belong to something.

et qui nous donne l'impression d'appartenir à quelque chose.

These are the same tactics we would see terrorist recruiters

Ce sont les mêmes tactiques qu'utilisent des recruteurs terroristes

using on vulnerable youth,

sur la jeunesse vulnérable,

albeit in smaller, more localized ways before social media,

bien qu'à plus petite échelle comparées aux réseaux sociaux,

with the ultimate goal of persuading their behavior.

le but ultime étant d'entraîner un comportement particulier.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Malheureusement,

Facebook ne m'a jamais donné assez de pouvoir pour avoir un véritable impact.

In fact, on my second day, my title and job description were changed

En fait, à mon deuxième jour, le nom et le rôle de mon poste ont été changés,

and I was cut out of decision-making meetings.

et on m'a éloigné des réunions de prises de décision.

My biggest efforts,

Mes plus grands efforts,

trying to build plans

essayer de bâtir un plan pour lutter contre la désinformation

to combat disinformation and voter suppression in political ads,

et l'incitation à ne pas aller voter via les publicités ciblées ont été rejetés.

were rejected.

And so I lasted just shy of six months.

Et donc j'ai tenu à peine six mois.

But here is my biggest takeaway from my time there.

Mais voilà la plus grande chose que j'ai apprise là-bas.

There are thousands of people at Facebook

Il y a des milliers d'employés à Facebook

who are passionately working on a product

qui travaillent passionnément sur un produit

that they truly believe makes the world a better place,

en pensant véritablement qu'il rend le monde meilleur,

mais tant que cette entreprise continue à littéralement bricoler

but as long as the company continues to merely tinker around the margins

of content policy and moderation,

aux frontières de la politique de contenu et de la modération,

as opposed to considering

et ne pas considérer comment l'entièreté de la machine est pensée et monétisée,

how the entire machine is designed and monetized,

ils ne vont jamais vraiment remédier à la façon dont la plateforme contribue

they will never truly address how the platform is contributing

to hatred, division and radicalization.

à la haine, aux divisions, et à la radicalisation.

And that's the one conversation I never heard happen during my time there,

Et c'est précisément cette conversation que je n'ai jamais entendue là-bas,

because that would require fundamentally accepting

parce que cela reviendrait à devoir accepter fondamentalement

que leur construction

that the thing you built might not be the best thing for society

pourrait ne pas contribuer au bien commun social

and agreeing to alter the entire product and profit model.

et d'accepter de modifier ce produit et de changer de modèle économique.

So what can we do about this?

Alors, qu'est-ce que nous pouvons y faire ?

I'm not saying that social media bears the sole responsibility

Je ne dis pas que les réseaux sociaux portent toute la responsabilité

for the state that we're in today.

de l'état du monde actuel.

Clearly, we have deep-seated societal issues that we need to solve.

Clairement, il y a de profonds problèmes de société

qu'il nous faut résoudre.

But Facebook's response, that it is just a mirror to society,

Mais la réponse de Facebook, qui n'est qu'un miroir de notre société,

is a convenient attempt to deflect any responsibility

est une tentative un peu facile pour éviter toute responsabilité

from the way their platform is amplifying harmful content

de la manière dont leur plateforme accentue le contenu néfaste

and pushing some users towards extreme views.

et pousse certains utilisateurs vers des points de vue extrêmes.

And Facebook could, if they wanted to,

Et Facebook pourrait, s'il le voulait,

fix some of this.

résoudre certains de ces problèmes.

They could stop amplifying and recommending the conspiracy theorists,

Ils pourraient arrêter d'amplifier

et recommander les théories conspirationnistes,

the hate groups, the purveyors of disinformation

les groupes de haine, les pourvoyeurs de désinformation,

and, yes, in some cases even our president.

et, oui, dans certains cas, même notre président.

They could stop using the same personalization techniques

Ils pourraient arrêter d'utiliser les mêmes techniques de personnalisation

to deliver political rhetoric that they use to sell us sneakers.

pour diffuser un discours politique que celles pour nous vendre des chaussures.

They could retrain their algorithms

Ils pourraient apprendre à leurs algorithmes,

to focus on a metric other than engagement,

à se baser sur une autre mesure que l'implication

and they could build in guardrails to stop certain content from going viral

et ils pourraient mettre en place des protocoles

pour empêcher certains contenus de devenir viraux avant leur modération.

before being reviewed.

And they could do all of this

Et ils pourraient faire tout cela

without becoming what they call the arbiters of truth.

sans devenir ce qu'ils appellent des arbitres de la vérité.

But they've made it clear that they will not go far enough

Mais ils ont bien fait comprendre qu'ils ne sont pas prêts

to do the right thing without being forced to,

à faire les choses justes sans y être forcés,

and, to be frank, why should they?

et, honnêtement, pourquoi le feraient-ils ?

Leurs affaires ne cessent de les conforter,

The markets keep rewarding them, and they're not breaking the law.

et ils n'enfreignent pas la loi.

Because as it stands,

Parce qu’actuellement, il n'y a aucune loi aux États-Unis obligeant Facebook,

there are no US laws compelling Facebook, or any social media company,

ou n'importe quelle entreprise de réseaux sociaux,

to protect our public square,

à protéger notre espace public,

our democracy

notre démocratie,

and even our elections.

ou même nos élections.

We have ceded the decision-making on what rules to write and what to enforce

Nous avons cédé notre pouvoir de décision sur quelles règles écrire ou appliquer

to the CEOs of for-profit internet companies.

aux PDGs d'entreprises lucratives sur Internet.

Is this what we want?

Est-ce que c'est ce que nous voulons ?

A post-truth world where toxicity and tribalism

Un monde post-vérité où la toxicité et le tribalisme

trump bridge-building and consensus-seeking?

coupent les ponts et la recherche de consensus ?

I do remain optimistic that we still have more in common with each other

Je demeure optimiste sur le fait que nous avons toujours plus en commun

than the current media and online environment portray,

que ce que les médias actuels et l'environnement en ligne dépeignent,

and I do believe that having more perspective surface

et je crois qu'avoir une plus grande variété de perspectives

makes for a more robust and inclusive democracy.

permet une démocratie plus robuste et plus inclusive.

But not the way it's happening right now.

Mais pas de cette manière-là.

And it bears emphasizing, I do not want to kill off these companies.

Et cela mérite d'insister, je ne veux pas détruire ces entreprises.

I just want them held to a certain level of accountability,

Je veux juste qu'elles portent une certaine part de responsabilité,

just like the rest of society.

tout comme le reste de la société.

It is time for our governments to step up and do their jobs

Il est temps pour nos gouvernements de s'élever et de faire leur travail

of protecting our citizenry.

en protégeant notre citoyenneté.

And while there isn't one magical piece of legislation

Et bien qu'il n'y aura pas de loi miracle

that will fix this all,

qui remettrait tout en ordre,

I do believe that governments can and must find the balance

je crois que les gouvernements peuvent, et doivent trouver l'équilibre

between protecting free speech

entre protéger la liberté d'expression,

and holding these platforms accountable for their effects on society.

et tenir ces plateformes responsables de leurs conséquences sur la société.

And they could do so in part by insisting on actual transparency

Et ils pourraient le faire, en partie, en demandant une vraie transparence

around how these recommendation engines are working,

sur la façon dont ces moteurs de recommandations fonctionnent,

around how the curation, amplification and targeting are happening.

et comment le traitement, l'amplification et le ciblage se fait.

You see, I want these companies held accountable

Je veux que ces compagnies soient tenues responsables

not for if an individual posts misinformation

non pas si un individu poste de la désinformation

or extreme rhetoric,

ou des discours extrémistes,

but for how their recommendation engines spread it,

mais pour la manière dont leurs moteurs de recommandation les propagent,

how their algorithms are steering people towards it,

dont leurs algorithmes amènent les gens vers ces contenus,

and how their tools are used to target people with it.

et dont leurs outils sont utilisés pour cibler les gens avec ces contenus.

I tried to make change from within Facebook and failed,

J'ai essayé de changer Facebook de l’intérieur, et j'ai échoué,

and so I've been using my voice again for the past few years

alors j'ai de nouveau utilisé ma voix ces dernières années

to continue sounding this alarm

pour continuer à sonner cette alarme,

and hopefully inspire more people to demand this accountability.

dans l'espoir d'inspirer plus de gens à réclamer cette responsabilité.

My message to you is simple:

Mon message pour vous est simple :

pressure your government representatives

faites pression sur votre gouvernement pour qu'il s'élève et ne cède plus

to step up and stop ceding our public square to for-profit interests.

notre espace public aux intérêts commerciaux.

Help educate your friends and family

Éduquez vos amis et votre famille

about how they're being manipulated online.

sur la manière dont ils sont manipulés en ligne.

Push yourselves to engage with people who aren't like-minded.

Obligez-vous à vous discuter avec ceux qui ne pensent pas comme vous.

Make this issue a priority.

Faites de ce problème une priorité.

We need a whole-society approach to fix this.

Nous avons besoin de l'ensemble de la société pour résoudre ce problème.

And my message to the leaders of my former employer Facebook is this:

Et mon message aux dirigeants

de mon ancien employeur Facebook est celui-ci :

right now, people are using your tools exactly as they were designed

en ce moment même,

les gens utilisent vos outils exactement comme ils ont été pensés :

to sow hatred, division and distrust,

pour planter la haine, la division et la défiance,

and you're not just allowing it, you are enabling it.

et vous ne faites pas que le permettre, vous le favorisez.

And yes, there are lots of great stories

Et oui, il y a beaucoup de belles histoires, de choses positives

of positive things happening on your platform around the globe,

sur votre plateforme qui viennent du monde entier,

but that doesn't make any of this OK.

mais cela n'excuse en rien tout le reste.

And it's only getting worse as we're heading into our election,

Et cela ne fait qu'empirer à l'approche des élections,

and even more concerning,

et encore plus concernant,

face our biggest potential crisis yet,

nous faisons face à notre plus grande crise potentielle,

if the results aren't trusted, and if violence breaks out.

si les résultats ne sont pas acceptés, et si la violence éclate.

So when in 2021 you once again say, "We know we have to do better,"

Donc quand, en 2021, vous direz encore une fois :

« Nous savons que nous allons devoir faire mieux, »

I want you to remember this moment,

je veux que vous vous rappeliez ce moment,

because it's no longer just a few outlier voices.

parce que ce n'est plus seulement quelques voix isolées.

Civil rights leaders, academics,

Militants des droits civiques, intellectuels,

journalists, advertisers, your own employees,

journalistes, publicitaires, vos propres employés,

are shouting from the rooftops

vous crient de toutes parts

that your policies and your business practices

que vos politiques et vos pratiques commerciales

are harming people and democracy.

sont néfastes pour les gens et pour la démocratie.

You own your decisions,

Vos décisions vous appartiennent,

but you can no longer say that you couldn't have seen it coming.

vous ne pourrez plus dire que vous ne l'aviez pas vu venir.

Thank you.

Merci.