Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Vertaald door: Ruth Compernol Nagekeken door: Peter Van de Ven

Around five years ago,

Zo'n vijf jaar geleden

it struck me that I was losing the ability

merkte ik dat ik steeds minder in staat was

to engage with people who aren't like-minded.

met mensen om te gaan die andersgezind zijn.

The idea of discussing hot-button issues with my fellow Americans

Het bespreken van hete hangijzers met landgenoten

was starting to give me more heartburn

begon me moeilijker te vallen

than the times that I engaged with suspected extremists overseas.

dan mijn gesprekken met verdachte extremisten uit andere landen.

It was starting to leave me feeling more embittered and frustrated.

Ik voelde me steeds bitterder en gefrustreerder.

And so just like that,

En daarom verlegde ik mijn focus

I shifted my entire focus

from global national security threats

van bedreigingen voor de nationale veiligheid

to trying to understand what was causing this push

naar de vraag wat aan de basis lag

towards extreme polarization at home.

van de steeds extremere polarisatie in mijn thuisland.

As a former CIA officer and diplomat

Als voormalig CIA-officier en diplomaat

who spent years working on counterextremism issues,

die jarenlang extremisme hielp te bestrijden,

I started to fear that this was becoming a far greater threat to our democracy

vreesde ik dat dit onze democratie veel meer begon te bedreigen

than any foreign adversary.

dan eender welke buitenlandse tegenstander.

And so I started digging in,

Dus begon ik onderzoek te doen en mij uit te spreken,

and I started speaking out,

which eventually led me to being hired at Facebook

waardoor ik werd aangenomen door Facebook

and ultimately brought me here today

en hier vandaag voor jullie sta

to continue warning you about how these platforms

om jullie te waarschuwen over hoe deze platforms

are manipulating and radicalizing so many of us

velen van ons manipuleren en radicaliseren

and to talk about how to reclaim our public square.

en om te bespreken hoe we het publieke debat kunnen terugwinnen.

I was a foreign service officer in Kenya

Ik werkte als dienstofficier in Kenia

just a few years after the September 11 attacks,

een paar jaar na de aanslagen van 11 september

and I led what some call "hearts and minds" campaigns

en leidde de campagnes genaamd Hearts and Minds

along the Somalia border.

aan de grens van Somalië.

A big part of my job was to build trust with communities

Ik bouwde een vertrouwensrelatie op met de gemeenschappen

deemed the most susceptible to extremist messaging.

die het vatbaarst waren voor extremistische berichtgeving.

I spent hours drinking tea with outspoken anti-Western clerics

Ik heb urenlang thee gedronken met uitgesproken anti-westerse geestelijken

and even dialogued with some suspected terrorists,

en ging zelfs in dialoog met enkele verdachte terroristen,

and while many of these engagements began with mutual suspicion,

en hoewel veel van deze contacten begonnen met wederzijdse achterdocht,

I don't recall any of them resulting in shouting or insults,

herinner ik me niet dat dit ooit eindigde met geschreeuw of beledigingen,

and in some case we even worked together on areas of mutual interest.

en soms werkten we zelfs samen als er sprake was van wederzijds belang.

The most powerful tools we had were to simply listen, learn

Onze krachtigste instrumenten waren om gewoon te luisteren, te leren

and build empathy.

en empathie op te bouwen.

This is the essence of hearts and minds work,

Dit is de essentie van Hearts and Minds,

because what I found again and again is that what most people wanted

want wat ik steeds weer ondervond is dat de meeste mensen

was to feel heard, validated and respected.

gehoord, gevalideerd en gerespecteerd willen worden.

And I believe that's what most of us want.

En ik geloof dat de meesten van ons dat willen.

So what I see happening online today is especially heartbreaking

Dus wat ik vandaag online zie gebeuren is hartverscheurend

and a much harder problem to tackle.

en veel moeilijker aan te pakken.

We are being manipulated by the current information ecosystem

We worden gemanipuleerd door het huidige informatie-ecosysteem,

entrenching so many of us so far into absolutism

waardoor velen van ons ons zover ingraven in absolutisme

that compromise has become a dirty word.

dat compromis een vies woord is geworden.

Because right now,

Want momenteel profiteren social media als Facebook

social media companies like Facebook

profit off of segmenting us and feeding us personalized content

van de segmentatie van burgers door ons gepersonaliseerde inhoud te tonen

that both validates and exploits our biases.

die onze vooroordelen bevestigt en uitbuit.

Their bottom line depends on provoking a strong emotion

Hun doel is om een sterke emotie uit te lokken

to keep us engaged,

om onze aandacht vast te houden.

often incentivizing the most inflammatory and polarizing voices,

Daardoor krijgen de meest opruiende en polariserende stemmen de bovenhand,

to the point where finding common ground no longer feels possible.

tot het bijna onmogelijk wordt om nog raakvlakken te vinden.

And despite a growing chorus of people crying out for the platforms to change,

En ondanks de stijgende vraag naar een verandering van de platforms

it's clear they will not do enough on their own.

is het duidelijk dat ze in hun eentje niet genoeg zullen doen.

So governments must define the responsibility

Dus regeringen moeten de verantwoordelijkheid definiëren

for the real-world harms being caused by these business models

voor de reële schade die wordt veroorzaakt door deze bedrijfsmodellen

and impose real costs on the damaging effects

en kosten opleggen voor de schadelijke gevolgen

they're having to our public health, our public square and our democracy.

voor onze volksgezondheid, ons publieke debat en onze democratie.

But unfortunately, this won't happen in time for the US presidential election,

Helaas zal dit niet meer gebeuren voor de Amerikaanse presidentsverkiezingen

so I am continuing to raise this alarm,

dus blijf ik aan de alarmbel trekken,

because even if one day we do have strong rules in place,

want zelfs als we ooit een sterke regelgeving krijgen,

it will take all of us to fix this.

is de inzet van elk van ons nodig om dit op te lossen.

When I started shifting my focus from threats abroad

Toen ik mijn focus verlegde van buitenlandse dreigingen

to the breakdown in civil discourse at home,

naar de afbraak van ons eigen maatschappelijk debat,

I wondered if we could repurpose some of these hearts and minds campaigns

vroeg ik me af of we de campagnes van Hearts and Minds konden hergebruiken

to help heal our divides.

om iets aan onze verdeeldheid te doen.

Our more than 200-year experiment with democracy works

Ons democratische experiment van meer dan 200 jaar werkt grotendeels

in large part because we are able to openly and passionately

omdat we in staat zijn openlijk en gepassioneerd onze ideeën te bespreken,

debate our ideas for the best solutions.

op zoek naar de beste oplossing.

But while I still deeply believe

Maar hoewel ik nog steeds diep geloof

in the power of face-to-face civil discourse,

in de kracht van een respectvol debat,

it just cannot compete

kan het gewoon niet concurreren

with the polarizing effects and scale of social media right now.

met de polariserende effecten en de omvang van social media.

The people who are sucked down these rabbit holes

De mensen die worden meegezogen in de verontwaardiging op social media

of social media outrage

often feel far harder to break of their ideological mindsets

kunnen vaak veel moeilijker afstand doen van hun ideologieën

than those vulnerable communities I worked with ever were.

dan ooit het geval was bij de kwetsbare gemeenschappen waarmee ik werkte.

So when Facebook called me in 2018

Dus toen Facebook me in 2018 opbelde en me vroeg de leiding te nemen

and offered me this role

heading its elections integrity operations for political advertising,

over haar activiteiten inzake de integriteit van politieke advertenties,

I felt I had to say yes.

vond ik dat ik ja moest zeggen.

I had no illusions that I would fix it all,

Ik had geen illusies dat ik het allemaal zou oplossen,

but when offered the opportunity

maar als ik de mogelijkheid kreeg het schip in een betere richting te sturen

to help steer the ship in a better direction,

I had to at least try.

moest ik het op zijn minst proberen.

I didn't work directly on polarization,

Ik werkte niet direct rond polarisatie,

but I did look at which issues were the most divisive in our society

maar onderzocht wel welke kwesties de meeste sociale verdeeldheid zaaien

and therefore the most exploitable in elections interference efforts,

en dus makkelijk kunnen worden uitgebuit om de verkiezingen te beïnvloeden,

which was Russia's tactic ahead of 2016.

wat de tactiek van Rusland was in de aanloop naar 2016.

So I started by asking questions.

Dus begon ik vragen te stellen.

I wanted to understand the underlying systemic issues

Ik wou de onderliggende systemische problemen begrijpen

that were allowing all of this to happen,

die dit konden laten gebeuren en uitzoeken hoe dit te verhelpen.

in order to figure out how to fix it.

Now I still do believe in the power of the internet

Nu geloof ik nog steeds in de kracht van het internet

to bring more voices to the table,

om meer stemmen te laten horen,

but despite their stated goal of building community,

maar ondanks hun doel om een gemeenschap uit te bouwen,

the largest social media companies as currently constructed

zijn de grote socialemediabedrijven in hun huidige vorm

are antithetical to the concept of reasoned discourse.

onverzoenbaar met het idee van een redelijk discours.

There's no way to reward listening,

Het is onmogelijk om luisteren te belonen,

to encourage civil debate

een civiel debat aan te moedigen

and to protect people who sincerely want to ask questions

en mensen te beschermen die oprecht vragen willen stellen

in a business where optimizing engagement and user growth

in een sector waar meer betrokkenheid en meer gebruikers

are the two most important metrics for success.

de twee belangrijkste maatstaven voor succes zijn.

There's no incentive to help people slow down,

Er is geen stimulans om mensen te helpen vertragen,

to build in enough friction that people have to stop,

om genoeg frictie in te bouwen zodat mensen moeten stoppen,

recognize their emotional reaction to something,

zich bewust worden van hun emotionele reactie

and question their own assumptions before engaging.

en hun eigen aannames in vraag te stellen voor ze reageren.

The unfortunate reality is:

De ongelukkige realiteit is:

lies are more engaging online than truth,

online zijn leugens aanlokkelijker dan de waarheid,

and salaciousness beats out wonky, fact-based reasoning

en schunnigheid overtroeft een feitelijke redenering

in a world optimized for frictionless virality.

in een wereld die gericht is op frictieloze viraliteit.

As long as algorithms' goals are to keep us engaged,

Zolang algoritmes als doel hebben onze aandacht vast te houden,

they will continue to feed us the poison that plays to our worst instincts

zullen ze ons blijven vergiftigen door in te spelen op onze laagste instincten

and human weaknesses.

en menselijke zwakheden.

And yes, anger, mistrust,

En ja, woede, wantrouwen,

the culture of fear, hatred:

de cultuur van angst en haat:

none of this is new in America.

niets van dit alles is nieuw in Amerika.

But in recent years, social media has harnessed all of that

Maar de afgelopen jaren hebben social media dit allemaal verscherpt

and, as I see it, dramatically tipped the scales.

en, zoals ik het zie, de weegschaal dramatisch doen kantelen.

And Facebook knows it.

En Facebook weet het.

A recent "Wall Street Journal" article

Een artikel in de Wall Street Journal

exposed an internal Facebook presentation from 2018

bracht een interne Facebook-presentatie uit 2018 aan het licht

that specifically points to the companies' own algorithms

die de algoritmes van het bedrijf als oorzaak aanwijst

for growing extremist groups' presence on their platform

voor het stijgend aantal extremistische groeperingen op hun platform

and for polarizing their users.

en de polarisering van hun gebruikers.

But keeping us engaged is how they make their money.

Maar onze aandacht vasthouden is hoe ze geld verdienen.

The modern information environment is crystallized around profiling us

De moderne informatie-omgeving draait om de profilering van gebruikers

and then segmenting us into more and more narrow categories

om ons te segmenteren in steeds engere categorieën

to perfect this personalization process.

om dit proces van personalisering te perfectioneren.

We're then bombarded with information confirming our views,

Zo worden we gebombardeerd met informatie die onze standpunten bevestigt,

reinforcing our biases,

onze vooroordelen versterkt,

and making us feel like we belong to something.

en ons het gevoel geeft ergens bij te horen.

These are the same tactics we would see terrorist recruiters

Dezelfde tactieken worden gebruikt voor de rekrutering van terroristen

using on vulnerable youth,

waarbij men aast op kwetsbare jongeren,

albeit in smaller, more localized ways before social media,

zij het op kleinere, lokalere schaal voor de opkomst van social media,

with the ultimate goal of persuading their behavior.

met als uiteindelijk doel hun gedrag te beïnvloeden.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Helaas heb ik van Facebook nooit de kans gekregen om reële impact te hebben.

In fact, on my second day, my title and job description were changed

Op mijn tweede werkdag werden mijn titel en functieomschrijving al veranderd

and I was cut out of decision-making meetings.

en werd ik geweerd uit comités die beslissingen konden nemen.

My biggest efforts,

Mijn grootste inspanningen,

trying to build plans

mijn plannen voor het bestrijden van desinformatie

to combat disinformation and voter suppression in political ads,

en misleiding van kiezers bij politieke advertenties

were rejected.

werden afgewezen.

And so I lasted just shy of six months.

En dus bleef ik amper zes maanden in dienst.

But here is my biggest takeaway from my time there.

Maar dit is mijn grootste les van mijn tijd in het bedrijf.

There are thousands of people at Facebook

Er zijn duizenden mensen bij Facebook

who are passionately working on a product

die vol passie aan een product werken

that they truly believe makes the world a better place,

waarvan ze echt geloven dat de wereld er beter van wordt,

but as long as the company continues to merely tinker around the margins

maar zolang het bedrijf zich enkel bezighoudt met wat gepriegel in de marge

of content policy and moderation,

van content policy en matiging,

as opposed to considering

in plaats van in te zien

how the entire machine is designed and monetized,

hoe de hele machine is ontworpen en gemonetiseerd,

they will never truly address how the platform is contributing

zullen ze nooit echt werk maken van hoe het platform bijdraagt

to hatred, division and radicalization.

aan haat, verdeeldheid en radicalisering.

And that's the one conversation I never heard happen during my time there,

En dat is het enige gesprek dat ik nooit heb weten voeren toen ik er werkte,

because that would require fundamentally accepting

omdat dat zou vereisen dat je principieel aanvaardt

that the thing you built might not be the best thing for society

dat wat je hebt gecreëerd

misschien toch niet zo goed is voor de maatschappij

and agreeing to alter the entire product and profit model.

en akkoord gaat om het hele product- en winstmodel te veranderen.

So what can we do about this?

Wat kunnen we hieraan doen?

I'm not saying that social media bears the sole responsibility

Ik zeg niet dat social media als enige verantwoordelijk zijn

for the state that we're in today.

voor de situatie waarin we ons bevinden.

Clearly, we have deep-seated societal issues that we need to solve.

We hebben duidelijk diepgewortelde sociale problemen die we moeten oplossen.

But Facebook's response, that it is just a mirror to society,

Maar Facebooks reactie dat het slechts een spiegel is van de maatschappij,

is a convenient attempt to deflect any responsibility

is een gemakkelijke poging elke verantwoordelijkheid af te schuiven

from the way their platform is amplifying harmful content

van de manier waarop hun platform schadelijke inhoud versterkt

and pushing some users towards extreme views.

en sommige gebruikers in de richting van extreme standpunten duwt.

And Facebook could, if they wanted to,

En Facebook kan, als het dat wil,

fix some of this.

een deel van de problemen oplossen.

They could stop amplifying and recommending the conspiracy theorists,

Ze zouden kunnen stoppen met het promoten van samenzweringstheorieën,

the hate groups, the purveyors of disinformation

haatgroepen, makers van desinformatie

and, yes, in some cases even our president.

en ja, in sommige gevallen zelfs onze president.

They could stop using the same personalization techniques

Ze kunnen stoppen dezelfde personalisatietechnieken te gebruiken

to deliver political rhetoric that they use to sell us sneakers.

voor politieke retoriek die ze gebruiken om schoenen te verkopen.

They could retrain their algorithms

Ze kunnen hun algoritmes zo aanpassen

to focus on a metric other than engagement,

dat ze op iets anders focussen dan betrokkenheid

and they could build in guardrails to stop certain content from going viral

en drempels inbouwen zodat bepaalde inhoud niet viraal kan gaan

before being reviewed.

voor hij wordt geëvalueerd.

And they could do all of this

Ze kunnen dit allemaal doen

without becoming what they call the arbiters of truth.

zonder 'de scheidsrechter van de waarheid' te worden, zoals ze zelf beweren.

But they've made it clear that they will not go far enough

Maar ze hebben duidelijk gemaakt dat ze niet ver genoeg willen gaan

to do the right thing without being forced to,

om het juiste te doen als ze niet worden gedwongen.

and, to be frank, why should they?

En waarom zouden ze ook?

The markets keep rewarding them, and they're not breaking the law.

De markten blijven hen belonen, en ze overtreden de wet niet.

Because as it stands,

Want momenteel

there are no US laws compelling Facebook, or any social media company,

zijn er geen wetten in de VS die Facebook of andere social media dwingen

to protect our public square,

het publieke debat te beschermen,

our democracy

evenals onze democratie

and even our elections.

en zelfs onze verkiezingen.

We have ceded the decision-making on what rules to write and what to enforce

De vraag welke regels gerespecteerd en afgedwongen moeten worden,

to the CEOs of for-profit internet companies.

laten we over aan de CEO's van commerciële internetbedrijven.

Is this what we want?

Is dit wat we willen?

A post-truth world where toxicity and tribalism

Een wereld zonder waarheid, waar toxiciteit en tribalisme

trump bridge-building and consensus-seeking?

onze zoektocht naar consensus onmogelijk maken?

I do remain optimistic that we still have more in common with each other

Ik blijf geloven dat we nog steeds meer met elkaar gemeen hebben

than the current media and online environment portray,

dan de huidige media en online-omgeving ons willen doen geloven.

and I do believe that having more perspective surface

Ik geloof ook dat meer perspectieven

makes for a more robust and inclusive democracy.

zorgen voor een meer robuuste en inclusieve democratie.

But not the way it's happening right now.

Maar dat is niet wat momenteel gebeurt.

And it bears emphasizing, I do not want to kill off these companies.

En ik wil benadrukken dat ik deze bedrijven niet kapot wil maken.

I just want them held to a certain level of accountability,

Ik wil gewoon dat ze een zekere verantwoording moeten afleggen,

just like the rest of society.

net als de rest van de samenleving.

It is time for our governments to step up and do their jobs

Het is tijd dat onze regeringen wakker worden en hun werk doen

of protecting our citizenry.

om hun burgers te beschermen.

And while there isn't one magical piece of legislation

En hoewel er geen magische wetgeving is die dit alles zal oplossen,

that will fix this all,

I do believe that governments can and must find the balance

geloof ik wel dat regeringen een balans kunnen en moeten vinden

between protecting free speech

tussen de vrije meningsuiting beschermen

and holding these platforms accountable for their effects on society.

en deze platforms ter verantwoording roepen voor hun effect op de samenleving.

And they could do so in part by insisting on actual transparency

Ze zouden dat deels kunnen doen door aan te dringen op echte transparantie

around how these recommendation engines are working,

over hoe deze machines bepaalde inhoud promoten,

around how the curation, amplification and targeting are happening.

over hoe informatie wordt gecureerd, versterkt en afgevuurd op doelgroepen.

You see, I want these companies held accountable

Ik wil dat deze bedrijven verantwoording moeten afleggen

not for if an individual posts misinformation

niet voor individuen die desinformatie verspreiden

or extreme rhetoric,

of extreme uitspraken doen,

but for how their recommendation engines spread it,

maar voor de manier waarop hun machines bepaalde info verspreiden,

how their algorithms are steering people towards it,

hoe hun algoritmes bepaalde mensen naar die info leiden,

and how their tools are used to target people with it.

en hoe ze hun systemen gebruiken om bepaalde doelgroepen te viseren.

I tried to make change from within Facebook and failed,

Ik heb getracht om verandering te creëren van binnen Facebook, maar helaas.

and so I've been using my voice again for the past few years

Dus gebruik ik sinds een paar jaar weer mijn stem

to continue sounding this alarm

om dit onder de aandacht te brengen

and hopefully inspire more people to demand this accountability.

en hopelijk meer mensen te inspireren om verantwoording te eisen.

My message to you is simple:

Mijn boodschap aan jullie is eenvoudig:

pressure your government representatives

oefen druk uit op de overheid

to step up and stop ceding our public square to for-profit interests.

om te verhinderen dat ons publieke debat wordt gestuurd door commerciële belangen.

Help educate your friends and family

Help vrienden en familie inzien hoe ze online worden gemanipuleerd.

about how they're being manipulated online.

Push yourselves to engage with people who aren't like-minded.

Ga het gesprek aan met mensen die niet gelijkgezind zijn.

Make this issue a priority.

Maak van deze kwestie een prioriteit.

We need a whole-society approach to fix this.

We moeten dit probleem als samenleving aanpakken.

And my message to the leaders of my former employer Facebook is this:

En mijn boodschap aan de leiders van mijn vroegere werkgever Facebook is:

right now, people are using your tools exactly as they were designed

momenteel gebruiken mensen je systemen precies zoals die zijn ontworpen,

to sow hatred, division and distrust,

om haat, verdeeldheid en wantrouwen te zaaien,

and you're not just allowing it, you are enabling it.

en je laat het niet alleen toe, je houdt het zelf in stand.

And yes, there are lots of great stories

En ja, er zijn veel mooie verhalen

of positive things happening on your platform around the globe,

van positieve dingen die wereldwijd op je platform gebeuren,

but that doesn't make any of this OK.

maar dat maakt dit allemaal niet goed.

And it's only getting worse as we're heading into our election,

En het wordt nog erger met de verkiezingen in zicht

and even more concerning,

en zeker nu we de grootste crisis ooit riskeren

face our biggest potential crisis yet,

if the results aren't trusted, and if violence breaks out.

als de resultaten onbetrouwbaar zijn en er geweld uitbreekt.

So when in 2021 you once again say, "We know we have to do better,"

Dus als je in 2021 opnieuw zegt "We weten dat we het beter moeten doen",

I want you to remember this moment,

wil ik dat je aan dit moment terugdenkt,

want het gaat al lang niet meer om een paar buitenbeentjes.

because it's no longer just a few outlier voices.

Civil rights leaders, academics,

Burgerrechtenactivisten, academici,

journalists, advertisers, your own employees,

journalisten, adverteerders, je eigen personeel,

are shouting from the rooftops

ze schreeuwen allemaal van de daken

that your policies and your business practices

dat je beleid en bedrijfspraktijken schadelijk zijn voor mens en democratie.

are harming people and democracy.

You own your decisions,

Jij bent verantwoordelijk voor je beslissingen,

but you can no longer say that you couldn't have seen it coming.

maar kom achteraf niet zeggen dat je dit niet had zien aankomen.

Thank you.

Bedankt.