Dear Facebook, this is how you're breaking democracy | Yael Eisenstat

Fordító: Lektor: Maria Ruzsane Cseresnyes

Úgy öt évvel ezelőtt döbbentem rá,

Around five years ago,

it struck me that I was losing the ability

hogy már nem vagyok képes szót érteni azokkal,

to engage with people who aren't like-minded.

akik másként gondolkodnak, mint én.

The idea of discussing hot-button issues with my fellow Americans

Kezdett több fejfájást okozni,

was starting to give me more heartburn

hogy honfitársaimmal kínos témákról beszélgessek,

mint a tengerentúlon feltételezett szélsőségesekkel kapcsolatot tartani.

than the times that I engaged with suspected extremists overseas.

It was starting to leave me feeling more embittered and frustrated.

Egyre elkeseredettebbnek és frusztráltabbnak éreztem magam.

And so just like that,

Így tehát

I shifted my entire focus

az érdeklődésem középpontjába

from global national security threats

az egész nemzetet érintő fenyegetettség helyett

to trying to understand what was causing this push

annak megértése került, hogy mi okozza

towards extreme polarization at home.

idehaza ezt a szélsőséges megosztottságot.

As a former CIA officer and diplomat

Egykori CIA-tisztként és diplomataként

éveket töltöttem el terroristák elleni munkával,

who spent years working on counterextremism issues,

I started to fear that this was becoming a far greater threat to our democracy

és most attól kezdtem félni, hogy a fenti jelenség minden idegen ellenségnél

than any foreign adversary.

nagyobb fenyegetést jelenthet demokráciánk számára.

And so I started digging in,

Elkezdtem kutakodni,

and I started speaking out,

és beszélni róla,

which eventually led me to being hired at Facebook

ami végül oda vezetett, hogy alkalmazott a Facebook,

and ultimately brought me here today

és végülis ide is ez hozott el,

to continue warning you about how these platforms

hogy figyelmeztessem önöket is, hogy ezek a platformok

are manipulating and radicalizing so many of us

manipulálnak és szélsőséges irányba terelnek sokunkat,

and to talk about how to reclaim our public square.

és elmondjam, mit kell tennünk, hogy visszaszerezzük fórumainkat.

I was a foreign service officer in Kenya

Kenyában voltam külszolgálati tisztviselő

just a few years after the September 11 attacks,

alig pár évvel 9/11 után,

and I led what some call "hearts and minds" campaigns

a szomáliai határ mentén vezettem

a “Szívvel és ésszel” kampányokat.

along the Somalia border.

Munkám jórészt abból állt, hogy elnyerjem azoknak a közösségeknek a bizalmát,

A big part of my job was to build trust with communities

deemed the most susceptible to extremist messaging.

amelyek a leginkább vevők a szélsőséges üzenetekre.

I spent hours drinking tea with outspoken anti-Western clerics

Órákon át iszogattam teát kimondottan nyugatellenes egyházi személyekkel,

and even dialogued with some suspected terrorists,

sőt, beszélgettem feltételezett terroristákkal is,

and while many of these engagements began with mutual suspicion,

és bár e kapcsolatok többnyire kölcsönös gyanakvással kezdődtek,

egyre sem emlékszem, amely kiabálással vagy veszekedéssel végződött volna,

I don't recall any of them resulting in shouting or insults,

and in some case we even worked together on areas of mutual interest.

sőt, néhány esetben együttműködés alakult ki köztünk a közös érdekek mentén.

Leghatásosabb eszközünk az odafigyelés, a megértés

The most powerful tools we had were to simply listen, learn

and build empathy.

és az empátia felébresztése volt.

This is the essence of hearts and minds work,

Ez alap, ha a szívre és az észre akarunk hatni,

újra és újra azt tapasztalom, hogy a legtöbben nem akarnak mást,

because what I found again and again is that what most people wanted

was to feel heard, validated and respected.

mint odafigyelést, elismerést és tiszteletet.

And I believe that's what most of us want.

Úgy hiszem, legtöbbünk erre vágyik.

So what I see happening online today is especially heartbreaking

Ami ma online zajlik, az különösen szívszorító,

and a much harder problem to tackle.

és még nehezebben kezelhető.

We are being manipulated by the current information ecosystem

Az aktuális információs környezet befolyása alatt állunk,

entrenching so many of us so far into absolutism

ami sokunkban annyira megerősíti a kizárólagosságot,

that compromise has become a dirty word.

hogy a kompromisszum szitokszónak számít.

Because right now,

Ugyanis jelenleg

social media companies like Facebook

a közösségi oldalak, mint pl. a Facebook,

abból profitálnak, hogy beskatulyáznak, és személyre szabott tartalmakat kínálnak,

profit off of segmenting us and feeding us personalized content

that both validates and exploits our biases.

amelyek megerősítik és ki is használják előítéleteinket.

Their bottom line depends on provoking a strong emotion

A bevételük attól függ, képesek-e erős érzelmeket kiváltani belőlünk,

to keep us engaged,

magukhoz kötni,

often incentivizing the most inflammatory and polarizing voices,

gyakran előcsalogatva a leguszítóbb, legmegosztóbb véleményeket,

to the point where finding common ground no longer feels possible.

addig a pontig, ahonnan már lehetetlenség megtalálni a közös alapot.

And despite a growing chorus of people crying out for the platforms to change,

Bár egyre többen vannak, akik felszólítják a platformokat, hogy változtassanak,

it's clear they will not do enough on their own.

egyértelmű, hogy maguktól ezt nem teszik meg.

So governments must define the responsibility

A kormányoknak kell hát meghatározniuk a felelősséget

for the real-world harms being caused by these business models

az üzleti modellek által okozott, a valóságban elszenvedett károkért,

és kiróni a tényleges költséget az egészségügyünket,

and impose real costs on the damaging effects

they're having to our public health, our public square and our democracy.

nyilvánosságunkat, demokráciánkat ért pusztításokért.

But unfortunately, this won't happen in time for the US presidential election,

Sajnos ez nem fog még időben megtörténni az amerikai elnökválasztás előtt,

so I am continuing to raise this alarm,

így továbbra is fújom a riadót,

because even if one day we do have strong rules in place,

mert ha lesznek is egyszer megfelelő szabályaink,

it will take all of us to fix this.

mindannyiunkra szükség van a helyzet kezeléséhez.

Amikor a hazai közbeszéd katasztrofális állapotával kezdtem foglalkozni

When I started shifting my focus from threats abroad

to the breakdown in civil discourse at home,

a külföldről jövő fenyegetettségek helyett,

I wondered if we could repurpose some of these hearts and minds campaigns

eltöprengtem, fel tudnánk-e használni az ott bevált kampányok tapasztalatait

to help heal our divides.

megosztottságunk enyhítésére.

Our more than 200-year experiment with democracy works

A több mint 200 éves kísérletünk a demokráciával nagyrészt működik,

in large part because we are able to openly and passionately

hiszen képesek voltunk nyíltan és szenvedélyesen vitázni

debate our ideas for the best solutions.

a legjobb megoldások érdekében.

Bár én még mindig mélyen hiszek

But while I still deeply believe

in the power of face-to-face civil discourse,

a személyes, civil párbeszéd erejében,

de ez mára már egyszerűen nem versenyezhet

it just cannot compete

with the polarizing effects and scale of social media right now.

a közösségi média megosztó hatásával és mértékével.

The people who are sucked down these rabbit holes

Akiket beszippantott a közösségi média indulata,

általában jóval nehezebbnek

of social media outrage

often feel far harder to break of their ideological mindsets

találják elszakadni gondolkodásmódjuktól,

mint azok a sebezhető közösségek, amelyekkel valaha is dolgoztam.

than those vulnerable communities I worked with ever were.

So when Facebook called me in 2018

Amikor 2018-ban megkeresett a Facebook,

and offered me this role

hogy a vezessem

heading its elections integrity operations for political advertising,

a választás tisztaságát érintő munkát a politikai hírdetések terén,

I felt I had to say yes.

úgy éreztem, igent kell mondanom.

I had no illusions that I would fix it all,

Nem voltak illúzióim, hogy mindent rendbe fogok hozni,

but when offered the opportunity

de ha lehetőséget kaptam

to help steer the ship in a better direction,

a hajót jobb irányba kormányozni,

I had to at least try.

legalább meg kellett próbálnom.

I didn't work directly on polarization,

Nem foglakoztam közvetlenül a megosztottsággal,

but I did look at which issues were the most divisive in our society

de megnéztem, melyek a társadalom legmegosztóbb kérdései,

and therefore the most exploitable in elections interference efforts,

amelyekkel a leginkább befolyásolni lehet a választást.

which was Russia's tactic ahead of 2016.

Ez volt Oroszország taktikája 2016-ban.

So I started by asking questions.

Kérdezősködni kezdtem.

I wanted to understand the underlying systemic issues

Meg akartam érteni, a lappangó rendszerproblémákat,

that were allowing all of this to happen,

amelyek megengedték, hogy mindez bekövetkezzék,

in order to figure out how to fix it.

hogy kitaláljam, hogyan javíthatjuk ki ezeket.

Now I still do believe in the power of the internet

Még mindig hiszek abban, hogy az internet

to bring more voices to the table,

többeket ültet egy asztalhoz.

but despite their stated goal of building community,

De annak dacára, hogy deklarált céljuk a közösségépítés lenne,

the largest social media companies as currently constructed

a legnagyobb közösségimédia-cégek a jelenlegi konstrukció szerint

are antithetical to the concept of reasoned discourse.

épp az ellenkezőjét valósítják meg az ésszerű párbeszédnek.

There's no way to reward listening,

Nincs mód elismerni az odafigyelést,

to encourage civil debate

bátorítani a civil párbeszédet,

megvédeni azokat, akik őszintén kérdezni akarnak,

and to protect people who sincerely want to ask questions

in a business where optimizing engagement and user growth

egy olyan vállalkozásban, ahol a siker két legfontosabb mutatója

are the two most important metrics for success.

a minél több felhasználó és aktivitás.

There's no incentive to help people slow down,

Nincs semmi ösztönző, ami segítene lelassulni,

to build in enough friction that people have to stop,

nincs az elegendő fék beépítésére, ami megállítaná az embereket,

hogy felismerjék saját érzelmi reakcióikat,

recognize their emotional reaction to something,

and question their own assumptions before engaging.

megkérdőjelezzék feltevéseiket, mielőtt cselekednének.

The unfortunate reality is:

Sajnos az a helyzet,

lies are more engaging online than truth,

hogy a hazugságok vonzóbbak az interneten, mint az igazság,

and salaciousness beats out wonky, fact-based reasoning

a szaftos történetek kiütik az ósdi, tényeken alapuló érvelést,

in a world optimized for frictionless virality.

egy olyan világban, ahol a féktelen terjesztés a legfontosabb.

As long as algorithms' goals are to keep us engaged,

Mindaddig, míg az algoritmusok célja, hogy aktívak legyünk,

they will continue to feed us the poison that plays to our worst instincts

továbbra is etetni fognak a méreggel, ami legrosszabb ösztöneinkre

and human weaknesses.

és az emberi gyengeségre hat.

And yes, anger, mistrust,

Igen, sem a düh, a bizalmatlanság,

se a félelem vagy a gyűlölet kultúrája

the culture of fear, hatred:

none of this is new in America.

nem újdonság Amerikában.

But in recent years, social media has harnessed all of that

Ám manapság a közösségi média kiaknázza mindezt,

és ahogy látom, jócskán fel is nagyítja.

and, as I see it, dramatically tipped the scales.

And Facebook knows it.

A Facebook tudja ezt.

A recent "Wall Street Journal" article

Egy, a Wall Street Journalban

exposed an internal Facebook presentation from 2018

nemrégiben megjelent cikk bemutatott egy 2018-as Facebook-prezentációt,

that specifically points to the companies' own algorithms

amely kimondottan a cégek saját algoritmusait okolja

for growing extremist groups' presence on their platform

a szélsőséges csoportok növekvő jelenlétéért a platformon,

and for polarizing their users.

és a felhasználók megosztottságáért.

But keeping us engaged is how they make their money.

De ők abból élnek, hogy minket megtartsanak aktívnak.

The modern information environment is crystallized around profiling us

A modern információs környezet úgy lett kialakítva, hogy megrajzolja profilunkat,

and then segmenting us into more and more narrow categories

és aztán egyre szűkebb kategóriákba soroljon be,

to perfect this personalization process.

hogy tökéletesítse a személyreszabást.

Olyan információkkal bombáz, amely megerősíti nézeteinket,

We're then bombarded with information confirming our views,

reinforcing our biases,

előítéleteinket,

and making us feel like we belong to something.

hogy úgy érezzük, tartozunk valahová.

These are the same tactics we would see terrorist recruiters

Ugyanezt a taktikát láthattuk alkalmazni a terroristák toborzásánál

using on vulnerable youth,

sérülékeny fiatalok körében,

albeit in smaller, more localized ways before social media,

bár kisebb, speciálisabb területen, még a közösségi média előtt,

with the ultimate goal of persuading their behavior.

azzal a végső céllal, hogy rábírják őket bizonyos cselekményekre.

Unfortunately, I was never empowered by Facebook to have an actual impact.

Sajnos a Facebook sosem adott lehetőséget, hogy valami érdemit tenni is tudjak.

In fact, on my second day, my title and job description were changed

Sőt, második munkanapomon megváltozott besorolásom és munkaköri leírásom,

and I was cut out of decision-making meetings.

és kizártak a döntéshozó megbeszélésekről.

My biggest efforts,

Legfőbb erőfeszítéseimet,

trying to build plans

hogy próbáljak terveket kidolgozni

to combat disinformation and voter suppression in political ads,

a félreinformálás, a politikai hírdetések nyomásgyakorlása ellen,

were rejected.

elgáncsolták.

And so I lasted just shy of six months.

Így alig hat hónapig tartottam ki.

But here is my biggest takeaway from my time there.

Legfőbb tanulságom ebből az időszakból:

There are thousands of people at Facebook

A Facebooknál ezrek vannak,

who are passionately working on a product

akik szenvedélyesen dolgoznak egy terméken,

that they truly believe makes the world a better place,

amelyről őszintén hiszik, hogy jobb hellyé teszi a világot,

ám mindaddig, míg a cég csupán a tartalomszabályozás

but as long as the company continues to merely tinker around the margins

of content policy and moderation,

és a moderálás peremén maszatol,

as opposed to considering

ahelyett, hogy átgondolná,

how the entire machine is designed and monetized,

hogyan van megtervezve és miként termel bevételt maga a gépezet,

they will never truly address how the platform is contributing

sosem fognak igazán azzal foglalkozni, hogy hogyan járul hozzá a platform

to hatred, division and radicalization.

a gyűlölethez, megosztottsághoz és a radikalizálódáshoz.

And that's the one conversation I never heard happen during my time there,

Erről sosem hallottam beszélgetni, amíg a Facebooknál voltam,

because that would require fundamentally accepting

mert ehhez alapvetően el kellett volna fogadni,

hogy amit létrehoztak, nem okvetlen a lehető legjobb a társadalomnak,

that the thing you built might not be the best thing for society

and agreeing to alter the entire product and profit model.

és egyetérteni abban, hogy változtatni kell a terméken és az üzleti modellen.

So what can we do about this?

Mit tehetünk hát az ügy érdekében?

I'm not saying that social media bears the sole responsibility

Nem állítom, hogy kizárólag a közösségi média lenne a felelős

for the state that we're in today.

a jelenlegi állapotokért.

Clearly, we have deep-seated societal issues that we need to solve.

Világos, hogy vannak mélyebben gyökerező, megoldandó társadalmi problémáink.

But Facebook's response, that it is just a mirror to society,

Ám a Facebook válasza, hogy ő csak tükröt tart a társadalomnak,

is a convenient attempt to deflect any responsibility

kényelmes kísérlet annak a felelősségnek az elhárítására,

from the way their platform is amplifying harmful content

hogy a platform felerősíti a káros tartalmakat,

and pushing some users towards extreme views.

és néhány felhasználót a szélsőségességbe taszít.

And Facebook could, if they wanted to,

Néhány problémát megoldhatna a Facebook,

fix some of this.

ha akarna.

They could stop amplifying and recommending the conspiracy theorists,

Megállíthatná az összeesküvés-elméletek terjesztését és felerősítését,

the hate groups, the purveyors of disinformation

a gyűlölködő csoportokat, a dezinformációt,

and, yes, in some cases even our president.

és igen, akár az elnökünkét is, bizonyos esetekben.

They could stop using the same personalization techniques

Megállíthatnák, hogy ugyanazokat a személyreszabási technikákat használják

to deliver political rhetoric that they use to sell us sneakers.

a poltikai beszédek ajánlásánál, mint a tornacipőkénél.

They could retrain their algorithms

Átírhatnák algoritmusaikat,

hogy ne az aktivitás legyen a legfőbb mérce, hanem valami más,

to focus on a metric other than engagement,

and they could build in guardrails to stop certain content from going viral

és gátakkal akadályozhatnák bizonyos tartalmak ellenőrzés nélküli

before being reviewed.

online terjedését.

And they could do all of this

Megtehetnék mindezt úgy,

without becoming what they call the arbiters of truth.

hogy ne váljanak az igazság döntőbírájává.

But they've made it clear that they will not go far enough

Egyértelművé tették, ha nem kényszerítik rá őket,

to do the right thing without being forced to,

nem mennek el ilyen messzire,

and, to be frank, why should they?

és – őszintén – miért is mennének?

A piac folyamatosan jutalmazza őket, és törvényt sem szegnek.

The markets keep rewarding them, and they're not breaking the law.

Because as it stands,

Jelenleg nincsenek törvények,

there are no US laws compelling Facebook, or any social media company,

amelyek kényszerítenék a Facebookot vagy más közösségimédia-céget,

to protect our public square,

hogy megvédjék nyilvános terünket,

demokráciánkat

our democracy

and even our elections.

vagy akár választásainkat.

We have ceded the decision-making on what rules to write and what to enforce

Nyereségközpontú internetes cégek vezetőinek engedtük át a döntést,

to the CEOs of for-profit internet companies.

hogy milyen szabályokra van szükség, és mit kell szankcionálni.

Is this what we want?

Tényleg ezt akarjuk?

A post-truth world where toxicity and tribalism

Egy igazságtól elfordult világban, ahol a kútmérgezés és a törzsi mentalitás

trump bridge-building and consensus-seeking?

legyűri a hídépítést és a konszenzus keresését?

I do remain optimistic that we still have more in common with each other

Továbbra is bizakodom, hogy több a közös bennünk,

than the current media and online environment portray,

mint amit a jelenlegi média és az online környezet megmutat.

and I do believe that having more perspective surface

Hiszem, hogy egy több szemléletet is kínáló felület

makes for a more robust and inclusive democracy.

befogadóbbá és erősebbé teszi a demokráciát.

But not the way it's happening right now.

De semmiképp nem úgy, ahogy most.

And it bears emphasizing, I do not want to kill off these companies.

Hangsúlyozom, nem tönkretenni akarom ezeket a cégeket.

I just want them held to a certain level of accountability,

Azt akarom, hogy bizonyos mértékben felelősek legyenek,

just like the rest of society.

ahogy a társadalom többi része is.

It is time for our governments to step up and do their jobs

Itt az idő, hogy kormányaink fellépjenek, és tegyék a dolgukat

of protecting our citizenry.

polgáraink védelmében.

And while there isn't one magical piece of legislation

Bár nincs egyetlen törvény,

that will fix this all,

ami mindent megoldana, de hiszem,

I do believe that governments can and must find the balance

hogy a kormányoknak lehetőségük és kötelességük megtalálni az egyensúlyt

between protecting free speech

a szólásszabadság biztosítása

and holding these platforms accountable for their effects on society.

és a társadalomi hatások miatti elszámoltathatóság között.

And they could do so in part by insisting on actual transparency

Ezt megtehetnék, ha ragaszkodnának a tényleges átláthatósághoz

around how these recommendation engines are working,

az ajánlómotorok működésében,

around how the curation, amplification and targeting are happening.

a válogatás, a felerősítés és a célbajuttatás tekintetében.

You see, I want these companies held accountable

Azt akarom, hogy a cégeknek felelősségük legyen,

de nem abban, hogy valaki álhíreket közöl,

not for if an individual posts misinformation

or extreme rhetoric,

vagy durván fogalmaz,

but for how their recommendation engines spread it,

hanem abban, ahogy ajánlómotoraik terjesztik az ilyeneket,

how their algorithms are steering people towards it,

algoritmusaik terelgetik az embereket az ilyenek felé,

and how their tools are used to target people with it.

eszközeik eljuttatják ezeket az emberekhez.

I tried to make change from within Facebook and failed,

Próbáltam ebben a Facebookon belül változást elérni, de nem sikerült.

and so I've been using my voice again for the past few years

így az utóbbi években újra

to continue sounding this alarm

fújom a riadót,

and hopefully inspire more people to demand this accountability.

és remélhetőleg sokakat ösztönzök arra, hogy követeljék az elszámoltathatóságot.

My message to you is simple:

Az üzenetem egyszerű:

pressure your government representatives

gyakoroljanak nyomást képviselőikre

to step up and stop ceding our public square to for-profit interests.

hogy avatkozzanak közbe, állítsák le a nyilvánosság profitcélú kihasználását.

Segítsenek barátaiknak, családjuknak megismerni,

Help educate your friends and family

about how they're being manipulated online.

hogyan manipulálják őket online.

Push yourselves to engage with people who aren't like-minded.

Lépjenek kapcsolatba olyanokkal, akik másképp gondolkodnak.

Make this issue a priority.

Élvezzen ez a dolog elsőbbséget.

We need a whole-society approach to fix this.

A teljes társadalom szemszögéből kell a problémát megközelíteni.

And my message to the leaders of my former employer Facebook is this:

Korábbi munkáltatómnak, a Facebooknak pedig azt üzenem:

right now, people are using your tools exactly as they were designed

most úgy használják az emberek ezt az eszközt, ahogy önök azt eltervezték,

to sow hatred, division and distrust,

hogy terjessze a gyűlöletet, megosztottságot és gyanakvást,

and you're not just allowing it, you are enabling it.

és önök ezt nemcsak tűrik, de elő is segítik.

And yes, there are lots of great stories

Igen, van sok nagyszerű történet

of positive things happening on your platform around the globe,

pozitív dolgokról is, ami platformjukon történik, szerte a világban.

but that doesn't make any of this OK.

de ettől még a többi nem lesz rendben.

And it's only getting worse as we're heading into our election,

És ez még csak rosszabb lesz, ahogy jönnek a válsztások,

and even more concerning,

és még ijesztőbb.

face our biggest potential crisis yet,

A legnagyobb lehetséges krízis még előttünk áll,

if the results aren't trusted, and if violence breaks out.

ha az eredményeket nem fogadják el, és erőszakra kerül a sor.

So when in 2021 you once again say, "We know we have to do better,"

Ha 2021-ben még egyszer azt mondják: “Tudjuk, ennél jobban kell csinálnunk”,

I want you to remember this moment,

akkor szeretném, ha felidéznék ezt a pillanatot,

because it's no longer just a few outlier voices.

mert már nem csupán pár hangadóról van szó.

Civil rights leaders, academics,

Polgárjogi vezetők, tudósok,

journalists, advertisers, your own employees,

újságírók, hirdetők, az önök alkalmazottai

are shouting from the rooftops

kürtölik világgá,

that your policies and your business practices

hogy politikájuk és üzleti gyakorlatuk

are harming people and democracy.

káros az emberekre és a demokráciára nézve.

You own your decisions,

A döntés az önöké,

but you can no longer say that you couldn't have seen it coming.

ám többé nem mondhatják, hogy erre nem számítottak.

Thank you.

Köszönöm.