How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Fordító: Eva Danko Lektor: Andi Vida

So, on April 23 of 2013,

2013. április 23-án

the Associated Press put out the following tweet on Twitter.

az Associated Press ezt tette közzé a Twitteren:

It said, "Breaking news:

"Friss hírek!

Two explosions at the White House

Két robbanás történt a Fehér Háznál,

and Barack Obama has been injured."

Barack Obama megsérült."

This tweet was retweeted 4,000 times in less than five minutes,

Ezt a tweetet öt percen belül 4000-en osztották meg,

and it went viral thereafter.

majd mindenfelé elterjedt az interneten.

Now, this tweet wasn't real news put out by the Associated Press.

Ezt a hírt valójában nem is az Associated Press tette közzé.

In fact it was false news, or fake news,

Valótlan hír volt, álhír,

that was propagated by Syrian hackers

szíriai hackerek terjesztették,

that had infiltrated the Associated Press Twitter handle.

akik beszivárogtak az Associated Press Twitterének kezelői felületére.

Their purpose was to disrupt society, but they disrupted much more.

A céljuk a társadalom megosztása volt, de sokkal több mindent romboltak le.

Because automated trading algorithms

Merthogy az automatizált kereskedő algoritmusok

immediately seized on the sentiment on this tweet,

azonnal fogták a tweetre adott érzelmi reakciókat,

and began trading based on the potential

és azon lehetőség alapján kezdtek kereskedni,

that the president of the United States had been injured or killed

hogy az Egyesült Államok elnöke megsérült vagy életét vesztette

in this explosion.

ebben a robbanásban.

And as they started tweeting,

Ahogy tweetelni kezdtek,

they immediately sent the stock market crashing,

a tőzsde nyomban összeomlott,

wiping out 140 billion dollars in equity value in a single day.

140 milliárd dollárnyi vételi értékű veszteséget okozva.

Robert Mueller, special counsel prosecutor in the United States,

Robert Mueller, az Egyesült Államok különleges ügyésze

issued indictments against three Russian companies

három orosz cég és 13 orosz magánszemély ellen

and 13 Russian individuals

emelt vádat azzal a címszóval,

on a conspiracy to defraud the United States

hogy összeesküvést szőttek az Egyesült Államok ellen,

by meddling in the 2016 presidential election.

és beavatkoztak a 2016-os elnökválasztásba.

And what this indictment tells as a story

Ez a vádirat számol be

is the story of the Internet Research Agency,

az Internet Research Agency történetéről,

the shadowy arm of the Kremlin on social media.

a Kreml által a háttérből működtetett trollgyárról.

During the presidential election alone,

Az Internet Agency csak az elnökválasztás idején

the Internet Agency's efforts

126 millió emberhez jutott el

reached 126 million people on Facebook in the United States,

Facebookon az Egyesült Államokban,

issued three million individual tweets

3 millió egyéni tweetet

and 43 hours' worth of YouTube content.

és 43 órányi YouTube tartalmat tett közzé.

All of which was fake --

Ez mind hamis volt

misinformation designed to sow discord in the US presidential election.

– félrevezető információk, amelyek célja viszályszítás volt a választások során.

A recent study by Oxford University

Az Oxfordi Egyetem egy újabb tanulmánya szerint

showed that in the recent Swedish elections,

a nemrégiben lezajlott svéd választások során

one third of all of the information spreading on social media

a közösségi médiában terjedő,

a választásokkal kapcsolatos híreknek mintegy harmada

about the election

was fake or misinformation.

hamis vagy félrevezető volt.

In addition, these types of social-media misinformation campaigns

Továbbá ezek a közösségi médiában terjedő, félrevezetésre épülő kampányok

can spread what has been called "genocidal propaganda,"

népirtó propagandaként működnek,

for instance against the Rohingya in Burma,

például a burmai rohingyák esetében is ez történt,

triggering mob killings in India.

Indiában lincseléseket idézve elő.

We studied fake news

Tanulmányoztuk az álhíreket,

and began studying it before it was a popular term.

már akkor elkezdtük ezt, mielőtt a kifejezés ismertté vált.

And we recently published the largest-ever longitudinal study

Márciusban pedig a Science magazin vezércikkében tettük közzé

of the spread of fake news online

a valaha készült legnagyobb

on the cover of "Science" in March of this year.

követéses jellegű kutatást az álhírek online terjedéséről.

We studied all of the verified true and false news stories

Tanulmányoztuk az összes hitelesítetten valós és álhírt,

that ever spread on Twitter,

amely valaha terjedt a Twitteren,

from its inception in 2006 to 2017.

annak 2006-os indulásától kezdve 2017-ig.

And when we studied this information,

Az információkat vizsgálva

we studied verified news stories

új, hitelesített híreket tanulmányoztunk,

that were verified by six independent fact-checking organizations.

amelyeket hat független tényvizsgáló szervezet ellenőrzött és igazolt.

So we knew which stories were true

Így tudtuk, mely történetek valósak,

and which stories were false.

melyek hamisak.

We can measure their diffusion,

Mérni tudjuk a terjedésüket,

the speed of their diffusion,

a terjedésük sebességét,

the depth and breadth of their diffusion,

milyen széles körben és mélységben terjednek,

how many people become entangled in this information cascade and so on.

hány ember keveredett bele ebbe az információ-zuhatagba és így tovább.

And what we did in this paper

Ebben a tanulmányban

was we compared the spread of true news to the spread of false news.

összehasonlítottuk az igaz és hamis hírek terjedésének sebességét.

And here's what we found.

Elmondom, mire jutottunk.

We found that false news diffused further, faster, deeper

Az álhírek minden általunk tanulmányozott kategóriában gyorsabban, szélesebb körben,

and more broadly than the truth

több megosztásban, messzebbre

in every category of information that we studied,

terjedtek, mint a valósak,

sometimes by an order of magnitude.

néha egy teljes nagyságrend különbséggel.

And in fact, false political news was the most viral.

A valóságban a hamis politikai hírek terjedtek a leggyorsabban.

It diffused further, faster, deeper and more broadly

Gyorsabban, messzebbre, több megosztásban,

than any other type of false news.

szélesebb körben terjedtek, mint bármilyen más típusú álhír.

When we saw this,

Egyszerre láttuk

we were at once worried but also curious.

ijesztőnek és érdekesnek is.

Why?

Miért?

Why does false news travel so much further, faster, deeper

Az álhírek miért terjednek messzebbre, gyorsabban, több megosztásban

and more broadly than the truth?

szélesebb körben, mint a valódiak?

The first hypothesis that we came up with was,

Az első feltevésünk ez volt:

"Well, maybe people who spread false news have more followers or follow more people,

"Nos, talán az álhírek terjesztőit többen követik, vagy ők többeket követnek,

or tweet more often,

esetleg gyakrabban tweetelnek,

or maybe they're more often 'verified' users of Twitter, with more credibility,

vagy talán többen is "ellenőrzött", megbízhatóbbnak tűnő Twitter-felhasználók,

or maybe they've been on Twitter longer."

esetleg régebb óta Twitter tagok."

So we checked each one of these in turn.

Ezek mindegyikét külön-külön megvizsgáltuk

And what we found was exactly the opposite.

– és pont az ellenkezőjére bukkantunk.

False-news spreaders had fewer followers,

Az álhírek terjesztőit kevesebben követték,

followed fewer people, were less active,

kevesebbeket követtek, kevésbé voltak aktívak,

less often "verified"

kevesebbszer "ellenőrzöttek",

and had been on Twitter for a shorter period of time.

és rövidebb ideje voltak Twitter felhasználók.

And yet,

Mégis, 70%-kal nagyobb valószínűséggel

false news was 70 percent more likely to be retweeted than the truth,

osztják meg az álhíreket, mint az igazakat,

controlling for all of these and many other factors.

ellenőrizve mindezeket, és más tényezőket is.

So we had to come up with other explanations.

Elő kellett hát állnunk valami más magyarázattal.

And we devised what we called a "novelty hypothesis."

Megalkottuk az elméletet, amit mi "újszerűség-felvetésnek" neveztünk.

So if you read the literature,

Ha olvassák a kapcsolódó szakirodalmat,

it is well known that human attention is drawn to novelty,

közismert, hogy az emberi figyelmet az újszerűség kelti fel,

things that are new in the environment.

olyan dolgok, amik újak a környezetben.

And if you read the sociology literature,

Ha olvassák a szociológiai szakirodalmat,

you know that we like to share novel information.

tudják, hogy szeretünk új információkat megosztani.

It makes us seem like we have access to inside information,

Úgy tűnünk általa, mintha bizalmas információk birtokában lennénk,

and we gain in status by spreading this kind of information.

és az effajta információk terjesztése révén felértékelődünk.

So what we did was we measured the novelty of an incoming true or false tweet,

Így aztán mérni kezdtük a bejövő valós és álhírek újdonságtartalmát

compared to the corpus of what that individual had seen

ahhoz a hírhalmazhoz képest, amit az egyén

in the 60 days prior on Twitter.

az azt megelőző hatvan napban látott a Twitteren.

But that wasn't enough, because we thought to ourselves,

Ám ez nem volt elég, mert magunkban azt gondoltuk:

"Well, maybe false news is more novel in an information-theoretic sense,

"Nos, talán információelméleti szempontból az álhírek inkább számítanak újdonságnak,

but maybe people don't perceive it as more novel."

de lehet, az emberek mégsem érzékelik újszerűbbnek."

So to understand people's perceptions of false news,

Ezért, hogy megértsük, hogyan fogadják be az emberek az álhíreket,

we looked at the information and the sentiment

megnéztük, milyen érzelmi reakciókat váltanak ki az emberekből

contained in the replies to true and false tweets.

az igaz és hamis tweetek.

And what we found

Úgy találtuk,

was that across a bunch of different measures of sentiment --

hogy a sokféle érzelmi reakció között –

surprise, disgust, fear, sadness,

meglepetés, undor, félelem, szomorúság,

anticipation, joy and trust --

várakozás, öröm és bizalom –

false news exhibited significantly more surprise and disgust

az álhírt tartalmazó tweetek esetében többször fordult elő

in the replies to false tweets.

meglepetés és undor.

And true news exhibited significantly more anticipation,

A valós híreket tartalmazó tweetekre pedig

joy and trust

inkább várakozással,

in reply to true tweets.

örömmel és bizalommal reagáltak.

The surprise corroborates our novelty hypothesis.

A meglepetés alátámasztja az "újszerűség-felvetésünket".

This is new and surprising, and so we're more likely to share it.

Új és meglepő, ezért sokkal valószínűbb, hogy megosztjuk.

At the same time, there was congressional testimony

Ezzel egy időben az Egyesült Államok kongresszusának

in front of both houses of Congress in the United States,

mindkét háza előtt meghallgatásokat tartottak,

looking at the role of bots in the spread of misinformation.

hogy fény derüljön a botok szerepére a félrevezető információk terjesztésében.

So we looked at this too --

Így ezt is tanulmányoztuk –

we used multiple sophisticated bot-detection algorithms

nagyon kifinomult bot-érzékelő algoritmust használtunk,

to find the bots in our data and to pull them out.

hogy az adatainkból kiszűrjük a botokat.

So we pulled them out, we put them back in

Eltávolítottuk őket, majd visszaraktuk,

and we compared what happens to our measurement.

hogy összehasonlítsuk, mi történik a méréseinkkel.

And what we found was that, yes indeed,

Úgy találtuk, hogy a botok valóban

bots were accelerating the spread of false news online,

felgyorsították az álhírek online terjedését,

but they were accelerating the spread of true news

ám nagyjából ugyanilyen sebességgel gyorsították fel

at approximately the same rate.

az igaz hírek terjedését is.

Which means bots are not responsible

Vagyis a botok nem játszanak szerepet abban,

for the differential diffusion of truth and falsity online.

hogy miért terjednek különböző sebességgel az igaz és az álhírek.

We can't abdicate that responsibility,

Nem tolhatjuk le magunkról a felelősséget,

because we, humans, are responsible for that spread.

mert mi, emberek vagyunk felelősek a terjesztésükért.

Now, everything that I have told you so far,

Na most, mindaz, amiről eddig meséltem,

unfortunately for all of us,

mindannyiunk szerencsétlenségére,

is the good news.

ez volt a jó hír.

The reason is because it's about to get a whole lot worse.

Miért? Mert ez az egész csak sokkal rosszabb lesz.

And two specific technologies are going to make it worse.

Két technológia fogja tovább rontani.

We are going to see the rise of a tremendous wave of synthetic media.

A szintetikus média nagyarányú térhódításának leszünk tanúi.

Fake video, fake audio that is very convincing to the human eye.

Hamis videók, hamis hanganyagok, ránézésre igen meggyőző minőségben.

And this will powered by two technologies.

Ezt két technológia fogja elősegíteni.

The first of these is known as "generative adversarial networks."

Először is ott az úgynevezett "generatív ellenséges hálózat".

This is a machine-learning model with two networks:

Ez egy gépi tanulási modell két hálózattal:

a discriminator,

van egy diszkriminátor,

whose job it is to determine whether something is true or false,

ennek a feladata eldönteni, hogy valami igaz-e vagy hamis,

and a generator,

és van a generátor,

whose job it is to generate synthetic media.

ennek az a dolga, hogy szintetikus médiát állítson elő.

So the synthetic generator generates synthetic video or audio,

Tehát a szintetikus generátor szintetikus videót vagy hanganyagot hoz létre,

and the discriminator tries to tell, "Is this real or is this fake?"

majd a diszkriminátor megpróbálja eldönteni, igaz-e vagy hamis a mű.

And in fact, it is the job of the generator

Tulajdonképp a generátor dolga mindent megtenni azért,

to maximize the likelihood that it will fool the discriminator

hogy átverje a diszkriminátort úgy,

into thinking the synthetic video and audio that it is creating

hogy az valódinak vélje a szintetikus videót

is actually true.

vagy hanganyagot, amit létrehozott.

Imagine a machine in a hyperloop,

Képzeljenek el egy hiperhurokban lévő gépet,

trying to get better and better at fooling us.

amely egyre ügyesebben próbál átverni bennünket.

This, combined with the second technology,

A másik technológiával kombinálva,

which is essentially the democratization of artificial intelligence to the people,

mely alapvetően hozzáférést ad a mesterséges intelligenciához,

vagyis lehetővé teszi bárkinek, hogy ezekkel az algoritmusokkal

the ability for anyone,

without any background in artificial intelligence

anélkül állítson elő szintetikus médiát,

or machine learning,

hogy bármit is tudna

to deploy these kinds of algorithms to generate synthetic media

a mesterséges intelligenciáról vagy a gépi tanulásról,

makes it ultimately so much easier to create videos.

ez végső soron sokkal jobban megkönnyíti videók létrehozását.

The White House issued a false, doctored video

A Fehér Ház közzétett egy hamis, megkozmetikázott videót,

of a journalist interacting with an intern who was trying to take his microphone.

amelyen egy gyakornok el akarja venni egy újságíró mikrofonját.

They removed frames from this video

Kivágtak képkockákat a videóból,

in order to make his actions seem more punchy.

hogy az egész ütősebbnek tűnjék.

And when videographers and stuntmen and women

Amikor videósokat és kaszkadőröket kérdeztek

were interviewed about this type of technique,

erről a fajta technikáról,

they said, "Yes, we use this in the movies all the time

azt mondták: "Igen, a mozifilmekben állandóan használjuk ezt a technikát,

to make our punches and kicks look more choppy and more aggressive."

hogy az ütések és rúgások sokkal hevesebbnek és vadabbnak tűnjenek."

They then put out this video

Közzétették ezt a videót,

and partly used it as justification

s részben igazolásként használták arra,

to revoke Jim Acosta, the reporter's, press pass

miért vonják vissza Jim Acosta újságíró

Fehér Ház-beli sajtóbelépőjét.

from the White House.

And CNN had to sue to have that press pass reinstated.

A CNN csak perben tudta visszaállíttatni ennek a sajtóbelépőnek az érvényességét.

There are about five different paths that I can think of that we can follow

Nagyjából ötféle lehetőség jut eszembe,

to try and address some of these very difficult problems today.

hogyan beszélhetnénk a jelen eme súlyos problémái közül néhányról.

Each one of them has promise,

Mindegyik ígéretes,

but each one of them has its own challenges.

de mindegyik kihívásokkal jár.

The first one is labeling.

Az egyik a feliratozás.

Think about it this way:

Csak gondoljanak arra,

when you go to the grocery store to buy food to consume,

amikor elmennek a boltba élelmiszert venni.

it's extensively labeled.

Minden agyon van címkézve.

You know how many calories it has,

Tudják, mennyi benne a kalória,

how much fat it contains --

mennyi a zsírtartalma –

and yet when we consume information, we have no labels whatsoever.

ám ha információkat fogadunk be, azt mindenféle címkézés nélkül tesszük.

What is contained in this information?

Mit tartalmaz ez az információ?

Is the source credible?

Megbízható a forrása?

Where is this information gathered from?

Honnan származik ez az információ?

We have none of that information

Ezek egyikét sem tudjuk,

when we are consuming information.

mikor informálódunk valamiről.

That is a potential avenue, but it comes with its challenges.

Ez egy lehetséges út, de kihívásokkal teli.

For instance, who gets to decide, in society, what's true and what's false?

Például ki döntse el a társadalmon belül, mi igaz, mi hamis?

Is it the governments?

A kormányaink?

Is it Facebook?

A Facebook?

Is it an independent consortium of fact-checkers?

Egy független, tényvalódiságot vizsgáló konzorcium?

And who's checking the fact-checkers?

És ki ellenőrzi a tények valódiságát ellenőrzőket?

Another potential avenue is incentives.

Egy másik lehetséges út az ösztönzés.

We know that during the US presidential election

Tudjuk, hogy az amerikai elnökválasztás alatt

there was a wave of misinformation that came from Macedonia

érkezett Makedóniából egy információhullám,

that didn't have any political motive

amelynek nem politikai,

but instead had an economic motive.

hanem gazdasági motivációja volt.

And this economic motive existed,

Ez a gazdasági motiváció azért létezhetett,

because false news travels so much farther, faster

mert az álhírek ennyivel messzebbre, gyorsabban,

and more deeply than the truth,

több megosztásba jutnak el, mint az igazak,

and you can earn advertising dollars as you garner eyeballs and attention

és ezekkel a fajta információkkal hirdetésből származó bevételre

with this type of information.

és figyelemre tehetnek szert.

But if we can depress the spread of this information,

Ám ha vissza tudnánk szorítani az ilyesfajta információk terjedését,

perhaps it would reduce the economic incentive

a gazdasági motiváció is kisebb lenne,

to produce it at all in the first place.

amiért az ilyen híreket elsősorban létrehozzák.

Third, we can think about regulation,

Egy harmadik lehetőség a szabályozás,

and certainly, we should think about this option.

és feltétlenül át kell gondolnunk ezt is.

In the United States, currently,

Jelenleg az Egyesült Államokban azt vizsgáljuk,

we are exploring what might happen if Facebook and others are regulated.

mi történne, ha a Facebookot és hasonlókat szabályoznánk.

While we should consider things like regulating political speech,

Bár meg kellene fontoljunk olyasmit, mint a politikai beszédek szabályozása:

labeling the fact that it's political speech,

jelölni a tényt, hogy politikai beszédről van szó,

making sure foreign actors can't fund political speech,

megakadályozni, hogy külföldi színészek politikai beszédeket finanszírozzanak,

it also has its own dangers.

ennek is megvannak a maga veszélyei.

For instance, Malaysia just instituted a six-year prison sentence

Például Malajziában most törvényesítették, hogy hat év börtönnel sújtható bárki,

for anyone found spreading misinformation.

akit hamis információk terjesztésén érnek.

And in authoritarian regimes,

A tekintélyelvű rezsimekben

these kinds of policies can be used to suppress minority opinions

az effajta törvénykezést a kisebbségi vélemény elnyomására lehet használni,

and to continue to extend repression.

és fokozni az elnyomást.

The fourth possible option is transparency.

A negyedik lehetőség az átláthatóság.

We want to know how do Facebook's algorithms work.

Tudni akarjuk, hogyan működik a Facebook algoritmusa.

How does the data combine with the algorithms

Hogyan "dolgozik össze" az adat és az algoritmus,

to produce the outcomes that we see?

hogy a végén ez legyen a végkimenetel?

We want them to open the kimono

Szeretnénk, ha lelepleznék

and show us exactly the inner workings of how Facebook is working.

a Facebook pontos belső működését.

And if we want to know social media's effect on society,

Ha tudni szeretnénk, milyen hatással van a társadalomra

we need scientists, researchers

a közösségi média, tudósokra, kutatókra

and others to have access to this kind of information.

van szükségünk, hogy hozzáférjünk az ilyesfajta információkhoz.

But at the same time,

Ugyanakkor azt is elvárjuk a Facebooktól,

we are asking Facebook to lock everything down,

hogy zárjon el mindent,

to keep all of the data secure.

tartsa biztonságban az adatokat.

So, Facebook and the other social media platforms

Így a Facebook és hasonló közösségi platformok azzal szembesülnek,

are facing what I call a transparency paradox.

amit én átláthatósági paradoxonnak nevezek.

We are asking them, at the same time,

Egyszerre kérjük,

to be open and transparent and, simultaneously secure.

hogy legyenek nyitottak és átláthatóak, és ezzel párhuzamosan biztonságosak.

This is a very difficult needle to thread,

Ezeknek nagyon nehéz egyszerre megfelelni,

but they will need to thread this needle

de valahogy meg kell felelniük,

if we are to achieve the promise of social technologies

ha megvalósítjuk a közösségi technológiák ígéretét,

while avoiding their peril.

miközben elkerüljük veszélyeiket.

The final thing that we could think about is algorithms and machine learning.

Végül számba vehetjük az algoritmusok és gépi tanulás nyújtotta lehetőségeit is.

Technology devised to root out and understand fake news, how it spreads,

Olyan technológia kell, mely képes feltárni és megérteni az álhíreket,

and to try and dampen its flow.

terjedésük módját, majd elfojtani azt.

Humans have to be in the loop of this technology,

Az embernek ott kell lennie ebben a technológiai megoldásban,

because we can never escape

mert tagadhatatlan,

that underlying any technological solution or approach

hogy amikor letesszük voksunkat egy technológiai megoldás mellett,

is a fundamental ethical and philosophical question

az alapvető filozófiai és etikai kérdéseket vet fel arról,

about how do we define truth and falsity,

hogyan definiáljuk az igazságot és valótlant,

to whom do we give the power to define truth and falsity

kinek adjuk a hatalmat, hogy ezeket meghatározza,

and which opinions are legitimate,

mely vélemények legitimek,

which type of speech should be allowed and so on.

mely típusú beszélyek legyenek engedélyezettek, és hasonlók.

Technology is not a solution for that.

A technológia nem nyújt erre megoldást.

Ethics and philosophy is a solution for that.

Erre az etika és a filozófia jelent megoldást.

Nearly every theory of human decision making,

Az emberi döntéshozatal, együttműködés és irányítás

human cooperation and human coordination

szinte minden nézetének középpontjában

has some sense of the truth at its core.

ott az igazság feltételezése.

But with the rise of fake news,

Ám az álhírek felemelkedésével,

the rise of fake video,

a hamisított videók

the rise of fake audio,

és hangfelvételek terjedésével

we are teetering on the brink of the end of reality,

a valóság végének peremén tántorgunk,

where we cannot tell what is real from what is fake.

ahol képtelenek vagyunk megkülönböztetni a valóságot a valótlanságtól.

And that's potentially incredibly dangerous.

Ez pedig valószínűleg hihetetlen veszélyes.

We have to be vigilant in defending the truth

Éberen kell óvnunk az igazságot

against misinformation.

a félrevezető információk ellen:

With our technologies, with our policies

műszaki megoldásokkal, szabályokkal

and, perhaps most importantly,

és – ami talán még fontosabb –,

with our own individual responsibilities,

egyéni felelősségvállalás,

decisions, behaviors and actions.

döntések, viselkedés és tettek révén.

Thank you very much.

Köszönöm szépen.

(Applause)

(Taps)