How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Vertaald door: Ruth Compernol Nagekeken door: Peter van de Ven

So, on April 23 of 2013,

Op 23 april 2013

the Associated Press put out the following tweet on Twitter.

plaatste de Associated Press de volgende tweet op Twitter:

It said, "Breaking news:

"Breaking news:

Two explosions at the White House

Twee explosies in het Witte Huis

and Barack Obama has been injured."

en Barack Obama is gewond."

This tweet was retweeted 4,000 times in less than five minutes,

Deze tweet werd 4000 keer geretweet in minder dan vijf minuten

and it went viral thereafter.

en ging daarna viraal.

Now, this tweet wasn't real news put out by the Associated Press.

De tweet was echter geen echt nieuws gepubliceerd door de Associated Press.

In fact it was false news, or fake news,

Het was nepnieuws, of 'fake news',

that was propagated by Syrian hackers

verspreid door Syrische hackers

that had infiltrated the Associated Press Twitter handle.

die de Twitter-account van de Associated Press hadden geïnfiltreerd.

Their purpose was to disrupt society, but they disrupted much more.

Ze wilden de samenleving ontwrichten, maar ze ontwrichtten veel meer dan dat.

Because automated trading algorithms

Omdat geautomatiseerde tradingalgoritmes

immediately seized on the sentiment on this tweet,

meteen reageerden op het sentiment dat door deze tweet ontstond

and began trading based on the potential

en begonnen te traden op de mogelijkheid

that the president of the United States had been injured or killed

dat de Amerikaanse president was gewond of gedood

in this explosion.

bij de explosie.

And as they started tweeting,

En toen ze begonnen te tweeten,

they immediately sent the stock market crashing,

crashte de aandelenmarkt meteen,

wiping out 140 billion dollars in equity value in a single day.

waardoor 140 miljard dollar aan aandelenwaarde verloren ging in een dag.

Robert Mueller, special counsel prosecutor in the United States,

Robert Mueller, speciaal procureur in de Verenigde Staten,

issued indictments against three Russian companies

klaagde drie Russische bedrijven aan

and 13 Russian individuals

en 13 Russische individuen

on a conspiracy to defraud the United States

voor een samenzwering om de Verenigde Staten schade te berokkenen

by meddling in the 2016 presidential election.

door inmenging in de presidentsverkiezingen van 2016.

And what this indictment tells as a story

Wat deze aanklacht ons vertelt,

is the story of the Internet Research Agency,

is het verhaal van het Internet Research Agency,

the shadowy arm of the Kremlin on social media.

de schimmige arm van het Kremlin op sociale media.

During the presidential election alone,

Alleen al tijdens de presidentsverkiezingen

the Internet Agency's efforts

bereikte het Internet Research Agency

reached 126 million people on Facebook in the United States,

126 miljoen Facebook-leden in de Verenigde Staten,

issued three million individual tweets

publiceerde het drie miljoen individuele tweets

and 43 hours' worth of YouTube content.

en 43 uur YouTube-materiaal.

All of which was fake --

Allemaal nepinformatie

misinformation designed to sow discord in the US presidential election.

bedoeld om onenigheid te zaaien in de Amerikaanse presidentsverkiezingen.

A recent study by Oxford University

Een recente studie van Oxford University

showed that in the recent Swedish elections,

toonde aan dat in de recente Zweedse verkiezingen

one third of all of the information spreading on social media

een derde van alle informatie die verspreid werd op sociale media

about the election

over de verkiezingen

was fake or misinformation.

nepnieuws of desinformatie was.

In addition, these types of social-media misinformation campaigns

Bovendien kunnen dit soort misleidende campagnes op sociale media

can spread what has been called "genocidal propaganda,"

ook zogenaamde 'genocidepropaganda' verspreiden,

for instance against the Rohingya in Burma,

zoals tegen de Rohingya in Burma,

triggering mob killings in India.

wat moordpartijen veroorzaakte in India.

We studied fake news

We begonnen nepnieuws te onderzoeken

and began studying it before it was a popular term.

voor het een populaire term werd.

And we recently published the largest-ever longitudinal study

En onlangs publiceerden we het grootste longitudinaal onderzoek ooit

of the spread of fake news online

over de verspreiding van nepnieuws online

on the cover of "Science" in March of this year.

op de cover van Science in maart dit jaar.

We studied all of the verified true and false news stories

We onderzochten alle geverifieerde echte en onechte nieuwsverhalen

that ever spread on Twitter,

ooit verspreid via Twitter

from its inception in 2006 to 2017.

vanaf de oprichting in 2006, tot 2017.

And when we studied this information,

En toen we deze informatie onderzochten,

we studied verified news stories

bestudeerden we nieuwsverhalen

that were verified by six independent fact-checking organizations.

die geverifieerd waren door zes onafhankelijke fact-checkers.

So we knew which stories were true

Dus we wisten welke verhalen waar waren

and which stories were false.

en welke onwaar.

We can measure their diffusion,

We kunnen hun verspreiding meten,

the speed of their diffusion,

de snelheid van de verspreiding,

the depth and breadth of their diffusion,

alsook de diepte en breedte ervan,

how many people become entangled in this information cascade and so on.

hoeveel mensen betrokken raakten bij de informatiecascade, enzovoort.

And what we did in this paper

In onze paper

was we compared the spread of true news to the spread of false news.

vergeleken we de verspreiding van echt nieuws met onecht nieuws.

And here's what we found.

Dit waren de resultaten.

We found that false news diffused further, faster, deeper

We stelden vast dat nepnieuws zich verder, sneller, dieper

and more broadly than the truth

en breder verspreidt dan de waarheid

in every category of information that we studied,

in elke categorie van informatie die we bestudeerden,

sometimes by an order of magnitude.

soms met een grootteorde verschil.

And in fact, false political news was the most viral.

En politiek nepnieuws ging het meest viraal.

It diffused further, faster, deeper and more broadly

Het verspreidde zich verder, sneller, dieper en breder

than any other type of false news.

dan eender welk ander type nepnieuws.

When we saw this,

Toen we dit zagen,

we were at once worried but also curious.

waren we ongerust, maar ook nieuwsgierig.

Why?

Waarom?

Why does false news travel so much further, faster, deeper

Waarom verspreidt nepnieuws zich zoveel verder, sneller, dieper

and more broadly than the truth?

en breder dan de waarheid?

The first hypothesis that we came up with was,

Onze eerste hypothese was:

"Well, maybe people who spread false news have more followers or follow more people,

misschien hebben de verspreiders ervan meer volgers of volgen ze zelf meer mensen

or tweet more often,

of misschien tweeten ze vaker;

or maybe they're more often 'verified' users of Twitter, with more credibility,

misschien zijn het vaker 'geverifieerde' Twitteraars, die geloofwaardiger zijn,

or maybe they've been on Twitter longer."

of misschien gebruiken ze Twitter al langer.

So we checked each one of these in turn.

Dus we gingen elk van deze hypotheses na.

And what we found was exactly the opposite.

En wat we ontdekten, was net het omgekeerde.

False-news spreaders had fewer followers,

Verspreiders van nepnieuws hadden minder volgers,

followed fewer people, were less active,

volgden minder anderen, waren minder actief,

less often "verified"

minder vaak 'geverifieerd'

and had been on Twitter for a shorter period of time.

en gebruikten Twitter nog niet zo lang.

And yet,

En toch

false news was 70 percent more likely to be retweeted than the truth,

had nepnieuws 70 procent meer kans om geretweet te worden dan de waarheid,

controlling for all of these and many other factors.

na correctie voor al deze en nog veel andere factoren.

So we had to come up with other explanations.

Dus we moesten op zoek naar andere verklaringen.

And we devised what we called a "novelty hypothesis."

En we bedachten de zogenaamde 'nieuwheidshypothese'.

So if you read the literature,

Als je de literatuur erop naleest,

it is well known that human attention is drawn to novelty,

weet je dat de menselijke aandacht wordt getrokken door al wat nieuw is,

things that are new in the environment.

nieuwe dingen in de omgeving.

And if you read the sociology literature,

Volg je de sociologische literatuur,

you know that we like to share novel information.

dan weet je dat we graag nieuwe informatie met elkaar delen.

It makes us seem like we have access to inside information,

Zo krijgen anderen de indruk dat we toegang hebben tot inside-informatie,

and we gain in status by spreading this kind of information.

en we krijgen meer status door dit soort informatie te delen.

So what we did was we measured the novelty of an incoming true or false tweet,

Dus we maten de nieuwheid van een binnenkomende echte of onechte tweet

compared to the corpus of what that individual had seen

en vergeleken die met alles wat die persoon had gezien

in the 60 days prior on Twitter.

de 60 dagen daarvoor op Twitter.

But that wasn't enough, because we thought to ourselves,

Maar dat volstond niet, want we dachten:

"Well, maybe false news is more novel in an information-theoretic sense,

misschien is nepnieuws nieuwer in theoretisch opzicht,

but maybe people don't perceive it as more novel."

maar dat betekent nog niet dat men het als nieuwer ervaart.

So to understand people's perceptions of false news,

Dus om mensen hun perceptie van nepnieuws te begrijpen,

we looked at the information and the sentiment

bekeken we de informatie en het sentiment

contained in the replies to true and false tweets.

die vervat zaten in de reacties op echte en onechte tweets.

And what we found

En we ontdekten

was that across a bunch of different measures of sentiment --

op het vlak van verschillende sentimenten,

surprise, disgust, fear, sadness,

zoals verrassing, walging, angst, verdriet,

anticipation, joy and trust --

anticipatie, vreugde en vertrouwen,

false news exhibited significantly more surprise and disgust

dat er aanzienlijk meer sprake was van verrassing en walging

in the replies to false tweets.

in de reacties op onechte tweets.

And true news exhibited significantly more anticipation,

Terwijl er bij echt nieuws aanzienlijk meer anticipatie,

joy and trust

vreugde en vertrouwen

in reply to true tweets.

werden vastgesteld in de reacties op echte tweets.

The surprise corroborates our novelty hypothesis.

De verrassing bevestigt onze nieuwheidshypothese.

This is new and surprising, and so we're more likely to share it.

Dit is nieuw en verrassend, dus er is meer kans dat we het delen.

At the same time, there was congressional testimony

In diezelfde periode was er een getuigenis in het congres,

in front of both houses of Congress in the United States,

voor de beide kamers van het congres in de Verenigde Staten,

looking at the role of bots in the spread of misinformation.

waarbij de rol van robots werd onderzocht in de verspreiding van desinformatie.

So we looked at this too --

Dus dat bekeken we ook.

we used multiple sophisticated bot-detection algorithms

We gebruikten verschillende verfijnde algoritmes voor robotdetectie

to find the bots in our data and to pull them out.

om de robots op te sporen en uit onze data te filteren.

So we pulled them out, we put them back in

Dus we filterden ze eruit, staken ze er opnieuw in

and we compared what happens to our measurement.

en vergeleken wat er gebeurde met onze metingen.

And what we found was that, yes indeed,

En we ontdekten dat, inderdaad,

bots were accelerating the spread of false news online,

robots voor een snellere verspreiding van online nepnieuws zorgden,

but they were accelerating the spread of true news

maar ook voor een snellere verspreiding van echt nieuws

at approximately the same rate.

tegen ongeveer dezelfde snelheid.

Which means bots are not responsible

Dat betekent dus dat robots niet verantwoordelijk zijn

for the differential diffusion of truth and falsity online.

voor het verschil in de verspreiding tussen waarheid en onwaarheid online.

We can't abdicate that responsibility,

Dus die verantwoordelijkheid kunnen we niet afwimpelen,

because we, humans, are responsible for that spread.

want het zijn wij, mensen, die er verantwoordelijk voor zijn.

Now, everything that I have told you so far,

Wat ik jullie tot nu toe heb verteld is,

unfortunately for all of us,

spijtig genoeg voor elk van ons,

is the good news.

het goede nieuws.

The reason is because it's about to get a whole lot worse.

Het wordt nog een pak erger.

And two specific technologies are going to make it worse.

En twee specifieke technologieën zullen het erger maken.

We are going to see the rise of a tremendous wave of synthetic media.

We zullen een grote golf van kunstmatige media meemaken.

Fake video, fake audio that is very convincing to the human eye.

Fake video's en fake audiomateriaal die heel overtuigend overkomen.

And this will powered by two technologies.

En dit zal aangedreven worden door twee technologieën.

The first of these is known as "generative adversarial networks."

Ten eerste zijn er de 'generative adversarial networks'.

This is a machine-learning model with two networks:

Een model van 'machine learning' met twee netwerken:

a discriminator,

een discriminator,

whose job it is to determine whether something is true or false,

wiens taak het is om te bepalen of iets waar of onwaar is,

and a generator,

en een generator,

whose job it is to generate synthetic media.

wiens taak het is om kunstmatige media te genereren.

So the synthetic generator generates synthetic video or audio,

Dus de generator creëert kunstmatig video- of audiomateriaal

and the discriminator tries to tell, "Is this real or is this fake?"

en de discriminator probeert te achterhalen: is dit echt of fake?

And in fact, it is the job of the generator

En in feite is het de taak van de generator

to maximize the likelihood that it will fool the discriminator

om de geloofwaardigheid zó op te drijven dat de discriminator erin trapt

into thinking the synthetic video and audio that it is creating

en denkt dat het kunstmatig gecreëerde video- of audiomateriaal

is actually true.

inderdaad echt is.

Imagine a machine in a hyperloop,

Stel je een machine in een hyperloop voor,

trying to get better and better at fooling us.

die probeert om ons steeds beter te bedotten.

This, combined with the second technology,

Dit, in combinatie met een tweede technologie,

which is essentially the democratization of artificial intelligence to the people,

die hoofdzakelijk uit de democratisering van kunstmatige intelligentie bestaat,

the ability for anyone,

het feit dat iedereen de kans heeft

without any background in artificial intelligence

om zonder enige achtergrond in kunstmatige intelligentie

or machine learning,

of machine learning

to deploy these kinds of algorithms to generate synthetic media

dergelijke algoritmes te gebruiken om kunstmatige media te genereren,

makes it ultimately so much easier to create videos.

maakt het zoveel gemakkelijker om video's te creëren.

The White House issued a false, doctored video

Het Witte Huis publiceerde een vervalste, gemanipuleerde video

of a journalist interacting with an intern who was trying to take his microphone.

van een journalist en een stagiair die zijn micro probeerde af te pakken.

They removed frames from this video

Er werden frames uit de video verwijderd,

in order to make his actions seem more punchy.

zodat zijn handelingen er bruusker zouden uitzien.

And when videographers and stuntmen and women

En toen cameramannen, stuntmannen en stuntvrouwen

were interviewed about this type of technique,

werden ondervraagd over deze techniek,

they said, "Yes, we use this in the movies all the time

zeiden ze: "Natuurlijk, we gebruiken dit constant in films,

to make our punches and kicks look more choppy and more aggressive."

zodat de slagen en trappen er ruwer en agressiever uitzien."

They then put out this video

Daarna werd deze video gepubliceerd

and partly used it as justification

en deels gebruikt als rechtvaardiging

to revoke Jim Acosta, the reporter's, press pass

om de perskaart van journalist Jim Acosta te herroepen

from the White House.

voor het Witte Huis.

And CNN had to sue to have that press pass reinstated.

En CNN moest een proces aangaan om die perskaart terug te krijgen.

There are about five different paths that I can think of that we can follow

Er zijn ongeveer vijf verschillende richtingen die we kunnen uitgaan

to try and address some of these very difficult problems today.

om enkele van de moeilijke problemen van vandaag aan te pakken.

Each one of them has promise,

Elk daarvan heeft zijn voordelen,

but each one of them has its own challenges.

maar ook zijn nadelen.

The first one is labeling.

De eerste is die van het labelen.

Think about it this way:

Stel het je zo voor:

when you go to the grocery store to buy food to consume,

als je naar de winkel gaat om eten te kopen,

it's extensively labeled.

dan is alles uitgebreid gelabeld.

You know how many calories it has,

Je weet hoeveel calorieën iets bevat

how much fat it contains --

en hoeveel vet,

and yet when we consume information, we have no labels whatsoever.

maar als we informatie consumeren,

moeten we het zonder dergelijke labels doen.

What is contained in this information?

Welke inhoud bevat deze informatie?

Is the source credible?

Is de bron geloofwaardig?

Where is this information gathered from?

Waar werd de informatie vandaan gehaald?

We have none of that information

Daarover weten we niets

when we are consuming information.

wanneer we informatie consumeren.

That is a potential avenue, but it comes with its challenges.

Dit is een mogelijke denkpiste, maar er zijn ook uitdagingen.

For instance, who gets to decide, in society, what's true and what's false?

Bijvoorbeeld: wie in onze samenleving mag beslissen wat waar of onwaar is?

Is it the governments?

De overheid?

Is it Facebook?

Facebook?

Is it an independent consortium of fact-checkers?

Een onafhankelijk consortium van fact-checkers?

And who's checking the fact-checkers?

En wie controleert dan de fact-checkers?

Another potential avenue is incentives.

Een andere denkpiste zijn incentives.

We know that during the US presidential election

Tijdens de Amerikaanse presidentsverkiezingen

there was a wave of misinformation that came from Macedonia

was er een stroom van desinformatie afkomstig uit Macedonië

that didn't have any political motive

waar geen politieke motieven achter zaten

but instead had an economic motive.

maar wel economische motieven.

And this economic motive existed,

En deze economische motieven bestonden

because false news travels so much farther, faster

omdat nepnieuws zich zoveel sneller, verder

and more deeply than the truth,

en dieper verspreidt dan de waarheid,

and you can earn advertising dollars as you garner eyeballs and attention

en je kan reclamedollars verdienen door kijkers en aandacht te trekken

with this type of information.

met dit soort informatie.

But if we can depress the spread of this information,

Maar als we de verspreiding ervan kunnen temperen,

perhaps it would reduce the economic incentive

zou dit misschien ook de economische motieven verminderen

to produce it at all in the first place.

om het in de eerste plaats te produceren.

Third, we can think about regulation,

Ten derde kunnen we nadenken over regelgeving

and certainly, we should think about this option.

en deze optie moeten we inderdaad overwegen.

In the United States, currently,

In de Verenigde Staten zijn we nu aan het onderzoeken

we are exploring what might happen if Facebook and others are regulated.

wat er kan gebeuren als Facebook en co gereguleerd worden.

While we should consider things like regulating political speech,

Ook al zouden we het reguleren van politieke uitspraken moeten overwegen,

labeling the fact that it's political speech,

en ze labelen als 'politieke uitspraken'

making sure foreign actors can't fund political speech,

zodat buitenlandse actoren dit soort inhoud niet kunnen financieren,

it also has its own dangers.

dan nog is dit niet zonder risico's.

For instance, Malaysia just instituted a six-year prison sentence

Zo heeft Maleisië net een gevangenisstraf van zes jaar ingevoerd

for anyone found spreading misinformation.

voor iedereen die desinformatie verspreidt.

And in authoritarian regimes,

En autoritaire regimes

these kinds of policies can be used to suppress minority opinions

kunnen dit soort maatregelen gebruiken om minderheidsstandpunten de mond te snoeren

and to continue to extend repression.

en steeds repressiever op te treden.

The fourth possible option is transparency.

De vierde mogelijkheid is transparantie.

We want to know how do Facebook's algorithms work.

We willen weten hoe de algoritmes van Facebook werken.

How does the data combine with the algorithms

Hoe wordt de data gecombineerd met algoritmes

to produce the outcomes that we see?

om tot de resultaten te komen die we te zien krijgen?

We want them to open the kimono

We willen dat ze hun kimono openen

and show us exactly the inner workings of how Facebook is working.

en ons laten meekijken achter de schermen, zodat we weten hoe Facebook precies werkt.

And if we want to know social media's effect on society,

Om de maatschappelijke impact van sociale media te kennen,

we need scientists, researchers

moeten wetenschappers, onderzoekers

and others to have access to this kind of information.

en anderen toegang krijgen tot deze informatie.

But at the same time,

Maar tegelijkertijd

we are asking Facebook to lock everything down,

vragen we Facebook om alles hermetisch af te sluiten

to keep all of the data secure.

zodat alle data veilig wordt bewaard.

So, Facebook and the other social media platforms

Dus Facebook en andere socialemediaplatformen

are facing what I call a transparency paradox.

staan voor wat ik een transparantieparadox zou noemen.

We are asking them, at the same time,

We vragen hen tegelijkertijd

to be open and transparent and, simultaneously secure.

om open en transparant te zijn én om veilig te zijn.

This is a very difficult needle to thread,

Dit is een hele moeilijke oefening,

but they will need to thread this needle

maar ze zullen een oplossing moeten vinden

if we are to achieve the promise of social technologies

als we willen profiteren van de voordelen van sociale technologieën

while avoiding their peril.

zonder de risico's erbij te nemen.

The final thing that we could think about is algorithms and machine learning.

Een laatste denkpiste, dat zijn algoritmes en machine learning:

Technology devised to root out and understand fake news, how it spreads,

technologie om nepnieuws uit te roeien, de verspreiding ervan te begrijpen,

and to try and dampen its flow.

en de creatie ervan aan banden te leggen.

Humans have to be in the loop of this technology,

Mensen moeten op de hoogte zijn van deze technologie,

because we can never escape

omdat we nooit kunnen ontsnappen aan het feit

that underlying any technological solution or approach

dat onder elke technologische oplossing of aanpak

is a fundamental ethical and philosophical question

een fundamenteel ethische en filosofische kwestie ligt

about how do we define truth and falsity,

over hoe we 'waarheid' en 'onwaarheid' definiëren,

to whom do we give the power to define truth and falsity

aan wie we de macht geven om dit te definiëren,

and which opinions are legitimate,

en welke standpunten legitiem zijn,

which type of speech should be allowed and so on.

welke uitdrukkingsvormen moeten worden toegelaten, enzovoort.

Technology is not a solution for that.

Daarvoor biedt technologie geen oplossing.

Ethics and philosophy is a solution for that.

Ethiek en filosofie doen dat wel.

Nearly every theory of human decision making,

Bijna elke theorie over menselijke besluitvorming,

human cooperation and human coordination

menselijke samenwerking en coördinatie

has some sense of the truth at its core.

bevat in de kern een deel van de waarheid.

But with the rise of fake news,

Maar de toename van nepnieuws,

the rise of fake video,

nepvideo's

the rise of fake audio,

en audiomateriaal

we are teetering on the brink of the end of reality,

doet ons wankelen op de rand van de werkelijkheid,

where we cannot tell what is real from what is fake.

waar we niet meer in staat zijn om 'waar' van 'onwaar' te onderscheiden.

And that's potentially incredibly dangerous.

En dat kan heel gevaarlijk zijn.

We have to be vigilant in defending the truth

We moeten waakzaam zijn en de waarheid beschermen

against misinformation.

tegen desinformatie.

With our technologies, with our policies

Met onze technologieën, ons beleid,

and, perhaps most importantly,

en, misschien nog belangrijker,

with our own individual responsibilities,

met onze individuele verantwoordelijkheden,

decisions, behaviors and actions.

beslissingen, gedragingen en handelingen.

Thank you very much.

Bedankt.

(Applause)

(Applaus)