How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Traducteur: Morgane Quilfen Relecteur: Claire Ghyselen

So, on April 23 of 2013,

Le 23 avril 2013,

the Associated Press put out the following tweet on Twitter.

l'Associated Press a publié le tweet suivant sur Twitter.

It said, "Breaking news:

Il disait : « Flash info :

Two explosions at the White House

deux explosions à la Maison-Blanche

and Barack Obama has been injured."

et Barack Obama a été blessé. »

This tweet was retweeted 4,000 times in less than five minutes,

Ce tweet a été retweeté 4 000 fois en moins de cinq minutes

and it went viral thereafter.

et est ensuite devenu viral.

Now, this tweet wasn't real news put out by the Associated Press.

Ce tweet n'était pas une vraie info publiée par l'Associated Press.

In fact it was false news, or fake news,

C'était une fausse info, ou une infox,

that was propagated by Syrian hackers

qui a été propagée par des pirates syriens

that had infiltrated the Associated Press Twitter handle.

qui avaient piraté le compte de l'Associated Press sur Twitter.

Their purpose was to disrupt society, but they disrupted much more.

Leur objectif était de perturber la société,

mais ils ont perturbé bien plus que cela.

Because automated trading algorithms

Car les algorithmes automatisés de trading

immediately seized on the sentiment on this tweet,

ont immédiatement saisi le sentiment de ce tweet

and began trading based on the potential

et ont commencé à faire des opérations basées sur la possibilité

that the president of the United States had been injured or killed

que le président des États-Unis ait été blessé ou tué

in this explosion.

dans une explosion.

And as they started tweeting,

Alors qu'ils ont commencé à tweeter,

they immediately sent the stock market crashing,

ils ont immédiatement causé l’écroulement du cours de la bourse,

wiping out 140 billion dollars in equity value in a single day.

anéantissant 140 milliards de dollars de valeur de fonds propres en un jour.

Robert Mueller, special counsel prosecutor in the United States,

Robert Mueller, procureur spécial aux États-Unis,

issued indictments against three Russian companies

a prononcé des chefs d'accusation contre trois entreprises russes

and 13 Russian individuals

et 13 ressortissants russes

on a conspiracy to defraud the United States

au sujet d'un complot pour escroquer les États-Unis

by meddling in the 2016 presidential election.

via une ingérence durant les élections présidentielles de 2016.

And what this indictment tells as a story

L'histoire que raconte ce chef d'accusation

is the story of the Internet Research Agency,

est celle de l'Internet Research Agency,

the shadowy arm of the Kremlin on social media.

le bras armé du Kremlin sur les réseaux sociaux.

During the presidential election alone,

Durant les élections présidentielles uniquement,

the Internet Agency's efforts

les efforts de l'Internet Agency

reached 126 million people on Facebook in the United States,

ont touché 126 millions de personnes sur Facebook aux États-Unis,

issued three million individual tweets

ont publié trois millions de tweets

and 43 hours' worth of YouTube content.

et 43 heures de contenu sur YouTube.

All of which was fake --

Tout cela était faux --

misinformation designed to sow discord in the US presidential election.

de la désinformation conçue pour semer la discorde

au sein des élections présidentielles américaines.

A recent study by Oxford University

Une étude récente de l'université d'Oxford

showed that in the recent Swedish elections,

a montré que durant les récentes élections suédoises,

one third of all of the information spreading on social media

un tiers de toutes les informations se propageant sur les réseaux sociaux

about the election

au sujet des élections

was fake or misinformation.

étaient fausses ou de la désinformation.

In addition, these types of social-media misinformation campaigns

De plus, ce genre de campagne de désinformation sur les réseaux sociaux

can spread what has been called "genocidal propaganda,"

peut propager ce qu’on en est venu à appeler de la « propagande génocidaire »,

for instance against the Rohingya in Burma,

par exemple contre les Rohingyas en Birmanie,

triggering mob killings in India.

ou entraînant des massacres collectifs en Inde.

We studied fake news

Nous avons étudié l'infox

and began studying it before it was a popular term.

et avons commencé à l'étudier avant que ce ne soit un terme populaire.

And we recently published the largest-ever longitudinal study

Nous avons récemment publié la plus longue étude longitudinale qui soit

of the spread of fake news online

sur la propagation de l'infox en ligne

on the cover of "Science" in March of this year.

en couverture de « Science » en mars cette année.

We studied all of the verified true and false news stories

Nous avons étudié toutes les infos confirmées comme étant vraies ou fausses

that ever spread on Twitter,

qui se sont propagées sur Twitter,

from its inception in 2006 to 2017.

depuis son lancement en 2006 jusqu'à 2017.

And when we studied this information,

Quand nous avons étudié ces informations,

we studied verified news stories

nous avons étudié des informations

that were verified by six independent fact-checking organizations.

qui avaient été vérifiées

par six organisations de vérification indépendantes.

So we knew which stories were true

Nous savions donc quelles informations étaient vraies

and which stories were false.

et quelles informations étaient fausses.

We can measure their diffusion,

Nous pouvons mesurer leur diffusion,

the speed of their diffusion,

la vitesse de leur diffusion,

the depth and breadth of their diffusion,

la portée et l'ampleur de leur diffusion,

how many people become entangled in this information cascade and so on.

combien de gens se sont empêtrés dans cette cascade d'informations, etc.

And what we did in this paper

Dans cette publication,

was we compared the spread of true news to the spread of false news.

nous avons comparé la propagation d'informations vraies et d'infox.

And here's what we found.

Voici ce que nous avons découvert.

We found that false news diffused further, faster, deeper

Nous avons découvert

que l'infox se diffusait plus loin, plus vite, plus profondément

and more broadly than the truth

et plus largement que la vérité

in every category of information that we studied,

dans chacune des catégories d'informations que nous avons étudiées,

sometimes by an order of magnitude.

la différence étant parfois d'un ordre de grandeur.

And in fact, false political news was the most viral.

Les infox politiques étaient les plus virales.

It diffused further, faster, deeper and more broadly

Elles se diffusaient plus loin, vite, profondément et largement

than any other type of false news.

que n'importe quel autre type d'infox.

When we saw this,

Quand nous avons vu cela,

we were at once worried but also curious.

nous étions à la fois inquiets mais aussi curieux.

Why?

Pourquoi ?

Why does false news travel so much further, faster, deeper

Pourquoi est-ce que l'infox circule tellement plus loin, vite, profondément

and more broadly than the truth?

et largement que la vérité ?

The first hypothesis that we came up with was,

Notre première hypothèse était :

"Well, maybe people who spread false news have more followers or follow more people,

« Peut-être que les gens diffusant de l'infox

ont plus de suiveurs ou suivent plus de monde,

or tweet more often,

tweetent plus souvent,

or maybe they're more often 'verified' users of Twitter, with more credibility,

peut-être sont-ils plus souvent des utilisateurs « vérifiés » de Twitter,

avec plus de crédibilité,

or maybe they've been on Twitter longer."

ou sont-ils là depuis plus longtemps. »

So we checked each one of these in turn.

Nous avons vérifié chacune de ces hypothèses.

And what we found was exactly the opposite.

Nous avons découvert exactement le contraire.

False-news spreaders had fewer followers,

Les diffuseurs d'infox avaient moins de suiveurs,

followed fewer people, were less active,

suivaient moins de gens, étaient moins actifs,

less often "verified"

moins souvent « vérifiés »

and had been on Twitter for a shorter period of time.

et étaient sur Twitter depuis moins longtemps.

And yet,

Et pourtant,

false news was 70 percent more likely to be retweeted than the truth,

les infox avaient 70% de probabilités de plus

d'être retweetées par rapport à la vérité,

controlling for all of these and many other factors.

en contrôlant ces facteurs et de nombreux autres.

So we had to come up with other explanations.

Nous devions trouver d'autres explications.

And we devised what we called a "novelty hypothesis."

Nous avons formulé

ce que nous avons appelé « l'hypothèse de la nouveauté ».

So if you read the literature,

Si vous lisez la littérature,

it is well known that human attention is drawn to novelty,

il est bien connu que l'attention humaine est attirée par la nouveauté,

things that are new in the environment.

les choses nouvelles dans l'environnement.

And if you read the sociology literature,

Si vous lisez la littérature sociologique,

you know that we like to share novel information.

vous savez que nous aimons partager des informations nouvelles.

It makes us seem like we have access to inside information,

Cela nous donne l'impression d'avoir un accès privilégié à des informations

and we gain in status by spreading this kind of information.

et nous gagnons en statut en diffusant ce genre d'informations.

So what we did was we measured the novelty of an incoming true or false tweet,

Nous avons alors mesuré la nouveauté d'un tweet, qu'il soit vrai ou faux,

compared to the corpus of what that individual had seen

l'avons comparé au corpus de ce que l'individu avait vu

in the 60 days prior on Twitter.

sur Twitter les 60 derniers jours.

But that wasn't enough, because we thought to ourselves,

Mais cela ne suffisait pas car nous avons pensé :

"Well, maybe false news is more novel in an information-theoretic sense,

« Peut-être que l'infox représente plus de nouveauté

dans un sens théorique,

but maybe people don't perceive it as more novel."

mais peut-être que les gens n'y perçoivent pas plus de nouveauté. »

So to understand people's perceptions of false news,

Pour comprendre la perception que les gens avaient des infox,

we looked at the information and the sentiment

nous avons considéré l'information et le sentiment

contained in the replies to true and false tweets.

que les réponses des tweets vrais et faux incluaient.

And what we found

Nous avons découvert

was that across a bunch of different measures of sentiment --

que parmi tout un tas de mesures différentes des sentiments --

surprise, disgust, fear, sadness,

la surprise, le dégoût, la peur, la tristesse,

anticipation, joy and trust --

l'anticipation, la joie et la confiance --

false news exhibited significantly more surprise and disgust

les infox présentaient notablement plus de surprise et de dégoût

in the replies to false tweets.

dans les réponses aux tweets.

And true news exhibited significantly more anticipation,

Les informations avérées présentaient notablement plus d'anticipation,

joy and trust

de joie et de confiance

in reply to true tweets.

dans les réponses aux tweets.

The surprise corroborates our novelty hypothesis.

La surprise corrobore notre hypothèse de la nouveauté.

This is new and surprising, and so we're more likely to share it.

C'est nouveau et surprenant,

nous allons donc plus probablement le partager.

At the same time, there was congressional testimony

En même temps, il y avait un témoignage au Congrès,

in front of both houses of Congress in the United States,

devant les deux chambres du Congrès des États-Unis,

looking at the role of bots in the spread of misinformation.

considérant le rôle des robots dans la diffusion de la désinformation.

So we looked at this too --

Nous l'avons envisagé --

we used multiple sophisticated bot-detection algorithms

nous avons utilisé

de multiples algorithmes sophistiqués de détection de robots

to find the bots in our data and to pull them out.

pour trouver les robots dans nos données et les en extraire.

So we pulled them out, we put them back in

Nous les en avons extraits, les avons inclus à nouveau

and we compared what happens to our measurement.

et avons comparé ce qu'il arrivait à nos mesures.

And what we found was that, yes indeed,

Nous avons découvert que oui, en effet,

bots were accelerating the spread of false news online,

les robots accéléraient la diffusion d'infox en ligne,

but they were accelerating the spread of true news

mais ils accéléraient la diffusion d'informations avérées

at approximately the same rate.

approximativement au même rythme.

Which means bots are not responsible

Ce que signifie que les robots ne sont pas responsables

for the differential diffusion of truth and falsity online.

pour l'écart dans la diffusion de la vérité et de la fausseté en ligne.

We can't abdicate that responsibility,

Nous ne pouvons pas refuser cette responsabilité

because we, humans, are responsible for that spread.

car nous, êtres humains, sommes responsables de cette diffusion.

Now, everything that I have told you so far,

Tout ce que je vous ai dit jusqu'ici,

unfortunately for all of us,

malheureusement pour nous tous,

is the good news.

ce sont les bonnes nouvelles.

The reason is because it's about to get a whole lot worse.

La raison en est que cela va bientôt devenir bien pire.

And two specific technologies are going to make it worse.

Deux technologies en particulier vont rendre cela bien pire.

We are going to see the rise of a tremendous wave of synthetic media.

Nous allons voir la montée d'une énorme vague de média synthétiques :

Fake video, fake audio that is very convincing to the human eye.

de fausses vidéos, de faux enregistrements très convaincants pour l’œil humain.

And this will powered by two technologies.

Cela sera propulsé par deux technologies.

The first of these is known as "generative adversarial networks."

La première est connue sous le nom de « réseaux adverses génératifs ».

This is a machine-learning model with two networks:

C'est un modèle d'apprentissage automatique avec deux réseaux :

a discriminator,

un discriminateur,

whose job it is to determine whether something is true or false,

dont le rôle est de déterminer si quelque chose est vrai ou faux,

and a generator,

et un générateur,

whose job it is to generate synthetic media.

dont le rôle est de générer des médias synthétiques.

So the synthetic generator generates synthetic video or audio,

Le générateur synthétique génère une vidéo ou un enregistrement audio synthétique

and the discriminator tries to tell, "Is this real or is this fake?"

et le discriminateur essaye de dire s'il est réel ou falsifié.

And in fact, it is the job of the generator

La tâche du générateur

to maximize the likelihood that it will fool the discriminator

consiste à maximiser la probabilité de faire croire au discriminateur

into thinking the synthetic video and audio that it is creating

que la vidéo et l'enregistrement audio qu'il crée sont réels.

is actually true.

Imagine a machine in a hyperloop,

Imaginez une machine dans une boucle infinie

trying to get better and better at fooling us.

et essayant d'améliorer sa capacité à nous tromper.

This, combined with the second technology,

Cela, en combinaison avec la deuxième technologie,

which is essentially the democratization of artificial intelligence to the people,

qui est essentiellement la démocratisation de l'intelligence artificielle,

the ability for anyone,

la capacité offerte à tous,

without any background in artificial intelligence

sans aucune formation en intelligence artificielle

or machine learning,

ou en apprentissage automatique,

to deploy these kinds of algorithms to generate synthetic media

de déployer ce genre d'algorithmes pour générer des médias synthétiques

makes it ultimately so much easier to create videos.

rendant cela tellement plus simple de créer des vidéos.

The White House issued a false, doctored video

La Maison-Blanche a publié une vidéo falsifiée, truquée

of a journalist interacting with an intern who was trying to take his microphone.

d'un journaliste interagissant avec une stagiaire

et essayant de prendre son micro.

They removed frames from this video

Ils ont enlevé des images de cette vidéo

in order to make his actions seem more punchy.

afin que ces actes paraissent plus percutants.

And when videographers and stuntmen and women

Quand des vidéastes, des cascadeurs et des cascadeuses

were interviewed about this type of technique,

ont été interrogés sur ce genre de technique,

they said, "Yes, we use this in the movies all the time

ils ont dit : « Oui, nous utilisons constamment cela dans les films

to make our punches and kicks look more choppy and more aggressive."

pour que nos coups de poing et de pied paraissent plus musclés et agressifs. »

They then put out this video

Ils ont ensuite publié cette vidéo

and partly used it as justification

l'ont utilisée comme justification partielle

to revoke Jim Acosta, the reporter's, press pass

pour révoquer la carte de presse de Jim Acosta, le journaliste,

from the White House.

pour la Maison-Blanche.

And CNN had to sue to have that press pass reinstated.

CNN a dû aller en justice pour faire rétablir cette carte de presse.

There are about five different paths that I can think of that we can follow

Il y a environ cinq chemins différents

que je peux imaginer et que nous pourrions suivre

to try and address some of these very difficult problems today.

pour essayer de remédier à ces problèmes très difficiles.

Each one of them has promise,

Chacun est prometteur

but each one of them has its own challenges.

mais chacun a des défis qui lui sont propres.

The first one is labeling.

Le premier est l'étiquetage.

Think about it this way:

Réfléchissez-y :

when you go to the grocery store to buy food to consume,

quand vous allez au supermarché pour acheter de la nourriture,

it's extensively labeled.

elle est amplement étiquetée.

You know how many calories it has,

Vous savez combien de calories elle contient,

how much fat it contains --

combien de graisses --

and yet when we consume information, we have no labels whatsoever.

et pourtant, quand nous consommons des informations,

nous n'avons pas d'étiquettes.

What is contained in this information?

Que contient cette information ?

Is the source credible?

La source est-elle crédible ?

Where is this information gathered from?

Où cette information a-t-elle été recueillie ?

We have none of that information

Nous n'avons aucune de ces informations

when we are consuming information.

quand nous consommons des informations.

That is a potential avenue, but it comes with its challenges.

C'est une solution potentielle, mais elle a ses défis.

For instance, who gets to decide, in society, what's true and what's false?

Par exemple, qui décide, dans la société, ce qui est vrai et ce qui est faux ?

Is it the governments?

Est-ce que ce sont les gouvernements ?

Is it Facebook?

Est-ce Facebook ?

Is it an independent consortium of fact-checkers?

Est-ce un consortium indépendant de vérificateurs d'informations ?

And who's checking the fact-checkers?

Et qui contrôle ceux qui vérifient les informations ?

Another potential avenue is incentives.

Une autre option possible, ce sont les incitations.

We know that during the US presidential election

Nous savons que durant les élections présidentielles américaines,

there was a wave of misinformation that came from Macedonia

il y a eu une vague de désinformation venue de Macédoine du Nord

that didn't have any political motive

qui n'avait aucun mobile politique

but instead had an economic motive.

mais avait un mobile économique.

And this economic motive existed,

Ce mobile économique existait

because false news travels so much farther, faster

car l'infox circule tellement plus loin, plus vite

and more deeply than the truth,

et plus profondément que la vérité

and you can earn advertising dollars as you garner eyeballs and attention

et vous pouvez gagner de l'argent dans la publicité

alors que vous recueillez les regards et l'attention

with this type of information.

avec ce genre d'informations.

But if we can depress the spread of this information,

Mais si nous pouvons réduire la diffusion de ces informations,

perhaps it would reduce the economic incentive

peut-être cela réduirait-il l'incitation économique à les produire.

to produce it at all in the first place.

Third, we can think about regulation,

Troisièmement, nous pouvons réfléchir à une réglementation

and certainly, we should think about this option.

et nous devrions réfléchir à cette option.

In the United States, currently,

Actuellement aux États-Unis,

we are exploring what might happen if Facebook and others are regulated.

nous explorons ce qu'il pourrait se passer

si Facebook et les autres étaient réglementés.

While we should consider things like regulating political speech,

Si nous devrions considérer des choses comme réglementer le discours politique,

labeling the fact that it's political speech,

l'étiqueter comme étant du discours politique,

making sure foreign actors can't fund political speech,

nous assurer que les acteurs étrangers

ne puissent pas financer un discours politique,

it also has its own dangers.

cela a aussi ses dangers.

For instance, Malaysia just instituted a six-year prison sentence

Par exemple, la Malaisie vient d'instituer une peine de prison de six ans

for anyone found spreading misinformation.

pour quiconque diffusant de la désinformation.

And in authoritarian regimes,

Dans les régimes autoritaires,

these kinds of policies can be used to suppress minority opinions

ce genre de politiques peuvent être utilisées

pour étouffer les opinions minoritaires

and to continue to extend repression.

et continuer à accroître la répression.

The fourth possible option is transparency.

La quatrième option possible est la transparence.

We want to know how do Facebook's algorithms work.

Nous voulons savoir comment fonctionnent les algorithmes de Facebook.

How does the data combine with the algorithms

Comment les données se combinent-elles aux algorithmes

to produce the outcomes that we see?

pour générer les résultats que nous observons ?

We want them to open the kimono

Nous voulons qu'ils ouvrent le kimono

and show us exactly the inner workings of how Facebook is working.

et nous montrent les rouages internes du fonctionnement de Facebook.

And if we want to know social media's effect on society,

Pour connaître les effets des réseaux sociaux sur la société,

we need scientists, researchers

il faut que les scientifiques, les chercheurs

and others to have access to this kind of information.

et les autres aient accès à ce genre d'informations.

But at the same time,

Mais en même temps,

we are asking Facebook to lock everything down,

nous demandons à Facebook de tout verrouiller

to keep all of the data secure.

pour assurer la sécurité des données.

So, Facebook and the other social media platforms

Facebook et les autres plateformes de réseaux sociaux

are facing what I call a transparency paradox.

font face à ce que j'appelle un paradoxe de la transparence.

We are asking them, at the same time,

Nous leur demandons à la fois

to be open and transparent and, simultaneously secure.

d'être ouverts et transparents et, simultanément, d'être sécurisés.

This is a very difficult needle to thread,

Cela est difficile à accomplir,

but they will need to thread this needle

mais ils devront le faire

if we are to achieve the promise of social technologies

si nous voulons

que les technologies sociales tiennent leurs promesses

while avoiding their peril.

tout en évitant les risques.

The final thing that we could think about is algorithms and machine learning.

Pour finir, nous pourrions réfléchir

aux algorithmes et à l'apprentissage automatique.

Technology devised to root out and understand fake news, how it spreads,

Une technologie conçue pour éradiquer et comprendre l'infox, sa diffusion,

and to try and dampen its flow.

et essayer d'atténuer sa circulation.

Humans have to be in the loop of this technology,

Les êtres humains doivent jouer un rôle dans cette technologie

because we can never escape

car nous ne pourrons jamais échapper au fait

that underlying any technological solution or approach

que pour toute solution ou approche technologie,

is a fundamental ethical and philosophical question

il y a une question éthique et philosophique fondamentale

about how do we define truth and falsity,

quant à notre définition du vrai et du faux,

to whom do we give the power to define truth and falsity

à qui nous donnons le pouvoir de définir le vrai et le faux

and which opinions are legitimate,

et quelles opinions sont légitimes,

which type of speech should be allowed and so on.

une rapidité de quel ordre de grandeur devrait être autorisée et ainsi de suite.

Technology is not a solution for that.

La technologie n'est pas la solution.

Ethics and philosophy is a solution for that.

L'éthique et la philosophie le sont.

Nearly every theory of human decision making,

Presque toutes les théories sur la prise de décision humaine,

human cooperation and human coordination

la coopération humaine et la coordination humaine

has some sense of the truth at its core.

ont une part de vérité en elles.

But with the rise of fake news,

Mais avec l'essor des infox,

the rise of fake video,

l'essor des vidéos truquées,

the rise of fake audio,

l'essor des enregistrements audios truqués,

we are teetering on the brink of the end of reality,

nous vacillons au bord de la fin de la réalité,

where we cannot tell what is real from what is fake.

où nous ne pouvons pas discerner ce qui est réel et ce qui est faux.

And that's potentially incredibly dangerous.

Cela est potentiellement incroyablement dangereux.

We have to be vigilant in defending the truth

Nous devons être vigilants dans la défense de la vérité

against misinformation.

face à la désinformation.

With our technologies, with our policies

Avec nos technologies, avec nos politiques

and, perhaps most importantly,

et, peut-être surtout, individuellement,

with our own individual responsibilities,

avec nos responsabilités, nos décisions,

decisions, behaviors and actions.

nos comportements et nos actions.

Thank you very much.

Merci beaucoup.

(Applause)

(Applaudissements)