The Real-World Danger of Online Myths | Vidhya Ramalingam | TED

Traducteur: Claire Ghyselen Relecteur: eric vautier

"You are a disgusting liar."

« Tu es un sale menteur. »

"Someone, somewhere will hunt you down."

« Quelqu’un, quelque part, va te traquer et te tuer. »

"I hope someone puts a bullet between your eyes."

« J’espère qu’on te tirera une balle entre les deux yeux. »

These are messages received by climate scientists.

Ce sont des messages reçus par des scientifiques climatologues.

According to a recent survey,

Selon une enquête récente,

39 percent of climate scientists have faced online abuse.

39% des climatologues ont subi des agressions en ligne.

18 percent of those are threats of physical violence.

18% de ces abus sont des menaces de violence physique.

"At the end of the day,

« Au bout du compte,

we're going to see just how much you believe

on verra jusqu’où tu crois

in your global warming

dans le réchauffement climatique

and whether you're willing to die for your so-called 'research.'"

et si tu es prêt à mourir pour tes soi-disant recherches. »

No scientist should have to fear for their lives.

Aucun scientifique ne devrait craindre pour sa vie.

But this is just another day in the life of a climate scientist.

Mais c’est devenu banal dans la vie des climatologues.

I'm not a climate scientist.

Je ne suis pas climatologue.

I'm not a climate change activist.

Je ne suis pas une activiste pour le climat.

I'm a counterterrorism expert.

Je suis spécialiste en contre-terrorisme.

I started my journey meeting with white supremacists

J’ai commencé en rencontrant des suprémacistes blancs

in basements in Sweden

dans des sous-sols en Suède,

and went on to lead a global policy effort

pour ensuite diriger les efforts stratégiques mondiaux

after Europe's first major terrorist attack

après la première attaque terroriste majeure en Europe

perpetrated by a white supremacist.

perpétrée par un suprémaciste blanc.

I went on to found Moonshot,

J’ai ensuite découvert Moonshot,

an organization that works to end violence online.

un organisme qui œuvre contre la violence en ligne.

I care about climate change denial

Je m’intéresse au déni du changement climatique,

because it's so often weaponized

parce qu’on l’utilise si souvent comme arme pour justifier la violence.

to serve as a justification for violence.

It would be easy to think

Les choses seraient si simples

that if only we could get people to understand climate change is real,

si l’on parvenait à ce que tout le monde comprenne

que le changement climatique est réel,

we could put an end to this.

car alors, on pourrait empêcher tout ça.

Unfortunately, it's not that simple.

Hélas, ce n’est pas aussi simple.

In 2019,

En 2019,

a gunman walked into a Walmart in El Paso, Texas.

un homme armé d’un fusil est entré dans un supermarché d’El Paso, au Texas.

He killed 23 people,

Il a tué 23 personnes,

many of immigrant background.

la plupart ayant un passé d’immigration.

He called himself an “ecofascist.”

Il affirmait être un « écofasciste ».

He believed in climate change,

Il croyait au changement climatique,

but he had bought into mis- and disinformation

mais tombé dans le piège de la mésinformation et de l’infox,

that immigrants were the root cause of it,

il croyait que les immigrants en étaient la cause,

that sustainability would only be possible

que la durabilité ne serait envisageable

with the elimination of people of color.

qu’avec l’élimination des personnes de couleur.

Mis- and disinformation are so often weaponized

La mésinformation et l’infox sont souvent utilisées comme des armes

to serve as a justification for violence.

pour justifier la violence.

Although they're often used interchangeably,

On utilise souvent les deux termes comme des synonymes,

misinformation is information that's false or misleading.

mais la mésinformation est une information fausse ou trompeuse.

Disinformation is spread intentionally to cause harm.

Elle est diffusée avec l’intention de nuire.

It’s so powerful because it taps into your grievances,

C’est très puissant car elle exploite nos amertumes,

what makes you really angry,

ce qui nous met vraiment en colère,

and it offers simplistic solutions.

et elle offre des solutions simplistes.

There's typically a villain and a hero.

Typiquement, il y a un méchant et un gentil.

Over the last two years,

Ces deux dernières années,

my team and I have been researching different kinds of manipulation tactics

avec mon équipe, nous investiguons toutes sortes de tactiques manipulatoires

used all over the world to spread disinformation.

utilisées partout dans le monde pour diffuser des informations fallacieuses.

Two of the most common were decontextualization

Deux des plus courantes sont la décontextualisation

and fearmongering.

et l’alimentation des peurs.

Decontextualization is the practice of taking information

La décontextualisation consiste à sortir des informations

out of its original context to deliberately mislead people.

de leur contexte original pour tromper volontairement le public.

For example, earlier this year,

Par exemple, plus tôt cette année [2024],

Europe experienced a series of protests by farmers

l’Europe a vécu une série de manifestations des agriculteurs

against a range of proposed environmental regulations.

contre des réglementations environnementales proposées par l’UE.

There were street blockades and protests,

Des rues ont été bloquées, il y a eu des actions,

demonstrations, occupations.

des manifestations, des occupations.

Adding to an already tense moment,

Comme si la situation n’était pas assez tendue,

several inauthentic images circulated.

des images fausses ont commencé à circuler.

This one purported to show

Celle-ci prétend montrer

the Ukrainian embassy in Paris getting pummeled with manure.

l’ambassade d’Ukraine en France recouverte de purin.

This was actually footage taken months earlier

En fait, c’est une photo prise des mois auparavant

from an entirely different protest

au moment d’une tout autre manifestation,

about an entirely different issue in Dijon,

pour tout autre chose, et à Dijon,

not even in Paris.

même pas à Paris.

And this effort to mislead the public,

Cet effort pour tromper le public

it wouldn't be complete without the use of new technology.

ne serait pas complet sans l’utilisation des nouvelles technologies.

Here's an image showing the streets of Paris lined with bales of hay.

Voici une image des rues de Paris bloquées par des montagnes de bottes de foin.

It's a really striking image, isn't it?

C’est une image qui marque les esprits.

This never happened.

Mais ça n’a jamais eu lieu.

It was entirely generated by AI.

C’est entièrement généré par une IA.

And this isn't just happening in Europe.

Il n’y a pas que l’Europe qui est affectée.

Last year,

L’année dernière, en 2023,

after wildfires raged in Hawaii,

après les feux de forêts à Hawaï,

a disinformation network linked to the Chinese Communist Party

un réseau de désinformation associé au Parti communiste chinois

spread inauthentic images

a répandu de fausses images

purporting that the US government had intentionally spread the wildfires

prétendant que le gouvernement américain avait bouté le feu intentionnellement

using a so-called “weather weapon.”

en utilisant une soi-disant « arme climatique. »

Can you imagine?

Vous imaginez ça ?

Over a hundred people died in those wildfires,

Plus de cent personnes sont mortes dans ces incendies

and the idea that those fires were deliberately set

et l’idée qu’ils aient été délibérément allumés

by their own government

par un gouvernement

against their own people?

contre ses propres citoyens ?

It's terrifying.

C’est terrifiant.

These kinds of conspiratorial narratives can spread widespread fear,

Ce genre de théories du complot peut répandre largement la peur,

which takes us to the next powerful tactic of disinformation:

ce qui nous mène à la deuxième tactique de désinformation :

fearmongering:

semer la peur.

deliberately exaggerating an issue

C’est-à-dire délibérément exagérer un sujet

so that you can provoke fear and alarm.

dans le but de provoquer peur et inquiétude.

We know that emotion-driven information processing

Nous savons que le traitement des informations par les émotions

can overtake evidence-based decision making,

peut supplanter la prise de décision fondée sur les faits.

which is what makes this form of disinformation so effective.

C’est ce qui rend cette forme de désinformation si efficace.

It's for these reasons that a recent MIT study found

C’est pour cette raison qu’une étude récente conduite par le MIT a montré

a false story will travel six times quicker

qu’une histoire fausse voyage six fois plus vite

to reach 1,500 people than a true story will.

pour atteindre 1 500 personnes qu’une histoire vraie.

And we know Facebook fact-checkers take up to 72 hours

Nous savons aussi que les vérificateurs de contenus de Facebook

ont besoin de 72 heures en moyenne

on average

to identify and remove this content.

pour identifier et retirer un contenu fallacieux.

By that time, most impressions have already been made.

Mais c’est trop tard : un large public s’est déjà fait une impression.

Now I know we have all seen this online,

Je suis consciente que nous avons tous vu cela en ligne,

and when you see it happen,

et quand on en est témoin,

it can be really tempting to respond with the facts.

c’est très tentant de réagir avec des faits.

I get it.

Je comprends bien.

We pride ourselves on logic and science.

On est fier de notre logique et de la science.

The truth matters.

C’est important, la vérité.

So when someone is so obviously spreading false information,

Alors, quand quelqu’un sème des informations si outrageusement fausses,

just correct them, right?

il suffit de les corriger, non ?

Unfortunately, this doesn't always work.

Hélas, cela ne fonctionne pas toujours.

Believe me, I spent the last two decades

Croyez-moi, j’ai passé les vingt dernières années

learning how to have conversations with people buying into white supremacy.

à apprendre comment pouvoir discuter avec des gens

qui croient en la suprématie blanche.

That is disinformation at its worst.

C’est la désinformation dans tout ce qu’elle a de pire.

Disinformation wins

Elle gagne à cause des émotions qu’elle inspire,

because of the emotions it inspires,

because of the way it makes people feel.

à cause de la façon dont elle suscite nos émotions.

So if someone is so bought into disinformation,

Quand on a une personne si convaincue d’une désinformation,

getting into debates on the facts with them

tenter de débattre de faits avec elle

can just risk pushing them even further into a corner,

risque simplement de l’acculer davantage dans un coin sans issue,

backing them into a corner

et si elle se sent coincée,

so that they get really defensive.

elle va vraiment se mettre sur la défensive.

OK, so if we can't debate the facts endlessly,

Bon, si on ne peut pas débattre sans fin des faits,

what can we do?

que pouvons-nous faire alors ?

Last year, Moonshot partnered with Google

L’année dernière, Moonshot a créé un partenariat avec Google

to test an approach known as “prebunking.”

pour tester une approche appelée « démystification préventive ».

Prebunking is a proven communication technique

C’est une technique de communication éprouvée

designed to help people spot and reject efforts

conçue pour aider les gens à détecter et rejeter les efforts

to manipulate them in the future

de les manipuler à l’avenir.

by giving them forewarning

En leur proposant des avertissements

and giving them tools to be able to reject a manipulative message,

et en leur offrant les outils pour pouvoir rejeter ces messages manipulatoires,

you lessen the likelihood that they will be misled.

on réduit le risque qu’ils tombent dans le piège.

This is not about telling people what is true or false

On ne parle pas de dire aux gens ce qui est vrai ou faux,

or right or wrong.

juste ou mal.

It's about empowering people to protect themselves.

Il s’agit de leur donner le pouvoir de se protéger.

We've tapped into the universal human desire not to be manipulated,

On utilise le désir humain universel de ne pas être manipulé.

and this method has been tried and tested for decades, since the 1960s.

Et cette méthode est mise à l’épreuve depuis les années 1960.

All prebunking messages contain three essential ingredients.

Tous les messages de démystification préventive comprennent trois ingrédients.

One:

Un :

an emotional warning.

un avertissement émotionnel.

You alert people that there are others out there

On avertit les gens que quelqu’un, quelque part,

who may be trying to mislead or manipulate them.

est peut-être en train d’essayer d’abuser d’eux ou de les manipuler.

Be aware, you may be targeted.

Soyez attentif, vous pourriez être la cible.

Two:

Deux :

stimulus.

un stimulus.

You show people examples of manipulative messaging

On présente des exemples de messages de manipulation

so that they will be more likely

afin d’être mieux à même de les identifier à l’avenir.

to be able to identify those in the future.

And three: refutation.

Et trois : le refus.

You give people the tools

On offre aux gens les outils

to be able to refute a message in real time.

pour pouvoir rejeter les messages en temps réel.

For example,

Par exemple,

if you see a headline that’s really sensational,

si on lit un gros titre au caractère vraiment sensationnel,

and it either seems too good to be true or it makes you really angry,

et que cela semble trop beau pour être vrai ou que ça vous met en colère,

always Google around for other sources.

faites une recherche pour trouver d’autres sources.

Always Google around.

Utilisez systématiquement Google.

OK, so we knew the steps to take,

Donc, nous connaissions les étapes,

but we also knew if we were going to really get at this problem

mais nous savions aussi que pour aller au fond du problème

around the world,

partout dans le monde,

une solution prêt-à-porter n’allait pas marcher.

a one-size-fits-all approach wouldn't work.

We knew we needed to get local.

Nous savions que nous devions nous adapter localement.

So we partnered with civil society organizations

Nous avons créé des partenariats avec des organismes de la société civile

in countries around the world,

dans tous les pays du monde,

from Germany to Indonesia to Ukraine.

de l’Allemagne à l’Indonésie, à l’Ukraine.

And we started first with the evidence.

Nous avons commencé avec les preuves.

We met with dozens of experts,

Nous avons rencontré des dizaines de spécialistes,

we surveyed the online space,

on a surveillé l’espace cyber

and we identified the most common manipulation tactics

et on a identifié les tactiques de manipulation les plus usuelles

being used in each country.

utilisées dans chaque pays.

We then partnered with local filmmakers

Ensuite, en partenariat avec des producteurs locaux de films,

to create educational videos

nous avons créé des vidéos éducatives

that would teach people about those manipulation tactics

dévoilant au gens les tactiques de manipulation

that were being used in their home country.

utilisées dans leur pays.

In some contexts,

Dans certains contextes,

we found that people trust close peers and relatives the most.

nous avons découvert que les gens font plus confiance à leurs amis et proches.

So in Germany,

Alors, en Allemagne,

we filmed close friends chatting in a park.

on a filmé des amis proches qui parlent dans un parc.

In Ukraine,

En Ukraine,

we filmed family dialogues around a kitchen table,

on a filmé une conversation familiale dans la cuisine,

a setting that's so familiar to so many of us,

un décor très familier pour la plupart d’entre nous,

where so many of us have had those difficult conversations.

où souvent nous avons eu nos conversations difficiles.

We wanted to encourage people to have these kinds of conversations

Nous voulions encourager les gens à avoir ce genre de conversations

within their own trusted circles,

dans leur cercle de confiance,

whether they're in El Salvador or Indonesia.

que ce soit au Salvador ou en Indonésie.

Et nous voulions agir avant des moments charnières,

And to do so before pivotal moments

where online manipulation efforts intensify,

quand les efforts de manipulation en ligne s’intensifient,

like elections.

comme des élections.

So as we prepared to head into the EU elections,

Au moment de nous préparer aux élections européennes de 2024,

we knew that distrust in climate science

nous savions que la méfiance dans les sciences du climat

had already emerged as a critical misinformation theme.

avait déjà émergé comme un thème critique de propagande.

Now one study had found that adults over the age of 45

Une étude a montré que les adultes de plus de 45 ans

are less likely to investigate false information

sont moins enclins à investiguer des informations fallacieuses

when they stumble across it online.

qu’ils découvrent par hasard en ligne.

Now we also know that adults over the age of 45

Or nous savions que les adultes de plus de 45 ans

have higher voter turnout,

vont davantage voter,

which means if it wins,

ce qui signifie que si le subterfuge fonctionne,

disinformation can have a disproportionate impact

l’impact de cette désinformation peut être disproportionné

on the outcomes of elections.

au moment des résultats de l’élection.

So as we prepare to head into the EU elections,

Donc, nous nous préparions aux élections européennes

we created content for every EU country,

et nous avons créé du contenu dédié à chaque pays membre,

in 27 languages,

en 27 langues,

aiming to empower Europeans to spot and reject

avec l’objectif de permettre aux Européens de détecter et rejeter

efforts to manipulate them before the elections.

les efforts de manipulation avant les élections.

Over the last year,

Cette dernière année,

we have reached millions of people around the globe

nos vidéos ont atteint des millions de personnes dans le monde.

with these videos.

In Germany alone, we reached 42 million people.

Rien qu’en Allemagne, nous avons atteint 42 millions de personnes.

That's half the German population.

C’est la moitié de la population allemande.

And we found on average,

On a découvert qu’en moyenne,

viewers of these videos were up to 10 percent more likely

ceux qui avaient vu nos vidéos avaient 10% de chance supplémentaire

to be able to identify manipulation efforts

d’être capable d’identifier les efforts de manipulation

than those who hadn't seen those videos.

que ceux qui ne les avaient pas vues.

This is a winning formula.

C’est une formule gagnante.

The evidence shows us

Les faits nous prouvent

that prebunking is effective at building resistance to disinformation.

que la démystification préventive est efficace

pour développer sa résistance à la désinformation.

It begs the question,

Se pose alors la question de savoir

how do we make that resistance last?

comment faire durer cette résistance dans le temps.

How do we build long-term societal resilience

Comment développer une résilience sociale sur le long terme

to disinformation efforts?

contre les efforts de propagande ?

There is an ongoing effort to use disinformation

Les efforts continus pour saper nos démocraties sont bien réels.

to undermine our democracies.

Just last month,

En septembre 2024,

the US Justice Department seized 32 internet domains

le département américain de la Justice a saisi 32 domaines Internet

secretly deployed by the Russian government

déployés secrètement par le gouvernement russe

to spread disinformation across the US and Europe.

pour diffuser de la propagande aux États-Unis et en Europe.

This included deliberate efforts to exploit anxieties and fear

Cela incluait des efforts délibérés d’exploiter l’anxiété et la peur

across the public about the energy transition,

du public face à la transition énergétique,

specifically to encourage violence.

avec comme but spécifique d’encourager la violence.

Now it’s not just the Russian government that we need to be worried about.

Mais il n’y a pas que le gouvernement russe qui devrait nous inquiéter.

Easy access to generative AI tools

L’accès aisé aux outils d’IA générative

means that anyone,

signifie que n’importe qui,

not just those with resources, money and power,

pas seulement ceux qui en ont les ressources, l’argent et le pouvoir,

can create high-quality,

peut créer un contenu de désinformation de haute qualité, efficace et puissant.

effective, powerful disinformation content.

And the sources of disinformation are varied.

De plus, les sources de désinformation sont variées.

They can come from our elected officials

Elles peuvent provenir de nos élus,

all the way through to our neighbors down the road.

tout aussi bien que de nos voisins.

Many of us don't need to look further than our own families.

Il n’est souvent pas nécessaire de regarder plus loin que notre famille.

But so many of the tools we tested online

Tant de dispositifs que nous avons testés en ligne

are even more powerful

sont encore plus puissants

when they come directly from the people

quand ils sont transmis par des gens

that you trust and love the most in real life, IRL.

en qui on a confiance et que l’on aime, dans la vraie vie.

So instead of endlessly debating the facts,

Alors, plutôt que de débattre sans fin des faits,

give your loved ones the tools

offrez à vos proches les outils

that they need to protect themselves online.

dont ils ont besoin pour se protéger en ligne.

Information manipulation is unfortunately the new norm.

La manipulation de l’information est hélas la nouvelle norme.

But that doesn't mean we need to accept our loved ones being misled,

Mais cela ne veut pas dire que nous devons accepter

que l’on abuse de la crédibilité de nos proches.

and we shouldn't accept our climate scientists living in fear.

Et nous ne devrions pas tolérer que nos climatologues vivent dans la peur.

So if we can't fact-check our way out of this problem,

Alors, si les faits ne nous permettent pas de résoudre ce problème,

we need to beat disinformation at its own game

nous devons combattre la propagande avec ses propres règles,

by reaching people before disinformation does

en touchant le public avant elle,

and giving them all the tools that they need

et en lui donnant les dispositifs dont il a besoin

to protect themselves online.

pour se protéger en ligne.

Thank you so much.

Merci.

(Applause)

(Applaudissements)