The Real-World Danger of Online Myths | Vidhya Ramalingam | TED

Översättare: Mia Olsson Granskare: Annika Bidner

"You are a disgusting liar."

“Du är en vidrig lögnare.”

"Someone, somewhere will hunt you down."

“Någon, någonstans kommer få tag i dig.”

"I hope someone puts a bullet between your eyes."

“Jag hoppas någon sätter en kula mellan ögonen på dig.”

These are messages received by climate scientists.

Detta är meddelanden som klimatforskare mottagit.

According to a recent survey,

Enligt en nyligen genomförd undersökning

39 percent of climate scientists have faced online abuse.

har 39 procent av alla klimatforskare utsatts för trakasserier på nätet.

18 percent of those are threats of physical violence.

18 procent av dessa har varit hot om fysiskt våld.

"At the end of the day,

“När allt kommer omkring

we're going to see just how much you believe

får vi se hur mycket du verkligen tror

in your global warming

på global uppvärmning,

and whether you're willing to die for your so-called 'research.'"

och om du är beredd på att dö för din så kallade forskning.”

No scientist should have to fear for their lives.

Ingen forskare ska behöva frukta för sitt liv.

But this is just another day in the life of a climate scientist.

Men det här är bara ännu en dag i en klimatforskares liv.

I'm not a climate scientist.

Jag är inte klimatforskare.

I'm not a climate change activist.

Jag är inte klimataktivist.

I'm a counterterrorism expert.

Jag är antiterroristexpert.

I started my journey meeting with white supremacists

Jag började min resa med att möta vit makt-anhängare

in basements in Sweden

i källare i Sverige

and went on to lead a global policy effort

och fortsatte därefter att leda en global politisk satsning,

after Europe's first major terrorist attack

efter Europas första stora terroristattack

perpetrated by a white supremacist.

som utfördes av en vit makt-anhängare.

I went on to found Moonshot,

Jag gick vidare och grundade Moonshot,

an organization that works to end violence online.

en organisation som arbetar med att stoppa våld på nätet.

I care about climate change denial

Jag bryr mig om förnekandet av klimatförändringar

because it's so often weaponized

eftersom det ofta används som ett vapen

to serve as a justification for violence.

för att berättiga våld.

It would be easy to think

Det är enkelt att tänka

that if only we could get people to understand climate change is real,

att om vi bara fick människor att förstå att klimatförändringar är på riktigt

we could put an end to this.

så skulle vi få ett slut på det här.

Unfortunately, it's not that simple.

Tyvärr är det inte så enkelt.

In 2019,

Under 2019

a gunman walked into a Walmart in El Paso, Texas.

gick en beväpnad man in på en Walmart i El Paso, Texas.

He killed 23 people,

Han dödade 23 personer,

many of immigrant background.

varav många hade invandrarbakgrund.

He called himself an “ecofascist.”

Han kallade sig själv för “ekofascist”.

He believed in climate change,

Han trodde på klimatförändringar,

but he had bought into mis- and disinformation

men hade gått på mis- och desinformation

that immigrants were the root cause of it,

om att invandrare var orsaken till det,

that sustainability would only be possible

och att hållbarhet endast var möjlig

with the elimination of people of color.

genom eliminering av färgade människor.

Mis- and disinformation are so often weaponized

Mis- och desinformation används ofta som ett vapen

to serve as a justification for violence.

för att berättiga våld.

Although they're often used interchangeably,

De används ofta synonymt,

misinformation is information that's false or misleading.

men misinformation betyder falsk eller vilseledande information.

Disinformation is spread intentionally to cause harm.

Desinformation sprids avsiktligt för att orsaka skada.

It’s so powerful because it taps into your grievances,

Den är väldigt kraftfull eftersom den utnyttjar ditt missnöje,

what makes you really angry,

sådant som gör dig riktigt arg,

and it offers simplistic solutions.

och erbjuder ofta enkla lösningar.

There's typically a villain and a hero.

Det finns ofta en bov och en hjälte.

Over the last two years,

Under de senaste två åren

my team and I have been researching different kinds of manipulation tactics

har mitt team och jag forskat på olika taktiker inom manipulation

used all over the world to spread disinformation.

som används globalt för att sprida desinformation.

Two of the most common were decontextualization

Två av de vanligaste var avkontextualisering

and fearmongering.

och skräckspridning.

Decontextualization is the practice of taking information

Avkontextualisering innebär att frigöra information

out of its original context to deliberately mislead people.

från sin ursprungliga kontext för att avsiktligt vilseleda människor.

For example, earlier this year,

Tidigare i år, till exempel,

Europe experienced a series of protests by farmers

drabbades Europa av en rad protester från bönder

against a range of proposed environmental regulations.

mot ett antal föreslagna miljölagstiftningar.

There were street blockades and protests,

Det förekom vägblockader och protester,

demonstrations, occupations.

demonstrationer, ockupationer.

Adding to an already tense moment,

Som tillägg till en redan spänd situation

several inauthentic images circulated.

cirkulerade flera oäkta bilder.

This one purported to show

Den här bilden utgav sig för att visa

the Ukrainian embassy in Paris getting pummeled with manure.

hur den Ukrainska ambassaden i Paris blir attackerad med gödsel.

This was actually footage taken months earlier

Detta var i själva verket bilder som tagits månader tidigare

from an entirely different protest

från en helt annan demonstration

about an entirely different issue in Dijon,

om en helt annan fråga, i Dijon,

not even in Paris.

inte ens i Paris.

And this effort to mislead the public,

Det här försöket till att vilseleda allmänheten

it wouldn't be complete without the use of new technology.

hade inte gått att genomföra utan ny teknik.

Here's an image showing the streets of Paris lined with bales of hay.

Här är en bild som visar hur Paris gator fylls med höbalar.

It's a really striking image, isn't it?

Visst är det en imponerande bild?

This never happened.

Detta har aldrig hänt.

It was entirely generated by AI.

Den skapades helt genom AI.

And this isn't just happening in Europe.

Detta händer inte bara i Europa.

Last year,

Förra året,

after wildfires raged in Hawaii,

efter skogsbränderna på Hawaii,

a disinformation network linked to the Chinese Communist Party

spred ett desinformationsnätverk kopplat till det kinesiska kommunistpartiet

spread inauthentic images

oäkta bilder,

purporting that the US government had intentionally spread the wildfires

som påstod att den amerikanska regeringen avsiktligt hade spridit skogsbränderna

using a so-called “weather weapon.”

genom att använda ett så kallat “vädervapen”.

Can you imagine?

Kan ni tänka er?

Over a hundred people died in those wildfires,

Över hundra människor dog i dessa skogsbränder,

and the idea that those fires were deliberately set

och tanken på att dessa bränder hade startats avsiktligt

by their own government

av deras egen regering

against their own people?

mot deras eget folk?

It's terrifying.

Det är skrämmande.

These kinds of conspiratorial narratives can spread widespread fear,

Den här typen av konspiratoriska skildringar kan sprida vidsträckt rädsla,

which takes us to the next powerful tactic of disinformation:

vilket för oss vidare till den andra kraftfulla taktiken inom desinformation:

fearmongering:

skräckspridning.

deliberately exaggerating an issue

Att avsiktligt överdriva en fråga

so that you can provoke fear and alarm.

för att framkalla rädsla och oro.

We know that emotion-driven information processing

Vi vet att känslostyrd informationsbehandling

can overtake evidence-based decision making,

kan ta över faktabaserat beslutsfattande,

which is what makes this form of disinformation so effective.

vilket gör den här typen av desinformation så effektiv.

It's for these reasons that a recent MIT study found

Med detta som bakgrund visar en nyligen genomförd studie av MIT

a false story will travel six times quicker

att en falsk berättelse färdas sex gånger snabbare

to reach 1,500 people than a true story will.

med att nå 1500 personer än vad en sann berättelse gör.

And we know Facebook fact-checkers take up to 72 hours

Vi vet också att det tar upp till 72 timmar för Facebooks faktagranskare

on average

i genomsnitt

to identify and remove this content.

att identifiera och ta bort detta innehåll.

By that time, most impressions have already been made.

Vid den tidpunkten har de flesta visningar redan skett.

Now I know we have all seen this online,

Jag vet att alla har sett detta på nätet,

and when you see it happen,

och när ni ser det hända

it can be really tempting to respond with the facts.

kan det vara väldigt lockande att svara med fakta.

I get it.

Jag förstår det.

We pride ourselves on logic and science.

Vi är stolta över logik och vetenskap.

The truth matters.

Sanningen spelar roll.

So when someone is so obviously spreading false information,

När någon så uppenbart sprider falsk information

just correct them, right?

så ska de tillrättavisas, eller hur?

Unfortunately, this doesn't always work.

Tyvärr fungerar inte alltid detta.

Believe me, I spent the last two decades

Tro mig, jag spenderade de senaste två årtiondena

learning how to have conversations with people buying into white supremacy.

med att lära mig hur man för ett samtal med vit makt-anhängare.

That is disinformation at its worst.

Det är desinformation när den är som värst.

Disinformation wins

Desinformation vinner

because of the emotions it inspires,

på grund av de känslor den ger upphov till,

because of the way it makes people feel.

på grund av hur den får människor att känna.

So if someone is so bought into disinformation,

Så när någon övertygats av desinformation

getting into debates on the facts with them

kan en faktabaserad debatt med dem

can just risk pushing them even further into a corner,

riskera att driva dem ännu längre bort,

backing them into a corner

tränga in dem i ett hörn

so that they get really defensive.

och göra dem väldigt defensiva.

OK, so if we can't debate the facts endlessly,

Om vi inte kan debattera fakta obegränsat,

what can we do?

vad kan vi göra?

Last year, Moonshot partnered with Google

Förra året samarbetade Moonshot och Google

to test an approach known as “prebunking.”

med att testa en strategi som kallas för “prebunking”.

Prebunking is a proven communication technique

Prebunking är en bevisad kommunikationsteknik,

designed to help people spot and reject efforts

utformad för att hjälpa folk att upptäcka och avfärda försök

to manipulate them in the future

till manipulation i framtiden.

by giving them forewarning

Genom att förvarna dem

and giving them tools to be able to reject a manipulative message,

och ge dem verktyg för att kunna avfärda manipulativa meddelanden,

you lessen the likelihood that they will be misled.

är det mindre sannolikt att de blir lurade.

This is not about telling people what is true or false

Det handlar inte om att berätta vad som är sant eller falskt,

or right or wrong.

rätt eller fel.

It's about empowering people to protect themselves.

Det handlar om att ge människor egenmakt så de kan skydda sig själva.

We've tapped into the universal human desire not to be manipulated,

Vi har utnyttjat den allmänmänskliga önskan om att inte bli manipulerad

and this method has been tried and tested for decades, since the 1960s.

och den här metoden har prövats och testats sedan 60-talet.

All prebunking messages contain three essential ingredients.

Alla prebunking-budskap innehåller tre grundläggande delar.

One:

Ett:

an emotional warning.

en känslomässig varning.

You alert people that there are others out there

Ni varnar människor om att det finns andra där ute

who may be trying to mislead or manipulate them.

som kanske försöker vilseleda eller manipulera dem.

Be aware, you may be targeted.

Se upp, du kan vara måltavlan.

Two:

Två:

stimulus.

stimuli.

You show people examples of manipulative messaging

Ni visar exempel på manipulativa budskap

so that they will be more likely

för att öka deras möjlighet

to be able to identify those in the future.

att kunna identifiera dem i framtiden.

And three: refutation.

Och tre: motargument.

You give people the tools

Ni ger människor verktyg

to be able to refute a message in real time.

för att kunna argumentera mot ett budskap i realtid.

For example,

Till exempel,

if you see a headline that’s really sensational,

om du ser en huvudrubrik som är väldigt uppseendeväckande

and it either seems too good to be true or it makes you really angry,

och det antingen verkar för bra för att vara sant, eller gör dig riktigt arg,

always Google around for other sources.

googla alltid för att hitta fler källor.

Always Google around.

Googla alltid.

OK, so we knew the steps to take,

Vi visste vilka steg vi skulle ta,

but we also knew if we were going to really get at this problem

men vi visste också att för att lösa detta problem

around the world,

runt om i världen,

a one-size-fits-all approach wouldn't work.

skulle inte en universallösning fungera.

We knew we needed to get local.

Vi visste att vi behövde engagera på en lokal nivå.

So we partnered with civil society organizations

Så vi samarbetade med civila samhällsorganisationer

in countries around the world,

i olika länder runt om i världen,

from Germany to Indonesia to Ukraine.

allt från Tyskland till Indonesien och Ukraina.

And we started first with the evidence.

Vi började med bevisen.

We met with dozens of experts,

Vi träffade dussintals experter,

we surveyed the online space,

vi kartlade utrymmet online,

and we identified the most common manipulation tactics

och vi identifierade de vanligaste manipulationsteknikerna

being used in each country.

som användes i varje land.

We then partnered with local filmmakers

Vi samarbetade med lokala filmproducenter

to create educational videos

för att skapa utbildningsfilmer

that would teach people about those manipulation tactics

som skulle lära människor om de manipulationstekniker

that were being used in their home country.

som användes i deras hemland.

In some contexts,

I vissa sammanhang

we found that people trust close peers and relatives the most.

upptäckte vi att människor främst litar på sina närmaste vänner och sin släkt.

So in Germany,

I Tyskland

we filmed close friends chatting in a park.

filmade vi några nära vänner som småpratade i en park.

In Ukraine,

I Ukraina

we filmed family dialogues around a kitchen table,

filmade vi familjedialoger vid ett middagsbord.

a setting that's so familiar to so many of us,

En välbekant miljö för många av oss,

where so many of us have had those difficult conversations.

där många har haft svåra konversationer.

We wanted to encourage people to have these kinds of conversations

Vi ville uppmuntra människor att ha den typen av konversationer

within their own trusted circles,

inom sin närmaste krets,

whether they're in El Salvador or Indonesia.

oavsett om de bodde i El Salvador eller Indonesien.

And to do so before pivotal moments

Och att göra det inför avgörande stunder

where online manipulation efforts intensify,

då försök till manipulation på nätet intensifieras,

like elections.

som vid val.

So as we prepared to head into the EU elections,

När vi förberedde oss inför EU-valet

we knew that distrust in climate science

visste vi att misstron mot klimatforskningen

had already emerged as a critical misinformation theme.

redan hade dykt upp som ett allvarligt misinformationstema.

Now one study had found that adults over the age of 45

En studie visade att vuxna personer över 45 år

are less likely to investigate false information

var mindre benägna att undersöka falsk information

when they stumble across it online.

som de kom över på nätet.

Now we also know that adults over the age of 45

Vi vet också att vuxna över 45 år

have higher voter turnout,

röstar i större utsträckning,

which means if it wins,

vilket innebär att om den vinner

disinformation can have a disproportionate impact

kan desinformation ha en oproportionerligt stor effekt

on the outcomes of elections.

på valresultaten.

So as we prepare to head into the EU elections,

När vi förberedde oss inför EU-valen

we created content for every EU country,

skapade vi innehåll för varje enskilt EU-land,

in 27 languages,

på 27 språk,

aiming to empower Europeans to spot and reject

med målet att göra det möjligt för européer att upptäcka och avfärda

efforts to manipulate them before the elections.

manipulationsförsök före valen.

Over the last year,

Det senaste året

we have reached millions of people around the globe

har vi nått miljontals människor runt hela världen

with these videos.

med dessa videor.

In Germany alone, we reached 42 million people.

Enbart i Tyskland nådde vi 42 miljoner människor.

That's half the German population.

Det är halva Tysklands befolkning.

And we found on average,

Vi upptäckte att i genomsnitt

viewers of these videos were up to 10 percent more likely

var 10 procent av de som sett dessa videor mer benägna

to be able to identify manipulation efforts

att kunna identifiera manipulationsförsök

than those who hadn't seen those videos.

än de som inte sett dem.

This is a winning formula.

Det här är ett vinnande koncept.

The evidence shows us

Bevisen visar att

that prebunking is effective at building resistance to disinformation.

prebunking är effektivt mot att bygga motståndskraft mot desinformation.

It begs the question,

Men frågan är,

how do we make that resistance last?

hur får vi motståndskraften att stanna kvar?

How do we build long-term societal resilience

Hur bygger vi långsiktig motståndskraft i samhället

to disinformation efforts?

mot desinformationsförsök?

There is an ongoing effort to use disinformation

Det finns pågående försök att använda desinformation

to undermine our democracies.

till att underminera våra demokratier.

Just last month,

Förra månaden

the US Justice Department seized 32 internet domains

beslagtog det amerikanska justitiedepartementet 32 domäner på nätet,

secretly deployed by the Russian government

utvecklade i hemlighet av Rysslands regering,

to spread disinformation across the US and Europe.

för att sprida desinformation i USA och Europa.

This included deliberate efforts to exploit anxieties and fear

Detta innefattar också avsiktliga insatser med att använda oro och rädsla

across the public about the energy transition,

bland allmänheten gällande energiomställningen,

specifically to encourage violence.

och framför allt att uppmuntra till våld.

Now it’s not just the Russian government that we need to be worried about.

Det är inte bara den ryska regeringen vi behöver oroa oss för.

Easy access to generative AI tools

Lättillgängligheten till generativa AI-verktyg

means that anyone,

innebär att vem som helst,

not just those with resources, money and power,

inte bara de med resurser, pengar och makt,

can create high-quality,

kan skapa högkvalitativt,

effective, powerful disinformation content.

effektivt och kraftfullt innehåll med desinformation.

And the sources of disinformation are varied.

Källorna med desinformation varierar.

They can come from our elected officials

Det kan komma från allt ifrån våra förtroendevalda

all the way through to our neighbors down the road.

till våra grannar längre ner på gatan.

Many of us don't need to look further than our own families.

Många av oss behöver inte leta längre bort än i sin egen familj.

But so many of the tools we tested online

Många av de verktyg vi provade online

are even more powerful

är ännu mer effektiva

when they come directly from the people

när de kommer direkt från personer

that you trust and love the most in real life, IRL.

som ni litar på och älskar mest av allt i det verkliga livet.

So instead of endlessly debating the facts,

Så istället för att debattera fakta,

give your loved ones the tools

ge era nära och kära de verktyg

that they need to protect themselves online.

de behöver för att skydda sig själva online.

Information manipulation is unfortunately the new norm.

Manipulation av information är tyvärr den nya normen.

But that doesn't mean we need to accept our loved ones being misled,

Det betyder inte att vi ska acceptera att våra nära och kära blir vilseledda

and we shouldn't accept our climate scientists living in fear.

och vi ska inte acceptera att klimatforskare lever i rädsla.

So if we can't fact-check our way out of this problem,

Om vi inte kan faktagranska oss ur detta problem,

we need to beat disinformation at its own game

behöver vi hinna före desinformationen

by reaching people before disinformation does

innan den når ut till människor

and giving them all the tools that they need

och ge dem de verktyg de behöver

to protect themselves online.

för att skydda sig online.

Thank you so much.

Tack så mycket.

(Applause)

(Applåder)