The Real-World Danger of Online Myths | Vidhya Ramalingam | TED

Traductor: Sebastian Betti

"You are a disgusting liar."

«Eres un mentiroso asqueroso».

"Someone, somewhere will hunt you down."

«Alguien, en algún lugar, te perseguirá».

"I hope someone puts a bullet between your eyes."

«Espero que alguien ponga una bala entre tus ojos».

These are messages received by climate scientists.

Estos son los mensajes que reciben los científicos del clima.

According to a recent survey,

Según una encuesta reciente,

39 percent of climate scientists have faced online abuse.

el 39 % de los científicos del clima han sufrido acoso en línea.

18 percent of those are threats of physical violence.

El 18 % de ellos son amenazas de violencia física.

"At the end of the day,

«Al fin y al cabo,

we're going to see just how much you believe

veremos hasta qué punto creen

in your global warming

en el calentamiento global

and whether you're willing to die for your so-called 'research.'"

y si están dispuestos a morir por lo que llaman 'investigación'».

No scientist should have to fear for their lives.

Ningún científico debería tener que temer por su vida.

But this is just another day in the life of a climate scientist.

Pero este es solo otro día en la vida de un científico del clima.

I'm not a climate scientist.

No soy un científico del clima.

I'm not a climate change activist.

No soy activista del cambio climático.

I'm a counterterrorism expert.

Soy experta en contraterrorismo.

I started my journey meeting with white supremacists

Empecé mi viaje reuniéndome con supremacistas blancos

in basements in Sweden

en sótanos de Suecia

and went on to lead a global policy effort

y luego dirigí una iniciativa política global

after Europe's first major terrorist attack

tras el primer gran ataque terrorista de Europa

perpetrated by a white supremacist.

perpetrado por un supremacista blanco.

I went on to found Moonshot,

Luego fundé Moonshot,

an organization that works to end violence online.

una organización que trabaja para acabar con la violencia en Internet.

I care about climate change denial

Me preocupa la negación del cambio climático

because it's so often weaponized

porque con frecuencia se utiliza como arma

to serve as a justification for violence.

para justificar la violencia.

Sería fácil pensar

It would be easy to think

that if only we could get people to understand climate change is real,

que si tan solo pudiéramos hacer que la gente entendiera

que el cambio climático es real,

we could put an end to this.

podríamos ponerle fin.

Unfortunately, it's not that simple.

Lamentablemente, no es tan sencillo.

In 2019,

En 2019,

a gunman walked into a Walmart in El Paso, Texas.

un hombre armado entró en un Walmart en El Paso, Texas.

He killed 23 people,

Mató a 23 personas,

many of immigrant background.

muchas de ellas de origen inmigrante.

He called himself an “ecofascist.”

Se autodenominó «ecofascista».

He believed in climate change,

Creía en el cambio climático,

pero se había dejado llevar por la mala información y la desinformación

but he had bought into mis- and disinformation

that immigrants were the root cause of it,

que los inmigrantes eran la causa principal del cambio climático

that sustainability would only be possible

y de que la sostenibilidad solo sería posible

with the elimination of people of color.

con la eliminación de las personas de color.

Mis- and disinformation are so often weaponized

La información errónea y la desinformación con frecuencia se utilizan como armas

to serve as a justification for violence.

para justificar la violencia.

Although they're often used interchangeably,

Aunque con frecuencia se usan indistintamente,

misinformation is information that's false or misleading.

la desinformación es información falsa o engañosa.

Disinformation is spread intentionally to cause harm.

La desinformación se difunde intencionalmente para causar daño.

It’s so powerful because it taps into your grievances,

Es tan poderosa porque aprovecha tus quejas,

what makes you really angry,

lo que más te enfada,

and it offers simplistic solutions.

y ofrece soluciones simplistas.

There's typically a villain and a hero.

Por lo general, hay un villano y un héroe.

Over the last two years,

Durante los últimos dos años,

my team and I have been researching different kinds of manipulation tactics

mi equipo y yo hemos estado investigando

diferentes tipos de tácticas de manipulación

used all over the world to spread disinformation.

utilizadas en todo el mundo para difundir desinformación.

Two of the most common were decontextualization

Dos de las más comunes fueron la descontextualización

and fearmongering.

y el alarmismo.

Decontextualization is the practice of taking information

La descontextualización es la práctica

de sacar la información de su contexto original

out of its original context to deliberately mislead people.

para engañar deliberadamente a las personas.

For example, earlier this year,

Por ejemplo, a principios de este año,

Europe experienced a series of protests by farmers

Europa sufrió una serie de protestas de agricultores

against a range of proposed environmental regulations.

contra una serie de regulaciones ambientales propuestas.

There were street blockades and protests,

Hubo bloqueos de calles y protestas,

demonstrations, occupations.

manifestaciones y ocupaciones.

Adding to an already tense moment,

Para agravar un momento ya de por sí tenso,

several inauthentic images circulated.

circularon varias imágenes falsas.

This one purported to show

Esta pretendía mostrar

the Ukrainian embassy in Paris getting pummeled with manure.

a la embajada de Ucrania en París atacada con estiércol.

This was actually footage taken months earlier

En realidad, se trataba de imágenes tomadas meses antes

from an entirely different protest

de una protesta completamente diferente

about an entirely different issue in Dijon,

sobre un tema completamente diferente en Dijon,

not even in Paris.

ni siquiera en París.

And this effort to mislead the public,

Y este esfuerzo por engañar al público no estaría completo

it wouldn't be complete without the use of new technology.

sin el uso de la nueva tecnología.

Here's an image showing the streets of Paris lined with bales of hay.

Esta es una imagen que muestra las calles de París bordeadas de fardos de heno.

It's a really striking image, isn't it?

Es una imagen realmente impactante, ¿verdad?

This never happened.

Esto nunca ocurrió.

It was entirely generated by AI.

Fue generado en su totalidad por IA.

And this isn't just happening in Europe.

Y esto no solo ocurre en Europa.

Last year,

El año pasado,

after wildfires raged in Hawaii,

después de que se produjeran incendios forestales en Hawái,

a disinformation network linked to the Chinese Communist Party

una red de desinformación vinculada al Partido Comunista de China

spread inauthentic images

difundió imágenes falsas

purporting that the US government had intentionally spread the wildfires

en las que afirmaba que el gobierno de EE. UU.

había propagado intencionalmente los incendios forestales

using a so-called “weather weapon.”

utilizando lo que se denomina «arma meteorológica».

Can you imagine?

¿Te lo imaginas?

Over a hundred people died in those wildfires,

Más de cien personas murieron en esos incendios forestales,

y la idea de que esos incendios fueron provocados deliberadamente

and the idea that those fires were deliberately set

by their own government

¿por su propio gobierno

against their own people?

contra su propio pueblo?

It's terrifying.

Es aterrador.

These kinds of conspiratorial narratives can spread widespread fear,

Este tipo de narrativas conspirativas pueden propagar un miedo generalizado,

which takes us to the next powerful tactic of disinformation:

lo que nos lleva a la siguiente poderosa táctica de desinformación:

fearmongering:

sembrar el miedo:

deliberately exaggerating an issue

exagerar deliberadamente un tema

so that you can provoke fear and alarm.

para provocar miedo y alarma.

We know that emotion-driven information processing

Sabemos que el procesamiento de la información impulsado por las emociones

can overtake evidence-based decision making,

puede superar a la toma de decisiones basada en la evidencia,

which is what makes this form of disinformation so effective.

que es lo que hace que esta forma de desinformación sea tan efectiva.

It's for these reasons that a recent MIT study found

Por estas razones, un estudio reciente del MIT descubrió que

a false story will travel six times quicker

una historia falsa llegará seis veces más rápido

to reach 1,500 people than a true story will.

a 1500 personas que una historia real.

And we know Facebook fact-checkers take up to 72 hours

Y sabemos que los verificadores de datos de Facebook tardan una media

on average

de 72 horas

to identify and remove this content.

en identificar y eliminar este contenido.

By that time, most impressions have already been made.

Para entonces, la mayoría de las impresiones ya se han producido.

Now I know we have all seen this online,

Ahora sé que todos hemos visto esto en Internet,

and when you see it happen,

y cuando ves que

it can be really tempting to respond with the facts.

sucede, puede resultar muy tentador responder con los hechos.

I get it.

Lo entiendo.

We pride ourselves on logic and science.

Nos enorgullecemos de la lógica y la ciencia.

The truth matters.

La verdad importa.

So when someone is so obviously spreading false information,

Así que cuando es tan obvio que

alguien está difundiendo información falsa,

just correct them, right?

corríjalo, ¿verdad?

Unfortunately, this doesn't always work.

Desafortunadamente, esto no siempre funciona.

Believe me, I spent the last two decades

Créeme, pasé las últimas dos décadas

learning how to have conversations with people buying into white supremacy.

aprendiendo a mantener conversaciones con personas

que creen en la supremacía blanca.

That is disinformation at its worst.

Eso es desinformación en su peor expresión.

Disinformation wins

La desinformación triunfa

because of the emotions it inspires,

por las emociones que inspira,

because of the way it makes people feel.

por la forma en que hace sentir a la gente.

So if someone is so bought into disinformation,

Por lo tanto, si alguien se deja llevar por la desinformación,

getting into debates on the facts with them

entablar debates sobre los hechos con esa persona

can just risk pushing them even further into a corner,

puede correr el riesgo de arrinconarla aún más,

backing them into a corner

so that they get really defensive.

acorralarla y ponerse realmente a la defensiva.

OK, so if we can't debate the facts endlessly,

De acuerdo, entonces,

si no podemos debatir los hechos sin parar,

what can we do?

¿qué podemos hacer?

Last year, Moonshot partnered with Google

El año pasado, Moonshot se asoció con Google

to test an approach known as “prebunking.”

para probar un enfoque conocido como «prebunking».

Prebunking is a proven communication technique

Prebunking es una técnica de comunicación comprobada

designed to help people spot and reject efforts

diseñada para ayudar a las personas

a detectar y rechazar los intentos de manipularlas en el futuro,

to manipulate them in the future

by giving them forewarning

ya que les avisa con antelación

and giving them tools to be able to reject a manipulative message,

y les da herramientas para que puedan rechazar un mensaje manipulador,

you lessen the likelihood that they will be misled.

lo que reduce la probabilidad de que se dejen engañar.

This is not about telling people what is true or false

No se trata de decirle a la gente lo que es verdadero o falso

or right or wrong.

o correcto o incorrecto.

It's about empowering people to protect themselves.

Se trata de empoderar a las personas para que se protejan a sí mismas.

We've tapped into the universal human desire not to be manipulated,

Hemos aprovechado el deseo humano universal de no dejarnos manipular,

and this method has been tried and tested for decades, since the 1960s.

y este método ha sido probado durante décadas, desde la década de 1960.

All prebunking messages contain three essential ingredients.

Todos los mensajes antes de dormir contienen tres ingredientes esenciales.

One:

Uno:

an emotional warning.

una advertencia emocional.

You alert people that there are others out there

Alertas a las personas de que hay otras personas

who may be trying to mislead or manipulate them.

que pueden estar intentando engañarlas o manipularlas.

Be aware, you may be targeted.

Tenga en cuenta que puede ser un objetivo.

Two:

Dos:

stimulus.

estímulo.

You show people examples of manipulative messaging

Muestras a las personas ejemplos de mensajes manipuladores

so that they will be more likely

para que tengan más probabilidades

to be able to identify those in the future.

de identificarlos en el futuro.

And three: refutation.

Y tres: refutación.

Brindas a las personas las herramientas

You give people the tools

to be able to refute a message in real time.

para poder refutar un mensaje en tiempo real.

For example,

Por ejemplo,

if you see a headline that’s really sensational,

si ves un titular realmente sensacionalista

and it either seems too good to be true or it makes you really angry,

y parece demasiado bueno para ser verdad o te hace enfadar mucho,

always Google around for other sources.

busca siempre en Google otras fuentes.

Always Google around.

Busca siempre en Google.

De acuerdo, sabíamos los pasos a seguir,

OK, so we knew the steps to take,

but we also knew if we were going to really get at this problem

pero también sabíamos que si queríamos resolver este problema

en todo el mundo,

around the world,

un enfoque único para todos los casos no funcionaría.

a one-size-fits-all approach wouldn't work.

We knew we needed to get local.

Sabíamos que teníamos que actuar a nivel local.

So we partnered with civil society organizations

Así que nos asociamos con organizaciones de la sociedad civil

in countries around the world,

en países de todo el mundo,

from Germany to Indonesia to Ukraine.

desde Alemania hasta Indonesia y Ucrania.

And we started first with the evidence.

Y empezamos primero con las pruebas.

We met with dozens of experts,

Nos reunimos con docenas de expertos,

we surveyed the online space,

encuestamos en el espacio en línea

and we identified the most common manipulation tactics

e identificamos las tácticas de manipulación más comunes

being used in each country.

que se utilizan en cada país.

We then partnered with local filmmakers

Luego nos asociamos con cineastas locales

to create educational videos

para crear vídeos educativos

that would teach people about those manipulation tactics

que enseñaran a la gente sobre las tácticas de manipulación

that were being used in their home country.

que se utilizaban en su país de origen.

In some contexts,

En algunos contextos,

we found that people trust close peers and relatives the most.

descubrimos que las personas confían más en sus compañeros y familiares cercanos.

So in Germany,

Así que en Alemania

we filmed close friends chatting in a park.

filmamos a amigos íntimos charlando en un parque.

In Ukraine,

En Ucrania,

we filmed family dialogues around a kitchen table,

filmamos diálogos familiares alrededor de la mesa de la cocina,

a setting that's so familiar to so many of us,

un escenario tan familiar para muchos de nosotros,

where so many of us have had those difficult conversations.

donde muchos de nosotros hemos tenido conversaciones difíciles.

We wanted to encourage people to have these kinds of conversations

Queríamos animar a las personas a mantener este tipo de conversaciones

within their own trusted circles,

dentro de sus propios círculos de confianza,

whether they're in El Salvador or Indonesia.

ya sea que estén en El Salvador o Indonesia.

And to do so before pivotal moments

Y hacerlo antes de los momentos cruciales en los que

where online manipulation efforts intensify,

se intensifican los esfuerzos de manipulación en línea,

like elections.

como las elecciones.

So as we prepared to head into the EU elections,

Así que, mientras nos preparábamos para las elecciones de la UE,

we knew that distrust in climate science

sabíamos que la desconfianza en la ciencia del clima

had already emerged as a critical misinformation theme.

ya se había convertido en un tema crítico de desinformación.

Now one study had found that adults over the age of 45

Ahora, un estudio ha descubierto que los adultos mayores de 45 años

are less likely to investigate false information

tienen menos probabilidades de investigar información falsa

when they stumble across it online.

cuando la encuentran en Internet.

Now we also know that adults over the age of 45

Ahora también sabemos que los adultos mayores de 45 años

have higher voter turnout,

tienen una mayor participación electoral,

which means if it wins,

lo que significa que, si gana,

disinformation can have a disproportionate impact

la desinformación puede tener un impacto desproporcionado

on the outcomes of elections.

en los resultados de las elecciones.

So as we prepare to head into the EU elections,

Por eso, mientras nos preparábamos para las elecciones de la UE,

we created content for every EU country,

creamos contenido para cada país de la UE,

in 27 languages,

en 27 idiomas,

aiming to empower Europeans to spot and reject

con el objetivo de que los europeos pudieran detectar y rechazar

efforts to manipulate them before the elections.

los intentos de manipulación antes de las elecciones.

Over the last year,

Durante el último año,

we have reached millions of people around the globe

hemos llegado a millones de personas de todo el mundo

with these videos.

con estos vídeos.

In Germany alone, we reached 42 million people.

Solo en Alemania, llegamos a 42 millones de personas.

That's half the German population.

Es la mitad de la población alemana.

And we found on average,

Y descubrimos que, en promedio,

viewers of these videos were up to 10 percent more likely

los espectadores de estos vídeos tenían hasta un 10 % más de probabilidades

to be able to identify manipulation efforts

de identificar los intentos

than those who hadn't seen those videos.

de manipulación que quienes no los habían visto.

This is a winning formula.

Esta es una fórmula ganadora.

The evidence shows us

La evidencia nos demuestra

that prebunking is effective at building resistance to disinformation.

que el prepostergar es eficaz para crear resistencia a la desinformación.

It begs the question,

Esto plantea la pregunta:

how do we make that resistance last?

¿cómo hacemos que esa resistencia dure?

How do we build long-term societal resilience

¿Cómo construimos la resiliencia social a largo plazo ante

to disinformation efforts?

los esfuerzos de desinformación?

There is an ongoing effort to use disinformation

Hay un esfuerzo continuo por utilizar la desinformación para

to undermine our democracies.

socavar nuestras democracias.

Just last month,

El mes pasado,

the US Justice Department seized 32 internet domains

el Departamento de Justicia de EE. UU. incautó 32 dominios de Internet

secretly deployed by the Russian government

que el gobierno ruso había utilizado en secreto

to spread disinformation across the US and Europe.

para difundir desinformación en EE. UU. y Europa.

This included deliberate efforts to exploit anxieties and fear

Esto incluyó esfuerzos deliberados para explotar la ansiedad y el miedo

across the public about the energy transition,

de la opinión pública acerca de la transición energética,

specifically to encourage violence.

específicamente para fomentar la violencia.

Now it’s not just the Russian government that we need to be worried about.

Ahora no solo debemos preocuparnos por el gobierno ruso.

Easy access to generative AI tools

El fácil acceso a las herramientas de IA generativa

means that anyone,

significa que cualquier persona,

not just those with resources, money and power,

no solo quienes tienen recursos, dinero y poder,

can create high-quality,

puede crear contenido de desinformación poderoso,

effective, powerful disinformation content.

efectivo y de alta calidad.

And the sources of disinformation are varied.

Además, las fuentes de desinformación son variadas.

They can come from our elected officials

Pueden provenir de nuestros funcionarios

all the way through to our neighbors down the road.

electos hasta llegar a nuestros vecinos del futuro.

Many of us don't need to look further than our own families.

Muchos de nosotros no necesitamos buscar más allá de nuestras propias familias.

Sin embargo, muchas de las herramientas que probamos en línea

But so many of the tools we tested online

are even more powerful

son aún más poderosas

cuando provienen directamente de las personas en las que

when they come directly from the people

that you trust and love the most in real life, IRL.

más confías y en las que más amas en la vida real, en la vida real.

So instead of endlessly debating the facts,

Así que, en lugar de debatir sin parar los hechos,

give your loved ones the tools

brinda a tus seres queridos las herramientas

that they need to protect themselves online.

que necesitan para protegerse en línea.

Information manipulation is unfortunately the new norm.

La manipulación de la información es, lamentablemente, la nueva norma.

But that doesn't mean we need to accept our loved ones being misled,

Pero eso no significa que debamos aceptar

que nuestros seres queridos sean engañados,

and we shouldn't accept our climate scientists living in fear.

y no debemos aceptar que nuestros científicos del clima vivan con miedo.

Por lo tanto, si no podemos resolver este problema

So if we can't fact-check our way out of this problem,

mediante la verificación de los hechos,

we need to beat disinformation at its own game

tenemos que acabar con la desinformación

por sí sola: llegar a las personas antes de que lo haga la desinformación

by reaching people before disinformation does

and giving them all the tools that they need

y proporcionarles todas las herramientas que necesitan

to protect themselves online.

para protegerse en Internet.

Thank you so much.

Muchísimas gracias.

(Applause)

(Aplausos)