How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Traductor: Jose Manuel Miana Borau Revisor: Paula Motter

So, on April 23 of 2013,

El 23 de abril de 2013,

the Associated Press put out the following tweet on Twitter.

Associated Press puso el siguiente tuit en Twitter.

It said, "Breaking news:

Decía: "Noticia de última hora:

Two explosions at the White House

dos explosiones en la Casa Blanca.

and Barack Obama has been injured."

Barack Obama ha resultado herido".

This tweet was retweeted 4,000 times in less than five minutes,

Este tuit fue retuiteado 4000 veces en menos de cinco minutos,

and it went viral thereafter.

y se hizo viral a partir de ese instante.

Now, this tweet wasn't real news put out by the Associated Press.

Ahora bien, este tuit no fue una noticia verdadera

difundida por la agencia Associated Press.

In fact it was false news, or fake news,

En realidad, fue una noticia falsa,

that was propagated by Syrian hackers

propagada por 'hackers' sirios

that had infiltrated the Associated Press Twitter handle.

que se habían hecho con el control del Twitter de Associated Press.

Their purpose was to disrupt society, but they disrupted much more.

Su objetivo era alterar a la sociedad, pero alteraron mucho más,

Because automated trading algorithms

porque los algoritmos automatizados de negociación

immediately seized on the sentiment on this tweet,

inmediatamente interpretaron la sensibilidad de este tuit,

and began trading based on the potential

y comenzaron a operar en base a la posibilidad

that the president of the United States had been injured or killed

de que el presidente de los EE. UU. hubiese sido herido o asesinado

in this explosion.

en esa explosión.

And as they started tweeting,

Y cuando empezaron a tuitear,

they immediately sent the stock market crashing,

hicieron que el mercado de valores se desplomara al instante,

wiping out 140 billion dollars in equity value in a single day.

y se perdieron 140 mil millones de dólares en valor bursátil en un solo día.

Robert Mueller, special counsel prosecutor in the United States,

Robert Mueller, consejero y fiscal especial de los Estados Unidos,

issued indictments against three Russian companies

acusó penalmente a tres compañías rusas

and 13 Russian individuals

y a 13 individuos rusos

on a conspiracy to defraud the United States

de conspirar para cometer fraude contra los Estados Unidos

by meddling in the 2016 presidential election.

al entrometerse en las elecciones presidenciales de 2016.

And what this indictment tells as a story

Lo que esta acusación deja al descubierto

is the story of the Internet Research Agency,

es la historia de la Agencia de Investigación de Internet,

the shadowy arm of the Kremlin on social media.

el oscuro brazo del Kremlin en las redes sociales.

During the presidential election alone,

Solo en las elecciones presidenciales,

the Internet Agency's efforts

los intentos de la Agencia de Internet

reached 126 million people on Facebook in the United States,

llegaron a 126 millones de personas en Facebook en los Estados Unidos,

issued three million individual tweets

emitieron tres millones de tuits individuales

and 43 hours' worth of YouTube content.

y 43 horas de contenido de YouTube.

All of which was fake --

Todo lo cual era falso,

misinformation designed to sow discord in the US presidential election.

desinformación diseñada para meter cizaña en la elección presidencial de EE. UU.

A recent study by Oxford University

Un estudio reciente realizado por la Universidad de Oxford

showed that in the recent Swedish elections,

mostró que en las últimas elecciones suecas,

one third of all of the information spreading on social media

un tercio de toda la información que se difundió en las redes sociales

about the election

sobre las elecciones

was fake or misinformation.

era falsa o incorrecta.

In addition, these types of social-media misinformation campaigns

Además, este tipo de campañas de desinformación en redes sociales

can spread what has been called "genocidal propaganda,"

pueden difundir lo que se ha llamado "propaganda genocida",

for instance against the Rohingya in Burma,

por ejemplo contra los rohingya en Burma,

triggering mob killings in India.

que desencadenó linchamientos en la India.

We studied fake news

Estudiamos las noticias falsas

and began studying it before it was a popular term.

y comenzamos a hacerlo antes de que fuera un término popular.

And we recently published the largest-ever longitudinal study

Y hemos publicado recientemente el estudio longitudinal más grande jamás realizado

of the spread of fake news online

sobre la difusión de noticias falsas en línea

on the cover of "Science" in March of this year.

en la portada de la revista "Science" en marzo de este año.

We studied all of the verified true and false news stories

Estudiamos todas las noticias verificadas como verdaderas y falsas

that ever spread on Twitter,

que se propagaron por Twitter,

from its inception in 2006 to 2017.

desde su creación en 2006 hasta 2017.

And when we studied this information,

Y cuando estudiamos esta información,

we studied verified news stories

tomamos las noticias verificadas y revisadas

that were verified by six independent fact-checking organizations.

por seis organizaciones independientes de comprobación de datos.

So we knew which stories were true

Así que sabíamos cuáles eran ciertas

and which stories were false.

y cuáles falsas.

We can measure their diffusion,

Podemos medir su difusión,

the speed of their diffusion,

la velocidad de su difusión,

the depth and breadth of their diffusion,

el alcance de su difusión,

how many people become entangled in this information cascade and so on.

cuántas personas se enredan en esta cascada de información, etc.

And what we did in this paper

Y lo que hicimos en esta investigación

was we compared the spread of true news to the spread of false news.

fue comparar la propagación de noticias verdaderas con las falsas.

And here's what we found.

Y estos son los resultados.

We found that false news diffused further, faster, deeper

Hallamos que una noticia falsa llega más lejos, más rápido

and more broadly than the truth

y tiene más alcance que la verdadera

in every category of information that we studied,

en todas las categorías de información que hemos estudiado,

sometimes by an order of magnitude.

a veces en un orden de magnitud.

And in fact, false political news was the most viral.

Y las noticias falsas en el ámbito de la política fueron las más virales.

It diffused further, faster, deeper and more broadly

Se difunden más lejos, más rápido, y tienen mayor alcance

than any other type of false news.

que cualquier otro tipo de noticias falsas.

When we saw this,

Cuando vimos esto,

we were at once worried but also curious.

sentimos a la vez preocupación y curiosidad.

Why?

¿Por qué?

Why does false news travel so much further, faster, deeper

¿Por qué las noticias falsas llegan más lejos, más rápido,

and more broadly than the truth?

y tienen mayor alcance que la verdad?

The first hypothesis that we came up with was,

La primera hipótesis que se nos ocurrió fue:

"Well, maybe people who spread false news have more followers or follow more people,

"Bueno, tal vez quienes difunden noticias falsas

tienen más seguidores o siguen a más gente,

or tweet more often,

o tuitean con más frecuencia,

or maybe they're more often 'verified' users of Twitter, with more credibility,

o tal vez son más usuarios 'verificados' de Twitter, con más credibilidad,

or maybe they've been on Twitter longer."

o tal vez han estado en Twitter más tiempo".

So we checked each one of these in turn.

Así que inspeccionamos cada uno de estos casos.

And what we found was exactly the opposite.

Y lo que encontramos fue exactamente lo contrario.

False-news spreaders had fewer followers,

Quienes difundían noticias falsas tenían menos seguidores,

followed fewer people, were less active,

seguían a menos gente, eran menos activos, eran usuarios poco "verificados"

less often "verified"

and had been on Twitter for a shorter period of time.

y habían estado en Twitter por un período de tiempo más corto.

And yet,

Y sin embargo,

false news was 70 percent more likely to be retweeted than the truth,

las noticias falsas eran un 70 % más propensas a ser retuiteadas,

controlling for all of these and many other factors.

teniendo en cuenta estos y muchos otros factores.

So we had to come up with other explanations.

Así que tuvimos que buscar otras explicaciones.

E ideamos lo que llamamos "hipótesis de la novedad".

And we devised what we called a "novelty hypothesis."

So if you read the literature,

Si leemos documentaciones sobre el tema,

it is well known that human attention is drawn to novelty,

es bien sabido que la atención humana se siente atraída por la novedad,

things that are new in the environment.

cosas que son nuevas en el entorno.

And if you read the sociology literature,

Y si leemos la literatura sociológica,

you know that we like to share novel information.

veremos que nos gusta compartir información novedosa.

It makes us seem like we have access to inside information,

Sentimos que tenemos acceso a información privilegiada,

and we gain in status by spreading this kind of information.

y ganamos estatus mediante la difusión de este tipo de información.

So what we did was we measured the novelty of an incoming true or false tweet,

Decidimos entonces medir la novedad de un tuit verdadero o falso,

compared to the corpus of what that individual had seen

en comparación con el corpus de lo que esa persona había visto

in the 60 days prior on Twitter.

en Twitter los 60 días anteriores.

But that wasn't enough, because we thought to ourselves,

Pero no fue suficiente, porque pensamos:

"Well, maybe false news is more novel in an information-theoretic sense,

"Bueno, quizá las noticias falsas son más novedosas en un sentido teórico,

but maybe people don't perceive it as more novel."

pero tal vez la gente no las percibe como más novedosas".

So to understand people's perceptions of false news,

Así que para entender cómo la gente percibe las noticias falsas,

we looked at the information and the sentiment

nos fijamos en la información y el componente afectivo

contained in the replies to true and false tweets.

de las respuestas a los tuits verdaderos y falsos.

And what we found

Y lo que detectamos

was that across a bunch of different measures of sentiment --

fue que, teniendo en cuenta un montón de sentimientos diferentes,

surprise, disgust, fear, sadness,

como sorpresa, disgusto, miedo, tristeza,

anticipation, joy and trust --

expectativa, alegría y confianza,

false news exhibited significantly more surprise and disgust

las noticias falsas generaron significativamente más sorpresa y disgusto

in the replies to false tweets.

en las respuestas a los falsos tuits.

And true news exhibited significantly more anticipation,

Y las noticias verdaderas mostraron significativamente más expectativas,

joy and trust

alegría y confianza

in reply to true tweets.

en respuesta a los tuits verdaderos.

The surprise corroborates our novelty hypothesis.

La sorpresa corrobora nuestra hipótesis de la novedad.

This is new and surprising, and so we're more likely to share it.

Esto es nuevo y sorprendente, por lo que es más fácil que se comparta.

At the same time, there was congressional testimony

Al mismo tiempo, hubo testimonios ante el Congreso

in front of both houses of Congress in the United States,

en las dos cámaras parlamentarias de los Estados Unidos

looking at the role of bots in the spread of misinformation.

sobre el papel de los robots en la propagación de información errónea.

So we looked at this too --

Así que consideramos esto también.

we used multiple sophisticated bot-detection algorithms

Utilizamos múltiples algoritmos complejos de rastreo

to find the bots in our data and to pull them out.

para encontrar los robots en nuestros datos y sacarlos.

So we pulled them out, we put them back in

Los sacamos, los volvimos a poner

and we compared what happens to our measurement.

y comparamos lo que sucede con nuestras mediciones.

And what we found was that, yes indeed,

Descubrimos que, efectivamente,

bots were accelerating the spread of false news online,

los robots aceleraban la propagación de noticias falsas en línea,

but they were accelerating the spread of true news

pero aceleraban la propagación de las verdaderas

at approximately the same rate.

aproximadamente a la misma velocidad.

Which means bots are not responsible

Lo que significa que los robots no son los responsables

for the differential diffusion of truth and falsity online.

de la difusión diferencial de la verdad y la mentira en línea.

We can't abdicate that responsibility,

No podemos renunciar a esa responsabilidad,

because we, humans, are responsible for that spread.

porque nosotros, los seres humanos, somos responsables de esa propagación.

Now, everything that I have told you so far,

Ahora bien, todo lo que les he dicho hasta el momento,

unfortunately for all of us,

por desgracia para todos nosotros,

is the good news.

es la buena noticia.

The reason is because it's about to get a whole lot worse.

La razón es que está a punto de ponerse mucho peor.

And two specific technologies are going to make it worse.

Y dos tecnologías específicas van a empeorar la situación.

We are going to see the rise of a tremendous wave of synthetic media.

Vamos a presenciar el aumento de una tremenda ola de medios sintéticos.

Fake video, fake audio that is very convincing to the human eye.

Video falso, audio falso, muy convincentes para el ojo humano.

And this will powered by two technologies.

Y esto será impulsado por dos tecnologías.

The first of these is known as "generative adversarial networks."

La primera es conocida como "redes de confrontación generativas".

This is a machine-learning model with two networks:

Es un modelo de aprendizaje automático con dos redes:

a discriminator,

un discriminador,

whose job it is to determine whether something is true or false,

cuyo trabajo es determinar si algo es verdadero o falso,

and a generator,

y un generador,

whose job it is to generate synthetic media.

cuyo trabajo es generar medios sintéticos.

So the synthetic generator generates synthetic video or audio,

El generador sintético genera un video o audio sintético,

and the discriminator tries to tell, "Is this real or is this fake?"

y el discriminador trata de distinguir si es verdadero o falso.

And in fact, it is the job of the generator

Y, de hecho, el trabajo del generador

to maximize the likelihood that it will fool the discriminator

es maximizar la probabilidad de engañar al discriminador

into thinking the synthetic video and audio that it is creating

para que crea que el video y el audio sintéticos que está creando

is actually true.

son realmente ciertos.

Imagine a machine in a hyperloop,

Imaginen una máquina en un Hyperloop,

trying to get better and better at fooling us.

que se perfecciona más y más con el fin de engañarnos.

This, combined with the second technology,

Esto, combinado con la segunda tecnología,

which is essentially the democratization of artificial intelligence to the people,

que es esencialmente la democratización de la inteligencia artificial,

the ability for anyone,

la capacidad de cualquier persona,

without any background in artificial intelligence

sin ningún tipo de experiencia en inteligencia artificial

or machine learning,

o aprendizaje automático,

to deploy these kinds of algorithms to generate synthetic media

de implementar este tipo de algoritmos para generar los medios sintéticos

makes it ultimately so much easier to create videos.

hace que, en última instancia, sea mucho más fácil crear videos.

The White House issued a false, doctored video

La Casa Blanca emitió el video falso y adulterado

of a journalist interacting with an intern who was trying to take his microphone.

de una pasante que intentaba sacarle el micrófono a un periodista.

They removed frames from this video

Eliminaron fotogramas de este video

in order to make his actions seem more punchy.

para que las acciones del periodista pareciesen más violentas.

And when videographers and stuntmen and women

Y cuando camarógrafos y dobles

were interviewed about this type of technique,

fueron consultados acerca de este tipo de técnica,

they said, "Yes, we use this in the movies all the time

dijeron: "Sí, siempre lo hacemos en las películas

to make our punches and kicks look more choppy and more aggressive."

para que nuestros puñetazos y patadas parezcan más rápidos y agresivos".

They then put out this video

Entonces mostraron este video

and partly used it as justification

y lo utilizaron parcialmente como excusa

to revoke Jim Acosta, the reporter's, press pass

para denegar el acceso de Jim Acosta como periodista a la Casa Blanca.

from the White House.

And CNN had to sue to have that press pass reinstated.

Y la CNN tuvo que demandarlos para regresarle su pase de prensa.

There are about five different paths that I can think of that we can follow

Hay unos cinco modos diferentes que se me ocurren

to try and address some of these very difficult problems today.

para tratar de abordar algunos de estos problemas difíciles hoy en día.

Each one of them has promise,

Cada uno es prometedor,

but each one of them has its own challenges.

pero tiene sus propios desafíos.

The first one is labeling.

El primero es el etiquetado.

Think about it this way:

Piénsenlo de esta manera:

when you go to the grocery store to buy food to consume,

cuando van a la tienda para comprar alimentos,

it's extensively labeled.

está todo etiquetado.

You know how many calories it has,

Saben la cantidad de calorías que tiene,

how much fat it contains --

la cantidad de grasa que contiene,

and yet when we consume information, we have no labels whatsoever.

pero, cuando consumimos información, no tenemos etiquetas de ningún tipo.

What is contained in this information?

¿Qué contiene esta información?

Is the source credible?

¿Es creíble la fuente?

Where is this information gathered from?

¿De dónde se obtuvo esta información?

We have none of that information

No tenemos ninguno de esos datos cuando consumimos información.

when we are consuming information.

That is a potential avenue, but it comes with its challenges.

Esa es una vía potencial, pero viene con sus desafíos.

For instance, who gets to decide, in society, what's true and what's false?

Por ejemplo, ¿quién decide en la sociedad lo que es cierto y lo que es falso?

Is it the governments?

¿Son los gobiernos?

Is it Facebook?

¿Es Facebook?

Is it an independent consortium of fact-checkers?

¿Es un consorcio independiente de verificadores?

And who's checking the fact-checkers?

¿Y quién controla a los verificadores?

Another potential avenue is incentives.

Otra vía potencial son los incentivos.

We know that during the US presidential election

Sabemos que durante la elección presidencial de EE. UU.

there was a wave of misinformation that came from Macedonia

se produjo una oleada de información falsa que procedía de Macedonia.

that didn't have any political motive

No tenía ningún fin político

but instead had an economic motive.

pero sí un fin económico.

And this economic motive existed,

Y este fin económico existió

because false news travels so much farther, faster

porque las noticias falsas viajan mucho más lejos, más rápido,

and more deeply than the truth,

y tienen mayor alcance que la verdad,

and you can earn advertising dollars as you garner eyeballs and attention

y se puede ganar dinero con la publicidad mientras se atrae la atención

with this type of information.

con este tipo de información.

But if we can depress the spread of this information,

Pero si podemos reducir la difusión de esta información,

perhaps it would reduce the economic incentive

tal vez se reduciría el incentivo económico

to produce it at all in the first place.

para producirla.

Third, we can think about regulation,

En tercer lugar, pensemos en la regulación

and certainly, we should think about this option.

y, desde luego, debemos pensar en esta opción.

In the United States, currently,

En EE. UU., en la actualidad,

we are exploring what might happen if Facebook and others are regulated.

estamos explorando lo que podría suceder si Facebook y otros medios se regularan.

While we should consider things like regulating political speech,

Aunque debemos tener en cuenta cosas como la regulación del discurso político,

labeling the fact that it's political speech,

es decir, etiquetarlo como discurso político,

making sure foreign actors can't fund political speech,

asegurarse de que los actores extranjeros no puedan financiar el discurso político,

it also has its own dangers.

también tiene sus propios peligros.

For instance, Malaysia just instituted a six-year prison sentence

Por ejemplo, Malasia acaba de instituir una condena de seis años de prisión

for anyone found spreading misinformation.

para cualquier persona que sea sorprendida difundiendo datos falsos.

And in authoritarian regimes,

Y en los regímenes autoritarios,

these kinds of policies can be used to suppress minority opinions

este tipo de políticas se pueden utilizar para suprimir las opiniones minoritarias

and to continue to extend repression.

y para seguir ampliando la represión.

The fourth possible option is transparency.

La cuarta opción posible es la transparencia.

We want to know how do Facebook's algorithms work.

Queremos saber cómo funcionan los algoritmos de Facebook.

How does the data combine with the algorithms

¿De qué manera los datos se combinan con los algoritmos

to produce the outcomes that we see?

para producir los resultados que vemos?

We want them to open the kimono

Queremos que abran el kimono

and show us exactly the inner workings of how Facebook is working.

y nos muestren exactamente el funcionamiento interno de Facebook.

And if we want to know social media's effect on society,

Y si queremos conocer el efecto de las redes sociales en la sociedad,

we need scientists, researchers

necesitamos que científicos, investigadores y otras personas

and others to have access to this kind of information.

tengan acceso a este tipo de información.

But at the same time,

Pero al mismo tiempo,

we are asking Facebook to lock everything down,

estamos pidiendo a Facebook poner todo bajo llave

to keep all of the data secure.

para mantener los datos seguros.

So, Facebook and the other social media platforms

Así, Facebook y las otras plataformas de medios sociales

are facing what I call a transparency paradox.

se enfrentan a lo que llamo "la paradoja de la transparencia".

We are asking them, at the same time,

Les estamos pidiendo

to be open and transparent and, simultaneously secure.

que sean abiertas, transparentes y, al mismo tiempo, seguras.

This is a very difficult needle to thread,

Esta es una aguja muy difícil enhebrar,

but they will need to thread this needle

pero deberán enhebrar esta aguja

if we are to achieve the promise of social technologies

si queremos alcanzar la promesa de las tecnologías sociales

while avoiding their peril.

y, a la vez, evitar sus riesgos.

The final thing that we could think about is algorithms and machine learning.

La última opción posible

son los algoritmos y el aprendizaje automático,

Technology devised to root out and understand fake news, how it spreads,

tecnología ideada para erradicar y entender las noticias falsas,

cómo se transmiten, y tratar de reducir su difusión.

and to try and dampen its flow.

Humans have to be in the loop of this technology,

La humanidad tiene que estar en el bucle de esta tecnología,

because we can never escape

porque nunca podremos negar

that underlying any technological solution or approach

que detrás de cualquier solución o enfoque tecnológico

is a fundamental ethical and philosophical question

hay una pregunta ética y filosófica fundamental

about how do we define truth and falsity,

acerca de cómo definimos la verdad y la falsedad,

to whom do we give the power to define truth and falsity

a quién le damos el poder de definir la verdad y la mentira,

and which opinions are legitimate,

y qué opiniones son legítimas,

which type of speech should be allowed and so on.

qué tipo de discurso debe permitirse y así sucesivamente.

Technology is not a solution for that.

La tecnología no es una solución en este caso.

Ethics and philosophy is a solution for that.

La ética y la filosofía son la solución.

Nearly every theory of human decision making,

Casi todas las teorías de la toma de decisiones humanas,

human cooperation and human coordination

la cooperación humana y la coordinación humana

has some sense of the truth at its core.

tienen un cierto sentido de la verdad en su esencia.

But with the rise of fake news,

Pero con el aumento de noticias falsas,

the rise of fake video,

de videos falsos,

the rise of fake audio,

de audios falsos,

we are teetering on the brink of the end of reality,

estamos al borde del precipicio del fin de la realidad,

where we cannot tell what is real from what is fake.

donde no podemos diferenciar lo que es real de lo que es falso.

And that's potentially incredibly dangerous.

Y eso es potencialmente muy peligroso.

We have to be vigilant in defending the truth

Tenemos que estar vigilantes en la defensa de la verdad

against misinformation.

contra la información errónea,

With our technologies, with our policies

con nuestras tecnologías, con nuestras políticas

and, perhaps most importantly,

y, quizás lo más importante,

with our own individual responsibilities,

con nuestras propias responsabilidades,

decisions, behaviors and actions.

decisiones, comportamientos y acciones individuales.

Thank you very much.

Muchas gracias.

(Applause)

(Aplausos)