How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Tradutor: Maurício Kakuei Tanaka Revisor: Leonardo Silva

So, on April 23 of 2013,

Em 23 de abril de 2013,

the Associated Press put out the following tweet on Twitter.

a Associated Press fez a seguinte publicação no Twitter:

It said, "Breaking news:

"Notícia de última hora:

Two explosions at the White House

duas explosões na Casa Branca,

and Barack Obama has been injured."

e Barack Obama foi ferido".

This tweet was retweeted 4,000 times in less than five minutes,

Essa publicação foi repassada 4 mil vezes em menos de cinco minutos

and it went viral thereafter.

e viralizou a partir de então.

Now, this tweet wasn't real news put out by the Associated Press.

A publicação não era uma notícia real divulgada pela Associated Press.

In fact it was false news, or fake news,

Na realidade, era uma notícia falsa, ou "fake news",

that was propagated by Syrian hackers

espalhada por hackers sírios

that had infiltrated the Associated Press Twitter handle.

que se infiltraram no perfil da Associated Press no Twitter.

Their purpose was to disrupt society, but they disrupted much more.

O objetivo era perturbar a sociedade, mas eles foram além.

Because automated trading algorithms

Os algoritmos de troca automatizada

immediately seized on the sentiment on this tweet,

apoderaram-se imediatamente da emoção dessa publicação

and began trading based on the potential

e começaram a funcionar com base na possibilidade

that the president of the United States had been injured or killed

de o presidente dos Estados Unidos ter sido ferido ou morto nessa explosão.

in this explosion.

And as they started tweeting,

Quando começaram a publicar,

they immediately sent the stock market crashing,

levaram imediatamente o mercado acionário a um colapso,

wiping out 140 billion dollars in equity value in a single day.

zerando US$ 140 bilhões em valor patrimonial em um único dia.

Robert Mueller, special counsel prosecutor in the United States,

Robert Mueller, promotor de justiça especial dos Estados Unidos,

issued indictments against three Russian companies

fez acusações contra 3 empresas russas

and 13 Russian individuals

e 13 indivíduos russos

on a conspiracy to defraud the United States

em uma conspiração para fraudar os Estados Unidos,

by meddling in the 2016 presidential election.

interferindo na eleição presidencial de 2016.

And what this indictment tells as a story

Essa acusação

is the story of the Internet Research Agency,

conta a história da Agência de Pesquisa da Internet,

the shadowy arm of the Kremlin on social media.

a divisão sombria do Kremlin nas mídias sociais.

During the presidential election alone,

Somente durante a eleição presidencial,

the Internet Agency's efforts

os esforços da Agência da Internet

reached 126 million people on Facebook in the United States,

alcançaram 126 milhões de pessoas no Facebook nos Estados Unidos,

issued three million individual tweets

fizeram 3 milhões de publicações individuais no Tweeter

and 43 hours' worth of YouTube content.

e o equivalente a 43 horas de conteúdo do YouTube.

All of which was fake --

Tudo isso era falso,

misinformation designed to sow discord in the US presidential election.

notícias falsas para semear discórdia na eleição presidencial dos EUA.

A recent study by Oxford University

Um estudo recente da Universidade Oxford

showed that in the recent Swedish elections,

mostrou que, nas eleições suecas recentes,

one third of all of the information spreading on social media

um terço de todas as notícias divulgadas nas mídias sociais

about the election

sobre a eleição

was fake or misinformation.

eram falsas ou incorretas.

In addition, these types of social-media misinformation campaigns

Além disso, esses tipos de campanhas de notícias falsas nas mídias sociais

can spread what has been called "genocidal propaganda,"

podem espalhar o que foi chamado de "propaganda genocida",

for instance against the Rohingya in Burma,

por exemplo, contra o povo rohingya na Birmânia,

triggering mob killings in India.

provocando assassinatos em massa na Índia.

We studied fake news

Estudamos notícias falsas

and began studying it before it was a popular term.

e começamos antes de essa expressão ficar conhecida.

And we recently published the largest-ever longitudinal study

Recentemente, publicamos o estudo mais extenso de todos os tempos

of the spread of fake news online

sobre a disseminação de notícias falsas on-line

on the cover of "Science" in March of this year.

na capa da "Science" de março deste ano.

We studied all of the verified true and false news stories

Estudamos todas as notícias falsas e verdadeiras verificadas

that ever spread on Twitter,

já divulgadas no Twitter,

from its inception in 2006 to 2017.

desde o início em 2006 até 2017.

And when we studied this information,

Quando estudamos essas notícias,

we studied verified news stories

estudamos notícias verificadas

that were verified by six independent fact-checking organizations.

por seis organizações independentes de verificação de fatos.

So we knew which stories were true

Sabíamos quais histórias eram verdadeiras

and which stories were false.

e quais eram falsas.

We can measure their diffusion,

Conseguimos medir a disseminação delas,

the speed of their diffusion,

a velocidade de disseminação,

the depth and breadth of their diffusion,

a profundidade e a amplitude de disseminação,

how many people become entangled in this information cascade and so on.

quantas pessoas se envolvem nessa cascata de notícias e assim por diante.

And what we did in this paper

Nesse artigo,

was we compared the spread of true news to the spread of false news.

comparamos a disseminação de notícias verdadeiras com a de notícias falsas.

And here's what we found.

Eis o que descobrimos:

We found that false news diffused further, faster, deeper

notícias falsas se espalham mais, mais rápido, mais profundamente

and more broadly than the truth

e mais amplamente do que a verdade

in every category of information that we studied,

em todas as categorias de notícias que estudamos,

sometimes by an order of magnitude.

às vezes por ordem de grandeza.

And in fact, false political news was the most viral.

De fato, notícias políticas falsas viralizaram mais.

It diffused further, faster, deeper and more broadly

Espalharam-se mais, mais rápido, mais profundamente e amplamente

than any other type of false news.

do que qualquer outro tipo de notícia falsa.

When we saw this,

Quando vimos isso,

we were at once worried but also curious.

ficamos imediatamente preocupados, mas também curiosos.

Why?

Por quê?

Why does false news travel so much further, faster, deeper

Por que notícias falsas viajam muito mais, mais rápido, mais profundamente

and more broadly than the truth?

e mais amplamente do que a verdade?

The first hypothesis that we came up with was,

A primeira hipótese que sugerimos foi:

"Well, maybe people who spread false news have more followers or follow more people,

"Talvez quem espalha notícias falsas tenha mais seguidores, siga mais pessoas,

or tweet more often,

publique com mais frequência,

or maybe they're more often 'verified' users of Twitter, with more credibility,

ou talvez seja usuário 'verificado' do Twitter, com mais credibilidade,

or maybe they've been on Twitter longer."

ou talvez esteja no Twitter há mais tempo".

So we checked each one of these in turn.

Verificamos cada uma dessas opções

And what we found was exactly the opposite.

e descobrimos exatamente o oposto.

False-news spreaders had fewer followers,

Quem espalha notícias falsas tinha menos seguidores,

followed fewer people, were less active,

seguia menos pessoas, era menos ativo,

less often "verified"

menos "verificado"

and had been on Twitter for a shorter period of time.

e estava no Twitter há menos tempo.

And yet,

No entanto,

notícias falsas tinham 70% mais chances de serem repassadas do que a verdade,

false news was 70 percent more likely to be retweeted than the truth,

controlling for all of these and many other factors.

sendo controladas por todos esses e muitos outros fatores.

So we had to come up with other explanations.

Tivemos que propor outras explicações.

And we devised what we called a "novelty hypothesis."

Criamos o que chamamos de "hipótese da novidade".

So if you read the literature,

Se você lê a literatura,

it is well known that human attention is drawn to novelty,

sabe que a atenção humana é atraída por novidades,

things that are new in the environment.

coisas novas no ambiente.

And if you read the sociology literature,

Se você lê a literatura sobre sociologia,

you know that we like to share novel information.

sabe que gostamos de compartilhar novas informações.

It makes us seem like we have access to inside information,

Isso nos faz parecer que temos acesso a informações privilegiadas

and we gain in status by spreading this kind of information.

e ganhamos status ao espalhar esse tipo de informação.

So what we did was we measured the novelty of an incoming true or false tweet,

Medimos a novidade de uma publicação verdadeira ou falsa que chega no Twitter

compared to the corpus of what that individual had seen

e comparamos às publicações que aquele indivíduo havia visto

in the 60 days prior on Twitter.

nos 60 dias anteriores no Twitter.

But that wasn't enough, because we thought to ourselves,

Mas isso não foi suficiente, porque pensamos:

"Well, maybe false news is more novel in an information-theoretic sense,

"Talvez notícias falsas sejam mais novas em um sentido teórico da informação,

but maybe people don't perceive it as more novel."

mas talvez as pessoas não as percebam como mais novas".

So to understand people's perceptions of false news,

Para entender a percepção das pessoas sobre notícias falsas,

we looked at the information and the sentiment

analisamos a informação e o sentimento

contained in the replies to true and false tweets.

contidos nas respostas a publicações verdadeiras e falsas no Twitter.

And what we found

Descobrimos que, em várias medidas diferentes de sentimento -

was that across a bunch of different measures of sentiment --

surprise, disgust, fear, sadness,

surpresa, repulsa, medo, tristeza,

anticipation, joy and trust --

expectativa, alegria e confiança -

false news exhibited significantly more surprise and disgust

notícias falsas demonstravam significativamente mais surpresa e repulsa

in the replies to false tweets.

nas respostas a publicações falsas.

And true news exhibited significantly more anticipation,

E notícias verdadeiras demonstravam significativamente mais expectativa,

joy and trust

alegria e confiança

in reply to true tweets.

em resposta a publicações verdadeiras.

The surprise corroborates our novelty hypothesis.

A surpresa confirma nossa hipótese de novidade.

This is new and surprising, and so we're more likely to share it.

Isso é novo e surpreendente e, portanto, temos mais chances de compartilhar.

At the same time, there was congressional testimony

Ao mesmo tempo, houve testemunhos do congresso

in front of both houses of Congress in the United States,

em frente às duas casas do Congresso nos Estados Unidos,

looking at the role of bots in the spread of misinformation.

que analisaram o papel de robôs na disseminação de notícias falsas.

So we looked at this too --

Também analisamos isso.

we used multiple sophisticated bot-detection algorithms

Usamos vários algoritmos sofisticados de detecção de robôs

to find the bots in our data and to pull them out.

para encontrar os robôs em nossos dados e retirá-los.

So we pulled them out, we put them back in

Nós os retiramos, os colocamos de volta

and we compared what happens to our measurement.

e comparamos o que acontece com nossa medição.

And what we found was that, yes indeed,

Descobrimos que, de fato,

bots were accelerating the spread of false news online,

robôs aceleravam a disseminação de notícias falsas na internet,

but they were accelerating the spread of true news

mas aceleravam a disseminação de notícias verdadeiras

at approximately the same rate.

aproximadamente na mesma velocidade,

Which means bots are not responsible

o que significa que os robôs não são responsáveis

for the differential diffusion of truth and falsity online.

pela disseminação diferenciada da verdade e da falsidade na internet.

We can't abdicate that responsibility,

Não podemos abdicar dessa responsabilidade,

because we, humans, are responsible for that spread.

porque nós, seres humanos, somos responsáveis por essa disseminação.

Now, everything that I have told you so far,

Tudo o que falei até agora,

unfortunately for all of us,

infelizmente para todos nós,

is the good news.

são as boas notícias.

The reason is because it's about to get a whole lot worse.

O motivo é que está prestes a ficar muito pior.

And two specific technologies are going to make it worse.

Duas tecnologias específicas vão piorar as coisas.

We are going to see the rise of a tremendous wave of synthetic media.

Veremos o aumento de uma onda enorme de mídia sintética,

Fake video, fake audio that is very convincing to the human eye.

vídeos e áudios falsos muito convincentes para o olho humano.

And this will powered by two technologies.

Isso será alimentado por duas tecnologias.

The first of these is known as "generative adversarial networks."

A primeira delas é conhecida como "redes adversárias generativas".

This is a machine-learning model with two networks:

É um modelo de aprendizado de máquina com duas redes:

a discriminator,

um discriminador,

whose job it is to determine whether something is true or false,

cuja tarefa é determinar se algo é verdadeiro ou falso,

and a generator,

e um gerador,

whose job it is to generate synthetic media.

cuja tarefa é gerar mídia sintética.

So the synthetic generator generates synthetic video or audio,

O gerador sintético gera vídeo ou áudio sintéticos,

and the discriminator tries to tell, "Is this real or is this fake?"

e o discriminador tenta dizer: "Isso é real ou falso?"

And in fact, it is the job of the generator

De fato, é a tarefa do gerador

to maximize the likelihood that it will fool the discriminator

maximizar a probabilidade de enganar o discriminador

into thinking the synthetic video and audio that it is creating

para ele achar que o vídeo e o áudio sintéticos que está criando

is actually true.

são realmente verdadeiros.

Imagine a machine in a hyperloop,

Imaginem uma máquina em um superciclo,

trying to get better and better at fooling us.

tentando ficar cada vez melhor em nos enganar.

This, combined with the second technology,

Isso, combinado com a segunda tecnologia,

which is essentially the democratization of artificial intelligence to the people,

que é basicamente a democratização da inteligência artificial às pessoas,

the ability for anyone,

a capacidade de qualquer pessoa

without any background in artificial intelligence

sem formação em inteligência artificial ou aprendizado de máquina

or machine learning,

to deploy these kinds of algorithms to generate synthetic media

implantar esses tipos de algoritmos para gerar mídia sintética,

makes it ultimately so much easier to create videos.

torna, no final, muito mais fácil criar vídeos.

The White House issued a false, doctored video

A Casa Branca divulgou um vídeo falso adulterado

of a journalist interacting with an intern who was trying to take his microphone.

de um jornalista interagindo com uma estagiária

que tentava pegar seu microfone.

They removed frames from this video

Eles removeram quadros desse vídeo

in order to make his actions seem more punchy.

para fazer com que suas ações parecessem mais agressivas.

And when videographers and stuntmen and women

Quando cinegrafistas, dublês e mulheres

were interviewed about this type of technique,

foram entrevistados sobre esse tipo de técnica,

they said, "Yes, we use this in the movies all the time

eles disseram: "Sim, usamos isso nos filmes o tempo todo

to make our punches and kicks look more choppy and more aggressive."

para fazer com que nossos socos e chutes pareçam mais duros e agressivos".

They then put out this video

Esse vídeo foi publicado

and partly used it as justification

e parcialmente usado como justificativa

to revoke Jim Acosta, the reporter's, press pass

para cancelar o passe de imprensa do repórter Jim Acosta

from the White House.

para a Casa Branca.

And CNN had to sue to have that press pass reinstated.

E a CNN teve que processar para reaver esse passe.

There are about five different paths that I can think of that we can follow

Posso pensar em cerca de cinco caminhos diferentes que podemos seguir

to try and address some of these very difficult problems today.

para tentar resolver alguns desses problemas muito difíceis hoje.

Each one of them has promise,

Cada um deles tem promessas,

but each one of them has its own challenges.

mas também seus próprios desafios.

The first one is labeling.

O primeiro são os rótulos.

Think about it this way:

Pensem da seguinte maneira:

when you go to the grocery store to buy food to consume,

quando vamos ao supermercado comprar alimentos para consumo,

it's extensively labeled.

eles estão amplamente rotulados.

You know how many calories it has,

Sabemos quantas calorias têm,

how much fat it contains --

quanta gordura contêm.

and yet when we consume information, we have no labels whatsoever.

Porém, quando consumimos notícias, não temos rótulo algum.

What is contained in this information?

O que está contido nessas notícias?

Is the source credible?

A fonte é confiável?

Where is this information gathered from?

De onde veio a notícia?

We have none of that information

Não temos nenhum desses dados

when we are consuming information.

quando consumimos notícias.

That is a potential avenue, but it comes with its challenges.

Essa é uma abordagem possível, mas vem com seus desafios.

For instance, who gets to decide, in society, what's true and what's false?

Por exemplo, quem decide, na sociedade, o que é verdade e o que é falso?

Is it the governments?

São os governos?

Is it Facebook?

É o Facebook?

Is it an independent consortium of fact-checkers?

É um consórcio independente de verificadores de fatos?

And who's checking the fact-checkers?

E quem verifica os verificadores de fatos?

Another potential avenue is incentives.

Outra abordagem possível são incentivos.

We know that during the US presidential election

Sabemos que, durante a eleição presidencial dos EUA,

there was a wave of misinformation that came from Macedonia

houve uma onda de notícias falsas vinda da Macedônia

that didn't have any political motive

que não tinha nenhum motivo político,

but instead had an economic motive.

mas sim um motivo econômico.

And this economic motive existed,

E esse motivo econômico existia

because false news travels so much farther, faster

porque notícias falsas viajam muito mais longe, mais rápido

and more deeply than the truth,

e mais profundamente do que a verdade,

and you can earn advertising dollars as you garner eyeballs and attention

e pode-se ganhar dólares em publicidade enquanto se acumula usuários e atenção

with this type of information.

com esse tipo de notícia.

But if we can depress the spread of this information,

Mas, se pudermos diminuir a disseminação dessas notícias,

perhaps it would reduce the economic incentive

talvez isso reduza o incentivo econômico

to produce it at all in the first place.

para produzi-las de qualquer modo, em primeiro lugar.

Third, we can think about regulation,

Terceiro, podemos pensar em regulamentação

and certainly, we should think about this option.

e, certamente, devemos pensar nessa opção.

In the United States, currently,

Nos Estados Unidos, atualmente,

we are exploring what might happen if Facebook and others are regulated.

estamos explorando o que pode acontecer se Facebook e outros forem regulamentados.

While we should consider things like regulating political speech,

Embora devamos considerar coisas como controlar o discurso político,

labeling the fact that it's political speech,

rotular o fato de ser discurso político,

making sure foreign actors can't fund political speech,

garantir que participantes estrangeiros não possam financiar discursos políticos,

it also has its own dangers.

isso também tem seus próprios perigos.

For instance, Malaysia just instituted a six-year prison sentence

Por exemplo, a Malásia acabou de instituir uma sentença de seis anos de prisão

for anyone found spreading misinformation.

para quem for encontrado espalhando notícias falsas.

And in authoritarian regimes,

Em regimes autoritários,

these kinds of policies can be used to suppress minority opinions

esses tipos de políticas podem ser usados para reprimir opiniões de minorias

and to continue to extend repression.

e continuar a aumentar a repressão.

The fourth possible option is transparency.

A quarta opção possível é a transparência.

We want to know how do Facebook's algorithms work.

Queremos saber como funcionam os algoritmos do Facebook,

How does the data combine with the algorithms

como os dados se combinam com os algoritmos

to produce the outcomes that we see?

para produzir os resultados que vemos.

We want them to open the kimono

Queremos que abram o jogo

and show us exactly the inner workings of how Facebook is working.

e nos mostrem exatamente o funcionamento interno do Facebook.

And if we want to know social media's effect on society,

Se queremos saber o efeito das mídias sociais na sociedade,

we need scientists, researchers

precisamos que cientistas, pesquisadores

and others to have access to this kind of information.

e outros tenham acesso a esse tipo de informação.

But at the same time,

Mas, ao mesmo tempo,

we are asking Facebook to lock everything down,

pedimos para o Facebook bloquear tudo,

to keep all of the data secure.

para manter todos os dados seguros.

So, Facebook and the other social media platforms

O Facebook e as outras plataformas de mídia social

are facing what I call a transparency paradox.

estão enfrentando o que chamo de paradoxo da transparência.

We are asking them, at the same time,

Pedimos que, ao mesmo tempo,

to be open and transparent and, simultaneously secure.

sejam abertos, transparentes e seguros.

This is a very difficult needle to thread,

É muito difícil tratar desse assunto,

but they will need to thread this needle

mas eles precisarão fazer isso

if we are to achieve the promise of social technologies

se quisermos cumprir a promessa das tecnologias sociais

while avoiding their peril.

enquanto evitamos seus perigos.

The final thing that we could think about is algorithms and machine learning.

A última coisa que poderíamos pensar é em algoritmos e aprendizado de máquina.

Technology devised to root out and understand fake news, how it spreads,

A tecnologia foi criada para erradicar e entender as notícias falsas,

como elas se espalham

and to try and dampen its flow.

e para tentar diminuir seu fluxo.

Humans have to be in the loop of this technology,

Os seres humanos tem que estar informados sobre essa tecnologia,

because we can never escape

porque nunca podemos escapar do fato

that underlying any technological solution or approach

de que, subjacente a qualquer solução ou abordagem tecnológica,

is a fundamental ethical and philosophical question

está uma questão ética e filosófica fundamental

about how do we define truth and falsity,

sobre como definimos verdade e falsidade,

to whom do we give the power to define truth and falsity

a quem damos o poder de definir verdade e falsidade

and which opinions are legitimate,

e quais opiniões são legítimas,

which type of speech should be allowed and so on.

que tipo de discurso deve ser permitido e assim por diante.

Technology is not a solution for that.

A tecnologia não é uma solução para isso.

Ethics and philosophy is a solution for that.

Ética e filosofia são uma solução para isso.

Nearly every theory of human decision making,

Quase toda teoria de tomada de decisão humana,

human cooperation and human coordination

cooperação e coordenação humanas

has some sense of the truth at its core.

tem algum sentido da verdade em seu cerne.

But with the rise of fake news,

Mas, com o aumento de notícias falsas,

the rise of fake video,

o aumento de vídeos falsos,

the rise of fake audio,

o aumento de áudios falsos,

we are teetering on the brink of the end of reality,

balançamos à beira do fim da realidade,

where we cannot tell what is real from what is fake.

quando não podemos distinguir o que é real do que é falso.

And that's potentially incredibly dangerous.

Isso é potencial e incrivelmente perigoso.

We have to be vigilant in defending the truth

Temos que ficar alertas na defesa da verdade

against misinformation.

contra as notícias falsas.

With our technologies, with our policies

Com nossas tecnologias, nossas políticas

and, perhaps most importantly,

e, talvez o mais importante,

with our own individual responsibilities,

com nossas próprias responsabilidades,

decisions, behaviors and actions.

decisões, comportamentos e ações individuais.

Thank you very much.

Muito obrigado.

(Applause)

(Aplausos)