How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Tradutor: Mariana de Oliveira Revisora: Norberto Amaral

So, on April 23 of 2013,

No dia 23 de abril de 2013,

the Associated Press put out the following tweet on Twitter.

a Associated Press publicou o seguinte "tweet":

It said, "Breaking news:

"Notícia de última hora:

Two explosions at the White House

"Houve duas explosões na Casa Branca

and Barack Obama has been injured."

"e o presidente Barack Obama foi ferido."

This tweet was retweeted 4,000 times in less than five minutes,

O "tweet" foi reenviado 4000 vezes em menos de 5 minutos,

and it went viral thereafter.

e depois tornou-se viral.

Now, this tweet wasn't real news put out by the Associated Press.

No entanto, o "tweet" em questão não foi feito pela Associated Press.

In fact it was false news, or fake news,

Na verdade, era uma notícia falsa, ou "fake news",

that was propagated by Syrian hackers

que tinha sido divulgada por "hackers" sírios

that had infiltrated the Associated Press Twitter handle.

que se tinham infiltrado na conta da AP no Twitter.

Their purpose was to disrupt society, but they disrupted much more.

O seu propósito era criar ruturas na sociedade, mas foram ainda mais além,

Because automated trading algorithms

porque os algoritmos automatizados de "trading"

immediately seized on the sentiment on this tweet,

captaram imediatamente o sentimento deste "tweet"

and began trading based on the potential

e começaram a trabalhar baseados na possibilidade

that the president of the United States had been injured or killed

de o presidente dos EUA ter sido ferido ou morto

in this explosion.

nesta explosão.

And as they started tweeting,

Assim que começaram a publicar "tweets"

they immediately sent the stock market crashing,

provocaram imediatamente o colapso do mercado de ações,

wiping out 140 billion dollars in equity value in a single day.

liquidando 140 mil milhões de dólares num único dia.

Robert Mueller, special counsel prosecutor in the United States,

O procurador especial dos EUA, Robert Mueller,

issued indictments against three Russian companies

emitiu acusações contra três empresas russas

and 13 Russian individuals

e treze indivíduos russos

on a conspiracy to defraud the United States

por conspiração para defraudar os EUA

by meddling in the 2016 presidential election.

interferindo nas eleições presidenciais de 2016.

And what this indictment tells as a story

Essas acusações contam-nos uma história,

is the story of the Internet Research Agency,

a história sobre a Internet Research Agency,

the shadowy arm of the Kremlin on social media.

o braço sombrio do Kremlin nas redes sociais.

During the presidential election alone,

Só durante as eleições presidenciais,

the Internet Agency's efforts

as publicações da Internet Agency

reached 126 million people on Facebook in the United States,

alcançaram 126 milhões de pessoas nos EUA através do Facebook,

issued three million individual tweets

publicaram três milhões de "tweets" individuais

and 43 hours' worth of YouTube content.

e 43 horas de conteúdos no YouTube.

All of which was fake --

Era tudo falso

misinformation designed to sow discord in the US presidential election.

— desinformação destinada a semear a discórdia

nas eleições presidenciais dos EUA.

A recent study by Oxford University

Um estudo recente feito na Universidade de Oxford

showed that in the recent Swedish elections,

mostrou que, nas recentes eleições da Suécia,

one third of all of the information spreading on social media

um terço de todas informações a circular nas redes sociais

about the election

sobre as eleições

was fake or misinformation.

eram falsas ou desinformação.

In addition, these types of social-media misinformation campaigns

Além do mais, este tipo de campanhas de desinformação nas redes sociais

can spread what has been called "genocidal propaganda,"

podem difundir o que vem sendo chamado de "propaganda genocida",

for instance against the Rohingya in Burma,

por exemplo contra os Rohingya em Myanmar,

triggering mob killings in India.

desencadeando assassínios por parte de multidões na Índia.

We studied fake news

Nós estudámos as notícias falsas

and began studying it before it was a popular term.

e começámos a estudar isso bem antes de este termo se tornar popular.

And we recently published the largest-ever longitudinal study

Recentemente publicámos o maior estudo longitudinal de sempre

of the spread of fake news online

sobre o crescimento "online" das notícias falsas

on the cover of "Science" in March of this year.

na capa da revista Science em março deste ano.

We studied all of the verified true and false news stories

Estudámos todas as notícias verificadas como verdadeiras ou falsas

that ever spread on Twitter,

que já se propagaram pelo Twitter

from its inception in 2006 to 2017.

desde o seu início, em 2006, até 2017.

And when we studied this information,

Ao estudarmos estas informações,

we studied verified news stories

estudámos notícias verificadas

that were verified by six independent fact-checking organizations.

por seis ONG independentes que verificam factos.

So we knew which stories were true

Por isso sabíamos quais as notícias verdadeiras

and which stories were false.

e quais as falsas.

We can measure their diffusion,

Podemos medir a sua propagação,

the speed of their diffusion,

a rapidez da propagação,

the depth and breadth of their diffusion,

a profundidade e a amplitude da propagação,

how many people become entangled in this information cascade and so on.

e quantas pessoas são enganadas nessa torrente de informação.

And what we did in this paper

O que fizemos neste trabalho,

was we compared the spread of true news to the spread of false news.

foi comparar a propagação de factos e a propagação de notícias falsas.

And here's what we found.

E o que encontrámos foi o seguinte.

We found that false news diffused further, faster, deeper

As notícias falsas eram propagadas muito mais rapidamente

and more broadly than the truth

e mais amplamente do que os factos

in every category of information that we studied,

em todas as categorias de informações que estudámos,

sometimes by an order of magnitude.

por vezes por uma ordem de magnitude.

And in fact, false political news was the most viral.

De facto, as notícias políticas falsas eram as mais virais.

It diffused further, faster, deeper and more broadly

Espalhavam-se mais rapidamente, com maior profundidade e abrangência

than any other type of false news.

do que qualquer outro tipo de notícias falsas.

When we saw this,

Quando notámos isto,

we were at once worried but also curious.

ficámos preocupados mas também curiosos.

Why?

Porquê?

Why does false news travel so much further, faster, deeper

Por que razão as notícias falsas vão mais longe, mais rápida e profundamente

and more broadly than the truth?

e mais extensamente do que a verdade?

The first hypothesis that we came up with was,

A primeira hipótese que formulámos foi:

"Well, maybe people who spread false news have more followers or follow more people,

"Talvez as pessoas que espalham notícias falsas

"tenham mais seguidores ou sigam mais pessoas,

or tweet more often,

"ou publiquem mais "tweets",

or maybe they're more often 'verified' users of Twitter, with more credibility,

"ou talvez tenham contas 'verificadas' no Twitter, com mais credibilidade,

or maybe they've been on Twitter longer."

"ou talvez estejam há mais tempo no Twitter."

So we checked each one of these in turn.

Examinámos todas as opções, uma a uma.

And what we found was exactly the opposite.

Porém, descobrimos exatamente o oposto.

False-news spreaders had fewer followers,

Os propagadores de notícias falsas tinham menos seguidores,

followed fewer people, were less active,

seguiam poucas pessoas, não eram tão ativos,

less often "verified"

não eram tão verificados

and had been on Twitter for a shorter period of time.

e estavam no Twitter há menos tempo.

And yet,

Ainda assim,

false news was 70 percent more likely to be retweeted than the truth,

era 70% mais provável que fossem enviadas

notícias falsas do que verdadeiras

controlling for all of these and many other factors.

mesmo tendo em conta estes e muitos outros fatores.

So we had to come up with other explanations.

Então tivemos de encontrar outras explicações.

And we devised what we called a "novelty hypothesis."

E criámos algo a que chamámos de "hipótese da novidade".

So if you read the literature,

Se lerem a literatura sobre este tema,

it is well known that human attention is drawn to novelty,

saberão que a novidade atrai a atenção humana,

things that are new in the environment.

isto é, coisas que são novas no ambiente.

And if you read the sociology literature,

Se lerem literatura sobre sociologia,

you know that we like to share novel information.

saberão que gostamos de partilhar informações novas.

It makes us seem like we have access to inside information,

Faz parecer que temos acesso a informações privilegiadas,

and we gain in status by spreading this kind of information.

e ganhamos estatuto por partilhar esse tipo de informações.

So what we did was we measured the novelty of an incoming true or false tweet,

Então, medimos a novidade de um novo "tweet", verdadeiro ou falso,

compared to the corpus of what that individual had seen

e comparámos com o que cada pessoa já tinha visto

in the 60 days prior on Twitter.

nos últimos 60 dias no Twitter.

But that wasn't enough, because we thought to ourselves,

Mas não foi o suficiente, pois pensámos:

"Well, maybe false news is more novel in an information-theoretic sense,

"Talvez uma notícia falsa seja mais nova num sentido mais teórico-informativo,

but maybe people don't perceive it as more novel."

"mas talvez as pessoas não vejam isso como novidade."

So to understand people's perceptions of false news,

Então, para compreender a perceção das pessoas sobre notícias falsas,

we looked at the information and the sentiment

estudámos as informações e o sentimento

contained in the replies to true and false tweets.

contido nas respostas dos "tweets" verdadeiros e falsos.

And what we found

E descobrimos

was that across a bunch of different measures of sentiment --

que, através de um conjunto de diferentes medidas de sentimentos

surprise, disgust, fear, sadness,

— surpresa, repugnância, medo, tristeza,

anticipation, joy and trust --

expetativa, alegria e confiança —

false news exhibited significantly more surprise and disgust

as notícias falsas exibiam maior surpresa e repugnância

in the replies to false tweets.

em reação aos "tweets" falsos.

And true news exhibited significantly more anticipation,

E as notícias verdadeiras exibiam maior expetativa,

joy and trust

alegria e confiança

in reply to true tweets.

em reação aos "tweets" verdadeiros.

The surprise corroborates our novelty hypothesis.

Esta surpresa confirma a nossa hipótese de novidade.

This is new and surprising, and so we're more likely to share it.

Isto é novo e surpreendente, por isso é mais provável que partilhemos.

At the same time, there was congressional testimony

Ao mesmo tempo, houve testemunhos

in front of both houses of Congress in the United States,

em ambas as câmaras do Congresso dos EUA,

looking at the role of bots in the spread of misinformation.

sobre o papel dos robôs na propagação da desinformação.

So we looked at this too --

Também estudámos isso

we used multiple sophisticated bot-detection algorithms

— utilizámos vários algoritmos sofisticados para detetar robôs

to find the bots in our data and to pull them out.

para os encontrar nos nossos dados e retirá-los de lá.

So we pulled them out, we put them back in

Retirámo-los e voltámos a colocá-los

and we compared what happens to our measurement.

e comparámos o que acontece à nossa medição.

And what we found was that, yes indeed,

O que encontrámos foi que, de facto,

bots were accelerating the spread of false news online,

os robôs aceleravam a propagação das notícias falsas "online",

but they were accelerating the spread of true news

mas aceleravam a propagação de notícias verdadeiras

at approximately the same rate.

aproximadamente da mesma forma.

Which means bots are not responsible

O que significa que os robôs não são responsáveis

for the differential diffusion of truth and falsity online.

pelas diferenças entre a difusão da verdade e da mentira "online".

We can't abdicate that responsibility,

Não podemos abdicar dessa responsabilidade,

because we, humans, are responsible for that spread.

porque nós, seres humanos, somos responsáveis por essa divulgação.

Now, everything that I have told you so far,

Infelizmente para todos nós,

unfortunately for all of us,

tudo que vos disse até agora

is the good news.

é a melhor parte.

The reason is because it's about to get a whole lot worse.

As coisas vão piorar bastante.

And two specific technologies are going to make it worse.

Duas tecnologias específicas vão piorar tudo.

We are going to see the rise of a tremendous wave of synthetic media.

Veremos a ascensão de uma enorme onda de conteúdos sintéticos.

Fake video, fake audio that is very convincing to the human eye.

Vídeos e áudios falsos muito convincentes para o olhar humano.

And this will powered by two technologies.

Isso será alimentado por duas tecnologias.

The first of these is known as "generative adversarial networks."

A primeira é conhecida por "rede generativa antagónica."

Trata-se de um modelo de aprendizagem de máquina com duas redes:

This is a machine-learning model with two networks:

a discriminator,

um discriminador,

whose job it is to determine whether something is true or false,

cuja função é determinar se algo é verdadeiro ou falso,

and a generator,

e um gerador,

whose job it is to generate synthetic media.

cuja função é gerar conteúdos sintéticos.

So the synthetic generator generates synthetic video or audio,

O gerador sintético produz áudios e vídeos sintéticos,

and the discriminator tries to tell, "Is this real or is this fake?"

e o discriminador tenta dizer-nos: ''Isto é real ou é falso?"

And in fact, it is the job of the generator

A função do gerador

to maximize the likelihood that it will fool the discriminator

é maximizar a probabilidade de enganar o discriminador

into thinking the synthetic video and audio that it is creating

para que este julgue que os áudios e vídeos sintéticos que está a criar

is actually true.

são, de facto, verdadeiros.

Imagine a machine in a hyperloop,

Imaginem uma máquina num ciclo

trying to get better and better at fooling us.

a tentar ser cada vez melhor no ato de nos enganar.

This, combined with the second technology,

Isto, combinado com a segunda tecnologia,

which is essentially the democratization of artificial intelligence to the people,

que é basicamente a democratização da inteligência artificial para as pessoas,

the ability for anyone,

a capacidade de qualquer pessoa,

without any background in artificial intelligence

sem nenhuma compreensão sobre inteligência artificial,

or machine learning,

ou aprendizagem de máquina,

to deploy these kinds of algorithms to generate synthetic media

para utilizar este tipo de algoritmos para gerar conteúdos sintéticos

makes it ultimately so much easier to create videos.

faz com que seja muito mais fácil criar vídeos.

The White House issued a false, doctored video

A Casa Branca partilhou um vídeo falso, adulterado

of a journalist interacting with an intern who was trying to take his microphone.

de um jornalista a interagir com uma estagiária

que tentava tirar-lhe o microfone.

They removed frames from this video

Eles removeram partes desse vídeo

in order to make his actions seem more punchy.

para fazer a ação do jornalista parecer mais agressiva.

And when videographers and stuntmen and women

Quando videógrafos e duplos

were interviewed about this type of technique,

foram entrevistados sobre este tipo de técnica,

they said, "Yes, we use this in the movies all the time

disseram: "Sim, usamo-la com frequência em filmes

to make our punches and kicks look more choppy and more aggressive."

"para fazer com que os nossos socos e pontapés pareçam mais agressivos."

They then put out this video

Eles partilharam este vídeo

and partly used it as justification

e usaram-no em parte como justificação

to revoke Jim Acosta, the reporter's, press pass

para cancelar a credencial do repórter Jim Acosta,

from the White House.

da Casa Branca.

And CNN had to sue to have that press pass reinstated.

A CNN teve de processar judicialmente para revalidar a credencial.

There are about five different paths that I can think of that we can follow

Ocorrem-me cinco caminhos que podemos seguir

to try and address some of these very difficult problems today.

para tentar resolver alguns destes problemas difíceis.

Each one of them has promise,

Cada um deles inclui uma promessa,

but each one of them has its own challenges.

mas cada um tem os seus próprios desafios.

The first one is labeling.

O primeiro é a rotulagem.

Think about it this way:

Pensemos da seguinte forma:

when you go to the grocery store to buy food to consume,

quando vamos ao supermercado comprar a comida que consumimos,

it's extensively labeled.

esta está extensivamente rotulada.

You know how many calories it has,

Sabemos quantas calorias tem,

how much fat it contains --

a gordura que contém

and yet when we consume information, we have no labels whatsoever.

— no entanto, ao consumirmos informações não temos nenhum tipo de rótulo.

What is contained in this information?

Qual o conteúdo dessas informações?

Is the source credible?

A fonte é credível?

Where is this information gathered from?

Qual a proveniência dessas informações?

We have none of that information

Não temos esse tipo de informação

when we are consuming information.

quando consumimos informações.

That is a potential avenue, but it comes with its challenges.

É uma possibilidade, mas coloca alguns desafios.

For instance, who gets to decide, in society, what's true and what's false?

Por exemplo, na sociedade, quem decide o que é verdadeiro ou falso?

Is it the governments?

É o governo?

Is it Facebook?

É o Facebook?

Is it an independent consortium of fact-checkers?

É um consórcio independente de verificadores de factos?

And who's checking the fact-checkers?

Quem verifica os verificadores de factos?

Another potential avenue is incentives.

Outra possibilidade são os incentivos.

We know that during the US presidential election

Sabemos que, durante as eleições presidenciais nos EUA,

there was a wave of misinformation that came from Macedonia

houve uma onda de desinformação proveniente da Macedónia

that didn't have any political motive

sem qualquer motivação política

but instead had an economic motive.

mas com motivação económica.

And this economic motive existed,

Esta motivação económica existiu

because false news travels so much farther, faster

porque as notícias falsas chegam muito mais longe, mais depressa

and more deeply than the truth,

e mais profundamente do que a verdade,

and you can earn advertising dollars as you garner eyeballs and attention

porque podemos ganhar dinheiro em publicidade, atraindo as atenções

with this type of information.

com esse tipo de informações.

But if we can depress the spread of this information,

Mas se pudermos diminuir a propagação deste tipo de informações,

perhaps it would reduce the economic incentive

talvez isso reduza o incentivo económico

to produce it at all in the first place.

de produzir este tipo de informações.

Third, we can think about regulation,

Em terceiro lugar, podemos pensar em regulamentação,

and certainly, we should think about this option.

e certamente, devíamos considerar esta opção.

In the United States, currently,

Atualmente, nos EUA,

we are exploring what might happen if Facebook and others are regulated.

estamos a estudar o que aconteceria se o Facebook e outros fossem regulados.

While we should consider things like regulating political speech,

Embora devêssemos considerar coisas como regular o discurso político,

labeling the fact that it's political speech,

rotular o facto de se tratar de discurso político,

making sure foreign actors can't fund political speech,

garantir que elementos estrangeiros não possam financiar o discurso político

it also has its own dangers.

isso também acarreta os seus perigos.

For instance, Malaysia just instituted a six-year prison sentence

Por exemplo, recentemente a Malásia instituiu uma sentença de 6 anos de prisão

for anyone found spreading misinformation.

para qualquer pessoa que propague desinformações.

And in authoritarian regimes,

Em regimes autoritários,

these kinds of policies can be used to suppress minority opinions

esta política pode ser usada para reprimir opiniões de minorias

and to continue to extend repression.

e manter a repressão.

The fourth possible option is transparency.

A quarta opção possível é a transparência.

We want to know how do Facebook's algorithms work.

Queremos saber como funcionam os algoritmos do Facebook.

How does the data combine with the algorithms

Como é que os dados se combinam com os algoritmos

to produce the outcomes that we see?

para produzir os resultados que vemos?

We want them to open the kimono

Queremos que eles "abram o quimono"

and show us exactly the inner workings of how Facebook is working.

e nos mostrem o funcionamento interno do Facebook.

And if we want to know social media's effect on society,

E se quisermos saber o impacto das redes sociais na sociedade

we need scientists, researchers

precisamos de cientistas e investigadores

and others to have access to this kind of information.

e outros meios de acesso a este tipo de informações.

But at the same time,

Mas, simultaneamente,

we are asking Facebook to lock everything down,

estamos a pedir ao Facebook para trancar tudo,

to keep all of the data secure.

para guardar todas as informações de forma segura.

So, Facebook and the other social media platforms

O Facebook e outras plataformas de redes sociais

are facing what I call a transparency paradox.

estão a enfrentar o que chamamos de paradoxo da transparência.

We are asking them, at the same time,

Pedimos-lhes para serem, simultaneamente

to be open and transparent and, simultaneously secure.

abertos, transparentes e seguros.

This is a very difficult needle to thread,

É uma linha muito difícil de traçar,

but they will need to thread this needle

mas deverão traçá-la

if we are to achieve the promise of social technologies

se o objetivo for cumprir a promessa das tecnologias sociais

while avoiding their peril.

enquanto evitamos os seus perigos.

The final thing that we could think about is algorithms and machine learning.

O último aspeto são os algoritmos e a aprendizagem de máquina

Technology devised to root out and understand fake news, how it spreads,

Tecnologia criada para retirar notícias falsas, compreendê-las,

como se propagam e tentar diminuir o seu fluxo.

and to try and dampen its flow.

Humans have to be in the loop of this technology,

Precisamos de compreender esta tecnologia,

because we can never escape

porque nunca vamos escapar ao facto de que

that underlying any technological solution or approach

subjacentes a qualquer solução ou abordagem tecnológica

is a fundamental ethical and philosophical question

estão as questões éticas e filosóficas fundamentais

about how do we define truth and falsity,

sobre como definimos a verdade e a falsidade,

to whom do we give the power to define truth and falsity

a quem atribuímos o poder para definir a verdade e a falsidade,

and which opinions are legitimate,

que opiniões são legítimas,

which type of speech should be allowed and so on.

e que tipo de discurso deve ser permitido, etc.

Technology is not a solution for that.

A tecnologia não é uma solução para isso.

Ethics and philosophy is a solution for that.

A solução é a ética e a filosofia.

Nearly every theory of human decision making,

Quase todas as teorias sobre a tomada de decisões humanas,

human cooperation and human coordination

a cooperação e coordenação humanas,

has some sense of the truth at its core.

têm, no seu cerne, um sentido do que é a verdade.

But with the rise of fake news,

Mas, com o aumento das notícias falsas,

the rise of fake video,

com o aumento dos vídeos falsos,

the rise of fake audio,

o aumento dos áudios falsos,

we are teetering on the brink of the end of reality,

estamos no limiar do fim da realidade

where we cannot tell what is real from what is fake.

em que não sabemos o que é a verdade e o que é a mentira.

And that's potentially incredibly dangerous.

E isso é potencialmente incrivelmente perigoso.

We have to be vigilant in defending the truth

Temos de ser vigilantes em defender a verdade

against misinformation.

contra a desinformação.

With our technologies, with our policies

Com as nossas tecnologias, com as nossas políticas

and, perhaps most importantly,

e, talvez, o mais importante,

with our own individual responsibilities,

com as nossas responsabilidades individuais,

decisions, behaviors and actions.

as decisões, os comportamentos e as ações.

Thank you very much.

Muito obrigado.

(Applause)

(Aplausos)