How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Traducător: Andra Mocanu Corector: Mirel-Gabriel Alexa

So, on April 23 of 2013,

Pe 23 aprilie 2013,

the Associated Press put out the following tweet on Twitter.

Associated Press a postat următorul tweet pe Twitter,

It said, "Breaking news:

citez: „Informație de ultimă oră:

Two explosions at the White House

Două explozii la Casa Albă

and Barack Obama has been injured."

și Barack Obama a fost rănit.”

This tweet was retweeted 4,000 times in less than five minutes,

Acest tweet a fost redistribuit de 4.000 de ori în mai puțin de cinci minute,

and it went viral thereafter.

și a devenit ulterior viral.

Now, this tweet wasn't real news put out by the Associated Press.

Acest tweet nu a fost publicat de Associated Press.

In fact it was false news, or fake news,

De fapt, erau o știre falsă sau fake news,

that was propagated by Syrian hackers

care au fost publicată de hackerii sirieni

that had infiltrated the Associated Press Twitter handle.

care spărseseră contul de Twitter al celor de la Associated Press.

Their purpose was to disrupt society, but they disrupted much more.

Scopul a fost să tulbure societatea, dar au făcut mai mult decât atât.

Because automated trading algorithms

Deoarece algoritmii automați de la bursă

immediately seized on the sentiment on this tweet,

au sesizat imediat vâlva din jurul acestui tweet

and began trading based on the potential

și au început să tranzacționeze pe premisa

that the president of the United States had been injured or killed

că președintele Statelor Unite a fost rănit sau ucis

in this explosion.

în această explozie.

And as they started tweeting,

Și pe măsură ce au apărut tweeturile,

they immediately sent the stock market crashing,

bursa a suferit pierderi imense

wiping out 140 billion dollars in equity value in a single day.

de peste 140 de miliarde de dolari într-o singură zi.

Robert Mueller, special counsel prosecutor in the United States,

Robert Mueller, procurorul special al SUA,

issued indictments against three Russian companies

a pus sub acuzare trei companii ruse

and 13 Russian individuals

și 13 persoane de cetățenie rusă

on a conspiracy to defraud the United States

pentru conspirație la fraudă împotriva Statelor Unite

by meddling in the 2016 presidential election.

prin implicarea în alegerile prezidențiale din 2016.

And what this indictment tells as a story

Și ce ne spune, de fapt, această acuzare?

is the story of the Internet Research Agency,

E despre Internet Research Agency,

the shadowy arm of the Kremlin on social media.

arma ascunsă a Kremlinului de pe rețelele sociale.

During the presidential election alone,

Numai în timpul alegerilor prezidențiale

the Internet Agency's efforts

eforturile Agenției

reached 126 million people on Facebook in the United States,

au ajuns la 126 de milioane de oameni pe Facebook în Statele Unite,

issued three million individual tweets

s-au postat trei milioane de tweeturi

and 43 hours' worth of YouTube content.

și 43 de ore de conținut pe YouTube.

All of which was fake --

Tot acest conținut fiind fals;

misinformation designed to sow discord in the US presidential election.

o dezinformare menită să afecteze alegerile prezidențiale ale SUA.

A recent study by Oxford University

Un studiu recent al Universității Oxford

showed that in the recent Swedish elections,

a arătat că în recentele alegeri din Suedia,

one third of all of the information spreading on social media

o treime din toate informațiile distribuite pe rețelele sociale

about the election

despre alegeri

was fake or misinformation.

erau false sau dezinformau.

In addition, these types of social-media misinformation campaigns

În plus, aceste tipuri de campanii de dezinformare

can spread what has been called "genocidal propaganda,"

pot răspândi așa-numita „propagandă genocid”,

for instance against the Rohingya in Burma,

ce a afectat populația rohingya din Myanmar

triggering mob killings in India.

și a declanșat linșări publice în India.

We studied fake news

Am studiat știrile false

and began studying it before it was a popular term.

și am început să facem asta înainte să devină un termen popular.

And we recently published the largest-ever longitudinal study

Și recent am publicat cel mai mare studiu longitudinal

of the spread of fake news online

despre răspândirea online a știrilor false

on the cover of "Science" in March of this year.

în numărul din martie al revistei „Science”.

We studied all of the verified true and false news stories

Am studiat toate știrile adevărate și false

that ever spread on Twitter,

care au fost răspândite pe Twitter,

from its inception in 2006 to 2017.

de la apariția sa în 2006 până în 2017.

And when we studied this information,

Cercetând aceste informații,

we studied verified news stories

am studiat știri verificate

that were verified by six independent fact-checking organizations.

de șase organizații independente care se ocupă cu acest lucru.

So we knew which stories were true

Așadar, am știut care știri erau adevărate

and which stories were false.

și care erau false.

We can measure their diffusion,

Le-am putut măsura răspândirea,

the speed of their diffusion,

viteza,

the depth and breadth of their diffusion,

anvergura și densitatea răspândirii,

how many people become entangled in this information cascade and so on.

cât de mulți oameni au fost implicați și așa mai departe.

And what we did in this paper

În această lucrare

was we compared the spread of true news to the spread of false news.

am comparat răspândirea știrilor adevărate cu a celor false.

And here's what we found.

Și iată ce am descoperit.

We found that false news diffused further, faster, deeper

Am aflat că știrile false au fost distribuite mai departe, mai repede

and more broadly than the truth

și mai mult decât cele adevărate

in every category of information that we studied,

în toate categoriile de informații studiate,

sometimes by an order of magnitude.

uneori chiar de zece ori mai mult.

And in fact, false political news was the most viral.

De fapt, știrile politice false au fost cele mai virale.

It diffused further, faster, deeper and more broadly

S-au răspândit mai departe, mai rapid și mai larg

than any other type of false news.

decât orice alt tip de știri false.

When we saw this,

Când am văzut asta,

we were at once worried but also curious.

am fost îngrijorați și curioși deopotrivă.

Why?

De ce?

Why does false news travel so much further, faster, deeper

De ce știrile false se răspândesc mult mai departe, mai rapid

and more broadly than the truth?

și mai larg decât adevărul?

The first hypothesis that we came up with was,

Prima ipoteză la care ne-am gândit a fost:

"Well, maybe people who spread false news have more followers or follow more people,

„Poate că oamenii care distribuie știri false au mai mulți urmăritori,

or tweet more often,

sau postează mai des,

or maybe they're more often 'verified' users of Twitter, with more credibility,

sau sunt poate utilizatori 'verificați', cu mai multă credibilitate,

or maybe they've been on Twitter longer."

sau poate au Twitter de mai mult timp.”

So we checked each one of these in turn.

Și am verificat fiecare premisă în parte.

And what we found was exactly the opposite.

Ce am descoperit a fost exact opusul.

False-news spreaders had fewer followers,

Aceștia aveau mai puțini urmăritori,

followed fewer people, were less active,

urmăreau mai puțini oameni, erau rar activi,

less often "verified"

adeseori 'neverificați',

and had been on Twitter for a shorter period of time.

și aveau Twitter de mai puțin timp.

And yet,

Cu toate astea,

false news was 70 percent more likely to be retweeted than the truth,

știrile false erau cu 70% mai redistribuite decât adevărul,

controlling for all of these and many other factors.

dacă luăm în considerare acești factori și alții.

So we had to come up with other explanations.

Așa că a trebuit să venim cu alte explicații.

And we devised what we called a "novelty hypothesis."

Și am venit cu așa-numita „ipoteză a noutății”.

So if you read the literature,

Dacă ai citit literatura de specialitate,

it is well known that human attention is drawn to novelty,

e binecunoscut faptul că atenția umană este atrasă de noutate,

things that are new in the environment.

de tot ceea ce este nou în mediu.

And if you read the sociology literature,

Dacă ai citit cărți de sociologie,

you know that we like to share novel information.

știi faptul că ne place să distribuim informații noi.

It makes us seem like we have access to inside information,

Ne face să părem că avem acces la informații din interior,

and we gain in status by spreading this kind of information.

și devenim mai populari prin distribuirea acestui tip de informație.

So what we did was we measured the novelty of an incoming true or false tweet,

Așa că am măsurat gradul de noutate al unui nou tweet adevărat sau fals,

compared to the corpus of what that individual had seen

comparat cu tot ce a văzut acea persoană

in the 60 days prior on Twitter.

pe Twitter în ultimele 60 de zile.

But that wasn't enough, because we thought to ourselves,

Dar asta nu a fost de ajuns, pentru că ne-am gândit:

"Well, maybe false news is more novel in an information-theoretic sense,

„Poate că știrile false sunt, teoretic, mai noi,

but maybe people don't perceive it as more novel."

dar poate că oamenii nu o percep ca fiind mai nouă.”

So to understand people's perceptions of false news,

Deci, pentru a înțelege percepția oamenilor despre știrile false,

we looked at the information and the sentiment

ne-am uitat la informațiile și la sentimentele

contained in the replies to true and false tweets.

din răspunsurile la tweet-urile adevărate și false.

And what we found

Și am descoperit

was that across a bunch of different measures of sentiment --

că dintre toate tipurile diferite de sentimente:

surprise, disgust, fear, sadness,

surprindere, dezgust, frică, tristețe,

anticipation, joy and trust --

optimism, bucurie și încredere,

false news exhibited significantly more surprise and disgust

știrile false au avut mult mai multe reacții

in the replies to false tweets.

de surprindere și de dezgust,

And true news exhibited significantly more anticipation,

iar știrile reale aveau răspunsuri

joy and trust

cu mai mult optimism,

in reply to true tweets.

bucurie și încredere.

The surprise corroborates our novelty hypothesis.

Surpriza ne confirmă ipoteza noutății.

This is new and surprising, and so we're more likely to share it.

E nou și surprinzător și suntem mai predispuși să-l redistribuim.

At the same time, there was congressional testimony

În același timp, există o mărturie a congresului

in front of both houses of Congress in the United States,

în fața ambelor case ale congresului Statelor Unite

looking at the role of bots in the spread of misinformation.

despre rolul boților în răspândirea dezinformării.

So we looked at this too --

Așa că am aruncat o privire.

we used multiple sophisticated bot-detection algorithms

Am folosit multipli algoritmi sofisticați de identificare a boților

to find the bots in our data and to pull them out.

pentru a găsi acești boți în datele noastre pentru a-i elimina.

So we pulled them out, we put them back in

Așa că i-am scos, i-am introdus la loc

and we compared what happens to our measurement.

și am comparat ce se întâmplă cu măsurătorile noastre.

And what we found was that, yes indeed,

Am descoperit că da, într-adevăr,

bots were accelerating the spread of false news online,

boții accelerau răspândirea știrilor false online,

but they were accelerating the spread of true news

dar accelerau și răspândirea celor adevărate

at approximately the same rate.

într-un ritm aproape similar.

Which means bots are not responsible

Ceea ce înseamnă că boții nu sunt responsabili

for the differential diffusion of truth and falsity online.

pentru diferența dintre răspândirea adevărului și falsurilor în online.

We can't abdicate that responsibility,

Nu putem spune că nu e responsabilitatea noastră,

because we, humans, are responsible for that spread.

pentru că noi suntem responsabili pentru această diferență.

Now, everything that I have told you so far,

Din păcate pentru noi,

unfortunately for all of us,

tot ce v-am spus până acum

is the good news.

reprezintă veștile bune.

The reason is because it's about to get a whole lot worse.

Motivul e că totul e pe cale să devină mult mai rău.

And two specific technologies are going to make it worse.

Două tehnologii în principal vor înrăutăți situația.

We are going to see the rise of a tremendous wave of synthetic media.

Vom observa ascensiunea unui imens val de știri artificiale.

Fake video, fake audio that is very convincing to the human eye.

Înregistrări video și audio false care sunt foarte convingătoare.

And this will powered by two technologies.

Și acestea vor fi susținute de două tehnologii.

The first of these is known as "generative adversarial networks."

Prima dintre acestea e cunoscută ca „rețele adverse generative”.

This is a machine-learning model with two networks:

Este un model de învățare automată cu două rețele:

a discriminator,

un discriminator,

whose job it is to determine whether something is true or false,

al cărui scop este să determine dacă ceva este adevărat sau fals.

and a generator,

și un generator,

whose job it is to generate synthetic media.

care creează știri artificiale.

So the synthetic generator generates synthetic video or audio,

Așadar, generatorul sintetic creează o înregistrare video sau audio,

and the discriminator tries to tell, "Is this real or is this fake?"

iar discriminatorul încearcă să determine dacă este adevărată sau falsă.

And in fact, it is the job of the generator

De fapt, obiectivul generatorului

to maximize the likelihood that it will fool the discriminator

să maximizeze probabilitatea de a păcăli discriminatorul

into thinking the synthetic video and audio that it is creating

și de a-l face să creadă că acel conținut video sau audio creat

is actually true.

este veridic.

Imagine a machine in a hyperloop,

Imaginați-vă o mașinărie într-o continuă buclă,

trying to get better and better at fooling us.

devenind din ce în ce mai bună în a ne păcăli.

This, combined with the second technology,

Aceasta, împreună cu cealaltă tehnologie,

which is essentially the democratization of artificial intelligence to the people,

adică democratizarea inteligenței artificiale,

the ability for anyone,

oferă posibilitatea ca oricine,

without any background in artificial intelligence

fără cunoștințe în domeniul inteligenței artificiale

or machine learning,

sau al învățării automate,

to deploy these kinds of algorithms to generate synthetic media

să dezvolte astfel de algoritmi ce creează știri artificiale,

makes it ultimately so much easier to create videos.

face crearea de conținut video extrem de ușoară.

The White House issued a false, doctored video

Casa Albă a publicat o înregistrare video editată

of a journalist interacting with an intern who was trying to take his microphone.

cu un jurnalist ce interacționează cu o stagiară

care încerca să îi ia microfonul.

They removed frames from this video

Au eliminat anumite cadre din video

in order to make his actions seem more punchy.

pentru a-i face acțiunile să pară mai violente.

And when videographers and stuntmen and women

Iar când videografi și cascadori

were interviewed about this type of technique,

au fost întrebați despre această tehnică,

they said, "Yes, we use this in the movies all the time

au răspuns: „Da, o folosim tot timpul în filme

to make our punches and kicks look more choppy and more aggressive."

pentru ca loviturile noastre să pară mai rapide și mai agresive."

They then put out this video

Apoi au postat acest video

and partly used it as justification

și l-au folosit ca justificare

to revoke Jim Acosta, the reporter's, press pass

pentru a-i revoca jurnalistului Jim Acosta permisul de presă

from the White House.

pentru Casa Albă.

And CNN had to sue to have that press pass reinstated.

CNN a trebuit să meargă în fața judecătorilor pentru a recăpăta permisul.

There are about five different paths that I can think of that we can follow

Există în jur de cinci căi diferite pe care le putem urma

to try and address some of these very difficult problems today.

pentru a rezolva câteva dintre aceste probleme dificile ale zilelor noastre.

Each one of them has promise,

Fiecare dintre ele e promițătoare,

but each one of them has its own challenges.

însă fiecare are provocările sale.

The first one is labeling.

Prima dintre ele este etichetarea.

Think about it this way:

Gândiți-vă astfel:

when you go to the grocery store to buy food to consume,

când mergi la magazin pentru a cumpăra mâncare,

it's extensively labeled.

ea e etichetată în detaliu.

You know how many calories it has,

Știi câte calorii are,

how much fat it contains --

câtă grăsime are,

and yet when we consume information, we have no labels whatsoever.

și totuși când consumăm informații, nu ai niciun fel de etichetă.

What is contained in this information?

Ce conține această informație?

Is the source credible?

Sursa ei este credibilă?

Where is this information gathered from?

De unde provin aceste informații?

We have none of that information

Nu știm toate aceste lucruri

when we are consuming information.

atunci când consumăm informații.

That is a potential avenue, but it comes with its challenges.

Aceasta e o posibilă soluție, însă are și provocări.

For instance, who gets to decide, in society, what's true and what's false?

De exemplu, la nivel de societate, cine decide ce e adevărat și ce e fals?

Is it the governments?

Guvernele?

Is it Facebook?

Facebook?

Is it an independent consortium of fact-checkers?

O organizație independentă de verificare?

And who's checking the fact-checkers?

Și cine îi verifică pe cei care verifică?

Another potential avenue is incentives.

O altă potențială soluție sunt stimulentele.

We know that during the US presidential election

Știm că în timpul alegerilor prezidențiale din SUA

there was a wave of misinformation that came from Macedonia

a fost un val de dezinformare venit din Macedonia

that didn't have any political motive

care nu avea în spate vreun motiv politic,

but instead had an economic motive.

ci unul economic.

And this economic motive existed,

Acest motiv exista

because false news travels so much farther, faster

pentru că știrile false ajung mult mai rapid, mai departe

and more deeply than the truth,

și mai profund decât cele adevărate,

and you can earn advertising dollars as you garner eyeballs and attention

și poți câștiga bani din reclame pe măsură ce captezi atenția

with this type of information.

cu acest tip de informație.

But if we can depress the spread of this information,

Dar dacă putem reduce răspândirea acestor informații,

perhaps it would reduce the economic incentive

poate vom reduce și stimulentele economice

to produce it at all in the first place.

care au motivat producerea acestora de la bun început.

Third, we can think about regulation,

În al treilea rând, putem vorbi despre reglementări,

and certainly, we should think about this option.

și trebuie să luăm în serios această opțiune.

In the United States, currently,

Azi, în Statele Unite

we are exploring what might happen if Facebook and others are regulated.

explorăm ce s-ar putea întâmpla dacă Facebook și alții ar fi reglementați.

While we should consider things like regulating political speech,

Ar trebui să reglementăm discursul politic,

labeling the fact that it's political speech,

să menționăm că este un discurs politic,

making sure foreign actors can't fund political speech,

să ne asigurăm că străinii nu pot finanța un discurs politic,

it also has its own dangers.

și totuși are pericolele sale.

For instance, Malaysia just instituted a six-year prison sentence

De exemplu, în Malaezia s-a instituit o pedeapsă cu închisoarea de șase ani

for anyone found spreading misinformation.

pentru oricine răspândește știri false.

And in authoritarian regimes,

Iar în regimurile totalitare,

these kinds of policies can be used to suppress minority opinions

aceste tipuri de practici pot fi folosite pentru a suprima opiniile minorității

and to continue to extend repression.

și pentru a extinde represiunile.

The fourth possible option is transparency.

Cea de-a patra opțiune posibilă este transparența.

We want to know how do Facebook's algorithms work.

Vrem să știm cum funcționează algoritmii Facebook.

How does the data combine with the algorithms

Cum sunt datele incorporate în algoritmi

to produce the outcomes that we see?

pentru a produce ceea ce vedem?

We want them to open the kimono

Vrem ca ei să fie transparenți

and show us exactly the inner workings of how Facebook is working.

și să ne arate din interior cum lucrează Facebook.

And if we want to know social media's effect on society,

Dacă vrem să știm efectele rețelelor sociale în societate,

we need scientists, researchers

trebuie ca oameni de știință, cercetători

and others to have access to this kind of information.

și mulți alții să aibă acces la acest tip de informații.

But at the same time,

Dar în același timp,

we are asking Facebook to lock everything down,

i-am ruga pe cei de la Facebook să țină totul sub control,

to keep all of the data secure.

să asigure siguranța datelor.

So, Facebook and the other social media platforms

Deci, Facebook și alte rețele sociale

are facing what I call a transparency paradox.

se confruntă cu așa-numitul paradox al transparenței.

We are asking them, at the same time,

Îi rugăm simultan

to be open and transparent and, simultaneously secure.

să fie deschiși, transparenți, dar și siguri.

This is a very difficult needle to thread,

E o provocare foarte dificilă,

but they will need to thread this needle

dar ei vor trebui să o rezolve

if we are to achieve the promise of social technologies

dacă vrem să ne bucurăm în continuare de tehnologiile sociale

while avoiding their peril.

fără a le pierde.

The final thing that we could think about is algorithms and machine learning.

Ultimul lucru la care ne putem gândi sunt algoritmii și învățarea automată.

Technology devised to root out and understand fake news, how it spreads,

Tehnologie creată pentru a separa și înțelege știrile false, răspândirea lor

and to try and dampen its flow.

și pentru a le reduce frecvența de apariție.

Humans have to be in the loop of this technology,

Oamenii trebuie să fie conștienți de aceste tehnologii,

because we can never escape

pentru că nu putem evita faptul că

that underlying any technological solution or approach

sub orice soluție sau abordare tehnologică

is a fundamental ethical and philosophical question

există o întrebare etică și filozofică fundamentală

about how do we define truth and falsity,

despre cum definim adevărul și falsul,

to whom do we give the power to define truth and falsity

cui îi oferim puterea de a le defini,

and which opinions are legitimate,

și care opinii sunt veridice,

which type of speech should be allowed and so on.

ce tip de discurs ar trebui permis și așa mai departe.

Technology is not a solution for that.

Tehnologia nu este o soluție aici.

Ethics and philosophy is a solution for that.

Etica și filozofia sunt.

Nearly every theory of human decision making,

Aproape toate teoriile despre modul în care oamenii iau decizii,

human cooperation and human coordination

modul în care cooperează și sunt coordonați

has some sense of the truth at its core.

au un sâmbure de adevăr.

But with the rise of fake news,

Dar, odată cu apariția știrilor false,

the rise of fake video,

a videoclipurilor false,

the rise of fake audio,

a înregistrărilor false,

we are teetering on the brink of the end of reality,

ne îndreptăm spre marginea realității,

where we cannot tell what is real from what is fake.

unde nu putem distinge adevărul de minciună.

And that's potentially incredibly dangerous.

Și asta e incredibil de periculos.

We have to be vigilant in defending the truth

Trebuie să fim vigilenți în apărarea adevărului

against misinformation.

împotriva dezinformării.

With our technologies, with our policies

Ajutați de tehnologiile noastre, de politicile noastre

and, perhaps most importantly,

și, probabil, cel mai important,

with our own individual responsibilities,

de responsabilitățile noastre individuale,

decisions, behaviors and actions.

deciziile, comportamentele și acțiunile noastre.

Thank you very much.

Vă mulțumesc mult!

(Applause)

(Aplauze)