How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Translator: Niya Koleva Reviewer: Petya Pavlova

Така, на 23 април 2013 г.,

So, on April 23 of 2013,

the Associated Press put out the following tweet on Twitter.

Асошиейтид Прес публикуваха следното в Туитър.

It said, "Breaking news:

В него се казваше: "Новини от последните минути:

Two explosions at the White House

Две експлозии в Белия дом

and Barack Obama has been injured."

и Барак Обама е ранен".

This tweet was retweeted 4,000 times in less than five minutes,

Този туийт беше ретуитнат 4000 пъти за по-малко от пет минути

and it went viral thereafter.

и след това стана широко популярен.

Now, this tweet wasn't real news put out by the Associated Press.

Този туит не беше истинска новина качена от Асошиейтид Прес.

In fact it was false news, or fake news,

Всъщност беше грешна новина или фалшива новина,

that was propagated by Syrian hackers

разпространена от сирийски хакери,

that had infiltrated the Associated Press Twitter handle.

проникнали в туитър акаунта на Асошиейтид прес.

Their purpose was to disrupt society, but they disrupted much more.

Тяхната цел била да смутят обществото, но те смущават много повече.

Because automated trading algorithms

Тъй като автоматизираните алгоритми за търговия

immediately seized on the sentiment on this tweet,

веднага прихванали настроението на този туийт,

and began trading based on the potential

те започнали търгуване, основано на възможността

that the president of the United States had been injured or killed

президентът на Съединените Американски Щати да е ранен или убит

in this explosion.

при тази експлозия.

And as they started tweeting,

Щом започнали да туитват

they immediately sent the stock market crashing,

веднага докарали фондовия пазар до срив

wiping out 140 billion dollars in equity value in a single day.

унищожавайки 140 милиарда долара стойност на собствения капитал за един ден.

Robert Mueller, special counsel prosecutor in the United States,

Робърт Мюлер, специален адвокат прокурор в САЩ,

issued indictments against three Russian companies

издава обвинителни актове срещу три руски компании

and 13 Russian individuals

и 13 руснаци

on a conspiracy to defraud the United States

за конспирация с цел измама на САЩ

by meddling in the 2016 presidential election.

като се намесват в президентските избори през 2016 г.

And what this indictment tells as a story

Това, което обвинението разказва като история,

is the story of the Internet Research Agency,

е историята на Агенцията за проучвания в интернет,

the shadowy arm of the Kremlin on social media.

сенчестата ръка на Кремъл в социалните медии.

During the presidential election alone,

Само по време на президентските избори

the Internet Agency's efforts

усилията на Интернет агенцията

reached 126 million people on Facebook in the United States,

достигат 126 милиона души във Фейсбук в САЩ,

issued three million individual tweets

публикува 3 милиона отделни туийта

and 43 hours' worth of YouTube content.

и 43 часа съдържание в ЮТюб.

All of which was fake --

Като всичкото е фалшиво --

misinformation designed to sow discord in the US presidential election.

дезинформация, създадена да сее раздор в президентските избори на САЩ.

A recent study by Oxford University

Скорошно изследване на Оксфордския университет

showed that in the recent Swedish elections,

показва, че в последните шведски избори

one third of all of the information spreading on social media

една трета от цялата информация, разпространявана в интернет

about the election

за изборите,

was fake or misinformation.

била фалшива или дезинформация.

In addition, these types of social-media misinformation campaigns

Допълнително, тези типове кампании на дезинформация в социалните медии

can spread what has been called "genocidal propaganda,"

могат да разпространят т.нар. "геноцидна пропаганда",

for instance against the Rohingya in Burma,

например срещу малцинството рохинджа в Бирма,

triggering mob killings in India.

което задейства масови убийства в Индия.

We studied fake news

Изучавахме фалшиви новини

and began studying it before it was a popular term.

и започнахме да ги изучаваме преди да станат популярен термин.

And we recently published the largest-ever longitudinal study

И скоро публикувахме най-голямото досега лонгитюдно изследване

of the spread of fake news online

на разпространението на фалшиви новини онлайн

on the cover of "Science" in March of this year.

на корицата на "Сайънс" през март тази година.

We studied all of the verified true and false news stories

Изследвахме всички потвърдени верни и неверни новини,

that ever spread on Twitter,

разпространявани в Туитър

from its inception in 2006 to 2017.

от създаването му през 2006 г. до 2017 г.

And when we studied this information,

И след това изследвахме тази информация,

we studied verified news stories

изследвахме потвърдените новини,

that were verified by six independent fact-checking organizations.

които бяха потвърдени от шест независими организации, проверяващи факти.

So we knew which stories were true

Така че знаехме кои истории са верни

and which stories were false.

и кои истории са неверни.

We can measure their diffusion,

Можем да измерим тяхното разпространение,

the speed of their diffusion,

скоростта на това разпространение,

the depth and breadth of their diffusion,

дълбочината и обхвата на разпространението,

how many people become entangled in this information cascade and so on.

колко хора са били въвличани в тази информационна каскада и т.н.

And what we did in this paper

Това, което направихме с труда,

was we compared the spread of true news to the spread of false news.

бе да сравним разпространението на истинските спрямо неверните новини.

And here's what we found.

И ето какво открихме.

We found that false news diffused further, faster, deeper

Открихме, че неверните новини се разпростират повече, по-бързо и по-дълбоко

and more broadly than the truth

и в по-голям обхват от истината

in every category of information that we studied,

във всички категории информация, които изследвахме,

sometimes by an order of magnitude.

понякога с огромна разлика.

And in fact, false political news was the most viral.

Действително неверните политически новини бяха най-широко разпространени.

It diffused further, faster, deeper and more broadly

Разпространяваха се далеч, по-бързо, по-дълбоко и в по-голям обхват

than any other type of false news.

от много други типове неверни новини.

When we saw this,

Щом видяхме това

we were at once worried but also curious.

веднага се разтревожихме, но бяхме и любопитни.

Why?

Защо?

Why does false news travel so much further, faster, deeper

Защо неверните новини пътуват толкова по-надалеч, по-бързо и по-дълбоко

and more broadly than the truth?

и в по-голям обхват от истината?

The first hypothesis that we came up with was,

Първата хипотеза, която съставихме, беше:

"Well, maybe people who spread false news have more followers or follow more people,

"Може би хората, които разпространяват неверните новини имат повече последователи

или следват повече хора, или туийтват по-често.

or tweet more often,

or maybe they're more often 'verified' users of Twitter, with more credibility,

Или може би те са "потвърдени" Туитър потребители, с повече правдоподобност,

or maybe they've been on Twitter longer."

или са в Туитър по-дълго време".

So we checked each one of these in turn.

Проверихме всяко едно от тези неща.

And what we found was exactly the opposite.

И това, което открихме, беше точно обратното.

False-news spreaders had fewer followers,

Разпространяващите неверни новини, имаха по-малко последователи,

followed fewer people, were less active,

следваха по-малко хора, по-малко активни са,

less often "verified"

по-рядко са "потвърдени"

and had been on Twitter for a shorter period of time.

и ползват Туитър от по-кратък период.

And yet,

И все пак вероятността

false news was 70 percent more likely to be retweeted than the truth,

неверните новини да бъдат ретуитнати беше 70% по-висока от тази на истината,

controlling for all of these and many other factors.

като се вземат предвид тези и много други фактори.

So we had to come up with other explanations.

Така че трябваше да намерим други обяснения.

And we devised what we called a "novelty hypothesis."

И създадохме т. нар. "хипотеза на новостта".

So if you read the literature,

Ако прочетете литературата,

it is well known that human attention is drawn to novelty,

добре известно е, че човешкото внимание се привлича от новостите,

things that are new in the environment.

нещата, които са нови в средата.

And if you read the sociology literature,

Ако четете литературата на социологията,

you know that we like to share novel information.

знаете, че обичаме да споделяме нова информация.

It makes us seem like we have access to inside information,

Кара ни да изглеждаме все едно имаме достъп до вътрешна информация

and we gain in status by spreading this kind of information.

и покачваме статута си като разпространяваме такава информация.

So what we did was we measured the novelty of an incoming true or false tweet,

Измерихме новостта на постъпващ верен и неверен туит

compared to the corpus of what that individual had seen

сравнено с всичко, което човек е видял

in the 60 days prior on Twitter.

през 60-те дни преди това в Туитър.

But that wasn't enough, because we thought to ourselves,

Но това не беше достатъчно, защото се замислихме

"Well, maybe false news is more novel in an information-theoretic sense,

"Може би неверните новини са по-нови в информационно-теоретичен смисъл,

but maybe people don't perceive it as more novel."

но може би хората не ги възприемат като по-нови"

So to understand people's perceptions of false news,

За да разберем възприятията на хората спрямо неверните новини

we looked at the information and the sentiment

разгледахме информацията и усещанията,

contained in the replies to true and false tweets.

съдържащи се в отговорите на истински и неистински туитове.

And what we found

И това, което открихме,

was that across a bunch of different measures of sentiment --

беше, че сред няколко различни мерки на усещане --

surprise, disgust, fear, sadness,

изненада, отвращение, страх, тъга,

anticipation, joy and trust --

очакване, радост и доверие --

false news exhibited significantly more surprise and disgust

при неверните новини се наблюдаваше значително повече изненада и отвращение

in the replies to false tweets.

в отговорите на неверните туитове.

And true news exhibited significantly more anticipation,

А сред истинските новини се наблюдаваше значително повече очакване,

joy and trust

радост и доверие

in reply to true tweets.

в отговорите на верните туитове.

The surprise corroborates our novelty hypothesis.

Изненадата потвърди нашата теория на новостта.

This is new and surprising, and so we're more likely to share it.

Това е ново и изненадващо, затова сме по-склонни да го споделим.

At the same time, there was congressional testimony

Междувременно се случваха конгресните изслушвания

in front of both houses of Congress in the United States,

пред двете камари на Конгреса в САЩ,

looking at the role of bots in the spread of misinformation.

където се разглеждаше ролята на ботовете при разпространението на дезинформацията.

So we looked at this too --

Затова разгледахме и това --

we used multiple sophisticated bot-detection algorithms

използвахме множество изпипани алгоритми за засичане на ботове,

to find the bots in our data and to pull them out.

за да открием ботовете в нашите данни и да ги извадим от изследването.

So we pulled them out, we put them back in

Изтеглихме ги, после ги вкарахме отново

and we compared what happens to our measurement.

и сравнихме какво се случва с измерванията ни.

And what we found was that, yes indeed,

И открихме, че действително

bots were accelerating the spread of false news online,

ботовете увеличават скоростта на разпространение на неверни новини онлайн,

but they were accelerating the spread of true news

но те ускоряват и разпространението на истинските новини

at approximately the same rate.

с приблизително същия темп.

Which means bots are not responsible

Което означава, че ботовете не са причината

for the differential diffusion of truth and falsity online.

за диференциалното разпространение на истината и неистината онлайн.

We can't abdicate that responsibility,

Не можем да избегнем отговорност,

because we, humans, are responsible for that spread.

защото ние хората сме отговорни за това разпространение.

Now, everything that I have told you so far,

Всичко, което ви казах досега,

unfortunately for all of us,

за съжаление на всички нас,

is the good news.

е добрата новина.

The reason is because it's about to get a whole lot worse.

Причината е, защото сега ще стане много по-лошо.

And two specific technologies are going to make it worse.

И две конкретни технологии ще влошат нещата.

We are going to see the rise of a tremendous wave of synthetic media.

Ще видим възхода на огромна вълна на синтетичните медии.

Fake video, fake audio that is very convincing to the human eye.

Фалшиви видеа, фалшиво аудио, които са много убедителни за човешкото око.

And this will powered by two technologies.

И това ще бъде задвижено от две технологии.

The first of these is known as "generative adversarial networks."

Първата е позната като "генеративно-състезателни мрежи".

This is a machine-learning model with two networks:

Това е модел на машинно самообучение с две мрежи:

a discriminator,

дискриминатор,

whose job it is to determine whether something is true or false,

чиято работа е да определи дали нещо е истина или лъжа,

and a generator,

и генератор,

whose job it is to generate synthetic media.

чиято работа е да генерира синтетична медия.

So the synthetic generator generates synthetic video or audio,

Синтетичният генератор създава синтетично видео или аудио,

and the discriminator tries to tell, "Is this real or is this fake?"

а дискриминаторът се опитва да различи "дали това е истинско, или е фалшиво?"

And in fact, it is the job of the generator

И всъщност е работа на генератора

to maximize the likelihood that it will fool the discriminator

да максимизира вероятността, да заблуди дискриминатора,

into thinking the synthetic video and audio that it is creating

че синтетичното видео или аудио, което създава,

is actually true.

е всъщност истинско.

Imagine a machine in a hyperloop,

Представете си машина в хиперлууп,

trying to get better and better at fooling us.

опитваща се да стане по-добра и по-добра в това да ни заблуждава.

This, combined with the second technology,

Това в комбинация с втората технология,

which is essentially the democratization of artificial intelligence to the people,

която по същество е демократизацията на изкуствения интелект към хората,

the ability for anyone,

възможността всеки,

without any background in artificial intelligence

без какъвто и да е опит с изкуствения интелект

or machine learning,

или машинното самообучение,

to deploy these kinds of algorithms to generate synthetic media

да използва такъв вид алгоритми, за да генерира синтетични медии,

makes it ultimately so much easier to create videos.

по същество прави създаването на видеа много по-лесно.

The White House issued a false, doctored video

Белият дом публикува невярно и подправено видео

of a journalist interacting with an intern who was trying to take his microphone.

от спречкването на журналист със стажант, който опитва да му вземе микрофона.

They removed frames from this video

Изрязани са кадри от видеото,

in order to make his actions seem more punchy.

за да изглеждат действията му по-груби.

And when videographers and stuntmen and women

И когато видеографи и каскадьори

were interviewed about this type of technique,

са интервюирани за този вид техника

they said, "Yes, we use this in the movies all the time

те казват "Да, използваме я във филмите през цялото време,

to make our punches and kicks look more choppy and more aggressive."

за да изглеждат ударите и ритниците по-резки и по-агресивни."

They then put out this video

След това пуснаха това видео

and partly used it as justification

и в известна степен го използваха като оправдание

to revoke Jim Acosta, the reporter's, press pass

да изземат журналистическия пропуск на репортера Джим Акоста

from the White House.

от Белия дом.

And CNN had to sue to have that press pass reinstated.

И СиЕнЕн трябваше да водят дело, за да възстановят журналистическия пропуск.

Има около 5 различни пътя, за които се сещам и, по които можем да поемем,

There are about five different paths that I can think of that we can follow

to try and address some of these very difficult problems today.

за да се опитаме да решим някои от тези много трудни проблеми днес.

Each one of them has promise,

Всеки от тях дава надежда,

but each one of them has its own challenges.

но всеки от тях има своите предизвикателства.

The first one is labeling.

Първият е "поставяне на етикети".

Think about it this way:

Помислете по следния начин:

when you go to the grocery store to buy food to consume,

когато отидете в магазина, за да си купите храна за консумация

it's extensively labeled.

тя е с информативен етикет.

You know how many calories it has,

Знаете колко калории има в нея,

how much fat it contains --

колко мазнини съдържа --

and yet when we consume information, we have no labels whatsoever.

но когато консумираме информация, няма никакви етикети.

What is contained in this information?

Какво се съдържа в тази информация?

Is the source credible?

Източникът надежден ли е?

Where is this information gathered from?

Откъде е събрана тази информация?

We have none of that information

Не разполагаме с тази информация,

when we are consuming information.

когато консумираме информация.

That is a potential avenue, but it comes with its challenges.

Това е потенциално решение, но то съдържа предизвикателства.

For instance, who gets to decide, in society, what's true and what's false?

Например, кой в обществото ще решава кое е вярно и кое е невярно?

Is it the governments?

Правителствата?

Is it Facebook?

Фейсбук?

Is it an independent consortium of fact-checkers?

Независим консорциум на проверяващите фактите?

And who's checking the fact-checkers?

И кой проверява проверяващите?

Another potential avenue is incentives.

Друг възможен път е този на стимулите.

We know that during the US presidential election

Знаем, че по време на президентските избори в САЩ

there was a wave of misinformation that came from Macedonia

имаше вълна на дезинформация с произход Македония,

that didn't have any political motive

която нямаше политически мотив,

but instead had an economic motive.

а вместо това имаше икономически мотив.

And this economic motive existed,

И този икономически мотив съществуваше,

because false news travels so much farther, faster

защото неверните новини се движат по-далеч, по-бързо,

and more deeply than the truth,

и по-дълбоко от истината

and you can earn advertising dollars as you garner eyeballs and attention

и можеш да спечелиш пари от реклама докато събираш погледи и внимание

with this type of information.

с този вид информация.

But if we can depress the spread of this information,

Ако можем да ограничим разпространението на тази информация

perhaps it would reduce the economic incentive

това вероятно ще намали икономическия стимул

to produce it at all in the first place.

за самото ѝ създаване.

Third, we can think about regulation,

Трето, можем да мислим за регулации

and certainly, we should think about this option.

и със сигурност трябва да помислим за този вариант.

In the United States, currently,

В САЩ в момента

we are exploring what might happen if Facebook and others are regulated.

разглеждаме какво може да се случи, ако Фейсбук и други се регулират.

While we should consider things like regulating political speech,

Докато трябва да помислим за неща като това да регулираме политическата реч,

labeling the fact that it's political speech,

да обозначим факта, че е политическа реч,

making sure foreign actors can't fund political speech,

да се уверим, че чуждестранни лица не могат да финансират политическа реч,

it also has its own dangers.

това също води до своите опасности.

For instance, Malaysia just instituted a six-year prison sentence

Например, Малайзия тъкмо въведе шестгодишна ефективна присъда

for anyone found spreading misinformation.

за всеки, който разпространява дезинформация.

And in authoritarian regimes,

И в авторитарните режими

these kinds of policies can be used to suppress minority opinions

този тип политики могат да се използват за потискане на мнението на малцинствата

and to continue to extend repression.

и за продължаване на репресиите.

The fourth possible option is transparency.

Четвъртата възможност е прозрачността.

We want to know how do Facebook's algorithms work.

Искаме да знаем как работят алгоритмите на Фейсбук.

How does the data combine with the algorithms

Как данните се комбинират с алгоритмите,

to produce the outcomes that we see?

за да произвеждат резултатите, които виждаме?

We want them to open the kimono

Искаме да отворят кимоното

and show us exactly the inner workings of how Facebook is working.

и да ни покажат точно зъбните колела на начина на работа на Фейсбук.

And if we want to know social media's effect on society,

И ако искаме да разберем ефектът на социалните медии върху обществото

we need scientists, researchers

трябва учени, изследователи

and others to have access to this kind of information.

и други да имат достъп до този вид информация.

But at the same time,

Но същевременно,

we are asking Facebook to lock everything down,

искаме Фейсбук да заключи всичко,

to keep all of the data secure.

да съхранява данните по сигурен начин.

So, Facebook and the other social media platforms

Фейсбук и другите платформи на социалните медии

are facing what I call a transparency paradox.

са изправени пред това, което наричам парадоск на прозрачността.

We are asking them, at the same time,

Едновременно искаме от тях

to be open and transparent and, simultaneously secure.

да са отворени и прозрачни, и в същотото време, да са сигурни.

This is a very difficult needle to thread,

Това е много трудна игла за вдяване,

but they will need to thread this needle

но те ще трябва да вдянат конеца в иглата,

if we are to achieve the promise of social technologies

ако искаме да достигнем потенциала на социалните технологии,

while avoiding their peril.

и да избегнем рисковете им.

The final thing that we could think about is algorithms and machine learning.

Последното нещо, за което се сетихме са алгоритмите и машинното самообучение.

Technology devised to root out and understand fake news, how it spreads,

Технология, създадена, да намира и разбира фалшивите новини, разпространението им

and to try and dampen its flow.

и да се опита да ограничи потока им.

Humans have to be in the loop of this technology,

Хората трябва да са в течение с тази технология,

because we can never escape

защото не можем да избягаме

that underlying any technological solution or approach

от това, че при всяко технологично решение или подход

is a fundamental ethical and philosophical question

съществува фундаментален етически и философски въпрос

about how do we define truth and falsity,

как да дефинираме истината и неистната,

to whom do we give the power to define truth and falsity

на кого даваме властта да дефинира истината и неистината

and which opinions are legitimate,

и кои мнения са легитимни,

which type of speech should be allowed and so on.

кой тип реч трябва да се позволява и т.н.

Technology is not a solution for that.

Технологията не е решение за това.

Ethics and philosophy is a solution for that.

Етиката и философията са решение за това.

Nearly every theory of human decision making,

Почти всяка теория за взимането на решения от хората,

human cooperation and human coordination

сътрудничеството и координацията между хората

has some sense of the truth at its core.

в същността си има идея за истината.

But with the rise of fake news,

Но с възхода на фалшивите новини,

the rise of fake video,

възхода на фалшивите видеа,

the rise of fake audio,

възхода на фалшивото аудио,

we are teetering on the brink of the end of reality,

пълзим по ръба на края на реалността.

where we cannot tell what is real from what is fake.

където не можем да кажем кое е истинско и кое - фалшиво.

And that's potentially incredibly dangerous.

И това потенциално е невероятно опасно.

We have to be vigilant in defending the truth

Трябва да сме бдителни при защитаването на истината

against misinformation.

срещу дезинформацията.

With our technologies, with our policies

С нашите технологии, с нашите политики

and, perhaps most importantly,

и може би най-важното

with our own individual responsibilities,

с нашите индивидуални отговорности,

decisions, behaviors and actions.

решения, поведение и действия.

Thank you very much.

Много ви благодаря.

(Applause)

(аплодисменти)