How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Перекладач: Мирослава Кругляк Утверджено: Khrystyna Romashko

So, on April 23 of 2013,

Якось, 23 квітня 2013 року,

the Associated Press put out the following tweet on Twitter.

Associated Press розмістила у Твіттері запис,

It said, "Breaking news:

де було сказано:

Two explosions at the White House

"Екстрене повідомлення:

два вибухи у Білому домі,

and Barack Obama has been injured."

поранено Барака Обаму!"

This tweet was retweeted 4,000 times in less than five minutes,

Це повідомлення набрало 4 тисячі ретвітів менш, ніж за п'ять хвилин,

and it went viral thereafter.

і згодом набуло вірусного поширення.

Now, this tweet wasn't real news put out by the Associated Press.

Але ця новина була не справжньою, її випустила не Associated Press.

In fact it was false news, or fake news,

Насправді це був фейк, тобто, фейкова новина,

that was propagated by Syrian hackers

поширювана сирійськими хакерами,

that had infiltrated the Associated Press Twitter handle.

які зламали сторінку Associated Press у Твіттері.

Their purpose was to disrupt society, but they disrupted much more.

Хакери хотіли посіяти суспільну паніку, але наслідки виявились значно гіршими.

Because automated trading algorithms

Тому що автоматизовані алгоритми торгівлі

immediately seized on the sentiment on this tweet,

відразу ж вловили настрій, виражений у цьому твіті,

and began trading based on the potential

і почали робити поправку на те,

that the president of the United States had been injured or killed

що президент США був поранений чи навіть загинув від вибуху.

in this explosion.

And as they started tweeting,

Щойно вони почали твіттити,

they immediately sent the stock market crashing,

це відразу ж призвело до обвалу на біржі,

wiping out 140 billion dollars in equity value in a single day.

який лише за один день завдав збитків на 140 млрд. доларів.

Robert Mueller, special counsel prosecutor in the United States,

Роберт Мюллер, спеціальний прокурор США,

issued indictments against three Russian companies

висунув обвинувачення проти трьох російських компаній

and 13 Russian individuals

і тринадцяти російських громадян,

on a conspiracy to defraud the United States

звинувативши їх у змові, що мала на меті

by meddling in the 2016 presidential election.

за допомогою обману вплинути на президентські вибори в США в 2016-му.

And what this indictment tells as a story

У обвинуваченні йдеться

is the story of the Internet Research Agency,

про діяльність Агентства інтернет-досліджень,

the shadowy arm of the Kremlin on social media.

що було тіньовою армією Кремля в соціальних медіа.

During the presidential election alone,

Тільки впродовж минулих президентських виборів

the Internet Agency's efforts

це інтернет-агентство

reached 126 million people on Facebook in the United States,

охопило 126 мільйонів користувачів Фейсбуку в США,

issued three million individual tweets

опублікувало 3 мільйони окремих твітів

and 43 hours' worth of YouTube content.

і відеоконтент на ютубі, загальною тривалістю 43 години.

All of which was fake --

Весь цей контент був фейковим,

misinformation designed to sow discord in the US presidential election.

дезінформацією з метою сіяти розбрат під час президентських виборів у США.

A recent study by Oxford University

Недавнє дослідження Оксфордського університету

showed that in the recent Swedish elections,

виявило, що під час минулих виборів у Швеції

one third of all of the information spreading on social media

третина інформації, поширюваної в соціальних медіа

about the election

з приводу виборів,

was fake or misinformation.

була фейком чи дезінформацією.

In addition, these types of social-media misinformation campaigns

До того ж, такі види дезінформаційних кампаній в соціальних медіа

can spread what has been called "genocidal propaganda,"

можуть поширювати так звану "пропаганду геноциду",

for instance against the Rohingya in Burma,

наприклад, проти рохінджа в М'янмі,

triggering mob killings in India.

що спровокувало погроми в Індії.

We studied fake news

Ми досліджували фейкові новини,

and began studying it before it was a popular term.

і почали їх досліджувати ще до того, як цей термін став популярним.

And we recently published the largest-ever longitudinal study

Недавно ми опублікували найбільше з відомих довготривалих досліджень

of the spread of fake news online

щодо поширення фейкових новин.

on the cover of "Science" in March of this year.

Воно вийшло на першій сторінці "Science" в березні цього року.

We studied all of the verified true and false news stories

Ми вивчали всі історії, істинність чи хибність яких була встановлена,

that ever spread on Twitter,

з тих, що циркулювали в Твіттері,

from its inception in 2006 to 2017.

за період, починаючи від заснування Твіттера в 2006-му до 2017-го.

And when we studied this information,

При відборі інформації

we studied verified news stories

ми вивчали перевірені новини, а саме, ті новини,

that were verified by six independent fact-checking organizations.

які були перевірені шістьма незалежними факт-чекінговими організаціями.

So we knew which stories were true

Тож ми знали, які з них були правдивими,

and which stories were false.

а які – неправдивими.

We can measure their diffusion,

Ми могли виміряти їхнє розповсюдження,

the speed of their diffusion,

швидкість їхнього поширення,

the depth and breadth of their diffusion,

як глибоко й широко вони розповсюджувались,

how many people become entangled in this information cascade and so on.

скільки людей втягались в цей інформаційний каскад, тощо.

And what we did in this paper

І в згаданій статті

was we compared the spread of true news to the spread of false news.

ми порівняли поширення правдивих та неправдивих новин.

And here's what we found.

І ось що ми виявили.

We found that false news diffused further, faster, deeper

Ми встановили, що неправдиві новини поширюються більше, швидше, глибше

and more broadly than the truth

і ширше, ніж правдиві.

in every category of information that we studied,

Різні інформаційні сфери суттєво відрізняються,

sometimes by an order of magnitude.

іноді на порядок, за масштабами цього явища.

And in fact, false political news was the most viral.

І, до речі, неправдиві політичні новини поширюються найефективніше.

It diffused further, faster, deeper and more broadly

Вони розповсюджуються більше, швидше, глибше і ширше

than any other type of false news.

за будь-який інший тип неправдивих новин.

When we saw this,

Коли ми таке виявили,

we were at once worried but also curious.

це нас стривожило, але водночас і зацікавило.

Why?

Чому це так?

Why does false news travel so much further, faster, deeper

Чому неправдиві новини поширюються значно далі, швидше, більше

and more broadly than the truth?

і ширше, ніж правдиві?

The first hypothesis that we came up with was,

Перша гіпотеза, яка нам спала на думку:

"Well, maybe people who spread false news have more followers or follow more people,

можливо, поширювачі неправдивих новин мають більше підписників і підписок;

or tweet more often,

чи пишуть частіше;

or maybe they're more often 'verified' users of Twitter, with more credibility,

чи серед них більше "підтверджених" користувачів Твіттеру, що збільшує довіру;

or maybe they've been on Twitter longer."

чи вони вже тривалий час мають акаунт.

So we checked each one of these in turn.

Тож ми перевірили ці припущення,

And what we found was exactly the opposite.

і виявили, що насправді все навпаки.

False-news spreaders had fewer followers,

Поширювачі неправдивих новин мали менше підписників,

followed fewer people, were less active,

і менше підписок, вони були менш активними,

less often "verified"

зазвичай не "підтвердженими",

and had been on Twitter for a shorter period of time.

і зареєстрованими не так давно.

And yet,

І тим не менш,

false news was 70 percent more likely to be retweeted than the truth,

неправдиві новини мали на 70% більше поширень, ніж правдиві,

controlling for all of these and many other factors.

і це з поправкою на згадані, а також на багато інших чинників.

So we had to come up with other explanations.

Тож нам потрібно було знайти інше пояснення.

And we devised what we called a "novelty hypothesis."

Ми запропонували гіпотезу, яку назвали "гіпотеза новизни".

So if you read the literature,

У дослідницькій літературі

it is well known that human attention is drawn to novelty,

широко відомий факт, що увагу людей привертає новизна,

things that are new in the environment.

щось нове, щось незвичне для їхнього середовища.

And if you read the sociology literature,

А якщо ви вивчали соціологію,

you know that we like to share novel information.

то знаєте, що люди люблять ділитись новою інформацією.

It makes us seem like we have access to inside information,

Це викликає враження, ніби вони володіють інформацією для втаємничених,

and we gain in status by spreading this kind of information.

і передача такого типу інформації підвищує їхній статус.

So what we did was we measured the novelty of an incoming true or false tweet,

Тож ми виміряли новизну правдивих і неправдивих твітів,

compared to the corpus of what that individual had seen

порівняно з корпусом твітів, які користувачі бачили

in the 60 days prior on Twitter.

впродовж попередніх 60 днів.

But that wasn't enough, because we thought to ourselves,

Проте це ще не все, адже ми подумали:

"Well, maybe false news is more novel in an information-theoretic sense,

"Може, у фейкових новин більше новизни в інформаційно-теоретичному сенсі,

but maybe people don't perceive it as more novel."

але, можливо, люди не вважають, що в них більше новизни".

So to understand people's perceptions of false news,

Тож щоб дослідити, як люди сприймають фейкові новини,

we looked at the information and the sentiment

ми вивчили зміст і емоційний настрій коментарів

contained in the replies to true and false tweets.

до правдивих і неправдивих новин.

And what we found

І ми виявили,

was that across a bunch of different measures of sentiment --

що серед значної кількості досліджуваних емоцій –

surprise, disgust, fear, sadness,

подиву, відрази, страху, суму,

anticipation, joy and trust --

очікування, радощів і довіри –

false news exhibited significantly more surprise and disgust

у коментарях до фейкових новин були значно помітніше присутні

in the replies to false tweets.

подив і відраза.

And true news exhibited significantly more anticipation,

А в коментарях до правдивих новин значно більшою мірою

joy and trust

були присутні очікування,

in reply to true tweets.

радощі та довіра.

The surprise corroborates our novelty hypothesis.

Дані про подив підтверджують нашу гіпотезу новизни.

This is new and surprising, and so we're more likely to share it.

Якщо щось нове й незвичне, то більша ймовірність, що ми це поширимо.

At the same time, there was congressional testimony

Разом із тим, були свідчення в Конгресі,

in front of both houses of Congress in the United States,

перед обома палатами Конгресу Сполучених Штатів,

looking at the role of bots in the spread of misinformation.

у яких було заявлено про роль ботів у поширенні дезінформації.

So we looked at this too --

Тож ми дослідили і це,

we used multiple sophisticated bot-detection algorithms

використавши численні складні алгоритми,

to find the bots in our data and to pull them out.

щоб виявити ботів і виключити їх із наших даних.

So we pulled them out, we put them back in

Зрештою, ми їх виключили, а потім повернули знов,

and we compared what happens to our measurement.

і порівняли, як зміняться дані наших вимірювань.

And what we found was that, yes indeed,

І ми встановили,

bots were accelerating the spread of false news online,

що хоча боти справді прискорюють поширення фейкових новин,

but they were accelerating the spread of true news

але вони прискорюють і поширення правдивих новин

at approximately the same rate.

приблизно на тому ж рівні.

Which means bots are not responsible

Це означає, що боти не впливають

for the differential diffusion of truth and falsity online.

на різницю в поширенні мережею правди та брехні.

We can't abdicate that responsibility,

Ми не можемо зняти із себе відповідальність,

because we, humans, are responsible for that spread.

адже це саме від нас, людей, залежить, що буде поширюватись.

Now, everything that I have told you so far,

Все те, що я досі вам розповів,

unfortunately for all of us,

на жаль для всіх нас,

is the good news.

є хорошими новинами.

The reason is because it's about to get a whole lot worse.

Я так кажу тому, що далі може бути набагато гірше.

And two specific technologies are going to make it worse.

Є дві технології, які можуть зробити ситуацію значно гіршою.

We are going to see the rise of a tremendous wave of synthetic media.

Ми стоїмо на порозі величезної хвилі синтетичних медіа.

Fake video, fake audio that is very convincing to the human eye.

Фейкових відео, фейкових аудіо, які виглядають дуже переконливо.

And this will powered by two technologies.

Вони спиратимуться на дві технології.

The first of these is known as "generative adversarial networks."

Перша з них відома як генеративна змагальна мережа.

This is a machine-learning model with two networks:

Це модель машинного навчання, яка містить дві мережі:

a discriminator,

дискримінатор,

whose job it is to determine whether something is true or false,

який визначає істинність чи хибність чогось,

and a generator,

і генератор,

whose job it is to generate synthetic media.

який створює синтезований контент.

So the synthetic generator generates synthetic video or audio,

Отож, генератор створює штучне відео чи аудіо,

and the discriminator tries to tell, "Is this real or is this fake?"

а дискримінатор намагається визначити, справжнє воно чи фейкове.

And in fact, it is the job of the generator

І, фактично, завдання генератора – це створювати

to maximize the likelihood that it will fool the discriminator

якомога реалістичніші зображення, які б змогли обдурити дискримінатора,

into thinking the synthetic video and audio that it is creating

щоб він розцінив ці штучно синтезовані відео й аудіо

is actually true.

як справжні.

Imagine a machine in a hyperloop,

Уявіть машину, яка з величезною швидкістю

trying to get better and better at fooling us.

вдосконалюється у мистецтві обману.

This, combined with the second technology,

І це поєднано з другою технологією,

which is essentially the democratization of artificial intelligence to the people,

а саме, з все більшою доступністю штучного інтелекту для пересічної людини,

the ability for anyone,

можливістю для будь-кого

without any background in artificial intelligence

без жодної освіти в галузі штучного інтелекту

or machine learning,

чи машинного навчання,

to deploy these kinds of algorithms to generate synthetic media

користуватись цими алгоритмами, щоб створювати штучний контент,

makes it ultimately so much easier to create videos.

значно легше створювати відео.

The White House issued a false, doctored video

Білий дім поширив відредаговане відео,

of a journalist interacting with an intern who was trying to take his microphone.

де журналіст хапає за руку стажерку, що намагається забрати в нього мікрофон.

They removed frames from this video

Це відео відкоригували так, щоб здавалось,

in order to make his actions seem more punchy.

ніби журналіст зробив різкіший рух, ніж насправді.

And when videographers and stuntmen and women

І коли відеооператорів та каскадерів

were interviewed about this type of technique,

запитали про прийом, застосований у тому відео,

they said, "Yes, we use this in the movies all the time

вони сказали: "Так, ми постійно використовуємо цей прийом,

to make our punches and kicks look more choppy and more aggressive."

щоб наші удари й копняки виглядали різкіше й агресивніше".

They then put out this video

Білий дім поширив це відео

and partly used it as justification

і використав його як одну з причин

to revoke Jim Acosta, the reporter's, press pass

для відкликання акредитації Джима Акости

from the White House.

на заходи в Білому домі.

And CNN had to sue to have that press pass reinstated.

CNN мусила подати позов, щоб відновити акредитацію.

There are about five different paths that I can think of that we can follow

На мою думку, існує півдесятка шляхів, якими можна скористатись,

to try and address some of these very difficult problems today.

щоб спробувати розв'язати декотрі з цих дуже складних сьогоднішніх проблем.

Each one of them has promise,

Кожен із них дає надію,

but each one of them has its own challenges.

але водночас кожен із них породжує й виклики.

The first one is labeling.

Перший шлях – це маркування.

Think about it this way:

Давайте поміркуємо:

when you go to the grocery store to buy food to consume,

коли ви йдете до бакалійної крамниці, щоб купити харчі,

it's extensively labeled.

вони детально марковані.

You know how many calories it has,

Ви знаєте, скільки вони містять калорій,

how much fat it contains --

який у них вміст жиру –

and yet when we consume information, we have no labels whatsoever.

однак коли ми споживаємо інформацію, для неї не існує жодного маркування.

What is contained in this information?

Що містить ця інформація?

Is the source credible?

Чи варте довіри це джерело?

Where is this information gathered from?

Звідки отримано дану інформацію?

We have none of that information

У нас немає цих даних,

when we are consuming information.

коли ми споживаємо інформацію.

That is a potential avenue, but it comes with its challenges.

Тут криється потенційна можливість, та водночас є й виклики.

For instance, who gets to decide, in society, what's true and what's false?

Наприклад, кому суспільство довірить вирішувати, де істина, а де брехня?

Is it the governments?

Це будуть органи влади?

Is it Facebook?

Чи, може, Фейсбук?

Is it an independent consortium of fact-checkers?

А, можливо, незалежний консорціум факт-чекерів?

And who's checking the fact-checkers?

А хто перевірятиме факт-чекерів?

Another potential avenue is incentives.

Інша потенційна можливість криється в спонуках.

We know that during the US presidential election

Ми знаємо, що впродовж президентських виборів у США

there was a wave of misinformation that came from Macedonia

здійнялась хвиля дезінформації, що походила з Македонії.

that didn't have any political motive

За цією хвилею не стояв жоден політичний мотив,

but instead had an economic motive.

зате був присутній економічний.

And this economic motive existed,

Цей економічний мотив виник,

because false news travels so much farther, faster

бо фейкові новини поширюються значно далі, швидше

and more deeply than the truth,

і глибше, ніж правдиві,

and you can earn advertising dollars as you garner eyeballs and attention

тож вони збільшують прибуток від реклами, привертаючи увагу

with this type of information.

більшої кількості користувачів.

But if we can depress the spread of this information,

Але якщо можна сповільнити поширення хибної інформації,

perhaps it would reduce the economic incentive

можливо, це зменшить економічні стимули,

to produce it at all in the first place.

які змушують продукувати фейки.

Third, we can think about regulation,

По-третє, можна обміркувати регулювання,

and certainly, we should think about this option.

таку можливість слід серйозно розглянути.

In the United States, currently,

Наразі в Сполучених Штатах

we are exploring what might happen if Facebook and others are regulated.

ми досліджуємо, що може статись, якщо регулювати Фейсбук та інші мережі.

While we should consider things like regulating political speech,

Хоча потрібно розглянути можливість регулювання політичної пропаганди,

labeling the fact that it's political speech,

маркування матеріалів, які є політичною пропагандою,

making sure foreign actors can't fund political speech,

перевірки, щоб іноземні сили не спонсорували політичну пропаганду –

it also has its own dangers.

та всі ці заходи містять в собі небезпеку.

For instance, Malaysia just instituted a six-year prison sentence

Наприклад, у Малайзії прийняли закон, який передбачає 6-річне ув'язнення

for anyone found spreading misinformation.

за поширення дезінформації.

And in authoritarian regimes,

І за умов авторитарного режиму,

these kinds of policies can be used to suppress minority opinions

такі засоби регулювання можуть використовуватись

and to continue to extend repression.

для придушення думки меншості і для посилення репресій.

The fourth possible option is transparency.

По-четверте, одним зі шляхів може стати прозорість.

We want to know how do Facebook's algorithms work.

Ми хочемо знати, як працюють алгоритми Фейсбуку.

How does the data combine with the algorithms

Яким чином алгоритм відбирає інформацію,

to produce the outcomes that we see?

яку ми бачимо у своїй стрічці?

We want them to open the kimono

Ми вимагаємо підняти завісу

and show us exactly the inner workings of how Facebook is working.

і показати деталі внутрішньої роботи алгоритмів Фейсбуку.

And if we want to know social media's effect on society,

І якщо ми хочемо дізнатись про вплив соціальних мереж

we need scientists, researchers

на суспільство, потрібно, щоб вчені,

and others to have access to this kind of information.

дослідники та інші люди мали доступ до такої інформації.

But at the same time,

Але водночас

we are asking Facebook to lock everything down,

ми просимо Фейсбук підтримувати секретність,

to keep all of the data secure.

щоб тримати наші дані у безпеці.

So, Facebook and the other social media platforms

Тож Фейсбук та інші платформи соціальних медіа

are facing what I call a transparency paradox.

стикаються з тим, що я називаю парадоксом прозорості.

We are asking them, at the same time,

Ми хочемо, щоб вони були водночас

to be open and transparent and, simultaneously secure.

відкритими та прозорими, і разом з тим безпечними.

This is a very difficult needle to thread,

Це дуже складне завдання,

but they will need to thread this needle

але вони повинні будуть його виконати,

if we are to achieve the promise of social technologies

якщо ми хочемо користуватись благами соціальних технологій,

while avoiding their peril.

уникнувши при цьому небезпек.

The final thing that we could think about is algorithms and machine learning.

І, по-п'яте, нам потрібно подумати про алгоритми й машинне навчання.

Technology devised to root out and understand fake news, how it spreads,

Технології для розпізнавання фейкових новин та механізмів їх поширення,

and to try and dampen its flow.

з метою сповільнити їхній потік.

Humans have to be in the loop of this technology,

Люди повинні бути в курсі, як працюють ці технології,

because we can never escape

бо ми ніколи не уникнемо того,

that underlying any technological solution or approach

що в основі будь-якого технологічного рішення чи підходу,

is a fundamental ethical and philosophical question

лежать фундаментальні етичні і філософські питання

about how do we define truth and falsity,

про те, як визначати істину й хибність,

to whom do we give the power to define truth and falsity

кого ми наділяємо владою це робити,

and which opinions are legitimate,

і чия думка є легітимною,

which type of speech should be allowed and so on.

які типи висловлювань мають бути прийнятними і т.п.

Technology is not a solution for that.

Це вирішує не технологія.

Ethics and philosophy is a solution for that.

Ці питання має вирішувати етика й філософія.

Nearly every theory of human decision making,

Майже кожна теорія прийняття рішень,

human cooperation and human coordination

людської співпраці й взаємодії

has some sense of the truth at its core.

спирається на певне розуміння правди.

But with the rise of fake news,

Та за умов зростання фейкових новин,

the rise of fake video,

фейкових відео

the rise of fake audio,

та фейкових аудіо,

we are teetering on the brink of the end of reality,

ми балансуємо на межі кінця реальності,

where we cannot tell what is real from what is fake.

коли ми не можемо відрізнити правду від фейку.

And that's potentially incredibly dangerous.

І це містить величезну потенційну загрозу.

We have to be vigilant in defending the truth

Ми маємо пильнувати, ставши на захист істини

against misinformation.

проти дезінформації,

With our technologies, with our policies

застосовуючи наші технології, наші політичні засоби,

and, perhaps most importantly,

і, мабуть, найважливіше,

with our own individual responsibilities,

нашу особисту відповідальність,

decisions, behaviors and actions.

рішення, поведінку і вчинки.

Thank you very much.

Дуже дякую.

(Applause)

(Оплески)