How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Tłumaczenie: Ivana Korom Korekta: Agnieszka Fijałkowska

23 kwietnia 2013 roku

Associated Press zamieściła na Twitterze taką informację:

So, on April 23 of 2013,

"Z ostatniej chwili:

the Associated Press put out the following tweet on Twitter.

dwie eksplozje w Białym Domu.

Barack Obama został ranny."

Informację tę przesłano dalej 4000 razy w przeciągu pięciu minut

It said, "Breaking news:

Two explosions at the White House

and Barack Obama has been injured."

i szybko obiegła cały internet.

This tweet was retweeted 4,000 times in less than five minutes,

Informacja upubliczniona przez Associated Press nie była prawdziwa.

W rzeczywistości, była to fałszywa informacja

and it went viral thereafter.

rozpowszechniana przez syryjskich hakerów,

Now, this tweet wasn't real news put out by the Associated Press.

którzy włamali się na Twittera Associated Press.

In fact it was false news, or fake news,

Ich celem była destabilizacja społeczna, ale zdestabilizowali o wiele więcej.

that was propagated by Syrian hackers

that had infiltrated the Associated Press Twitter handle.

Ponieważ automatyczne algorytmy handlowe

natychmiast wychwyciły nastroje ludzi związane z tą wiadomością,

Their purpose was to disrupt society, but they disrupted much more.

zaczęły handel w oparciu o potencjalne konsekwencje tego,

Because automated trading algorithms

że prezydent Stanów Zjednoczonych został ranny lub zabity

immediately seized on the sentiment on this tweet,

w tej eksplozji.

Kiedy tweety się pojawiły,

and began trading based on the potential

wywołały natychmiastowy krach na giełdzie,

that the president of the United States had been injured or killed

powodując stratę 140 miliardów dolarów wartości kapitałowej w jeden dzień.

in this explosion.

And as they started tweeting,

they immediately sent the stock market crashing,

Robert Muelle, amerykański prokurator specjalny,

wiping out 140 billion dollars in equity value in a single day.

wydał akty oskarżenia przeciwko trzem rosyjskim firmom

i trzynastu rosyjskim obywatelom oskarżonym o zmowę

Robert Mueller, special counsel prosecutor in the United States,

mającą na celu oszukanie Stanów Zjednoczonych

issued indictments against three Russian companies

poprzez ingerencję w wybory prezydenckie z 2016 roku.

and 13 Russian individuals

Ten akt oskarżenia opowiada historię

on a conspiracy to defraud the United States

Internetowej Agencji Badawczej,

by meddling in the 2016 presidential election.

podejrzanego narzędzia wpływu Kremla na media społecznościowe.

And what this indictment tells as a story

W czasie samych wyborów prezydenckich

is the story of the Internet Research Agency,

Internetowa Agencja Badawcza

the shadowy arm of the Kremlin on social media.

dosięgnęła 126 milionów ludzi na Facebooku w Stanach Zjednoczonych,

During the presidential election alone,

opublikowała 3 miliony tweetów

the Internet Agency's efforts

reached 126 million people on Facebook in the United States,

i 43 godziny treści na YouTube.

Wszystkie były nieprawdziwe.

issued three million individual tweets

Były dezinformacją

mającą na celu zasiać niezgodę podczas wyborów.

and 43 hours' worth of YouTube content.

All of which was fake --

Ostatnie badania przeprowadzone przez Uniwersytet Oksfordzki pokazały,

misinformation designed to sow discord in the US presidential election.

że w trakcie ostatnich wyborów w Szwecji,

jedna trzecia informacji na ich temat w mediach społecznościowych

A recent study by Oxford University

showed that in the recent Swedish elections,

była albo nieprawdą, albo celowo wprowadzała w błąd.

one third of all of the information spreading on social media

Tego typu kampanie dezinformacyjne w mediach społecznościowych

about the election

mogą szerzyć tak zwaną “propagandę ludobójstwa”,

was fake or misinformation.

In addition, these types of social-media misinformation campaigns

na przykład przeciwko ludności Rohingya w Burmie,

która zapoczątkowała lincze w Indiach.

can spread what has been called "genocidal propaganda,"

Badaliśmy fałszywe wiadomości

zanim jeszcze był to popularny termin.

for instance against the Rohingya in Burma,

Ostatnio opublikowaliśmy wyniki jak dotąd największych badań podłużnych

triggering mob killings in India.

We studied fake news

and began studying it before it was a popular term.

na temat ich rozchodzenia się w internecie

na łamach czasopisma “Science” w marcu tego roku.

And we recently published the largest-ever longitudinal study

Badaliśmy wszystkie potwierdzone prawdziwe i nieprawdziwe historie,

of the spread of fake news online

on the cover of "Science" in March of this year.

które kiedykolwiek obiegły Twittera

od jego powstania w 2006 roku do 2017 roku.

We studied all of the verified true and false news stories

Kiedy prowadziliśmy badania,

that ever spread on Twitter,

sięgaliśmy po wiadomości,

from its inception in 2006 to 2017.

które zostały zweryfikowane przez sześć niezależnych organizacji.

And when we studied this information,

Więc wiedzieliśmy, które z nich były prawdziwe

we studied verified news stories

a które nie.

that were verified by six independent fact-checking organizations.

Możemy zmierzyć ich rozpowszechnianie,

prędkość rozpowszechniania,

So we knew which stories were true

głębokość oraz zakres rozpowszechniania,

oraz ilu ludzi wplątano w tę kaskadę informacji i tak dalej.

and which stories were false.

We can measure their diffusion,

the speed of their diffusion,

W rezultacie udało nam się

porównać rozpowszechnianie się prawdziwych i fałszywych wiadomości.

the depth and breadth of their diffusion,

how many people become entangled in this information cascade and so on.

Oto, czego się dowiedzieliśmy.

Dowiedzieliśmy się, że fałszywe wiadomości rozchodziły się dalej, szybciej, głębiej

And what we did in this paper

was we compared the spread of true news to the spread of false news.

i szerzej niż prawda

w każdej badanej przez nas kategorii informacji,

And here's what we found.

We found that false news diffused further, faster, deeper

czasami nawet o cały rząd wielkości.

Fałszywe wiadomości na temat polityki najsprawniej obiegały internet.

and more broadly than the truth

in every category of information that we studied,

Rozchodziły się dalej, szybciej, głębiej i szerzej

sometimes by an order of magnitude.

niż inne rodzaje fałszywych informacji.

And in fact, false political news was the most viral.

Kiedy to zauważyliśmy,

natychmiast wzbudziło to nasz niepokój, ale i ciekawość.

It diffused further, faster, deeper and more broadly

Dlaczego?

than any other type of false news.

Dlaczego fałszywe wiadomości rozchodzą się dalej, szybciej, głębiej

When we saw this,

i szerzej niż prawda?

we were at once worried but also curious.

Pierwsza nasza hipoteza zakładała,

Why?

Why does false news travel so much further, faster, deeper

że ludzie, którzy je rozsiewają,

mają więcej obserwujących lub obserwowanych,

and more broadly than the truth?

albo częściej tweetują,

The first hypothesis that we came up with was,

lub częściej są użytkownikami Twittera o potwierdzonej wyższej wiarygodności,

"Well, maybe people who spread false news have more followers or follow more people,

a może są dłużej na Twitterze.

Sprawdziliśmy wszystkie założenia kolejno.

or tweet more often,

or maybe they're more often 'verified' users of Twitter, with more credibility,

Okazało się, że było dokładnie odwrotnie.

or maybe they've been on Twitter longer."

Osoby te miały mniej obserwujących,

obserwowały mniejszą liczbę ludzi, były mniej aktywne,

So we checked each one of these in turn.

rzadziej "sprawdzone"

And what we found was exactly the opposite.

i były krócej na Twitterze.

False-news spreaders had fewer followers,

A mimo to

prawdopodobieństwo powielenia fałszu było o 70 procent wyższe niż prawdy,

followed fewer people, were less active,

less often "verified"

and had been on Twitter for a shorter period of time.

po uwzględnieniu tych i wielu innych czynników.

And yet,

Musieliśmy więc wpaść na inne wytłumaczenie.

false news was 70 percent more likely to be retweeted than the truth,

Opracowaliśmy "hipotezę nowości."

controlling for all of these and many other factors.

Literatura szeroko pokazuje,

So we had to come up with other explanations.

że ludzka uwaga skupia się na nowości,

And we devised what we called a "novelty hypothesis."

na rzeczach, które są nowe w środowisku.

Czytając literaturę socjologiczną

So if you read the literature,

dowiadujemy się, że lubimy przekazywać nowe informacje.

it is well known that human attention is drawn to novelty,

things that are new in the environment.

Dzięki temu wydajemy się posiadać dostęp do informacji wewnętrznych,

And if you read the sociology literature,

you know that we like to share novel information.

a dzieląc się nimi zyskujemy na statusie.

It makes us seem like we have access to inside information,

Zmierzyliśmy więc nowość przychodzącego tweeta,

and we gain in status by spreading this kind of information.

porównując go do korpusu składającego się ze wszystkiego, co dana osoba widziała

So what we did was we measured the novelty of an incoming true or false tweet,

na Twitterze w ciągu poprzednich 60 dni.

Ale to nie wystarczało, bo zaczęliśmy się zastanawiać:

compared to the corpus of what that individual had seen

“Choć fałszywe informacje są nowsze w sensie informacyjno-teoretycznym,

in the 60 days prior on Twitter.

to może ludzie nie postrzegają ich jako nowsze.”

But that wasn't enough, because we thought to ourselves,

Więc, aby zrozumieć ludzkie postrzeganie fałszywych wiadomości,

"Well, maybe false news is more novel in an information-theoretic sense,

przyjrzeliśmy się informacji i nastrojom

but maybe people don't perceive it as more novel."

So to understand people's perceptions of false news,

zawartym w odpowiedziach na prawdziwe i fałszywe tweety.

we looked at the information and the sentiment

Odkryliśmy,

że na skali nastrojów,

contained in the replies to true and false tweets.

zaskoczenia, odrazy, strachu, smutku,

And what we found

oczekiwania, radości i zaufania,

was that across a bunch of different measures of sentiment --

fałszywe wiadomości wykazywały znacznie więcej zaskoczenia i odrazy

surprise, disgust, fear, sadness,

anticipation, joy and trust --

w odpowiedziach na fałszywe tweety.

false news exhibited significantly more surprise and disgust

Natomiast prawdziwe wiadomości wykazywały znacznie więcej oczekiwania,

radości i zaufania

in the replies to false tweets.

w odpowiedziach na prawdziwe tweety.

Zaskoczenie potwierdza hipotezę nowości.

And true news exhibited significantly more anticipation,

Istnieje większe prawdopodobieństwo podzielenia się tym co nowe i zaskakujące.

joy and trust

in reply to true tweets.

The surprise corroborates our novelty hypothesis.

W tym samym czasie wydano oświadczenie

przed obiema izbami Kongresu Stanów Zjednoczonych,

This is new and surprising, and so we're more likely to share it.

na temat roli botów w rozsiewaniu dezinformacji.

At the same time, there was congressional testimony

Temu też się przyjrzeliśmy;

użyliśmy wielu wyrafinowanych algorytmów wykrywania botów,

in front of both houses of Congress in the United States,

looking at the role of bots in the spread of misinformation.

do znalezienia botów w naszych danych i ich usunięcia.

So we looked at this too --

Po usunięciu, umieściliśmy je z powrotem na miejscu

we used multiple sophisticated bot-detection algorithms

i porównaliśmy pomiary.

to find the bots in our data and to pull them out.

Odkryliśmy,

że boty rzeczywiście przyspieszały obieg fałszywych wiadomości w internecie,

So we pulled them out, we put them back in

and we compared what happens to our measurement.

ale przyspieszały też obieg prawdziwych wiadomości

And what we found was that, yes indeed,

w przybliżonym stopniu.

bots were accelerating the spread of false news online,

To oznacza, że boty nie są odpowiedzialne

za zróżnicowane rozchodzenie się prawdy i fałszu w internecie.

but they were accelerating the spread of true news

at approximately the same rate.

Nie możemy uciec od tej odpowiedzialności,

Which means bots are not responsible

ponieważ to my, ludzie, odpowiadamy za to zjawisko.

for the differential diffusion of truth and falsity online.

We can't abdicate that responsibility,

Wszystko, co do tej pory powiedziałem

because we, humans, are responsible for that spread.

jest niestety dla nas

dobrą wiadomością.

Now, everything that I have told you so far,

Ponieważ będzie jeszcze gorzej.

unfortunately for all of us,

is the good news.

Dwie konkretne technologie przyczynią się do tego.

The reason is because it's about to get a whole lot worse.

Będziemy świadkami powstania ogromnej fali mediów syntetycznych.

And two specific technologies are going to make it worse.

Fałszywy obraz, fałszywy dźwięk, który będzie bardzo przekonujący.

We are going to see the rise of a tremendous wave of synthetic media.

Będą one napędzane przez dwie technologie.

Fake video, fake audio that is very convincing to the human eye.

Pierwsza znana jest jako “generatywne sieci współzawodniczące”.

To model systemu uczącego się maszynowo z dwoma sieciami:

And this will powered by two technologies.

dyskryminatorem,

który odpowiada za ustalenie, czy coś jest prawdziwe, czy fałszywe,

The first of these is known as "generative adversarial networks."

i generatorem,

This is a machine-learning model with two networks:

który odpowiada za generowanie mediów syntetycznych.

a discriminator,

whose job it is to determine whether something is true or false,

Generator syntetyczny generuje syntetyczny obraz i dźwięk,

and a generator,

whose job it is to generate synthetic media.

z kolei dyskryminator próbuje rozróżnić, czy jest on prawdziwy, czy fałszywy.

So the synthetic generator generates synthetic video or audio,

Zadaniem generatora jest

and the discriminator tries to tell, "Is this real or is this fake?"

zmaksymalizowanie prawdopodobieństwa przekonania dyskryminatora,

że syntetyczny obraz i dźwięk, które stworzył są prawdziwe.

And in fact, it is the job of the generator

to maximize the likelihood that it will fool the discriminator

Wyobraźcie sobie zapętloną maszynę,

która próbuje stać się coraz lepsza w oszukiwaniu nas.

into thinking the synthetic video and audio that it is creating

W połączeniu z drugą technologią,

is actually true.

Imagine a machine in a hyperloop,

która stanowi właściwie upowszechnienie dostępu do sztucznej inteligencji

trying to get better and better at fooling us.

i umożliwia każdemu,

This, combined with the second technology,

which is essentially the democratization of artificial intelligence to the people,

bez żadnego doświadczenia ze sztuczną inteligencją

lub z systemami uczącymi się,

zastosować tego rodzaju algorytmy do wygenerowania mediów syntetycznych,

the ability for anyone,

without any background in artificial intelligence

znacznie ułatwia tworzenie filmów.

or machine learning,

to deploy these kinds of algorithms to generate synthetic media

Biały Dom wypuścił fałszywy, przerobiony film

makes it ultimately so much easier to create videos.

przedstawiający dziennikarza w interakcji ze stażystą próbującym zabrać mu mikrofon.

The White House issued a false, doctored video

Usunięto z filmu klatki po to,

żeby jego zachowanie wydawało się być bardziej agresywne.

of a journalist interacting with an intern who was trying to take his microphone.

Kiedy przeprowadzono wywiad z filmowcami i kaskaderami

They removed frames from this video

na temat tej techniki,

in order to make his actions seem more punchy.

powiedzieli, że ciągle używa się jej w filmach,

And when videographers and stuntmen and women

żeby uderzenia i kopnięcia wyglądały na bardziej szarpane i agresywne.

were interviewed about this type of technique,

they said, "Yes, we use this in the movies all the time

Film ten został upubiczniony

i użyty częściowo jako uzasadnienie

to make our punches and kicks look more choppy and more aggressive."

cofnięcia przepustki prasowej Jimowi Acosta

They then put out this video

do Białego Domu.

CNN zmuszona była wejść na drogę prawną, żeby mu ją przywrócić.

and partly used it as justification

to revoke Jim Acosta, the reporter's, press pass

from the White House.

Istnieje około pięć różnych ścieżek, którymi, jak sądzę, możemy podążać

And CNN had to sue to have that press pass reinstated.

abyśmy mogli dziś spróbować zająć się niektórymi z tych trudnych problemów.

There are about five different paths that I can think of that we can follow

Każda z nich jest obiecująca,

ale każda z nich niesie własne wyzwania.

to try and address some of these very difficult problems today.

Pierwsza to etykietowanie.

Spójrzcie na to z tej strony:

Each one of them has promise,

kiedy idziecie do warzywniaka, żeby kupić jedzenie,

but each one of them has its own challenges.

posiada ono obszerne etykiety.

The first one is labeling.

Wiecie ile ma kalorii,

Think about it this way:

ile zawiera tłuszczu,

when you go to the grocery store to buy food to consume,

a mimo to, kiedy konsumujemy informacje, nie mamy absolutnie żadnych etykiet.

it's extensively labeled.

Co zawiera ta informacja?

You know how many calories it has,

Czy jej źródło jest wiarygodne?

how much fat it contains --

Skąd pochodzi?

and yet when we consume information, we have no labels whatsoever.

Nie wiemy nic na ten temat,

kiedy konsumujemy informacje.

What is contained in this information?

To jest potencjalna droga, ale towarzyszą jej też wyzwania.

Is the source credible?

Where is this information gathered from?

Na przykład, kto decyduje o tym, co jest prawdziwe, a co fałszywe?

We have none of that information

when we are consuming information.

That is a potential avenue, but it comes with its challenges.

Rządy?

For instance, who gets to decide, in society, what's true and what's false?

Facebook?

Niezależne konsorcjum weryfikujące prawdziwość informacji?

Kto sprawdza sprawdzających informacje?

Is it the governments?

Kolejną potencjalną drogą są pobudki.

Is it Facebook?

Is it an independent consortium of fact-checkers?

Wiadomo, że w trakcie wyborów prezydenckich w USA

And who's checking the fact-checkers?

z Macedonii napłynęła fala dezinformacji,

Another potential avenue is incentives.

która nie miała motywów politycznych,

We know that during the US presidential election

natomiast miała ekonomiczny.

there was a wave of misinformation that came from Macedonia

Ten motyw ekonomiczny zaistniał,

bo fałszywe wiadomości przenoszą się znacznie dalej, szybciej

that didn't have any political motive

i głębiej, niż prawda

but instead had an economic motive.

And this economic motive existed,

i można zarobić pieniądze na reklamie, jeśli się przyciągnie uwagę

because false news travels so much farther, faster

tego typu informacją.

and more deeply than the truth,

Ale jeśli uda nam się zmniejszyć szerzenie się tych informacji,

and you can earn advertising dollars as you garner eyeballs and attention

może zredukowało by to bodziec ekonomiczny,

with this type of information.

do tego, aby je w ogóle tworzyć.

But if we can depress the spread of this information,

Po trzecie, możemy rozważyć regulację,

i zdecydowanie powinniśmy wziąć pod uwagę tę opcję.

perhaps it would reduce the economic incentive

Obecnie w Stanach Zjednoczonych badamy,

to produce it at all in the first place.

Third, we can think about regulation,

co mogłoby się zdarzyć, gdyby uregulowano media społecznościowe.

and certainly, we should think about this option.

Chociaż powinniśmy rozważyć regulowanie wypowiedzi politycznych,

In the United States, currently,

we are exploring what might happen if Facebook and others are regulated.

etykietowanie wypowiedzi politycznych,

upewnianie się, że zagraniczni lobbiści nie mogą ich finansować,

While we should consider things like regulating political speech,

niesie to swoje niebezpieczeństwa.

labeling the fact that it's political speech,

Na przykład, Malezja właśnie ustanowiła karę sześciu lat więzienia

making sure foreign actors can't fund political speech,

dla każdego, kto rozsiewa dezinformacje.

it also has its own dangers.

For instance, Malaysia just instituted a six-year prison sentence

Natomiast w reżimach autorytarnych

tego typu polityka może być wykorzystana by stłumić opinie mniejszości

for anyone found spreading misinformation.

i przedłużać represję.

And in authoritarian regimes,

these kinds of policies can be used to suppress minority opinions

Czwartą możliwą opcją jest jawność.

and to continue to extend repression.

Chcemy wiedzieć, jak działają algorytmy Facebooka,

The fourth possible option is transparency.

jak dane łączą się z algorytmami

tworząc to, co widzimy.

We want to know how do Facebook's algorithms work.

Chcemy, żeby wyjawili prawdę

How does the data combine with the algorithms

i dokładnie pokazali nam wewnętrzne mechanizmy działania Facebooka.

to produce the outcomes that we see?

A jeśli chcemy poznać wpływ mediów społecznościowych na społeczeństwo

We want them to open the kimono

potrzebujemy, żeby naukowcy, badacze

and show us exactly the inner workings of how Facebook is working.

i inne grupy miały dostęp do tego rodzaju informacji.

And if we want to know social media's effect on society,

Ale jednocześnie

prosimy Facebooka o zamknięcie wszystkiego na klucz,

we need scientists, researchers

and others to have access to this kind of information.

o zabezpieczenie naszych danych.

W związku z tym Facebook i inne platformy społecznościowe

But at the same time,

we are asking Facebook to lock everything down,

stoją przed tym, co nazywam paradoksem jawności.

to keep all of the data secure.

Prosimy ich,

So, Facebook and the other social media platforms

żeby były otwarte i jawne, a jednocześnie bezpieczne.

are facing what I call a transparency paradox.

To bardzo trudny problem do rozwiązania,

We are asking them, at the same time,

to be open and transparent and, simultaneously secure.

ale będą musieli go rozwiązać,

jeśli mamy tworzyć technologie społecznościowe

This is a very difficult needle to thread,

unikając ich niebezpieczeństw.

Ostatnią rzeczą do rozważenia są algorytmy i uczenie maszynowe.

but they will need to thread this needle

if we are to achieve the promise of social technologies

Technologia zaprojektowana, by wyplenić i zrozumieć fake newsy

while avoiding their peril.

The final thing that we could think about is algorithms and machine learning.

oraz aby spróbować ograniczyć ich przepływ.

Technology devised to root out and understand fake news, how it spreads,

Ludzie muszą być w pętli tej technologii,

bo nie jesteśmy w stanie uniknąć tego,

and to try and dampen its flow.

że podstawą każdego rozwiązania technologicznego

Humans have to be in the loop of this technology,

jest zasadnicza etyczna i filozoficzna kwestia

because we can never escape

dotycząca tego, jak definiujemy prawdę i fałsz,

that underlying any technological solution or approach

komu dajemy moc definiowania prawdy i fałszu,

is a fundamental ethical and philosophical question

i które opcje są słuszne,

about how do we define truth and falsity,

jakiego rodzaju mowa jest dopuszczalna i tak dalej.

to whom do we give the power to define truth and falsity

Technologia nie stanowi tu rozwiązania.

and which opinions are legitimate,

Etyka i filozofia są rozwiązaniami dla tych problemów.

which type of speech should be allowed and so on.

Prawie każda teoria podejmowania wyborów przez ludzi,

Technology is not a solution for that.

współpracy międzyludzkiej i koordynacji,

Ethics and philosophy is a solution for that.

ma zakorzenione rdzenne poczucie prawdy.

Nearly every theory of human decision making,

Ale wraz z powstaniem fałszywych wiadomości,

human cooperation and human coordination

fałszywego obrazu,

fałszywego dźwięku,

has some sense of the truth at its core.

balansujemy na granicy końca rzeczywistości,

But with the rise of fake news,

gdzie nie można odróżnić tego, co prawdziwe od fałszu.

the rise of fake video,

the rise of fake audio,

we are teetering on the brink of the end of reality,

Potencjalnie jest to bardzo niebezpieczne.

where we cannot tell what is real from what is fake.

Musimy być czujni broniąc prawdy

And that's potentially incredibly dangerous.

przed dezinformacją.

W przypadku naszych technologii, polityki

We have to be vigilant in defending the truth

i, co może najważniejsze,

w przypadku naszej osobistej odpowiedzialności,

against misinformation.

With our technologies, with our policies

decyzji, zachowań i działań.

and, perhaps most importantly,

Dziękuję bardzo.

with our own individual responsibilities,

(Brawa)

decisions, behaviors and actions.

Thank you very much.

(Applause)