How we can protect truth in the age of misinformation | Sinan Aral

Translator: Ivana Korom Reviewer: Krystian Aparta

Çeviri: Sirvan Boyraz Gözden geçirme: Nevaz Mescioğlu

So, on April 23 of 2013,

23 Nisan 2013'te

the Associated Press put out the following tweet on Twitter.

Associated Press, Twitter'da şöyle bir tweet attı.

It said, "Breaking news:

"Flaş haber:

Two explosions at the White House

Beyaz Saray'da iki patlama.

and Barack Obama has been injured."

Barack Obama yaralandı."

This tweet was retweeted 4,000 times in less than five minutes,

Bu tweet beş dakikadan kısa sürede 4000 kere paylaşıldı

and it went viral thereafter.

ve sonrasında viral oldu.

Now, this tweet wasn't real news put out by the Associated Press.

Bu tweet, Associated Press tarafından paylaşılan gerçek bir haber değildi.

In fact it was false news, or fake news,

Aslında sahte veya yalan bir haberdi.

that was propagated by Syrian hackers

Associated Press'in Twitter hesabını ele geçiren

that had infiltrated the Associated Press Twitter handle.

Suriyeli bilgisayar korsanlarınca paylaşılmıştı.

Their purpose was to disrupt society, but they disrupted much more.

Amaçları toplumda kargaşa çıkarmaktı ama çok daha fazlasını yaptılar.

Because automated trading algorithms

Çünkü otomatik borsa algoritmaları

immediately seized on the sentiment on this tweet,

bu tweet'teki hissiyatı hemen yakaladı

and began trading based on the potential

ve ABD Başkanı'nın bu patlamada

that the president of the United States had been injured or killed

yaralanmış veya öldürülmüş olması ihtimaline göre alım satım

in this explosion.

yapmaya başladı.

And as they started tweeting,

Tweet atmaya başladıklarında

they immediately sent the stock market crashing,

borsayı çöküşe soktular,

wiping out 140 billion dollars in equity value in a single day.

bir günde 140 milyar dolarlık değer kaybına yol açtılar.

Robert Mueller, special counsel prosecutor in the United States,

Özel yetkili ABD savcısı Robert Mueller

issued indictments against three Russian companies

üç Rus şirketine ve 13 Rus bireye karşı

and 13 Russian individuals

2016 başkanlık seçimine müdahale ederek

on a conspiracy to defraud the United States

ABD'yi dolandırmak amacıyla

by meddling in the 2016 presidential election.

komplo kurmaktan dava açtı.

And what this indictment tells as a story

Bu iddianamenin hikâyesi,

is the story of the Internet Research Agency,

Kremlin'in sosyal medyadaki gizli kolu olan

the shadowy arm of the Kremlin on social media.

Internet Research Agency'nin hikâyesidir.

During the presidential election alone,

Sırf başkanlık seçimlerinde

the Internet Agency's efforts

Internet Agency'nin çabaları

reached 126 million people on Facebook in the United States,

ABD'de Facebook üzerinden 126 milyon kişiye ulaştı,

issued three million individual tweets

üç milyon tekil tweet attı

and 43 hours' worth of YouTube content.

ve 43 saatlik YouTube içeriği yayınladı.

All of which was fake --

Bunların hepsi sahteydi.

misinformation designed to sow discord in the US presidential election.

ABD başkanlık seçimlerine şüphe tohumları ekme amaçlı yanlış bilgilendirmelerdi.

A recent study by Oxford University

Oxford Üniversitesi'nin yakın tarihli bir araştırması

showed that in the recent Swedish elections,

geçtiğimiz İsveç seçimlerinde

one third of all of the information spreading on social media

sosyal medyada yayınlanan seçimle ilgili bilgilerin

about the election

üçte birinin

was fake or misinformation.

yalan veya sahte olduğunu ortaya koydu.

In addition, these types of social-media misinformation campaigns

Ek olarak, yanlış bilgilendirme amaçlı bu tür sosyal medya kampanyaları

can spread what has been called "genocidal propaganda,"

Burma'da Rohingya'ya karşı yürütülen

for instance against the Rohingya in Burma,

veya Hindistan'da linçlere yol açan "soykırımcı propaganda"ların

triggering mob killings in India.

yayılmasına yol açabilir.

We studied fake news

Biz yalan haberleri araştırdık

and began studying it before it was a popular term.

ve onları araştırmaya bu terim popüler olmadan önce başladık.

And we recently published the largest-ever longitudinal study

Bu yıl Mart ayında, "Science" dergisinin kapağında

internette yayılan sahte haberleri konu alan en geniş kapsamlı

of the spread of fake news online

on the cover of "Science" in March of this year.

panel araştırmasını yayımladık.

We studied all of the verified true and false news stories

2006'daki kuruluşundan 2017'ye kadar Twitter'da yayılan

that ever spread on Twitter,

doğru veya yalan olduğu ispatlanmış

from its inception in 2006 to 2017.

tüm haberleri inceledik.

And when we studied this information,

Bu bilgileri ele alırken

we studied verified news stories

bilgi kontrolü yapan altı bağımsız kuruluşun

that were verified by six independent fact-checking organizations.

doğruladığı haberleri inceledik.

So we knew which stories were true

Yani hangilerinin doğru,

and which stories were false.

hangilerinin sahte olduğunu biliyorduk.

We can measure their diffusion,

Yayılışlarını ölçebiliyoruz,

the speed of their diffusion,

yayılışlarının hızını, derinliğini

the depth and breadth of their diffusion,

ve kapsamını ölçebiliyoruz,

how many people become entangled in this information cascade and so on.

kaç kişinin bu bilgi yağmuruna kapıldığını da.

And what we did in this paper

Bu araştırmada yaptığımız,

was we compared the spread of true news to the spread of false news.

gerçek haberlerin yayılışıyla yalan haberlerin yayılışını kıyaslamaktı.

And here's what we found.

Bulduklarımız şunlar:

We found that false news diffused further, faster, deeper

Yalan haberlerin araştırdığımız her haber kategorisinde

and more broadly than the truth

doğru haberlerden

in every category of information that we studied,

kimi zaman birkaç kat daha uzağa, daha hızlı,

sometimes by an order of magnitude.

daha geniş kapsamlı yayıldığını tespit ettik.

And in fact, false political news was the most viral.

Siyasi yalan haberler en viral olanlardı.

It diffused further, faster, deeper and more broadly

Diğer tür yalan haber türlerinden daha uzağa, daha derine

than any other type of false news.

ve daha geniş kitlelere yayılıyorlardı.

When we saw this,

Bunu gördüğümüzde

we were at once worried but also curious.

hem endişelendik hem meraklandık.

Why?

Neden?

Why does false news travel so much further, faster, deeper

Neden yalan haberler, gerçeklerden daha uzağa, daha hızlı,

and more broadly than the truth?

daha geniş çaplı yayılıyor?

The first hypothesis that we came up with was,

İlk hipotezimiz

"Well, maybe people who spread false news have more followers or follow more people,

"Belki yalan haberleri yayanların takipçisi, takip ettikleri daha çok,

or tweet more often,

daha çok tweet atıyorlar,

or maybe they're more often 'verified' users of Twitter, with more credibility,

geneli "doğrulanmış" Twitter kullanıcıları

or maybe they've been on Twitter longer."

veya daha uzun süredir Twitter'dalar.

So we checked each one of these in turn.

Sırayla bunların hepsine baktık.

And what we found was exactly the opposite.

Tam tersini bulduk.

False-news spreaders had fewer followers,

Yalan haberleri yayanların takipçileri daha azdı,

followed fewer people, were less active,

daha az kişiyi takip ediyorlardı, daha az aktif,

less often "verified"

ender olarak "doğrulanmış"tılar.

and had been on Twitter for a shorter period of time.

Daha kısa süredir Twitter'daydılar.

And yet,

Yine de

false news was 70 percent more likely to be retweeted than the truth,

bunlar ve başka faktörler dâhilinde yalan haberin tekrar tweetlenmesi ihtimali

controlling for all of these and many other factors.

So we had to come up with other explanations.

Öyleyse başka açıklamalar bulmalıydık.

And we devised what we called a "novelty hypothesis."

"Yenilik hipotezi" diye bir şey geliştirdik.

So if you read the literature,

Araştırmalara bakarsanız

it is well known that human attention is drawn to novelty,

insanın dikkatinin yeni şeylere, çevrede yeni olan şeylere

things that are new in the environment.

kaydığı iyi bilinir.

And if you read the sociology literature,

Sosyoloji külliyatına bakarsanız

you know that we like to share novel information.

yeni bilgileri paylaşmayı sevdiğimizi görürsünüz.

It makes us seem like we have access to inside information,

Gizli bir bilgiye erişimimiz varmış gibi hissettirir

and we gain in status by spreading this kind of information.

ve bu tür bilgileri yayarak statü kazanırız.

So what we did was we measured the novelty of an incoming true or false tweet,

Gelen doğru veya yalan bir tweet'in o bireyin önceki 60 günde

compared to the corpus of what that individual had seen

Twitter'da gördüklerine kıyasla ne kadar yeni bir bilgi

in the 60 days prior on Twitter.

olduğunu ölçtük.

But that wasn't enough, because we thought to ourselves,

Ama bu, yeterli değildi. "Yalan haber,

"Well, maybe false news is more novel in an information-theoretic sense,

bilgi teorisi anlamında daha yeni olabilir

but maybe people don't perceive it as more novel."

ama belki insanlar onu yeni olarak algılamıyordur." dedik.

So to understand people's perceptions of false news,

İnsanların yalan haberi nasıl algıladığını anlamak için

we looked at the information and the sentiment

doğru ve yalan haberlere verilen tepkilerdeki

contained in the replies to true and false tweets.

bilgilere ve hislere baktık.

And what we found

Sürpriz, iğrenme, korku,

was that across a bunch of different measures of sentiment --

üzüntü, beklenti, neşe ve güven gibi

surprise, disgust, fear, sadness,

farklı duyguların ölçümlerine baktığımızda

anticipation, joy and trust --

bulduğumuz şey

false news exhibited significantly more surprise and disgust

yalan haberler söz konusu olduğunda bu sahte tweet'lere verilen yanıtların

in the replies to false tweets.

çok daha fazla sürpriz ve iğrenme hissine yol açtığıydı.

And true news exhibited significantly more anticipation,

Doğru haberlerdeyse doğru tweet'lere verilen yanıtlarda

joy and trust

daha çok beklenti,

in reply to true tweets.

neşe ve güven vardı.

The surprise corroborates our novelty hypothesis.

Sürpriz, yenilik hipotezine uyuyor.

This is new and surprising, and so we're more likely to share it.

Bu, yeni ve şaşırtıcı, dolayısıyla onu paylaşma ihtimalimiz daha yüksek.

At the same time, there was congressional testimony

Aynı zamanda ABD Kongre ve Senatosu'nda

in front of both houses of Congress in the United States,

yanlış bilgilerin yayılmasında botların rolüne dair

looking at the role of bots in the spread of misinformation.

ifadeler verildi.

So we looked at this too --

Biz de buna da baktık.

we used multiple sophisticated bot-detection algorithms

Gelişmiş bot tespit algoritmaları kullanarak

to find the bots in our data and to pull them out.

verilerimizdeki botları bulup çıkardık.

So we pulled them out, we put them back in

Onları çıkardık, geri koyduk

and we compared what happens to our measurement.

ve ölçümlerimize ne olduğuna baktık.

And what we found was that, yes indeed,

Şunu bulduk, evet, gerçekten de botlar

bots were accelerating the spread of false news online,

internette yalan haberlerin yayılmasını hızlandırıyordu

but they were accelerating the spread of true news

ama doğruların yayılmasını da

at approximately the same rate.

aynı ölçüde hızlandırıyorlardı.

Which means bots are not responsible

Yani gerçeklerin ve yalanların

for the differential diffusion of truth and falsity online.

yayılışındaki farklılıkların sorumlusu botlar değil.

We can't abdicate that responsibility,

Bu sorumluluğu başkasına atamayız

because we, humans, are responsible for that spread.

çünkü o yayılmanın sorumlusu biz insanlarız.

Now, everything that I have told you so far,

Şimdiye kadar anlattıklarım

unfortunately for all of us,

ne yazık ki

is the good news.

işin iyi yanıydı.

The reason is because it's about to get a whole lot worse.

Bunun sebebi daha da kötüye gidecek olması.

And two specific technologies are going to make it worse.

Bunu kötüleştirecek iki belli başlı teknoloji var.

We are going to see the rise of a tremendous wave of synthetic media.

Sentetik medya dalgasında ciddi bir artış göreceğiz.

Fake video, fake audio that is very convincing to the human eye.

Dışarıdan bakıldığında ikna edici görünen sahte video, sahte seslendirme.

And this will powered by two technologies.

Ve iki teknoloji bunu besleyecek.

The first of these is known as "generative adversarial networks."

İlki "üretken çekişmeli ağlar" olarak biliniyor.

This is a machine-learning model with two networks:

Bu, iki ağlı bir makine öğrenimi modeli:

a discriminator,

Bir şeyin gerçek mi sahte mi

whose job it is to determine whether something is true or false,

olduğunu belirlemekle görevli bir ayrıştırıcı

and a generator,

ve sentetik medya

whose job it is to generate synthetic media.

üretmekle yükümlü üretici.

So the synthetic generator generates synthetic video or audio,

Sentetik üretici, sentetik video veya sesi üretir

and the discriminator tries to tell, "Is this real or is this fake?"

ve ayrıştırıcı şunu belirlemeyi dener: "Bu sahte mi, gerçek mi?"

And in fact, it is the job of the generator

Aslında üreticinin işi

to maximize the likelihood that it will fool the discriminator

yarattığı sentetik video ve sesin ayrıştıcı tarafından

into thinking the synthetic video and audio that it is creating

gerçek sanılması ihtimalini

is actually true.

artırmaktır.

Imagine a machine in a hyperloop,

Bizi kandırmakta ustalaşmaya çalışan,

trying to get better and better at fooling us.

döngüye takılmış bir makine hayal edin.

This, combined with the second technology,

Bu, ikinci teknolojiyle,

which is essentially the democratization of artificial intelligence to the people,

yapay zekânın demokratikleştirilmesiyle, yani makine öğrenimi

the ability for anyone,

veya yapay zekâ konusunda

without any background in artificial intelligence

herhangi bir eğitimi olmayan kişilerin bile

or machine learning,

sentetik medya üretmek için

to deploy these kinds of algorithms to generate synthetic media

bu tür algoritmaları kullanabilmesiyle birleşince

makes it ultimately so much easier to create videos.

videoların yaratılması fazlasıyla kolaylaşıyor.

The White House issued a false, doctored video

Beyaz Saray bir gazetecinin mikrofonunu almaya çalışan stajyerle

of a journalist interacting with an intern who was trying to take his microphone.

etkileşimini gösteren sahte, üstünde oynanmış bir video yayınladı.

They removed frames from this video

Eylemlerini daha dramatik kılmak için

in order to make his actions seem more punchy.

bu videodan bazı kareleri çıkardılar.

And when videographers and stuntmen and women

Bu teknik konusunda

were interviewed about this type of technique,

videograflar ve dublörlerle görüşüldüğünde

they said, "Yes, we use this in the movies all the time

"Evet, yumruklarımız ve tekmelerimiz daha etkileyici ve saldırgan görünsün diye

to make our punches and kicks look more choppy and more aggressive."

filmlerde bunu hep kullanırız." dediler.

They then put out this video

Sonra bu videoyu yayınladılar

and partly used it as justification

ve bahsi geçen gazeteci olan Jim Acosta'nın,

to revoke Jim Acosta, the reporter's, press pass

Beyaz Saray basın kartını

from the White House.

iptal etmekte kullandılar.

And CNN had to sue to have that press pass reinstated.

Basın kartının yeniden çıkarılması için CNN dava açmak zorunda kaldı.

There are about five different paths that I can think of that we can follow

Bugün bu son derece zor sorunları çözmek için

to try and address some of these very difficult problems today.

izleyebileceğimiz beş yol aklıma geliyor.

Each one of them has promise,

Hepsinin potansiyeli var

but each one of them has its own challenges.

ama kendilerine göre zorlukları da var.

The first one is labeling.

İlki etiketleme.

Think about it this way:

Bunu şöyle düşünün:

when you go to the grocery store to buy food to consume,

Yiyecek almak için markete gittiğinizde

it's extensively labeled.

hepsi detaylı şekilde etiketlenmiş.

You know how many calories it has,

Kaç kalorisi olduğunu,

how much fat it contains --

ne kadar yağ içerdiğini biliyorsunuz

and yet when we consume information, we have no labels whatsoever.

ama tükettiğimiz bilgilerin hiçbir etiketi yok.

What is contained in this information?

Bu bilgi neleri kapsıyor?

Is the source credible?

Kaynağı güvenilir mi?

Where is this information gathered from?

Bilgi nereden toplanmış?

We have none of that information

Bilgileri tüketirken

when we are consuming information.

bu bilgiler bize verilmiyor.

That is a potential avenue, but it comes with its challenges.

Bu izlenebilecek bir yol ama kendine özgü sorunları var.

For instance, who gets to decide, in society, what's true and what's false?

Mesela bir toplumda neyin doğru neyin yanlış olduğuna kim karar verir?

Is it the governments?

Hükûmet mi?

Is it Facebook?

Facebook mu?

Is it an independent consortium of fact-checkers?

Bilgileri kontrol eden bağımsız bir kurul mu?

And who's checking the fact-checkers?

Peki onları kim kontrol edecek?

Another potential avenue is incentives.

Bir diğer yol, teşvik.

We know that during the US presidential election

ABD başkanlık seçimi sırasında

there was a wave of misinformation that came from Macedonia

Makedonya'dan bir yanlış bilgi dalgası geldiğini biliyoruz.

that didn't have any political motive

Amaçları siyasi değil,

but instead had an economic motive.

ekonomikti.

And this economic motive existed,

Bu ekonomik amaç, var olabilmesini

because false news travels so much farther, faster

yalan haberin, doğrulardan çok daha hızlı,

and more deeply than the truth,

çok daha derinlere yayılmasına borçlu

and you can earn advertising dollars as you garner eyeballs and attention

ve bu tür bilgilerle insanların ilgisini çekerek

with this type of information.

reklam geliri elde edebilirsiniz.

But if we can depress the spread of this information,

Ama bu bilginin yayılmasını baskılarsak

perhaps it would reduce the economic incentive

belki de daha baştan yaratılmasına sebep olan

to produce it at all in the first place.

ekonomik teşvikleri de azaltırız.

Third, we can think about regulation,

Üçüncüsü, denetim.

and certainly, we should think about this option.

Bu seçeneği düşünmemiz gerektiği kesin.

In the United States, currently,

Şu anda ABD'de

we are exploring what might happen if Facebook and others are regulated.

Facebook ve benzerleri denetim altına alınsa ne olacağını araştırıyoruz.

While we should consider things like regulating political speech,

Siyasi söylemleri denetlemeyi, onları siyasi söylem olarak etiketlemeyi,

labeling the fact that it's political speech,

dış mihrakların siyasi söylemleri finanse etmesini

making sure foreign actors can't fund political speech,

engellemeyi göz önünde bulundurmamız gerekse de

it also has its own dangers.

bunların da kendince tehlikeleri var.

For instance, Malaysia just instituted a six-year prison sentence

Mesela Malezya yalan bilgi yaydığı tespit edilenlere

for anyone found spreading misinformation.

altı yıl hapis cezası getirdi.

And in authoritarian regimes,

Otoriter rejimlerde

these kinds of policies can be used to suppress minority opinions

bu tür düzenlemeler azınlık görüşlerini bastırmak

and to continue to extend repression.

ve baskının kapsamını genişletmek amacıyla kullanılabilir.

The fourth possible option is transparency.

Dördüncü olasılık, şeffaflık.

We want to know how do Facebook's algorithms work.

Facebook'un algoritmalarının nasıl çalıştığını bilmek istiyoruz.

How does the data combine with the algorithms

Algoritmalarla birleşen veriler

to produce the outcomes that we see?

nasıl oluyor da gördüğümüz sonuçları doğuruyor?

We want them to open the kimono

Kapıyı açmalarını

and show us exactly the inner workings of how Facebook is working.

ve Facebook'un nasıl işlediğini göstermelerini istiyoruz.

And if we want to know social media's effect on society,

Sosyal medyanın toplumdaki etkilerini öğrenmek istiyorsak

we need scientists, researchers

bilim insanları, araştırmacılar

and others to have access to this kind of information.

ve benzerlerinin bu tür bilgilere erişmesine ihtiyacımız var.

But at the same time,

Ama aynı zamanda

we are asking Facebook to lock everything down,

Facebook'tan her şeyi kilitlemesini,

to keep all of the data secure.

tüm verileri güvende tutmasını istiyoruz.

So, Facebook and the other social media platforms

Bu yüzden Facebook ve diğer sosyal medya platformları

are facing what I call a transparency paradox.

şeffaflık paradoksu dediğim şeyle karşı karşıya.

We are asking them, at the same time,

Onlardan hem açık ve şeffaf olmalarını

to be open and transparent and, simultaneously secure.

hem de güvenli olmalarını istiyoruz.

This is a very difficult needle to thread,

Bu, zor bir görev

but they will need to thread this needle

ama sosyal teknolojilerin potansiyelini değerlendirip

if we are to achieve the promise of social technologies

tehlikelerinden kaçınacaksak

while avoiding their peril.

bu görevi başarmalılar.

The final thing that we could think about is algorithms and machine learning.

Düşünmemiz gereken son konu, algoritmalar ve makine öğrenimi.

Technology devised to root out and understand fake news, how it spreads,

Yalan haberlerin köküne inip onları, nasıl yayıldıklarını anlamamızı,

and to try and dampen its flow.

akışı yavaşlatmamızı sağlayacak teknolojiler.

Humans have to be in the loop of this technology,

İnsanlar bu teknolojiden haberdar olmalı

because we can never escape

çünkü her teknolojik çözümün

that underlying any technological solution or approach

veya yaklaşımın temelinde, doğruyu ve yalanı nasıl tanımlıyoruz,

is a fundamental ethical and philosophical question

doğrunun ve yalanın ne olduğunu

about how do we define truth and falsity,

tanımlama gücünü kime veriyoruz,

to whom do we give the power to define truth and falsity

hangi görüş doğru, hangi söylemlere izin verilmeli gibi

and which opinions are legitimate,

ahlaki ve felsefi soruların

which type of speech should be allowed and so on.

yattığı gerçeğinden asla kaçamayız.

Technology is not a solution for that.

Bunun çözümü teknoloji değil.

Ethics and philosophy is a solution for that.

Bunun çözümü ahlak ve felsefe.

Nearly every theory of human decision making,

İnsanların karar vermesi, iş birliği

human cooperation and human coordination

ve koordinasyonu hakkındaki tüm teorilerin özünde

has some sense of the truth at its core.

bir tür gerçek anlayışı yatar.

But with the rise of fake news,

Ama yalan haberlerin,

the rise of fake video,

sahte videoların,

the rise of fake audio,

sahte seslendirmelerin artışıyla

we are teetering on the brink of the end of reality,

gerçeğin kıyısındaki bir noktaya geldik,

where we cannot tell what is real from what is fake.

neyin gerçek neyin yalan olduğunu ayırt edemiyoruz

And that's potentially incredibly dangerous.

ve bu, çok tehlikeli olabilir.

We have to be vigilant in defending the truth

Yanlış bilgilendirmeye karşı gerçekleri savunmak adına

against misinformation.

tetikte olmalıyız.

With our technologies, with our policies

Teknolojilerimiz, politikalarımız

and, perhaps most importantly,

ve belki de en önemlisi

with our own individual responsibilities,

bireysel sorumluluklarımızla,

decisions, behaviors and actions.

kararlarımız, davranışlarımız ve eylemlerimizle.

Thank you very much.

Çok teşekkürler.

(Applause)

(Alkışlar)