How deepfakes undermine truth and threaten democracy | Danielle Citron

Çeviri: Yasin Basaran Gözden geçirme: Ezgisu Karakaya

[This talk contains mature content]

[Bu konuşma yetişkinlere yönelik içerikler barındırır.]

Rana Ayyub is a journalist in India

Rana Ayyub, çalışmaları hükûmet yozlaşması

whose work has exposed government corruption

ve insan hakları ihlallerini açığa çıkarmış

and human rights violations.

Hint bir gazeteci.

And over the years,

Yıllar içerisinde

she's gotten used to vitriol and controversy around her work.

çalışmalarıyla ilgili eleştiri ve tartışmalara alışmıştı.

But none of it could have prepared her for what she faced in April 2018.

Ama hiçbir şey onu, Nisan 2018'de karşılaştığı şeye hazırlayamazdı.

She was sitting in a café with a friend when she first saw it:

İlk gördüğünde arkadaşıyla bir kafede oturuyordu:

a two-minute, 20-second video of her engaged in a sex act.

Kendisinin, iki dakika yirmi saniye uzunluğundaki seks videosu.

And she couldn't believe her eyes.

Gözlerine inanamadı.

She had never made a sex video.

Hiçbir zaman seks videosu çekmemişti.

But unfortunately, thousands upon thousands of people

Fakat maalesef binlerce insan

would believe it was her.

videodakinin o olduğuna inanacaktı.

I interviewed Ms. Ayyub about three months ago,

Cinsel gizlilikle ilgili kitabım bağlamında

in connection with my book on sexual privacy.

Bayan Ayyub ile üç ay önce görüştüm.

I'm a law professor, lawyer and civil rights advocate.

Bir hukuk profesörü, avukat ve sivil haklar savunucusuyum.

So it's incredibly frustrating knowing that right now,

Şu anda, hukukun ona çok az yardımının dokunabileceğini bilmek

law could do very little to help her.

o kadar sinir bozucu ki.

And as we talked,

Konuştukça

she explained that she should have seen the fake sex video coming.

sahte seks videosunun muhtemel olduğunu önceden görmesi gerektiğini söyledi.

She said, "After all, sex is so often used to demean and to shame women,

Dedi ki: "Ne de olsa seks, kadınları, özellikle azınlık kadınlarını,

especially minority women,

bilhassa güçlü erkeklere meydan okumayı göze alan azınlık kadınlarını

and especially minority women who dare to challenge powerful men,"

küçük düşürmek ve utandırmak için çok sık kullanılıyor."

as she had in her work.

Çalışmalarında yaptığı da buydu.

The fake sex video went viral in 48 hours.

Sahte seks videosu 48 saatte viral oldu.

All of her online accounts were flooded with screenshots of the video,

Tüm çevrim içi hesapları videodan ekran görüntüleriyle doldu.

with graphic rape and death threats

Sahip olduğu İslam inancıyla ilgili iftiralara,

and with slurs about her Muslim faith.

açık tecavüz ve ölüm tehditlerine maruz kaldı.

Online posts suggested that she was "available" for sex.

Çevrim içi gönderiler, onun seks için "müsait" olduğunu söylüyordu.

And she was doxed,

İfşa edildi,

which means that her home address and her cell phone number

yani ev adresi ve cep telefonu numarası

were spread across the internet.

internette yayıldı.

The video was shared more than 40,000 times.

Video 40 bin defadan fazla paylaşıldı.

Now, when someone is targeted with this kind of cybermob attack,

Artık, birisi bu tür bir siber-çete saldırısıyla hedef alındığında

the harm is profound.

verilen zarar çok derin.

Rana Ayyub's life was turned upside down.

Rana Ayyub'un hayatı altüst oldu.

For weeks, she could hardly eat or speak.

Haftalarca ne yemek yiyebildi, ne konuşabildi.

She stopped writing and closed all of her social media accounts,

Yazmayı bıraktı ve tüm sosyal medya hesaplarını kapattı.

which is, you know, a tough thing to do when you're a journalist.

Bir gazeteci için yapması çok zor bir şey.

And she was afraid to go outside her family's home.

Ailesinin evinden çıkmaya korkuyordu.

What if the posters made good on their threats?

Ya internettekiler tehditlerinde ciddiyse?

The UN Council on Human Rights confirmed that she wasn't being crazy.

BM İnsan Hakları Konseyi, Ayyub'un deli olmadığını doğruladı.

It issued a public statement saying that they were worried about her safety.

Güvenliğinden endişe duyduklarını söyleyen bir basın açıklaması yayımladılar.

What Rana Ayyub faced was a deepfake:

Rana Ayyub'un yüzleştiği şey bir deepfake videosuydu:

machine-learning technology

İnsanları, hiç yapmadıkları

that manipulates or fabricates audio and video recordings

veya söylemedikleri şeyleri yapıp söylerken göstermek için

to show people doing and saying things

ses ve video kayıtlarını manipüle eden

that they never did or said.

veya üreten makine öğrenmesi teknolojisi.

Deepfakes appear authentic and realistic, but they're not;

Deepfake videoları orijinal ve gerçekçi görünüyor ama değil;

they're total falsehoods.

tamamen yalan.

Although the technology is still developing in its sophistication,

Bu teknoloji kapsamlılığı anlamında halen gelişmekte olsa da

it is widely available.

geniş çapta ulaşılabilir durumda.

Now, the most recent attention to deepfakes arose,

Şimdiyse, deepfake videolarına yönelen en son ilginin sebebi

as so many things do online,

internetteki bir çok şeyde de olduğu gibi

with pornography.

pornografi oldu.

In early 2018,

2018'in başlarında birisi,

someone posted a tool on Reddit

kullanıcıların pornolara yüz eklemesine

to allow users to insert faces into porn videos.

imkan veren bir aracı Reddit'te paylaştı.

And what followed was a cascade of fake porn videos

Bunu, insanların en sevdiği kadın ünlüleri içeren

featuring people's favorite female celebrities.

sahte bir porno yağmuru takip etti.

And today, you can go on YouTube and pull up countless tutorials

Bugün, YouTube'a girip masaüstü uygulamanızda

with step-by-step instructions

nasıl deepfake videosu yapılacağına dair

on how to make a deepfake on your desktop application.

adım adım talimatlarla sayısız öğretici video izleyebilirsiniz.

And soon we may be even able to make them on our cell phones.

Yakında bu videoları cep telefonlarımızdan bile yapabiliriz.

Now, it's the interaction of some of our most basic human frailties

Deepfake videolarını silaha çeviren şey

and network tools

bazı en temel insani zaaflarımız

that can turn deepfakes into weapons.

ve ağ araçları arasındaki etkileşim.

So let me explain.

Açıklayayım.

As human beings, we have a visceral reaction to audio and video.

İnsanlar olarak ses ve videoya içsel bir tepki gösteririz.

We believe they're true,

Tabii ki gözlerimizin

on the notion that of course you can believe

ve kulaklarımızın söylediğine inanabileceğimiz zannıyla

what your eyes and ears are telling you.

bunların gerçek olduğuna inanırız.

And it's that mechanism

Bizim ortak gerçeklik duygumuzun

that might undermine our shared sense of reality.

altını kazan da bu mekanizmadır.

Although we believe deepfakes to be true, they're not.

Deepfake videolarının gerçek olduğuna inansak da öyle değiller.

And we're attracted to the salacious, the provocative.

Müstehcen, provokatif olan da bizi kendine çeker.

We tend to believe and to share information

Olumsuz ve yeni bilgilere inanıp

that's negative and novel.

bunları paylaşma eğilimi gösteririz.

And researchers have found that online hoaxes spread 10 times faster

Araştırmacılar, internet uydurmalarının gerçek hikayelere göre

than accurate stories.

10 kat daha hızlı yayıldığını saptadılar.

Now, we're also drawn to information

Bakış açımıza paralel bilgiler de

that aligns with our viewpoints.

bizi kendine çeker.

Psychologists call that tendency "confirmation bias."

Psikologlar bu eğilime "doğrulama yanlılığı" adını veriyor.

And social media platforms supercharge that tendency,

Sosyal medya platformları da bakış açımıza uyan bilgileri

by allowing us to instantly and widely share information

geniş alanda ve hemen paylaşmamızı sağlayarak

that accords with our viewpoints.

bu eğilime güç veriyor.

Now, deepfakes have the potential to cause grave individual and societal harm.

Deepfake videolarının bireylere ve topluma ciddi hasar verme potansiyeli var.

So, imagine a deepfake

Amerikan askerlerinin Afganistan'da

that shows American soldiers in Afganistan burning a Koran.

Kuran yaktığını gösteren bir deepfake videosu hayal edin.

You can imagine that that deepfake would provoke violence

Bu videonun o askerlere karşı şiddeti kışkırtacağını da

against those soldiers.

hayal edebilirsiniz.

And what if the very next day

Peki sonraki gün, Londra'dan ünlü bir imamın,

there's another deepfake that drops,

askerlere yapılan bu saldırıyı övdüğünü gösteren

that shows a well-known imam based in London

başka bir deepfake videosu da

praising the attack on those soldiers?

internete düşerse?

We might see violence and civil unrest,

Yalnızca Afganistan ve İngiltere'de değil,

not only in Afganistan and the United Kingdom,

tüm dünyada şiddet ve kargaşaya

but across the globe.

şahit olabiliriz.

And you might say to me,

Şunu diyebilirsiniz,

"Come on, Danielle, that's far-fetched."

"Hadi be Danielle, o kadar uzun boylu değil."

But it's not.

Ama öyle.

We've seen falsehoods spread

WhatsApp'tan ve diğer çevrim içi mesaj hizmetlerinden

on WhatsApp and other online message services

yayılan yalanların

lead to violence against ethnic minorities.

etnik azınlıklara karşı şiddete yol açtığına şahit olduk.

And that was just text --

Bunlar sadece metindi --

imagine if it were video.

bir de video olduğunu düşünün.

Now, deepfakes have the potential to corrode the trust that we have

Deepfake videoları demokratik kurumlara duyduğumuz güveni

in democratic institutions.

çürütme potansiyeline sahip.

So, imagine the night before an election.

Seçimden bir önceki geceyi düşünün.

There's a deepfake showing one of the major party candidates

Önemli parti adaylarından birini ciddi hasta olarak gösteren

gravely sick.

deepfake videosu olsa

The deepfake could tip the election

bu video seçimin sonucu tüyosunu verip

and shake our sense that elections are legitimate.

seçimlerin meşru olduğu inancımızı sarsabilir.

Imagine if the night before an initial public offering

Büyük bir küresel bankanın ilk halka arzından önceki gece

of a major global bank,

bankanın CEO'sunun

there was a deepfake showing the bank's CEO

sarhoş halde komplo teorileri anlattığını gösteren

drunkenly spouting conspiracy theories.

bir deepfake videosu olduğunu hayal edin.

The deepfake could tank the IPO,

Bu video halka arzı dibe vurdurabilir.

and worse, shake our sense that financial markets are stable.

Daha da kötüsü, finansal pazarların stabil olduğu inancımızı sarsabilir.

So deepfakes can exploit and magnify the deep distrust that we already have

Deepfake videoları; politikacı, iş liderleri ve diğer etkili liderlere

in politicians, business leaders and other influential leaders.

duyduğumuz derin güvensizliği suistimal edip büyütebilir.

They find an audience primed to believe them.

Bu videolar, kendilerine inanmaya hazır bir izleyici kitlesi buluyor.

And the pursuit of truth is on the line as well.

Gerçeğin takip edilmesi de tehlikeye giriyor.

Technologists expect that with advances in AI,

Teknologlar, yapay zekadaki gelişmelerle

soon it may be difficult if not impossible

yakın zamanda gerçek bir video ile sahtesini birbirinden ayırmanın

to tell the difference between a real video and a fake one.

imkansız değilse de zor hale gelmesini bekliyorlar.

So how can the truth emerge in a deepfake-ridden marketplace of ideas?

Deepfake videolarının yönettiği düşünce pazarında gerçek nasıl bulunur?

Will we just proceed along the path of least resistance

Gerçeğe lanet olsun deyip

sadece en kolay yoldan devam edecek

and believe what we want to believe,

ve inanmak istediğimiz şeylere mi inanacağız?

truth be damned?

And not only might we believe the fakery,

Olay sadece sahteliğe inanmak değil,

we might start disbelieving the truth.

gerçeğe inanmamaya da başlayabiliriz.

We've already seen people invoke the phenomenon of deepfakes

Kendi yanlışlarının gerçek kanıtlarına gölge düşürmek için

to cast doubt on real evidence of their wrongdoing.

deepfake videoları olgusuna başvuran insanları zaten gördük.

We've heard politicians say of audio of their disturbing comments,

Rahatsız edici yorumlarının ses kayıtları hakkında şunu diyen politikacıları duyduk,

"Come on, that's fake news.

"Hadi be, yalan haber bunlar.

You can't believe what your eyes and ears are telling you."

Gözleriniz ve kulaklarınızın anlattığına inanamazsınız."

And it's that risk

Profesör Robert Chesney ve benim

that professor Robert Chesney and I call the "liar's dividend":

"yalancının hissesi" dediğimiz de işte bu risk:

the risk that liars will invoke deepfakes

kendi yanlışlarının sorumluluğundan kaçmak için

to escape accountability for their wrongdoing.

deepfake videolarına başvuracak yalancıların oluşturduğu risk.

So we've got our work cut out for us, there's no doubt about it.

Şüphesiz, işimiz zor.

And we're going to need a proactive solution

Teknoloji şirketleri, kanun koyucular,

from tech companies, from lawmakers,

kanun uygulayıcılar ve medyadan gelecek

law enforcers and the media.

proaktif bir çözüme ihtiyacımız olacak.

And we're going to need a healthy dose of societal resilience.

Dozunda toplumsal esnekliğe ihtiyacımız olacak.

So now, we're right now engaged in a very public conversation

Şu anda, teknoloji şirketinin sorumluluğuyla ilgili

about the responsibility of tech companies.

kamusal bir diyaloğa dahiliz.

And my advice to social media platforms

Benim sosyal medya platformlarına tavsiyem

has been to change their terms of service and community guidelines

hizmet şartları ve topluluk kurallarını,

zarara sebep olan deepfake videolarını yasaklayacak şekilde değiştirmeleridir.

to ban deepfakes that cause harm.

That determination, that's going to require human judgment,

Bu kararlılık insani yargı gerektirecektir

and it's expensive.

ve pahalıdır.

But we need human beings

Ama bir deepfake videosunun içerik ve bağlamına bakıp,

to look at the content and context of a deepfake

zararlı bir canlandırma mı,

to figure out if it is a harmful impersonation

yoksa değerli hiciv, sanat veya eğitim mi olduğuna

or instead, if it's valuable satire, art or education.

karar verecek insanlara ihtiyacımız var.

So now, what about the law?

Peki ya hukuk?

Law is our educator.

Hukuk bizim öğretmenimiz.

It teaches us about what's harmful and what's wrong.

Hukuk bize neyin zararlı ve neyin yanlış olduğunu öğretir.

And it shapes behavior it deters by punishing perpetrators

Failleri cezalandırıp kurbanlar için çözüm sağlayarak

and securing remedies for victims.

caydırdığı davranışı şekillendirir.

Right now, law is not up to the challenge of deepfakes.

Şu anda hukuk, deepfake videoları görevine hazır değil.

Across the globe,

Dünya çapında,

we lack well-tailored laws

cinsel gizliliği ihlal eden,

that would be designed to tackle digital impersonations

itibar zedeleyen

ve manevi zarara sebep olan

that invade sexual privacy,

dijital kişisel canlandırmaları ele almak için tasarlanmış

that damage reputations

duruma tam uygun kanunların eksikliği içerisindeyiz.

and that cause emotional distress.

What happened to Rana Ayyub is increasingly commonplace.

Rana Ayyub'a olanlar gitgide yaygınlaşıyor.

Yet, when she went to law enforcement in Delhi,

Ayyub, Delhi'de kanunlara başvurduğunda

she was told nothing could be done.

ona yapacak hiçbir şeyin olmadığı söylendi.

And the sad truth is that the same would be true

Acı gerçekse ABD ve Avrupa'da da

in the United States and in Europe.

durumun aynı olması.

So we have a legal vacuum that needs to be filled.

Doldurulması gereken yasal bir boşluğumuz var.

My colleague Dr. Mary Anne Franks and I are working with US lawmakers

Meslektaşım Dr. Mary Anne Franks ve ben,

to devise legislation that would ban harmful digital impersonations

kimlik hırsızlığına eşdeğer olan zararlı dijital kişisel canlandırmaları

that are tantamount to identity theft.

yasaklayacak bir mevzuat tasarlamaya çalışıyoruz.

And we've seen similar moves

Benzer girişimleri İzlanda, İngiltere

in Iceland, the UK and Australia.

ve Avustralya'da gördük.

But of course, that's just a small piece of the regulatory puzzle.

Bu mevzuat, yapbozunun küçük bir parçası.

Now, I know law is not a cure-all. Right?

Hukukun her şeye çözüm olmadığını biliyorum. Öyle değil mi?

It's a blunt instrument.

Hukuk kabaca bir araç

And we've got to use it wisely.

ve bunu akıllıca kullanmalıyız.

It also has some practical impediments.

Hukuk, bazı pratik engellere de sahip.

You can't leverage law against people you can't identify and find.

Tespit edip bulamadığınız insanlara karşı hukuku kullanamazsınız.

And if a perpetrator lives outside the country

Bir fail, kurbanın yaşadığı ülkeden

where a victim lives,

başka bir ülkede yaşıyorsa

then you may not be able to insist

failin, adaletle yüzleşmek üzere

that the perpetrator come into local courts

yerel mahkemelere gelmesini

to face justice.

sağlayamamanız olası.

And so we're going to need a coordinated international response.

Koordineli uluslararası bir tepkiye ihtiyacımız olacak.

Education has to be part of our response as well.

Eğitim de bu tepkinin bir parçası olmalı.

Law enforcers are not going to enforce laws

Kanun uygulayıcılar,

bilgi sahibi olmadıkları kanunları uygulamayacak

they don't know about

and proffer problems they don't understand.

ve anlamadıkları sorunları çözmeyecekler.

In my research on cyberstalking,

Siber takiple taciz hakkındaki araştırmamda

I found that law enforcement lacked the training

kanun uygulayıcılarının,

ulaşabildikleri kanunların ve internet tacizi sorununu anlamak için

to understand the laws available to them

and the problem of online abuse.

eğitimlerinin eksik olduğunu keşfettim.

And so often they told victims,

Bu yüzden kurbanlara sık sık şunu dediler:

"Just turn your computer off. Ignore it. It'll go away."

"Bilgisayarı kapat. Görmezden gel. Geçer gider."

And we saw that in Rana Ayyub's case.

Bunu Rana Ayyub vakasında da gördük.

She was told, "Come on, you're making such a big deal about this.

Ona söylenen şuydu:

"Hadi ama, olayı ne büyüttün. Erkekler erkeklik yapıyor işte."

It's boys being boys."

And so we need to pair new legislation with efforts at training.

Bu yüzden yeni mevzuatı eğitim çabalarıyla eşleştirmeliyiz.

And education has to be aimed on the media as well.

Eğitim medyaya da yönelik olmak zorunda.

Journalists need educating about the phenomenon of deepfakes

Gazeteciler, deepfake videolarını büyütüp yaymamak konusunda

so they don't amplify and spread them.

eğitim almalı.

And this is the part where we're all involved.

İşte bu kısma hepimiz dahiliz.

Each and every one of us needs educating.

Her birimizin eğitime ihtiyacı var.

We click, we share, we like, and we don't even think about it.

Tıklıyor, paylaşıyor, beğeniyoruz, hakkında düşünmüyoruz bile.

We need to do better.

Bundan daha iyisini yapmalıyız.

We need far better radar for fakery.

Sahteliğe karşı çok daha iyi bir radarımız olmalı.

So as we're working through these solutions,

Bu çözümler için çalışırken,

there's going to be a lot of suffering to go around.

çekilecek çok çile olacak.

Rana Ayyub is still wrestling with the fallout.

Rana Ayyub bunun etkileriyle hâlâ mücadele ediyor.

She still doesn't feel free to express herself on- and offline.

Kendisini internette ve dışarıda ifade etmekte hâlâ özgür hissetmiyor.

And as she told me,

Bana söylediğine göre,

she still feels like there are thousands of eyes on her naked body,

akıl yoluyla, videodakinin kendi bedeni olmadığını bilse de

even though, intellectually, she knows it wasn't her body.

çıplak bedeni üzerinde binlerce gözün gezindiğini hâlâ hissediyor.

And she has frequent panic attacks,

Özellikle tanımadığı birisi fotoğrafını çekmeye çalıştığında,

especially when someone she doesn't know tries to take her picture.

sık sık panik atak geçiriyor.

"What if they're going to make another deepfake?" she thinks to herself.

Kendi kendine "Ya başka bir deepfake videosu yaparlarsa," diye düşünüyor.

And so for the sake of individuals like Rana Ayyub

Rana Ayyub gibi bireylerin uğruna,

and the sake of our democracy,

demokrasimizin uğruna,

we need to do something right now.

tam şu anda bir şeyler yapmamız gerekiyor.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)