How a Deepfake Almost Ruined My Political Career | Cara Hunter | TED

Çeviri: Suat Utku Merter Gözden geçirme: Eren Gokce

This talk contains mature language

[Yetişkinlere yönelik dil içerir]

“You’re a little whore,

“Sen aşağılık bir orospusun

and we've all seen your little video."

ve hepimiz o aşağılık videonu gördük.”

That was the text message that was sent to me in April of 2022.

Bu, bana Nisan 2022′de gönderilen mesajdı.

I'm sitting in my grandmother's living room

Büyükannemin salonunda, onun 90. yaş gününde,

in what is her 90th birthday,

surrounded by family and friends

aile ve arkadaşlarla beraber oturuyordum.

as my phone blows up with messages from strangers

Bu sırada ülke genelinden yabancılar,

benim bir adamla aşırı derece müstehcen

right across the country

who say they have seen a video of me

pornografik aktivitede bulunduğum bir video gördüklerine dair mesajlarla

engaging in hardcore pornographic activity with a man.

telefonumu bombardımana tutuyorlardı.

I knew this was impossible.

Bunun imkânsız olduğunu biliyordum.

With just three weeks out from my election,

Seçime sadece üç hafta kala,

I felt as though my career was crumbling before my very eyes.

kariyerimin gözlerimin önünde parçalandığını hissettim.

My heart pounded,

Kalbim sıkıştı,

my mind raced, sweat beaded on my skin.

zihnimde düşünceler koşuşturuyordu, boncuk boncuk terliyordum.

And then I watched the video, and my worst fear was realized.

Videoyu izlediğimde en korktuğum şey gerçekleşmişti.

Although this woman in the video was not me,

Videodaki kadın ben olmasam da

she looked exactly like me.

tıpkı benim gibi görünüyordu.

Impossibly like me.

İmkânsız şekilde ben.

Eerily like me.

Ürkütücü şekilde ben.

I had so many questions running through my mind.

Aklımdan geçen bir sürü soru vardı.

Was this AI?

Bu yapay zekâ mıydı?

Was it not?

Değil miydi?

Who made this?

Bunu kim yaptı?

How did they make it?

Nasıl yaptı?

Why did they make it?

Neden yaptı?

So I did what anyone would do,

Başkalarının da yapacağı şeyi yaptım

and I approached my local police service to ask for advice, for guidance.

ve yerel polise öneri ve rehberlikleri için ulaştım.

And really, where did I go from there?

Doğrusu, şimdi ne yapacağım diye sormak için.

But they informed me that they wouldn't have the cybercrime technology to assist,

Ancak bana videonun nereden geldiğini bulmak için gereken

to find out where this video came from.

siber suç teknolojisine sahip olmadıklarını söylediler.

And it was from that moment I knew that I was on my own.

Bu andan itibaren tek başıma olduğumu anladım.

Now to set the stage, as you can probably tell,

Şimdi ortamı anlatmak gerekirse

I’m from Ireland,

tahmin edebileceğiniz üzere İrlandalıyım,

and to be exact, I'm from Northern Ireland,

daha kesin olmak gerekirse Kuzey İrlanda,

which is an even smaller place.

ki burası daha da küçük bir yer.

We have just 1.8 million people,

Sadece 1,8 milyon nüfusumuz var,

very similar to the size of Vienna.

Viyana’nın nüfusuna yakın.

So you can imagine a rumor of this sinister nature,

Tahmin edebileceğiniz üzere böylesine kötü bir dedikodu

particularly in the world of politics, can go very far, very fast.

özellikle politika çevrelerinde tez yayılır.

And that old saying, “seeing is believing” began to haunt me.

Eskilerden “gördüğün şeye inan” sözü peşimi bırakmamaya başladı.

And in the weeks leading up to my election,

Seçime giden haftalarda

this video, this false video,

bu video, bu sahte video,

was shared thousands and thousands of times across WhatsApp.

WhatsApp üzerinden binlerce kez paylaşıldı.

And attached to this video was photos of me at work,

Videonun ilişiğinde de

benim işteyken güldüğüm, kampanya yürüttüğüm,

smiling, campaigning,

building a sense of trust with my constituents.

seçmenlerimle aramda güven inşa ettiğim fotoğraflarım vardı.

And as the weeks went on,

Haftalar geçtikçe

messages flooded in faster and faster,

mesajlar daha hızlı gelmeye başladı

and they were of a very vile and sexual nature.

ve son derece çirkin ve cinsel içerikliydiler.

Ding!

Ding!

"We've all seen your little video."

“Hepimiz o aşağılık videonu gördük.”

Ding!

Ding!

"You should be ashamed of yourself."

“Kendinden utanmalısın.”

Ding!

Ding!

"Ah, now I see how you got your position in politics."

“Ah, politikaya nasıl girdiğini şimdi anlıyorum.”

It was very difficult.

Çok zorlayıcıydı.

And having been in politics since the age of 23,

23 yaşımdan beri, yani dört-beş yıldır, politikanın içindeyim

and at this point I've been in it for about four to five years,

and I'm from Northern Ireland, which is a post-conflict society,

ve Kuzey İrlanda’danım, burası çatışma sonrası bir toplum.

still very deeply divided.

Hâlâ derinden bölünmüş.

So I anticipated challenges,

Zorluklar bekliyordum,

I anticipated disagreements,

anlaşmazlıklar bekliyordum.

I even anticipated attacks, is politics after all.

Saldırı bile bekliyordum, sonuçta bu politika.

But what I did not anticipate was this moment.

Ancak beklemediğim şey işte bu andı.

This was different.

Bu çok farklıydı.

This was the moment where misogyny meets the misuse of technology,

Bu kadın düşmanlığının teknolojini yanlış kullanımıyla birleştiği

and even had the potential to impact the outcome of a democratic election.

bir andı, hatta demokratik bir seçimin sonucu etkileme potansiyeli bile vardı.

And the sad thing for me was this lie became so far spread,

Benim için üzücü olan bu yalanın yayılmış olmasıydı,

so far, so fast,

çok uzağa, çok kısa sürede.

that even my own family started to believe it.

Öyle ki kendi ailem bile inanmaya başladı.

Some would say that they'd heard it at a golf club,

Bazıları golf kulübünde, bazıları barda

others would say they heard it at the bar,

and of course, some even said they heard it in a locker room.

hatta bazıları, tabii ki, soyunma odasında duyduğunu söylüyordu.

A really good example of how far this went

Bunun ne kadar ileri gittiğinin çok iyi bir örneği

was people that I knew my entire life

tüm hayatım boyunca tanıdığım kişilerin

would pass me in the street without whispering a word.

sokakta bana bir kelime etmeden yanımdan geçmesi.

People like school teachers,

Öğretmenler gibi kişiler,

people I had a sense of trust with

bir nevi güven ve yakınlık duygusuna sahip olduğum kişiler.

and, you know, an affinity with.

And that was really hard.

Bu çok zordu.

It felt like overnight I was wearing a scarlet letter.

Bir gecede utanç sembolü olmuş gibiydim.

And as things moved on

Günler geçti,

and were about two, three weeks out from the election,

artık seçime iki-üç hafta kaldı ve

I kept receiving messages, and it got wider and wider.

mesajlar almaya devam ettim ve daha da yayıldı.

It was global.

Dünya çapındaydı.

Not only was I receiving messages from Dublin and from London,

Sadece Dublin ve Londra’dan değil

but I was also receiving messages from Massachusetts, Manhattan,

aynı zamanda Massachusetts’den, Manhattan’dan da mesajlar alıyordum

and I was getting so many follows on my political social media,

bu sırada politik sosyal medya hesabıma çok fazla takip geliyordu,

predominantly from men hungry for more of this scandal.

özellikle erkeklerden, bu skandaldan fazlasını isteyen.

And this intersection of online harms impacting my real life

Çevrim içi tehditlerin çevrim dışı hayatımı etkilediği bu kesişim

was something I found utterly strange and surreal.

son derece garip ve gerçeküstü bulduğum bir şeydi.

But it got to the point where I was recognized on the street

Öyle bir noktaya gelmişti ki sokakta bir yabancı beni tanıyıp

and approached by a stranger who asked me for a sexual favor.

benden cinsel talepte bulunmuştu.

And it was just, for me, it was like in the blink of an eye,

Göz açıp kapayıncaya kadar

everything had just changed,

her şey değişmişti

and it was utterly humiliating.

ve bu tamamen utanç vericiydi.

I didn't want to leave the house,

Evden çıkmak istemedim

and I had turned notifications off in my phone

ve sırf biraz soluklanabilmek için

telefonumdaki bildirimleri kapatmam gerekti.

just so I could kind of catch my breath,

but this wasn't ideal in the lead up, of course, to an election.

Ancak bu; seçim öncesinde yapılabilecek, şüphesiz, en iyi şey değildi.

And for me, I think that was the purpose of this false video, was to do just that.

Bence bu sahte videonun amacı tam da bunu yapmaktı.

But what hurt the most for me

Beni en çok acıtan şey

was sitting down my father

bu garip, gerçeküstü durumu

and having to explain to him this strange, surreal situation.

oturup babama anlatmam gerekmesiydi.

My father is an Irishman,

Babam bir İrlandalı,

completely disconnected from tech,

teknolojiden tamamen kopuk,

and so having to explain

bu yüzden bu korkunç uydurmayı

this horrific situation was an entire fabrication

ona anlatmak çok zordu.

was very hard to do.

This was this strange moment

Bu çevrim içi dünyanın

where the online world met my life, my reality.

hayatımla, gerçeğimle kesiştiği garip bir andı.

Not only having the impact to ruin my reputation,

Sadece saygınlığımı mahvedebilecek bir etkiye sahip değildi

but have the capacity to change the outcome

aynı zamanda demokratik bir seçimin

of a democratic election.

sonucunu değiştirme gücü vardı.

And, you know,

Bilirsiniz

for years I spent so much time building trust with my constituents.

yıllarca seçmenlerimle güven inşa etmek için çok zaman harcadım.

I mean, we all know how much people like politicians.

İnsanların politikacıları ne kadar sevdiğini bilirsiniz.

You know, we’re as likeable as the tax man.

Bilirsiniz, bir vergi memuru kadar seviliriz.

So for me, it was hard.

Bu nedenle, benim için zordu.

It was really hard

Çok zordu

because it was years of hard work.

çünkü bu yılların çabasıydı.

You know, I’m so passionate about my job,

Anlarsınız, işim konusunda çok tutkuluyum

and this video, this complete falsehood,

ve bu video, tüm bu uydurma,

had the ability to just undermine years of hard work in mere seconds.

yılların çabasına saniyeler içinde zarar verme yetisine sahipti.

But instead of succumbing entirely to victimhood,

Ancak tamamen kurbanlığa yenik düşmek yerine

I ask myself today,

kendime sordum,

you know, where do we go from here?

şimdi ne yapmalıyız?

And how can AI evolve to prevent something like this happening again?

Yapay Zekâ böyle bir şeyin tekrar etmemesi için nasıl gelişebilir?

Not only has it happened to me,

Bunu sadece bana değil

but we want to future-proof and ensure that this doesn't happen

aynı zamanda yarınların kadınlarının başına gelmemesini

to the women of tomorrow.

nasıl sağlayabiliriz?

How can we, you and I, people who care about people,

Biz; sen ve ben, insanları umursayan kişiler,

bunun iyilik için çalışan bir teknoloji olmasını nasıl sağlayabiliriz?

ensure that this is a tech for good?

How can we, the policymakers, the creators, the consumers,

Biz; karar vericiler, yaratıcılar, tüketiciler olarak

ensure we regulate AI and things like social media,

yapay zekâ ve sosyal medya gibi şeyleri insanları ve insanlığı merkeze

putting humans and humanity at the center of artificial intelligence?

koyacak şekilde nasıl düzenleyebiliriz?

AI can change the world.

Yapay Zekâ dünyayı değiştirebilir.

In fact, as we've heard today, it already has.

Hatta, bugün duyduğumuz gibi, değiştirdi bile.

In a matter of seconds,

Saniyeler içinde,

people who speak completely different languages

tamamen farklı diller konuşan insanlar

can connect and understand one another.

bağlanıp birbirlerini anlayabiliyorlar.

And we've even seen the Pope as a style icon in a puffer jacket.

Hatta Papa’yı şişme mont içinde bir stil ikonu olarak bile gördük.

So some really important uses right there.

Yani bazı son derece önemli kullanım şekilleri.

But then in my case as well,

Ancak benim durumumda,

we can also see how it is weaponized against the truth.

gerçeğe karşı nasıl bir silah hâline geldiğini de görüyoruz.

And good examples of this would be art that appears like reality,

Bu konuda diğer iyi örnekler: Gerçek gibi görünen sanat,

AI-generated reviews unfairly boosting certain products

yapay zekâyla oluşturulmuş incelemelerle ürünlerin haksız yere üste çıkması,

and things like chatbot propaganda.

sohbet robotu propagandası sayılabilir.

And then, politically speaking,

Politika açısından ise,

we've seen over the years deepfakes of Nancy Pelosi slurring,

Nancy Pelosi’nin, Joe Biden’ın küfrettiği

Joe Biden cursing

ve hatta Başkan Zelensky’nin askerlerine silahlarını bırakmalarını söylediği

and even President Zelensky

asking his soldiers to surrender their weapons.

deepfake videoları gördük.

So when AI is used like this, to manipulate,

Yani yapay zekâ böyle hile için kullanıldığında

it can be a threat to our democracy.

demokrasimiz için bir tehdit olabilir.

And the tech is becoming so advanced

Teknoloji geliştikçe

that it's hard to differentiate fact from fiction.

neyin gerçek olduğunu ayırt etmek zorlaşıyor.

So how does AI interfere with politics?

Peki yapay zekâ politikaya nasıl müdahale ediyor?

And for us as politicians, what should we be worried about?

Biz politikacılar olarak neyden endişelenmeliyiz?

Could truth and democracy become shattered by AI?

Gerçeklik ve demokrasi yapay zekâ tarafından bozulabilir mi?

Has it already?

Çoktan bozuldu mu?

Well, to dive a little deeper here,

Burada daha derine inmek gerekirse

I think firstly we need to talk about the concept of truth.

bence önce gerçeklik konseptini konuşmalıyız.

Without truth, democracy collapses.

Gerçek olmadan demokrasi çöker.

Truth allows us to make informed decisions,

Gerçekler, bilgiyle karar almamızı sağlar,

it enables us to hold leaders accountable, which is very important.

liderleri sorumlu tutmamızı sağlar, ki bu çok önemlidir.

And it also allows us, as political representatives,

Politik temsilciler olarak bizim de

to create a sense of trust with our citizens and our constituents.

vatandaşlar ve seçmenlerimizle aramızda güven duygusu yaratmamızı sağlar.

But without that truth,

Ancak bu gerçek olmadan

democracy is vulnerable to misinformation,

demokrasi yanlış bilgilere, hileye

manipulation, and, of course, corruption.

ve tabii ki de yolsuzluğa karşı korumasız kalıyor.

When AI erodes truth,

Yapay zekâ gerçeği yıprattığında

it erodes trust,

güveni de yıpratıyor

and it undermines our democracy.

ve demokrasimizi baltalıyor.

And for me, in my experience with a deepfake,

Ben, bu deepfake ile olan deneyimimden yola çıkarak

I've seen what a fantastic distortion tool that deepfakes really are.

deepfakelerin ne kadar iyi bir çarpıtma aracı olduğunu gördüm.

So how can we safeguard democracy from this ever-advancing technology?

Peki bu hızla gelişen teknoloji karşısında demokrasimizi nasıl koruyabiliriz?

It's becoming ever harder to distinguish between real and synthetic content.

Gerçek ile sahte içerikleri ayırt etmek gittikçe zorlaşıyor.

And politically, what role does AI play in the future?

Politika açısından, yapay zekânın gelecekteki rolü ne?

And I can't talk about politics without talking about media as well.

Medyaya da değinmeden politika hakkında konuşamam.

They're undeniably linked, they're intertwined.

İnkâr edilemeyecek bir şekilde bağlantılılar.

And I think journalism has its own battle here as well.

Gazeteciliğin burada ayrı bir savaşı olduğuna inanıyorum.

From AI algorithms boosting articles unfairly

Makaleleri haksız yere öne çıkaran yapay zekâ algoritmalarından

to clickbait headlines,

tıklama tuzaklarına

and then also moments where they can manipulate the public as well.

ve de toplumu yanlış yönlendirdikleri durumlara kadar.

But politically speaking,

Ancak siyaset açısından,

we've seen AI-tailored political messaging

yapay zekâ tarafından desteklenen siyasi mesajların

influencing voters,

seçmenleri etkilediğini gördük.

we’ve seen it adding to existing bias.

Mevcut ön yargıyı arttırdığını gördük.

And definitely I think we all have that aunt that’s on Facebook

Sanıyorum ki hepimizin Facebook’da gördüğü

and kind of believes anything.

her şeye inanan bir teyzesi var.

So for me, as a politician,

Ben bir siyasetçi olarak

I think it's really important we dive a little deeper

yapay zekânın gazetecilik ve medya ile olan ilişkisini daha derinden

into the relationship of AI, journalism and media.

incelememizin çok önemli olduğuna inanıyorum.

But it also puts us at risk

Ancak bu bizi daha da bölünmüş ve tepkisel bir topluluk

of creating a more divided and reactionary society,

oluşturma tehlikesi altına sokuyor,

because falsehoods can create a lot of reaction.

çünkü yanlışlıklar çok fazla tepki çekebilir.

And for myself, coming from Northern Ireland,

Ben, o çatışma sonrası ülke Kuzey İrlanda’dan biri olarak

which is that post-conflict society,

I do have concerns about how it could shape our political landscape

bunun bizim ve dünya çapında diğer yerlerin

and other places across the globe.

siyasi durumunu nasıl etkileyebileceği konusunda endişelerim var.

Sadly, this deepfake video

Ne yazık ki, bu deepfake videosu

is not the only instance of me having experienced abuse with AI.

yapay zekânın suistimaliyle karşılaştığım tek durum değil.

Just six months ago,

Sadece altı ay önce

I received 15 deepfake images of myself in lingerie

iç çamaşırı içinde tahrik edici pozlar verdiğim

posing provocatively.

15 tane deepfake görseli aldım.

And I thought to myself, here we go again.

Kendime, yine başlıyoruz, dedim.

And you know, I spoke with some other female politicians.

Diğer kadın siyasetçilerle konuştum.

Thankfully, where I represent, we have more women getting into politics.

Neyse ki temsil ettiğim bölgede daha fazla kadın siyasete girmeye başladı.

But I had a really good conversation with them,

Onlarla iyi bir görüşme yaptım ve daha çok

and it’s around, if this is happening to you now,

“Bu bugün sana oluyorsa, yarın kim bilir bana ne olacak?”

what happens to me tomorrow?

üzerine oldu.

And I think this really strikes at the heart of the climate of fear

Bu bence gerçekten de kamusal yaşamdakiler için yapay zekânın yaratabileceği

that AI can create for those in public life.

korku ortamının üzerinde duruyor.

And I don't blame women.

Kadınları suçlamıyorum.

It's very sad.

Bu çok üzücü.

I don't blame women for not wanting to get into politics

Bu tarz teknolojilerin öne çıktığını görünce

when they see this kind of technology come forward,

siyasete girmek istemeyen kadınları suçlamıyorum,

so that's so important that we safeguard it.

yani bir önlem almamız önemli.

What also concerned me was the position of elderly voters

Beni endişelendiren bir diğer konu da yaşlı seçmenlerin durumuydu,

and perhaps their media literacy,

onların medya okuryazarlığı,

their comprehension of this technology.

bu teknolojiyi anlama şekilleri.

People who don't use the internet,

İnterneti kullanmayan insanlar,

who perhaps are not aware of AI and its many, many uses.

yapay zekâdan ve onun çok çeşitli kullanım şekillerinden haberdar olmayanlar.

So that was really concerning as well.

Bu da çok endişe vericiydi.

But it doesn't have to be this way.

Ancak böyle olmak zorunda değil.

We can be part of the change.

Değişimin bir parçası olabiliriz.

For me and my video,

Ben ve videoma gelirsek

I still don't know, to this day, who did this.

bugün bile bunu kimin yaptığını bilmiyorum.

I can imagine why they did it, but I don't know who did it.

Yapma nedenlerini tahmin edebiliyorum ancak kimin yaptığını bilmiyorum.

And sadly for me and for across the globe,

Ne yazık ki bu benim durumumda ve dünya genelinde

it still wouldn't be considered a crime.

hâlâ bir suç olarak görülmüyor.

So from being the enemy of fair, transparent,

Yapay Zekâ; adil, şeffaf ve saygın siyasetin,

good-natured politics,

savaşın ve uluslararası müdahalelerin

to warfare, to international interference,

düşmanı olarak

despite its beauty and its potential,

harikalığına ve potansiyeline karşın

AI is still a cause for concern.

yine de bir endişe konusu.

But it doesn't have to be this way.

Ancak böyle olmak zorunda değil.

I feel passionately that AI can be a humanistic technology

Yapay zekânın

insani değerlerle

yaşamımızı kendimizin en iyi versiyonu olmak için tamamlayan

with human values

that complements the lives that we live

to make us the very best versions of ourselves.

insancıl bir teknoloji olabileceğine içten inanıyorum.

But to do that,

Ancak bunu yapmak için

I think we need to embed ethics into this technology,

bu teknolojiye etik entegre etmemiz,

to eliminate bias, to install empathy

ön yargıyı kaldırmamız, empati eklememiz

and make sure it is aligned with human values and human principles.

ve insani değerler ve ilkelerle uyumunu sağlamamız gerektiğine inanıyorum.

Who knows, our democracy could depend on it.

Kim bilir, demokrasimiz buna bağlı olabilir.

And today I know we have some of the brightest minds in this room.

Biliyorum bugün burada son derece parlak zekâlı kişiler var.

I heard some of the talks earlier, and I'm certain of that.

Bazı konuşmaları duydum ve bundan eminim.

And I know each and every one of you have weight on your shoulders

Aynı zamanda geleceğe bakarken hepinizin omzunda bir yük olduğunu da

when looking to the future.

biliyorum.

But I also know each and every one of you want to see this tech for good.

Bir diğer yandan da her birinizin bu teknolojinin

iyilik için kullanıldığını görmek istediğini biliyorum.

And what gives me hope

Bana umut veren şey

is witnessing the movement right across the globe

hem iyi hem de kötü için kullanılabilecek

to see this hard journey begin,

bu teknolojinin düzenlenmesi için

to regulate this ever-advancing technology,

dünya çapında başlayan zorlu sürece tanık olmak.

which can be used for bad or for good.

But perhaps we, each and every one of us in this room,

Belki biz, bu salondaki her birimiz,

can be part of finding the solution.

çözümün bir parçası olabiliriz.

(Applause)

(Alkış)