How technology can fight extremism and online harassment | Yasmin Green

Çeviri: Cihan Ekmekçi Gözden geçirme: Figen Ergürbüz

My relationship with the internet reminds me of the setup

İnternetle olan ilişkim

bana klişe bir korku filminin kurgusunu hatırlatıyor.

to a clichéd horror movie.

You know, the blissfully happy family moves in to their perfect new home,

Çok mutlu bir aile yeni, mükemmel evlerine taşınır,

excited about their perfect future,

mükemmel geleeceklerinin heyecanı içindedirler,

and it's sunny outside and the birds are chirping ...

hava güneşlidir, kuşlar cıvıldaşıyordur...

And then it gets dark.

Sonra bir anda karanlık çöker.

And there are noises from the attic.

Tavan arasından sesler gelmeye başlar.

And we realize that that perfect new house isn't so perfect.

Anlarız ki bu yeni mükemel ev, o kadar da mükemmel değildir.

When I started working at Google in 2006,

2006 yılında Google'da işe başladığımda

Facebook was just a two-year-old,

Facebook henüz iki yaşındaydı,

and Twitter hadn't yet been born.

Twitter ise henüz doğmamıştı.

And I was in absolute awe of the internet and all of its promise

Bu süreçte internete ve bizi sunduklarına hayrandım:

to make us closer

bizi birbirimize yaklaştırmak,

and smarter

daha zeki kılmak

and more free.

ve özgürleştirmek gibi.

But as we were doing the inspiring work of building search engines

Biz arama motorları, video paylaşım siteleri

and video-sharing sites and social networks,

ve sosyal ağlar gibi ilham verici şeyler yaptıkça

criminals, dictators and terrorists were figuring out

suçlular, diktatörler ve teröristler de

how to use those same platforms against us.

aynı şekilde bu platformları nasıl kullanacaklarını öğreniyorlardı.

And we didn't have the foresight to stop them.

Onları nasl durduracağımıza dair bir planımız yoktu.

Over the last few years, geopolitical forces have come online to wreak havoc.

Son yıllarda jeopolitik güçler zarar vermek adına interneti kullandılar.

And in response,

Bunun üzerine Google,

Google supported a few colleagues and me to set up a new group called Jigsaw,

beni ve birkaç meslektaşımı Jigsaw adında yeni bir grup kurmaya teşvik etti,

with a mandate to make people safer from threats like violent extremism,

insanları şiddet, sansürcülük ve işkence gibi tehditlere karşı

censorship, persecution --

daha güvenilir kılmak için.

threats that feel very personal to me because I was born in Iran,

İran doğumlu olduğum ve şiddet içeren bir devrim sonrası ülkemi terk ettiğimden

and I left in the aftermath of a violent revolution.

bu tehditler beni bilhassa etkiliyordu.

But I've come to realize that even if we had all of the resources

Fakat anlamaya başladım ki dünyadaki tüm teknoloji kuruluşlarının

of all of the technology companies in the world,

tüm imkânlarına sahip olsak bile

we'd still fail

önemli bir etkeni görmezden gelirsek

if we overlooked one critical ingredient:

yine başarısız oluruz:

the human experiences of the victims and perpetrators of those threats.

mağdurların ve suçluların insani deneyimleri.

There are many challenges I could talk to you about today.

Bugün size bahsetmek istediğim pek çok zorluk var.

I'm going to focus on just two.

Sadece iki tanesine odaklanacağım.

The first is terrorism.

Birincisi terörizm.

So in order to understand the radicalization process,

Radikalleşme sürecini anlamak için

we met with dozens of former members of violent extremist groups.

şiddet yanlısı grupların eski üyelerinden düzinecelerce kişiyle tanıştık.

One was a British schoolgirl,

Bir tanesi İngiliz bir kız öğrenciydi.

who had been taken off of a plane at London Heathrow

Londra Heathrow havalimanından kalkan bir uçağa binmiş

as she was trying to make her way to Syria to join ISIS.

ve IŞİD'e katılabilmek üzere Suriye'ye gitmeyi denemişti.

And she was 13 years old.

13 yaşındaydı.

So I sat down with her and her father, and I said, "Why?"

O ve babasıyla birlikte oturduğumda ona "Neden?" diye sordum.

And she said,

Şöyle dedi,

"I was looking at pictures of what life is like in Syria,

''Suriye'deki yaşamın neye benzediğine dair resimlere bakıyordum,

and I thought I was going to go and live in the Islamic Disney World."

sonra düşündüm ki ben de gidip İslami Disney World'de yaşamalıyım.''

That's what she saw in ISIS.

IŞİD'e bakınca gördüğü buydu.

She thought she'd meet and marry a jihadi Brad Pitt

Orada cihatçı bir Brad Pitt ile evlenip

and go shopping in the mall all day and live happily ever after.

bütün gün alışveriş yaparak mutlu bir hayat süreceğini düşünmüş.

ISIS understands what drives people,

IŞİD insanların nasıl yönlendirilebileceğini iyi biliyor,

and they carefully craft a message for each audience.

onları takip edenlere dikkatlice bir mesaj gönderiyorlar.

Just look at how many languages

Pazarlama materyallerini

they translate their marketing material into.

kaç dile çevirdiklerine bir bakın.

They make pamphlets, radio shows and videos

Broşürler, radyo programları ve videolar yapıyorlar,

in not just English and Arabic,

sadece İngilizce ve Arapça da değil,

but German, Russian, French, Turkish, Kurdish,

Almanca, Rusça, Fransızca, Türkçe, Kürtçe,

Hebrew,

İbranice,

Mandarin Chinese.

Mandarin.

I've even seen an ISIS-produced video in sign language.

Hatta işaret dili ile hazırlanmış bir videolarını bile gördüm.

Just think about that for a second:

Sadece bir saniye düşünün.

ISIS took the time and made the effort

IŞİD mesajının iletimini sağlamak için

to ensure their message is reaching the deaf and hard of hearing.

işitme engelliler için bile zaman ve çaba sarf ediyor.

It's actually not tech-savviness

IŞİD'in insanların aklını çelmesinin sebebi

that is the reason why ISIS wins hearts and minds.

yalnızca teknoloji ustalığı değil.

It's their insight into the prejudices, the vulnerabilities, the desires

Ulaşmaya çalıştıkları insanların

of the people they're trying to reach

önyargı, zayıflık ve tutkularına

that does that.

anlayışla bakmaları.

That's why it's not enough

Bu yüzden de internet platformlarında

for the online platforms to focus on removing recruiting material.

onların mürit bulma materyallerini silmeye odaklanmak yeterli değil.

If we want to have a shot at building meaningful technology

Eğer biz de anlamlı bir teknoloji kurma gücüne sahip olmak istiyorsak

that's going to counter radicalization,

biz de karşı radikalleşmeye gitmeliyiz,

we have to start with the human journey at its core.

bunun için insanoğlu yolculuğunun merkezine inmek zorundayız.

So we went to Iraq

Nitekim Irak'a gittik,

to speak to young men who'd bought into ISIS's promise

IŞİD'e kahramanlık ve dürüstlük sözü vermiş,

of heroism and righteousness,

savaşmak için ordularında yer almış,

who'd taken up arms to fight for them

sonra onların vahşiliklerine şahit olunca

and then who'd defected

onlardan kaçmış

after they witnessed the brutality of ISIS's rule.

genç erkeklerle konuşmak istiyorduk.

And I'm sitting there in this makeshift prison in the north of Iraq

Burada, kaçmadan önce intihar bombacısı olarak eğitilmiş

with this 23-year-old who had actually trained as a suicide bomber

23 yaşında biriyle Irak'ın kuzeyinde

derme çatma bir hapishanede oturuyorum.

before defecting.

And he says,

Ve o diyor ki

"I arrived in Syria full of hope,

"Suriye'ye umut dolu bir şekilde vardım.

and immediately, I had two of my prized possessions confiscated:

Fakat bir anda iki değerli eşyama el konuldu:

my passport and my mobile phone."

pasaportum ve cep telefonum."

The symbols of his physical and digital liberty

Fiziksel ve dijital özgürlüğünün sembolleri

were taken away from him on arrival.

varır varmaz elinden alınmıştı.

And then this is the way he described that moment of loss to me.

O kayıp anını bana şöyle tarif etti.

He said,

Şöyle dedi:

"You know in 'Tom and Jerry,'

"Tom ve Jerry'yi biliyorsundur,

when Jerry wants to escape, and then Tom locks the door

Jerry kaçmak ister ama Tom kapıyı kilitler

and swallows the key

ve anahtarı yutar,

and you see it bulging out of his throat as it travels down?"

biz de anahtarın onun boğazından geçişini görürüz ya?''

And of course, I really could see the image that he was describing,

Tarif ettiği şeyi gerçekten de görebiliyordum,

and I really did connect with the feeling that he was trying to convey,

iletmeyi denediği hisleriyle bağlantı kurabiliyordum,

which was one of doom,

bu bir felaket hissiydi,

when you know there's no way out.

hiçbir çıkış yolunuz olmadığını bildiğiniz an.

And I was wondering:

Şunu merak ediyordum:

What, if anything, could have changed his mind

Acaba evden ayrıldığı zamanki düşünceleri

the day that he left home?

değişmiş olabilir miydi?

So I asked,

Ona sordum,

"If you knew everything that you know now

"Eğer evinden ayrılmadan önce

about the suffering and the corruption, the brutality --

bu işkence, yolsuzluk ve vahşet hakkında

that day you left home,

her şeyi biliyor olsaydın

would you still have gone?"

yine de gider miydin?"

And he said, "Yes."

"Evet" dedi.

And I thought, "Holy crap, he said 'Yes.'"

"Vay be, evet dedi." diye düşündüm.

And then he said,

Sonra dedi ki:

"At that point, I was so brainwashed,

''O zaman o kadar beynim yıkanmıştı ki

I wasn't taking in any contradictory information.

kafamdakilerle çelişen hiçbir bilgiyi kabul etmiyordum.

I couldn't have been swayed."

O durumdan geri dönemezdim.''

"Well, what if you knew everything that you know now

"Peki ya şu an bildiğin her şeyi

six months before the day that you left?"

altı ay önce evden ayrıldığın gün de bilseydin?"

"At that point, I think it probably would have changed my mind."

"O zaman sanırım fikirlerim muhtemelen değişmiş olurdu."

Radicalization isn't this yes-or-no choice.

Radikalleşme, evet veya hayır diye bir seçenek değil.

It's a process, during which people have questions --

Bu, insanların ideolojilerini, dinlerini ve yaşadıkları ortamı

about ideology, religion, the living conditions.

sorguladıkları bir süreç.

And they're coming online for answers,

İnterneti ise cevaplarına erişebilecekleri

which is an opportunity to reach them.

bir fırsat olarak görüyorlar.

And there are videos online from people who have answers --

İnternette bu cevapları içeren videolar var.

defectors, for example, telling the story of their journey

Örneğin sığınmacılar şiddetle iç içe geçen

into and out of violence;

yolculuklarının hikâyesini anlatıyor;

stories like the one from that man I met in the Iraqi prison.

Irak hapishanesinde böyle bir hikâyesi olan biriyle tanıştım.

There are locals who've uploaded cell phone footage

IŞİD halifeliği altında hayatın nasıl olduğunu gösteren

of what life is really like in the caliphate under ISIS's rule.

cep telefonu görüntülerini internete yükleyen yerliler var.

There are clerics who are sharing peaceful interpretations of Islam.

İslam'ın barış dolu olduğunu gösteren din adamları var.

But you know what?

Ama asıl sorun şu,

These people don't generally have the marketing prowess of ISIS.

Bu insanlar IŞİD'in uyguladığı pazarlama yetisine sahip değiller.

They risk their lives to speak up and confront terrorist propaganda,

Seslerini duyurup terörle yüzleşmek için hayatlarını riske atıyorlar,

and then they tragically don't reach the people

ancak üzücü bir şekilde

who most need to hear from them.

en çok ihtiyaç duyanlara seslerini duyuramıyorlar.

And we wanted to see if technology could change that.

Biz de teknoloji bunu değiştirebilir mi diye görmek istedik.

So in 2016, we partnered with Moonshot CVE

Böylece 2016'da Moonshot CVE ile birlikte ortaklık kurup

to pilot a new approach to countering radicalization

''Yeniden Yönlendirme Metodu'' adında

ve radikalleşmeye karşı koyacak yeni bir yaklaşıma öncülük ettik.

called the "Redirect Method."

It uses the power of online advertising

Bu yaklaşım internet reklamcılığı gücünü kullanarak

to bridge the gap between those susceptible to ISIS's messaging

bu örgütün mesajlarına inanabilecek insanlar

and those credible voices that are debunking that messaging.

ve bu mesajları alaşağı edecek güvenilir kişiler arasındaki açığı kapatıyor.

And it works like this:

Şu şekilde çalışıyor:

someone looking for extremist material --

Örneğin birisi fanatik bir materyal arıyor

say they search for "How do I join ISIS?" --

''IŞİD'e nasıl katılırım?'' diye arama yapıyorlar,

will see an ad appear

bir reklam belirecek ve onları bir din insanı

that invites them to watch a YouTube video of a cleric, of a defector --

veya aralarından ayrılmış birinin YouTube videosuna yönlendirecek.

someone who has an authentic answer.

Konuya dair özgün bir cevabı olan birine.

And that targeting is based not on a profile of who they are,

Bu hedefleme kişinin kimliğine ilişkin olmayacak,

but of determining something that's directly relevant

tamamen yaptığı arama

veya sorduğu soruya göre belirlenecek.

to their query or question.

During our eight-week pilot in English and Arabic,

İngilizce ve Arapça sekiz hafta süren denememizde,

we reached over 300,000 people

300.000 insana ulaştık,

who had expressed an interest in or sympathy towards a jihadi group.

hepsi cihadist bir gruba ilgi ve sempati duyuyorlardı.

These people were now watching videos

Artık bu insanlar çok yıkıcı bir karar vermekten

that could prevent them from making devastating choices.

kendilerini alıkoyacak videolar izliyorlardı.

And because violent extremism isn't confined to any one language,

Şiddet yalnızca tek bir dile,

religion or ideology,

dine ve ideolojiye bağlı olmadığından

the Redirect Method is now being deployed globally

Yeniden Yönlendirme Yöntemi küresel çapta uygulamaya sokularak

to protect people being courted online by violent ideologues,

gerek islamist, beyaz ırkçı veya başka bir tür şiddet yanlısı olsun

whether they're Islamists, white supremacists

herkesin bu şiddet içeriklerinden

or other violent extremists,

internette korunmasını sağlıyor

with the goal of giving them the chance to hear from someone

ve onlara bu yolculuğun diğer tarafından birinden

on the other side of that journey;

işin özünü dinleme şansı sunuyor;

to give them the chance to choose a different path.

başka bir yol izleme şansı.

It turns out that often the bad guys are good at exploiting the internet,

Genellikle kötü insanların interneti kullanmada iyi olduğunu görürüz,

not because they're some kind of technological geniuses,

teknoloji dâhisi oldukları için değil,

but because they understand what makes people tick.

insanları neyin teşvik ettiğini bildikleri için.

I want to give you a second example:

Size ikinci bir örnek vermek istiyorum:

online harassment.

internet tacizi.

Online harassers also work to figure out what will resonate

İnternet tacizcileri başka bir insana

neyin anlamlı geldiğini anlamaya çalışıyorlar.

with another human being.

But not to recruit them like ISIS does,

Ama onları o örgüt gibi yanına almıyor,

but to cause them pain.

onlara acı veriyor.

Imagine this:

Şunu bir düşünün:

you're a woman,

Bir kadınsınız,

you're married,

evlisiniz

you have a kid.

ve çocuğunuz var.

You post something on social media,

Sosyal medyada bir şey paylaşıyorsunuz,

and in a reply, you're told that you'll be raped,

yanıtlardan birinde tecavüze uğrayacağınız yazıyor,

that your son will be watching,

oğlunuzun izleyeceği

details of when and where.

ve hatta yeri ve zamanı.

In fact, your home address is put online for everyone to see.

Üstüne ev adresiniz herkesin göreceği şekilde internete konuluyor.

That feels like a pretty real threat.

Gerçek bir tehdit gibi hissedersiniz.

Do you think you'd go home?

Eve gider miydiniz?

Do you think you'd continue doing the thing that you were doing?

Yaptığınız şeyi yapmaya devam eder miydiniz?

Would you continue doing that thing that's irritating your attacker?

Saldırganı kızdıracak o şeyi yapmaya devam eder miydiniz?

Online abuse has been this perverse art

Çünkü internet tacizi

of figuring out what makes people angry,

insanları kızdıran şeyi anlamaya yönelik sapkın bir sanat,

what makes people afraid,

onları korkutan,

what makes people insecure,

kendilerine olan güveni sarsan

and then pushing those pressure points until they're silenced.

ve susturulana kadar tüm diğer zayıf noktalarına baskı uygulayan.

When online harassment goes unchecked,

İnternet tacizi kontrol edilmedikçe

free speech is stifled.

özgür konuşma bastırılıyor.

And even the people hosting the conversation

Hatta konuşmayı başlatan insanlar bile

throw up their arms and call it quits,

ellerini havaya kaldırıp teslim oluyor,

closing their comment sections and their forums altogether.

yorum kısmını ve forumlarını kapatıyorlar.

That means we're actually losing spaces online

Bu da şu demek oluyor ki

fikir alışverişi için internette ortam kaybediyoruz.

to meet and exchange ideas.

And where online spaces remain,

İnternet ortamlarının olduğu yerlerde de

we descend into echo chambers with people who think just like us.

bizimle tamamen aynı düşünen insanlarla birlikte sadece kendimizi dinliyoruz.

But that enables the spread of disinformation;

Bu da yanlış bilginin yayılmasına sebep oluyor;

that facilitates polarization.

kutuplaşmaya sebep oluyor.

What if technology instead could enable empathy at scale?

Bunun yerine teknoloji empati duygusunu ölçeklendirse daha iyi olmaz mı?

This was the question that motivated our partnership

Bu soru Google'ın Taciz Karşıtı ekibi,

with Google's Counter Abuse team,

Wikipedia

ve New York Times gibi gazetelerle

Wikipedia

and newspapers like the New York Times.

işbirliği yapmamızı sağladı.

We wanted to see if we could build machine-learning models

Dilin duygusal etkisini anlayabilecek

that could understand the emotional impact of language.

makine öğrenimli modeller yapabileceğimizi görmek istedik.

Could we predict which comments were likely to make someone else leave

Hangi yorumların bir başkasının o sohbeti terk etmesine

the online conversation?

neden olduğunu öngörebilir miydik?

And that's no mean feat.

Bu küçük bir şey değil.

That's no trivial accomplishment

Yapay zekânın böyle bir şeyi yapabileceğine dair

for AI to be able to do something like that.

herhangi bir çalışma yok.

I mean, just consider these two examples of messages

Bana geçen hafta gönderilebilecek

that could have been sent to me last week.

şu iki mesaj örneğini ele alalım.

"Break a leg at TED!"

''TED'de şeytanın bacağını kır!''

... and

ve...

"I'll break your legs at TED."

''TED'de şeytan bacağını kırsın.''

(Laughter)

(Kahkahalar)

You are human,

Bizler insanız,

that's why that's an obvious difference to you,

o yüzden biz bariz farkı görüyoruz,

even though the words are pretty much the same.

kelimeler aşağı yukarı aynı olsa da.

But for AI, it takes some training to teach the models

Ama yapay zekânın bu farkı anlaması için

ona bazı modellerin öğretilmesi gerekiyor.

to recognize that difference.

The beauty of building AI that can tell the difference

Fark anlayabilen yapay zekâ yapmanın güzel yanı

is that AI can then scale to the size of the online toxicity phenomenon,

yapay zekânın internetteki tüm kötü niyetli yorumlara ölçeklenebilir olması

and that was our goal in building our technology called Perspective.

ve Perspective adındaki teknolojimizi geliştirirken de amacımız buydu.

With the help of Perspective,

Perspective'in de yardımıyla

the New York Times, for example,

New York Times gazetesi, örneğin,

has increased spaces online for conversation.

internet sohbetleri için daha fazla yer ayırabiliyor.

Before our collaboration,

İşbirliğimizden önce,

they only had comments enabled on just 10 percent of their articles.

çıkan haberlerin yalnızca yüzde onu için yer ayırabiliyorlardı.

With the help of machine learning,

Makine öğrenimi yardımıyla

they have that number up to 30 percent.

bu rakamı yüzde 30 yaptılar.

So they've tripled it,

Yani üçe katladılar

and we're still just getting started.

ve biz daha yeni başladık.

But this is about way more than just making moderators more efficient.

Ancak bu konu moderatörleri daha etkili kılmaktan çok daha öte.

Right now I can see you,

Şu an sizi görebiliyorum,

and I can gauge how what I'm saying is landing with you.

ve söylediklerimin sizde bıraktığı etkiyi sezebiliyorum.

You don't have that opportunity online.

İnternette böyle bir fırsatınız yok.

Imagine if machine learning could give commenters,

Makine öğreniminin, daha insanlar yorum yazarken

as they're typing,

onlara geri bildirimde bulunarak

real-time feedback about how their words might land,

sözlerinin nereye varabileceğini açıkladığını düşünün,

just like facial expressions do in a face-to-face conversation.

yüz yüze bir konuşmada mimiklerimizin yaptığı gibi.

Machine learning isn't perfect,

Makine öğrenimi mükemmel değil,

and it still makes plenty of mistakes.

hâlâ pek çok hata yapıyor.

But if we can build technology

Ama dilin duygusal etkisini anlayabilen

that understands the emotional impact of language,

bir teknoloji geliştirirsek

we can build empathy.

empati de geliştirebiliriz.

That means that we can have dialogue between people

Bu farklı düşünen insanların diyalog kurması demek;

with different politics,

farklı politik görüş,

different worldviews,

farklı dünya görüşü

different values.

ve farklı değerlere sahip insanların.

And we can reinvigorate the spaces online that most of us have given up on.

Böylelikle vazgeçtiğimiz internet ortamlarını yeniden işler kılabiliriz.

When people use technology to exploit and harm others,

İnsanlar teknolojiyi zarar amaçlı kullandığında

they're preying on our human fears and vulnerabilities.

insanların korku ve zayıflıklarını avlıyorlar.

If we ever thought that we could build an internet

İnsanoğlunun karanlık yanından etkilenmeyen

insulated from the dark side of humanity,

bir internet yaratabileceğimizi sandıysak yanıldık.

we were wrong.

If we want today to build technology

Bugün bizim karşılaştığımız zorlukları aşabilecek

that can overcome the challenges that we face,

bir internet yaratmak istiyorsak

we have to throw our entire selves into understanding the issues

en az çözmeye çalıştığımız sorunlar kadar

and into building solutions

insani çözümler üretmek için

that are as human as the problems they aim to solve.

tüm benliğimizi ortaya koymalıyız.

Let's make that happen.

Bunu başaralım.

Thank you.

Teşekkürler.

(Applause)

(Alkışlar)