When AI Can Fake Reality, Who Can You Trust? | Sam Gregory | TED

Çeviri: Figen Ergürbüz Gözden geçirme: Elif Usta

It's getting harder, isn't it, to spot real from fake,

Gerçeği sahteden insan tarafından üretileni

yapay zekâ tarafından üretilenden ayırt etmek gittikçe zorlaşıyor, değil mi?

AI-generated from human-generated.

Üretken yapay zekâ ile

With generative AI,

along with other advances in deep fakery,

derin sahtecilikteki diğer gelişmeler bir araya geldiğinde

it doesn't take many seconds of your voice,

sesinizin birkaç saniyesi

yüzünüzün birkaç görüntüsü

many images of your face,

to fake you,

sizi taklit etmek için yeterli

and the realism keeps increasing.

ve taklitlerin gerçekçiliği artmaya devam ediyor.

I first started working on deepfakes in 2017,

Deepfake üzerinde çalışmaya ilk olarak 2017'de,

when the threat to our trust in information was overhyped,

bilgiye olan güvenimize yönelik tehdidin aşırı abartıldığı

and the big harm, in reality, was falsified sexual images.

ve gerçekte büyük zararın tahrif edilmiş cinsel imgeler olduğu zaman başladım.

Now that problem keeps growing, harming women and girls worldwide.

Bu sorun dünya çapında kadın ve kızlara zarar vererek büyümeye devam ediyor.

Ama aynı zamanda üretken yapay zekâdaki gelişmelerle

But also, with advances in generative AI, we're now also approaching a world

where it's broadly easier to make fake reality,

yalnızca sahte gerçeklik yaratmanın değil gerçeği sahte olarak yaftalayarak

but also to dismiss reality as possibly faked.

reddetmenin de yaygın biçimde daha kolay olduğu bir dünyaya yaklaşıyoruz

Yanıltıcı ve kötü amaçlı görsel-işitsel yapay zekâ toplumsal sorunlarımızın

Now, deceptive and malicious audiovisual AI

nedeni olmasa da onlara katkıda bulunuyor olması muhtemeldir.

is not the root of our societal problems,

but it's likely to contribute to them.

İşitsel klonlar seçimlerle bağlantılı çeşitli içeriklerde hızla çoğalıyor.

Audio clones are proliferating in a range of electoral contexts.

“Gerçek mi sahte mi ” şüphesi savaş bölgelerinden gelen

"Is it, isn't it" claims cloud human-rights evidence from war zones,

insan hakları ihlali kanıtlarını gölgeliyor

sexual deepfakes target women in public and in private,

cinsel içerikli derin sahtecilik alenen ve gizlice kadınları hedef alıyor

and synthetic avatars impersonate news anchors.

sentetik avatarlar haber spikerlerini taklit ediyor

I lead WITNESS.

WITNESS adlı sivil toplum örgütünde yöneticiyim.

We're a human-rights group

Haklarını korumak ve savunmak için insanların

that helps people use video and technology to protect and defend their rights.

video ve teknolojiyi kullanmalarına yardımcı olan bir insan hakları grubuyuz.

And for the last five years, we've coordinated a global effort,

Ve son beş yıldır ''Hazırlan, Panik Yapma' adlı

"Prepare, Don't Panic,"

küresel bir çabayı koordine ediyoruz

around these new ways to manipulate and synthesize reality,

gerçekliği manipüle etme ve sentezlemenin yeni yöntemleri çerçevesinde

and on how to fortify the truth

of critical frontline journalists and human-rights defenders.

kritik öneme sahip cephe gazetecileri ve insan hakları savunucularının

gerçeklerini nasıl güçlendireceğimiz üzerine çalışmalar yapıyoruz.

Now, one element in that is a deepfakes rapid-response task force,

Şimdi, bunun bir parçası deepfakeleri ve deepfake iddialarını

açığa çıkarmak için zamanlarını ve becerilerini bağışlayan

made up of media-forensics experts

and companies who donate their time and skills

medya-adli tıp uzmanları ve şirketlerden oluşan

to debunk deepfakes and claims of deepfakes.

deepfake hızlı müdahale ekibi.

The task force recently received three audio clips,

Ekip yakın zamanda

from Sudan, West Africa and India.

Sudan, Batı Afrika ve Hindistan'dan üç ses kaydı aldı.

People were claiming that the clips were deepfaked, not real.

İnsanlar bu kayıtların gerçek değil deepfake olduğunu iddia ediyorlardı.

Sudan örneğinde

In the Sudan case,

experts used a machine-learning algorithm

uzmanlar, ses kaydının gerçek olduğunu

trained on over a million examples of synthetic speech

neredeyse şüpheye yer bırakmayacak şekilde kanıtlamak için

bir milyondan fazla sentetik konuşma örneği üzerinde eğitilmiş

to prove, almost without a shadow of a doubt,

that it was authentic.

bir makine öğrenimi algoritması kullandılar.

In the West Africa case,

Batı Afrika örneğinde,

they couldn't reach a definitive conclusion

Twitter'dan ses kaydını

because of the challenges of analyzing audio from Twitter,

analiz etmenin zorlukları ve arka plan gürültüsü nedeniyle

and with background noise.

kesin bir sonuca varamadılar.

The third clip was leaked audio of a politician from India.

Üçüncüsü, Hindistan'dan bir politikacının sızdırılmış ses kaydıydı

Nilesh Christopher of “Rest of World” brought the case to the task force.

Kaydı,''Dünyanın Geri Kalanı"ndan Nilesh Christopher görev gücüne getirdi.

The experts used almost an hour of samples

Uzmanlar, politikacının otantik sesinin kişiselleştirilmiş bir modelini

to develop a personalized model of the politician's authentic voice.

geliştirmek için neredeyse bir saatlik örnek kullandılar.

Despite his loud and fast claims that it was all falsified with AI,

Bunun yapay zekâ ile yapıldığına dair yüksek tonlu ve hızlı iddialarına rağmen

experts concluded that it at least was partially real, not AI.

uzmanlar yapay zekâ değil, en azından kısmen gerçek olduğu sonucuna vardılar.

As you can see,

Gördüğünüz gibi,

even experts cannot rapidly and conclusively separate true from false,

uzmanlar bile doğruyu yanlıştan hızlı ve kesin olarak ayıramıyor

and the ease of calling "that's deepfaked" on something real

ve gerçek bir şeyi “bu derin sahtecilik” diye yaftalamanın

is increasing.

kolaylığı gittikçe artıyor.

The future is full of profound challenges,

Gelecek, hem gerçeği korumak

both in protecting the real and detecting the fake.

hem de sahte olanı tespit etmek açısından zorluklarla doludur.

We're already seeing the warning signs

Gerçeği kurgudan ayırt etmenin

of this challenge of discerning fact from fiction.

zorluğuna dair uyarı işaretlerini zaten görüyoruz.

Audio and video deepfakes have targeted politicians,

Sesli ve görüntülü deepfakeler politikacıları,

major political leaders in the EU, Turkey and Mexico,

Avrupa Birliği, Türkiye ve Meksika'daki önemli siyasi liderleri

ve ABD belediye başkanı adaylarını hedef aldı.

and US mayoral candidates.

Political ads are incorporating footage of events that never happened,

Siyasi reklamlar hiç gerçekleşmemiş olayların görüntülerini içeriyor

and people are sharing AI-generated imagery from crisis zones,

ve insanlar kriz bölgelerinden yapay zekâ tarafından oluşturulan görüntüler paylaşıp

claiming it to be real.

bunun gerçek olduğunu iddia ediyor.

Now, again, this problem is not entirely new.

Şimdi, yine, bu sorun tamamen yeni değil.

Birlikte çalıştığım insan hakları savunucuları ve gazeteciler

The human-rights defenders and journalists I work with

are used to having their stories dismissed,

hikâyelerinin reddedilmesine alışkınlar,

and they're used to widespread, deceptive, shallow fakes,

bir bağlam, zaman veya ortamdan koparılarak

videos and images taken from one context or time or place

başka bir bağlam, zaman veya ortamdan alındığı iddia edilen

and claimed as if they're in another,

karmaşa yaratmak ve dezenformasyon yaymak için kullanılan video ve görüntülere

used to share confusion and spread disinformation.

yaygın, yanıltıcı ve sığ sahte içeriklere alışkınlar.

And of course, we live in a world that is full of partisanship

Ve elbette, partizanlık ve bol doğrulama yanlılığı ile dolu

and plentiful confirmation bias.

bir dünyada yaşıyoruz.

Given all that,

Tüm bunlar göz önünde bulundurulduğunda

the last thing we need is a diminishing baseline

en son ihtiyacımız olan şey

yapay zekâ görüntülerini inanmak istediğimiz şeylere inanmak

of the shared, trustworthy information upon which democracies thrive,

görmezden gelmek istediğimiz şeyleri inkar etmek için kullanarak

where the specter of AI

is used to plausibly believe things you want to believe,

demokrasilerin gelişmesinin dayanağı olan

ortak güvenilir bilginin temelini zayıflatmaktır.

and plausibly deny things you want to ignore.

But I think there's a way we can prevent that future,

Ama şimdi harekete geçersek böyle bir geleceği

if we act now;

engellemenin bir yolu olduğunu düşünüyorum

that if we "Prepare, Don't Panic,"

eğer “Hazırlanır, Panik Yapmazsak''

we'll kind of make our way through this somehow.

bir şekilde bunun üstesinden geleceğiz.

Panic won't serve us well.

Paniğin bize faydası olmaz.

[It] plays into the hands of governments and corporations

Korkularımızı kötüye kullanacak hükûmet ve şirketlere

who will abuse our fears,

kafakarışıklığının yarattığı karmaşadan fayda sağlayan

and into the hands of people who want a fog of confusion

ve yapay zekâyı mazeret olarak kullanacak olan

and will use AI as an excuse.

insanlara faydası olur.

How many people were taken in, just for a minute,

Sadece bir dakikalığına olsa bile

havalı puf ceketiyle Papa'nın olduğu görüntüye kaç kişi inandı ?

by the Pope in his dripped-out puffer jacket?

You can admit it.

İtiraf edebilirsiniz.

(Laughter)

(Kahkahalar)

More seriously,

Daha ciddi olanı

how many of you know someone who's been scammed

kaçınız çocuklarınınkine benzeyen bir ses kaydıyla

by an audio that sounds like their kid?

dolandırılmış birini tanıyorsunuz?

And for those of you who are thinking "I wasn't taken in,

''İnanmadım deepfake'i nasıl tespit edeceğimi biliyorum''

I know how to spot a deepfake,"

diye düşünenler için

any tip you know now is already outdated.

bildiğiniz herhangi bir yöntem şuanda çoktan geçerliliğini yitirdi.

Deepfakes didn't blink, they do now.

Eskiden göz kırpmazlardı şimdi göz kırpıyorlar.

Six-fingered hands were more common in deepfake land than real life --

Altı parmaklı eller, sahte dünyada gerçek hayattan daha yaygındı

not so much.

artık o kadar değil.

Teknolojik gelişmeler

Technical advances erase those visible and audible clues

gerçeği sahteden ayırt edebileceğimizin kanıtı olarak

that we so desperately want to hang on to

umutsuzca tutunmak istediğimiz görüntülü ve sesli ipuçlarını siler.

as proof we can discern real from fake.

But it also really shouldn’t be on us to make that guess without any help.

Herhangi bir yardım almadan gerçek mi sahte mi karar vermek

Between real deepfakes and claimed deepfakes,

bu bizim sorumluluğumuzda olmamalı. Gerçek deepfake ve deepfake olduğu iddia edilen

we need big-picture, structural solutions.

arasında büyük resme, yapısal çözümlere ihtiyacımız var.

We need robust foundations

that enable us to discern authentic from simulated,

Özgün olanı sahteden ayırt etmemizi sağlayan güçlü temellere

eleştirel seslerin ve görüntülerin

tools to fortify the credibility of critical voices and images,

güvenilirliğini güçlendirmek için araçlara

and powerful detection technology

ve şüpheyi yok etmek yerine daha çok şüphe uyandırmayacak

that doesn't raise more doubts than it fixes.

güçlü tespit teknolojisine ihtiyacımız var.

There are three steps we need to take to get to that future.

Bu geleceğe ulaşmak için atmamız gereken üç adım var.

Step one is to ensure that the detection skills and tools

Birinci adım, tespit becerilerinin ve araçlarının

onlara ihtiyaç duyan kişilerin elinde olmasını sağlamaktır.

are in the hands of the people who need them.

I've talked to hundreds of journalists,

Yüzlerce gazeteci,

toplum lideri ve insan hakları savunucusuyla konuştum

community leaders and human-rights defenders,

and they're in the same boat as you and me and us.

onlar da sizinle, benimle bizimle aynı gemideler.

Sesi dinleyip“Bir aksaklık yakalayabilir miyim?” diye düşünüyorlar.

They're listening to the audio, trying to think, "Can I spot a glitch?"

Looking at the image, saying, "Oh, does that look right or not?"

Resme bakarak, “Bu gerçek mi yoksa değil mi?” diyerek.

Or maybe they're going online to find a detector.

Ya da belki bir tespit aracı bulmak için internete giriyorlar.

And the detector they find,

Buldukları tespit aracı

they don't know whether they're getting a false positive, a false negative,

yanlış pozitif mi yoksa yanlış negatif mi

güvenilir bir sonuç alıp almadıklarını bilmiyorlar.

or a reliable result.

Here's an example.

İşte bir örnek.

I used a detector, which got the Pope in the puffer jacket right.

Bir tespit aracı kullandım, bu da Papa'nın şişme ceketini doğru tespit etti.

But then, when I put in the Easter bunny image that I made for my kids,

Ama sonra, çocuklarım için yaptığım Paskalya tavşanı resmini koyduğumda

it said that it was human-generated.

insan yapımı olduğunu söyledi.

This is because of some big challenges in deepfake detection.

Bunun nedeni deepfake tespitindeki bazı büyük zorluklardır.

Detection tools often only work on one single way to make a deepfake,

Tespit araçları deepfake oluşturma yöntemlerinden yalnızca birinde çalışır

so you need multiple tools,

bu nedenle birden fazla araca ihtiyacınız vardır

and they don't work well on low-quality social media content.

ve bunlar düşük kaliteli sosyal medya içeriğinde iyi çalışmazlar.

Confidence score, 0.76-0.87,

Güven puanı 0.76-0.87 bunun güvenilir olup olmadığını

altta yatan temel teknolojinin güvenilir olup olmadığını

how do you know whether that's reliable,

if you don't know if the underlying technology is reliable,

veya kullanılan manipülasyon yöntemi üzerinde

or whether it works on the manipulation that is being used?

çalışıp çalışmadığını nasıl anlarsınız ?

And tools to spot an AI manipulation don't spot a manual edit.

YZ manipülasyonunu tespit etme araçları manuel bir düzenlemeyi tespit etmez.

These tools also won't be available to everyone.

Ayrıca bu araçlar herkes tarafından kullanılamayacak.

There's a trade-off between security and access,

Güvenlik ve erişim arasında bir denge var

which means if we make them available to anyone,

yani onları herkesin kullanımına sunarsak

they become useless to everybody,

herkes için işe yaramaz hâle gelir

because the people designing the new deception techniques

çünkü yeni aldatma tekniklerini tasarlayan insanlar

will test them on the publicly available detectors

onları halka açık tespit araçlarında test edecek

and evade them.

ve atlatacaklar.

But we do need to make sure these are available

Ancak bunların dünya çapında ilk savunma hattımız olan

to the journalists, the community leaders,

gazeteciler, toplum liderleri, seçim yetkilileri için

the election officials, globally, who are our first line of defense,

ulaşılabilir olduğundan emin olmalıyız gerçek dünya erişilebilirliği ve kullanımı

thought through with attention to real-world accessibility and use.

dikkatlice ayrıntılı bir şekilde düşünülmüş olmalı.

Though at the best circumstances,

En iyi koşullarda bile

detection tools will be 85 to 95 percent effective,

tespit araçları % 85-95 etkili olsa da

they have to be in the hands of that first line of defense,

ilk savunma hattının elinde olmalılar

and they're not, right now.

ve şu anda değiller.

So for step one, I've been talking about detection after the fact.

Yani birinci adım için, olaydan sonra tespit hakkında konuşuyorum.

Step two -- AI is going to be everywhere in our communication,

İkinci adım -- Yapay zekâ iletişimimizde her yerde olacak

creating, changing, editing.

yaratacak, değiştirecek, düzenleyecektir.

It's not going to be a simple binary of "yes, it's AI" or "phew, it's not."

“Evet, bu YZ” veya “hayır, değil” gibi basit bir ikili olmayacak.

AI is part of all of our communication,

Yapay zekâ tüm iletişimimizin bir parçası

so we need to better understand the recipe of what we're consuming.

bu yüzden tükettiğimiz şeyin tarifini daha iyi anlamamız gerekiyor.

Bazı insanlar buna içerik menşei ve ifşa diyor.

Some people call this content provenance and disclosure.

Teknoloji uzmanları, yapay zekâ tarafından oluşturulan medya içeriklerine

Technologists have been building ways to add invisible watermarking

görünmez filigran eklemenin yollarını geliştiriyorlar.

to AI-generated media.

They've also been designing ways --

Ayrıca dosyalara C2PA adı verilen bir standart kapsamında

and I've been part of these efforts --

kriptografik olarak imzalanmış metadata eklemek için

within a standard called the C2PA,

to add cryptographically signed metadata to files.

yöntemler tasarlıyorlar

ve ben de bu çabaların bir parçası oldum.

This means data that provides details about the content,

Bu, içerikle ilgili ayrıntılar sağlayan,

cryptographically signed in a way that reinforces our trust

verdiği bilgilere olan güvenimizi güçlendirecek şekilde

kriptografik olarak imzalanmış veri anlamına gelir.

in that information.

It's an updating record of how AI was used to create or edit it,

Yapay zekânın onu oluşturmak veya düzenlemek için nasıl kullanıldığına,

insanların ve diğer teknolojilerin buna hangi aşamada dahil olduğuna,

where humans and other technologies were involved,

hangi düzenlemelerin kim tarafından ne zaman yapıldığına dair güncelleme kaydıdır

and how it was distributed.

It's basically a recipe and serving instructions

Temel olarak, gördüğünüz ve duyduğunuz içerikteki

for the mix of AI and human

yapay zekâ ve insan karışımı için

that's in what you're seeing and hearing.

bir tarif ve servis talimatıdır.

And it's a critical part of a new AI-infused media literacy.

Bu, yapay zekâ katkılı yeni bir medya okuryazarlığının kritik bir parçası.

And this actually shouldn't sound that crazy.

Ve bu aslında kulağa o kadar çılgınca gelmemeli.

Our communication is moving in this direction already.

İletişimimiz şimdiden bu yönde ilerliyor.

If you're like me -- you can admit it --

Eğer benim gibiyseniz - itiraf edebilirsiniz -

you browse your TikTok “For You” page,

TikTok “Sizin İçin” sayfanıza göz attığınızda

and you're used to seeing videos that have an audio source,

ses kaynağı, yapay zekâ filtresi,

an AI filter, a green screen, a background,

yeşil ekran, arka plan içeren

a stitch with another edit.

düzenlenmiş videolar görmeye alışkınsınız.

This, in some sense, is the alpha version of this transparency

Bu, bir anlamda, bahsettiğim şeffaflığın bugün kullandığımız

in some of the major platforms we use today.

bazı büyük platformlaki alfa versiyonudur.

It's just that it does not yet travel across the internet,

Sadece henüz internette dolaşmıyor,

it’s not reliable, updatable, and it’s not secure.

güvenilir değil, güncellenebilir ve güvenli değil.

Now, there are also big challenges

Şimdi, bu tür bir altyapıda

in this type of infrastructure for authenticity.

özgünlük bakımından da büyük zorluklar var.

As we create these durable signs of how AI and human were mixed,

Yapay zekâ ve insanın nasıl karıştığına medyanın nasıl yapıldığına dair

that carry across the trajectory of how media is made,

bu kalıcı işaretleri oluştururken gizlilikten ödün vermediklerinden

we need to ensure they don't compromise privacy or backfire globally.

veya küresel olarak geri tepmediklerinden emin olmalıyız.

We have to get this right.

Bunu doğru yapmalıyız.

We can't oblige a citizen journalist filming in a repressive context

Baskıcı bir ortamda çekim yapan bir vatandaş gazeteciyi

ya da güçlü olanın parodisini yapmak için yeni nesil yapay zekâ araçlarını kullanan

or a satirical maker using novel gen-AI tools

hiciv yapan bir komedyeni kameralarını veya ChatGPT'yi kullanmak için

to parody the powerful ...

to have to disclose their identity or personally identifiable information

kimliklerini veya kişisel olarak tanımlanabilir bilgilerini

in order to use their camera or ChatGPT.

ifşa etmeye zorlayamayız.

Because it's important they be able to retain their ability to have anonymity,

Çünkü yaratma aracının şeffaf olmasıyla birlikte

at the same time as the tool to create is transparent.

anonim kalma özelliklerini koruyabilmeleri de önemlidir.

This needs to be about the how of AI-human media making,

Bu, yapay zekâ-insan içeriklerinin nasıl yapıldığı ile ilgili olmalı

not the who.

kim tarafından değil.

This brings me to the final step.

Bu beni son adıma getiriyor.

None of this works without a pipeline of responsibility

Bunların hiçbiri, temel modeller ve açık kaynaklı projelerden

that runs from the foundation models and the open-source projects

sistem, API ve uygulamalara yayılma biçimine

through to the way that is deployed into systems, APIs and apps,

paylaşım yaptığımız ve iletişim kurduğumuz platformlara kadar uzanan

to the platforms where we consume media and communicate.

bir sorumluluk hattı olmadan çalışmaz.

I've spent much of the last 15 years fighting, essentially, a rearguard action,

Son 15 yılın çoğunu insan hakları camiasındaki pek çok meslektaşım gibi

like so many of my colleagues in the human rights world,

sosyal medyanın başarısızlıklarıyla

savunma hattında mücadele ederek savaşarak geçirdim.

against the failures of social media.

We can't make those mistakes again in this next generation of technology.

Bu yeni nesil teknolojide aynı hataları tekrar yapamayız.

What this means is that governments

Bunun anlamı, hükûmetlerin yapay zekâya yönelik

need to ensure that within this pipeline of responsibility for AI,

bu sorumluluk hattı içinde şeffaflık, hesap verebilirlik

there is transparency, accountability and liability.

ve güvenilirliği sağlamaları gerektiğidir.

Without these three steps --

Bu üç adım olmadan --

detection for the people who need it most,

en çok ihtiyaç duyanlar için tespit araçları,

provenance that is rights-respecting

haklara saygılı bir kaynak doğrulama

and that pipeline of responsibility,

ve sorumluluk hattı olmadan

we're going to get stuck looking in vain for the six-fingered hand,

altı parmaklı eli ya da kırpılmayan gözleri arayarak

or the eyes that don't blink.

sıkışıp kalacağız.

We need to take these steps.

Bu adımları atmamız gerekiyor.

Otherwise, we risk a world where it gets easier and easier

Aksi takdirde gerçekliği hem taklit etmenin

hem de sahte yaftasıyla reddetmenin

to both fake reality

gün geçtikçe daha kolay hâle geldiği bir dünya riskiyle karşı karşıyayız.

and dismiss reality as potentially faked.

And that is a world that the political philosopher Hannah Arendt

Bu, siyaset filozofu Hannah Arendt'in

described in these terms:

şöyle tanımladığı bir dünya:

"A people that no longer can believe anything

“Artık hiçbir şeye inanamayan

cannot make up its own mind.

bir halk kendi kararını veremez.

It is deprived not only of its capacity to act

Sadece hareket etme kapasitesinden değil

but also of its capacity to think and to judge.

düşünme ve yargılama kapasitesinden de mahrumdur.

And with such a people you can then do what you please."

Ve böyle bir topluluğa dilediğinizi yaptırabilirsiniz.”

That's a world I know none of us want,

Böyle bir dünyayı hiçbirimizin istemediğini biliyorum

that I think we can prevent.

ve buna engel olabiliriz.

Thanks.

Teşekkürler.

(Cheers and applause)

(Tezahürat ve alkış)