Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Çeviri: Cihan Ekmekçi Gözden geçirme: Figen Ergürbüz

Look at these images.

Bu görsellere bir bakın.

Now, tell me which Obama here is real.

Hangi Obama'nın gerçek olduğunu söyleyin.

(Video) Barack Obama: To help families refinance their homes,

(Video) Ailelere evlerini kredilendirmede yardım etmek için,

to invest in things like high-tech manufacturing,

yeni iş sahaları yaratacak ileri teknoloji üretimi,

clean energy

temiz enerji

and the infrastructure that creates good new jobs.

ve yapılandırma gibi konulara yatırım yapılması için.

Supasorn Suwajanakorn: Anyone?

Suwajanakorn: Anlayan var mı?

The answer is none of them.

Doğru cevap bunların hiçbiri.

(Laughter)

(Kahkahalar)

None of these is actually real.

Bunların hiçbiri aslında gerçek değil.

So let me tell you how we got here.

Bu aşamaya nasıl geldiğimizi anlatayım.

My inspiration for this work

Bu işe esinlenmem

was a project meant to preserve our last chance for learning about the Holocaust

hayatta kalanlardan Yahudi Soykırımı'nı öğrenmek için

son şansımız olan bir proje ile başladı.

from the survivors.

It's called New Dimensions in Testimony,

Adı ''Tanıklıkta Yeni Boyutlar''

and it allows you to have interactive conversations

ve soykırımdan sağ kalan birinin hologramıyla

with a hologram of a real Holocaust survivor.

interaktif sohbetler içine girmenizi sağlıyor.

(Video) Man: How did you survive the Holocaust?

(Video) Soykırımdan nasıl sağ kaldınız?

(Video) Hologram: How did I survive?

(Video) Hologram: Nasıl sağ kaldım?

I survived,

Sağ kaldım,

I believe,

çünkü inanıyorum ki

because providence watched over me.

Tanrı beni korudu.

SS: Turns out these answers were prerecorded in a studio.

SS: Görünüşe göre yanıtlar bir stüdyoda önceden kaydedildi.

Yet the effect is astounding.

Yine de etki inanılmaz.

You feel so connected to his story and to him as a person.

Hikâyesine ve ona adeta bağlanıyorsunuz.

I think there's something special about human interaction

İnsan etkileşimiyle ilgili öyle özel bir şey var ki

that makes it much more profound

bunu çok daha derin

and personal

ve daha kişisel kılıyor,

than what books or lectures or movies could ever teach us.

hatta kitap, ders ve filmlerin bize öğretebileceğinden çok daha fazla.

So I saw this and began to wonder,

Bunu görünce merak etmeye başladım,

can we create a model like this for anyone?

herkes için böyle bir model yaratabilir miyiz?

A model that looks, talks and acts just like them?

Tıpkı onlar gibi görünen, konuşan ve davranan bir model?

So I set out to see if this could be done

Bunun anlamak için işe koyuldum

and eventually came up with a new solution

ve sonunda bir insanın modelini yapabilmek için

that can build a model of a person using nothing but these:

sadece şunlara ihtiyaç duyacağım yeni bir çözüm buldum:

existing photos and videos of a person.

kişinin mevcut fotoğrafları ve videoları.

If you can leverage this kind of passive information,

Bu tür pasif bir bilgiden,

var olan fotoğraf ve videolardan faydalanabiliyorsanız

just photos and video that are out there,

that's the key to scaling to anyone.

bunu herkese ölçeklendirmenin yolu bu.

By the way, here's Richard Feynman,

Bu arada, bu Richard Feynman,

who in addition to being a Nobel Prize winner in physics

fizik alanında Nobel Ödülü almasının yanı sıra,

was also known as a legendary teacher.

efsane bir eğitmen olarak da tanınıyor.

Wouldn't it be great if we could bring him back

Onu geri getirmek,

to give his lectures and inspire millions of kids,

milyonlarac çocuğa ders ve ilham vermesini sağlamak,

perhaps not just in English but in any language?

bunu sadece İngilizce değil, her dilde yapmak harika olmaz mıydı?

Or if you could ask our grandparents for advice and hear those comforting words

Artık bizimle olmasalar da büyük anne ve babanızdan tavsiye istemek

even if they're no longer with us?

ve onların rahatlatıcı sözlerini duymak?

Or maybe using this tool, book authors, alive or not,

Belki de hayatta olsun veya olmasın, bu aracı kullanarak

could read aloud all of their books for anyone interested.

yazarlar kitaplarını ilgilenen herkes için sesli okuyabilirler.

The creative possibilities here are endless,

Buradaki yaratıcı fırsatların sonu yok

and to me, that's very exciting.

ve bence bu çok heyecan verici.

And here's how it's working so far.

Şimdiye dek nasıl çalıştığına bakalım.

First, we introduce a new technique

Önce yeni bir teknik tanıtıyoruz,

that can reconstruct a high-detailed 3D face model from any image

bu teknik, kişinin 3B taraması olmadan

herhangi bir görselden ileri detaylı bir 3B yüz modeli oluşturabiliyor.

without ever 3D-scanning the person.

And here's the same output model from different views.

Bu da farklı açılardan aynı model.

This also works on videos,

Videolarda da işe yarıyor,

by running the same algorithm on each video frame

aynı algoritmayı her bir video karesi için uyguluyorsunuz

and generating a moving 3D model.

ve hareketli bir 3B model yaratıyorsunuz.

And here's the same output model from different angles.

Farklı açılardan aynı yöntemli model.

It turns out this problem is very challenging,

Bunun zorlu bir problem olduğunu gördük

but the key trick is that we are going to analyze

ama işin püf noktası,

a large photo collection of the person beforehand.

kişinin çok sayıdaki fotoğraflarını önceden analiz etmek.

For George W. Bush, we can just search on Google,

George W. Bush için Google'da arama yapmamız yeterli,

and from that, we are able to build an average model,

oradaki görsellerle kırışıklık ve buruşukluklar gibi

an iterative, refined model to recover the expression

aynı ifadeyi verecek detaylarla tekrarlı ve kaliteli

in fine details, like creases and wrinkles.

ortalama bir model geliştirebiliyoruz.

What's fascinating about this

Burada ilgi çekici olan şey,

is that the photo collection can come from your typical photos.

fotoğraflarınızın gündelik, sıradan fotoğraflar olabilmesi.

It doesn't really matter what expression you're making

Yüz ifadenizin nasıl olduğu veya fotoğrafın çekildiği yer

or where you took those photos.

pek de önemli değil.

What matters is that there are a lot of them.

Önemli olan şey çok sayıda fotoğraf olması.

And we are still missing color here,

Ayrıca renk konusunda eksiğimiz var,

so next, we develop a new blending technique

o yüzden yeni bir renk karıştırma tekniği geliştireceğiz,

that improves upon a single averaging method

bu da bizim tek bir yöntemle

and produces sharp facial textures and colors.

keskin yüz hatları ve renklerini göstermemizi sağlayacak.

And this can be done for any expression.

Bunu her yüz ifadesinde kullanabiliriz.

Now we have a control of a model of a person,

Artık bir kişinin modelini kontrol edebiliyoruz

and the way it's controlled now is by a sequence of static photos.

ve kontrol, statik fotoğrafların sıralanmasıyla sağlanıyor.

Notice how the wrinkles come and go, depending on the expression.

Kırışıklıkların yüz ifadesine göre nasıl görünüp kaybolduğuna bir bakın.

We can also use a video to drive the model.

Bu modeli uygulamak için video da kullanabiliriz.

(Video) Daniel Craig: Right, but somehow,

(Video) Daniel Craig: Evet, ancak bir şekilde,

we've managed to attract some more amazing people.

daha fazla harika insanın ilgisini çekmeyi başardık.

SS: And here's another fun demo.

SS: Bu da başka bir zevkli demo.

So what you see here are controllable models

Bu gördükleriniz kontrol edilebilir modeller,

of people I built from their internet photos.

insanların internetteki görsellerinden geliştirdim.

Now, if you transfer the motion from the input video,

Ana videodaki hareketi transfer ederseniz

we can actually drive the entire party.

tüm diğer modellere uygulayabilirsiniz.

George W. Bush: It's a difficult bill to pass,

George W. Bush: Geçirilmesi zor bir tasarı,

because there's a lot of moving parts,

çünkü çok fazla değişken var

and the legislative processes can be ugly.

ve prosedür zorlu bir hâl alabilir.

(Applause)

(Alkışlar)

SS: So coming back a little bit,

SS: Biraz geriye gidersek

our ultimate goal, rather, is to capture their mannerisms

nihai amacımız kişinin kendine özgü hâlini yakalamak

or the unique way each of these people talks and smiles.

veya bu insanların kendine özgü konuşma ve gülme şekillerini.

So to do that, can we actually teach the computer

Bunu yapabilmek için

bilgisayara sadece o kişinin video kaydını göstererek

to imitate the way someone talks

by only showing it video footage of the person?

kişinin konuşma şeklini taklit etmesini öğretiyoruz.

And what I did exactly was, I let a computer watch

Benim tam olarak yaptığım şey,

14 hours of pure Barack Obama giving addresses.

Obama'nın hitap videolarını 14 saat boyunca bilgisayara izletmek.

And here's what we can produce given only his audio.

İşte sadece sesini kullanarak ortaya çıkarabileceğimiz.

(Video) BO: The results are clear.

(Video) BO: Sonuçlar açık.

America's businesses have created 14.5 million new jobs

Amerikan işletmeleri tam 75 ay boyunca

over 75 straight months.

14,5 milyon yeni iş kapısı açtı.

SS: So what's being synthesized here is only the mouth region,

SS: Burada sentezlenen sadece ağız bölgesi

and here's how we do it.

ve işte nasıl yaptığımız.

Our pipeline uses a neural network

Düzeneğimiz sinirsel bir ağ kullanıyor,

to convert and input audio into these mouth points.

bu ağız bölgelerine ses bilgisini dönüştürerek yerleştiriyor.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Video) BO: Bunu işimizle veya Medicare sayesinde yapıyoruz.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Sonra bu bileşeni sentezleyerek detaylar ve dişler üzerinde çalışıyoruz

and blend it into the head and background from a source video.

ve kaynak videodaki baş ve arka plan üzerine yerleştiriyoruz.

(Video) BO: Women can get free checkups,

(Video) BO: Kadınlar ücretsiz checkup yaptırabilir

and you can't get charged more just for being a woman.

ve sadece kadın olduğunuz için daha fazla ücret alınamaz.

Young people can stay on a parent's plan until they turn 26.

Gençler 26 yaşına kadar ebeveynin sigortasından faydalanabilir.

SS: I think these results seem very realistic and intriguing,

SS: Bence sonuçlar oldukça gerçekçi ve merak uyandırıcı

but at the same time frightening, even to me.

ama aynı zamanda benim için bile korkutucu.

Our goal was to build an accurate model of a person, not to misrepresent them.

Amacımız bir kişinin tam doğru modelini oluşturmak, onu yanlış göstermek değil.

But one thing that concerns me is its potential for misuse.

Ancak bunun potansiyel kötüye kullanımı beni endişelendiriyor.

People have been thinking about this problem for a long time,

İnsanlar bu soruna uzun zamandır kafa yoruyorlar,

since the days when Photoshop first hit the market.

Photoshop pazarlara ilk girdiğinden beri.

As a researcher, I'm also working on countermeasure technology,

Bir araştırmacı olarak karşıt teknoloji üzerinde de çalışıyorum

and I'm part of an ongoing effort at AI Foundation,

ve bir yapay zekâ vakfında devam eden bir projede görevliyim,

which uses a combination of machine learning and human moderators

proje, sahte görsel ve videoları tespit etmek için

makine öğrenimi ve insan moderatör kombinasyonundan faydalanıyor,

to detect fake images and videos,

fighting against my own work.

yani kendi işime karşı savaşıyorum.

And one of the tools we plan to release is called Reality Defender,

Piyasaya sürmek istediğimiz araçlardan biri ''Gerçeklik Savunucusu''

which is a web-browser plug-in that can flag potentially fake content

muhtemel sahte içeriği tarayıcıdayken otomatik olarak işaretleyen

automatically, right in the browser.

bir tarayıcı eklentisi.

(Applause)

(Alkışlar)

Despite all this, though,

Yine de tüm bunlara rağmen,

fake videos could do a lot of damage,

henüz biri sahte olduğunu doğrulama şansı elde edemeden

even before anyone has a chance to verify,

sahte videolar büyük zarara yol açabilir.

so it's very important that we make everyone aware

O yüzden şu an mümkün olan teknolojinin

of what's currently possible

herkesin farkında olması oldukça önemli,

so we can have the right assumption and be critical about what we see.

böylece gördüğümüz şeyler hakkında doğru varsayımlarda bulunabiliriz.

There's still a long way to go before we can fully model individual people

Bireylerin tam modelini çıkarmak ve bunun güvenliğinden emin olmak için

and before we can ensure the safety of this technology.

önümüzde hâlâ uzun bir yol var.

But I'm excited and hopeful,

Ama heyecan ve umut doluyum

because if we use it right and carefully,

çünkü bunu doğru ve dikkatli kullanırsak

this tool can allow any individual's positive impact on the world

bu araç herkesin dünyaya yaptığı pozitif etkiyi

to be massively scaled

büyük çapta ölçeklendirerek

and really help shape our future the way we want it to be.

istediğimiz geleceğe yön vermemize yardım edecek.

Thank you.

Teşekkürler.

(Applause)

(Alkışlar)