Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Prevoditelj: Ivan Nekić Recezent: Sanda L

Look at these images.

Pogledajte ove slike.

Now, tell me which Obama here is real.

A sad mi recite koji Obama je pravi.

(Video) Barack Obama: To help families refinance their homes,

(Video) Barack Obama: Da pomognemo obiteljima refinancirati domove,

to invest in things like high-tech manufacturing,

da uložimo u stvari kao što su visokotehnološka proizvodnja,

clean energy

čista energija i infrastruktura koja stvara dobra nova radna mjesta.

and the infrastructure that creates good new jobs.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: Tko zna?

The answer is none of them.

Odgovor je: nijedan od njih.

(Laughter)

(Smijeh)

None of these is actually real.

Nijedan od ovih zapravo nije pravi.

Dozvolite da objasnim kako smo dovde došli.

So let me tell you how we got here.

My inspiration for this work

Moja inspiracija za ovaj posao bio je projekt

was a project meant to preserve our last chance for learning about the Holocaust

namijenjen očuvanju naše posljednje šanse za učenje o holokaustu od preživjelih.

from the survivors.

It's called New Dimensions in Testimony,

Zove se „Nove dimenzije svjedočanstva“

and it allows you to have interactive conversations

i omogućuje vam vođenje interaktivnih razgovora

with a hologram of a real Holocaust survivor.

s hologramom pravog preživjelog iz holokausta.

(Video) Man: How did you survive the Holocaust?

(Video) Čovjek: Kako ste preživjeli holokaust?

(Video) Hologram: How did I survive?

(Video) Hologram: Kako sam preživio?

I survived,

Preživio sam,

I believe,

vjerujem,

because providence watched over me.

jer je Providnost bdjela nada mnom.

SS: Turns out these answers were prerecorded in a studio.

SS: Zapravo su ovi odgovori unaprijed snimljeni u studiju.

Yet the effect is astounding.

Pa ipak, učinak je zapanjujući.

You feel so connected to his story and to him as a person.

Osjećate se privrženo njegovoj priči i njemu kao osobi.

I think there's something special about human interaction

Mislim da ima nešto posebno u ljudskoj interakciji

that makes it much more profound

što je čini mnogo dubljom

and personal

i osobnijom

than what books or lectures or movies could ever teach us.

nego što bi nas mogli naučiti knjige, predavanja ili filmovi.

So I saw this and began to wonder,

Dakle, vidio sam ovo i počeo se pitati:

can we create a model like this for anyone?

možemo li napraviti ovakav model za svakoga?

A model that looks, talks and acts just like them?

Model koji izgleda, priča i ponaša se baš kao oni?

So I set out to see if this could be done

Odlučio sam vidjeti je li to izvedivo

and eventually came up with a new solution

i tako došao do novog rješenja

that can build a model of a person using nothing but these:

koje može napraviti model osobe koristeći samo postojeće fotografije

existing photos and videos of a person.

i videozapise neke osobe.

If you can leverage this kind of passive information,

Ako možete upotrijebiti te pasivne informacije,

just photos and video that are out there,

samo dostupne fotografije i videozapise,

that's the key to scaling to anyone.

to je ključno za primjenu na svakoga.

By the way, here's Richard Feynman,

Usput, ovo je Richard Feynman.

who in addition to being a Nobel Prize winner in physics

Osim što je osvojio Nobelovu nagradu za fiziku,

was also known as a legendary teacher.

poznat je i kao legendaran predavač.

Wouldn't it be great if we could bring him back

Zar ne bi bilo sjajno kad bismo ga mogli vratiti

to give his lectures and inspire millions of kids,

da održi svoja predavanja i nadahne milijune djece,

perhaps not just in English but in any language?

možda ne samo na engleskom, nego na bilo kojem jeziku?

Or if you could ask our grandparents for advice and hear those comforting words

Ili da možete svoje djedove i bake pitati za savjet i čuti njihova ohrabrenja

even if they're no longer with us?

čak i ako više nisu s nama?

Or maybe using this tool, book authors, alive or not,

Ili bi možda korištenjem ovog alata pisci knjiga, živi ili ne,

could read aloud all of their books for anyone interested.

mogli naglas čitati svoje knjige zainteresiranima.

The creative possibilities here are endless,

Kreativne mogućnosti za ovo su beskrajne,

and to me, that's very exciting.

i za mene je to vrlo uzbudljivo.

And here's how it's working so far.

A evo kako to radi za sada.

First, we introduce a new technique

Najprije uvodimo novu tehniku

that can reconstruct a high-detailed 3D face model from any image

koja može rekonstruirati vrlo detaljan 3D model lica

iz bilo koje slike,

without ever 3D-scanning the person.

bez ikakvog 3D skeniranja osobe.

And here's the same output model from different views.

Evo istog izlaznog modela iz različitih kutova.

This also works on videos,

Ovo funkcionira i na videozapisima,

by running the same algorithm on each video frame

korištenjem istog algoritma na svakoj sličici videa

and generating a moving 3D model.

i stvaranjem pokretnog 3D modela.

And here's the same output model from different angles.

Evo istog izlaznog modela iz različitih kutova.

It turns out this problem is very challenging,

Ispostavlja se da je ovo vrlo zahtjevno,

but the key trick is that we are going to analyze

ali ključni trik leži u tome

da ćemo unaprijed analizirati veliku zbirku fotografija te osobe.

a large photo collection of the person beforehand.

For George W. Bush, we can just search on Google,

Georgea W. Busha možemo naprosto potražiti na Googleu

and from that, we are able to build an average model,

i iz toga smo u stanju napraviti prosječan model,

an iterative, refined model to recover the expression

iterativan, prerađen model

da povratimo izraz u finim detaljima, kao što su brazde i bore.

in fine details, like creases and wrinkles.

What's fascinating about this

Fascinantno kod ovoga je

is that the photo collection can come from your typical photos.

da zbirka fotografija može nastati od vaših tipičnih fotografija.

It doesn't really matter what expression you're making

Nije doista bitno kakav izraz imate

or where you took those photos.

ili gdje ste snimili fotografije.

What matters is that there are a lot of them.

Ono što je bitno je da ih ima mnogo.

And we are still missing color here,

A ovdje nam još uvek fali boja,

so next, we develop a new blending technique

pa dalje razvijamo novu tehniku miješanja

that improves upon a single averaging method

koja se poboljšava na metodi jednog računanja prosjeka

and produces sharp facial textures and colors.

i proizvodi jasne teksture lica i boje.

And this can be done for any expression.

A ovo se može učiniti za bilo koji izraz.

Now we have a control of a model of a person,

Sada imamo kontrolu nad modelom osobe,

and the way it's controlled now is by a sequence of static photos.

a način na koji se sada kontrolira je niz statičnih fotografija.

Notice how the wrinkles come and go, depending on the expression.

Obratite pažnju na to kako se bore pojavljuju i nestaju

u zavisnosti od izraza.

We can also use a video to drive the model.

Možemo koristiti i videozapis za upravljanje modelom.

(Video) Daniel Craig: Right, but somehow,

(Video) Daniel Craig: Da, ali nekako smo uspjeli

we've managed to attract some more amazing people.

privući neke još nevjerojatnije ljude.

SS: And here's another fun demo.

SS: A evo još jedne zabavne demo snimke.

So what you see here are controllable models

Ovdje vidite upravljive modele ljudi

of people I built from their internet photos.

koje sam izradio iz njihovih internet fotografija.

Now, if you transfer the motion from the input video,

Sada, ako se prenese pokret s ulaznog videozapisa,

we can actually drive the entire party.

zapravo možemo pokrenuti čitavu zabavu.

George W. Bush: It's a difficult bill to pass,

George W. Bush: „Ovaj nacrt zakona će teško proći

because there's a lot of moving parts,

zato što ima mnogo pokretnih dijelova,

and the legislative processes can be ugly.

a zakonodavni proces zna biti gadan.“

(Applause)

(Pljesak)

SS: So coming back a little bit,

SS: Dakle, da se vratim malo unazad,

our ultimate goal, rather, is to capture their mannerisms

naš konačni cilj je zapravo uhvatiti njihovu mimiku

or the unique way each of these people talks and smiles.

ili jedinstvenost kojom svatko od ovih ljudi priča ili se smiješi.

So to do that, can we actually teach the computer

U tu svrhu, možemo li zaista naučiti računalo

to imitate the way someone talks

oponašati način na koji netko govori

by only showing it video footage of the person?

pokazujući mu samo videozapis te osobe?

And what I did exactly was, I let a computer watch

Tako sam pustio računalu da gleda

14 hours of pure Barack Obama giving addresses.

14 sati isključivo Baracka Obame i njegovih obraćanja.

And here's what we can produce given only his audio.

I evo što možemo proizvesti samo iz njegovog audiozapisa.

(Video) BO: The results are clear.

(Video) BO: Rezultati su jasni.

America's businesses have created 14.5 million new jobs

Američki biznisi su stvorili 14,5 milijuna novih poslova

over 75 straight months.

tijekom 75 mjeseci neprekidno.

SS: So what's being synthesized here is only the mouth region,

SS: Dakle, ono što se ovdje sintetizira je samo područje usta,

and here's how we do it.

i evo kako to radimo.

Our pipeline uses a neural network

Naš sustav koristi neuronsku mrežu

to convert and input audio into these mouth points.

da pretvori i dovede audio snimku u ove točke usta.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Video) BO: Dobijamo to preko našeg posla ili preko zdravstvene zaštite.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Tada stvaramo teksturu, poboljšavamo detalje i zube

and blend it into the head and background from a source video.

i stapamo u glavu i pozadinu iz izvorne snimke.

(Video) BO: Women can get free checkups,

(Video) BO: Žene mogu dobiti besplatne preglede

and you can't get charged more just for being a woman.

i ne može vam se naplatiti više samo zato što ste žena.

Young people can stay on a parent's plan until they turn 26.

Mladi mogu ostati u roditeljskom programu do 26. godine.

SS: I think these results seem very realistic and intriguing,

SS: Mislim da ovi rezultati izgledaju vrlo realistično i zanimljivo,

but at the same time frightening, even to me.

ali istovremeno zastrašujuće, čak i za mene.

Our goal was to build an accurate model of a person, not to misrepresent them.

Naš cilj je bio da napravimo precizan model osobe,

ne da je pogrešno predstavimo.

But one thing that concerns me is its potential for misuse.

Ali, ono što me brine je potencijal za zloupotrebu.

People have been thinking about this problem for a long time,

Ljudi su dugo razmišljali o ovom problemu,

since the days when Photoshop first hit the market.

još otkad je Photoshop izašao na tržište.

As a researcher, I'm also working on countermeasure technology,

Kao istraživač također radim na tehnologiji za suzbijanje

and I'm part of an ongoing effort at AI Foundation,

i sudjelujem u aktualnom nastojanju Zaklade za umjetnu inteligenciju

which uses a combination of machine learning and human moderators

gdje se koristi kombinacija strojnog učenja i ljudskih moderatora

to detect fake images and videos,

da se otkriju lažne slike i video-snimke, boreći se protiv vlastitog rada.

fighting against my own work.

And one of the tools we plan to release is called Reality Defender,

Jedan od alata koji planiramo izdati zove se „Branitelj stvarnosti“ -

which is a web-browser plug-in that can flag potentially fake content

dodatak za web-preglednike koji može označiti potencijalno lažne sadržaje

automatically, right in the browser.

automatski, direktno u samom pregledniku.

(Applause)

(Pljesak)

Despite all this, though,

Uprkos svemu ovome,

fake videos could do a lot of damage,

lažni videozapisi mogu učiniti dosta štete

even before anyone has a chance to verify,

čak i prije nego što ih itko stigne provjeriti,

so it's very important that we make everyone aware

tako da je vrlo važno da svakoga osvijestimo

of what's currently possible

o tome što je trenutno moguće,

so we can have the right assumption and be critical about what we see.

da uzmemo pravu pretpostavku i kritički promatramo ono što vidimo.

There's still a long way to go before we can fully model individual people

I dalje smo daleko od toga da možemo potpuno modelirati osobe

and before we can ensure the safety of this technology.

i prije nego što osiguramo neškodljivost ove tehnologije.

But I'm excited and hopeful,

Ali ja sam uzbuđen i pun nade,

because if we use it right and carefully,

jer ako ga koristimo na pravi način i pažljivo,

this tool can allow any individual's positive impact on the world

ovaj alat može omogućiti da pozitivni utjecaj svakog pojedinca na svijet

to be massively scaled

bude mnogostruko uveličan

and really help shape our future the way we want it to be.

i zaista pomogne da oblikujemo budućnost u onakvu kakvu želimo.

Thank you.

Hvala vam.

(Applause)

(Pljesak)