Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Fordító: Andi Vida Lektor: Maria Ruzsane Cseresnyes

Look at these images.

Nézzék ezeket a képeket!

Now, tell me which Obama here is real.

Most mondják meg, melyik Obama az igazi!

(Video) Barack Obama: To help families refinance their homes,

(Video) Obama: – Segítsünk a családoknak lakáskölcsönük kiváltásában,

to invest in things like high-tech manufacturing,

fektessünk be olyasmikbe, mint high-tech termékek gyártása,

clean energy

and the infrastructure that creates good new jobs.

tiszta energia

és az olyan infrastruktúrába, ami jó munkahelyeket teremt.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: – Valaki?

The answer is none of them.

A válasz: egyik sem.

(Laughter)

(Nevetés)

None of these is actually real.

Egyikük sem valódi.

So let me tell you how we got here.

Hadd mondjam el az előzményeket.

My inspiration for this work

Egy olyan program ösztönzött

was a project meant to preserve our last chance for learning about the Holocaust

erre a munkára, aminek az volt a célja, hogy megragadjuk az utolsó esélyt:

from the survivors.

beszélgessünk holokauszttúlélőkkel.

It's called New Dimensions in Testimony,

A program neve New Dimensions in Testimony,

and it allows you to have interactive conversations

interaktív beszélgetésbe elegyedhetünk

with a hologram of a real Holocaust survivor.

egy-egy valóságos holokauszttúlélő hologramjával.

(Video) Man: How did you survive the Holocaust?

(Videó) Férfi: Ön hogyan élte túl a holokausztot?

(Video) Hologram: How did I survive?

(Videó) Hologram: Hogyan éltem túl?

I survived,

Hiszem,

I believe,

hogy azért éltem túl,

because providence watched over me.

mert a Gondviselés vigyázott rám.

SS: Turns out these answers were prerecorded in a studio.

SS: Ezeket a válaszokat előzetesen vették fel egy stúdióban.

Yet the effect is astounding.

A hatás mégis döbbenetes.

You feel so connected to his story and to him as a person.

Úgy érezzük, személyesen kötődünk hozzá és a történetéhez.

I think there's something special about human interaction

Szerintem van valami különleges az emberi interakcióban,

that makes it much more profound

ami sokkal mélyebbé

and personal

és személyesebbé teszi ezt,

than what books or lectures or movies could ever teach us.

mint amit könyvekből, előadásokból vagy filmekből valaha is tanulhatunk.

So I saw this and began to wonder,

Amikor tehát ezt megnéztem, felmerült bennem a kérdés:

can we create a model like this for anyone?

készíthetünk bárkiről hasonló modellt?

A model that looks, talks and acts just like them?

Olyat, ami úgy néz ki, úgy beszél és úgy cselekszik, mint ő?

So I set out to see if this could be done

Próbálgatni kezdtem,

and eventually came up with a new solution

és végül új megoldást találtam ki,

that can build a model of a person using nothing but these:

ami csak meglévő fotói és videói alapján

existing photos and videos of a person.

épít fel modellt egy adott személyről.

If you can leverage this kind of passive information,

Ha tudjuk, mit kezdjünk olyan archív anyaggal,

just photos and video that are out there,

mint elérhető fotók és videók,

that's the key to scaling to anyone.

úgy azok alapján bárki megeleveníthető.

Vegyük például a képen látható Richard Feynmant,

By the way, here's Richard Feynman,

who in addition to being a Nobel Prize winner in physics

aki nemcsak Nobel-díjas fizikus,

was also known as a legendary teacher.

de legendás hírű oktató is volt.

Wouldn't it be great if we could bring him back

Hát nem lenne csodálatos visszahozni őt,

to give his lectures and inspire millions of kids,

hogy előadásokat tartson, és gyerekek millióit lelkesítse,

perhaps not just in English but in any language?

esetleg nemcsak angolul, hanem bármilyen nyelven?

Or if you could ask our grandparents for advice and hear those comforting words

Vagy ha tanácsot kérhetnénk nagyszüleinktől,

hallgathatnánk megnyugtató szavaikat, még ha már nincsenek is velünk?

even if they're no longer with us?

Or maybe using this tool, book authors, alive or not,

Vagy ezzel az eszközzel az írók, akár élnek, akár már nem,

could read aloud all of their books for anyone interested.

felolvashatnák könyveiket bárkinek, aki kíváncsi rájuk.

The creative possibilities here are endless,

A lehetőségek tárháza végtelen,

and to me, that's very exciting.

és ez számomra rendkívül izgalmas.

And here's how it's working so far.

Mutatom, jelenleg hogyan működik.

First, we introduce a new technique

Először is, lássuk az új technikát,

that can reconstruct a high-detailed 3D face model from any image

mellyel bármilyen képből részletgazdag 3D-s arcmodell rekonstruálható,

without ever 3D-scanning the person.

nem kell hozzá 3D-s szkennelés az illetőről.

And here's the same output model from different views.

Itt van ugyanaz a végeredmény, más-más szemszögből.

This also works on videos,

Ez videók esetében is működik,

by running the same algorithm on each video frame

ugyanazt az algoritmust futtatja minden egyes képkockán,

and generating a moving 3D model.

és mozgó 3D-s modellt generálunk.

And here's the same output model from different angles.

Íme, ugyanaz a végeredmény különböző látószögekből.

It turns out this problem is very challenging,

Ez a probléma nagy kihívást jelent,

but the key trick is that we are going to analyze

de frappánsan úgy oldjuk meg, hogy előzetesen elemezni fogunk

a large photo collection of the person beforehand.

egy nagyobbacska fotógyűjteményt az adott személyről.

For George W. Bush, we can just search on Google,

George W. Bush esetében elég egy Google-keresés,

and from that, we are able to build an average model,

a találatokból felépíthetünk egy átlagos modellt,

an iterative, refined model to recover the expression

olyat, amit tovább finomítottunk, hogy egészen finoman részletezve

in fine details, like creases and wrinkles.

idézzen fel arcvonásokat, például a ráncokat, a mimikát.

What's fascinating about this

Ebben az a lenyűgöző,

is that the photo collection can come from your typical photos.

hogy a fotógyűjtemény az átlagos fotóinkból állhat.

It doesn't really matter what expression you're making

Tényleg mindegy, milyen arcot vágunk,

or where you took those photos.

vagy hogy hol készültek a képek.

What matters is that there are a lot of them.

Csak az a fontos, hogy sok legyen belőlük.

And we are still missing color here,

És ekkor még hiányoznak a színek,

so next, we develop a new blending technique

így a következő lépés az, hogy újfajta színkeverési módot fejlesztünk,

that improves upon a single averaging method

ami az egyszerű átlagolás tökéletesítése,

and produces sharp facial textures and colors.

éles vonásokat és színeket eredményez.

And this can be done for any expression.

Ez bármilyen arckifejezésre alkalmazható.

Now we have a control of a model of a person,

Most tehát van egy módosítható modellünk.

and the way it's controlled now is by a sequence of static photos.

mégpedig statikus képek sorozatával.

Notice how the wrinkles come and go, depending on the expression.

Nézzék, hogyan változnak a ráncok, az arckifejezéstől függően.

We can also use a video to drive the model.

Videóval is vezérelhetjük a modellt.

(Video) Daniel Craig: Right, but somehow,

(Videó) Daniel Craig: Igen, de valahogy

we've managed to attract some more amazing people.

sikerült néhány bájosabb embert bevonzani.

SS: And here's another fun demo.

SS: És itt egy másik érdekes demó.

So what you see here are controllable models

Vezérelhető modelleket látunk olyan emberekről,

of people I built from their internet photos.

akiket internetes fotóik alapján alkottunk meg.

Now, if you transfer the motion from the input video,

Ha átvisszük a mozgást az eredeti videóról,

we can actually drive the entire party.

az egész bagázst levezényelhetjük.

George W. Bush: It's a difficult bill to pass,

George W. Bush: Nehéz átvinni a törvényjavaslatot,

because there's a lot of moving parts,

mert sok benne a bizonytalanság,

and the legislative processes can be ugly.

és kínosak lehetnek a jogalkotási folyamatok.

(Applause)

(Taps)

SS: So coming back a little bit,

SS: Kicsit ugorjunk vissza,

our ultimate goal, rather, is to capture their mannerisms

inkább az a fő célunk, hogy megragadjuk a stílusjegyeiket,

or the unique way each of these people talks and smiles.

egyéniségüket, ahogy ki-ki beszél és mosolyog.

Megtaníthatjuk-e egy számítógépnek, hogy utánozza valaki beszédét,

So to do that, can we actually teach the computer

to imitate the way someone talks

pusztán annak alapján,

by only showing it video footage of the person?

hogy egy videófelvételt mutatunk neki az illetőről?

And what I did exactly was, I let a computer watch

Pontosan ezt tettem, beállítottam egy számítógépet,

14 hours of pure Barack Obama giving addresses.

hogy 14 órán keresztül hiteles Obama-beszédeket elemezzen.

And here's what we can produce given only his audio.

Mutatom, milyen eredményre jutunk csak a hangfelvétele alapján.

(Video) BO: The results are clear.

(Videó) Obama: Az eredmény magáért beszél.

America's businesses have created 14.5 million new jobs

Amerika vállalkozásai 14,5 millió új munkahelyet teremtettek

over 75 straight months.

75 egymást követő hónap alatt.

SS: So what's being synthesized here is only the mouth region,

SS: Itt csak a száj területét szintetizáltuk,

and here's how we do it.

meg is mutatom, hogyan.

Our pipeline uses a neural network

Neurális hálózatot használunk, ezzel töltjük be a hangfelvételt

to convert and input audio into these mouth points.

a száj pontjaiba.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Videó) BO: Munkánkkal, a Medicare-rel vagy a Medicaiddel tehetjük ezt meg.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Utána szintetizáljuk a textúrát, finomítjuk a részleteket, a fogakat,

and blend it into the head and background from a source video.

és beolvasztjuk a fejbe, majd a forrásvideó hátterébe.

(Video) BO: Women can get free checkups,

(Videó) BO: A nőknek ingyenes szűrést biztosítunk,

and you can't get charged more just for being a woman.

senkinek ne kelljen többet fizetnie csak azért, mert nő.

Young people can stay on a parent's plan until they turn 26.

A fiatalok után 26 éves korukig járjon a családi pótlék.

SS: Nagyon valósághűnek és érdekesnek,

SS: I think these results seem very realistic and intriguing,

but at the same time frightening, even to me.

ugyanakkor ijesztőnek is látom ezeket az eredményeket.

Our goal was to build an accurate model of a person, not to misrepresent them.

Pontos modellt akartunk készíteni, nem félrevezetés volt a célunk.

But one thing that concerns me is its potential for misuse.

De aggaszt, hogy mindez rosszhiszeműen is felhasználható.

People have been thinking about this problem for a long time,

Az emberek jó ideje töprengenek ezen a kérdésen,

since the days when Photoshop first hit the market.

azóta, hogy a Photoshop berobbant a piacra.

As a researcher, I'm also working on countermeasure technology,

Kutatóként az ellenintézkedések technológiáján is dolgozom,

and I'm part of an ongoing effort at AI Foundation,

és részt veszek egy most is folyó kísérletben az MI Alapítványnál,

which uses a combination of machine learning and human moderators

ami gépi tanulás és az emberi moderálás együttes alkalmazásával

to detect fake images and videos,

kiszűri a hamis képeket és videókat,

fighting against my own work.

saját munkám ellen is harcolva.

And one of the tools we plan to release is called Reality Defender,

Reality Defender [igazságvédő] néven tervezünk kiadni egy eszközt,

which is a web-browser plug-in that can flag potentially fake content

ami egy webböngésző plug-in, ami automatikusan, közvetlenül,

automatically, right in the browser.

ott helyben jelezheti a lehetséges hamis tartalmat.

(Applause)

(Taps)

Despite all this, though,

Mindezek ellenére a hamis videók

fake videos could do a lot of damage,

rengeteg kárt okozhatnak,

even before anyone has a chance to verify,

még mielőtt bárkinek esélye nyílna leleplezni,

so it's very important that we make everyone aware

ezért nagyon fontos, hogy mindenkiben tudatosítsuk:

of what's currently possible

mi az, ami jelenleg lehetséges.

so we can have the right assumption and be critical about what we see.

Így megalapozott tényekre építhetünk, és fenntartásokkal kezelhetjük, amit látunk.

There's still a long way to go before we can fully model individual people

Hosszú még az út, mire tökéletesen modellezhetünk személyeket,

and before we can ensure the safety of this technology.

és szavatolhatjuk technológiánk biztonságos voltát.

But I'm excited and hopeful,

De izgatott vagyok és reménykedem,

because if we use it right and carefully,

mert ha helyesen és felelősen alkalmazzuk,

this tool can allow any individual's positive impact on the world

ez az eszköz nagy mértékben fokozhatja

to be massively scaled

bárkinek a világra gyakorolt pozitív hatását,

and really help shape our future the way we want it to be.

és valóban segíthet olyanra formálni a jövőt, amilyenre akarjuk.

Thank you.

Köszönöm.

(Applause)

(Taps)