Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: Anush Ignatyan Reviewer: Emma Dovlatyan

Look at these images.

Նայեք այս նկարներին:

Now, tell me which Obama here is real.

Հիմա ասեք, թե այստեղ որ Օբաման է իրական:

(Video) Barack Obama: To help families refinance their homes,

(Տեսանյութ)Բարաք Օբամա-Օգնել ընտանիքներին վերաֆինանսավորվել,

to invest in things like high-tech manufacturing,

ներդնել տեխնոլոգիական արտադրություններ,

clean energy

մաքուր էներգիա

and the infrastructure that creates good new jobs.

և ենթակառուցվածք, որը ստեղծում է լավ նոր աշխատանքներ:

Supasorn Suwajanakorn: Anyone?

Սուպասորն Սուվաջանակորն-Ո՞րը:

The answer is none of them.

Պատասխանն է`ոչ մեկը:

(Laughter)

(Ծիծաղ)

None of these is actually real.

Սրանցից ոչ մեկն իրական չէ:

So let me tell you how we got here.

Թույլ տվեք պատմել`ինչպես ենք հասել սրան:

My inspiration for this work

Այս աշխատանքի համար իմ ոգեշնչումը

was a project meant to preserve our last chance for learning about the Holocaust

մի ծրագիր էր, որի նպատակն էր չկորցնել վերջին շանսը`

from the survivors.

Հոլոքոստի մասին տեղեկություններ իմանալ փրկվածներից:

It's called New Dimensions in Testimony,

Սա կոչվում է Վկայության նոր ծավալներ

and it allows you to have interactive conversations

և թույլ է տալիս ինտերակտիվ զրույց ունենալ

with a hologram of a real Holocaust survivor.

Հոլոքոստից իրապես փրկվածի հոլոգրամի հետ:

(Video) Man: How did you survive the Holocaust?

(Տեսանյութ) Մարդ-Ինչպե՞ս փրկվեցիք Հոլոքոստից:

(Video) Hologram: How did I survive?

(Տեսանյութ) Հոլոգրամ-Ինչպե՞ս փրկվեցի:

I survived,

Փրկվեցի,

I believe,

կարծում եմ,

because providence watched over me.

որովհետև նախախնամությունը հոգաց իմ մասին:

SS: Turns out these answers were prerecorded in a studio.

ՍՍ-Պարզվում է՝ այս պատասխանները նախապես մի ստուդիայում ձայնագրված են եղել

Yet the effect is astounding.

Բայց արդյունքն ապշեցուցիչ է:

You feel so connected to his story and to him as a person.

Դու քեզ կապված ես զգում նրա պատմությանը և նրան՝ որպես մարդու:

I think there's something special about human interaction

Կարծում եմ՝ ինչ-որ հատուկ բան կա՝ կապված մարդկանց փոխազդեցության հետ,

that makes it much more profound

որն այն դարձնում է ավելի խոր

and personal

և անհատական,

than what books or lectures or movies could ever teach us.

քան գրքերը, դասախոսությունները կամ ֆիլմերը կարող են երբևէ սովորեցնել մեզ:

So I saw this and began to wonder,

Ես սա տեսա ու սկսեցի մտածել՝

can we create a model like this for anyone?

կարո՞ղ ենք այսպիսի մոդել ստեղծել ցանկացած մարդու համար:

A model that looks, talks and acts just like them?

Մի մոդել,որն ունի մարդու տեսք,խոսում ու գործում է մարդու նման:

So I set out to see if this could be done

Սկսեցի մտածել՝արդյո՞ք սա կարող էր արվել

and eventually came up with a new solution

ու մի նոր լուծում գտա,

that can build a model of a person using nothing but these:

որը կարող է մարդկանց մոդել ստեղծել՝ օգտագործելով միայն սրանք՝

existing photos and videos of a person.

մարդկանց առկա նկարներն ու տեսանյութերը:

If you can leverage this kind of passive information,

Եթե կարող եք օգտագործել այսպիսի պասիվ ինֆորմացիան՝

just photos and video that are out there,

պարզապես նկարներ ու տեսանյութեր,

that's the key to scaling to anyone.

ապա ցանկացածի մոդելը ստեղծելու բանալին դա է

By the way, here's Richard Feynman,

Ի դեպ, սա Ռիչարդ Ֆրեյմենն է,

who in addition to being a Nobel Prize winner in physics

որը,ի հավելումն ֆիզիկայի բնագավառում Նոբելյան մրցանակակիր լինելուն,

was also known as a legendary teacher.

հայտնի էր որպես լեգենդար ուսուցիչ:

Wouldn't it be great if we could bring him back

Լավ չէ՞ր լինի,եթե կարողանայինք նրան ետ բերել,

to give his lectures and inspire millions of kids,

որ էլի դասեր տար ու ոգեշնչեր միլիոնավոր երեխաների,

perhaps not just in English but in any language?

գուցե ոչ միայն անգլերենով, այլ ցանկացած լեզվով:

Or if you could ask our grandparents for advice and hear those comforting words

Կամ կարողանայինք մեր տատիկ-պապիկներից խորհուրդ հարցնել ու լսել նրանց հանգստացնող

even if they're no longer with us?

խոսքերը, նույնիսկ եթե նրանք էլ նեզ հետ չեն:

Or maybe using this tool, book authors, alive or not,

Կամ գուցե սրա միջոցով գրողները՝ մեռած թե կենդանի,

could read aloud all of their books for anyone interested.

կկարողանային իրենց գրքերը կարդալ հետաքրքրվողների համար:

The creative possibilities here are endless,

Կրեատիվ հնարավորություններն այստեղ անսահման են,

and to me, that's very exciting.

և ինձ համար դա շատ հետաքրքիր է:

And here's how it's working so far.

Ահա թե ինչպես է դա աշխատել մինչև այժմ:

First, we introduce a new technique

Նախ,ներկայացնում ենք նոր տեխնիկա,

that can reconstruct a high-detailed 3D face model from any image

որը կարող է մանրամասն վերաձևել դեմքի 3D մոդել ցանկացած պատկերից

without ever 3D-scanning the person.

նույնիսկ առանց մարդուն 3D-ով սկանավորելու:

And here's the same output model from different views.

Սա նույն մոդելն է` ստացված տարբեր տեսադաշտերից:

This also works on videos,

Սա գործում է նաև տեսանյութերի դեպքում

by running the same algorithm on each video frame

գործի դնելով նույն ալգորիթմը յուրաքանչյուր վիդեոկադրի վրա

and generating a moving 3D model.

և ստեղծելով նոր շարժվող 3D մոդել:

And here's the same output model from different angles.

Ահա նույն մոդելը` ստացված տարբեր անկյուններից:

It turns out this problem is very challenging,

Պարզվում է`այս խնդիրը բավականին բարդ է,

but the key trick is that we are going to analyze

բայց բանալի քայլն այն է, որ պատրաստվում ենք վերլուծել

a large photo collection of the person beforehand.

նախևառաջ մարդու նկարների մի մեծ հավաքածու:

For George W. Bush, we can just search on Google,

Ու. Բուշին կարող ենք փնտրել Գուգլում

and from that, we are able to build an average model,

և դրանից կարող ենք ստանալ մի սովորական մոդել,

an iterative, refined model to recover the expression

վերամշակված, նուրբ մոդել` մանրամասն վերականգնելու

in fine details, like creases and wrinkles.

դեմքի արտահայտությունը` ծալքեր և կնճիռներ:

What's fascinating about this

Այս առումով հետաքրքրաշարժ է այն

is that the photo collection can come from your typical photos.

որ նկարների հավաքածուն կարող է կազմված լինել ձեր տիպիկ նկարներից:

It doesn't really matter what expression you're making

Կարևոր չէ`դեմքի ինչ արտահայտություն ունեք

or where you took those photos.

կամ որտեղ եք նկարվել:

What matters is that there are a lot of them.

Կարևորն այն է, որ շատ նկարներ կան:

Բայց գույնն այստեղ դեռ բացակայում է,

And we are still missing color here,

so next, we develop a new blending technique

և մենք ստեղծում ենք մի նոր տեխնիկա,

that improves upon a single averaging method

որը զարգացնում է սովորական մեթոդը

and produces sharp facial textures and colors.

և ստեղծում դեմքի սուր կառուցվածք ու գույներ:

And this can be done for any expression.

Սա կարելի է անել ցանկացած արտահայտության դեպքում:

Now we have a control of a model of a person,

Հիմա մենք կառավարում ենք մարդու մոդելը,

and the way it's controlled now is by a sequence of static photos.

և դա անում ենք անշարժ նկարների հաջորդականության միջոցով:

Notice how the wrinkles come and go, depending on the expression.

Տեսեք՝ինչպես են կնճիռները գալիս ու գնում՝ կախված արտահայտությունից

We can also use a video to drive the model.

Մոդելը շարժելու համար նաև տեսանյութ կարող ենք օգտագործել:

(Video) Daniel Craig: Right, but somehow,

(Տեսանյութ)Դենիել Քրեյգ-Ճիշտ է, բայց ինչ-որ կերպ

we've managed to attract some more amazing people.

մեզ հաջողվել է գրավել ավելի հրաշալի մարդկանց:

ՍՍ-Ահա մեկ այլ զվարճալի օրինակ:

SS: And here's another fun demo.

So what you see here are controllable models

Այն,ինչ տեսնում եք այստեղ, մարդկանց վերահսկելի մոդելներ են

of people I built from their internet photos.

որ ստեղծել եմ նրանց՝համացանցի նկարներից:

Now, if you transfer the motion from the input video,

Եթե մուտքագրված տեսանյութից շարժումը տեղափոխեք,

we can actually drive the entire party.

կարող ենք ամբողջը շարժել:

George W. Bush: It's a difficult bill to pass,

Ջորջ ՈՒ. Բուշ-Այս օրինագիծը դժվար է ընդունել,

because there's a lot of moving parts,

որովհետև շատ անկայուն հատվածներ կան,

and the legislative processes can be ugly.

և օրենսդրական գործընթացն էլ կարող է տգեղ լինել:

(Applause)

(Ծափահարություն)

SS: So coming back a little bit,

ՍՍ-Փոքր-ինչ հետ գալով՝

our ultimate goal, rather, is to capture their mannerisms

մեր հիմնական նպատակը հսկելն է նրանց մաներաները կամ

or the unique way each of these people talks and smiles.

այն եզակի ձևը,որով այս մարդկանցից ամեն մեկը խոսում կամ ժպտում է:

So to do that, can we actually teach the computer

Դրա համար կարո՞ղ ենք սովորեցնել համակարգչին

to imitate the way someone talks

կրկնօրինակել խոսողի խոսելաձևը

by only showing it video footage of the person?

նրան այդ մարդուն տեսանյութով ցույց տալով:

And what I did exactly was, I let a computer watch

Եվ ես թողեցի,որ համակարգիչը 14 ժամ

14 hours of pure Barack Obama giving addresses.

դիտի Բարաք Օբամային՝ճառ ներկայացնելիս:

And here's what we can produce given only his audio.

Եվ ահա ինչ կարող ենք ստանալ՝ միայն նրա ձայնագրւթյունն ունենալով:

(Video) BO: The results are clear.

(Տեսանյութ)Բ.Օ.-Արդյունքները պարզ են:

America's businesses have created 14.5 million new jobs

Ամերիկայի բիզնեսները ստեղծել են 14.5 մլն աշխատատեղ

over 75 straight months.

ավելի քան 75 ամսում:

SS: So what's being synthesized here is only the mouth region,

ՍՍ-Այստեղ առանձնացվում է նրա բերանի հատվածը,

and here's how we do it.

ահա,թե ինչպես ենք դա անում:

Our pipeline uses a neural network

Մեր խողովակաշարը օգտագործում է նյարդային ցանց

to convert and input audio into these mouth points.

որ փոխակերպի և մուտքագրի ձայնագրությունը բերանի այս մասերում:

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Տեսանյութ)ԲՕ-Դա ստանոմ ենք մեր աշխատանքով կամ բժշկական անվճար օգնությամբ:

SS: Then we synthesize the texture, enhance details and teeth,

ՍՍ-Հետո առանձնացնում ենք դեմքի կառուցվածքը ավելացնում դետալներ և ատամներ

and blend it into the head and background from a source video.

դա միացնում ենք գլխին ու սկզբնական տեսանյութի ետին պլանին:

(Տեսանյութ)ԲՕ-Կանայք կարող են ձրի ստուգվել,

(Video) BO: Women can get free checkups,

and you can't get charged more just for being a woman.

և դուք չեք կարող վճարել ավելի, միայն որովհետև կին եք:

Young people can stay on a parent's plan until they turn 26.

Երիտասարդները կարող են ապրել ծնողների որոշումներով մինչև 26 տարեկանը:

SS: I think these results seem very realistic and intriguing,

ՍՍ-Կարծում եմ`այս արդյունքները շատ իրական ու հետաքրքիր են թվում

but at the same time frightening, even to me.

բայց միաժամանակ`վախեցնող, նույնիսկ ինձ համար:

Our goal was to build an accurate model of a person, not to misrepresent them.

Մեր նպատակն էր կառուցել մարդու ճշգրիտ մոդելը,ոչ թե սխալ ներկայացնել նրան:

But one thing that concerns me is its potential for misuse.

Բայց ինձ անհանգստացնում է դրա սխալ օգտագործման հավանականությունը:

People have been thinking about this problem for a long time,

Մարդիկ մտածել են այս խնդրի մասին երկար ժամանակ`

since the days when Photoshop first hit the market.

սկսած այն օրերից, երբ հայտնվեց ֆոտոշոփը:

As a researcher, I'm also working on countermeasure technology,

Որպես ուսումնասիրող`ես էլ եմ աշխատում հակամիջոցների տեխնոլոգիաների վրա

and I'm part of an ongoing effort at AI Foundation,

և մասնակցում եմ Ալ հիմնադրամի ընթացիկ փորձերին,

which uses a combination of machine learning and human moderators

որը գործածում է մեքենայի ուսումնասիրման և մարդ-մոդերատորների միություն

to detect fake images and videos,

որպեսզի գտնի կեղծ պատկերներն ու տեսանյութերը`

fighting against my own work.

պայքարելով իմ իսկ աշխատանքի դեմ:

And one of the tools we plan to release is called Reality Defender,

Գործիքներից մեկը,որ ստեղծելու ենք, կոչվում է Իրականության պաշտպան,

which is a web-browser plug-in that can flag potentially fake content

դա վեբ-բրաուզերի հավելված է,որը կարող է առանձնացնել կեղծ նյութերը

automatically, right in the browser.

ինքնավարությամբ, հենց բրաուզերում:

(Applause)

(Ծափահարություն)

Despite all this, though,

Չնայած այս ամենին՝

fake videos could do a lot of damage,

կեղծ տեսանյութերը կարող են շատ վնաս հասցնել

even before anyone has a chance to verify,

նույնիսկ նախքան ինչ-որ մեկը դրանք կհաստատի,

so it's very important that we make everyone aware

հետևաբար,շատ կարևոր է, որ բոլորին տեղեկացնենք,

of what's currently possible

թե ներկայում ինչ կարող է լինել,

so we can have the right assumption and be critical about what we see.

որ ճիշտ ենթադրություններ անենք ու քննադատաբար մոտենանք մեր տեսածին:

There's still a long way to go before we can fully model individual people

Դեռ երկար ճանապարհ ունենք անցնելու, մինչև կկարողանանք մարդկանց մոդելը լիովին կազմել

and before we can ensure the safety of this technology.

և վստահ լինել, որ այս տեխնոլոգիան անվտանգ է:

But I'm excited and hopeful,

Բայց ես ոգևորված եմ և հույսով լի,

because if we use it right and carefully,

քանի որ ճիշտ ու ուշադիր օգտագործելու դեպքում

this tool can allow any individual's positive impact on the world

այս գործիքը կարող է թույլ տալ,որ ցանկացած մարդու դրական ազդեցությունն աշխարհի վրա

to be massively scaled

լայնորեն տարածվի

and really help shape our future the way we want it to be.

և կարող է օգնել ձևավորել ապագան այնպես, ինչպես մենք ենք ուզում:

Thank you.

Շնորհակալություն:

(Applause)

(Ծափահարություն)