Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: sann tint Reviewer: Myo Aung

Look at these images.

ဒီရုပ်ပုံတွေကို ကြည့်ပါ။

Now, tell me which Obama here is real.

အခု ဘယ် Obama က အစစ်ဆိုတာ ကျွန်တော့ကို ပြောပြပါ။

(Video) Barack Obama: To help families refinance their homes,

(ဗီဒီယို) Barack Obama: မိသားစုတွေ အိမ်တွေကို ငွေကြေးမတည်ဖို့

to invest in things like high-tech manufacturing,

နည်းပညာမြင့် ထုတ်လုပ်မှုတွေ၊ သန့်ရှင်းတဲ့ စွမ်းအင်နဲ့

clean energy

အလုပ်သစ်တွေဖန်တီးပေးတဲ့

and the infrastructure that creates good new jobs.

အခြေခံအဆောက်အအုံလို အရာတွေ ရင်းနှီးမြှုပ်နှံရာမှာ ကူညီဖို့

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: သိကြလား၊

The answer is none of them.

အဖြေက တစ်ယောက်မှ မဟုတ်ပါဘူး။

(Laughter)

(ရယ်သံများ)

None of these is actually real.

ဒါတွေတစ်ခုမှ တကယ့်အစစ်မဟုတ်ပါဘူး။

So let me tell you how we got here.

ဒီတော့ ဖြစ်ပျက်ပုံတွေကို ပြောပါရစေ။

My inspiration for this work

ဒီအလုပ်အတွက် ကျွန်တော့စေ့ဆော်မှုက

was a project meant to preserve our last chance for learning about the Holocaust

ရှင်ကျန်သူတွေဆီကနေ Holocaust အကြောင်း သင်ယူဖို့ နောက်ဆုံးအခွင့်အရေးကို

from the survivors.

စောင့်ရှောက်ရန်ရည်ရွယ်တဲ့ ပရောဂျက်ပါ။

It's called New Dimensions in Testimony,

ဒါကို New Dimensions in Testimony လို့ခေါ်ပြီး

and it allows you to have interactive conversations

တကယ့် Holocaust ရှင်ကျန်သူ တယောက်ရဲ့ သုံးဖက်မြင်ဓာတ်ပုံနဲ့

with a hologram of a real Holocaust survivor.

အပြန်အလှန် စကားပြောတာတွေ ရရှိစေဖို့ပါ။

(Video) Man: How did you survive the Holocaust?

(ဗီဒီယို) Holocaust က ဘယ်လိုရှင်ကျန်ခဲ့လဲ

(Video) Hologram: How did I survive?

(ဗီဒီယို) ကျုပ် ဘယ်လိုရှင်ကျန်ခဲ့လဲ

I survived,

ကျုပ်ရှင်ကျန်ခဲ့တယ်၊

I believe,

ကျုပ်ယုံကြည်တယ်၊

because providence watched over me.

အကြောင်းက ဘုရားသခင်က ကျုပ်ကို စောင့်ရှောက်ခဲ့လို့ပါ။

SS: Turns out these answers were prerecorded in a studio.

SS: ဖြစ်သွားတာက ဒီအဖြေတွေကို စတူဒီယိုမှာ ကြိုတင်အသံသွင်းခဲ့တာပါ။

Yet the effect is astounding.

ဒါပေမဲ့ ရလဒ်ကတော့ အံ့မခန်းပဲ။

You feel so connected to his story and to him as a person.

သူ့ဇာတ်လမ်းနဲ့ သူ့ကို လူကိုယ်တိုင်လို ဆက်သွယ်မှုရရှိတာ သင်ခံစားရတယ်။

I think there's something special about human interaction

စာအုပ်တွေ၊ ပို့ချချက်တွေ(သို့) ရုပ်ရှင်တွေက သင်ကြားပေးတာထက်

that makes it much more profound

အများကြီး ပိုနက်ရှိုင်းကာ လူကိုယ်တိုင်

and personal

ဖြစ်အောင်လုပ်ပေးတဲ့

than what books or lectures or movies could ever teach us.

လူသားချင်းတုံ့ပြန်ဆက်သွယ်မှုမှာ ထူးခြားတာတစ်ခုရှိတယ်လို့ ထင်တယ်။

So I saw this and began to wonder,

ဒါနဲ့ ဒါကိုတွေ့ပြီး စတွေးမိတာက

can we create a model like this for anyone?

လူတိုင်းအတွက် ဒီပုံစံမျိုး ဖန်တီးနိုင်သလားပေါ့။

A model that looks, talks and acts just like them?

၎င်းတို့လို ကြည့်တယ်၊ ပြောတယ်၊ သရုပ်ဆောင်တဲ့ ပုံစံတစ်ခုပေါ့။

So I set out to see if this could be done

ဒါကိုလုပ်နိုင်လားသိဖို့ ရည်မှန်းချက်ထားကာ

and eventually came up with a new solution

နောက်ဆုံးမှာ လူတစ်ယောက်ရဲ့ ရှိနေဆဲ ဓာတ်ပုံတွေနဲ့

that can build a model of a person using nothing but these:

ဗီဒီယိုတွေကိုပဲသုံးပြီး လူတစ်ယောက်ရဲ့ပုံစံကို တည်ဆောက်နိုင်တဲ့

existing photos and videos of a person.

အဖြေတစ်ခုရခဲ့တယ်။

If you can leverage this kind of passive information,

ဒီမလှုပ်မယှက် သတင်းအချက်အလက်မျိုးကို ဒီဓာတ်ပုံတွေ၊

just photos and video that are out there,

ဗီဒီယိုတွေနဲ့ ကြွလာအောင်လုပ်ပေးနိုင်ရင်

that's the key to scaling to anyone.

ဒါလူတိုင်းကို စကေးကိုက်လုပ်တာရဲ့ သော့ချက်ပါ။

By the way, here's Richard Feynman,

စကားမစပ် ဒါက Richard Feynman ပါ၊

who in addition to being a Nobel Prize winner in physics

ရူပဗေဒမှာ နိုဘယ်လ်ဆုရသူဖြစ်တဲ့အပြင်

was also known as a legendary teacher.

အထင်ကရ ကျောင်းဆရာလို့လည်း သိကြသူပါ။

Wouldn't it be great if we could bring him back

ပို့ချချက်ပေးဖို့နဲ့ သန်းချီတဲ့ကလေးတွေကို

to give his lectures and inspire millions of kids,

စေ့ဆော်ပေးဖို့ သူ့ကို ပြန်ခေါ်လို့များရရင် ကြီးကျယ်မသွားပေဘူးလား​။

perhaps not just in English but in any language?

ဖြစ်နိုင်တာက အင်္ဂလိပ်ဘာသာနဲ့တင်မဟုတ်ပဲ အခြားဘာသာတစ်ခုခုနဲ့လေ။

Or if you could ask our grandparents for advice and hear those comforting words

(သိူ့) ဘိုးဘွားတွေကို ကျွန်တော်တို့နဲ့ အတူမရှိတာတောင် အကြံဉာဏ်တောင်းပြီး

even if they're no longer with us?

သူတို့နှစ်သိမ့်စကားတွေ ကြားနိုင်ရင်ရော

Or maybe using this tool, book authors, alive or not,

(သို့)ဖြစ်နိုင်တာက ဒီကိရိယာသုံးပြီး စာရေးဆရာတွေက အသက်ရှိတာ၊မရှိတာထက်

could read aloud all of their books for anyone interested.

စာအုပ်တွေကို စိတ်ဝင်စားသူတွေ အတွက်အသံထွက်ဖတ်ပြနိုင်ရင်ရော

The creative possibilities here are endless,

ဒီ ဖန်တီးနိုင်တဲ့ဖြစ်နိုင်ခြေတွေဟာ အဆုံးမဲ့ဖြစ်ပြီး

and to me, that's very exciting.

ကျွန်တော့အတွက် စိတ်လှုပ်ရှားစရာပါ။

And here's how it's working so far.

ဒါကတော့ လက်ရှိအထိ အလုပ်လုပ်ပုံပါ။

First, we introduce a new technique

ပထမ ပုံတိုင်းက 3D မျက်နှာပုံစံကို

that can reconstruct a high-detailed 3D face model from any image

လူကို 3D စကင်မရိုက်ပဲ အနုစိတ်ပြန်ဆက်စပ်ပေးတဲ့

without ever 3D-scanning the person.

နည်းညာသစ်တစ်ခုကို မိတ်ဆက်တယ်။

And here's the same output model from different views.

ဒီမှာတော့ မတူတဲ့အမြင်တွေကနေ ပုံစံတူထုတ်ထားတဲ့ဟာပါ။

This also works on videos,

ဒါက ဗီဒီယိုမှာလည်း အလုပ်ဖြစ်တယ်

by running the same algorithm on each video frame

ဗီဒီယိုဘောင်းတစ်ဘက်စီမှာ အလားတူ အယ်လ်ဂိုရစ်သမ်သုံးကာ

and generating a moving 3D model.

3D ပုံစံကိုထုတ်ရင်းကနေပါ။

And here's the same output model from different angles.

ဟောဒီမှာ မတူညီတဲ့ထောင့်တွေကနေ ပုံစံတူထုတ်ထားတာပါ။

It turns out this problem is very challenging,

ဒီပြဿနာက အတော်စိန်ခေါ်စရာ ဖြစ်သွားပေမဲ့

but the key trick is that we are going to analyze

အဓိက အချက်က လူတစ်ဦးရဲ့ ဓာတ်ပုံအစုကြီးတစ်ခုကို

a large photo collection of the person beforehand.

ကြိုတင်ပြီး သရုပ်ခွဲတော့မှာပါ။

For George W. Bush, we can just search on Google,

George W. Bush အတွက် ဂူဂဲလ်မှာ ရှာကြည့်နိုင်ပြီး

and from that, we are able to build an average model,

ဒါကနေ သာမန်ပုံစံတစ်ခုတည်ဆောက်ဖို့ တတ်နိုင်ပါတယ်။

an iterative, refined model to recover the expression

ပါးရေနားရေတွန့်ကြောင်းတွေလို အနုစိတ် မျက်နှာအမူအရာကို ပြန်ထေမိဖို့

in fine details, like creases and wrinkles.

အထပ်ထပ်လုပ်ထားတဲ့ ခန့်ညားတဲ့ပုံစံတစ်ခုပါ။

What's fascinating about this

ဒါနဲ့ပတ်သက်ပြီးစိတ်ဝင်စားစရာက

is that the photo collection can come from your typical photos.

ဓာတ်ပုံအစုဟာ သင့်ရဲ့ရိုးရိုးဓာတ်ပုံတွေကနေ ရနိုင်တာပါ။

It doesn't really matter what expression you're making

ဘယ်မျက်နှာအမူအရာ သင်လုပ်နေတာ (သို့)ဘယ်လို ရိုက်ထားတာက

or where you took those photos.

တကယ် အရေးမကြီးပါဘူး။

What matters is that there are a lot of them.

အရေးကြီးတာက ဒါတွေအများကြီးရှိတာပါ။

And we are still missing color here,

ဒီမှာ အရောင်လိုနေတုန်းပဲနော်။

so next, we develop a new blending technique

နောက်တော့ သာမန်ပုံစံတစ်ခုတည်းကို မွမ်းမံပေးပြီး

that improves upon a single averaging method

ပြတ်သားတဲ့ မျက်နှာအနေအထားနဲ့ အရောင်ကို

and produces sharp facial textures and colors.

ထုတ်ပေးတဲ့ အရောင်စပ် နည်းပညာတစ်ခုထွင်ပါတယ်။

And this can be done for any expression.

ဒါကို ဘယ်မျက်နှာအနေထား အတွက်မဆို လုပ်နိုင်ပါတယ်။

Now we have a control of a model of a person,

လူပုံစံတစ်ခုရဲ့ အထိန်းခလုတ်တစ်ခု ရှိပါတယ်၊

and the way it's controlled now is by a sequence of static photos.

ထိန်းချုပ်ပုံကတော့ ရုပ်ငြိမ်ဓာတ်ပုံတွေရဲ့ အစဉ်တစ်ခုနဲ့ပါ။

Notice how the wrinkles come and go, depending on the expression.

မျက်နှာအမူအရာလိုက်ကာ အရေးအကြောင်းတွေ ​ပေါ်ပုံပျောက်ပုံကို သတိပြုပါ

We can also use a video to drive the model.

ဒီပုံစံကိုမောင်းဖို့ ဗီဒီယိုတစ်ခုကိုလည်း သုံးနိုင်ပါတယ်။

(Video) Daniel Craig: Right, but somehow,

(ဗီဒီယို) Daniel Craig: ဒါပေမဲ့ တစ်နည်းနည်းနဲ့တော့

we've managed to attract some more amazing people.

ပုံများတဲ့ အံ့ဖွယ်လူတစ်ချို့ကို ကျွန်တော်တို့ ဆွဲဆောင်နိုင်ပါပြီ။

SS: And here's another fun demo.

SS:ဒီမှာ နောက် ရယ်စရာသရုပ်ပြကွက်ပါ

So what you see here are controllable models

မြင်ကြရတာတွေက သူတို့ရဲ့အင်တာနက်ဓာတ်ပုံတွေကနေ

of people I built from their internet photos.

ဆောက်ထားတဲ့ လူတွေရဲ့ ထိန်းချုပ်လို့ရတဲ့ ပုံစံတွေပါ။

Now, if you transfer the motion from the input video,

ကဲ၊ သွင်းထာတဲ့ဗီဒီယိုကနေ လှုပ်ရှားမှုကို ကူးပြောင်းလိုက်ရင်

we can actually drive the entire party.

အဖွဲ့တစ်ခုလုံးကို တကယ် မောင်းနိုင်ပါတယ်။

George W. Bush: It's a difficult bill to pass,

George W. Bush: အတည်ပြုဖို့ ခက်တဲ့ဥပဒေကြမ်းပါ

because there's a lot of moving parts,

လှုပ်ရှားနေတဲ့အပိုင်းတွေ အများကြီးရှိပြီး

and the legislative processes can be ugly.

ဥပဒေပြု လုပ်ငန်းစဉ်က ရုပ်ဆိုးသွားနိုင်လို့ပါ။

(Applause)

(လက်ခုပ်သံများ)

SS: So coming back a little bit,

SS: ဒီတော့ နည်းနည်းလေးနောက်ပြန်မယ်၊

our ultimate goal, rather, is to capture their mannerisms

နောက်ဆုံးပန်းတိုင်က အတိအကျဆိုရရင် သူတို့ရဲ့ဟန်အမူမရာတွေ (သို့)

or the unique way each of these people talks and smiles.

ဒီလူတစ်ဦးစီရဲ့ ​ေပြာပုံ၊ ပြုံးပုံတွေရဲ့ ထူးခြားမှုကိုဖမ်းယူဖို့ပါ

So to do that, can we actually teach the computer

ဒီတော့ ဒါလုပ်ဖို့ ကွန်ပြူတာကို

to imitate the way someone talks

ဒီလူရဲ့ ဗီဒီယိုရုပ်ရှင်ကို ပြသခြင်းနဲ့ကို

by only showing it video footage of the person?

တစ်ဦးဦး ဟောပြောပုံကို တုပဖို့ တကယ်သင်ပေးနိုင်လား။

And what I did exactly was, I let a computer watch

ကျွန်တော်အတိအကျလုပ်ခဲ့တာက Barack Obama စစ်စစ်

14 hours of pure Barack Obama giving addresses.

မိန့်ခွန်းပြောနေတာကို ၁၄ နာရီ ကျွန်ပြူတာကိုပေးကြည့်လိုက်တယ်။

And here's what we can produce given only his audio.

ဟောဒါက သူ့ရဲ့အသံကို ပေးရုံနဲ့ ကျွန်တော်တို့ ထုတ်လုပ်နိုင်တာပါ။

(Video) BO: The results are clear.

(ဗီဒီယို)BO: ရလဒ်တွေက ရှင်းပါတယ်။

America's businesses have created 14.5 million new jobs

အမေရိကရဲ့ လုပ်ငန်းတွေက ဆက်တိုက် ၇၅ လ ကျော်မှာအလုပ်အကိုင်သစ်

over 75 straight months.

၁၄,၅ သန်းကို ဖန်တီးပေးပြီးပြီ။

SS: So what's being synthesized here is only the mouth region,

SS: ဒီတော့ ဒီမှာ ဖန်တီးနေတာက ပါးစပ်ဝန်းကျင်မှာပါပဲ၊

and here's how we do it.

ဟောဒီမှာ လုပ်တဲ့ပုံပါ။

Our pipeline uses a neural network

ကျွန်တော်တို့ အလုပ်စဉ်က အသံပြောင်းဖို့

to convert and input audio into these mouth points.

ပါးစပ်နေရာတွေထဲ ထည့်ဖို့ အာရုံကြောကွန်ရက်ကိုသုံးတယ်

(Video) BO: We get it through our job or through Medicare or Medicaid.

(ဗီဒီယို)BO: ဒါကို ကွန်တော်တို့ အလုပ်ကနေ (သို့) Medicare (ဝါ) Medicaid ကနေ ရပါတယ်။

SS: Then we synthesize the texture, enhance details and teeth,

SS: ဒီနောက် အသားကို ဖန်တီးတယ်၊ အနုစိတ်နဲ့ သွားကို ပိုကောင်းအောင်လုပ်ပြီး

and blend it into the head and background from a source video.

ဦးခေါင်းနဲ့ မူရင်းဗီဒီယိုက နောက်ခံမှာ ရောစပ်လိုက်ပါတယ်။

(Video) BO: Women can get free checkups,

ဗီဒီယို)BO: အမျိုးသမီးတေွဟာ အခမဲ့

and you can't get charged more just for being a woman.

ဆေးစစ်နိုင်ကာ အမျိုးသမီဖြေစ်လို့ပဲ ပိုအတောင်းမခံရနိုင်ပါဘူး။

Young people can stay on a parent's plan until they turn 26.

လူငယ်တွေဟာ ၂၆ နှစ်ပြည့်တဲ့အထိ မိဘရဲ့ အစီအစဉ်မှာ နေနိုင်ပါတယ်။

SS: I think these results seem very realistic and intriguing,

SS: ဒီရလဒ်တွေဟာ လက်တွေ့ကျပြီး စိတ်ဝင်စားစရာထင်ရပေမဲ့

but at the same time frightening, even to me.

တစ်ချိန်တည်းမှာကျွန်တော့အတွက်တောင် ကြောက်ရာကောင်းတယ်လို့ ထင်ပါတယ်။

Our goal was to build an accurate model of a person, not to misrepresent them.

ပန်းတိုင်က တိကျတဲ့ လူတစ်ဦးရဲ့ပုံစံကို တည်ဆောက်ဖို့၊ မှားယွင်းဖော်ပြဖို့မဟုတ်ဘူး။

But one thing that concerns me is its potential for misuse.

ဒါပေမဲ့ ပူပန်မတာက ၎င်းရဲ့ အလွဲသုံးစားလုပ်မှု ဖြစ်လာနိုင်ခြေပါ။

People have been thinking about this problem for a long time,

ဒီပြဿနာအကြောင်း တွေးနေကြတာ အတော်ကြာပါပြီ၊

since the days when Photoshop first hit the market.

Photoshop စျေးကွက်ထဲကို ဦးဆုံးဝင်လာကတည်းကပါ။

As a researcher, I'm also working on countermeasure technology,

သုတေသီအဖြစ်နဲ့ တန်ပြန်ရေး အစီအမံ နည်းပညာမှာလည်း လုပ်နေပြီး

and I'm part of an ongoing effort at AI Foundation,

AI Foundation မှာ ကြိုပမ်းဆဲတစ်ခုရဲ့ အစိတ်အပိုင်းပါ၊

which uses a combination of machine learning and human moderators

ဒါက ရုပ်ပုံနဲ ဗီဒီယိုအတုတွေကို ရှာဖွေသိရှိဖို့ စက်သင်ကြားရေးနဲ့

to detect fake images and videos,

လူသားစိစစ်သူရဲ့ပူးပေါင်းမှုကို အသုံးပြုတယ်။

fighting against my own work.

ကိုယ့်အလုပ်ကို တိုက်ခိုက်ရင်းပါ

And one of the tools we plan to release is called Reality Defender,

ဖြန့်ချီဖို့ စီစဉ်တဲ့ ကိရိယာတစ်ခုက Reality Defender လို့ခေါ်ပါတယ်။

which is a web-browser plug-in that can flag potentially fake content

ရှာဖွေရေးကိရိယာထဲမှာအလိုအလျောက် တွဲထားတဲ့ အကြောင်းအရာအတုကို သိအောင်

automatically, right in the browser.

လုပ်ပေးနိုင်ခြေရှိတဲ့ ဝက်ဘ်ရှာဖွေရေးကိရိယာပါ။

(Applause)

(လက်ခုပ်သံများ)

Despite all this, though,

ဒါတွေရှိတယ်ဆိုပေမဲ့လည်း

fake videos could do a lot of damage,

ဗီဒီယိုအတုတွေက အများကြီးထိခိုက်ပါတယ်

even before anyone has a chance to verify,

တစ်ဦးဦးကစစ်ဆေးအတည်ပြုခွင့် မရခင်မှာတောင်

so it's very important that we make everyone aware

အလွန်အရေးကြီးတာက လက်ရှိဖြစ်နိုင်ခြေကို

of what's currently possible

လူတိုင်း သတိပြုမိစေအောင်လုပ်ဖို့

so we can have the right assumption and be critical about what we see.

မှန်ကန်တဲ့ယူဆချက်ရှိပြီး မြင်တာနဲ့ ပတ်သက်ပြီးနှိုင်းချိန်စေတတ်ဖို့ပါ။

There's still a long way to go before we can fully model individual people

လူတစ်ဦးချင်းစီကို အပြည့်အဝ ပုံစံ မထုတ်နိုင်ခင်၊ ဒီနည်းပညာရဲ့ စိတ်ချရမှုကို

and before we can ensure the safety of this technology.

သေချာအောင်မလုပ်နိုင်ခင် အဝေးကြီးလိုပါသေးတယ်။

But I'm excited and hopeful,

ဒါပေမဲ့ စိတ်လှုပ်ရှား၊ပြီး

because if we use it right and carefully,

မျှော်လင့်တာက ဒါကို မှန်ကန်စွာ ဂရုတစိုက် သုံးရင်

this tool can allow any individual's positive impact on the world

ဒီကိရိယာက ကမ္ဘာပေါ်မှာ လူတစ်ဦးချင်းရဲ့ အပြုသဘော သက်ရောက်မှုကို

to be massively scaled

ထူးခြားစွာ အချိုးကိုက်ပြီး

and really help shape our future the way we want it to be.

ကျနော်တို့ဖြစ်ချင်တဲ့အနာဂတ်ကို ကူညီပုံဖော်ခွင့်ပေးလို့ပါ။

Thank you.

ကျေးဇူးတင်ပါတယ်။

(Applause)

(လက်ခုပ်သံများ)