Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: Kelwalin Dhanasarnsombut Reviewer: Chatthip Chaichakan

Look at these images.

ลองดูภาพพวกนี้นะครับ

Now, tell me which Obama here is real.

ทีนี้บอกผมได้ไหมครับว่า โอบามาตัวจริงอยู่ในภาพไหน

(Video) Barack Obama: To help families refinance their homes,

(วีดีโอ) บารัค โอบามา: เพื่อช่วยปลดหนี้ในครัวเรือน

to invest in things like high-tech manufacturing,

เพื่อการลงทุนกับการผลิต ผลิตภัณฑ์ที่ทันสมัย

clean energy

พลังงานสะอาด

and the infrastructure that creates good new jobs.

และสาธารณูปโภค ที่สร้างงานใหม่ที่มีคุณภาพ

Supasorn Suwajanakorn: Anyone?

ศุภศรณ์ สุวจนกรณ์: บอกได้ไหมครับ

The answer is none of them.

คำตอบคือ ตัวปลอมหมดเลยครับ

(Laughter)

(เสียงหัวเราะ)

None of these is actually real.

ไม่มีภาพไหนเลยที่เป็นของจริง

So let me tell you how we got here.

ผมจะเล่าให้ฟัง ว่าเรามาถึงจุดนี้ได้อย่างไร

My inspiration for this work

แรงบันดาลใจสำหรับงานนี้

was a project meant to preserve our last chance for learning about the Holocaust

มาจากโครงการที่มุ่งจะรักษาโอกาสสุดท้าย ที่เราจะได้เรียนรู้เรื่องกับการสังหารหมู่

from the survivors.

จากผู้รอดชีวิต

It's called New Dimensions in Testimony,

โครงการนี้ชื่อว่า นิว ไดเมนชั่น อิน เทสทิโมนี

and it allows you to have interactive conversations

คุณจะสามารถสนทนาโต้ตอบได้

with a hologram of a real Holocaust survivor.

กับโฮโลแกรม ของผู้รอดชีวิตจริงจากการสังหารหมู่

(Video) Man: How did you survive the Holocaust?

(วีดีโอ) ผู้ชาย: คุณรอดชีวิต จากการสังหารหมู่มาได้อย่างไรครับ

(Video) Hologram: How did I survive?

(วีดีโอ) โฮโลแกรม: ผมน่ะหรอ

I survived,

ผมเชื่อว่า

I believe,

ที่ผมรอดมาได้

because providence watched over me.

ก็เพราะลิขิตจากพระผู้เป็นเจ้า

SS: Turns out these answers were prerecorded in a studio.

ศุภศรณ์: คำตอบเหล่านี้ ได้รับการบันทึกเอาไว้ก่อนในห้องอัด

Yet the effect is astounding.

ถึงอย่างนั้น ผลที่ออกมาก็น่าทึ่งมาก

You feel so connected to his story and to him as a person.

เรารู้สึกผูกพันกับเรื่องเราวและตัวตนของเขา

I think there's something special about human interaction

ผมคิดว่ามีสิ่งพิเศษบางอย่าง ในความสัมพันธ์ของมนุษย์

that makes it much more profound

ที่ทำให้มันลึกซึ้งยิ่งกว่า

and personal

และมีความจำเพาะต่อตัวบุคคล

than what books or lectures or movies could ever teach us.

มากกว่าที่หนังสือ การบรรยาย หรือภาพยนต์จะสอนเราได้

So I saw this and began to wonder,

ผมเห็นแล้วก็เริ่มคิดว่า

can we create a model like this for anyone?

เราจะสร้างแบบจำลองในลักษณะนี้ สำหรับคนอื่นได้ไหม

A model that looks, talks and acts just like them?

แบบจำลองที่มีหน้าตา การพูด และท่าทางเหมือนกับเจ้าตัว

So I set out to see if this could be done

ผมจึงเริ่มลองดูว่าจะทำได้หรือไม่

and eventually came up with a new solution

และในที่สุดก็พบกับวิธีการใหม่

that can build a model of a person using nothing but these:

ในการสร้างแบบจำลองมนุษย์ โดยไม่ต้องใช้อะไรอีกเลยนอกจาก

existing photos and videos of a person.

ภาพถ่ายที่มีอยู่และวีดีโอของคนคนนั้น

If you can leverage this kind of passive information,

ถ้าคุณใช้ประโยชน์จากข้อมูลที่หาได้ไม่ยาก

just photos and video that are out there,

เช่น ภาพถ่ายและวีดีโอที่มีอยู่มากมาย

that's the key to scaling to anyone.

นั่นแหละ กุญแจสำคัญที่ทำให้เรา ใช้แบบจำลองนี้กับใครก็ได้

By the way, here's Richard Feynman,

อ้อ นี่คือริชาร์ด ไฟน์แมน

who in addition to being a Nobel Prize winner in physics

ผู้ที่นอกจากจะได้รับรางวัลโนเบล สาขาฟิสิกส์แล้ว

was also known as a legendary teacher.

ยังเป็นครูระดับตำนานอีกด้วย

Wouldn't it be great if we could bring him back

มันจะเจ๋งแค่ไหน ถ้าเรานำเขากลับมาได้

to give his lectures and inspire millions of kids,

เพื่อให้เขาบรรยาย และเป็นแรงบันดาลใจกับเด็กนับล้าน

perhaps not just in English but in any language?

จะให้เขาพูดเป็นภาษาอะไรก็ได้ ไม่จำเป็นต้องเป็นภาษาอังกฤษอย่างเดียว

Or if you could ask our grandparents for advice and hear those comforting words

หรือเราสามารถพูดกับคุณตาคุณยาย เพื่อขอคำแนะนำและกำลังใจจากพวกท่านได้

even if they're no longer with us?

แม้ว่าพวกท่านจะไม่ได้อยู่กับเราแล้ว

Or maybe using this tool, book authors, alive or not,

หรือแม้กระทั่งให้นักเขียน ผู้ที่อาจเสียชีวิตไปแล้วหรือยังมีชีวิตอยู่

could read aloud all of their books for anyone interested.

สามารถอ่านหนังสือของพวกเขา ให้กับผู้ที่สนใจได้

The creative possibilities here are endless,

มันมอบโอกาสในเชิงสร้างสรรค์ อย่างไม่มีที่สิ้นสุด

and to me, that's very exciting.

สำหรับผมแล้ว มันน่าตื่นเต้นมากครับ

And here's how it's working so far.

ถึงตอนนี้ ขั้นตอนของมันเป็นดังต่อไปนี้ครับ

First, we introduce a new technique

เริ่มด้วยการใช้เทคโนโลยีใหม่

that can reconstruct a high-detailed 3D face model from any image

ที่สามารถสร้างแบบจำลองหน้าสามมิติ ที่มีความละเอียดสูงขึ้นใหม่จากภาพ

without ever 3D-scanning the person.

โดยไม่ต้องสแกนคนด้วยระบบสามมิติ

And here's the same output model from different views.

และนี่คือแบบจำลองที่เป็นผลลัพธ์ จากมุมที่แตกต่างกัน

This also works on videos,

มันยังใช้ได้กับวีดีโออีกด้วย

by running the same algorithm on each video frame

โดยใช้อัลกอริธึมเดียวกัน ในแต่ละเฟรมของวีดีโอ

and generating a moving 3D model.

และสร้างมันเป็นแบบจำลองสามมิติ ที่เคลื่อนไหวได้

And here's the same output model from different angles.

และนี่คือแบบจำลองที่เป็นผลลัพธ์ จากมุมที่ต่างกัน

It turns out this problem is very challenging,

ปัญหานี้ท้าทายมาก ๆ

but the key trick is that we are going to analyze

แต่เคล็ดลับก็คือ เราจะทำการวิเคราะห์

a large photo collection of the person beforehand.

ชุดภาพของคนจำนวนมาก ๆ เอาไว้ล่วงหน้า

For George W. Bush, we can just search on Google,

สำหรับ จอร์จ ดับเบิลยู. บุช เราใช้แค่การค้นหาในกูเกิล

and from that, we are able to build an average model,

จากนั้น เราก็จะสามารถ สร้างแบบจำลองโดยเฉลี่ย

an iterative, refined model to recover the expression

และแบบจำลองที่ได้รับการปรับปรุงซ้ำ ๆ

in fine details, like creases and wrinkles.

เพื่อให้ได้รายละเอียดของการแสดงสีหน้า เช่น รอยย่นต่าง ๆ

What's fascinating about this

ที่น่าทึ่งก็คือ

is that the photo collection can come from your typical photos.

ชุดภาพถ่ายอาจเป็นภาพถ่ายทั่ว ๆ ไป

It doesn't really matter what expression you're making

ไม่สำคัญเลยว่าจะแสดงสีหน้าอะไรอยู่

or where you took those photos.

หรือภาพนั้นจะถูกถ่ายที่ไหน

What matters is that there are a lot of them.

ที่สำคัญก็คือ เราจะต้องหาภาพให้ได้มาก ๆ

And we are still missing color here,

ถึงตรงนี้ เรายังขาดสีอยู่

so next, we develop a new blending technique

ต่อไปเราก็จะใช้เทคนิคการทำให้กลมกลืน

that improves upon a single averaging method

ทำให้มันดีขึ้น ด้วยการปรับสมดุลเพียงครั้งเดียว

and produces sharp facial textures and colors.

และให้ผิวหน้าที่คมชัดและมีสี

And this can be done for any expression.

เราสามารถใช้เทคนิคนี้ ได้กับทุกการแสดงสีหน้า

Now we have a control of a model of a person,

ตอนนี้ เราสามารถควบคุม แบบจำลองมนุษย์ได้

and the way it's controlled now is by a sequence of static photos.

โดยใช้ชุดของภาพถ่ายที่เป็นภาพนิ่ง

Notice how the wrinkles come and go, depending on the expression.

ลองสังเกตดูนะครับว่า รอยย่น จะเปลี่ยนไปตามการแสดงสีหน้า

We can also use a video to drive the model.

เรายังสามารถใช้วีดีโอ ในการบังคับแบบจำลองได้อีกด้วย

(Video) Daniel Craig: Right, but somehow,

(วีดีโอ) แดเนียล เครก: เอาล่ะ ไม่ว่าด้วยวิธีการใด

we've managed to attract some more amazing people.

เราก็ดึงดูดคนที่เจ๋งกว่าเข้ามา

SS: And here's another fun demo.

ศุภศรณ์: และนี่ก็เป็นอีกตัวอย่างสนุก ๆ

So what you see here are controllable models

ที่คุณเห็นอยู่ตอนนี้ คือแบบจำลองมนุษย์ที่บังคับได้

of people I built from their internet photos.

ที่ผมสร้างมันจากภาพถ่าย ที่พบได้ในอินเทอร์เน็ต

Now, if you transfer the motion from the input video,

ทีนี้ ถ้าคุณถ่ายทอดการเคลื่อนไหว จากวีดีโอต้นทาง

we can actually drive the entire party.

เราก็จะสามารถควบคุมคนทั้งกลุ่มนี้ได้

George W. Bush: It's a difficult bill to pass,

จอร์จ ดับเบิลยู. บุช: มันยากนะที่จะผ่านกฎหมายนี้ออกมา

because there's a lot of moving parts,

เพราะว่ามีหลายส่วนที่ยังไม่นิ่ง

and the legislative processes can be ugly.

และกระบวนการทางนิติบัญญัติ ก็อาจดูไม่ดีนัก

(Applause)

(เสียงปรบมือ)

SS: So coming back a little bit,

ศุภศรณ์: ย้อนกลับมานิดนึงนะครับ

our ultimate goal, rather, is to capture their mannerisms

เป้าหมายสุดยอดของเรา คือการจับกริยาท่าทางของพวกเขา

or the unique way each of these people talks and smiles.

หรือการพูดหรือยิ้มของคนเหล่านี้ ที่มีความเป็นเอกลักษณ์

So to do that, can we actually teach the computer

เพื่อที่จะทำเช่นนั้น เราจะสามารถสอนให้คอมพิวเตอร์

to imitate the way someone talks

ลอกแบบวิธีการพูดของใครสักคนได้ไหม

by only showing it video footage of the person?

โดยแค่ป้อนวีดีโอของคนคนนั้นเข้าไป

And what I did exactly was, I let a computer watch

สิ่งที่ผมทำก็คือให้คอมพิวเตอร์ดูวีดีโอ

14 hours of pure Barack Obama giving addresses.

ที่มีแต่การปราศรัยของโอบามา ความยาว 14 ชั่วโมง

And here's what we can produce given only his audio.

และนี่คือสิ่งที่เราผลิตได้ โดยให้แค่เสียงพูดของเขา

(Video) BO: The results are clear.

(วีดีโอ) โอบามา: ผลลัพธ์นั้นชัดเจน

America's businesses have created 14.5 million new jobs

ธุรกิจของอเมริกา ทำให้เกิดงานใหม่ถึง 14.5 ล้านตำแหน่ง

over 75 straight months.

อย่างต่อเนื่องตลอด 75 เดือน

SS: So what's being synthesized here is only the mouth region,

ศุภศรณ์: สิ่งที่ถูกประดิษฐ์ขึ้นในที่นี้ มีเพียงส่วนปาก

and here's how we do it.

เราทำแบบนี้ครับ

Our pipeline uses a neural network

ระบบของเราใช้เครือข่ายประสาท

to convert and input audio into these mouth points.

แปรเสียงพูดที่ป้อนเข้าไป เป็นจุดตำแหน่งบนปาก

(Video) BO: We get it through our job or through Medicare or Medicaid.

(วีดีโอ) โอบามา: มันมาจากงานของเรา หรือจากโครงการประกันสุขภาพ

SS: Then we synthesize the texture, enhance details and teeth,

ศุภศรณ์: เมื่อเราประดิษฐ์พื้นผิวขึ้น เสริมรายละเอียดและฟัน

and blend it into the head and background from a source video.

และทำให้มันกลมกลืนกับศีรษะ และพื้นหลังของวีดีโอต้นฉบับ

(Video) BO: Women can get free checkups,

(วีดีโอ) โอบามา: ผู้หญิง สามารถรับบริการตรวจร่างกายได้

and you can't get charged more just for being a woman.

และคุณจะไม่ต้องจ่ายเงินเพิ่ม ด้วยเหตุผลที่คุณเป็นผู้หญิง

Young people can stay on a parent's plan until they turn 26.

เยาวชนสามารถที่จะคงสถานะ ในแผนการของผู้ปกครองได้ถึงอายุ 26 ปี

SS: I think these results seem very realistic and intriguing,

ศุภศรณ์: ผมคิดว่าผลลัพธ์เหล่านี้ ดูสมจริงแล้วก็มีเสน่ห์อย่างน่าทึ่ง

but at the same time frightening, even to me.

แต่ในเวลาเดียวกัน มันก็น่ากลัว แม้แต่กับผมเอง

Our goal was to build an accurate model of a person, not to misrepresent them.

เป้าหมายของเราคือการสร้างแบบจำลองมนุษย์ ที่สมจริง ไม่ใช่บิดเบือนตัวตนของพวกเขา

But one thing that concerns me is its potential for misuse.

แต่สิ่งหนึ่งที่ผมกังวล ก็คือการนำไปใช้อย่างไม่เหมาะสม

People have been thinking about this problem for a long time,

พวกเราพูดกันถึงปัญหานี้มาตั้งนานแล้ว

since the days when Photoshop first hit the market.

ตั้งแต่ตอนที่โฟโตชอปออกวางขาย

As a researcher, I'm also working on countermeasure technology,

ในฐานะนักวิจัย ผมยังทำงาน ที่เกี่ยวข้องกับเทคโนโลยีที่ใช้รับมือกับสิ่งนี้

and I'm part of an ongoing effort at AI Foundation,

ผมเป็นส่วนหนึ่งของโครงการ ที่องค์กรเอไอ

which uses a combination of machine learning and human moderators

ซึ่งใช้การผสมผสานระหว่างการเรียนรู้ ของสมองกลและมนุษย์ผู้คอยกำกับ

to detect fake images and videos,

เพื่อตรวจจับภาพและวีดีโอปลอม

fighting against my own work.

ต่อต้านผลงานของผมเอง

And one of the tools we plan to release is called Reality Defender,

และหนึ่งในอุปกรณ์ที่เราวางแผน ที่จะเปิดตัวก็คือ เรียลริตี ดีเฟินเดอร์

which is a web-browser plug-in that can flag potentially fake content

ซึ่งเป็น ปลั๊กอิน สำหรับเว็บบราวเซอร์ ที่สามารถระบุข้อมูลเทียมได้

automatically, right in the browser.

โดยอัตโนมัติในบราวเซอร์นั้น

(Applause)

(เสียงปรบมือ)

Despite all this, though,

แม้ว่าเราจะมีสิ่งเหล่านี้

fake videos could do a lot of damage,

วีดีโอปลอมก็ยังสร้างความเสียหายได้มากมาย

even before anyone has a chance to verify,

ก่อนที่ใครสักคนจะมีโอกาสได้ตรวจสอบมัน

so it's very important that we make everyone aware

มันจึงสำคัญยิ่ง ที่เราจะทำให้ทุก ๆ คนตระหนัก

of what's currently possible

ว่ามันจะเกิดอะไรขึ้นได้บ้าง

so we can have the right assumption and be critical about what we see.

เพื่อที่เราจะสามารถสันนิษฐาน และวิจารณ์สิ่งที่เรารับชมอยู่ได้

There's still a long way to go before we can fully model individual people

เรายังต้องพัฒนาอะไรอีกมากก่อนที่เรา จะสามารถสร้างแบบจำลองมนุษย์ที่สมบูรณ์ได้

and before we can ensure the safety of this technology.

และก่อนที่เราจะรับรองความปลอดภัย ของเทคโนโลยีนี้ได้

But I'm excited and hopeful,

แต่ผมตื่นเต้นแล้วก็มีความหวัง

because if we use it right and carefully,

เพราะหากเราใช้มันอย่างเหมาะสม และระมัดระวังแล้ว

this tool can allow any individual's positive impact on the world

เครื่องมือนี้ก็จะทำให้ไม่ว่าใครก็ตาม สามารถส่งพลังบวกของเขา

to be massively scaled

ที่มีผลต่อโลกของเราออกไปในวงกว้าง

and really help shape our future the way we want it to be.

และช่วยปรับโฉมวิถีแห่งอนาคต ในอย่างที่เราอยากให้มันเป็น

Thank you.

ขอบคุณครับ

(Applause)

(เสียงปรบมือ)