Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: Hiếu Trần Reviewer: Hoai Minh

Look at these images.

Hãy nhìn những hình ảnh này.

Now, tell me which Obama here is real.

Bạn nghĩ đâu là Obama thật?

(Video) Barack Obama: To help families refinance their homes,

(Video) B.O : để giúp các gia đình tái đầu tư vào nhà cửa,

to invest in things like high-tech manufacturing,

đầu tư vào sản xuất công nghệ cao,

clean energy

năng lượng sạch,

and the infrastructure that creates good new jobs.

và cơ sở hạ tầng để tạo ra việc làm mới.

Supasorn Suwajanakorn: Anyone?

Ai mới là thật?

The answer is none of them.

Câu trả lời là không ai cả.

(Cười)

(Laughter)

None of these is actually real.

Không ai trong số này là thật.

So let me tell you how we got here.

Tôi sẽ nói cho bạn cách chúng tôi làm chúng.

My inspiration for this work

Cảm hứng cho tôi làm việc này

was a project meant to preserve our last chance for learning about the Holocaust

là một dự án bảo tồn cơ hội để hiểu về thảm sát người Do Thái

from the survivors.

từ những người sống sót.

It's called New Dimensions in Testimony,

Nó có tên gọi là Chiều Không Gian Mới trong Lời Khai,

and it allows you to have interactive conversations

cho phép bạn thực hiện những cuộc đối thoại tương tác

with a hologram of a real Holocaust survivor.

với hình ảnh ba chiều của những người sống sót sau thảm họa.

(Video) Man: How did you survive the Holocaust?

(Video) Làm thế nào ông sống sót qua thảm họa đó?

(Video) Hologram: How did I survive?

(Video) Ảnh 3D: Làm thế nào để sống sót ư?

I survived,

Tôi đã sống sót,

I believe,

tôi tin,

because providence watched over me.

là bởi vì Thượng đế dõi theo tôi.

SS: Turns out these answers were prerecorded in a studio.

SS: Thực ra, những câu trả lời đã được ghi lại từ trước trong một studio.

Yet the effect is astounding.

Nhưng hiệu ứng của nó thì thật đáng kinh ngạc.

You feel so connected to his story and to him as a person.

Bạn cảm thấy được tương tác trực tiếp với câu chuyện cũng như với chính ông ấy.

I think there's something special about human interaction

Tôi nghĩ tương tác giữa người và người có nhiều điểm đặc biệt

that makes it much more profound

khiến nó trở nên sâu sắc

and personal

và mang tính cá nhân nhiều hơn

than what books or lectures or movies could ever teach us.

so với sách vở, bài giảng hay phim ảnh.

So I saw this and began to wonder,

Tôi thấy vậy và bắt đầu tự hỏi

can we create a model like this for anyone?

liệu có thể tạo ra một mô hình như thế cho bất kì ai?

A model that looks, talks and acts just like them?

Một mô hình có thể nhìn, nói và hành động hệt như họ.

So I set out to see if this could be done

Tôi tìm hiểu xem liệu điều đó có khả thi

and eventually came up with a new solution

và cuối cùng, nghĩ ra một giải pháp mới

that can build a model of a person using nothing but these:

có thể tạo ra một mô hình người chỉ cần đến

existing photos and videos of a person.

những hình ảnh và video sẵn có của người đó.

If you can leverage this kind of passive information,

Nếu có thể tận dụng nguồn thông tin thụ động này,

just photos and video that are out there,

hình ảnh và video sẵn có,

that's the key to scaling to anyone.

đó sẽ là chìa khóa để mở rộng quy mô đến bất kì ai.

By the way, here's Richard Feynman,

Nhân tiện, đây là Richard Feynman,

who in addition to being a Nobel Prize winner in physics

người mà ngoài việc từng nhận giải Nobel vật lý

was also known as a legendary teacher.

còn được biết đến như một giáo viên huyền thoại.

Thật tuyệt vời nếu có thể đưa ông ấy trở lại

Wouldn't it be great if we could bring him back

to give his lectures and inspire millions of kids,

để giảng dạy và truyền cảm hứng cho hàng triệu đứa trẻ,

perhaps not just in English but in any language?

không chỉ bằng tiếng Anh mà có lẽ là bất kì ngôn ngữ nào?

Or if you could ask our grandparents for advice and hear those comforting words

Hay giả như bạn có thể nghe những lời khuyên và ủi an từ ông bà mình

even if they're no longer with us?

dù họ đã không còn bên ta?

Or maybe using this tool, book authors, alive or not,

Hay sử dụng công cụ này để nhà văn, dù còn sống hay đã khuất,

could read aloud all of their books for anyone interested.

có thể đọc thành lời những sáng tác của họ cho bất kỳ ai quan tâm.

The creative possibilities here are endless,

Có vô vàn khả năng sáng tạo ở đây,

and to me, that's very exciting.

và với tôi, điều đó thực sự thú vị.

And here's how it's working so far.

Và đây là cách nó hoạt động.

First, we introduce a new technique

Đầu tiên, tôi muốn giới thiệu một kỹ thuật mới

that can reconstruct a high-detailed 3D face model from any image

có thể dựng lại một gương mặt 3D sắc nét từ bất kỳ hình ảnh nào

without ever 3D-scanning the person.

mà không cần scan 3D người thật.

And here's the same output model from different views.

Và đây là các hình ảnh thu được từ các góc nhìn khác nhau.

This also works on videos,

Điều này cũng làm được trên video,

by running the same algorithm on each video frame

bằng cách dùng cùng một thuật toán cho mỗi khung video

and generating a moving 3D model.

và tạo một mô hình 3D chuyển động.

And here's the same output model from different angles.

Và đây là những mô hình thu được từ những góc độ khác nhau.

It turns out this problem is very challenging,

Hóa ra vấn đề này đầy thách thức,

but the key trick is that we are going to analyze

nhưng mánh khóe ở đây là chúng ta sẽ phân tích

a large photo collection of the person beforehand.

một lượng lớn hình ảnh của người đó trước.

For George W. Bush, we can just search on Google,

Ví dụ như George W. Bush, chúng ta chỉ cần tìm trên Google,

and from that, we are able to build an average model,

từ đó, chúng ta có thể xây dựng một mô hình tương đối,

an iterative, refined model to recover the expression

một mô hình được tinh chỉnh, có chiều sâu để khôi phục biểu cảm

in fine details, like creases and wrinkles.

từ những chi tiết nhỏ, như nếp nhăn.

What's fascinating about this

Một điều thật sự thú vị

is that the photo collection can come from your typical photos.

là bộ hình ảnh có thể được dựng lấy từ các tấm hình bình thường.

It doesn't really matter what expression you're making

Không quan trọng loại biểu cảm

or where you took those photos.

hay nơi chụp ảnh.

What matters is that there are a lot of them.

Quan trọng là số lượng lớn.

And we are still missing color here,

Vẫn còn thiếu màu sắc,

so next, we develop a new blending technique

nên tiếp đó, chúng tôi phát triển một kĩ thuật phối màu mới,

that improves upon a single averaging method

dựa trên phương pháp trung bình

and produces sharp facial textures and colors.

nhằm tạo ra bố cục và màu sắc rõ nét cho gương mặt.

And this can be done for any expression.

Và điều này có thể áp dụng cho bất kì biểu cảm nào.

Now we have a control of a model of a person,

Giờ, chúng ta có thể điều khiển mô hình của một người,

and the way it's controlled now is by a sequence of static photos.

và nhờ một chuỗi những hình ảnh tĩnh.

Notice how the wrinkles come and go, depending on the expression.

Hãy để ý những nếp nhăn xuất hiện và biến mất tùy theo biểu cảm.

Chúng ta cũng có thể sử dụng video để làm mô hình chuyển động.

We can also use a video to drive the model.

(Video) Daniel Craig: Right, but somehow,

(Video) Daniel Craig: Phải, nhưng bằng cách nào đó,

we've managed to attract some more amazing people.

chúng tôi đã tìm được cách thu hút thêm nhiều người tuyệt vời.

Đây là một ví dụ thú vị khác.

SS: And here's another fun demo.

So what you see here are controllable models

Những gì bạn thấy ở đây là các mô hình điều khiển được

of people I built from their internet photos.

mà tôi đã tạo ra từ hình ảnh của họ trên internet.

Now, if you transfer the motion from the input video,

Nếu chuyển cử động từ video ban đầu sang,

we can actually drive the entire party.

chúng ta có thể điều khiển cả nhóm.

George W. Bush: It's a difficult bill to pass,

G.W. Bush: Rất khó để thông qua những đạo luật đó

because there's a lot of moving parts,

bởi có nhiều bộ phận cùng hoạt động,

and the legislative processes can be ugly.

và quá trình lập pháp có thể trở nên xấu xí.

(Applause)

(Vỗ tay)

SS: So coming back a little bit,

Quay trở lại chủ đề,

our ultimate goal, rather, is to capture their mannerisms

mục đích cuối của chúng tôi, là nắm được nét đặc trưng,

hay cách nói và cười riêng biệt của mỗi người.

or the unique way each of these people talks and smiles.

So to do that, can we actually teach the computer

Để làm được như thế, liệu chúng ta có thể dạy máy tính

to imitate the way someone talks

bắt chước cách nói của một người

by only showing it video footage of the person?

chỉ bằng cách nhập vào các video của họ?

And what I did exactly was, I let a computer watch

Và chính xác những gì tôi làm, là để cho máy tính xem,

14 hours of pure Barack Obama giving addresses.

14 tiếng chỉ toàn là các bài nói chuyện của Barack Obama.

And here's what we can produce given only his audio.

Và đây là những gì ta có thể tạo ra chỉ từ bản thu âm của ông ấy.

(Video) BO: The results are clear.

(Video) BO: Kết quả rất rõ ràng.

America's businesses have created 14.5 million new jobs

Các công ty ở Mỹ đã tạo ra 14.5 triệu việc làm mới

over 75 straight months.

trong vòng 75 tháng liên tục.

SS: So what's being synthesized here is only the mouth region,

Những gì được tổng hợp ở đây nằm ở vùng miệng,

and here's how we do it.

và đây là cách chúng tôi làm nó.

Our pipeline uses a neural network

Chúng tôi sử dụng một mạng lưới thần kinh

to convert and input audio into these mouth points.

để biến đổi và chuyển âm thanh thành những điểm trên miệng.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Video) BO: Chúng ta đã đạt được mục đích nhờ có công việc, Medicare hoặc Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Sau đó, chúng tôi tổng hợp bố cục, làm rõ các chi tiết và răng,

and blend it into the head and background from a source video.

rồi ghép chúng vào phần đầu và phần nền từ đoạn phim gốc.

(Video) BO: Women can get free checkups,

(Video): Phụ nữ có thể tự do khám bệnh,

and you can't get charged more just for being a woman.

bạn sẽ không bị tính phí nhiều hơn vì bạn là phụ nữ.

Young people can stay on a parent's plan until they turn 26.

Giới trẻ có thể thuận theo sắp xếp của cha mẹ cho tới tuổi 26.

SS: I think these results seem very realistic and intriguing,

Tôi nghĩ những kết quả này rất chân thực và hấp dẫn,

but at the same time frightening, even to me.

đồng thời, cũng rất đáng sợ, ngay cả với bản thân tôi.

Our goal was to build an accurate model of a person, not to misrepresent them.

Mục đích của tôi là tạo mô hình chân thực của một người mà không bôi xấu họ.

But one thing that concerns me is its potential for misuse.

Nhưng điều tôi bận tâm đó là nguy cơ dùng nó vào sai mục đích.

People have been thinking about this problem for a long time,

Con người đã nghĩ về vấn đề này từ lâu,

since the days when Photoshop first hit the market.

từ ngày Photoshop lần đầu có mặt trên thị trường.

As a researcher, I'm also working on countermeasure technology,

Là một nhà nghiên cứu, tôi đang nghiên cứu những công nghệ đối phó,

and I'm part of an ongoing effort at AI Foundation,

và là thành viên của nỗ lực tại AI Foundation,

which uses a combination of machine learning and human moderators

sử dụng kết hợp học máy và con người điều hành

để phát hiện các bức ảnh và đoạn phim giả mạo,

to detect fake images and videos,

fighting against my own work.

chống lại chính dự án của tôi.

And one of the tools we plan to release is called Reality Defender,

Một trong các công cụ dự định phát hành tên là Reality Defender,

which is a web-browser plug-in that can flag potentially fake content

một bổ trợ trình duyệt có thể tự động báo cáo những nội dung giả

automatically, right in the browser.

tới trình duyệt chính.

(Applause)

(Vỗ tay)

Despite all this, though,

Tuy nhiên,

fake videos could do a lot of damage,

những video giả có thể gây thiệt hại,

even before anyone has a chance to verify,

ngay cả trước khi mọi người có cơ hội xác minh tính chân thật của nó.

so it's very important that we make everyone aware

Vì vậy, chúng tôi muốn mọi người biết

of what's currently possible

về những gì hiện có thể làm

so we can have the right assumption and be critical about what we see.

để ta có thể đánh giá và nhận xét đúng về những gì đang nhìn thấy.

There's still a long way to go before we can fully model individual people

Vẫn còn một chặng đường dài để có thể hoàn thiện mô hình một người

and before we can ensure the safety of this technology.

và bảo đảm tính an toàn của công nghệ này.

Nhưng tôi rất hào hứng và tràn đầy hy vọng,

But I'm excited and hopeful,

because if we use it right and carefully,

bởi nếu sử dụng đúng cách,

this tool can allow any individual's positive impact on the world

công cụ này cho phép phổ biến rộng rãi

mọi tác động tích cực của bất kì cá nhân nào,

to be massively scaled

and really help shape our future the way we want it to be.

và giúp định hình tương lai theo cách mà ta muốn.

Thank you.

Xin cảm ơn.

(Applause)

(Vỗ tay)