Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Translator: Mim Amidi Reviewer: sadegh zabihi

Look at these images.

به این تصاویر نگاه کنید.

Now, tell me which Obama here is real.

به من بگویید کدام یک اوبامای واقعی است؟

(Video) Barack Obama: To help families refinance their homes,

(ویدیو) باراک اوباما: برای کمک به آنها که باید وام خود را تجدید کرده

to invest in things like high-tech manufacturing,

یا روی تولید به کمک فناوری‌های روز دنیا

clean energy

انرژی‌های پاک

and the infrastructure that creates good new jobs.

و زیرساخت‌ها برای مشاغل تازه سرمایه‌گذاری کنند.

Supasorn Suwajanakorn: Anyone?

سوپاسورن سوواجاناکورن: کسی فهمید؟

The answer is none of them.

جواب صحیح هیچ‌کدام از آنها است.

(Laughter)

(خنده)

None of these is actually real.

هیچ یک واقعی نیست.

So let me tell you how we got here.

فکر می‌کنید چطور به اینجا رسیدیم.

My inspiration for this work

الهام بخش من برای آغاز این کار

was a project meant to preserve our last chance for learning about the Holocaust

پروژه‌ای بود برای آنکه آخرین یافته‌های ما درباره هولوکاست را حفظ کند

from the survivors.

آنهم از زبان شاهدان زنده آن.

It's called New Dimensions in Testimony,

این پروژه که ابعاد جدید شهادت نام داشت،

and it allows you to have interactive conversations

به کاربران اجازه می‌داد صحبتی رودررو و کاملا تعاملی

with a hologram of a real Holocaust survivor.

با هولوگرام بازمانده واقعی از هولوکاست داشته باشند.

(Video) Man: How did you survive the Holocaust?

(ویدیو) مرد: چطور از هولوکاست جان سالم به در بردی؟

(Video) Hologram: How did I survive?

(ویدیو) هولوگرام: چطور جان سالم به در بردم؟

I survived,

من زنده ماندم،

I believe,

چون اعتقاد داشتم،

because providence watched over me.

در پناه خدا و فرشتگان هستم.

SS: Turns out these answers were prerecorded in a studio.

س س: حقیقت اینست که این پاسخ‌ها از قبل در استودیو ضبط شده بودند.

Yet the effect is astounding.

با این حال اثر آنها بی‌نظیر بود.

You feel so connected to his story and to him as a person.

این مرد می‌توانست احساس همدردی و نوع دوستی شما را برانگیزد.

I think there's something special about human interaction

باید چیزی خارق‌العاده در تعامل میان انسان‌ها وجود داشته باشد

that makes it much more profound

که آن را این همه قوی

and personal

و شخصی می‌کند

than what books or lectures or movies could ever teach us.

بیشتر از تمام چیزی که از کتاب‌ها سخنرانی‌ها و فیلم‌ها یاد گرفته‌اید.

So I saw this and began to wonder,

پس از دیدن این فیلم به فکر فرو رفتم،

can we create a model like this for anyone?

که آیا می‌توان مدلی شببه به آن را برای هر کسی خلق کرد؟

A model that looks, talks and acts just like them?

مدلی که بتواند مانند آنها نگاه کرده حرف زده و واکنش نشان بدهد؟

So I set out to see if this could be done

و تلاش کردم تا به نتیجه برسم

and eventually came up with a new solution

در نهایت به راه‌حل تازه‌ای رسیدم

that can build a model of a person using nothing but these:

که می‌توانست مدلی از یک فرد را با استفاده از حداقل‌ها ایجاد کند:

existing photos and videos of a person.

عکس‌ها و ویدئوهایی که از او وجود داشت.

If you can leverage this kind of passive information,

اگر بتوانید به بهترین شکل از این داده‌ها استفاده کنید،

just photos and video that are out there,

تنها عکس‌ها و ویدئوهایی که در اختیار دارید،

that's the key to scaling to anyone.

ابزار کافی است.

By the way, here's Richard Feynman,

حالا در اینجا ریچارد فاینمن را داریم،

who in addition to being a Nobel Prize winner in physics

یک فیزیکدان برنده جایزه نوبل

was also known as a legendary teacher.

و استادی افسانه‌ای.

Wouldn't it be great if we could bring him back

به نظرتان عالی نیست که او را به حیات برگردانیم

to give his lectures and inspire millions of kids,

تا برایمان سخنرانی کند و میلیون‌ها کودک را تحت تأثیر قرار بدهد،

perhaps not just in English but in any language?

آنهم نه تنها به زبان انگلیسی بلکه به تمامی زبان‌ها؟

Or if you could ask our grandparents for advice and hear those comforting words

یا اینکه پای صحبت‌های شیرین پدربزرگ‌ها و مادربزرگ‌هایمان بنشینیم

even if they're no longer with us?

در حالی که دیگر در قید حیات نیستند؟

Or maybe using this tool, book authors, alive or not,

یا از این تکنیک برای جان دادن به نویسندگان محبوبمان استفاده کنیم،

could read aloud all of their books for anyone interested.

تا کتاب‌هایشان را با صدای خود برای علاقمندان بازخوانی کنند.

The creative possibilities here are endless,

ایده‌های خلاقانه بسیاری در این حیطه وجود دارند،

and to me, that's very exciting.

و به شخصه برای من بسیار جذاب هستند.

And here's how it's working so far.

حالا به شیوه کار بپردازیم.

First, we introduce a new technique

در ابتدا تکنیک تازه‌ای خلق کردیم

that can reconstruct a high-detailed 3D face model from any image

که می‌توانست طرح سه بعدی دقیقی از هر تصویری را بازسازی کند

without ever 3D-scanning the person.

بدون آنکه به اسکن سه بعدی فرد نیازی داشته باشد.

And here's the same output model from different views.

این همان مدل نهایی از زوایای گوناگون است.

This also works on videos,

همین تکنیک در ویدئو کاربرد دارد،

by running the same algorithm on each video frame

با به کارگیری الگوریتمی یکسان در هر فریم از ویدئو

and generating a moving 3D model.

و خلق یک مدل سه بعدی متحرک.

And here's the same output model from different angles.

این همان محصول نهایی است که از زوایای گوناگون دیده می‌شود.

It turns out this problem is very challenging,

به نظر می‌رسد این معما بسیار پیچیده باشد،

but the key trick is that we are going to analyze

اما فوت کوزه‌گری اینست که ما به بررسی

a large photo collection of the person beforehand.

مجموعه گسترده‌ای از تصاویر خواهیم پرداخت.

For George W. Bush, we can just search on Google,

برای جرج دبلیو. بوش تنها به جستجو در گوگل اکتفا کردیم،

and from that, we are able to build an average model,

و به کمک همان‌ها، موفق به ساخت مدلی متوسط شدیم،

an iterative, refined model to recover the expression

یک مدل شسته رفته و تعاملی که به خوبی می‌تواند

in fine details, like creases and wrinkles.

جزئیاتی ریز مانند چین و چروک صورت را نشان بدهد.

What's fascinating about this

نکته جالب توجه اینکه

is that the photo collection can come from your typical photos.

مجموعه عکس‌ها می‌تواند از عکس‌های روزمره شما گردآوری شود.

It doesn't really matter what expression you're making

این مهم نیست که حالات چهره شما چگونه است

or where you took those photos.

یا کجا این عکس‌ها را گرفته‌اید.

What matters is that there are a lot of them.

مهم اینست که تعداد زیادی در اختیار داشته باشید.

And we are still missing color here,

حالا نوبت به رنگ‌ها می‌رسد،

so next, we develop a new blending technique

ما از تکنیکی برای ترکیب آنها استفاده کرده‌ایم

that improves upon a single averaging method

که از روش‌های متوسط کنونی به مراتب بهتر است

and produces sharp facial textures and colors.

و بافت و رنگی زنده به چهره فرد می‌دهد.

And this can be done for any expression.

و می‌تواند برای تمامی حالات استفاده شود.

Now we have a control of a model of a person,

حالا ما کنترل یک مدل انسانی را در اختیار داریم،

and the way it's controlled now is by a sequence of static photos.

این کنترل به وسیله توالی از تصاویر ایستا ایجاد می‌شود.

Notice how the wrinkles come and go, depending on the expression.

به ظاهر و پنهان شدن چین و چروک‌ها در هنگام تغییر حالات دقت کنید.

We can also use a video to drive the model.

علاوه بر این می‌توانیم از ویدئو برای مدل خود استفاده کنیم.

(Video) Daniel Craig: Right, but somehow,

(ویدیو) دنیل کریگ: درسته، ولی گاهی،

we've managed to attract some more amazing people.

باید آدم های فوق‌العاده بیشتری جذب کنیم.

SS: And here's another fun demo.

س س: باز هم یک دموی جذاب دیگر.

So what you see here are controllable models

چیزی که اینجا می‌بینید مدل‌های قابل کنترل هستند

of people I built from their internet photos.

آنها را به کمک تصاویر موجود در اینترنت درست کرده‌ام.

Now, if you transfer the motion from the input video,

حالا اگر حرکت را از ویدئوی ورودی به اینجا منتقل کنیم،

we can actually drive the entire party.

همه چیز کامل خواهد شد.

George W. Bush: It's a difficult bill to pass,

جرج دبلیو. بوش: تصویب این لایحه ساده نیست،

because there's a lot of moving parts,

چون اجزای پیچیده بسیاری وجود دارد،

and the legislative processes can be ugly.

و فرایندهای قضایی می‌تواند ناخوشایند باشد.

(Applause)

(تشویق)

SS: So coming back a little bit,

س س: بیایید کمی به عقب برگردیم،

our ultimate goal, rather, is to capture their mannerisms

هدف نهایی ما در اینجا، تبعیت کامل از رفتار این افراد

or the unique way each of these people talks and smiles.

و شیوه یگانه هر یک از آنها در صحبت و لبخند زدن است.

So to do that, can we actually teach the computer

برای رسیدن به آن آیا می‌شود به رایانه یاد بدهیم

to imitate the way someone talks

که شیوه حرف زدن فرد را تقلید کرده

by only showing it video footage of the person?

و این کار را تنها به کمک نمایش ویدئوها انجام بدهیم؟

And what I did exactly was, I let a computer watch

این دقیقا کاری بود که من کردم، اجازه دادم که رایانه

14 hours of pure Barack Obama giving addresses.

۱۴ ساعت از صحبت‌های اوباما را تماشا کند.

And here's what we can produce given only his audio.

تنها کاری که باقی مانده بود اضافه کردن صدا بود.

(Video) BO: The results are clear.

(ویدیو) ب ا: نتیجه مشخص است.

America's businesses have created 14.5 million new jobs

کسب و کارهای آمریکایی ۱۴/۵ میلیون شغل جدید ایجاد کرده‌اند

over 75 straight months.

در طی ۷۵ ماه.

SS: So what's being synthesized here is only the mouth region,

س س: تنها چیزی که در این ویدئوها طراحی شده دهان اوباما است،

and here's how we do it.

و شیوه کار به این ترتیب است.

Our pipeline uses a neural network

سیستم ما از شبکه عصبی استفاده می‌کند

to convert and input audio into these mouth points.

تا صدا را تبدیل کرده و آن را به اجزای دهان منتقل کند.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(ویدیو) ب ا: ما تلاش می‌کنیم بیمه ملی را توسعه بدهیم.

SS: Then we synthesize the texture, enhance details and teeth,

پس از آن بافت را همگون کرده، و جزئیاتی مانند دندان‌ها،

and blend it into the head and background from a source video.

نحوه قرار گرفتن آنها در صورت و پشت زمینه را تصحیح می‌کنیم.

(Video) BO: Women can get free checkups,

(ویدیو) ب ا: زنان می‌توانند به چک آپ رایگان،

and you can't get charged more just for being a woman.

دسترسی داشته و هزینه بیشتری به دلیل زن بودن نداشته باشند.

Young people can stay on a parent's plan until they turn 26.

جوانان هم می توانند تا ۲۶ سالگی از بیمه والدین خود استفاده کنند،

SS: I think these results seem very realistic and intriguing,

س س: به نظرم این نتایج بسیار واقعی و قابل درک است،

but at the same time frightening, even to me.

و همزمان نگران کننده، حتی برای من.

Our goal was to build an accurate model of a person, not to misrepresent them.

هدف اصلی ما ساخت مدلی دقیق از فرد است نه اینکه چهره‌ای غلط از او نمایش بدهیم.

But one thing that concerns me is its potential for misuse.

چیزی که باعث نگرانی من می‌شود احتمال سوء‌استفاده است.

People have been thinking about this problem for a long time,

ما شاهد نمونه‌های متعددی در طول زمان بوده‌ایم،

since the days when Photoshop first hit the market.

از همان زمانی که فتوشاپ وارد بازار شد.

As a researcher, I'm also working on countermeasure technology,

من به عنوان محقق به شیوه‌هایی برای خلق فناوری‌های مقابله‌ای فکر می‌کنم،

and I'm part of an ongoing effort at AI Foundation,

و از سوی دیگر جزئی از بنیاد هوش مصنوعی هستم،

which uses a combination of machine learning and human moderators

که با استفاده از یادگیری ماشین و اپراتورهایی که انسان هستند

to detect fake images and videos,

ویدئوها و تصاویر ساختگی را تشخیص داده،

fighting against my own work.

به نوعی با کار خود من مقابله می‌کند.

And one of the tools we plan to release is called Reality Defender,

یکی از ابزارهایی که طراحی کرده‌ایم «محافظ واقعیت» نام دارد،

which is a web-browser plug-in that can flag potentially fake content

که بر روی مرورگر نصب شده و می‌تواند محتوای ساختگی احتمالی را نشان بدهد

automatically, right in the browser.

خودکار و درست روی مرورگر.

(Applause)

(تشویق)

Despite all this, though,

با تمام این تلاش‌ها،

fake videos could do a lot of damage,

باز هم ویدئوهای ساختگی می‌توانند،

even before anyone has a chance to verify,

خرابی‌های بسیاری را پیش از تشخیص به بار بیاورند،

so it's very important that we make everyone aware

می‌بینید که آگاه کردن کاربران بسیار مهم است

of what's currently possible

از اتفاقی که می‌تواند بیفتد

so we can have the right assumption and be critical about what we see.

پس با آگاهی است که می‌توانیم درست تشخیص داده و با دقت ببینیم.

There's still a long way to go before we can fully model individual people

برای طراحی مدل‌های انسانی هنوز راهی طولانی در پیش داریم

and before we can ensure the safety of this technology.

پیش از آن می‌توانیم در مورد امنیت این روش به نتیجه برسیم.

But I'm excited and hopeful,

اما من مشتاق و امیدوار هستم،

because if we use it right and carefully,

چون اگر از این ابزار درست و با دقت استفاده کنیم،

this tool can allow any individual's positive impact on the world

می‌تواند به هر فردی اجازه بدهد که تأثیر مثبتی روی جهان بگذارد

to be massively scaled

و در همه جای جهان دیده شود

and really help shape our future the way we want it to be.

و آینده ما را به آن شکلی که انتظار داریم شکل بدهد.

Thank you.

متشکرم.

(Applause)

(تشویق)