Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Переводчик: Alena Chernykh Редактор: Polina Nikitina

Look at these images.

Взгляните на изображения.

Now, tell me which Obama here is real.

А теперь скажите, на котором из них настоящий Обама.

(Video) Barack Obama: To help families refinance their homes,

(Видео) Барак Обама: Помочь семьям рефинансировать жильё,

to invest in things like high-tech manufacturing,

инвестировать в высокотехнологичное производство,

clean energy

экологичную энергию

and the infrastructure that creates good new jobs.

и инфраструктуру, которая создаёт новые рабочие места.

Supasorn Suwajanakorn: Anyone?

Супасорн Суваджанакорн: Кто-нибудь знает?

The answer is none of them.

Правильный ответ: ни на каком.

(Laughter)

(Смех)

None of these is actually real.

На самом деле все они поддельные.

So let me tell you how we got here.

Я расскажу вам, как мы это сделали.

My inspiration for this work

На это меня вдохновил проект,

was a project meant to preserve our last chance for learning about the Holocaust

предоставляющий нам последний шанс узнать правду о Холокосте

from the survivors.

от оставшихся в живых.

It's called New Dimensions in Testimony,

Он называется «Новые измерения в свидетельских показаниях»

and it allows you to have interactive conversations

и позволяет участвовать в интерактивном диалоге

with a hologram of a real Holocaust survivor.

с голограммами выживших жертв Холокоста.

(Video) Man: How did you survive the Holocaust?

(Видео) Мужчина: Как вы выжили во время Холокоста?

(Video) Hologram: How did I survive?

(Видео) Голограмма: Как я выжил?

I survived,

Я думаю,

I believe,

что я выжил,

because providence watched over me.

потому что так было угодно Богу.

SS: Turns out these answers were prerecorded in a studio.

СС: Оказывается, эти ответы были записаны в студии.

Yet the effect is astounding.

И всё же эффект поразительный.

You feel so connected to his story and to him as a person.

Чувствуется связь с историей его жизни и лично с самим человеком.

I think there's something special about human interaction

Есть нечто особенное в общении людей,

that makes it much more profound

что делает его более проникновенным

and personal

и личным,

than what books or lectures or movies could ever teach us.

чем любая информация из книг или фильмов.

So I saw this and began to wonder,

Увидев это, я задался вопросом:

can we create a model like this for anyone?

возможно ли создать подобную модель любого человека?

A model that looks, talks and acts just like them?

Модель, которая выглядит, говорит, ведёт себя как реальный человек?

So I set out to see if this could be done

Я решил выяснить, возможно ли это,

and eventually came up with a new solution

и в итоге придумал новую методику,

that can build a model of a person using nothing but these:

которая позволяет создать модель человека,

existing photos and videos of a person.

используя лишь его существующие фото и видео.

If you can leverage this kind of passive information,

Если можно воспользоваться данной пассивной информацией,

just photos and video that are out there,

только лишь имеющимися фото и видео,

that's the key to scaling to anyone.

то это ляжет в основу моделирования любого человека.

By the way, here's Richard Feynman,

Кстати, это Ричард Фейнман:

who in addition to being a Nobel Prize winner in physics

будучи лауреатом Нобелевской премии по физике,

was also known as a legendary teacher.

он также известен как выдающийся педагог.

Было бы здорово, если бы мы смогли воскресить его,

Wouldn't it be great if we could bring him back

to give his lectures and inspire millions of kids,

чтобы он прочёл свои лекции и вдохновил бы миллионы детей.

perhaps not just in English but in any language?

Возможно, не только на английском языке, но и на любом другом?

Or if you could ask our grandparents for advice and hear those comforting words

Или если можно было бы посоветоваться с покойными бабушками и дедушками

even if they're no longer with us?

и услышать их утешительные слова?

Or maybe using this tool, book authors, alive or not,

А может быть, при помощи этого устройства авторы книг, живые или нет,

could read aloud all of their books for anyone interested.

смогли бы прочесть вслух свои произведения любому желающему?

The creative possibilities here are endless,

Возможности творчества здесь безграничны,

and to me, that's very exciting.

и это меня завораживает.

And here's how it's working so far.

Вот как это работает сейчас.

First, we introduce a new technique

Во-первых, мы используем новую технику,

that can reconstruct a high-detailed 3D face model from any image

которая позволяет воссоздать сверхточную 3D-модель лица с любого изображения

without ever 3D-scanning the person.

без помощи 3D-сканирования человека.

And here's the same output model from different views.

Вот та же самая готовая модель с разных точек обзора.

This also works on videos,

Это работает и с видео:

by running the same algorithm on each video frame

мы запускаем этот же алгоритм на каждом видеокадре

and generating a moving 3D model.

и создаём движущуюся 3D-модель.

And here's the same output model from different angles.

А вот готовая модель с разных ракурсов.

It turns out this problem is very challenging,

На самом деле это довольно сложно,

but the key trick is that we are going to analyze

но главная хитрость в том, что мы заранее анализируем

a large photo collection of the person beforehand.

большу́ю коллекцию фотографий конкретного человека.

For George W. Bush, we can just search on Google,

Фотографии Джорджа Буша-младшего можно просто погуглить

and from that, we are able to build an average model,

и на их основе создать усреднённую модель,

an iterative, refined model to recover the expression

итеративную, высокоточную модель, чтобы воссоздать выражение лица

in fine details, like creases and wrinkles.

по таким мелким деталям, как складки и морщины.

What's fascinating about this

Самое увлекательное в том,

is that the photo collection can come from your typical photos.

что коллекция фотографий составляется из ваших обычных фото.

It doesn't really matter what expression you're making

Не имеет особого значения, какое выражение лица у вас было

or where you took those photos.

и где были сделаны эти фотографии.

What matters is that there are a lot of them.

Важно то, что их много.

And we are still missing color here,

Пока мы не можем сделать их цветными,

so next, we develop a new blending technique

поэтому следующий шаг — разработать новую технику смешивания,

that improves upon a single averaging method

которая усовершенствует основной алгоритм

and produces sharp facial textures and colors.

для создания чёткой текстуры лица и цвета.

And this can be done for any expression.

Это станет возможным для любой мимики.

Now we have a control of a model of a person,

Итак, мы добились контроля над моделью человека,

and the way it's controlled now is by a sequence of static photos.

который достигается последовательностью статических фотографий.

Notice how the wrinkles come and go, depending on the expression.

Заметьте, как появляются и исчезают морщинки в зависимости от выражения лица.

Чтобы управлять моделью, мы также можем использовать видео.

We can also use a video to drive the model.

(Video) Daniel Craig: Right, but somehow,

(Видео) Дэниел Крейг: Верно, но каким-то образом

we've managed to attract some more amazing people.

нам удалось привлечь ещё несколько удивительных людей.

СС: А вот ещё одно забавное демо-видео.

SS: And here's another fun demo.

So what you see here are controllable models

То, что вы здесь видите, — управляемые модели людей,

of people I built from their internet photos.

которые я создал на основе их фото из интернета.

Now, if you transfer the motion from the input video,

Если перенести движение от первоначального видео,

we can actually drive the entire party.

фактически мы можем управлять всем процессом.

George W. Bush: It's a difficult bill to pass,

Джордж Буш-младший: Это сложный законопроект,

because there's a lot of moving parts,

потому что в нём много поправок,

and the legislative processes can be ugly.

а законодательные процедуры могут быть неприглядными.

(Applause)

(Аплодисменты)

SS: So coming back a little bit,

СС: Возвращаясь немного назад, скажу,

our ultimate goal, rather, is to capture their mannerisms

что наша конечная цель — скопировать манеры людей,

or the unique way each of these people talks and smiles.

то есть уникальность их мимики во время разговора и улыбки.

So to do that, can we actually teach the computer

Чтобы это сделать, можем ли мы фактически научить компьютер

to imitate the way someone talks

имитировать манеру речи,

by only showing it video footage of the person?

только показав ему видеозапись человека?

And what I did exactly was, I let a computer watch

И я сделал вот что — я дал компьютеру

14 hours of pure Barack Obama giving addresses.

посмотреть 14 часов записей речей Барака Обамы.

And here's what we can produce given only his audio.

И вот что у нас получилось, когда мы использовали только аудио.

(Video) BO: The results are clear.

(Видео) БО: Результаты очевидны.

America's businesses have created 14.5 million new jobs

Предприятия Америки создали 14,5 миллиона новых рабочих мест

over 75 straight months.

за последние шесть с небольшим лет.

SS: So what's being synthesized here is only the mouth region,

СС: Здесь синтезируется только область рта,

and here's how we do it.

и вот как мы это делаем.

Our pipeline uses a neural network

Наше устройство использует нейронную сеть

to convert and input audio into these mouth points.

для преобразования и ввода звука в эти точки рта.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Видео) БО: Мы получаем его на работе, через Medicare или через Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

СС: Затем мы синтезируем текстуру, добавляем чёткости деталям, зубам

and blend it into the head and background from a source video.

и накладываем их на изображение головы и фона из исходного видео.

(Video) BO: Women can get free checkups,

(Видео) БО: Женщины могут пройти бесплатное обследование,

and you can't get charged more just for being a woman.

и вы не обязаны переплачивать лишь за то, что вы женщина.

Young people can stay on a parent's plan until they turn 26.

Молодые люди могут воспользоваться планом родителей, пока им не исполнится 26 лет.

SS: I think these results seem very realistic and intriguing,

СС: Эти результаты кажутся очень реалистичными и интригующими,

but at the same time frightening, even to me.

но в то же время пугающими даже меня.

Our goal was to build an accurate model of a person, not to misrepresent them.

Нашей целью было создать точную модель человека, а не исказить его.

But one thing that concerns me is its potential for misuse.

Но больше всего меня беспокоит возможность злоупотребления этой технологией.

People have been thinking about this problem for a long time,

Люди уже давно пытаются решить эту проблему,

since the days when Photoshop first hit the market.

ещё со времён, когда на рынке впервые появился Photoshop.

As a researcher, I'm also working on countermeasure technology,

Как исследователь, я также работаю над технологией противодействия

and I'm part of an ongoing effort at AI Foundation,

и вхожу в команду «Фонд ИИ»,

which uses a combination of machine learning and human moderators

который использует комбинацию машинного обучения и человека

to detect fake images and videos,

для обнаружения поддельных фото и видео,

fighting against my own work.

то есть борюсь со своей же работой.

And one of the tools we plan to release is called Reality Defender,

Один из инструментов, который мы планируем выпустить, — «Защитник реальности».

which is a web-browser plug-in that can flag potentially fake content

Это плагин для браузера, способный автоматически распознавать

automatically, right in the browser.

потенциально поддельный контент прямо в самом браузере.

(Applause)

(Аплодисменты)

Despite all this, though,

Несмотря на всё это,

fake videos could do a lot of damage,

поддельное видео может причинить вред

even before anyone has a chance to verify,

ещё до того, как у кого-то появится шанс его проверить,

so it's very important that we make everyone aware

поэтому очень важно предупредить каждого

of what's currently possible

о современных возможностях,

so we can have the right assumption and be critical about what we see.

чтобы составить правильное представление и критично относиться к тому, что видим.

There's still a long way to go before we can fully model individual people

Нам ещё далеко до полного моделирования конкретных людей

and before we can ensure the safety of this technology.

и до обеспечения безопасности этой технологии.

But I'm excited and hopeful,

Но я воодушевлён и полон надежды,

because if we use it right and carefully,

ведь, если мы будем пользоваться этим инструментом правильно и осторожно,

this tool can allow any individual's positive impact on the world

он позволит любому человеку положительно повлиять на наш мир

to be massively scaled

в огромных масштабах

and really help shape our future the way we want it to be.

и помочь сделать наше будущее таким, каким мы хотим.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)