Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Tradutor: Maurício Kakuei Tanaka Revisor: Maricene Crus

Look at these images.

Olhem para estas imagens.

Now, tell me which Obama here is real.

Agora, digam-me qual desses Obama aqui é real.

(Video) Barack Obama: To help families refinance their homes,

(Vídeo) Barack Obama: Para ajudar a refinanciar moradias,

to invest in things like high-tech manufacturing,

para investir em coisas como produção de alta tecnologia,

clean energy

energia limpa

and the infrastructure that creates good new jobs.

e a infraestrutura que cria bons novos empregos.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: Alguém?

The answer is none of them.

A resposta é: nenhum deles.

(Laughter)

(Risos)

None of these is actually real.

Nenhum deles é, na verdade, real.

So let me tell you how we got here.

Vou contar a vocês como chegamos até aqui.

My inspiration for this work

Minha inspiração por este trabalho

was a project meant to preserve our last chance for learning about the Holocaust

foi um projeto para preservar nossa última chance de aprender sobre o holocausto

from the survivors.

a partir dos sobreviventes.

It's called New Dimensions in Testimony,

É chamado "New Dimensions in Testimony",

and it allows you to have interactive conversations

e permite conversas interativas

with a hologram of a real Holocaust survivor.

com um holograma de um sobrevivente real do holocausto.

(Video) Man: How did you survive the Holocaust?

(Vídeo) Homem: Como o senhor sobreviveu ao holocausto?

(Video) Hologram: How did I survive?

(Vídeo) Holograma: Como sobrevivi?

I survived,

Eu sobrevivi,

I believe,

creio eu,

because providence watched over me.

porque Deus me protegeu.

SS: Turns out these answers were prerecorded in a studio.

SS: Acontece que essas respostas foram pré-gravadas em um estúdio.

Yet the effect is astounding.

Mas o efeito é surpreendente.

You feel so connected to his story and to him as a person.

Você se sente muito ligado à história dele e a ele como pessoa.

I think there's something special about human interaction

Acredito que há algo especial sobre a interação humana

that makes it much more profound

que a torna muito mais profunda

and personal

e pessoal

than what books or lectures or movies could ever teach us.

do que os livros, as palestras ou os filmes jamais poderiam nos ensinar.

So I saw this and began to wonder,

Vi isso e comecei a me perguntar:

can we create a model like this for anyone?

"Será que podemos criar um modelo como esse para qualquer um,

A model that looks, talks and acts just like them?

um modelo que se pareça, fale e aja exatamente como eles?"

So I set out to see if this could be done

Comecei a ver se isso poderia ser feito

and eventually came up with a new solution

e, finalmente, propus uma nova solução

that can build a model of a person using nothing but these:

para construir um modelo de uma pessoa usando nada além disso:

existing photos and videos of a person.

fotos e vídeos existentes de uma pessoa.

If you can leverage this kind of passive information,

Se for possível aprimorar esse tipo de informação passiva,

just photos and video that are out there,

fotos e vídeos que estão por aí,

that's the key to scaling to anyone.

esse é o segredo para representar qualquer um.

By the way, here's Richard Feynman,

A propósito, esse é Richard Feynman,

who in addition to being a Nobel Prize winner in physics

que, além de ser ganhador do Prêmio Nobel de física,

was also known as a legendary teacher.

também era conhecido como um professor extraordinário.

Wouldn't it be great if we could bring him back

Não seria ótimo se pudéssemos trazê-lo de volta

to give his lectures and inspire millions of kids,

para dar suas palestras e inspirar milhões de crianças,

perhaps not just in English but in any language?

talvez não apenas em inglês, mas em qualquer idioma?

Or if you could ask our grandparents for advice and hear those comforting words

Ou se pudéssemos pedir conselhos a nossos avós e ouvir palavras de conforto

even if they're no longer with us?

mesmo que não estejam mais conosco?

Or maybe using this tool, book authors, alive or not,

Ou talvez, usando essa ferramenta, os autores de livros, vivos ou não,

could read aloud all of their books for anyone interested.

poderiam ler todos os seus livros em voz alta para qualquer interessado.

The creative possibilities here are endless,

As possibilidades criativas aqui são infinitas,

and to me, that's very exciting.

e, para mim, isso é muito empolgante.

And here's how it's working so far.

E é assim que está funcionando até agora.

First, we introduce a new technique

Primeiro, apresentamos uma nova técnica que pode reconstruir

that can reconstruct a high-detailed 3D face model from any image

um modelo facial em 3D altamente detalhado a partir de qualquer imagem,

without ever 3D-scanning the person.

sem nunca fazer um exame em 3D da pessoa.

And here's the same output model from different views.

Aqui está o mesmo modelo de saída a partir de visões diferentes.

This also works on videos,

Também funciona para vídeos,

by running the same algorithm on each video frame

executando o mesmo algoritmo para cada quadro de vídeo

and generating a moving 3D model.

e gerando um modelo em 3D em movimento.

And here's the same output model from different angles.

Aqui está o mesmo modelo de saída a partir de ângulos diferentes.

It turns out this problem is very challenging,

Acontece que esse problema é muito desafiador,

but the key trick is that we are going to analyze

mas o truque principal é que iremos analisar de antemão

a large photo collection of the person beforehand.

uma grande coleção de fotos da pessoa.

For George W. Bush, we can just search on Google,

Para George W. Bush, podemos simplesmente procurar no Google,

and from that, we are able to build an average model,

e, a partir daí, podemos construir um modelo médio,

an iterative, refined model to recover the expression

iterativo e refinado para recuperar a expressão

in fine details, like creases and wrinkles.

em detalhes distintos, como marcas e rugas.

What's fascinating about this

O fascinante sobre isso

is that the photo collection can come from your typical photos.

é que a coleção de fotos pode vir de suas fotos comuns.

It doesn't really matter what expression you're making

Não importa realmente que expressão você esteja fazendo

or where you took those photos.

ou onde você tirou aquelas fotos.

What matters is that there are a lot of them.

O que importa é que haja muitas delas.

And we are still missing color here,

Ainda falta cor aqui.

so next, we develop a new blending technique

Então, a seguir, desenvolvemos uma nova técnica de mistura

that improves upon a single averaging method

que aperfeiçoa um método único de obter a média

and produces sharp facial textures and colors.

e produz texturas faciais e cores definidas.

And this can be done for any expression.

Isso pode ser feito para qualquer expressão.

Now we have a control of a model of a person,

Agora temos o controle de um modelo de uma pessoa,

and the way it's controlled now is by a sequence of static photos.

por meio de uma sequência de fotos estáticas.

Notice how the wrinkles come and go, depending on the expression.

Reparem como as rugas vêm e vão dependendo da expressão.

We can also use a video to drive the model.

Também podemos usar um vídeo para conduzir o modelo.

(Video) Daniel Craig: Right, but somehow,

(Vídeo) Daniel Craig: Certo, mas, por alguma razão,

we've managed to attract some more amazing people.

temos conseguido atrair algumas das pessoas mais incríveis.

SS: Aqui está outra demo divertida.

SS: And here's another fun demo.

So what you see here are controllable models

O que vemos aqui são modelos controláveis

of people I built from their internet photos.

de pessoas criadas a partir de suas fotos da internet.

Now, if you transfer the motion from the input video,

Agora, se transferirmos o movimento do vídeo de entrada

we can actually drive the entire party.

podemos, na verdade, conduzir o grupo todo.

George W. Bush: It's a difficult bill to pass,

George W. Bush: É difícil aprovar o projeto, porque há muitas partes móveis,

because there's a lot of moving parts,

e os processos legislativos podem ser desagradáveis.

and the legislative processes can be ugly.

(Applause)

(Aplausos)

SS: So coming back a little bit,

SS: Voltando um pouquinho,

our ultimate goal, rather, is to capture their mannerisms

nosso objetivo final, ao contrário, é capturar seus trejeitos

or the unique way each of these people talks and smiles.

ou a maneira única como cada uma dessas pessoas fala e sorri.

So to do that, can we actually teach the computer

Para isso, será que conseguimos ensinar o computador

to imitate the way someone talks

a imitar a maneira como alguém fala

by only showing it video footage of the person?

mostrando apenas imagens de vídeo da pessoa?

And what I did exactly was, I let a computer watch

O que fiz exatamente foi deixar um computador assistir

14 hours of pure Barack Obama giving addresses.

a 14 horas do autêntico Barack Obama dando palestras.

And here's what we can produce given only his audio.

Aqui está o que podemos produzir apenas com o áudio dele.

(Video) BO: The results are clear.

(Vídeo) BO: Os resultados são claros.

America's businesses have created 14.5 million new jobs

Os negócios dos Estados Unidos criaram 14,5 milhões de novos empregos

over 75 straight months.

mais de 75 meses consecutivos.

SS: So what's being synthesized here is only the mouth region,

SS: O que está sendo combinado aqui é apenas a região da boca,

and here's how we do it.

e é assim que fazemos.

Our pipeline uses a neural network

Nosso canal usa uma rede neural

to convert and input audio into these mouth points.

para converter e entrar com áudio nestes pontos da boca.

(Video) BO: We get it through our job or through Medicare or Medicaid.

(Vídeo) BO: Conseguimos isso por meio do trabalho, do Medicare ou do Medicaid.

SS: Then we synthesize the texture, enhance details and teeth,

SS: Então, combinamos a textura, aprimoramos os detalhes e os dentes,

and blend it into the head and background from a source video.

e integramos isso no início e no fundo de um vídeo de origem.

(Video) BO: Women can get free checkups,

(Vídeo) BO: As mulheres têm direito a exames gratuitos

and you can't get charged more just for being a woman.

e não se pode cobrá-las a mais por serem mulheres.

Young people can stay on a parent's plan until they turn 26.

Os jovens podem permanecer no plano dos pais até completarem 26 anos.

SS: I think these results seem very realistic and intriguing,

SS: Considero esses resultados muito realistas e intrigantes,

but at the same time frightening, even to me.

mas, ao mesmo tempo, assustadores, até para mim.

Our goal was to build an accurate model of a person, not to misrepresent them.

Nosso objetivo foi construir um modelo exato de uma pessoa e não desvirtuá-la.

But one thing that concerns me is its potential for misuse.

Mas uma coisa que me preocupa é o seu potencial para uso indevido.

People have been thinking about this problem for a long time,

As pessoas têm considerado esse problema há muito tempo,

since the days when Photoshop first hit the market.

desde que o Photoshop chegou ao mercado.

As a researcher, I'm also working on countermeasure technology,

Como pesquisador, também trabalho com tecnologia de medida preventiva,

and I'm part of an ongoing effort at AI Foundation,

e faço parte de um esforço contínuo na AI Foundation,

which uses a combination of machine learning and human moderators

que usa uma combinação de aprendizado de máquina e moderadores humanos

to detect fake images and videos,

para detectar imagens e vídeos falsos,

fighting against my own work.

lutando contra meu próprio trabalho.

And one of the tools we plan to release is called Reality Defender,

Uma das ferramentas que planejamos lançar é chamada "Reality Defender",

which is a web-browser plug-in that can flag potentially fake content

um "plug-in" de navegador da web que pode sinalizar conteúdo potencialmente falso

automatically, right in the browser.

automaticamente, direto no navegador.

(Applause)

(Aplausos)

Despite all this, though,

Apesar de tudo isso, vídeos falsos podem causar muitos prejuízos,

fake videos could do a lot of damage,

mesmo antes de alguém ter a chance de verificar.

even before anyone has a chance to verify,

so it's very important that we make everyone aware

Por isso, é muito importante

que conscientizemos todos do que é possível atualmente

of what's currently possible

so we can have the right assumption and be critical about what we see.

para que possamos supor de forma correta e ser críticos sobre o que vemos.

There's still a long way to go before we can fully model individual people

Ainda há um longo caminho a percorrer antes de podermos modelar as pessoas

and before we can ensure the safety of this technology.

e garantir a segurança dessa tecnologia.

But I'm excited and hopeful,

Mas estou animado e esperançoso,

because if we use it right and carefully,

porque, se usarmos de forma correta e cuidadosa,

this tool can allow any individual's positive impact on the world

essa ferramenta pode permitir

que o impacto positivo de qualquer indivíduo no mundo

to be massively scaled

seja medido em larga escala

and really help shape our future the way we want it to be.

e ajude a modelar nosso futuro como queremos que ele seja.

Thank you.

Obrigado.

(Applause)

(Aplausos)