Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Tradutor: Margarida Ferreira Revisora: Isabel Vaz Belchior

Look at these images.

Olhem para as imagens.

Now, tell me which Obama here is real.

Agora digam-me qual é o verdadeiro Obama.

(Video) Barack Obama: To help families refinance their homes,

Barack Obama: Ajudar famílias a refinanciar as suas casas,

to invest in things like high-tech manufacturing,

investir em fabrico de alta tecnologia,

energia limpa

clean energy

and the infrastructure that creates good new jobs.

e nas infraestruturas que criam novos empregos bons.

Supasorn Suwajanakorn: Anyone?

Supasorn Suwajanakorn: Qual deles?

A resposta é: nenhum deles.

The answer is none of them.

(Risos)

(Laughter)

None of these is actually real.

Nenhum deles é o verdadeiro.

So let me tell you how we got here.

Então vou dizer-vos como chegámos a isto.

My inspiration for this work

A minha inspiração para este trabalho

was a project meant to preserve our last chance for learning about the Holocaust

foi um projeto destinado a preservar a nossa última oportunidade

de conhecer o Holocausto através dos sobreviventes.

from the survivors.

It's called New Dimensions in Testimony,

Chama-se New Dimensions in Testimony,

and it allows you to have interactive conversations

e permite ter conversas interativas

with a hologram of a real Holocaust survivor.

com um holograma de um sobrevivente do Holocausto.

(Video) Man: How did you survive the Holocaust?

(Vídeo) Como sobreviveu ao Holocausto?

(Video) Hologram: How did I survive?

Como é que eu sobrevivi?

I survived,

Sobrevivi...

I believe,

creio,

because providence watched over me.

porque a Providência me protegeu.

SS: Turns out these answers were prerecorded in a studio.

SS: As respostas foram gravadas de antemão num estúdio.

Yet the effect is astounding.

Apesar disso, o resultado é surpreendente.

You feel so connected to his story and to him as a person.

Sentimo-nos muito interligados àquela história e a ele como pessoa.

Acho que há algo de especial na interação humana

I think there's something special about human interaction

that makes it much more profound

que a torna muito mais profunda e pessoal

and personal

do que quaisquer livros ou cursos ou filmes nos podiam ensinar.

than what books or lectures or movies could ever teach us.

So I saw this and began to wonder,

Então, vi isto e comecei a pensar:

can we create a model like this for anyone?

Será possível criar um modelo destes para qualquer pessoa?

A model that looks, talks and acts just like them?

Um modelo que se pareça, fale e aja como eles?

So I set out to see if this could be done

Tentei ver se era possível fazer isso

and eventually came up with a new solution

e acabei por arranjar uma nova solução

that can build a model of a person using nothing but these:

que pode criar um modelo duma pessoa apenas com isto:

existing photos and videos of a person.

fotos e vídeos já existentes dessa pessoa.

If you can leverage this kind of passive information,

Se pudermos utilizar este tipo de informações passivas,

just photos and video that are out there,

só fotos e vídeos que existem,

that's the key to scaling to anyone.

isso é suficiente para recriar qualquer um.

Por falar nisso, este é Richard Feynman,

By the way, here's Richard Feynman,

who in addition to being a Nobel Prize winner in physics

que, além de ter ganho o Prémio Nobel da Física,

was also known as a legendary teacher.

também era conhecido como um professor lendário.

Wouldn't it be great if we could bring him back

Não seria bom se o pudéssemos fazer voltar

to give his lectures and inspire millions of kids,

para ensinar e inspirar milhões de crianças,

perhaps not just in English but in any language?

talvez não só em inglês mas em qualquer língua?

Or if you could ask our grandparents for advice and hear those comforting words

Ou pedir conselhos aos nossos avós e ouvir aquelas palavras reconfortantes

even if they're no longer with us?

apesar de já não estarem connosco?

Or maybe using this tool, book authors, alive or not,

Ou talvez usar esta ferramenta para escritores, vivos ou não,

could read aloud all of their books for anyone interested.

poderem ler os seus livros, em voz alta, para quem desejasse.

The creative possibilities here are endless,

As possibilidades criativas são imensas.

and to me, that's very exciting.

Para mim, isto é muito entusiasmante.

And here's how it's working so far.

Até aqui tem funcionado assim:

First, we introduce a new technique

Primeiro, introduzimos uma nova técnica

that can reconstruct a high-detailed 3D face model from any image

que recria um modelo muito pormenorizado, em 3D, a partir de qualquer imagem

without ever 3D-scanning the person.

sem nunca digitalizar a pessoa.

And here's the same output model from different views.

Este é o modelo resultante, visto de diferentes pontos de vista.

This also works on videos,

Isto também funciona com vídeos,

by running the same algorithm on each video frame

executando o mesmo algoritmo em cada quadro de vídeo

and generating a moving 3D model.

e gerando um modelo 3D móvel.

And here's the same output model from different angles.

E este é o modelo resultante visto de diferentes ângulos.

It turns out this problem is very challenging,

Acontece que este problema é muito estimulante,

but the key trick is that we are going to analyze

mas o truque chave é que nós vamos analisar

a large photo collection of the person beforehand.

um grande conjunto de fotos da pessoa, antecipadamente.

For George W. Bush, we can just search on Google,

No caso do George W. Bush, basta pesquisarmos no Google,

e a partir daí, podemos criar um modelo médio,

and from that, we are able to build an average model,

an iterative, refined model to recover the expression

um modo interativo e melhorado, para recuperar a expressão

in fine details, like creases and wrinkles.

em pequenos pormenores, como vincos na pele e rugas.

What's fascinating about this

O fascinante nisto

is that the photo collection can come from your typical photos.

é que o conjunto de fotos pode ser proveniente das nossas fotos vulgares.

It doesn't really matter what expression you're making

Não faz diferença que expressão estamos a fazer

or where you took those photos.

ou o lugar onde fomos fotografados.

What matters is that there are a lot of them.

O importante é que haja muitas.

And we are still missing color here,

E ainda não incluímos aqui a cor,

so next, we develop a new blending technique

por isso, desenvolvemos uma nova técnica de mistura

that improves upon a single averaging method

que melhora qualquer simples método médio

and produces sharp facial textures and colors.

e produz texturas e cores faciais acentuadas.

And this can be done for any expression.

E pode ser feito para qualquer expressão.

Now we have a control of a model of a person,

Assim, temos o controlo do modelo de uma pessoa,

and the way it's controlled now is by a sequence of static photos.

e esse controlo é feito por uma sequência de fotos estáticas.

Notice how the wrinkles come and go, depending on the expression.

Reparem como as rugas vêm e vão, de acordo com a expressão.

We can also use a video to drive the model.

Também podemos usar um vídeo para controlar o modelo.

(Video) Daniel Craig: Right, but somehow,

Daniel Craig: Certo, mas de certa forma,

we've managed to attract some more amazing people.

conseguimos atrair pessoas mais incríveis.

SS: Esta é outra demo divertida.

SS: And here's another fun demo.

So what you see here are controllable models

O que vemos aqui são modelos controláveis

of people I built from their internet photos.

de pessoas que criei a partir de fotos na Internet.

Now, if you transfer the motion from the input video,

Se transferirmos o movimento do vídeo de entrada,

we can actually drive the entire party.

podemos controlar o grupo todo.

George W. Bush: It's a difficult bill to pass,

George Bush: É um projeto difícil de aprovar,

because there's a lot of moving parts,

porque tem muitas partes móveis,

e os processos legislativos podem ser terríveis.

and the legislative processes can be ugly.

(Aplausos)

(Applause)

SS: So coming back a little bit,

SS: Voltando um pouco atrás,

our ultimate goal, rather, is to capture their mannerisms

o nosso objetivo final é captar os maneirismos

or the unique way each of these people talks and smiles.

ou seja, a maneira única como cada uma dessas pessoas fala e sorri.

So to do that, can we actually teach the computer

Para isso, será que podemos ensinar o computador

to imitate the way someone talks

a imitar a forma como alguém fala

by only showing it video footage of the person?

mostrando-lhe apenas gravações de vídeos dessa pessoa?

And what I did exactly was, I let a computer watch

Pus um computador a ver, durante 14 horas,

14 hours of pure Barack Obama giving addresses.

Barack Obama dando endereços.

And here's what we can produce given only his audio.

Isto é o que podemos criar dado apenas o seu áudio.

(Video) BO: The results are clear.

BO: Os resultados são claros.

America's businesses have created 14.5 million new jobs

As empresas nos EUA criaram 14,5 milhões de novos empregos

over 75 straight months.

durante mais de 75 meses seguidos.

SS: So what's being synthesized here is only the mouth region,

SS: O que está aqui a ser sintetizado é só a região da boca.

and here's how we do it.

e é assim que fazemos isto.

Our pipeline uses a neural network

O nosso "pipeline" usa uma rede neural

to convert and input audio into these mouth points.

para converter e introduzir o som nestes pontos da boca.

(Video) BO: We get it through our job or through Medicare or Medicaid.

"Prosseguimos com o nosso trabalho com a Medicare ou com a Medicaid".

SS: Then we synthesize the texture, enhance details and teeth,

Depois, sintetizamos a textura, retocamos os pormenores e os dentes

and blend it into the head and background from a source video.

e introduzimo-la na cabeça e no contexto de um vídeo.

(Video) BO: Women can get free checkups,

"As mulheres podem fazer "check-ups" gratuitos,

and you can't get charged more just for being a woman.

"e não pagarão mais só por serem mulheres.

Young people can stay on a parent's plan until they turn 26.

"Os jovens podem manter-se por conta do plano dos pais

"até aos 26 anos".

SS: I think these results seem very realistic and intriguing,

Penso que estes resultados parecem muito realistas e intrigantes

but at the same time frightening, even to me.

mas, ao mesmo tempo, são assustadores, até para mim.

Our goal was to build an accurate model of a person, not to misrepresent them.

O nosso objetivo era criar um modelo rigoroso duma pessoa,

e não apresentá-la como uma mistificação.

But one thing that concerns me is its potential for misuse.

Uma coisa que me preocupa é o seu potencial para ser mal utilizado.

People have been thinking about this problem for a long time,

Há muito que as pessoas pensam neste problema,

since the days when Photoshop first hit the market.

desde os dias em que o Photoshop apareceu no mercado.

As a researcher, I'm also working on countermeasure technology,

Enquanto investigador, também trabalho em tecnologia de contramedidas

and I'm part of an ongoing effort at AI Foundation,

e faço parte duma ação em curso na AI Foundation,

which uses a combination of machine learning and human moderators

que usa uma combinação de aprendizagem de máquinas

e de moderadores humanos,

to detect fake images and videos,

para detetar imagens e vídeos falsos,

fighting against my own work.

lutando contra o meu trabalho.

And one of the tools we plan to release is called Reality Defender,

Uma das ferramentas que planeamos lançar chama-se Defensor da Realidade.

which is a web-browser plug-in that can flag potentially fake content

É um complemento para o navegador

que deteta conteúdos possivelmente falsos,

automatically, right in the browser.

automaticamente, no motor de busca.

(Applause)

(Aplausos)

Despite all this, though,

Mas, apesar de tudo isso,

fake videos could do a lot of damage,

os vídeos falsos podem ser muito prejudiciais,

even before anyone has a chance to verify,

mesmo antes de alguém ter hipóteses de o verificar,

so it's very important that we make everyone aware

portanto, é muito importante que alertemos toda a gente

of what's currently possible

do que pode acontecer atualmente,

so we can have the right assumption and be critical about what we see.

Temos que ter as premissas corretas e sermos críticos quanto ao que vemos.

There's still a long way to go before we can fully model individual people

Ainda há um longo caminho a percorrer antes de podermos modelar totalmente

pessoas individualmente

and before we can ensure the safety of this technology.

e antes de podermos garantir a segurança desta tecnologia.

But I'm excited and hopeful,

Mas sinto-me entusiasmado e tenho esperança

because if we use it right and carefully,

porque, se a usarmos correta e cuidadosamente,

this tool can allow any individual's positive impact on the world

esta ferramenta pode permitir

que o impacto positivo de qualquer indivíduo no mundo

to be massively scaled

seja disseminado de modo maciço

and really help shape our future the way we want it to be.

e ajude a modelar o nosso futuro da forma como queremos que ele seja.

Thank you.

Obrigado.

(Applause)

(Aplausos)