Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

1,274,992 views ・ 2018-07-25

TED


Por favor, faça duplo clique nas legendas em inglês abaixo para reproduzir o vídeo.

Tradutor: Margarida Ferreira Revisora: Isabel Vaz Belchior
00:12
Look at these images.
0
12876
1151
Olhem para as imagens.
00:14
Now, tell me which Obama here is real.
1
14051
2635
Agora digam-me qual é o verdadeiro Obama.
00:16
(Video) Barack Obama: To help families refinance their homes,
2
16710
2861
Barack Obama: Ajudar famílias a refinanciar as suas casas,
00:19
to invest in things like high-tech manufacturing,
3
19595
2647
investir em fabrico de alta tecnologia,
energia limpa
00:22
clean energy
4
22266
1159
00:23
and the infrastructure that creates good new jobs.
5
23449
2779
e nas infraestruturas que criam novos empregos bons.
00:26
Supasorn Suwajanakorn: Anyone?
6
26647
1484
Supasorn Suwajanakorn: Qual deles?
A resposta é: nenhum deles.
00:28
The answer is none of them.
7
28155
1874
(Risos)
00:30
(Laughter)
8
30053
1114
00:31
None of these is actually real.
9
31191
1786
Nenhum deles é o verdadeiro.
00:33
So let me tell you how we got here.
10
33001
1840
Então vou dizer-vos como chegámos a isto.
00:35
My inspiration for this work
11
35940
1578
A minha inspiração para este trabalho
00:37
was a project meant to preserve our last chance for learning about the Holocaust
12
37542
5411
foi um projeto destinado a preservar a nossa última oportunidade
de conhecer o Holocausto através dos sobreviventes.
00:42
from the survivors.
13
42977
1768
00:44
It's called New Dimensions in Testimony,
14
44769
2627
Chama-se New Dimensions in Testimony,
00:47
and it allows you to have interactive conversations
15
47420
3126
e permite ter conversas interativas
00:50
with a hologram of a real Holocaust survivor.
16
50570
2556
com um holograma de um sobrevivente do Holocausto.
00:53
(Video) Man: How did you survive the Holocaust?
17
53793
1966
(Vídeo) Como sobreviveu ao Holocausto?
00:55
(Video) Hologram: How did I survive?
18
55783
1668
Como é que eu sobrevivi?
00:57
I survived,
19
57912
1807
Sobrevivi...
01:00
I believe,
20
60419
1527
creio,
01:01
because providence watched over me.
21
61970
3023
porque a Providência me protegeu.
01:05
SS: Turns out these answers were prerecorded in a studio.
22
65573
3454
SS: As respostas foram gravadas de antemão num estúdio.
01:09
Yet the effect is astounding.
23
69051
2452
Apesar disso, o resultado é surpreendente.
01:11
You feel so connected to his story and to him as a person.
24
71527
3619
Sentimo-nos muito interligados àquela história e a ele como pessoa.
Acho que há algo de especial na interação humana
01:16
I think there's something special about human interaction
25
76011
3301
01:19
that makes it much more profound
26
79336
2757
que a torna muito mais profunda e pessoal
01:22
and personal
27
82117
2198
do que quaisquer livros ou cursos ou filmes nos podiam ensinar.
01:24
than what books or lectures or movies could ever teach us.
28
84339
3485
01:28
So I saw this and began to wonder,
29
88267
2425
Então, vi isto e comecei a pensar:
01:30
can we create a model like this for anyone?
30
90716
2810
Será possível criar um modelo destes para qualquer pessoa?
01:33
A model that looks, talks and acts just like them?
31
93550
2975
Um modelo que se pareça, fale e aja como eles?
01:37
So I set out to see if this could be done
32
97573
2007
Tentei ver se era possível fazer isso
01:39
and eventually came up with a new solution
33
99604
2310
e acabei por arranjar uma nova solução
01:41
that can build a model of a person using nothing but these:
34
101938
3220
que pode criar um modelo duma pessoa apenas com isto:
01:45
existing photos and videos of a person.
35
105747
2214
fotos e vídeos já existentes dessa pessoa.
01:48
If you can leverage this kind of passive information,
36
108701
2617
Se pudermos utilizar este tipo de informações passivas,
01:51
just photos and video that are out there,
37
111342
2007
só fotos e vídeos que existem,
01:53
that's the key to scaling to anyone.
38
113373
2056
isso é suficiente para recriar qualquer um.
Por falar nisso, este é Richard Feynman,
01:56
By the way, here's Richard Feynman,
39
116119
1777
01:57
who in addition to being a Nobel Prize winner in physics
40
117920
3413
que, além de ter ganho o Prémio Nobel da Física,
02:01
was also known as a legendary teacher.
41
121357
2453
também era conhecido como um professor lendário.
02:05
Wouldn't it be great if we could bring him back
42
125080
2198
Não seria bom se o pudéssemos fazer voltar
02:07
to give his lectures and inspire millions of kids,
43
127302
3265
para ensinar e inspirar milhões de crianças,
02:10
perhaps not just in English but in any language?
44
130591
2992
talvez não só em inglês mas em qualquer língua?
02:14
Or if you could ask our grandparents for advice and hear those comforting words
45
134441
4602
Ou pedir conselhos aos nossos avós e ouvir aquelas palavras reconfortantes
02:19
even if they're no longer with us?
46
139067
1770
apesar de já não estarem connosco?
02:21
Or maybe using this tool, book authors, alive or not,
47
141683
3396
Ou talvez usar esta ferramenta para escritores, vivos ou não,
02:25
could read aloud all of their books for anyone interested.
48
145103
2937
poderem ler os seus livros, em voz alta, para quem desejasse.
02:29
The creative possibilities here are endless,
49
149199
2437
As possibilidades criativas são imensas.
02:31
and to me, that's very exciting.
50
151660
1713
Para mim, isto é muito entusiasmante.
02:34
And here's how it's working so far.
51
154595
2002
Até aqui tem funcionado assim:
02:36
First, we introduce a new technique
52
156621
1667
Primeiro, introduzimos uma nova técnica
02:38
that can reconstruct a high-detailed 3D face model from any image
53
158312
4572
que recria um modelo muito pormenorizado, em 3D, a partir de qualquer imagem
02:42
without ever 3D-scanning the person.
54
162908
2119
sem nunca digitalizar a pessoa.
02:45
And here's the same output model from different views.
55
165890
2642
Este é o modelo resultante, visto de diferentes pontos de vista.
02:49
This also works on videos,
56
169969
1502
Isto também funciona com vídeos,
02:51
by running the same algorithm on each video frame
57
171495
2852
executando o mesmo algoritmo em cada quadro de vídeo
02:54
and generating a moving 3D model.
58
174371
2222
e gerando um modelo 3D móvel.
02:57
And here's the same output model from different angles.
59
177538
2772
E este é o modelo resultante visto de diferentes ângulos.
03:01
It turns out this problem is very challenging,
60
181933
2534
Acontece que este problema é muito estimulante,
03:04
but the key trick is that we are going to analyze
61
184491
2525
mas o truque chave é que nós vamos analisar
03:07
a large photo collection of the person beforehand.
62
187040
2966
um grande conjunto de fotos da pessoa, antecipadamente.
03:10
For George W. Bush, we can just search on Google,
63
190650
2539
No caso do George W. Bush, basta pesquisarmos no Google,
e a partir daí, podemos criar um modelo médio,
03:14
and from that, we are able to build an average model,
64
194309
2499
03:16
an iterative, refined model to recover the expression
65
196832
3111
um modo interativo e melhorado, para recuperar a expressão
03:19
in fine details, like creases and wrinkles.
66
199967
2336
em pequenos pormenores, como vincos na pele e rugas.
03:23
What's fascinating about this
67
203326
1403
O fascinante nisto
03:24
is that the photo collection can come from your typical photos.
68
204753
3423
é que o conjunto de fotos pode ser proveniente das nossas fotos vulgares.
03:28
It doesn't really matter what expression you're making
69
208200
2603
Não faz diferença que expressão estamos a fazer
03:30
or where you took those photos.
70
210827
1885
ou o lugar onde fomos fotografados.
03:32
What matters is that there are a lot of them.
71
212736
2400
O importante é que haja muitas.
03:35
And we are still missing color here,
72
215160
1736
E ainda não incluímos aqui a cor,
03:36
so next, we develop a new blending technique
73
216920
2348
por isso, desenvolvemos uma nova técnica de mistura
03:39
that improves upon a single averaging method
74
219292
2836
que melhora qualquer simples método médio
03:42
and produces sharp facial textures and colors.
75
222152
2818
e produz texturas e cores faciais acentuadas.
03:45
And this can be done for any expression.
76
225779
2771
E pode ser feito para qualquer expressão.
03:49
Now we have a control of a model of a person,
77
229485
2499
Assim, temos o controlo do modelo de uma pessoa,
03:52
and the way it's controlled now is by a sequence of static photos.
78
232008
3795
e esse controlo é feito por uma sequência de fotos estáticas.
03:55
Notice how the wrinkles come and go, depending on the expression.
79
235827
3126
Reparem como as rugas vêm e vão, de acordo com a expressão.
04:00
We can also use a video to drive the model.
80
240109
2746
Também podemos usar um vídeo para controlar o modelo.
04:02
(Video) Daniel Craig: Right, but somehow,
81
242879
2593
Daniel Craig: Certo, mas de certa forma,
04:05
we've managed to attract some more amazing people.
82
245496
3771
conseguimos atrair pessoas mais incríveis.
SS: Esta é outra demo divertida.
04:10
SS: And here's another fun demo.
83
250021
1642
04:11
So what you see here are controllable models
84
251687
2246
O que vemos aqui são modelos controláveis
04:13
of people I built from their internet photos.
85
253957
2444
de pessoas que criei a partir de fotos na Internet.
04:16
Now, if you transfer the motion from the input video,
86
256425
2904
Se transferirmos o movimento do vídeo de entrada,
04:19
we can actually drive the entire party.
87
259353
2152
podemos controlar o grupo todo.
04:21
George W. Bush: It's a difficult bill to pass,
88
261529
2172
George Bush: É um projeto difícil de aprovar,
04:23
because there's a lot of moving parts,
89
263725
2303
porque tem muitas partes móveis,
e os processos legislativos podem ser terríveis.
04:26
and the legislative processes can be ugly.
90
266052
5231
(Aplausos)
04:31
(Applause)
91
271307
1630
04:32
SS: So coming back a little bit,
92
272961
1837
SS: Voltando um pouco atrás,
04:34
our ultimate goal, rather, is to capture their mannerisms
93
274822
3191
o nosso objetivo final é captar os maneirismos
04:38
or the unique way each of these people talks and smiles.
94
278037
3045
ou seja, a maneira única como cada uma dessas pessoas fala e sorri.
04:41
So to do that, can we actually teach the computer
95
281106
2313
Para isso, será que podemos ensinar o computador
04:43
to imitate the way someone talks
96
283443
2222
a imitar a forma como alguém fala
04:45
by only showing it video footage of the person?
97
285689
2420
mostrando-lhe apenas gravações de vídeos dessa pessoa?
04:48
And what I did exactly was, I let a computer watch
98
288898
2577
Pus um computador a ver, durante 14 horas,
04:51
14 hours of pure Barack Obama giving addresses.
99
291499
3277
Barack Obama dando endereços.
04:55
And here's what we can produce given only his audio.
100
295443
3516
Isto é o que podemos criar dado apenas o seu áudio.
04:58
(Video) BO: The results are clear.
101
298983
1777
BO: Os resultados são claros.
05:00
America's businesses have created 14.5 million new jobs
102
300784
4349
As empresas nos EUA criaram 14,5 milhões de novos empregos
05:05
over 75 straight months.
103
305157
2774
durante mais de 75 meses seguidos.
05:07
SS: So what's being synthesized here is only the mouth region,
104
307955
2905
SS: O que está aqui a ser sintetizado é só a região da boca.
05:10
and here's how we do it.
105
310884
1540
e é assim que fazemos isto.
05:12
Our pipeline uses a neural network
106
312764
1826
O nosso "pipeline" usa uma rede neural
05:14
to convert and input audio into these mouth points.
107
314614
2936
para converter e introduzir o som nestes pontos da boca.
05:18
(Video) BO: We get it through our job or through Medicare or Medicaid.
108
318547
4225
"Prosseguimos com o nosso trabalho com a Medicare ou com a Medicaid".
05:22
SS: Then we synthesize the texture, enhance details and teeth,
109
322796
3420
Depois, sintetizamos a textura, retocamos os pormenores e os dentes
05:26
and blend it into the head and background from a source video.
110
326240
3074
e introduzimo-la na cabeça e no contexto de um vídeo.
05:29
(Video) BO: Women can get free checkups,
111
329338
1905
"As mulheres podem fazer "check-ups" gratuitos,
05:31
and you can't get charged more just for being a woman.
112
331267
2968
"e não pagarão mais só por serem mulheres.
05:34
Young people can stay on a parent's plan until they turn 26.
113
334973
3306
"Os jovens podem manter-se por conta do plano dos pais
"até aos 26 anos".
05:39
SS: I think these results seem very realistic and intriguing,
114
339267
2952
Penso que estes resultados parecem muito realistas e intrigantes
05:42
but at the same time frightening, even to me.
115
342243
3173
mas, ao mesmo tempo, são assustadores, até para mim.
05:45
Our goal was to build an accurate model of a person, not to misrepresent them.
116
345440
4015
O nosso objetivo era criar um modelo rigoroso duma pessoa,
e não apresentá-la como uma mistificação.
05:49
But one thing that concerns me is its potential for misuse.
117
349956
3111
Uma coisa que me preocupa é o seu potencial para ser mal utilizado.
05:53
People have been thinking about this problem for a long time,
118
353958
2971
Há muito que as pessoas pensam neste problema,
05:56
since the days when Photoshop first hit the market.
119
356953
2381
desde os dias em que o Photoshop apareceu no mercado.
05:59
As a researcher, I'm also working on countermeasure technology,
120
359862
3801
Enquanto investigador, também trabalho em tecnologia de contramedidas
06:03
and I'm part of an ongoing effort at AI Foundation,
121
363687
2942
e faço parte duma ação em curso na AI Foundation,
06:06
which uses a combination of machine learning and human moderators
122
366653
3397
que usa uma combinação de aprendizagem de máquinas
e de moderadores humanos,
06:10
to detect fake images and videos,
123
370074
2144
para detetar imagens e vídeos falsos,
06:12
fighting against my own work.
124
372242
1514
lutando contra o meu trabalho.
06:14
And one of the tools we plan to release is called Reality Defender,
125
374675
3190
Uma das ferramentas que planeamos lançar chama-se Defensor da Realidade.
06:17
which is a web-browser plug-in that can flag potentially fake content
126
377889
4039
É um complemento para o navegador
que deteta conteúdos possivelmente falsos,
06:21
automatically, right in the browser.
127
381952
2533
automaticamente, no motor de busca.
06:24
(Applause)
128
384509
4228
(Aplausos)
06:28
Despite all this, though,
129
388761
1453
Mas, apesar de tudo isso,
06:30
fake videos could do a lot of damage,
130
390238
1840
os vídeos falsos podem ser muito prejudiciais,
06:32
even before anyone has a chance to verify,
131
392102
3294
mesmo antes de alguém ter hipóteses de o verificar,
06:35
so it's very important that we make everyone aware
132
395420
2722
portanto, é muito importante que alertemos toda a gente
06:38
of what's currently possible
133
398166
2007
do que pode acontecer atualmente,
06:40
so we can have the right assumption and be critical about what we see.
134
400197
3369
Temos que ter as premissas corretas e sermos críticos quanto ao que vemos.
06:44
There's still a long way to go before we can fully model individual people
135
404423
5007
Ainda há um longo caminho a percorrer antes de podermos modelar totalmente
pessoas individualmente
06:49
and before we can ensure the safety of this technology.
136
409454
2786
e antes de podermos garantir a segurança desta tecnologia.
06:53
But I'm excited and hopeful,
137
413097
1587
Mas sinto-me entusiasmado e tenho esperança
06:54
because if we use it right and carefully,
138
414708
3539
porque, se a usarmos correta e cuidadosamente,
06:58
this tool can allow any individual's positive impact on the world
139
418271
4309
esta ferramenta pode permitir
que o impacto positivo de qualquer indivíduo no mundo
07:02
to be massively scaled
140
422604
2190
seja disseminado de modo maciço
07:04
and really help shape our future the way we want it to be.
141
424818
2742
e ajude a modelar o nosso futuro da forma como queremos que ele seja.
07:07
Thank you.
142
427584
1151
Obrigado.
07:08
(Applause)
143
428759
5090
(Aplausos)
Sobre este site

Este sítio irá apresentar-lhe vídeos do YouTube que são úteis para a aprendizagem do inglês. Verá lições de inglês ensinadas por professores de primeira linha de todo o mundo. Faça duplo clique nas legendas em inglês apresentadas em cada página de vídeo para reproduzir o vídeo a partir daí. As legendas deslocam-se em sincronia com a reprodução do vídeo. Se tiver quaisquer comentários ou pedidos, por favor contacte-nos utilizando este formulário de contacto.

https://forms.gle/WvT1wiN1qDtmnspy7