Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn
1,287,032 views ・ 2018-07-25
下の英語字幕をダブルクリックすると動画を再生できます。
翻訳: Yasushi Aoki
校正: Claire Ghyselen
00:12
Look at these images.
0
12876
1151
この映像を見てください
00:14
Now, tell me which Obama here is real.
1
14051
2635
本物のオバマ大統領は
どれでしょう?
00:16
(Video) Barack Obama: To help families
refinance their homes,
2
16710
2861
(バラク・オバマ) 住宅ローンを
借り換える家庭を助けること
00:19
to invest in things
like high-tech manufacturing,
3
19595
2647
ハイテク製造業
クリーンエネルギー
00:22
clean energy
4
22266
1159
インフラといったものに
投資することで
00:23
and the infrastructure
that creates good new jobs.
5
23449
2779
良い仕事が創出されます
00:26
Supasorn Suwajanakorn: Anyone?
6
26647
1484
(講演者) 分かりますか?
00:28
The answer is none of them.
7
28155
1874
答えは 全部ニセ者です
00:30
(Laughter)
8
30053
1114
(笑)
00:31
None of these is actually real.
9
31191
1786
どれ1つ本物ではありません
00:33
So let me tell you how we got here.
10
33001
1840
これまでの道のりについて
お話ししましょう
00:35
My inspiration for this work
11
35940
1578
この研究をする
ヒントになったのは
00:37
was a project meant to preserve our last
chance for learning about the Holocaust
12
37542
5411
ホロコーストの生存者たちから
学ぶ最後の機会を
保存しようという
プロジェクトでした
00:42
from the survivors.
13
42977
1768
00:44
It's called New Dimensions in Testimony,
14
44769
2627
「証言の新局面」(New Dimensions in
Testimony) という名前で
00:47
and it allows you to have
interactive conversations
15
47420
3126
ホロコースト生存者の
ホログラムと
00:50
with a hologram
of a real Holocaust survivor.
16
50570
2556
対話することができます
00:53
(Video) Man: How did you
survive the Holocaust?
17
53793
1966
(男) どうやってホロコーストを
生き延びたんですか?
00:55
(Video) Hologram: How did I survive?
18
55783
1668
(ホログラム) どうやって生き延びたか?
00:57
I survived,
19
57912
1807
私が生き残れたのは—
01:00
I believe,
20
60419
1527
神が見守っていて
くれたからだと
01:01
because providence watched over me.
21
61970
3023
私は思っています
01:05
SS: Turns out these answers
were prerecorded in a studio.
22
65573
3454
(講演者) 答えはスタジオで
あらかじめ録画されたものですが
01:09
Yet the effect is astounding.
23
69051
2452
その効果は劇的です
01:11
You feel so connected to his story
and to him as a person.
24
71527
3619
その人の話や その人自身に対する
強い結び付きを感じます
01:16
I think there's something special
about human interaction
25
76011
3301
人間同士のやり取りには
特別な力があるのでしょう
01:19
that makes it much more profound
26
79336
2757
本や講義や映画
などよりもずっと
01:22
and personal
27
82117
2198
深く個人的な体験を
与えてくれます
01:24
than what books or lectures
or movies could ever teach us.
28
84339
3485
01:28
So I saw this and began to wonder,
29
88267
2425
それで私は
思うようになりました
01:30
can we create a model
like this for anyone?
30
90716
2810
こういうモデルを
誰に対しても作れたら?
01:33
A model that looks, talks
and acts just like them?
31
93550
2975
その人自身のように見え
語り 振る舞うモデルです
01:37
So I set out to see if this could be done
32
97573
2007
それが可能か検討を始め
01:39
and eventually came up with a new solution
33
99604
2310
既存の写真や映像だけから
01:41
that can build a model of a person
using nothing but these:
34
101938
3220
その人物のモデルを作る方法を
考案しました
01:45
existing photos and videos of a person.
35
105747
2214
その人物のモデルを作る方法を
考案しました
01:48
If you can leverage
this kind of passive information,
36
108701
2617
こういう その辺にある
写真や映像といった
01:51
just photos and video that are out there,
37
111342
2007
ありあわせの素材
だけでよいなら
01:53
that's the key to scaling to anyone.
38
113373
2056
誰に対してもモデルを
作れるようになります
01:56
By the way, here's Richard Feynman,
39
116119
1777
ちなみに この人物は
リチャード・ファインマンで
01:57
who in addition to being
a Nobel Prize winner in physics
40
117920
3413
ノーベル物理学賞の
受賞者であるのみならず
02:01
was also known as a legendary teacher.
41
121357
2453
優れた教師として
よく知られていました
02:05
Wouldn't it be great
if we could bring him back
42
125080
2198
もしファインマンを蘇らせ
02:07
to give his lectures
and inspire millions of kids,
43
127302
3265
何百万という若者に話をして
刺激を与えてもらい
02:10
perhaps not just in English
but in any language?
44
130591
2992
さらには他の言語でも語らせられたなら
素晴らしいでしょう
02:14
Or if you could ask our grandparents
for advice and hear those comforting words
45
134441
4602
あるいは もうこの世を去ってしまった
おじいさん おばあさんに
アドバイスや心温まる言葉を
かけてもらえたなら
02:19
even if they're no longer with us?
46
139067
1770
02:21
Or maybe using this tool,
book authors, alive or not,
47
141683
3396
またこのツールを使えば
存命か否かにかかわらず
02:25
could read aloud all of their books
for anyone interested.
48
145103
2937
著者自身に本の朗読を
してもらうこともできるでしょう
02:29
The creative possibilities
here are endless,
49
149199
2437
これが持つ創造的可能性は
限りがなく
02:31
and to me, that's very exciting.
50
151660
1713
すごくワクワクさせられます
02:34
And here's how it's working so far.
51
154595
2002
その仕組みを
お話ししましょう
02:36
First, we introduce a new technique
52
156621
1667
まず 顔の精細な
3次元モデルを
02:38
that can reconstruct a high-detailed
3D face model from any image
53
158312
4572
3Dスキャンデータなしに
任意の画像から作れる
手法を開発しました
02:42
without ever 3D-scanning the person.
54
162908
2119
02:45
And here's the same output model
from different views.
55
165890
2642
これは同じモデルを
別の視点から見たものです
02:49
This also works on videos,
56
169969
1502
この技術は映像にも使えます
02:51
by running the same algorithm
on each video frame
57
171495
2852
映像の各フレームに
同じアルゴリズムを適用し
02:54
and generating a moving 3D model.
58
174371
2222
動きのある3次元モデルを
生成します
02:57
And here's the same
output model from different angles.
59
177538
2772
こちらは同じモデルを
違う角度から見たものです
03:01
It turns out this problem
is very challenging,
60
181933
2534
この問題は
とても難しいのですが
03:04
but the key trick
is that we are going to analyze
61
184491
2525
あらかじめ その人物の
大量の写真を
03:07
a large photo collection
of the person beforehand.
62
187040
2966
解析することが
鍵になります
03:10
For George W. Bush,
we can just search on Google,
63
190650
2539
ジョージ・W・ブッシュなら
Googleで画像検索するだけでよく
03:14
and from that, we are able
to build an average model,
64
194309
2499
そこから平均モデルを
作ることができ
03:16
an iterative, refined model
to recover the expression
65
196832
3111
段階的にモデルを
改善していって
03:19
in fine details,
like creases and wrinkles.
66
199967
2336
皺のような 表情の
細部を再現します
03:23
What's fascinating about this
67
203326
1403
これのいいところは
03:24
is that the photo collection
can come from your typical photos.
68
204753
3423
写真は ごく普通のもので
よいということです
03:28
It doesn't really matter
what expression you're making
69
208200
2603
どういう表情かとか
どこで撮られたかとかは
03:30
or where you took those photos.
70
210827
1885
あまり問題ではありません
03:32
What matters is
that there are a lot of them.
71
212736
2400
大事なのは写真が
たくさんあるということです
03:35
And we are still missing color here,
72
215160
1736
まだ色が付いていないので
03:36
so next, we develop
a new blending technique
73
216920
2348
次に新しいブレンディング技法を開発し
03:39
that improves upon
a single averaging method
74
219292
2836
平均モデルを改良して
くっきりとした顔の
質感や色を付けます
03:42
and produces sharp
facial textures and colors.
75
222152
2818
03:45
And this can be done for any expression.
76
225779
2771
これはどんな表情に
対しても行えます
03:49
Now we have a control
of a model of a person,
77
229485
2499
これで人物の動かせる
モデルができました
03:52
and the way it's controlled now
is by a sequence of static photos.
78
232008
3795
動きは一連の写真に
合わせたものになります
03:55
Notice how the wrinkles come and go,
depending on the expression.
79
235827
3126
表情に応じて皺が現れたり
消えたりするのに注意してください
04:00
We can also use a video
to drive the model.
80
240109
2746
モデルを動かすのに
映像を使うこともできます
04:02
(Video) Daniel Craig: Right, but somehow,
81
242879
2593
(ダニエル・クレイグ) ええ
しかし私達はどうにか
04:05
we've managed to attract
some more amazing people.
82
245496
3771
さらに素晴らしい人たちを
引き入れました
(講演者) これで面白いことができます
04:10
SS: And here's another fun demo.
83
250021
1642
04:11
So what you see here
are controllable models
84
251687
2246
ここに出ているのは
04:13
of people I built
from their internet photos.
85
253957
2444
ネット上の写真から作った
有名人のモデルです
04:16
Now, if you transfer
the motion from the input video,
86
256425
2904
入力源となる映像の
動きに合わせて
04:19
we can actually drive the entire party.
87
259353
2152
全部の顔を動かす
ことができます
04:21
George W. Bush:
It's a difficult bill to pass,
88
261529
2172
(ブッシュ) これは
通すのが難しい法案で
04:23
because there's a lot of moving parts,
89
263725
2303
構成要素がたくさんあり
立法の過程は見苦しいものに
なるかもしれません
04:26
and the legislative processes can be ugly.
90
266052
5231
04:31
(Applause)
91
271307
1630
(拍手)
04:32
SS: So coming back a little bit,
92
272961
1837
(講演者) 少し話を戻すと
04:34
our ultimate goal, rather,
is to capture their mannerisms
93
274822
3191
私達の究極の目標は
それぞれの人が話したり笑ったりする時の
独特なやり方や癖を捉えるということです
04:38
or the unique way each
of these people talks and smiles.
94
278037
3045
04:41
So to do that, can we
actually teach the computer
95
281106
2313
その人物が話している
映像を見せるだけで
04:43
to imitate the way someone talks
96
283443
2222
コンピューターが
その人の話し方を
04:45
by only showing it
video footage of the person?
97
285689
2420
真似られるように
できるのでしょうか?
04:48
And what I did exactly was,
I let a computer watch
98
288898
2577
それで オバマが演説している
14時間の映像を
04:51
14 hours of pure Barack Obama
giving addresses.
99
291499
3277
コンピューターに
見せることにしました
04:55
And here's what we can produce
given only his audio.
100
295443
3516
これはオバマが話す声だけから
生成した映像です
04:58
(Video) BO: The results are clear.
101
298983
1777
(オバマ) 結果は明らかです
05:00
America's businesses have created
14.5 million new jobs
102
300784
4349
アメリカの産業界は
75ヶ月にわたり
1450万の新たな仕事を
生み出したのです
05:05
over 75 straight months.
103
305157
2774
05:07
SS: So what's being synthesized here
is only the mouth region,
104
307955
2905
(講演者) ここで合成されているのは
口の部分だけで
05:10
and here's how we do it.
105
310884
1540
こんな風にしています
05:12
Our pipeline uses a neural network
106
312764
1826
私達のシステムは
ニューラルネットワークを使って
05:14
to convert and input audio
into these mouth points.
107
314614
2936
入力された音声を
口の位置を表す点に変換します
05:18
(Video) BO: We get it through our job
or through Medicare or Medicaid.
108
318547
4225
(オバマ) 仕事や メディケア
メディケイドを通じて得ています
05:22
SS: Then we synthesize the texture,
enhance details and teeth,
109
322796
3420
(講演者) それから質感を合成し
細部や歯を補い
05:26
and blend it into the head
and background from a source video.
110
326240
3074
元の映像の頭部と背景に
埋め込みます
05:29
(Video) BO: Women can get free checkups,
111
329338
1905
(オバマ) 女性は無料の
健康診断を受けられ
05:31
and you can't get charged more
just for being a woman.
112
331267
2968
女性というだけで
余分に支払うことはありません
05:34
Young people can stay
on a parent's plan until they turn 26.
113
334973
3306
子供は26歳になるまで
親の保険が使えます
05:39
SS: I think these results
seem very realistic and intriguing,
114
339267
2952
(講演者) 結果としてできたものは
とてもリアルで興味深いものですが
05:42
but at the same time
frightening, even to me.
115
342243
3173
同時に私自身でも
怖いと感じます
05:45
Our goal was to build an accurate model
of a person, not to misrepresent them.
116
345440
4015
私達の目標は人物の正確なモデルを作ることで
誰かを騙ることではありません
05:49
But one thing that concerns me
is its potential for misuse.
117
349956
3111
しかしこれが悪用される可能性を
危惧しています
05:53
People have been thinking
about this problem for a long time,
118
353958
2971
この問題については
フォトショップが現れて以来
05:56
since the days when Photoshop
first hit the market.
119
356953
2381
みんなずっと考えてきました
05:59
As a researcher, I'm also working
on countermeasure technology,
120
359862
3801
研究者として 私は
対策技術の開発もしていて
06:03
and I'm part of an ongoing
effort at AI Foundation,
121
363687
2942
AI Foundationでの
取り組みに参加しています
06:06
which uses a combination
of machine learning and human moderators
122
366653
3397
それは機械学習と
人間のモデレーターの組み合わせにより
06:10
to detect fake images and videos,
123
370074
2144
偽物の画像や映像を
検出しようという
06:12
fighting against my own work.
124
372242
1514
私自身の研究に
対抗するものです
06:14
And one of the tools we plan to release
is called Reality Defender,
125
374675
3190
公開を予定しているツールに
Reality Defender があり
06:17
which is a web-browser plug-in
that can flag potentially fake content
126
377889
4039
これはブラウザーのプラグインで
偽物の可能性のあるコンテンツに対して
警告を出すようになっています
06:21
automatically, right in the browser.
127
381952
2533
06:24
(Applause)
128
384509
4228
(拍手)
06:28
Despite all this, though,
129
388761
1453
それでも真偽の確認が
なされる前に
06:30
fake videos could do a lot of damage,
130
390238
1840
偽の映像が大きな被害を
もたらすこともありうるので
06:32
even before anyone has a chance to verify,
131
392102
3294
偽の映像が大きな被害を
もたらすこともありうるので
06:35
so it's very important
that we make everyone aware
132
395420
2722
現在どのようなことが
可能になっているのかを
みんな理解していることが重要で
06:38
of what's currently possible
133
398166
2007
06:40
so we can have the right assumption
and be critical about what we see.
134
400197
3369
それにより適切な仮定をし
批判的な目で物事を見られるようになるでしょう
06:44
There's still a long way to go before
we can fully model individual people
135
404423
5007
人物の完全なモデルを作れ
安全性も確保できるまでには
06:49
and before we can ensure
the safety of this technology.
136
409454
2786
まだまだ時間がかかるでしょう
でも私は希望と熱意を持っています
06:53
But I'm excited and hopeful,
137
413097
1587
06:54
because if we use it right and carefully,
138
414708
3539
この技術を正しく
注意して使うなら
06:58
this tool can allow any individual's
positive impact on the world
139
418271
4309
誰もが広く世界に
良い影響を与えられるようになり
07:02
to be massively scaled
140
422604
2190
07:04
and really help shape our future
the way we want it to be.
141
424818
2742
みんなが望む未来を築く
助けになるはずだからです
07:07
Thank you.
142
427584
1151
ありがとうございました
07:08
(Applause)
143
428759
5090
(拍手)
New videos
Original video on YouTube.com
このウェブサイトについて
このサイトでは英語学習に役立つYouTube動画を紹介します。世界中の一流講師による英語レッスンを見ることができます。各ビデオのページに表示される英語字幕をダブルクリックすると、そこからビデオを再生することができます。字幕はビデオの再生と同期してスクロールします。ご意見・ご要望がございましたら、こちらのお問い合わせフォームよりご連絡ください。