Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

1,287,032 views ・ 2018-07-25

TED


下の英語字幕をダブルクリックすると動画を再生できます。

翻訳: Yasushi Aoki 校正: Claire Ghyselen
00:12
Look at these images.
0
12876
1151
この映像を見てください
00:14
Now, tell me which Obama here is real.
1
14051
2635
本物のオバマ大統領は どれでしょう?
00:16
(Video) Barack Obama: To help families refinance their homes,
2
16710
2861
(バラク・オバマ) 住宅ローンを 借り換える家庭を助けること
00:19
to invest in things like high-tech manufacturing,
3
19595
2647
ハイテク製造業 クリーンエネルギー
00:22
clean energy
4
22266
1159
インフラといったものに 投資することで
00:23
and the infrastructure that creates good new jobs.
5
23449
2779
良い仕事が創出されます
00:26
Supasorn Suwajanakorn: Anyone?
6
26647
1484
(講演者) 分かりますか?
00:28
The answer is none of them.
7
28155
1874
答えは 全部ニセ者です
00:30
(Laughter)
8
30053
1114
(笑)
00:31
None of these is actually real.
9
31191
1786
どれ1つ本物ではありません
00:33
So let me tell you how we got here.
10
33001
1840
これまでの道のりについて お話ししましょう
00:35
My inspiration for this work
11
35940
1578
この研究をする ヒントになったのは
00:37
was a project meant to preserve our last chance for learning about the Holocaust
12
37542
5411
ホロコーストの生存者たちから 学ぶ最後の機会を
保存しようという プロジェクトでした
00:42
from the survivors.
13
42977
1768
00:44
It's called New Dimensions in Testimony,
14
44769
2627
「証言の新局面」(New Dimensions in Testimony) という名前で
00:47
and it allows you to have interactive conversations
15
47420
3126
ホロコースト生存者の ホログラムと
00:50
with a hologram of a real Holocaust survivor.
16
50570
2556
対話することができます
00:53
(Video) Man: How did you survive the Holocaust?
17
53793
1966
(男) どうやってホロコーストを 生き延びたんですか?
00:55
(Video) Hologram: How did I survive?
18
55783
1668
(ホログラム) どうやって生き延びたか?
00:57
I survived,
19
57912
1807
私が生き残れたのは—
01:00
I believe,
20
60419
1527
神が見守っていて くれたからだと
01:01
because providence watched over me.
21
61970
3023
私は思っています
01:05
SS: Turns out these answers were prerecorded in a studio.
22
65573
3454
(講演者) 答えはスタジオで あらかじめ録画されたものですが
01:09
Yet the effect is astounding.
23
69051
2452
その効果は劇的です
01:11
You feel so connected to his story and to him as a person.
24
71527
3619
その人の話や その人自身に対する 強い結び付きを感じます
01:16
I think there's something special about human interaction
25
76011
3301
人間同士のやり取りには
特別な力があるのでしょう
01:19
that makes it much more profound
26
79336
2757
本や講義や映画 などよりもずっと
01:22
and personal
27
82117
2198
深く個人的な体験を 与えてくれます
01:24
than what books or lectures or movies could ever teach us.
28
84339
3485
01:28
So I saw this and began to wonder,
29
88267
2425
それで私は 思うようになりました
01:30
can we create a model like this for anyone?
30
90716
2810
こういうモデルを 誰に対しても作れたら?
01:33
A model that looks, talks and acts just like them?
31
93550
2975
その人自身のように見え 語り 振る舞うモデルです
01:37
So I set out to see if this could be done
32
97573
2007
それが可能か検討を始め
01:39
and eventually came up with a new solution
33
99604
2310
既存の写真や映像だけから
01:41
that can build a model of a person using nothing but these:
34
101938
3220
その人物のモデルを作る方法を 考案しました
01:45
existing photos and videos of a person.
35
105747
2214
その人物のモデルを作る方法を 考案しました
01:48
If you can leverage this kind of passive information,
36
108701
2617
こういう その辺にある 写真や映像といった
01:51
just photos and video that are out there,
37
111342
2007
ありあわせの素材 だけでよいなら
01:53
that's the key to scaling to anyone.
38
113373
2056
誰に対してもモデルを 作れるようになります
01:56
By the way, here's Richard Feynman,
39
116119
1777
ちなみに この人物は リチャード・ファインマンで
01:57
who in addition to being a Nobel Prize winner in physics
40
117920
3413
ノーベル物理学賞の 受賞者であるのみならず
02:01
was also known as a legendary teacher.
41
121357
2453
優れた教師として よく知られていました
02:05
Wouldn't it be great if we could bring him back
42
125080
2198
もしファインマンを蘇らせ
02:07
to give his lectures and inspire millions of kids,
43
127302
3265
何百万という若者に話をして 刺激を与えてもらい
02:10
perhaps not just in English but in any language?
44
130591
2992
さらには他の言語でも語らせられたなら 素晴らしいでしょう
02:14
Or if you could ask our grandparents for advice and hear those comforting words
45
134441
4602
あるいは もうこの世を去ってしまった おじいさん おばあさんに
アドバイスや心温まる言葉を かけてもらえたなら
02:19
even if they're no longer with us?
46
139067
1770
02:21
Or maybe using this tool, book authors, alive or not,
47
141683
3396
またこのツールを使えば 存命か否かにかかわらず
02:25
could read aloud all of their books for anyone interested.
48
145103
2937
著者自身に本の朗読を してもらうこともできるでしょう
02:29
The creative possibilities here are endless,
49
149199
2437
これが持つ創造的可能性は 限りがなく
02:31
and to me, that's very exciting.
50
151660
1713
すごくワクワクさせられます
02:34
And here's how it's working so far.
51
154595
2002
その仕組みを お話ししましょう
02:36
First, we introduce a new technique
52
156621
1667
まず 顔の精細な 3次元モデルを
02:38
that can reconstruct a high-detailed 3D face model from any image
53
158312
4572
3Dスキャンデータなしに
任意の画像から作れる 手法を開発しました
02:42
without ever 3D-scanning the person.
54
162908
2119
02:45
And here's the same output model from different views.
55
165890
2642
これは同じモデルを 別の視点から見たものです
02:49
This also works on videos,
56
169969
1502
この技術は映像にも使えます
02:51
by running the same algorithm on each video frame
57
171495
2852
映像の各フレームに 同じアルゴリズムを適用し
02:54
and generating a moving 3D model.
58
174371
2222
動きのある3次元モデルを 生成します
02:57
And here's the same output model from different angles.
59
177538
2772
こちらは同じモデルを 違う角度から見たものです
03:01
It turns out this problem is very challenging,
60
181933
2534
この問題は とても難しいのですが
03:04
but the key trick is that we are going to analyze
61
184491
2525
あらかじめ その人物の 大量の写真を
03:07
a large photo collection of the person beforehand.
62
187040
2966
解析することが 鍵になります
03:10
For George W. Bush, we can just search on Google,
63
190650
2539
ジョージ・W・ブッシュなら Googleで画像検索するだけでよく
03:14
and from that, we are able to build an average model,
64
194309
2499
そこから平均モデルを 作ることができ
03:16
an iterative, refined model to recover the expression
65
196832
3111
段階的にモデルを 改善していって
03:19
in fine details, like creases and wrinkles.
66
199967
2336
皺のような 表情の 細部を再現します
03:23
What's fascinating about this
67
203326
1403
これのいいところは
03:24
is that the photo collection can come from your typical photos.
68
204753
3423
写真は ごく普通のもので よいということです
03:28
It doesn't really matter what expression you're making
69
208200
2603
どういう表情かとか どこで撮られたかとかは
03:30
or where you took those photos.
70
210827
1885
あまり問題ではありません
03:32
What matters is that there are a lot of them.
71
212736
2400
大事なのは写真が たくさんあるということです
03:35
And we are still missing color here,
72
215160
1736
まだ色が付いていないので
03:36
so next, we develop a new blending technique
73
216920
2348
次に新しいブレンディング技法を開発し
03:39
that improves upon a single averaging method
74
219292
2836
平均モデルを改良して
くっきりとした顔の 質感や色を付けます
03:42
and produces sharp facial textures and colors.
75
222152
2818
03:45
And this can be done for any expression.
76
225779
2771
これはどんな表情に 対しても行えます
03:49
Now we have a control of a model of a person,
77
229485
2499
これで人物の動かせる モデルができました
03:52
and the way it's controlled now is by a sequence of static photos.
78
232008
3795
動きは一連の写真に 合わせたものになります
03:55
Notice how the wrinkles come and go, depending on the expression.
79
235827
3126
表情に応じて皺が現れたり 消えたりするのに注意してください
04:00
We can also use a video to drive the model.
80
240109
2746
モデルを動かすのに 映像を使うこともできます
04:02
(Video) Daniel Craig: Right, but somehow,
81
242879
2593
(ダニエル・クレイグ) ええ しかし私達はどうにか
04:05
we've managed to attract some more amazing people.
82
245496
3771
さらに素晴らしい人たちを 引き入れました
(講演者) これで面白いことができます
04:10
SS: And here's another fun demo.
83
250021
1642
04:11
So what you see here are controllable models
84
251687
2246
ここに出ているのは
04:13
of people I built from their internet photos.
85
253957
2444
ネット上の写真から作った 有名人のモデルです
04:16
Now, if you transfer the motion from the input video,
86
256425
2904
入力源となる映像の 動きに合わせて
04:19
we can actually drive the entire party.
87
259353
2152
全部の顔を動かす ことができます
04:21
George W. Bush: It's a difficult bill to pass,
88
261529
2172
(ブッシュ) これは 通すのが難しい法案で
04:23
because there's a lot of moving parts,
89
263725
2303
構成要素がたくさんあり
立法の過程は見苦しいものに なるかもしれません
04:26
and the legislative processes can be ugly.
90
266052
5231
04:31
(Applause)
91
271307
1630
(拍手)
04:32
SS: So coming back a little bit,
92
272961
1837
(講演者) 少し話を戻すと
04:34
our ultimate goal, rather, is to capture their mannerisms
93
274822
3191
私達の究極の目標は
それぞれの人が話したり笑ったりする時の 独特なやり方や癖を捉えるということです
04:38
or the unique way each of these people talks and smiles.
94
278037
3045
04:41
So to do that, can we actually teach the computer
95
281106
2313
その人物が話している 映像を見せるだけで
04:43
to imitate the way someone talks
96
283443
2222
コンピューターが その人の話し方を
04:45
by only showing it video footage of the person?
97
285689
2420
真似られるように できるのでしょうか?
04:48
And what I did exactly was, I let a computer watch
98
288898
2577
それで オバマが演説している 14時間の映像を
04:51
14 hours of pure Barack Obama giving addresses.
99
291499
3277
コンピューターに 見せることにしました
04:55
And here's what we can produce given only his audio.
100
295443
3516
これはオバマが話す声だけから 生成した映像です
04:58
(Video) BO: The results are clear.
101
298983
1777
(オバマ) 結果は明らかです
05:00
America's businesses have created 14.5 million new jobs
102
300784
4349
アメリカの産業界は 75ヶ月にわたり
1450万の新たな仕事を 生み出したのです
05:05
over 75 straight months.
103
305157
2774
05:07
SS: So what's being synthesized here is only the mouth region,
104
307955
2905
(講演者) ここで合成されているのは 口の部分だけで
05:10
and here's how we do it.
105
310884
1540
こんな風にしています
05:12
Our pipeline uses a neural network
106
312764
1826
私達のシステムは ニューラルネットワークを使って
05:14
to convert and input audio into these mouth points.
107
314614
2936
入力された音声を 口の位置を表す点に変換します
05:18
(Video) BO: We get it through our job or through Medicare or Medicaid.
108
318547
4225
(オバマ) 仕事や メディケア メディケイドを通じて得ています
05:22
SS: Then we synthesize the texture, enhance details and teeth,
109
322796
3420
(講演者) それから質感を合成し 細部や歯を補い
05:26
and blend it into the head and background from a source video.
110
326240
3074
元の映像の頭部と背景に 埋め込みます
05:29
(Video) BO: Women can get free checkups,
111
329338
1905
(オバマ) 女性は無料の 健康診断を受けられ
05:31
and you can't get charged more just for being a woman.
112
331267
2968
女性というだけで 余分に支払うことはありません
05:34
Young people can stay on a parent's plan until they turn 26.
113
334973
3306
子供は26歳になるまで 親の保険が使えます
05:39
SS: I think these results seem very realistic and intriguing,
114
339267
2952
(講演者) 結果としてできたものは とてもリアルで興味深いものですが
05:42
but at the same time frightening, even to me.
115
342243
3173
同時に私自身でも 怖いと感じます
05:45
Our goal was to build an accurate model of a person, not to misrepresent them.
116
345440
4015
私達の目標は人物の正確なモデルを作ることで 誰かを騙ることではありません
05:49
But one thing that concerns me is its potential for misuse.
117
349956
3111
しかしこれが悪用される可能性を 危惧しています
05:53
People have been thinking about this problem for a long time,
118
353958
2971
この問題については フォトショップが現れて以来
05:56
since the days when Photoshop first hit the market.
119
356953
2381
みんなずっと考えてきました
05:59
As a researcher, I'm also working on countermeasure technology,
120
359862
3801
研究者として 私は 対策技術の開発もしていて
06:03
and I'm part of an ongoing effort at AI Foundation,
121
363687
2942
AI Foundationでの 取り組みに参加しています
06:06
which uses a combination of machine learning and human moderators
122
366653
3397
それは機械学習と 人間のモデレーターの組み合わせにより
06:10
to detect fake images and videos,
123
370074
2144
偽物の画像や映像を 検出しようという
06:12
fighting against my own work.
124
372242
1514
私自身の研究に 対抗するものです
06:14
And one of the tools we plan to release is called Reality Defender,
125
374675
3190
公開を予定しているツールに Reality Defender があり
06:17
which is a web-browser plug-in that can flag potentially fake content
126
377889
4039
これはブラウザーのプラグインで
偽物の可能性のあるコンテンツに対して 警告を出すようになっています
06:21
automatically, right in the browser.
127
381952
2533
06:24
(Applause)
128
384509
4228
(拍手)
06:28
Despite all this, though,
129
388761
1453
それでも真偽の確認が なされる前に
06:30
fake videos could do a lot of damage,
130
390238
1840
偽の映像が大きな被害を もたらすこともありうるので
06:32
even before anyone has a chance to verify,
131
392102
3294
偽の映像が大きな被害を もたらすこともありうるので
06:35
so it's very important that we make everyone aware
132
395420
2722
現在どのようなことが 可能になっているのかを
みんな理解していることが重要で
06:38
of what's currently possible
133
398166
2007
06:40
so we can have the right assumption and be critical about what we see.
134
400197
3369
それにより適切な仮定をし 批判的な目で物事を見られるようになるでしょう
06:44
There's still a long way to go before we can fully model individual people
135
404423
5007
人物の完全なモデルを作れ 安全性も確保できるまでには
06:49
and before we can ensure the safety of this technology.
136
409454
2786
まだまだ時間がかかるでしょう
でも私は希望と熱意を持っています
06:53
But I'm excited and hopeful,
137
413097
1587
06:54
because if we use it right and carefully,
138
414708
3539
この技術を正しく 注意して使うなら
06:58
this tool can allow any individual's positive impact on the world
139
418271
4309
誰もが広く世界に
良い影響を与えられるようになり
07:02
to be massively scaled
140
422604
2190
07:04
and really help shape our future the way we want it to be.
141
424818
2742
みんなが望む未来を築く 助けになるはずだからです
07:07
Thank you.
142
427584
1151
ありがとうございました
07:08
(Applause)
143
428759
5090
(拍手)
このウェブサイトについて

このサイトでは英語学習に役立つYouTube動画を紹介します。世界中の一流講師による英語レッスンを見ることができます。各ビデオのページに表示される英語字幕をダブルクリックすると、そこからビデオを再生することができます。字幕はビデオの再生と同期してスクロールします。ご意見・ご要望がございましたら、こちらのお問い合わせフォームよりご連絡ください。

https://forms.gle/WvT1wiN1qDtmnspy7