Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

1,287,081 views ・ 2018-07-25

TED


لطفا برای پخش فیلم روی زیرنویس انگلیسی زیر دوبار کلیک کنید.

Translator: Mim Amidi Reviewer: sadegh zabihi
00:12
Look at these images.
0
12876
1151
به این تصاویر نگاه کنید.
00:14
Now, tell me which Obama here is real.
1
14051
2635
به من بگویید کدام یک اوبامای واقعی است؟
00:16
(Video) Barack Obama: To help families refinance their homes,
2
16710
2861
(ویدیو) باراک اوباما: برای کمک به آنها که باید وام خود را تجدید کرده
00:19
to invest in things like high-tech manufacturing,
3
19595
2647
یا روی تولید به کمک فناوری‌های روز دنیا
00:22
clean energy
4
22266
1159
انرژی‌های پاک
00:23
and the infrastructure that creates good new jobs.
5
23449
2779
و زیرساخت‌ها برای مشاغل تازه سرمایه‌گذاری کنند.
00:26
Supasorn Suwajanakorn: Anyone?
6
26647
1484
سوپاسورن سوواجاناکورن: کسی فهمید؟
00:28
The answer is none of them.
7
28155
1874
جواب صحیح هیچ‌کدام از آنها است.
00:30
(Laughter)
8
30053
1114
(خنده)
00:31
None of these is actually real.
9
31191
1786
هیچ یک واقعی نیست.
00:33
So let me tell you how we got here.
10
33001
1840
فکر می‌کنید چطور به اینجا رسیدیم.
00:35
My inspiration for this work
11
35940
1578
الهام بخش من برای آغاز این کار
00:37
was a project meant to preserve our last chance for learning about the Holocaust
12
37542
5411
پروژه‌ای بود برای آنکه آخرین یافته‌های ما درباره هولوکاست را حفظ کند
00:42
from the survivors.
13
42977
1768
آنهم از زبان شاهدان زنده آن.
00:44
It's called New Dimensions in Testimony,
14
44769
2627
این پروژه که ابعاد جدید شهادت نام داشت،
00:47
and it allows you to have interactive conversations
15
47420
3126
به کاربران اجازه می‌داد صحبتی رودررو و کاملا تعاملی
00:50
with a hologram of a real Holocaust survivor.
16
50570
2556
با هولوگرام بازمانده واقعی از هولوکاست داشته باشند.
00:53
(Video) Man: How did you survive the Holocaust?
17
53793
1966
(ویدیو) مرد: چطور از هولوکاست جان سالم به در بردی؟
00:55
(Video) Hologram: How did I survive?
18
55783
1668
(ویدیو) هولوگرام: چطور جان سالم به در بردم؟
00:57
I survived,
19
57912
1807
من زنده ماندم،
01:00
I believe,
20
60419
1527
چون اعتقاد داشتم،
01:01
because providence watched over me.
21
61970
3023
در پناه خدا و فرشتگان هستم.
01:05
SS: Turns out these answers were prerecorded in a studio.
22
65573
3454
س س: حقیقت اینست که این پاسخ‌ها از قبل در استودیو ضبط شده بودند.
01:09
Yet the effect is astounding.
23
69051
2452
با این حال اثر آنها بی‌نظیر بود.
01:11
You feel so connected to his story and to him as a person.
24
71527
3619
این مرد می‌توانست احساس همدردی و نوع دوستی شما را برانگیزد.
01:16
I think there's something special about human interaction
25
76011
3301
باید چیزی خارق‌العاده در تعامل میان انسان‌ها وجود داشته باشد
01:19
that makes it much more profound
26
79336
2757
که آن را این همه قوی
01:22
and personal
27
82117
2198
و شخصی می‌کند
01:24
than what books or lectures or movies could ever teach us.
28
84339
3485
بیشتر از تمام چیزی که از کتاب‌ها سخنرانی‌ها و فیلم‌ها یاد گرفته‌اید.
01:28
So I saw this and began to wonder,
29
88267
2425
پس از دیدن این فیلم به فکر فرو رفتم،
01:30
can we create a model like this for anyone?
30
90716
2810
که آیا می‌توان مدلی شببه به آن را برای هر کسی خلق کرد؟
01:33
A model that looks, talks and acts just like them?
31
93550
2975
مدلی که بتواند مانند آنها نگاه کرده حرف زده و واکنش نشان بدهد؟
01:37
So I set out to see if this could be done
32
97573
2007
و تلاش کردم تا به نتیجه برسم
01:39
and eventually came up with a new solution
33
99604
2310
در نهایت به راه‌حل تازه‌ای رسیدم
01:41
that can build a model of a person using nothing but these:
34
101938
3220
که می‌توانست مدلی از یک فرد را با استفاده از حداقل‌ها ایجاد کند:
01:45
existing photos and videos of a person.
35
105747
2214
عکس‌ها و ویدئوهایی که از او وجود داشت.
01:48
If you can leverage this kind of passive information,
36
108701
2617
اگر بتوانید به بهترین شکل از این داده‌ها استفاده کنید،
01:51
just photos and video that are out there,
37
111342
2007
تنها عکس‌ها و ویدئوهایی که در اختیار دارید،
01:53
that's the key to scaling to anyone.
38
113373
2056
ابزار کافی است.
01:56
By the way, here's Richard Feynman,
39
116119
1777
حالا در اینجا ریچارد فاینمن را داریم،
01:57
who in addition to being a Nobel Prize winner in physics
40
117920
3413
یک فیزیکدان برنده جایزه نوبل
02:01
was also known as a legendary teacher.
41
121357
2453
و استادی افسانه‌ای.
02:05
Wouldn't it be great if we could bring him back
42
125080
2198
به نظرتان عالی نیست که او را به حیات برگردانیم
02:07
to give his lectures and inspire millions of kids,
43
127302
3265
تا برایمان سخنرانی کند و میلیون‌ها کودک را تحت تأثیر قرار بدهد،
02:10
perhaps not just in English but in any language?
44
130591
2992
آنهم نه تنها به زبان انگلیسی بلکه به تمامی زبان‌ها؟
02:14
Or if you could ask our grandparents for advice and hear those comforting words
45
134441
4602
یا اینکه پای صحبت‌های شیرین پدربزرگ‌ها و مادربزرگ‌هایمان بنشینیم
02:19
even if they're no longer with us?
46
139067
1770
در حالی که دیگر در قید حیات نیستند؟
02:21
Or maybe using this tool, book authors, alive or not,
47
141683
3396
یا از این تکنیک برای جان دادن به نویسندگان محبوبمان استفاده کنیم،
02:25
could read aloud all of their books for anyone interested.
48
145103
2937
تا کتاب‌هایشان را با صدای خود برای علاقمندان بازخوانی کنند.
02:29
The creative possibilities here are endless,
49
149199
2437
ایده‌های خلاقانه بسیاری در این حیطه وجود دارند،
02:31
and to me, that's very exciting.
50
151660
1713
و به شخصه برای من بسیار جذاب هستند.
02:34
And here's how it's working so far.
51
154595
2002
حالا به شیوه کار بپردازیم.
02:36
First, we introduce a new technique
52
156621
1667
در ابتدا تکنیک تازه‌ای خلق کردیم
02:38
that can reconstruct a high-detailed 3D face model from any image
53
158312
4572
که می‌توانست طرح سه بعدی دقیقی از هر تصویری را بازسازی کند
02:42
without ever 3D-scanning the person.
54
162908
2119
بدون آنکه به اسکن سه بعدی فرد نیازی داشته باشد.
02:45
And here's the same output model from different views.
55
165890
2642
این همان مدل نهایی از زوایای گوناگون است.
02:49
This also works on videos,
56
169969
1502
همین تکنیک در ویدئو کاربرد دارد،
02:51
by running the same algorithm on each video frame
57
171495
2852
با به کارگیری الگوریتمی یکسان در هر فریم از ویدئو
02:54
and generating a moving 3D model.
58
174371
2222
و خلق یک مدل سه بعدی متحرک.
02:57
And here's the same output model from different angles.
59
177538
2772
این همان محصول نهایی است که از زوایای گوناگون دیده می‌شود.
03:01
It turns out this problem is very challenging,
60
181933
2534
به نظر می‌رسد این معما بسیار پیچیده باشد،
03:04
but the key trick is that we are going to analyze
61
184491
2525
اما فوت کوزه‌گری اینست که ما به بررسی
03:07
a large photo collection of the person beforehand.
62
187040
2966
مجموعه گسترده‌ای از تصاویر خواهیم پرداخت.
03:10
For George W. Bush, we can just search on Google,
63
190650
2539
برای جرج دبلیو. بوش تنها به جستجو در گوگل اکتفا کردیم،
03:14
and from that, we are able to build an average model,
64
194309
2499
و به کمک همان‌ها، موفق به ساخت مدلی متوسط شدیم،
03:16
an iterative, refined model to recover the expression
65
196832
3111
یک مدل شسته رفته و تعاملی که به خوبی می‌تواند
03:19
in fine details, like creases and wrinkles.
66
199967
2336
جزئیاتی ریز مانند چین و چروک صورت را نشان بدهد.
03:23
What's fascinating about this
67
203326
1403
نکته جالب توجه اینکه
03:24
is that the photo collection can come from your typical photos.
68
204753
3423
مجموعه عکس‌ها می‌تواند از عکس‌های روزمره شما گردآوری شود.
03:28
It doesn't really matter what expression you're making
69
208200
2603
این مهم نیست که حالات چهره شما چگونه است
03:30
or where you took those photos.
70
210827
1885
یا کجا این عکس‌ها را گرفته‌اید.
03:32
What matters is that there are a lot of them.
71
212736
2400
مهم اینست که تعداد زیادی در اختیار داشته باشید.
03:35
And we are still missing color here,
72
215160
1736
حالا نوبت به رنگ‌ها می‌رسد،
03:36
so next, we develop a new blending technique
73
216920
2348
ما از تکنیکی برای ترکیب آنها استفاده کرده‌ایم
03:39
that improves upon a single averaging method
74
219292
2836
که از روش‌های متوسط کنونی به مراتب بهتر است
03:42
and produces sharp facial textures and colors.
75
222152
2818
و بافت و رنگی زنده به چهره فرد می‌دهد.
03:45
And this can be done for any expression.
76
225779
2771
و می‌تواند برای تمامی حالات استفاده شود.
03:49
Now we have a control of a model of a person,
77
229485
2499
حالا ما کنترل یک مدل انسانی را در اختیار داریم،
03:52
and the way it's controlled now is by a sequence of static photos.
78
232008
3795
این کنترل به وسیله توالی از تصاویر ایستا ایجاد می‌شود.
03:55
Notice how the wrinkles come and go, depending on the expression.
79
235827
3126
به ظاهر و پنهان شدن چین و چروک‌ها در هنگام تغییر حالات دقت کنید.
04:00
We can also use a video to drive the model.
80
240109
2746
علاوه بر این می‌توانیم از ویدئو برای مدل خود استفاده کنیم.
04:02
(Video) Daniel Craig: Right, but somehow,
81
242879
2593
(ویدیو) دنیل کریگ: درسته، ولی گاهی،
04:05
we've managed to attract some more amazing people.
82
245496
3771
باید آدم های فوق‌العاده بیشتری جذب کنیم.
04:10
SS: And here's another fun demo.
83
250021
1642
س س: باز هم یک دموی جذاب دیگر.
04:11
So what you see here are controllable models
84
251687
2246
چیزی که اینجا می‌بینید مدل‌های قابل کنترل هستند
04:13
of people I built from their internet photos.
85
253957
2444
آنها را به کمک تصاویر موجود در اینترنت درست کرده‌ام.
04:16
Now, if you transfer the motion from the input video,
86
256425
2904
حالا اگر حرکت را از ویدئوی ورودی به اینجا منتقل کنیم،
04:19
we can actually drive the entire party.
87
259353
2152
همه چیز کامل خواهد شد.
04:21
George W. Bush: It's a difficult bill to pass,
88
261529
2172
جرج دبلیو. بوش: تصویب این لایحه ساده نیست،
04:23
because there's a lot of moving parts,
89
263725
2303
چون اجزای پیچیده بسیاری وجود دارد،
04:26
and the legislative processes can be ugly.
90
266052
5231
و فرایندهای قضایی می‌تواند ناخوشایند باشد.
04:31
(Applause)
91
271307
1630
(تشویق)
04:32
SS: So coming back a little bit,
92
272961
1837
س س: بیایید کمی به عقب برگردیم،
04:34
our ultimate goal, rather, is to capture their mannerisms
93
274822
3191
هدف نهایی ما در اینجا، تبعیت کامل از رفتار این افراد
04:38
or the unique way each of these people talks and smiles.
94
278037
3045
و شیوه یگانه هر یک از آنها در صحبت و لبخند زدن است.
04:41
So to do that, can we actually teach the computer
95
281106
2313
برای رسیدن به آن آیا می‌شود به رایانه یاد بدهیم
04:43
to imitate the way someone talks
96
283443
2222
که شیوه حرف زدن فرد را تقلید کرده
04:45
by only showing it video footage of the person?
97
285689
2420
و این کار را تنها به کمک نمایش ویدئوها انجام بدهیم؟
04:48
And what I did exactly was, I let a computer watch
98
288898
2577
این دقیقا کاری بود که من کردم، اجازه دادم که رایانه
04:51
14 hours of pure Barack Obama giving addresses.
99
291499
3277
۱۴ ساعت از صحبت‌های اوباما را تماشا کند.
04:55
And here's what we can produce given only his audio.
100
295443
3516
تنها کاری که باقی مانده بود اضافه کردن صدا بود.
04:58
(Video) BO: The results are clear.
101
298983
1777
(ویدیو) ب ا: نتیجه مشخص است.
05:00
America's businesses have created 14.5 million new jobs
102
300784
4349
کسب و کارهای آمریکایی ۱۴/۵ میلیون شغل جدید ایجاد کرده‌اند
05:05
over 75 straight months.
103
305157
2774
در طی ۷۵ ماه.
05:07
SS: So what's being synthesized here is only the mouth region,
104
307955
2905
س س: تنها چیزی که در این ویدئوها طراحی شده دهان اوباما است،
05:10
and here's how we do it.
105
310884
1540
و شیوه کار به این ترتیب است.
05:12
Our pipeline uses a neural network
106
312764
1826
سیستم ما از شبکه عصبی استفاده می‌کند
05:14
to convert and input audio into these mouth points.
107
314614
2936
تا صدا را تبدیل کرده و آن را به اجزای دهان منتقل کند.
05:18
(Video) BO: We get it through our job or through Medicare or Medicaid.
108
318547
4225
(ویدیو) ب ا: ما تلاش می‌کنیم بیمه ملی را توسعه بدهیم.
05:22
SS: Then we synthesize the texture, enhance details and teeth,
109
322796
3420
پس از آن بافت را همگون کرده، و جزئیاتی مانند دندان‌ها،
05:26
and blend it into the head and background from a source video.
110
326240
3074
نحوه قرار گرفتن آنها در صورت و پشت زمینه را تصحیح می‌کنیم.
05:29
(Video) BO: Women can get free checkups,
111
329338
1905
(ویدیو) ب ا: زنان می‌توانند به چک آپ رایگان،
05:31
and you can't get charged more just for being a woman.
112
331267
2968
دسترسی داشته و هزینه بیشتری به دلیل زن بودن نداشته باشند.
05:34
Young people can stay on a parent's plan until they turn 26.
113
334973
3306
جوانان هم می توانند تا ۲۶ سالگی از بیمه والدین خود استفاده کنند،
05:39
SS: I think these results seem very realistic and intriguing,
114
339267
2952
س س: به نظرم این نتایج بسیار واقعی و قابل درک است،
05:42
but at the same time frightening, even to me.
115
342243
3173
و همزمان نگران کننده، حتی برای من.
05:45
Our goal was to build an accurate model of a person, not to misrepresent them.
116
345440
4015
هدف اصلی ما ساخت مدلی دقیق از فرد است نه اینکه چهره‌ای غلط از او نمایش بدهیم.
05:49
But one thing that concerns me is its potential for misuse.
117
349956
3111
چیزی که باعث نگرانی من می‌شود احتمال سوء‌استفاده است.
05:53
People have been thinking about this problem for a long time,
118
353958
2971
ما شاهد نمونه‌های متعددی در طول زمان بوده‌ایم،
05:56
since the days when Photoshop first hit the market.
119
356953
2381
از همان زمانی که فتوشاپ وارد بازار شد.
05:59
As a researcher, I'm also working on countermeasure technology,
120
359862
3801
من به عنوان محقق به شیوه‌هایی برای خلق فناوری‌های مقابله‌ای فکر می‌کنم،
06:03
and I'm part of an ongoing effort at AI Foundation,
121
363687
2942
و از سوی دیگر جزئی از بنیاد هوش مصنوعی هستم،
06:06
which uses a combination of machine learning and human moderators
122
366653
3397
که با استفاده از یادگیری ماشین و اپراتورهایی که انسان هستند
06:10
to detect fake images and videos,
123
370074
2144
ویدئوها و تصاویر ساختگی را تشخیص داده،
06:12
fighting against my own work.
124
372242
1514
به نوعی با کار خود من مقابله می‌کند.
06:14
And one of the tools we plan to release is called Reality Defender,
125
374675
3190
یکی از ابزارهایی که طراحی کرده‌ایم «محافظ واقعیت» نام دارد،
06:17
which is a web-browser plug-in that can flag potentially fake content
126
377889
4039
که بر روی مرورگر نصب شده و می‌تواند محتوای ساختگی احتمالی را نشان بدهد
06:21
automatically, right in the browser.
127
381952
2533
خودکار و درست روی مرورگر.
06:24
(Applause)
128
384509
4228
(تشویق)
06:28
Despite all this, though,
129
388761
1453
با تمام این تلاش‌ها،
06:30
fake videos could do a lot of damage,
130
390238
1840
باز هم ویدئوهای ساختگی می‌توانند،
06:32
even before anyone has a chance to verify,
131
392102
3294
خرابی‌های بسیاری را پیش از تشخیص به بار بیاورند،
06:35
so it's very important that we make everyone aware
132
395420
2722
می‌بینید که آگاه کردن کاربران بسیار مهم است
06:38
of what's currently possible
133
398166
2007
از اتفاقی که می‌تواند بیفتد
06:40
so we can have the right assumption and be critical about what we see.
134
400197
3369
پس با آگاهی است که می‌توانیم درست تشخیص داده و با دقت ببینیم.
06:44
There's still a long way to go before we can fully model individual people
135
404423
5007
برای طراحی مدل‌های انسانی هنوز راهی طولانی در پیش داریم
06:49
and before we can ensure the safety of this technology.
136
409454
2786
پیش از آن می‌توانیم در مورد امنیت این روش به نتیجه برسیم.
06:53
But I'm excited and hopeful,
137
413097
1587
اما من مشتاق و امیدوار هستم،
06:54
because if we use it right and carefully,
138
414708
3539
چون اگر از این ابزار درست و با دقت استفاده کنیم،
06:58
this tool can allow any individual's positive impact on the world
139
418271
4309
می‌تواند به هر فردی اجازه بدهد که تأثیر مثبتی روی جهان بگذارد
07:02
to be massively scaled
140
422604
2190
و در همه جای جهان دیده شود
07:04
and really help shape our future the way we want it to be.
141
424818
2742
و آینده ما را به آن شکلی که انتظار داریم شکل بدهد.
07:07
Thank you.
142
427584
1151
متشکرم.
07:08
(Applause)
143
428759
5090
(تشویق)
درباره این وب سایت

این سایت ویدیوهای یوتیوب را به شما معرفی می کند که برای یادگیری زبان انگلیسی مفید هستند. دروس انگلیسی را خواهید دید که توسط معلمان درجه یک از سراسر جهان تدریس می شود. روی زیرنویس انگلیسی نمایش داده شده در هر صفحه ویدیو دوبار کلیک کنید تا ویدیو از آنجا پخش شود. زیرنویس‌ها با پخش ویدیو همگام می‌شوند. اگر نظر یا درخواستی دارید، لطفا با استفاده از این فرم تماس با ما تماس بگیرید.

https://forms.gle/WvT1wiN1qDtmnspy7