The price of a "clean" internet | Hans Block and Moritz Riesewieck

66,518 views ・ 2019-11-21

TED


لطفا برای پخش فیلم روی زیرنویس انگلیسی زیر دوبار کلیک کنید.

Translator: Leila Ataei Reviewer: Masoud Motamedifar
00:12
[This talk contains mature content]
0
12360
3221
[این سخنرانی حاوی مطالب بزرگسالان است.]
00:16
Moritz Riesewieck: On March 23, 2013,
1
16913
4452
موریتس ریسویک: در ۲۳ مارس ۲۰۱۳،
00:21
users worldwide discovered in their news feed
2
21389
4057
کاربران در سراسر دنیا در رشته خبر (نیوز فید) خود
00:25
a video of a young girl being raped by an older man.
3
25470
5063
ویدئوی از دختری کم سن و سال را یافت که مردی مسن به او تجاوز می‌کرد.
00:31
Before this video was removed from Facebook,
4
31478
3856
پیش از این که ویدئو را فیس بوک پاک کند،
00:35
it was already shared 16,000 times,
5
35358
4616
۱۶,۰۰۰ بار به اشتراک گذاشته شد،
00:39
and it was even liked 4,000 times.
6
39998
3642
و حتی ۴,۰۰۰ نفر آن را لایک کردند.
00:45
This video went viral and infected the net.
7
45268
3663
این ویدیو پر بیننده شد و در اینترت پر شد.
00:49
Hans Block: And that was the moment we asked ourselves
8
49873
3095
هانس بلاک: و آن وقت که از خودمان پرسیدیم
00:52
how could something like this get on Facebook?
9
52992
2778
چطور چنین چیزی به فیس بوک راه پیدا کرد؟
00:55
And at the same time, why don't we see such content more often?
10
55794
4402
و همان زمان ، چرا چنین محتوی را خیلی نمی‌بینیم؟
01:00
After all, there's a lot of revolting material online,
11
60220
3683
به هر حال، مطالب تکان‌دهنده از این دست در اینترنت زیاد است
01:03
but why do we so rarely see such crap on Facebook, Twitter or Google?
12
63927
4455
اما بندرت این مزخرفات را در فیس بوک، توییتر یا گوگل می‌بینیم؟
01:08
MR: While image-recognition software
13
68958
2241
م ر: در حالی که نرم افزار تشخیص تصویر
01:11
can identify the outlines of sexual organs,
14
71223
4283
قادر به تشخیص طرح کلی اندام جنسی،
01:15
blood or naked skin in images and videos,
15
75530
4928
خون یا پوست برهنه در عکسها و ویدیوهاست،
01:20
it has immense difficulties to distinguish pornographic content
16
80482
5540
به دشواریهای عظیمی در تشخیص محتوی پورنورگرافیک از عکسهای
01:26
from holiday pictures, Adonis statues
17
86046
4348
تعطیلات، مجسمه‌های آدونیس یا برنا‌مه‌های تبلیغاتی
01:30
or breast-cancer screening campaigns.
18
90418
2698
غربالگری سرطان پستان دشواریهای عظیمی دارد.
01:33
It can't distinguish Romeo and Juliet dying onstage
19
93140
4255
نمیتواند فرقی بین کشته شدن رومئو و ژولیت ریو صحنه نمایش و
01:37
from a real knife attack.
20
97419
2555
یک حمله چاقوکشی واقعی بگذارد.
01:39
It can't distinguish satire from propaganda
21
99998
5222
بین تبلیغات سیاسی جهت‌دار و هجونویسی
01:45
or irony from hatred, and so on and so forth.
22
105244
3968
یا کنایه از نفرت‌پراکنی و غیره تفاوت بگذارد.
01:50
Therefore, humans are needed to decide
23
110077
4078
بنابراین برای تصمیم‌گیری انسانها لازمند
01:54
which of the suspicious content should be deleted,
24
114179
4001
که چه محتوی شبه برانگیزی باید حدف گردد
01:58
and which should remain.
25
118204
1600
و کدام یکی باقی بماند.
02:00
Humans whom we know almost nothing about,
26
120909
2811
انسانهایی که درباره آنها تقریبا چیزی نمی‌دانیم،
02:03
because they work in secret.
27
123744
1867
چون مخیفانه کار می‌کنند.
02:06
They sign nondisclosure agreements,
28
126053
1905
توافقنامه‌های عدم افشا امضاء می‌کنند،
02:07
which prohibit them from talking and sharing
29
127982
2953
که آنها را از صحبت کردن و به اشتراک گذاشتن
02:10
what they see on their screens and what this work does to them.
30
130959
3585
آنچه روی مانیتورهایشان می‌بینند و آنچه این کار با آنها می کند منع می‌کند.
02:14
They are forced to use code words in order to hide who they work for.
31
134887
4270
آنها مجبورند از کلمات رمزگذاری شده استفاده کنند تا صاحب کارشان پنهان بماند.
02:19
They are monitored by private security firms
32
139585
2905
تحت نظارت شرکتهای امنیتی خصوصی هستند تا مبادا
02:22
in order to ensure that they don't talk to journalists.
33
142514
3510
با روزنامه نگارها حرفی بزنند.
02:26
And they are threatened by fines in case they speak.
34
146048
3539
و اگر حرفی بزنند تهدید به پرداخت جریمه میشوند.
02:30
All of this sounds like a weird crime story,
35
150421
3762
و کل این به یک داستان جنایی عجیب میماند
02:34
but it's true.
36
154207
1330
اما حقیقت دارد.
02:35
These people exist,
37
155561
1492
این آدمها وجود دارند،
02:37
and they are called content moderators.
38
157633
4181
و اصطلاحا تعدیل کنندگان محتوی نام گرفتهاند.
02:42
HB: We are the directors of the feature documentary film "The Cleaners,"
39
162942
3445
ه ب: ما کارگردانهای فیلم مستند «تمیزکنندگان» هستیم،
02:46
and we would like to take you
40
166411
1960
و میخواهیم شما را به دنیایی ببریم
02:48
to a world that many of you may not know yet.
41
168395
2587
که خیلی از شما هنوز از آن بی‌خبرند.
02:51
Here's a short clip of our film.
42
171006
2133
کلیپ کوتاهی از فیلم ما را ببینید.
02:58
(Music)
43
178639
3620
(موسیقی)
03:04
(Video) Moderator: I need to be anonymous, because we have a contract signed.
44
184400
3686
(ویدئو) تعدیل کننده: باید گمنام بمانم چون قرارداد امضاء کردم.
03:09
We are not allowed to declare whom we are working with.
45
189784
3621
اجازه نداریم اعلام کنیم با چه کسی کار می‌کنیم.
03:14
The reason why I speak to you
46
194807
1763
دلیل این که با شما حرف می‌زنم
03:16
is because the world should know that we are here.
47
196594
4380
این است که دنیا باید بداند ما اینجا هستیم.
03:22
There is somebody who is checking the social media.
48
202544
2803
کسی هست که شبکه‌های اجتماعی را رصد می‌کند.
03:26
We are doing our best to make this platform
49
206317
3604
ما نهایت تلاش خود را می‌کنیم تا این پایگاه
03:29
safe for all of them.
50
209945
1790
برای همه امن باشد.
03:42
Delete.
51
222438
1150
حدف.
03:44
Ignore.
52
224278
1294
چشم پوشی.
03:45
Delete.
53
225596
1150
حذف.
03:47
Ignore.
54
227279
1297
چشم پوشی.
03:48
Delete.
55
228600
1151
حذف.
03:50
Ignore.
56
230680
1151
چشم پوشی.
03:51
Ignore.
57
231855
1150
چشم پوشی.
03:53
Delete.
58
233625
1150
حذف.
03:58
HB: The so-called content moderators
59
238030
1977
ه ب: این به اصطلاح تعدیل‌کنندگان محتوی
04:00
don't get their paychecks from Facebook, Twitter or Google themselves,
60
240031
4000
حقوق را از خود فیس بوک، گوگل یا توییتر نمی‌گیرند،
04:04
but from outsourcing firms around the world
61
244055
2317
طرفشان شرکتهای برون سپاری در سراسر دنیاست
04:06
in order to keep the wages low.
62
246396
2067
تا به این ترتیب دستمزدها پایین بماند.
04:08
Tens of thousands of young people
63
248833
1967
دهها هزار جوان چیزهایی را نگاه می‌کنند
04:10
looking at everything we are not supposed to see.
64
250824
3213
که ما قرار نیست ببینیم.
04:14
And we are talking about decapitations, mutilations,
65
254061
3548
و اینجا صحبت از سر بریدن، قطع عضو، اعدام،
04:17
executions, necrophilia, torture, child abuse.
66
257633
3696
سکس با مرده، شکنجه و سوء استفاده‌جنسی از کودکان است.
04:21
Thousands of images in one shift --
67
261743
2274
هزاران تصویر در یک نوبت کاری--
04:24
ignore, delete, day and night.
68
264041
2915
چشم پوشی، حذف، روز و شب.
04:27
And much of this work is done in Manila,
69
267393
3398
و بیشتر این کار در مانیل انجام می‌شود،
04:30
where the analog toxic waste from the Western world
70
270815
3302
آنجا که پسماندهای سمی آنالوگ از جهان غرب
04:34
was transported for years by container ships,
71
274141
2608
برای سالها از طریق کشتی حمل می‌شد.
04:36
now the digital waste is dumped there via fiber-optic cable.
72
276773
4003
حال پسماندهای دیجیتال از طریق کابلهای فیبر نوری آنجا ریخته می‌شوند.
04:40
And just as the so-called scavengers
73
280800
3047
و درست در حالیکه به اصطلاح زباله گردها
04:43
rummage through gigantic tips on the edge of the city,
74
283871
3476
در حاشیه شهر توی این خاکچالهای عظیم را شخم می‌زنند،
04:47
the content moderators click their way through an endless toxic ocean
75
287371
4833
تعدیل‌کنندگان محتوی راه خود را از طریق اقیانوس بی انتهای سمی
04:52
of images and videos and all manner of intellectual garbage,
76
292228
4087
تصاویر و ویدئوها و انواع زباله‌های روشنفکری کلیک می‌کنند
04:56
so that we don't have to look at it.
77
296339
2302
تا ما مجبور به نگاه انداختن به آنها نشویم.
04:58
MR: But unlike the wounds of the scavengers,
78
298665
3540
م ر: اما برخلاف زخمهای تن زباله گردها،
05:02
those of the content moderators remain invisible.
79
302229
3451
زخم تعدیل‌کنندگان نامرئی باقی میماند.
05:06
Full of shocking and disturbing content,
80
306117
3080
سرشار از محتوی آزار‌دهنده و شوک‌آور،
05:09
these pictures and videos burrow into their memories
81
309221
3263
این تصاویر و ویدئوها توی حافظه آنها نقب می‌زند،
05:12
where, at any time, they can have unpredictable effects:
82
312508
3445
جاییکه، هر زمان، می‌توانند تاثیراتی غیرقابل پیش‌بینی داشته باشند:
05:15
eating disorders, loss of libido,
83
315977
3357
اختلالات خوردن، از دست دادن میل جنسی،
05:19
anxiety disorders, alcoholism,
84
319358
3259
اختلالات اضطراب، اعتیاد به الکل،
05:22
depression, which can even lead to suicide.
85
322641
2912
افسردگی، که حتی میتواند منجر به خودکشی گردد.
05:26
The pictures and videos infect them,
86
326100
2445
تصاویر و ویدئوها آنها را آلوده می‌کند،
05:28
and often never let them go again.
87
328569
2389
و اغلب دیگر هیچوقت دست از سرشان بر نمی‌دارد.
05:30
If they are unlucky, they develop post-traumatic stress disorders,
88
330982
4841
اگر خوش شانس نباشند مبتلا به اختلالات استرسی پس از آسیب روانی می‌شوند،
05:35
like soldiers after war missions.
89
335847
2200
درست مثل سربازان پس از ماموریتهای جنگی.
05:39
In our film, we tell the story of a young man
90
339445
3643
در فیلم ما، داستان مرد جوانی را می‌گوییم که باید
05:43
who had to monitor livestreams of self-mutilations and suicide attempts,
91
343112
5198
پخش زنده اقدام به خودکشی‌ها و خودآزاریها را رصد می‌کرد،
05:48
again and again,
92
348334
1675
دوباره و دوباره،
05:50
and who eventually committed suicide himself.
93
350033
3066
و دست آخر خودش اقدام به خودکشی کرد.
05:53
It's not an isolated case, as we've been told.
94
353787
2740
اینطور که به ما گفتند این تنها مورد نبوده.
05:57
This is the price all of us pay
95
357184
3980
این بهایی است که همه ما برای این به
06:01
for our so-called clean and safe and "healthy"
96
361188
5327
اصطلاح محیطهای «سالم» و امن و پاکیزه
06:06
environments on social media.
97
366539
2284
در رسانه‌های اجتماعی می‌پردازیم.
06:10
Never before in the history of mankind
98
370482
2595
هرگز بیش از این در تاریخ بشریت
06:13
has it been easier to reach millions of people around the globe
99
373101
3332
دسترسی به میلیونها آدم دیگر در سراسرجهان ظرف چندین ثانیه تا این حد
06:16
in a few seconds.
100
376457
1667
آسان نبوده است.
06:18
What is posted on social media spreads so quickly,
101
378148
3945
آنچه در رسانه‌های اجتماعی پست می‌شود به سرعت نیز پخش و
06:22
becomes viral and excites the minds of people all around the globe.
102
382117
3936
پربیننده می‌شود و موجب به هیجان آمدن ذهن آدمها را در کل دنیا می‌گردد.
06:26
Before it is deleted,
103
386450
2064
پیش از آن که حذف شود،
06:28
it is often already too late.
104
388538
1933
که اغلب بسیار دیر است.
06:30
Millions of people have already been infected
105
390966
2230
میلیونها نفر همین حالا نیز به نفرت و
06:33
with hatred and anger,
106
393220
1857
عصبانیت آلوده گشته‌اند،
06:35
and they either become active online,
107
395101
2730
و اکنون یک کاربر آنلاین فعال هستند که
06:37
by spreading or amplifying hatred,
108
397855
3143
به گسترش یا بیشتر کردن نفرت می پردازد
06:41
or they take to the streets and take up arms.
109
401022
3793
یا به خیا‌‌‌بان رفته و اسلحه برمی‌دارند.
06:45
HB: Therefore, an army of content moderators
110
405236
2540
ه ب: بنابراین، ارتشی از تعدیل‌کنندگان محتوی
06:47
sit in front of a screen to avoid new collateral damage.
111
407800
3895
مقابل مانیتور می‌نشینند تا از آسیب جمعی جدیدی ممانعت کنند.
06:52
And they are deciding, as soon as possible,
112
412434
2119
و آنها تصمیم گیرنده‌اند که در اسرع وقت،
06:54
whether the content stays on the platform -- ignore;
113
414577
4095
چه محتویی در پایگاه بماند-- چشم پوشی؛
06:58
or disappears -- delete.
114
418696
2340
یا محو شود-- حذف.
07:01
But not every decision is as clear
115
421823
2627
اما هر تصمیمی به روشنی تصمیم‌گیری درباره
07:04
as the decision about a child-abuse video.
116
424474
2897
ویدئوهای مربوط به سوء استفاده از کودکان نیست.
07:07
What about controversial content, ambivalent content,
117
427395
2777
محتوی بحث آفرین، محتوی دو گانه، که از سوی
07:10
uploaded by civil rights activists or citizen journalists?
118
430196
3153
کنشگران حقوق مدنی یا شهروند خبرنگارها بارگذاری می‌شوند چطور؟
07:14
The content moderators often decide on such cases
119
434048
3222
اغلب سرعت تصمیم‌گیری تعدیل‌کنندگان محتوی درباره چنین مواردی،
07:17
at the same speed as the [clear] cases.
120
437294
2733
به اندازه موارد واضح است.
07:21
MR: We will show you a video now,
121
441515
2659
م ر: الان ویدئویی را به شما نشان خواهیم داد،
07:24
and we would like to ask you to decide:
122
444198
3309
و از شما میخواهیم که تصمیم بگیرید:
07:27
Would you delete it,
123
447531
1690
آیا آن را حذف می‌کنید،
07:29
or would you not delete it?
124
449245
1801
یا آن را حذف نمی‌کنید؟
07:31
(Video) (Air strike sounds)
125
451070
1667
(ویدئو) ( صدای حمله هوایی)
07:33
(Explosion)
126
453100
2550
(انفجار)
07:40
(People speaking in Arabic)
127
460076
5953
(مردمی که عربی حرف می‌زنند)
07:46
MR: Yeah, we did some blurring for you.
128
466053
2230
م ر: آره، کمی آن را برای شما محو کردیم.
07:49
A child would potentially be dangerously disturbed
129
469196
3755
چنین محتوی میتواند بچه‌ها را بطرز خطرناکی بهم بریزد و
07:52
and extremely frightened by such content.
130
472975
2809
حسابی وحشت زده کند.
07:55
So, you rather delete it?
131
475808
2297
پس ترجیح ‌ی دهید که حذف شود؟
07:59
But what if this video could help investigate the war crimes in Syria?
132
479610
4639
اما اگر این ویدئو بتواند کمکی به تحقیق درباره جنایات جنگی در سوریه کند چطور؟
08:04
What if nobody would have heard about this air strike,
133
484717
3167
در صورتی که کسی درباره این حمله هوایی نشنیده باشد چطور،
08:07
because Facebook, YouTube, Twitter would have decided to take it down?
134
487908
3738
چون فیس بوک، یوتیوب و توییتر تصمیم به پایین کشیدن آن کرده‌اند؟
08:12
Airwars, a nongovernmental organization based in London,
135
492895
4325
Airwars، یک سازمان غیردولتی در لندن است که
08:17
tries to find those videos as quickly as possible
136
497244
2897
سعی در یافتن آن ویدیوها در سریعترین زمان ممکن دارد،
08:20
whenever they are uploaded to social media,
137
500165
2560
مادامی که در رسانه‌های اجتماعی بارگذاری میشوند،
08:22
in order to archive them.
138
502749
1600
تا آنها را بایگانی کند.
08:24
Because they know, sooner or later,
139
504693
2833
چون می‌دانند دیر یا زود،
08:27
Facebook, YouTube, Twitter would take such content down.
140
507550
3310
فیس بوک، یوتیوب و توییتر تصمیم به پایین کشیدن چنین محتوی می‌کنند.
08:31
People armed with their mobile phones
141
511345
2208
مردم مسلح به تلفنهای موبایل قادرند
08:33
can make visible what journalists often do not have access to.
142
513577
4199
چیزهای را قابل رویت کنند که خبرنگاران اغلب دسترسی به انجامش ندارند.
08:37
Civil rights groups often do not have any better option
143
517800
3063
گروههای حقوق مدنی اغلب گزینه بهتر دیگری در اختیار ندارند
08:40
to quickly make their recordings accessible to a large audience
144
520887
3801
تا سریع مستندات خود را در دسترس مخاطبی بزرگ قرار دهند
08:44
than by uploading them to social media.
145
524712
2600
غیر از بارگذاری آن در رسانه‌های اجتماعی.
08:47
Wasn't this the empowering potential the World Wide Web should have?
146
527950
4286
آیا این همان ظرفیت توانمندسازی نیست که شبکه گسترده جهانی باید داشته باشد؟
08:52
Weren't these the dreams
147
532966
1960
آیا این رویایی نبود که مردم در
08:54
people in its early stages had about the World Wide Web?
148
534950
4111
مراحل اولیه درباره شبکه گسترده جهانی داشتند؟
08:59
Can't pictures and videos like these
149
539608
2795
آیا تصاویر و ویدئوهایی از این دست نمیتواند
09:02
persuade people who have become insensitive to facts
150
542427
5134
مردمی را که به حقایق غیرحساس شده‌اند را متقاعد به
09:07
to rethink?
151
547585
1150
دوباره اندیشیدن کند؟
09:09
HB: But instead, everything that might be disturbing is deleted.
152
549917
3602
ه ب: اما در عوض، هر چیز آزار دهنده‌ای حذف میشود.
09:13
And there's a general shift in society.
153
553543
2058
و یک تغییر کلی را در جامعه شاهدیم.
09:15
Media, for example, more and more often use trigger warnings
154
555625
3897
رسانه‌ها، برای مثال، الان بیشتر و بیشتر از اخطارهای ماشه در بالای مقاله‌هایی
09:19
at the top of articles
155
559546
1793
استفاده می کنند که
09:21
which some people may perceive as offensive or troubling.
156
561363
3309
برخی مردم شاید توهین آمیز یا باعث ناراحتی میابند.
09:24
Or more and more students at universities in the United States
157
564696
3914
یا دانشجویان بیشتر و بیشتری در ایالات متحده خواستار ممنوعیت
09:28
demand the banishment of antique classics
158
568634
2817
آن دسته از آثار کلاسیک آنتیک در برنامه‌های درسی هستند
09:31
which depict sexual violence or assault from the curriculum.
159
571475
3115
که آزار یا خشونت جنسی را به تصویر می‌کشند.
09:34
But how far should we go with that?
160
574991
2333
اما تا چه حد باید با آنها پیش برویم؟
09:37
Physical integrity is guaranteed as a human right
161
577875
3380
یکپارچگی جسمی به عنوان یک حق بشری در قانون اساسی های جهان
09:41
in constitutions worldwide.
162
581279
1800
تضمین شده است.
09:43
In the Charter of Fundamental Rights of the European Union,
163
583422
3754
در منشور حقوق اساسی اتحادیه اروپایی،
09:47
this right expressly applies to mental integrity.
164
587200
3354
این حق به وضوح درباره یکپارچگی ذهنی هم صدق می‌کند.
09:51
But even if the potentially traumatic effect
165
591347
2658
اما حتی اگر پیش بینی تاثیر بالقوه ناشی از ضایعه
09:54
of images and videos is hard to predict,
166
594029
2826
عکسها و ویدئوها دشوار باشد،
09:56
do we want to become so cautious
167
596879
1957
آیا میخواهیم آنقدر محتاط شویم
09:58
that we risk losing social awareness of injustice?
168
598860
3727
که با خطر از دست دادن آگاهی اجتماعی نسبت به بی‌عدالتی مواجه گردیم؟
10:03
So what to do?
169
603203
1150
پس چه باید کرد؟
10:04
Mark Zuckerberg recently stated that in the future,
170
604942
2992
مارک زوکربرگ اخیرا بیان کرد که در آینده،
10:07
the users, we, or almost everybody,
171
607958
3802
کاربران، یا تقریبا هر کسی
10:11
will decide individually
172
611784
2261
شخصا تصمیم گیری خواهد کرد
10:14
what they would like to see on the platform,
173
614069
2048
که در آن پایگاه چه چیزی را ببیند،
10:16
by personal filter settings.
174
616141
2031
بواسطه تنظیمات فیلترینگ فردی.
10:18
So everyone could easily claim to remain undisturbed
175
618196
3072
بنابراین هر کسی به آسانی میتواند ادعا کند که تصاویر جنگ
10:21
by images of war or other violent conflicts, like ...
176
621292
3739
یا دیگر مناقشات خشونت آمیز اذیتش نمی‌کند.
10:25
MR: I'm the type of guy who doesn't mind seeing breasts
177
625849
4446
م ر: من از آن آدمهایی هستم که دیدن پستان برایم فرقی ندارد
10:30
and I'm very interested in global warming,
178
630319
3766
و به شدت هم علاقمند به گرمایش زمین هستم،
10:34
but I don't like war so much.
179
634109
2564
اما از جنگ چندان خوشم نمی‌آید.
10:37
HB: Yeah, I'm more the opposite,
180
637109
1722
ه ب: آره، من بیشتر برعکسم،
10:38
I have zero interest in naked breasts or naked bodies at all.
181
638855
4053
علاقه‌ام به دیدن پستانهای برهنه و در کل بدنهای برهنه صفر است.
10:43
But why not guns? I like guns, yes.
182
643209
2911
اما تفنگ، چرا که نه؟ خوشم می‌آید.
10:46
MR: Come on, if we don't share a similar social consciousness,
183
646901
3745
م ر: یالا، اگر هوشیاری اجتماعی مشابه‌ای را به اشتراک نگذاریم
10:50
how shall we discuss social problems?
184
650670
2669
پس چطور مسائل اجتماعی را بحث کنیم؟
10:53
How shall we call people to action?
185
653363
2397
چطور مردم را برای دست به کار شدن فرا بخوانیم؟
10:55
Even more isolated bubbles would emerge.
186
655784
3285
حتی حبابهای منزوی بیشتری پیدا خواهند شد.
10:59
One of the central questions is: "How, in the future,
187
659665
3231
یکی از پرسشهای اصلی این است: «در آینده، وزنه ترازو در مساله
11:02
freedom of expression will be weighed against the people's need for protection."
188
662920
4903
آزادی بیان در تقابل با نیاز آدمها به محافظت چگونه خواهد بود؟»
11:08
It's a matter of principle.
189
668441
1467
صحبت از اصول است.
11:10
Do we want to design an either open or closed society
190
670602
4248
آیا در پی طراحی جامعه ای باز یا بسته
11:14
for the digital space?
191
674874
1639
در فضای دیجیتال هستیم؟
11:17
At the heart of the matter is "freedom versus security."
192
677054
5912
موضوع «آزادی در برابر امنیت» در قلب آن قرار دارد.
11:24
Facebook has always wanted to be a "healthy" platform.
193
684388
4484
فیس بوک همیشه میخواسته پایگاهی «سالم» باشد.
11:28
Above all, users should feel safe and secure.
194
688896
3698
بالاتر از همه، کاربران باید احساس امنیت و ایمنی کنند.
11:32
It's the same choice of words
195
692618
2120
همان انتخاب کلماتی است که
11:34
the content moderators in the Philippines used
196
694762
2958
تعدیل کنندگان محتوی در فیلیپین در بیشتر
11:37
in a lot of our interviews.
197
697744
1800
مصاحبه‌های ما به کار بردند.
11:40
(Video) The world that we are living in right now,
198
700188
2381
(ویدئو) جهانی که الان در آن زندگی می‌کنیم،
11:42
I believe, is not really healthy.
199
702593
2166
به باور من، واقعا سالم نیست.
11:44
(Music)
200
704783
1548
(موسیقی)
11:46
In this world, there is really an evil who exists.
201
706355
3158
در این جهان، شیطانی هست که واقعا وجود دارد.
11:49
(Music)
202
709537
3238
(موسیقی)
11:52
We need to watch for it.
203
712799
2063
باید حواسمان به آن باشد.
11:54
(Music)
204
714886
1882
(موسیقی)
11:56
We need to control it -- good or bad.
205
716792
3250
لازم است آن را کنترل کنیم-- خوب یا بد.
12:00
(Music)
206
720646
7000
(موسیقی)
12:10
[Look up, Young man! --God]
207
730193
4103
[جستجو کن، مرد جوان! -- خدا]
12:14
MR: For the young content moderators in the strictly Catholic Philippines,
208
734952
4278
م ر: برای تعدیل کنندگان محتوی جوان، در فیلیپین کاتولیک سختگیر،
12:19
this is linked to a Christian mission.
209
739254
2793
این مساله مرتبط با یک ماموریت مسیحی است.
12:22
To counter the sins of the world
210
742833
2966
برخورد کردن با گناههای دنیوی
12:25
which spread across the web.
211
745823
2174
که در شبکه وب گسترده می‌شوند.
12:28
"Cleanliness is next to godliness,"
212
748641
3412
«خداشناسی یعنی پاکیزگی»
12:32
is a saying everybody in the Philippines knows.
213
752077
3434
ضرب المثلی است که همه در فیلپین آن را بلدند.
12:36
HB: And others motivate themselves
214
756035
1659
ه ب: و دیگران با مقایسه خودشان با
12:37
by comparing themselves with their president, Rodrigo Duterte.
215
757718
3731
رئیس جمهور رودریگو دوترته اینطور به خود انگیزه می‌دهند.
12:41
He has been ruling the Philippines since 2016,
216
761837
3491
او از ۲۰۱۶ در فیلپین حکومت می‌کند
12:45
and he won the election with the promise: "I will clean up."
217
765352
3993
و با وعده «من تمیز خواهم کرد.» برنده انتخابات شد.
12:49
And what that means is eliminating all kinds of problems
218
769892
3317
و آن به معنای حذف انواع همه مشکلات با کشتن مردم
12:53
by literally killing people on the streets
219
773233
2455
به معنای واقعی کلمه در خیابانهاست،
12:55
who are supposed to be criminals, whatever that means.
220
775712
2865
کسانی که جنایتکار تلقی می‌‌شوند، به هر معنی که باشد.
12:58
And since he was elected,
221
778601
1270
و از زمانی که انتخاب شده،
12:59
an estimated 20,000 people have been killed.
222
779895
3436
حدود ۲۰,۰۰۰ نفر کشته شده‌اند.
13:03
And one moderator in our film says,
223
783655
2501
و یک تعدیل کننده در فیلم ما می‌گوید،
13:06
"What Duterte does on the streets,
224
786180
2055
« آنچه دوترته در خیابانها انجام می‌دهد را
13:08
I do for the internet."
225
788259
1714
من برای اینترنت انجام می‌دهم.»
13:10
And here they are, our self-proclaimed superheroes,
226
790934
3564
و اینها ابرقهرمانان خود خوانده ما هستند
13:14
who enforce law and order in our digital world.
227
794522
2976
که نظم و قانون را در جهان دیجیتال ما اجرا می‌کنند.
13:17
They clean up, they polish everything clean,
228
797522
2381
آنها تمیز می‌کنند، روی همه چیز دستمال می‌کشند،
13:19
they free us from everything evil.
229
799927
2333
ما را از هر چیزی شیطانی رها می‌کنند.
13:22
Tasks formerly reserved to state authorities
230
802284
3729
وظایفی که قبلا مخصوص مراجع دولتی بود
13:26
have been taken over by college graduates in their early 20s,
231
806037
3675
حالا افتاده دست جوانان بیست ساله‌ تازه از دانشگاه فارغ التحصیل شده،
13:29
equipped with three- to five-day training --
232
809736
2893
که فقط سه تا پنج روز آموزش دیدند--
13:32
this is the qualification --
233
812653
1936
شرط صلاحیت این است--
13:34
who work on nothing less than the world's rescue.
234
814613
3067
شخص روی چیزی جز نجات جهان کار نمی‌کند.
13:38
MR: National sovereignties have been outsourced to private companies,
235
818756
4219
م ر: حق حاکمیت ملی به شرکتها خصوصی برون سپاری شده است،
13:42
and they pass on their responsibilities to third parties.
236
822999
4008
و آنها مسئولیتهای خود را به گروههای سوم واگذار می‌کنند.
13:47
It's an outsourcing of the outsourcing of the outsourcing,
237
827031
3063
این برون سپاری در برون سپاری در برون سپاری است
13:50
which takes place.
238
830118
1150
که در حال رخ دادن است.
13:51
With social networks,
239
831618
1396
با شبکه‌های اجتماعی،
13:53
we are dealing with a completely new infrastructure,
240
833038
3015
با زیرساختار کاملا جدیدی روبرو هستیم
13:56
with its own mechanisms,
241
836077
1516
که مکانیسمها و منطق خاصش را
13:57
its own logic of action
242
837617
1579
برای اقداماتش دارد و
13:59
and therefore, also, its own new dangers,
243
839220
5245
بنابراین خطرات جدید مخصوص به خود را نیز دارد
14:04
which had not yet existed in the predigitalized public sphere.
244
844489
4025
که در قلمرو عمومی پیش از دیجیتال هنوز وجود نداشت.
14:08
HB: When Mark Zuckerberg was at the US Congress
245
848538
2209
ه ب: وقتی مارک زوکربرگ در کنگره ایالات متحده
14:10
or at the European Parliament,
246
850771
1770
یا پارلمان اروپایی حاضر شد،
14:12
he was confronted with all kinds of critics.
247
852565
2635
با انواع انتقادها مواجه شد.
14:15
And his reaction was always the same:
248
855224
2580
و واکنش او همیشه یکی بود:
14:18
"We will fix that,
249
858501
1468
«درستش می‌کنیم،
14:19
and I will follow up on that with my team."
250
859993
2551
با تیمم آن را پیگیری خواهیم کرد.»
14:23
But such a debate shouldn't be held in back rooms of Facebook,
251
863167
3778
اما چنین بحثی نباید پشت دربهای بسته فیس بوک، توییتر یا
14:26
Twitter or Google --
252
866969
1285
گوگول اتفاق بیفتد--
14:28
such a debate should be openly discussed in new, cosmopolitan parliaments,
253
868278
4816
چنین بحثی باید علنی در پارلمانهای جدید جهانی، در
14:33
in new institutions that reflect the diversity of people
254
873118
4860
نهادهای جدیدی اتفاق بیفتد که منعکس کننده آدمهای مختلفی هستند که
14:38
contributing to a utopian project of a global network.
255
878002
4542
به یک پروژه آرمان شهری در شبکه جهانی کمک می‌کنند.
14:42
And while it may seem impossible to consider the values
256
882568
3377
و در حالی که شاید در نظر گرفتن ارزشهای کاربران در سطح جهان
14:45
of users worldwide,
257
885969
2242
غیر ممکن باشد،
14:48
it's worth believing
258
888235
1682
ارزش دارد که باور کنیم
14:49
that there's more that connects us than separates us.
259
889941
3286
چیزهای بیشتری برای وصل کردن ما در قیاس با سوا کردنمان از هم وجود دارد.
14:53
MR: Yeah, at a time when populism is gaining strength,
260
893624
3707
م ر: بله، در موقعی که عوامگرایی در حال قدرت گرفتن است،
14:57
it becomes popular to justify the symptoms,
261
897355
3198
توجیه کردن نشانه‌ها، حذف کردنشان،
15:00
to eradicate them,
262
900577
1278
نامرئی ساختنشان
15:01
to make them invisible.
263
901879
1888
محبوب می‌شود.
15:04
This ideology is spreading worldwide,
264
904919
3349
این ایدئولوژی در کل جهان گسترده میشود،
15:08
analog as well as digital,
265
908292
2785
آنالوگ همراه با دیجیتال،
15:11
and it's our duty to stop it
266
911903
3492
و وظیفه ما متوقف کردن آن است،
15:15
before it's too late.
267
915419
1626
پیش از این که دیر شود.
15:17
The question of freedom and democracy
268
917665
3984
پرسش درباره آزادی و مردم سالاری
15:21
must not only have these two options.
269
921673
2967
تنها نباید به این دو گزینه منوط شود.
15:25
HB: Delete.
270
925053
1166
ه ب: حذف.
15:26
MR: Or ignore.
271
926243
2147
م ر: یا چشم پوشی.
15:29
HB: Thank you very much.
272
929300
1597
ه ب: خیلی از شما متشکرم.
15:30
(Applause)
273
930921
5269
(تشویق)
درباره این وب سایت

این سایت ویدیوهای یوتیوب را به شما معرفی می کند که برای یادگیری زبان انگلیسی مفید هستند. دروس انگلیسی را خواهید دید که توسط معلمان درجه یک از سراسر جهان تدریس می شود. روی زیرنویس انگلیسی نمایش داده شده در هر صفحه ویدیو دوبار کلیک کنید تا ویدیو از آنجا پخش شود. زیرنویس‌ها با پخش ویدیو همگام می‌شوند. اگر نظر یا درخواستی دارید، لطفا با استفاده از این فرم تماس با ما تماس بگیرید.

https://forms.gle/WvT1wiN1qDtmnspy7