How technology can fight extremism and online harassment | Yasmin Green

74,503 views ・ 2018-06-27

TED


يرجى النقر نقرًا مزدوجًا فوق الترجمة الإنجليزية أدناه لتشغيل الفيديو.

المترجم: Nawal Sharabati المدقّق: Nada Qanbar
00:13
My relationship with the internet reminds me of the setup
0
13131
4411
تذكرني علاقتي مع الإنترنت بالمشهد
00:17
to a clichéd horror movie.
1
17566
1833
في الفيلم المرعب النمطي.
00:19
You know, the blissfully happy family moves in to their perfect new home,
2
19867
4386
كما تعلمون، تنتقل العائلة السعيدة المبتهجة إلى المنزل الجديد المثالي،
00:24
excited about their perfect future,
3
24277
2281
والمتحمسة بشأن مستقبلهم المثالي،
00:26
and it's sunny outside and the birds are chirping ...
4
26582
3521
والشمس ساطعة في الخارج والعصافير تغرد...
00:30
And then it gets dark.
5
30857
1839
وثم يحلُ الظلام.
00:32
And there are noises from the attic.
6
32720
2348
وهناك أصوات قادمة من العلية.
00:35
And we realize that that perfect new house isn't so perfect.
7
35092
4345
وندرك أن المنزل الجديد المثالي ليس كذلك.
00:40
When I started working at Google in 2006,
8
40485
3131
عندما بدأتُ عملي في جوجل في عام 2006،
00:43
Facebook was just a two-year-old,
9
43640
1767
كان عمر الفيسبوك عامين فقط، ولم يكن للتويتر وجود بعد.
00:45
and Twitter hadn't yet been born.
10
45431
2012
00:47
And I was in absolute awe of the internet and all of its promise
11
47848
4410
وكنت في دهشة تامة للإنترنت ووعوده لجعلنا أقرب وأبرع وأكثر حرية.
00:52
to make us closer
12
52282
1437
00:53
and smarter
13
53743
1296
00:55
and more free.
14
55063
1214
00:57
But as we were doing the inspiring work of building search engines
15
57265
3714
وبينما كنا نقوم بعملنا المدهش لبناء محركات البحث،
01:01
and video-sharing sites and social networks,
16
61003
2886
ومواقع مشاركة الفيديوهات وشبكات التواصل الاجتماعي،
01:04
criminals, dictators and terrorists were figuring out
17
64907
4304
كان المجرمون والاستبداديون والإرهابيون يفكرون في كيفية استخدام نفس المنصات ضدنا.
01:09
how to use those same platforms against us.
18
69235
3202
01:13
And we didn't have the foresight to stop them.
19
73417
2455
ولم يكن لدينا البصيرة لوقفهم.
01:16
Over the last few years, geopolitical forces have come online to wreak havoc.
20
76746
5099
خلال السنوات القليلة الماضية، واصلت القوى الجيوسياسية نشر الفساد عبر الإنترنت.
01:21
And in response,
21
81869
1169
وفي المقابل،
01:23
Google supported a few colleagues and me to set up a new group called Jigsaw,
22
83062
4778
دعمتي جوجل وقلة من الزملاء لبدء مجموعة جديدة تسمى أحجية الصور المقطعة (Jigsaw)،
01:27
with a mandate to make people safer from threats like violent extremism,
23
87864
4596
والتوصية لجعل الناس أكثر أمنا من التهديدات مثل التطرف الإرهابي والرقابة والطغيان.
01:32
censorship, persecution --
24
92484
2078
01:35
threats that feel very personal to me because I was born in Iran,
25
95186
4117
أشعرتني التهديدات أنها شخصية جدًا لأنني ولدتُ في إيران،
01:39
and I left in the aftermath of a violent revolution.
26
99327
2929
وغادرتها في أعقاب الثورة العنيفة.
01:43
But I've come to realize that even if we had all of the resources
27
103525
4346
ولكنني أدركتُ حتى إن كان لدينا كل مصادر شركات التقنية في العالم،
01:47
of all of the technology companies in the world,
28
107895
2858
01:51
we'd still fail
29
111595
1230
لا نزال نفشل لو أهملنا أحد المكونات المهمة:
01:53
if we overlooked one critical ingredient:
30
113586
2948
01:57
the human experiences of the victims and perpetrators of those threats.
31
117653
5789
وهي التجارب الإنسانية للضحايا ومرتكبي تلك التهديدات.
02:04
There are many challenges I could talk to you about today.
32
124935
2736
يوجد العديد من التحديات التي يمكنني اليوم التحدث فيها إليكم.
02:07
I'm going to focus on just two.
33
127695
1504
سأركز على اثنين فقط.
02:09
The first is terrorism.
34
129623
2079
أولًا، الإرهاب.
02:13
So in order to understand the radicalization process,
35
133563
2557
ولفهم عملية التطرف،
02:16
we met with dozens of former members of violent extremist groups.
36
136144
4287
التقينا عشرات الأعضاء السابقين من المجموعات المتطرفة المتشددة.
02:21
One was a British schoolgirl,
37
141590
2483
كانت إحداها طالبة مدرسة إنكليزية التي سُحبت من طائرة في مطار هيثرو اللندني
02:25
who had been taken off of a plane at London Heathrow
38
145049
3699
02:28
as she was trying to make her way to Syria to join ISIS.
39
148772
4692
بينما كانت تحاول السفر إلى سوريا للانضمام لتنظيم الدولة الإسلامية في العراق والشام.
02:34
And she was 13 years old.
40
154281
1931
وكانت تبلغ من العمر 13 عامًا.
02:37
So I sat down with her and her father, and I said, "Why?"
41
157792
4625
وجلستُ معها ومع والدها وقلتُ: "لماذا؟"
02:42
And she said,
42
162441
1717
وقالت: "كنت أنظر إلى الصور لما تبدو عليه الحياة في سوريا،
02:44
"I was looking at pictures of what life is like in Syria,
43
164182
3639
02:47
and I thought I was going to go and live in the Islamic Disney World."
44
167845
3510
واعتقدتُ أنني سأذهب وأعيشُ عالم ديزني الإسلامي".
هذا ما رأته في تنظيم الدولة الإسلامية في العراق والشام المسمى داعش.
02:52
That's what she saw in ISIS.
45
172527
2084
02:54
She thought she'd meet and marry a jihadi Brad Pitt
46
174635
3492
اعتقدت أنها ستلتقي وتتزوج براد بت الجهادي،
02:58
and go shopping in the mall all day and live happily ever after.
47
178151
3058
وستذهب إلى مركز التسوق يوميًا وستعيش بسعادة أبدية.
03:02
ISIS understands what drives people,
48
182977
2824
تدرك داعش ما الذي يحفز الناس وتصوغ الرسالة بعناية لكل مجموعة من الناس.
03:05
and they carefully craft a message for each audience.
49
185825
3544
03:11
Just look at how many languages
50
191122
1511
انظروا فقط إلى عدد اللغات التي يترجمون إليها موادهم التسويقية.
03:12
they translate their marketing material into.
51
192657
2273
03:15
They make pamphlets, radio shows and videos
52
195677
2661
فهم ينتجون منشورات وبرامج إذاعية وفيديوهات ليس فقط باللغتين الإنجليزية والعربية
03:18
in not just English and Arabic,
53
198362
1973
03:20
but German, Russian, French, Turkish, Kurdish,
54
200359
4767
ولكن بالألمانية والروسية والفرنسية، والتركية والكردية والعبرية،
03:25
Hebrew,
55
205150
1672
03:26
Mandarin Chinese.
56
206846
1741
واللغة الصينية الماندارينية.
03:29
I've even seen an ISIS-produced video in sign language.
57
209309
4192
حتى أنني رأيتُ فيديو أنتجته داعش بلغة الإشارة.
03:34
Just think about that for a second:
58
214605
1884
فكروا بذلك للحظة:
03:36
ISIS took the time and made the effort
59
216513
2308
بذلت داعش الوقت والجهد للتأكد أن رسالتها تصل إلى الصُم وضعيفي السمع.
03:38
to ensure their message is reaching the deaf and hard of hearing.
60
218845
3804
03:45
It's actually not tech-savviness
61
225143
2144
وليس الأمر في الحقيقة ذكاءً تقنيًا لتنال داعش إعجاب القلوب والعقول.
03:47
that is the reason why ISIS wins hearts and minds.
62
227311
2595
03:49
It's their insight into the prejudices, the vulnerabilities, the desires
63
229930
4163
إنه قدرتهم الإدراكية في فهم محاباة وحساسية ورغبات الناس الذين يحاولون الوصول إليهم.
03:54
of the people they're trying to reach
64
234117
1774
03:55
that does that.
65
235915
1161
03:57
That's why it's not enough
66
237718
1429
ولهذا السبب فإنه ليس كافيًا أن تركز منصات الإنترنت على إزالة المواد المستخدمة.
03:59
for the online platforms to focus on removing recruiting material.
67
239171
4239
04:04
If we want to have a shot at building meaningful technology
68
244518
3581
لو أردنا أن نحظى بفرصة بناء تقنية ذات مغزى لمقاومة التطرف،
04:08
that's going to counter radicalization,
69
248123
1874
04:10
we have to start with the human journey at its core.
70
250021
2979
علينا البدء مع مسيرة البشر في عقر دارهم.
04:13
So we went to Iraq
71
253884
2187
لهذا ذهبنا إلى العراق
04:16
to speak to young men who'd bought into ISIS's promise
72
256095
2831
للتحدث إلى الرجال اليافعين الذين تقبلوا تعهد داعش للبطولة والإنصاف،
04:18
of heroism and righteousness,
73
258950
3191
04:22
who'd taken up arms to fight for them
74
262165
1847
والذين حملوا السلاح للقتال من أجلهم ومن ثم انشقوا بعدما شهدوا قسوة حكم داعش.
04:24
and then who'd defected
75
264036
1338
04:25
after they witnessed the brutality of ISIS's rule.
76
265398
3021
04:28
And I'm sitting there in this makeshift prison in the north of Iraq
77
268880
3192
وأجلس هناك في هذا السجن المؤقت في شمال العراق
04:32
with this 23-year-old who had actually trained as a suicide bomber
78
272096
4550
مع شاب يبلغ من العمر 23 سنة ممن درّب في الواقع كانتحاري قبل الانشقاق.
04:36
before defecting.
79
276670
1552
04:39
And he says,
80
279080
1158
ويقول: "وصلتُ إلى سوريا وكلي أمل،
04:41
"I arrived in Syria full of hope,
81
281119
3220
04:44
and immediately, I had two of my prized possessions confiscated:
82
284363
4365
وفي الحال، صودر اثنين من ممتلكاتي الثمينة جواز سفري وهاتفي الجوال."
04:48
my passport and my mobile phone."
83
288752
2933
04:52
The symbols of his physical and digital liberty
84
292140
2406
أخذت منه رموز حريته البدنية والرقمية حال وصوله سوريا.
04:54
were taken away from him on arrival.
85
294570
1760
04:57
And then this is the way he described that moment of loss to me.
86
297248
3510
وبالتالي هذه هي الطريقة التي وصفها تلك اللحظة من الخسارة بالنسبة لي.
05:01
He said,
87
301356
1586
وقال: "هل تعرفون (توم وجيري)، عندما يريد جيري الهروب ويغلق توم الباب،
05:02
"You know in 'Tom and Jerry,'
88
302966
2329
05:06
when Jerry wants to escape, and then Tom locks the door
89
306192
3103
05:09
and swallows the key
90
309319
1156
ويبلع المفتاح، وتراه ينتفخ من حلقه وهو ينزل إلى أسفل."
05:10
and you see it bulging out of his throat as it travels down?"
91
310499
3551
05:14
And of course, I really could see the image that he was describing,
92
314446
3153
وفي طبيعة الحال، تمكنتُ في الواقع من رؤية المشهد وهو يصفه،
05:17
and I really did connect with the feeling that he was trying to convey,
93
317623
3661
وتواصلتُ في الواقع مع الشعور الذي حاول نقله
05:21
which was one of doom,
94
321308
2021
الذي كان نوعًا من الهلاك عندما تدرك أنه لا يوجد مخرج.
05:23
when you know there's no way out.
95
323353
1789
05:26
And I was wondering:
96
326551
1289
وكنت أتساءل:
05:28
What, if anything, could have changed his mind
97
328644
2682
ماذا لو حصل أي شيء جعله يغير رأيه في اليوم الذي غادر فيه وطنه؟
05:31
the day that he left home?
98
331350
1240
05:32
So I asked,
99
332614
1250
ولذلك سألت: "لو علمت بكل ما عرفته الآن حول المعاناة والفساد والقسوة،
05:33
"If you knew everything that you know now
100
333888
3178
05:37
about the suffering and the corruption, the brutality --
101
337090
3051
في اليوم الذي تركت فيه الوطن، هل كنت لا تزال ترغب في الذهاب؟
05:40
that day you left home,
102
340165
1415
05:41
would you still have gone?"
103
341604
1679
05:43
And he said, "Yes."
104
343786
1711
وقال: "نعم."
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
345846
2282
وفكرت: "سحقًا! وقال: "نعم."
05:48
And then he said,
106
348694
1219
ومن ثم قال: "في تلك المرحلة، كنتُ أتعرض إلى غسيل دماغ تام،
05:49
"At that point, I was so brainwashed,
107
349937
3001
05:52
I wasn't taking in any contradictory information.
108
352962
3244
ولم أكن أستقبل أية معلومات متناقضة، ولم أستطع الترنح عن تفكيري".
05:56
I couldn't have been swayed."
109
356744
1555
05:59
"Well, what if you knew everything that you know now
110
359235
2527
قلت: "حسنًا! ماذا لو علمت بكل ما تعرفه الآن
06:01
six months before the day that you left?"
111
361786
2098
أي قبل ستة أشهر من اليوم الذي غادرت فيه؟"
06:05
"At that point, I think it probably would have changed my mind."
112
365345
3131
قال: "عند تلك المرحلة، أعتقد ربما قد غيرتُ رأيي."
06:10
Radicalization isn't this yes-or-no choice.
113
370138
3397
ليس التطرف خيار بقول نعم أو لا،
06:14
It's a process, during which people have questions --
114
374007
2977
إنه إجراء عندما يكون لدى الناس أسئلة حول المذهب الفكري والعقيدة وظروف المعيشة.
06:17
about ideology, religion, the living conditions.
115
377008
3776
06:20
And they're coming online for answers,
116
380808
2766
ويقبل الناس للبحث عن أجوبة عبر الإنترنت، وهي فرصة للوصول إليهم.
06:23
which is an opportunity to reach them.
117
383598
1917
06:25
And there are videos online from people who have answers --
118
385905
3014
ويوجد فيديوهات عبر الإنترت لأشخاص ممن لديهم الأجوبة،
06:28
defectors, for example, telling the story of their journey
119
388943
2876
مثل المنشقين الذين يتحدثون عن رحلتهم وتجاربهم داخل وخارج العنف،
06:31
into and out of violence;
120
391843
1583
06:33
stories like the one from that man I met in the Iraqi prison.
121
393450
3487
قصص مثل قصة ذلك الرجل الذي التقيته في السجن العراقي.
06:37
There are locals who've uploaded cell phone footage
122
397914
2590
يوجد محليون ممن ينزلون لقطات عبر هواتفهم المحمولة
06:40
of what life is really like in the caliphate under ISIS's rule.
123
400528
3503
لما تبدو عليه الحياة في خلافة حكم داعش.
06:44
There are clerics who are sharing peaceful interpretations of Islam.
124
404055
3735
يوجد هناك رجال دين ممن يشاركون التفسيرات السلمية للإسلام.
06:48
But you know what?
125
408830
1150
ولكن هل تعلمون؟
ليس لهؤلاء عمومًا براعة التسويق كما لدى داعش.
06:50
These people don't generally have the marketing prowess of ISIS.
126
410004
3020
06:54
They risk their lives to speak up and confront terrorist propaganda,
127
414049
4532
إنهم يخاطرون بحياتهم للتحدث عاليًا ويواجهون الدعاية الإرهابية،
06:58
and then they tragically don't reach the people
128
418605
2211
ثم بشكل مأساوي لا يستطيعون الوصول للأشخاص الذين هم بأمس الحاجة لسماعهم.
07:00
who most need to hear from them.
129
420840
1682
07:03
And we wanted to see if technology could change that.
130
423173
2612
ورغبنا في رؤية إن كانت التقنية تستطيع تغيير ذلك.
07:06
So in 2016, we partnered with Moonshot CVE
131
426205
4183
لذلك في عام 2016، تشاركنا مع مون شات لمكافحة التطرف العنيف (Moonshot CVE)
07:10
to pilot a new approach to countering radicalization
132
430412
3180
لنجرب طريقة جديدة لمكافحة التطرف تسمى: طريقة إعادة التوجيه (Redirect Method).
07:13
called the "Redirect Method."
133
433616
1780
07:16
It uses the power of online advertising
134
436453
3012
تستخدم قدرة الإعلان عبر الإنترنت لسد الفراغ بين سريعي التأثر برسالة داعش
07:19
to bridge the gap between those susceptible to ISIS's messaging
135
439489
4514
07:24
and those credible voices that are debunking that messaging.
136
444027
3760
وتلك الأصوات الموثوقة التي تفضح الرسالة.
07:28
And it works like this:
137
448633
1150
وتعملُ الطريقة كالتالي:
07:29
someone looking for extremist material --
138
449807
1961
يبحث شخص ما عن مواد متطرفة، لنقل أنه يبحث عن "كيف أنضم إلى داعش؟"
07:31
say they search for "How do I join ISIS?" --
139
451792
2990
07:34
will see an ad appear
140
454806
2476
سيشاهد ظهور إعلان يدعوه لمشاهدة فيديو يوتيوب لرجل دين أو منشق،
07:37
that invites them to watch a YouTube video of a cleric, of a defector --
141
457306
4882
07:42
someone who has an authentic answer.
142
462212
2310
ممن لديه الإجابة الجديرة بالتصديق.
07:44
And that targeting is based not on a profile of who they are,
143
464546
3623
ويعتمد هذا الاستهداف ليس فقط على ملفات تحوي من هم هولاء،
07:48
but of determining something that's directly relevant
144
468193
3053
ولكن على تحديد شيء ذي علاقة مباشرة للبحث أو السؤال.
07:51
to their query or question.
145
471270
1708
07:54
During our eight-week pilot in English and Arabic,
146
474122
2842
أثناء تجربتنا الممتدة لثمانية أسابيع في اللغتين العربية والإنجليزية،
07:56
we reached over 300,000 people
147
476988
3279
وصلنا إلى أكثر من 300000 شخص
08:00
who had expressed an interest in or sympathy towards a jihadi group.
148
480291
5545
ممن أبدوا اهتمامًا أو تعاطفًا مع المجموعة الجهادية.
08:06
These people were now watching videos
149
486626
2264
يشاهد هؤلاء الأشخاص حاليًا الفيديوهات التي قد تمنعهم من اتخاذ خيارات مدمرة.
08:08
that could prevent them from making devastating choices.
150
488914
3340
08:13
And because violent extremism isn't confined to any one language,
151
493405
3727
ولأن التطرف العنيف ليس مقصورًا على لغة واحدة أو دين أو مذهب فكري
08:17
religion or ideology,
152
497156
1804
08:18
the Redirect Method is now being deployed globally
153
498984
3501
فيجري حاليًا نشر طريقة إعادة التوجية في كل أنحاء العالم
08:22
to protect people being courted online by violent ideologues,
154
502509
3804
لحماية الناس من استددراجهم عبر الإنترنت عن طريق أصحاب المذاهب الفكرية العنيفة،
08:26
whether they're Islamists, white supremacists
155
506337
2596
سواء أكانوا مسلمين أو سادة العرق الأبيض أو أية مجموعة متطرفة أخرى،
08:28
or other violent extremists,
156
508957
2103
بهدف منحهم الفرصة لسماع شخص ما من الجانب الآخر من تلك التجربة،
08:31
with the goal of giving them the chance to hear from someone
157
511084
2873
08:33
on the other side of that journey;
158
513981
2091
08:36
to give them the chance to choose a different path.
159
516096
2839
ولمنحهم الفرصة لاختيار طريق مختلف.
08:40
It turns out that often the bad guys are good at exploiting the internet,
160
520749
5980
تبين أن الأشرار بارعون أحيانًا في استغلال الإنترنت،
08:46
not because they're some kind of technological geniuses,
161
526753
3744
ليس لأنهم بارعون تقنيًا، ولكن يدركون ما الذي يثيرُ غضب الناس.
08:50
but because they understand what makes people tick.
162
530521
2985
08:54
I want to give you a second example:
163
534855
2369
أرغبُ في إعطائكم مثالًا آخر: التحرش عبر الإنترنت.
08:58
online harassment.
164
538019
1391
09:00
Online harassers also work to figure out what will resonate
165
540629
3363
يعمل المتحرشون عبر الإنترنت أيضًا على معرفة ما الذي سيثير انتباه شخص آخر.
09:04
with another human being.
166
544016
1615
09:05
But not to recruit them like ISIS does,
167
545655
3110
لكن ليس تجنيدهم كما تفعل داعش، ولكن ليسببوا لهم الألم.
09:08
but to cause them pain.
168
548789
1275
09:11
Imagine this:
169
551259
1342
تخليوا التالي: أنت امرأة ومتزوجة، ولديك طفل.
09:13
you're a woman,
170
553347
1659
09:15
you're married,
171
555030
1413
09:16
you have a kid.
172
556467
1154
09:18
You post something on social media,
173
558834
1784
وتنشرين شيئًا عبر وسائل التواصل الاجتماعي،
09:20
and in a reply, you're told that you'll be raped,
174
560642
2886
وفي المقابل، يقال لك بأنك ستغتصبين، وسيشاهد طفلك ذلك بتفاصيل متى وأين.
09:24
that your son will be watching,
175
564577
1560
09:26
details of when and where.
176
566825
1856
09:29
In fact, your home address is put online for everyone to see.
177
569148
3143
وُضع في الواقع عنوان بيتك ليراه الجميع عبر الإنترنت.
09:33
That feels like a pretty real threat.
178
573580
2007
وبدا ذلك كتهديد حقيقي.
09:37
Do you think you'd go home?
179
577113
1656
هل تفكري في الذهاب إلى البيت؟
09:39
Do you think you'd continue doing the thing that you were doing?
180
579999
3048
وهل تفكري في الاستمرار في القيام بما كنت تقومين به؟
هل ستستمري في القيام بذلك الشيء الذي أثار غضب مهاجمك؟
09:43
Would you continue doing that thing that's irritating your attacker?
181
583071
3220
09:48
Online abuse has been this perverse art
182
588016
3096
كان التعسف عبر الإنترنت بمثابة التقنية المنحرفة
09:51
of figuring out what makes people angry,
183
591136
3468
لمعرفة ما يجعل الناس غاضبين وخائفين ولا يشعرون بالأمان،
09:54
what makes people afraid,
184
594628
2132
09:56
what makes people insecure,
185
596784
1641
09:58
and then pushing those pressure points until they're silenced.
186
598449
3067
وثم دفع تلك المراحل الضاغطة حتى تصمت.
10:02
When online harassment goes unchecked,
187
602333
2304
حين لا يتم التحقق من التحرش عبر الإنترنت، عندها تخمدُ حرية الكلام.
10:04
free speech is stifled.
188
604661
1667
10:07
And even the people hosting the conversation
189
607196
2127
حتى الأشخاص الذين يستضيفون النقاشات يلقون بأسلحتهم ويتوقفون،
10:09
throw up their arms and call it quits,
190
609347
1834
10:11
closing their comment sections and their forums altogether.
191
611205
2957
ويغلقون أقسام تعليقاتهم وندواتهم معًا.
10:14
That means we're actually losing spaces online
192
614186
2849
ويعني هذا أننا نخسر في الواقع مساحات عبر الإنترنب للالتقاء وتبادل الأفكار.
10:17
to meet and exchange ideas.
193
617059
1987
10:19
And where online spaces remain,
194
619939
2163
وحيث تبقى المساحات عبر الإنترنت،
10:22
we descend into echo chambers with people who think just like us.
195
622126
4470
فإننا نحلُ ضيوفا لنكرر أفكار الأشخاص الذي يشبهوننا فكريًا.
10:27
But that enables the spread of disinformation;
196
627688
2499
ولكن يتيح ذلك انتشار المعلومات المضللة التي تسهل الاستقطاب.
10:30
that facilitates polarization.
197
630211
2184
10:34
What if technology instead could enable empathy at scale?
198
634508
5269
ماذا لو تستطيع التقنية بدلًا من ذلك إتاحة التعاطف على نطاق واسع؟
10:40
This was the question that motivated our partnership
199
640451
2486
كان هذا هو السؤال الذي دفع شراكتنا بالتعاون مع فريق جوجل لمواجهة الإساءة،
10:42
with Google's Counter Abuse team,
200
642961
1819
10:44
Wikipedia
201
644804
1178
وويكيبيديا والصحف مثل نيويورك تايمز.
10:46
and newspapers like the New York Times.
202
646006
1934
10:47
We wanted to see if we could build machine-learning models
203
647964
2876
رغبنا في رؤية إن استطعنا إنشاء نماذج تعليمية آلية
10:50
that could understand the emotional impact of language.
204
650864
3606
يمكنها فهم الأثر العاطفي للغة.
10:55
Could we predict which comments were likely to make someone else leave
205
655062
3610
هل نستطيع التنبؤ بالتعليقات التي من المرجح أن تجعل شخصًا ما يترك النقاشات عبر الإنترنت؟
10:58
the online conversation?
206
658696
1374
11:00
And that's no mean feat.
207
660515
3887
وهذا لا يعتبر انجاز عظيم ولا تافه بالنسبة إلى الذكاء الاصطناعي للقيام بشيء مثل هذا.
11:04
That's no trivial accomplishment
208
664426
1566
11:06
for AI to be able to do something like that.
209
666016
2563
11:08
I mean, just consider these two examples of messages
210
668603
3729
أقصدُ مجرد النظر في هذين المثالين من الرسائل،
11:12
that could have been sent to me last week.
211
672356
2224
التي كان من الممكن إرسالها لي في الأسبوع الماضي
11:15
"Break a leg at TED!"
212
675517
1879
"بالتوفيق في مؤتمر TED". و "سأكسر ساقيك في مؤتمر TED".
11:17
... and
213
677420
1164
11:18
"I'll break your legs at TED."
214
678608
2126
11:20
(Laughter)
215
680758
1246
(ضحك)
11:22
You are human,
216
682028
1513
أنتم بشر، ولهذا السبب فإن الأمر فرق واضح بالنسبة إليكم حتى ولو كانت الكلمات نفسها.
11:23
that's why that's an obvious difference to you,
217
683565
2210
11:25
even though the words are pretty much the same.
218
685799
2224
11:28
But for AI, it takes some training to teach the models
219
688047
3079
لكن يحتاج الذكاء الاصطناعي بعض التدريب لتعليم النماذج لتمييز الفرق.
11:31
to recognize that difference.
220
691150
1571
11:32
The beauty of building AI that can tell the difference
221
692745
3245
فروعة إنشاء الذكاء الاصطناعي الذي يمكن له تمميز الفرق
11:36
is that AI can then scale to the size of the online toxicity phenomenon,
222
696014
5050
هو أنه يمكن للذكاء الاصطناعي أن يصل إلى حجم ظاهرة السُمية عبر الإنترنت،
11:41
and that was our goal in building our technology called Perspective.
223
701088
3287
وكان هذا هو هدفنا في إنشاء تقنيتنا المسماة المنظورية (Perspective)،
11:45
With the help of Perspective,
224
705056
1427
مثلًا، زادت صحيفة نيويورك تايمز من مساحتها للنقاش عبر الإنترنت بمساعدة المنظورية.
11:46
the New York Times, for example,
225
706507
1583
11:48
has increased spaces online for conversation.
226
708114
2487
11:51
Before our collaboration,
227
711005
1310
قبل تعاوننا، كان لديهم تعليقات متاحة على نسبة 10% من مقالاتهم.
11:52
they only had comments enabled on just 10 percent of their articles.
228
712339
4305
11:57
With the help of machine learning,
229
717495
1644
وبمساعدة التعليم الآلي، ارتفعت النسبة لتصل إلى 30%.
11:59
they have that number up to 30 percent.
230
719163
1897
12:01
So they've tripled it,
231
721084
1156
وبذلك تضاعفت ثلاث مرات، وما زلنا في بداية الطريق.
12:02
and we're still just getting started.
232
722264
1917
12:04
But this is about way more than just making moderators more efficient.
233
724872
3461
وهذه هي طريقة أكثر من مجرد جعل المراقبين أكثر فعالية.
12:10
Right now I can see you,
234
730076
1850
أستطيع رؤيتكم الآن، وأستطيع تقدير كيفية وقع ما أقوله عليكم.
12:11
and I can gauge how what I'm saying is landing with you.
235
731950
3294
12:16
You don't have that opportunity online.
236
736370
1879
ليس لديكم هذه الفرصة عبر الإنترنت.
12:18
Imagine if machine learning could give commenters,
237
738558
3635
تخيلوا لو تستطيع آلة التعليم أن تعطيكم تعليقات وأنتم تكتبون.
12:22
as they're typing,
238
742217
1162
12:23
real-time feedback about how their words might land,
239
743403
3347
ستبدو ردود أفعالكم الحقيقية اللحظية تمامًا مثل تعبيرات وجوهكم في النقاشات وجهًا لوجه.
12:27
just like facial expressions do in a face-to-face conversation.
240
747609
3024
12:32
Machine learning isn't perfect,
241
752926
1842
آلة التعلم ليست مثالية، ولا تزال ترتكب الكثير من الأخطاء.
12:34
and it still makes plenty of mistakes.
242
754792
2394
12:37
But if we can build technology
243
757210
1557
ولكن لو استطعنا إنشاء تقنية تفهم الأثر العاطفي للغة،
12:38
that understands the emotional impact of language,
244
758791
3293
12:42
we can build empathy.
245
762108
1460
فإننا نستطيع تعزيز التعاطف.
12:43
That means that we can have dialogue between people
246
763592
2425
وبهذا يكون لدينا حوارات بين الناس على اختلاف نظرتهم للسياسة والعالم والقيم.
12:46
with different politics,
247
766041
1816
12:47
different worldviews,
248
767881
1216
12:49
different values.
249
769121
1246
12:51
And we can reinvigorate the spaces online that most of us have given up on.
250
771359
4775
ويمكننا تجديد المساحات عبر الإنترنت ولا سيما تلك التي تخلى عنها معظمنا.
12:57
When people use technology to exploit and harm others,
251
777857
3785
عندما يستخدم الأشخاص التكنولوجيا لاستغلال وإيذاء الآخرين
13:01
they're preying on our human fears and vulnerabilities.
252
781666
3642
فإنهم يستحوذون على مخاوفنا ونقاط ضعفنا الإنسانية.
13:06
If we ever thought that we could build an internet
253
786461
3508
لو اعتقدنا في أي وقتٍ أننا نستطيع إنشاء شبكة إنترنت
13:09
insulated from the dark side of humanity,
254
789993
2578
معزولة عن الجانب المظلم للبشرية فقد كنا مخطئين.
13:12
we were wrong.
255
792595
1184
13:14
If we want today to build technology
256
794361
2270
لو أردنا اليوم إنشاء تقنية تمكننا من القضاء على التحديات التي تواجهنا،
13:16
that can overcome the challenges that we face,
257
796655
3127
13:19
we have to throw our entire selves into understanding the issues
258
799806
4043
فعلينا أن نجندُ أنفسنا تمامًا لفهم القضايا وإيجاد الحلول التي يستهدفها البشر لحلها.
13:23
and into building solutions
259
803873
1893
13:25
that are as human as the problems they aim to solve.
260
805790
3782
13:30
Let's make that happen.
261
810071
1513
دعونا نحقق ذلك.
13:31
Thank you.
262
811924
1150
شكرًا لكم.
13:33
(Applause)
263
813098
3277
(تصفيق)
حول هذا الموقع

سيقدم لك هذا الموقع مقاطع فيديو YouTube المفيدة لتعلم اللغة الإنجليزية. سترى دروس اللغة الإنجليزية التي يتم تدريسها من قبل مدرسين من الدرجة الأولى من جميع أنحاء العالم. انقر نقرًا مزدوجًا فوق الترجمة الإنجليزية المعروضة على كل صفحة فيديو لتشغيل الفيديو من هناك. يتم تمرير الترجمات بالتزامن مع تشغيل الفيديو. إذا كان لديك أي تعليقات أو طلبات ، يرجى الاتصال بنا باستخدام نموذج الاتصال هذا.

https://forms.gle/WvT1wiN1qDtmnspy7