How technology can fight extremism and online harassment | Yasmin Green

74,584 views ・ 2018-06-27

TED


Vui lòng nhấp đúp vào phụ đề tiếng Anh bên dưới để phát video.

Translator: Anh Mai Reviewer: Giang Nguyen
Mối liên hệ giữa bản thân với internet gợi tôi nhớ đến bố cục
của một bộ phim kinh dị điển hình.
Bạn biết đấy, một gia đình hạnh phúc chuyển đến căn nhà mới tuyệt vời,
00:13
My relationship with the internet reminds me of the setup
0
13131
4411
phấn khích về một tương lai tươi sáng,
00:17
to a clichéd horror movie.
1
17566
1833
và ngoài trời thì nắng vàng cùng tiếng chim rảnh rang ...
00:19
You know, the blissfully happy family moves in to their perfect new home,
2
19867
4386
Rồi không gian bỗng tối đen.
00:24
excited about their perfect future,
3
24277
2281
Có tiếng động vọng lại từ trên gác xép
00:26
and it's sunny outside and the birds are chirping ...
4
26582
3521
Và ta nhận ra rằng căn nhà mới không hoàn hảo như ta vẫn nghĩ.
00:30
And then it gets dark.
5
30857
1839
Khi tôi bắt đầu làm tại Google năm 2006,
00:32
And there are noises from the attic.
6
32720
2348
00:35
And we realize that that perfect new house isn't so perfect.
7
35092
4345
Facebook chỉ mới 2 năm tuổi,
và Twitter thậm chí còn chưa ra đời.
Và tôi đã vô cùng kinh ngạc bởi internet và những điều nó hứa hẹn
00:40
When I started working at Google in 2006,
8
40485
3131
00:43
Facebook was just a two-year-old,
9
43640
1767
khiến chúng ta gần nhau hơn
00:45
and Twitter hadn't yet been born.
10
45431
2012
thông minh hơn
và tự do hơn.
00:47
And I was in absolute awe of the internet and all of its promise
11
47848
4410
Nhưng khi chúng ta làm các công việc ý nghĩa như xây dựng công cụ tìm kiếm
00:52
to make us closer
12
52282
1437
và trang chia sẻ video cùng với mạng xã hội,
00:53
and smarter
13
53743
1296
00:55
and more free.
14
55063
1214
những tên tội phạm, độc tài và khủng bố đã nghĩ ra cách
00:57
But as we were doing the inspiring work of building search engines
15
57265
3714
dùng chính những nền tảng đó chống lại chúng ta.
01:01
and video-sharing sites and social networks,
16
61003
2886
01:04
criminals, dictators and terrorists were figuring out
17
64907
4304
Và ta đã không thể nhìn đủ xa để ngăn chặn bọn chúng.
Trong vài năm gần đây, những thế lực địa chính trị đã lộng hành trên mạng.
01:09
how to use those same platforms against us.
18
69235
3202
01:13
And we didn't have the foresight to stop them.
19
73417
2455
Và để đáp lại,
Google đã hỗ trợ tôi cùng vài đồng nghiệp tạo lập một nhóm mới tên là Jigsaw,
01:16
Over the last few years, geopolitical forces have come online to wreak havoc.
20
76746
5099
với bộ quy tắc giúp bảo vệ mọi người khỏi những mối đe dọa như bạo lực cực đoan,
01:21
And in response,
21
81869
1169
01:23
Google supported a few colleagues and me to set up a new group called Jigsaw,
22
83062
4778
kiểm duyệt, áp bức -
những mối đe dọa rất quen thuộc với tôi vì chính tôi đã sinh ra ở Iran,
01:27
with a mandate to make people safer from threats like violent extremism,
23
87864
4596
và rời đi trong tàn cuộc của một cuộc cách mạng bạo lực.
01:32
censorship, persecution --
24
92484
2078
Nhưng tôi đã dần nhận ra rằng kể cả khi ta có tất cả nguồn lực
01:35
threats that feel very personal to me because I was born in Iran,
25
95186
4117
01:39
and I left in the aftermath of a violent revolution.
26
99327
2929
của toàn bộ doanh nghiệp công nghệ trên thế giới,
ta vẫn sẽ thất bại
01:43
But I've come to realize that even if we had all of the resources
27
103525
4346
nếu ta bỏ qua một nhân tố then chốt:
01:47
of all of the technology companies in the world,
28
107895
2858
những trải nghiệm cuộc đời của cả nạn nhân và thủ phạm đằng sau các mối đe dọa ấy.
01:51
we'd still fail
29
111595
1230
01:53
if we overlooked one critical ingredient:
30
113586
2948
tôi có thể nói cho bạn về vô vàn thách thức lúc này.
01:57
the human experiences of the victims and perpetrators of those threats.
31
117653
5789
Tôi sẽ chỉ tập trung vào hai điều.
Đầu tiên là khủng bố.
02:04
There are many challenges I could talk to you about today.
32
124935
2736
Để hiểu được quá trình cực đoan hóa,
02:07
I'm going to focus on just two.
33
127695
1504
chúng tôi đã gặp mặt nhiều cựu thành viên của các nhóm bạo lực cực đoan.
02:09
The first is terrorism.
34
129623
2079
Một trong số đó là một nữ sinh người Anh,
02:13
So in order to understand the radicalization process,
35
133563
2557
02:16
we met with dozens of former members of violent extremist groups.
36
136144
4287
cô bé đã bị buộc rời khỏi máy bay tại sân bay London Heathrow
trong khi cố gắng đi đến Syria để gia nhập ISIS.
02:21
One was a British schoolgirl,
37
141590
2483
02:25
who had been taken off of a plane at London Heathrow
38
145049
3699
Và cô bé mới 13 tuổi.
02:28
as she was trying to make her way to Syria to join ISIS.
39
148772
4692
Nên tôi đã tới ngồi bên cô bé cùng cha cô, và hỏi, “Tại sao vậy?”
Và cô bé trả lời,
02:34
And she was 13 years old.
40
154281
1931
“Cháu đã nhìn thấy những bức ảnh chụp cuộc sống tại Syria,
02:37
So I sat down with her and her father, and I said, "Why?"
41
157792
4625
và cháu nghĩ mình nên tới và sống tại công viên Disney World Hồi giáo.”
02:42
And she said,
42
162441
1717
Đó là thứ cô bé đã thấy ở ISIS.
02:44
"I was looking at pictures of what life is like in Syria,
43
164182
3639
Cô bé đã nghĩ mình sẽ gặp và cưới một Brad Pitt Hồi giáo
02:47
and I thought I was going to go and live in the Islamic Disney World."
44
167845
3510
đi mua sắm cả ngày trong trung tâm và sống hạnh phúc mãi mãi về sau.
02:52
That's what she saw in ISIS.
45
172527
2084
02:54
She thought she'd meet and marry a jihadi Brad Pitt
46
174635
3492
ISIS hiểu được điều gì thúc đẩy con người,
và chúng tỉ mỉ tạo ra thông điệp riêng cho từng đối tượng.
02:58
and go shopping in the mall all day and live happily ever after.
47
178151
3058
03:02
ISIS understands what drives people,
48
182977
2824
Hãy nhìn vào lượng ngôn ngữ
mà chúng đã chuyển ngữ tư liệu truyền bá sang.
03:05
and they carefully craft a message for each audience.
49
185825
3544
Chúng làm tờ rơi, chương trình radio và cả các đoạn phim
không chỉ bằng tiếng Anh và Ả Rập,
03:11
Just look at how many languages
50
191122
1511
mà còn cả tiếng Đức, tiếng Nga, tiếng Pháp, tiếng Thổ Nhĩ Kỳ, tiếng Kurd,
03:12
they translate their marketing material into.
51
192657
2273
03:15
They make pamphlets, radio shows and videos
52
195677
2661
tiếng Do Thái,
03:18
in not just English and Arabic,
53
198362
1973
tiếng Quan thoại.
03:20
but German, Russian, French, Turkish, Kurdish,
54
200359
4767
Tôi thậm chí đã xem một video sử dụng ngôn ngữ kí hiệu do ISIS tạo ra.
03:25
Hebrew,
55
205150
1672
Thử ngẫm về chuyện đó một chút:
03:26
Mandarin Chinese.
56
206846
1741
ISIS đã bỏ công sức và thời gian
03:29
I've even seen an ISIS-produced video in sign language.
57
209309
4192
để đảm bảo rằng thông điệp của chúng chạm tới cả người điếc và khiếm thính.
03:34
Just think about that for a second:
58
214605
1884
03:36
ISIS took the time and made the effort
59
216513
2308
Sự am hiểu về công nghệ không phải
03:38
to ensure their message is reaching the deaf and hard of hearing.
60
218845
3804
là lý do ISIS chiếm được lòng người.
Chính sự tường tận về những định kiến, những yếu đuối và tham vọng
03:45
It's actually not tech-savviness
61
225143
2144
của người mà chúng nhắm đến
03:47
that is the reason why ISIS wins hearts and minds.
62
227311
2595
đã làm điều đó.
03:49
It's their insight into the prejudices, the vulnerabilities, the desires
63
229930
4163
Đó là lý do tại sao sẽ không đủ
nếu những nền tảng mạng chỉ tập trung vào việc gỡ bỏ tư liệu tuyển mộ.
03:54
of the people they're trying to reach
64
234117
1774
03:55
that does that.
65
235915
1161
Nếu chúng ta muốn có được cơ hội xây dựng nên công nghệ có ý nghĩa
03:57
That's why it's not enough
66
237718
1429
03:59
for the online platforms to focus on removing recruiting material.
67
239171
4239
chống lại cực đoan hóa,
ta phải bắt đầu cuộc hành trình này từ cội nguồn của nó.
04:04
If we want to have a shot at building meaningful technology
68
244518
3581
Nên chúng tôi đã tới Iraq
trò chuyện với những chàng trai trẻ đã tin vào lời hứa của ISIS
04:08
that's going to counter radicalization,
69
248123
1874
04:10
we have to start with the human journey at its core.
70
250021
2979
về tinh thần anh dũng và đoan chính,
04:13
So we went to Iraq
71
253884
2187
đã cầm vũ khí chiến đấu cho chúng
và cũng đã đào ngũ
04:16
to speak to young men who'd bought into ISIS's promise
72
256095
2831
sau khi chứng kiến thứ luật lệ tàn bạo của ISIS.
04:18
of heroism and righteousness,
73
258950
3191
Và tôi ngồi trong nhà giam tạm thời ở phía bắc Iraq
04:22
who'd taken up arms to fight for them
74
262165
1847
cùng người thanh niên 23 tuổi bị đào tạo thành một lính đánh bom liều chết
04:24
and then who'd defected
75
264036
1338
04:25
after they witnessed the brutality of ISIS's rule.
76
265398
3021
trước khi đào thoát.
04:28
And I'm sitting there in this makeshift prison in the north of Iraq
77
268880
3192
Và anh ta nói rằng,
04:32
with this 23-year-old who had actually trained as a suicide bomber
78
272096
4550
“Tôi tới Syria trong ngập tràn hi vọng,
và ngay lập tức, tôi bị tịch thu hai món đồ giá trị nhất mình có:
04:36
before defecting.
79
276670
1552
04:39
And he says,
80
279080
1158
hộ chiếu và điện thoại di động.”
04:41
"I arrived in Syria full of hope,
81
281119
3220
Những vật đại diện cho quyền tự do thân thể và kỹ thuật số
04:44
and immediately, I had two of my prized possessions confiscated:
82
284363
4365
đã bị lấy đi ngay khi anh ta đến.
04:48
my passport and my mobile phone."
83
288752
2933
Và anh ta đã mô tả khoảnh khắc mất mát ấy cho tôi như thế này.
04:52
The symbols of his physical and digital liberty
84
292140
2406
Anh ta nói,
04:54
were taken away from him on arrival.
85
294570
1760
“Cô biết trong ‘Tom and Jerry’,
04:57
And then this is the way he described that moment of loss to me.
86
297248
3510
khi Jerry muốn trốn thoát, Tom liền khóa cửa lại
nuốt chìa khóa
05:01
He said,
87
301356
1586
và chiếc chìa cộm lên cổ họng nó trong lúc trôi xuống?”
05:02
"You know in 'Tom and Jerry,'
88
302966
2329
Lẽ dĩ nhiên, tôi cho rằng ai cũng thấy hình ảnh anh ta mô tả,
05:06
when Jerry wants to escape, and then Tom locks the door
89
306192
3103
và tôi thật sự thấy thấu hiểu cảm xúc mà anh ta đang cố truyền tải,
05:09
and swallows the key
90
309319
1156
05:10
and you see it bulging out of his throat as it travels down?"
91
310499
3551
một cảm xúc sụp đổ,
05:14
And of course, I really could see the image that he was describing,
92
314446
3153
khi biết rõ không còn đường thoát.
05:17
and I really did connect with the feeling that he was trying to convey,
93
317623
3661
Và tôi đã nghĩ:
Liệu có điều gì có thể khiến anh ta đổi ý
05:21
which was one of doom,
94
321308
2021
vào ngày anh ta rời nhà?
05:23
when you know there's no way out.
95
323353
1789
Nên tôi đã hỏi,
“Nếu như anh biết tất cả mọi thứ
05:26
And I was wondering:
96
326551
1289
05:28
What, if anything, could have changed his mind
97
328644
2682
về nỗi đau khổ và sự mục nát, sự tàn ác -
05:31
the day that he left home?
98
331350
1240
vào cái ngày anh rời nhà,
05:32
So I asked,
99
332614
1250
anh vẫn sẽ đi?”
05:33
"If you knew everything that you know now
100
333888
3178
Anh ta trả lời, “Phải.”
05:37
about the suffering and the corruption, the brutality --
101
337090
3051
Tôi đã nghĩ, “Chúa ơi, anh ta nói ‘Phải.’”
Rồi anh ta nói tiếp,
05:40
that day you left home,
102
340165
1415
05:41
would you still have gone?"
103
341604
1679
“Vào lúc đó, tôi đã bị tẩy não đến mức,
05:43
And he said, "Yes."
104
343786
1711
tôi không thể tiếp nhận bất kì thông tin trái chiều nào.
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
345846
2282
05:48
And then he said,
106
348694
1219
Tôi không thể nào bị lung lay.”
05:49
"At that point, I was so brainwashed,
107
349937
3001
“Vậy, nếu như anh biết tất cả mọi thứ đã xảy ra
05:52
I wasn't taking in any contradictory information.
108
352962
3244
sáu tháng trước ngày anh đi thì sao?”
05:56
I couldn't have been swayed."
109
356744
1555
“Khi ấy, tôi nghĩ có lẽ tôi sẽ đổi ý.”
05:59
"Well, what if you knew everything that you know now
110
359235
2527
06:01
six months before the day that you left?"
111
361786
2098
Cực đoan hóa không phải là một lựa chọn có hoặc không.
06:05
"At that point, I think it probably would have changed my mind."
112
365345
3131
Nó là một quá trình mà trong đó người ta đặt câu hỏi -
về tư tưởng, tôn giáo, điều kiện sống.
06:10
Radicalization isn't this yes-or-no choice.
113
370138
3397
Và họ lên mạng để tìm kiếm câu trả lời,
06:14
It's a process, during which people have questions --
114
374007
2977
từ đó tạo ra cơ hội tìm được lời đáp.
06:17
about ideology, religion, the living conditions.
115
377008
3776
Và có những video trên mạng từ người có câu trả lời -
06:20
And they're coming online for answers,
116
380808
2766
ví dụ như những người đào ngũ kể chuyện về hành trình của họ
06:23
which is an opportunity to reach them.
117
383598
1917
bước vào và thoát khỏi bạo lực;
những câu chuyện như chàng trai tôi đã gặp tại nhà tù Iraq.
06:25
And there are videos online from people who have answers --
118
385905
3014
06:28
defectors, for example, telling the story of their journey
119
388943
2876
Có những người dân đã đăng đoạn ghi hình bằng điện thoại
06:31
into and out of violence;
120
391843
1583
về hiện thực cuộc sống trên đất Hồi giáo nằm dưới luật lệ của ISIS.
06:33
stories like the one from that man I met in the Iraqi prison.
121
393450
3487
Có những giáo sĩ truyền tải hướng diễn giải hòa bình về Hồi giáo.
06:37
There are locals who've uploaded cell phone footage
122
397914
2590
06:40
of what life is really like in the caliphate under ISIS's rule.
123
400528
3503
Nhưng các bạn có biết?
Những người này không có sức mạnh quảng bá như ISIS.
06:44
There are clerics who are sharing peaceful interpretations of Islam.
124
404055
3735
Họ liều mạng mình để lên tiếng và đương đầu với các chiến dịch khủng bố,
06:48
But you know what?
125
408830
1150
và thật đáng buồn khi họ không thể chạm tới người
06:50
These people don't generally have the marketing prowess of ISIS.
126
410004
3020
cần lời diễn giải của họ nhất.
06:54
They risk their lives to speak up and confront terrorist propaganda,
127
414049
4532
Và chúng tôi muốn xem liệu công nghệ có thể thay đổi điều đó.
Nên vào 2016, chúng tôi đã hợp tác với Moonshot CVE
06:58
and then they tragically don't reach the people
128
418605
2211
07:00
who most need to hear from them.
129
420840
1682
nhằm đưa ra một giải pháp chống cực đoan hóa mới
07:03
And we wanted to see if technology could change that.
130
423173
2612
gọi là “Phương pháp Chuyển hướng”.
07:06
So in 2016, we partnered with Moonshot CVE
131
426205
4183
Cách này tận dụng sức mạnh của quảng cáo trực tuyến
07:10
to pilot a new approach to countering radicalization
132
430412
3180
để thu hẹp khoảng cách giữa những người dễ bị ảnh hưởng bởi thông điệp của ISIS
07:13
called the "Redirect Method."
133
433616
1780
và những người đáng tin cậy đang lên tiếng bóc trần thông điệp đó.
07:16
It uses the power of online advertising
134
436453
3012
07:19
to bridge the gap between those susceptible to ISIS's messaging
135
439489
4514
Nó là như thế này:
một người tìm kiếm tư liệu cực đoan -
ví dụ như tìm kiếm ”Làm cách nào để tham gia ISIS?” -
07:24
and those credible voices that are debunking that messaging.
136
444027
3760
sẽ thấy xuất hiện một quảng cáo
07:28
And it works like this:
137
448633
1150
dẫn họ đến video trên Youtube của một giáo sĩ, một lính đào ngũ -
07:29
someone looking for extremist material --
138
449807
1961
07:31
say they search for "How do I join ISIS?" --
139
451792
2990
những người có câu trả lời thật sự.
07:34
will see an ad appear
140
454806
2476
Và việc xác định mục tiêu đó không dựa trên danh tính cá nhân,
07:37
that invites them to watch a YouTube video of a cleric, of a defector --
141
457306
4882
mà dựa vào việc xem xét yếu tố liên quan trực tiếp
07:42
someone who has an authentic answer.
142
462212
2310
đến thắc mắc hay câu hỏi của họ.
07:44
And that targeting is based not on a profile of who they are,
143
464546
3623
Trong tám tuần thực nghiệm sơ bộ bằng tiếng Anh và Ả Rập,
07:48
but of determining something that's directly relevant
144
468193
3053
chúng tôi đã tiếp cận hơn 300.000 người
07:51
to their query or question.
145
471270
1708
bày tỏ bản thân có sự quan tâm hay đồng cảm với nhóm Hồi giáo cực đoan.
07:54
During our eight-week pilot in English and Arabic,
146
474122
2842
07:56
we reached over 300,000 people
147
476988
3279
Những người này hiện đang xem những video
08:00
who had expressed an interest in or sympathy towards a jihadi group.
148
480291
5545
có thể ngăn họ đưa ra lựa chọn tồi tệ.
Và bởi vì chủ nghĩa cực đoan bạo lực không giới hạn ở bất kì một ngôn ngữ,
08:06
These people were now watching videos
149
486626
2264
08:08
that could prevent them from making devastating choices.
150
488914
3340
tôn giáo hay tư tưởng,
Phương pháp Chuyển hướng hiện đang được áp dụng toàn cầu
08:13
And because violent extremism isn't confined to any one language,
151
493405
3727
nhằm bảo vệ mọi người không bị dụ dỗ qua mạng bởi các hệ tư tưởng bạo lực.
08:17
religion or ideology,
152
497156
1804
dù họ có là người Hồi, da trắng thượng đẳng
08:18
the Redirect Method is now being deployed globally
153
498984
3501
hay các thành phần cực đoan bạo lực khác,
08:22
to protect people being courted online by violent ideologues,
154
502509
3804
với mục tiêu đem đến cho họ cơ hội lắng nghe người khác
ở phía bên kia của câu chuyện;
08:26
whether they're Islamists, white supremacists
155
506337
2596
cho họ cơ hội lựa chọn con đường khác.
08:28
or other violent extremists,
156
508957
2103
08:31
with the goal of giving them the chance to hear from someone
157
511084
2873
Sự thật là kẻ xấu thường giỏi việc khai thác mạng internet,
08:33
on the other side of that journey;
158
513981
2091
08:36
to give them the chance to choose a different path.
159
516096
2839
không phải vì chúng là những thiên tài công nghệ,
08:40
It turns out that often the bad guys are good at exploiting the internet,
160
520749
5980
mà vì chúng hiểu điều gì khiến con người hứng thú.
08:46
not because they're some kind of technological geniuses,
161
526753
3744
Tôi muốn đưa ra một ví dụ thứ hai:
quấy rối trực tuyến.
08:50
but because they understand what makes people tick.
162
530521
2985
Những kẻ quấy rối trực tuyến còn ra sức tìm kiếm yếu tố đồng điệu
08:54
I want to give you a second example:
163
534855
2369
với cá thể người khác.
Nhưng không phải để tuyển quân như ISIS,
08:58
online harassment.
164
538019
1391
09:00
Online harassers also work to figure out what will resonate
165
540629
3363
mà để gây đau khổ.
Thử tưởng tượng thế này:
09:04
with another human being.
166
544016
1615
bạn là phụ nữ,
09:05
But not to recruit them like ISIS does,
167
545655
3110
bạn đã kết hôn,
bạn có một con.
09:08
but to cause them pain.
168
548789
1275
Bạn đăng gì đó lên mạng xã hội,
09:11
Imagine this:
169
551259
1342
và trong một phản hồi, bạn bị đe dọa mình bị cưỡng hiếp,
09:13
you're a woman,
170
553347
1659
09:15
you're married,
171
555030
1413
con trai bị theo dõi,
09:16
you have a kid.
172
556467
1154
09:18
You post something on social media,
173
558834
1784
chi tiết về thời gian lẫn địa điểm.
09:20
and in a reply, you're told that you'll be raped,
174
560642
2886
Thực chất, địa chỉ nhà bạn được đăng lên cho mọi người đều thấy.
09:24
that your son will be watching,
175
564577
1560
Điều này có vẻ là mối đe dọa thực sự.
09:26
details of when and where.
176
566825
1856
Bạn có nghĩ mình sẽ về nhà?
09:29
In fact, your home address is put online for everyone to see.
177
569148
3143
Bạn nghĩ mình sẽ tiếp tục làm việc đang dang dở?
09:33
That feels like a pretty real threat.
178
573580
2007
Liệu bạn sẽ tiếp tục làm chuyện khiến kẻ gây hấn khó chịu?
09:37
Do you think you'd go home?
179
577113
1656
09:39
Do you think you'd continue doing the thing that you were doing?
180
579999
3048
Lạm dụng trực tuyến vốn là thứ nghệ thuật méo mó
luôn tìm kiếm thứ khiến con người giận dữ,
09:43
Would you continue doing that thing that's irritating your attacker?
181
583071
3220
thứ khiến họ sợ hãi,
09:48
Online abuse has been this perverse art
182
588016
3096
thứ khiến họ bất an,
và gây áp lực cho đến khi họ buộc phải im lặng.
09:51
of figuring out what makes people angry,
183
591136
3468
Khi quấy rối trên mạng không được kiểm soát,
09:54
what makes people afraid,
184
594628
2132
tự do ngôn luận sẽ bị kìm hãm.
09:56
what makes people insecure,
185
596784
1641
09:58
and then pushing those pressure points until they're silenced.
186
598449
3067
Và ngay cả những người chủ cuộc trò chuyện
cũng thể hiện sự chán nản và từ bỏ,
10:02
When online harassment goes unchecked,
187
602333
2304
bằng cách đóng hết phần bình luận cũng như forum của mình.
10:04
free speech is stifled.
188
604661
1667
Điều đó nghĩa là chúng ta sẽ mất đi những không gian mạng
10:07
And even the people hosting the conversation
189
607196
2127
để gặp gỡ và trao đổi ý kiến.
10:09
throw up their arms and call it quits,
190
609347
1834
10:11
closing their comment sections and their forums altogether.
191
611205
2957
Và nơi không gian mạng sót lại,
chúng ta rơi vào các buồng vang thông tin với những người suy nghĩ giống ta.
10:14
That means we're actually losing spaces online
192
614186
2849
10:17
to meet and exchange ideas.
193
617059
1987
10:19
And where online spaces remain,
194
619939
2163
Nhưng điều đấy khiến lan truyền thông tin sai lệch,
tạo điều kiện cho sự phân cực.
10:22
we descend into echo chambers with people who think just like us.
195
622126
4470
Thay vào đó, sẽ thế nào nếu công nghệ có thể lan tỏa sự đồng cảm rộng rãi?
10:27
But that enables the spread of disinformation;
196
627688
2499
10:30
that facilitates polarization.
197
630211
2184
Đây là câu hỏi đã thúc đẩy sự hợp tác giữa chúng tôi
10:34
What if technology instead could enable empathy at scale?
198
634508
5269
với đội ngũ chống lạm dụng của Google,
Wikipedia,
và báo chí như tờ New York Times.
Chúng tôi muốn biết liệu có thể xây dựng các mô hình học máy
10:40
This was the question that motivated our partnership
199
640451
2486
10:42
with Google's Counter Abuse team,
200
642961
1819
có khả năng hiểu được tác động lên cảm xúc của ngôn từ.
10:44
Wikipedia
201
644804
1178
10:46
and newspapers like the New York Times.
202
646006
1934
Liệu có thể dự đoán bình luận nào có khả năng khiến ai đó rời khỏi
10:47
We wanted to see if we could build machine-learning models
203
647964
2876
10:50
that could understand the emotional impact of language.
204
650864
3606
một cuộc trò chuyện trên mạng?
Và đó là cả một thành tựu.
10:55
Could we predict which comments were likely to make someone else leave
205
655062
3610
Đó là thành quả không hề tầm thường
khi AI có thể làm được như vậy.
10:58
the online conversation?
206
658696
1374
11:00
And that's no mean feat.
207
660515
3887
Ý tôi là, hãy thử xem xét hai ví dụ về tin nhắn
có thể được gửi đến tôi vào tuần trước.
11:04
That's no trivial accomplishment
208
664426
1566
11:06
for AI to be able to do something like that.
209
666016
2563
“Gãy chân lúc ở TED!”
11:08
I mean, just consider these two examples of messages
210
668603
3729
... và
“Tao sẽ bẻ gãy chân mày ở TED.”
(Tiếng cười)
11:12
that could have been sent to me last week.
211
672356
2224
Các bạn là con người,
đó là lý do bạn thấy rõ sự khác biệt,
11:15
"Break a leg at TED!"
212
675517
1879
11:17
... and
213
677420
1164
mặc dù về từ ngữ thì tương đối giống nhau.
11:18
"I'll break your legs at TED."
214
678608
2126
Nhưng với AI, cần chút huấn luyện để chỉ các mô hình
11:20
(Laughter)
215
680758
1246
11:22
You are human,
216
682028
1513
cách nhận ra sự khác biệt.
11:23
that's why that's an obvious difference to you,
217
683565
2210
Điều tuyệt vời khi xây dựng AI có thể phân biệt được
11:25
even though the words are pretty much the same.
218
685799
2224
là sau đó AI có thể mở rộng theo quy mô của sự độc hại trên mạng,
11:28
But for AI, it takes some training to teach the models
219
688047
3079
11:31
to recognize that difference.
220
691150
1571
11:32
The beauty of building AI that can tell the difference
221
692745
3245
và đó là mục tiêu của chúng tôi khi xây dựng công nghệ Perspective.
11:36
is that AI can then scale to the size of the online toxicity phenomenon,
222
696014
5050
Với trợ giúp từ Perspective,
tờ New York Times, lấy ví dụ,
đã mở thêm không gian mạng cho việc trò chuyện.
11:41
and that was our goal in building our technology called Perspective.
223
701088
3287
Trước khi hợp tác với chúng tôi,
họ chỉ mở bình luận 10% số bài viết của mình.
11:45
With the help of Perspective,
224
705056
1427
11:46
the New York Times, for example,
225
706507
1583
11:48
has increased spaces online for conversation.
226
708114
2487
Với sự hỗ trợ của học máy,
họ đã tăng con số đó lên đến 30%.
11:51
Before our collaboration,
227
711005
1310
11:52
they only had comments enabled on just 10 percent of their articles.
228
712339
4305
Vậy họ đã tăng gấp ba lần,
và chúng tôi chỉ vừa mới khởi đầu.
Nhưng điều này không chỉ là khiến việc kiểm duyệt hiệu quả hơn.
11:57
With the help of machine learning,
229
717495
1644
11:59
they have that number up to 30 percent.
230
719163
1897
12:01
So they've tripled it,
231
721084
1156
Ngay bây giờ tôi có thể thấy các bạn,
12:02
and we're still just getting started.
232
722264
1917
và tôi có thể đoán bạn nhìn nhận điều tôi nói như thế nào.
12:04
But this is about way more than just making moderators more efficient.
233
724872
3461
Ccá bạn không có cơ hội đó trên mạng.
Tưởng tượng nếu học máy có thể gửi đến người bình luận,
12:10
Right now I can see you,
234
730076
1850
12:11
and I can gauge how what I'm saying is landing with you.
235
731950
3294
trong lúc họ đang gõ,
phản hồi tức thời về tác động từ lời nói của họ,
12:16
You don't have that opportunity online.
236
736370
1879
12:18
Imagine if machine learning could give commenters,
237
738558
3635
giống như cách nét mặt đóng vai trò trong trò chuyện trực tiếp.
12:22
as they're typing,
238
742217
1162
12:23
real-time feedback about how their words might land,
239
743403
3347
Học máy không hoàn hảo,
và nó vẫn còn xảy ra nhiều lỗi.
12:27
just like facial expressions do in a face-to-face conversation.
240
747609
3024
Nhưng nếu có thể tạo ra thứ công nghệ
hiểu được tác động lên cảm xúc của ngôn từ,
12:32
Machine learning isn't perfect,
241
752926
1842
ta có thể tạo nên sự đồng cảm.
12:34
and it still makes plenty of mistakes.
242
754792
2394
Nghĩa là có thể có đối thoại giữa những người
12:37
But if we can build technology
243
757210
1557
với quan điểm chính trị khác nhau,
12:38
that understands the emotional impact of language,
244
758791
3293
thế giới quan khác nhau,
giá trị khác nhau.
12:42
we can build empathy.
245
762108
1460
Và chúng ta có thể khôi phục những không gian mạng mà số đông đã từ bỏ.
12:43
That means that we can have dialogue between people
246
763592
2425
12:46
with different politics,
247
766041
1816
12:47
different worldviews,
248
767881
1216
12:49
different values.
249
769121
1246
Khi con người sử dụng công nghệ để lợi dụng và làm hại người khác,
12:51
And we can reinvigorate the spaces online that most of us have given up on.
250
771359
4775
bọn họ nhắm đến nỗi sợ và yếu đuối trong con người ta.
12:57
When people use technology to exploit and harm others,
251
777857
3785
Nếu chúng ta nghĩ rằng có thể xây dựng một internet
13:01
they're preying on our human fears and vulnerabilities.
252
781666
3642
tách biệt khỏi mặt tối của con người,
thì chúng ta đã sai.
Nếu giờ chúng ta muốn tạo ra thứ công nghệ
13:06
If we ever thought that we could build an internet
253
786461
3508
có thể vượt qua những thách thức trước mặt,
13:09
insulated from the dark side of humanity,
254
789993
2578
ta phải dốc hết sức lực vào việc thấu hiểu vấn đề
13:12
we were wrong.
255
792595
1184
13:14
If we want today to build technology
256
794361
2270
và tìm ra giải pháp
13:16
that can overcome the challenges that we face,
257
796655
3127
gắn liền với con người như cách những vấn đề cũng vậy.
13:19
we have to throw our entire selves into understanding the issues
258
799806
4043
Hãy cùng thực hiện điều đó.
13:23
and into building solutions
259
803873
1893
Xin cảm ơn.
(Vỗ tay)
13:25
that are as human as the problems they aim to solve.
260
805790
3782
13:30
Let's make that happen.
261
810071
1513
13:31
Thank you.
262
811924
1150
13:33
(Applause)
263
813098
3277
Về trang web này

Trang web này sẽ giới thiệu cho bạn những video YouTube hữu ích cho việc học tiếng Anh. Bạn sẽ thấy các bài học tiếng Anh được giảng dạy bởi các giáo viên hàng đầu từ khắp nơi trên thế giới. Nhấp đúp vào phụ đề tiếng Anh hiển thị trên mỗi trang video để phát video từ đó. Phụ đề cuộn đồng bộ với phát lại video. Nếu bạn có bất kỳ nhận xét hoặc yêu cầu nào, vui lòng liên hệ với chúng tôi bằng biểu mẫu liên hệ này.

https://forms.gle/WvT1wiN1qDtmnspy7