How technology can fight extremism and online harassment | Yasmin Green

74,504 views ・ 2018-06-27

TED


Veuillez double-cliquer sur les sous-titres anglais ci-dessous pour lire la vidéo.

Traducteur: Morgane Quilfen Relecteur: Juliet Vdt
00:13
My relationship with the internet reminds me of the setup
0
13131
4411
Ma relation avec internet me rappelle le début stéréotypé
00:17
to a clichéd horror movie.
1
17566
1833
d'un film d'horreur.
00:19
You know, the blissfully happy family moves in to their perfect new home,
2
19867
4386
La famille parfaitement heureuse emménage dans sa parfaite nouvelle maison,
00:24
excited about their perfect future,
3
24277
2281
enthousiaste au sujet de son parfait avenir,
00:26
and it's sunny outside and the birds are chirping ...
4
26582
3521
il fait beau dehors et les oiseaux pépient...
00:30
And then it gets dark.
5
30857
1839
Puis la nuit tombe.
00:32
And there are noises from the attic.
6
32720
2348
Il y a des bruits dans le grenier.
00:35
And we realize that that perfect new house isn't so perfect.
7
35092
4345
Nous réalisons que cette parfaite nouvelle maison n'est pas si parfaite.
00:40
When I started working at Google in 2006,
8
40485
3131
Quand j'ai commencé à travailler chez Google en 2006,
00:43
Facebook was just a two-year-old,
9
43640
1767
Facebook n'avait que deux ans
00:45
and Twitter hadn't yet been born.
10
45431
2012
et Twitter n'était pas encore né.
00:47
And I was in absolute awe of the internet and all of its promise
11
47848
4410
J'étais totalement émerveillée par internet et sa promesse
00:52
to make us closer
12
52282
1437
de nous rapprocher,
00:53
and smarter
13
53743
1296
de nous rendre plus intelligents et plus libres.
00:55
and more free.
14
55063
1214
00:57
But as we were doing the inspiring work of building search engines
15
57265
3714
Alors que nous créions des moteurs de recherche,
01:01
and video-sharing sites and social networks,
16
61003
2886
des sites de partage de vidéos et des réseaux sociaux,
01:04
criminals, dictators and terrorists were figuring out
17
64907
4304
les criminels, les dictateurs et les terroristes comprenaient
01:09
how to use those same platforms against us.
18
69235
3202
comment utiliser ces mêmes plateformes contre nous.
01:13
And we didn't have the foresight to stop them.
19
73417
2455
Nous n'avons pas eu la clairvoyance de les en empêcher.
01:16
Over the last few years, geopolitical forces have come online to wreak havoc.
20
76746
5099
Ces dernières années, des forces géopolitiques
ont causé des ravages en ligne.
01:21
And in response,
21
81869
1169
En réponse à cela,
01:23
Google supported a few colleagues and me to set up a new group called Jigsaw,
22
83062
4778
Google a soutenu quelques collègues et moi dans la création d'un groupe, Jigsaw,
01:27
with a mandate to make people safer from threats like violent extremism,
23
87864
4596
ayant pour mandat de protéger les gens des menaces comme l'extrémisme violent,
01:32
censorship, persecution --
24
92484
2078
la censure, la persécution...
01:35
threats that feel very personal to me because I was born in Iran,
25
95186
4117
Des menaces qui me semblent très personnelles car je suis née en Iran
01:39
and I left in the aftermath of a violent revolution.
26
99327
2929
et je suis partie au lendemain d'une révolution violente.
01:43
But I've come to realize that even if we had all of the resources
27
103525
4346
Mais j'ai réalisé que, même si nous avions toutes les ressources
01:47
of all of the technology companies in the world,
28
107895
2858
de toutes les entreprises de technologie du monde,
01:51
we'd still fail
29
111595
1230
nous échouerions
01:53
if we overlooked one critical ingredient:
30
113586
2948
si nous négligions un ingrédient crucial :
01:57
the human experiences of the victims and perpetrators of those threats.
31
117653
5789
les expériences humaines des victimes et des auteurs de ces menaces.
02:04
There are many challenges I could talk to you about today.
32
124935
2736
Je pourrais vous parler de nombreux défis aujourd'hui.
02:07
I'm going to focus on just two.
33
127695
1504
Je vais me concentrer sur deux.
02:09
The first is terrorism.
34
129623
2079
Le premier est le terrorisme.
02:13
So in order to understand the radicalization process,
35
133563
2557
Afin de comprendre le processus de radicalisation,
02:16
we met with dozens of former members of violent extremist groups.
36
136144
4287
nous avons rencontré
des dizaines d'anciens membres de groupes extrémistes violents.
02:21
One was a British schoolgirl,
37
141590
2483
Parmi eux, il y avait une écolière britannique
02:25
who had been taken off of a plane at London Heathrow
38
145049
3699
qui avait été sortie d'un avion à l'aéroport de Londres
02:28
as she was trying to make her way to Syria to join ISIS.
39
148772
4692
alors qu'elle essayait d'aller en Syrie pour rejoindre Daech.
02:34
And she was 13 years old.
40
154281
1931
Elle avait 13 ans.
02:37
So I sat down with her and her father, and I said, "Why?"
41
157792
4625
Nous avons discuté avec elle et son père et j'ai demandé : « Pourquoi ? »
02:42
And she said,
42
162441
1717
Elle a dit :
02:44
"I was looking at pictures of what life is like in Syria,
43
164182
3639
« Je regardais des photos de ce à quoi la vie ressemblait en Syrie
02:47
and I thought I was going to go and live in the Islamic Disney World."
44
167845
3510
et je pensais que j'allais vivre dans un Disneyland islamique. »
02:52
That's what she saw in ISIS.
45
172527
2084
Voilà ce qu'elle a vu en Daech.
02:54
She thought she'd meet and marry a jihadi Brad Pitt
46
174635
3492
Elle pensait qu'elle allait rencontrer et épouser un Brad Pitt djihadiste,
02:58
and go shopping in the mall all day and live happily ever after.
47
178151
3058
aller faire du shopping toute la journée et vivre heureuse.
03:02
ISIS understands what drives people,
48
182977
2824
Daech comprend ce qui motive les gens
03:05
and they carefully craft a message for each audience.
49
185825
3544
et ils élaborent soigneusement un message pour chaque public.
03:11
Just look at how many languages
50
191122
1511
Regardez en combien de langues
03:12
they translate their marketing material into.
51
192657
2273
leur matériel promotionnel est traduit.
03:15
They make pamphlets, radio shows and videos
52
195677
2661
Ils créent des brochures, des émissions de radio, des vidéos,
03:18
in not just English and Arabic,
53
198362
1973
pas seulement en anglais et en arabe
03:20
but German, Russian, French, Turkish, Kurdish,
54
200359
4767
mais en allemand, en russe, en français, en turc, en kurde,
03:25
Hebrew,
55
205150
1672
en hébreu,
03:26
Mandarin Chinese.
56
206846
1741
en mandarin.
03:29
I've even seen an ISIS-produced video in sign language.
57
209309
4192
J'ai même vu une vidéo produite par Daech en langue des signes.
03:34
Just think about that for a second:
58
214605
1884
Réfléchissez-y un instant :
03:36
ISIS took the time and made the effort
59
216513
2308
Daech a pris le temps et a fait l'effot
03:38
to ensure their message is reaching the deaf and hard of hearing.
60
218845
3804
de s'assurer que son message touche les sourds et malentendants.
03:45
It's actually not tech-savviness
61
225143
2144
Ce n'est pas leur savoir-faire technologique
03:47
that is the reason why ISIS wins hearts and minds.
62
227311
2595
qui permet de conquérir les cœurs et les esprits.
03:49
It's their insight into the prejudices, the vulnerabilities, the desires
63
229930
4163
C'est leur connaissance des préjugés, des vulnérabilités, des désirs
03:54
of the people they're trying to reach
64
234117
1774
des gens qu'ils tentent d'atteindre
03:55
that does that.
65
235915
1161
qui le leur permet.
03:57
That's why it's not enough
66
237718
1429
Il ne suffit donc pas
03:59
for the online platforms to focus on removing recruiting material.
67
239171
4239
que les plateformes en ligne
se concentrent sur le retrait des contenus de recrutement.
04:04
If we want to have a shot at building meaningful technology
68
244518
3581
Si nous voulons avoir une chance de développer une technologie utile
04:08
that's going to counter radicalization,
69
248123
1874
pour lutter contre la radicalisation,
04:10
we have to start with the human journey at its core.
70
250021
2979
nous devons commencer par le voyage humain qui est en son cœur.
04:13
So we went to Iraq
71
253884
2187
Nous sommes allés en Irak
04:16
to speak to young men who'd bought into ISIS's promise
72
256095
2831
pour parler à des jeunes hommes convaincus par la promesse de Daech
04:18
of heroism and righteousness,
73
258950
3191
d'héroïsme et de vertu,
04:22
who'd taken up arms to fight for them
74
262165
1847
qui avaient pris les armes pour eux
04:24
and then who'd defected
75
264036
1338
et qui s'étaient enfuis
04:25
after they witnessed the brutality of ISIS's rule.
76
265398
3021
après avoir été témoins de la brutalité du règne de Daech.
04:28
And I'm sitting there in this makeshift prison in the north of Iraq
77
268880
3192
Je me suis retrouvée dans cette prison de fortune dans le nord de l'Irak
04:32
with this 23-year-old who had actually trained as a suicide bomber
78
272096
4550
avec ce jeune de 23 ans qui avait été formé pour être un kamikaze
04:36
before defecting.
79
276670
1552
avant de s'enfuir.
04:39
And he says,
80
279080
1158
Il disait :
04:41
"I arrived in Syria full of hope,
81
281119
3220
« Je suis arrivé en Syrie plein d'espoir
04:44
and immediately, I had two of my prized possessions confiscated:
82
284363
4365
et immédiatement, deux de mes biens les plus précieux ont été confisqués :
04:48
my passport and my mobile phone."
83
288752
2933
mon passeport et mon téléphone portable. »
04:52
The symbols of his physical and digital liberty
84
292140
2406
Les symboles de sa liberté physique et numérique
04:54
were taken away from him on arrival.
85
294570
1760
lui ont été ôtés à son arrivée.
04:57
And then this is the way he described that moment of loss to me.
86
297248
3510
Voici comment il m'a décrit ce moment de perte.
05:01
He said,
87
301356
1586
Il a dit :
05:02
"You know in 'Tom and Jerry,'
88
302966
2329
« Vous savez, dans « Tom et Jerry »,
05:06
when Jerry wants to escape, and then Tom locks the door
89
306192
3103
quand Jerry veut s'échapper et que Tom ferme la porte à clé
05:09
and swallows the key
90
309319
1156
et avale la clé
05:10
and you see it bulging out of his throat as it travels down?"
91
310499
3551
et vous la voyez passer dans sa gorge ? »
05:14
And of course, I really could see the image that he was describing,
92
314446
3153
Bien sûr, je pouvais voir l'image qu'il décrivait
05:17
and I really did connect with the feeling that he was trying to convey,
93
317623
3661
et l'associer au sentiment qu'il essayait de communiquer,
05:21
which was one of doom,
94
321308
2021
le sentiment d'être condamné,
05:23
when you know there's no way out.
95
323353
1789
quand vous savez qu'il n'y a pas d'issue.
05:26
And I was wondering:
96
326551
1289
Je me suis demandé :
05:28
What, if anything, could have changed his mind
97
328644
2682
qu'est-ce qui aurait pu lui faire changer d'avis
05:31
the day that he left home?
98
331350
1240
le jour où il est parti ?
05:32
So I asked,
99
332614
1250
J'ai demandé :
05:33
"If you knew everything that you know now
100
333888
3178
« Si vous saviez tout ce que vous savez maintenant
05:37
about the suffering and the corruption, the brutality --
101
337090
3051
sur la souffrance, la corruption, la brutalité,
05:40
that day you left home,
102
340165
1415
le jour où vous êtes parti, seriez-vous parti ? »
05:41
would you still have gone?"
103
341604
1679
05:43
And he said, "Yes."
104
343786
1711
Il a dit : « Oui. »
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
345846
2282
Et j'ai pensé : « Merde, il a dit « oui ». »
05:48
And then he said,
106
348694
1219
Puis il a dit :
05:49
"At that point, I was so brainwashed,
107
349937
3001
« À ce moment-là, j'avais subi un tel lavage de cerveau,
05:52
I wasn't taking in any contradictory information.
108
352962
3244
je n'assimilais plus aucune information contradictoire.
05:56
I couldn't have been swayed."
109
356744
1555
Je n'aurais pas pu être influencé.
05:59
"Well, what if you knew everything that you know now
110
359235
2527
- Et si vous aviez su tout ce que vous savez maintenant
06:01
six months before the day that you left?"
111
361786
2098
six mois avant le jour où vous êtes parti ?
06:05
"At that point, I think it probably would have changed my mind."
112
365345
3131
- A ce moment-là, je pense que j'aurais probablement changé d'avis. »
06:10
Radicalization isn't this yes-or-no choice.
113
370138
3397
La radicalisation n'est pas un choix simple entre oui et non.
06:14
It's a process, during which people have questions --
114
374007
2977
C'est un processus, durant lequel les gens ont des questions
06:17
about ideology, religion, the living conditions.
115
377008
3776
au sujet de l'idéologie, la religion, les conditions de vie.
06:20
And they're coming online for answers,
116
380808
2766
Et ils cherchent les réponses en ligne,
06:23
which is an opportunity to reach them.
117
383598
1917
ce qui offre une opportunité de les atteindre.
06:25
And there are videos online from people who have answers --
118
385905
3014
Il y a des vidéos en ligne venant de gens ayant des réponses :
06:28
defectors, for example, telling the story of their journey
119
388943
2876
des transfuges, par exemple, racontant l'histoire de leur voyage
06:31
into and out of violence;
120
391843
1583
vers la violence et leur retour ;
06:33
stories like the one from that man I met in the Iraqi prison.
121
393450
3487
des histoires comme celle d'un homme rencontré dans une prison irakienne.
06:37
There are locals who've uploaded cell phone footage
122
397914
2590
Ce sont des locaux qui ont publié des vidéos
06:40
of what life is really like in the caliphate under ISIS's rule.
123
400528
3503
de ce qu'est vraiment la vie dans le califat sous le règne de Daech.
06:44
There are clerics who are sharing peaceful interpretations of Islam.
124
404055
3735
Il y a des religieux qui partagent des interprétations pacifiques de l'islam.
06:48
But you know what?
125
408830
1150
Mais vous savez quoi ?
06:50
These people don't generally have the marketing prowess of ISIS.
126
410004
3020
Ces gens n'ont en général pas le talent que Daech a pour le marketing.
06:54
They risk their lives to speak up and confront terrorist propaganda,
127
414049
4532
Ils risquent leur vie pour s'exprimer et s'opposer à la propagande terroriste
06:58
and then they tragically don't reach the people
128
418605
2211
et, tragiquement, ils ne touchent pas les gens
07:00
who most need to hear from them.
129
420840
1682
qui ont le plus besoin de les entendre.
07:03
And we wanted to see if technology could change that.
130
423173
2612
Nous voulions voir si la technologie pouvait changer cela.
07:06
So in 2016, we partnered with Moonshot CVE
131
426205
4183
En 2016, nous avons établi un partenariat avec Moonshot CVE
07:10
to pilot a new approach to countering radicalization
132
430412
3180
afin d'expérimenter une approche pour lutter contre la radicalisation
07:13
called the "Redirect Method."
133
433616
1780
appelée « Méthode de Redirection ».
07:16
It uses the power of online advertising
134
436453
3012
Elle utilise le pouvoir de la publicité en ligne
07:19
to bridge the gap between those susceptible to ISIS's messaging
135
439489
4514
pour rapprocher ceux qui sont réceptifs au message de Daech
07:24
and those credible voices that are debunking that messaging.
136
444027
3760
et ces voix crédibles qui réfutent ce message.
07:28
And it works like this:
137
448633
1150
Cela fonctionne ainsi :
07:29
someone looking for extremist material --
138
449807
1961
quelqu'un cherchant du contenu extrémiste,
07:31
say they search for "How do I join ISIS?" --
139
451792
2990
cherchant, disons, « Comment rejoindre Daech ? »,
07:34
will see an ad appear
140
454806
2476
verra apparaître une publicité
07:37
that invites them to watch a YouTube video of a cleric, of a defector --
141
457306
4882
qui l'invite à regarder une vidéo YouTube d'un religieux, d'un transfuge ;
07:42
someone who has an authentic answer.
142
462212
2310
quelqu'un qui a une réponse authentique.
07:44
And that targeting is based not on a profile of who they are,
143
464546
3623
Ce ciblage est basé, non pas sur un profil de leur identité,
07:48
but of determining something that's directly relevant
144
468193
3053
mais sur la détermination d'une chose pertinente
07:51
to their query or question.
145
471270
1708
pour leur interrogation ou question.
07:54
During our eight-week pilot in English and Arabic,
146
474122
2842
Durant notre pilote de huit semaines en anglais et en arabe,
07:56
we reached over 300,000 people
147
476988
3279
nous avons touché plus de 300 000 personnes
08:00
who had expressed an interest in or sympathy towards a jihadi group.
148
480291
5545
ayant exprimé de l'intérêt ou de la sympathie
pour un groupe djihadiste.
08:06
These people were now watching videos
149
486626
2264
Ces gens regardent maintenant des vidéos
08:08
that could prevent them from making devastating choices.
150
488914
3340
qui pourraient les empêcher de prendre des décisions dévastatrices.
08:13
And because violent extremism isn't confined to any one language,
151
493405
3727
Puisque l'extrémisme violent n'est pas limité à une langue en particulier,
08:17
religion or ideology,
152
497156
1804
une religion ou une idéologie,
08:18
the Redirect Method is now being deployed globally
153
498984
3501
la méthode de redirection est en cours de déploiement à l'échelle mondiale
08:22
to protect people being courted online by violent ideologues,
154
502509
3804
afin de protéger les gens courtisés en ligne par des idéologues violents,
08:26
whether they're Islamists, white supremacists
155
506337
2596
que ce soient des islamistes, des suprémacistes blancs
08:28
or other violent extremists,
156
508957
2103
ou d'autres extrémistes violents,
08:31
with the goal of giving them the chance to hear from someone
157
511084
2873
avec l'objectif de leur donner une chance d'entendre quelqu'un
08:33
on the other side of that journey;
158
513981
2091
ayant suivi ce chemin ;
08:36
to give them the chance to choose a different path.
159
516096
2839
leur donner une chance de choisir un autre chemin.
08:40
It turns out that often the bad guys are good at exploiting the internet,
160
520749
5980
Il s'avère que souvent les méchants savent bien exploiter internet,
08:46
not because they're some kind of technological geniuses,
161
526753
3744
pas parce qu'ils sont des génies de la technologie,
08:50
but because they understand what makes people tick.
162
530521
2985
mais parce qu'ils comprennent ce qui fait réagir les gens.
08:54
I want to give you a second example:
163
534855
2369
Je veux vous donner un second exemple :
08:58
online harassment.
164
538019
1391
le cyber-harcèlement.
09:00
Online harassers also work to figure out what will resonate
165
540629
3363
Les cyber-harceleurs cherchent aussi ce qui va faire écho
09:04
with another human being.
166
544016
1615
pour un autre être humain.
09:05
But not to recruit them like ISIS does,
167
545655
3110
Pas pour les recruter comme le fait Daech,
09:08
but to cause them pain.
168
548789
1275
mais pour les blesser.
09:11
Imagine this:
169
551259
1342
Imaginez :
09:13
you're a woman,
170
553347
1659
vous êtes une femme,
09:15
you're married,
171
555030
1413
vous êtes mariée,
09:16
you have a kid.
172
556467
1154
vous avez un enfant.
09:18
You post something on social media,
173
558834
1784
Vous postez sur les réseaux sociaux
09:20
and in a reply, you're told that you'll be raped,
174
560642
2886
et dans une réponse, on vous dit que vous serez violée,
09:24
that your son will be watching,
175
564577
1560
que votre fils regardera,
09:26
details of when and where.
176
566825
1856
avec des détails sur quand et où.
09:29
In fact, your home address is put online for everyone to see.
177
569148
3143
En fait, votre adresse est mise en ligne publiquement.
09:33
That feels like a pretty real threat.
178
573580
2007
Cela semble être une menace plutôt réelle.
09:37
Do you think you'd go home?
179
577113
1656
Pensez-vous que vous rentreriez chez vous ?
09:39
Do you think you'd continue doing the thing that you were doing?
180
579999
3048
Pensez-vous que vous continueriez à faire ce que vous faisiez ?
09:43
Would you continue doing that thing that's irritating your attacker?
181
583071
3220
Continueriez-vous à faire cette chose qui irrite votre agresseur ?
09:48
Online abuse has been this perverse art
182
588016
3096
Le cyber-harcèlement est l'art pervers
09:51
of figuring out what makes people angry,
183
591136
3468
de découvrir ce qui met les gens en colère,
09:54
what makes people afraid,
184
594628
2132
ce qui les effraie,
09:56
what makes people insecure,
185
596784
1641
ce qui les dérange,
09:58
and then pushing those pressure points until they're silenced.
186
598449
3067
et puis d'appuyer sur ces points de pression jusqu'à les faire taire.
10:02
When online harassment goes unchecked,
187
602333
2304
Quand les cyber-harceleurs restent impunis,
10:04
free speech is stifled.
188
604661
1667
la liberté de parole est étouffée.
10:07
And even the people hosting the conversation
189
607196
2127
Même les gens qui animent la conversation
10:09
throw up their arms and call it quits,
190
609347
1834
lèvent les bras au ciel et jettent l'éponge,
10:11
closing their comment sections and their forums altogether.
191
611205
2957
désactivant complètement les commentaires et les forums.
10:14
That means we're actually losing spaces online
192
614186
2849
Cela signifie que nous perdons des espaces en ligne
10:17
to meet and exchange ideas.
193
617059
1987
où se rencontrer et échanger des idées.
10:19
And where online spaces remain,
194
619939
2163
Là où les espaces en ligne demeurent,
10:22
we descend into echo chambers with people who think just like us.
195
622126
4470
nous descendons dans des chambres d'écho avec des gens qui pensent comme nous.
10:27
But that enables the spread of disinformation;
196
627688
2499
Mais cela permet la prolifération de la désinformation ;
10:30
that facilitates polarization.
197
630211
2184
cela facilite la polarisation.
10:34
What if technology instead could enable empathy at scale?
198
634508
5269
Et si, au lieu de cela, la technologie favorisait l'empathie à grande échelle ?
10:40
This was the question that motivated our partnership
199
640451
2486
C'était la question qui a motivé notre partenariat
10:42
with Google's Counter Abuse team,
200
642961
1819
avec l'équipe de lutte contre les abus de Google, Wikipédia
10:44
Wikipedia
201
644804
1178
10:46
and newspapers like the New York Times.
202
646006
1934
et des journaux tels que le New York Times.
10:47
We wanted to see if we could build machine-learning models
203
647964
2876
Nous voulions élaborer des modèles d'apprentissage automatique
10:50
that could understand the emotional impact of language.
204
650864
3606
qui pouvaient comprendre l'incidence émotionnelle du langage.
10:55
Could we predict which comments were likely to make someone else leave
205
655062
3610
Pouvions-nous prévoir quels commentaires allaient pousser quelqu'un à quitter
10:58
the online conversation?
206
658696
1374
la conversation en ligne ?
11:00
And that's no mean feat.
207
660515
3887
Ce n'est pas une mince affaire.
11:04
That's no trivial accomplishment
208
664426
1566
Ce n'est pas un exploit trivial
11:06
for AI to be able to do something like that.
209
666016
2563
d'avoir une IA capable de faire une telle chose.
11:08
I mean, just consider these two examples of messages
210
668603
3729
Considérez ces deux exemples de messages
11:12
that could have been sent to me last week.
211
672356
2224
qu'on aurait pu m'envoyer la semaine dernière.
11:15
"Break a leg at TED!"
212
675517
1879
« Merde pour TED ! »
11:17
... and
213
677420
1164
et
11:18
"I'll break your legs at TED."
214
678608
2126
« Tu seras une merde à TED ».
11:20
(Laughter)
215
680758
1246
(Rires)
11:22
You are human,
216
682028
1513
Vous êtes humains,
11:23
that's why that's an obvious difference to you,
217
683565
2210
c'est pourquoi la différence vous paraît évidente
11:25
even though the words are pretty much the same.
218
685799
2224
même si les mots sont plus ou moins les mêmes.
11:28
But for AI, it takes some training to teach the models
219
688047
3079
Pour une IA, il faut un entraînement pour apprendre aux modèles
11:31
to recognize that difference.
220
691150
1571
à reconnaître cette différence.
11:32
The beauty of building AI that can tell the difference
221
692745
3245
La beauté de la conception d'une IA qui peut faire la différence
11:36
is that AI can then scale to the size of the online toxicity phenomenon,
222
696014
5050
est que cette IA peut s'étendre à l'échelle
du phénomène de toxicité en ligne
11:41
and that was our goal in building our technology called Perspective.
223
701088
3287
et c'était notre objectif
lors de l'élaboration de notre technologie, Perspective.
11:45
With the help of Perspective,
224
705056
1427
Avec l'aide de Perspective,
11:46
the New York Times, for example,
225
706507
1583
le New York Times, par exemple,
11:48
has increased spaces online for conversation.
226
708114
2487
a accru l'espace de conversation en ligne.
11:51
Before our collaboration,
227
711005
1310
Avant notre collaboration,
11:52
they only had comments enabled on just 10 percent of their articles.
228
712339
4305
les commentaires n'étaient activés que sur 10% de leurs articles.
11:57
With the help of machine learning,
229
717495
1644
Avec notre apprentissage automatique,
11:59
they have that number up to 30 percent.
230
719163
1897
ils ont augmenté ce nombre à 30%.
12:01
So they've tripled it,
231
721084
1156
Ils l'ont triplé
12:02
and we're still just getting started.
232
722264
1917
et ce n'est que le début.
12:04
But this is about way more than just making moderators more efficient.
233
724872
3461
Il est question de bien plus que de rendre les modérateurs plus efficaces.
12:10
Right now I can see you,
234
730076
1850
Actuellement, je peux vous voir
12:11
and I can gauge how what I'm saying is landing with you.
235
731950
3294
et je peux évaluer comment vous recevez ce que je dis.
12:16
You don't have that opportunity online.
236
736370
1879
Vous n'avez pas cette opportunité en ligne.
12:18
Imagine if machine learning could give commenters,
237
738558
3635
Imaginez si l'apprentissage automatique pouvait offrir aux commentateurs,
12:22
as they're typing,
238
742217
1162
pendant qu'ils tapent,
12:23
real-time feedback about how their words might land,
239
743403
3347
un retour en temps réel quant à comment leurs mots pourraient être pris,
12:27
just like facial expressions do in a face-to-face conversation.
240
747609
3024
comme le font les expressions faciales lors d'une conversation en face à face.
12:32
Machine learning isn't perfect,
241
752926
1842
L'apprentissage automatique n'est pas parfait
12:34
and it still makes plenty of mistakes.
242
754792
2394
et fait encore plein d'erreurs.
12:37
But if we can build technology
243
757210
1557
Mais en créant une technologie
12:38
that understands the emotional impact of language,
244
758791
3293
qui comprend l'incidence émotionnelle du langage,
12:42
we can build empathy.
245
762108
1460
nous développons l'empathie.
12:43
That means that we can have dialogue between people
246
763592
2425
Nous pouvons avoir un dialogue entre des personnes
12:46
with different politics,
247
766041
1816
ayant différentes opinions politiques,
12:47
different worldviews,
248
767881
1216
conceptions du monde et valeurs.
12:49
different values.
249
769121
1246
12:51
And we can reinvigorate the spaces online that most of us have given up on.
250
771359
4775
Nous pouvons relancer les espaces en ligne que beaucoup d'entre nous ont délaissés.
12:57
When people use technology to exploit and harm others,
251
777857
3785
Quand les gens utilisent la technologie pour exploiter et blesser les autres,
13:01
they're preying on our human fears and vulnerabilities.
252
781666
3642
ils s'attaquent à nos peurs et vulnérabilités humaines.
13:06
If we ever thought that we could build an internet
253
786461
3508
Si nous pensions que nous pouvions développer un internet
13:09
insulated from the dark side of humanity,
254
789993
2578
isolé du côté obscur de l'humanité,
13:12
we were wrong.
255
792595
1184
nous avions tort.
13:14
If we want today to build technology
256
794361
2270
Si nous voulons aujourd'hui créer des technologies
13:16
that can overcome the challenges that we face,
257
796655
3127
pouvant surmonter les défis auxquels nous faisons face,
13:19
we have to throw our entire selves into understanding the issues
258
799806
4043
nous devons nous lancer complètement dans la compréhension des problèmes
13:23
and into building solutions
259
803873
1893
et l'élaboration de solutions
13:25
that are as human as the problems they aim to solve.
260
805790
3782
qui sont aussi humaines que les problèmes qu'elles ont l'ambition de résoudre.
13:30
Let's make that happen.
261
810071
1513
Mettons-nous au travail !
13:31
Thank you.
262
811924
1150
Merci.
13:33
(Applause)
263
813098
3277
(Applaudissements)
À propos de ce site Web

Ce site vous présentera des vidéos YouTube utiles pour apprendre l'anglais. Vous verrez des leçons d'anglais dispensées par des professeurs de premier ordre du monde entier. Double-cliquez sur les sous-titres anglais affichés sur chaque page de vidéo pour lire la vidéo à partir de là. Les sous-titres défilent en synchronisation avec la lecture de la vidéo. Si vous avez des commentaires ou des demandes, veuillez nous contacter en utilisant ce formulaire de contact.

https://forms.gle/WvT1wiN1qDtmnspy7