Del Harvey: The strangeness of scale at Twitter

Del Harvey: L'étrangeté d'échelle chez Twitter

Traducteur: Céline Hérion Relecteur: Nhu PHAM

My job at Twitter

Mon travail chez Twitter ?

is to ensure user trust,

Donner confiance aux utilisateurs,

protect user rights and keep users safe,

protéger leurs droits et garantir leur sécurité.

both from each other

Les protéger des autres, mais parfois aussi d'eux-mêmes.

and, at times, from themselves.

Let's talk about what scale looks like at Twitter.

Parlons « proportions » et voyons à quelle échelle se situe Twitter.

Back in January 2009,

En janvier 2009,

we saw more than two million new tweets each day

plus de deux millions de tweets passaient chaque jour

on the platform.

par la plateforme de partage.

January 2014, more than 500 million.

En janvier 2014 : plus de 500 millions.

We were seeing two million tweets

Ce qui fait environ deux millions de tweets

in less than six minutes.

toutes les 6 minutes.

That's a 24,900-percent increase.

Ça correspond à une augmentation de 24 900%.

Now, the vast majority of activity on Twitter

L'essentiel de l'activité sur Twitter

puts no one in harm's way.

est totalement inoffensive. Il n'y a aucun facteur de risque.

There's no risk involved.

My job is to root out and prevent activity that might.

Ma tâche consiste à éliminer ou prévenir toute activité potentiellement nuisible.

Sounds straightforward, right?

Ça a l'air évident, non ?

You might even think it'd be easy,

Vous pourriez même penser que c'est facile, puisque

given that I just said the vast majority

of activity on Twitter puts no one in harm's way.

la vaste majorité de l'activité sur Twitter ne met personne en danger.

Why spend so much time

Pourquoi passer tant de temps

searching for potential calamities

à chercher des catastrophes potentielles

in innocuous activities?

au beau milieu d'activités anodines ?

Given the scale that Twitter is at,

A l'échelle de Twitter,

a one-in-a-million chance happens

une probabilité d'une chance sur un million,

500 times a day.

ça correspond à 500 événements par jour.

It's the same for other companies

D'autres entreprises aussi fonctionnent à cette échelle.

dealing at this sort of scale.

For us, edge cases,

Pour nous, les cas limites,

those rare situations that are unlikely to occur,

ces situations qui ont peu de chances de se produire,

are more like norms.

c'est la norme.

Say 99.999 percent of tweets

Disons que 99,999 % des tweets

pose no risk to anyone.

ne présentent aucun risque, aucune menace.

There's no threat involved.

Maybe people are documenting travel landmarks

Les gens illustrent leurs voyages, comme par exemple

ce récif australien en forme de cœur

like Australia's Heart Reef,

or tweeting about a concert they're attending,

ou ils tweetent à propos d'un concert auquel ils assistent

or sharing pictures of cute baby animals.

ou ils partagent des photos d'adorables bébés animaux.

After you take out that 99.999 percent,

Si l'on écarte ces 99,999%,

that tiny percentage of tweets remaining

le minuscule pourcentage de tweets restant

works out to roughly

correspond environ à

150,000 per month.

150 000 messages par mois.

The sheer scale of what we're dealing with

L'envergure de la chose

makes for a challenge.

en fait un vrai défi de gestion.

You know what else makes my role

Vous savez ce qui rend mon travail encore plus difficile ?

particularly challenging?

People do weird things.

Les gens font des choses vraiment bizarres.

(Rires)

(Laughter)

And I have to figure out what they're doing,

Je dois comprendre ce qu'ils font et pourquoi,

why, and whether or not there's risk involved,

et évaluer la présence de risques.

often without much in terms of context

Souvent en dehors de tout contexte

or background.

ou de la moindre information...

I'm going to show you some examples

Voici quelques exemples

that I've run into during my time at Twitter --

auxquels j'ai été confrontée à Twitter

these are all real examples —

- des exemples véridiques -

of situations that at first seemed cut and dried,

des situations qui avaient l'air claires,

but the truth of the matter was something

mais qui en fin de compte,

altogether different.

ne l'étaient pas tellement.

The details have been changed

Certains détails ont été modifiés

to protect the innocent

pour garantir l'anonymat des innocents et des coupables.

and sometimes the guilty.

We'll start off easy.

Commençons doucement.

["Yo bitch"]

[« Yo bitch »]

If you saw a Tweet that only said this,

En voyant un tweet qui ne dit que ça,

you might think to yourself,

on se dit : « Ça va trop loin. »

"That looks like abuse."

After all, why would you want to receive the message,

Après tout, qui voudrait recevoir un

"Yo, bitch."

« Yo, bitch. »

Now, I try to stay relatively hip

Mais j'essaie de me tenir au courant

to the latest trends and memes,

des dernières tendances et expressions virales

so I knew that "yo, bitch"

donc je sais que « yo, bitch »

was also often a common greeting between friends,

est une façon courante de saluer ses amis,

as well as being a popular "Breaking Bad" reference.

mais aussi une référence à la série « Breaking Bad ».

I will admit that I did not expect

Je dois admettre que je ne m'attendais pas

to encounter a fourth use case.

à tomber sur une 4ème utilisation.

It turns out it is also used on Twitter

Il se trouve que les gens l'utilisent aussi sur Twitter

when people are role-playing as dogs.

quand ils se prennent pour des chiens.

(Laughter)

(Rires)

And in fact, in that case,

Et en fait, dans ce cas-là,

it's not only not abusive,

il n'y a rien de mal,

it's technically just an accurate greeting.

techniquement, c'est même tout à fait approprié !

(Laughter)

(Rires)

So okay, determining whether or not

Donc, déterminer le caractère tendancieux

something is abusive without context,

de quelque chose sans contexte,

definitely hard.

n'est pas une mince affaire.

Let's look at spam.

Quant au courrier indésirable,

Here's an example of an account engaged

voici l'exemple d'un compte

in classic spammer behavior,

pratiquant ce type d'envois :

sending the exact same message

il envoie exactement le même message

to thousands of people.

à des milliers de personnes.

While this is a mockup I put together using my account,

Ici, c'est un faux, créé à partir de mon compte,

we see accounts doing this all the time.

mais on en voit tous les jours.

Seems pretty straightforward.

Plutôt clair, non ?

We should just automatically suspend accounts

On devrait automatiquement suspendre

engaging in this kind of behavior.

tous les comptes qui adoptent ce type de comportement.

Turns out there's some exceptions to that rule.

Mais il y a des exceptions à la règle.

Turns out that that message could also be a notification

Notamment si vous êtes abonné à un service

qui vous informe du passage

you signed up for that the International Space Station is passing overhead

de la Station Spatiale Internationale

because you wanted to go outside

et qui vous avertit quand sortir

and see if you could see it.

pour tenter de l'apercevoir.

You're not going to get that chance

Impossible, si on suspend le compte

if we mistakenly suspend the account

en pensant à tort qu'il s'agit d'un message indésirable.

thinking it's spam.

Imaginons pire.

Okay. Let's make the stakes higher.

Back to my account,

Revenons-en à mon compte

again exhibiting classic behavior.

et illustrons un comportement classique.

This time it's sending the same message and link.

Cette fois, c'est le même message, mais avec un lien.

This is often indicative of something called phishing,

C'est souvent un bon indicateur de « hameçonnage » :

somebody trying to steal another person's account information

quelqu'un essaie d'usurper l'identité d'un autre compte

by directing them to another website.

en les redirigeant vers un autre site.

That's pretty clearly not a good thing.

Ce n'est clairement pas une bonne chose.

We want to, and do, suspend accounts

Nous tenons à suspendre les comptes

engaging in that kind of behavior.

qui font ce genre de choses et nous le faisons.

So why are the stakes higher for this?

Pourquoi les enjeux sont-ils plus grands dans ce cas-ci ?

Well, this could also be a bystander at a rally

Car il pourrait s'agir d'un spectateur

who managed to record a video

qui a réussi à filmer

of a police officer beating a non-violent protester

un policier frappant un manifestant pacifique

who's trying to let the world know what's happening.

et qui essaie juste d'en informer le monde.

We don't want to gamble

On ne veut pas prendre le risque

on potentially silencing that crucial speech

de réduire au silence ce témoignage crucial

by classifying it as spam and suspending it.

en l'identifiant comme indésirable et en le suspendant.

That means we evaluate hundreds of parameters

Nous évaluons des centaines de paramètres

when looking at account behaviors,

liés à l'activité des comptes

and even then, we can still get it wrong

mais nous pouvons encore nous tromper

and have to reevaluate.

et nous devons tout réévaluer.

Now, given the sorts of challenges I'm up against,

Vu les défis auxquels je suis confrontée,

it's crucial that I not only predict

je dois absolument pouvoir prédire l'impensable

but also design protections for the unexpected.

et concevoir les protections adaptées à l'inattendu.

And that's not just an issue for me,

Et ce n'est pas qu'un problème pour moi

or for Twitter, it's an issue for you.

ou pour Twitter, c'est aussi le vôtre.

It's an issue for anybody who's building or creating

C'est un problème pour quiconque

something that you think is going to be amazing

créant quelque chose qui paraît génial

and will let people do awesome things.

et permettant de faire des choses formidables.

So what do I do?

Et moi, qu'est-ce que je fais ?

I pause and I think,

Je prends le temps de penser.

how could all of this

Je me demande : comment tout ça

go horribly wrong?

pourrait-il complètement dégénérer ?

I visualize catastrophe.

Je visualise la catastrophe.

And that's hard. There's a sort of

Et c'est difficile.

inherent cognitive dissonance in doing that,

Il y a comme quelque chose qui cloche quand on fait ça.

like when you're writing your wedding vows

C'est un peu comme si vous écriviez

at the same time as your prenuptial agreement.

à la fois vos vœux et votre contrat de mariage.

(Laughter)

(Rires)

But you still have to do it,

Mais vous devez quand même le faire,

particularly if you're marrying 500 million tweets per day.

en particulier si vous épousez 500 millions de tweets par jour.

What do I mean by "visualize catastrophe?"

Qu'est-ce que j'entends par « visualiser la catastrophe » ?

I try to think of how something as

J'essaie de penser comment quelque chose

benign and innocuous as a picture of a cat

d'aussi bénin et inoffensif que la photo d'un chat

could lead to death,

pourrait être mortel

and what to do to prevent that.

et à ce qu'il faut faire pour l'éviter.

Which happens to be my next example.

C'est justement mon prochain exemple.

This is my cat, Eli.

Voici mon chat, Eli.

We wanted to give users the ability

Nous voulions permettre aux utilisateurs

to add photos to their tweets.

d'ajouter des photos à leurs tweets.

A picture is worth a thousand words.

Une image vaut mille mots.

You only get 140 characters.

Et vous n'avez droit qu'à 140 caractères.

You add a photo to your tweet,

Un tweet avec une photo

look at how much more content you've got now.

ça augmente considérablement votre création de contenu !

There's all sorts of great things you can do

On peut faire plein de choses superbes

by adding a photo to a tweet.

en ajoutant une photo à un tweet.

My job isn't to think of those.

Mon travail, ce n'est pas de penser à ça,

It's to think of what could go wrong.

mais à ce qui pourrait déraper.

How could this picture

Comment cette photo

lead to my death?

pourrait-elle conduire à ma mort ?

Well, here's one possibility.

Voici une possibilité.

There's more in that picture than just a cat.

Cette photo, ce n'est pas juste un chat.

There's geodata.

Elle contient des données géographiques.

When you take a picture with your smartphone

Une photo prise avec votre téléphone

or digital camera,

ou votre appareil photo

there's a lot of additional information

contient beaucoup plus d'informations qu'une image.

saved along in that image.

In fact, this image also contains

En fait, cette photo contient aussi

the equivalent of this,

l'équivalent de ceci.

more specifically, this.

Ou plus précisément, ceci.

Sure, it's not likely that someone's going to try

Il est fort peu probable qu'on tente

to track me down and do me harm

de me retrouver pour me faire du mal

based upon image data associated

sur la base de données

with a picture I took of my cat,

liées à cette photo de mon chat,

but I start by assuming the worst will happen.

mais je considère toujours que le pire va se produire.

That's why, when we launched photos on Twitter,

Ainsi, en autorisant les photos sur Twitter,

we made the decision to strip that geodata out.

nous avons décidé d'en effacer toute donnée géographique.

(Applause)

(Applaudissements)

If I start by assuming the worst

Si je me prépare au pire

and work backwards,

et que je travaille à reculons,

I can make sure that the protections we build

je peux m'assurer que les protections mises en place

work for both expected

fonctionnent dans tous les cas :

and unexpected use cases.

ceux qu'on avait prévus ou non.

Given that I spend my days and nights

Vu que, jour et nuit, je passe mon temps

imagining the worst that could happen,

à imaginer le pire,

it wouldn't be surprising if my worldview was gloomy.

je pourrais tout à fait

avoir une sombre vision du monde.

(Laughter)

(Rires)

It's not.

Mais ce n'est pas le cas.

The vast majority of interactions I see --

La grande majorité des interactions que je vois

and I see a lot, believe me -- are positive,

- et j'en vois beaucoup, croyez-moi - est positive :

people reaching out to help

des gens demandent de l'aide,

or to connect or share information with each other.

se connectent ou partagent de l'information.

It's just that for those of us dealing with scale,

Mais quiconque travaille à cette échelle

for those of us tasked with keeping people safe,

ou doit assurer la sécurité des gens

we have to assume the worst will happen,

est obligé de se préparer au pire

because for us, a one-in-a-million chance

car pour nous, une chance sur un million

is pretty good odds.

c'est une sacré grande probabilité.

Thank you.

Merci.

(Applause)

(Applaudissements)