Del Harvey: The strangeness of scale at Twitter

Traduttore: Guido Guidi Revisore: Anna Cristiana Minoli

My job at Twitter

Il mio compito in Twitter

is to ensure user trust,

è assicurarmi la fiducia degli utenti,

protect user rights and keep users safe,

proteggere i loro diritti e proteggerli,

both from each other

sia uno dall'altro

and, at times, from themselves.

che, a volte, da loro stessi.

Let's talk about what scale looks like at Twitter.

Ora parliamo dei numeri in gioco su Twitter.

Back in January 2009,

Nel gennaio del 2009,

we saw more than two million new tweets each day

abbiamo visto più di due milioni di nuovi messaggi al giorno

on the platform.

sulla piattaforma.

January 2014, more than 500 million.

Gennaio 2014, più di 500 milioni.

We were seeing two million tweets

Vedevamo due milioni di messaggi

in less than six minutes.

in meno di sei minuti.

That's a 24,900-percent increase.

Un incremento del 24 900 percento.

Now, the vast majority of activity on Twitter

Ora, la stragrande maggioranza dell'attività su Twitter

puts no one in harm's way.

non mette nessuno a rischio.

There's no risk involved.

Non c'è alcun rischio.

My job is to root out and prevent activity that might.

Il mio lavoro è stanare e prevenire ogni attività potenzialmente dannosa.

Sounds straightforward, right?

Sembra semplice, vero?

You might even think it'd be easy,

Potreste persino pensare che sia facile,

given that I just said the vast majority

considerando che ho appena detto che la stragrande maggioranza

of activity on Twitter puts no one in harm's way.

dell'attività su Twitter non mette nessuno a rischio.

Why spend so much time

Perché passare così tanto tempo

searching for potential calamities

alla ricerca di possibili calamità

in innocuous activities?

in attività innocue?

Given the scale that Twitter is at,

Considerando la quantità di messaggi a cui si è arrivati su Twitter,

a one-in-a-million chance happens

un evento con una probabilità di uno su un milione avviene

500 times a day.

500 volte al giorno.

It's the same for other companies

La stessa cosa avviene per altre aziende

dealing at this sort of scale.

che operano con questi numeri.

For us, edge cases,

Da noi, i casi limite,

those rare situations that are unlikely to occur,

ovvero quelle rare situazioni che difficilmente accadono,

are more like norms.

sono la norma.

Say 99.999 percent of tweets

Supponiamo che il 99,999 percento dei messaggi

pose no risk to anyone.

non ponga alcun rischio per nessuno.

There's no threat involved.

Non c'è alcun rischio.

Maybe people are documenting travel landmarks

Magari delle persone stanno riportando le tappe di un viaggio

like Australia's Heart Reef,

come l'Heart Reef in Australia,

or tweeting about a concert they're attending,

o magari scrivono di un concerto a cui stanno assistendo

or sharing pictures of cute baby animals.

o condividono foto di cuccioli carini.

After you take out that 99.999 percent,

Dopo aver tolto questo 99,999 percento,

that tiny percentage of tweets remaining

quella minuscola percentuale di messaggi rimanenti

works out to roughly

equivale a circa

150,000 per month.

150 000 messaggi al mese.

The sheer scale of what we're dealing with

La quantità di messaggi con cui abbiamo a che fare

makes for a challenge.

è in sé una sfida.

You know what else makes my role

Sapete cos'altro rende il mio lavoro

particularly challenging?

particolarmente impegnativo?

People do weird things.

Le persone fanno cose strane.

(Laughter)

(Risate)

And I have to figure out what they're doing,

Ed io devo capire cosa stanno facendo e perché

why, and whether or not there's risk involved,

e pure se ci sia o no un rischio connesso

often without much in terms of context

spesso conoscendo poco del contesto

or background.

o del retroscena.

I'm going to show you some examples

Ora vi mostrerò degli esempi

that I've run into during my time at Twitter --

che ho incontrato durante il mio lavoro per Twitter,

these are all real examples —

questi sono tutti esempi reali

of situations that at first seemed cut and dried,

di situazioni che inizialmente sembravano ovvie,

but the truth of the matter was something

ma che in realtà erano qualcosa

altogether different.

di completamente diverso.

The details have been changed

I dettagli sono stati cambiati

to protect the innocent

in modo tale da proteggere l'innocente

and sometimes the guilty.

ed a volte anche il colpevole.

We'll start off easy.

Cominciamo con qualcosa di semplice.

["Yo bitch"]

["Uè cagna"]

If you saw a Tweet that only said this,

Se qualcuno vedesse un messaggio con scritto solo questo,

you might think to yourself,

potrebbe pensare tra sé e sé,

"That looks like abuse."

"Sembra un insulto."

After all, why would you want to receive the message,

Dopo tutto, perché mai qualcuno dovrebbe volere ricevere un messaggio come:

"Yo, bitch."

"Uè,cagna."

Now, I try to stay relatively hip

Ora, io provo a stare dietro

to the latest trends and memes,

alle ultime mode ed ai post ironici,

so I knew that "yo, bitch"

per cui sapevo che "uè,cagna"

was also often a common greeting between friends,

veniva anche usato spesso come saluto tra amici,

as well as being a popular "Breaking Bad" reference.

oltre ad essere una citazione famosa di "Breaking Bad".

I will admit that I did not expect

Ammetto che non mi sarei aspettata

to encounter a fourth use case.

di incontrare un quarto uso.

It turns out it is also used on Twitter

Si scopre che si usa anche su Twitter

when people are role-playing as dogs.

quando le persone impersonano dei cani.

(Laughter)

(Risate)

And in fact, in that case,

Ed infatti, in quel caso,

it's not only not abusive,

non solo non è offensivo,

it's technically just an accurate greeting.

ma è tecnicamente il saluto appropriato.

(Laughter)

(Risate)

So okay, determining whether or not

Quindi, determinare se qualcosa sia o meno offensivo,

something is abusive without context,

senza avere un contesto,

definitely hard.

è sicuramente difficile.

Let's look at spam.

Diamo un'occhiata allo spam.

Here's an example of an account engaged

Ora c'è l'esempio di un account intento

in classic spammer behavior,

a "spammare" nel modo classico,

sending the exact same message

ovvero inviando lo stesso identico messaggio

to thousands of people.

a migliaia di persone.

While this is a mockup I put together using my account,

Mentre questo è solo un esempio che ho creato usando il mio account,

we see accounts doing this all the time.

vediamo degli account fare questo di continuo.

Seems pretty straightforward.

Sembra davvero semplice.

We should just automatically suspend accounts

Sicuro, dovremmo automaticamente sospendere gli account

engaging in this kind of behavior.

intenti in questo genere di comportamenti.

Turns out there's some exceptions to that rule.

Pare che ci siano delle eccezioni alla regola.

Turns out that that message could also be a notification

Pare che quel messaggio potrebbe essere anche un messaggio di notifica

you signed up for that the International Space Station is passing overhead

perché vi siete iscritti per sapere

quando la stazione spaziale internazionale vi passa sopra la testa,

because you wanted to go outside

perché volevate uscire

and see if you could see it.

e riuscire a vederla.

You're not going to get that chance

Non avreste questa possibilità

if we mistakenly suspend the account

se sospendessimo l'account per errore

thinking it's spam.

pensando che sia dello spam.

Okay. Let's make the stakes higher.

Va bene. Alziamo la posta.

Back to my account,

Torniamo al mio account,

again exhibiting classic behavior.

che ancora una volta esibisce un comportamento classico.

This time it's sending the same message and link.

Questa volta sta mandando lo stesso messaggio e lo stesso link.

This is often indicative of something called phishing,

Di solito, questo è indicativo del cosiddetto "phishing",

somebody trying to steal another person's account information

ovvero qualcuno che cerca di rubare le informazioni dell'account di qualcun altro.

by directing them to another website.

indirizzandolo verso un altro sito.

That's pretty clearly not a good thing.

È abbastanza ovvio che non è una buona cosa.

We want to, and do, suspend accounts

Noi intendiamo, e lo facciamo, sospendere gli account

engaging in that kind of behavior.

che sono intenti in questa pratica.

So why are the stakes higher for this?

Allora perché la posta in gioco è più alta in questo caso?

Well, this could also be a bystander at a rally

Beh, si potrebbe trattare di un passante ad un corteo

who managed to record a video

che è riuscito a fare un video

of a police officer beating a non-violent protester

di un poliziotto che malmena un manifestante pacifico

who's trying to let the world know what's happening.

che sta provando a far sapere al mondo cosa sta succedendo.

We don't want to gamble

Non vogliamo rischiare

on potentially silencing that crucial speech

di ridurre potenzialmente al silenzio quel discorso cruciale

by classifying it as spam and suspending it.

classificandolo come spam e sospendendolo.

That means we evaluate hundreds of parameters

Questo significa che valutiamo centinaia di parametri

when looking at account behaviors,

quando osserviamo i comportamenti degli account,

and even then, we can still get it wrong

e comunque, possiamo ancora sbagliarci

and have to reevaluate.

ed essere costretti a riconsiderare.

Now, given the sorts of challenges I'm up against,

Considerato il tipo di sfide che affronto,

it's crucial that I not only predict

è fondamentale , non solo che io preveda,

but also design protections for the unexpected.

ma anche sviluppi protezioni per l'imprevedibile.

And that's not just an issue for me,

E questo non è un problema solo mio,

or for Twitter, it's an issue for you.

o di Twitter, è un problema anche vostro.

It's an issue for anybody who's building or creating

È un problema per chiunque stia costruendo o creando

something that you think is going to be amazing

qualcosa che si pensa possa essere grandioso

and will let people do awesome things.

e che darà la possibilità alla gente di fare cose incredibili.

So what do I do?

Allora, io cosa faccio?

I pause and I think,

Mi fermo un attimo e penso,

how could all of this

come potrebbe tutto questo

go horribly wrong?

andare a rotoli?

I visualize catastrophe.

Mi immagino una catastrofe.

And that's hard. There's a sort of

Ed è difficile. C'è una sorta

inherent cognitive dissonance in doing that,

di dissociazione cognitiva insita nel farlo,

like when you're writing your wedding vows

come quando stai scrivendo le tue promesse nuziali

at the same time as your prenuptial agreement.

ed allo stesso tempo il contratto prematrimoniale.

(Laughter)

(Risate)

But you still have to do it,

Ma comunque devi farlo,

particularly if you're marrying 500 million tweets per day.

specialmente se stai sposando 500 milioni di messaggi al giorno.

What do I mean by "visualize catastrophe?"

Cosa intendo con "immaginarsi una catastrofe?"

I try to think of how something as

Penso a come qualcosa,

benign and innocuous as a picture of a cat

come l'immagine innocua ed inoffensiva di un gatto,

could lead to death,

possa causare una morte,

and what to do to prevent that.

e cosa fare per prevenirlo.

Which happens to be my next example.

Il che, guarda caso, è il mio prossimo esempio.

This is my cat, Eli.

Questo è il mio gatto, Eli.

We wanted to give users the ability

Volevamo dare agli utenti la capacità

to add photos to their tweets.

di aggiungere foto ai loro tweet.

A picture is worth a thousand words.

Un'immagine vale più di mille parole.

You only get 140 characters.

Noi vi diamo solo 140 caratteri.

You add a photo to your tweet,

Aggiungete una foto al vostro tweet

look at how much more content you've got now.

guarda quante parole in più avete ora.

There's all sorts of great things you can do

Potete fare ogni genere di grandi cose

by adding a photo to a tweet.

aggiungendo una foto ad un tweet.

My job isn't to think of those.

Il mio lavoro non è pensare a queste cose.

It's to think of what could go wrong.

È pensare a cosa può andare storto.

How could this picture

Come potrebbe quest'immagine

lead to my death?

portare alla mia morte?

Well, here's one possibility.

Bene, ecco una possibilità.

There's more in that picture than just a cat.

Non c'è solo un gatto in quella foto.

There's geodata.

Ci sono informazioni geografiche.

When you take a picture with your smartphone

Quando fate una foto con lo smartphone

or digital camera,

o con la fotocamera digitale,

there's a lot of additional information

ci sono molte informazioni aggiuntive

saved along in that image.

salvate assieme all'immagine.

In fact, this image also contains

Infatti, quest'immagine contiene anche

the equivalent of this,

l'equivalente di questo,

more specifically, this.

più specificatamente, questo.

Sure, it's not likely that someone's going to try

Sicuramente, è improbabile che qualcuno provi

to track me down and do me harm

a rintracciarmi e farmi del male

based upon image data associated

basandosi sulle informazioni associate

with a picture I took of my cat,

ad una foto che ho fatto al mio gatto

but I start by assuming the worst will happen.

ma comincio pensando che il peggio accadrà.

That's why, when we launched photos on Twitter,

Ecco perché, quando abbiamo introdotto le foto su Twitter,

we made the decision to strip that geodata out.

abbiamo preso la decisione di eliminare i dati geografici.

(Applause)

(Applausi)

If I start by assuming the worst

Se comincio con l'assumere il peggio

and work backwards,

e lavoro a ritroso,

I can make sure that the protections we build

posso garantire che le protezioni che ideiamo

work for both expected

funzionino sia per i casi prevedibili

and unexpected use cases.

che per quelli imprevedibili.

Given that I spend my days and nights

Dato che trascorro giorno e notte

imagining the worst that could happen,

ad immaginare qual è il peggio che può accadere,

it wouldn't be surprising if my worldview was gloomy.

non sorprenderebbe nessuno se avessi una visione pessimista del mondo.

(Laughter)

(Risate)

It's not.

Non è così.

The vast majority of interactions I see --

La grande maggioranza delle interazioni che vedo,

and I see a lot, believe me -- are positive,

e ne vedo tante, credetemi, sono positive,

people reaching out to help

persone che entrano in contatto per aiutarsi

or to connect or share information with each other.

o per incontrarsi o condividere informazioni tra loro.

It's just that for those of us dealing with scale,

È solo che per quelli di noi che trattano questa mole di dati,

for those of us tasked with keeping people safe,

quelli su cui ricade il compito di salvaguardare le persone,

we have to assume the worst will happen,

il caso peggiore è da considerarsi come un evento sicuro,

because for us, a one-in-a-million chance

perché per noi, una probabilità di uno su un milione

is pretty good odds.

è una probabilità decisamente buona.

Thank you.

Grazie.

(Applause)

(Applausi)