Del Harvey: The strangeness of scale at Twitter

Traducător: Cornelia Iordache Corector: Ariana Bleau Lugo

My job at Twitter

Job-ul meu la Twitter

is to ensure user trust,

e să asigur încrederea utilizatorilor,

protect user rights and keep users safe,

să protejez drepturile şi siguranţa lor,

both from each other

atât între ei

and, at times, from themselves.

şi, uneori, de ei înşişi.

Let's talk about what scale looks like at Twitter.

Aşa arată graficul la Twitter.

Back in January 2009,

În ianuarie 2009,

we saw more than two million new tweets each day

erau peste două milioane de tweets noi în fiecare zi

on the platform.

pe platformă.

January 2014, more than 500 million.

Ianuarie 2014, peste 500 de milioane.

We were seeing two million tweets

Erau două milioane de tweets

in less than six minutes.

în mai puţin de şase minute.

That's a 24,900-percent increase.

Asta reprezintă o creştere de 24,900%.

Now, the vast majority of activity on Twitter

Majoritatea activităţii pe Twitter

puts no one in harm's way.

nu pune pe nimeni în pericol.

There's no risk involved.

Nu e niciun risc implicat.

My job is to root out and prevent activity that might.

Meseria mea e să îndepărtez şi să previn activitatea care ar putea.

Sounds straightforward, right?

Sună simplu, nu?

You might even think it'd be easy,

Aţi putea crede că e uşor,

given that I just said the vast majority

având în vedere că doar ce am spus că majoritatea

of activity on Twitter puts no one in harm's way.

activităţii pe Twitter nu prezintă un pericol.

Why spend so much time

De ce să petrec atât de mult timp

searching for potential calamities

căutând potenţiale calamităţi

in innocuous activities?

în activităţi inofensive?

Given the scale that Twitter is at,

Având în vedere amploarea Twitter-ului,

a one-in-a-million chance happens

o şansă de unu la un milion se întâmplă

500 times a day.

de 500 de ori pe zi.

It's the same for other companies

E valabil şi pentru alte companii

dealing at this sort of scale.

de această amploare.

For us, edge cases,

Pentru noi, cazurile izolate,

those rare situations that are unlikely to occur,

acele situaţii rare, care sunt puţin probabil să apară,

are more like norms.

devin norme.

Say 99.999 percent of tweets

Să spunem că 99.999% de tweets

pose no risk to anyone.

nu prezintă niciun risc.

There's no threat involved.

Nu implică nicio ameninţare.

Maybe people are documenting travel landmarks

Poate că oamenii se documentează despre obiective turistice,

like Australia's Heart Reef,

precum Reciful Inimă din Australia

or tweeting about a concert they're attending,

sau tweet despre un concert la care au fost,

or sharing pictures of cute baby animals.

împărtăşesc imagini cu pui de animale drăguţe.

After you take out that 99.999 percent,

După ce scoţi procentul de 99.999%,

that tiny percentage of tweets remaining

acel procent mic de tweets care rămîne

works out to roughly

ajunge la aproximativ

150,000 per month.

150.000 pe lună.

The sheer scale of what we're dealing with

Scara mare la care lucrăm

makes for a challenge.

reprezintă o provocare.

You know what else makes my role

Stiţi ce altceva face rolul meu

particularly challenging?

provocator?

People do weird things.

Oamenii fac lucruri ciudate.

(Laughter)

(Râsete)

And I have to figure out what they're doing,

Trebuie să-mi dau seama ce fac,

why, and whether or not there's risk involved,

de ce și dacă implică vreun risc,

often without much in terms of context

deseori fără prea mult context

or background.

sau fundal.

I'm going to show you some examples

Vă voi arăta câteva exemple

that I've run into during my time at Twitter --

pe care le-am întâlnit cât am lucrat la Twitter--

these are all real examples —

toate sunt exemple reale —

of situations that at first seemed cut and dried,

situaţii care la început păreau obişnuite,

but the truth of the matter was something

dar adevărul era ceva

altogether different.

cu totul diferit.

The details have been changed

Detaliile au fost schimbate

to protect the innocent

pentru a proteja pe cei nevinovaţi

and sometimes the guilty.

şi, uneori, pe cei vinovaţi.

We'll start off easy.

Vom începe uşor.

["Yo bitch"]

["Hey, bitch (cățea)"]

If you saw a Tweet that only said this,

Dacă aţi vedea un Tweet care spune doar asta,

you might think to yourself,

aţi putea crede că

"That looks like abuse."

"pare un abuz."

After all, why would you want to receive the message,

La urma urmei, de ce ai vrea să primeşti un mesaj cu

"Yo, bitch."

"Hey, bitch."

Now, I try to stay relatively hip

Încerc să fiu la curent

to the latest trends and memes,

cu cele mai recente tendinţe şi meme,

so I knew that "yo, bitch"

aşa că ştiam că "hey, bitch"

was also often a common greeting between friends,

era un salut comun între prieteni,

as well as being a popular "Breaking Bad" reference.

dar şi o referinţă populară pentru o "Despărţire urâtă".

I will admit that I did not expect

Recunosc că nu mă aşteptam

to encounter a fourth use case.

să întâlnesc un al patrulea caz de utilizare.

It turns out it is also used on Twitter

Se pare că e folosit pe Twitter

when people are role-playing as dogs.

şi când oamenii joacă roluri de câini.

(Laughter)

(Râsete)

And in fact, in that case,

În acest caz,

it's not only not abusive,

nu e doar neabuzivă,

it's technically just an accurate greeting.

dar, din punct de vedere tehnic, e o formulă de salut corectă.

(Laughter)

(Râsete)

So okay, determining whether or not

Stabilirea dacă sau nu

something is abusive without context,

ceva e abuziv fără context,

definitely hard.

e cu siguranţă dificil.

Let's look at spam.

Să ne uităm la spam.

Here's an example of an account engaged

Iată un exemplu de cont angajat

in classic spammer behavior,

în comportamentul de spammer clasic,

sending the exact same message

trimiţând exact acelaşi mesaj

to thousands of people.

la mii de oameni.

While this is a mockup I put together using my account,

Deși e o machetă pe care am creat-o folosind contul meu,

we see accounts doing this all the time.

vedem conturi care fac asta tot timpul.

Seems pretty straightforward.

Pare destul de simplu.

We should just automatically suspend accounts

Ar trebui doar să suspendăm automat conturile

engaging in this kind of behavior.

cu acest tip de comportament.

Turns out there's some exceptions to that rule.

Se pare că există excepţii de la regulă.

Turns out that that message could also be a notification

Acel mesaj ar putea fi și o notificare

you signed up for that the International Space Station is passing overhead

la care te-ai înscris ca Staţia Spaţială Internaţională să treacă deasupra

because you wanted to go outside

pentru că ai vrut să mergi afară

and see if you could see it.

şi să vezi dacă îl poţi vedea.

You're not going to get that chance

Nu vei avea acea şansă

if we mistakenly suspend the account

dacă suspendăm greşit contul,

thinking it's spam.

crezând că e spam.

Okay. Let's make the stakes higher.

Să facem miza mai mare.

Back to my account,

Înapoi la contul meu,

again exhibiting classic behavior.

din nou prezentând comportamentul clasic.

This time it's sending the same message and link.

De data asta, trimite acelaşi mesaj şi link-ul.

This is often indicative of something called phishing,

Așa arată ce numim phishing,

somebody trying to steal another person's account information

cineva încercînd să fure informaţiile de cont ale unei persoane,

by directing them to another website.

orientând-o către un alt site.

That's pretty clearly not a good thing.

Clar, nu e un lucru bun.

We want to, and do, suspend accounts

Vrem să suspendăm conturile

engaging in that kind of behavior.

angajate în acest tip de comportament.

So why are the stakes higher for this?

De ce e miza mai mare pentru asta?

Well, this could also be a bystander at a rally

Asta ar putea fi şi un spectator la un miting

who managed to record a video

care a reuşit să înregistreze un video

of a police officer beating a non-violent protester

cu un ofiţer de poliţie bătând un protestatar non-violent

who's trying to let the world know what's happening.

şi încearcă să informeze lumea.

We don't want to gamble

Nu vrem să ne hazardăm

on potentially silencing that crucial speech

să reducem la tăcere acel discurs crucial,

by classifying it as spam and suspending it.

clasificându-l ca spam şi suspendându-l.

That means we evaluate hundreds of parameters

Înseamnă că evaluăm sute de parametri

when looking at account behaviors,

când ne uităm la comportamente de cont

and even then, we can still get it wrong

şi, chiar şi atunci, putem greşi

and have to reevaluate.

şi trebuie să-l reevaluăm.

Now, given the sorts of challenges I'm up against,

Având în vedere provocările la care trebuie să fac față,

it's crucial that I not only predict

e crucial nu doar să prevăd,

but also design protections for the unexpected.

ci şi să creez protecţii pentru situaţii neaşteptate.

And that's not just an issue for me,

Nu e o problemă doar pentru mine,

or for Twitter, it's an issue for you.

sau pentru Twitter, e o problemă pentru tine.

It's an issue for anybody who's building or creating

Pentru oricine construieşte sau creează

something that you think is going to be amazing

ceva care crede că va fi minunat

and will let people do awesome things.

şi va permite oamenilor să facă lucruri grozave.

So what do I do?

Ce fac atunci?

I pause and I think,

Mă opresc şi mă gândesc

how could all of this

cum ar putea toate astea

go horribly wrong?

să meargă teribil de rău?

I visualize catastrophe.

Vizualizez catastrofa.

And that's hard. There's a sort of

E greu. Există un fel de

inherent cognitive dissonance in doing that,

disonanţă cognitivă inerentă în a face asta,

like when you're writing your wedding vows

ca atunci când scrii jurămintele de nuntă

at the same time as your prenuptial agreement.

în acelaşi timp cu contractul prenupţial.

(Laughter)

(Râsete)

But you still have to do it,

Dar trebuie s-o faci,

particularly if you're marrying 500 million tweets per day.

mai ales când te căsătoreşti cu 500 de milioane tweets pe zi.

What do I mean by "visualize catastrophe?"

Ce vreau sa spun prin "vizualizez catastrofa?"

I try to think of how something as

Încerc să mă gândesc cum ceva

benign and innocuous as a picture of a cat

benign şi inofensiv ca imaginea unei pisici

could lead to death,

ar putea aduce moarte

and what to do to prevent that.

şi ce să fac pentru a preveni asta.

Which happens to be my next example.

Asta se întâmplă să fie următorul meu exemplu.

This is my cat, Eli.

Asta e pisica mea, Eli.

We wanted to give users the ability

Am vrut să oferim utilizatorilor posibilitatea de

to add photos to their tweets.

a adăuga fotografii la tweets lor.

A picture is worth a thousand words.

O imagine valorează o mie de cuvinte.

You only get 140 characters.

Ai doar 140 de caractere.

You add a photo to your tweet,

Adaugi o fotografie la tweet,

look at how much more content you've got now.

uite cât de mult conţinut ai acum.

There's all sorts of great things you can do

Există tot felul de lucruri minunate pe care le poţi face

by adding a photo to a tweet.

adăugând o fotografie la un tweet.

My job isn't to think of those.

Job-ul meu nu e să mă gândesc la astea.

It's to think of what could go wrong.

E să mă gândesc la ce ar putea merge prost.

How could this picture

Cum ar putea acestă fotografie

lead to my death?

să ducă la moartea mea?

Well, here's one possibility.

Ei bine, iată o posibilitate.

There's more in that picture than just a cat.

Există mai mult în acea imagine decât o pisică.

There's geodata.

Sunt date spaţiale.

When you take a picture with your smartphone

Când faci o fotografie cu smartphone-ul

or digital camera,

sau camera digitală,

there's a lot of additional information

există o mulţime de informaţii suplimentare

saved along in that image.

salvate în acea imagine.

In fact, this image also contains

De fapt, această imagine conţine

the equivalent of this,

echivalentul acestui lucru,

more specifically, this.

mai exact, asta.

Sure, it's not likely that someone's going to try

Sigur, nu e probabil ca cineva să încerce

to track me down and do me harm

să mă urmărească şi să-mi facă rău

based upon image data associated

bazându-se pe datele imaginii asociate

with a picture I took of my cat,

cu fotografia pe care am făcut-o pisicii mele,

but I start by assuming the worst will happen.

dar încep prin a presupune ce e mai rău.

That's why, when we launched photos on Twitter,

De aceea, când am lansat fotografii pe Twitter,

we made the decision to strip that geodata out.

am hotărât să tăiem datele spaţiale.

(Applause)

(Aplauze)

If I start by assuming the worst

Dacă încep prin a presupune ce e mai rău

and work backwards,

şi se întâmplă invers,

I can make sure that the protections we build

pot să asigur că protecţia pe care o construim

work for both expected

funcţionează atât pentru cazurile de utilizare aşteptate,

and unexpected use cases.

cât şi neaşteptate.

Given that I spend my days and nights

Având în vedere că petrec zile şi nopţi

imagining the worst that could happen,

imaginându-mi ce e mai rău,

it wouldn't be surprising if my worldview was gloomy.

nu ar fi surprinzător ca viziunea mea să fie întunecată.

(Laughter)

(Râsete)

It's not.

Nu este.

The vast majority of interactions I see --

Majoritatea interacţiunilor pe care le văd--

and I see a lot, believe me -- are positive,

şi văd multe, credeţi-mă, sunt pozitive,

people reaching out to help

oamenii oferindu-se să ajute,

or to connect or share information with each other.

să se conecteze sau să împărtăşească informaţii.

It's just that for those of us dealing with scale,

Pentru aceia dintre noi care lucrează la dimensiunea asta,

for those of us tasked with keeping people safe,

însărcinaţi să ţină oamenii în siguranţă,

we have to assume the worst will happen,

trebuie să presupunem ce e mai rău,

because for us, a one-in-a-million chance

deoarece pentru noi, o şansă la un milion

is pretty good odds.

are şanse destul de mari.

Thank you.

Vă mulţumesc.

(Applause)

(Aplauze)