Del Harvey: The strangeness of scale at Twitter

Prevoditelj: Ivan Stamenković Recezent: Senzos Osijek

My job at Twitter

Moj posao u Twitteru

is to ensure user trust,

je osigurati povjerenje korisnika,

protect user rights and keep users safe,

zaštiti prava korisnika i očuvati sigurnost korisnika,

both from each other

jedne od drugih

and, at times, from themselves.

i, ponekad, od sebe samih.

Let's talk about what scale looks like at Twitter.

Pričajmo kako razmjer izgleda u Twitteru.

Back in January 2009,

U siječnju 2009.

we saw more than two million new tweets each day

vidjeli smo više od dva milijuna novih tweetova svakog dana

on the platform.

na platformi.

January 2014, more than 500 million.

Siječanj 2014., više od 500 milijuna.

We were seeing two million tweets

Vidimo dva milijuna tweetova

in less than six minutes.

u manje od šest minuta.

That's a 24,900-percent increase.

To je povećanje od 24900 posto.

Now, the vast majority of activity on Twitter

Sad, velika većina aktivnosti na Twitteru

puts no one in harm's way.

nikome ne škodi.

There's no risk involved.

Ne postoji rizik.

My job is to root out and prevent activity that might.

Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi.

Sounds straightforward, right?

Zvuči jednostavno, zar ne?

You might even think it'd be easy,

Možete čak misliti da bi to bilo lako,

given that I just said the vast majority

s obzirom na to da sam rekla da je velika većina

of activity on Twitter puts no one in harm's way.

aktivnosti na Twitteru bezazlena.

Why spend so much time

Zašto potrošiti toliko vremena

searching for potential calamities

tražeći potencijalne nezgode

in innocuous activities?

u neškodljivim aktivnostima?

Given the scale that Twitter is at,

Uzimajući u obzir razmjer na kojem je Twitter,

a one-in-a-million chance happens

situacija jedan u milijun događa se

500 times a day.

500 puta na dan.

It's the same for other companies

To je točno i za druge tvrtke

dealing at this sort of scale.

koje rade na ovom razmjeru.

For us, edge cases,

Za nas, rubni slučajevi,

those rare situations that are unlikely to occur,

one rijetke situacije koje su neizgledne da se dogode,

are more like norms.

su više kao norma.

Say 99.999 percent of tweets

Recimo da 99,999 posto tweetova

pose no risk to anyone.

ne predstavljaju prijetnju nikome.

There's no threat involved.

Ne postoji nikakva prijetnja.

Maybe people are documenting travel landmarks

Možda ljudi bilježe putne znamenitosti

like Australia's Heart Reef,

Kao što je Australski Heart Reef

or tweeting about a concert they're attending,

ili tweetaju o koncertu na kojem su,

or sharing pictures of cute baby animals.

ili dijele slike slatkih životinjskih mladunaca.

After you take out that 99.999 percent,

Kada oduzmete tih 99,999 posto,

that tiny percentage of tweets remaining

taj mali postotak tweetova koji ostaje

works out to roughly

daje otprilike

150,000 per month.

150,000 mjesečno.

The sheer scale of what we're dealing with

Čisti razmjer onoga čime se bavimo

makes for a challenge.

predstavlja izazov.

You know what else makes my role

Znate što još čini moju ulogu

particularly challenging?

posebno izazovnom?

People do weird things.

Ljudi rade čudne stvari.

(Laughter)

(Smijeh)

And I have to figure out what they're doing,

I moram otkriti što oni to rade,

why, and whether or not there's risk involved,

zašto, i postoji li ili ne rizik,

often without much in terms of context

često bez puno konteksta

or background.

ili pozadine.

I'm going to show you some examples

Pokazat ću vam neke primjere

that I've run into during my time at Twitter --

na koje sam naišla za vrijeme rada u Twitteru --

these are all real examples —

ovo su sve stvarni primjeri --

of situations that at first seemed cut and dried,

situacija koje su se činile jednostavne na početku

but the truth of the matter was something

ali stvarna priroda stvari bila je nešto

altogether different.

potpuno drugačije,

The details have been changed

Detalji su promijenjeni

to protect the innocent

kako bi zaštitili nevine

and sometimes the guilty.

i ponekad krivce.

We'll start off easy.

Počet ćemo lagano.

["Yo bitch"]

["Hej kujo"]

If you saw a Tweet that only said this,

Kada biste vidjeli Tweet koji kaže samo ovo,

you might think to yourself,

pomislili biste,

"That looks like abuse."

"Ovo izgleda kao zlostavljanje."

After all, why would you want to receive the message,

Na kraju krajeva, zašto biste htjeli primiti poruku.

"Yo, bitch."

"Hej, kujo."

Now, I try to stay relatively hip

Sad, pokušavam ostati relativno u tijeku

to the latest trends and memes,

sa najnovijim trendovima i memeima,

so I knew that "yo, bitch"

pa sam znala da "Hej, kujo"

was also often a common greeting between friends,

je također učestali pozdrav među prijateljima,

as well as being a popular "Breaking Bad" reference.

kao i popularna referenca na "Breaking Bad".

I will admit that I did not expect

Priznat ću da nisam očekivala

to encounter a fourth use case.

susresti četvrti slučaj korištenja.

It turns out it is also used on Twitter

Ispada da se također koristi na Twitteru

when people are role-playing as dogs.

kada ljudi glume pse.

(Laughter)

(Smijeh)

And in fact, in that case,

I zapravo, u tom slučaju,

it's not only not abusive,

ne samo da nije zlostavljanje

it's technically just an accurate greeting.

nego je to tehnički ispravan pozdrav.

(Laughter)

(Smijeh)

So okay, determining whether or not

Dakle, utvrđivanje je li ili nije

something is abusive without context,

nešto uvredljivo bez konteksta,

definitely hard.

definitivno teško.

Let's look at spam.

Pogledajmo spam.

Here's an example of an account engaged

Ovo je primjer računa koji je uključen

in classic spammer behavior,

u klasično spammersko ponašanje,

sending the exact same message

šaljući potpuno jednaku poruku

to thousands of people.

tisućama ljudi.

While this is a mockup I put together using my account,

Iako je ovo samo primjer koji sam napravila koristeći svoj račun,

we see accounts doing this all the time.

vidimo račune kako to rade cijelo vrijeme.

Seems pretty straightforward.

Čini se poprilično jednostavno.

We should just automatically suspend accounts

Jednostavno bi trebali suspendirati račune

engaging in this kind of behavior.

koji se bave ovakvim stvarima.

Turns out there's some exceptions to that rule.

Ispada da postoje neke iznimke tome pravilu.

Turns out that that message could also be a notification

Ispada da poruke mogu biti i obavijest

you signed up for that the International Space Station is passing overhead

za koju ste se prijavili kako bi znali da Međunarodna Svemirska Postaja prolazi

because you wanted to go outside

jer ste htjeli izaći van

and see if you could see it.

i pokušati vidjeti je.

You're not going to get that chance

Nećete dobiti tu priliku

if we mistakenly suspend the account

ako mi greškom suspendiramo račun

thinking it's spam.

misleći da je to spam.

Okay. Let's make the stakes higher.

Ok. Povisimo uloge.

Back to my account,

Natrag na moj račun,

again exhibiting classic behavior.

ponovno prikazuje klasično ponašanje.

This time it's sending the same message and link.

Ovoga puta šalje istu poruku i poveznicu.

This is often indicative of something called phishing,

Ovo je često indikator nečega što se zove "phishing"

somebody trying to steal another person's account information

odnosno kada netko pokušava ukrasti informacije o računu druge osobe

by directing them to another website.

usmjeravajući ih na drugu web stranicu.

That's pretty clearly not a good thing.

To očito nije dobra stvar.

We want to, and do, suspend accounts

Mi želimo, i to i činimo, suspendirati račune

engaging in that kind of behavior.

koji se bave ovakvim stvarima.

So why are the stakes higher for this?

Zašto su onda ulozi veći u ovakvim situacijama?

Well, this could also be a bystander at a rally

Pa, ovo bi mogao biti promatrač na skupu

who managed to record a video

koji je uspio snimiti video

of a police officer beating a non-violent protester

policajca koji tuče prosvjednika

who's trying to let the world know what's happening.

koji pokušava svijetu reći što se događa.

We don't want to gamble

Ne želimo se kockati

on potentially silencing that crucial speech

s tim da nehotično utišamo taj krucijalni govor

by classifying it as spam and suspending it.

klasificirajući ga kao spam i suspendirajući ga.

That means we evaluate hundreds of parameters

To znači da procjenjujemo stotine parametara

when looking at account behaviors,

kada gledamo ponašanja računa,

and even then, we can still get it wrong

i čak i tada možemo pogriješiti

and have to reevaluate.

i moramo ponovno procjenjivati.

Now, given the sorts of challenges I'm up against,

Sad, uzimajući u obzir izazove s kojima se suočavam,

it's crucial that I not only predict

ključno je ne da samo predvidim

but also design protections for the unexpected.

nego i dizajniram zaštitu od neočekivanog.

And that's not just an issue for me,

I to nije samo problem za mene,

or for Twitter, it's an issue for you.

ili Twitter, to je vaš problem.

It's an issue for anybody who's building or creating

To je problem za svakoga tko gradi ili stvara

something that you think is going to be amazing

nešto za što mislite da će biti odlično

and will let people do awesome things.

i dopustit će ljudima da čine odlične stvari.

So what do I do?

Dakle što ja činim?

I pause and I think,

Zastanem i razmišljam,

how could all of this

kako bi sve ovo moglo

go horribly wrong?

poći strašno po krivu?

I visualize catastrophe.

Vizualiziram katastrofu.

And that's hard. There's a sort of

I to je teško. Postoji određena

inherent cognitive dissonance in doing that,

svojstvena kognitivna disonanca prilikom činjenja toga,

like when you're writing your wedding vows

kao kad pišete svoje svadbene zavjete

at the same time as your prenuptial agreement.

u isto vrijeme kada pišete predbračni ugovor.

(Laughter)

(Smijeh)

But you still have to do it,

Ali to i dalje morate činiti,

particularly if you're marrying 500 million tweets per day.

osobito ako se udajete za 500 milijuna tweetova po danu.

What do I mean by "visualize catastrophe?"

Što mislim kada kažem "vizualiziranje katastrofe?"

I try to think of how something as

Pokušavam misliti kako nešto

benign and innocuous as a picture of a cat

bezazleno i neškodljivo kao što je slika mačke

could lead to death,

može voditi do smrti,

and what to do to prevent that.

i što učiniti kako bismo to spriječili.

Which happens to be my next example.

Što je moj sljedeći primjer.

This is my cat, Eli.

Ovo je moj mačak, Eli.

We wanted to give users the ability

Htjeli smo dati korisnicima mogućnost

to add photos to their tweets.

da dodaju slike svojim tweetovima.

A picture is worth a thousand words.

Slika vrijedi tisuću riječi.

You only get 140 characters.

A imate samo 140 znakova.

You add a photo to your tweet,

Kada dodate sliku svom tweetu,

look at how much more content you've got now.

pogledajte koliko više sadržaja sada imate.

There's all sorts of great things you can do

Postoji jako puno super stvari koje možete napraviti

by adding a photo to a tweet.

dodajući sliku na tweet.

My job isn't to think of those.

Moj posao nije misliti na njih,

It's to think of what could go wrong.

već misliti na to što bi moglo poći po krivu.

How could this picture

Kako bi ova slika

lead to my death?

mogla dovesti do moje smrti?

Well, here's one possibility.

Pa, evo jedne mogućnosti.

There's more in that picture than just a cat.

Na ovoj slici nije samo moja mačka.

There's geodata.

Postoje geopodatci.

When you take a picture with your smartphone

Kada uslikate fotografiju vašim pametnim telefonom

or digital camera,

ili digitalnom kamerom,

there's a lot of additional information

postoji mnogo dodatnih informacija

saved along in that image.

koje su spremljene u toj slici.

In fact, this image also contains

Zapravo, ova slika također sadrži

the equivalent of this,

ekvivalent ovoga,

more specifically, this.

točnije ovoga.

Sure, it's not likely that someone's going to try

Naravno, malo je vjerojatno da će netko pokušati

to track me down and do me harm

pronaći me i učiniti mi nešto nažao

based upon image data associated

na osnovi podataka sa slike povezane

with a picture I took of my cat,

sa fotografijom moje mačke,

but I start by assuming the worst will happen.

ali počnem pretpostavljati da će se dogoditi najgore.

That's why, when we launched photos on Twitter,

Zato smo, kad smo lansirali fotografije na Twitteru,

we made the decision to strip that geodata out.

odlučili ukloniti sve geopodatke.

(Applause)

(Pljesak)

If I start by assuming the worst

Ako počnem s najgorom pretpostavkom

and work backwards,

i radim unatrag,

I can make sure that the protections we build

mogu biti sigurna da će zaštite koje smo izgradili

work for both expected

raditi za očekivane

and unexpected use cases.

i neočekivane slučajeve korištenja.

Given that I spend my days and nights

Uzimajući u obzir da dane i noći provodim

imagining the worst that could happen,

zamišljajući što se najgore može dogoditi

it wouldn't be surprising if my worldview was gloomy.

ne bi bilo čudno da mi je pogled na svijet tmuran.

(Laughter)

(Smijeh)

It's not.

Nije.

The vast majority of interactions I see --

Velika većina interakcija koje vidim --

and I see a lot, believe me -- are positive,

i vidim ih puno vjerujte -- su pozitivne,

people reaching out to help

ljudi pokušavaju pomoći

or to connect or share information with each other.

ili povezati se ili dijeliti informacije jedni s drugima.

It's just that for those of us dealing with scale,

Ali stvar je u tome da mi koji se nosimo s razmjerom,

for those of us tasked with keeping people safe,

mi koji se brinemo da su ljudi sigurni,

we have to assume the worst will happen,

moramo pretpostaviti da će se najgore dogoditi,

because for us, a one-in-a-million chance

jer za nas, šanse jedan naprama milijun

is pretty good odds.

su poprilično dobri izgledi.

Thank you.

Hvala vam.

(Applause)

(Pljesak)