Del Harvey: The strangeness of scale at Twitter

Vertaald door: Axel Saffran Nagekeken door: Els De Keyser

My job at Twitter

Mijn taak bij Twitter

is to ensure user trust,

is het waarborgen van gebruikersvertrouwen

protect user rights and keep users safe,

en het beschermen van gebruikers en hun rechten.

both from each other

Bescherming tegen elkaar,

and, at times, from themselves.

en soms ook tegen zichzelf.

Let's talk about what scale looks like at Twitter.

Laten we even kijken op welke schaal Twitter opereert.

Back in January 2009,

In januari 2009

we saw more than two million new tweets each day

zagen we dagelijks ruim 2 miljoen nieuwe tweets

on the platform.

op het platform.

January 2014, more than 500 million.

In januari 2014 meer dan 500 miljoen.

We were seeing two million tweets

We zagen 2 miljoen nieuwe tweets

in less than six minutes.

in minder dan 6 minuten.

That's a 24,900-percent increase.

Dat is een stijging met 24.900 procent.

Now, the vast majority of activity on Twitter

Verreweg de meeste activiteit op Twitter

puts no one in harm's way.

is voor niemand gevaarlijk.

There's no risk involved.

Niemand loopt risico.

My job is to root out and prevent activity that might.

Mijn taak is, om de uitzonderingen te bestrijden en voorkomen.

Sounds straightforward, right?

Klinkt eenvoudig, niet?

You might even think it'd be easy,

Je zou zelfs kunnen denken dat het makkelijk is,

given that I just said the vast majority

aangezien ik net zei dat de meeste activiteit

of activity on Twitter puts no one in harm's way.

op Twitter niemand schaadt.

Why spend so much time

Waarom sporen we zo naarstig

searching for potential calamities

naar potentiële calamiteiten

in innocuous activities?

in onschuldige activiteiten?

Given the scale that Twitter is at,

Gezien de huidige schaal van Twitter

a one-in-a-million chance happens

gebeurt iets met een kans van 1 op een miljoen

500 times a day.

500 maal per dag.

Dat is hetzelfde voor andere bedrijven

It's the same for other companies

dealing at this sort of scale.

die op deze schaal opereren.

For us, edge cases,

Voor ons zijn randgevallen --

those rare situations that are unlikely to occur,

die zeldzame situaties waarop weinig kans bestaat --

are more like norms.

meer de norm.

Say 99.999 percent of tweets

Stel dat 99,999% van alle tweets

voor niemand schadelijk zijn.

pose no risk to anyone.

There's no threat involved.

Er dreigt voor niemand gevaar.

Maybe people are documenting travel landmarks

Mensen beschrijven wellicht een reisbestemming

like Australia's Heart Reef,

zoals een koraalrif in Australië,

or tweeting about a concert they're attending,

of tweeten over een concert dat ze bijwonen,

or sharing pictures of cute baby animals.

of delen foto's van schattige jonge dieren.

After you take out that 99.999 percent,

Nadat je die 99,999% weglaat,

that tiny percentage of tweets remaining

blijft er een minuscuul percentage aan tweets over.

works out to roughly

Dat blijken er per maand

150,000 per month.

150.000 te zijn.

The sheer scale of what we're dealing with

De schaal waarmee we van doen hebben,

makes for a challenge.

houdt een uitdaging in.

You know what else makes my role

Weet je wat mijn rol nog meer

particularly challenging?

buitengewoon uitdagend maakt?

People do weird things.

Mensen .. doen .. gekke .. dingen.

(Laughter)

(Gelach)

And I have to figure out what they're doing,

En ik moet uitvogelen wat ze aan het doen zijn,

why, and whether or not there's risk involved,

waarom, en of er risico's aan kleven.

often without much in terms of context

Vaak zonder veel context

or background.

of achtergrond.

I'm going to show you some examples

Ik zal wat voorbeelden laten zien

that I've run into during my time at Twitter --

van dingen die ik bij Twitter tegenkwam --

these are all real examples —

alles waargebeurd --

of situations that at first seemed cut and dried,

van situaties die op het eerste oog zonneklaar leken,

but the truth of the matter was something

maar waar in feite iets heel anders speelde.

altogether different.

De details zijn veranderd

The details have been changed

to protect the innocent

ter bescherming van de onschuldigen

and sometimes the guilty.

en soms de schuldigen.

We'll start off easy.

We beginnen met een makkelijke.

["Yo bitch"]

["Yo Bitch"]

If you saw a Tweet that only said this,

Als je een tweet zag met alleen deze inhoud,

you might think to yourself,

zou je kunnen denken

"That looks like abuse."

dat hier gescholden wordt.

After all, why would you want to receive the message,

Immers, waarom zou je het bericht willen krijgen:

"Yo, bitch."

"Yo Bitch" (Hoi, teef).

Now, I try to stay relatively hip

Welnu, ik probeer enigszins de laatste

to the latest trends and memes,

trends en memes bij te houden,

so I knew that "yo, bitch"

dus ik wist dat "yo, bitch"

was also often a common greeting between friends,

ook een gangbare begroeting was onder vrienden,

as well as being a popular "Breaking Bad" reference.

evenals een populaire referentie aan de serie 'Breaking Bad'.

I will admit that I did not expect

Grif geef ik toe dat ik niet verwachtte

to encounter a fourth use case.

een vierde betekenis tegen te komen.

It turns out it is also used on Twitter

Het bleek dat het op Twitter ook gebruikt wordt

when people are role-playing as dogs.

wanneer mensen spelen dat ze hond zijn.

(Laughter)

(Gelach)

And in fact, in that case,

En dan is het in feite

it's not only not abusive,

niet alleen geen schelden,

it's technically just an accurate greeting.

maar technisch gezien juist een accurate begroeting.

(Laughter)

(Gelach)

So okay, determining whether or not

Oké, bepalen of iets schelden is

something is abusive without context,

zonder de context,

definitely hard.

is behoorlijk moeilijk.

Let's look at spam.

Laten we nu kijken naar spam.

Here's an example of an account engaged

Hier is een voorbeeld van een account

in classic spammer behavior,

die klassiek spammer-gedrag vertoont:

sending the exact same message

hetzelfde bericht wordt verstuurd naar duizenden mensen.

to thousands of people.

While this is a mockup I put together using my account,

Dit voorbeeld maakte ik zelf met mijn eigen account,

we see accounts doing this all the time.

maar wij zien voortdurend accounts die dit doen.

Seems pretty straightforward.

Het lijkt duidelijk.

We should just automatically suspend accounts

We zouden accounts die dit doen

engaging in this kind of behavior.

gewoon automatisch moeten opheffen.

Turns out there's some exceptions to that rule.

Maar er blijken uitzonderingen te zijn op die regel.

Turns out that that message could also be a notification

Die boodschap zou ook het bericht kunnen zijn

you signed up for that the International Space Station is passing overhead

dat je aangevraagd hebt

om te weten wanneer het Internationale Ruimtestation overvliegt

because you wanted to go outside

zodat je buiten kan gaan kijken.

and see if you could see it.

You're not going to get that chance

Die kans krijg je niet

if we mistakenly suspend the account

als wij per abuis die account opheffen

thinking it's spam.

omdat het spam lijkt.

Okay. Let's make the stakes higher.

Oké. Laten we de inzet verhogen.

Back to my account,

Terug naar mijn account,

again exhibiting classic behavior.

dat klassiek gedrag vertoont.

This time it's sending the same message and link.

Deze keer verstuurt het dezelfde boodschap met link.

This is often indicative of something called phishing,

Dit is wat vaak gebeurt bij het zogenaamde 'phishing'.

somebody trying to steal another person's account information

Iemand probeert de accountinformatie van een ander te stelen

by directing them to another website.

door hem naar een andere website te sturen.

That's pretty clearly not a good thing.

Dat is duidelijk geen goede zaak.

We want to, and do, suspend accounts

Dit soort accounts heffen we op.

engaging in that kind of behavior.

So why are the stakes higher for this?

Waarom is de inzet hierbij hoger?

Well, this could also be a bystander at a rally

Dit zou ook een toeschouwer kunnen zijn bij een betoging,

who managed to record a video

die zojuist een video heeft opgenomen

of a police officer beating a non-violent protester

van een politieagent die een geweldloze demonstrant slaat

who's trying to let the world know what's happening.

en dit aan de wereld wil laten zien.

We don't want to gamble

We willen niet per ongeluk

on potentially silencing that crucial speech

zo'n belangrijke boodschap in de kiem smoren

by classifying it as spam and suspending it.

door hem als spam aan te merken en op te heffen.

That means we evaluate hundreds of parameters

Dit betekent dat we honderden kenmerken evalueren

when looking at account behaviors,

als we naar accountgedrag kijken

and even then, we can still get it wrong

en zelfs dan kunnen fout zitten

and have to reevaluate.

en bij moeten sturen.

Now, given the sorts of challenges I'm up against,

Gezien het soort uitdagingen die ik tegenkom

it's crucial that I not only predict

is het cruciaal dat ik het onverwachte

but also design protections for the unexpected.

niet alleen voorspel, maar er ook bescherming tegen bied.

And that's not just an issue for me,

En dat is niet alleen een zaak voor mij,

or for Twitter, it's an issue for you.

of voor Twitter, maar ook voor jou.

It's an issue for anybody who's building or creating

Dit speelt voor iedereen die iets bouwt of maakt

something that you think is going to be amazing

dat geweldig gaat zijn

and will let people do awesome things.

en mensen tot grote dingen in staat stelt.

So what do I do?

Dus wat doe ik?

I pause and I think,

Ik stop en denk na:

how could all of this

hoe zou dit allemaal

go horribly wrong?

volledig fout kunnen gaan?

I visualize catastrophe.

Ik visualiseer catastrofes.

And that's hard. There's a sort of

Dat is moeilijk. Er is een soort

inherent cognitive dissonance in doing that,

inherente cognitieve dissonantie wanneer je dat doet.

like when you're writing your wedding vows

Alsof je je huwelijksbelofte opschrijft,

at the same time as your prenuptial agreement.

en tegelijkertijd je huwelijkse voorwaarden.

(Laughter)

(Gelach)

But you still have to do it,

Maar toch moet je het doen,

particularly if you're marrying 500 million tweets per day.

vooral als je trouwt met 500 miljoen tweets per dag.

What do I mean by "visualize catastrophe?"

Wat bedoel ik met 'catastrofes visualiseren' ?

I try to think of how something as

Ik probeer me voor te stellen

benign and innocuous as a picture of a cat

hoe iets onschuldigs als de afbeelding van de kat

could lead to death,

dodelijk zou kunnen zijn

and what to do to prevent that.

en hoe dat te voorkomen.

Which happens to be my next example.

Dat is toevallig mijn volgende voorbeeld.

This is my cat, Eli.

Dit is mijn kat, Eli.

We wilden gebruikers de mogelijkheid geven

We wanted to give users the ability

foto's bij hun tweets te voegen.

to add photos to their tweets.

A picture is worth a thousand words.

Een foto zegt meer dan 1000 woorden.

You only get 140 characters.

Je hebt maar 140 tekens.

Voeg een foto toe aan je tweet

You add a photo to your tweet,

look at how much more content you've got now.

en zie hoeveel meer content je hebt.

There's all sorts of great things you can do

Je kan massa's geweldige dingen doen

by adding a photo to a tweet.

door een foto bij een tweet te stoppen.

My job isn't to think of those.

Daar houd ik me niet mee bezig.

It's to think of what could go wrong.

Ik moet bedenken wat er mis kan gaan.

How could this picture

Hoe kan deze foto

lead to my death?

tot mijn dood leiden?

Well, here's one possibility.

Nou, hier is één mogelijkheid.

There's more in that picture than just a cat.

Er zit in die afbeelding méér dan alleen een kat.

There's geodata.

Er is geodata.

When you take a picture with your smartphone

Als je een foto neemt met je smartphone of digitale camera

or digital camera,

slaat deze een heleboel extra informatie op

there's a lot of additional information

saved along in that image.

bij die afbeelding.

In fact, this image also contains

In feite bevat deze afbeelding tevens

the equivalent of this,

het equivalent hiervan,

more specifically, this.

of specifieker: dit.

Zeker, het is onwaarschijnlijk dat iemand zal trachten

Sure, it's not likely that someone's going to try

to track me down and do me harm

me op te sporen en kwaad doen

based upon image data associated

naar aanleiding van beeldinformatie

with a picture I took of my cat,

uit de foto die ik nam van mijn kat,

but I start by assuming the worst will happen.

maar ik ga uit van het ergste geval.

That's why, when we launched photos on Twitter,

Daarom besloten we, bij de lancering van foto's op Twitter,

we made the decision to strip that geodata out.

om al die geodata te wissen.

(Applause)

(Applaus)

If I start by assuming the worst

Als ik begin met het ergste te veronderstellen

and work backwards,

en dan terugwerk,

I can make sure that the protections we build

kan ik verzekeren dat de bescherming die we bouwen,

work for both expected

werkt voor zowel verwachte

and unexpected use cases.

als onverwachte gevallen.

Given that I spend my days and nights

Gezien het feit dat ik me dag en nacht

imagining the worst that could happen,

de ergste scenario's voorstel,

it wouldn't be surprising if my worldview was gloomy.

zou het niet verwonderlijk zijn als mijn wereldbeeld zwart was.

(Laughter)

(Gelach)

It's not.

Dat is het niet.

The vast majority of interactions I see --

Het leeuwendeel van de interacties die ik zie --

and I see a lot, believe me -- are positive,

en ik zie een hoop, geloof me -- zijn positief,

people reaching out to help

mensen die elkaar willen helpen

or to connect or share information with each other.

willen bereiken of informatie met elkaar delen.

It's just that for those of us dealing with scale,

Maar mensen als ik, die op deze schaal werken,

for those of us tasked with keeping people safe,

en die tot taak hebben mensen bescherming te bieden,

we have to assume the worst will happen,

moeten ervan uitgaan dat het ergste zal gebeuren.

because for us, a one-in-a-million chance

Want voor ons is een kans van 1 op een miljoen

is pretty good odds.

namelijk heel reëel.

Thank you.

Dank je wel.

(Applause)

(Applaus)