Del Harvey: The strangeness of scale at Twitter

Del Harvey: Das Problem der Größenordnung bei Twitter

Übersetzung: Mick Nitschke Lektorat: Nadine Hennig

My job at Twitter

Mein Job bei Twitter ist es,

is to ensure user trust,

das Vertrauen der User zu bewahren,

protect user rights and keep users safe,

User-Rechte zu sichern und sie zu beschützen,

both from each other

sowohl voreinander

and, at times, from themselves.

als manchmal auch vor sich selbst.

Let's talk about what scale looks like at Twitter.

Reden wir über die Größenordnungen bei Twitter.

Back in January 2009,

Im Januar 2009

we saw more than two million new tweets each day

gab es auf der Plattform jeden Tag

mehr als 2 Millionen neue Tweets.

on the platform.

January 2014, more than 500 million.

Im Januar 2014 waren es mehr als 500 Millionen.

We were seeing two million tweets

2 Millionen Tweets geschehen jetzt

in less than six minutes.

innerhalb von weniger als 6 Minuten.

That's a 24,900-percent increase.

Das ist eine Steigerung um 24 900 %.

Now, the vast majority of activity on Twitter

Die große Mehrheit aller Aktivitäten auf Twitter

puts no one in harm's way.

schadet niemandem.

There's no risk involved.

Da besteht kein Risiko.

My job is to root out and prevent activity that might.

Mein Job ist es, jene Aktivitäten auszumerzen und zu verhindern,

die schädlich sein könnten.

Sounds straightforward, right?

Hört sich wie ein Kinderspiel an.

You might even think it'd be easy,

Vielleicht denken Sie, das wäre einfach,

given that I just said the vast majority

da ich ja gerade sagte,

of activity on Twitter puts no one in harm's way.

dass die große Mehrheit der Aktivitäten auf Twitter niemandem schadet.

Why spend so much time

Warum also so viel Zeit damit verbringen,

searching for potential calamities

nach potenziellem Unheil

in innocuous activities?

in harmlosen Aktivitäten zu suchen?

Given the scale that Twitter is at,

Angesichts der Größe von Twitter

a one-in-a-million chance happens

geschehen Dinge mit einer Wahrscheinlichkeit von 1 : 1 000 000

500 times a day.

ganze 500-mal am Tag.

It's the same for other companies

Das Gleiche gilt für andere Unternehmen

dealing at this sort of scale.

For us, edge cases,

ähnlicher Größe.

Für uns sind solche Ausnahmefälle,

those rare situations that are unlikely to occur,

seltene, unwahrscheinliche Situationen,

are more like norms.

eher der Normfall.

Say 99.999 percent of tweets

Sagen wir mal, 99,999 % der Tweets

pose no risk to anyone.

gefährden niemanden.

There's no threat involved.

Von ihnen geht keine Gefahr aus.

Maybe people are documenting travel landmarks

Vielleicht dokumentieren Leute Sehenswürdigkeiten,

like Australia's Heart Reef,

so wie das "Heart Reef" in Australien,

or tweeting about a concert they're attending,

oder twittern über ein Konzert, auf dem sie sind,

or sharing pictures of cute baby animals.

oder teilen Bilder von niedlichen Tierbabys.

After you take out that 99.999 percent,

Wenn man die 99,999 % ausblendet,

that tiny percentage of tweets remaining

kommt der winzige verbleibende Prozentsatz von Tweets

works out to roughly

noch immer auf nahezu

150,000 per month.

150 000 im Monat.

The sheer scale of what we're dealing with

Die schiere Größe, mit der wir es zu tun haben,

makes for a challenge.

macht es zu einer Herausforderung.

You know what else makes my role

Wissen Sie, was für mich noch

particularly challenging?

eine große Herausforderung darstellt?

People do weird things.

Leute machen komisches Zeug.

(Gelächter)

(Laughter)

And I have to figure out what they're doing,

Ich muss herausfinden, was sie machen,

why, and whether or not there's risk involved,

warum, und ob ein Risiko besteht,

often without much in terms of context

oft ohne viel Wissen über die Zusammenhänge

or background.

oder Hintergründe.

I'm going to show you some examples

Ich zeige Ihnen ein paar Beispiele,

that I've run into during my time at Twitter --

auf die ich bei Twitter gestoßen bin.

these are all real examples —

Das sind echte Beispiele von Situationen,

of situations that at first seemed cut and dried,

die erst ganz klar schienen,

but the truth of the matter was something

aber in Wahrheit völlig anders waren.

altogether different.

The details have been changed

Manche Details wurden verändert,

um Unschuldige zu schützen

to protect the innocent

and sometimes the guilty.

-- und manchmal auch die Schuldigen.

Wir beginnen mal ganz einfach.

We'll start off easy.

["Yo bitch"]

["Hey, Schlampe"]

If you saw a Tweet that only said this,

Wenn Sie einen solchen Tweet sähen,

you might think to yourself,

würden Sie sich vielleicht sagen:

"That looks like abuse."

"Das sieht nach Beleidigung aus."

After all, why would you want to receive the message,

Denn warum würden Sie so eine Nachricht erhalten wollen?

"Yo, bitch."

"Hey, Schlampe."

Now, I try to stay relatively hip

Ich versuche,

relativ nahe an den neusten Trends und Memes zu bleiben.

to the latest trends and memes,

so I knew that "yo, bitch"

Also wusste ich, dass "Hey, Schlampe"

was also often a common greeting between friends,

sowohl häufig eine Begrüßung unter Freunden ist

as well as being a popular "Breaking Bad" reference.

als auch eine gängige Referenz zu "Breaking Bad".

I will admit that I did not expect

Ich gebe zu, dass ich nicht erwartet hatte,

to encounter a fourth use case.

einer vierten Interpretation zu begegnen.

It turns out it is also used on Twitter

Der Ausdruck wird auf Twitter auch von Leuten benutzt,

when people are role-playing as dogs.

die Hunde-Rollenspiele praktizieren. [bitch = auch: Hündin]

(Laughter)

(Gelächter)

And in fact, in that case,

Tatsächlich ist es in diesem Fall

it's not only not abusive,

nicht nur nicht beleidigend,

it's technically just an accurate greeting.

sondern eine völlig korrekte Anrede.

(Laughter)

(Gelächter)

So okay, determining whether or not

Also festzustellen, ob etwas beleidigend ist,

something is abusive without context,

ohne den Zusammenhang zu kennen,

definitely hard.

ist wirklich schwer.

Let's look at spam.

Schauen wir uns mal Spam an.

Here's an example of an account engaged

Hier ein Twitter-Account,

in classic spammer behavior,

der sich wie ein klassischer Spam-Account verhält,

sending the exact same message

indem er denselben Tweet

to thousands of people.

an Tausende von Leuten schickt.

While this is a mockup I put together using my account,

Dieses Beispiel ist von meinem Account konstruiert,

we see accounts doing this all the time.

aber wir beobachten welche, die das ständig tun.

Seems pretty straightforward.

Scheint ziemlich eindeutig zu sein.

We should just automatically suspend accounts

Wir sollten Accounts,

engaging in this kind of behavior.

die sich so verhalten, einfach automatisch sperren.

Turns out there's some exceptions to that rule.

Es gibt aber ein paar Ausnahmen von der Regel.

Turns out that that message could also be a notification

Vielleicht haben Sie die Nachricht sogar angefordert,

you signed up for that the International Space Station is passing overhead

weil Sie wissen wollen, wann sich die Internationale Raumstation

because you wanted to go outside

über Ihnen befindet, weil Sie raus gehen

and see if you could see it.

und schauen wollen, ob Sie sie entdecken.

You're not going to get that chance

Das könnten Sie nicht,

if we mistakenly suspend the account

wenn wir versehentlich den Account sperren würden,

thinking it's spam.

weil wir denken, es ist Spam.

Okay. Let's make the stakes higher.

Okay. Legen wir die Latte höher.

Back to my account,

Kehren wir zurück zu meinem Account

again exhibiting classic behavior.

und zeigen wir wieder klassisches Verhalten.

This time it's sending the same message and link.

Dieses Mal sendet er die gleiche Nachricht mit gleichem Link,

This is often indicative of something called phishing,

was oft ein Anzeichen für "Phishing" ist:

somebody trying to steal another person's account information

Jemand versucht, Account-Infos einer anderen Person zu stehlen,

by directing them to another website.

indem er sie zu einer anderen Webseite lotst.

That's pretty clearly not a good thing.

Das ist natürlich nicht besonders nett.

We want to, and do, suspend accounts

Wir möchten Accounts, die so etwas tun,

engaging in that kind of behavior.

sperren und tun das auch.

So why are the stakes higher for this?

Also warum liegt hier die Latte höher?

Well, this could also be a bystander at a rally

Es könnte auch ein Augenzeuge sein,

who managed to record a video

dem es gelang, einen Polizisten zu filmen,

of a police officer beating a non-violent protester

der einen friedlichen Demonstranten schlägt,

who's trying to let the world know what's happening.

und Ersterer versucht, die Welt über die Zustände aufzuklären.

We don't want to gamble

Wir wollen nicht riskieren,

on potentially silencing that crucial speech

so wichtige Nachrichten zu unterdrücken,

by classifying it as spam and suspending it.

indem wir sie als Spam kennzeichnen und aussortieren.

That means we evaluate hundreds of parameters

Deshalb erheben wir Hunderte von Parametern

when looking at account behaviors,

beim Beobachten eines Accounts,

and even then, we can still get it wrong

und trotzdem können wir uns irren

and have to reevaluate.

und müssen Entscheidungen zurücknehmen.

Now, given the sorts of challenges I'm up against,

Angesichts der Herausforderungen, denen ich gegenüberstehe,

it's crucial that I not only predict

ist es wichtig, dass ich Probleme nicht nur voraussehe,

but also design protections for the unexpected.

sondern mich auch gegen das Unerwartete wappne.

And that's not just an issue for me,

Und das ist nicht nur ein Thema für mich

or for Twitter, it's an issue for you.

oder für Twitter, es ist auch eines für Sie.

It's an issue for anybody who's building or creating

Es ist ein Thema für jeden, der etwas erschafft,

something that you think is going to be amazing

von dem er denkt, es könnte etwas Wundervolles werden

and will let people do awesome things.

und Leute könnten tolle Sachen machen.

So what do I do?

Also was mache ich?

I pause and I think,

Ich lege einen Pause ein und denke,

how could all of this

wie könnte all das

go horribly wrong?

schrecklich schief laufen?

I visualize catastrophe.

Ich stelle mir Katastrophen vor.

And that's hard. There's a sort of

Und das ist schwer.

inherent cognitive dissonance in doing that,

Da entsteht im Kopf eine Art ständige "kognitive Dissonanz",

like when you're writing your wedding vows

so als ob man beim Schreiben seines Ehegelübdes

at the same time as your prenuptial agreement.

gleichzeitig den Ehevertrag aufsetzt.

(Laughter)

(Gelächter)

But you still have to do it,

Aber man muss es tun,

particularly if you're marrying 500 million tweets per day.

besonders, wenn man 500 Millionen Tweets täglich "heiratet".

What do I mean by "visualize catastrophe?"

Was meine ich mit "ich stelle mir Katastrophen vor"?

I try to think of how something as

Ich versuche mir auszudenken,

benign and innocuous as a picture of a cat

wie etwas so Niedliches und Unschuldiges wie ein Katzenbild

could lead to death,

zum Tode führen könnte

and what to do to prevent that.

und wie wir das verhindern können.

Which happens to be my next example.

Das ist also mein nächstes Beispiel.

This is my cat, Eli.

Das ist meine Katze Eli.

We wanted to give users the ability

Wir wollten Usern die Möglichkeit bieten,

to add photos to their tweets.

ihren Tweets Fotos beizufügen.

A picture is worth a thousand words.

Ein Bild sagt mehr als 1 000 Worte.

You only get 140 characters.

Man hat nur 140 Zeichen.

You add a photo to your tweet,

Wenn man seinem Tweet ein Foto beifügt,

look at how much more content you've got now.

transportiert er wesentlich mehr Inhalt.

There's all sorts of great things you can do

Man kann viele tolle Sachen tun,

by adding a photo to a tweet.

indem man einem Tweet ein Foto beifügt.

My job isn't to think of those.

Mein Job ist nicht, darüber nachzudenken.

It's to think of what could go wrong.

Ich muss darüber nachdenken, was schief laufen könnte.

How could this picture

Wie könnte dieses Bild

lead to my death?

zu meinem Tod führen?

Well, here's one possibility.

Hier ist eine Möglichkeit:

There's more in that picture than just a cat.

Das Bild zeigt mehr als nur eine Katze.

There's geodata.

Es beinhaltet auch Geodaten.

When you take a picture with your smartphone

Wenn man ein Bild mit dem Smartphone

or digital camera,

oder der Digitalkamera aufnimmt,

there's a lot of additional information

gibt es eine Menge mehr Informationen,

saved along in that image.

die mit dem Bild gespeichert werden.

In fact, this image also contains

Tatsächlich beinhaltet dieses Bild

the equivalent of this,

ungefähr das.

more specifically, this.

Genauer gesagt: das.

Sure, it's not likely that someone's going to try

Es ist unwahrscheinlich, dass jemand versucht,

to track me down and do me harm

mich aufzuspüren und mir weh zu tun,

based upon image data associated

aufgrund von Bilddaten eines Fotos,

with a picture I took of my cat,

das ich von meiner Katze gemacht habe,

but I start by assuming the worst will happen.

aber ich muss immer das Schlimmste annehmen.

That's why, when we launched photos on Twitter,

Deshalb entschieden wir, als wir damit begannen,

we made the decision to strip that geodata out.

bei Fotos auf Twitter die Geodaten rauszuziehen.

(Applause)

(Applaus)

Ich gehe vom Schlimmsten aus und arbeite mich dann rückwärts.

If I start by assuming the worst

and work backwards,

I can make sure that the protections we build

So funktionieren die Sicherheitsmaßnahmen

work for both expected

sowohl für die erwarteten als auch

and unexpected use cases.

für die unerwarteten Fälle.

Given that I spend my days and nights

Wenn man sich vorstellt, dass ich mir Tag und Nacht

imagining the worst that could happen,

die schlimmsten Dinge ausdenke,

it wouldn't be surprising if my worldview was gloomy.

wäre es nicht überraschend, wenn ich ein ziemlich düsteres Weltbild hätte.

(Laughter)

(Gelächter)

It's not.

Aber so ist es nicht.

The vast majority of interactions I see --

Die überwältigende Mehrheit der Interaktionen, die ich sehe,

and I see a lot, believe me -- are positive,

-- und ich sehe viele, glauben Sie mir -- sind positiv.

people reaching out to help

Menschen verbinden sich, um zu helfen

or to connect or share information with each other.

oder Informationen miteinander auszutauschen.

It's just that for those of us dealing with scale,

Nur wir, die mit dieser Größenordnung arbeiten,

for those of us tasked with keeping people safe,

die den Auftrag haben, Menschen zu schützen,

we have to assume the worst will happen,

müssen davon ausgehen, dass das Schlimmste passiert.

because for us, a one-in-a-million chance

Weil für uns eine Wahrscheinlichkeit von 1 : 1 000 000

is pretty good odds.

eine ziemlich realistische Wette ist.

Thank you.

Vielen Dank.

(Applause)

(Applaus)