Del Harvey: The strangeness of scale at Twitter

מתרגם: Tal Dekkers מבקר: Ido Dekkers

My job at Twitter

העבודה שלי בטוויטר

is to ensure user trust,

היא להבטיח את אמון המשתמש,

protect user rights and keep users safe,

להגן על זכויות המשתמש ולשמור על בטחון המשתמשים

both from each other

גם זה מזה

and, at times, from themselves.

וגם, לעתים, מעצמם.

Let's talk about what scale looks like at Twitter.

בואו נדבר על איך נראה קנה המידה בטוויטר.

Back in January 2009,

בינואר 2009,

we saw more than two million new tweets each day

אנחנו ראינו יותר משני מיליון ציוצים בכל יום

on the platform.

בפלטפורמה.

January 2014, more than 500 million.

ינואר 2014, יותר מ-500 מיליון.

We were seeing two million tweets

אנחנו ראינו יותר משני מיליון ציוצים

in less than six minutes.

בפחות משש דקות.

That's a 24,900-percent increase.

זהו גידול של 24,900 אחוזים.

Now, the vast majority of activity on Twitter

עכשיו, רובם המכריע של הפעילויות בטוויטר

puts no one in harm's way.

לא פוגע באף אחד בשום דרך.

There's no risk involved.

שום סיכון לא מעורב.

My job is to root out and prevent activity that might.

העבודה שלי היא לעקוב ולמנוע פעילויות שעשויות להיות כאלו.

Sounds straightforward, right?

נשמע פשוט, נכון?

You might even think it'd be easy,

אתם עשויים אפילו לחשוב שזה יכול להיות קל,

given that I just said the vast majority

בהתחשב בעובדה שאני רק אמרתי שרובם המכריע

of activity on Twitter puts no one in harm's way.

של הפעילויות בטוויטר לא פוגעות באף אחד בשום דרך.

Why spend so much time

למה לבזבז כל כך הרבה זמן

searching for potential calamities

בחיפוש אסונות פוטנציאליים

in innocuous activities?

בפעילות בלתי מזיקה?

Given the scale that Twitter is at,

בהתחשב בקנה המידה שטוויטר נמצאת בו,

a one-in-a-million chance happens

סיכוי של אחד למיליון קורה

500 times a day.

500 פעמים ביום.

It's the same for other companies

זה אותו דבר בחברות אחרות

dealing at this sort of scale.

שמתמודדות עם אותו קנה מידה.

For us, edge cases,

בשבילנו, מקרי קצה,

those rare situations that are unlikely to occur,

מצבים נדירים אלה שאינם צפויים להתרחש,

are more like norms.

הם יותר כמו נורמות.

Say 99.999 percent of tweets

נגיד ש 99.999 אחוז מהציוצים

pose no risk to anyone.

לא מציבים סיכון לאף אחד.

There's no threat involved.

אין שום איום מעורב.

Maybe people are documenting travel landmarks

אולי אנשים מתעדים ציוני דרך מהנסיעות

like Australia's Heart Reef,

כמו "ריף הלב" של אוסטרליה,

or tweeting about a concert they're attending,

לציוצים על קונצרט שהם משתתפים בו,

or sharing pictures of cute baby animals.

או משתפים תמונות של גורים חמודים של חיות.

After you take out that 99.999 percent,

אחרי שאתם מוציאים את 99.999 האחוזים האלו,

that tiny percentage of tweets remaining

האחוז הזעיר הזה של ציוצים שנשארו

works out to roughly

בפועל יוצא בערך

150,000 per month.

150,000 בחודש.

The sheer scale of what we're dealing with

ההיקף העצום של מה שיש לנו עסק איתו

makes for a challenge.

עושה את זה למאתגר.

You know what else makes my role

אתם יודעים מה עוד עושה את התפקיד שלי

particularly challenging?

למאתגר במיוחד?

People do weird things.

אנשים שעושים דברים משונים.

(Laughter)

(צחוק)

And I have to figure out what they're doing,

ואני צריכה להבין מה הם עושים,

why, and whether or not there's risk involved,

למה, ואם יש או אין סיכון מעורב,

often without much in terms of context

לעתים קרובות ללא הרבה מבחינת הקשר

or background.

או רקע.

I'm going to show you some examples

אני הולכת להראות לכם כמה דוגמאות

that I've run into during my time at Twitter --

שנתקלתי בהן במשך הזמן בעבודתי בטוויטר --

these are all real examples —

אלו כולן דוגמאות אמיתיות --

of situations that at first seemed cut and dried,

של מצבים שנראים במבט ראשון ברורים ומובנים מאליהם,

but the truth of the matter was something

אבל האמת הייתה משהו

altogether different.

שונה לחלוטין.

The details have been changed

הפרטים שונו

to protect the innocent

בכדי להגן על חפים מפשע

and sometimes the guilty.

ולפעמים על האשמים.

We'll start off easy.

ובכן, נתחיל מהקל.

["Yo bitch"]

["יואו, כלבה"]

If you saw a Tweet that only said this,

אם הייתם רואים ציוץ שרק אומר את זה,

you might think to yourself,

הייתם חושבים לעצמכם,

"That looks like abuse."

"זה נראה כמו פגיעה,"

After all, why would you want to receive the message,

אחרי הכל, למה שתרצו לקבל את ההודעה,

"Yo, bitch."

"יואו, כלבה."

Now, I try to stay relatively hip

עכשיו, אני מנסה להשאר יחסית בעניינים

to the latest trends and memes,

למגמות ולממים האחרונים,

so I knew that "yo, bitch"

אז אני יודעת ש "יואו, כלבה"

was also often a common greeting between friends,

גם היתה לעתים קרובות ברכה משותפת בין חברים,

as well as being a popular "Breaking Bad" reference.

כמו גם התייחסות פופולרית ל "שובר שורות".

I will admit that I did not expect

אני מודה שאני לא ציפיתי

to encounter a fourth use case.

להיתקל במקרה השימוש הרביעי.

It turns out it is also used on Twitter

הסתבר שגם משתמשים בזה בטוויטר

when people are role-playing as dogs.

כאשר אנשים משחקים משחק תפקידים ככלבים.

(Laughter)

(צחוק)

And in fact, in that case,

ולמעשה, במקרה הזה,

it's not only not abusive,

לא רק שזה לא מעליב,

it's technically just an accurate greeting.

זו טכנית רק ברכה מדוייקת.

(Laughter)

(צחוק)

So okay, determining whether or not

אז בסדר, לקבוע אם כן או לא

something is abusive without context,

משהו פוגעני ללא הקשר,

definitely hard.

זה קשה בהחלט.

Let's look at spam.

בואו נסתכל על דואר זבל.

Here's an example of an account engaged

הנה דוגמא של חשבון העוסק

in classic spammer behavior,

בהתנהגות קלאסית של הפצת דואר זבל,

sending the exact same message

שליחה של אותה הודעה בדיוק

to thousands of people.

לאלפי אנשים.

While this is a mockup I put together using my account,

בזמן שזה דגם שהכנתי באמצעות החשבון שלי,

we see accounts doing this all the time.

אנו רואים חשבונות שעושים את זה כל הזמן.

Seems pretty straightforward.

נראה די פשוט.

We should just automatically suspend accounts

אנחנו פשוט צריכים באופן אוטומטי להשעות חשבונות

engaging in this kind of behavior.

העוסקים בסוג זה של התנהגות.

Turns out there's some exceptions to that rule.

מסתבר שיש יוצאים מן הכלל לכלל הזה.

Turns out that that message could also be a notification

מסתבר שההודעה הזאת יכולה גם להיות התראה

you signed up for that the International Space Station is passing overhead

שנרשמת אליה שתחנת החלל הבינלאומית חולפת מעלינו

because you wanted to go outside

בגלל שרצית לצאת החוצה

and see if you could see it.

ולראות אם אתה יכול לראות אותה.

You're not going to get that chance

אתה לא תוכל לקבל את ההזדמנות הזאת

if we mistakenly suspend the account

אם אנחנו בטעות נשעה את החשבון

thinking it's spam.

במחשבה שזה דואר זבל.

Okay. Let's make the stakes higher.

בסדר. בואו נעלה את ההימור.

Back to my account,

בחזרה לחשבון שלי,

again exhibiting classic behavior.

שוב מפגין התנהגות קלאסית.

This time it's sending the same message and link.

הפעם זה שולח את אותה הודעה וקישור.

This is often indicative of something called phishing,

הדבר בדרך כלל מעיד על משהו שנקרא פישינג,

somebody trying to steal another person's account information

מישהו מנסה לגנוב מידע מחשבון של אדם אחר

by directing them to another website.

על ידי הפנייתם לאתר אחר.

That's pretty clearly not a good thing.

די ברור שזה אינו דבר טוב.

We want to, and do, suspend accounts

אנחנו רוצים, ומשעים חשבונות

engaging in that kind of behavior.

העוסקים בסוג כזה של התנהגות.

So why are the stakes higher for this?

אז למה הסיכונים גבוהים לזה?

Well, this could also be a bystander at a rally

ובכן, זה יכול להיות גם עובר אורח בעצרת

who managed to record a video

שהצליח להקליט וידאו

of a police officer beating a non-violent protester

של שוטר מכה מפגין לא אלים

who's trying to let the world know what's happening.

שמנסה להראות לעולם מה קורה.

We don't want to gamble

אנחנו לא רוצים להמר על

on potentially silencing that crucial speech

השתקה פוטנציאלית של הנאום החיוני הזה

by classifying it as spam and suspending it.

על ידי סיווגו כדואר זבל והשעייתו.

That means we evaluate hundreds of parameters

זה אומר שאנחנו מעריכים מאות מאפיינים

when looking at account behaviors,

כשאנחנו מסתכלים על התנהגות של חשבונות,

and even then, we can still get it wrong

ואפילו אז, אנחנו עדיין יכולים לטעות

and have to reevaluate.

וצריכים להעריך מחדש.

Now, given the sorts of challenges I'm up against,

עכשיו, בהתחשב בסוגי האתגרים הניצבים מולי,

it's crucial that I not only predict

זה חיוני שאני לא רק אנבא

but also design protections for the unexpected.

אלא גם אעצב הגנות לבלתי צפוי.

And that's not just an issue for me,

וזה לא רק עניין בשבילי,

or for Twitter, it's an issue for you.

או בשביל טוויטר, זה גם עניין בשבילכם.

It's an issue for anybody who's building or creating

זהו עניין לכל אחד שבונה או יוצר

something that you think is going to be amazing

משהו שאתם חושבים שהולך להיות מדהים

and will let people do awesome things.

ויתן לאנשים לעשות דברים נהדרים.

So what do I do?

אז מה אני עושה?

I pause and I think,

אני עוצרת וחושבת,

how could all of this

איך כל זה

go horribly wrong?

יכול להשתבש באופן מחריד?

I visualize catastrophe.

אני מדמיינת קטסטרופה.

And that's hard. There's a sort of

וזה קשה. זה סוג של

inherent cognitive dissonance in doing that,

דיסוננס קוגניטיבי הגלום בעשייה של זה,

like when you're writing your wedding vows

כמו כאשר אתם כותבים את נדרי החתונה שלכם

at the same time as your prenuptial agreement.

באותו הזמן עם הסכם הממון שלכם.

(Laughter)

(צחוק)

But you still have to do it,

אבל אתם עדיין צריכים לעשות את זה,

particularly if you're marrying 500 million tweets per day.

במיוחד אם אתם מתחתנים עם 500 מיליון ציוצים ביום.

What do I mean by "visualize catastrophe?"

למה אני מתכוונת ב"לדמיין קטסטרופה?"

I try to think of how something as

אני מנסה לחשוב על איך שלפעמים

benign and innocuous as a picture of a cat

תמונה שפירה ולא מזיקה כמו תמונה של חתול

could lead to death,

יכולה להוביל למוות,

and what to do to prevent that.

ומה לעשות כדי למנוע זאת.

Which happens to be my next example.

מה שהולכת להיות הדוגמה הבאה שלי.

This is my cat, Eli.

זהו החתול שלי, איליי.

We wanted to give users the ability

רצינו לתת למשתמשים את היכולת

to add photos to their tweets.

להוסיף תמונות לציוצים שלהם.

A picture is worth a thousand words.

תמונה שווה אלף מילים.

You only get 140 characters.

יש לכם רק 140 תווים.

You add a photo to your tweet,

אתם מוסיפים תמונה לציוץ שלכם,

look at how much more content you've got now.

תסתכלו כמה יותר תוכן יש לכם עכשיו.

There's all sorts of great things you can do

יש המון דברים גדולים שתוכלו לעשות

by adding a photo to a tweet.

על ידי הוספה של תמונה לציוץ שלכם.

My job isn't to think of those.

העבודה שלי היא לא לחשוב על אלו.

It's to think of what could go wrong.

היא לחשוב על מה יכול להשתבש.

How could this picture

איך התמונה הזאת

lead to my death?

יכולה להוביל למותי?

Well, here's one possibility.

ובכן, הנה אפשרות אחת.

There's more in that picture than just a cat.

יש בתמונה הזאת יותר מרק חתול.

There's geodata.

יש מידע גיאוגרפי.

When you take a picture with your smartphone

כשאתם מצלמים תמונה עם הטלפון החכם שלכם

or digital camera,

או מצלמה דיגיטלית,

there's a lot of additional information

יש עוד הרבה אינפורמציה נוספת

saved along in that image.

שנשמרת יחד עם התמונה הזאת.

In fact, this image also contains

למעשה, התמונה הזאת גם מכילה

the equivalent of this,

המקבילה של זה,

more specifically, this.

יותר בפרוט, זה.

Sure, it's not likely that someone's going to try

בטח, זה לא סביר שמישהו ינסה

to track me down and do me harm

לעקוב אחרי ולפגוע בי

based upon image data associated

בהתבסס על מידע מהתמונה שמקושר

with a picture I took of my cat,

עם תמונת החתול שלי שצילמתי,

but I start by assuming the worst will happen.

אבל אני יוצא מנקודת הנחה שהגרוע ביותר יקרה.

That's why, when we launched photos on Twitter,

לכן, כשהשקנו את התמונות בטוויטר,

we made the decision to strip that geodata out.

קיבלנו החלטה להוציא את המידע הגיאוגרפי החוצה.

(Applause)

(מחיאות כפיים)

If I start by assuming the worst

אם אני יוצאת מנקודת הנחה הגרוע ביותר

and work backwards,

ועובדת אחורה,

I can make sure that the protections we build

אני יכולה להבטיח שההגנות שאנחנו בונים

work for both expected

יעבדו עבור המקרים הצפויים

and unexpected use cases.

והבלתי צפויים.

Given that I spend my days and nights

בהתחשב בעובדה שאני מבלה את הימים והלילות שלי

imagining the worst that could happen,

בלדמיין את הגרוע ביותר שיכול לקרות,

it wouldn't be surprising if my worldview was gloomy.

זאת לא תהיה הפתעה אם השקפת העולם שלי קודרת.

(Laughter)

(צחוק)

It's not.

זה לא.

The vast majority of interactions I see --

רובן המכריע של האינטראקציות שאני רואה

and I see a lot, believe me -- are positive,

ואני רואה הרבה, תאמינו לי -- הן חיוביות,

people reaching out to help

אנשים מגישים עזרה

or to connect or share information with each other.

או מתחברים או משתפים מידע אחד עם השני.

It's just that for those of us dealing with scale,

זה רק שעבור אלה מאתנו העוסקים בקנה מידה,

for those of us tasked with keeping people safe,

עבור אלה מאתנו שמטרתם היא שמירה על בטחון האנשים,

we have to assume the worst will happen,

אנחנו צריכים להניח שהנורא מכל יקרה,

because for us, a one-in-a-million chance

מפני שעבורנו, סיכוי של אחד למיליון

is pretty good odds.

זה סיכויי די טוב.

Thank you.

תודה לכם.

(Applause)

(מחיאות כפיים)