Del Harvey: The strangeness of scale at Twitter

دل هاروى: قدرت مقياس در توييتر

Translator: Leila Ataei Reviewer: soheila Jafari

My job at Twitter

شغل من در توییتر

is to ensure user trust,

تضمین اعتماد کاربر،

protect user rights and keep users safe,

حمایت از حقوق کاربر و حفظ امنیت کاربران است،

both from each other

هر دوشان را از یکدیگر

and, at times, from themselves.

و گهگاه از خودشان.

Let's talk about what scale looks like at Twitter.

بیایید درباره این که مقیاس آن در توییتر به چه شکلی است صحبت کنیم.

Back in January 2009,

در ژانویه سال ۲۰۰۹،

we saw more than two million new tweets each day

ما شاهد بیش از دو میلیون توییت جدید از این

on the platform.

پلت فرم بودیم.

January 2014, more than 500 million.

ژانویه ۲۰۱۴، بیش از ۵۰۰ میلیون.

We were seeing two million tweets

ما شاهد ۲ میلیون توییت بودیم

in less than six minutes.

در کمتر از شش دقیقه.

That's a 24,900-percent increase.

افزایشی ۲۴٫۹۰۰ درصدی.

Now, the vast majority of activity on Twitter

الان، اکثریت عمده فعالیت در توییتر

puts no one in harm's way.

کسی را دچار مشکل نمی کند به کسی آسیب وارد نمی کند.

There's no risk involved.

هیچ ریسکی را در برنمی گیرد.

My job is to root out and prevent activity that might.

شغل من ریشه کردن و ممانعت از فعالیتی احتمالی هست.

Sounds straightforward, right?

خیلی سرراست واضح به نظر می رسد، اینطور نیست؟

You might even think it'd be easy,

حتی شاید فکر کنید که میتونه آسان باشد،

given that I just said the vast majority

با فرض این که الان گفتم اکثریت عمده

of activity on Twitter puts no one in harm's way.

فعالیت در توییت به کسی آسیب وارد نمی کند.

Why spend so much time

ما وقت خیلی زیادی رو صرف

searching for potential calamities

جستجوی برای فجایع بالقوه

in innocuous activities?

در فعالیتهای بی ضرر می کنیم؟

Given the scale that Twitter is at,

با فرض این مقیاس که تويئتر با احتمال

a one-in-a-million chance happens

یک در یک میلیون، ۵۰۰ بار

500 times a day.

در روز اتفاق میفتد.

It's the same for other companies

سرو کار داشتن با این نوع مقیاس

dealing at this sort of scale.

برای سایر کمپانیها هم مشابه هست.

For us, edge cases,

برای ما، موارد اج (به موردی گفته میشه که در حداکثر و یا حداقل اتفاق میوفته)

those rare situations that are unlikely to occur,

آن موقعیتهای نادری هستند که وقوعشان غیرمحتمل است،

are more like norms.

بیشتر حالت نرمال دارند.

Say 99.999 percent of tweets

بگیریم ۹۹٫۹۹۹ درصد از از توییتها

pose no risk to anyone.

خطری را به کسی وارد نمی کنند.

There's no threat involved.

هیچ تهدیدی در میان نیست.

Maybe people are documenting travel landmarks

شاید آدمها چشم اندازه های مسافرتی را مستند می کنند

like Australia's Heart Reef,

از قبیل هارت ریف در استرالیا

or tweeting about a concert they're attending,

یا توییت کردن درباره کنسرتی که در آن حضور یافتند،

or sharing pictures of cute baby animals.

یا به اشتراک گذاشتن تصاویری از بچه های بامزه حیوانات.

After you take out that 99.999 percent,

بعد از احتساب آن ۹۹٫۹۹۹۹ درصد،

that tiny percentage of tweets remaining

که درصد خردی از توییتهای باقی میمانند

works out to roughly

که در ماه حدود

150,000 per month.

۱۵۰٫۰۰۰ می شود.

The sheer scale of what we're dealing with

مقیاسی محض از آنچه با آن مواجه هستیم

makes for a challenge.

آن را به چالش می کشد.

You know what else makes my role

می دونید چه چیز دیگری نقش من را

particularly challenging?

بطور خاصی چالشی می کند؟

People do weird things.

آدمهای کارهای عجیبی انجام می دهند.

(Laughter)

(خنده)

And I have to figure out what they're doing,

و من باید سر دربیارم که چه کاری می کنند،

why, and whether or not there's risk involved,

چرا، و ا این که خواه ریسکی در کار باشد یا خیر،

often without much in terms of context

غالبا بی آنکه چندان تابع متن

or background.

یا زمینه باشد.

I'm going to show you some examples

می خواهم به شما برخی مثالها را نشان دهم

that I've run into during my time at Twitter --

که در طی همکاریم با توییتر با آنها برخورد کرده ام--

these are all real examples —

اینها مثالهای واقعی هستند--

of situations that at first seemed cut and dried,

از موقعیتهای که در وهله نخست شفاف و صریح به نظر می رسیدند

but the truth of the matter was something

اما واقعیت امر کاملا چیزی

altogether different.

دیگر بود.

The details have been changed

جزییات تغییر یافته اند تا

to protect the innocent

از بی گناه و بعضا گناه کار

and sometimes the guilty.

حمایت شود.

We'll start off easy.

اگر چنین توییتی را تنها با این مضمون ببینید،

["Yo bitch"]

شاید با خودتون فکر کنید،

If you saw a Tweet that only said this,

"به نظر سوءاستفاده کردن می رسد."

you might think to yourself,

شاید با خودتان فکر کنید،

"That looks like abuse."

" مثل سوءرفتار به نظر می رسد."

After all, why would you want to receive the message,

آخه چرا باید بخواهید که پیغامی این چنینی دریافت کنید،

"Yo, bitch."

"Yo, bitch."

Now, I try to stay relatively hip

حال، سعی دارم نسبت به آخرین

to the latest trends and memes,

اصطلاحات و گرایشها نسبتا به روز باشم.

so I knew that "yo, bitch"

بنابراین میدانم که این عبارت

was also often a common greeting between friends,

یک جور سلام و علیک معمول بین رفقا هست،

as well as being a popular "Breaking Bad" reference.

و البته تیکه کلام محبوب در سریال برکینگ بد.

I will admit that I did not expect

می پذیرم که انتظار نداشتم

to encounter a fourth use case.

با مورد چهارمی از کاربردش مواجه شوم.

It turns out it is also used on Twitter

معلوم شد که در توییتر نیز استفاده می شود

when people are role-playing as dogs.

وقتی آدمها بعنوان سگ نقش آفرینی می کنند.

(Laughter)

(خنده)

And in fact, in that case,

و در واقع، در آن مورد،

it's not only not abusive,

نه تنها سوء رفتار نیست،

it's technically just an accurate greeting.

بلکه از لحاظ فنی یک احوال پرسی صحیح است.

(Laughter)

(خنده)

So okay, determining whether or not

خب بنابراین، تعیین این که خواه چیزی

something is abusive without context,

بدون متن سوءرفتار است یا نه

definitely hard.

قطعا دشوار است.

Let's look at spam.

بیایید به هرزنامه ها نگاهی بیندازیم.

Here's an example of an account engaged

در اینجا با مثالی از حساب کاربری مواجه هستیم که

in classic spammer behavior,

درگیر رفتار هرزنامه ای کلاسیک می باشد،

sending the exact same message

با فرستادن یک پیغام مشابه

to thousands of people.

به هزاران شخص.

While this is a mockup I put together using my account,

هر چند چیزی که اینجا داریم ساختگی است و من از حساب کاربری خودم استفاده کردم،

we see accounts doing this all the time.

اما شاهد حسابهایی هستیم که دائم این کار را می کنند.

Seems pretty straightforward.

اصلا پیچیده نیست.

We should just automatically suspend accounts

ما فقط باید حسابهای ر که در چنین رفتار مشارکت دارند

engaging in this kind of behavior.

را بطور اتومات معلق کنیم.

Turns out there's some exceptions to that rule.

اما از قرار معلوم استثناهایی هم هست.

Turns out that that message could also be a notification

از قرار معلوم اینطور پیامها می توانند آگاه سازی باشند

you signed up for that the International Space Station is passing overhead

که شما برای ایستگاه فضایی بین المللی که از بالای سرتا می گذرد ثبت نام کرده اید

because you wanted to go outside

چون قصد داشتید بیرون رفته

and see if you could see it.

و ببینید که قادر به دیدنش هستید.

You're not going to get that chance

شما این شانس را به دست نمی آورید

if we mistakenly suspend the account

اگر به اشتباه حساب شما را با این فکر که هرزنامه است

thinking it's spam.

معلق می کردیم.

Okay. Let's make the stakes higher.

بسیار خب. بیایید دایره خطر را بالاتر ببریم.

Back to my account,

برگردیم سراغ حساب من،

again exhibiting classic behavior.

با به نمایش مجدد رفتار کلاسیک.

This time it's sending the same message and link.

این بار همان پیام مشابه را بهمراه آدرس صفحه ای می فرستد.

This is often indicative of something called phishing,

اغلب نمایانگر چیزی است که فیشینگ نام دارد.

somebody trying to steal another person's account information

کسی سعی می کند اطلاعات حساب شخص دیگری را سرقت کند

by directing them to another website.

با هدایت کردن آنها به وب سایت دیگری.

That's pretty clearly not a good thing.

کاملا بدیهی است که کار خوبی نیست.

We want to, and do, suspend accounts

ما میخواهیم و این کار را انجام می دهیم،حسابهای

engaging in that kind of behavior.

مشارکت کننده در این نوع رفتار را معلق می کنیم.

So why are the stakes higher for this?

بنابراین چرا احتمال ریسک در اینها بیشتر است؟

Well, this could also be a bystander at a rally

خب، این همچنین می تواند نظارهگری در یک راهپیمایی باشد

who managed to record a video

که موفق به ضبط ویدیویی

of a police officer beating a non-violent protester

از افسر پلیسی شده که معترض آرامی را مورد ضرب و شتم قرار داده

who's trying to let the world know what's happening.

کسی که تلاش می کند تا آنچه رخ می دهد را به دنیا خبر دهد.

We don't want to gamble

ما با ساکت کردن آن صدای بالقوه

on potentially silencing that crucial speech

قصد قمار کردن آن صدای ضروری را بواسطه

by classifying it as spam and suspending it.

طبقه بندی کردن جزء هرزنامه و معلق کردنش نداریم.

That means we evaluate hundreds of parameters

این به آن معناست که ما صدها پارامتر را با نگاه کردن

when looking at account behaviors,

به رفتار حسابهای کاربری ارزیابی می کنیم

and even then, we can still get it wrong

و حتی بعد، ما هنوز می توانیم ادرباره ش اشتباه کرده

and have to reevaluate.

و به ارزیتبی مججد آن بپردازیم.

Now, given the sorts of challenges I'm up against,

حال با فرض تمامی این چالش هایی که باید علیه شان اقدام کنم

it's crucial that I not only predict

نه تنها ضروری است که پیش بینی کنم

but also design protections for the unexpected.

بلکه همچنین حمایتهایی را برای موارد غیرمنتظره طراحی کنم.

And that's not just an issue for me,

و این نه تنها دغدغه من یا توییتر است

or for Twitter, it's an issue for you.

بلکه دغدغه شما هم هست.

It's an issue for anybody who's building or creating

دغدغه هر کسی است که سازنده یا خالق چیزی است

something that you think is going to be amazing

که شما فکر می کنید قرار است شگفت انگیز باشد

and will let people do awesome things.

و به آدمها امکان انجام کارهای فوق العاده را دهد.

So what do I do?

پس باید چکار کنم؟

I pause and I think,

مکث کرده و فکر می کنم؟

how could all of this

چطور ممکن است که همه اینها

go horribly wrong?

بطپر وحشتناکی اشتباه باشد؟

I visualize catastrophe.

این فاجعه را به تصویر می کشم.

And that's hard. There's a sort of

و دشوار است. نوعی ناهنجاری

inherent cognitive dissonance in doing that,

درونی ادراکی در انجام آن وجود دارد که

like when you're writing your wedding vows

مثل وقتی میماند که شما در حین مکتوب کردن عهد ازدواجتان،

at the same time as your prenuptial agreement.

موافقتنامه قبل از عقد را امضا می کنید.

(Laughter)

(خنده)

But you still have to do it,

اما هنوز باید این کار را انجام دهید،

particularly if you're marrying 500 million tweets per day.

بخصوص اگر روزانه با ۵۰۰ میلیون توییت ازدواج می کنید.

What do I mean by "visualize catastrophe?"

منظورم از " فاجعه بصری" چیه؟

I try to think of how something as

سعی دارم به این فکر کنم که چطور چیز

benign and innocuous as a picture of a cat

بی خطر و بی ضرری مثل تصویر یک گربه

could lead to death,

می تواند منجر به مرگ گردد،

and what to do to prevent that.

و برای پیشگیری از آن چه باید کرد.

Which happens to be my next example.

که قرار است مثال بعدی من باشد.

This is my cat, Eli.

این گربه ام، الی است.

We wanted to give users the ability

میخواستیم به کاربرها این امکان را بدهیم

to add photos to their tweets.

که عکسهایی را به توییتهایشان اضافه کنند.

A picture is worth a thousand words.

یک تصویرارزشی برابر ۱۰۰۰ واژه دارد.

You only get 140 characters.

تنها ۱۴۰ حرف دارید.

You add a photo to your tweet,

عکسی را به توییت خود اضافه می کنید،

look at how much more content you've got now.

الان به میزان محتویاتی که الان دارید نگاه کنید.

There's all sorts of great things you can do

انواع کلی از چیزهای زیادی وجود دارد که شما با افزودن

by adding a photo to a tweet.

عکسی به یک توییت بتوانید انجام دهید.

My job isn't to think of those.

شغل من فکر کردن درباره آنها نیست.

It's to think of what could go wrong.

فکر کردن به این است که چه چیزهایی می توانند درست پیش نروند.

How could this picture

این تصویر چطور می تواند

lead to my death?

به مرگ من منتهی شود؟

Well, here's one possibility.

خب، یک احتمال هست.

There's more in that picture than just a cat.

در آن تصویر چیزی بیش از یک گربه وجود دارد.

There's geodata.

ژئودیتا (داده های زمینی).

When you take a picture with your smartphone

وقتی با تلفن هوشمندتان یا دوربین دیجیتال

or digital camera,

عکس می گیرید،

there's a lot of additional information

کلی اطلاعات اضافی وجود دارد

saved along in that image.

که در کنار عکس ذخیره میشود.

In fact, this image also contains

در واقع، این تصویر همچنین شامل

the equivalent of this,

معادل این میشود،

more specifically, this.

دقیقترش میشود این.

Sure, it's not likely that someone's going to try

مطمئنا مثل این نیست که کسی بخواهد تلاش کند

to track me down and do me harm

رد من رو گرفته و بهم آسیب برسونهاد

based upon image data associated

بر اساس داده تصویری که مرتبط با

with a picture I took of my cat,

با عکسی هست که از گربه ام گرفتم،

but I start by assuming the worst will happen.

اما با این فرض شروع می کنم که بدترین اتفاق خواهد افتاد.

That's why, when we launched photos on Twitter,

به این خاطر که وقتی شروع به فرستادن عکس روی توئیتر کردیم

we made the decision to strip that geodata out.

در واقع تصمیم به حذف اطلاعات اضافی عکس ها گرفتیم.

(Applause)

(تشویق)

If I start by assuming the worst

اگر با فرض بدترین شروع کنم

and work backwards,

و وارونه کار کنم،

I can make sure that the protections we build

می تونم مطمئن بشم که حمایتهایی که ما میسازیم

work for both expected

درهر دو مورد استفاده قابل توقع

and unexpected use cases.

و غیر منتظره کار خواهد کرد.

Given that I spend my days and nights

با فرض این که روزها و شبهام را صرف

imagining the worst that could happen,

تصور کردن بدترین چیز که ممکن است اتفاق بیفتد می کنم.

it wouldn't be surprising if my worldview was gloomy.

جای تعجب نیست اگر چشم انداز جهانی من غم انگیز باشد.

(Laughter)

(خنده)

It's not.

اما نیست.

The vast majority of interactions I see --

بخش وسیعی از تعاملاتی را که من شاهدشان هستم،

and I see a lot, believe me -- are positive,

باور کنید که شاهد بسیاری بودم---مثبت هستند،

people reaching out to help

آدمهایی که دست یاری دراز می کنند

or to connect or share information with each other.

یا اطلاعات را با هم به اشتراک می گذارند و با هم ارتباط برقرار می کنند.

It's just that for those of us dealing with scale,

تنها درباره آن دسته از ماست که با مقیاس سروکار دارند،

for those of us tasked with keeping people safe,

برای آن دسته ای از ما که وظیفه شون ایمن نگهداشتن آدمهاست،

we have to assume the worst will happen,

باید فرض کنیم که بدترین اتفاق خواهد افتاد،

because for us, a one-in-a-million chance

چون برای ما، احتمال یک در یک میلیون

is pretty good odds.

شانس نسبتا خوبیست.

Thank you.

متشکرم.

(Applause)

(تشویق)