Del Harvey: The strangeness of scale at Twitter

Дель Харви: Особенности масштаба в Твиттере

Переводчик: Alexandra Valieva Редактор: Alina Siluyanova

My job at Twitter

Моя задача в Твиттере —

is to ensure user trust,

обеспечивать доверие пользователей,

protect user rights and keep users safe,

защищать их права и оберегать их

both from each other

как друг от друга,

and, at times, from themselves.

так и иногда от самих себя.

Let's talk about what scale looks like at Twitter.

Давайте обсудим масштаб Твиттера.

Back in January 2009,

В январе 2009 года

we saw more than two million new tweets each day

в день появлялось

on the platform.

более 2 миллионов твитов.

January 2014, more than 500 million.

В январе 2014 года — более 500 миллионов.

We were seeing two million tweets

То есть 2 миллиона твитов

in less than six minutes.

меньше, чем за 6 минут.

That's a 24,900-percent increase.

Это увеличение на 24900%.

Now, the vast majority of activity on Twitter

Большая часть активности в Твиттере

puts no one in harm's way.

никому не угрожает.

There's no risk involved.

Нет никакого риска.

My job is to root out and prevent activity that might.

Моя задача — предотвратить и искоренить то, что может представлять угрозу.

Sounds straightforward, right?

Звучит довольно конкретно, так ведь?

You might even think it'd be easy,

Может, вы даже думаете, что это просто,

given that I just said the vast majority

поскольку я только что сказала, что, по большей части,

of activity on Twitter puts no one in harm's way.

активность в Твиттере безопасна.

Why spend so much time

Зачем тратить время

searching for potential calamities

в поисках потенциальной катастрофы

in innocuous activities?

среди безобидных твитов?

Given the scale that Twitter is at,

Учитывая масштаб Твиттера,

a one-in-a-million chance happens

один шанс на миллион

500 times a day.

случается 500 раз в день.

It's the same for other companies

То же относится и к другим компаниям,

dealing at this sort of scale.

работающим с таким масштабом.

For us, edge cases,

Для нас, особенные случаи,

those rare situations that are unlikely to occur,

подобные редкие, маловероятные ситуации —

are more like norms.

скорее, норма.

Say 99.999 percent of tweets

Допустим, 99,999% твитов

pose no risk to anyone.

безобидны для всех.

There's no threat involved.

Нет никакой опасности.

Maybe people are documenting travel landmarks

Может быть, пользователи пишут о своих путешествиях,

like Australia's Heart Reef,

например, на риф в форме сердца в Австралии

or tweeting about a concert they're attending,

или твитят о концерте, на который они сходили,

or sharing pictures of cute baby animals.

или постят картинки милых детёнышей животных.

After you take out that 99.999 percent,

Если вычесть эти 99,999%,

that tiny percentage of tweets remaining

то оставшаяся доля процента эквивалентна,

works out to roughly

грубо говоря,

150,000 per month.

150 000 твитов в месяц.

The sheer scale of what we're dealing with

Сам масштаб нашей работы

makes for a challenge.

является испытанием.

You know what else makes my role

Знаете, почему ещё моя работа

particularly challenging?

особенно сложная?

People do weird things.

Люди ведут себя странно.

(Laughter)

(Смех)

And I have to figure out what they're doing,

И мне приходится разбираться в том, что они делают,

why, and whether or not there's risk involved,

зачем, и несёт ли это риск,

often without much in terms of context

при этом часто вне контекста

or background.

либо без дополнительных сведений.

I'm going to show you some examples

Я покажу вам несколько примеров того,

that I've run into during my time at Twitter --

с чем мне пришлось столкнуться за время работы в Твиттере.

these are all real examples —

Это взятые из реальной жизни

of situations that at first seemed cut and dried,

ситуации, которые поначалу казались стандартными,

but the truth of the matter was something

однако, на самом деле,

altogether different.

имели совсем другую подоплёку.

The details have been changed

Детали изменены,

to protect the innocent

чтобы защитить невиновных

and sometimes the guilty.

а в некоторых случаях тех, кто виноват.

We'll start off easy.

Начнём с простого.

["Yo bitch"]

[«Эй, сучка»]

If you saw a Tweet that only said this,

Если увидеть такой твит,

you might think to yourself,

то можно подумать:

"That looks like abuse."

«Похоже на оскорбление».

After all, why would you want to receive the message,

С какой стати вам захочется получать сообщение

"Yo, bitch."

«Эй, сучка»?

Now, I try to stay relatively hip

Я, конечно, пытаюсь быть в курсе

to the latest trends and memes,

последних тенденций и мемов,

so I knew that "yo, bitch"

поэтому знаю, что «Эй, сучка» —

was also often a common greeting between friends,

это часто используемое приветствие между друзьями,

as well as being a popular "Breaking Bad" reference.

а также известная фраза из сериала «Во все тяжкие».

I will admit that I did not expect

Признаюсь, я не ожидала

to encounter a fourth use case.

найти ещё одно значение.

It turns out it is also used on Twitter

Оказывается, эту фразу также используют в Твиттере

when people are role-playing as dogs.

люди, изображающие собак в ролевых играх.

(Laughter)

(Смех)

And in fact, in that case,

В этом случае

it's not only not abusive,

это не только не оскорбление,

it's technically just an accurate greeting.

но и, фактически, предельно чёткое приветствие.

(Laughter)

(Смех)

So okay, determining whether or not

Из этого примера понятно, что определить

something is abusive without context,

наличие в твите оскорбления вне контекста

definitely hard.

действительно сложно.

Let's look at spam.

Давайте рассмотрим пример спама.

Here's an example of an account engaged

Вот образец аккаунта,

in classic spammer behavior,

представляющего классическое поведение спамера:

sending the exact same message

он рассылает одно и то же сообщение

to thousands of people.

тысячам людей.

While this is a mockup I put together using my account,

Это модель, которую я создала в своём аккаунте,

we see accounts doing this all the time.

но на деле мы видим такие примеры регулярно.

Seems pretty straightforward.

Казалось бы, понятно, что с этим делать:

We should just automatically suspend accounts

нужно просто автоматически приостанавливать действие аккаунтов,

engaging in this kind of behavior.

демонстрирующих такое поведение.

Turns out there's some exceptions to that rule.

Однако из этого правила есть исключения.

Turns out that that message could also be a notification

Оказывается, это сообщение может также быть уведомлением

you signed up for that the International Space Station is passing overhead

о пролетающей над вами Международной космической станции,

because you wanted to go outside

на которое вы подписались, потому что хотели

and see if you could see it.

выйти из дома и попробовать её разглядеть.

You're not going to get that chance

Если мы по ошибке

if we mistakenly suspend the account

приостановим данный аккаунт, приняв его за спам,

thinking it's spam.

у вас не будет такой возможности.

Okay. Let's make the stakes higher.

Давайте рассмотрим ещё более показательные примеры.

Back to my account,

Снова посмотрим через мой аккаунт

again exhibiting classic behavior.

на образец типичного поведения.

This time it's sending the same message and link.

Теперь он рассылает одно и то же сообщение и ссылку.

This is often indicative of something called phishing,

Часто это показатель так называемого «фишинга»,

somebody trying to steal another person's account information

когда пытаются завладеть информацией с аккаунта другого человека,

by directing them to another website.

направив его на другой вебсайт.

That's pretty clearly not a good thing.

Разумеется, в этом нет ничего хорошего.

We want to, and do, suspend accounts

Мы стремимся приостанавливать аккаунты,

engaging in that kind of behavior.

показывающие такое поведение, и делаем это.

So why are the stakes higher for this?

Так почему же в этом примере высока вероятность ошибки?

Well, this could also be a bystander at a rally

Например, это может быть очевидец на митинге,

who managed to record a video

который записал на видео,

of a police officer beating a non-violent protester

как офицер полиции применяет силу к мирно протестующему гражданину,

who's trying to let the world know what's happening.

и пытается сообщить миру о происходящем.

We don't want to gamble

Мы бы не хотели рисковать

on potentially silencing that crucial speech

и заглушать такие важные сообщения,

by classifying it as spam and suspending it.

приняв их за спам и приостановив действие аккаунта.

That means we evaluate hundreds of parameters

Поэтому мы анализируем сотни разных параметров,

when looking at account behaviors,

изучая поведение аккаунтов,

and even then, we can still get it wrong

и всё равно можем ошибиться,

and have to reevaluate.

и придётся проводить оценку заново.

Now, given the sorts of challenges I'm up against,

Учитывая все трудности, с какими мне приходится сталкиваться,

it's crucial that I not only predict

мне важно не только предупредить опасность,

but also design protections for the unexpected.

но и разработать защиту от неожиданностей.

And that's not just an issue for me,

Это важно не только для меня

or for Twitter, it's an issue for you.

или для Твиттера — это важно для вас.

It's an issue for anybody who's building or creating

Это важно для любого, кто создаёт нечто,

something that you think is going to be amazing

как вам кажется, невероятное

and will let people do awesome things.

и позволяющее людям делать замечательные вещи.

So what do I do?

Что же мне делать?

I pause and I think,

Я задумываюсь:

how could all of this

как же может произойти

go horribly wrong?

ужасная ошибка?

I visualize catastrophe.

Я представляю себе катастрофу.

And that's hard. There's a sort of

Это сложно.

inherent cognitive dissonance in doing that,

Возникает неотъемлемый когнитивный диссонанс,

like when you're writing your wedding vows

как когда приходится

at the same time as your prenuptial agreement.

одновременно сочинять свадебные клятвы и брачный договор.

(Laughter)

(Смех)

But you still have to do it,

Но всё равно приходится это делать,

particularly if you're marrying 500 million tweets per day.

особенно если связываешь себя с 500 миллионами твитов в день.

What do I mean by "visualize catastrophe?"

Что я имею в виду под «представляю себе катастрофу»?

I try to think of how something as

Я пытаюсь представить, как что-то

benign and innocuous as a picture of a cat

милое и безвредное, например, изображение кошки,

could lead to death,

может привести к смертельному случаю,

and what to do to prevent that.

и думаю, как это предотвратить.

Which happens to be my next example.

Покажу это на следующем примере.

This is my cat, Eli.

Это моя кошка Эли.

We wanted to give users the ability

Мы хотели дать пользователям возможность

to add photos to their tweets.

добавлять картинки к твитам.

A picture is worth a thousand words.

Картинка может выразить тысячу слов,

You only get 140 characters.

а у вас в распоряжении всего лишь 140 знаков.

You add a photo to your tweet,

Стоит добавить фото к твиту —

look at how much more content you've got now.

и он становится значительно богаче по содержанию.

There's all sorts of great things you can do

Добавление фото к твиту

by adding a photo to a tweet.

даёт много возможностей.

My job isn't to think of those.

Однако моя задача — думать не об этом,

It's to think of what could go wrong.

а о том, что может пойти не так.

How could this picture

Как эта картинка может

lead to my death?

стать причиной моей смерти?

Well, here's one possibility.

Вот, например, один способ.

There's more in that picture than just a cat.

Это не просто изображение кошки.

There's geodata.

Это ещё и данные о местоположении.

When you take a picture with your smartphone

Когда вы снимаете что-то на смартфон

or digital camera,

или на цифровую камеру,

there's a lot of additional information

в полученном изображении сохраняется

saved along in that image.

много дополнительной информации.

In fact, this image also contains

В действительности, эта картинка также содержит

the equivalent of this,

эквивалент вот этого,

more specifically, this.

а, если быть точнее, вот этого.

Sure, it's not likely that someone's going to try

Конечно, маловероятно, что кто-то попытается

to track me down and do me harm

отследить меня и сделать что-то со мной,

based upon image data associated

основываясь на данных,

with a picture I took of my cat,

связанных с фотографией моей кошки,

but I start by assuming the worst will happen.

но я начинаю думать о худшем варианте развития событий.

That's why, when we launched photos on Twitter,

Поэтому, когда мы запустили фотосервис в Твиттере,

we made the decision to strip that geodata out.

мы решили отказаться от отображения данных о местоположении.

(Applause)

(Аплодисменты)

If I start by assuming the worst

Если я буду думать о худшем варианте

and work backwards,

и отталкиваться от него,

I can make sure that the protections we build

я могу быть уверенной, что защита, которую мы разрабатываем,

work for both expected

подойдёт как для типичных,

and unexpected use cases.

так и для нетипичных случаев.

Given that I spend my days and nights

Учитывая, что я день и ночь только и делаю,

imagining the worst that could happen,

что воображаю себе худший из возможных исходов,

it wouldn't be surprising if my worldview was gloomy.

никого бы не удивило, если бы у меня был мрачный взгляд на мир.

(Laughter)

(Смех)

It's not.

Это не так.

The vast majority of interactions I see --

Большая часть того, что я вижу, —

and I see a lot, believe me -- are positive,

а я вижу много, уж поверьте, — это позитивное общение,

people reaching out to help

когда люди помогают друг другу,

or to connect or share information with each other.

или хотят стать ближе друг другу, или поделиться информацией.

It's just that for those of us dealing with scale,

Дело в том, что работая с масштабом,

for those of us tasked with keeping people safe,

когда необходимо заботиться о безопасности пользователей,

we have to assume the worst will happen,

нам приходится думать о худшем варианте,

because for us, a one-in-a-million chance

потому что в нашем случае шанс один на миллион —

is pretty good odds.

это довольно высокий шанс.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)