Del Harvey: The strangeness of scale at Twitter

Перекладач: Mariia Chepela Утверджено: Khrystyna Romashko

My job at Twitter

Моя робота в компанії "Твіттер" полягає в тому,

is to ensure user trust,

щоб забезпечувати довіру користувачів,

protect user rights and keep users safe,

захищати їхні права і охороняти їх,

both from each other

як одне від одного,

and, at times, from themselves.

так і, деколи, від самих себе.

Let's talk about what scale looks like at Twitter.

Пропоную обговорити, як виглядає масштаб у Твіттері.

Back in January 2009,

Ще у січні 2009 року

we saw more than two million new tweets each day

на платформі можна було побачити понад два мільйони

on the platform.

твітів щодня.

January 2014, more than 500 million.

У січні 2014 року - понад 500 мільйонів.

We were seeing two million tweets

Ми спостерігали два мільйони твітів

in less than six minutes.

менш, ніж за шість хвилин.

That's a 24,900-percent increase.

Це збільшення на 24 900 відсотків.

Now, the vast majority of activity on Twitter

Наразі переважна більшість активності на Твіттері

puts no one in harm's way.

не чинить ніякої шкоди.

There's no risk involved.

Немає жодного ризику.

My job is to root out and prevent activity that might.

Моє завдання полягає у викоріненні та недопусканні активності, яка може його спричинити.

Sounds straightforward, right?

Звучить доволі просто, чи не так?

You might even think it'd be easy,

Вам навіть може здатись, що це легко,

given that I just said the vast majority

оскільки, як я щойно сказала, переважна більшість

of activity on Twitter puts no one in harm's way.

активності на Твіттері нікому не шкодить.

Why spend so much time

Навіщо ж тоді витрачати стільки часу

searching for potential calamities

на пошуки потенційних небезпек

in innocuous activities?

у безневинних діях?

Given the scale that Twitter is at,

Беручи до уваги масштаб Твіттера,

a one-in-a-million chance happens

шанс "один на мільйон" стається

500 times a day.

500 разів на день.

It's the same for other companies

Така ж ситуація з іншими компаніями,

dealing at this sort of scale.

які працюють з такими масштабами.

For us, edge cases,

Для нас крайні випадки,

those rare situations that are unlikely to occur,

тобто ті рідкісні ситуації, які навряд чи стануться,

are more like norms.

це норма.

Say 99.999 percent of tweets

Скажімо, 99,999 відсотків твітів

pose no risk to anyone.

не загрожують нікому.

There's no threat involved.

Немає ніякої загрози.

Maybe people are documenting travel landmarks

Можливо, люди фільмують визначні місця подорожі,

like Australia's Heart Reef,

як от австралійський Харт Риф,

or tweeting about a concert they're attending,

чи пишуть твіти про концерт, який вони відвідують,

or sharing pictures of cute baby animals.

чи розміщують фото милих маленьких звіряток.

After you take out that 99.999 percent,

Після того, як ви заберете ті 99.999 відсотків,

that tiny percentage of tweets remaining

залишиться крихітна частина твітів,

works out to roughly

яка становить близько

150,000 per month.

150 тис. на місяць.

The sheer scale of what we're dealing with

Справжній масштаб того, з чим ми працюємо,

makes for a challenge.

потребує прикладення зусиль.

You know what else makes my role

Знаєте, що ще потребує від мене

particularly challenging?

особливих зусиль?

People do weird things.

Люди роблять дивні речі.

(Laughter)

(Сміх)

And I have to figure out what they're doing,

І мені потрібно з'ясувати, що вони роблять,

why, and whether or not there's risk involved,

чому, і чи не становить це загрози.

often without much in terms of context

Часто я не знаю контексту

or background.

чи ситуації.

I'm going to show you some examples

Я покажу вам кілька прикладів,

that I've run into during my time at Twitter --

які трапились мені протягом моєї роботи у Твіттері --

these are all real examples —

це реальні випадки ситуацій,

of situations that at first seemed cut and dried,

які спочатку здавалися зрозумілими,

but the truth of the matter was something

але насправді все виявлялось

altogether different.

зовсім іншим.

The details have been changed

Ми змінили деталі для

to protect the innocent

захисту невинних,

and sometimes the guilty.

а деколи і винних користувачів.

We'll start off easy.

Почнемо з простого.

["Yo bitch"]

["Гей, сучка"]

If you saw a Tweet that only said this,

Якщо ви побачите твіт лише з цією інформацією,

you might think to yourself,

ви подумаєте:

"That looks like abuse."

"Виглядає як образа."

After all, why would you want to receive the message,

Зрештою, вам навряд чи хотілось би отримати повідомлення

"Yo, bitch."

"Гей, сучка."

Now, I try to stay relatively hip

Отож, я намагаюсь слідкувати

to the latest trends and memes,

за останніми трендами та мемами,

so I knew that "yo, bitch"

тому я знаю, що "гей, сучка" --

was also often a common greeting between friends,

це типове привітання між друзями,

as well as being a popular "Breaking Bad" reference.

а також згадка про популярний серіал "Пуститися берега".

I will admit that I did not expect

Зізнаюсь, що я не очікувала

to encounter a fourth use case.

зіткнутися з таким випадком.

It turns out it is also used on Twitter

Виявляється, що такий вираз використовують у Твіттері,

when people are role-playing as dogs.

коли люди пишуть від імені собак.

(Laughter)

(Сміх)

And in fact, in that case,

І насправді, в такому випадку,

it's not only not abusive,

це не лише не образа,

it's technically just an accurate greeting.

а просто нормальне привітання.

(Laughter)

(Сміх)

So okay, determining whether or not

Гаразд, отож, визначити чи можна щось

something is abusive without context,

вважати образливим чи ні без додаткової інформації

definitely hard.

насправді важко.

Let's look at spam.

Погляньмо на спам.

Here's an example of an account engaged

Ось приклад облікового запису із класичними

in classic spammer behavior,

ознаками спамера:

sending the exact same message

надсилання однакового повідомлення

to thousands of people.

тисячам людей.

While this is a mockup I put together using my account,

Оскільки це макет, я використала свій обліковий запис,

we see accounts doing this all the time.

однак ми бачимо таку ситуацію постійно.

Seems pretty straightforward.

Здається, ніби все зрозуміло.

We should just automatically suspend accounts

Нам слід просто автоматично призупинити

engaging in this kind of behavior.

облікові записи, від яких спостерігається така активність.

Turns out there's some exceptions to that rule.

Виявляється, що існують винятки з такого правила.

Turns out that that message could also be a notification

Виявляється, що таке повідомлення може сповіщати про те,

you signed up for that the International Space Station is passing overhead

що ви підписались на сповіщення від Міжнародної космічної станції,

because you wanted to go outside

бо ви хочете вийти надвір і побачити,

and see if you could see it.

коли вона пролітатиме над вами.

You're not going to get that chance

Ви втратите такий шанс,

if we mistakenly suspend the account

якщо ми випадково видалимо профіль,

thinking it's spam.

вважаючи його спамом.

Okay. Let's make the stakes higher.

Гаразд. Піднімемо ставки.

Back to my account,

Повернемось до мого профілю,

again exhibiting classic behavior.

який демонструє класичну поведінку.

This time it's sending the same message and link.

Цього разу він надсилає однакове повідомлення і посилання.

This is often indicative of something called phishing,

Це сигналізує про так званий "фішинг",

somebody trying to steal another person's account information

ситуацію, коли хтось намагається викрасти інформацію профілю іншого користувача,

by directing them to another website.

направляючи його на інший веб-сайт.

That's pretty clearly not a good thing.

Це явно не дуже добре.

We want to, and do, suspend accounts

Ми хочемо і намагаємось видаляти профілі,

engaging in that kind of behavior.

які займаються такою діяльністю.

So why are the stakes higher for this?

Отож, чому ставки тут вищі?

Well, this could also be a bystander at a rally

Це може бути спостерігач на мітингу,

who managed to record a video

якому вдалося записати відео,

of a police officer beating a non-violent protester

як полісмен б'є мирного протестувальника,

who's trying to let the world know what's happening.

і який намагається розповісти про це світу.

We don't want to gamble

Ми не хочемо замовчувати

on potentially silencing that crucial speech

таке важливе повідомлення,

by classifying it as spam and suspending it.

визначаючи це як спам, і видаляти його.

That means we evaluate hundreds of parameters

Це означає, що ми оцінюємо сотні параметрів,

when looking at account behaviors,

спостерігаючи за поведінкою профілів,

and even then, we can still get it wrong

і навіть тоді ми все ж можемо помилитись,

and have to reevaluate.

і нам потрібно оцінити ситуацію по-новому.

Now, given the sorts of challenges I'm up against,

Отож, беручи до уваги всі проблеми, з якими я стикаюсь,

it's crucial that I not only predict

мені важливо не лише передбачити,

but also design protections for the unexpected.

але й розробити захист від непередбачуваного.

And that's not just an issue for me,

І це проблема не тільки для мене

or for Twitter, it's an issue for you.

чи для Твіттера, це проблема і для вас.

It's an issue for anybody who's building or creating

Це проблема для всіх, хто будує чи створює

something that you think is going to be amazing

щось таке, що, на його думку, буде чудовим

and will let people do awesome things.

і дозволить людям творити чудові речі.

So what do I do?

Отож, що я роблю?

I pause and I think,

Я зупиняюсь і думаю,

how could all of this

як це все може

go horribly wrong?

вийти з-під контролю?

I visualize catastrophe.

Я уявляю катастрофу.

And that's hard. There's a sort of

А це складно. В цьому існує певний

inherent cognitive dissonance in doing that,

вроджений когнітивний дисонанс,

like when you're writing your wedding vows

щось схоже, коли ви одночасно пишете

at the same time as your prenuptial agreement.

свої весільні клятви і передшлюбний контракт.

(Laughter)

(Сміх)

But you still have to do it,

Проте вам все ж потрібно це зробити,

particularly if you're marrying 500 million tweets per day.

особливо, якщо ви "одружуєтесь" з 500 мільйонами твітів щодня.

What do I mean by "visualize catastrophe?"

Що я маю на увазі під "уявлянням катастрофи"?

I try to think of how something as

Я намагаюсь уявити, як щось

benign and innocuous as a picture of a cat

таке нешкідливе як фото кота,

could lead to death,

може призвести до смерті,

and what to do to prevent that.

і що потрібно зробити, щоб запобігти цьому.

Which happens to be my next example.

Про це буде мій наступний приклад.

This is my cat, Eli.

Це моя кішка, Елі.

We wanted to give users the ability

Ми хотіли надати користувачам можливість

to add photos to their tweets.

додавати фото до твітів.

A picture is worth a thousand words.

Фото може замінити тисячі слів.

You only get 140 characters.

У вас лише 140 символів.

You add a photo to your tweet,

Ви додаєте фото до твіта

look at how much more content you've got now.

і погляньте, наскільки більше інформації маєте.

There's all sorts of great things you can do

Додаючи фото до твіта,

by adding a photo to a tweet.

ви можете робити багато чудових речей.

My job isn't to think of those.

Моя робота полягає не в тому, щоб думати про це.

It's to think of what could go wrong.

Вона полягає в тому, щоб думати, що може піти не так.

How could this picture

Як це фото може

lead to my death?

спричинити мою смерть?

Well, here's one possibility.

Ось одна можливість.

There's more in that picture than just a cat.

На цьому фото не лише кішка.

There's geodata.

В ньому міститься геоінформація.

When you take a picture with your smartphone

Коли ви робите знімок своїм смартфоном

or digital camera,

або цифровим фотоапаратом,

there's a lot of additional information

у зображенні зберігається

saved along in that image.

багато додаткової інформації.

In fact, this image also contains

Насправді, це фото також містить

the equivalent of this,

відповідник цього,

more specifically, this.

а точніше - цього.

Sure, it's not likely that someone's going to try

Звісно, навряд чи хтось буде намагатись

to track me down and do me harm

прослідкувати за мною і нанести мені шкоду

based upon image data associated

на основі інформації про фото

with a picture I took of my cat,

моєї кішки.

but I start by assuming the worst will happen.

Проте спершу я припускаю найгірше.

That's why, when we launched photos on Twitter,

Саме тому, коли ми запустили фото на Твіттері,

we made the decision to strip that geodata out.

ми вирішили видалити геоінформацію.

(Applause)

(Оплески)

If I start by assuming the worst

Якщо я припускаю найгірше

and work backwards,

і рухаюсь у зворотньому напрямку,

I can make sure that the protections we build

я переконуюсь, що захист, який ми створюємо,

work for both expected

працюватиме і в передбачуваних,

and unexpected use cases.

і в непередбачуваних ситуаціях.

Given that I spend my days and nights

Беручи до уваги те, що днями і ночами

imagining the worst that could happen,

я уявляю найгірше, що може трапитись,

it wouldn't be surprising if my worldview was gloomy.

буде не дивно, якщо мій світогляд виявиться досить похмурим.

(Laughter)

(Сміх)

It's not.

Це не так.

The vast majority of interactions I see --

Переважна більшість ситуацій, які я спостерігаю,

and I see a lot, believe me -- are positive,

а я бачу їх багато, повірте, -- позитивні,

people reaching out to help

люди намагаються допомогти

or to connect or share information with each other.

поширити інформацію між собою.

It's just that for those of us dealing with scale,

Це тільки через те, що ми маємо справу з таким масштабом,

for those of us tasked with keeping people safe,

і відповідаємо за безпеку людей,

we have to assume the worst will happen,

нам потрібно припускати найгірший розвиток подій,

because for us, a one-in-a-million chance

тому що для нас навіть один випадок на мільйон

is pretty good odds.

значить багато.

Thank you.

Дякую.

(Applause)

(Оплески)