Del Harvey: The strangeness of scale at Twitter

デル・ハーヴェイ: Twitterの規模がもたらす変なこと

翻訳: Yasushi Aoki 校正: Takafusa Kitazume

My job at Twitter

Twitterでの 私の仕事は

is to ensure user trust,

ユーザーの信頼を確保し

protect user rights and keep users safe,

ユーザーの権利を守り 安全を保つということです

both from each other

他のユーザーから

and, at times, from themselves.

そして 時には 彼ら自身から

Let's talk about what scale looks like at Twitter.

Twitterの規模が どのようなものか 見てみましょう

Back in January 2009,

2009年1月には

we saw more than two million new tweets each day

１日に200万以上の ツイートがありました

on the platform.

１日に200万以上の ツイートがありました

January 2014, more than 500 million.

2014年1月には１日のツイート数は 5億以上になりました

We were seeing two million tweets

200万のツイートが

in less than six minutes.

６分足らずの間に行われます

That's a 24,900-percent increase.

24,900%増加したわけです

Now, the vast majority of activity on Twitter

Twitter上の活動の大多数は 誰かを危険にさらすことはありません

puts no one in harm's way.

Twitter上の活動の大多数は 誰かを危険にさらすことはありません

There's no risk involved.

何のリスクもありません

My job is to root out and prevent activity that might.

私の仕事は 危険な可能性のある 活動をなくし 予防することです

Sounds straightforward, right?

単純な話に聞こえるでしょう？

You might even think it'd be easy,

簡単そうだと

given that I just said the vast majority

なにしろTwitter上の 活動の大多数は

of activity on Twitter puts no one in harm's way.

無害なものなのですから

Why spend so much time

ではなぜ そのような 害のない活動の中から

searching for potential calamities

潜在的な危険を探すために

in innocuous activities?

多くの時間を 費やしているのでしょう？

Given the scale that Twitter is at,

Twitterの規模を考えたなら

a one-in-a-million chance happens

百万に１つの可能性は

500 times a day.

１日に500回起きるのです

It's the same for other companies

これは こんな規模を扱う 他の企業でも同様です

dealing at this sort of scale.

これは こんな規模を扱う 他の企業でも同様です

For us, edge cases,

私たちにとって

those rare situations that are unlikely to occur,

起きそうにない まれなケースというのが

are more like norms.

日常的に起きるのです

Say 99.999 percent of tweets

99.999%のツイートに

pose no risk to anyone.

何ら危険が

There's no threat involved.

なかったとしましょう

Maybe people are documenting travel landmarks

オーストラリアの ハートリーフのような場所で

like Australia's Heart Reef,

旅の記録を 取っているのか

or tweeting about a concert they're attending,

参加しているコンサートのことを つぶやいているのか

or sharing pictures of cute baby animals.

あるいは かわいい動物の赤ちゃんの 写真を見せているのかもしれません

After you take out that 99.999 percent,

そのような99.999%を 取り除いた後に残る

that tiny percentage of tweets remaining

ごくわずかの ツイートの数は

works out to roughly

おおよそ

150,000 per month.

月に15万になります

The sheer scale of what we're dealing with

私たちの扱っている 規模の大きさが

makes for a challenge.

難題を生み出しているのです

You know what else makes my role

私の仕事を 難しくする

particularly challenging?

もう１つのものが 何かわかりますか？

People do weird things.

人間って変なことをする ということです

(Laughter)

(笑)

And I have to figure out what they're doing,

彼らが何を なぜやっているのか

why, and whether or not there's risk involved,

そこに危険がないか 見極めなければなりません

often without much in terms of context

あまり文脈や背景の

or background.

情報なしにです

I'm going to show you some examples

私がTwitterで 仕事する中で出会った

that I've run into during my time at Twitter --

例をいくつか お目にかけましょう

these are all real examples —

いずれも実際の事例です

of situations that at first seemed cut and dried,

一見ありきたりの 状況に見えながら

but the truth of the matter was something

真実はまったく異なる—

altogether different.

という例です

The details have been changed

細部は 罪のない人の あるいは

to protect the innocent

罪ある人かもしれませんが

and sometimes the guilty.

プライバシーを守るため 変えてあります

We'll start off easy.

簡単なのから いきましょう

["Yo bitch"]

[“Yo bitch” (おう メス犬)]

If you saw a Tweet that only said this,

このツイートだけ見たら

you might think to yourself,

罵り言葉だと

"That looks like abuse."

思うことでしょう

After all, why would you want to receive the message,

誰が「おう メス犬」 なんてメッセージを

"Yo, bitch."

受け取りたいと 思うでしょう

Now, I try to stay relatively hip

私は最近のトレンドや ミームには

to the latest trends and memes,

敏感であろうと 努めていますので

so I knew that "yo, bitch"

“Yo bitch”が

was also often a common greeting between friends,

友達同士の挨拶に 使われることや

as well as being a popular "Breaking Bad" reference.

人気ドラマ『ブレーキング・バッド』の台詞の 引用でありうることは承知しています

I will admit that I did not expect

しかしこの第４の用法は

to encounter a fourth use case.

正直予期していませんでした

It turns out it is also used on Twitter

これはTwitterで 犬のフリをして話す時に

when people are role-playing as dogs.

使われるということです

(Laughter)

[“Yo bitch” (おう メス犬)] (笑)

And in fact, in that case,

この場合には

it's not only not abusive,

罵り言葉でないだけでなく

it's technically just an accurate greeting.

むしろ状況に即した 正しい挨拶と言えるでしょう

(Laughter)

(笑)

So okay, determining whether or not

何かの言葉が 口汚いかどうかを

something is abusive without context,

文脈抜きに判断するのは

definitely hard.

困難なのです

Let's look at spam.

スパムを考えてみましょう

Here's an example of an account engaged

これは典型的な スパマーの行動です

in classic spammer behavior,

これは典型的な スパマーの行動です

sending the exact same message

まったく同一のメッセージを 何千という人に送りつけます

to thousands of people.

まったく同一のメッセージを 何千という人に送りつけます

While this is a mockup I put together using my account,

これは私自身のアカウントで 真似て見せたものですが

we see accounts doing this all the time.

このようなものは しょっちゅう目にしています

Seems pretty straightforward.

すごく分かりやすいですよね

We should just automatically suspend accounts

このようなことを しているアカウントは

engaging in this kind of behavior.

自動的に閉鎖して しまうべきでしょう

Turns out there's some exceptions to that rule.

しかし例外があることが 分かりました

Turns out that that message could also be a notification

あのようなメッセージが

you signed up for that the International Space Station is passing overhead

頭上を通過する 国際宇宙ステーションを

because you wanted to go outside

外に出て見られるよう 通知してくれる

and see if you could see it.

サービスかもしれないのです

You're not going to get that chance

これをスパムとみなして

if we mistakenly suspend the account

アカウントを閉鎖してしまったら

thinking it's spam.

みんな宇宙ステーションを 見逃してしまうでしょう

Okay. Let's make the stakes higher.

より重大なケースを 考えてみましょう

Back to my account,

再び私のアカウントで

again exhibiting classic behavior.

典型的な問題行動を 模倣してみました

This time it's sending the same message and link.

多数の同一メッセージを リンク付きで送るというものです

This is often indicative of something called phishing,

これはフィッシングと呼ばれるものに よく見受けられます

somebody trying to steal another person's account information

他のサイトに 誘導することで

by directing them to another website.

アカウント情報を 盗もうとするのです

That's pretty clearly not a good thing.

明らかに良くないことです

We want to, and do, suspend accounts

このような活動を しているアカウントは

engaging in that kind of behavior.

停止したいし 実際停止していますが

So why are the stakes higher for this?

ではなぜこれが 重大だというのでしょう？

Well, this could also be a bystander at a rally

これは もしかしたら

who managed to record a video

無抵抗の抗議者に

of a police officer beating a non-violent protester

暴力を振るう警官を 目撃者が録画し

who's trying to let the world know what's happening.

世界に伝えようと しているのかもしれないのです

We don't want to gamble

それをスパムに分類して

on potentially silencing that crucial speech

重要な言論を封じて しまうような危険を

by classifying it as spam and suspending it.

冒したくはありません

That means we evaluate hundreds of parameters

だからアカウントの 活動を見る時には

when looking at account behaviors,

何百という尺度を 使っていますが

and even then, we can still get it wrong

それでも時には間違い

and have to reevaluate.

再確認を要することが あり得ます

Now, given the sorts of challenges I'm up against,

私が直面している難題の 種類を考えるなら

it's crucial that I not only predict

惨事を予想するだけでなく

but also design protections for the unexpected.

予想外のことから守る仕組みを 設けることも重要です

And that's not just an issue for me,

これは私やTwitterにとって だけの問題ではなく

or for Twitter, it's an issue for you.

皆さんの問題でもあるのです

It's an issue for anybody who's building or creating

みんなが素晴らしいことを できるようにする

something that you think is going to be amazing

何かすごいものを 作ろうとしている

and will let people do awesome things.

すべての人にとっての 問題です

So what do I do?

ではどうするのか？

I pause and I think,

立ち止まって こう考えるんです

how could all of this

「まったく酷いことが

go horribly wrong?

これから起きるとしたら どのようにしてか？」

I visualize catastrophe.

惨事を思い描くのです

And that's hard. There's a sort of

これは難しいことです

inherent cognitive dissonance in doing that,

一種の認知的不協和があります

like when you're writing your wedding vows

結婚の誓いの言葉と同時に

at the same time as your prenuptial agreement.

婚前同意書を作ろうとする ようなものです

(Laughter)

(笑)

But you still have to do it,

でもやらなければ ならないんです

particularly if you're marrying 500 million tweets per day.

１日５億のツイートと 結婚すると決めたなら

What do I mean by "visualize catastrophe?"

惨事を思い描くというのは

I try to think of how something as

猫の写真のような 害のないものが

benign and innocuous as a picture of a cat

いかに人の死に つながりうるか

could lead to death,

それを いかに防げるか 考えるということです

and what to do to prevent that.

それを いかに防げるか 考えるということです

Which happens to be my next example.

次のケースが まさにその例です

This is my cat, Eli.

これは私の猫のイーライです

We wanted to give users the ability

私たちはツイートに写真を

to add photos to their tweets.

付けられるように したいと思いました

A picture is worth a thousand words.

百聞は一見にしかずです

You only get 140 characters.

たった140文字のツイートに

You add a photo to your tweet,

写真を付けたなら

look at how much more content you've got now.

どれほど内容が 豊かになるでしょう

There's all sorts of great things you can do

ツイートに写真を付けることで

by adding a photo to a tweet.

可能になる素晴らしいことが たくさんあります

My job isn't to think of those.

でもそれを考えるのは 私の仕事ではありません

It's to think of what could go wrong.

それがどうマズくなりうるか 考えるのが私の仕事です

How could this picture

この写真がどうしたら

lead to my death?

私の死につながりうるのか？

Well, here's one possibility.

たとえば こんな可能性があります

There's more in that picture than just a cat.

この写真に写っていのは 猫だけではありません

There's geodata.

GPS情報があります

When you take a picture with your smartphone

携帯やデジカメで

or digital camera,

写真を撮る時 画像とともに保存される

there's a lot of additional information

写真を撮る時 画像とともに保存される

saved along in that image.

様々な情報があります

In fact, this image also contains

この画像には

the equivalent of this,

これと同等の情報

more specifically, this.

より具体的には この位置情報が含まれています

Sure, it's not likely that someone's going to try

私が撮った猫の写真の

to track me down and do me harm

付随情報から 私の居所を突き止め

based upon image data associated

悪さをしようという人が

with a picture I took of my cat,

いるとも思えませんが

but I start by assuming the worst will happen.

しかし私は最悪のことは起こると 仮定するところから始めます

That's why, when we launched photos on Twitter,

私たちがツイートに写真を 付けられるようにした時

we made the decision to strip that geodata out.

GPS情報が取り除かれる ようにしたのは そのためです

(Applause)

(拍手)

If I start by assuming the worst

常に最悪のことを仮定し

and work backwards,

保守的に構えることで

I can make sure that the protections we build

私たちの作る守りが 間違いなく

work for both expected

予期されることにも

and unexpected use cases.

予期せざることにも 働くようにできます

Given that I spend my days and nights

起こりうる最悪のことを

imagining the worst that could happen,

いつも想像して 過ごしていたら

it wouldn't be surprising if my worldview was gloomy.

私の世界観が暗いものになったとしても 不思議はないでしょう

(Laughter)

(笑)

It's not.

でもそうではありません

The vast majority of interactions I see --

私が目にする やりとりの大多数は

and I see a lot, believe me -- are positive,

本当にたくさん見ていますが ポジティブなのです

people reaching out to help

人々が助けの手を伸ばし

or to connect or share information with each other.

互いに繋がり合い 情報を共有し合っています

It's just that for those of us dealing with scale,

ただ私たちのような 大規模のものを扱い

for those of us tasked with keeping people safe,

人々の安全を保つことを 仕事とする者は

we have to assume the worst will happen,

最悪のことは起こると 仮定せざるを得ないのです

because for us, a one-in-a-million chance

私たちにとって 百万に１つという可能性というのは

is pretty good odds.

至極起きがちなことだからです

Thank you.

ありがとうございました

(Applause)

(拍手)