Del Harvey: The strangeness of scale at Twitter

번역: K Bang 검토: Damin Park

My job at Twitter

저는 트위터에서 하는 일은

is to ensure user trust,

사용자의 신뢰를 구축하고,

protect user rights and keep users safe,

권리를 보호하며, 그들을 안전하게 보호하는 것입니다.

both from each other

사용자 간에도 그렇고

and, at times, from themselves.

사용자 자신에 대해서도 마찬가지입니다.

Let's talk about what scale looks like at Twitter.

트위터의 규모가 어떤지 한번 보도록 하시죠.

Back in January 2009,

2009년 1월로 돌아가 보면

we saw more than two million new tweets each day

트위터 상에 매일 약 2백만 개 이상의 새로운 트윗이

on the platform.

게시되었습니다.

January 2014, more than 500 million.

2014년 1월에는 5억 건이 넘었습니다.

We were seeing two million tweets

2백만 개의 트윗이

in less than six minutes.

6분도 되지 않는 시간에 게시되는 것이죠.

That's a 24,900-percent increase.

그건 대략 24,900%의 증가입니다.

Now, the vast majority of activity on Twitter

트위터 상에서 대다수의 활동은

puts no one in harm's way.

그 누구에게도 해를 가하지 않습니다.

There's no risk involved.

어떤 위험도 없습니다.

My job is to root out and prevent activity that might.

저의 임무는 위험할지 모를 행위를

분류하고 예방하는 것이에요.

간단하게 들리시죠?

Sounds straightforward, right?

You might even think it'd be easy,

쉽다고 생각하실지도 모르겠어요.

given that I just said the vast majority

방금 제가 말씀드렸듯 트위터 내 대부분의 행위는

of activity on Twitter puts no one in harm's way.

다른 이에게 해가 되지 않으니까요.

Why spend so much time

그런데 왜 무해한 행위 가운데

searching for potential calamities

문제가 될지 모를 행위를 찾는데

in innocuous activities?

그렇게 많은 시간을 허비할까요?

Given the scale that Twitter is at,

현재 트위터의 규모를 고려해보면

a one-in-a-million chance happens

백만 분의 일이라는 확률은

500 times a day.

하루에 500번 일어납니다.

It's the same for other companies

이 정도의 규모를 다루는 회사들은

dealing at this sort of scale.

모두 비슷한 상황에 있어요.

For us, edge cases,

저희로서는 극단적인 상황,

those rare situations that are unlikely to occur,

거의 발생할 것 같지 않은 드문 상황들이

are more like norms.

좀 더 일반적입니다.

Say 99.999 percent of tweets

말하자면 99.999%의 트윗은

pose no risk to anyone.

사람들에게 아무런 위험이 되지 않아요.

There's no threat involved.

어떤 위험 요소도 없습니다.

Maybe people are documenting travel landmarks

누구는 호주의 하트형 산호초와 같은

like Australia's Heart Reef,

여행의 중요 지점을 문서화하기도 하고

or tweeting about a concert they're attending,

다른 누구는 참석한 음악회에 대해 트윗을 하죠.

or sharing pictures of cute baby animals.

혹은 귀여운 어린 동물 사진을 공유하기도 합니다.

After you take out that 99.999 percent,

그런 99.999%를 제외하고 남은

that tiny percentage of tweets remaining

아주 작은 일부가

works out to roughly

대략

150,000 per month.

한 달에 150,000건 정도 됩니다.

The sheer scale of what we're dealing with

저희가 처리하고 있는 그 단순한 숫자는

makes for a challenge.

도전이 됩니다.

You know what else makes my role

그 외에 어떤 것이 제 직책을

particularly challenging?

특별히 힘들게 할까요?

People do weird things.

사람들은 정말 이상한 짓도 합니다.

(Laughter)

(웃음)

And I have to figure out what they're doing,

그리고 전 그 사람들이 무엇을 하는지 알아내야하고

why, and whether or not there's risk involved,

그 이유와 잠재적 관련 위험도 알아내야만 합니다.

often without much in terms of context

종종 그 내용이나 배경을

or background.

잘 모른 체 말이죠.

I'm going to show you some examples

제가 트위터에서 일하면서 맞닥뜨린 몇 가지 예를

that I've run into during my time at Twitter --

보여드리도록 하겠습니다.

these are all real examples —

이건 모두 실제의 예들입니다.

of situations that at first seemed cut and dried,

이런 것들은 처음 보기에는 말끔하고 단순해 보이지만

but the truth of the matter was something

사실은 매우

altogether different.

다른 것들이기도 합니다.

The details have been changed

죄없는 사람들과

to protect the innocent

때로는 문제가 있는 사람들을 보호하기 위해

and sometimes the guilty.

세부 내용은 바꾼 것입니다.

We'll start off easy.

쉬운 것부터 시작해보죠.

["Yo bitch"]

["개같은 년"]

If you saw a Tweet that only said this,

트위터에서 단순히 이렇게 말한 것을 보신다면

you might think to yourself,

이렇게 생각하실지도 모르죠.

"That looks like abuse."

"욕설이군."

After all, why would you want to receive the message,

어쨌든 왜 이런 메세지를 받고 싶어하겠습니까?

"Yo, bitch."

"개같은 년"

Now, I try to stay relatively hip

저는 최신 유행과 문화 요소에

to the latest trends and memes,

잘 따라가려고 노력합니다.

so I knew that "yo, bitch"

그래서 전 "개같은 년"이란 욕설은

was also often a common greeting between friends,

흔히 친구들 사이에 일반적인 인사란 걸 알았습니다.

as well as being a popular "Breaking Bad" reference.

인기있는 "브레이킹 배드"로 인해 유명해지기도 했었죠.

I will admit that I did not expect

사실 저는 네번째 사용처에 대해서는

to encounter a fourth use case.

전혀 예상하지 못했다고 인정합니다.

It turns out it is also used on Twitter

트위터에서는 이 말은 사람들이

when people are role-playing as dogs.

개 연기를 할 때 사용하는 것으로 드러났습니다.

(Laughter)

(웃음)

And in fact, in that case,

사실, 이런 경우에

it's not only not abusive,

이건 욕도 아닐 뿐더러

it's technically just an accurate greeting.

엄밀히 말하면 딱 알맞는 인사법이기도 하죠.

(Laughter)

(웃음)

So okay, determining whether or not

좋습니다. 문장도 없이

something is abusive without context,

뭔가가 욕인지 아닌지 결정하는 것은

definitely hard.

분명히 어려운 일입니다.

Let's look at spam.

스팸을 볼까요.

Here's an example of an account engaged

여기 전형적인 스팸의 행동을 보이는

in classic spammer behavior,

계정의 예가 있습니다.

sending the exact same message

정말 똑같은 메세지를

to thousands of people.

수천 명의 사람들에게 보내는 거죠.

While this is a mockup I put together using my account,

이건 제 계정을 이용해서 가짜로 만들어 본 것인데

we see accounts doing this all the time.

이런 짓을 하는 사람들이 항상 있습니다.

Seems pretty straightforward.

상당히 확실해 보이지요.

We should just automatically suspend accounts

저희는 이런 행동을 하는 의심스런 계정은

engaging in this kind of behavior.

자동적으로 정지시킵니다.

Turns out there's some exceptions to that rule.

이런 규칙에 몇몇 예외가 있습니다.

Turns out that that message could also be a notification

저 메세지는 당신이 국제 우주 정거장을

you signed up for that the International Space Station is passing overhead

밖에 나가 볼 수 있는지 확인하고 싶어

because you wanted to go outside

그게 지금 머리 위를 지나고 있는지 알려주는

and see if you could see it.

메세지 일 수도 있습니다.

You're not going to get that chance

저희가 그걸 스팸으로 잘못 알고

if we mistakenly suspend the account

계정을 실수로 정지시키면

thinking it's spam.

사람들은 그렇게 할 기회를 갖지 못하겠죠.

Okay. Let's make the stakes higher.

이제 수위를 좀 더 높여보겠습니다.

Back to my account,

제 계정으로 돌아가서

again exhibiting classic behavior.

고전적인 행동을 다시 보여드리죠.

This time it's sending the same message and link.

이번에는 똑같은 메세지와 링크를 보내고 있습니다.

This is often indicative of something called phishing,

이건 보통 피싱이라는 걸 표시하는 신호입니다.

somebody trying to steal another person's account information

누군가 사람들을 다른 웹사이트로 이끌어

by directing them to another website.

그 사람들의 계정 정보를 탈취하는 겁니다.

That's pretty clearly not a good thing.

분명히 옳은 행동이 아니죠.

We want to, and do, suspend accounts

저희는 이런 행동을 보이는 계정은

engaging in that kind of behavior.

정지시키길 원하고 실제로 그렇게 합니다.

So why are the stakes higher for this?

왜 이런 경우의 위험성이 더 클까요?

Well, this could also be a bystander at a rally

자, 이건 마치 집회 현장에서

who managed to record a video

무슨 일이 일어나고 있는지 세상에 알리려는

of a police officer beating a non-violent protester

비폭력적 집회 참여자를

who's trying to let the world know what's happening.

구타하는 경찰을 녹화하는 구경꾼과 같은데요.

We don't want to gamble

저희는 중요한 의견을 스팸으로 처리하거나

on potentially silencing that crucial speech

정지시킴으로써 잠재적으로

by classifying it as spam and suspending it.

침묵을 강요하는 도박을 하고 싶지는 않아요.

That means we evaluate hundreds of parameters

그 말은 우리가 계정 활동을 볼 때,

when looking at account behaviors,

수백개의 변수를 감정한다는 겁니다.

and even then, we can still get it wrong

심지어 그 후에도 실수가 있을 수 있고

and have to reevaluate.

평가 작업을 다시 해야 하기도 하죠.

Now, given the sorts of challenges I'm up against,

제가 직면하는 모든 종류의 도전을 감안할 때

it's crucial that I not only predict

전 예측하는 것뿐만 아니라 예상 밖의 것에 대한

but also design protections for the unexpected.

안전 장치를 만드는 것도 중요합니다.

And that's not just an issue for me,

그건 저만의 문제가 아니라

or for Twitter, it's an issue for you.

트위터에 대해 여러분이 제기하는 문제점이에요.

It's an issue for anybody who's building or creating

그건 여러분이 대단할거라 생각하고

something that you think is going to be amazing

또 사람들로 하여금 멋진 일을 하게 해줄 것을

and will let people do awesome things.

만들고 창조하는 그 누구에게든 문제가 됩니다.

So what do I do?

그럼 저는 어떻게 할까요?

I pause and I think,

잠시 멈춰 생각하는 겁니다.

how could all of this

어떻게 이 모든 것이 상상할 수 조차 없게

go horribly wrong?

잘못될 수 있을까?

I visualize catastrophe.

저는 최악의 상황을 떠올립니다.

And that's hard. There's a sort of

그건 어려운 일이에요.

inherent cognitive dissonance in doing that,

그렇게 하는 데에는 일종의 내재적, 인지적 불협화음이 있죠.

like when you're writing your wedding vows

마치 혼인 서약서를 쓰는 동시에

at the same time as your prenuptial agreement.

혼전 합의서를 작성하는 것 같은거죠.

(Laughter)

(웃음)

But you still have to do it,

그래도 해야 합니다.

particularly if you're marrying 500 million tweets per day.

특히 하루 5억 건의 트윗과 결혼하려면요.

What do I mean by "visualize catastrophe?"

제가 "최악을 떠올린다" 라는건 무슨 말일까요?

I try to think of how something as

저는 고양이 사진처럼

benign and innocuous as a picture of a cat

악의없이 천진난만한 것이

could lead to death,

어떻게 죽음을 야기하는지

and what to do to prevent that.

그리고 그런 걸 어떻게 방지할지 생각하려고 합니다.

Which happens to be my next example.

그것이 제가 준비한 다음 예인데요.

This is my cat, Eli.

이건 제가 고양이 엘리입니다.

We wanted to give users the ability

저희는 사용자들에게

to add photos to their tweets.

자신의 트위터에 사진을 올릴 수 있게 하고 싶었습니다.

A picture is worth a thousand words.

사진은 천 마디 말의 값어치가 있으니까요.

You only get 140 characters.

단어는 겨우 140개 밖에 쓸 수 없잖아요.

You add a photo to your tweet,

트위터에 사진을 올리면

look at how much more content you've got now.

얼마나 많은 내용이 채워지는지 한번 보세요.

There's all sorts of great things you can do

트위터에 사진을 올릴 수 있으면

by adding a photo to a tweet.

상당히 많은 대단한 것들을 할 수 있습니다.

My job isn't to think of those.

제 직업은 그런 것을 생각하는 것이 아니에요.

It's to think of what could go wrong.

그게 어떻게 잘못 될 수 있는지 생각해내는 것이죠.

How could this picture

이 사진이 어떻게

lead to my death?

절 죽음으로 이끌 수 있을까요?

Well, here's one possibility.

이런 가능성이 있습니다.

There's more in that picture than just a cat.

저 사진에는 고양이 이상의 것이 담겨 있어요.

There's geodata.

지리 정보가 있죠.

When you take a picture with your smartphone

스마트폰이나 디지털 카메라로

or digital camera,

사진을 찍으면

there's a lot of additional information

수많은 부가 정보가 그 사진과 함께

saved along in that image.

저장됩니다.

In fact, this image also contains

사실 이 사진에는

the equivalent of this,

그런 비슷한 게 들어있어요.

more specifically, this.

더 정확하게는 바로 이겁니다.

Sure, it's not likely that someone's going to try

맞습니다. 제가 찍은 고양이 사진에

to track me down and do me harm

담긴 정보를 이용하여

based upon image data associated

누군가가 저에 대해 알아보고

with a picture I took of my cat,

저를 해칠 것 같지는 않아요.

but I start by assuming the worst will happen.

하지만 전 최악이 일어날거라 가정하며 시작합니다.

That's why, when we launched photos on Twitter,

그게 바로 저희가 트위터에 사진을 올릴 수 있게 했을 때

we made the decision to strip that geodata out.

지리 정보를 지운다는 결정을 내린 이유에요.

(Applause)

(박수)

If I start by assuming the worst

최악의 가정으로 시작해서

and work backwards,

역으로 작업하면

I can make sure that the protections we build

저희가 만드는 개인 보호 장치가

work for both expected

예상했거나 예상치 못했던 상황

and unexpected use cases.

모두에서 사용되게 할 수 있습니다.

Given that I spend my days and nights

일어날 수 있는 최악을 밤낮으로

imagining the worst that could happen,

생각하며 시간을 보냈다고 할 때

it wouldn't be surprising if my worldview was gloomy.

제 세계관이 우울하다 해도 놀랄 일이 아니지요.

(Laughter)

(웃음)

It's not.

그렇지 않습니다.

The vast majority of interactions I see --

제가 보는 대부분의 상호 반응,

and I see a lot, believe me -- are positive,

사실 전 엄청 많이 보는데요, 거의 다 긍정적입니다.

people reaching out to help

도움을 주려고 하거나

or to connect or share information with each other.

서로 연결하여 정보를 공유하는 사람들입니다.

It's just that for those of us dealing with scale,

이만한 규모를 다루고

for those of us tasked with keeping people safe,

사람들을 안전하게 보호해야 하는

we have to assume the worst will happen,

저희는 최악의 상황이 발생할거라 가정해야만 합니다.

because for us, a one-in-a-million chance

왜냐하면 저희에게 백만분의 일이라는 확률은

is pretty good odds.

엄청나게 큰 확률이기 때문입니다.

Thank you.

감사합니다.

(Applause)

(박수)