Del Harvey: The strangeness of scale at Twitter

Del Harvey: Sự kì quặc của hệ thống Twitter

Translator: Dao Ngoc Hanh Reviewer: Nhu PHAM

My job at Twitter

Công việc của tôi tại Twitter

is to ensure user trust,

là đảm bảo sự bảo mật người dùng,

protect user rights and keep users safe,

bảo vệ các quyền lợi và giữ an toàn cho họ,

both from each other

khỏi những người dùng khác

and, at times, from themselves.

và, đôi khi, là từ chính bản thân họ.

Let's talk about what scale looks like at Twitter.

Nói đến hệ thống Twitter.

Back in January 2009,

Vào tháng 1 năm 2009,

we saw more than two million new tweets each day

chúng tôi thống kê được hơn 2 triệu tweets mới mỗi ngày

on the platform.

January 2014, more than 500 million.

Tháng 1 năm 2014, có hơn 500 triệu.

We were seeing two million tweets

2 triệu tweets trong vòng chưa đầy 6 phút.

in less than six minutes.

That's a 24,900-percent increase.

Tăng những 24,900%.

Now, the vast majority of activity on Twitter

Ngày nay, hầu hết các hoạt động trên Twitter

puts no one in harm's way.

không gây tổn hại cho ai.

There's no risk involved.

Không có những rủi ro liên quan.

My job is to root out and prevent activity that might.

Công việc của tôi là loại trừ và ngăn chặn nguy cơ.

Sounds straightforward, right?

Nghe chừng rất đơn giản, phải không?

You might even think it'd be easy,

Thậm chí cho là dễ,

given that I just said the vast majority

rằng tôi chỉ nói đến phần lớn các hoạt động vô hại trên Twitter.

of activity on Twitter puts no one in harm's way.

Why spend so much time

Vậy tại sao lại dành nhiều thời gian

searching for potential calamities

tìm kiếm nguy cơ tiềm tàng

in innocuous activities?

trong hoạt động vô hại này?

Given the scale that Twitter is at,

Với quy mô của Twitter,

a one-in-a-million chance happens

xác suất chỉ là một phần 1 triệu

500 times a day.

tức 500 lần 1 ngày.

It's the same for other companies

Con số này tương tự các công ty khác cùng quy mô.

dealing at this sort of scale.

For us, edge cases,

Với chúng tôi, các trường hợp,

those rare situations that are unlikely to occur,

các tình huống hiếm hoi hầu như không diễn ra này

are more like norms.

giống như những định mức.

Say 99.999 percent of tweets

Cứ cho là 99.999% tweets

pose no risk to anyone.

không gây rủi ro

There's no threat involved.

hay đe dọa nào.

Maybe people are documenting travel landmarks

Mọi người có thể đánh dấu những điểm du lịch

like Australia's Heart Reef,

như Rạn san hô trái tim ở Úc,

or tweeting about a concert they're attending,

hay tweet về buổi hòa nhạc mà họ tham dự,

or sharing pictures of cute baby animals.

hay chia sẻ những bức ảnh về vật nuôi.

After you take out that 99.999 percent,

Ngoài 99.999%,

that tiny percentage of tweets remaining

một phần trăm rất nhỏ các tweets còn lại

works out to roughly

vào khoảng 150,000 mỗi tháng.

150,000 per month.

The sheer scale of what we're dealing with

Tỷ lệ tuyệt đối này trở thành một thách thức.

makes for a challenge.

You know what else makes my role

Điều gì khác làm cho vai trò của tôi trở nên khó khăn?

particularly challenging?

People do weird things.

Con người ta hay làm những điều kì quặc.

(Laughter)

(Cười)

And I have to figure out what they're doing,

Còn tôi thì phải thống kê điều họ làm,

why, and whether or not there's risk involved,

nguyên nhân, và liệu rằng nó có gây rủi ro,

often without much in terms of context

vốn thường không chứa trong hoàn cảnh

or background.

hay bối cảnh xung quanh.

I'm going to show you some examples

Tôi sẽ đưa ra vài ví dụ mà tôi từng gặp

that I've run into during my time at Twitter --

trong thời gian làm việc tại Twitter --

these are all real examples —

tất cả đều là ví dụ thực tiễn --

of situations that at first seemed cut and dried,

về những tình huống tưởng chừng không có gì ,

but the truth of the matter was something

nhưng sự thực lại hoàn toàn khác hẳn.

altogether different.

The details have been changed

Chi tiết đã được thay đổi

to protect the innocent

để bảo vệ người vô tội

and sometimes the guilty.

và đôi khi cả tội phạm.

We'll start off easy.

Chúng ta bắt đầu với những thứ đơn giản.

["Yo bitch"]

["Yo bitch"]

If you saw a Tweet that only said this,

Khi thấy 1 tweet như trên,

you might think to yourself,

bạn có thể nghĩ rằng,

"That looks like abuse."

"Nghe như lăng mạ vậy."

After all, why would you want to receive the message,

Sao bạn lại muốn nhận tin nhắn này:

"Yo, bitch."

"Yo, bitch."

Now, I try to stay relatively hip

Khi cố gắng tiếp cận xu hướng và cập nhật văn hóa,

to the latest trends and memes,

so I knew that "yo, bitch"

tôi biết rằng "yo, bitch"

was also often a common greeting between friends,

cũng là lời chào hỏi giữa bạn bè với nhau,

as well as being a popular "Breaking Bad" reference.

cũng giống như trong "Breaking Bad".

I will admit that I did not expect

Thừa nhận rằng tôi không trông mong

to encounter a fourth use case.

sẽ bắt gặp trường hợp sử dụng thứ 4.

It turns out it is also used on Twitter

Thì ram nó cũng được sử dụng trên Twitter

when people are role-playing as dogs.

khi mà người ta trong vai những con chó.

(Laughter)

(Cười)

And in fact, in that case,

Trên thực tế, trường hợp đó,

it's not only not abusive,

không những không phải lăng mạ,

it's technically just an accurate greeting.

mà còn là một lời chào hỏi kỹ cách.

(Laughter)

(cười)

So okay, determining whether or not

Do vậy, thật sự rất khó để khẳng định

something is abusive without context,

có hay không sự lăng mạ

definitely hard.

ẩn giấu trong nội dung.

Let's look at spam.

Hãy nhìn vào các thư rác.

Here's an example of an account engaged

Dưới đây là ví dụ của một tài khoản

in classic spammer behavior,

gửi thư rác điển hình,

sending the exact same message

gửi cùng một tin nhắn đến hàng nghìn người.

to thousands of people.

While this is a mockup I put together using my account,

Cái này được giả lập bằng tài khoản của tôi,

we see accounts doing this all the time.

ta thấy các tài khoản lúc nào cũng gửi đi tin nhắn.

Seems pretty straightforward.

Không rắc rối lắm.

We should just automatically suspend accounts

Chúng ta tự động đình chỉ tài khoản

engaging in this kind of behavior.

thực hiện các hành vi kiểu này.

Turns out there's some exceptions to that rule.

Vẫn tồn tại một vài ngoại lệ.

Turns out that that message could also be a notification

Các tin nhắn có thể là một thông báo

you signed up for that the International Space Station is passing overhead

đăng ký tham gia Trạm vũ trụ quốc tế

because you wanted to go outside

bởi bạn muốn ra ngoài

and see if you could see it.

và quan sát không gian.

You're not going to get that chance

Bạn sẽ không có cơ hội

if we mistakenly suspend the account

nếu chúng tôi đình chỉ nhầm tài khoản

thinking it's spam.

vì nghĩ đó là thư rác.

Okay. Let's make the stakes higher.

Ổn thôi. Liều hơn nữa nhé.

Back to my account,

Trở lại với tài khoản của tôi,

again exhibiting classic behavior.

và các hành vi điển hình này.

This time it's sending the same message and link.

Bây giờ là gửi tin nhắn và liên kết.

This is often indicative of something called phishing,

Đây thường là dấu hiệu của lừa đảo,

somebody trying to steal another person's account information

ai đó cố ăn cắp thông tin tài khoản của người khác

by directing them to another website.

bằng cách hướng dẫn họ vào một trang web.

That's pretty clearly not a good thing.

Rõ ràng không phải là điều tốt đẹp.

We want to, and do, suspend accounts

Chúng tôi muốn đình chỉ tài khoản

engaging in that kind of behavior.

thực hiện các hành vi kiểu này.

So why are the stakes higher for this?

Vậy tại sao lại liều hơn cho khoản này?

Well, this could also be a bystander at a rally

Vâng, một người đứng ngoài cuộc biểu tình

who managed to record a video

ghi lại cảnh

of a police officer beating a non-violent protester

một cảnh sát đánh đập một người biểu tình không bạo lực

who's trying to let the world know what's happening.

cố gắng cho thế giới biết điều đang xảy ra.

We don't want to gamble

Chúng tôi không muốn mạo hiểm

on potentially silencing that crucial speech

giữ im lặng cho bài phát biểu quan trọng này

by classifying it as spam and suspending it.

bằng cách phân vào nhóm thư rác và đình chỉ nó.

That means we evaluate hundreds of parameters

Chúng tôi phải đánh giá hàng trăm thông số

when looking at account behaviors,

về hành vi của tài khoản,

and even then, we can still get it wrong

sau đó, thậm chí, chúng tôi có thể sai

and have to reevaluate.

và phải đánh giá lại.

Now, given the sorts of challenges I'm up against,

Bây giờ, những thách thức mà tôi phải vượt qua

it's crucial that I not only predict

không hẳn là dự đoán mà còn là bảo vệ thiết kế

but also design protections for the unexpected.

trước những điều không ngờ.

And that's not just an issue for me,

Đây không chỉ là vấn đề của riêng tôi,

or for Twitter, it's an issue for you.

của twitter; mà là vấn đề cho bạn

It's an issue for anybody who's building or creating

cho bất kì ai tạo ra

something that you think is going to be amazing

thứ mà bạn nghĩ sẽ bất ngờ

and will let people do awesome things.

và khiến người khác làm những điều bất ngờ.

So what do I do?

Vậy, tôi sẽ làm gì?

I pause and I think,

Tôi dừng lại và suy nghĩ,

how could all of this

liệu những điều này có thể trở thành sai lầm khủng khiếp?

go horribly wrong?

I visualize catastrophe.

Tôi hình dung ra bi kịch.

And that's hard. There's a sort of

Thật là khó.

inherent cognitive dissonance in doing that,

Hàng chuỗi mâu thuẫn trong nhận thức vốn có

like when you're writing your wedding vows

giống như khi đọc lời thề đám cưới

at the same time as your prenuptial agreement.

hay thỏa thuận tiền hôn nhân.

(Laughter)

(Cười)

But you still have to do it,

Nhưng bạn sẽ vẫn phải làm điều đó,

particularly if you're marrying 500 million tweets per day.

đặc biệt là khi bạn có 500 triệu tweets mỗi ngày.

What do I mean by "visualize catastrophe?"

Ý tôi là gì khi nói "vẽ ra bi kịch"

I try to think of how something as

Tôi cố gắng nghĩ bằng mọi cách

benign and innocuous as a picture of a cat

một bức hình con mèo hiền lành vô hại có thể

could lead to death,

dẫn đến cái chết,

and what to do to prevent that.

và cần làm gì để ngăn cản điều này.

Which happens to be my next example.

Trong ví dụ tiếp theo, điều gì xảy ra đây.

This is my cat, Eli.

Chú mèo của tôi, Eli

We wanted to give users the ability

Chúng tôi muốn cho người dùng khả năng

to add photos to their tweets.

thêm hình ảnh vào tweet của mình.

A picture is worth a thousand words.

Trăm nghe không bằng mắt thấy.

You only get 140 characters.

Mà bạn chỉ có thể viết 140 kí tự.

You add a photo to your tweet,

Thêm 1 bức hình vào tweet, nhìn xem có bao nhiêu là nội dung.

look at how much more content you've got now.

There's all sorts of great things you can do

Nhiều điều tuyệt vời có thể làm

by adding a photo to a tweet.

bằng cách thêm hình vào tweet.

My job isn't to think of those.

Công việc của tôi không phải là nghĩ đến chúng

It's to think of what could go wrong.

mà là nghĩ đến những mối nguy.

How could this picture

Bằng cách nào bức hình này có thể dẫn tới cái chết?

lead to my death?

Well, here's one possibility.

Đây là một khả năng.

There's more in that picture than just a cat.

Có nhiều thứ hơn là bức hình con mèo.

There's geodata.

Các dữ kiện địa lý.

When you take a picture with your smartphone

Khi chụp hình bằng điện thoại thông minh

or digital camera,

hay camera kỹ thuật số,

there's a lot of additional information

có rất nhiều thông tin đi kèm

saved along in that image.

được lưu giữ cùng bức ảnh.

In fact, this image also contains

Những bức ảnh này cũng hàm chứa

the equivalent of this,

điều tương đương,

more specifically, this.

rất đặc trưng.

Sure, it's not likely that someone's going to try

Gần như chắc chắn rằng, không ai có thể

to track me down and do me harm

theo dõi và làm hại tôi

based upon image data associated

chỉ dựa vào thông số đi kèm

with a picture I took of my cat,

với bức hình con mèo mà tôi tải lên,

but I start by assuming the worst will happen.

nhưng tôi bắt đầu giả định điều tồi tệ nhất.

That's why, when we launched photos on Twitter,

Đó là lí do, khi đưa ảnh lên Twitter,

we made the decision to strip that geodata out.

chúng tôi quyết định tách dữ liệu địa lý ra.

(Applause)

(Vỗ tay)

If I start by assuming the worst

Nếu bắt đầu bằng các giả định xấu nhất

and work backwards,

và truy ngược lại,

I can make sure that the protections we build

tôi có thể chắc chắn rằng sự bảo vệ là dành cho

work for both expected

tất cả các trường hợp.

and unexpected use cases.

Given that I spend my days and nights

Cho rằng tôi dành ngày đêm

imagining the worst that could happen,

tưởng tượng ra điều tệ nhất có thế xảy đến

it wouldn't be surprising if my worldview was gloomy.

Không ngạc nhiên nếu thế giới quan của tôi ảm đạm.

(Laughter)

(Cười)

It's not.

Không.

The vast majority of interactions I see --

Phần lớn các phản ứng mà tôi thấy

and I see a lot, believe me -- are positive,

và thấy rất nhiều, tin tôi đi rất tích cực

people reaching out to help

mọi người cần sự giúp đỡ

or to connect or share information with each other.

hay liên kết hoặc chia sẻ thông tin.

It's just that for those of us dealing with scale,

Chỉ một số trong chúng ta làm việc với hệ thống,

for those of us tasked with keeping people safe,

bảo đảm sự an toàn cho người dùng,

we have to assume the worst will happen,

chúng ta phải giả định những điều tệ nhất

because for us, a one-in-a-million chance

bởi vì xác suất một trong 1 triệu

is pretty good odds.

thì không phải là nhỏ.

Thank you.

Xin cảm ơn.

(Applause)

(Vổ tay)