Del Harvey: The strangeness of scale at Twitter

Translator: Bagus D Ramadhan Reviewer: Gita Arimanda

My job at Twitter

Pekerjaan saya di Twitter

is to ensure user trust,

adalah untuk menjaga kepercayaan pengguna,

protect user rights and keep users safe,

melindungi hak mereka dan menjaga keamanan mereka,

both from each other

baik dari sesama pengguna,

and, at times, from themselves.

dan kadang-kadang, dari diri mereka sendiri.

Let's talk about what scale looks like at Twitter.

Mari bicara tentang skalanya di Twitter.

Back in January 2009,

Pada bulan Januari 2009,

we saw more than two million new tweets each day

kami melihat lebih dari 2 juta kicauan baru setiap hari

on the platform.

di aplikasi ini.

January 2014, more than 500 million.

Januari 2014, lebih dari 500 juta.

We were seeing two million tweets

Ada 2 juta kicauan baru

in less than six minutes.

dalam kurang dari 6 menit.

That's a 24,900-percent increase.

Artinya terjadi kenaikan sebesar 24.900 persen.

Now, the vast majority of activity on Twitter

Nah, sebagian besar aktivitas di Twitter

puts no one in harm's way.

tidak membahayakan siapapun.

There's no risk involved.

Tidak ada resiko apa pun.

My job is to root out and prevent activity that might.

Tugas saya adalah untuk membasmi dan mencegah aktivitas yang mungkin berbahaya.

Sounds straightforward, right?

Terdengar sederhana, bukan?

You might even think it'd be easy,

Mungkin Anda pikir itu mudah,

given that I just said the vast majority

mengingat saya baru saja mengatakan

of activity on Twitter puts no one in harm's way.

bahwa sebagian besar aktivitas di Twitter tidak membahayakan siapa pun.

Why spend so much time

Kenapa menghabiskan banyak waktu

searching for potential calamities

untuk mencari kemungkinan bahaya

in innocuous activities?

dalam aktivitas yang aman-aman saja?

Given the scale that Twitter is at,

Mengingat skala Twitter saat ini,

a one-in-a-million chance happens

satu dari sejuta kemungkinan bahaya terjadi

500 times a day.

500 kali tiap harinya.

It's the same for other companies

Sama seperti perusahaan lain

yang menghadapi skala sebesar ini.

dealing at this sort of scale.

For us, edge cases,

Bagi kami, kasus paling ekstrim,

those rare situations that are unlikely to occur,

situasi langka seperti itu yang tidak mungkin terjadi,

are more like norms.

sekarang seakan sudah menjadi norma.

Say 99.999 percent of tweets

Katakanlah 99,999% kicauan

pose no risk to anyone.

tidak berbahaya bagi siapapun.

There's no threat involved.

Tidak ada ancaman.

Maybe people are documenting travel landmarks

Mungkin orang-orang sedang mendokumentasikan tempat wisata terkenal

like Australia's Heart Reef,

seperti karang Heart Reef di Australia,

or tweeting about a concert they're attending,

atau berkicau tentang konser yang mereka datangi,

or sharing pictures of cute baby animals.

atau berbagi foto bayi binatang lucu.

After you take out that 99.999 percent,

Setelah Anda menghilangkan 99,999% itu,

that tiny percentage of tweets remaining

presentase sangat kecil dari kicauan yang tersisa

works out to roughly

jika dihitung kira-kira mencapai

150,000 per month.

150.000 kicauan per bulan.

The sheer scale of what we're dealing with

Besarnya skala yang kita hadapi sekarang,

makes for a challenge.

merupakan sebuah tantangan.

You know what else makes my role

Anda tahu apa yang membuat pekerjaan saya

particularly challenging?

cukup menantang?

People do weird things.

Orang-orang melakukan hal-hal aneh.

(Laughter)

(Tertawa)

And I have to figure out what they're doing,

Dan saya harus mencari tahu apa yang mereka lakukan,

why, and whether or not there's risk involved,

kenapa, dan apakah ada resiko didalamnya,

often without much in terms of context

yang seringkali tanpa konteks

or background.

atau latar belakang apapun.

I'm going to show you some examples

Saya akan menunjukkan beberapa contoh

that I've run into during my time at Twitter --

yang saya temukan saat bekerja di Twitter --

these are all real examples —

ini semua adalah contoh nyata --

of situations that at first seemed cut and dried,

dari situasi yang awalnya terlihat biasa saja,

but the truth of the matter was something

namun sebenarnya merupakan sesuatu

altogether different.

yang sama sekali berbeda.

The details have been changed

Detailnya sudah diubah

untuk melindungi yang tidak bersalah

to protect the innocent

and sometimes the guilty.

dan kadang-kadang yang bersalah sekalipun.

We'll start off easy.

Kita mulai dengan yang mudah.

["Yo bitch"]

["Hei Perempuan Jalang"]

If you saw a Tweet that only said this,

Jika Anda melihat kicauan seperti ini,

you might think to yourself,

Anda mungkin berpikir,

"That looks like abuse."

"Itu kelihatannya pelecehan."

After all, why would you want to receive the message,

Lagipula, mengapa Anda mau menerima pesan,

"Yo, bitch."

"Hei, Perempuan Jalang."

Now, I try to stay relatively hip

Nah, sekarang, saya mencoba untuk tetap mengikuti

to the latest trends and memes,

tren dan meme terbaru,

so I knew that "yo, bitch"

jadi saya tahu bahwa "Hei, perempuan jalang"

was also often a common greeting between friends,

seringkali adalah sapaan umum antar teman,

as well as being a popular "Breaking Bad" reference.

juga sebagai referensi film "Breaking Bad" yang sedang populer.

I will admit that I did not expect

Saya mengakui bahwa saya tidak mengira

to encounter a fourth use case.

adanya penggunaan keempat dari ungkapan tadi.

It turns out it is also used on Twitter

Ternyata, di Twitter juga ada hal seperti ini

when people are role-playing as dogs.

dimana orang berpura-pura menjadi anjing.

(Laughter)

(Tertawa)

And in fact, in that case,

Bahkan, untuk kasus tadi,

it's not only not abusive,

bukan saja tidak melecehkan,

it's technically just an accurate greeting.

namun secara teknis kicauan itu hanyalah sapaan.

(Laughter)

(Tertawa)

So okay, determining whether or not

Oke, untuk menentukan apakah sesuatu

something is abusive without context,

merupakan pelecehan atau bukan tanpa konteks,

definitely hard.

sungguhlah sulit.

Let's look at spam.

Mari kita beralih ke spam.

Here's an example of an account engaged

Ini adalah contoh dari akun yang

in classic spammer behavior,

memiliki ciri-ciri klasik spam,

sending the exact same message

yang mengirim pesan yang sama persis

to thousands of people.

ke ribuan orang.

While this is a mockup I put together using my account,

Meski ini adalah contoh yang saya buat dengan akun pribadi,

we see accounts doing this all the time.

kita melihat akun-akun seperti ini setiap saat.

Seems pretty straightforward.

Kelihatannya mudah saja.

We should just automatically suspend accounts

Kita seharusnya tinggal menutup akun

engaging in this kind of behavior.

yang melakukan perilaku seperti ini.

Turns out there's some exceptions to that rule.

Ternyata, ada pengecualian dalam peraturan itu.

Turns out that that message could also be a notification

Ternyata, pesan tersebut bisa saja sebuah pemberitahuan

you signed up for that the International Space Station is passing overhead

Anda mendaftar Stasiun Luar Angkasa Internasional yang lewat

because you wanted to go outside

karena Anda ingin pergi ke luar

and see if you could see it.

dan ingin melihatnya secara langsung

You're not going to get that chance

Anda tidak akan mendapat kesempatan itu

if we mistakenly suspend the account

jika kami salah menghapus akun

thinking it's spam.

karena berpikir itu spam.

Okay. Let's make the stakes higher.

Oke, kita ke contoh yang lebih sulit.

Back to my account,

Kembali ke akun saya,

again exhibiting classic behavior.

lagi-lagi terkait perilaku klasik.

This time it's sending the same message and link.

Kali ini, aku saya mengirim pesan dan tautan yang sama.

This is often indicative of something called phishing,

Hal ini seringkali diindikasikan sebagai phishing,

somebody trying to steal another person's account information

seseorang mencoba untuk mencuri informasi akun orang lain

by directing them to another website.

dengan mengarahkan mereka ke suatu laman.

That's pretty clearly not a good thing.

Jelaslah ini bukan hal yang bagus.

We want to, and do, suspend accounts

Kami ingin, dan akan, menghapus akun

engaging in that kind of behavior.

yang berperilaku seperti itu.

So why are the stakes higher for this?

Lalu kenapa yang ini lebih sulit?

Well, this could also be a bystander at a rally

Ternyata, kicauan ini bisa saja saksi mata demonstrasi

who managed to record a video

dan dia berhasil merekam video

of a police officer beating a non-violent protester

dari petugas polisi yang memukul demonstran damai

who's trying to let the world know what's happening.

dan akun ini memberitahu dunia apa yang sedang terjadi.

We don't want to gamble

Kami tidak ingin bertaruh

on potentially silencing that crucial speech

untuk membungkam berita yang krusial itu

by classifying it as spam and suspending it.

dengan menganggapnya sebagai spam dan menghapusnya.

That means we evaluate hundreds of parameters

Artinya, kami harus mengevaluasi ratusan parameter

when looking at account behaviors,

ketika melihat perilaku akun,

and even then, we can still get it wrong

bahkan dengan itupun, kami masih bisa salah

and have to reevaluate.

dan harus mengevaluasi ulang.

Now, given the sorts of challenges I'm up against,

Nah, dengan tantangan-tantangan yang saya hadapi,

it's crucial that I not only predict

penting diingat bahwa saya tidak hanya memprediksi

but also design protections for the unexpected.

namun juga mendesain proteksi akan hal tidak terduga.

And that's not just an issue for me,

Dan itu bukan hanya menjadi masalah saya,

or for Twitter, it's an issue for you.

atau masalah Twitter, itu juga masalah Anda.

It's an issue for anybody who's building or creating

Menjadi masalah siapapun yang membangun atau membuat

something that you think is going to be amazing

sesuatu yang Anda pikir luar biasa

and will let people do awesome things.

dan akan membuat orang melakukan hal yang luar biasa.

So what do I do?

Jadi, apa yang saya lakukan?

I pause and I think,

Saya berhenti sejenak dan berpikir,

how could all of this

Bagaimana semua ini

go horribly wrong?

bisa menjadi sangat buruk?

I visualize catastrophe.

Saya memvisualisasikan bencana besar.

And that's hard. There's a sort of

Dan itu sulit. Ada semacam

inherent cognitive dissonance in doing that,

disonansi kognitif yang melekat untuk melakukannya,

like when you're writing your wedding vows

seperti saat kalian menulis sumpah pernikahan

at the same time as your prenuptial agreement.

dan saat yang bersamaan juga menulis perjanjian pra-nikah.

(Laughter)

(Tertawa)

But you still have to do it,

Namun Anda tetap harus melakukannya,

particularly if you're marrying 500 million tweets per day.

khususnya jika Anda menikahi 500 juta kicauan per hari.

What do I mean by "visualize catastrophe?"

Apa maksud saya "membayangkan bencana"?

I try to think of how something as

Saya mencoba membayangkan bagaimana hal

benign and innocuous as a picture of a cat

yang begitu jinak dan tidak berbahaya seperti gambar seekor kucing

could lead to death,

bisa berujung kematian,

and what to do to prevent that.

dan bagaimana cara mencegahnya.

Which happens to be my next example.

Yang kebetulan menjadi contoh saya berikutnya.

This is my cat, Eli.

Ini kucing saya, Eli.

We wanted to give users the ability

Kami ingin memberikan pengguna kemampuan

to add photos to their tweets.

untuk menambahkan gambar pada kicauan mereka.

A picture is worth a thousand words.

Sebuah gambar bermakna ribuan kata.

You only get 140 characters.

Anda hanya punya 140 karakter.

You add a photo to your tweet,

Menambahkan gambar pada kicauan Anda,

look at how much more content you've got now.

lihatlah banyaknya konten yang Anda dapat sekarang.

There's all sorts of great things you can do

Ada hal-hal hebat yang bisa Anda lakukan

by adding a photo to a tweet.

dengan menambahkan gambar pada kicauan Anda.

My job isn't to think of those.

Tugas saya bukan untuk memikirkan itu.

It's to think of what could go wrong.

Tapi memikirkan bagaimana hal itu bisa menjadi buruk.

How could this picture

Bagaimana gambar ini

lead to my death?

bisa berujung pada kematian saya?

Well, here's one possibility.

Ada satu kemungkinan.

There's more in that picture than just a cat.

Gambar ini berisi lebih dari sekedar kucing.

There's geodata.

Tedapat geodata.

When you take a picture with your smartphone

Jika Anda mengambil gambar dengan smartphone Anda

or digital camera,

atau kamera digital,

there's a lot of additional information

ada banyak informasi tambahan

saved along in that image.

tersimpan bersamaan di gambar itu.

In fact, this image also contains

Bahkan, gambar ini juga berisi

the equivalent of this,

ekuivalen dari ini,

more specifically, this.

lebih spesifiknya, ini.

Sure, it's not likely that someone's going to try

Tentu, agak tidak mungkin jika seseorang mencoba

to track me down and do me harm

untuk melacak saya dan mencelakai saya

based upon image data associated

berdasarkan data gambar tersebut

with a picture I took of my cat,

ketika mengambil gambar kucing saya,

but I start by assuming the worst will happen.

namun saya berimajinasi hal yang terburuk akan terjadi.

Karena itu, saat kami meluncurkan fitur gambar pada Twitter,

That's why, when we launched photos on Twitter,

we made the decision to strip that geodata out.

kami memutuskan untuk menghapus geodata tersebut.

(Applause)

(Tepuk tangan)

If I start by assuming the worst

Jika saya mulai dengan membayangkan hal buruk

and work backwards,

dan berpikir ke belakang

I can make sure that the protections we build

saya bisa pastikan perlindungan yang kami bangun

work for both expected

bekerja untuk hal yang dapat diduga

and unexpected use cases.

dan yang tidak terduga.

Given that I spend my days and nights

Karena saya menghabiskan siang dan malam

imagining the worst that could happen,

membayangkan hal buruk terjadi,

it wouldn't be surprising if my worldview was gloomy.

tidak mengherankan jika cara pandang saya suram.

(Laughter)

(Tertawa)

It's not.

Tapi tidak.

The vast majority of interactions I see --

Mayoritas besar interaksi yang saya lihat --

and I see a lot, believe me -- are positive,

dan percayalah, saya melihat banyak sekali -- interaksi positif,

people reaching out to help

orang-orang memberikan pertolongan

or to connect or share information with each other.

atau terhubung atau berbagi informasi satu sama lain.

It's just that for those of us dealing with scale,

Hanya saja bagi kami yang berurusan dengan skala ini,

for those of us tasked with keeping people safe,

dan ditugaskan untuk menjaga orang-orang tetap aman,

we have to assume the worst will happen,

kami harus membayangkan yang terburuk akan terjadi,

because for us, a one-in-a-million chance

karena bagi kami, satu dari sejuta kemungkinan

is pretty good odds.

adalah peluang yang besar.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)