Del Harvey: The strangeness of scale at Twitter

Del Harvey: A particularidade da escala no Twitter

Tradutor: Yuri Camargo Revisor: Wanderley Jesus

My job at Twitter

O que eu faço no Twitter

is to ensure user trust,

é garantir a confiança dos usuários,

protect user rights and keep users safe,

proteger seus direitos e mantê-los a salvo,

both from each other

tanto uns dos outros

and, at times, from themselves.

quanto, às vezes, deles mesmos.

Let's talk about what scale looks like at Twitter.

Vamos falar sobre como é a escala no Twitter.

Back in January 2009,

Em Janeiro de 2009,

we saw more than two million new tweets each day

vimos mais de dois milhões de novos tuítes a cada dia

on the platform.

nessa plataforma.

January 2014, more than 500 million.

Em Janeiro de 2014, tivemos mais de 500 milhões.

We were seeing two million tweets

Vimos dois milhões de tuítes

in less than six minutes.

em menos de seis minutos.

That's a 24,900-percent increase.

É um aumento de 24.900%.

Now, the vast majority of activity on Twitter

Agora, a grande maioria da atividade no Twitter

puts no one in harm's way.

não causa problemas a ninguém.

There's no risk involved.

Não envolve risco.

My job is to root out and prevent activity that might.

Meu trabalho é perceber e evitar atividades que possam causar problemas.

Sounds straightforward, right?

Parece bastante simples, certo?

You might even think it'd be easy,

Vocês talvez achem que é fácil,

given that I just said the vast majority

porque agora mesmo eu disse que a atividade

of activity on Twitter puts no one in harm's way.

mais intensa no Twitter não causa problemas.

Why spend so much time

Para que gastar tanto tempo

searching for potential calamities

procurando calamidades em potencial

in innocuous activities?

em meio a atividades inofensivas?

Given the scale that Twitter is at,

Pela escala do Twitter,

a one-in-a-million chance happens

uma chance em um milhão

500 times a day.

ocorre 500 vezes por dia.

It's the same for other companies

É a mesma de outras companhias

dealing at this sort of scale.

que lidam com este tipo de escala.

For us, edge cases,

Para nós, os casos extremos,

those rare situations that are unlikely to occur,

como essas situações raras, que nunca vão ocorrer,

are more like norms.

estão mais para uma rotina.

Say 99.999 percent of tweets

Digamos que 99,999% dos tuítes

pose no risk to anyone.

não sejam um risco para ninguém.

There's no threat involved.

Não representam uma ameaça.

Maybe people are documenting travel landmarks

Talvez as pessoas estejam documentando suas viagens

like Australia's Heart Reef,

como o coração da Barreira de Corais da Austrália,

or tweeting about a concert they're attending,

ou tuitando sobre o show em que estão,

or sharing pictures of cute baby animals.

ou estejam compartilhando fotos de bichinhos fofinhos.

After you take out that 99.999 percent,

Excluindo esses 99,999%,

that tiny percentage of tweets remaining

aquela porcentagem mínima de tuítes restantes

works out to roughly

chega a, aproximadamente,

150,000 per month.

150.000 por mês.

The sheer scale of what we're dealing with

A enorme escala com que estamos lidando

makes for a challenge.

é um desafio.

You know what else makes my role

Sabem o que faz o meu trabalho

particularly challenging?

ser particularmente desafiador?

People do weird things.

As pessoas fazem coisas esquisitas.

(Laughter)

(Risos)

And I have to figure out what they're doing,

E eu tenho de entender o que elas estão fazendo,

why, and whether or not there's risk involved,

se há ou não um risco envolvido e por quê,

often without much in terms of context

geralmente sem ter muita noção em termos de contexto

or background.

ou de situação.

I'm going to show you some examples

Vou mostrar alguns exemplos

that I've run into during my time at Twitter --

do que eu já encontrei durante meu tempo no Twitter --

these are all real examples —

estes são exemplos reais —

of situations that at first seemed cut and dried,

de situações que, a princípio, pareciam moleza,

but the truth of the matter was something

mas, na verdade, a questão era uma coisa

altogether different.

completamente diferente.

The details have been changed

Os detalhes foram mudados

to protect the innocent

para proteger os inocentes

and sometimes the guilty.

e, em alguns casos, os culpados

We'll start off easy.

Vamos pegar leve para começar.

["Yo bitch"]

["E aí, vadia"]

If you saw a Tweet that only said this,

Se você visse um tuíte que só dissesse isso,

you might think to yourself,

você poderia pensar:

"That looks like abuse."

"Parece ser um abuso."

After all, why would you want to receive the message,

Afinal, por que você iria querer receber uma mensagem assim,

"Yo, bitch."

"E aí, vadia"?

Now, I try to stay relatively hip

Agora, eu tento estar relativamente ligada

to the latest trends and memes,

nas últimas modas e memes,

so I knew that "yo, bitch"

então eu sabia que o "e aí, vadia"

was also often a common greeting between friends,

também era um cumprimento comum entre amigos,

as well as being a popular "Breaking Bad" reference.

além de ser uma referência popular ao "Breaking Bad".

I will admit that I did not expect

Tenho de admitir que eu não estava esperando

to encounter a fourth use case.

encontrar um quarto caso.

It turns out it is also used on Twitter

Acabou que também é usado no Twitter

when people are role-playing as dogs.

quando as pessoas estão brincando de cachorrinho.

(Laughter)

(Risos)

And in fact, in that case,

E, na verdade, nesse caso,

it's not only not abusive,

não só não era abuso,

it's technically just an accurate greeting.

como, tecnicamente, é também um cumprimento muito adequado.

(Laughter)

(Risos)

So okay, determining whether or not

Então, certo, determinar se algo é

something is abusive without context,

ou não é abusivo, sem ter um contexto,

definitely hard.

é definitivamente difícil.

Let's look at spam.

Consideremos os "spams".

Here's an example of an account engaged

Este é um exemplo de uma conta

in classic spammer behavior,

com um comportamento de "spammer" clássico,

sending the exact same message

mandando exatamente a mesma mensagem

to thousands of people.

a milhares de pessoas.

While this is a mockup I put together using my account,

Apesar de ser um exemplo que eu fiz usando a minha conta,

we see accounts doing this all the time.

vemos contas fazendo isso o tempo todo.

Seems pretty straightforward.

Parece fácil de resolver.

We should just automatically suspend accounts

Deveríamos apenas suspender automaticamente as contas

engaging in this kind of behavior.

que apresentam este comportamento.

Turns out there's some exceptions to that rule.

Acontece que há algumas exceções à essa regra.

Turns out that that message could also be a notification

Pois pode ser que a mensagem seja uma notificação

you signed up for that the International Space Station is passing overhead

de que você assinou para saber

quando a Estação Espacial Internacional estiver passando,

because you wanted to go outside

porque você pretende sair

and see if you could see it.

e ver se a enxerga.

You're not going to get that chance

Você não vai ter essa chance

if we mistakenly suspend the account

se, por um erro, suspendermos a conta

thinking it's spam.

pensando que se trata de "spam".

Okay. Let's make the stakes higher.

Certo. Vamos parar de brincar.

Back to my account,

De volta à minha conta,

again exhibiting classic behavior.

de novo exibindo comportamente clássico.

This time it's sending the same message and link.

Desta vez, mandando a mesma mensagem com "link".

This is often indicative of something called phishing,

Costuma ser uma sinal de uma coisa chamada "phishing",

somebody trying to steal another person's account information

alguém que tenta roubar as informações da conta de outra pessoas,

by directing them to another website.

levando-as a outro "site".

That's pretty clearly not a good thing.

Bem óbvio que não é coisa boa.

We want to, and do, suspend accounts

Queremos e nos esforçamos para supender contas

engaging in that kind of behavior.

que se envolvem nessa atividade.

So why are the stakes higher for this?

Por que, então, isto complica as coisas?

Well, this could also be a bystander at a rally

Bom, pode ser um simples passante

who managed to record a video

que conseguiu gravar um vídeo

of a police officer beating a non-violent protester

de um policial agredindo um protestante pacífico

who's trying to let the world know what's happening.

e está tentando deixar o mundo saber o que está acontecendo.

We don't want to gamble

Nós não queremos apostar

on potentially silencing that crucial speech

na chance potencial de silenciar aquela mensagem crucial

by classifying it as spam and suspending it.

por classificá-la como "spam" e suspender a conta.

That means we evaluate hundreds of parameters

Significa que avaliamos centenas de parâmetros,

when looking at account behaviors,

quando observamos o comportamento das contas,

and even then, we can still get it wrong

e, mesmo assim, ainda podemos entender errado

and have to reevaluate.

e ter de reconsiderar.

Now, given the sorts of challenges I'm up against,

Agora, com os tipos de desafios que enfrento,

it's crucial that I not only predict

é essencial que eu não só antecipe,

but also design protections for the unexpected.

mas também desenvolva proteções contra o inesperado.

And that's not just an issue for me,

E este não é um trabalho só para mim,

or for Twitter, it's an issue for you.

ou para o Twitter, mas para vocês.

It's an issue for anybody who's building or creating

É um trabaho para todos que estão construindo ou criando

something that you think is going to be amazing

algo que acham que será incrível

and will let people do awesome things.

e que permitirá que as pessoas façam coisas incríveis.

So what do I do?

Então, que fazer?

I pause and I think,

Eu paro e penso:

how could all of this

"Como tudo isto

go horribly wrong?

poderia dar terrivelmente errado?"

I visualize catastrophe.

Eu visualizo a catástofre.

And that's hard. There's a sort of

E é duro. Há meio que uma dissonância cognitiva

inherent cognitive dissonance in doing that,

inerente a fazer isso,

like when you're writing your wedding vows

como quando você escreve seus votos de casamento

at the same time as your prenuptial agreement.

ao mesmo tempo em que o acordo pré-nupcial.

(Laughter)

(Risos)

But you still have to do it,

Mas ainda assim você tem de fazer,

particularly if you're marrying 500 million tweets per day.

principalmente se você se casa com 500 milhões de tuítes por dia.

What do I mean by "visualize catastrophe?"

O que eu quero dizer com "visualizar catástrofre"?

I try to think of how something as

Eu tento pensar em como algo, digamos,

benign and innocuous as a picture of a cat

benigno e inocente como a foto de um gato

could lead to death,

pode causar a morte de alguém,

and what to do to prevent that.

e em o que fazer para evitar que aconteça.

Which happens to be my next example.

Aliás, esse é meu próximo exemplo.

This is my cat, Eli.

Este é meu gato, Eli.

We wanted to give users the ability

Queríamos dar aos usuários a capacidade

to add photos to their tweets.

de adicionar fotos aos tuítes.

A picture is worth a thousand words.

Um imagem vale mais que mil palavras.

You only get 140 characters.

Você só tem 140 caracteres.

You add a photo to your tweet,

Com uma foto no seu tuíte,

look at how much more content you've got now.

olha quanto conteúdo você tem.

There's all sorts of great things you can do

Há montes de coisas ótimas que você pode fazer

by adding a photo to a tweet.

adicionando uma foto a um tuíte.

My job isn't to think of those.

Meu trabalho é pensar nelas.

It's to think of what could go wrong.

É pensar o que poderia dar errado.

How could this picture

Como esta imagem

lead to my death?

poderia me matar?

Well, here's one possibility.

Bom, temos aqui uma possibilidade.

There's more in that picture than just a cat.

Há mais coisa na foto do que só um gato.

There's geodata.

Há dados geográficos.

When you take a picture with your smartphone

Quando você tira uma foto no "smartphone"

or digital camera,

ou numa câmera digital,

there's a lot of additional information

há várias informações adicionais

saved along in that image.

salvas com a imagem.

In fact, this image also contains

Na verdade, esta imagem contém

the equivalent of this,

o equivalente a isto,

more specifically, this.

mais especificamente, a isto.

Sure, it's not likely that someone's going to try

Claro, é improvável que alguém vá tentar

to track me down and do me harm

me localizar e me fazer mal,

based upon image data associated

apenas pelos dados associados à imagem,

with a picture I took of my cat,

com a foto que tirei do meu gato,

but I start by assuming the worst will happen.

mas parto do princípio de que o pior vai acontecer.

That's why, when we launched photos on Twitter,

É por isso que, quando lançamos as fotos no Twitter,

we made the decision to strip that geodata out.

decidimos remover os dados geográficos delas.

(Applause)

(Aplausos)

If I start by assuming the worst

Se começo imaginando o pior

and work backwards,

e trabalho retroativamente,

I can make sure that the protections we build

posso assegurar que as proteções que construímos

work for both expected

funcionem nos casos esperados

and unexpected use cases.

e também nos inesperados.

Given that I spend my days and nights

Levando em conta que passo dia e noite

imagining the worst that could happen,

imaginando o pior que pode acontecer,

it wouldn't be surprising if my worldview was gloomy.

não seria de surpreender se minha visão de mundo fosse meio macabra.

(Laughter)

(Risos)

It's not.

Não é.

The vast majority of interactions I see --

A maioria esmagadora das interações que eu observo --

and I see a lot, believe me -- are positive,

e eu vejo um monte, acreditem -- são positivas:

people reaching out to help

pessoas oferecendo ajuda

or to connect or share information with each other.

ou se conectando, ou compartilhando informações umas com as outras.

It's just that for those of us dealing with scale,

Só que, para aqueles que lidam com a escala,

for those of us tasked with keeping people safe,

para nós que temos a tarefa de manter as pessoas seguras,

we have to assume the worst will happen,

precisamos imaginar que o pior vai acontecer,

because for us, a one-in-a-million chance

porque, para nós, uma chance em um milhão

is pretty good odds.

é uma chance bem grande.

Thank you.

Obrigada.

(Applause)

(Aplausos)