Del Harvey: The strangeness of scale at Twitter

Tradutor: Margarida Ferreira Revisora: Isabel Vaz Belchior

My job at Twitter

O meu trabalho no Twitter

is to ensure user trust,

é assegurar a confiança do utilizador,

protect user rights and keep users safe,

proteger os direitos do utilizador e a sua segurança,

both from each other

tanto de uns em relação aos outros

and, at times, from themselves.

como, por vezes, deles próprios.

Let's talk about what scale looks like at Twitter.

Vamos falar acerca do que é a escala do Twitter.

Back in January 2009,

Em janeiro de 2009

we saw more than two million new tweets each day

havia mais de dois milhões de novos "tweets", todos os dias

on the platform.

nesta plataforma.

January 2014, more than 500 million.

Em janeiro de 2014, mais de 500 millhões.

We were seeing two million tweets

Víamos dois milhões de "tweets"

in less than six minutes.

em menos de seis minutos.

That's a 24,900-percent increase.

Isto representa um aumento de 24 900 por cento.

Now, the vast majority of activity on Twitter

A maior parte da atividade no Twitter

puts no one in harm's way.

não representa perigo para ninguém.

There's no risk involved.

Não se corre qualquer risco.

My job is to root out and prevent activity that might.

O meu trabalho é detetar e impedir atividades que o possam fazer.

Sounds straightforward, right?

Parece simples, não é?

You might even think it'd be easy,

Podem pensar que é fácil,

given that I just said the vast majority

dado que eu disse que a maior parte

of activity on Twitter puts no one in harm's way.

da atividade no Twitter não representa perigo para ninguém.

Why spend so much time

Porquê perder tanto tempo

searching for potential calamities

à procura de possíveis calamidades

in innocuous activities?

em atividades inócuas?

Given the scale that Twitter is at,

Dada a escala a que se encontra o Twitter,

a one-in-a-million chance happens

a hipótese de um-num-milhão

500 times a day.

acontece 500 vezes por dia.

It's the same for other companies

O mesmo acontece com outras empresas

dealing at this sort of scale.

que lidam com este tipo de escala.

For us, edge cases,

Para nós, estes casos extremos,

those rare situations that are unlikely to occur,

estas situações raras, que têm poucas hipóteses de acontecer,

are more like norms.

são sobretudo normas.

Say 99.999 percent of tweets

Digamos que 99,999 por cento dos "tweets"

pose no risk to anyone.

não são perigosos para ninguém.

There's no threat involved.

Não representam ameaças.

Maybe people are documenting travel landmarks

As pessoas podem estar a documentar locais de viagens,

like Australia's Heart Reef,

como o Heart Reef da Austrália,

or tweeting about a concert they're attending,

ou a falar de um concerto a que assistiram,

or sharing pictures of cute baby animals.

ou a partilhar fotografias de animais bebés amorosos.

After you take out that 99.999 percent,

Depois de pormos de lado esses 99,999 por cento,

that tiny percentage of tweets remaining

essa percentagem mínima de "tweets" que restam

works out to roughly

significam apenas

uns 150 000 por mês.

150,000 per month.

The sheer scale of what we're dealing with

A simples escala daquilo com que estamos a lidar

makes for a challenge.

representa um desafio.

You know what else makes my role

Sabem o que é que torna a minha tarefa

particularly challenging?

especialmente desafiante?

People do weird things.

As pessoas fazem coisas esquisitas.

(Risos)

(Laughter)

And I have to figure out what they're doing,

E eu tenho que tentar perceber o que é que estão a fazer,

why, and whether or not there's risk involved,

porquê, e se há ou não algum risco envolvido,

often without much in terms of context

quase sempre sem grande coisa

or background.

em termos de contexto ou de antecedentes.

I'm going to show you some examples

Vou mostrar-vos alguns exemplos

that I've run into during my time at Twitter --

que tratei durante o meu tempo no Twitter

these are all real examples —

— são exemplos reais —

of situations that at first seemed cut and dried,

situações que, a princípio, pareciam normais,

but the truth of the matter was something

mas a verdade da questão era

altogether different.

uma coisa totalmente diferente.

The details have been changed

Os pormenores foram alterados

to protect the innocent

para proteger os inocentes

and sometimes the guilty.

e por vezes os culpados.

We'll start off easy.

Vamos começar já.

["Yo bitch"]

[Sua cadela]

If you saw a Tweet that only said this,

Se virmos um "tweet" que apenas diz isto,

you might think to yourself,

podemos ficar a pensar,

"That looks like abuse."

"Isto parece uma ofensa".

After all, why would you want to receive the message,

Afinal, porque é que alguém gostaria de receber a mensagem,

"Yo, bitch."

"Sua cadela"?

Now, I try to stay relatively hip

Eu tento manter-me relativamente ao corrente

to the latest trends and memes,

das últimas tendências e modas,

so I knew that "yo, bitch"

por isso sabia que "sua cadela"

was also often a common greeting between friends,

também era uma saudação vulgar entre amigos,

as well as being a popular "Breaking Bad" reference.

assim como uma referência ao popular Breaking Bad.

I will admit that I did not expect

Confesso que não esperava

to encounter a fourth use case.

encontrar um quarto significado.

It turns out it is also used on Twitter

Acontece que também é usado no Twitter

when people are role-playing as dogs.

quando as pessoas estão a fazer o papel de cães.

(Laughter)

(Risos)

And in fact, in that case,

E, de facto, naquele caso,

it's not only not abusive,

não só não é ofensivo,

it's technically just an accurate greeting.

como tecnicamente é uma saudação adequada.

(Laughter)

(Risos)

So okay, determining whether or not

Portanto, determinar se uma coisa

something is abusive without context,

é ou não ofensiva, sem qualquer contexto,

definitely hard.

é muito difícil.

Let's look at spam.

Vejamos o "spam".

Here's an example of an account engaged

Temos aqui um exemplo duma conta

in classic spammer behavior,

do clássico comportamento de "spam"

sending the exact same message

to thousands of people.

que envia a mesmíssima mensagem

a milhares de pessoas.

While this is a mockup I put together using my account,

Embora isto seja uma maqueta que eu fiz na minha conta,

we see accounts doing this all the time.

vemos contas a fazer isto muitas vezes.

Seems pretty straightforward.

Parece muito simples.

We should just automatically suspend accounts

Devíamos suspender automaticamente as contas

engaging in this kind of behavior.

que incorrem neste tipo de comportamento.

Turns out there's some exceptions to that rule.

Acontece que há algumas exceções a esta regra.

Turns out that that message could also be a notification

Acontece que a mensagem também pode ser uma notificação que assinámos

you signed up for that the International Space Station is passing overhead

para a Estação Espacial Internacional que está a passar lá em cima,

because you wanted to go outside

porque queríamos sair à rua

and see if you could see it.

e ver se conseguíamos vê-la.

You're not going to get that chance

Não vamos correr o risco

if we mistakenly suspend the account

de suspender a conta erradamente

thinking it's spam.

pensando que é "spam".

Okay. Let's make the stakes higher.

Vamos piorar as coisas.

Back to my account,

Voltando à minha conta,

again exhibiting classic behavior.

que exibe de novo um comportamento clássico.

This time it's sending the same message and link.

Desta vez está a enviar a mesma mensagem e ligação.

This is often indicative of something called phishing,

Isto quase sempre indica uma coisa chamada "phishing".

somebody trying to steal another person's account information

Alguém que tenta roubar informações da conta de outra pessoa,

by directing them to another website.

encaminhando-a para outro "website".

That's pretty clearly not a good thing.

Obviamente, não é nada bom.

We want to, and do, suspend accounts

Queremos, e suspendemos as contas

engaging in that kind of behavior.

que se envolvem neste tipo de comportamento.

So why are the stakes higher for this?

Então porque é que isto é tão grave?

Well, this could also be a bystander at a rally

Bem, também pode ser um espetador num comício

who managed to record a video

que conseguiu registar em vídeo

of a police officer beating a non-violent protester

um polícia a bater num manifestante não violento

who's trying to let the world know what's happening.

Está a tentar que o mundo saiba o que aconteceu.

We don't want to gamble

Não queremos correr o risco

on potentially silencing that crucial speech

de silenciar esse discurso fundamental

by classifying it as spam and suspending it.

classificando-o como "spam" e suspendendo-o.

That means we evaluate hundreds of parameters

Isto significa que avaliamos centenas de parâmetros

when looking at account behaviors,

quando observamos os comportamentos das contas

and even then, we can still get it wrong

e, mesmo assim, podemos enganar-nos

and have to reevaluate.

e temos que reavaliar.

Now, given the sorts of challenges I'm up against,

Dados os tipos de desafios que enfrento,

it's crucial that I not only predict

é fundamental que eu não só preveja

but also design protections for the unexpected.

mas também conceba proteções para o inesperado.

And that's not just an issue for me,

E isso não é uma questão apenas para mim, nem para o Twitter.

or for Twitter, it's an issue for you.

É uma questão para todos nós.

It's an issue for anybody who's building or creating

É uma questão para todos os que constroem

something that you think is going to be amazing

ou criam algo que pensamos que vai ser espantoso

and will let people do awesome things.

e vai permitir que as pessoas façam coisas fantásticas.

So what do I do?

Então, o que é que eu faço?

I pause and I think,

Faço uma pausa e penso:

how could all of this

"Como é que tudo isto

go horribly wrong?

"pode correr terrivelmente mal?"

I visualize catastrophe.

Visualizo catástrofes.

And that's hard. There's a sort of

E é difícil. Há uma espécie

inherent cognitive dissonance in doing that,

de dissonância cognitiva inerente, quando fazemos isso.

like when you're writing your wedding vows

É como escrever os votos de casamento

at the same time as your prenuptial agreement.

ao mesmo tempo que o contrato pré-nupcial.

(Laughter)

(Risos)

But you still have to do it,

Mas temos que o fazer,

particularly if you're marrying 500 million tweets per day.

especialmente, se casamos com 500 milhões de "tweets" por dia.

What do I mean by "visualize catastrophe?"

O que é que eu quero dizer com "visualizar catástrofes"?

I try to think of how something as

Tento pensar se uma coisa,

benign and innocuous as a picture of a cat

tão benigna e inofensiva como a imagem de um gato,

could lead to death,

pode levar à morte

and what to do to prevent that.

e o que fazer para impedir isso.

Which happens to be my next example.

Vai ser esse o meu próximo exemplo.

This is my cat, Eli.

Este é o meu gato Eli.

We wanted to give users the ability

Quisemos dar aos utilizadores a possibilidade

to add photos to their tweets.

de juntar fotos aos seus "tweets".

A picture is worth a thousand words.

Uma imagem vale por mil palavras,

You only get 140 characters.

basta juntar 140 carateres.

You add a photo to your tweet,

Juntamos uma foto ao nosso "tweet".

look at how much more content you've got now.

Vejam como ficamos muito mais satisfeitos.

There's all sorts of great things you can do

Há imensas coisas ótimas que podemos fazer

by adding a photo to a tweet.

juntando uma foto a um "tweet".

My job isn't to think of those.

O meu trabalho não é pensar nelas.

It's to think of what could go wrong.

É pensar no que pode correr mal.

How could this picture

Como é que esta foto

lead to my death?

pode levar à minha morte?

Well, here's one possibility.

Bem, há uma possibilidade.

There's more in that picture than just a cat.

Há mais coisas naquela foto do que um simples gato.

There's geodata.

Há dados geográficos.

When you take a picture with your smartphone

Quando tiramos uma fotografia com o nosso "smartphone"

or digital camera,

ou câmara digital,

there's a lot of additional information

há muitas informações adicionais

saved along in that image.

gravadas juntamente com a imagem.

In fact, this image also contains

De facto, esta imagem também contém

the equivalent of this,

o equivalente a isto,

more specifically, this.

mais especificamente, a isto.

Sure, it's not likely that someone's going to try

Claro, não é provável que alguém vá tentar

to track me down and do me harm

localizar-me, e fazer-me mal

based upon image data associated

com base em dados de uma imagem

with a picture I took of my cat,

associada a uma foto que eu tirei ao gato.

but I start by assuming the worst will happen.

Mas parto do princípio que acontece o pior.

That's why, when we launched photos on Twitter,

Foi por isso que, quando publicámos fotos no Twitter,

we made the decision to strip that geodata out.

tomámos a decisão de eliminar os dados geográficos.

(Applause)

(Aplausos)

If I start by assuming the worst

Se eu começar por assumir o pior

and work backwards,

e trabalhar daí para trás.

I can make sure that the protections we build

tenho a certeza de que as proteções que construímos

work for both expected

funcionam para os casos esperados

and unexpected use cases.

e inesperados.

Given that I spend my days and nights

Dado que passo os dias e as noites

imagining the worst that could happen,

a imaginar o pior que pode acontecer,

it wouldn't be surprising if my worldview was gloomy.

não seria de admirar que a perspetiva que tenho do mundo fosse sombria.

(Laughter)

(Risos)

It's not.

Mas não é.

The vast majority of interactions I see --

A grande maioria das interações que vejo

and I see a lot, believe me -- are positive,

— e vejo muitas, acreditem — são positivas,

people reaching out to help

pessoas que se dispõem a ajudar,

or to connect or share information with each other.

a passar ou partilhar informações umas com as outras.

It's just that for those of us dealing with scale,

É só porque, para nós que lidamos com a escala,

for those of us tasked with keeping people safe,

para nós que temos a tarefa de manter as pessoas em segurança.

we have to assume the worst will happen,

temos que assumir que acontece o pior,

because for us, a one-in-a-million chance

porque, para nós, uma hipótese de um-num-milhão

is pretty good odds.

é uma possibilidade bastante boa.

Thank you.

Obrigada.

(Applause)

(Aplausos)