Del Harvey: The strangeness of scale at Twitter

Del Harvey: La extrañeza de la escala en Twitter

Traductor: Sebastian Betti Revisor: Eduardo Sierra

My job at Twitter

Mi trabajo en Twitter

is to ensure user trust,

es asegurar la confianza del usuario,

protect user rights and keep users safe,

proteger sus derechos y mantener la seguridad

both from each other

de unos respecto de otros

and, at times, from themselves.

y, a veces, de sí mismos.

Let's talk about what scale looks like at Twitter.

Veamos qué es la escala para Twitter.

Back in January 2009,

En enero de 2009,

we saw more than two million new tweets each day

vimos más de 2 millones de tuits por día

on the platform.

en la plataforma.

January 2014, more than 500 million.

En enero de 2014, más de 500 millones.

We were seeing two million tweets

Vimos 2 millones de tuits

in less than six minutes.

en menos de 6 minutos.

That's a 24,900-percent increase.

Es un crecimiento del 24 900 %.

Now, the vast majority of activity on Twitter

Ahora, la gran mayoría de la actividad en Twitter

puts no one in harm's way.

no pone a nadie en peligro.

There's no risk involved.

No hay riesgo en esto.

My job is to root out and prevent activity that might.

Mi trabajo consiste en prevenir o erradicar la actividad potencialmente peligrosa.

Sounds straightforward, right?

Suena fácil, ¿no?

You might even think it'd be easy,

Quizá piensen que es fácil,

given that I just said the vast majority

dado que acabo de decir que la gran mayoría

of activity on Twitter puts no one in harm's way.

de la actividad en Twitter no pone a nadie en peligro.

Why spend so much time

¿Por qué pasar tanto tiempo

searching for potential calamities

buscando posibles calamidades

in innocuous activities?

en actividades inocuas?

Given the scale that Twitter is at,

Dada la escala que tiene Twitter,

a one-in-a-million chance happens

una probabilidad en un millón ocurre

500 times a day.

500 veces al día.

It's the same for other companies

Lo mismo ocurre en otras empresas

dealing at this sort of scale.

que tienen esta escala.

For us, edge cases,

Para nosotros, los casos límite,

those rare situations that are unlikely to occur,

esas situaciones raras que difícilmente ocurren,

are more like norms.

son la norma.

Say 99.999 percent of tweets

Digamos que el 99,999 % de los tuits

pose no risk to anyone.

no supone riesgo para nadie.

There's no threat involved.

No hay ninguna amenaza.

Maybe people are documenting travel landmarks

Quizá la gente documenta hitos de los viajes

like Australia's Heart Reef,

como el corazón de Coral de Australia,

or tweeting about a concert they're attending,

o tuitear sobre un concierto al que están asistiendo,

or sharing pictures of cute baby animals.

o compartir fotos de lindas crías de animales.

After you take out that 99.999 percent,

Al quitar ese 99,999 %,

that tiny percentage of tweets remaining

ese pequeño porcentaje de tuits restantes

works out to roughly

se reduce a más o menos

150,000 per month.

150 000 por mes.

The sheer scale of what we're dealing with

La magnitud de mensajes procesados

makes for a challenge.

es en sí un desafío.

You know what else makes my role

¿Saben que otra cosa hace a mi trabajo

particularly challenging?

particularmente desafiante?

People do weird things.

La gente hace cosas extrañas.

(Laughter)

(Risas)

And I have to figure out what they're doing,

Y yo debo entender qué están haciendo,

why, and whether or not there's risk involved,

por qué y si eso implica o no riesgo,

often without much in terms of context

a menudo sin mucho contexto

or background.

ni trasfondo.

I'm going to show you some examples

Les mostraré algunos ejemplos

that I've run into during my time at Twitter --

que encontré durante mi trabajo en Twitter

these are all real examples —

-- son ejemplos reales --

of situations that at first seemed cut and dried,

de situaciones que en principio parecían obvias,

but the truth of the matter was something

pero que en realidad era algo

altogether different.

totalmente diferente.

The details have been changed

Se cambiaron los detalles

to protect the innocent

para proteger al inocente

and sometimes the guilty.

y a veces al culpable.

We'll start off easy.

Empezaremos con algo simple.

["Yo bitch"]

["Tú, perra"]

If you saw a Tweet that only said this,

Si uno ve un tuit que solo dice esto,

you might think to yourself,

uno puede pensar,

"That looks like abuse."

"Parece abuso".

After all, why would you want to receive the message,

Después de todo, ¿por qué querrías recibir el mensaje

"Yo, bitch."

"Tú, perra".

Now, I try to stay relatively hip

Pero yo trato de estar al tanto

to the latest trends and memes,

de las tendencias y los últimos memes,

so I knew that "yo, bitch"

por eso sabía que "tú, perra"

was also often a common greeting between friends,

a menudo era un saludo común entre amigos,

as well as being a popular "Breaking Bad" reference.

así como una referencia popular de "Breaking Bad".

I will admit that I did not expect

Tengo que admitir que no esperaba

to encounter a fourth use case.

encontrar un cuarto uso.

It turns out it is also used on Twitter

Resulta que también se usa en Twitter

when people are role-playing as dogs.

cuando la gente hace el papel de perros.

(Laughter)

(Risas)

And in fact, in that case,

Y de hecho, en ese caso,

it's not only not abusive,

no solo no es abusivo,

it's technically just an accurate greeting.

técnicamente es un saludo apropiado.

(Laughter)

(Risas)

So okay, determining whether or not

Por eso determinar si algo es o no

something is abusive without context,

abusivo sin tener contexto,

definitely hard.

sin duda es difícil.

Let's look at spam.

Veamos el spam.

Here's an example of an account engaged

Este es el ejemplo de una cuenta que participó

in classic spammer behavior,

en una conducta clásica de spam,

sending the exact same message

enviando exactamente el mismo mensaje

to thousands of people.

a miles de personas.

While this is a mockup I put together using my account,

Si bien este es un ejemplo que hice con mi cuenta,

we see accounts doing this all the time.

vemos cuentas que hacen esto todo el tiempo.

Seems pretty straightforward.

Parece bastante simple.

We should just automatically suspend accounts

Deberíamos suspender automáticamente las cuentas

engaging in this kind of behavior.

que tienen este comportamiento.

Turns out there's some exceptions to that rule.

Pero resulta que hay excepciones a la regla.

Turns out that that message could also be a notification

Puede que ese mensaje podría ser una suscripción

you signed up for that the International Space Station is passing overhead

a una notificación que indica si la Estación Espacial está pasando por encima

because you wanted to go outside

porque uno quería salir

and see if you could see it.

y tratar de verla.

You're not going to get that chance

No tendrán esa oportunidad

if we mistakenly suspend the account

si suspendemos la cuenta por error

thinking it's spam.

pensando que es spam.

Okay. Let's make the stakes higher.

Bien, subamos la apuesta.

Back to my account,

Volvamos a mi cuenta,

again exhibiting classic behavior.

veamos el comportamiento clásico.

This time it's sending the same message and link.

Esta vez se está enviando el mismo mensaje y enlace.

This is often indicative of something called phishing,

A menudo es indicativo de algo llamado phishing,

somebody trying to steal another person's account information

alguien que trata de robar la información de la cuenta de otra persona

by directing them to another website.

redirigiéndolos a otro sitio web.

That's pretty clearly not a good thing.

Eso claramente no es algo bueno.

We want to, and do, suspend accounts

Queremos hacerlo, lo hacemos, suspendemos las cuentas

engaging in that kind of behavior.

que tienen ese comportamiento.

So why are the stakes higher for this?

¿Por qué los riesgos son más altos en este caso?

Well, this could also be a bystander at a rally

Bueno, también podría ser un espectador en un mitin

who managed to record a video

que grabó un video

of a police officer beating a non-violent protester

de un oficial de policía que golpea a un manifestante no violento

who's trying to let the world know what's happening.

que trata de contarle al mundo lo que ocurre.

We don't want to gamble

No queremos participar

on potentially silencing that crucial speech

potencialmente silenciando ese discurso crucial

by classifying it as spam and suspending it.

tildándolo de spam y suspendiéndolo.

That means we evaluate hundreds of parameters

Eso significa que evaluamos cientos de parámetros

when looking at account behaviors,

al analizar el comportamiento de las cuentas

and even then, we can still get it wrong

y aún así, todavía podemos equivocarnos

and have to reevaluate.

y tenemos que volver a evaluar.

Now, given the sorts of challenges I'm up against,

Ahora, dado los desafíos que enfrentamos

it's crucial that I not only predict

es crucial no solo predecir

but also design protections for the unexpected.

sino también diseñar protecciones para lo inesperado.

And that's not just an issue for me,

Y eso no solo es un problema para mí,

or for Twitter, it's an issue for you.

o para Twitter, es un problema para Uds.

It's an issue for anybody who's building or creating

Es un problema para cualquiera que esté construyendo o creando

something that you think is going to be amazing

algo que uno cree que será increíble

and will let people do awesome things.

y le permitirá a la gente hacer cosas impresionantes.

So what do I do?

Entonces ¿qué hago?

I pause and I think,

Me detengo y pienso,

how could all of this

¿cómo podría todo esto

go horribly wrong?

terminar muy mal?

I visualize catastrophe.

Visualizo la catástrofe.

And that's hard. There's a sort of

Y eso es difícil. Hay una especie

inherent cognitive dissonance in doing that,

de disonancia cognitiva en esto,

like when you're writing your wedding vows

como cuando estás declarando los votos matrimoniales

at the same time as your prenuptial agreement.

y al mismo tiempo el acuerdo prenupcial.

(Laughter)

(Risas)

But you still have to do it,

Y aún así hay que hacerlo,

particularly if you're marrying 500 million tweets per day.

sobre todo si te estás casando con 500 millones de tuits por día.

What do I mean by "visualize catastrophe?"

¿A qué me refiero con "visualizo la catástrofe"?

I try to think of how something as

Trato de pensar cómo algo

benign and innocuous as a picture of a cat

tan benigno e inocuo como la foto de un gato

could lead to death,

podría llevar a la muerte,

and what to do to prevent that.

y qué hacer para evitarlo.

Which happens to be my next example.

Que resulta ser mi siguiente ejemplo.

This is my cat, Eli.

Este es mi gato, Eli.

We wanted to give users the ability

Queríamos darle a los usuarios la posibilidad

to add photos to their tweets.

de agregar fotos a sus tuits.

A picture is worth a thousand words.

Una foto vale más que mil palabras.

You only get 140 characters.

Solo tienes 140 caracteres.

You add a photo to your tweet,

Agregas una foto al tuit,

look at how much more content you've got now.

y mira cuánto más contenido tienes ahora.

There's all sorts of great things you can do

Pueden hacerse grandes cosas

by adding a photo to a tweet.

al agregar una foto a un tuit.

My job isn't to think of those.

Mi trabajo no es pensar en eso.

It's to think of what could go wrong.

Es pensar qué puede terminar mal.

How could this picture

¿Cómo esta imagen puede

lead to my death?

llevarme a la muerte?

Well, here's one possibility.

Bueno, esta es una posibilidad.

There's more in that picture than just a cat.

Hay mucho más que un gato en esa foto.

There's geodata.

Hay información geográfica.

When you take a picture with your smartphone

Cuando tomas una foto con tu móvil

or digital camera,

o con tu cámara digital

there's a lot of additional information

hay mucha información adicional

saved along in that image.

guardada junto con esa imagen.

In fact, this image also contains

De hecho, esta imagen también contiene

the equivalent of this,

el equivalente a esto,

more specifically, this.

más específicamente, esto.

Sure, it's not likely that someone's going to try

Seguro, no es probable que alguien trate

to track me down and do me harm

de localizarme y hacerme daño

based upon image data associated

basado en los datos asociados a la foto

with a picture I took of my cat,

que le tomé a mi gato,

but I start by assuming the worst will happen.

pero empiezo suponiendo que ocurrirá lo peor.

That's why, when we launched photos on Twitter,

Por eso, cuando lanzamos las fotos en Twitter,

we made the decision to strip that geodata out.

tomamos la decisión de quitar los datos geográficos.

(Applause)

(Aplausos)

If I start by assuming the worst

Si empiezo suponiendo lo peor

and work backwards,

y voy hacia atrás,

I can make sure that the protections we build

puedo asegurar que las protecciones que construimos

work for both expected

funcionan para los casos

and unexpected use cases.

esperados y para los inesperados.

Given that I spend my days and nights

Dado que paso días y noches

imagining the worst that could happen,

imaginando lo peor que podría suceder,

it wouldn't be surprising if my worldview was gloomy.

no sería de extrañar que mi visión del mundo sea sombría.

(Laughter)

(Risas)

It's not.

No lo es.

The vast majority of interactions I see --

La gran mayoría de las interacciones que veo

and I see a lot, believe me -- are positive,

-- y veo muchas, créanme -- son positivas,

people reaching out to help

personas que tratan de ayudar

or to connect or share information with each other.

o de conectarse o de compartir información con otros.

It's just that for those of us dealing with scale,

Solo nosotros, los que trabajamos con grandes volúmenes,

for those of us tasked with keeping people safe,

los que trabajamos en la seguridad de las personas,

we have to assume the worst will happen,

los que tenemos que suponer lo peor,

because for us, a one-in-a-million chance

porque para nosotros, una posibilidad en un millón

is pretty good odds.

es una posibilidad bastante buena.

Thank you.

Gracias.

(Applause)

(Aplausos)