How you can help transform the internet into a place of trust | Claire Wardle

Traductor: Ciro Gomez Revisor: Lidia Cámara de la Fuente

No matter who you are or where you live,

No importa quiénes son o dónde viven,

I'm guessing that you have at least one relative

supongo que tienen al menos un pariente

that likes to forward those emails.

al que le gusta reenviar esos correos electrónicos.

You know the ones I'm talking about --

Ya saben de los que estoy hablando...

the ones with dubious claims or conspiracy videos.

los que tienen reclamos dudosos o videos de conspiración.

And you've probably already muted them on Facebook

Y probablemente ya los han silenciado en Facebook

for sharing social posts like this one.

por compartir publicaciones sociales como esta.

It's an image of a banana

Es una imagen de un plátano

with a strange red cross running through the center.

con una extraña cruz roja corriendo por el centro.

And the text around it is warning people

Y el texto a su alrededor advierte a las personas

not to eat fruits that look like this,

de no comer frutas que se vean así,

suggesting they've been injected with blood

sugiriendo que han sido inyectadas con sangre

contaminated with the HIV virus.

contaminada con el virus del VIH.

And the social share message above it simply says,

Y el mensaje social compartido arriba simplemente dice:

"Please forward to save lives."

"Por favor, reenvíe para salvar vidas".

Now, fact-checkers have been debunking this one for years,

Los verificadores de hechos han desacreditado esto durante años,

but it's one of those rumors that just won't die.

pero es uno de esos rumores que simplemente no morirán.

A zombie rumor.

Un rumor zombie.

And, of course, it's entirely false.

Y, por supuesto, es completamente falso.

It might be tempting to laugh at an example like this, to say,

Puede ser tentador reírse de un ejemplo como este, decir:

"Well, who would believe this, anyway?"

"Bueno, ¿quién creería esto, de todos modos?".

But the reason it's a zombie rumor

Pero es un rumor zombie

porque aprovecha los temores más profundos de las personas sobre su propia seguridad

is because it taps into people's deepest fears about their own safety

and that of the people they love.

y la de las personas que aman.

And if you spend as enough time as I have looking at misinformation,

Y si pasan tanto tiempo como yo mirando información engañosa,

saben que este es solo un ejemplo de muchos que se aprovechan

you know that this is just one example of many

that taps into people's deepest fears and vulnerabilities.

de los temores y vulnerabilidades más profundos de las personas.

Every day, across the world, we see scores of new memes on Instagram

Todos los días, en todo el mundo, vemos decenas de nuevos memes en Instagram

encouraging parents not to vaccinate their children.

alentando a los padres a no vacunar a sus hijos.

We see new videos on YouTube explaining that climate change is a hoax.

Vemos nuevos videos en YouTube que dicen que el cambio climático es un engaño.

And across all platforms, we see endless posts designed to demonize others

Y en todas las plataformas,

vemos un sinfín de publicaciones diseñadas para demonizar a los demás.

on the basis of their race, religion or sexuality.

sobre la base de su raza, religión o sexualidad.

Welcome to one of the central challenges of our time.

Bienvenidos a uno de los desafíos centrales de nuestro tiempo.

How can we maintain an internet with freedom of expression at the core,

¿Cómo mantener un Internet con libertad de expresión en el núcleo,

while also ensuring that the content that's being disseminated

a la vez de asegurar de que el contenido que se difunde

doesn't cause irreparable harms to our democracies, our communities

no causa daños irreparables a nuestras democracias, nuestras comunidades

and to our physical and mental well-being?

y a nuestro bienestar físico y mental?

Because we live in the information age,

Porque vivimos en la era de la información,

yet the central currency upon which we all depend -- information --

todavía la moneda central de la que todos dependemos, información,

is no longer deemed entirely trustworthy

ya no se considera totalmente confiable

and, at times, can appear downright dangerous.

y, a veces, puede parecer francamente peligrosa.

This is thanks in part to the runaway growth of social sharing platforms

Esto se debe en parte

al crecimiento desbocado de las plataformas de intercambio social.

that allow us to scroll through,

que nos permiten ir allá

where lies and facts sit side by side,

donde mentiras y hechos se sientan juntos,

but with none of the traditional signals of trustworthiness.

pero sin ninguna de las señales tradicionales de confiabilidad.

And goodness -- our language around this is horribly muddled.

Y Dios, nuestro lenguaje en torno a esto está terriblemente confuso.

People are still obsessed with the phrase "fake news,"

La gente todavía está obsesionada con la frase "noticias falsas"

despite the fact that it's extraordinarily unhelpful

a pesar del hecho de que es extraordinariamente inútil

and used to describe a number of things that are actually very different:

y solía describir una serie de cosas que en realidad son muy diferentes:

lies, rumors, hoaxes, conspiracies, propaganda.

mentiras, rumores, engaños, conspiraciones, propaganda.

And I really wish we could stop using a phrase

Realmente quiero que podamos dejar de usar una frase

that's been co-opted by politicians right around the world,

que ha sido cooptada por políticos de todo el mundo,

from the left and the right,

de izquierda a derecha

used as a weapon to attack a free and independent press.

utilizada como arma para atacar a una prensa libre e independiente.

(Applause)

(Aplausos)

Because we need our professional news media now more than ever.

Porque necesitamos nuestros medios profesionales ahora más que nunca.

And besides, most of this content doesn't even masquerade as news.

Además, la mayor parte de este contenido ni siquiera se disfraza de noticia.

It's memes, videos, social posts.

Son memes, videos, publicaciones sociales.

And most of it is not fake; it's misleading.

Y la mayor parte no es falsa; es engañosa.

We tend to fixate on what's true or false.

Tendemos a fijarnos en lo que es verdadero o falso.

But the biggest concern is actually the weaponization of context.

Pero la mayor preocupación es en realidad la armamentización del contexto.

Because the most effective disinformation

Porque la desinformación más efectiva

has always been that which has a kernel of truth to it.

siempre ha sido la que tiene un núcleo de verdad.

Let's take this example from London, from March 2017,

Tomemos este ejemplo de Londres, de marzo de 2017,

a tweet that circulated widely

un tuit que circuló ampliamente

in the aftermath of a terrorist incident on Westminster Bridge.

tras un incidente terrorista en el puente de Westminster.

This is a genuine image, not fake.

Esta es una imagen genuina, no falsa.

The woman who appears in the photograph was interviewed afterwards,

La mujer que aparece en la fotografía fue entrevistada después,

and she explained that she was utterly traumatized.

y explicó que estaba completamente traumatizada.

She was on the phone to a loved one,

Hablaba por teléfono con un ser querido,

and she wasn't looking at the victim out of respect.

y no miraba a la víctima por respeto.

But it still was circulated widely with this Islamophobic framing,

Pero aún circulaba ampliamente con este marco islamofóbico,

with multiple hashtags, including: #BanIslam.

con múltiples etiquetas, que incluyen: #BanIslam

Now, if you worked at Twitter, what would you do?

Ahora, si trabajaran en Twitter, ¿qué harían?

Would you take that down, or would you leave it up?

¿Lo quitarían o lo dejarían?

My gut reaction, my emotional reaction, is to take this down.

Mi reacción intestinal, mi reacción emocional, es bajar esto.

I hate the framing of this image.

Odio el encuadre de esta imagen.

But freedom of expression is a human right,

Pero la libertad de expresión es un derecho humano,

and if we start taking down speech that makes us feel uncomfortable,

y si comenzamos a hablar mal de lo que nos hace sentir incómodos,

we're in trouble.

tenemos un problema.

And this might look like a clear-cut case,

Y esto podría parecer un caso claro,

but, actually, most speech isn't.

pero, en realidad, la mayoría no lo son.

These lines are incredibly difficult to draw.

Estas líneas son increíblemente difíciles de trazar.

What's a well-meaning decision by one person

Lo qué es una decisión bien intencionada para uno

is outright censorship to the next.

es una censura absoluta para la siguiente.

What we now know is that this account, Texas Lone Star,

Lo que ahora sabemos es que esta cuenta, Texas Lone Star,

was part of a wider Russian disinformation campaign,

fue parte de una campaña de desinformación rusa más amplia,

one that has since been taken down.

una que desde entonces ha sido eliminada.

Would that change your view?

¿Eso cambiaría su punto de vista?

It would mine,

Cambiaría el mío,

because now it's a case of a coordinated campaign

porque ahora se trata de una campaña coordinada

to sow discord.

para sembrar discordia.

And for those of you who'd like to think

Y para quienes les gustaría pensar

that artificial intelligence will solve all of our problems,

que la IA resolverá todos nuestros problemas,

I think we can agree that we're a long way away

creo que estaremos de acuerdo que estamos muy lejos

from AI that's able to make sense of posts like this.

de que la IA pueda dar sentido a publicaciones como esta.

So I'd like to explain three interlocking issues

Así que me gustaría explicar tres problemas entrelazados

that make this so complex

que hacen que esto sea tan complejo

and then think about some ways we can consider these challenges.

y que luego piensen en formas para abordar estos desafíos.

First, we just don't have a rational relationship to information,

Primero, simplemente no tenemos una relación racional con la información,

we have an emotional one.

Tenemos una emocional.

It's just not true that more facts will make everything OK,

Simplemente, no es cierto que más hechos harán que todo esté bien,

because the algorithms that determine what content we see,

porque los algoritmos que determinan qué contenido vemos

well, they're designed to reward our emotional responses.

están diseñados para recompensar nuestras respuestas emocionales.

And when we're fearful,

Y cuando tenemos miedo,

oversimplified narratives, conspiratorial explanations

narraciones demasiado simplificadas, explicaciones conspirativas

and language that demonizes others is far more effective.

y el lenguaje que demoniza a los demás es mucho más efectivo.

And besides, many of these companies,

Y además, muchas de estas empresas,

their business model is attached to attention,

su modelo de negocio está unido a la atención,

which means these algorithms will always be skewed towards emotion.

lo que significa que estos algoritmos estarán sesgados hacia la emoción.

Second, most of the speech I'm talking about here is legal.

Segundo, la mayor parte del discurso del que estoy hablando aquí es legal.

It would be a different matter

Seria un asunto diferente

if I was talking about child sexual abuse imagery

si hablara de imágenes de abuso sexual infantil

or content that incites violence.

o contenido que incita a la violencia.

It can be perfectly legal to post an outright lie.

Puede ser perfectamente legal publicar una mentira absoluta.

But people keep talking about taking down "problematic" or "harmful" content,

Pero la gente sigue hablando de eliminar contenido "problemático" o "dañino",

but with no clear definition of what they mean by that,

pero sin una definición clara de lo que quieren decir,

including Mark Zuckerberg,

incluyendo a Mark Zuckerberg,

who recently called for global regulation to moderate speech.

quien recientemente pidió una regulación global para moderar el habla.

And my concern is that we're seeing governments

Y mi preocupación es que vemos gobiernos

right around the world

en todo el mundo

rolling out hasty policy decisions

implementar decisiones políticas apresuradas

that might actually trigger much more serious consequences

que podrían desencadenar consecuencias mucho más graves

when it comes to our speech.

cuando se trata de nuestra charla.

And even if we could decide which speech to take up or take down,

E incluso si pudiéramos decidir qué charla dejar o eliminar.

we've never had so much speech.

Nunca hemos tenido tantas charlas.

Every second, millions of pieces of content

Cada segundo, se suben millones de piezas de contenido

are uploaded by people right around the world

de personas de todo el mundo

in different languages,

en diferentes idiomas

drawing on thousands of different cultural contexts.

aprovechando miles de diferentes contextos culturales.

We've simply never had effective mechanisms

Simplemente nunca hemos tenido mecanismos efectivos

to moderate speech at this scale,

para moderar la libre expresión a esta escala,

whether powered by humans or by technology.

ya sea impulsada por humanos o por tecnología.

And third, these companies -- Google, Twitter, Facebook, WhatsApp --

Y en tercer lugar, estas empresas (Google, Twitter, Facebook, WhatsApp)

they're part of a wider information ecosystem.

son parte de un ecosistema de información más amplio.

We like to lay all the blame at their feet, but the truth is,

Nos gusta echarles toda la culpa a ellos, pero la verdad es que los medios

the mass media and elected officials can also play an equal role

y los funcionarios electos también pueden desempeñar un papel igual

in amplifying rumors and conspiracies when they want to.

en amplificar rumores y conspiraciones cuando quieren.

As can we, when we mindlessly forward divisive or misleading content

Como podemos nosotros, al reenviar sin pensar contenido divisivorio o engañoso

without trying.

sin estar seguros.

We're adding to the pollution.

Estamos agregando más a esa contaminación.

I know we're all looking for an easy fix.

Sé que todos estamos buscando una solución fácil.

But there just isn't one.

Pero simplemente no la hay.

Any solution will have to be rolled out at a massive scale, internet scale,

Cualquier solución tendrá que implementarse

a gran escala, escala de Internet,

and yes, the platforms, they're used to operating at that level.

y sí, las plataformas, están acostumbradas a operar a ese nivel.

But can and should we allow them to fix these problems?

pero ¿podemos y debemos permitirles que solucionen estos problemas?

They're certainly trying.

Ciertamente lo están intentando.

But most of us would agree that, actually, we don't want global corporations

Estamos de acuerdo en que no queremos que sean

las corporaciones globales las guardianas de la verdad y equidad en línea.

to be the guardians of truth and fairness online.

And I also think the platforms would agree with that.

Y también creo que las plataformas estarían de acuerdo con eso.

And at the moment, they're marking their own homework.

Y en este momento, están marcando su propia tarea.

They like to tell us

Les gusta decirnos

that the interventions they're rolling out are working,

que las intervenciones que están implementando funcionan,

but because they write their own transparency reports,

pero como hacen sus propios informes de transparencia,

there's no way for us to independently verify what's actually happening.

no se puede verificar independientemente lo que realmente está sucediendo.

(Applause)

(Aplausos)

And let's also be clear that most of the changes we see

Y seamos claros que la mayoría de los cambios que vemos

only happen after journalists undertake an investigation

solo suceden después de que los periodistas inicien una investigación

and find evidence of bias

y encuentren evidencia de sesgo

or content that breaks their community guidelines.

o contenido que rompe las pautas de su comunidad.

So yes, these companies have to play a really important role in this process,

Sí, estas compañías tienen que jugar de verdad un papel importante en el proceso,

but they can't control it.

pero no pueden controlarlo.

So what about governments?

¿Y qué hay de los gobiernos?

Many people believe that global regulation is our last hope

Muchos creen que la regulación global es nuestra última esperanza.

in terms of cleaning up our information ecosystem.

en términos de limpieza de nuestro ecosistema de información.

But what I see are lawmakers who are struggling to keep up to date

Pero lo que veo son legisladores que luchan por mantenerse al día

with the rapid changes in technology.

con los rápidos cambios en la tecnología.

And worse, they're working in the dark,

Y peor, trabajan en la oscuridad,

because they don't have access to data

porque no tienen acceso a los datos

to understand what's happening on these platforms.

para entender lo que está sucediendo en estas plataformas.

And anyway, which governments would we trust to do this?

Y de todos modos, ¿en qué gobiernos confiaríamos para hacer esto?

We need a global response, not a national one.

Necesitamos una respuesta global, no nacional.

So the missing link is us.

Entonces el eslabón perdido somos nosotros.

It's those people who use these technologies every day.

Son esas personas que usan estas tecnologías todos los días.

Can we design a new infrastructure to support quality information?

¿Podemos diseñar una nueva infraestructura para soportar información de calidad?

Well, I believe we can,

Bueno, creo que podemos

and I've got a few ideas about what we might be able to actually do.

y tengo algunas ideas sobre lo que realmente podríamos hacer.

So firstly, if we're serious about bringing the public into this,

En primer lugar, si nos tomamos en serio atraer al público a esto,

can we take some inspiration from Wikipedia?

¿podemos inspirarnos en Wikipedia?

They've shown us what's possible.

Nos han mostrado lo que es posible.

Yes, it's not perfect,

Si, no es perfecto

but they've demonstrated that with the right structures,

pero han demostrado que con las estructuras correctas,

with a global outlook and lots and lots of transparency,

con una perspectiva global y mucha, mucha transparencia,

you can build something that will earn the trust of most people.

puedes construir algo que se ganará la confianza de las personas.

Because we have to find a way to tap into the collective wisdom

Tenemos que encontrar una manera de aprovechar la sabiduría colectiva

and experience of all users.

y la experiencia de todos los usuarios.

This is particularly the case for women, people of color

En particular las mujeres, las personas de color

and underrepresented groups.

y los grupos subrepresentados.

Because guess what?

¿Porque adivinen qué?

They are experts when it comes to hate and disinformation,

Son expertos en odio y desinformación,

because they have been the targets of these campaigns for so long.

porque han sido los objetivos de estas campañas durante mucho tiempo.

And over the years, they've been raising flags,

Y a lo largo de los años, han levantando banderas,

and they haven't been listened to.

y no han sido escuchados

This has got to change.

Esto tiene que cambiar.

So could we build a Wikipedia for trust?

¿Podríamos construir una Wikipedia para la confianza?

Could we find a way that users can actually provide insights?

¿Podríamos encontrar una forma en que los usuarios realmente proporcionen ideas?

They could offer insights around difficult content-moderation decisions.

Podrían ofrecer ideas sobre decisiones difíciles de moderación de contenido.

They could provide feedback

Podrían comentar

when platforms decide they want to roll out new changes.

cuando las plataformas decidan implementar nuevos cambios.

Second, people's experiences with the information is personalized.

Segundo, las experiencias de las personas con la información son personalizadas.

My Facebook news feed is very different to yours.

Mi fuente de noticias de Facebook es diferente de la de Uds.

Your YouTube recommendations are very different to mine.

Igual sus recomendaciones de YouTube.

That makes it impossible for us to actually examine

Eso hace que sea imposible para nosotros examinar

what information people are seeing.

qué información está viendo la gente.

So could we imagine

Entonces ¿podríamos imaginar desarrollar

developing some kind of centralized open repository for anonymized data,

algún tipo de repositorio abierto centralizado para datos anonimos,

with privacy and ethical concerns built in?

con privacidad y preocupaciones éticas incorporadas?

Because imagine what we would learn

Porque imaginen lo que aprenderíamos

if we built out a global network of concerned citizens

si construyeramos una red global de ciudadanos preocupados

who wanted to donate their social data to science.

que quisieran donar sus datos sociales a la ciencia.

Because we actually know very little

Porque sabemos muy poco

about the long-term consequences of hate and disinformation

sobre las consecuencias a largo plazo del odio y la desinformación

on people's attitudes and behaviors.

sobre las actitudes y comportamientos de las personas.

And what we do know,

Y lo que sabemos,

most of that has been carried out in the US,

la mayoría se ha llevado a cabo en EE. UU.

despite the fact that this is a global problem.

a pesar del hecho de que es un problema global.

We need to work on that, too.

Necesitamos trabajar en eso también.

And third,

Y tercero,

can we find a way to connect the dots?

¿podemos encontrar una manera de conectar los puntos?

No one sector, let alone nonprofit, start-up or government,

Ningún sector, y mucho menos sin fines de lucro, start-up o gobierno,

is going to solve this.

va a resolver esto

But there are very smart people right around the world

Pero hay personas muy inteligentes en todo el mundo.

working on these challenges,

trabajando en estos desafíos,

from newsrooms, civil society, academia, activist groups.

de redacciones, sociedad civil, academia, grupos activistas.

And you can see some of them here.

Pueden ver algunos aquí.

Some are building out indicators of content credibility.

Unos construyen indicadores de credibilidad de contenido.

Others are fact-checking,

Otros verifican hechos, para que las plataformas

so that false claims, videos and images can be down-ranked by the platforms.

puedan clasificar noticias falsas, videos e imágenes

A nonprofit I helped to found, First Draft,

Una organización sin fines de lucro, First Draft,

is working with normally competitive newsrooms around the world

trabaja con redacciones normalmente competitivas del mundo

to help them build out investigative, collaborative programs.

para ayudarlos a desarrollar programas de investigación y colaboración.

And Danny Hillis, a software architect,

Danny Hillis, un arquitecto de software,

is designing a new system called The Underlay,

está diseñando un nuevo sistema llamado The Underlay,

which will be a record of all public statements of fact

un registro de todas las declaraciones públicas de hechos

connected to their sources,

conectado a sus fuentes,

so that people and algorithms can better judge what is credible.

para que las personas y los algoritmos puedan juzgar mejor lo que es creíble.

And educators around the world are testing different techniques

Y los educadores de todo el mundo están probando diferentes técnicas.

for finding ways to make people critical of the content they consume.

para encontrar formas de hacer que la gente critique el contenido que consume.

All of these efforts are wonderful, but they're working in silos,

Todos estos esfuerzos son maravillosos, pero están trabajando en silos,

and many of them are woefully underfunded.

y muchos de ellos no tienen fondos suficientes.

There are also hundreds of very smart people

También hay cientos de personas muy inteligentes.

working inside these companies,

trabajando en esas empresas,

but again, these efforts can feel disjointed,

pero de nuevo, esos esfuerzos pueden sentirse desarticulados,

because they're actually developing different solutions to the same problems.

porque están desarrollando diferentes soluciones a los mismos problemas.

How can we find a way to bring people together

¿Cómo encontrar una manera de unir a las personas

in one physical location for days or weeks at a time,

en una ubicación física por días o semanas,

so they can actually tackle these problems together

para que puedan abordar estos problemas juntos,

but from their different perspectives?

pero desde sus diferentes perspectivas?

So can we do this?

¿Podemos hacer eso?

Can we build out a coordinated, ambitious response,

¿Podemos construir una respuesta coordinada y ambiciosa,

one that matches the scale and the complexity of the problem?

una que coincida con la escala y la complejidad del problema?

I really think we can.

Realmente creo que podemos.

Together, let's rebuild our information commons.

Juntos, reconstruyamos nuestros bienes comunes de información.

Thank you.

Gracias.

(Applause)

(Aplausos)