The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Traductor: Ciro Gomez Revisor: Lidia Cámara de la Fuente

I'm James.

Soy James.

I'm a writer and artist,

Soy escritor y artista,

and I make work about technology.

y trabajo en tecnología.

I do things like draw life-size outlines of military drones

Hago cosas como dibujar contornos de tamaño real de drones militares

in city streets around the world,

en calles de ciudades de todo el mundo,

so that people can start to think and get their heads around

para que la gente pueda comenzar a pensar y dar vueltas

these really quite hard-to-see and hard-to-think-about technologies.

a estas tecnologías realmente difíciles de ver y difíciles de pensar.

I make things like neural networks that predict the results of elections

Hago cosas como redes neuronales que predicen los resultados de las elecciones

based on weather reports,

basadas en informes meteorológicos,

because I'm intrigued about

porque estoy intrigado sobre

what the actual possibilities of these weird new technologies are.

cuáles son las posibilidades reales de estas nuevas tecnologías raras.

Last year, I built my own self-driving car.

El año pasado, construí mi propio auto autónomo.

But because I don't really trust technology,

Pero como realmente no confío en la tecnología,

I also designed a trap for it.

también diseñé una trampa para eso.

(Laughter)

(Risas)

And I do these things mostly because I find them completely fascinating,

Y hago estas cosas principalmente porque las encuentro completamente fascinantes,

but also because I think when we talk about technology,

pero también porque creo que cuando hablamos de tecnología,

we're largely talking about ourselves

en gran medida estamos hablando de nosotros mismos

and the way that we understand the world.

y la forma en que entendemos el mundo.

So here's a story about technology.

Así que aquí hay una historia de tecnología.

This is a "surprise egg" video.

Este es un video de "huevo sorpresa".

It's basically a video of someone opening up loads of chocolate eggs

Básicamente es un video de alguien abriendo muchos de huevos de chocolate

and showing the toys inside to the viewer.

y mostrando los juguetes del interior.

That's it. That's all it does for seven long minutes.

Eso es. Eso es todo lo que hace durante siete largos minutos.

And I want you to notice two things about this.

Y quiero que noten dos cosas.

First of all, this video has 30 million views.

En primer lugar, este video tiene 30 millones de visitas.

(Laughter)

(Risas)

And the other thing is,

Y la otra cosa es,

it comes from a channel that has 6.3 million subscribers,

que proviene de un canal que tiene 6,3 millones de suscriptores,

that has a total of eight billion views,

que tiene un total de 8 mil millones de visitas,

and it's all just more videos like this --

y todo son solo más videos como este...

30 million people watching a guy opening up these eggs.

30 millones de personas viendo a un chico abriendo estos huevos.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Suena bastante extraño, pero si buscan "huevos sorpresa" en YouTube,

it'll tell you there's 10 million of these videos,

les dirá que hay 10 millones de estos videos,

and I think that's an undercount.

y creo que es un conteo a la baja.

I think there's way, way more of these.

Creo que hay muchos más.

If you keep searching, they're endless.

Si siguen buscando, no acaban.

There's millions and millions of these videos

Hay millones y millones de estos videos

in increasingly baroque combinations of brands and materials,

en combinaciones cada vez más barrocas de marcas y materiales,

and there's more and more of them being uploaded every single day.

y hay más y más de ellos que se cargan todos los días.

Like, this is a strange world. Right?

Este es un mundo extraño. ¿De acuerdo?

But the thing is, it's not adults who are watching these videos.

Pero la cuestión es que no son adultos los que miran estos videos.

It's kids, small children.

Son niños, niños pequeños.

These videos are like crack for little kids.

Estos videos son como crac para niños pequeños.

There's something about the repetition,

Hay algo sobre la repetición,

the constant little dopamine hit of the reveal,

el pequeño y constante golpe de dopamina de la revelación,

that completely hooks them in.

que los engancha por completo.

And little kids watch these videos over and over and over again,

Y los niños pequeños miran estos videos una y otra y otra vez

and they do it for hours and hours and hours.

y lo hacen durante horas, horas y horas.

And if you try and take the screen away from them,

Y si tratas de quitarles la pantalla,

they'll scream and scream and scream.

gritarán, gritarán y gritarán.

If you don't believe me --

Si no me creen

and I've already seen people in the audience nodding --

--y ya he visto gente en la audiencia asintiendo--,

if you don't believe me, find someone with small children and ask them,

si no me creen, busquen a alguien con niños pequeños y pregúntenles:

and they'll know about the surprise egg videos.

y sabrán sobre los videos de huevos sorpresa.

So this is where we start.

Aquí es donde comenzamos.

It's 2018, and someone, or lots of people,

Es 2018 mucha gente,

are using the same mechanism that, like, Facebook and Instagram are using

usa el mismo mecanismo que Facebook e Instagram

to get you to keep checking that app,

para que uno siga enganchado en esa aplicación,

and they're using it on YouTube to hack the brains of very small children

y lo usan en YouTube para hackear el cerebro de niños muy pequeños

in return for advertising revenue.

a cambio de ingresos publicitarios.

At least, I hope that's what they're doing.

Al menos, espero que sea lo que están haciendo.

I hope that's what they're doing it for,

Espero que para eso lo estén haciendo,

because there's easier ways of making ad revenue on YouTube.

porque hay formas más fáciles de generar ingresos publicitarios en YouTube.

You can just make stuff up or steal stuff.

Puedes inventar cosas o robar cosas.

So if you search for really popular kids' cartoons

Si buscas dibujos animados populares para niños

like "Peppa Pig" or "Paw Patrol,"

como "Pepper Pig" o "Paw Patrol"

you'll find there's millions and millions of these online as well.

encontrarás millones y millones de estos en línea también.

Of course, most of them aren't posted by the original content creators.

Por supuesto, la mayoría no están publicados por los creadores originales.

They come from loads and loads of different random accounts,

Vienen de montones y montones de cuentas aleatorias diferentes,

and it's impossible to know who's posting them

y es imposible saber quién los está publicando

or what their motives might be.

o cuáles podrían ser sus motivos.

Does that sound kind of familiar?

¿Suena algo familiar?

Because it's exactly the same mechanism

Porque es exactamente el mismo mecanismo

that's happening across most of our digital services,

que se da en la mayoría de nuestros servicios digitales,

where it's impossible to know where this information is coming from.

en que es imposible saber de dónde viene esta información.

It's basically fake news for kids,

Básicamente son noticias falsas para niños,

and we're training them from birth

y los estamos entrenando desde el nacimiento

to click on the very first link that comes along,

para hacer clic en el primer enlace que aparece,

regardless of what the source is.

independientemente de cuál sea la fuente.

That's doesn't seem like a terribly good idea.

Esa no parece una idea terriblemente buena.

Here's another thing that's really big on kids' YouTube.

Aquí otra cosa que es muy importante en YouTube para niños.

This is called the "Finger Family Song."

Esto se llama "Finger Family Song".

Alguien acaba de suspirar en la audiencia.

I just heard someone groan in the audience.

La "canción de la familia del dedo".

This is the "Finger Family Song."

This is the very first one I could find.

Este es el primero que pude encontrar.

It's from 2007, and it only has 200,000 views,

Es de 2007, y solo tiene 200 000 visitas,

which is, like, nothing in this game.

que es, como, nada en este juego.

But it has this insanely earwormy tune,

Pero tiene una melodía increíblemente tierna

which I'm not going to play to you,

que no les voy a poner,

because it will sear itself into your brain

porque se implantará en su cerebro

in the same way that it seared itself into mine,

de la misma manera que se incrustó en el mío,

and I'm not going to do that to you.

y no se lo voy a hacer a Uds.

But like the surprise eggs,

Pero como los huevos sorpresa,

it's got inside kids' heads

está dentro de las cabezas de los niños

and addicted them to it.

y los hace adictos a ella.

So within a few years, these finger family videos

Dentro de unos años, estos videos familiares de dedos

start appearing everywhere,

aparecerán en todas partes,

and you get versions in different languages

y con versiones en diferentes idiomas

with popular kids' cartoons using food

con caricaturas populares usando comida

or, frankly, using whatever kind of animation elements

o, francamente, cualquier tipo de animación

you seem to have lying around.

que parece que está por ahí.

And once again, there are millions and millions and millions of these videos

Y una vez más, hay millones, millones y millones de estos videos

available online in all of these kind of insane combinations.

disponibles en línea en todos estos tipos de combinaciones insanas.

And the more time you start to spend with them,

Y cuanto más tiempo pasas con ellos,

the crazier and crazier you start to feel that you might be.

más loco y loco te sientes que puedes ser.

And that's where I kind of launched into this,

Y ahí es donde me lancé a esto,

that feeling of deep strangeness and deep lack of understanding

esa sensación de profunda extrañeza y profunda falta de comprensión

of how this thing was constructed that seems to be presented around me.

de cómo se construyó esta cosa que parece presentarse a mi alrededor.

Because it's impossible to know where these things are coming from.

Porque es imposible saber de dónde vienen estas cosas.

Like, who is making them?

¿Quién los hace?

Some of them appear to be made of teams of professional animators.

Algunos parecen hechos por equipos de animadores profesionales.

Some of them are just randomly assembled by software.

Algunos son simplemente ensamblados al azar por software.

Some of them are quite wholesome-looking young kids' entertainers.

Algunos son artistas jóvenes muy saludables,

And some of them are from people

Y algunos son de personas

who really clearly shouldn't be around children at all.

que claramente no deberían estar cerca de los niños.

(Laughter)

(Risas)

And once again, this impossibility of figuring out who's making this stuff --

Y una vez más, esta imposibilidad de descubrir quién hace estas cosas:

like, this is a bot?

¿Se trata de un robot?

Is this a person? Is this a troll?

¿Es una persona? ¿Es un troll?

What does it mean that we can't tell the difference

¿Qué significa ya no poder más ver la diferencia

between these things anymore?

entre estas cosas?

And again, doesn't that uncertainty feel kind of familiar right now?

Y nuevamente, ¿esa incertidumbre no les resulta familiar en este momento?

So the main way people get views on their videos --

La principal forma para que los videos sean vistos

and remember, views mean money --

--y recuerden, las visualizaciones significan dinero--

is that they stuff the titles of these videos with these popular terms.

es titulando estos videos con estos términos populares.

So you take, like, "surprise eggs"

Tomas algo como "huevos sorpresa"

and then you add "Paw Patrol," "Easter egg,"

y agregas "Paw Patrol", "Huevo de Pascua"

or whatever these things are,

o lo que sean

all of these words from other popular videos into your title,

todas estas palabras de otros videos populares en el título,

until you end up with this kind of meaningless mash of language

hasta que terminas con este tipo de puré de lenguaje sin sentido

that doesn't make sense to humans at all.

que no tiene sentido para los humanos en absoluto.

Because of course it's only really tiny kids who are watching your video,

Porque, por supuesto, solo los niños muy pequeños miran tu video,

and what the hell do they know?

y ¿qué demonios saben ellos?

Your real audience for this stuff is software.

Tu audiencia real para esto es software.

It's the algorithms.

Son los algoritmos.

It's the software that YouTube uses

Es el software que usa YouTube

to select which videos are like other videos,

para seleccionar qué videos que son como otros videos,

to make them popular, to make them recommended.

para hacerlos populares, para recomendarlos.

And that's why you end up with this kind of completely meaningless mash,

Y por eso terminas con este tipo de puré completamente sin sentido,

both of title and of content.

tanto de título como de contenido.

But the thing is, you have to remember,

Pero el caso es que debes recordar,

there really are still people within this algorithmically optimized system,

realmente todavía hay personas dentro de este sistema optimizado algorítmicamente,

people who are kind of increasingly forced to act out

personas cada vez más forzadas a actuar

these increasingly bizarre combinations of words,

estas combinaciones cada vez más extrañas de palabras,

like a desperate improvisation artist responding to the combined screams

como un artista de improvisación desesperado que responde a la vez

of a million toddlers at once.

a los gritos de un millón de niños pequeños.

There are real people trapped within these systems,

Hay personas atrapadas dentro de estos sistemas,

and that's the other deeply strange thing about this algorithmically driven culture,

y eso es otra cosa muy extraña de esta cultura guiada algorítmicamente,

because even if you're human,

porque incluso si eres humano,

you have to end up behaving like a machine

tienes que terminar comportándote como una máquina

just to survive.

solo para sobrevivir

And also, on the other side of the screen,

Y también, en el otro lado de la pantalla,

there still are these little kids watching this stuff,

todavía hay niños pequeños mirándolo,

stuck, their full attention grabbed by these weird mechanisms.

atrapados, toda su atención atrapada, por estos mecanismos extraños.

And most of these kids are too small to even use a website.

Y estos niños son demasiado pequeños para usar un sitio web.

They're just kind of hammering on the screen with their little hands.

Simplemente están martillando en la pantalla con sus pequeñas manos.

And so there's autoplay,

Y existe reproducción automática,

where it just keeps playing these videos over and over and over in a loop,

y estos videos se siguen reproduciendo una y otra y otra vez,

endlessly for hours and hours at a time.

interminablemente horas y horas a la vez.

And there's so much weirdness in the system now

Y es tan raro el sistema hoy

that autoplay takes you to some pretty strange places.

que esa reproducción automática lleva a algunos lugares muy extraños.

This is how, within a dozen steps,

Así es como, en una docena de pasos,

you can go from a cute video of a counting train

puedes pasar de un lindo video de un tren de conteo

to masturbating Mickey Mouse.

a Mickey Mouse masturbándose.

Yeah. I'm sorry about that.

Sí. Lo lamento.

This does get worse.

Esto empeora.

This is what happens

Esto es lo que pasa

when all of these different keywords,

cuando todas estas diferentes palabras clave,

all these different pieces of attention,

todas estas diferentes piezas de atención,

this desperate generation of content,

esta desesperada generación de contenido,

all comes together into a single place.

todo se une en un solo lugar.

This is where all those deeply weird keywords come home to roost.

Aquí es donde esas palabras clave muy extrañas llegan a casa para descansar.

You cross-breed the finger family video

Uno cruza el video de la familia del dedo

with some live-action superhero stuff,

con algunas cosas de superhéroes de acción en vivo,

you add in some weird, trollish in-jokes or something,

agregas algunas bromas raras y trollsas o algo así

and suddenly, you come to a very weird place indeed.

y de repente, llegas a un lugar muy extraño de hecho.

The stuff that tends to upset parents

Lo que tiende a molestar a los padres

is the stuff that has kind of violent or sexual content, right?

es el material que tiene un tipo de contenido violento o sexual, ¿verdad?

Children's cartoons getting assaulted,

Dibujos animados de niños siendo atacados,

getting killed,

siendo asesinados,

weird pranks that actually genuinely terrify children.

bromas extrañas que realmente aterrorizan a los niños.

What you have is software pulling in all of these different influences

Lo que tienes es software que tira de todas estas influencias diferentes

para generar automáticamente las peores pesadillas de los niños.

to automatically generate kids' worst nightmares.

And this stuff really, really does affect small children.

Y esto realmente afecta a los niños pequeños.

Parents report their children being traumatized,

Los padres informan que sus hijos están traumatizados,

becoming afraid of the dark,

tienen miedo a la oscuridad,

becoming afraid of their favorite cartoon characters.

tienen miedo de sus personajes de dibujos animados favoritos.

If you take one thing away from this, it's that if you have small children,

Si se llevan una cosa de esto, es que si tienen niños pequeños,

keep them the hell away from YouTube.

manténganlos lejos de YouTube.

(Applause)

(Aplausos)

But the other thing, the thing that really gets to me about this,

Pero otra cosa, lo que realmente me atrapa de esto,

is that I'm not sure we even really understand how we got to this point.

es que no estoy seguro de que realmente comprendamos cómo llegamos a este punto.

We've taken all of this influence, all of these things,

Hemos tomado toda esta influencia, todas estas cosas,

and munged them together in a way that no one really intended.

y las procesamos de manera que nadie realmente pretendía.

And yet, this is also the way that we're building the entire world.

Y, sin embargo, es también como estamos construyendo el mundo entero.

We're taking all of this data,

Estamos tomando todos estos datos,

a lot of it bad data,

muchos datos malos,

a lot of historical data full of prejudice,

una gran cantidad de datos históricos llenos de prejuicios,

full of all of our worst impulses of history,

lleno de todos nuestros peores impulsos de la historia,

and we're building that into huge data sets

y creamos enormes conjuntos de datos

and then we're automating it.

y luego los automatizamos.

And we're munging it together into things like credit reports,

Y lo estamos procesando en cosas como informes de crédito,

into insurance premiums,

en primas de seguros,

into things like predictive policing systems,

en cosas como sistemas de vigilancia predictiva,

into sentencing guidelines.

en pautas de sentencia.

This is the way we're actually constructing the world today

Es la forma en que realmente construimos el mundo de hoy

out of this data.

con estos datos.

And I don't know what's worse,

Y no sé qué es peor,

that we built a system that seems to be entirely optimized

si construir un sistema que parece estar completamente optimizado

for the absolute worst aspects of human behavior,

para los peores aspectos absolutos del comportamiento humano,

or that we seem to have done it by accident,

o parecer que lo hemos hecho por accidente,

without even realizing that we were doing it,

sin siquiera darnos cuenta de que lo hacíamos,

because we didn't really understand the systems that we were building,

porque realmente no entendíamos los sistemas que construíamos,

and we didn't really understand how to do anything differently with it.

y realmente no entendimos cómo hacer algo diferente con eso.

There's a couple of things I think that really seem to be driving this

Hay un par de cosas que creo que realmente parecen impulsar esto

most fully on YouTube,

más plenamente en YouTube,

and the first of those is advertising,

y el primero es la publicidad,

which is the monetization of attention

que es la monetización de la atención

without any real other variables at work,

sin otras variables reales de trabajo,

any care for the people who are actually developing this content,

sin ningún cuidado de las personas que realmente desarrollan este contenido,

the centralization of the power, the separation of those things.

la centralización del poder, la separación de esas cosas.

And I think however you feel about the use of advertising

Y creo que lo que sientes sobre el uso de la publicidad

to kind of support stuff,

como apoyo de estas cosas,

the sight of grown men in diapers rolling around in the sand

ver a hombres adultos en pañales rodando alrededor de la arena

in the hope that an algorithm that they don't really understand

con la esperanza de que un algoritmo que realmente no entienden

will give them money for it

les dará dinero por ello

suggests that this probably isn't the thing

sugiere que esto probablemente no es sobre

that we should be basing our society and culture upon,

lo que deberíamos basar nuestra sociedad y cultura,

and the way in which we should be funding it.

y la forma en que deberíamos financiarla.

And the other thing that's kind of the major driver of this is automation,

Y la otra cosa que es el principal impulsor de esto es la automatización,

which is the deployment of all of this technology

que es el despliegue de toda esta tecnología

as soon as it arrives, without any kind of oversight,

tan pronto como llega, sin ningún tipo de supervisión,

and then once it's out there,

y cuando está ahí afuera,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

levantar las manos y decir: "Oye, no somos nosotros, es la tecnología".

Like, "We're not involved in it."

Como, "No estamos involucrados en eso".

That's not really good enough,

Eso no es realmente lo suficientemente bueno,

because this stuff isn't just algorithmically governed,

porque esto no solo se rige algorítmicamente,

it's also algorithmically policed.

también está controlado algorítmicamente.

When YouTube first started to pay attention to this,

Cuando YouTube comenzó a prestar atención a esto,

the first thing they said they'd do about it

lo primero que dijo que haría

was that they'd deploy better machine learning algorithms

fue que implementaría mejores algoritmos de aprendizaje automático

to moderate the content.

para moderar el contenido.

Well, machine learning, as any expert in it will tell you,

Bueno, el aprendizaje automático, como cualquier experto en ello les dirá,

is basically what we've started to call

es básicamente lo que hemos comenzado a llamar

software that we don't really understand how it works.

software que no entendemos cómo funciona.

And I think we have enough of that already.

Y creo que ya tenemos suficiente de eso.

We shouldn't be leaving this stuff up to AI to decide

No deberíamos dejar esto en manos de la IA para decidir

what's appropriate or not,

lo que es apropiado o no,

because we know what happens.

porque sabemos lo que sucede.

It'll start censoring other things.

Comenzará a censurar otras cosas.

It'll start censoring queer content.

Comenzará a censurar contenido queer.

It'll start censoring legitimate public speech.

Comenzará a censurar el discurso público legítimo.

What's allowed in these discourses,

Lo que se permite en estos discursos,

it shouldn't be something that's left up to unaccountable systems.

no debería ser algo que haya quedado en sistemas inexplicables.

It's part of a discussion all of us should be having.

Es parte de una discusión que todos deberíamos tener.

But I'd leave a reminder

Pero dejaría un recordatorio

that the alternative isn't very pleasant, either.

que la alternativa tampoco es muy agradable.

YouTube also announced recently

YouTube también anunció

that they're going to release a version of their kids' app

que va a lanzar una versión de la aplicación para niños

that would be entirely moderated by humans.

que sería completamente moderada por humanos.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebook; Zuckerberg dijo casi lo mismo en el Congreso,

when pressed about how they were going to moderate their stuff.

cuando se le preguntó sobre cómo iba a moderar sus cosas.

He said they'd have humans doing it.

Y dijo que tendrían humanos haciéndolo.

And what that really means is,

Y lo que realmente significa

instead of having toddlers being the first person to see this stuff,

es que en lugar de tener niños pequeños viendo esto por primera vez,

you're going to have underpaid, precarious contract workers

van a tener trabajadores subcontratados y precarios

without proper mental health support

sin el adecuado apoyo de salud mental

being damaged by it as well.

siendo afectados también.

(Laughter)

(Risas)

And I think we can all do quite a lot better than that.

Y creo que todos podemos hacer mucho mejor que eso.

(Applause)

(Aplausos)

The thought, I think, that brings those two things together, really, for me,

La idea, creo, que reúne esas dos cosas, realmente, para mí,

is agency.

es agencia.

It's like, how much do we really understand -- by agency, I mean:

Es como, ¿cuánto entendemos realmente? Por agencia, quiero decir:

how we know how to act in our own best interests.

cómo sabemos cómo actuar en nuestro propio interés.

Which -- it's almost impossible to do

Lo que es casi imposible de hacer

in these systems that we don't really fully understand.

en estos sistemas que realmente no comprendemos del todo.

Inequality of power always leads to violence.

La desigualdad de poder siempre conduce a la violencia.

And we can see inside these systems

Y podemos ver dentro de estos sistemas

that inequality of understanding does the same thing.

esa desigualdad de entendimiento hace lo mismo.

If there's one thing that we can do to start to improve these systems,

Si hay algo que podemos hacer para comenzar a mejorar estos sistemas,

it's to make them more legible to the people who use them,

es hacerlos más legibles para las personas que los usan,

so that all of us have a common understanding

para que todos tengamos un entendimiento común

of what's actually going on here.

de lo que está sucediendo ahí.

The thing, though, I think most about these systems

La cosa, sin embargo, pienso más acerca de estos sistemas

is that this isn't, as I hope I've explained, really about YouTube.

es que esto no es, como espero haber explicado, realmente sobre YouTube.

It's about everything.

Se trata de todo.

These issues of accountability and agency,

Estos problemas de responsabilidad y agencia,

of opacity and complexity,

de opacidad y complejidad,

of the violence and exploitation that inherently results

de la violencia y la explotación que resulta inherentemente

from the concentration of power in a few hands --

de la concentración de poder en unas pocas manos,

these are much, much larger issues.

estos son problemas mucho, mucho más grandes.

And they're issues not just of YouTube and not just of technology in general,

Y no solo son problemas de YouTube y no solo de la tecnología en general,

y ni siquiera son nuevos.

and they're not even new.

They've been with us for ages.

Han estado con nosotros por siglos.

But we finally built this system, this global system, the internet,

Pero finalmente construimos este sistema, este sistema global, Internet,

that's actually showing them to us in this extraordinary way,

que nos los muestra en realidad de esta manera extraordinaria,

making them undeniable.

haciéndolos innegables.

Technology has this extraordinary capacity

La tecnología tiene esta extraordinaria capacidad

to both instantiate and continue

para hacer tangibles y continuos

all of our most extraordinary, often hidden desires and biases

todos nuestros más extraordinarios, a menudo ocultos deseos y prejuicios

and encoding them into the world,

y codificándolos en el mundo,

but it also writes them down so that we can see them,

pero también los escribe para que podamos verlos,

so that we can't pretend they don't exist anymore.

para que no podamos pretender que ya no existen.

We need to stop thinking about technology as a solution to all of our problems,

Tenemos que dejar de pensar en la tecnología

como una solución a todos nuestros problemas,

but think of it as a guide to what those problems actually are,

y pensarla como una guía de lo que esos problemas son en realidad,

so we can start thinking about them properly

para que podamos comenzar a pensar en ellos adecuadamente

and start to address them.

y empezar a abordarlos.

Thank you very much.

Muchas gracias.

(Applause)

(Aplausos)

Thank you.

Gracias.

(Applause)

(Aplausos)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: James, gracias por venir y darnos esa charla.

So it's interesting:

Es interesante:

when you think about the films where the robotic overlords take over,

cuando piensas en películas donde jefes supremos robóticos toman el control,

it's all a bit more glamorous than what you're describing.

todo es un poco más glamoroso que lo que describes.

But I wonder -- in those films, you have the resistance mounting.

Pero me pregunto: en esas películas, se monta la resistencia.

Is there a resistance mounting towards this stuff?

¿Hay una resistencia contra esto?

Do you see any positive signs, green shoots of resistance?

¿Ves signos positivos, brotes verdes de resistencia?

James Bridle: I don't know about direct resistance,

James Bridle: No sé sobre la resistencia directa,

because I think this stuff is super long-term.

porque creo que esto es a muy largo plazo.

I think it's baked into culture in really deep ways.

Creo que está profundamente arraigada en la cultura.

A friend of mine, Eleanor Saitta, always says

Una amiga mía, Eleanor Saitta, siempre dice

that any technological problems of sufficient scale and scope

que cualquier problema tecnológico de escala y alcance suficientes

are political problems first of all.

es un problema político antes que nada.

So all of these things we're working to address within this

Todas estas cosas en las que estamos trabajando para enfrentarnos a esto

are not going to be addressed just by building the technology better,

no van a abordarse solo construyendo mejor tecnología,

but actually by changing the society that's producing these technologies.

sino cambiando la sociedad que está produciendo estas tecnologías.

So no, right now, I think we've got a hell of a long way to go.

Así que no, hoy, creo que tenemos un infierno que recorrer.

But as I said, I think by unpacking them,

Pero como dije, creo que al destaparlos,

by explaining them, by talking about them super honestly,

al explicarlos, al hablar de ellos superhonestamente,

we can actually start to at least begin that process.

en realidad podemos comenzar al menos ese proceso.

HW: And so when you talk about legibility and digital literacy,

HW: Y cuando hablas de legibilidad y alfabetización digital,

I find it difficult to imagine

me resulta difícil de imaginar

that we need to place the burden of digital literacy on users themselves.

que debemos colocar la carga de la alfabetización digital en los usuarios.

But whose responsibility is education in this new world?

¿Pero de quién es la educación en este nuevo mundo?

JB: Again, I think this responsibility is kind of up to all of us,

JB: Nuevamente, creo que esta responsabilidad depende de todos nosotros,

that everything we do, everything we build, everything we make,

todo lo que hacemos, todo lo que construimos, todo lo que creamos,

needs to be made in a consensual discussion

debe hacerse en una discusión consensuada

with everyone who's avoiding it;

con todos los que lo evitan;

that we're not building systems intended to trick and surprise people

que no estamos construyendo sistemas para engañar y sorprender a las personas

into doing the right thing,

haciendo lo correcto,

but that they're actually involved in every step in educating them,

pero que en realidad están involucrados en cada paso para educarlos,

because each of these systems is educational.

porque cada uno de estos sistemas es educativo.

That's what I'm hopeful about, about even this really grim stuff,

Es lo que me da esperanza, aun en esta cosa realmente sombría,

that if you can take it and look at it properly,

que si puedes tomarla y mirarla correctamente,

it's actually in itself a piece of education

en realidad es en sí misma una pieza educativa

that allows you to start seeing how complex systems come together and work

que permite comenzar a ver cómo los sistemas complejos se unen y funcionan

and maybe be able to apply that knowledge elsewhere in the world.

y tal vez ser capaz de aplicar ese conocimiento en otro lugar del mundo.

HW: James, it's such an important discussion,

HW: James, es una discusión tan importante,

and I know many people here are really open and prepared to have it,

y sé que muchos aquí están realmente abiertos y dispuestos a tenerla,

así que gracias por comenzar nuestra mañana.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

JB: Muchas gracias.

(Applause)

(Aplausos)