The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Tradutor: Maurício Kakuei Tanaka Revisor: Maricene Crus

I'm James.

Meu nome é James.

I'm a writer and artist,

Sou escritor e artista,

and I make work about technology.

e produzo trabalho a respeito de tecnologia.

I do things like draw life-size outlines of military drones

Faço coisas como desenhar esboços em tamanho natural de "drones" militares

in city streets around the world,

nas ruas ao redor do mundo,

so that people can start to think and get their heads around

para que as pessoas possam começar a pensar e a compreender

these really quite hard-to-see and hard-to-think-about technologies.

essas tecnologias muito difíceis de se ver e imaginar.

I make things like neural networks that predict the results of elections

Faço coisas como redes neurais que preveem os resultados de eleições

based on weather reports,

com base em boletins meteorológicos,

because I'm intrigued about

porque fico intrigado com as reais possibilidades

what the actual possibilities of these weird new technologies are.

dessas novas tecnologias estranhas.

Last year, I built my own self-driving car.

No ano passado, construí meu próprio carro autônomo.

But because I don't really trust technology,

Mas, como não confio na tecnologia, também projetei uma armadilha para ele.

I also designed a trap for it.

(Laughter)

(Risos)

And I do these things mostly because I find them completely fascinating,

Faço essas coisas sobretudo porque as considero totalmente fascinantes,

but also because I think when we talk about technology,

mas também porque penso que, ao falar sobre tecnologia,

we're largely talking about ourselves

estamos falando, principalmente, sobre nós mesmos

and the way that we understand the world.

e a maneira pela qual entendemos o mundo.

So here's a story about technology.

Eis uma história sobre tecnologia.

This is a "surprise egg" video.

Este é um vídeo do "ovo surpresa".

It's basically a video of someone opening up loads of chocolate eggs

É, basicamente, um vídeo de alguém abrindo um monte de ovos de chocolate

and showing the toys inside to the viewer.

e mostrando os brinquedos que estão dentro deles.

That's it. That's all it does for seven long minutes.

Isso é tudo o que se passa durante sete longos minutos.

And I want you to notice two things about this.

Quero que reparem em duas coisas.

First of all, this video has 30 million views.

Primeiro, esse vídeo tem 30 milhões de visualizações.

(Laughter)

(Risos)

And the other thing is,

A outra coisa é que ele aparece em um canal com 6,3 milhões de inscritos

it comes from a channel that has 6.3 million subscribers,

that has a total of eight billion views,

e um total de 8 bilhões de visualizações,

and it's all just more videos like this --

e há mais vídeos como esse.

30 million people watching a guy opening up these eggs.

São 30 milhões de pessoas assistindo a um cara abrindo esses ovos.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Parece muito estranho mas, se procurarem por "ovos surpresa" no YouTube,

it'll tell you there's 10 million of these videos,

irão verificar que há 10 milhões desses vídeos,

and I think that's an undercount.

e acho que isso é por baixo.

I think there's way, way more of these.

Deve haver bem mais vídeos como esse.

If you keep searching, they're endless.

Se continuarem procurando, não acaba mais.

There's millions and millions of these videos

Há milhões desses vídeos,

in increasingly baroque combinations of brands and materials,

em combinações cada vez mais grotescas de marcas e materiais,

and there's more and more of them being uploaded every single day.

surgindo na internet todos os dias.

Like, this is a strange world. Right?

É um mundo bizarro, não é mesmo?

But the thing is, it's not adults who are watching these videos.

Mas acontece que não são os adultos que assistem a esses vídeos.

It's kids, small children.

São as crianças pequenas.

These videos are like crack for little kids.

Esses vídeos são como droga para elas.

There's something about the repetition,

Há algo sobre a repetição,

the constant little dopamine hit of the reveal,

a dose constante de dopamina da revelação, que as fisga totalmente.

that completely hooks them in.

And little kids watch these videos over and over and over again,

As crianças pequenas assistem a esses vídeos sem parar

and they do it for hours and hours and hours.

durante horas a fio.

And if you try and take the screen away from them,

Se tentarem afastá-las da tela, elas irão gritar sem parar.

they'll scream and scream and scream.

If you don't believe me --

Já vi pessoas na plateia concordando.

and I've already seen people in the audience nodding --

Se não acreditam, perguntem a quem têm crianças pequenas.

if you don't believe me, find someone with small children and ask them,

Elas conhecem os vídeos dos ovos surpresa.

and they'll know about the surprise egg videos.

So this is where we start.

É aí que começamos.

It's 2018, and someone, or lots of people,

Estamos em 2018, e alguém, ou muitas pessoas,

are using the same mechanism that, like, Facebook and Instagram are using

usam o mesmo mecanismo do Facebook e do Instagram

to get you to keep checking that app,

para nos manter verificando o aplicativo

and they're using it on YouTube to hack the brains of very small children

e para invadir o cérebro das criancinhas no YouTube

in return for advertising revenue.

em troca de receitas publicitárias.

At least, I hope that's what they're doing.

É o que, pelo menos, espero que estejam fazendo,

I hope that's what they're doing it for,

porque há formas mais fáceis de gerar receitas publicitárias no YouTube.

because there's easier ways of making ad revenue on YouTube.

You can just make stuff up or steal stuff.

Podemos inventar ou roubar coisas.

So if you search for really popular kids' cartoons

Se procurarem por desenhos infantis realmente populares,

like "Peppa Pig" or "Paw Patrol,"

como "Peppa" ou "Patrulha Canina",

you'll find there's millions and millions of these online as well.

descobrirão que há também milhões deles na internet.

Of course, most of them aren't posted by the original content creators.

Claro que a maioria deles não é publicada pelos criadores originais.

They come from loads and loads of different random accounts,

Eles vêm de um monte de contas aleatórias diferentes,

and it's impossible to know who's posting them

e é impossível saber quem os publica ou quais são os motivos para isso.

or what their motives might be.

Does that sound kind of familiar?

Isso lhes parece familiar?

Because it's exactly the same mechanism

Porque é exatamente o mesmo mecanismo

that's happening across most of our digital services,

que ocorre na maior parte de nossos serviços digitais

where it's impossible to know where this information is coming from.

em que é impossível saber a origem das informações.

It's basically fake news for kids,

São notícias falsas para crianças,

and we're training them from birth

e nós as estamos treinando, desde que nascem,

to click on the very first link that comes along,

a clicarem no primeiro link que aparece, não importando a origem dele.

regardless of what the source is.

That's doesn't seem like a terribly good idea.

Não parece uma ideia muito boa.

Here's another thing that's really big on kids' YouTube.

Outra coisa muito famosa no YouTube para crianças

This is called the "Finger Family Song."

é a "Finger Family Song".

Acabei de ouvi alguém resmungando de novo na plateia.

I just heard someone groan in the audience.

This is the "Finger Family Song."

Esta é a "Finger Family Song".

This is the very first one I could find.

Foi a primeira que consegui encontrar.

It's from 2007, and it only has 200,000 views,

É de 2007 e tem apenas 200 mil visualizações,

which is, like, nothing in this game.

o que não é nada nesse jogo.

But it has this insanely earwormy tune,

Mas ela tem uma melodia irritante

which I'm not going to play to you,

que não vou tocar para vocês porque ela gruda no cérebro

because it will sear itself into your brain

in the same way that it seared itself into mine,

como grudou no meu,

and I'm not going to do that to you.

e não vou fazer uma coisa dessas.

But like the surprise eggs,

Mas, como os ovos surpresa,

it's got inside kids' heads

ela entra na cabeça das crianças, que ficam viciadas nela.

and addicted them to it.

So within a few years, these finger family videos

Dentro de alguns anos, esses vídeos começam a surgir em toda parte,

start appearing everywhere,

and you get versions in different languages

e temos versões em vários idiomas

with popular kids' cartoons using food

com desenhos infantis usando a comida

or, frankly, using whatever kind of animation elements

ou quaisquer tipos de elementos de animação que existem por aí.

you seem to have lying around.

And once again, there are millions and millions and millions of these videos

Mais uma vez, há milhões desses vídeos na internet,

available online in all of these kind of insane combinations.

disponíveis em todos os tipos de combinações bizarras.

And the more time you start to spend with them,

Quanto mais tempo passamos com eles

the crazier and crazier you start to feel that you might be.

mais loucos começamos a ficar.

And that's where I kind of launched into this,

Foi aí que comecei a ter

that feeling of deep strangeness and deep lack of understanding

uma sensação de profunda estranheza e falta de compreensão

of how this thing was constructed that seems to be presented around me.

sobre como era construída essa coisa que parece estar sempre ao meu redor.

Because it's impossible to know where these things are coming from.

Porque é impossível saber de onde vêm esses vídeos.

Quem os produz?

Like, who is making them?

Alguns parecem ser feitos por equipes de animadores profissionais.

Some of them appear to be made of teams of professional animators.

Some of them are just randomly assembled by software.

Outros são apenas montados aleatoriamente por software.

Some of them are quite wholesome-looking young kids' entertainers.

Alguns divertem as crianças e têm um aspecto muito saudável.

And some of them are from people

E outros são de pessoas que, claramente, não deveriam se aproximar de crianças.

who really clearly shouldn't be around children at all.

(Risos)

(Laughter)

And once again, this impossibility of figuring out who's making this stuff --

Mais uma vez, a impossibilidade de saber quem faz essas coisas...

like, this is a bot?

É um robô?

Is this a person? Is this a troll?

Uma pessoa? Um "troll"?

What does it mean that we can't tell the difference

Isso significa que não conseguimos mais notar a diferença entre essas coisas?

between these things anymore?

And again, doesn't that uncertainty feel kind of familiar right now?

Essa incerteza não lhes parece familiar?

So the main way people get views on their videos --

O meio principal para obter visualizações de vídeos,

and remember, views mean money --

e elas significam dinheiro,

is that they stuff the titles of these videos with these popular terms.

é enchendo os títulos desses vídeos com esses termos populares.

So you take, like, "surprise eggs"

Considerem os "ovos surpresa".

and then you add "Paw Patrol," "Easter egg,"

Incluam "Patrulha Canina", "ovo de Páscoa", seja o que for,

or whatever these things are,

todas as palavras de outros vídeos populares ao seu título

all of these words from other popular videos into your title,

até acabarem com esse tipo de linguagem misturada,

until you end up with this kind of meaningless mash of language

that doesn't make sense to humans at all.

que não faz sentido algum às pessoas.

Because of course it's only really tiny kids who are watching your video,

Porque, é claro, são apenas as criancinhas que veem esses vídeos,

and what the hell do they know?

e o que elas sabem?

Your real audience for this stuff is software.

O verdadeiro público para essas coisas é o software,

It's the algorithms.

são os algoritmos.

It's the software that YouTube uses

É o software que o YouTube usa

to select which videos are like other videos,

para escolher quais vídeos são semelhantes e torná-los populares e recomendados.

to make them popular, to make them recommended.

And that's why you end up with this kind of completely meaningless mash,

É assim que acabamos tendo essa mistura totalmente sem sentido,

both of title and of content.

tanto a nível do título como do conteúdo.

But the thing is, you have to remember,

Mas temos que nos lembrar

there really are still people within this algorithmically optimized system,

de que ainda há pessoas nesse sistema otimizado por algoritmos,

people who are kind of increasingly forced to act out

que são forçadas a produzir

these increasingly bizarre combinations of words,

essas combinações de palavras cada vez mais bizarras,

like a desperate improvisation artist responding to the combined screams

em uma desesperada improvisação artística,

reagindo aos gritos combinados de um milhão de crianças de uma vez.

of a million toddlers at once.

There are real people trapped within these systems,

São pessoas reais, presas nesses sistemas,

and that's the other deeply strange thing about this algorithmically driven culture,

e essa é outra coisa muito estranha dessa cultura comandada por algoritmos,

because even if you're human,

porque, mesmo sendo humano,

você acaba se comportando como máquina apenas para sobreviver.

you have to end up behaving like a machine

just to survive.

E também, do outro lado da tela,

And also, on the other side of the screen,

there still are these little kids watching this stuff,

ainda há criancinhas assistindo a isso,

stuck, their full attention grabbed by these weird mechanisms.

com a atenção total presa por esses estranhos mecanismos.

And most of these kids are too small to even use a website.

A maioria delas é muito pequena até para usar a internet.

They're just kind of hammering on the screen with their little hands.

Só batem na tela com suas mãozinhas.

And so there's autoplay,

A reprodução automática continua exibindo os vídeos

where it just keeps playing these videos over and over and over in a loop,

inúmeras vezes, em um ciclo, infinitamente, durante horas seguidas.

endlessly for hours and hours at a time.

And there's so much weirdness in the system now

Há tanta coisa estranha no sistema hoje em dia

that autoplay takes you to some pretty strange places.

que a reprodução automática nos leva a lugares muito estranhos.

This is how, within a dozen steps,

É assim que, em doze passos,

you can go from a cute video of a counting train

você pode passar de um vídeo bonitinho de um trem contando números

to masturbating Mickey Mouse.

a um Mickey Mouse se masturbando.

Yeah. I'm sorry about that.

Desculpem-me por isso.

This does get worse.

Mas as coisas pioram.

This is what happens

Isso é o que acontece

when all of these different keywords,

quando todas essas palavras-chave

all these different pieces of attention,

e peças de atenção diferentes,

this desperate generation of content,

essa criação desesperada de conteúdo,

all comes together into a single place.

juntam-se todas em um único lugar.

This is where all those deeply weird keywords come home to roost.

É aqui que todas essas palavras-chave muito estranhas entram em nossa casa.

You cross-breed the finger family video

Mistura-se o vídeo da família dos dedos com alguma coisa de super-heróis,

with some live-action superhero stuff,

you add in some weird, trollish in-jokes or something,

incluem-se algumas piadas bizarras ou qualquer coisa assim,

and suddenly, you come to a very weird place indeed.

e, de repente, vamos parar em um lugar muito estranho.

The stuff that tends to upset parents

O que mais aflige os pais

is the stuff that has kind of violent or sexual content, right?

são as coisas com conteúdo violento ou sexual, não é?

Children's cartoons getting assaulted,

Os desenhos animados em que as crianças são agredidas,

getting killed,

mortas,

weird pranks that actually genuinely terrify children.

brincadeiras estranhas que realmente aterrorizam as crianças.

What you have is software pulling in all of these different influences

Existe um software que obtém todas essas influências diferentes

to automatically generate kids' worst nightmares.

para gerar automaticamente os piores pesadelos das crianças.

And this stuff really, really does affect small children.

Esse material afeta realmente as crianças menores.

Parents report their children being traumatized,

Os pais contam que os filhos ficam traumatizados,

becoming afraid of the dark,

com medo do escuro, de seus desenhos animados preferidos.

becoming afraid of their favorite cartoon characters.

If you take one thing away from this, it's that if you have small children,

Se há uma conclusão a tirar de tudo isso é que, se tiverem filhos pequenos,

keep them the hell away from YouTube.

mantenham-os longe do YouTube.

(Applause)

(Aplausos)

But the other thing, the thing that really gets to me about this,

Mas outra coisa que realmente me aborrece

is that I'm not sure we even really understand how we got to this point.

é que não tenho certeza se percebemos como chegamos a esse ponto.

We've taken all of this influence, all of these things,

Aceitamos todas essas influências,

todas essas coisas e as manipulamos de uma forma que ninguém pretendia.

and munged them together in a way that no one really intended.

And yet, this is also the way that we're building the entire world.

Mas é assim que também estamos construindo o mundo inteiro.

Pegamos todos esses dados,

We're taking all of this data,

a lot of it bad data,

muitos dados ruins,

a lot of historical data full of prejudice,

muitos dados históricos cheios de preconceito,

full of all of our worst impulses of history,

cheios de todos os nossos piores impulsos da história,

and we're building that into huge data sets

desenvolvemos enormes conjuntos de dados e depois os automatizamos.

and then we're automating it.

And we're munging it together into things like credit reports,

Desestruturamos os dados em coisas como relatórios de crédito,

into insurance premiums,

prêmios de seguros,

into things like predictive policing systems,

sistemas de policiamento preditivo,

into sentencing guidelines.

diretrizes de condenações.

This is the way we're actually constructing the world today

Essa é a maneira pela qual construímos o mundo de hoje a partir desses dados.

out of this data.

And I don't know what's worse,

Não sei o que é pior:

that we built a system that seems to be entirely optimized

termos criado um sistema que parece estar totalmente otimizado

for the absolute worst aspects of human behavior,

para os piores aspectos absolutos do comportamento humano

or that we seem to have done it by accident,

ou parecer que o fizemos por acaso,

without even realizing that we were doing it,

sem sequer perceber o que estávamos fazendo,

because we didn't really understand the systems that we were building,

porque não compreendíamos os sistemas que estávamos criando,

and we didn't really understand how to do anything differently with it.

nem sabíamos como fazer de forma diferente.

There's a couple of things I think that really seem to be driving this

Acredito que há algumas coisas que parecem estar levando a isso

principalmente no YouTube.

most fully on YouTube,

and the first of those is advertising,

A primeira delas é a publicidade,

which is the monetization of attention

que é a monetização da atenção

without any real other variables at work,

sem quaisquer outras variáveis reais em ação,

any care for the people who are actually developing this content,

sem qualquer cuidado para as pessoas que desenvolvem esse conteúdo,

the centralization of the power, the separation of those things.

a centralização do poder, a separação dessas coisas.

And I think however you feel about the use of advertising

Mas creio que, em relação ao uso da publicidade para apoiar isso,

to kind of support stuff,

a visão de adultos de fraldas rolando na areia

the sight of grown men in diapers rolling around in the sand

in the hope that an algorithm that they don't really understand

na esperança de que um algoritmo que realmente não compreendem

will give them money for it

lhes dará dinheiro,

suggests that this probably isn't the thing

sugere que isso talvez

não seja a coisa na qual devemos basear nossa sociedade e nossa cultura,

that we should be basing our society and culture upon,

and the way in which we should be funding it.

nem a maneira pela qual devemos financiá-la.

And the other thing that's kind of the major driver of this is automation,

O maior controlador disso é a automação,

que é a disponibilização de toda essa tecnologia assim que ela chega,

which is the deployment of all of this technology

as soon as it arrives, without any kind of oversight,

sem qualquer tipo de supervisão,

and then once it's out there,

e, quando isso acontece, lavamos as mãos e dizemos:

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

"Não somos nós, é a tecnologia. Não estamos envolvidos".

Like, "We're not involved in it."

That's not really good enough,

Isso não basta,

because this stuff isn't just algorithmically governed,

porque essa coisa não é apenas determinada por algoritmos,

it's also algorithmically policed.

mas é também policiada por eles.

When YouTube first started to pay attention to this,

Quando o YouTube começou a prestar atenção nisso,

the first thing they said they'd do about it

disseram que a primeira coisa que fariam

was that they'd deploy better machine learning algorithms

seria criar algoritmos melhores de aprendizagem de máquinas

to moderate the content.

para moderar o conteúdo.

Well, machine learning, as any expert in it will tell you,

Bem, a aprendizagem de máquinas, como dirá qualquer especialista,

is basically what we've started to call

é o que começamos a chamar de software que não sabemos realmente como funciona.

software that we don't really understand how it works.

And I think we have enough of that already.

Acho que já temos o bastante disso.

We shouldn't be leaving this stuff up to AI to decide

Não deveríamos deixar a IA decidir o que é apropriado ou não,

what's appropriate or not,

because we know what happens.

pois sabemos o que acontece.

It'll start censoring other things.

Ela começará censurando outras coisas, como o conteúdo "queer",

It'll start censoring queer content.

ou os discursos públicos legítimos.

It'll start censoring legitimate public speech.

What's allowed in these discourses,

O que é permitido nesses discursos

it shouldn't be something that's left up to unaccountable systems.

não deveria depender de sistemas irresponsáveis.

It's part of a discussion all of us should be having.

Faz parte de uma discussão que todos nós deveríamos ter.

But I'd leave a reminder

Mas quero lembrar

that the alternative isn't very pleasant, either.

que a alternativa também não é muito agradável.

YouTube also announced recently

O YouTube anunciou recentemente

that they're going to release a version of their kids' app

que irá lançar uma versão de seu aplicativo para crianças,

that would be entirely moderated by humans.

totalmente moderada por pessoas.

Facebook -- Zuckerberg said much the same thing at Congress,

Zuckerberg, do Facebook, disse uma coisa parecida no Congresso,

when pressed about how they were going to moderate their stuff.

quando lhe perguntaram como moderariam seu conteúdo.

He said they'd have humans doing it.

Disse que haveria pessoas para isso.

Queriam dizer

And what that really means is,

que, em vez de serem as crianças as primeiras a verem aqueles conteúdos,

instead of having toddlers being the first person to see this stuff,

colocariam trabalhadores mal pagos,

you're going to have underpaid, precarious contract workers

com contratos precários, sem apoio adequado de saúde mental,

without proper mental health support

being damaged by it as well.

que também seriam prejudicados.

(Risos)

(Laughter)

Acho que podemos fazer muito melhor do que isso.

And I think we can all do quite a lot better than that.

(Applause)

(Aplausos)

The thought, I think, that brings those two things together, really, for me,

Acho que a ideia que reúne essas duas coisas

is agency.

é o poder de ação.

It's like, how much do we really understand -- by agency, I mean:

Quero dizer com isso:

how we know how to act in our own best interests.

como sabemos de que forma agir no que melhor nos interessa?

Which -- it's almost impossible to do

É quase impossível saber

in these systems that we don't really fully understand.

nesses sistemas dos quais não temos a compreensão total.

Inequality of power always leads to violence.

A desigualdade no poder sempre leva à violência.

And we can see inside these systems

Podemos ver, nesses sistemas,

that inequality of understanding does the same thing.

que a desigualdade de compreensão faz o mesmo.

If there's one thing that we can do to start to improve these systems,

Se há alguma coisa que podemos fazer para começar a melhorar esses sistemas,

it's to make them more legible to the people who use them,

é torná-los mais legíveis para as pessoas que os utilizam,

so that all of us have a common understanding

para que todos tenhamos um entendimento comum

of what's actually going on here.

do que está acontecendo aqui.

The thing, though, I think most about these systems

Mas o que mais penso quanto a esses sistemas

is that this isn't, as I hope I've explained, really about YouTube.

é que não se trata, como espero ter deixado claro, do YouTube.

It's about everything.

Trata-se de tudo.

These issues of accountability and agency,

Essas questões de poder de ação e responsabilidade,

of opacity and complexity,

de opacidade e complexidade,

of the violence and exploitation that inherently results

da violência e da exploração que resulta inerentemente

from the concentration of power in a few hands --

da concentração do poder nas mãos de poucos

these are much, much larger issues.

são questões muito maiores.

And they're issues not just of YouTube and not just of technology in general,

São questões não apenas do YouTube, nem da tecnologia em geral,

and they're not even new.

e nem sequer são novas.

They've been with us for ages.

Estão conosco há séculos.

But we finally built this system, this global system, the internet,

Mas, por fim, criamos esse sistema global, a internet,

that's actually showing them to us in this extraordinary way,

que está nos mostrando essas questões de forma extraordinária,

making them undeniable.

tornando-as inegáveis.

Technology has this extraordinary capacity

A tecnologia tem a capacidade extraordinária

to both instantiate and continue

de exemplificar e continuar

all of our most extraordinary, often hidden desires and biases

todos os nossos desejos e preconceitos mais notáveis, muitas vezes ocultos,

and encoding them into the world,

e codificá-los no mundo,

but it also writes them down so that we can see them,

mas também de anotá-los para que possamos percebê-los

so that we can't pretend they don't exist anymore.

e não possamos fingir que não existem mais.

We need to stop thinking about technology as a solution to all of our problems,

Precisamos parar de pensar na tecnologia como uma solução para todos os problemas

but think of it as a guide to what those problems actually are,

e pensar nela como um guia para o que são realmente esses problemas,

so we can start thinking about them properly

para que possamos pensar neles adequadamente

and start to address them.

e começar a resolvê-los.

Thank you very much.

Muito obrigado.

(Aplausos)

(Applause)

Thank you.

Obrigado.

(Applause)

(Aplausos)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: James, obrigada por ter vindo dar esta palestra.

É interessante, quando pensamos nos filmes em que os robôs assumem o comando,

So it's interesting:

when you think about the films where the robotic overlords take over,

it's all a bit more glamorous than what you're describing.

é um pouco mais glamoroso do que você descreve.

But I wonder -- in those films, you have the resistance mounting.

Mas fico pensando: nesses filmes, temos a escalada da resistência.

Is there a resistance mounting towards this stuff?

Há uma escalada da resistência sobre esse assunto?

Você vê sinais positivos de recuperação da resistência?

Do you see any positive signs, green shoots of resistance?

James Bridle: I don't know about direct resistance,

James Bridle: Não sei sobre a resistência direta,

because I think this stuff is super long-term.

pois creio que isso seja muito a longo prazo,

está arraigado na cultura de maneira muito profunda.

I think it's baked into culture in really deep ways.

A friend of mine, Eleanor Saitta, always says

Minha amiga Eleanor Saitta sempre diz

that any technological problems of sufficient scale and scope

que quaisquer problemas tecnológicos de dimensão e alcance suficientes

are political problems first of all.

são, antes de mais nada, problemas políticos.

So all of these things we're working to address within this

Portanto, todas essas coisas que tentamos abordar

are not going to be addressed just by building the technology better,

não serão resolvidas apenas melhorando a tecnologia,

mas mudando a sociedade que a produz.

but actually by changing the society that's producing these technologies.

So no, right now, I think we've got a hell of a long way to go.

Nesse momento, creio que temos um longo caminho a percorrer.

But as I said, I think by unpacking them,

Mas, como disse, acredito que, explicando, falando sobre isso de forma honesta,

by explaining them, by talking about them super honestly,

poderemos, pelo menos, iniciar esse processo.

we can actually start to at least begin that process.

HW: And so when you talk about legibility and digital literacy,

HW: Quando você fala sobre legibilidade e alfabetização digital,

I find it difficult to imagine

acho difícil imaginar

that we need to place the burden of digital literacy on users themselves.

que precisamos colocar o ônus da alfabetização digital nos usuários.

But whose responsibility is education in this new world?

De quem é a responsabilidade do ensino neste novo mundo?

JB: Again, I think this responsibility is kind of up to all of us,

JB: Creio que a responsabilidade seja de todos nós,

that everything we do, everything we build, everything we make,

que tudo o que fazemos e criamos

needs to be made in a consensual discussion

precisa ser feito numa discussão consensual

with everyone who's avoiding it;

com todos que a têm evitado;

that we're not building systems intended to trick and surprise people

que não estamos construindo sistemas para enganar e surpreender as pessoas

into doing the right thing,

fazendo a coisa certa,

but that they're actually involved in every step in educating them,

mas que elas estejam envolvidas em cada passo de sua educação,

because each of these systems is educational.

pois cada um desses sistemas é educativo.

That's what I'm hopeful about, about even this really grim stuff,

É nisso que tenho esperança, mesmo nessa coisa sombria,

that if you can take it and look at it properly,

que, se pudermos analisá-la devidamente,

esteja nela mesma, na verdade, parte da educação

it's actually in itself a piece of education

that allows you to start seeing how complex systems come together and work

que nos permita começar a ver como sistemas complexos se juntam e funcionam

and maybe be able to apply that knowledge elsewhere in the world.

e, talvez, conseguir aplicar esses conhecimentos pelo mundo.

HW: James, it's such an important discussion,

HW: James, é uma discussão muito importante,

and I know many people here are really open and prepared to have it,

e sei que muitas pessoas aqui estão abertas e preparadas para ela.

Obrigada por ter iniciado nossa manhã.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

JB: Muito obrigado.

(Applause)

(Aplausos)