The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Tradutor: Margarida Ferreira Revisora: Mafalda Ferreira

I'm James.

Sou James.

I'm a writer and artist,

Sou escritor e artista

and I make work about technology.

e trabalho sobre a tecnologia.

I do things like draw life-size outlines of military drones

Faço coisas como desenhar "drones" militares em tamanho natural

in city streets around the world,

nas ruas das cidades, por todo o mundo,

so that people can start to think and get their heads around

para que as pessoas comecem a pensar, a dar a volta à cabeça,

these really quite hard-to-see and hard-to-think-about technologies.

nestas tecnologias muito difíceis de ver e muito difíceis de imaginar.

I make things like neural networks that predict the results of elections

Faço coisas como redes neurais que preveem os resultados de eleições.

based on weather reports,

com base nos boletins meteorológicos,

because I'm intrigued about

porque sinto-me intrigado

what the actual possibilities of these weird new technologies are.

com as reais possibilidades destas novas tecnologias estranhas.

Last year, I built my own self-driving car.

No ano passado, construí o meu carro autónomo.

But because I don't really trust technology,

Mas, como não confio na tecnologia,

I also designed a trap for it.

também desenhei uma ratoeira para ele.

(Laughter)

(Risos)

And I do these things mostly because I find them completely fascinating,

Faço estas coisas sobretudo porque acho-as totalmente fascinantes

but also because I think when we talk about technology,

mas também porque penso que, quando falamos de tecnologia,

we're largely talking about ourselves

estamos sobretudo a falar de nós mesmos

and the way that we understand the world.

e da forma como entendemos o mundo.

So here's a story about technology.

Eis uma história sobre tecnologia.

This is a "surprise egg" video.

Este é um vídeo de "ovos surpresa".

It's basically a video of someone opening up loads of chocolate eggs

É basicamente um vídeo de alguém a abrir montes de ovos de chocolate

and showing the toys inside to the viewer.

e mostra ao espetador os brinquedos que estão lá dentro.

That's it. That's all it does for seven long minutes.

É só isso. É só o que se passa durante sete longos minutos.

And I want you to notice two things about this.

Queria que reparassem em duas coisas.

First of all, this video has 30 million views.

Primeiro, este vídeo tem 30 milhões de visitas.

(Laughter)

(Risos)

And the other thing is,

A outra coisa é:

it comes from a channel that has 6.3 million subscribers,

aparece num canal que tem 6,3 milhões de subscritores

that has a total of eight billion views,

que tem um total de oito milhões de visitas

and it's all just more videos like this --

e há mais vídeos como este.

30 million people watching a guy opening up these eggs.

Trinta milhões de pessoas que veem um tipo a abrir estes ovos.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Parece muito estranho mas, se pesquisarem "ovos surpresa" no YouTube,

it'll tell you there's 10 million of these videos,

verificam que há 10 milhões destes vídeos

and I think that's an undercount.

e acho que a contagem está feita por baixo.

I think there's way, way more of these.

Acho que há muitos mais.

If you keep searching, they're endless.

Se continuarem a procurar, não têm fim.

There's millions and millions of these videos

Há milhões e milhões destes vídeos,

in increasingly baroque combinations of brands and materials,

em combinações incrivelmente barrocas de marcas e materiais.

and there's more and more of them being uploaded every single day.

E todos os dias cada vez há mais a aparecerem na Internet.

Like, this is a strange world. Right?

Isto é um mundo estranho.

But the thing is, it's not adults who are watching these videos.

Mas o que acontece é que não são os adultos que veem estes vídeos.

It's kids, small children.

São os miúdos, as crianças.

These videos are like crack for little kids.

Estes vídeos são como droga para as crianças.

There's something about the repetition,

Há qualquer coisa quanto à repetição,

the constant little dopamine hit of the reveal,

o constante choque de dopamina da revelação

that completely hooks them in.

que os hipnotiza totalmente.

And little kids watch these videos over and over and over again,

As crianças veem estes vídeos vezes sem conta

and they do it for hours and hours and hours.

e fazem-no durante horas e horas e horas.

And if you try and take the screen away from them,

Se tentarem afastá-las do ecrã, elas desatam aos gritos.

they'll scream and scream and scream.

If you don't believe me --

Se não acreditam

and I've already seen people in the audience nodding --

- já vi pessoas no público a abanar a cabeça -

se não acreditam, procurem alguém com uma criança pequena e perguntem-lhe.

if you don't believe me, find someone with small children and ask them,

and they'll know about the surprise egg videos.

Eles conhecem os vídeos dos ovos surpresa.

So this is where we start.

É aqui que começamos.

It's 2018, and someone, or lots of people,

Estamos em 2018 e alguém, ou imensas pessoas,

are using the same mechanism that, like, Facebook and Instagram are using

usam o mesmo mecanismo que o Facebook e o Instagram usam

to get you to keep checking that app,

para nos obrigar a voltar a ver aquela aplicação

and they're using it on YouTube to hack the brains of very small children

e usam-no no YouTube para apanhar o cérebro das criancinhas

in return for advertising revenue.

em troca de receitas publicitárias.

At least, I hope that's what they're doing.

Pelo menos, é o que eu julgo que estão a fazer.

I hope that's what they're doing it for,

Espero que seja o que eles estão a fazer

because there's easier ways of making ad revenue on YouTube.

porque há formas mais fáceis de gerar receitas publicitárias no YouTube.

You can just make stuff up or steal stuff.

Podemos inventar coisas ou roubar coisas.

Se procurarem desenhos animados infantis, realmente populares,

So if you search for really popular kids' cartoons

like "Peppa Pig" or "Paw Patrol,"

como o "Peppa Pig" ou o " Patrulha Pata",

you'll find there's millions and millions of these online as well.

descobrem que também há muitos milhões deles na Internet.

Of course, most of them aren't posted by the original content creators.

Claro que a maioria não são publicados pelos criadores originais.

They come from loads and loads of different random accounts,

São carregados por imensas diferentes contas ao acaso

and it's impossible to know who's posting them

e é impossível saber quem as publicou

or what their motives might be.

ou quais os motivos para isso.

Does that sound kind of familiar?

Isto parece-vos familiar?

Because it's exactly the same mechanism

Porque é exatamente o mesmo mecanismo

that's happening across most of our digital services,

que está a ocorrer na maior parte dos nossos serviços digitais

where it's impossible to know where this information is coming from.

em que é impossível saber de onde provêm as informações.

It's basically fake news for kids,

São notícias falsas para crianças

e nós estamos a treinar as crianças desde que nascem,

and we're training them from birth

to click on the very first link that comes along,

para clicarem na primeira ligação que lhes apareça,

regardless of what the source is.

seja qual for a sua origem.

That's doesn't seem like a terribly good idea.

Não parece ser uma ideia muito boa.

Here's another thing that's really big on kids' YouTube.

Uma outra coisa que é importante no YouTube para crianças

This is called the "Finger Family Song."

chama-se "Finger Family Song."

I just heard someone groan in the audience.

Ouvi alguém no público a resmungar.

This is the "Finger Family Song."

Esta é a canção da Família dos Dedos.

This is the very first one I could find.

Foi a primeira que encontrei.

It's from 2007, and it only has 200,000 views,

É de 2007 e só tem 200 000 visitas

which is, like, nothing in this game.

o que é nada, neste campeonato.

But it has this insanely earwormy tune,

Mas tem uma melodia irritante

which I'm not going to play to you,

que não vou tocar para vocês ouvirem

because it will sear itself into your brain

porque ela cola-se no vosso cérebro

in the same way that it seared itself into mine,

tal como se colou no meu

and I'm not going to do that to you.

e não vou fazer-vos uma partida dessas.

But like the surprise eggs,

Mas, tal como com os ovos surpresa,

it's got inside kids' heads

enfia-se na cabeça das crianças e elas ficam viciados nela.

and addicted them to it.

So within a few years, these finger family videos

Dentro de alguns anos, estes vídeos da família dos dedos

start appearing everywhere,

começa a aparecer por toda a parte

and you get versions in different languages

e temos versões em várias línguas

with popular kids' cartoons using food

com desenhos animados para crianças, usando a comida

or, frankly, using whatever kind of animation elements

ou usando todos e quaisquer elementos de animação

you seem to have lying around.

que por aí existem.

And once again, there are millions and millions and millions of these videos

Mais uma vez, há milhões e milhões destes vídeos na Internet,

available online in all of these kind of insane combinations.

disponíveis em todos os tipos de combinações extravagantes.

And the more time you start to spend with them,

Quanto mais tempo gastarmos com eles

the crazier and crazier you start to feel that you might be.

mais loucos nos começamos a sentir.

And that's where I kind of launched into this,

Foi aí que comecei a sentir

uma sensação de profunda estranheza e profunda falta de compreensão

that feeling of deep strangeness and deep lack of understanding

of how this thing was constructed that seems to be presented around me.

de como era montada esta coisa que parece estar sempre à minha volta.

Because it's impossible to know where these things are coming from.

Porque é impossível saber de onde vêm estas coisas.

Quem é que as faz?

Like, who is making them?

Some of them appear to be made of teams of professional animators.

Alguns parecem ser feitos por equipas de animadores profissionais.

Some of them are just randomly assembled by software.

Alguns são apenas montados ao acaso por um "software".

Some of them are quite wholesome-looking young kids' entertainers.

Alguns deles são vídeos para crianças com um aspeto muito saudável.

And some of them are from people

E alguns são de pessoas

who really clearly shouldn't be around children at all.

que, claramente, não deviam aproximar-se de criancinhas.

(Laughter)

(Risos)

And once again, this impossibility of figuring out who's making this stuff --

Mais uma vez, esta impossibilidade de vir a saber quem é que faz estas coisas

like, this is a bot?

- tipo, isto é um robô?

Is this a person? Is this a troll?

Isto é uma pessoa? é um "troll"?

What does it mean that we can't tell the difference

O que significa é que já não consigamos ver

between these things anymore?

as diferenças entre estas coisas.

And again, doesn't that uncertainty feel kind of familiar right now?

Esta incerteza não vos parece familiar?

So the main way people get views on their videos --

A principal forma de as pessoas obterem visitas nos seus vídeos

and remember, views mean money --

- os vídeos significam dinheiro -

is that they stuff the titles of these videos with these popular terms.

é encherem os títulos desses vídeos com estes termos populares.

So you take, like, "surprise eggs"

Por exemplo, os ovos surpresa.

and then you add "Paw Patrol," "Easter egg,"

Acrescenta-se ao título "Patrulha Pata", "Ovo da Páscoa"

or whatever these things are,

ou outra coisa qualquer,

all of these words from other popular videos into your title,

todas as palavras de outros vídeos populares

until you end up with this kind of meaningless mash of language

até acabar neste tipo de linguagem misturada, sem sentido

that doesn't make sense to humans at all.

que não faz sentido nenhum para as pessoas.

Because of course it's only really tiny kids who are watching your video,

Porque, claro, são só as crianças que veem esses vídeos

and what the hell do they know?

e o que é que eles sabem?

Your real audience for this stuff is software.

O verdadeiro público para estas coisas é o "software",

It's the algorithms.

são os algoritmos.

It's the software that YouTube uses

É o "software" que o YouTube usa

to select which videos are like other videos,

para escolher os vídeos que são como os outros vídeos,

to make them popular, to make them recommended.

para os tornar populares, para os recomendar.

And that's why you end up with this kind of completely meaningless mash,

É assim que acabamos por ter esta misturada totalmente sem sentido,

both of title and of content.

tanto a nível do título como do conteúdo.

But the thing is, you have to remember,

Mas é preciso não esquecermos

there really are still people within this algorithmically optimized system,

que, mesmo assim, ainda há pessoas

dentro deste sistema otimizado com algoritmos,

people who are kind of increasingly forced to act out

pessoas que são forçadas a produzir

estas combinações de palavras cada vez mais bizarras,

these increasingly bizarre combinations of words,

like a desperate improvisation artist responding to the combined screams

numa desesperada improvisação artística reagindo aos gritos combinados

of a million toddlers at once.

de um milhão de bebés ao mesmo tempo.

There are real people trapped within these systems,

São pessoas reais, presas dentro destes sistemas

and that's the other deeply strange thing about this algorithmically driven culture,

e essa é a outra coisa muito estranha desta cultura comandada por logaritmos,

because even if you're human,

porque, mesmo sendo seres humanos,

you have to end up behaving like a machine

acabamos por nos comportar como uma máquina

just to survive.

apenas para sobrevivermos.

And also, on the other side of the screen,

Do outro lado do ecrã,

there still are these little kids watching this stuff,

continua a haver criancinhas a ver estas coisas.

stuck, their full attention grabbed by these weird mechanisms.

com a atenção presa nestes mecanismos esquisitos.

And most of these kids are too small to even use a website.

A maioria dessas crianças são muito pequenas para usar a Internet.

They're just kind of hammering on the screen with their little hands.

Só batem no ecrã com as suas mãozinhas.

And so there's autoplay,

Por isso, há o Autoplay,

where it just keeps playing these videos over and over and over in a loop,

que se limita a exibir estes vídeos vezes sem conta, num ciclo,

endlessly for hours and hours at a time.

durante horas e horas seguidas, infindavelmente.

And there's so much weirdness in the system now

Há atualmente no sistema tanta coisa esquisita

that autoplay takes you to some pretty strange places.

que o Autoplay nos leva a locais muito estranhos.

This is how, within a dozen steps,

Isto é como, em doze passos,

you can go from a cute video of a counting train

podemos passar de um vídeo giro de um comboio de contagem

to masturbating Mickey Mouse.

para um Mickey Mouse a masturbar-se.

Yeah. I'm sorry about that.

Desculpem isto.

This does get worse.

Mas as coisas pioram.

This is what happens

Isto é o que acontece

when all of these different keywords,

quando todas estas palavras-chave,

all these different pieces of attention,

todas estas diferentes peças de atenção,

this desperate generation of content,

esta geração desesperada de conteúdo,

all comes together into a single place.

se junta tudo num só local.

This is where all those deeply weird keywords come home to roost.

É aqui que todas estas palavras-chave

profundamente estranhas entram na nossa casa.

You cross-breed the finger family video

Mistura-se o vídeo da família dos dedos

with some live-action superhero stuff,

com alguma ação de super-heróis,

you add in some weird, trollish in-jokes or something,

acrescenta-se umas piadas baratas ou qualquer coisa assim

and suddenly, you come to a very weird place indeed.

e, de repente, vamos parar a um sítio muito esquisito.

The stuff that tends to upset parents

As coisas que mais incomodam os pais

is the stuff that has kind of violent or sexual content, right?

são as coisas que têm um conteúdo violento ou sexual, não é?

Children's cartoons getting assaulted,

Os desenhos animados em que crianças são atacadas

getting killed,

são assassinadas,

weird pranks that actually genuinely terrify children.

situações estranhas que aterrorizam genuinamente as crianças.

What you have is software pulling in all of these different influences

Temos é um "software" que vai buscar todas estas influências diferentes

to automatically generate kids' worst nightmares.

para gerar automaticamente os piores pesadelos das crianças.

And this stuff really, really does affect small children.

Este material afeta realmente as criancinhas.

Parents report their children being traumatized,

Os pais relatam que os filhos ficam traumatizados,

becoming afraid of the dark,

ficam com medo do escuro,

becoming afraid of their favorite cartoon characters.

ficam com medo dos desenhos animados preferidos.

If you take one thing away from this, it's that if you have small children,

Se há uma conclusão a tirar daqui é que, se tiverem filhos pequenos,

keep them the hell away from YouTube.

mantenham-nos bem afastados do YouTube.

(Applause)

(Aplausos)

But the other thing, the thing that really gets to me about this,

Mas há outra coisa que me aborrece

is that I'm not sure we even really understand how we got to this point.

é que eu não tenho a certeza se percebemos como chegámos a este ponto.

We've taken all of this influence, all of these things,

Aceitámos todas estas influências, todas estas coisas

and munged them together in a way that no one really intended.

misturadas duma forma que ninguém pretendia.

And yet, this is also the way that we're building the entire world.

Mas isto também é a forma como estamos a construir o mundo inteiro.

We're taking all of this data,

Agarramos em todas estas informações, uma data de más informações,

a lot of it bad data,

a lot of historical data full of prejudice,

uma data de informações históricas cheias de preconceitos,

full of all of our worst impulses of history,

cheias de todos os nossos piores impulsos da história,

and we're building that into huge data sets

criamos enormes conjuntos de informações

and then we're automating it.

e depois automatizamo-las.

And we're munging it together into things like credit reports,

E estamos a misturá-las com coisas como relatórios de crédito,

into insurance premiums,

com prémios de seguros,

into things like predictive policing systems,

com coisas como sistemas de vigilância preditiva

into sentencing guidelines.

com linhas de orientação de sentenças.

This is the way we're actually constructing the world today

Esta é a forma como estamos a construir o mundo de hoje

out of this data.

a partir destas informações.

And I don't know what's worse,

Não sei o que será pior,

that we built a system that seems to be entirely optimized

termos criado um sistema que parece estar totalmente otimizado

for the absolute worst aspects of human behavior,

para os piores aspetos absolutos do comportamento humano

or that we seem to have done it by accident,

ou parecer que o fizemos por acaso

without even realizing that we were doing it,

sem sequer ter percebido o que estávamos a fazer,

because we didn't really understand the systems that we were building,

porque não percebíamos nada dos sistemas que estávamos a criar

and we didn't really understand how to do anything differently with it.

e não percebíamos minimamente como fazer de forma diferente.

There's a couple of things I think that really seem to be driving this

Penso que há algumas coisas que parecem ter levado a isto

sobretudo no YouTube,

most fully on YouTube,

and the first of those is advertising,

A primeira é a publicidade

which is the monetization of attention

que é a monetarização da atenção

without any real other variables at work,

sem quaisquer outras variáveis em ação,

any care for the people who are actually developing this content,

sem se pensar nas pessoas que desenvolvem este conteúdo,

the centralization of the power, the separation of those things.

a centralização do poder, a separação destas coisas.

And I think however you feel about the use of advertising

Mas penso que, em relação ao uso da publicidade,

to kind of support stuff,

que apoia este tipo de coisas,

the sight of grown men in diapers rolling around in the sand

a vista de adultos de fraldas a rebolar na areia

in the hope that an algorithm that they don't really understand

na esperança de que um algoritmo - de que não percebem nada -

will give them money for it

lhes dará dinheiro,

suggests that this probably isn't the thing

sugere que, provavelmente, não é nisso que devemos basear

that we should be basing our society and culture upon,

a nossa sociedade e a nossa cultura

and the way in which we should be funding it.

e a forma como devemos financiá-la.

And the other thing that's kind of the major driver of this is automation,

A outra coisa que é o maior impulso é a automação

que é a evolução de toda esta tecnologia

which is the deployment of all of this technology

as soon as it arrives, without any kind of oversight,

logo que ela chega sem qualquer tipo de supervisão

and then once it's out there,

e, logo que ela aparece, lavamos as mãos e dizemos:

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

"Não fomos nós, é a tecnologia".

Like, "We're not involved in it."

"Nós não estamos metidos nisso".

That's not really good enough,

Isso não chega

because this stuff isn't just algorithmically governed,

porque isto, além de ser governado por algoritmos,

it's also algorithmically policed.

também é policiado por algoritmos.

When YouTube first started to pay attention to this,

Quando o YouTube começou a prestar atenção a isto,

the first thing they said they'd do about it

a primeira coisa que disseram foi que iam arranjar melhores algoritmos

was that they'd deploy better machine learning algorithms

através da aprendizagem de máquinas, para moderar o conteúdo

to moderate the content.

Well, machine learning, as any expert in it will tell you,

Bom, a aprendizagem de máquinas, como qualquer especialista dirá,

is basically what we've started to call

é aquilo a que começámos por chamar "software"

software that we don't really understand how it works.

e que não percebemos minimamente como funciona.

And I think we have enough of that already.

Penso que já temos disso que chegue.

We shouldn't be leaving this stuff up to AI to decide

Não devíamos deixar estas coisas para a IA decidir

what's appropriate or not,

o que é apropriado ou não,

because we know what happens.

porque sabemos o que acontece.

It'll start censoring other things.

Vai começar por censurar outras coisas,

It'll start censoring queer content.

censurar conteúdos estranhos,

It'll start censoring legitimate public speech.

censurar discursos públicos legítimos.

What's allowed in these discourses,

O que é permitido nesses discursos

it shouldn't be something that's left up to unaccountable systems.

não devia ser uma coisa deixada a sistemas irresponsáveis.

It's part of a discussion all of us should be having.

Faz parte de uma discussão que todos devíamos ter.

But I'd leave a reminder

Mas vou deixar um alerta:

that the alternative isn't very pleasant, either.

a alternativa também não é muito agradável.

YouTube also announced recently

O YouTube anunciou recentemente

that they're going to release a version of their kids' app

que vão lançar uma versão da sua aplicação para crianças

that would be entirely moderated by humans.

que será totalmente moderada por pessoas.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebook - Zuckeberger disse uma coisa parecida no Congresso,

when pressed about how they were going to moderate their stuff.

quando lhe perguntaram como iam moderar as suas coisas.

He said they'd have humans doing it.

Disse que iam pôr pessoas a fazê-lo.

And what that really means is,

Queriam dizer que, em vez de serem as crianças

instead of having toddlers being the first person to see this stuff,

as primeiras a verem aqueles conteúdos

you're going to have underpaid, precarious contract workers

iam pôr trabalhadores mal pagos, com contratos precários,

without proper mental health support

sem apoio adequado de saúde mental,

being damaged by it as well.

que também vão ser contaminados.

(Laughter)

(Risos)

And I think we can all do quite a lot better than that.

(Applause)

(Aplausos)

The thought, I think, that brings those two things together, really, for me,

Penso que a ideia que reúne estas duas coisas

is agency.

é a ação.

It's like, how much do we really understand -- by agency, I mean:

Ou seja, por ação, quero dizer

how we know how to act in our own best interests.

até que ponto sabemos como agir no nosso melhor interesse?

Which -- it's almost impossible to do

É quase impossível sabê-lo

in these systems that we don't really fully understand.

nestes sistemas que não compreendemos minimamente.

Inequality of power always leads to violence.

A desigualdade no poder leva sempre à violência.

And we can see inside these systems

Vemos no interior destes sistemas

that inequality of understanding does the same thing.

que a desigualdade de compreensão faz a mesma coisa.

If there's one thing that we can do to start to improve these systems,

Se há alguma coisa que podemos fazer para começar a melhorar estes sistemas,

it's to make them more legible to the people who use them,

é torná-los mais legíveis para as pessoas que os usam,

de modo a que todos tenhamos um entendimento comum

so that all of us have a common understanding

of what's actually going on here.

do que está realmente a acontecer.

The thing, though, I think most about these systems

Mas a coisa em que mais penso quanto a estes sistemas

is that this isn't, as I hope I've explained, really about YouTube.

é que isto não é, como espero ter deixado claro, sobre o YouTube.

It's about everything.

Trata-se de todas as coisas.

These issues of accountability and agency,

Estes problemas de responsabilização e de ação,

of opacity and complexity,

de opacidade e de complexidade,

of the violence and exploitation that inherently results

da violência e da exploração que resulta inerentemente

from the concentration of power in a few hands --

da concentração do poder em poucas mãos

these are much, much larger issues.

- são problemas muito maiores.

And they're issues not just of YouTube and not just of technology in general,

São problemas não apenas do YouTube nem sequer da tecnologia em geral

and they're not even new.

e nem sequer são novos.

They've been with us for ages.

Sempre os tivemos ao longo de eras.

But we finally built this system, this global system, the internet,

Mas, por fim, criámos este sistema, este sistema global, a Internet,

that's actually showing them to us in this extraordinary way,

que está a exibir-se à nossa frente desta forma extraordinária,

making them undeniable.

tornando-os inegáveis.

Technology has this extraordinary capacity

A tecnologia tem esta capacidade extraordinária

to both instantiate and continue

de exemplificar e continuar

all of our most extraordinary, often hidden desires and biases

todos os nossos desejos e preconceitos mais extraordinários e às vezes ocultos

and encoding them into the world,

e codificando-os no mundo,

but it also writes them down so that we can see them,

mas também de os escrever para os podermos ver,

so that we can't pretend they don't exist anymore.

de modo que já não podemos pretender que não existem.

We need to stop thinking about technology as a solution to all of our problems,

Temos que deixar de pensar na tecnologia

como uma solução para todos os nossos problemas

but think of it as a guide to what those problems actually are,

mas pensar nela como uma orientação para quais são esses problemas hoje,

so we can start thinking about them properly

para podermos pensar neles de modo adequado

and start to address them.

e começar a resolvê-los.

Thank you very much.

Muito obrigado.

(Applause)

(Aplausos)

Thank you.

Obrigado.

(Applause)

(Aplausos)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: James, obrigada por teres vindo fazer esta palestra.

So it's interesting:

É interessante,

when you think about the films where the robotic overlords take over,

quando pensamos nos filmes em que os robôs assumem o comando,

it's all a bit more glamorous than what you're describing.

é um pouco mais deslumbrante do que o que descreveste.

But I wonder -- in those films, you have the resistance mounting.

Mas fico a pensar - nestes filmes, temos a escalada da resistência.

Is there a resistance mounting towards this stuff?

Há uma escalada de resistência contra esta matéria?

Do you see any positive signs, green shoots of resistance?

Vês quaisquer sinais positivos, disparos verdes de resistência?

James Bridle: I don't know about direct resistance,

James Bridle: Não sei nada sobre resistência direta,

because I think this stuff is super long-term.

porque penso que isto é a muito longo prazo,

I think it's baked into culture in really deep ways.

está cozinhado na cultura de forma muito profunda.

A friend of mine, Eleanor Saitta, always says

Uma amiga minha, Eleanor Saitta, diz sempre

that any technological problems of sufficient scale and scope

que quaisquer problemas tecnológicos de dimensão e âmbito suficientes

are political problems first of all.

são problemas políticos, acima de tudo.

So all of these things we're working to address within this

Portanto, todas estas coisas que tentamos abordar

are not going to be addressed just by building the technology better,

não vão ser resolvidas apenas por melhorarmos a tecnologia,

but actually by changing the society that's producing these technologies.

mas só alterando a sociedade que produz essas tecnologias.

So no, right now, I think we've got a hell of a long way to go.

Neste momento, penso que temos um comprido caminho a percorrer.

But as I said, I think by unpacking them,

Mas, como disse, penso que, se os explicarmos,

by explaining them, by talking about them super honestly,

se falarmos disso de forma honesta,

we can actually start to at least begin that process.

pelo menos, podemos iniciar esse processo.

HW: And so when you talk about legibility and digital literacy,

HW: Quando falas da legibilidade e da literacia digital,

I find it difficult to imagine

tenho dificuldade em imaginar

that we need to place the burden of digital literacy on users themselves.

que precisamos de atirar o peso da literacia digital para os utilizadores.

But whose responsibility is education in this new world?

De quem é a responsabilidade do ensino neste novo mundo?

JB: Again, I think this responsibility is kind of up to all of us,

JB: Penso que essa responsabilidade também tem a ver com todos nós,

that everything we do, everything we build, everything we make,

penso que tudo o que fazemos, tudo o que criamos,

needs to be made in a consensual discussion

tem que ser feito numa discussão consensual

with everyone who's avoiding it;

com todos os que a têm evitado.

that we're not building systems intended to trick and surprise people

de que não estamos a construir sistemas

destinados a enganar e a surpreender as pessoas

into doing the right thing,

mas para fazer as coisas certas,

e que eles estão realmente envolvidos em cada passo na educação deles,

but that they're actually involved in every step in educating them,

because each of these systems is educational.

porque cada um destes sistemas é educativo.

That's what I'm hopeful about, about even this really grim stuff,

É nisso que tenho esperança, mesmo nestas coisas sombrias,

that if you can take it and look at it properly,

que, se pudermos analisá-lo devidamente,

it's actually in itself a piece of education

é em si mesmo uma peça de ensino

that allows you to start seeing how complex systems come together and work

que nos permite começar a ver

como sistemas complexos se juntam e funcionam

and maybe be able to apply that knowledge elsewhere in the world.

e porventura possam aplicar esses conhecimentos pelo mundo.

HW: James, it's such an important discussion,

HW: James, é uma discussão tão importante

and I know many people here are really open and prepared to have it,

e sei que muita gente aqui está aberta e preparada para ela

obrigada por teres começado a nossa manhã.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

JB: Muito obrigado.

(Applause)

(Aplausos)