The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Traducteur: Morgane Quilfen Relecteur: Natalie Thibault

I'm James.

Je m'appelle James.

I'm a writer and artist,

Je suis écrivain et artiste,

and I make work about technology.

et je créé des œuvres sur la technologie.

I do things like draw life-size outlines of military drones

Je fais des choses

comme dessiner le contour de drones militaires à taille réelle

in city streets around the world,

dans des rues à travers le monde

so that people can start to think and get their heads around

afin que les gens commencent à réfléchir et à comprendre

these really quite hard-to-see and hard-to-think-about technologies.

ces technologies difficiles à voir et difficiles à imaginer.

I make things like neural networks that predict the results of elections

Je fais des choses telles que des réseaux neuronaux

prévoyant le résultat des élections

based on weather reports,

selon les bulletins météo

because I'm intrigued about

car les réelles possibilités

what the actual possibilities of these weird new technologies are.

de ces étranges et nouvelles technologies m'intriguent.

Last year, I built my own self-driving car.

L'année dernière, j'ai créé ma voiture autonome.

But because I don't really trust technology,

Puisque je ne fais pas confiance à la technologie,

I also designed a trap for it.

j'ai également conçu un piège.

(Laughter)

(Rires)

And I do these things mostly because I find them completely fascinating,

Je fais ces choses surtout car je les trouve très fascinantes

but also because I think when we talk about technology,

et car je pense que quand nous parlons de technologie,

we're largely talking about ourselves

nous parlons principalement de nous-mêmes

and the way that we understand the world.

et comment nous comprenons le monde.

So here's a story about technology.

Voici une histoire au sujet de la technologie.

This is a "surprise egg" video.

C'est une vidéo « œuf surprise ».

It's basically a video of someone opening up loads of chocolate eggs

C'est une vidéo de quelqu'un ouvrant un tas d’œufs en chocolat

and showing the toys inside to the viewer.

et montrant les jeux à l'intérieur au spectateur.

That's it. That's all it does for seven long minutes.

C'est tout. C'est ce qu'elle fait pendant sept longues minutes.

And I want you to notice two things about this.

Je veux que vous remarquiez deux choses.

First of all, this video has 30 million views.

Tout d'abord, cette vidéo a 30 millions de vues.

(Laughter)

(Rires)

And the other thing is,

Et l'autre chose est

it comes from a channel that has 6.3 million subscribers,

qu'elle vient d'une chaîne qui a 6,3 millions d'abonnés,

that has a total of eight billion views,

huit milliards de vues au total

and it's all just more videos like this --

et il ne s'agit que de vidéos comme celle-ci --

30 million people watching a guy opening up these eggs.

30 millions de personnes regardant quelqu'un ouvrir ces œufs.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Cela semble bizarre, mais si vous cherchez « œuf surprise » sur YouTube,

it'll tell you there's 10 million of these videos,

il vous dira qu'il y a 10 millions de vidéos

and I think that's an undercount.

et c'est une sous-estimation.

I think there's way, way more of these.

Je crois qu'il y en a bien plus.

If you keep searching, they're endless.

Si vous continuez à chercher, c'est sans fin.

There's millions and millions of these videos

Il y a des millions et des millions de ces vidéos

in increasingly baroque combinations of brands and materials,

dans des combinaisons de plus en plus baroques de marques et de contenu

and there's more and more of them being uploaded every single day.

et il y en a de plus en plus téléchargées chaque jour.

Like, this is a strange world. Right?

C'est un monde étrange, n'est-ce pas ?

But the thing is, it's not adults who are watching these videos.

Le fait est que ce ne sont pas des adultes qui regardent ces vidéos.

It's kids, small children.

Ce sont des enfants, de jeunes enfants.

These videos are like crack for little kids.

Ces vidéos sont une drogue pour les enfants.

There's something about the repetition,

Il y a quelque chose dans la répétition,

the constant little dopamine hit of the reveal,

dans la bouffée constante de dopamine à la révélation,

that completely hooks them in.

qui les rend accros.

And little kids watch these videos over and over and over again,

Et les jeunes enfants regardent ces vidéos encore et encore,

and they do it for hours and hours and hours.

pendant des heures et des heures.

And if you try and take the screen away from them,

Si vous essayez de leur enlever l'écran,

they'll scream and scream and scream.

ils vont crier sans fin.

If you don't believe me --

Si vous ne me croyez pas --

and I've already seen people in the audience nodding --

j'ai vu des gens dans le public acquiescer --

if you don't believe me, find someone with small children and ask them,

si vous ne me croyez pas, demandez à quelqu'un avec de jeunes enfants

and they'll know about the surprise egg videos.

et ils connaîtront les vidéos d’œufs surprise.

So this is where we start.

C'est là que nous commençons.

It's 2018, and someone, or lots of people,

Nous sommes en 2018 et quelqu'un, beaucoup de monde,

are using the same mechanism that, like, Facebook and Instagram are using

utilise le même mécanisme que Facebook et Instagram utilisent

to get you to keep checking that app,

pour vous garder sur l'application

and they're using it on YouTube to hack the brains of very small children

et l'utilise sur YouTube pour s'introduire dans le cerveau de jeunes enfants

in return for advertising revenue.

en échange de revenus publicitaires.

At least, I hope that's what they're doing.

J'espère que telle est leur motivation.

I hope that's what they're doing it for,

J'espère qu'ils le font pour cela

because there's easier ways of making ad revenue on YouTube.

car il y a des moyens plus simples d'avoir des revenus publicitaires sur YouTube.

You can just make stuff up or steal stuff.

Vous pouvez inventer ou voler des trucs.

Si vous cherchez des dessins animés populaires

So if you search for really popular kids' cartoons

like "Peppa Pig" or "Paw Patrol,"

comme « Peppa Pig » ou « La Pat' Patrouille »,

you'll find there's millions and millions of these online as well.

vous trouverez des millions et millions de ces vidéos en ligne.

Of course, most of them aren't posted by the original content creators.

La plupart ne sont pas postées par les créateurs du contenu original.

They come from loads and loads of different random accounts,

Elles viennent de tout un tas de différents comptes aléatoires

and it's impossible to know who's posting them

et il est impossible de savoir qui les poste

or what their motives might be.

ou quelles sont leurs motivations.

Does that sound kind of familiar?

Cela semble-t-il familier ?

Because it's exactly the same mechanism

Car c'est également le même mécanisme

that's happening across most of our digital services,

qui a lieu pour la majorité de nos services numériques,

where it's impossible to know where this information is coming from.

où il est impossible de savoir d'où provient cette information.

It's basically fake news for kids,

Ce sont des « fake news » pour les enfants

and we're training them from birth

et nous leur apprenons dès la naissance

to click on the very first link that comes along,

à cliquer sur le premier lien qui vient,

regardless of what the source is.

peu importe sa source.

That's doesn't seem like a terribly good idea.

Cela ne semble pas être une super bonne idée.

Here's another thing that's really big on kids' YouTube.

Une autre chose très populaire sur YouTube pour enfants :

This is called the "Finger Family Song."

« La chanson de la famille des doigts ».

I just heard someone groan in the audience.

J'ai entendu quelqu'un grogner dans le public.

This is the "Finger Family Song."

C'est « la famille des doigts ».

This is the very first one I could find.

C'est la première que j'ai pu trouver.

It's from 2007, and it only has 200,000 views,

Elle est de 2007 et a seulement 200 000 vues,

which is, like, nothing in this game.

ce qui n'est rien.

But it has this insanely earwormy tune,

Il y a cette mélodie incroyablement entêtante,

which I'm not going to play to you,

que je ne vais pas vous passer,

because it will sear itself into your brain

car elle s'incrustera dans votre cerveau

in the same way that it seared itself into mine,

comme elle s'est incrustée dans le mien

and I'm not going to do that to you.

et je ne vais pas vous faire ça.

But like the surprise eggs,

Mais comme les œufs surprise,

it's got inside kids' heads

elle est entrée dans la tête des enfants

and addicted them to it.

et les a rendus accros.

So within a few years, these finger family videos

En quelques années, ces vidéos de la famille des doigts

start appearing everywhere,

sont apparues partout

and you get versions in different languages

et il y a des versions dans différentes langues,

with popular kids' cartoons using food

avec des dessins animés populaires, avec de la nourriture

or, frankly, using whatever kind of animation elements

ou n'importe quel élément d'animation

you seem to have lying around.

qui leur tombe sous la main.

And once again, there are millions and millions and millions of these videos

De nouveau, il y a des millions de vidéos

available online in all of these kind of insane combinations.

disponibles en ligne avec toutes ces combinaisons folles.

And the more time you start to spend with them,

Plus vous passez de temps dessus,

the crazier and crazier you start to feel that you might be.

plus vous avez l'impression d'être fou.

And that's where I kind of launched into this,

C'est à ce moment-là que je me suis lancé là-dedans,

that feeling of deep strangeness and deep lack of understanding

ce sentiment profond d'étrangeté et ce profond manque de compréhension

of how this thing was constructed that seems to be presented around me.

quant à comment était construite la chose qui se présentait autour de moi.

Because it's impossible to know where these things are coming from.

Car il est impossible de savoir d'où viennent ces choses.

Like, who is making them?

Qui les crée ?

Some of them appear to be made of teams of professional animators.

Elles semblent parfois créées par des équipes d'animateurs professionnels,

Some of them are just randomly assembled by software.

parfois assemblées aléatoirement par un logiciel,

Some of them are quite wholesome-looking young kids' entertainers.

parfois elles semblent être créées par de vrais artistes pour enfants.

And some of them are from people

Certaines sont clairement de gens

who really clearly shouldn't be around children at all.

qui ne devraient pas s'approcher d'enfants.

(Laughter)

(Rires)

And once again, this impossibility of figuring out who's making this stuff --

De nouveau, cette impossibilité de découvrir qui crée ces choses --

like, this is a bot?

est-ce un bot ?

Is this a person? Is this a troll?

Est-ce une personne ? Est-ce un troll ?

What does it mean that we can't tell the difference

Qu'est-ce que cela signifie que nous ne puissions plus

between these things anymore?

différencier ces choses ?

And again, doesn't that uncertainty feel kind of familiar right now?

Cette incertitude ne semble-t-elle pas familière actuellement ?

So the main way people get views on their videos --

La façon dont les gens ont des vues sur leurs vidéos --

and remember, views mean money --

les vues, ce sont de l'argent --

is that they stuff the titles of these videos with these popular terms.

est de farcir les titres de ces vidéos avec des mots populaires.

So you take, like, "surprise eggs"

Vous prenez « œufs surprise »

and then you add "Paw Patrol," "Easter egg,"

et « La Pat' Patrouille », « œuf de Pâques »

or whatever these things are,

ou quoi que ce soit d'autre,

all of these words from other popular videos into your title,

tous ces mots issus d'autres vidéos populaires dans votre titre

until you end up with this kind of meaningless mash of language

jusqu'à finir avec ce mélange linguistique dénué de sens

that doesn't make sense to humans at all.

qui n'a aucun sens pour les êtres humains.

Because of course it's only really tiny kids who are watching your video,

Car seuls les jeunes enfants regardent votre vidéo

and what the hell do they know?

et qu'en savent-ils ?

Your real audience for this stuff is software.

Votre vrai public pour ces choses-là est logiciel.

It's the algorithms.

Ce sont les algorithmes.

It's the software that YouTube uses

C'est le logiciel que YouTube utilise

to select which videos are like other videos,

pour sélectionner quelles vidéos sont comme les autres,

to make them popular, to make them recommended.

pour les rendre populaires, les recommander.

And that's why you end up with this kind of completely meaningless mash,

C'est pourquoi vous finissez avec ce mélange complètement dénué de sens

both of title and of content.

à la fois dans le titre et le contenu.

But the thing is, you have to remember,

Le fait est, rappelez-vous,

there really are still people within this algorithmically optimized system,

il y a encore des gens au sein de ce système optimisé par algorithme

people who are kind of increasingly forced to act out

qui sont de plus en plus forcés à mettre en scène

these increasingly bizarre combinations of words,

ces combinaisons de mots de plus en plus bizarres,

like a desperate improvisation artist responding to the combined screams

tels des artistes d'improvisation désespérés répondant aux cris

of a million toddlers at once.

d'un million d'enfants en même temps.

There are real people trapped within these systems,

Il y a de vraies personnes piégées dans ces systèmes

and that's the other deeply strange thing about this algorithmically driven culture,

et c'est l'autre aspect étrange

de cette culture dirigée par les algorithmes

because even if you're human,

car si vous êtes un être humain,

you have to end up behaving like a machine

vous devez agir comme une machine

just to survive.

pour survivre.

And also, on the other side of the screen,

De l'autre côté de l'écran,

there still are these little kids watching this stuff,

il y a encore de jeunes enfants regardant ces trucs,

stuck, their full attention grabbed by these weird mechanisms.

coincés, toute leur attention attirée par ces étranges mécanismes.

And most of these kids are too small to even use a website.

Ces enfants sont trop petits pour utiliser un site internet.

They're just kind of hammering on the screen with their little hands.

Ils se contentent de taper sur l'écran avec leurs petites mains.

And so there's autoplay,

Il y a la lecture automatique,

where it just keeps playing these videos over and over and over in a loop,

qui continue à lire ces vidéos en boucle de façon constante,

endlessly for hours and hours at a time.

sans cesse durant des heures et des heures.

And there's so much weirdness in the system now

Il y a maintenant tellement d'étrangeté dans le système

that autoplay takes you to some pretty strange places.

que la lecture automatique vous mène à des endroits étranges.

This is how, within a dozen steps,

C'est ainsi qu'en une dizaine d'étapes,

you can go from a cute video of a counting train

vous pouvez passer d'une vidéo mignonne d'un train qui compte

to masturbating Mickey Mouse.

à Mickey Mouse se masturbant.

Yeah. I'm sorry about that.

Oui. Je suis désolé.

This does get worse.

Il y a pire.

This is what happens

Voici ce qu'il se passe

when all of these different keywords,

quand tous ces mots-clés,

all these different pieces of attention,

tous ces éléments d'attention,

this desperate generation of content,

cette génération désespérée de contenu,

all comes together into a single place.

sont réunis en un seul endroit.

This is where all those deeply weird keywords come home to roost.

Voici où tous ces mots-clés très étranges se retournent contre vous.

You cross-breed the finger family video

Vous croisez la vidéo de la famille des doigts

with some live-action superhero stuff,

avec un truc de super-héros en direct,

you add in some weird, trollish in-jokes or something,

ajoutez des blagues bizarres et de troll

and suddenly, you come to a very weird place indeed.

et soudain vous arrivez dans un lieu très étrange.

The stuff that tends to upset parents

Ce qui a tendance à déranger les parents

is the stuff that has kind of violent or sexual content, right?

est le contenu violent ou sexuel, n'est-ce pas ?

Children's cartoons getting assaulted,

Les personnages pour enfants se faisant agresser,

getting killed,

se faisant tuer,

weird pranks that actually genuinely terrify children.

des plaisanteries étranges qui terrifient les enfants.

What you have is software pulling in all of these different influences

Vous avez un logiciel qui recherche toutes ces différentes influences

to automatically generate kids' worst nightmares.

pour générer automatiquement les pires cauchemars des enfants.

And this stuff really, really does affect small children.

Cela affecte vraiment les jeunes enfants.

Parents report their children being traumatized,

Les parents déclarent leurs enfants traumatisés,

becoming afraid of the dark,

développant une peur du noir,

becoming afraid of their favorite cartoon characters.

une peur de leurs personnages de dessins animés préférés.

If you take one thing away from this, it's that if you have small children,

Si vous retenez une chose de ceci, c'est que si vous avez de jeunes enfants,

keep them the hell away from YouTube.

tenez-les éloignés de YouTube.

(Applause)

(Applaudissements)

But the other thing, the thing that really gets to me about this,

Mais l'autre chose, ce qui m'atteint vraiment,

is that I'm not sure we even really understand how we got to this point.

est que je ne suis pas sûr

que nous comprenions comment nous en sommes arrivés là.

We've taken all of this influence, all of these things,

Nous avons pris l'influence de toutes ces choses

and munged them together in a way that no one really intended.

et créé un mélange que personne n'avait l'intention de faire.

And yet, this is also the way that we're building the entire world.

Pourtant, c'est aussi la façon dont nous créons le monde entier.

We're taking all of this data,

Nous prenons toutes ces données,

a lot of it bad data,

beaucoup de mauvaises données,

a lot of historical data full of prejudice,

beaucoup de données historiques pleines de préjugés,

full of all of our worst impulses of history,

pleines de nos pires pulsions au cours de l'histoire,

and we're building that into huge data sets

et en faisons d'énormes ensembles de données

and then we're automating it.

et les automatisons.

And we're munging it together into things like credit reports,

Nous les incluons à des choses comme les rapports de crédit,

into insurance premiums,

les primes d'assurance,

into things like predictive policing systems,

des systèmes de prévision policière,

into sentencing guidelines.

des directives de détermination des peines.

This is the way we're actually constructing the world today

Aujourd'hui, nous construisons le monde

out of this data.

à partir de ces données.

And I don't know what's worse,

Je ne sais pas ce qui est le pire :

that we built a system that seems to be entirely optimized

que nous créions un système semblant entièrement optimisé

for the absolute worst aspects of human behavior,

pour les pires aspects du comportement humain

or that we seem to have done it by accident,

ou que nous l'ayons fait par accident,

without even realizing that we were doing it,

sans même réaliser que nous le faisions

because we didn't really understand the systems that we were building,

car nous ne comprenions pas vraiment les systèmes que nous créions

and we didn't really understand how to do anything differently with it.

et nous ne comprenions pas vraiment comment faire les choses autrement.

There's a couple of things I think that really seem to be driving this

Il y a deux choses qui, à mon avis, semblent stimuler cela

most fully on YouTube,

principalement sur YouTube

and the first of those is advertising,

et la première est la publicité,

which is the monetization of attention

la monétisation de l'attention

without any real other variables at work,

sans autre réelle variable à l’œuvre,

any care for the people who are actually developing this content,

sans s'inquiéter des personnes qui élaborent ce contenu,

the centralization of the power, the separation of those things.

la centralisation du pouvoir, la séparation de ces choses-là.

And I think however you feel about the use of advertising

Je pense que peu importe votre avis sur l'utilisation de la publicité

to kind of support stuff,

pour subventionner cela,

the sight of grown men in diapers rolling around in the sand

la vision d'hommes adultes en couche se roulant dans le sable

in the hope that an algorithm that they don't really understand

en espérant qu'un algorithme qu'ils ne comprennent pas vraiment

will give them money for it

leur donnera de l'argent

suggests that this probably isn't the thing

suggère que ce n'est probablement pas

that we should be basing our society and culture upon,

ce sur quoi nous devrions baser notre société et culture

and the way in which we should be funding it.

ni la façon dont nous devrions les financer.

And the other thing that's kind of the major driver of this is automation,

L'autre facteur-clé est l'automatisation,

which is the deployment of all of this technology

le déploiement de toute cette technologie

as soon as it arrives, without any kind of oversight,

dès qu'elle arrive, sans supervision,

and then once it's out there,

et, une fois disponible,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

nous levons les mains et disons :

« Ce n'est pas nous, c'est la technologie. »

Like, "We're not involved in it."

Comme si nous n'étions pas impliqués.

That's not really good enough,

Cela ne suffit pas

because this stuff isn't just algorithmically governed,

car ces trucs ne sont pas que dirigés par des algorithmes,

it's also algorithmically policed.

ils sont surveillés par des algorithmes.

When YouTube first started to pay attention to this,

Quand YouTube a commencé à prêter attention à cela,

the first thing they said they'd do about it

ils ont d'abord dit vouloir

was that they'd deploy better machine learning algorithms

déployer de meilleurs algorithmes d'apprentissage automatique

to moderate the content.

pour modérer le contenu.

Well, machine learning, as any expert in it will tell you,

L'apprentissage automatique,

comme vous le dirait n'importe quel expert,

is basically what we've started to call

est ce que nous appelons

software that we don't really understand how it works.

un logiciel dont nous ne comprenons pas le fonctionnement.

And I think we have enough of that already.

Nous en avons déjà assez.

We shouldn't be leaving this stuff up to AI to decide

Nous ne devrions pas laisser l'IA décider

what's appropriate or not,

ce qui est approprié ou pas,

because we know what happens.

nous savons ce qu'il se passe.

It'll start censoring other things.

Il va censurer d'autres choses.

It'll start censoring queer content.

Il va censurer le contenu queer.

It'll start censoring legitimate public speech.

Il va censurer un discours public légitime.

What's allowed in these discourses,

Ce qui est autorisé dans ces discours

it shouldn't be something that's left up to unaccountable systems.

ne devrait pas dépendre de systèmes inexplicables et irresponsables.

It's part of a discussion all of us should be having.

Cela fait partie d'une discussion nous devrions tous avoir.

But I'd leave a reminder

Je vais également rappeler

that the alternative isn't very pleasant, either.

que l'alternative n'est pas très plaisante non plus.

YouTube also announced recently

YouTube a récemment annoncé

that they're going to release a version of their kids' app

la mise en ligne d'une version de l'application pour enfants

that would be entirely moderated by humans.

entièrement modérée par des êtres humains.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebook, Zuckerberg a dit la même chose au Congrès

when pressed about how they were going to moderate their stuff.

quand on lui a demandé comment ils allaient modérer leur contenu :

He said they'd have humans doing it.

des êtres humains le feraient.

And what that really means is,

Cela signifie

instead of having toddlers being the first person to see this stuff,

que plutôt que ces choses soient vues d'abord par des enfants,

you're going to have underpaid, precarious contract workers

il y aura des travailleurs contractuels sous-payés

without proper mental health support

sans soutien psychologique adéquat

being damaged by it as well.

auxquels elles nuiront aussi.

(Laughter)

(Rires)

And I think we can all do quite a lot better than that.

Nous pouvons tous faire bien mieux que cela.

(Applause)

(Applaudissements)

The thought, I think, that brings those two things together, really, for me,

L'idée qui, pour moi, relie vraiment ces deux choses ensemble

is agency.

est la capacité d'action.

It's like, how much do we really understand -- by agency, I mean:

Combien nous comprenons vraiment -- par capacité d'action, je parle

how we know how to act in our own best interests.

de comment nous savons comment agir dans notre intérêt.

Which -- it's almost impossible to do

C'est presque impossible à faire

in these systems that we don't really fully understand.

dans ces systèmes que nous ne comprenons pas complètement.

Inequality of power always leads to violence.

L'inégalité des pouvoirs mène toujours à la violence.

And we can see inside these systems

Nous voyons au sein de ces systèmes

that inequality of understanding does the same thing.

que l'inégalité de compréhension fait la même chose.

If there's one thing that we can do to start to improve these systems,

S'il y a une chose que nous pouvons faire pour améliorer ces systèmes,

it's to make them more legible to the people who use them,

c'est les rendre plus lisibles pour leurs utilisateurs

so that all of us have a common understanding

afin que nous partagions une compréhension

of what's actually going on here.

de ce qu'il se passe.

The thing, though, I think most about these systems

Le fait est que je pense que le problème avec ces systèmes

is that this isn't, as I hope I've explained, really about YouTube.

est que, j'espère l'avoir expliqué, qu'il ne s'agit pas vraiment de YouTube.

It's about everything.

Il s'agit de tout.

These issues of accountability and agency,

Ces problèmes de responsabilité et capacité d'action,

of opacity and complexity,

d'opacité et de complexité,

of the violence and exploitation that inherently results

de violence et d'exploitation qui résultent de façon inhérente

from the concentration of power in a few hands --

de la concentration du pouvoir dans quelques mains --

these are much, much larger issues.

ce sont des problèmes bien plus larges.

And they're issues not just of YouTube and not just of technology in general,

Ce ne sont pas des problèmes que pour YouTube

mais pour la technologie en général

and they're not even new.

et ils ne sont pas nouveaux.

They've been with us for ages.

Ils existent depuis toujours.

But we finally built this system, this global system, the internet,

Nous avons finalement créé ce système, ce système mondial, internet,

that's actually showing them to us in this extraordinary way,

qui nous les montre de façon extraordinaire,

making them undeniable.

les rendant incontestables.

Technology has this extraordinary capacity

La technologie a cette capacité extraordinaire

to both instantiate and continue

à instancier et à maintenir

all of our most extraordinary, often hidden desires and biases

tous nos désirs et préjugés les plus extraordinaires et cachés

and encoding them into the world,

et à les encoder dans le monde,

but it also writes them down so that we can see them,

mais également à les écrire afin que nous les voyions,

so that we can't pretend they don't exist anymore.

afin que nous ne puissions pas prétendre qu'ils n'existent plus.

We need to stop thinking about technology as a solution to all of our problems,

Nous devons arrêter de voir la technologie comme la solution à tous nos problèmes

but think of it as a guide to what those problems actually are,

et la voir comme un guide vers ce que sont nos problèmes

so we can start thinking about them properly

afin de pouvoir y réfléchir correctement

and start to address them.

et commencer à y remédier.

Thank you very much.

Merci beaucoup.

(Applause)

(Applaudissements)

Thank you.

Merci.

(Applause)

(Applaudissements)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walter : James, merci d'être venu et d'être intervenu ainsi.

So it's interesting:

C'est intéressant :

when you think about the films where the robotic overlords take over,

quand vous pensez aux films où des robots envahissent le monde,

it's all a bit more glamorous than what you're describing.

c'est un peu plus glamour que ce que vous décrivez.

But I wonder -- in those films, you have the resistance mounting.

Je me demande -- dans ces films, la résistance s'organise.

Is there a resistance mounting towards this stuff?

Y a-t-il une résistance qui s'organise au sujet de ces choses-là ?

Do you see any positive signs, green shoots of resistance?

Voyez-vous des signes positifs, des précurseurs d'une résistance ?

James Bridle: I don't know about direct resistance,

James Bridle : Une résistance directe, je ne sais pas,

because I think this stuff is super long-term.

car ce sont des choses à très long terme.

I think it's baked into culture in really deep ways.

C'est intégré à la culture très profondément.

A friend of mine, Eleanor Saitta, always says

Une amie à moi, Eleanor Saitta, dit toujours

that any technological problems of sufficient scale and scope

que tout problème technologique d'une certaine échelle et envergure

are political problems first of all.

est d'abord un problème politique.

So all of these things we're working to address within this

Tout ce à quoi nous essayons de remédier

are not going to be addressed just by building the technology better,

ne trouvera pas de solution en créant de meilleures technologies

but actually by changing the society that's producing these technologies.

mais en changeant la société qui produit ces technologies.

So no, right now, I think we've got a hell of a long way to go.

Actuellement, nous avons un très long chemin à parcourir.

But as I said, I think by unpacking them,

Je l'ai dit, en décortiquant les problèmes,

by explaining them, by talking about them super honestly,

en les expliquant, en en parlant très honnêtement,

we can actually start to at least begin that process.

nous pouvons commencer ce processus.

HW: And so when you talk about legibility and digital literacy,

HW : Quand vous parler de lisibilité et d'alphabétisation numérique,

I find it difficult to imagine

j'ai du mal à imaginer

that we need to place the burden of digital literacy on users themselves.

que nous devons porter nous-mêmes le fardeau de l'alphabétisation numérique.

But whose responsibility is education in this new world?

De qui relève la responsabilité de l'éducation dans ce nouveau monde ?

JB: Again, I think this responsibility is kind of up to all of us,

JB : Je crois que c'est de notre responsabilité à tous,

that everything we do, everything we build, everything we make,

que tout ce que nous faisons, construisons et créons

needs to be made in a consensual discussion

doit être fait au sein d'une discussion consensuelle

with everyone who's avoiding it;

avec tous ceux qui l'évitent ;

that we're not building systems intended to trick and surprise people

nous ne créons pas de systèmes dans le but de piéger et surprendre les gens

into doing the right thing,

pour qu'ils agissent bien

but that they're actually involved in every step in educating them,

mais ils sont impliqués à chaque étape de leur éducation

because each of these systems is educational.

car chacun de ces systèmes est éducatif.

That's what I'm hopeful about, about even this really grim stuff,

C'est pour cela que j'ai espoir, même pour ce qui est sinistre,

that if you can take it and look at it properly,

que si vous le prenez et l'observez correctement,

it's actually in itself a piece of education

c'est éducatif en soi

that allows you to start seeing how complex systems come together and work

et nous permet de voir

comment des systèmes complexes fonctionnent ensemble

and maybe be able to apply that knowledge elsewhere in the world.

et d'appliquer ce savoir ailleurs dans le monde.

HW: James, it's such an important discussion,

HW : C'est une discussion si importante

and I know many people here are really open and prepared to have it,

et beaucoup de gens ici sont ouverts et prêts à en discuter,

so thanks for starting off our morning.

merci d'avoir démarré notre matinée.

JB: Thanks very much. Cheers.

JB : Merci beaucoup.

(Applause)

(Applaudissements)