The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Vertaald door: Rik Delaet Nagekeken door: Christel Foncke

I'm James.

Ik ben James.

I'm a writer and artist,

Ik ben schrijver en kunstenaar

and I make work about technology.

en mijn werk gaat over over technologie,

I do things like draw life-size outlines of military drones

zoals levensgrote contouren van militaire drones tekenen

in city streets around the world,

in straten van steden over de hele wereld,

so that people can start to think and get their heads around

zodat mensen kunnen gaan nadenken en iets snappen

these really quite hard-to-see and hard-to-think-about technologies.

van deze nogal wazige en moeilijk te begrijpen technologieën.

I make things like neural networks that predict the results of elections

Ik maak dingen als neurale netwerken

die verkiezingsresultaten voorspellen

based on weather reports,

op basis van weerberichten,

because I'm intrigued about

want ik ben geïntrigeerd door de werkelijke mogelijkheden

what the actual possibilities of these weird new technologies are.

van deze vreemde nieuwe technologieën.

Last year, I built my own self-driving car.

Vorig jaar bouwde ik mijn eigen zelfrijdende auto.

But because I don't really trust technology,

Maar omdat ik de technologie niet echt vertrouwde,

I also designed a trap for it.

ontwierp ik er eveneens een val voor.

(Laughter)

(Gelach)

And I do these things mostly because I find them completely fascinating,

Ik doe dat vooral omdat ik ze helemaal fascinerend vind,

but also because I think when we talk about technology,

maar ook omdat ik denk dat als we het hebben over technologie,

we're largely talking about ourselves

we meestal over onszelf praten

and the way that we understand the world.

en de manier waarop we de wereld begrijpen.

So here's a story about technology.

Dus hier een verhaal over technologie.

This is a "surprise egg" video.

Dit is een surprise-ei-video.

It's basically a video of someone opening up loads of chocolate eggs

Het is een video van iemand die wat chocolade-eieren opent

and showing the toys inside to the viewer.

en de kijker het speelgoed erin toont.

That's it. That's all it does for seven long minutes.

Dat is het.

Dat is alles wat hij zeven lange minuten doet.

And I want you to notice two things about this.

Twee dingen zijn hier belangrijk om weten.

First of all, this video has 30 million views.

Allereerst is deze video 30 miljoen keer bekeken.

(Laughter)

(Gelach)

And the other thing is,

En ten tweede komt hij van een kanaal

it comes from a channel that has 6.3 million subscribers,

met 6,3 miljoen abonnees,

that has a total of eight billion views,

een totaal van acht miljard views,

and it's all just more videos like this --

en het is één van een hoop video's zoals deze --

30 million people watching a guy opening up these eggs.

30 miljoen mensen kijken naar iemand die deze eieren opendoet.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Het klinkt raar, maar als je naar surprise-eieren op YouTube zoekt,

it'll tell you there's 10 million of these videos,

kan ik je vertellen dat er 10 miljoen van deze video's bestaan,

en ik denk dat dat een onderschatting is.

and I think that's an undercount.

I think there's way, way more of these.

Ik denk dat het er veel, veel meer zijn.

If you keep searching, they're endless.

Als je gaat zoeken, houdt het niet op.

There's millions and millions of these videos

Er zijn miljoenen en miljoenen van deze video's,

in increasingly baroque combinations of brands and materials,

in toenemende barokke combinaties van merken en materialen,

and there's more and more of them being uploaded every single day.

en er worden er elke dag meer en meer geüpload.

Like, this is a strange world. Right?

Toch een vreemde wereld, niet?

But the thing is, it's not adults who are watching these videos.

Maar het zijn geen volwassenen die naar deze video's kijken.

It's kids, small children.

Het zijn kinderen, kleine kinderen.

These videos are like crack for little kids.

Deze video's zijn als crack voor kleine kinderen.

There's something about the repetition,

Iets in de herhaling die steeds weer een kleine dopamine-opstoot geeft,

the constant little dopamine hit of the reveal,

that completely hooks them in.

maakt ze er helemaal aan verslaafd.

And little kids watch these videos over and over and over again,

Kleine kinderen bekijken deze video’s opnieuw en opnieuw,

and they do it for hours and hours and hours.

uren aan een stuk.

And if you try and take the screen away from them,

Probeer ze niet weg te halen van het scherm,

they'll scream and scream and scream.

want ze gaan krijsen en gillen.

If you don't believe me --

Als jullie me niet geloven -- ik zag al mensen knikken --

and I've already seen people in the audience nodding --

als je het niet gelooft, vraag dan iemand met kleine kinderen,

if you don't believe me, find someone with small children and ask them,

zij kennen die surprise-ei-video's.

and they'll know about the surprise egg videos.

So this is where we start.

Daar beginnen we mee.

It's 2018, and someone, or lots of people,

Het is 2018, en iemand, of veel mensen,

are using the same mechanism that, like, Facebook and Instagram are using

gebruiken hetzelfde mechanisme om, net als Facebook en Instagram,

to get you to keep checking that app,

te zorgen dat je die app opzoekt,

and they're using it on YouTube to hack the brains of very small children

en ze gebruiken het op YouTube

om de hersenen van zeer kleine kinderen te hacken in ruil voor reclame-inkomsten.

in return for advertising revenue.

At least, I hope that's what they're doing.

Ik hoop tenminste dat het dat is wat ze doen.

I hope that's what they're doing it for,

Ik hoop dat ze het daarvoor doen,

because there's easier ways of making ad revenue on YouTube.

omdat er makkelijker manieren zijn

om advertentie-inkomsten te krijgen op YouTube.

You can just make stuff up or steal stuff.

Je kunt gewoon dingen uitvinden of dingen jatten.

So if you search for really popular kids' cartoons

Als je naar echt populaire kindercartoons

like "Peppa Pig" or "Paw Patrol,"

als ‘Pepper Pig’ of ‘Paw Patrol’ zoekt,

you'll find there's millions and millions of these online as well.

zal je er ook miljoenen en miljoenen online vinden.

Of course, most of them aren't posted by the original content creators.

Natuurlijk komen de meeste niet van de makers van de originele strips.

They come from loads and loads of different random accounts,

Ze komen uit heel verschillende willekeurige accounts

and it's impossible to know who's posting them

en het is onmogelijk om te weten wie ze posten

or what their motives might be.

of wat hun mogelijke motieven zijn.

Does that sound kind of familiar?

Komt dat bekend voor?

Because it's exactly the same mechanism

Want precies hetzelfde mechanisme

that's happening across most of our digital services,

zie je in de meeste digitale dienstverlening,

where it's impossible to know where this information is coming from.

waar je de herkomst van de informatie niet kunt achterhalen.

It's basically fake news for kids,

Het is eigenlijk nepnieuws voor kinderen

and we're training them from birth

en we zorgen er vanaf de geboorte voor dat ze klikken

to click on the very first link that comes along,

op de eerste link die langs komt,

regardless of what the source is.

ongeacht wat de bron is.

That's doesn't seem like a terribly good idea.

Dat lijkt geen erg goed idee.

Here's another thing that's really big on kids' YouTube.

Dit is ook echt populair op YouTube voor kinderen.

This is called the "Finger Family Song."

Dit heet de ‘Finger Family Song’.

Ik hoorde net iemand in het publiek kreunen.

I just heard someone groan in the audience.

This is the "Finger Family Song."

Dit is de ‘Finger Family Song’.

This is the very first one I could find.

Dit is de eerste die ik kon vinden.

It's from 2007, and it only has 200,000 views,

Hij is van 2007 en is slechts 200.000 keer bekeken,

which is, like, nothing in this game.

wat echt niets is in dit spel.

But it has this insanely earwormy tune,

Maar het muziekje is een echte oorworm,

which I'm not going to play to you,

die ik jullie zal besparen,

because it will sear itself into your brain

omdat hij zich in je hersenen brandt

in the same way that it seared itself into mine,

net zoals hij zich in de mijne inbrandde.

and I'm not going to do that to you.

Ik wil het jullie niet aandoen.

But like the surprise eggs,

Maar net als de surprise-eieren

it's got inside kids' heads

kroop het in de kinderhoofdjes

and addicted them to it.

en maakte hen eraan verslaafd.

So within a few years, these finger family videos

Binnen enkele jaren verschenen deze ‘vingerfamilie’- video’s overal,

start appearing everywhere,

and you get versions in different languages

met versies in verschillende talen,

with popular kids' cartoons using food

met populaire kinderstrips met voedsel,

or, frankly, using whatever kind of animation elements

of met eender wat voor animatie-elementen

die je ter beschikking hebt.

you seem to have lying around.

And once again, there are millions and millions and millions of these videos

En er zijn miljoenen en miljoenen van deze video's online beschikbaar

available online in all of these kind of insane combinations.

in allerlei soorten krankzinnige combinaties.

And the more time you start to spend with them,

Hoe meer tijd je eraan spendeert,

the crazier and crazier you start to feel that you might be.

des te gekker je je begint te voelen.

And that's where I kind of launched into this,

Daar ben ik dan mee begonnen,

that feeling of deep strangeness and deep lack of understanding

over hoe dat gevoel van diepe vreemdheid en diep gebrek aan inzicht

of how this thing was constructed that seems to be presented around me.

aan hoe dit ding, dat je overal ziet, in elkaar werd gestoken.

Because it's impossible to know where these things are coming from.

Omdat het onmogelijk is om de herkomst te weten

of wie ze maakt.

Like, who is making them?

Sommige lijken gemaakt door teams van professionele animators.

Some of them appear to be made of teams of professional animators.

Some of them are just randomly assembled by software.

Sommige lijken gewoon willekeurig samengesteld door software.

Some of them are quite wholesome-looking young kids' entertainers.

Sommige zien eruit als heel normaal kindervermaak.

And some of them are from people

En sommige lijken te komen van mensen

who really clearly shouldn't be around children at all.

die je beter weghoudt van kinderen.

(Laughter)

(Gelach)

And once again, this impossibility of figuring out who's making this stuff --

En dan weer de onmogelijkheid om de bron te achterhalen --

like, this is a bot?

zoals, is dit een bot?

Is this a person? Is this a troll?

Of een persoon? Of een trol?

What does it mean that we can't tell the difference

Wat betekent het dat we het verschil tussen deze dingen niet meer zien?

between these things anymore?

And again, doesn't that uncertainty feel kind of familiar right now?

En komt dat gevoel van onzekerheid jullie ook niet een beetje bekend voor?

De belangrijkste manier om views te krijgen --

So the main way people get views on their videos --

and remember, views mean money --

en views krijgen brengt geld op --

is that they stuff the titles of these videos with these popular terms.

is deze video’s te voorzien van populaire termen.

So you take, like, "surprise eggs"

Bijvoorbeeld surprise-eieren

and then you add "Paw Patrol," "Easter egg,"

koppel je aan ‘Paw Patrol’ of ‘Easter Egg’

or whatever these things are,

of wat dan ook,

all of these words from other popular videos into your title,

en steek woorden uit andere populaire video’s in je titel

until you end up with this kind of meaningless mash of language

tot een nietszeggende taalpuree

that doesn't make sense to humans at all.

zonder enige betekenis voor mensen.

Because of course it's only really tiny kids who are watching your video,

Want natuurlijk zijn het alleen erg kleine kinderen die je video bekijken

and what the hell do they know?

en die beseffen het niet.

Your real audience for this stuff is software.

Je echte publiek voor dit spul is software.

It's the algorithms.

Het zijn de algoritmen.

It's the software that YouTube uses

Het is de software van YouTube

to select which videos are like other videos,

die kiest welke video's net als andere video's zijn,

to make them popular, to make them recommended.

om ze populair te maken, om ze aan te bevelen.

And that's why you end up with this kind of completely meaningless mash,

En dat is waarom je eindigt met dit soort volkomen zinloze puree,

both of title and of content.

zowel van titel als van inhoud.

But the thing is, you have to remember,

Maar je mag niet vergeten

there really are still people within this algorithmically optimized system,

dat er nog steeds mensen zitten achter dit algoritmisch geoptimaliseerd systeem,

people who are kind of increasingly forced to act out

mensen die meer en meer

these increasingly bizarre combinations of words,

deze steeds meer bizarre woordcombinaties moeten naspelen

like a desperate improvisation artist responding to the combined screams

als een wanhopige improvisatiekunstenaar die reageert op het gecombineerde gekrijs

of a million toddlers at once.

van een miljoen peuters.

There are real people trapped within these systems,

Er zitten echte mensen gevangen in deze systemen

and that's the other deeply strange thing about this algorithmically driven culture,

en dat is het andere zeer vreemde iets aan deze door algoritmen gedreven cultuur,

because even if you're human,

want zelfs als mens, moet je je uiteindelijk ​​

you have to end up behaving like a machine

als een machine gaan gedragen om te overleven.

just to survive.

And also, on the other side of the screen,

En ook aan de andere kant van het scherm

there still are these little kids watching this stuff,

zitten nog steeds die kleine kinderen te kijken naar dit spul,

stuck, their full attention grabbed by these weird mechanisms.

vastgeplakt, hun volledige aandacht gegrepen door die rare mechanismen.

And most of these kids are too small to even use a website.

De meesten zijn zelfs te klein om een website gebruiken.

They're just kind of hammering on the screen with their little hands.

Ze tokkelen gewoon wat met hun kleine handjes op het scherm.

And so there's autoplay,

En dus is er autoplay,

where it just keeps playing these videos over and over and over in a loop,

waardoor deze video’s in een lus blijven doorspelen,

endlessly for hours and hours at a time.

onophoudelijk, uren en uren aan een stuk.

And there's so much weirdness in the system now

Het systeem is nu zo raar

that autoplay takes you to some pretty strange places.

dat autoplay je op hele vreemde plaatsen brengt.

This is how, within a dozen steps,

Zo kan je in een tiental stappen

you can go from a cute video of a counting train

van een leuke video met een tellende trein

to masturbating Mickey Mouse.

bij een masturberende Mickey Mouse terechtkomen.

Yeah. I'm sorry about that.

Ja. Sorry daarvoor.

This does get worse.

Het wordt nog erger.

This is what happens

Dit is wat er gebeurt

when all of these different keywords,

wanneer al deze verschillende zoekwoorden,

all these different pieces of attention,

al deze verschillende aandachtspunten,

this desperate generation of content,

deze wanhopige productie van inhoud,

all comes together into a single place.

allemaal op een enkele plaats samenkomt.

This is where all those deeply weird keywords come home to roost.

Daar vind je die zeer rare trefwoorden samen.

You cross-breed the finger family video

Je bestuift de vingerfamilie-video

with some live-action superhero stuff,

met wat superheldenactie,

you add in some weird, trollish in-jokes or something,

doe er nog wat rare, trolse grappen of zoiets bij,

and suddenly, you come to a very weird place indeed.

en plotseling kom je op een zeer rare plek terecht.

The stuff that tends to upset parents

Bij dingen die ouders nogal van streek maken,

is the stuff that has kind of violent or sexual content, right?

dingen met een gewelddadige of seksuele inhoud.

Children's cartoons getting assaulted,

Kindercartoons met aangevallen worden,

getting killed,

gedood worden,

weird pranks that actually genuinely terrify children.

met rare, echt angstaanjagende dingen voor kinderen.

What you have is software pulling in all of these different influences

Software die via al deze verschillende invloeden

to automatically generate kids' worst nightmares.

automatisch de ergste nachtmerries voor kinderen genereert.

And this stuff really, really does affect small children.

En dit spul heeft echt, echt invloed op kleine kinderen.

Parents report their children being traumatized,

Ouders zeggen dat hun kinderen getraumatiseerd zijn,

becoming afraid of the dark,

altijd bang in het donker,

becoming afraid of their favorite cartoon characters.

altijd bang van hun striphelden.

If you take one thing away from this, it's that if you have small children,

Het belangrijkste om te onthouden is dat als je kleine kinderen hebt,

keep them the hell away from YouTube.

je ze absoluut moet weghouden van YouTube.

(Applause)

(Applaus)

But the other thing, the thing that really gets to me about this,

Wat mij pas echt verontrust,

is that I'm not sure we even really understand how we got to this point.

is dat ik betwijfel of we begrijpen hoe we zover zijn geraakt.

We've taken all of this influence, all of these things,

We hebben al deze beïnvloeding, al deze dingen dooreen gemixt

and munged them together in a way that no one really intended.

op een manier die niemand echt bedoelde.

And yet, this is also the way that we're building the entire world.

En toch is dit ook de manier waarop we de hele wereld opbouwen.

We're taking all of this data,

We nemen al deze gegevens,

a lot of it bad data,

een hoop slechte data,

a lot of historical data full of prejudice,

een hoop historische gegevens vol vooroordelen

full of all of our worst impulses of history,

en onze slechtste neigingen uit ons verleden,

and we're building that into huge data sets

en steken die in grote datasets

and then we're automating it.

die we dan automatiseren.

And we're munging it together into things like credit reports,

We vermalen dat tot dingen als kredietrapporten,

into insurance premiums,

verzekeringspremies,

into things like predictive policing systems,

voorspellende controlesystemen,

into sentencing guidelines.

veroordelingsrichtlijnen.

This is the way we're actually constructing the world today

Zo construeren we in feite de wereld van vandaag

out of this data.

uit deze gegevens.

And I don't know what's worse,

En ik weet niet wat erger is,

that we built a system that seems to be entirely optimized

dat we een systeem bouwden dat volledig geoptimaliseerd lijkt

for the absolute worst aspects of human behavior,

voor de allerslechtste aspecten van het menselijk gedrag,

or that we seem to have done it by accident,

of dat we het misschien per ongeluk deden,

without even realizing that we were doing it,

zonder zelfs maar te beseffen dat we het deden,

because we didn't really understand the systems that we were building,

omdat we de systemen die we bouwden niet echt begrepen

and we didn't really understand how to do anything differently with it.

en we niet echt doorhadden hoe er iets anders mee te doen.

There's a couple of things I think that really seem to be driving this

Er zijn een paar dingen waarvan ik denk dat ze dit lijken te sturen,

most fully on YouTube,

vooral op YouTube,

and the first of those is advertising,

en het eerste is de reclame,

which is the monetization of attention

dat is het te gelde maken van de aandacht

without any real other variables at work,

zonder enige echte andere variabelen aan het werk,

any care for the people who are actually developing this content,

geen zorg voor de mensen die deze inhoud ontwikkelen,

the centralization of the power, the separation of those things.

de centralisatie van de macht, de scheiding van die dingen.

And I think however you feel about the use of advertising

Ik denk dat wat je ook denkt

over het gebruik van de reclame om iets te ondersteunen,

to kind of support stuff,

the sight of grown men in diapers rolling around in the sand

dat de aanblik van volwassen mannen die in luiers ronddollen in het zand

in the hope that an algorithm that they don't really understand

in de hoop dat een algoritme dat ze niet echt begrijpen

will give them money for it

hen er geld voor zal geven,

suggests that this probably isn't the thing

suggereert dat dit niet de beste basis is voor onze samenleving en cultuur

that we should be basing our society and culture upon,

en van de manier waarop we ze financieren.

and the way in which we should be funding it.

And the other thing that's kind of the major driver of this is automation,

En wat deze automatisering vooral ook aanstuurt,

which is the deployment of all of this technology

is de toepassing van al deze technologie zodra ze er is,

as soon as it arrives, without any kind of oversight,

zonder enige vorm van toezicht,

and then once it's out there,

en eens ze er is,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

we onze handen in de lucht steken en roepen:

“Hè, wij niet, het is de technologie.

Like, "We're not involved in it."

Wij zijn er niet bij betrokken.”

That's not really good enough,

Dat is echt niet goed genoeg,

because this stuff isn't just algorithmically governed,

omdat dit spul niet alleen algoritmisch wordt bestuurd,

it's also algorithmically policed.

maar ook algoritmisch gecontroleerd.

When YouTube first started to pay attention to this,

Toen YouTube hier aandacht aan begon te geven,

the first thing they said they'd do about it

zeiden ze dat ze betere algoritmen voor machinaal leren zouden inzetten

was that they'd deploy better machine learning algorithms

to moderate the content.

om de inhoud te matigen.

Well, machine learning, as any expert in it will tell you,

Machineleren ...

Elke deskundige kan je vertellen dat dit eigenlijk software is

is basically what we've started to call

software that we don't really understand how it works.

waarvan we niet echt begrijpen hoe hij werkt.

And I think we have enough of that already.

Daar hebben we al genoeg van, zou ik denken.

We shouldn't be leaving this stuff up to AI to decide

We moeten niet aan KI overlaten

om te beslissen wat wel of niet geschikt is,

what's appropriate or not,

because we know what happens.

omdat we weten wat er dan gebeurt.

It'll start censoring other things.

Het zal andere dingen gaan censureren.

It'll start censoring queer content.

Bijvoorbeeld items over homo’s.

It'll start censoring legitimate public speech.

Of het vrije woord.

What's allowed in these discourses,

Wat hier mag,

it shouldn't be something that's left up to unaccountable systems.

moet je niet overlaten aan onverantwoordelijke systemen.

It's part of a discussion all of us should be having.

Aan deze discussie zouden we allemaal moeten deelnemen.

But I'd leave a reminder

Maar ik zou er op willen wijzen

that the alternative isn't very pleasant, either.

dat het alternatief ook niet erg leuk is.

YouTube also announced recently

YouTube kondigde onlangs ook aan

that they're going to release a version of their kids' app

dat er een versie van hun kinderapp uitkomt

that would be entirely moderated by humans.

die volledig door mensen zou worden gemodereerd.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebook –- Zuckerberg zei ongeveer hetzelfde in het Congres

when pressed about how they were going to moderate their stuff.

toen ze hem vroegen over hoe ze hun zaken zouden gaan matigen.

He said they'd have humans doing it.

Hij zei dat mensen het zouden gaan doen.

And what that really means is,

Dat betekent in feite

instead of having toddlers being the first person to see this stuff,

dat niet peuters dit als eersten zouden zien,

maar wel onderbetaalde, losse werknemers met een contract,

you're going to have underpaid, precarious contract workers

zonder juiste mentale ondersteuning

without proper mental health support

being damaged by it as well.

en evengoed het slachtoffer ervan.

(Laughter)

(Gelach)

And I think we can all do quite a lot better than that.

Ik denk dat we dat allemaal veel beter kunnen doen.

(Applause)

(Applaus)

The thought, I think, that brings those two things together, really, for me,

Wat volgens mij die twee dingen echt samenbrengt,

is agency.

is ‘agency’.

It's like, how much do we really understand -- by agency, I mean:

Het gaat om hoeveel we echt begrijpen. Met agency bedoel ik:

how we know how to act in our own best interests.

hoe weten we hoe te handelen in ons eigen belang.

Which -- it's almost impossible to do

Wat bijna onmogelijk is om te doen

in these systems that we don't really fully understand.

met deze systemen die we niet ten volle begrijpen.

Inequality of power always leads to violence.

Machtsongelijkheid leidt altijd tot geweld.

En we kunnen zien dat in deze systemen

And we can see inside these systems

that inequality of understanding does the same thing.

ongelijkheid van begrip hetzelfde doet.

If there's one thing that we can do to start to improve these systems,

Dat kunnen we al doen om deze systemen te verbeteren:

it's to make them more legible to the people who use them,

ze begrijpelijker maken voor de gebruikers,

so that all of us have a common understanding

zodat we allemaal weten wat hier werkelijk gaande is.

of what's actually going on here.

The thing, though, I think most about these systems

Het probleem met de meeste van deze systemen is

is that this isn't, as I hope I've explained, really about YouTube.

dat dit niet alleen geldt, zoals ik hopelijk heb uitgelegd, voor YouTube.

It's about everything.

Het gaat over alles.

These issues of accountability and agency,

Deze kwesties van verantwoording en agency,

of opacity and complexity,

van ondoorzichtigheid en complexiteit,

of the violence and exploitation that inherently results

van het geweld en uitbuiting die inherent voortkomen

from the concentration of power in a few hands --

uit de concentratie van macht in weinig handen --

these are much, much larger issues.

dat zijn veel, veel grotere problemen.

And they're issues not just of YouTube and not just of technology in general,

Niet alleen problemen van YouTube of van technologie in het algemeen,

and they're not even new.

ze zijn zelfs niet nieuw.

They've been with us for ages.

We hebben ze al eeuwen.

But we finally built this system, this global system, the internet,

Maar tenslotte bouwden wij dit systeem, dit mondiale systeem, het internet,

that's actually showing them to us in this extraordinary way,

dat ons de problemen laat zien op deze bijzondere manier,

waardoor we ze niet kunnen ontkennen.

making them undeniable.

Technology has this extraordinary capacity

Technologie heeft de buitengewone capaciteit

to both instantiate and continue

om al onze meest bijzondere, vaak verborgen verlangens en vooroordelen

all of our most extraordinary, often hidden desires and biases

te presenteren en te continueren

and encoding them into the world,

en ze in de wereld te coderen,

but it also writes them down so that we can see them,

maar ze ook op te schrijven, zodat we ze kunnen zien,

so that we can't pretend they don't exist anymore.

zodat we niet meer kunnen doen alsof ​​ze niet bestaan.

We need to stop thinking about technology as a solution to all of our problems,

We moeten stoppen met denken over technologie

als een oplossing voor al onze problemen,

but think of it as a guide to what those problems actually are,

maar ze zien als een gids voor wat die problemen werkelijk zijn,

so we can start thinking about them properly

zodat we er op de juiste manier aan gaan denken

and start to address them.

en ze beginnen aan te pakken.

Thank you very much.

Veel dank.

(Applause)

(Applaus)

Thank you.

Dank je.

(Applause)

(Applaus)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: James, ik dank je voor je komst en je talk.

So it's interesting:

Dit is interessant:

when you think about the films where the robotic overlords take over,

als je denkt aan de films waar robotheersers het overnemen,

it's all a bit more glamorous than what you're describing.

is het allemaal een beetje blitser dan wat jij beschrijft.

But I wonder -- in those films, you have the resistance mounting.

Maar ik vraag me af -- in die films zie je de weerstand toenemen.

Is there a resistance mounting towards this stuff?

Neemt de weerstand tegen dit spul ook toe?

Do you see any positive signs, green shoots of resistance?

Zie je geen positieve signalen, tekenen van verzet?

James Bridle: I don't know about direct resistance,

James Bridle: Ik zie geen directe weerstand,

because I think this stuff is super long-term.

ik denk dat dit over superlange termijn werkt.

I think it's baked into culture in really deep ways.

Ik denk dat het diep ingebakken zit in de cultuur.

A friend of mine, Eleanor Saitta, always says

Een vriend van mij, Eleanor Saitta, zegt altijd

that any technological problems of sufficient scale and scope

dat alle technologische problemen van voldoende omvang en reikwijdte

are political problems first of all.

in de eerste plaats politieke problemen zijn.

So all of these things we're working to address within this

Dus gaan al die dingen waaraan we willen werken

are not going to be addressed just by building the technology better,

niet worden aangepakt door alleen maar betere technologie,

but actually by changing the society that's producing these technologies.

maar door de samenleving te veranderen waarin deze technologieën ontstonden.

So no, right now, I think we've got a hell of a long way to go.

Nee, ik denk dat we nog een heel lange weg hebben te gaan.

But as I said, I think by unpacking them,

Maar ik zei al dat door ze te ontleden,

by explaining them, by talking about them super honestly,

door ze uit te leggen, er heel eerlijk over te praten,

we can actually start to at least begin that process.

we tenminste met dat proces kunnen beginnen.

HW: And so when you talk about legibility and digital literacy,

HW: Wanneer je het hebt over begrip en digitale geletterdheid

I find it difficult to imagine

vind ik het moeilijk voor te stellen

that we need to place the burden of digital literacy on users themselves.

dat we de last van digitale geletterdheid bij de gebruikers zelf moeten leggen.

But whose responsibility is education in this new world?

Wie wordt verantwoordelijk voor opvoeding in deze nieuwe wereld?

JB: Again, I think this responsibility is kind of up to all of us,

JB: Het gaat ieders verantwoordelijkheid worden,

that everything we do, everything we build, everything we make,

dat alles wat we doen, alles wat we bouwen, alles wat we maken,

needs to be made in a consensual discussion

moet worden gemaakt in samenspraak

with everyone who's avoiding it;

met iedereen die ze uit de weg gaat.

that we're not building systems intended to trick and surprise people

Dat we geen systemen bouwen bedoeld om mensen te verleiden

into doing the right thing,

om het juiste te doen,

but that they're actually involved in every step in educating them,

maar ze daadwerkelijk betrekken bij elke stap van hun opvoeding,

because each of these systems is educational.

omdat al deze systemen educatief zijn.

That's what I'm hopeful about, about even this really grim stuff,

Hoe grimmig het ook is, ik hoop

that if you can take it and look at it properly,

dat als je het aanpakt en er vanuit de juiste hoek naar kijkt,

it's actually in itself a piece of education

het op zichzelf al een stuk opvoeding is

that allows you to start seeing how complex systems come together and work

dat je toelaat om te zien hoe complexe systemen samenkomen en werken

and maybe be able to apply that knowledge elsewhere in the world.

en misschien deze kennis elders in de wereld kunnen toepassen.

HW: James, it's such an important discussion,

HW: James, dit is zo'n belangrijke discussie

and I know many people here are really open and prepared to have it,

en veel mensen hier staan ervoor open,

dus bedankt om onze voormiddag te beginnen.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

JB: Heel erg bedankt.

(Applause)

(Applaus)