The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Traducător: Bianca Han Corector: Cristina Nicolae

I'm James.

Eu sunt James.

I'm a writer and artist,

Sunt scriitor și artist

and I make work about technology.

și domeniul meu este tehnologia.

I do things like draw life-size outlines of military drones

Desenez schițe în mărime naturală pentru drone militare

in city streets around the world,

pe străzile orașelor de prin lume

so that people can start to think and get their heads around

pentru ca oamenii să se poată gândi și să poată înțelege

these really quite hard-to-see and hard-to-think-about technologies.

această tehnologie greu de văzut și greu de imaginat.

I make things like neural networks that predict the results of elections

Eu concep lucruri precum rețele neurale care prezic rezultatele alegerilor,

based on weather reports,

având la bază prognozele vremii,

because I'm intrigued about

pentru că sunt intrigat

what the actual possibilities of these weird new technologies are.

de posibilitățile propriu-zise pe care le au aceste tehnologii bizare.

Last year, I built my own self-driving car.

Acum un an mi-am făcut o mașină care se conduce singură.

But because I don't really trust technology,

Însă, pentru că nu prea mă încred în tehnologie,

I also designed a trap for it.

i-am creat și o capcană.

(Laughter)

(Râsete)

And I do these things mostly because I find them completely fascinating,

Și fac toate acestea în special pentru că le consider absolut fascinante,

dar și pentru că eu cred că atunci când vorbim despre tehnologie,

but also because I think when we talk about technology,

we're largely talking about ourselves

vorbim, în mare măsură, despre noi înșine

and the way that we understand the world.

și despre modul în care înțelegem lumea.

So here's a story about technology.

Așa că, iată o poveste despre tehnologie.

This is a "surprise egg" video.

Acesta este un filmuleț despre „ouă cu surprize”.

It's basically a video of someone opening up loads of chocolate eggs

Este un filmuleț cu cineva care desface o grămadă de ouă de ciocolată

and showing the toys inside to the viewer.

și arată jucăriile din interior.

That's it. That's all it does for seven long minutes.

Asta e tot. Numai asta face timp de șapte minute lungi.

And I want you to notice two things about this.

Și aș vrea să observați două aspecte despre acest lucru.

First of all, this video has 30 million views.

În primul rând, acest filmuleț are 30 milioane de vizualizări.

(Laughter)

(Râsete)

And the other thing is,

Și celălalt lucru:

it comes from a channel that has 6.3 million subscribers,

el provine de pe un canal care are 6,3 milioane de abonați,

that has a total of eight billion views,

care are opt miliarde de vizualizări,

and it's all just more videos like this --

și sunt doar alte filmulețe ca acesta -

30 million people watching a guy opening up these eggs.

30 de milioane de oameni urmărind un om care desface aceste ouă.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Sună destul de ciudat, dar dacă am căuta „ouă cu surprize” pe YouTube,

it'll tell you there's 10 million of these videos,

vom vedea că sunt 10 milioane de astfel de filmulețe,

and I think that's an undercount.

și cred că asta e o vagă estimare.

I think there's way, way more of these.

Cred că sunt mult, mult mai multe.

If you keep searching, they're endless.

Dacă vom continua să căutăm, sunt infinite.

There's millions and millions of these videos

Sunt milioane și milioane de astfel de filme

in increasingly baroque combinations of brands and materials,

în nenumărate combinații sofisticate de firme și materiale,

and there's more and more of them being uploaded every single day.

și tot mai multe sunt încărcate în fiecare zi.

Like, this is a strange world. Right?

Chiar că e o lume ciudată. Nu-i așa?

But the thing is, it's not adults who are watching these videos.

Dar chestia e că nu adulții vizionează aceste filmulețe.

It's kids, small children.

Ci puștii, copiii mici.

These videos are like crack for little kids.

Aceste filmulețe sunt ca un drog pentru copii.

There's something about the repetition,

S-ar părea că prezentarea repetată,

the constant little dopamine hit of the reveal,

mica doză de dopamină dată de descoperirea surprizei

that completely hooks them in.

e ceea ce îi atrage foarte tare.

And little kids watch these videos over and over and over again,

Și copiii urmăresc aceste filmulețe iarăși și iarăși,

and they do it for hours and hours and hours.

și o fac ore întregi.

And if you try and take the screen away from them,

Și dacă încerci să le iei ecranul,

they'll scream and scream and scream.

vor începe să țipe mult și bine.

If you don't believe me --

Dacă nu mă credeți -

and I've already seen people in the audience nodding --

și deja am și văzut persoane din public dând din cap -

if you don't believe me, find someone with small children and ask them,

dacă nu mă credeți, căutați pe cineva care are copii, întrebați-i

and they'll know about the surprise egg videos.

și vă vor spune ei despre filmele cu ouă cu surpriză.

So this is where we start.

Așadar, de aici începem.

It's 2018, and someone, or lots of people,

E anul 2018 și cineva sau chiar mai mulți oameni

are using the same mechanism that, like, Facebook and Instagram are using

folosesc același mecanism care, la fel ca Facebook și Instagram,

to get you to keep checking that app,

ne fac să ne tot verificăm aplicația,

and they're using it on YouTube to hack the brains of very small children

și folosesc asta și pe YouTube pentru a „subjuga” creierul copiilor mici

in return for advertising revenue.

în schimbul veniturilor din publicitate.

At least, I hope that's what they're doing.

Cel puțin, sper că asta fac.

I hope that's what they're doing it for,

Sper că pentru asta o fac,

because there's easier ways of making ad revenue on YouTube.

pentru că sunt căi mai simple de a obține vebituri din publicitate pe YouTube.

You can just make stuff up or steal stuff.

Poți să inventezi ceva sau să furi ceva.

So if you search for really popular kids' cartoons

Așa că, atunci când cauți desene animate foarte populare

like "Peppa Pig" or "Paw Patrol,"

ca „Peppa Pig” sau „Paw Patrol”,

you'll find there's millions and millions of these online as well.

vei afla că sunt milioane și milioane din acestea online.

Of course, most of them aren't posted by the original content creators.

Desigur, cele mai multe nu sunt postate de creatorii originali.

They come from loads and loads of different random accounts,

Ele vin din încărcări peste încărcări din diferite conturi

and it's impossible to know who's posting them

și este imposibil să afli cine le postează

or what their motives might be.

sau care ar putea fi motivele lor.

Does that sound kind of familiar?

Toate astea vă sună cumva cunoscut?

Because it's exactly the same mechanism

Pentru că e exact același mecanism

that's happening across most of our digital services,

folosit de multe dintre serviciile noastre digitale

where it's impossible to know where this information is coming from.

în care e imposibil să afli de unde vine informația.

It's basically fake news for kids,

De fapt, e știre falsă pentru copii,

and we're training them from birth

iar noi îi pregătim încă de la naștere

to click on the very first link that comes along,

să acceseze chiar primul link care apare,

regardless of what the source is.

indiferent de sursă.

That's doesn't seem like a terribly good idea.

Nu pare să fie o idee prea bună.

Here's another thing that's really big on kids' YouTube.

Iată altceva care are mare succes pe YouTube pentru copii.

This is called the "Finger Family Song."

Se numește „Cântecul Familiei Degețel.”

I just heard someone groan in the audience.

Am auzit pe cineva oftând în public.

This is the "Finger Family Song."

Iată „Cântecul Familiei Degețel.”

This is the very first one I could find.

E chiar primul pe care l-am putut găsi.

It's from 2007, and it only has 200,000 views,

E din 2007 și are doar 200.000 de vizualizări,

which is, like, nothing in this game.

ceea ce e foarte puțin în acest „joc”.

But it has this insanely earwormy tune,

Dar are o melodie îngrozitor de pregnantă,

which I'm not going to play to you,

pe care n-am să v-o pun acum,

because it will sear itself into your brain

pentru că vi s-ar „lipi” de creier,

in the same way that it seared itself into mine,

așa cum s-a întâmplat în cazul meu,

and I'm not going to do that to you.

și n-am de gând să vă fac așa ceva.

But like the surprise eggs,

Dar, ca și ouăle cu surprize,

it's got inside kids' heads

melodia a intrat în capul copiilor

and addicted them to it.

și i-a făcut dependenți de ea.

So within a few years, these finger family videos

În doar câțiva ani, filmele cu familia Degețel

start appearing everywhere,

au tot apărut peste tot,

and you get versions in different languages

în variante în diverse limbi,

with popular kids' cartoons using food

cu desene animate care folosesc mâncare

or, frankly, using whatever kind of animation elements

sau, sincer, orice fel de elemente de animație

you seem to have lying around.

pe care le ai în preajma ta.

And once again, there are millions and millions and millions of these videos

Sunt milioane și milioane de astfel de filmulețe

available online in all of these kind of insane combinations.

accesibile pe internet, în tot felul de combinații ciudate.

And the more time you start to spend with them,

Cu cât începi să petreci mai mult timp cu ele,

the crazier and crazier you start to feel that you might be.

cu atât ai senzația că te înnebunesc.

And that's where I kind of launched into this,

Ăsta e momentul în care am început să mă ocup de asta,

that feeling of deep strangeness and deep lack of understanding

de acel sentiment bizar dat de lipsa de înțelegere

of how this thing was constructed that seems to be presented around me.

a felului în care era conceput acel ceva prezent mereu în jurul meu.

Because it's impossible to know where these things are coming from.

Căci e imposibil să știm de unde vin aceste lucruri.

Like, who is making them?

Cum ar fi, cine le face?

Some of them appear to be made of teams of professional animators.

Unele par a fi concepute de echipe de animatori profesioniști.

Some of them are just randomly assembled by software.

Altele sunt asamblate întâmplător de vreun program software,

Some of them are quite wholesome-looking young kids' entertainers.

Unele sunt chiar niște superbi animatori pentru copii.

And some of them are from people

Unele vin din partea unor oameni

who really clearly shouldn't be around children at all.

care nu ar trebui lăsați în preajma copiilor.

(Laughter)

(Râsete)

And once again, this impossibility of figuring out who's making this stuff --

Repet, această imposibilitate de a ști cine creează aceste lucruri -

like, this is a bot?

o fi un program de calculator

Is this a person? Is this a troll?

sau e o persoană? E un trol?

What does it mean that we can't tell the difference

Ce înseamnă să nu mai putem face diferența

between these things anymore?

dintre aceste lucruri?

And again, doesn't that uncertainty feel kind of familiar right now?

Mai mult, nu vi se pare că această nesiguranța vă este familiară?

So the main way people get views on their videos --

În principal, oamenii își asigură vizualizările —

and remember, views mean money --

reținem, vizualizările înseamnă bani —

is that they stuff the titles of these videos with these popular terms.

folosind în titlurile filmulețelor termeni foarte populari.

So you take, like, "surprise eggs"

Luăm, de pildă, „ouăle cu surprize”

and then you add "Paw Patrol," "Easter egg,"

plus „Patrula Cățelușilor”, „Ouă de Paște”

or whatever these things are,

sau orice altceva,

all of these words from other popular videos into your title,

cuvinte din alte filmulețe populare, aduse în titlu,

until you end up with this kind of meaningless mash of language

până obținem un soi de terci lingvistic fără înțeles,

that doesn't make sense to humans at all.

ce nu mai are niciun sens pentru oameni.

Because of course it's only really tiny kids who are watching your video,

Căci doar copiii mici se uită la astfel de filmulețe

and what the hell do they know?

și ce naiba știu ei?

Your real audience for this stuff is software.

Publicul tău țintă e programul software.

It's the algorithms.

Sunt algoritmii.

It's the software that YouTube uses

Programul de soft folosit de YouTube

to select which videos are like other videos,

pentru a alege ce filmulețe se aseamănă,

to make them popular, to make them recommended.

pentru a le face populare, pentru a le recomanda.

And that's why you end up with this kind of completely meaningless mash,

Așa ne alegem cu un amestec total lipsit de sens

both of title and of content.

în titlu și în conținut.

But the thing is, you have to remember,

Dar, să nu uităm,

there really are still people within this algorithmically optimized system,

încă există oameni în acest sistem optimizat algoritmic,

people who are kind of increasingly forced to act out

care sunt forțați să răspundă

these increasingly bizarre combinations of words,

la aceste combinații bizare de cuvinte,

like a desperate improvisation artist responding to the combined screams

precum un artist de improvizație reacționând în fața țipetelor simultane

of a million toddlers at once.

ale milioane de copilași.

There are real people trapped within these systems,

Oameni adevărați sunt captivi în aceste sisteme,

and that's the other deeply strange thing about this algorithmically driven culture,

un alt aspect deosebit de straniu al culturii dirijate prin algoritmi,

because even if you're human,

căci, deși suntem oameni,

you have to end up behaving like a machine

ajungem să ne purtăm precum mașini

just to survive.

doar pentru a supraviețui.

And also, on the other side of the screen,

De cealaltă parte a ecranului,

there still are these little kids watching this stuff,

încă îi avem pe copilașii care vizionează captivați,

stuck, their full attention grabbed by these weird mechanisms.

total absorbiți de aceste mecanisme ciudate.

And most of these kids are too small to even use a website.

Majoritatea sunt prea mici să intre pe pagina web.

They're just kind of hammering on the screen with their little hands.

Doar lovesc ecranul cu mâinile lor mici.

And so there's autoplay,

Și filmulețul repornește

where it just keeps playing these videos over and over and over in a loop,

și o ia mereu de la început ca într-o buclă temporală,

endlessly for hours and hours at a time.

ore și ore, la nesfârșit.

And there's so much weirdness in the system now

Și e atâta ciudățenie în sistem acum,

that autoplay takes you to some pretty strange places.

încât reluările ne duc în niște locuri bizare.

This is how, within a dozen steps,

Astfel încât, cu doar câțiva pași,

you can go from a cute video of a counting train

poți ajunge de la un filmuleț simpatic cu un trenuleț care numără

to masturbating Mickey Mouse.

la un Mickey Mouse care se masturbează.

Yeah. I'm sorry about that.

Da. Îmi pare rău pentru asta.

This does get worse.

Și asta se înrăutățește.

This is what happens

Iată ce se întâmplă

when all of these different keywords,

când toate aceste cuvinte cheie diferite,

all these different pieces of attention,

toată atenția,

this desperate generation of content,

toată generarea disperată de conținut,

all comes together into a single place.

ajung să fie puse împreună în același loc.

This is where all those deeply weird keywords come home to roost.

Acolo unde aceste cuvinte cheie bizare dau rod.

You cross-breed the finger family video

Combinând filmulețul cu familia Degețel

with some live-action superhero stuff,

cu ceva acțiune cu super eroi,

you add in some weird, trollish in-jokes or something,

și adăugând ceva chestii ciudate, ---------- triviale,

and suddenly, you come to a very weird place indeed.

se ajunge într-o zonă cu adevărat stranie.

The stuff that tends to upset parents

Ceea ce îi deranjează pe părinți

is the stuff that has kind of violent or sexual content, right?

este un material cu conținut violent sau sexual, nu-i așa?

Children's cartoons getting assaulted,

Desene animate pentru copii, cu violență,

getting killed,

sau cu omoruri,

weird pranks that actually genuinely terrify children.

farse bizare care, literalmente, îi sperie pe copii.

What you have is software pulling in all of these different influences

E vorba de programe ce folosesc toate astea

to automatically generate kids' worst nightmares.

pentru a le crea copiilor cele mai urâte coșmaruri.

And this stuff really, really does affect small children.

Și copiii mici sunt cu adevărat marcați.

Parents report their children being traumatized,

Părinții se plâng că le sunt traumatizați copiii,

becoming afraid of the dark,

că le e frică de întuneric,

becoming afraid of their favorite cartoon characters.

că se tem de personajele favorite din desenele animate.

If you take one thing away from this, it's that if you have small children,

Dacă ar fi să rețineți ceva de aici, în cazul în care aveți copii mici,

keep them the hell away from YouTube.

faceți bine și țineți-i departe de YouTube.

(Applause)

(Aplauze)

But the other thing, the thing that really gets to me about this,

Un alt lucru care mă îngrijorează, referitor la această problemă,

is that I'm not sure we even really understand how we got to this point.

este că nu sunt sigur că noi înțelegem cum s-a ajuns în acest punct.

We've taken all of this influence, all of these things,

Am preluat toată această influență, toate lucrurile astea,

and munged them together in a way that no one really intended.

și le-am combinat într-o manieră pe care n-a dorit-o nimeni.

And yet, this is also the way that we're building the entire world.

Totuși, acesta este felul în care ne construim întreaga lume.

We're taking all of this data,

Luăm toate informațiile,

a lot of it bad data,

multe dintre ele proaste,

a lot of historical data full of prejudice,

date istorice pline de prejudecăți

full of all of our worst impulses of history,

și de cele mai rele impulsuri ale istoriei

and we're building that into huge data sets

și concepem astfel seturi imense de date

and then we're automating it.

pe care le automatizăm.

And we're munging it together into things like credit reports,

Și le concentrăm în rapoarte de credit,

into insurance premiums,

asigurări premium,

into things like predictive policing systems,

sisteme de predicție în munca poliției,

into sentencing guidelines.

regulamente și directive.

This is the way we're actually constructing the world today

Așa ne concepem lumea de azi,

out of this data.

din astfel de date.

And I don't know what's worse,

Și nu știu ce e mai rău:

that we built a system that seems to be entirely optimized

că am construit un sistem care pare optimizat

for the absolute worst aspects of human behavior,

pentru aspectele negative ale comportamentului uman

or that we seem to have done it by accident,

sau faptul că pare că am comis-o din greșeală,

without even realizing that we were doing it,

fără a ne da seama că am făcut-o

because we didn't really understand the systems that we were building,

pentru că nu înțelegeam pe deplin sistemul pe care îl cream,

and we didn't really understand how to do anything differently with it.

pentru că nu înțelegeam pe deplin cum să schimbăm ceva prin el.

There's a couple of things I think that really seem to be driving this

Ar fi o serie de lucruri care controlează totul

most fully on YouTube,

mai ales pe YouTube,

and the first of those is advertising,

iar primul ar fi publicitatea,

which is the monetization of attention

adică monetizarea atenției,

without any real other variables at work,

fără a ține cont de alte variabile reale,

any care for the people who are actually developing this content,

de oamenii care creează, de fapt, acest conținut,

the centralization of the power, the separation of those things.

de centralizarea puterii sau de separarea acestor lucruri.

And I think however you feel about the use of advertising

Și, orice am crede despre utilizarea publicității

to kind of support stuff,

ca fiind un fel de sprijin,

the sight of grown men in diapers rolling around in the sand

imaginea unor adulți în scutece, tăvălindu-se prin nisip,

in the hope that an algorithm that they don't really understand

sperând că un algoritm pe care nu-l înțeleg pe deplin

will give them money for it

îi va îmbogăți,

suggests that this probably isn't the thing

sugerează că, probabil, nu pe așa ceva

that we should be basing our society and culture upon,

ar trebui să bazăm societatea și cultura,

and the way in which we should be funding it.

și că nu așa ar trebui s-o finanțăm.

And the other thing that's kind of the major driver of this is automation,

Cealaltă cauză majoră a acestui proces e automatismul,

which is the deployment of all of this technology

adică utilizarea acestei tehnologii

as soon as it arrives, without any kind of oversight,

de îndată ce apare, fără nicio omisiune,

and then once it's out there,

și, odată ce e lansată,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

ne aruncăm mâinile în aer zicând: „Nu noi suntem de vină, ci tehnologia.”

Like, "We're not involved in it."

Adică „Noi nu suntem implicați.”

That's not really good enough,

Asta nu e de ajuns,

because this stuff isn't just algorithmically governed,

căci toate acestea nu sunt doar guvernate de algoritmi,

it's also algorithmically policed.

ci și controlate de algoritmi.

When YouTube first started to pay attention to this,

Când YouTube a început să acorde atenție acestui aspect,

the first thing they said they'd do about it

primul lucru pe care au zis că-l vor face

was that they'd deploy better machine learning algorithms

a fost să aplice algoritmi de învățare automată mai buni

to moderate the content.

ca să controleze conținutul.

Well, machine learning, as any expert in it will tell you,

Ei bine, așa cum v-ar spune orice expert, învățarea automată

is basically what we've started to call

este ceea ce generic numim

software that we don't really understand how it works.

program software pe care nu-l înțelegem pe deplin.

And I think we have enough of that already.

Și cred că avem deja destule.

We shouldn't be leaving this stuff up to AI to decide

N-ar trebui să lăsăm IA să decidă

what's appropriate or not,

ce e potrivit și ce nu,

because we know what happens.

pentru că știm ce se întâmplă.

It'll start censoring other things.

Va cenzura alte lucruri.

It'll start censoring queer content.

Va cenzura conținut suspicios.

It'll start censoring legitimate public speech.

Va cenzura discursuri publice bune.

What's allowed in these discourses,

Ceea ce e permis în aceste discursuri

it shouldn't be something that's left up to unaccountable systems.

n-ar trebui să fie decis de sisteme arbitrare.

It's part of a discussion all of us should be having.

Face parte dintr-o discuție pe care ar trebui să o avem cu toții.

But I'd leave a reminder

Dar aș lăsa drept memento

that the alternative isn't very pleasant, either.

faptul că nici alternativa nu este mai plăcută.

YouTube also announced recently

YouTube a mai anunțat recent

that they're going to release a version of their kids' app

că va lansa o versiune a aplicației pentru copii

that would be entirely moderated by humans.

ce este moderată în întregime de oameni.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebook - Zuckerberg a spus cam același lucru la Congres,

when pressed about how they were going to moderate their stuff.

întrebat insistent cum își vor modera conținutul.

He said they'd have humans doing it.

A zis că oamenii vor rezolva asta.

And what that really means is,

Asta înseamnă, de fapt,

instead of having toddlers being the first person to see this stuff,

nu copiii vor fi primii care vor vedea materialele,

you're going to have underpaid, precarious contract workers

ci niște angajați prost plătiți, cu un contract precar,

without proper mental health support

fără pregătire psihologică potrivită

being damaged by it as well.

care vor avea și ei de suferit.

(Laughter)

(Râsete)

And I think we can all do quite a lot better than that.

Eu cred că putem mai mult.

(Applause)

(Aplauze)

The thought, I think, that brings those two things together, really, for me,

Consider că ceea ce poate reuni aceste două lucruri

is agency.

este implicarea.

It's like, how much do we really understand -- by agency, I mean:

Anume, cât de mult înțelegem cu adevărat - prin implicare, mă refer

how we know how to act in our own best interests.

la cum știm ce să facem pentru a acționa în interesul nostru.

Which -- it's almost impossible to do

Ceea ce e aproape imposibil de făcut

in these systems that we don't really fully understand.

în aceste sisteme pe care nu le înțelegem pe deplin.

Inequality of power always leads to violence.

Disproporția de putere întotdeauna generează violență.

And we can see inside these systems

Și în interiorul acestor sisteme,

that inequality of understanding does the same thing.

înțelegerea inegală duce la același lucru.

If there's one thing that we can do to start to improve these systems,

Dacă e să putem face ceva pentru a îmbunătăți aceste sisteme,

it's to make them more legible to the people who use them,

e să le facem mai accesibile celor care le utilizează,

so that all of us have a common understanding

astfel încât noi toți să putem înțelege

of what's actually going on here.

ce se întâmplă cu adevărat.

The thing, though, I think most about these systems

Problema cu aceste sisteme nu e, de fapt,

is that this isn't, as I hope I've explained, really about YouTube.

așa cum sper că am reușit să explic, legată doar de YouTube.

It's about everything.

E legată de totul din jur.

These issues of accountability and agency,

Chestiunile legate de responsabilitate și implicare,

of opacity and complexity,

de transparență și complexitate,

of the violence and exploitation that inherently results

de violență și exploatare, ce rezultă, în mod inevitabil,

from the concentration of power in a few hands --

din comasarea puterii în doar câteva mâini --

these are much, much larger issues.

sunt niște chestiuni mult, mult mai ample.

And they're issues not just of YouTube and not just of technology in general,

Nu sunt chestiuni legate doar de YouTube sau de tehnologie, în general,

and they're not even new.

și nici măcar nu sunt noi.

They've been with us for ages.

Ne preocupă de mult timp.

But we finally built this system, this global system, the internet,

Doar că am construit acest sistem global, care este internetul,

that's actually showing them to us in this extraordinary way,

care acum ni le pune în fața ochilor într-un mod extraordinar,

making them undeniable.

făcându-le parte din realitate.

Technology has this extraordinary capacity

Tehnologia are această capacitate fabuloasă

to both instantiate and continue

de a scoate la lumină și a exploata

all of our most extraordinary, often hidden desires and biases

cele mai grozave, adesea ascunse, dorințe și prejudecăți ale noastre

and encoding them into the world,

și de a le „exprima” în lume,

but it also writes them down so that we can see them,

dar și de a le scrie, astfel încât să le vedem,

so that we can't pretend they don't exist anymore.

să nu mai putem pretinde că ele nu mai există.

We need to stop thinking about technology as a solution to all of our problems,

Trebuie să încetăm să mai credem că soluția la probleme este tehnologia

but think of it as a guide to what those problems actually are,

și să o considerăm, mai degrabă, un ghid pentru ceea ce reprezintă ele,

so we can start thinking about them properly

pentru a ne putea concentra asupra lor

and start to address them.

și pentru a începe să le rezolvăm.

Thank you very much.

Vă mulțumesc foarte mult.

(Applause)

(Aplauze)

Thank you.

Mulțumesc.

(Applause)

(Aplauze)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: James, îți mulțumesc că ai venit și ne-ai vorbit.

So it's interesting:

Așadar, e interesant:

when you think about the films where the robotic overlords take over,

dacă ne gândim la filmele în care roboții supremi preiau controlul,

it's all a bit more glamorous than what you're describing.

pare mai fermecător decât ce ne descrii.

But I wonder -- in those films, you have the resistance mounting.

Dar, mă întreb: în acele filme, există o luptă pentru supremație.

Is there a resistance mounting towards this stuff?

Întâlnim așa ceva și în cazul materialelor în discuție?

Do you see any positive signs, green shoots of resistance?

Vezi vreun semn pozitiv, vreo tendință de rezistență?

James Bridle: I don't know about direct resistance,

James Bridle: Nu știu ce să zic legat de rezistență,

because I think this stuff is super long-term.

consider că e o chestiune pe termen foarte lung.

I think it's baked into culture in really deep ways.

Cred că e foarte adânc imprimată în cultură.

A friend of mine, Eleanor Saitta, always says

O prietenă, Eleanor Saitta, zice mereu

that any technological problems of sufficient scale and scope

că orice probleme tehnologice cu destulă greutate și scop

are political problems first of all.

sunt, înainte de toate, probleme politice.

So all of these things we're working to address within this

Așa că, toate aceste chestiuni pe care vrem să le rezolvăm

are not going to be addressed just by building the technology better,

nu se vor putea rezolva doar concepând o tehnologie mai bună,

but actually by changing the society that's producing these technologies.

ci prin schimbarea societății care o produce.

So no, right now, I think we've got a hell of a long way to go.

Deci nu, acum cred că încă mai avem un drum al naibii de lung.

But as I said, I think by unpacking them,

Dar, cred că dacă defalcăm problemele,

by explaining them, by talking about them super honestly,

dacă vorbim despre ele cu toată sinceritatea,

we can actually start to at least begin that process.

putem măcar să începem procesul de schimbare.

HW: And so when you talk about legibility and digital literacy,

HW: Când vorbești despre accesibilitate și cultură digitală,

I find it difficult to imagine

mi-e greu să-mi imaginez

that we need to place the burden of digital literacy on users themselves.

că trebuie să punem povara culturalizării digitale în sarcina utilizatorului.

But whose responsibility is education in this new world?

Dar a cui este responsabilitatea educației în această lume nouă?

JB: Again, I think this responsibility is kind of up to all of us,

JB: O spun din nou, responsabilitatea ne cam aparține nouă, tuturor,

that everything we do, everything we build, everything we make,

căci tot ceea ce facem, tot ce construim, tot ceea ce creăm,

needs to be made in a consensual discussion

trebuie să fie făcut într-o discuție consensuală

with everyone who's avoiding it;

cu toți cei care o evită;

that we're not building systems intended to trick and surprise people

că nu construim sisteme ce urmăresc să înșele, să păcălească oamenii

into doing the right thing,

să facă ce e bine.

but that they're actually involved in every step in educating them,

ci să se implice în fiecare pas al educației lor,

because each of these systems is educational.

căci fiecare dintre aceste sisteme e educativ.

That's what I'm hopeful about, about even this really grim stuff,

Asta e ceea ce sper, sper că și aceste aspecte sinistre,

that if you can take it and look at it properly,

dacă sunt privite corespunzător,

it's actually in itself a piece of education

pot constitui forme de educație

that allows you to start seeing how complex systems come together and work

care să ne permită să vedem cât de complexe sunt sistemele în lucru

and maybe be able to apply that knowledge elsewhere in the world.

și să utilizăm cunoștințele dobândite oriunde altundeva în lume.

HW: James, it's such an important discussion,

HW: James, e o discuție foarte importantă

and I know many people here are really open and prepared to have it,

și știu că mulți din cei prezenți sunt deschiși și pregătiți,

îți mulțumim pentru că ai „deschis” ziua.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

JB: Mulțumesc mult. Noroc.

(Applause)

(Aplauze)