The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Fordító: Andi Vida Lektor: Zsuzsanna Lőrincz

I'm James.

James vagyok.

I'm a writer and artist,

Író és művész,

and I make work about technology.

a technológiát dolgozom fel.

I do things like draw life-size outlines of military drones

Például életnagyságú vázlatokat rajzolok katonai drónokról

in city streets around the world,

a világ városainak utcáin,

so that people can start to think and get their heads around

így az emberek gondolkozni kezdenek, és felfigyelnek ezekre

these really quite hard-to-see and hard-to-think-about technologies.

a tényleg alig látható, nehezen értelmezhető technológiákra.

I make things like neural networks that predict the results of elections

Ideghálózathoz hasonló alkotásaim választási eredményeket jósolnak

based on weather reports,

időjárási adatok alapján,

because I'm intrigued about

ugyanis szörnyen izgatnak

what the actual possibilities of these weird new technologies are.

ezeknek a furcsa, új technológiáknak az aktuális lehetőségei.

Last year, I built my own self-driving car.

Tavaly önjáró autót építettem.

But because I don't really trust technology,

De mivel nem igazán bízom a technológiában,

I also designed a trap for it.

csapdát is terveztem köré.

(Laughter)

(Nevetés)

And I do these things mostly because I find them completely fascinating,

Leginkább azért alkotok ilyeneket, mert annyira elbűvölnek,

but also because I think when we talk about technology,

de azért is, mert szerintem ha technológiáról szólunk,

we're largely talking about ourselves

az leginkább magunkról

and the way that we understand the world.

és világértelmezésünkről szól.

So here's a story about technology.

Mesélek valamit a technológiáról.

This is a "surprise egg" video.

Ez egy "Kinder-tojásos" videó.

It's basically a video of someone opening up loads of chocolate eggs

Az a lényege, hogy valaki sorra nyitogat egy rakás csokitojást,

and showing the toys inside to the viewer.

és megmutatja a nézőnek a benne rejlő játékokat.

That's it. That's all it does for seven long minutes.

Ennyi. Hét keserves percen át.

And I want you to notice two things about this.

Hadd hívjam fel a figyelmüket két dologra.

First of all, this video has 30 million views.

Először is, ezt a videót már harmincmillióan látták.

(Laughter)

(Nevetés)

And the other thing is,

Másodszor is

it comes from a channel that has 6.3 million subscribers,

olyan csatornán megy, amire 6,3 millióan iratkoztak fel,

that has a total of eight billion views,

ez összesen nyolcmilliárdos nézettség,

and it's all just more videos like this --

és vannak még ilyen videók –

30 million people watching a guy opening up these eggs.

harmincmillió ember néz egy fickót, aki nyitogatja ezeket a tojásokat.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Furán hangzik, de ha rákeresnek a YouTube-on a "surprise eggs"-re,

it'll tell you there's 10 million of these videos,

tízmillió meglepetéstojásos videót fognak találni,

and I think that's an undercount.

és azt hiszem, alábecsülöm.

I think there's way, way more of these.

Szerintem jóval több is annál.

If you keep searching, they're endless.

Ha tovább keresnek, végtelen számút találnak.

There's millions and millions of these videos

Millió és millió ilyen videó,

in increasingly baroque combinations of brands and materials,

márkák és anyagok egyre cifrább kombinációival,

and there's more and more of them being uploaded every single day.

naponta egyre többet és többet töltenek fel.

Like, this is a strange world. Right?

Valahogy furcsa világ ez, nem?

But the thing is, it's not adults who are watching these videos.

Csak az a gond, hogy nem felnőttek nézik ezeket a videókat,

It's kids, small children.

hanem gyerekek, kicsi gyerekek.

These videos are like crack for little kids.

Ezek a videók szinte beszippantják a kisgyerekeket.

There's something about the repetition,

Az ismétlés a lényegük,

the constant little dopamine hit of the reveal,

a felfedezés örömének állandó kis dopaminlökete,

that completely hooks them in.

ami teljesen a hatalmába keríti őket.

And little kids watch these videos over and over and over again,

A kicsik újra meg újra, vég nélkül nézegetik ezeket,

and they do it for hours and hours and hours.

órákig, és még tovább, és még tovább.

And if you try and take the screen away from them,

Ha megpróbálják elvonszolni őket a képernyő elől,

they'll scream and scream and scream.

akkor sikítanak, sírnak, ordítanak.

If you don't believe me --

Ha nem hisznek nekem –

and I've already seen people in the audience nodding --

és már látom, van, aki bólogat –

if you don't believe me, find someone with small children and ask them,

ha nem hisznek nekem, kérdezzenek bárkit, akinek kisgyereke van,

and they'll know about the surprise egg videos.

ismerni fogja a Kinder-tojásos videókat.

So this is where we start.

Ez hát a kiindulópontunk.

It's 2018, and someone, or lots of people,

2018-at írunk, és valakik, vagy sokan

are using the same mechanism that, like, Facebook and Instagram are using

ugyanazt a mechanizmust alkalmazzák, amit a Facebook, az Instagram használ,

to get you to keep checking that app,

ez arra késztet, hogy folyton ránézzünk az alkalmazásra,

and they're using it on YouTube to hack the brains of very small children

ezzel a módszerrel a YouTube-on meghekkelik a kisgyerekek agyát,

in return for advertising revenue.

a reklámbevételért cserébe.

At least, I hope that's what they're doing.

Legalábbis remélem, hogy ezt teszik.

I hope that's what they're doing it for,

És remélem, hogy ezért teszik,

because there's easier ways of making ad revenue on YouTube.

ugyanis könnyebb módszerekkel is lehet reklámbevételhez jutni a YouTube-on.

You can just make stuff up or steal stuff.

Csak videót kell feltölteni, vagy másét ellopni.

So if you search for really popular kids' cartoons

Ha tényleg valami népszerű gyerekrajzfilmet keresünk,

like "Peppa Pig" or "Paw Patrol,"

mondjuk, a Peppa malacot vagy a Mancs őrjáratot,

you'll find there's millions and millions of these online as well.

több millió online példányban megtalálhatjuk ezeket.

Of course, most of them aren't posted by the original content creators.

Persze ezek legtöbbjét nem az eredeti alkotók töltötték fel.

They come from loads and loads of different random accounts,

Mindenféle összevissza címekről áradnak tonnaszámra,

and it's impossible to know who's posting them

lehetetlen átlátni, ki tölti fel ezeket,

or what their motives might be.

vagy milyen indíttatásból.

Does that sound kind of familiar?

Ismerősen cseng?

Because it's exactly the same mechanism

Persze, mert pontosan ugyanúgy működik,

that's happening across most of our digital services,

mint a legtöbb digitális szolgáltatásnál,

where it's impossible to know where this information is coming from.

ahol szintén nem tudható, honnan ered az információ.

It's basically fake news for kids,

Alapból gyerekeknek szóló átverés,

and we're training them from birth

születésüktől kezdve arra szoktatjuk őket,

to click on the very first link that comes along,

hogy rákattintsanak az első eléjük kerülő linkre,

regardless of what the source is.

mindegy, mi a forrása.

That's doesn't seem like a terribly good idea.

Nem tűnik túl jó ötletnek.

Here's another thing that's really big on kids' YouTube.

Vagy a másik, ami igazán népszerű a gyerekek YouTube-ján:

This is called the "Finger Family Song."

az Ujj-család gyerekdalok.

I just heard someone groan in the audience.

Hallom, valaki felnyögött önök közül.

This is the "Finger Family Song."

Ez az Ujj-család dala.

This is the very first one I could find.

Az első, amit találtam.

It's from 2007, and it only has 200,000 views,

2007-es, és csak kétszázezren látták,

which is, like, nothing in this game.

ami ma már semmit nem ér.

But it has this insanely earwormy tune,

De valami őrületesen fülsértő a dallama,

which I'm not going to play to you,

nem is játszom le önöknek,

because it will sear itself into your brain

mert beleégne az agyukba,

in the same way that it seared itself into mine,

ahogyan az enyémbe is beleégett,

and I'm not going to do that to you.

így ettől megkímélném önöket.

But like the surprise eggs,

De akárcsak a meglepetéstojások,

it's got inside kids' heads

befészkeli magát a gyerekek fejébe,

and addicted them to it.

és függővé teszi őket.

So within a few years, these finger family videos

Néhány éven belül ezek az Ujj-családos videók

start appearing everywhere,

számos nyelvre lefordítva

and you get versions in different languages

mindent elárasztanak,

with popular kids' cartoons using food

olyan közkedvelt rajzfilmek társaságában,

or, frankly, using whatever kind of animation elements

amik ételt vagy bármi más animációs elemet vetnek be.

you seem to have lying around.

Mindenütt elénk bukkannak.

And once again, there are millions and millions and millions of these videos

Ismétlem: millió és millió és millió ilyen videó érhető el online,

available online in all of these kind of insane combinations.

a fenti eszement kombinációk bármelyik formájában.

And the more time you start to spend with them,

És minél több időt töltünk velük,

the crazier and crazier you start to feel that you might be.

annál őrültebben vágyunk még többre és többre.

And that's where I kind of launched into this,

Itt éreztem először valami erőteljes furcsaságot

that feeling of deep strangeness and deep lack of understanding

és a megértés kínzó hiányát

of how this thing was constructed that seems to be presented around me.

arról, hogyan épül fel ez az egész, ami körülöttem megjelent.

Because it's impossible to know where these things are coming from.

Azt ugyanis lehetetlen kideríteni, honnan ered mindez.

Like, who is making them?

És ki hozza létre ezeket?

Some of them appear to be made of teams of professional animators.

Némelyikről úgy tűnik, profi szerkesztők alkotása.

Some of them are just randomly assembled by software.

Van köztük, amit szoftver rak össze véletlenszerűen.

Some of them are quite wholesome-looking young kids' entertainers.

Olyan is akad, ami egész jónak tűnik a gyerekek mulattatására.

And some of them are from people

De akadnak olyanok is,

who really clearly shouldn't be around children at all.

amiknek alkotóit a gyerekek közelébe sem lenne szabad engedni.

(Laughter)

(Nevetés)

And once again, this impossibility of figuring out who's making this stuff --

Hangsúlyozom, lehetetlen beazonosítani az alkotóikat –

like, this is a bot?

adatgyűjtő robotok?

Is this a person? Is this a troll?

Élő emberek? Trollok?

What does it mean that we can't tell the difference

Mit jelent, ha többé nem tudjuk megkülönböztetni

between these things anymore?

a fentieket?

And again, doesn't that uncertainty feel kind of familiar right now?

Ismétlem: ez a bizonytalanság máris ismerős helyzet, igaz?

So the main way people get views on their videos --

A nézettség fő csalogató eszköze az –

and remember, views mean money --

és tudjuk, a nézettség pénzt hoz –,

is that they stuff the titles of these videos with these popular terms.

ha a videók címét teleszórják ezekkel a közkedvelt szavakkal.

So you take, like, "surprise eggs"

Vegyük mondjuk a meglepetéstojást,

and then you add "Paw Patrol," "Easter egg,"

tegyük mellé, hogy Mancs őrjárat, hímes tojás,

or whatever these things are,

vagy bármi ezekhez hasonló,

all of these words from other popular videos into your title,

más népszerű videókból lopjunk magunknak címszavakat,

until you end up with this kind of meaningless mash of language

végül összeáll ez a zagyvaság,

that doesn't make sense to humans at all.

aminek az égvilágon semmi értelme nincs.

Because of course it's only really tiny kids who are watching your video,

Mert természetesen csak a kisgyerekek nézik ezeket a videókat,

and what the hell do they know?

és mi a csudát értenek belőlük?

Your real audience for this stuff is software.

Az igazi néző egy szoftver.

It's the algorithms.

Algoritmusokból áll.

It's the software that YouTube uses

Az a szoftver, amivel a YouTube

to select which videos are like other videos,

kiválogatja a hasonló videókat,

to make them popular, to make them recommended.

így népszerűsíti őket, így állít össze ajánlólistát.

And that's why you end up with this kind of completely meaningless mash,

Ezért kapjuk végül ezt a teljesen értelmetlen zagyvaságot

both of title and of content.

címek és tartalmak terén egyaránt.

But the thing is, you have to remember,

Azt azonban ne felejtsük el,

there really are still people within this algorithmically optimized system,

hogy az algoritmusokkal optimalizált rendszerben még mindig ott az ember,

people who are kind of increasingly forced to act out

aki egyre inkább arra kényszerül,

these increasingly bizarre combinations of words,

hogy egyre bizarrabb kifejezéseket találjon ki,

like a desperate improvisation artist responding to the combined screams

mint egy rémült rögtönző színész, aki egyszerre millió bölcsis

of a million toddlers at once.

együttes sikítására válaszol.

There are real people trapped within these systems,

Valódi hús-vér emberek estek e rendszerek csapdájába,

and that's the other deeply strange thing about this algorithmically driven culture,

és ez a másik igen furcsa jelenség az algoritmusok vezérelte kultúrában,

because even if you're human,

mert bár emberek vagyunk,

you have to end up behaving like a machine

úgy kell tennünk, mintha gépek lennénk,

just to survive.

csak így lehetünk túlélők.

And also, on the other side of the screen,

A képernyő túlsó felén

there still are these little kids watching this stuff,

még mindig nézik a kisgyerekek ezeket a rémségeket,

stuck, their full attention grabbed by these weird mechanisms.

tátott szájjal, teljes figyelmüket átadva ezeknek az ijesztő mechanizmusoknak.

And most of these kids are too small to even use a website.

Legtöbbjük még ahhoz is kicsi, hogy website-ot kezeljen.

They're just kind of hammering on the screen with their little hands.

Még csak ütögetik a képernyőt csöpp kezükkel.

And so there's autoplay,

Magától megy a műsor,

where it just keeps playing these videos over and over and over in a loop,

végtelenítve játssza a videókat, megállás nélkül,

endlessly for hours and hours at a time.

órákon és órákon át.

And there's so much weirdness in the system now

Annyi ijesztő elem van már a rendszerben,

that autoplay takes you to some pretty strange places.

hogy az autoplay egészen furcsa helyekre repíti a nézőt.

This is how, within a dozen steps,

Egy számoló vonat cuki videójától

you can go from a cute video of a counting train

alig egy tucat lépésen belül

to masturbating Mickey Mouse.

eljuthatunk a maszturbáló Miki egérig.

Yeah. I'm sorry about that.

Sajnálom, de így van.

This does get worse.

És mondok még rosszabbat.

This is what happens

Pontosan ez történik,

when all of these different keywords,

amikor az összes ilyen kulcsszó,

all these different pieces of attention,

az összes különféle figyelemmorzsa,

this desperate generation of content,

ez a kétségbeejtő generált tartalom

all comes together into a single place.

mind egyetlen helyen gyűlik össze.

This is where all those deeply weird keywords come home to roost.

Itt válik az összes furcsa kulcsszó hirtelen az ellenségünkké.

You cross-breed the finger family video

A családi ujj-videók keresztezése

with some live-action superhero stuff,

némi akciós szuperhősös témával,

you add in some weird, trollish in-jokes or something,

hozzá még valami rémes, bennfentes trollos tréfa vagy efféle,

and suddenly, you come to a very weird place indeed.

és egyszer csak tényleg valami borzasztó helyen találjuk magunkat.

The stuff that tends to upset parents

Az, ami aggodalomra készteti a szülőket,

is the stuff that has kind of violent or sexual content, right?

az az erőszakos vagy szexuális tartalom, ugye?

Children's cartoons getting assaulted,

A gyerekrajzfilmek hőseit megtámadják,

getting killed,

megölik,

weird pranks that actually genuinely terrify children.

ijesztő csínyek, amik lényegében megrémítik a gyerekeket.

What you have is software pulling in all of these different influences

Van egy program, ami egybegyűjti ezt a sokféle hatást,

hogy automatikusan valóra váltsa a kicsik legszörnyűbb rémálmait.

to automatically generate kids' worst nightmares.

And this stuff really, really does affect small children.

És ezek a videók tényleg, tényleg hatnak a kicsi gyerekekre.

Parents report their children being traumatized,

Szülők mesélik, hogy gyerekeik traumát élnek át,

becoming afraid of the dark,

félnek a sötétben,

becoming afraid of their favorite cartoon characters.

rettegnek kedvenc rajzfilmhőseiktől.

If you take one thing away from this, it's that if you have small children,

Ha ma csak egyetlen tanulságot vonnak le, az legyen az, ha van kisgyerekük:

keep them the hell away from YouTube.

tartsák őket jó messze a YouTube-tól!

(Applause)

(Taps)

But the other thing, the thing that really gets to me about this,

A másik viszont, ami erről eszembe jut,

is that I'm not sure we even really understand how we got to this point.

hogy nem vagyok biztos benne: tudjuk-e, hogyan jutottunk idáig.

We've taken all of this influence, all of these things,

Fogtuk ezeket a hatásokat mind, az előbb felsoroltakat,

and munged them together in a way that no one really intended.

és valahogy akaratunk ellenére összecsócsáltuk őket.

And yet, this is also the way that we're building the entire world.

Így építjük fel az egész világot.

We're taking all of this data,

Fogjuk ezeket az adatokat,

a lot of it bad data,

rengeteg rossz adatot,

a lot of historical data full of prejudice,

rengeteg elavult adatot, tele előítéletekkel,

full of all of our worst impulses of history,

tele legrosszabb történelmi impulzusainkkal,

and we're building that into huge data sets

és óriási adatkészletet építünk belőle,

and then we're automating it.

aztán automatizáljuk.

And we're munging it together into things like credit reports,

Hiteljelentésekké csócsáljuk őket,

into insurance premiums,

biztosítási díjakká,

into things like predictive policing systems,

politikai előrejelző rendszerekké,

into sentencing guidelines.

ítélkezési iránymutatásokká.

This is the way we're actually constructing the world today

Így építjük ma a világot

out of this data.

az adathegyekből.

And I don't know what's worse,

És nem tudom, mi rosszabb,

that we built a system that seems to be entirely optimized

hogy olyan rendszert építettünk, amit teljes egészében

for the absolute worst aspects of human behavior,

az emberi viselkedés legrosszabb oldalára hegyeztek ki,

or that we seem to have done it by accident,

vagy az, hogy úgy néz ki: véletlenül alakult így,

without even realizing that we were doing it,

anélkül, hogy tudnánk, mit teszünk,

because we didn't really understand the systems that we were building,

hiszen valójában nem értettük meg a rendszereket, amiket építettünk,

and we didn't really understand how to do anything differently with it.

és azt sem, mit tegyünk másképpen.

There's a couple of things I think that really seem to be driving this

Úgy látom, sok minden kellett ahhoz, hogy mindezek

most fully on YouTube,

elárasszák a YouTube-ot,

and the first of those is advertising,

és az első a reklámozás,

which is the monetization of attention

ami a figyelem pénzre váltása anélkül,

without any real other variables at work,

hogy egyéb változók működésbe lépnének.

any care for the people who are actually developing this content,

Senkit nem érdekeltek azok, akik ezt a tartalmat fejlesztik,

the centralization of the power, the separation of those things.

a hatalom központosítása, a fenti dolgok szétválasztása.

And I think however you feel about the use of advertising

Szerintem bármit is gondoljanak a reklám alkalmazásáról,

to kind of support stuff,

mint egyfajta támogatásról,

the sight of grown men in diapers rolling around in the sand

a pelenkás, homokban hempergő felnőtt férfiak látványa,

in the hope that an algorithm that they don't really understand

abban a reményben, hogy egy számukra homályos algoritmus

will give them money for it

majd pénzt hoz nekik,

suggests that this probably isn't the thing

azt sugallja: ez valószínűleg alkalmatlan rá,

that we should be basing our society and culture upon,

hogy társadalmunkat és kultúránkat erre építsük,

and the way in which we should be funding it.

és arra is, hogy ily módon finanszírozzuk.

And the other thing that's kind of the major driver of this is automation,

A másik, ami ennek egyfajta fő hajtóereje, az automatizálás,

which is the deployment of all of this technology

az összes ilyen technológia terjesztése,

as soon as it arrives, without any kind of oversight,

amint megjelenik, bármiféle ellenőrzés nélkül,

and then once it's out there,

aztán, amikor forgalomba kerül,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

mintha mosnánk kezeinket, és úgy tennénk: "Nem a mi hibánk, a technológiáé!"

Like, "We're not involved in it."

Vagyis: "Semmi közünk hozzá."

That's not really good enough,

Ez nem igazán jó,

because this stuff isn't just algorithmically governed,

mert ezt az egészet nemcsak irányítják az algoritmusok,

it's also algorithmically policed.

hanem ellenőrzik is.

When YouTube first started to pay attention to this,

Amikor a YouTube először felfigyelt erre,

the first thing they said they'd do about it

kezdetben azt nyilatkozták,

was that they'd deploy better machine learning algorithms

a tartalom moderálására jobb gépi tanulási algoritmusokat

to moderate the content.

fognak alkalmazni.

Well, machine learning, as any expert in it will tell you,

Nos, a gépi tanulásról bármely szakértő elmondhatja önöknek,

is basically what we've started to call

olyan szoftvernek nevezhetjük,

software that we don't really understand how it works.

aminek a működését nem teljesen értjük.

And I think we have enough of that already.

És szerintem ilyenből már van épp elég.

We shouldn't be leaving this stuff up to AI to decide

Nem szabad hagynunk, hogy Mesterséges Intelligencia döntse el,

what's appropriate or not,

mi helyes, és mi nem,

because we know what happens.

mert tudjuk, mi fog történni.

It'll start censoring other things.

Más dolgokat fog cenzúrázni.

It'll start censoring queer content.

Cenzúrázni fogja a felnőtt-tartalmat.

It'll start censoring legitimate public speech.

A legitim nyilvános beszédeket.

What's allowed in these discourses,

Ami megengedett e diskurzusokban,

it shouldn't be something that's left up to unaccountable systems.

azt ne hagyjuk felelősségre nem vonható rendszerekre.

It's part of a discussion all of us should be having.

Ennek megbeszélésében mindannyiunknak részt kell venni.

But I'd leave a reminder

De hadd emlékeztessek rá:

that the alternative isn't very pleasant, either.

az alternatíva sem valami kellemes.

YouTube also announced recently

A YouTube nemrég azt is nyilatkozta,

that they're going to release a version of their kids' app

hogy gyerekbarát alkalmazást fognak kiadni,

that would be entirely moderated by humans.

amit teljes egészében emberek moderálnak majd.

Facebook -- Zuckerberg said much the same thing at Congress,

A Facebook – Zuckerberg nagyjából ugyanezt mondta a Kongresszus előtt,

when pressed about how they were going to moderate their stuff.

mikor arról faggatták, hogyan fogják moderálni a Facebook tartalmát.

He said they'd have humans doing it.

Azt mondta: embereket vesznek fel.

And what that really means is,

Ez pedig azt jelenti:

instead of having toddlers being the first person to see this stuff,

nem a kicsik látják majd először a videókat,

you're going to have underpaid, precarious contract workers

hanem alulfizetett, részmunkaidős alkalmazottak,

without proper mental health support

megfelelő mentális támogatás nélkül,

being damaged by it as well.

így ők maguk is megsérülnek.

(Laughter)

(Nevetés)

And I think we can all do quite a lot better than that.

Szerintem erre itt mind alkalmasabbak lennénk.

(Applause)

(Taps)

The thought, I think, that brings those two things together, really, for me,

Véleményem szerint ami összehozhatná a két dolgot,

is agency.

az a képviselet.

It's like, how much do we really understand -- by agency, I mean:

Hogy mit is értek ez alatt pontosan:

how we know how to act in our own best interests.

honnan tudjuk, mit tegyünk saját jól felfogott érdekünkben.

Which -- it's almost impossible to do

Amit – szinte lehetetlen megtenni

in these systems that we don't really fully understand.

ezekben a rendszerekben úgy, hogy nem teljesen értjük meg.

Inequality of power always leads to violence.

A hatalmi egyenlőtlenség mindig erőszakba torkollik.

And we can see inside these systems

Láthatjuk ezekben a rendszerekben,

that inequality of understanding does the same thing.

hogy a megértés egyenlőtlensége ugyanide vezet.

If there's one thing that we can do to start to improve these systems,

Ha tehetünk valamit azért, hogy tökéletesítsük e rendszereket,

it's to make them more legible to the people who use them,

az az, hogy érthetőbbé tesszük a felhasználók számára.

so that all of us have a common understanding

Mindannyiunknak egyaránt meg kell értenünk,

of what's actually going on here.

mi folyik itt valójában.

The thing, though, I think most about these systems

Habár azon töprengek legtöbbet e rendszerekkel kapcsolatban,

is that this isn't, as I hope I've explained, really about YouTube.

hogy ez valójában nem a YouTube-ról szól, remélem, sikerült világossá tennem.

It's about everything.

Mindenről szól.

These issues of accountability and agency,

Felelősségvállalás és képviselet kérdése,

of opacity and complexity,

a homályosságé és bonyolultságé,

of the violence and exploitation that inherently results

az erőszaké és kihasználásé, ami egyenes következménye annak,

from the concentration of power in a few hands --

hogy a hatalom alig néhány kézben összpontosul –

these are much, much larger issues.

ezek nagyon-nagyon súlyos kérdések.

And they're issues not just of YouTube and not just of technology in general,

Nem csak a YouTube-ról szólnak, és nem csak általában a technológiáról,

and they're not even new.

nem is új keletűek.

They've been with us for ages.

Évszázadok óta életünk részei.

But we finally built this system, this global system, the internet,

De végül kiépítettük ezt a rendszert, ezt a globális rendszert, az internetet,

that's actually showing them to us in this extraordinary way,

ami ma ilyen szokatlan módon szembesít velük,

making them undeniable.

már nem tagadhatjuk el.

Technology has this extraordinary capacity

A technológiában megvan az a rendkívüli képesség,

to both instantiate and continue

hogy példázza és folytassa

all of our most extraordinary, often hidden desires and biases

az összes különös, gyakran rejtett vágyainkat és torzulásainkat,

and encoding them into the world,

felszínre hozza,

but it also writes them down so that we can see them,

de le is írja, így láthatjuk ezeket,

so that we can't pretend they don't exist anymore.

többé már nem tehetünk úgy, mintha nem léteznének.

We need to stop thinking about technology as a solution to all of our problems,

Többé ne úgy gondoljunk a technológiára, mint minden problémánk megoldására,

but think of it as a guide to what those problems actually are,

hanem mint útmutatóra,

so we can start thinking about them properly

így helyesen kezdhetünk róla gondolkodni,

and start to address them.

és elkezdhetünk beszélni róla.

Thank you very much.

Nagyon köszönöm.

(Applause)

(Taps)

Thank you.

Köszönöm.

(Applause)

(Taps)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: Köszönöm, James, hogy megtartottad ezt az előadást.

Olyan érdekes:

So it's interesting:

vegyük azokat a filmeket, amikben robotok jutnak hatalomra,

when you think about the films where the robotic overlords take over,

alig valamivel izgalmasabb, mint amit elmondtál.

it's all a bit more glamorous than what you're describing.

De azokban a filmekben látjuk a növekvő ellenállást.

But I wonder -- in those films, you have the resistance mounting.

Az általad említett dolgokkal szemben is van ilyen?

Is there a resistance mounting towards this stuff?

Látod bármi halvány pozitív jelét valami ellenállásnak?

Do you see any positive signs, green shoots of resistance?

Bridle: Közvetlen ellenállásról nem tudok,

James Bridle: I don't know about direct resistance,

mert szerintem ez a jelenség abszolút hosszú távú.

because I think this stuff is super long-term.

Úgy vélem, nagyon mélyen beégett a kultúránkba.

I think it's baked into culture in really deep ways.

Egy barátom, Eleanor Saitta szokta mondogatni:

A friend of mine, Eleanor Saitta, always says

a jelentősebb nagyságrendű és hatókörű technológiai problémák

that any technological problems of sufficient scale and scope

alapvetően mindig politikai jellegűek.

are political problems first of all.

Ha tehát e problémák megoldásán dolgozunk,

So all of these things we're working to address within this

nem elég a technológia tökéletesítését kitűzni célul,

are not going to be addressed just by building the technology better,

a társadalmat kell megváltoztatni, amelyik ezeket előállítja.

but actually by changing the society that's producing these technologies.

Úgyhogy nem, jelenleg úgy vélem: irgalmatlan hosszú út áll még előttünk.

So no, right now, I think we've got a hell of a long way to go.

De mint mondtam, azzal, hogy feltárjuk,

But as I said, I think by unpacking them,

elmagyarázzuk, teljesen nyíltan beszélünk róla,

by explaining them, by talking about them super honestly,

máris megtettük legalább az első lépéseket.

we can actually start to at least begin that process.

HW: Mikor az olvashatóságról és digitális írástudásról beszéltél,

HW: And so when you talk about legibility and digital literacy,

nehezemre esett elképzelni,

hogy ennek terhét egyenesen a felhasználók nyakába kell varrnunk.

I find it difficult to imagine

that we need to place the burden of digital literacy on users themselves.

Kinek a felelőssége az oktatás ebben az új világban?

But whose responsibility is education in this new world?

JB: Ismétlem, ez a felelősség mindannyiunké egyaránt,

JB: Again, I think this responsibility is kind of up to all of us,

minden, amit teszünk, építünk, amit alkotunk,

that everything we do, everything we build, everything we make,

egyetértés kialakításán kell, hogy alapuljon,

needs to be made in a consensual discussion

mindenkit bevonva, aki ki akarja kerülni;

ne építsünk olyan rendszereket, melyek megtévesztők, vagy megzavarnak abban,

with everyone who's avoiding it;

that we're not building systems intended to trick and surprise people

hogy a megfelelő dolgot tegyük,

into doing the right thing,

viszont oktatásuk minden lépésébe vonjuk be őket,

but that they're actually involved in every step in educating them,

mert e rendszerek mindegyike oktatási eszköz.

because each of these systems is educational.

Ezért vagyok bizakodó, annak dacára, hogy ez tényleg ijesztő jelenség,

That's what I'm hopeful about, about even this really grim stuff,

de ha úgy bánunk vele, és úgy tekintünk rá, ahogy kell,

that if you can take it and look at it properly,

az már önmagában is egy kis oktatás,

it's actually in itself a piece of education

ami segít, hogy rálássunk: milyen bonyolult rendszerek működnek együtt,

that allows you to start seeing how complex systems come together and work

és talán képesek lesznek e tudás alkalmazására bárhol a világban.

and maybe be able to apply that knowledge elsewhere in the world.

HW: James, ez nagyon fontos beszélgetés,

HW: James, it's such an important discussion,

és tudom, itt sokan igazán nyitottak, felkészültek arra, hogy éljenek vele,

and I know many people here are really open and prepared to have it,

úgyhogy köszönöm a mai nyitó előadásodat.

so thanks for starting off our morning.

JB: Én köszönöm. Üdv mindenkinek!

JB: Thanks very much. Cheers.

(Taps)

(Applause)