The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Translator: Dijana Markoska Reviewer: Julia Kalaputi

I'm James.

Јас сум Џејмс.

I'm a writer and artist,

Јас сум писател и уметник

and I make work about technology.

и творам на тема технологија.

I do things like draw life-size outlines of military drones

На пример, цртам контури на воени дронови во реална големина

in city streets around the world,

над градските улици ширум светот,

so that people can start to think and get their heads around

со цел луѓето да почнат да размислуваат и да ги разберат

these really quite hard-to-see and hard-to-think-about technologies.

овие технологии кои навистина е тешко да се видат и да се сфатат.

I make things like neural networks that predict the results of elections

Изработувам, на пример,невронски мрежи кои предвидуваат резултати

based on weather reports,

врз основа на временска прогрноза,

because I'm intrigued about

бидејќи ме интересираат

what the actual possibilities of these weird new technologies are.

сите реаални можности кои ги нудат овие нови и чудни технологии.

Last year, I built my own self-driving car.

Лани си направив сопствен самовозечки автомобил.

But because I don't really trust technology,

Но бидејќи не ѝ верувам сосема на технологијата,

I also designed a trap for it.

креирав и стапица за неа.

(Laughter)

(смеа)

And I do these things mostly because I find them completely fascinating,

И ги правам овие работи, пред сѐ, затоа што сметам дека се чудесни

but also because I think when we talk about technology,

но исто така бидејќи, мислам, кога зборуваме за технологија,

we're largely talking about ourselves

во голема мера зборуваме за себе

and the way that we understand the world.

и за начинот на кој го разбираме светот.

So here's a story about technology.

Па, еве една приказна за технологијата.

This is a "surprise egg" video.

Ова е видео со „киндер јајца“.

It's basically a video of someone opening up loads of chocolate eggs

Во суштина тоа е видео во кое некој отвора еден куп чололадни јајца

and showing the toys inside to the viewer.

и ги покажува играчките кои ги наоѓа во нив.

That's it. That's all it does for seven long minutes.

Толку. Само тоа се случува цели долги седум минути.

And I want you to notice two things about this.

И сакам да забележите две работи во врска со тоа.

First of all, this video has 30 million views.

Прво, ова видео има 30 милиони прегледи.

(Laughter)

(смеа)

And the other thing is,

А втората работа е,

it comes from a channel that has 6.3 million subscribers,

доаѓа од канал кој има 6,3 милиони претплатници,

that has a total of eight billion views,

кој има вкупно 8 милијарди прегледи,

and it's all just more videos like this --

и тоа исти вакви видеа --

30 million people watching a guy opening up these eggs.

30 милиони луѓе кои гледаат како некој тип ги отвора овие јајца.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Звучи чудно, но ако пребарувате „киндер јајца" нa Јутјуб,

it'll tell you there's 10 million of these videos,

ќе видите дека постојат 10 милиони вакви видеа,

and I think that's an undercount.

во најмала рака.

I think there's way, way more of these.

Мислам дека има многу, многу повеќе.

If you keep searching, they're endless.

Ако продолжите да барате, им нема крај.

There's millions and millions of these videos

Има милиони вакви видеа,

in increasingly baroque combinations of brands and materials,

во сѐ побарокни комбинации на брендови и материјали,

and there's more and more of them being uploaded every single day.

и сѐ повеќе и повеќе од нив се прикачуваат секој ден.

Like, this is a strange world. Right?

Нели е ова чуден свет?

But the thing is, it's not adults who are watching these videos.

Но, не се возрасните тие кои што ги гледаат овие видеа.

It's kids, small children.

Тоа се децата, малите деца.

These videos are like crack for little kids.

Овие видеа се како дрога за малите деца.

There's something about the repetition,

Има нешто во тоа повторување,

the constant little dopamine hit of the reveal,

во постојаната доза на допамин при откривањето,

that completely hooks them in.

што целосно ги навлекува.

And little kids watch these videos over and over and over again,

И мaлите деца ги гледаат овие видеа пак и пак и пак,

and they do it for hours and hours and hours.

и го прават тоа со часови, и часови, и часови.

And if you try and take the screen away from them,

И ако се обидете да ги оттргнете од екранот,

they'll scream and scream and scream.

тие ќе вриштат и вриштат, и вриштат.

If you don't believe me --

Ако не ми верувате --

and I've already seen people in the audience nodding --

а забележав некои од вас во публиката дека климаат --

if you don't believe me, find someone with small children and ask them,

ако не ми верувате, најдете некои со мали деца и прашајте ги,

and they'll know about the surprise egg videos.

и тие ќе знаат за видеата со киндер јајца.

So this is where we start.

Па, тука започнуваме.

It's 2018, and someone, or lots of people,

2018 година е, некој, или многу луѓе,

are using the same mechanism that, like, Facebook and Instagram are using

го користат истиот механизам којшто го користат Фејсбук и Инстаграм

to get you to keep checking that app,

да ве наведат постојано да ги проверувате,

and they're using it on YouTube to hack the brains of very small children

и го применуваат на YouTube за да ги хакираат мозоците на многу мали деца

in return for advertising revenue.

со цел да остварат приходи од реклами.

At least, I hope that's what they're doing.

Барем, се надевам дека тоа го прават.

I hope that's what they're doing it for,

Се надевам дека заради тоа го прават,

because there's easier ways of making ad revenue on YouTube.

бидејќи има и полесни начини да се оствари приход од реклами на YouTube.

You can just make stuff up or steal stuff.

Можете и да измислувате работи, или да крадете.

So if you search for really popular kids' cartoons

Ако пребарувате навистина познати детски цртани:

like "Peppa Pig" or "Paw Patrol,"

"Прасето Пепа", "Патрола на Кутриња“,

you'll find there's millions and millions of these online as well.

ќе дознаете дека и нив ги има милиони и милиони на Интернет.

Of course, most of them aren't posted by the original content creators.

Секако, повеќето од нив не се објавени од нивните оригинални креатори

They come from loads and loads of different random accounts,

туку потекнуваат од многу различни, случајни канали,

and it's impossible to know who's posting them

и е невозможно да се знае кој ги објавува

or what their motives might be.

и со какви намери.

Does that sound kind of familiar?

Дали тоа ви звучи познато?

Because it's exactly the same mechanism

Затоа што тоа е токму истиот механизам

that's happening across most of our digital services,

кој го има на повеќето наши дигитални услуги,

where it's impossible to know where this information is coming from.

каде е невозможно да се знае од каде потекнува информацијата.

It's basically fake news for kids,

Тоа е во основа како "лажни вести" за деца,

and we're training them from birth

и ние ги тренираме од раѓање

to click on the very first link that comes along,

да кликнат на првиот линк кој ќе се појави,

regardless of what the source is.

без разлика од кој извор доаѓа.

That's doesn't seem like a terribly good idea.

Тоа не изгледа како многу добра идеја.

Here's another thing that's really big on kids' YouTube.

Еве уште едно нешто што е многу популарно на Јутјуб.

This is called the "Finger Family Song."

Се вика "Семејство Прсти“.

I just heard someone groan in the audience.

Некој штотуку офна во публиката.

This is the "Finger Family Song."

Песната за семејството прсти.

This is the very first one I could find.

Ова е токму првата што ја најдов.

It's from 2007, and it only has 200,000 views,

Потекнува од 2007 година и има само 200.000 прегледи,

which is, like, nothing in this game.

што е многу малку во споредба со други.

But it has this insanely earwormy tune,

Но, има ритам што ти се вовлекува во главата,

which I'm not going to play to you,

нема да ви ја пуштам,

because it will sear itself into your brain

зашто ќе ви остане запечатена во мозокот,

in the same way that it seared itself into mine,

исто како што ми се случи мене,

and I'm not going to do that to you.

и нема да ви го направам тоа вам.

But like the surprise eggs,

Но, како и киндер јајцата

it's got inside kids' heads

се вовлекува во главите на децата

and addicted them to it.

и ги направи зависни од неа.

So within a few years, these finger family videos

Така, за неколку години, видеата со семејството прсти

start appearing everywhere,

почна да ги има насекаде,

and you get versions in different languages

и имате верзии на различни јазици,

with popular kids' cartoons using food

каде познати цртани ликови користат храна

or, frankly, using whatever kind of animation elements

или, искрено, користат секакви елементи за анимација

you seem to have lying around.

што ќе им се најдат при рака.

And once again, there are millions and millions and millions of these videos

И уште еднаш, има милиони и милиони вакви видеа,

available online in all of these kind of insane combinations.

достапни на Интернет во сите овие налудничави комбинации.

And the more time you start to spend with them,

И колку повеќе време минувате со нив,

the crazier and crazier you start to feel that you might be.

толку повеќе ви се чини дека полудувате.

And that's where I kind of launched into this,

И така се впуштив во ова,

that feeling of deep strangeness and deep lack of understanding

со чувство на длабоко непознавање и неразбирање

of how this thing was constructed that seems to be presented around me.

за начинот како е конструирано ова околу мене.

Because it's impossible to know where these things are coming from.

Бидејќи е невозможно да се знае од каде потекнуваат овие работи.

Like, who is making them?

Кој ги прави?

Some of them appear to be made of teams of professional animators.

Некои се чини дека се направени од тимови професионални аниматори.

Some of them are just randomly assembled by software.

Некои се составени по случајност со помош на софтвер.

Some of them are quite wholesome-looking young kids' entertainers.

Некои се од пристојни аниматори на мали деца.

And some of them are from people

А некои се од луѓе кои очигледно

who really clearly shouldn't be around children at all.

воопшто не смеат да бидат во близина на деца.

(Laughter)

(смеа)

And once again, this impossibility of figuring out who's making this stuff --

Повторно, неможноста да се дознае кој ги изработува овие работи,

like, this is a bot?

дали е тоа робот?

Is this a person? Is this a troll?

Дали е личност? Дали е трол?

What does it mean that we can't tell the difference

Што значи тоа што повеќе не можеме да ги разликуваме

between these things anymore?

овие работи?

And again, doesn't that uncertainty feel kind of familiar right now?

Нели тоа чувство на несигурност ви е некако познато?

So the main way people get views on their videos --

Најчесто луѓето привлекуваат прегледи на нивните видеа,

and remember, views mean money --

и запомнете, прегледите значат пари

is that they stuff the titles of these videos with these popular terms.

така што ги полнат насловите на овие видеа со познати зборови.

So you take, like, "surprise eggs"

Пример, почнувате со „киндер јајца"

and then you add "Paw Patrol," "Easter egg,"

и додавате "Патрола на кутриња," "Велигденски јајца,"

or whatever these things are,

или што и да е,

all of these words from other popular videos into your title,

сите овие зборови од други популарни видеа,

until you end up with this kind of meaningless mash of language

додека не завршите со еден куп без јазично значење,

that doesn't make sense to humans at all.

без логика.

Because of course it's only really tiny kids who are watching your video,

Затоа што, се разбира, овие видеа ги гледаат мали деца,

and what the hell do they know?

а што разбираат тие?

Your real audience for this stuff is software.

Вашата вистинска публика за овие работи е софтверот.

It's the algorithms.

Алгоритмите.

It's the software that YouTube uses

Софтверот кој Јутјуб го користи

to select which videos are like other videos,

да одреди кои видеа се слични на други видеа,

to make them popular, to make them recommended.

да им ја подигне популарноста, да ги препорача.

And that's why you end up with this kind of completely meaningless mash,

И затоа завршувате со ваква комплетно безначајна мешавина

both of title and of content.

на наслови и на содржини.

But the thing is, you have to remember,

Но, мора да запомните

there really are still people within this algorithmically optimized system,

дека се`уште постои човечки фактор во овој систем на алгоритми,

people who are kind of increasingly forced to act out

луѓе кои сѐ повеќе се принудени да ги одиграат

these increasingly bizarre combinations of words,

овие сѐ побизарни комбинации на зборови,

like a desperate improvisation artist responding to the combined screams

како очајни импровизатори во одговор на здружените врисоци

of a million toddlers at once.

на милиони деца во исто време.

There are real people trapped within these systems,

Вистински луѓе се заробени во овие системи,

and that's the other deeply strange thing about this algorithmically driven culture,

и тоа е другата чудна работа во оваа култура водена од алгоритми,

because even if you're human,

затоа што, иако си човек,

you have to end up behaving like a machine

на крајот се однесуваш како машина,

just to survive.

само за да преживееш.

And also, on the other side of the screen,

Исто така, на другата страна на екранот

there still are these little kids watching this stuff,

се`уште се наоѓаат овие мали деца, кои ги гледаат овие работи,

stuck, their full attention grabbed by these weird mechanisms.

заглавени, нивното целосно внимание зграпчено од овие чудни механизми.

And most of these kids are too small to even use a website.

Повеќето од овие деца се премали за да користат вебстрани.

They're just kind of hammering on the screen with their little hands.

Само удираат со рачињата по екраните.

And so there's autoplay,

Па имаме автоматско пуштање

where it just keeps playing these videos over and over and over in a loop,

каде видеата се пуштаат пак и пак во круг,

endlessly for hours and hours at a time.

бескрајно, со часови и часови.

And there's so much weirdness in the system now

Системот стана толку чуден

that autoplay takes you to some pretty strange places.

што автоматското пуштање ве носи на прилично чудни места.

This is how, within a dozen steps,

Така, во десетина чекори,

you can go from a cute video of a counting train

можете да стигнете од слатко видео со воз со бројки,

to masturbating Mickey Mouse.

до Мики Маус кој мастурбира.

Yeah. I'm sorry about that.

Да. Жалам.

This does get worse.

А има и полошо.

This is what happens

Ова се случува

when all of these different keywords,

кога сите тие различни зборови за пребарување,

all these different pieces of attention,

сите тие делчиња за привлекување внимание,

this desperate generation of content,

цело ова очајничко креирање содржини,

all comes together into a single place.

ќе се соберат на едно место.

This is where all those deeply weird keywords come home to roost.

Ова е асолништето на сите тие многу чудни зборови.

You cross-breed the finger family video

Ќе вкрстите видео со семејството прсти

with some live-action superhero stuff,

со некои акциони суперхерои,

you add in some weird, trollish in-jokes or something,

ќе додадете некои чудни, тролски шеги и слично,

and suddenly, you come to a very weird place indeed.

и одеднаш, се наоѓате на навистина чудно место.

The stuff that tends to upset parents

Она што најчесто ги вознемирува родителите

is the stuff that has kind of violent or sexual content, right?

се материјалите со насилна и сексуална содржина, нели?

Children's cartoons getting assaulted,

Ликови од цртаните филмови биваат нападнати,

getting killed,

убиени,

weird pranks that actually genuinely terrify children.

чудни трикови кои навистина ги преплашуваат децата.

What you have is software pulling in all of these different influences

Софтверот ги избира сите овие различни влијанија

to automatically generate kids' worst nightmares.

со цел автматски да ги генерира најстрашните детски кошмари.

And this stuff really, really does affect small children.

А овие работи навистина многу влијаат врз децата.

Parents report their children being traumatized,

Родители пријавуваат дека децата им биле трауматизирани,

becoming afraid of the dark,

се плашат од темнината,

becoming afraid of their favorite cartoon characters.

се плашат од нивните омилени ликови од цртаните филмови.

If you take one thing away from this, it's that if you have small children,

Ако едно нешто научивме од ова, тоа е: ако имате мали деца

keep them the hell away from YouTube.

држете ги подалеку од Јутјуб!

(Applause)

(аплауз)

But the other thing, the thing that really gets to me about this,

Но, другото нешто, кое најмногу ме мачи,

is that I'm not sure we even really understand how we got to this point.

е помислата дека не ни знаеме како стигнавме дотука.

We've taken all of this influence, all of these things,

Ги зедовме сите овие влијанија сите овие работи,

and munged them together in a way that no one really intended.

и ги измешавме заедно на начин на кој никој не намераваше.

And yet, this is also the way that we're building the entire world.

А сепак, на истиот начин го градиме целиот свет.

We're taking all of this data,

Зборуваме за сите овие податоци,

a lot of it bad data,

голем дел од нив лоши,

a lot of historical data full of prejudice,

многу историски податоци, полни со предрасуди,

full of all of our worst impulses of history,

полни со нашите најлоши пориви во историјата,

and we're building that into huge data sets

и ги внесуваме во огромни датотеки

and then we're automating it.

и потоа ги автоматизираме.

And we're munging it together into things like credit reports,

Ги вметнуваме во кредитни извештаи,

into insurance premiums,

премии за осигурување,

into things like predictive policing systems,

предиктивни полициски системи,

into sentencing guidelines.

упатства за донесување пресуди.

This is the way we're actually constructing the world today

Вака всушност го градиме денешниот свет,

out of this data.

врз основа на податоци.

And I don't know what's worse,

И не знам што е полошо:

that we built a system that seems to be entirely optimized

тоа што градиме систем кој се чини е целосно оптимизиран

for the absolute worst aspects of human behavior,

за апсолутно најлошите варијанти на човечко однесување,

or that we seem to have done it by accident,

или тоа што истото го правиме случајно,

without even realizing that we were doing it,

без воопшто да сфатиме што правиме,

because we didn't really understand the systems that we were building,

бидејќи не ги разбираме добро системите кои ги градиме

and we didn't really understand how to do anything differently with it.

и не знаеме како да постапиме поинаку.

There's a couple of things I think that really seem to be driving this

Има две работи кои сметам дека се движечка сила на овој феномен,

most fully on YouTube,

особено на Јутјуб.

and the first of those is advertising,

Првата е рекламирањето,

which is the monetization of attention

односно монетизацијата на привлеченото внимание,

without any real other variables at work,

без земање во предвид други варијабли,

any care for the people who are actually developing this content,

без грижа за луѓето кои всушност ја креираат таа содржина,

the centralization of the power, the separation of those things.

централизацијата на моќта, одделувањето на тие нешта.

And I think however you feel about the use of advertising

И сметам дека без разлика какво мислењеимате за рекламите,

to kind of support stuff,

како финансиска поддршка,

the sight of grown men in diapers rolling around in the sand

глетката на возрасни мажи во пелени како се тркалаат во песокта,

in the hope that an algorithm that they don't really understand

со надеж дека некој алгоритам кој ни самите не го разбираат

will give them money for it

ќе им даде пари за тоа,

suggests that this probably isn't the thing

упатува на тоа дека ова веројатно не е начинот

that we should be basing our society and culture upon,

на кој треба да го градиме нашето општество и култура,

and the way in which we should be funding it.

нити начинот на кој треба да го финансираме.

And the other thing that's kind of the major driver of this is automation,

А вториот двигател на оваа ситуација е автоматизацијата,

which is the deployment of all of this technology

односно примената на сета таа технологија

as soon as it arrives, without any kind of oversight,

веднаш штом се појави, без никаков надзор,

and then once it's out there,

и кога е веќе пласирана,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

ги креваме рацете и велиме: "Еј, не е до нас, до технолгијата е."

Like, "We're not involved in it."

Демек, "Ние не сме дел од тоа."

That's not really good enough,

Тое не е доволно добро.

because this stuff isn't just algorithmically governed,

Затоа што ова не е само предводено,

it's also algorithmically policed.

туку е и контролирано од алгоритми.

When YouTube first started to pay attention to this,

Кога Јутјуб почна да обрнува внимание на ова,

the first thing they said they'd do about it

првото нешто што рекоа дека ќе го превземат

was that they'd deploy better machine learning algorithms

беше дека ќе применат подобри алгоритми за машинско учење

to moderate the content.

да ја ублажат содржината.

Well, machine learning, as any expert in it will tell you,

Е па, машинското учење, секој експерт во областа ќе ви каже,

is basically what we've started to call

го нарекуаваме всушност

software that we don't really understand how it works.

софтверот кој не го разбираме како функционира.

And I think we have enough of that already.

Мислам дека веќе имаме доволно од тоа.

We shouldn't be leaving this stuff up to AI to decide

Не треба да оставаме на вештачката интелигенција

what's appropriate or not,

да одлучи што е соодветно,

because we know what happens.

зашто знаеме што ќе се случи.

It'll start censoring other things.

Ќе почне да цензурира други работи:

It'll start censoring queer content.

необични содржини,

It'll start censoring legitimate public speech.

или легитимент јавен говор.

What's allowed in these discourses,

Што е дозволено, а што не,

it shouldn't be something that's left up to unaccountable systems.

не треба да се остави на неодговорни системи.

It's part of a discussion all of us should be having.

Тоа е дел од дискусија во која сите треба да учествуваме.

But I'd leave a reminder

Но, потсетувам дека

that the alternative isn't very pleasant, either.

ниту алтернативата не е многу пријатна.

YouTube also announced recently

Јутјуб неодамна изјавија

that they're going to release a version of their kids' app

дека ќе издадат верзија на нивната апликација за деца

that would be entirely moderated by humans.

која ќе биде целосно прегледувана од луѓе.

Facebook -- Zuckerberg said much the same thing at Congress,

Фејсбук - Закерберг изјави нешто слично пред Конгресот,

when pressed about how they were going to moderate their stuff.

на прашањето како ќе управуваат со нивната содржина.

He said they'd have humans doing it.

Рече дека луѓе ќе го прават тоа.

And what that really means is,

А, тоа всушност значи дека

instead of having toddlers being the first person to see this stuff,

наместо малите деца да бидат првите кои ќе ги видат овие содржини,

you're going to have underpaid, precarious contract workers

сега ќе има слабо платени, загрозени работници,

без соодветна ментално-здравствена заштита.

without proper mental health support

being damaged by it as well.

оштетени од истите содржини.

(Laughter)

(смеа)

And I think we can all do quite a lot better than that.

И сметам дека можеме многу подобро од тоа.

(Applause)

(аплауз)

The thought, I think, that brings those two things together, really, for me,

Смислата, според мене, која ги поврзува овие работи

is agency.

е дејствувањето.

It's like, how much do we really understand -- by agency, I mean:

Колку навистина разбираме? Под дејствување подразбирам:

how we know how to act in our own best interests.

како знаеме како да постапиме во наш најдобар интерес.

Which -- it's almost impossible to do

Што е речиси невозможно да се направи

in these systems that we don't really fully understand.

во овие ситеми кои не ги разбираме целосно.

Inequality of power always leads to violence.

Нееднаквоста на моќта секогаш води до насилство.

And we can see inside these systems

Во овие системи можеме да видиме

that inequality of understanding does the same thing.

дека нееднаквото разбирање го предизвикува истото.

If there's one thing that we can do to start to improve these systems,

Ако постои начин како да започнеме да ги подобруваме овие системи

it's to make them more legible to the people who use them,

тоа е да ги направиме почитливи за луѓето кои ги користат,

so that all of us have a common understanding

така што сите ќе имаме заедничко разбирање

of what's actually going on here.

за тоа што всушност се случува тука.

The thing, though, I think most about these systems

Проблемот со повеќето од овие системи

is that this isn't, as I hope I've explained, really about YouTube.

не е во врска со Јутјуб, како што објаснив,

It's about everything.

туку со сѐ.

These issues of accountability and agency,

Прашањата на одговорност и дејствување,

of opacity and complexity,

на нејасност и комплексност,

of the violence and exploitation that inherently results

на насилството и експлоатацијата кои неизбежно произлегуваат

from the concentration of power in a few hands --

од концентрацијата на моќ во нечии раце --

these are much, much larger issues.

ова се многу, многу поголеми проблеми.

And they're issues not just of YouTube and not just of technology in general,

Тоа се проблеми не само на Јутјуб, и не само на технологијата воопшто,

and they're not even new.

и не се новосоздадени.

They've been with us for ages.

Со нас се долго време.

But we finally built this system, this global system, the internet,

Но, конечно го изградивме овој систем овој глобален систем, Интернетот,

that's actually showing them to us in this extraordinary way,

кој на извонреден начин ни ги покажува ,

making them undeniable.

и ги прави вистински.

Technology has this extraordinary capacity

Технологијата има исклучителна способност

to both instantiate and continue

истовремено да ги прикаже и продолжи

all of our most extraordinary, often hidden desires and biases

сите наши извонредни, често притаени, желби и предрасуди

and encoding them into the world,

и да ги вкодира во светот,

but it also writes them down so that we can see them,

но и да ги запише за да ни се видливи

so that we can't pretend they don't exist anymore.

и да не можеме да се преправаме дека не постојат повеќе.

We need to stop thinking about technology as a solution to all of our problems,

Не треба да ја гледаме технологијата како решение на сите наши проблеми,

but think of it as a guide to what those problems actually are,

туку како водич за идентификување на тие проблеми,

so we can start thinking about them properly

со цел да почнеме соодветно да ги

and start to address them.

разгледуваме и да дејствуваме.

Thank you very much.

Многу ви благодарам.

(Applause)

(аплауз)

Thank you.

Благодарам!

(Applause)

(аплауз)

Helen Walters: James, thank you for coming and giving us that talk.

Хелен Волтерс: Џејмс, благодарам за гостувањето и за говорот.

So it's interesting:

Значи, интересно е:

when you think about the films where the robotic overlords take over,

кога размислуваш за филмови во кои роботите го преземаат светот,

it's all a bit more glamorous than what you're describing.

сѐ изгледа погламурозно од она што ни го опиша.

But I wonder -- in those films, you have the resistance mounting.

Се прашувам -- во тие филмови имаме градење на отпор.

Is there a resistance mounting towards this stuff?

Дали градиме отпор кон овие работи во реалноста?

Do you see any positive signs, green shoots of resistance?

Дали забележуваш позитивни знаци, никулци на отпорот?

James Bridle: I don't know about direct resistance,

Џејмс Бридл: Не знам за директен отпор,

because I think this stuff is super long-term.

бидејќи ова се дологорочни работи.

I think it's baked into culture in really deep ways.

Мислам дека е длабоко всадено во културата.

A friend of mine, Eleanor Saitta, always says

Моја пријателка, Еленор Саита, секогаш вели

that any technological problems of sufficient scale and scope

дека секој технолошки проблем со доволна големина и опсег

are political problems first of all.

е пред сѐ политички проблем.

So all of these things we're working to address within this

Така што сите овие работи кои се трудиме да ги решиме

are not going to be addressed just by building the technology better,

нема да ги решиме само преку градење подобра технологија,

but actually by changing the society that's producing these technologies.

туку преку менување на општеството кое ги произведува овие технологии.

So no, right now, I think we've got a hell of a long way to go.

Така што, засега мислам дека имаме уште многу работа пред нас.

But as I said, I think by unpacking them,

Но, како што реков, со нивното отворање,

by explaining them, by talking about them super honestly,

објаснување, дискутирање за нив многу искрено,

we can actually start to at least begin that process.

можеме барем да го започнеме тој процес.

HW: And so when you talk about legibility and digital literacy,

ХВ: Кога зборуваш за читливост и дигитална писменост,

I find it difficult to imagine

тешко ми е да замислам

that we need to place the burden of digital literacy on users themselves.

дека товарот на дигиталната писменост треба да остане кај самите корисници.

But whose responsibility is education in this new world?

Тогаш, чија одговорност е образованието во овој нов свет?

JB: Again, I think this responsibility is kind of up to all of us,

ЏБ: Сметам дека таа е одговорност на сите нас,

that everything we do, everything we build, everything we make,

дека сѐ што правиме, сѐ што градиме, сѐ што создаваме,

needs to be made in a consensual discussion

треба да биде во заеднички разговор

with everyone who's avoiding it;

со сите кои го избегнуваат;

that we're not building systems intended to trick and surprise people

дека не градиме системи наменети да ги залажат или изненадат луѓето

into doing the right thing,

да постапат правилно,

but that they're actually involved in every step in educating them,

туку да бидат вклучени во секој чекор од нивното образование,

because each of these systems is educational.

бидејќи секој од овие системи е образовен.

That's what I'm hopeful about, about even this really grim stuff,

На тоа се надевам, дури и мрачните аспекти,

that if you can take it and look at it properly,

ако се земат и се разгледаат соодветно,

it's actually in itself a piece of education

сами по себе се парче едукација

that allows you to start seeing how complex systems come together and work

што ви овозможува да согледате како комплексните системи функционираат

and maybe be able to apply that knowledge elsewhere in the world.

и можеби да го примените знаењето на друго место.

HW: James, it's such an important discussion,

ХВ: Џејмс, ова е многу значајна дискусија,

and I know many people here are really open and prepared to have it,

и знам дека многу од луѓето овде се отворени и подготвени да се вклучат,

so thanks for starting off our morning.

па фала што ни го отпочна утрото.

JB: Thanks very much. Cheers.

ЏБ: Благодарам!. Поздрав.

(Applause)

(аплауз)