The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Translator: Irena Djourelova Reviewer: Yavor Ivanov

I'm James.

Аз съм Джеймс.

I'm a writer and artist,

Аз съм писател и творец,

and I make work about technology.

и създавам работи, свързани с технологиите.

I do things like draw life-size outlines of military drones

Аз правя неща като да рисувам очертания в реален размер на военни самолети

in city streets around the world,

върху градските улици по света,

so that people can start to think and get their heads around

за да хората започнат да мислят и да поразмишляват

these really quite hard-to-see and hard-to-think-about technologies.

за тези доста трудно видими и доста трудни за обмисляне технологии.

I make things like neural networks that predict the results of elections

Аз правя неща като невронни комютърни мрежи,

които предвиждат резултатите от изборите

based on weather reports,

въз основа на прогнози за времето,

because I'm intrigued about

защото съм заинтругуван

what the actual possibilities of these weird new technologies are.

какви са реалните възможности на тези странни нови технологии.

Last year, I built my own self-driving car.

Миналата година създадох моя собствена самокараща се кола.

But because I don't really trust technology,

Но понеже не вярвам много на технологиите,

I also designed a trap for it.

аз ѝ устроих и капан.

(Laughter)

(Смях)

And I do these things mostly because I find them completely fascinating,

И правя тези неща, предимно защото ги намирам за напълно завладяващи,

but also because I think when we talk about technology,

но също защото мисля, че когато говорим за технологии,

we're largely talking about ourselves

ние говорим до голяма степен говорим за нас

and the way that we understand the world.

и за начина, по който разбираме света.

So here's a story about technology.

И така, ето една история, свързана с технологиите.

This is a "surprise egg" video.

Това е видео за "яйца-изненада".

It's basically a video of someone opening up loads of chocolate eggs

В общи линии това е видео, в което някой отваря много шоколадови яйца

and showing the toys inside to the viewer.

и показва на зрителите играчките вътре.

That's it. That's all it does for seven long minutes.

Това е.

Това е всичко, което се случва за седем дълги минути.

And I want you to notice two things about this.

И искам да забележете две неща относно това.

First of all, this video has 30 million views.

Първо, това видео има 30 милиона гледания.

(Laughter)

(Смях)

And the other thing is,

А другото нещо е,

it comes from a channel that has 6.3 million subscribers,

че идва от канал, който има 6.3 милиона редовни зрители,

that has a total of eight billion views,

който има сумарно 8 билиона гледания,

and it's all just more videos like this --

и всичките те са просто на още видеа като това -

30 million people watching a guy opening up these eggs.

30 милиона души гледат някакъв тип, който отваря такива яйца.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Звучи доста странно, но ако потърсите "яйца-изненада" в Ютуб,

it'll tell you there's 10 million of these videos,

ще ви покаже, че има 10 милиона от тези видеа.

and I think that's an undercount.

И мисля, че подценявам бройката.

I think there's way, way more of these.

Мисля, че има доста, доста повече от тези.

If you keep searching, they're endless.

Ако продължите да търсите, те ще са безкрайни.

There's millions and millions of these videos

Има милиони, и милиони от тези видеа

in increasingly baroque combinations of brands and materials,

в покачващо се барокови комбинации от брандове и материали,

and there's more and more of them being uploaded every single day.

и има все повече, и повече от тях, които биват качвани всеки един ден.

Like, this is a strange world. Right?

Това е странен свят, нали?

But the thing is, it's not adults who are watching these videos.

Но въпросът е, че не възрастните са тези, които гледат подобни видеа.

It's kids, small children.

Това са децата, малките деца.

These videos are like crack for little kids.

Тези видеа са като наркотик за малки деца.

There's something about the repetition,

Има нещо в повторението,

the constant little dopamine hit of the reveal,

в постоянната малка доза допамин при разкриването,

that completely hooks them in.

което изцяло ги пристрастява.

And little kids watch these videos over and over and over again,

И малките деца гледат тези видеа отново, и отново, и отново,

and they do it for hours and hours and hours.

и го правят за часове, и часове, и часове.

And if you try and take the screen away from them,

И ако се опиташ да им да им отнемеш екрана,

they'll scream and scream and scream.

те ще крещят, и ще крещят, и ще крещят.

If you don't believe me --

Ако не ми вярвате,

and I've already seen people in the audience nodding --

а вече видях хора в публиката да кимат,

ако не ми вярвате, намерете някого с малко дете и го попитайте,

if you don't believe me, find someone with small children and ask them,

и ще знае за видеата с яйца-изненада.

and they'll know about the surprise egg videos.

So this is where we start.

Ето къде започваме.

It's 2018, and someone, or lots of people,

2018-та година сме и някой или пък много хора

използват същия механизъм, който Фейсбук и Инстаграм използват,

are using the same mechanism that, like, Facebook and Instagram are using

to get you to keep checking that app,

за да ви накарат да проверявате постоянно апликациите им,

and they're using it on YouTube to hack the brains of very small children

а те го използват в Ютуб,

за да хакнат мозъците на много малки деца,

in return for advertising revenue.

за да получат в замяна печалба от реклами.

At least, I hope that's what they're doing.

Поне, надявам се, че това правят.

I hope that's what they're doing it for,

Надявам се, че затова го правят,

because there's easier ways of making ad revenue on YouTube.

защото има по-лесни начини да печелиш от реклами в Ютуб.

You can just make stuff up or steal stuff.

Можеш да си измисляш неща или да крадеш неща.

So if you search for really popular kids' cartoons

Ако потърсите наистина популярни анимационни,

like "Peppa Pig" or "Paw Patrol,"

като "Пепа Прасето" или "Отряд на лапи",

you'll find there's millions and millions of these online as well.

ще намерите милиони, и милиони и от тези видеа онлайн.

Разбира се, по-голямата част от тях

Of course, most of them aren't posted by the original content creators.

не са публикувани от оригиналните им създатели.

They come from loads and loads of different random accounts,

Те идват от много, много различни случайни акаунти

and it's impossible to know who's posting them

и е невъзможно да разбереш кой ги публикува

or what their motives might be.

или какви могат да са техните мотиви.

Does that sound kind of familiar?

Звучи ли ви познато?

Because it's exactly the same mechanism

Това е, защото същият механизъм

that's happening across most of our digital services,

се прилага върху повечето от нашите дигатални услуги,

where it's impossible to know where this information is coming from.

където е невъзможно да разбереш откъде идва тази информация.

It's basically fake news for kids,

Общо взето, това са фалшиви новини за деца,

and we're training them from birth

а ние ги обучаваме от раждането им

to click on the very first link that comes along,

да кликат върху първия линк, който видят,

regardless of what the source is.

независимо от какъв източник идва той.

That's doesn't seem like a terribly good idea.

Това не изглежда като невероятно добра идея.

Here's another thing that's really big on kids' YouTube.

Ето още нещо, което е много популярно в детския Ютуб.

То е наречено "Песента на семейство Пръсти",

This is called the "Finger Family Song."

и отново дочух някой да изохква в публиката,

I just heard someone groan in the audience.

This is the "Finger Family Song."

това е "Песента на семейство Пръсти".

This is the very first one I could find.

Това е първата, която успях да намеря.

It's from 2007, and it only has 200,000 views,

Тя е от 2007-ма и има само 200 000 гледания,

which is, like, nothing in this game.

което е общо взето нищo в тази игра.

But it has this insanely earwormy tune,

Но има безумно паразитна мелодия,

which I'm not going to play to you,

която няма да ви пускам,

because it will sear itself into your brain

защото ще се притъпи в мозъците ви

in the same way that it seared itself into mine,

по същия начин, по който се притъпи в моя,

and I'm not going to do that to you.

и аз няма да ви го причиня.

But like the surprise eggs,

Но също като яйцата-изненада,

it's got inside kids' heads

тя е влязла в главите на децата

and addicted them to it.

и те са пристрастени към нея.

So within a few years, these finger family videos

И така, след няколко години тези видеа за семейства пръсти

start appearing everywhere,

започват да се появяват навсякъде

and you get versions in different languages

и сега има версии на различни езици,

with popular kids' cartoons using food

с популярни анимационни, използвайки храна

or, frankly, using whatever kind of animation elements

или честно казано с кавито и да е анимационни елементи

you seem to have lying around.

си намерите около вас.

And once again, there are millions and millions and millions of these videos

И отново - има милиони, и милиони, и милиони от тези видеа,

available online in all of these kind of insane combinations.

достъпни онлайн във всичките тези налудничеви комбинации.

And the more time you start to spend with them,

И колкото повече време прекарвате с тях,

the crazier and crazier you start to feel that you might be.

толкова по-луди, и луди

започвате да чувствате, че вероятно сте.

And that's where I kind of launched into this,

И горе-долу така попаднах на това.

that feeling of deep strangeness and deep lack of understanding

На това чувство на дълбока странност и на липса на разбиране

of how this thing was constructed that seems to be presented around me.

за това как това нещо е конструирано и съществува покрай мен.

Because it's impossible to know where these things are coming from.

Защото е невъзможно да знаеш откъде идват тези неща.

Като например, кой ги прави?

Like, who is making them?

Някои от тях изглежда, че са направени от екип от професионални аниматори.

Some of them appear to be made of teams of professional animators.

Some of them are just randomly assembled by software.

Някои от тях са случайно сглобени от софтуер.

Some of them are quite wholesome-looking young kids' entertainers.

Някои изглеждат като благотворни развлечения за малки деца.

And some of them are from people

А други са направни от хора,

who really clearly shouldn't be around children at all.

които очевидно не трябва въобще да стоят около деца.

(Смях)

(Laughter)

Нали?

И ...

And once again, this impossibility of figuring out who's making this stuff --

Отново се връщаме на тази невъзможност

да разберем кой създава тези неща.

like, this is a bot?

Дали е робот?

Is this a person? Is this a troll?

Дали е човек?

Дали е интернет трол?

What does it mean that we can't tell the difference

Какво означава, че вече не правим разликата

between these things anymore?

между всички тези неща?

And again, doesn't that uncertainty feel kind of familiar right now?

И отново, това чувство за несигурност не ни ли е познато в момента?

So the main way people get views on their videos --

Основният начин, по който хората получават гледания е,

and remember, views mean money --

запомнете, гледанията означават пари,

is that they stuff the titles of these videos with these popular terms.

че те наблъскват заглавията на видеата с популярни термини,

So you take, like, "surprise eggs"

Взимате "яйца-изненада", например,

and then you add "Paw Patrol," "Easter egg,"

и след това добавяте "Отряд на лапи", "Великденски яйца"

или кавито и да са тези неща,

or whatever these things are,

all of these words from other popular videos into your title,

всичките тези думи от други популярни видеа в заглавието,

и така получавате този вид безмислена синтактична каша,

until you end up with this kind of meaningless mash of language

that doesn't make sense to humans at all.

която въобще няма логика за хората.

Because of course it's only really tiny kids who are watching your video,

Защото, разбира се, само мъничките деца гледат видеата,

and what the hell do they know?

а какво, по дяволите, разбират те?

Your real audience for this stuff is software.

Истинската аудитория за тези неща е софтуерът.

It's the algorithms.

Това са алгоритмите.

It's the software that YouTube uses

Това е софтуерът, който Ютуб използва,

to select which videos are like other videos,

за да избере кои видеа наподобяват други видеа,

to make them popular, to make them recommended.

за да ги направи популярни, за да ги препоръча.

And that's why you end up with this kind of completely meaningless mash,

И ето защо резултатът е тази, общо взето, безмислена каша,

both of title and of content.

както в заглавието, така и в съдържанието.

But the thing is, you have to remember,

Но въпросът е, че трябва да запомните,

there really are still people within this algorithmically optimized system,

че хората реално са част

от тази алгоритмично оптимизирана система,

people who are kind of increasingly forced to act out

хора, които стават все по-принудени да извършат

these increasingly bizarre combinations of words,

тези все по-странни комбинации от думи

like a desperate improvisation artist responding to the combined screams

като отчаян творец-импровизатор,

който отговаря на комбинацията от викове

of a million toddlers at once.

на милиони малки деца наведнъж.

There are real people trapped within these systems,

Има истински хора в капана на тези системи.

and that's the other deeply strange thing about this algorithmically driven culture,

И това е другото дълбоко странно нещо,

в тази култура, водена от алгоритмите,

because even if you're human,

че дори и да си човек,

трябва да се държиш като машина

you have to end up behaving like a machine

just to survive.

само за да оцелееш.

And also, on the other side of the screen,

Освен това, от другата страна на екрана

there still are these little kids watching this stuff,

все още стоят тези малки деца и гледат тези неща -

приклещени.

stuck, their full attention grabbed by these weird mechanisms.

Цялото им внимание е заграбено от тези странни механизми.

And most of these kids are too small to even use a website.

И повечето от тези деца са прекалено малки дори да ползват уебсайтове.

They're just kind of hammering on the screen with their little hands.

Те просто удрят по екраните с техните малки ръчички.

And so there's autoplay,

Има и автоматично пускане,

което просто пуска тези видеа отново, и отново, и отново...

where it just keeps playing these videos over and over and over in a loop,

endlessly for hours and hours at a time.

безкрайно - за часове, и часове наведнъж.

And there's so much weirdness in the system now

Има толкова много странности в сегашната система,

that autoplay takes you to some pretty strange places.

че автоматичното пускане те води на доста странни места.

This is how, within a dozen steps,

Затова с дузина стъпки,

you can go from a cute video of a counting train

можете да започнете от сладко видео с броящ влак

to masturbating Mickey Mouse.

до мастурбиращ Мики Маус.

Yeah. I'm sorry about that.

Да, съжалавам, за което.

This does get worse.

И става все по-зле.

This is what happens

Това се случва,

when all of these different keywords,

когато всички тези различни ключови думи,

all these different pieces of attention,

всички тези различни парчета внимание,

this desperate generation of content,

това отчайващо поколение от съдържание,

all comes together into a single place.

се съберат на едно единствено място.

This is where all those deeply weird keywords come home to roost.

Това е там, където тези дълбоко странни ключови думи

се прибират да си починат.

You cross-breed the finger family video

Ако кръстосаш видеото за семейство Пръсти

with some live-action superhero stuff,

с някакви неща за екшън супергерои,

you add in some weird, trollish in-jokes or something,

добавиш странна тролска вътрешна шега или нещо,

and suddenly, you come to a very weird place indeed.

изведнъж, ще отидеш на много странно място, определено.

The stuff that tends to upset parents

Нещата, които изглежда, че разстройват родителите

is the stuff that has kind of violent or sexual content, right?

са тези с агресивно или сексуално съдържание, нали?

Детските герои са нападани,

Children's cartoons getting assaulted,

getting killed,

убивани,

weird pranks that actually genuinely terrify children.

подлежат на странни шеги, които искрено ужасяват децата.

What you have is software pulling in all of these different influences

Това, което имаме, е софтуер, който събира всичките различни влияния,

за да генерира автоматично най-ужасяващите детски кошмари.

to automatically generate kids' worst nightmares.

And this stuff really, really does affect small children.

А тези неща наистина, наистина оказват влияние върху малките деца.

Parents report their children being traumatized,

Родителите докладват, че децата им са травматизирани,

becoming afraid of the dark,

започват да се страхуват от тъмното,

becoming afraid of their favorite cartoon characters.

започват да е страхуват от техните любими анимационни герои.

If you take one thing away from this, it's that if you have small children,

Ако си вземете една поука, нека бъде, че ако имате малки деца,

дръжте ги далеч от Ютуб, по дяволите.

keep them the hell away from YouTube.

(Applause)

(Аплодисменти)

But the other thing, the thing that really gets to me about this,

Но другото нещо, което ме притеснява е,

is that I'm not sure we even really understand how we got to this point.

че не съм сигурен, че разбираме как стигнахме до този етап.

We've taken all of this influence, all of these things,

Взели сме цялото това влияние, всичките тези неща,

and munged them together in a way that no one really intended.

и сме ги групирали заедно по начин, който никой не е предвидил.

And yet, this is also the way that we're building the entire world.

И все пак, това е същия начин, по който ние конструираме света.

We're taking all of this data,

Става дума за всичките тези данни,

a lot of it bad data,

много некачествени данни,

a lot of historical data full of prejudice,

много остарели данни, пълни с предразсъдъци,

full of all of our worst impulses of history,

пълни с нашите най-лоши импулси в историята,

and we're building that into huge data sets

и ги изграждаме в огромни набори от данни

and then we're automating it.

а след това ги автоматизираме.

And we're munging it together into things like credit reports,

Сглобяваме ги заедно в неща като кредитни доклади,

into insurance premiums,

застрахователни премии,

into things like predictive policing systems,

в неща като превантивни полицейски системи,

into sentencing guidelines.

като насоки за издаване на присъди.

This is the way we're actually constructing the world today

Това е начинът, по който изграждаме светът днес,

out of this data.

чрез тези данни.

And I don't know what's worse,

И не знам кое е по-лошото -

that we built a system that seems to be entirely optimized

че сме изградили система, която е изцяло оптимизирана за

for the absolute worst aspects of human behavior,

най-ужасните аспекти на човешкото поведение

or that we seem to have done it by accident,

или че изглежда, че сме го направили по случайност

without even realizing that we were doing it,

без дори да осъзнаваме какво вършим,

because we didn't really understand the systems that we were building,

защото ние не разбираме съвсем системите, които изграждаме,

and we didn't really understand how to do anything differently with it.

не разбираме изцяло как да направим нещо различно с тях.

There's a couple of things I think that really seem to be driving this

Мисля, че има няколко неща, които изглежда подклаждат това

most fully on YouTube,

предимно в Ютуб.

and the first of those is advertising,

Първото е рекламата,

which is the monetization of attention

което е монетизация на внимание

without any real other variables at work,

без да се взимат предвид други реални фактори,

any care for the people who are actually developing this content,

без грижа за хората, които всъщност създават това съдържание,

the centralization of the power, the separation of those things.

централизацията на правомощията или разграничаването на тези неща.

And I think however you feel about the use of advertising

Мисля, че както и да се чувствате спрямо използването на реклама

to kind of support stuff,

за вид подкрепа на работи,

the sight of grown men in diapers rolling around in the sand

гледката на зрели мъже в памперси, които се въргалят в пясъка

in the hope that an algorithm that they don't really understand

с надеждата, че алгоритъм, който не разбират съвсем,

will give them money for it

ще им донесе пари,

suggests that this probably isn't the thing

предполага, че най-вероятно това не е нещото,

that we should be basing our society and culture upon,

на което трябва да основем обществото и културата си,

and the way in which we should be funding it.

и начинът, по който да я спонсорираме.

And the other thing that's kind of the major driver of this is automation,

Другото нещо, което е може би най-значимият двигател на това

е автоматизацията,

which is the deployment of all of this technology

което е внедряването на цялата тази технология

as soon as it arrives, without any kind of oversight,

веднага щом е създадена, без никакви предпазни мерки.

and then once it's out there,

Щом веднъж вече се ползва,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

си вдигаме ръцете във въздуха и казваме: "Хей, не бяхме ние - беше технологията."

Like, "We're not involved in it."

Тип: "Ние не сме замесени".

That's not really good enough,

Това съвсем не е достатъчно,

because this stuff isn't just algorithmically governed,

защото тези неща не просто се оправляват с алгоритми,

it's also algorithmically policed.

но също се следят с алгоритми.

When YouTube first started to pay attention to this,

Когато Ютуб започна да обръща внимание на това,

the first thing they said they'd do about it

първото нещо, което казаха, че ще направят,

was that they'd deploy better machine learning algorithms

беше да внедрят по-добри системи за самообучение,

to moderate the content.

за да модерират съдържанието.

Well, machine learning, as any expert in it will tell you,

Машинното самообучение, както всеки експерт би ви казал,

is basically what we've started to call

е общо взето е това, което сме започнали да наричаме

software that we don't really understand how it works.

софтуера, който не разбираме съвсем как работи.

And I think we have enough of that already.

Но мисля, че вече ни е омръзнало от това.

Не трябва да оставяме изкуственият интелект да решава

We shouldn't be leaving this stuff up to AI to decide

what's appropriate or not,

какво е подходящо и какво не е,

because we know what happens.

защото знаем какво ще се случи.

It'll start censoring other things.

Ще започне да цензурира други работи.

It'll start censoring queer content.

Ще започне да цензурира хомосексуално съдържание.

It'll start censoring legitimate public speech.

Ще започне да цензурира законната публична реч.

What's allowed in these discourses,

Това, което е позволено в тези беседи,

it shouldn't be something that's left up to unaccountable systems.

не трябва да бъде нещо, което зависи от необясними системи.

It's part of a discussion all of us should be having.

Това е част от дискусията, която всеки от нас трябва да води.

But I'd leave a reminder

Но ще ви напомня,

that the alternative isn't very pleasant, either.

че алтернативата също не е много приятна.

YouTube also announced recently

Ютуб анонсира наскоро също,

that they're going to release a version of their kids' app

че те ще издадат версия на тяхната апликация за деца,

that would be entirely moderated by humans.

която ще е изцяло модерирана от хора.

Facebook -- Zuckerberg said much the same thing at Congress,

Фейсбук, Зъкърбърг каза горе-долу същото нещо на конгреса,

when pressed about how they were going to moderate their stuff.

когато го притиснаха за това как ще модерират нещата си.

He said they'd have humans doing it.

Той каза, че ще назначат хора да го правят.

And what that really means is,

Това, което всъщност означава това е,

че вместо малките деца да са първите хора, които гледат тези неща,

instead of having toddlers being the first person to see this stuff,

you're going to have underpaid, precarious contract workers

ще има нисколатени случайни контрактори

без подходяща подкрепа за психичното им здраве,

without proper mental health support

being damaged by it as well.

които също ще бъдат повредени от тях.

(Laughter)

(Смях)

Мисля, че всички ние можем да се справим доста по-добре от това.

And I think we can all do quite a lot better than that.

(Applause)

(Аплодисменти)

The thought, I think, that brings those two things together, really, for me,

Според мен идеята, която събира тези две неща заедно,

за мен наистина е посредничеството.

is agency.

Колко всъщност наистина разбираме ние от посредничеството?

It's like, how much do we really understand -- by agency, I mean:

Имам предвид -

how we know how to act in our own best interests.

как разбираме, че работим за нашите най-добри интереси,

Which -- it's almost impossible to do

което е почти невъзможно да се направи

in these systems that we don't really fully understand.

в тези системи, които не разбираме изцяло.

Inequality of power always leads to violence.

Неравнството в правомощията винаги води до насилие.

And we can see inside these systems

А в тези системи можем да видим,

that inequality of understanding does the same thing.

че неравенството в разбирането прави същото нещо.

If there's one thing that we can do to start to improve these systems,

Има едно нещо, което може да направим,

за да започнем да подобряваме тези системи,

it's to make them more legible to the people who use them,

това е да ги направим по-разбираеми за хората, които ги ползват,

so that all of us have a common understanding

за да може всички ние да имаме обща култура

of what's actually going on here.

за това, което всъщност наистина се случва тук.

The thing, though, I think most about these systems

Обаче това, за което мисля предимно за повечето от тези системи, е

is that this isn't, as I hope I've explained, really about YouTube.

(както се надявам вече поясних), че това не е свързано само с Ютуб.

It's about everything.

Става дума за всичко.

These issues of accountability and agency,

Тези проблеми с отговорността и посредничеството,

of opacity and complexity,

с неяснотата и сложността,

of the violence and exploitation that inherently results

с насилието и експлоатацията, които по своята същност произтичат

from the concentration of power in a few hands --

от концентрацията на правомощие в ръцете на малцина -

these are much, much larger issues.

това са много, много по-големи проблеми.

And they're issues not just of YouTube and not just of technology in general,

И това не са само проблемите на Ютуб, и не само на технологиите като цяло,

and they're not even new.

а дори не са нови.

They've been with us for ages.

Те са с нас от години.

But we finally built this system, this global system, the internet,

Но най-накрая изработихме тази глобална система, интернетът,

that's actually showing them to us in this extraordinary way,

която ни ги показа по този невероятен начин,

making them undeniable.

който ги прави неоспорими.

Technology has this extraordinary capacity

Технологията има невероятения потенциал

to both instantiate and continue

едновременно да ни покаже нагледно и да продължи

all of our most extraordinary, often hidden desires and biases

всички наши най-невероятни, често прикривани желания и предразсъдъци

and encoding them into the world,

и да ги внедри в света,

but it also writes them down so that we can see them,

но и да ги запише така, че да можем да ги видим,

so that we can't pretend they don't exist anymore.

за да не можем да се преструваме повече, че те не съществуват.

We need to stop thinking about technology as a solution to all of our problems,

Трябва да спрем да мислим за технологиите като за решение на всичките ни проблеми,

but think of it as a guide to what those problems actually are,

а да мислим за тях като пътеводител

към това какво представляват тези проблеми,

so we can start thinking about them properly

за да можем да започнем да мислим за тях подобаващо

and start to address them.

и да започнем да ги адресираме.

Thank you very much.

Благодаря ви много.

(Applause)

(Аплодисменти)

Thank you.

Благодаря.

(Applause)

(Аплодисменти)

Helen Walters: James, thank you for coming and giving us that talk.

Хелън Уолтърс: Джеймс, благодаря ти, че дойде, за да ни представиш тази реч.

Толкова е интересно,

So it's interesting:

когато се замислиш за филмите, където множество роботи ни завземат,

when you think about the films where the robotic overlords take over,

it's all a bit more glamorous than what you're describing.

изглежда малко по-ефектно, отколкото това, което ти обясняваш.

But I wonder -- in those films, you have the resistance mounting.

Но се чудя, в тези филми съпротивата обикновено се надига.

Is there a resistance mounting towards this stuff?

Има ли съпротива, която се надига срещу тези неща?

Do you see any positive signs, green shoots of resistance?

Виждаш ли положителни знаци, зелени изстрели от съпротивата?

Джеймс Брайдъл: Не знам за директна съпротива,

James Bridle: I don't know about direct resistance,

because I think this stuff is super long-term.

защото мисля, че тези неща са много дълготрайни.

Мисля, че са внедрени в културата ни по много дълбоки начини.

I think it's baked into culture in really deep ways.

A friend of mine, Eleanor Saitta, always says

Една моя приятелка, Елеонор Саита, винаги казва,

that any technological problems of sufficient scale and scope

че всеки технологичен проблем със задоволитен мащаб и досег

are political problems first of all.

е преди всичко политически проблем.

So all of these things we're working to address within this

Така че всичко, върху което работим, за да адресираме това,

are not going to be addressed just by building the technology better,

няма да се разрешат чрез изграждането на по-добра технология,

but actually by changing the society that's producing these technologies.

а всъщност като променим обществото, което създава въпросните технологии.

Така че - не, за момента мисля, че имаме дяволски дълъг път за изминаване.

So no, right now, I think we've got a hell of a long way to go.

But as I said, I think by unpacking them,

Но, както казах, като ги разнищим,

by explaining them, by talking about them super honestly,

като ги обясним, като говорим за тях супер честно,

така поне можем да започнем процеса.

we can actually start to at least begin that process.

HW: And so when you talk about legibility and digital literacy,

Хелън Уолтърс: Когато говориш за честливост и дигитална грамотност,

I find it difficult to imagine

аз намирам за трудно да си представя,

that we need to place the burden of digital literacy on users themselves.

че трябва да поставим бремето на грамотността върху самите потребители.

But whose responsibility is education in this new world?

Но чия е отговорността за образование в този нов свят?

JB: Again, I think this responsibility is kind of up to all of us,

Джеймс Брайдъл: Отново, мисля, че отговорността е на всички нас,

that everything we do, everything we build, everything we make,

че всичко, което правим, което градим, което създаваме,

needs to be made in a consensual discussion

трябва да бъде направено в дискусия по взаимно съгласие

with everyone who's avoiding it;

между всички, които я избягват;

that we're not building systems intended to trick and surprise people

че не изграждаме системи, предназначени да излъжат или изненадат хората,

into doing the right thing,

за да вършат правилното нещо,

а те да са включени във всяка стъпка в образоването им,

but that they're actually involved in every step in educating them,

because each of these systems is educational.

защото всяка от тези системи е образователна.

That's what I'm hopeful about, about even this really grim stuff,

На това се надявам дори спрямо тези наистина мрачни работи,

that if you can take it and look at it properly,

че ако ги вземеш и ги разгледаш добре,

ще видиш в тях парче образование,

it's actually in itself a piece of education

което позволява да започнем да виждаме как сложни системи са събрани и работят

that allows you to start seeing how complex systems come together and work

и може би да приложим това знание някъде другаде в света.

and maybe be able to apply that knowledge elsewhere in the world.

HW: James, it's such an important discussion,

Хелън Уолтърс: Джеймс, това е толква важна дискусия

and I know many people here are really open and prepared to have it,

и знам, че има много хора тук са отворени и подготвени да се включат,

така че благодаря, че откри сутринта ни.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

Джеймс Брайдъл: Благодаря много за поканата. Поздрави!

(Аплодисменти)

(Applause)