The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Переводчик: Sophia Kuchina Редактор: Natalia Ost

I'm James.

Меня зовут Джеймс.

I'm a writer and artist,

Я писатель и художник,

and I make work about technology.

а ещё я занимаюсь технологиями.

I do things like draw life-size outlines of military drones

Например, на улицах разных городов мира

я рисую эскизы военных дронов в натуральную величину,

in city streets around the world,

so that people can start to think and get their heads around

чтобы люди задумались и разобрались

these really quite hard-to-see and hard-to-think-about technologies.

в этих незаметных и трудных для понимания технологиях.

I make things like neural networks that predict the results of elections

Я создаю такие вещи, как нейросети, которые предсказывают результаты выборов

based on weather reports,

на основе прогнозов погоды,

потому что я заинтригован

because I'm intrigued about

what the actual possibilities of these weird new technologies are.

теми возможностями, которые могут предложить эти новые чудны́е технологии.

Last year, I built my own self-driving car.

В прошлом году я изобрёл свой беспилотный автомобиль..

But because I don't really trust technology,

Но так как я не особо доверяю технологиям,

I also designed a trap for it.

я также соорудил и ловушку для них.

(Laughter)

(Смех)

And I do these things mostly because I find them completely fascinating,

И я делаю эти вещи, главным образом, потому что абсолютно увлечён ими,

but also because I think when we talk about technology,

но ещё я считаю, что говоря о технологиях,

we're largely talking about ourselves

мы по большей части говорим о нас самих

and the way that we understand the world.

и о нашем ви́дении мира.

So here's a story about technology.

Представляю вам историю о технологиях.

This is a "surprise egg" video.

Это видео про яйцо с сюрпризом.

It's basically a video of someone opening up loads of chocolate eggs

По сути, в нём человек раскрывает целую кучу шоколадных яиц

and showing the toys inside to the viewer.

и показывает игрушки из них зрителям.

That's it. That's all it does for seven long minutes.

И всё. Это всё, что он делает, целых семь долгих минут.

And I want you to notice two things about this.

Я хочу, чтобы вы отметили здесь две вещи.

First of all, this video has 30 million views.

Во-первых, у этого видео 30 миллионов просмотров.

(Laughter)

(Смех)

And the other thing is,

А во-вторых,

it comes from a channel that has 6.3 million subscribers,

оно размещено на канале с 6,3 миллиона подписчиков

that has a total of eight billion views,

и 8 миллиардами просмотров,

and it's all just more videos like this --

и все видео на нём похожи на это —

30 million people watching a guy opening up these eggs.

30 миллионов людей смотрят на то, как парень распаковывает яйца.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Звучит странно, но если вы забьёте в поиск на YouTube «яйца с сюрпризом»,

it'll tell you there's 10 million of these videos,

то найдёте 10 миллионов таких видео.

and I think that's an undercount.

И я считаю, что это не всё.

I think there's way, way more of these.

Думаю, их гораздо, гораздо больше.

If you keep searching, they're endless.

Если продолжите искать, их будет бесконечное множество.

There's millions and millions of these videos

Существуют миллионы, миллионы таких видео

in increasingly baroque combinations of brands and materials,

с самыми причудливыми комбинациями брендов и материалов,

and there's more and more of them being uploaded every single day.

и каждый божий день их выкладывают всё больше и больше.

Like, this is a strange world. Right?

Что за странный мир. Не так ли?

But the thing is, it's not adults who are watching these videos.

Но дело в том, что такие видео смотрят не взрослые.

It's kids, small children.

Их смотрят дети, маленькие дети.

These videos are like crack for little kids.

Эти видео как наркотик для малышей.

There's something about the repetition,

Есть что-то в повторении,

the constant little dopamine hit of the reveal,

в той регулярной дозе дофамина при раскрытии интриги,

that completely hooks them in.

что их так цепляет.

And little kids watch these videos over and over and over again,

И маленькие дети пересматривают эти видео снова, и снова, и снова,

and they do it for hours and hours and hours.

они делают это часами, и ещё, и ещё.

And if you try and take the screen away from them,

А если попытаетесь отнять у них экран,

they'll scream and scream and scream.

они будут кричать, и кричать, и кричать.

If you don't believe me --

Если не верите мне —

and I've already seen people in the audience nodding --

я уже видел, как некоторые в зале кивают —

если не верите мне, спросите у людей, у которых есть маленькие дети,

if you don't believe me, find someone with small children and ask them,

и они расскажут вам всё о видео про яйца с сюрпризом.

and they'll know about the surprise egg videos.

So this is where we start.

Вот с чего мы начнём.

It's 2018, and someone, or lots of people,

Сейчас 2018 год, и некоторые, если не многие, люди

are using the same mechanism that, like, Facebook and Instagram are using

используют те же механизмы, которыми пользуются, скажем, Facebook и Instagram,

to get you to keep checking that app,

чтобы вы постоянно проверяли их приложение.

and they're using it on YouTube to hack the brains of very small children

И их же используют на YouTube, чтобы промывать мозги маленьким детям,

in return for advertising revenue.

получая взамен доходы от рекламы.

At least, I hope that's what they're doing.

Ну, я надеюсь, что они делают именно это.

I hope that's what they're doing it for,

Точнее, для этого.

because there's easier ways of making ad revenue on YouTube.

Ведь на YouTube можно получать доход от рекламы более простыми способами.

You can just make stuff up or steal stuff.

Можно просто что-то придумывать или его воровать.

So if you search for really popular kids' cartoons

И если забить в поисковик популярные мультики для детей,

like "Peppa Pig" or "Paw Patrol,"

«Свинку Пеппу» или «Щенячий патруль»,

you'll find there's millions and millions of these online as well.

можно увидеть, что их тоже миллионы в онлайн-доступе.

Of course, most of them aren't posted by the original content creators.

Разумеется, большинство из них размещены не создателями оригиналов.

They come from loads and loads of different random accounts,

Их выкладывают с сотни различных случайных аккаунтов,

and it's impossible to know who's posting them

и почти невозможно узнать, кто именно их выкладывает

or what their motives might be.

и каковы их цели.

Does that sound kind of familiar?

Звучит знакомо?

Because it's exactly the same mechanism

Потому что именно по такому механизму

that's happening across most of our digital services,

работает большинство цифровых служб,

where it's impossible to know where this information is coming from.

где невозможно отследить источник информации.

It's basically fake news for kids,

Это как фальшивые новости для детей,

and we're training them from birth

и мы с рождения приучаем их

to click on the very first link that comes along,

жать на первую попавшуюся ссылку,

regardless of what the source is.

не смотря на её источник.

That's doesn't seem like a terribly good idea.

Это не кажется такой уж хорошей идеей.

Here's another thing that's really big on kids' YouTube.

Есть ещё одна очень популярная вещь для детей на YouTube.

This is called the "Finger Family Song."

И это «Песня семьи пальчиков».

Я только что услышал стон в зале.

I just heard someone groan in the audience.

Вот эта «Песня семьи пальчиков».

This is the "Finger Family Song."

This is the very first one I could find.

Это самое раннее, что мне удалось найти.

It's from 2007, and it only has 200,000 views,

Видео загружено в 2007, и у него только 200 000 просмотров,

which is, like, nothing in this game.

что просто ничто в данном случае.

But it has this insanely earwormy tune,

Но у неё дико навязчивый мотив,

which I'm not going to play to you,

и я не буду её включать,

потому что она въестся в ваш мозг,

because it will sear itself into your brain

in the same way that it seared itself into mine,

точно так же, как въелась в мой,

and I'm not going to do that to you.

а я не буду так с вами поступать.

But like the surprise eggs,

Но, как и яйца с сюрпризом,

it's got inside kids' heads

она влезла в головы детям

and addicted them to it.

и застряла там.

So within a few years, these finger family videos

И спустя несколько лет эти песни семьи пальчиков

start appearing everywhere,

начали появляться везде.

and you get versions in different languages

Есть версии на разных языках

with popular kids' cartoons using food

с разными персонажами мультиков,

снятые при помощи еды или каких угодно материалов,

or, frankly, using whatever kind of animation elements

которые есть под рукой.

you seem to have lying around.

And once again, there are millions and millions and millions of these videos

И опять-таки, есть немыслимое, просто невероятное количество таких видео

available online in all of these kind of insane combinations.

в открытом доступе в немыслимых комбинациях.

And the more time you start to spend with them,

И чем больше времени вы с ними проводите,

the crazier and crazier you start to feel that you might be.

тем больше чувствуете, что, возможно, начинаете сходить с ума.

And that's where I kind of launched into this,

Тут-то я и задумался над этим,

that feeling of deep strangeness and deep lack of understanding

над этим чувством полного отчуждения и полнейшего непонимания того,

of how this thing was constructed that seems to be presented around me.

как было создано всё, что мне показывают вокруг.

Because it's impossible to know where these things are coming from.

Так как невозможно узнать, откуда все эти видео берутся.

Например, кто их делает?

Like, who is making them?

Некоторые из них, оказывается, сняты группой профессиональных мультипликаторов.

Some of them appear to be made of teams of professional animators.

Some of them are just randomly assembled by software.

Некоторые просто в случайном порядке подбираются программой.

Some of them are quite wholesome-looking young kids' entertainers.

Некоторые созданы вроде бы адекватными детскими аниматорами.

And some of them are from people

А некоторые придумали люди,

которых, очевидно, вообще нельзя подпускать к детям.

who really clearly shouldn't be around children at all.

(Смех)

(Laughter)

And once again, this impossibility of figuring out who's making this stuff --

И опять-таки, эта невозможность понять, кто создаёт данный контент —

like, this is a bot?

какой-то бот?

Is this a person? Is this a troll?

человек? тролль?

What does it mean that we can't tell the difference

О чём говорит то, что мы уже не можем увидеть разницу

between these things anymore?

между ними?

And again, doesn't that uncertainty feel kind of familiar right now?

И не кажется ли вам теперь эта неопределённость знакомой?

So the main way people get views on their videos --

Основной способ получения просмотров своих видео —

and remember, views mean money --

и помните, просмотры значат деньги —

is that they stuff the titles of these videos with these popular terms.

это напихать в название видео популярные словечки.

So you take, like, "surprise eggs"

Например, берёте «яйца с сюрпризом»

and then you add "Paw Patrol," "Easter egg,"

и добавляете «Щенячий патруль», «пасхальные яйца»

or whatever these things are,

или вообще что угодно.

all of these words from other popular videos into your title,

Пишете всё это в названии,

пока это не превратится в бессмысленный набор слов,

until you end up with this kind of meaningless mash of language

that doesn't make sense to humans at all.

который совершенно не понятен людям.

Because of course it's only really tiny kids who are watching your video,

Потому что, разумеется, смотреть это видео будут лишь маленькие дети,

and what the hell do they know?

а что они вообще понимают?

Your real audience for this stuff is software.

Ваша настоящая аудитория в таких случаях — это программы, ПО.

It's the algorithms.

Это алгоритмы.

It's the software that YouTube uses

Это софт, который использует YouTube,

to select which videos are like other videos,

чтобы отбирать видео, которые похожи на другие видео,

to make them popular, to make them recommended.

чтобы делать их популярными, ставить в рекомендованное.

And that's why you end up with this kind of completely meaningless mash,

И поэтому вы видите такую бессмысленную кашу

both of title and of content.

как в названии, так и в содержании.

But the thing is, you have to remember,

Но вам нужно помнить,

there really are still people within this algorithmically optimized system,

что за этой оптимизированной для алгоритмов системой стоят люди.

people who are kind of increasingly forced to act out

Люди, которым приходится разбираться

these increasingly bizarre combinations of words,

в этом диком наборе слов,

like a desperate improvisation artist responding to the combined screams

словно музыкант-импровизатор, который отвечает на крики

of a million toddlers at once.

миллионов малышей.

There are real people trapped within these systems,

В эти системы впутаны настоящие люди,

and that's the other deeply strange thing about this algorithmically driven culture,

и это уже другой невероятно странный аспект этой культуры алгоритмов.

because even if you're human,

Потому что, даже если вы человек,

you have to end up behaving like a machine

вам приходится вести себя как машина,

чтобы просто выжить.

just to survive.

Кроме того, по ту сторону экрана

And also, on the other side of the screen,

there still are these little kids watching this stuff,

всё-таки сидят маленькие дети.

stuck, their full attention grabbed by these weird mechanisms.

Их как заворожённых удерживают эти странные механизмы.

And most of these kids are too small to even use a website.

И большинству из них слишком рано даже пользоваться этим сайтом.

They're just kind of hammering on the screen with their little hands.

Они просто молотят по экрану своими ручками.

And so there's autoplay,

Но благодаря автовоспроизведению

эти видео проигрываются снова и снова по кругу

where it just keeps playing these videos over and over and over in a loop,

endlessly for hours and hours at a time.

долгие, долгие часы.

And there's so much weirdness in the system now

Сейчас у этой системы есть такая особенность,

that autoplay takes you to some pretty strange places.

что автовоспроизведение заводит вас в крайне странные места.

This is how, within a dozen steps,

Вот так через цепочку в десяток видео

you can go from a cute video of a counting train

вы можете от милого видео с паровозиком, обучающим счёту,

to masturbating Mickey Mouse.

попасть на мастурбирующего Микки Мауса.

Yeah. I'm sorry about that.

Прошу прощения за это.

This does get worse.

Дальше ещё хуже.

This is what happens

Вот что происходит,

when all of these different keywords,

когда куча разных ключевых слов,

all these different pieces of attention,

куча всяких завлекалочек

this desperate generation of content,

и эта бессмысленная генерация контента

all comes together into a single place.

оказываются в одном месте.

This is where all those deeply weird keywords come home to roost.

Вот, где гнездятся все эти до ужаса странные ключевые слова.

You cross-breed the finger family video

Вы скрещиваете видео про семью пальчиков

with some live-action superhero stuff,

с кадрами из фильмов про супергероев,

you add in some weird, trollish in-jokes or something,

добавляете странные локальные шутки,

and suddenly, you come to a very weird place indeed.

и внезапно оказываетесь в наистраннейшем месте.

The stuff that tends to upset parents

Контент, напрягающий родителей,

is the stuff that has kind of violent or sexual content, right?

обычно с наличием жестоких или сексуальных сцен, так?

Children's cartoons getting assaulted,

Персонажей детских мультиков насилуют,

getting killed,

убивают,

weird pranks that actually genuinely terrify children.

издеваются таким образом, что это пугает детей.

What you have is software pulling in all of these different influences

А происходит это потому, что программа использует всё это,

чтобы автоматически генерировать самые страшные детские кошмары.

to automatically generate kids' worst nightmares.

And this stuff really, really does affect small children.

И такой контент действительно оказывает влияние на детей.

Parents report their children being traumatized,

Родители жалуются на то, что их дети получают психотравмы,

becoming afraid of the dark,

боятся темноты,

боятся своих любимых персонажей мультиков.

becoming afraid of their favorite cartoon characters.

If you take one thing away from this, it's that if you have small children,

Если вы что-то отсюда и вынесете — если у вас маленькие дети,

держите их подальше от YouTube.

keep them the hell away from YouTube.

(Applause)

(Аплодисменты)

But the other thing, the thing that really gets to me about this,

Но с другой стороны, меня очень беспокоит,

is that I'm not sure we even really understand how we got to this point.

что мы даже не знаем, как мы дошли до такого.

We've taken all of this influence, all of these things,

Мы взяли все эти вещи

and munged them together in a way that no one really intended.

и совместили их так, как никто из нас не желал.

And yet, this is also the way that we're building the entire world.

Но так мы строим весь мир.

We're taking all of this data,

Мы берём все эти данные,

a lot of it bad data,

очень много плохих данных,

a lot of historical data full of prejudice,

много исторических данных, переполненных предрассудками,

full of all of our worst impulses of history,

со всеми нашими худшими мотивами в истории,

and we're building that into huge data sets

и мы строим из этого огромные базы данных,

and then we're automating it.

а затем их автоматизируем.

And we're munging it together into things like credit reports,

И всё это выливается в кредитные отчёты,

into insurance premiums,

страховые платежи,

into things like predictive policing systems,

профилактические системы надзора,

into sentencing guidelines.

директивы по назначению наказаний.

This is the way we're actually constructing the world today

Вот как мы строим наш мир сегодня

на основе этих данных.

out of this data.

And I don't know what's worse,

И я не знаю, что хуже:

that we built a system that seems to be entirely optimized

то, что мы строим полностью оптимизированные системы

for the absolute worst aspects of human behavior,

для худших аспектов человеческого поведения,

or that we seem to have done it by accident,

или то, что мы делаем это непредумышленно,

without even realizing that we were doing it,

не отдавая отчёт своим действиям,

because we didn't really understand the systems that we were building,

потому что не до конца понимаем системы, которые построили,

and we didn't really understand how to do anything differently with it.

и теперь мы не знаем, как что-то изменить.

There's a couple of things I think that really seem to be driving this

Есть две причины, по которым, как мне кажется, на YouTube

всё есть так, как есть.

most fully on YouTube,

and the first of those is advertising,

И первая причина — это реклама,

which is the monetization of attention

что по сути является монетаризацией внимания,

without any real other variables at work,

никаких других целей она не преследует

any care for the people who are actually developing this content,

и не заботится о людях, в действительности разрабатывающих контент.

the centralization of the power, the separation of those things.

Никакой централизации власти, никакого разграничения.

And I think however you feel about the use of advertising

Как бы вы ни относились к использованию рекламы

to kind of support stuff,

для поддержки продуктов,

the sight of grown men in diapers rolling around in the sand

то, что кто-то, не понимая работы алгоритма, надеется,

in the hope that an algorithm that they don't really understand

что валяющиеся в песке взрослые мужики в подгузниках

will give them money for it

принесут им деньги,

suggests that this probably isn't the thing

наводит на мысли, что мы, вероятно,

that we should be basing our society and culture upon,

не на этом должны основывать наше общество и культуру

и не так их спонсировать.

and the way in which we should be funding it.

And the other thing that's kind of the major driver of this is automation,

Вторая причина, являющаяся основной, — это автоматизация,

которая всё это распределяет,

which is the deployment of all of this technology

as soon as it arrives, without any kind of oversight,

как только оно появляется, без какого-либо надзора.

and then once it's out there,

А когда оно становится доступным,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

мы как бы разводим руками и говорим: «Это не мы, это всё технологии».

Like, "We're not involved in it."

Или: «Мы тут ни при чём».

That's not really good enough,

Так не пойдёт,

because this stuff isn't just algorithmically governed,

потому что всё это не только подчиняется алгоритмам,

it's also algorithmically policed.

но и ими контролируется.

When YouTube first started to pay attention to this,

Когда в YouTube впервые обратили внимание на это,

the first thing they said they'd do about it

сначала они сказали,

was that they'd deploy better machine learning algorithms

что разработают новые алгоритмы машинного обучения,

to moderate the content.

чтобы следить за контентом.

Well, machine learning, as any expert in it will tell you,

Машинное обучение, по словам любого эксперта, —

is basically what we've started to call

это, по сути, то, что мы начали называть

software that we don't really understand how it works.

софтом, принцип работы которого мы не понимаем.

And I think we have enough of that already.

И я считаю, что с нас хватит этого.

We shouldn't be leaving this stuff up to AI to decide

Мы не должны перекладывать на искусственный интеллект решение,

what's appropriate or not,

что приемлемо, а что нет,

because we know what happens.

ведь мы знаем, что будет.

It'll start censoring other things.

Он станет подвергать цензуре и другие вещи:

It'll start censoring queer content.

видео гомосексуального содержания,

It'll start censoring legitimate public speech.

законные публичные выступления.

What's allowed in these discourses,

То, что дозволено в этом плане

it shouldn't be something that's left up to unaccountable systems.

не должно решаться непостижимыми системами.

It's part of a discussion all of us should be having.

Это должно решаться в ходе беседы между всеми нами.

But I'd leave a reminder

Но я напомню,

that the alternative isn't very pleasant, either.

что альтернатива тоже неблагоприятна.

YouTube also announced recently

YouTube недавно объявил,

that they're going to release a version of their kids' app

что выпустит версию приложения для детей,

которое будет полностью проверяться людьми.

that would be entirely moderated by humans.

Facebook -- Zuckerberg said much the same thing at Congress,

Цукерберг в Конгрессе сказал, что в Facebook будет то же самое,

when pressed about how they were going to moderate their stuff.

когда его спросили, как будет проверяться их контент.

He said they'd have humans doing it.

Он сказал, что это поручат людям.

И имеют в виду они то,

And what that really means is,

что первыми видео увидят не дети,

instead of having toddlers being the first person to see this stuff,

а сомнительные работники с низкой зарплатой,

you're going to have underpaid, precarious contract workers

без должной поддержки психического здоровья,

without proper mental health support

которых эти видео также травмируют.

being damaged by it as well.

(Смех)

(Laughter)

И я думаю, что все мы можем достичь гораздо большего.

And I think we can all do quite a lot better than that.

(Аплодисменты)

(Applause)

The thought, I think, that brings those two things together, really, for me,

На мой взгляд, эти вещи объединяет между собой

is agency.

наличие посредника.

It's like, how much do we really understand -- by agency, I mean:

То есть то, что мы понимаем через посредника.

how we know how to act in our own best interests.

Иными словами, то, как мы понимаем, как вести себя в своих интересах.

Which -- it's almost impossible to do

А это сделать почти невозможно

in these systems that we don't really fully understand.

в условиях тех систем, которые мы не полностью понимаем.

Inequality of power always leads to violence.

Неравное распределение власти всегда приводит к насилию.

And we can see inside these systems

И мы видим, что с этими системами

that inequality of understanding does the same thing.

неравный уровень понимания приводит к тому же.

If there's one thing that we can do to start to improve these systems,

Если мы как-то и можем улучшить эти системы,

it's to make them more legible to the people who use them,

то только сделав их понятнее пользователям,

чтобы каждый из нас имел представление

so that all of us have a common understanding

о том, что там на самом деле происходит.

of what's actually going on here.

The thing, though, I think most about these systems

Однако, я думаю, что основное здесь то,

is that this isn't, as I hope I've explained, really about YouTube.

что эти системы, как я, надеюсь, объяснил, касаются не конкретно YouTube.

It's about everything.

Они касаются всего.

These issues of accountability and agency,

Проблемы контроля и посредничества,

of opacity and complexity,

неясности и сложности,

of the violence and exploitation that inherently results

насилия и эксплуатации, которая, по сути, происходит

из-за концентрации власти в нескольких руках —

from the concentration of power in a few hands --

these are much, much larger issues.

это очень серьёзные проблемы.

And they're issues not just of YouTube and not just of technology in general,

И это проблемы не только YouTube и не только технологий в целом,

and they're not even new.

они даже не новы.

They've been with us for ages.

Они существовали годами.

But we finally built this system, this global system, the internet,

Но мы наконец создали эту систему, всемирную сеть — интернет,

that's actually showing them to us in this extraordinary way,

которая представляет их нам так невероятно,

making them undeniable.

что их стало невозможно отрицать.

Technology has this extraordinary capacity

Технологии обладают необычайной возможностью

to both instantiate and continue

как поддерживать, так и развивать

all of our most extraordinary, often hidden desires and biases

все наши самые странные и тайные желания и склонности,

and encoding them into the world,

раскрывать их всему миру,

but it also writes them down so that we can see them,

а также фиксирует их так, что мы их замечаем

so that we can't pretend they don't exist anymore.

и больше не можем делать вид, будто их не существует.

We need to stop thinking about technology as a solution to all of our problems,

Мы должны перестать видеть в технологиях решение всех наших проблем

but think of it as a guide to what those problems actually are,

и вместо этого относиться к ним как к средству выявления этих проблем,

so we can start thinking about them properly

чтобы можно было размышлять в правильном ключе

and start to address them.

и начать их решать.

Thank you very much.

Спасибо огромное.

(Аплодисменты)

(Applause)

Thank you.

Спасибо.

(Applause)

(Аплодисменты)

Helen Walters: James, thank you for coming and giving us that talk.

Хелен Уолтерс: Джеймс, спасибо, что пришёл и выступил у нас.

Что замечательно,

So it's interesting:

когда на ум приходят фильмы, в которых роботы господствуют над миром,

when you think about the films where the robotic overlords take over,

it's all a bit more glamorous than what you're describing.

всё это кажется более привлекательным, чем то, о чём ты рассказал.

But I wonder -- in those films, you have the resistance mounting.

Но меня волнует вот что: в этих фильмах всегда есть какое-то сопротивление.

Is there a resistance mounting towards this stuff?

Есть ли сопротивление в данном случае?

Do you see any positive signs, green shoots of resistance?

Видишь ли ты какие-то зачатки и предзнаменования сопротивления?

James Bridle: I don't know about direct resistance,

Джеймс Брайдл: Не знаю насчёт прямого сопротивления,

because I think this stuff is super long-term.

ещё слишком рано для этого.

Думаю, это глубоко заложено в нашей культуре.

I think it's baked into culture in really deep ways.

A friend of mine, Eleanor Saitta, always says

Моя подруга Элеанор Саитта, всегда говорит,

that any technological problems of sufficient scale and scope

что любая технологическая проблема глобального масштаба —

are political problems first of all.

это в первую очередь политическая проблема.

So all of these things we're working to address within this

И всё, над чем мы работаем,

are not going to be addressed just by building the technology better,

нельзя разрешить, просто разработав улучшенные технологии,

необходимо менять общество, которое эти технологии создаёт.

but actually by changing the society that's producing these technologies.

So no, right now, I think we've got a hell of a long way to go.

Так что нет, на данный момент мы ещё слишком далеки от этого.

But as I said, I think by unpacking them,

Но как я сказал, по-моему, разбирая их,

by explaining them, by talking about them super honestly,

объясняя их, откровенно говоря о них,

мы можем по крайней мере запустить этот процесс.

we can actually start to at least begin that process.

HW: And so when you talk about legibility and digital literacy,

ХУ: Когда ты говоришь о доступности и цифровой грамотности,

I find it difficult to imagine

мне трудно представить,

that we need to place the burden of digital literacy on users themselves.

что мы должны переложить это бремя на самих пользователей.

But whose responsibility is education in this new world?

Но кто же будет ответственен за обучение в этом новом мире?

JB: Again, I think this responsibility is kind of up to all of us,

ДБ: Опять-таки, думаю, ответственность лежит на всех нас,

that everything we do, everything we build, everything we make,

и всё, что мы делаем, создаём, строим,

needs to be made in a consensual discussion

должно совершаться при всеобщем согласии,

with everyone who's avoiding it;

включая тех, кто избегает этого обсуждения.

that we're not building systems intended to trick and surprise people

И мы должны быть уверены, что создаём системы не для обмана людей,

into doing the right thing,

чтобы они сделали что нам нужно,

but that they're actually involved in every step in educating them,

но что люди действительно вовлечены в процесс обучения на каждом этапе,

because each of these systems is educational.

потому что все эти системы образовательные.

That's what I'm hopeful about, about even this really grim stuff,

Я надеюсь, что даже такая безжалостная штука,

that if you can take it and look at it properly,

если правильно к ней подойти и разобраться,

it's actually in itself a piece of education

несёт в себе элемент обучения,

that allows you to start seeing how complex systems come together and work

которое позволит вам увидеть, как сложные системы взаимодействуют

and maybe be able to apply that knowledge elsewhere in the world.

и, возможно, впоследствии применить эти знания где-нибудь ещё.

HW: James, it's such an important discussion,

ХУ: Джеймс, это такая важная тема,

and I know many people here are really open and prepared to have it,

и я знаю, что многие здесь открыты и готовы к разговору,

поэтому спасибо, что начал наше утро.

so thanks for starting off our morning.

ДБ: Спасибо большое. Спасибо.

JB: Thanks very much. Cheers.

(Аплодисменты)

(Applause)