The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Перекладач: Inna Fedorenko

I'm James.

Мене звати Джеймс.

I'm a writer and artist,

Я письменник та художник,

and I make work about technology.

і я розробляю технології.

Я займаюсь тим, що малюю військові дрони у реальних масштабах

I do things like draw life-size outlines of military drones

in city streets around the world,

на вулицях міст по всьому світі,

so that people can start to think and get their heads around

щоб люди почали задумуватися та осмислювати

these really quite hard-to-see and hard-to-think-about technologies.

ці незвичні та чудернацькі технології.

Я створюю такі речі, як нейронні мережі, які передбачають результати виборів

I make things like neural networks that predict the results of elections

based on weather reports,

на основі звітів про погоду,

because I'm intrigued about

оскільки мене інтригують

what the actual possibilities of these weird new technologies are.

справжні можливості цих нових чудернацьких технологій.

Минулого року я створив свій власний автомобіль без водія.

Last year, I built my own self-driving car.

But because I don't really trust technology,

Та оскільки я не дуже довіряю технологіям,

I also designed a trap for it.

я наготував і пастку для нього.

(Laughter)

(Сміх)

And I do these things mostly because I find them completely fascinating,

Я займаюсь цим, бо мене це захоплює,

but also because I think when we talk about technology,

ба більше, я вважаю, коли мова заходить про технології,

we're largely talking about ourselves

то в основному, ми думаємо про самих себе

and the way that we understand the world.

та власний спосіб розуміння світу.

So here's a story about technology.

Тож ось історія про технології.

Це відео "яйця з сюрпризом".

This is a "surprise egg" video.

It's basically a video of someone opening up loads of chocolate eggs

Це просто відео, де хтось відкриває купу шоколадних яєць,

and showing the toys inside to the viewer.

і показує глядачеві, що там всередині.

І все. Це все триває сім довгих хвилин.

That's it. That's all it does for seven long minutes.

And I want you to notice two things about this.

Я хочу, щоб ви звернули увагу на дві речі.

First of all, this video has 30 million views.

Перш за все, у цього відео 30 мільйонів переглядів.

(Laughter)

(Сміх)

Інша річ,

And the other thing is,

it comes from a channel that has 6.3 million subscribers,

що це відео з каналу, у якого 6.3 мільйонів підписників,

that has a total of eight billion views,

всього у них 8 мільярдів переглядів.

and it's all just more videos like this --

Таких відео ще багато —

30 мільйонів людей дивляться, як хлопець відкриває яйця.

30 million people watching a guy opening up these eggs.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Звучить досить дивно, та коли ви пошукаєте "яйце з сюрпризом" на ютубі,

it'll tell you there's 10 million of these videos,

він покаже вам ще 10 мільйонів таких відео,

and I think that's an undercount.

я думаю, це ще дуже мало.

I think there's way, way more of these.

Думаю, такого набагато більше.

If you keep searching, they're endless.

Продовжуйте шукати — у цього просто немає кінця краю.

There's millions and millions of these videos

Мільйони та мільйони цих відео

in increasingly baroque combinations of brands and materials,

у мерехтливих поєднаннях брендів та матеріалів,

and there's more and more of them being uploaded every single day.

і кожного дня цих відео завантажується все більше і більше.

Like, this is a strange world. Right?

Дивний світ. Чи не так?

But the thing is, it's not adults who are watching these videos.

Але справа в тому, що ці відео переглядають не дорослі.

It's kids, small children.

Це діти, малі діти.

These videos are like crack for little kids.

Такі відео для дітей, як наркотики.

There's something about the repetition,

Тут справа криється у повторах —

the constant little dopamine hit of the reveal,

постійних маленьких дозах дофаміну, коли щось відкривається,

that completely hooks them in.

і це цілковито захоплює їх.

And little kids watch these videos over and over and over again,

І маленькі діти переглядають такі відео,

і вони роблять це годинами і годинами.

and they do it for hours and hours and hours.

And if you try and take the screen away from them,

Якщо ви спробуєте забрати від них екран,

they'll scream and scream and scream.

вони будуть кричати і кричати.

If you don't believe me --

Якщо ви не вірите мені,

and I've already seen people in the audience nodding --

я вже бачу, що дехто в залі киває,

якщо ви не вірите мені, знайдіть когось, у кого є дитина, та спитайте:

if you don't believe me, find someone with small children and ask them,

and they'll know about the surprise egg videos.

що їй відомо про відео з яйцями із сюрпризом.

So this is where we start.

Саме з цього ми почнемо.

It's 2018, and someone, or lots of people,

Це 2018, і хтось, а може, й багато людей,

для того, щоб ми постійно зависали в одній і тій же програмі,

are using the same mechanism that, like, Facebook and Instagram are using

користується механізмом, подібним до того, що в Інстаграмі та Фейсбуці,

to get you to keep checking that app,

and they're using it on YouTube to hack the brains of very small children

але в Ютубі мета цього механізму — це зламати голови малих дітей

in return for advertising revenue.

в обмін на дохід від реклами.

Врешті, я сподіваюсь, що саме це їх мета.

At least, I hope that's what they're doing.

Сподіваюсь, що заради цього вони все провертають,

I hope that's what they're doing it for,

because there's easier ways of making ad revenue on YouTube.

оскільки це легкий шлях заробити на рекламі в Ютубі.

You can just make stuff up or steal stuff.

Ми можемо або виробляти, або викрадати продукт.

Якщо ви шукаєте дійсно популярні дитячі мультфільми,

So if you search for really popular kids' cartoons

like "Peppa Pig" or "Paw Patrol,"

такі як: "Свинка Пеппа" чи "Щенячий патруль",

you'll find there's millions and millions of these online as well.

то знайдете мільйони та мільйони таких відео.

Of course, most of them aren't posted by the original content creators.

Звичайно, що більшість з них не випущена оригінальними творцями.

They come from loads and loads of different random accounts,

Вони належать тоннам інших випадкових аккаунтів,

and it's impossible to know who's posting them

тож неможливо дізнатися, хто їх постить

or what their motives might be.

чи які їх мотиви.

Нічого не нагадує?

Does that sound kind of familiar?

Because it's exactly the same mechanism

Бо саме такий механізм

that's happening across most of our digital services,

діє на більшості цифрових сервісів,

коли неможливо дізнатися, звідки походить ця інформація.

where it's impossible to know where this information is coming from.

Простіше кажучи, це фейкові новини для дітей.

It's basically fake news for kids,

and we're training them from birth

А ми з народження навчаємо їх

to click on the very first link that comes along,

натискати на перше ліпше посилання,

regardless of what the source is.

незалежно від його джерела.

That's doesn't seem like a terribly good idea.

Це явно не надто хороша ідея.

А ось інша дуже популярна річ дитячого Ютубу.

Here's another thing that's really big on kids' YouTube.

This is called the "Finger Family Song."

Це зветься "Пісня родини пальчиків".

I just heard someone groan in the audience.

Я чув, як хтось застогнав в аудиторії.

This is the "Finger Family Song."

Це "Пісня родини пальчиків".

This is the very first one I could find.

Це найперша, яку я знайшов.

It's from 2007, and it only has 200,000 views,

Вона з 2007, і у неї лише 200 000 переглядів,

which is, like, nothing in this game.

що, практично, нічого не значить у цій грі.

But it has this insanely earwormy tune,

Але в неї така заїдаюча мелодія,

which I'm not going to play to you,

яку я не буду вмикати,

because it will sear itself into your brain

бо вона просто пропалить вам мозок,

in the same way that it seared itself into mine,

так само, як випалила мій.

and I'm not going to do that to you.

Не буду такого з вами чинити.

But like the surprise eggs,

Але так само, як і яйця з сюрпризами,

it's got inside kids' heads

воно проникло в голови дітей

and addicted them to it.

і підсадило їх.

So within a few years, these finger family videos

За кілька років це відео із родиною пальчиків

start appearing everywhere,

почало з'являтись усюди,

and you get versions in different languages

з'явились версії різними мовами

with popular kids' cartoons using food

з популярними дитячими мультиками, які використовували їжу,

or, frankly, using whatever kind of animation elements

чи, чесно кажучи, будь-які анімаційні елементи,

you seem to have lying around.

що є навколо.

And once again, there are millions and millions and millions of these videos

І знову, сила-силенна цих відео

available online in all of these kind of insane combinations.

стала доступною онлайн в усіх цих божевільних комбінаціях.

And the more time you start to spend with them,

І чим більше часу ви проводите з ними,

the crazier and crazier you start to feel that you might be.

тим частіше задумуєтесь, яким божевіллям це може ще обернутися.

And that's where I kind of launched into this,

Саме тут підключився і я,

відчуття глибокої дивини та глибокої нестачі розуміння,

that feeling of deep strangeness and deep lack of understanding

of how this thing was constructed that seems to be presented around me.

як же ж було складено ось це все навколо мене.

Because it's impossible to know where these things are coming from.

Бо просто неможливо дізнатися, звідки ці речі.

Хто їх робить?

Like, who is making them?

Some of them appear to be made of teams of professional animators.

Деякі з них, виявляється, створюють команди професійних аніматорів.

Some of them are just randomly assembled by software.

Деякі з них просто довільно збирає програма.

Some of them are quite wholesome-looking young kids' entertainers.

Деякі, досить гарні, створені молодими творцями дитячого контенту.

And some of them are from people

Деякі створені людьми,

who really clearly shouldn't be around children at all.

які і близько не повинні підходити до дітей.

(Laughter)

(Сміх)

And once again, this impossibility of figuring out who's making this stuff --

І знову ж таки, марна трата сил вирахувати, хто ж створює цей матеріал:

like, this is a bot?

Is this a person? Is this a troll?

чи це бот,

чи це людина, а чи троль?

What does it mean that we can't tell the difference

Це означає, що ми вже не можемо знайти різницю?

between these things anymore?

And again, doesn't that uncertainty feel kind of familiar right now?

І знову, чи не нагадує, бува, щось ця непевність?

So the main way people get views on their videos --

Основний спосіб, яким люди отримують перегляди,

and remember, views mean money --

і пам'ятайте, перегляди означають гроші —

is that they stuff the titles of these videos with these popular terms.

це заголовки, напхані різними термінами.

So you take, like, "surprise eggs"

Наприклад, беремо "яйця з сюрпризами",

and then you add "Paw Patrol," "Easter egg,"

потім додаємо "Щенячий патруль", "Великоднє яйце"

or whatever these things are,

all of these words from other popular videos into your title,

чи будь-що інше —

всі ці слова з інших популярних відео,

until you end up with this kind of meaningless mash of language

доки це не стане такою мішаниною,

that doesn't make sense to humans at all.

що взагалі не матиме жодного смислу для інших людей.

Because of course it's only really tiny kids who are watching your video,

Бо саме діти дивляться ваші відео,

and what the hell do they know?

а що вони в біса знають?

Your real audience for this stuff is software.

Вашим справжнім глядачем є програма.

It's the algorithms.

Алгоритми.

It's the software that YouTube uses

Ютуб використовує ці алгоритми

to select which videos are like other videos,

для підбору схожих відео,

to make them popular, to make them recommended.

щоб зробити їх популярними, та рекомендованими.

And that's why you end up with this kind of completely meaningless mash,

Саме тому із заголовками та змістом

both of title and of content.

відбувається така нісенітниця.

But the thing is, you have to remember,

Але одну річ ви маєте запам'ятати —

there really are still people within this algorithmically optimized system,

за всією цією алгоритмічно оптимізованою системою стоять люди,

люди яких постійно змушують зображати

people who are kind of increasingly forced to act out

these increasingly bizarre combinations of words,

ці неймовірно чудернацькі комбінації слів.

like a desperate improvisation artist responding to the combined screams

Вони ніби відчайдуші актори-імпровізатори, які реагують на численні крики

of a million toddlers at once.

мільйонів малюків.

У пастку цієї системи потрапили справжні люди,

There are real people trapped within these systems,

and that's the other deeply strange thing about this algorithmically driven culture,

що також дивна річ в цій керованій алгоритмами культурі,

because even if you're human,

бо навіть, якщо ви людина,

you have to end up behaving like a machine

то щоб вижити,

ви маєте поводитись, як машина.

just to survive.

Однак по іншу сторону екрану

And also, on the other side of the screen,

there still are these little kids watching this stuff,

все ще сидять ці маленькі діти, які все це дивляться,

вони тут застрягли, бо вся їх увага поглинається цими дивними механізмами.

stuck, their full attention grabbed by these weird mechanisms.

And most of these kids are too small to even use a website.

Більшість цих дітей занадто маленькі, щоб навіть користуватися сайтом.

They're just kind of hammering on the screen with their little hands.

Вони просто молотять по екрану своїми пальчиками.

And so there's autoplay,

Тож стоїть автоплей,

який продовжує програвати ці відео знову і знову, і так по колу,

where it just keeps playing these videos over and over and over in a loop,

endlessly for hours and hours at a time.

безкінечно, годинами.

And there's so much weirdness in the system now

Зараз ця система стала така дика,

that autoplay takes you to some pretty strange places.

цей автоплей заведе тебе до справді дивних місць.

This is how, within a dozen steps,

Саме так, за десяток кроків

ви дійдете від милого відео рахуючого поїзду

you can go from a cute video of a counting train

to masturbating Mickey Mouse.

до мастурбуючого Міккі-Мауса.

Так. Вибачте за це.

Yeah. I'm sorry about that.

This does get worse.

Та буває навіть гірше.

This is what happens

Саме це і відбувається,

when all of these different keywords,

коли всі ці різні слова,

all these different pieces of attention,

різні шматочки уваги,

this desperate generation of content,

таке відчайдушне генерування контенту —

all comes together into a single place.

все це поєднується в одному місці.

This is where all those deeply weird keywords come home to roost.

Ось розсадок цих дивних слів.

Суміш відео із сім'єю пальців

You cross-breed the finger family video

з якоюсь супергеройською темою,

with some live-action superhero stuff,

you add in some weird, trollish in-jokes or something,

потім йдуть якісь дивні жарти, тролінг чи ще щось,

and suddenly, you come to a very weird place indeed.

і раптом, ви опиняєтесь у справді дивному місці.

The stuff that tends to upset parents

Саме матеріал із сексуальним чи насильницьким підтекстом

is the stuff that has kind of violent or sexual content, right?

засмучує батьків.

У дитячих мультиках на персонажів нападають,

Children's cartoons getting assaulted,

getting killed,

вбивають,

weird pranks that actually genuinely terrify children.

так жартують, що це наганяє на дітей паніку.

What you have is software pulling in all of these different influences

Якщо у вас буде програма, які зіштовхне всі ці сили,

то вона автоматично створить найгірший дитячий кошмар.

to automatically generate kids' worst nightmares.

And this stuff really, really does affect small children.

І ця річ дійсно впливає на маленьких дітей.

Parents report their children being traumatized,

Батьки говорять, що їх діти отримали травму,

becoming afraid of the dark,

тепер вони бояться темряви,

becoming afraid of their favorite cartoon characters.

бояться улюблених персонажів мультфільмів.

If you take one thing away from this, it's that if you have small children,

Якщо ви хочете цього уникнути, коли у вас є маленькі діти —

keep them the hell away from YouTube.

тримайте їх геть від Ютубу.

(Applause)

(Оплески)

But the other thing, the thing that really gets to me about this,

Але мене дивує дещо інше —

is that I'm not sure we even really understand how we got to this point.

ми навіть не розуміємо, як тут опинилися.

We've taken all of this influence, all of these things,

Ми всі піддалися цьому впливу всіх цих речей,

and munged them together in a way that no one really intended.

і ми навіть не очікували, що вони так заплутаються.

And yet, this is also the way that we're building the entire world.

І все ж, саме таким способом ми створюємо цілий світ.

Ми беремо всі ці дані —

We're taking all of this data,

a lot of it bad data,

чимало поганих даних,

a lot of historical data full of prejudice,

чимало історичних даних, повних упередження,

full of all of our worst impulses of history,

повних найгірших історичних імпульсів,

and we're building that into huge data sets

і вбудовуємо все це у величезні блоки даних,

and then we're automating it.

які потім автоматизуємо.

And we're munging it together into things like credit reports,

Ми всі разом видозмінюємо це у такі речі, як кредитні звіти,

into insurance premiums,

страхові внески,

into things like predictive policing systems,

упереджені політичні системи,

into sentencing guidelines.

винесення вироків.

This is the way we're actually constructing the world today

Саме таким способом ми сьогодні створюємо світ,

out of this data.

виходячи з цих даних.

And I don't know what's worse,

І я не знаю, що гірше —

that we built a system that seems to be entirely optimized

те, що ми створюємо систему, які видається цілком сприятливою

for the absolute worst aspects of human behavior,

для найгірших аспектів людської поведінки,

or that we seem to have done it by accident,

чи те, що ми, здається, створили її такою випадково,

without even realizing that we were doing it,

навіть не усвідомлюючи, що робимо,

because we didn't really understand the systems that we were building,

бо ми навіть не розуміємо систему, яку створюємо,

і не розуміємо, як інакше поводити себе з нею.

and we didn't really understand how to do anything differently with it.

There's a couple of things I think that really seem to be driving this

Я думаю, існує пара речей, які дійсно заправляють всім цим на Ютубі

most fully on YouTube,

у повну силу.

and the first of those is advertising,

Перша з них, це реклама —

which is the monetization of attention

монетизація уваги

without any real other variables at work,

без жодної видозміни у роботі,

any care for the people who are actually developing this content,

жодної турботи про людей, які виробляють цей контент,

the centralization of the power, the separation of those things.

та централізація сили, розділення тих речей.

And I think however you feel about the use of advertising

Гадаю, щоб ви не думали про використання реклами

to kind of support stuff,

як вид підтримки продукту,

the sight of grown men in diapers rolling around in the sand

та вигляд дорослих чоловіків у памперсах, які качаються по піску

in the hope that an algorithm that they don't really understand

в надії на те, що алгоритм, який вони навіть не розуміють,

will give them money for it

принесе їм за це гроші,

suggests that this probably isn't the thing

явно свідчить про те, що це не та річ,

that we should be basing our society and culture upon,

на якій ми повинні базувати культуру та суспільство,

and the way in which we should be funding it.

і не той шлях, яким ми повинні його забезпечувати.

And the other thing that's kind of the major driver of this is automation,

Інша річ полягає в тому, що основним двигуном є автоматизм —

випуск технологій,

which is the deployment of all of this technology

as soon as it arrives, without any kind of oversight,

як тільки вони з'являються, без жодного їх перегляду,

and then once it's out there,

і як тільки вони опиняються поза досяжністю,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

піднімати лапки вгору і говорити: " То не ми, то технології".

Like, "We're not involved in it."

Типу "ми до цього не причетні".

That's not really good enough,

Але це не є добре,

because this stuff isn't just algorithmically governed,

оскільки ці речі не просто алгоритмічно керуються,

it's also algorithmically policed.

а мають алгоритмічну політику.

When YouTube first started to pay attention to this,

Коли Ютуб почав звертати на це увагу,

the first thing they said they'd do about it

то перше, що вони заявили,

was that they'd deploy better machine learning algorithms

що створять кращу машину, яка вивчатиме алгоритми,

to moderate the content.

щоб моделювати контент.

Well, machine learning, as any expert in it will tell you,

Що ж, машинне навчання, і як скаже нам кожен експерт,

is basically what we've started to call

так ми називаємо програми,

software that we don't really understand how it works.

чию роботу ми не розуміємо.

І я думаю, з нас вже достатньо.

And I think we have enough of that already.

Не варто дозволяти штучному розуму вирішувати,

We shouldn't be leaving this stuff up to AI to decide

що прийнятне для нас, а що ні,

what's appropriate or not,

because we know what happens.

оскільки ми знаємо, що саме відбувається.

It'll start censoring other things.

Він почне моніторити інші речі.

It'll start censoring queer content.

Він почне моніторити дивний контент.

It'll start censoring legitimate public speech.

Він почне переглядати законні публічні промови.

What's allowed in these discourses,

Те, що дозволяється в цьому дискурсі,

it shouldn't be something that's left up to unaccountable systems.

не повино лишатися на розсуд невідповідних систем.

It's part of a discussion all of us should be having.

Це частина дискусії, у якій всі ми повинні брати участь.

But I'd leave a reminder

Але я хочу нагадати,

that the alternative isn't very pleasant, either.

що альтернатива також не є дуже приємною.

YouTube also announced recently

Недавно Ютуб оголосив,

that they're going to release a version of their kids' app

що вони збираються відкрити свою версію дитячого додатку,

that would be entirely moderated by humans.

яким будуть керувати тільки люди.

Фейсбук — Цукерберг сказав те ж саме в Конгресі,

Facebook -- Zuckerberg said much the same thing at Congress,

when pressed about how they were going to moderate their stuff.

коли на нього натиснули, щоб він змінив контент.

He said they'd have humans doing it.

Він сказав, що ним керуватимуть люди.

And what that really means is,

Насправді, це означає,

instead of having toddlers being the first person to see this stuff,

що першими ці відео будуть переглядати не діти,

you're going to have underpaid, precarious contract workers

а контрактні робітники без достатньої заробітної плати

та без відповідного психічного обстеження,

without proper mental health support

being damaged by it as well.

яким це все також наноситиме травму.

(Laughter)

(Сміх)

And I think we can all do quite a lot better than that.

Та я думаю, ми можемо зробити краще.

(Applause)

(Оплески)

Думка, яка об'єднує ці дві речі разом, особисто для мене,

The thought, I think, that brings those two things together, really, for me,

це організація,

is agency.

It's like, how much do we really understand -- by agency, I mean:

тобто, наскільки добре ми розуміємо організацію,

how we know how to act in our own best interests.

тобто, чи знаємо ми, як діяти у власних інтересах.

Що просто неможливо зробити

Which -- it's almost impossible to do

in these systems that we don't really fully understand.

у цих системах, яких ми дійсно не розуміємо.

Нерівність сил завжди приводить до насилля.

Inequality of power always leads to violence.

І ми можемо помітити, що всередині цих систем

And we can see inside these systems

that inequality of understanding does the same thing.

нерівність розуміння створює те ж саме.

If there's one thing that we can do to start to improve these systems,

Якщо існує те, що можна зробити для поліпшення цих систем —

it's to make them more legible to the people who use them,

зробити їх більш розбірливими для тих людей, які ними користуються,

so that all of us have a common understanding

щоб ми мали хоча б загальне уявлення,

of what's actually going on here.

що там насправді відбувається.

The thing, though, I think most about these systems

На мою думку, справа в тому, що більшість цих систем,

is that this isn't, as I hope I've explained, really about YouTube.

як я сподіваюсь, не відноситься до Ютубу.

It's about everything.

Вони стосуються всього.

These issues of accountability and agency,

Проблеми відповідальності та організації,

of opacity and complexity,

непрозорості та складності,

of the violence and exploitation that inherently results

насилля та експлуатації незворотньо приводить

від концентрації влади у кількох руках

from the concentration of power in a few hands --

these are much, much larger issues.

до набагато, набагато більших проблем.

Це проблеми не тільки Ютубу і не технологій в цілому,

And they're issues not just of YouTube and not just of technology in general,

вони навіть не нові.

and they're not even new.

They've been with us for ages.

Вони віками були з нами.

But we finally built this system, this global system, the internet,

Та врешті, ми створили цю систему — глобальну систему, Інтернет,

яка фактично показує їх нам цим екстраординарним шляхом,

that's actually showing them to us in this extraordinary way,

making them undeniable.

роблячи їх незапаречними.

Technology has this extraordinary capacity

У технологій є ця екстраординарна здатність

to both instantiate and continue

як показувати приклад, так і грати

all of our most extraordinary, often hidden desires and biases

на наших найприхованіших бажаннях та упередженнях

та розкодовувати їх для світу,

and encoding them into the world,

but it also writes them down so that we can see them,

а також записувати їх, щоб ми змогли їх побачити,

щоб ми не могли прикидатися, ніби їх не існує.

so that we can't pretend they don't exist anymore.

We need to stop thinking about technology as a solution to all of our problems,

Нам потрібно припинити вважати технологіїї вирішенням всіх наших проблем,

і почати вважати їх гідом до наших справжніх проблем,

but think of it as a guide to what those problems actually are,

so we can start thinking about them properly

щоб ми почали відповідно думати про них

and start to address them.

і почали їх вирішувати.

Thank you very much.

Дуже дякую.

(Applause)

(Оплески)

Thank you.

Дякую.

(Applause)

(Оплески)

Helen Walters: James, thank you for coming and giving us that talk.

Хелен Волтерс: Джеймсе, дякую тобі за цю цікаву промову.

Це дуже цікаво:

So it's interesting:

when you think about the films where the robotic overlords take over,

коли ти думаєш про фільми, у яких перемогли роботичні надрозуми,

it's all a bit more glamorous than what you're describing.

це виглядає більш гламурно, ніж ти щойно описав.

But I wonder -- in those films, you have the resistance mounting.

Але мені цікаво — в тих фільмах присутній опір.

Is there a resistance mounting towards this stuff?

А чи можна запобігти цьому контенту?

Do you see any positive signs, green shoots of resistance?

Ти бачиш якісь позитивні знаки оживлення опору?

Джеймс Брідл: Я нічого не знаю про прямий опір,

James Bridle: I don't know about direct resistance,

because I think this stuff is super long-term.

бо вважаю, що цей контент супердовготривалий.

Думаю, це стало дуже поглибленою культурою.

I think it's baked into culture in really deep ways.

A friend of mine, Eleanor Saitta, always says

Мій друг, Елеанор Саїтта, завжди говорить,

that any technological problems of sufficient scale and scope

що будь-які технологічні проблеми у широкому спектрі та ракурсі

are political problems first of all.

перш за все, є політичними проблемами.

So all of these things we're working to address within this

Тож всі ці проблеми, над якими ми працюємо та вирішуємо,

are not going to be addressed just by building the technology better,

не будуть вирішуватися самим лише покращенням технологій,

but actually by changing the society that's producing these technologies.

а зміною суспільства, яке створює ці технології.

So no, right now, I think we've got a hell of a long way to go.

Тож прямо зараз, я вважаю, що у нас до чорта довгий шлях.

But as I said, I think by unpacking them,

Як я говорив, розпакувавши їх,

by explaining them, by talking about them super honestly,

пояснивши їх, відверто поговоривши про них,

ми по-справжньому зможемо хоча б розпочати цей процес.

we can actually start to at least begin that process.

HW: And so when you talk about legibility and digital literacy,

Х.В.: Ти говорив про зручність та про цифрову грамотність.

Мені важко уявити,

I find it difficult to imagine

that we need to place the burden of digital literacy on users themselves.

що нам потрібно місце, де самі користувачі будуть нести тягар цифрової грамотності.

But whose responsibility is education in this new world?

Але хто буде відповідальним за це у цьому новому світі?

JB: Again, I think this responsibility is kind of up to all of us,

Д.Б.: Знову, думаю, ця відповідальність залежить від усіх нас,

that everything we do, everything we build, everything we make,

все що ми робимо, будуємо, створюємо,

needs to be made in a consensual discussion

повинно створюватися в координованій дискусії,

with everyone who's avoiding it;

із кожним, хто цього уникає;

that we're not building systems intended to trick and surprise people

ми не будемо перероблювати системи, які обманним чином залучатимуть людей

into doing the right thing,

до чогось хорошого,

but that they're actually involved in every step in educating them,

але вони залучені у кожний крок освіти,

because each of these systems is educational.

бо кожна із цих систем є освітньою.

That's what I'm hopeful about, about even this really grim stuff,

Саме тому я маю сподівання і на цей похмурий контент,

that if you can take it and look at it properly,

якщо ви поглянете на нього під правильним кутом,

it's actually in itself a piece of education

то, саме по собі, це і є частиною освіти,

яка дозволить вам почати бачити комплексні системи за роботою

that allows you to start seeing how complex systems come together and work

і, можливо, дасть змогу застосовувати ці знання в іншому місці.

and maybe be able to apply that knowledge elsewhere in the world.

Х.В.: Джеймсе, це така важлива дискусія,

HW: James, it's such an important discussion,

and I know many people here are really open and prepared to have it,

і я знаю, що багато присутніх тут дійсно відкриті та готові до неї,

тож дякую тобі за її початок сьогодні.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

Д.Б.: Дуже дякую. Дякую.

(Оплески)

(Applause)