The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Translator: Mai Nguyen Reviewer: Nhu PHAM

I'm James.

Tôi là James.

I'm a writer and artist,

Nhà văn và nghệ sĩ,

and I make work about technology.

và tôi sáng tác phẩm về công nghệ.

I do things like draw life-size outlines of military drones

Tôi vẽ viền máy bay do thám quân sự theo kích thước thật

in city streets around the world,

lên đường phố khắp thế giới,

so that people can start to think and get their heads around

để mọi người bắt đầu suy nghĩ và quan tâm

these really quite hard-to-see and hard-to-think-about technologies.

đến những công nghệ khó nhìn thấy và khó hiểu này.

I make things like neural networks that predict the results of elections

Tôi tạo ra những tác phẩm như mạng dự đoán kết quả bỏ phiếu

based on weather reports,

dựa trên báo cáo thời tiết,

because I'm intrigued about

vì tôi quan tâm đến

what the actual possibilities of these weird new technologies are.

tiềm năng thực sự của những công nghệ mới lạ này.

Năm ngoái, tôi tự chế tạo xe tự lái.

Last year, I built my own self-driving car.

But because I don't really trust technology,

Vì không thật sự tin tưởng vào công nghệ,

I also designed a trap for it.

tôi tự thiết kế luôn đường chạy.

(Laughter)

(Tiếng cười)

And I do these things mostly because I find them completely fascinating,

Tôi làm những việc này không chỉ vì thấy nó cực kỳ thú vị,

mà còn vì tôi nghĩ công nghệ là cách

but also because I think when we talk about technology,

we're largely talking about ourselves

ta nói về bản thân mình

and the way that we understand the world.

cũng như nhìn nhận của ta về thế giới.

So here's a story about technology.

Và đây là một câu chuyện về công nghệ.

This is a "surprise egg" video.

Đây là một video "trứng bất ngờ".

It's basically a video of someone opening up loads of chocolate eggs

Đó cơ bản là video ai đó ngồi mở thật nhiều trứng sô-cô-la

and showing the toys inside to the viewer.

để người xem thấy được đồ chơi bên trong.

That's it. That's all it does for seven long minutes.

Chỉ vậy thôi. Đó là toàn bộ nội dung trong bảy phút.

And I want you to notice two things about this.

Và tôi muốn các bạn chú ý đến hai điều.

First of all, this video has 30 million views.

Thứ nhất, video này đạt 30 triệu lượt xem.

(Laughter)

(Tiếng cười)

And the other thing is,

Điều còn lại là,

it comes from a channel that has 6.3 million subscribers,

nó thuộc một kênh có 6.3 triệu người theo dõi,

that has a total of eight billion views,

với tổng số tám tỷ lượt xem,

and it's all just more videos like this --

chỉ toàn video như thế.

30 million people watching a guy opening up these eggs.

30 triệu người xem ai đó mở những quả trứng này.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Nghe kỳ cục, nhưng nếu bạn gõ "trứng bất ngờ" trên YouTube,

it'll tell you there's 10 million of these videos,

kết quả cho thấy có 10 triệu video như thế,

and I think that's an undercount.

và tôi nghĩ thực tế còn nhiều, nhiều hơn.

I think there's way, way more of these.

If you keep searching, they're endless.

Nếu tiếp tục tìm, bạn sẽ thấy vô số.

There's millions and millions of these videos

Có hàng triệu, hàng triệu video thế này

in increasingly baroque combinations of brands and materials,

dưới đủ mọi hình thức kết hợp giữa nhãn hàng và nội dung,

and there's more and more of them being uploaded every single day.

và mỗi ngày, càng nhiều video như vậy được tải lên.

Like, this is a strange world. Right?

Một thế giới kỳ lạ phải không?

But the thing is, it's not adults who are watching these videos.

Nhưng vấn đề là, những video này không dành cho người lớn,

It's kids, small children.

mà là cho trẻ nhỏ.

These videos are like crack for little kids.

Những video này giống như ma túy với chúng.

There's something about the repetition,

Sự lặp đi lặp lại,

the constant little dopamine hit of the reveal,

những tiết lộ nho nhỏ

that completely hooks them in.

gây kích thích và cuốn hút chúng.

And little kids watch these videos over and over and over again,

Trẻ nhỏ xem những video này hết lần này đến lần khác,

trong hàng giờ, hàng giờ liền.

and they do it for hours and hours and hours.

And if you try and take the screen away from them,

Và nếu bạn cố tách chúng ra khỏi màn hình,

they'll scream and scream and scream.

chúng sẽ la hét dữ dội.

If you don't believe me --

Nếu bạn không tin tôi --

and I've already seen people in the audience nodding --

tôi đã thấy vài khán giả gật đầu --

nếu bạn không tin tôi, hãy hỏi người có con nhỏ,

if you don't believe me, find someone with small children and ask them,

and they'll know about the surprise egg videos.

và họ sẽ biết về những video "trứng bất ngờ" này.

So this is where we start.

Đây là nơi ta bắt đầu.

It's 2018, and someone, or lots of people,

Đây là năm 2018, ai đó, hoặc rất nhiều người,

đang sử dụng cùng một cơ chế mà Facebook và Instagram đang dùng

are using the same mechanism that, like, Facebook and Instagram are using

to get you to keep checking that app,

để khiến bạn liên tục mở chúng ra xem.

and they're using it on YouTube to hack the brains of very small children

Và họ dùng nó trên YouTube để tác động lên não bộ của trẻ nhỏ

in return for advertising revenue.

để đổi lấy lợi nhuận quảng cáo.

Ít ra thì tôi hy vọng đó là điều họ đang làm.

At least, I hope that's what they're doing.

I hope that's what they're doing it for,

Tôi hy vọng đó là mục đích của họ,

because there's easier ways of making ad revenue on YouTube.

bởi có những cách dễ hơn để thu lợi từ quảng cáo trên YouTube.

You can just make stuff up or steal stuff.

Bạn có thể bịa chuyện hoặc ăn cắp nội dung.

So if you search for really popular kids' cartoons

Tìm những phim hoạt hình thật sự phổ biến với trẻ em

like "Peppa Pig" or "Paw Patrol,"

như "Pepper Pig" hoặc "Paw Patrol,"

you'll find there's millions and millions of these online as well.

bạn sẽ thấy có hàng triệu đoạn phim này trên mạng.

Of course, most of them aren't posted by the original content creators.

Tất nhiên, phần lớn không phải do tác giả gốc tải lên.

They come from loads and loads of different random accounts,

Chúng đến từ nhiều tài khoản bất kỳ khác nhau,

and it's impossible to know who's posting them

và không thể biết người tải là ai

or what their motives might be.

hay động cơ của họ là gì.

Does that sound kind of familiar?

Điều này nghe có quen không?

Because it's exactly the same mechanism

Bởi vì đó chính là cơ chế

that's happening across most of our digital services,

đang hoạt động trên hầu hết các dịch vụ kỹ thuật số,

khi ta không thể biết thông tin này đến từ ai.

where it's impossible to know where this information is coming from.

It's basically fake news for kids,

Nó cơ bản là tin giả với trẻ em,

and we're training them from birth

và chúng ta huấn luyện chúng từ bé

to click on the very first link that comes along,

để bấm vào đường dẫn nào xuất hiện đầu tiên

regardless of what the source is.

bất kể nguồn tin là gì.

That's doesn't seem like a terribly good idea.

Có vẻ không phải là một ý tưởng hay.

Còn đây là một thứ khác rất phổ biến với trẻ trên YouTube,

Here's another thing that's really big on kids' YouTube.

This is called the "Finger Family Song."

gọi là "Bài hát Gia đình Ngón tay".

I just heard someone groan in the audience.

Tôi vừa nghe ai đó "ồ" lên.

This is the "Finger Family Song."

Đây là "Bài hát Gia đình Ngón tay", bài xưa nhất mà tôi tìm được.

This is the very first one I could find.

It's from 2007, and it only has 200,000 views,

Từ năm 2007, và chỉ có 200,000 lượt xem.

which is, like, nothing in this game.

Chẳng là gì trong cuộc chơi này cả.

But it has this insanely earwormy tune,

Nhưng nó có một giai điệu bắt tai khủng khiếp,

which I'm not going to play to you,

mà tôi sẽ không phát cho các bạn nghe,

because it will sear itself into your brain

vì nó sẽ in vào não bạn

in the same way that it seared itself into mine,

như cách mà nó đã in vào não tôi,

and I'm not going to do that to you.

và tôi sẽ không làm điều đó với các bạn đâu.

But like the surprise eggs,

Nhưng cũng như trứng bất ngờ, nó len lỏi vào não trẻ

it's got inside kids' heads

and addicted them to it.

và làm chúng bị nghiện.

So within a few years, these finger family videos

Chỉ trong vài năm, những video "Gia đình Ngón tay" này

start appearing everywhere,

xuất hiện khắp nơi, với nhiều phiên bản ngôn ngữ.

and you get versions in different languages

with popular kids' cartoons using food

Những đoạn phim hoạt hình minh hoạ bằng thức ăn

or, frankly, using whatever kind of animation elements

hay bất kỳ yếu tố hoạt hình nào có sẵn.

you seem to have lying around.

Có hàng triệu, hàng triệu video thế này trên mạng

And once again, there are millions and millions and millions of these videos

available online in all of these kind of insane combinations.

với đa dạng những sự kết hợp điên rồ.

And the more time you start to spend with them,

Và càng dành nhiều thời gian để xem,

the crazier and crazier you start to feel that you might be.

bạn càng cảm thấy mình trở nên điên khùng.

And that's where I kind of launched into this,

Đó là khi tôi bắt đầu nhận thấy

một cảm giác kỳ lạ và không thể hiểu nổi

that feeling of deep strangeness and deep lack of understanding

of how this thing was constructed that seems to be presented around me.

về cách những thứ này được tạo ra và hiện diện quanh mình.

Because it's impossible to know where these things are coming from.

Không thể biết được chúng đến từ đâu.

Like, who is making them?

Ai tạo ra chúng?

Some of them appear to be made of teams of professional animators.

Một số có vẻ là từ các nhóm làm phim hoạt hình chuyên nghiệp.

Some of them are just randomly assembled by software.

Một số khác chỉ là do phần mềm sắp xếp ngẫu nhiên.

Some of them are quite wholesome-looking young kids' entertainers.

Một số trông có vẻ là những sản phẩm giải trí chỉn chu cho trẻ,

And some of them are from people

và một số được tạo ra bởi những người

who really clearly shouldn't be around children at all.

rõ ràng là không nên ở gần con nít.

(Laughter)

(Tiếng cười)

And once again, this impossibility of figuring out who's making this stuff --

Một lần nữa, việc không thể lần ra ai tạo ra những thứ này -

liệu có phải là một phần mềm tự động?

like, this is a bot?

Is this a person? Is this a troll?

Hay người thật? Hay là một trò đùa?

What does it mean that we can't tell the difference

Ý nghĩa của việc không thể phân biệt

between these things anymore?

những nguồn này nữa là gì?

And again, doesn't that uncertainty feel kind of familiar right now?

Và cảm giác không chắc chắn này quen thuộc phải không?

Thủ thuật chính để thu hút người xem video,

So the main way people get views on their videos --

and remember, views mean money --

hãy nhớ rằng, lượt xem tạo ra tiền,

is that they stuff the titles of these videos with these popular terms.

là chèn các cụm từ phổ biến vào tiêu đề video.

Chẳng hạn như với "trứng bất ngờ",

So you take, like, "surprise eggs"

and then you add "Paw Patrol," "Easter egg,"

bạn thêm vào tiêu đề "Paw Patrol," "trứng Phục sinh"

or whatever these things are,

all of these words from other popular videos into your title,

hay bất kỳ từ khoá tương tự từ các video nổi tiếng khác

until you end up with this kind of meaningless mash of language

cho tới khi có một hỗn hợp từ ngữ vô nghĩa

that doesn't make sense to humans at all.

mà người thường chẳng thể nào hiểu được.

Because of course it's only really tiny kids who are watching your video,

Tất nhiên chỉ có trẻ nhỏ mới xem những video này,

and what the hell do they know?

và chúng thì biết gì cơ chứ?

Your real audience for this stuff is software.

Khán giả thực sự của những video này là phần mềm, là những thuật toán.

It's the algorithms.

It's the software that YouTube uses

Đó là phần mềm YouTube dùng

to select which videos are like other videos,

để chọn những video giống nhau,

to make them popular, to make them recommended.

phổ biến chúng, gợi ý chúng.

And that's why you end up with this kind of completely meaningless mash,

Đó là lý do, cuối cùng, bạn có thứ hỗn tạp vô nghĩa này,

both of title and of content.

cả trong tiêu đề lẫn nội dung.

But the thing is, you have to remember,

Những vấn đề là, bạn cần phải nhớ,

there really are still people within this algorithmically optimized system,

vẫn còn có con người trong hệ thống tối ưu bằng thuật toán này,

people who are kind of increasingly forced to act out

những người bị buộc phải ngày càng tăng cường

these increasingly bizarre combinations of words,

mức độ kết hợp những từ khóa kỳ dị này,

like a desperate improvisation artist responding to the combined screams

như một nghệ sĩ ứng biến tuyệt vọng đáp lại tiếng la hét

of a million toddlers at once.

của hàng triệu trẻ sơ sinh.

Có những con người thực bị kẹt trong hệ thống này,

There are real people trapped within these systems,

and that's the other deeply strange thing about this algorithmically driven culture,

một điều kỳ lạ khác trong nền văn hóa bị thuật toán chi phối.

because even if you're human,

Vì ngay cả khi là người thật,

you have to end up behaving like a machine

bạn, cuối cùng, cũng phải hành xử như máy để tồn tại.

just to survive.

Ở phía bên kia màn hình cũng vậy,

And also, on the other side of the screen,

there still are these little kids watching this stuff,

trẻ nhỏ xem những thứ này,

stuck, their full attention grabbed by these weird mechanisms.

chúng bị mắc kẹt, hoàn toàn bị cơ chế này cuốn hút.

Phần lớn những đứa trẻ này quá nhỏ để biết cách truy cập trang web.

And most of these kids are too small to even use a website.

They're just kind of hammering on the screen with their little hands.

Chúng đơn giản chỉ là đập bàn tay nhỏ xíu lên màn hình.

And so there's autoplay,

Rồi lại có chức năng tự động phát,

where it just keeps playing these videos over and over and over in a loop,

những video này liên tục

endlessly for hours and hours at a time.

trong một vòng lặp vô tận hàng giờ liền.

And there's so much weirdness in the system now

Hệ thống này giờ đã quá kỳ dị

that autoplay takes you to some pretty strange places.

đến nỗi chức năng tự động phát này sẽ đưa bạn đến những nội dung kỳ lạ.

This is how, within a dozen steps,

Đó là cách mà, trong hơn chục cái nhấp chuột,

you can go from a cute video of a counting train

bạn có thể từ đang xem một video dễ thương về đếm số xe lửa

to masturbating Mickey Mouse.

đến video chuột Mickey thủ dâm.

Yeah. I'm sorry about that.

Đúng vậy. Rất tiếc là như thế.

This does get worse.

Chuyện này ngày càng trở nên tồi tệ.

This is what happens

Đây là điều sẽ xảy ra

when all of these different keywords,

khi tất cả những từ khóa khác nhau này,

all these different pieces of attention,

tất cả những nội dung thu hút này,

this desperate generation of content,

cả một thế hệ thèm khát nội dung này,

all comes together into a single place.

đều tập trung về một chỗ.

This is where all those deeply weird keywords come home to roost.

Dây là nơi mà tất cả những từ khóa kỳ dị này phản tác dụng.

Bạn ghép các video về Gia đình Ngón tay

You cross-breed the finger family video

with some live-action superhero stuff,

với những đoạn phim hành động siêu anh hùng,

you add in some weird, trollish in-jokes or something,

thêm vào trò chơi khăm kỳ cục hay gì đó

and suddenly, you come to a very weird place indeed.

và bạn có được một video hết sức kỳ dị như thế này.

The stuff that tends to upset parents

Thứ thường làm phụ huynh lo lắng

is the stuff that has kind of violent or sexual content, right?

là những nội dung có tính bạo lực hoặc tình dục, đúng không?

Children's cartoons getting assaulted,

Phim hoạt hình cho trẻ bị tấn công,

getting killed,

bị tiêu diệt,

weird pranks that actually genuinely terrify children.

những trò chơi khăm làm cho trẻ bị khủng hoảng.

What you have is software pulling in all of these different influences

Cái bạn có là phần mềm dùng tất cả các luồng ảnh hưởng này

để tự động tạo ra cơn ác mộng tồi tệ nhất cho lũ trẻ.

to automatically generate kids' worst nightmares.

And this stuff really, really does affect small children.

Và nó thật sự tác động lên trẻ nhỏ.

Parents report their children being traumatized,

Phụ huynh cho biết con họ bị khủng hoảng,

becoming afraid of the dark,

sợ bóng tối,

becoming afraid of their favorite cartoon characters.

sợ các nhân vật hoạt hình yêu thích của chúng.

If you take one thing away from this, it's that if you have small children,

Nếu rút ra được điều gì từ việc này, thì đó là nếu bạn có con nhỏ,

keep them the hell away from YouTube.

giữ chúng tránh xa YouTube.

(Applause)

(Vỗ tay)

But the other thing, the thing that really gets to me about this,

Những còn một điều khác thật sự làm tôi quan tâm,

is that I'm not sure we even really understand how we got to this point.

đó là tôi không chắc ta hiểu được vì sao đi đến nước này.

We've taken all of this influence, all of these things,

Ta lấy tất cả những tác nhân, tất cả mọi thứ,

and munged them together in a way that no one really intended.

nhào nặn theo một cách không ai tính trước.

And yet, this is also the way that we're building the entire world.

Nhưng đây cũng là cách ta xây dựng thế giới này.

Ta lấy mọi dữ liệu, phần lớn là dữ liệu xấu,

We're taking all of this data,

a lot of it bad data,

a lot of historical data full of prejudice,

nhiều dữ liệu lịch sử mang đầy định kiến,

full of all of our worst impulses of history,

và những thôi thúc tồi tệ nhất.

and we're building that into huge data sets

Ta dựng nên những bộ dữ liệu lớn

and then we're automating it.

rồi tự động hóa chúng,

And we're munging it together into things like credit reports,

Ta lồng ghép chúng vào những thứ như báo cáo tín dụng,

into insurance premiums,

phí bảo hiểm,

into things like predictive policing systems,

hệ thống cảnh sát ngăn ngừa,

into sentencing guidelines.

nguyên tắc tuyên án.

This is the way we're actually constructing the world today

Đây là cách chúng ta xây dựng nên thế giới ngày nay

out of this data.

từ dữ liệu.

And I don't know what's worse,

Và tôi không biết điều gì tồi tệ hơn,

that we built a system that seems to be entirely optimized

tạo ra một hệ thống hoàn toàn tối ưu

for the absolute worst aspects of human behavior,

cho các khía cạnh tệ hại nhất trong hành vi con người,

or that we seem to have done it by accident,

hay vô tình làm thế mà không hề hay biết,

without even realizing that we were doing it,

because we didn't really understand the systems that we were building,

vì ta không thật sự hiểu hệ thống mà ta dựng nên,

and we didn't really understand how to do anything differently with it.

và không biết làm cách nào làm khác đi.

There's a couple of things I think that really seem to be driving this

Có một vài thứ, tôi nghĩ,

là nguyên nhân chính thúc đẩy chuyện này trên YouTube,

most fully on YouTube,

and the first of those is advertising,

đầu tiên là quảng cáo,

which is the monetization of attention

tức là kiếm tiền từ sự chú ý

without any real other variables at work,

mà không thật sự tính đến các yếu tố khác,

any care for the people who are actually developing this content,

không quan tâm đến những người thật sự tạo ra các nội dung này,

the centralization of the power, the separation of those things.

sự tập trung quyền lực, và sự tách biệt khỏi những thứ khác.

And I think however you feel about the use of advertising

Dù góc nhìn của bạn về quảng cáo là gì

to kind of support stuff,

có thể là ủng hộ,

the sight of grown men in diapers rolling around in the sand

thì cảnh những người trưởng thành mặc tã lăn lộn trên cát

in the hope that an algorithm that they don't really understand

với hy vọng sẽ nhận được tiền từ một thuật toán khó hiểu

will give them money for it

suggests that this probably isn't the thing

cho thấy đây chắc chắn không phải là

that we should be basing our society and culture upon,

nền tảng mà ta mong muốn tạo dựng xã hội và văn hóa,

and the way in which we should be funding it.

và không phải cách mà ta nên ủng hộ.

And the other thing that's kind of the major driver of this is automation,

Còn một nhân tố chính thúc đẩy quá trình tự động hóa này

là sự triển khai tất cả các công nghệ

which is the deployment of all of this technology

ngay khi vừa phát triển xong mà không có bất kỳ sự giám sát.

as soon as it arrives, without any kind of oversight,

and then once it's out there,

Để rồi khi phát sinh vấn đề,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

ta bực bội phát biểu: "Không phải do chúng tôi, mà là do công nghệ."

Like, "We're not involved in it."

Như thể: "Chúng tôi vô can." Không đủ thuyết phục,

That's not really good enough,

because this stuff isn't just algorithmically governed,

bởi thuật toán không chỉ điều khiển thứ này,

it's also algorithmically policed.

mà còn kiểm soát nó.

When YouTube first started to pay attention to this,

Khi YouTube bắt đầu quan tâm đến vấn đề này,

the first thing they said they'd do about it

giải pháp đầu tiên của họ

was that they'd deploy better machine learning algorithms

là cải tiến thuật toán máy học (machine learning)

to moderate the content.

để giám sát nội dung.

Well, machine learning, as any expert in it will tell you,

Về máy học, bất kỳ chuyên gia nào cũng sẽ nói

is basically what we've started to call

cơ bản đó là tên gọi phần mềm

software that we don't really understand how it works.

khi ta bắt đầu không hiểu cách thức nó hoạt động.

And I think we have enough of that already.

Tôi nghĩ, thế đã là quá đủ.

We shouldn't be leaving this stuff up to AI to decide

Chúng ta không nên để trí tuệ nhân tạo quyết định

what's appropriate or not,

những gì là phù hợp, bởi ta biết điều gì sẽ xảy ra.

because we know what happens.

It'll start censoring other things.

Nó sẽ bắt đầu kiểm duyệt những nội dung khác.

It'll start censoring queer content.

Nội dung liên quan đến đồng tính, Những phát biểu hợp pháp trước công chúng.

It'll start censoring legitimate public speech.

What's allowed in these discourses,

Những gì được tự do ngôn luận

it shouldn't be something that's left up to unaccountable systems.

thì không nên bị loại bỏ bởi các hệ thống khó hiểu này.

It's part of a discussion all of us should be having.

Bởi đó là một phần thảo luận mà tất cả chúng ta nên tham gia.

But I'd leave a reminder

Nhưng tôi xin nhắc một điều

that the alternative isn't very pleasant, either.

là giải pháp thay thế cũng không hề dễ chịu.

YouTube also announced recently

YouTube vừa thông báo

that they're going to release a version of their kids' app

họ sẽ đưa ra phiên bản ứng dụng dành cho trẻ em

that would be entirely moderated by humans.

hoàn toàn do con người giám sát.

Facebook -- Zuckerberg said much the same thing at Congress,

Zuckerberg của Facebook cũng nói tương tự trước Quốc hội,

when pressed about how they were going to moderate their stuff.

khi bị hỏi dồn sẽ giám sát sản phẩm của họ ra sao.

He said they'd have humans doing it.

Anh ta nói họ có người để làm điều đó.

And what that really means is,

Ý nghĩa thật của nó là

instead of having toddlers being the first person to see this stuff,

thay vì trẻ nhỏ là người đầu tiên thấy những thứ này,

you're going to have underpaid, precarious contract workers

ta sẽ có những nhân công hợp đồng bấp bênh, lương thấp,

without proper mental health support

không được hỗ trợ sức khỏe tinh thần đúng cách, xem qua nó trước.

being damaged by it as well.

(Laughter)

(Tiếng cười)

And I think we can all do quite a lot better than that.

Tôi nghĩ chúng ta có thể làm tốt hơn thế.

(Applause)

(Vỗ tay)

Theo tôi, việc đưa hai điều đó lại với nhau là sự đại diện.

The thought, I think, that brings those two things together, really, for me,

is agency.

Sự đại diện, ý tôi là, chúng ta hiểu biết đến đâu,

It's like, how much do we really understand -- by agency, I mean:

how we know how to act in our own best interests.

chúng ta biết phải làm gì để đạt lợi ích tốt nhất.

Which -- it's almost impossible to do

Điều này gần như là không thể

in these systems that we don't really fully understand.

với những hệ thống mà chúng ta không hiểu hết.

Inequality of power always leads to violence.

Bất bình đẳng về quyền lực luôn dẫn đến bạo lực.

And we can see inside these systems

Và có thể thấy trong những hệ thống này,

that inequality of understanding does the same thing.

bất bình đẳng tri thức cũng dẫn đến điều tương tự.

If there's one thing that we can do to start to improve these systems,

Nếu có thể làm gì để cải thiện hệ thống này

it's to make them more legible to the people who use them,

đó là làm cho chúng dễ hiểu hơn với người dùng,

so that all of us have a common understanding

để tất cả chúng ta đều có đủ hiểu biết

of what's actually going on here.

về những gì thực sự đang diễn ra.

The thing, though, I think most about these systems

Tuy nhiên, tôi nghĩ những vấn đề hệ thống này

is that this isn't, as I hope I've explained, really about YouTube.

không chỉ là của YouTube, như đã giải thích.

It's about everything.

Mà là tất cả.

These issues of accountability and agency,

Những vấn đề về trách nhiệm và đại diện,

of opacity and complexity,

về sự thiếu minh bạch và sự phức tạp,

of the violence and exploitation that inherently results

về bạo lực và khai thác bạo lực

do sự tập trung quyền lực vào một số ít người,

from the concentration of power in a few hands --

these are much, much larger issues.

đó là những vấn đề to lớn hơn nhiều.

And they're issues not just of YouTube and not just of technology in general,

Đây không chỉ là vấn đề của YouTube, hay của giới công nghệ,

và nó, thậm chí, cũng không mới.

and they're not even new.

They've been with us for ages.

Đây là vấn đề của chúng ta từ rất lâu.

But we finally built this system, this global system, the internet,

Nhưng khi ta xây dựng hệ thống toàn cầu này, Internet,

that's actually showing them to us in this extraordinary way,

các vấn đề này nổi lên theo những cách thức dị thường,

making them undeniable.

không thể chối bỏ được.

Technology has this extraordinary capacity

Công nghệ có khả năng phi thường

to both instantiate and continue

để vừa đại diện vừa chắp cánh

all of our most extraordinary, often hidden desires and biases

những khao khát và định kiến bất thường nhất mà ta hằng chôn giấu

rồi mã hóa và đưa chúng ra thế giới,

and encoding them into the world,

but it also writes them down so that we can see them,

nhưng nó cũng ghi lại để chúng ta thấy,

so that we can't pretend they don't exist anymore.

để chúng ta không còn có thể vờ như chúng không hiện hữu.

We need to stop thinking about technology as a solution to all of our problems,

Ta cần ngưng cho rằng công nghệ là giải pháp cho mọi vấn đề,

but think of it as a guide to what those problems actually are,

mà xem chúng như một hướng dẫn cho các vấn đề thật sự,

so we can start thinking about them properly

để ta có thể suy nghĩ thấu đáo

and start to address them.

và tìm cách giải quyết.

Thank you very much.

Xin cám ơn.

(Applause)

(Vỗ tay)

Thank you.

Xin cám ơn.

(Applause)

(Vỗ tay)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: Cảm ơn James đã đến và nói về vấn đề này,

Thật thú vị khi nhớ lại các bộ phim,

So it's interesting:

when you think about the films where the robotic overlords take over,

trong đó, người máy nắm quyền thống trị,

it's all a bit more glamorous than what you're describing.

hơi hào nhoáng hơn so với những gì anh mô tả.

But I wonder -- in those films, you have the resistance mounting.

Những tôi thắc mắc, trong phim, ta nhận thấy sự phản kháng tăng dần.

Is there a resistance mounting towards this stuff?

Vậy trong thực tế, có sự phản kháng nào với những thứ này không?

Do you see any positive signs, green shoots of resistance?

Anh có thấy những dấu hiệu tích cực nào của sự phản kháng?

James Bridle: I don't know about direct resistance,

JB: Tôi không biết có sự phản kháng trực tiếp không,

because I think this stuff is super long-term.

vì tôi nghĩ vấn đề này cực kỳ lâu dài.

I think it's baked into culture in really deep ways.

Nó ăn sâu vào nền văn hóa theo nhiều cách.

A friend of mine, Eleanor Saitta, always says

Bạn tôi, Eleanor Saitta, luôn nói

that any technological problems of sufficient scale and scope

tất cả những vấn đề công nghệ có quy mô và phạm vi đủ lớn

are political problems first of all.

trước tiên, đều là vấn đề chính trị.

So all of these things we're working to address within this

Vì thế, tất cả những vấn đề mà ta nhắm đến

are not going to be addressed just by building the technology better,

không thể được giải quyết chỉ bằng việc tạo ra công nghệ tốt hơn,

but actually by changing the society that's producing these technologies.

mà là thay đổi cách xã hội tạo ra những công nghệ này.

So no, right now, I think we've got a hell of a long way to go.

Vậy nên, không, tôi nghĩ ta còn một chặng đường rất dài.

But as I said, I think by unpacking them,

Nhưng như tôi nói, bằng cách chia nhỏ vấn đè,

by explaining them, by talking about them super honestly,

giải thích và nói về chúng một cách trung thực,

we can actually start to at least begin that process.

ta thật sự có thể bắt đầu quá trình phản kháng đó.

HW: And so when you talk about legibility and digital literacy,

HW: Khi anh nói về am hiểu công nghệ kỹ thuật số,

I find it difficult to imagine

tôi thấy khó mà tưởng tượng

that we need to place the burden of digital literacy on users themselves.

việc đặt gánh nặng tìm hiểu kỹ thuật lên người dùng.

But whose responsibility is education in this new world?

Nhưng ai chịu trách nhiệm về giáo dục trong thế giới mới này?

JB: Again, I think this responsibility is kind of up to all of us,

JB: Tôi nghĩ trách nhiệm này thuộc về tất cả chúng ta,

that everything we do, everything we build, everything we make,

tất cả những gì ta làm, dựng nên, tạo ra,

needs to be made in a consensual discussion

phải được thực hiện với sự thảo luận và đồng ý

with everyone who's avoiding it;

với tất cả những người đang tránh né chúng;

that we're not building systems intended to trick and surprise people

chúng ta không tạo ra hệ thống

để lừa người khác làm điều đúng đắn,

into doing the right thing,

but that they're actually involved in every step in educating them,

mà thực sự từng bước giáo dục họ,

because each of these systems is educational.

bởi mỗi hệ thống này đều có tính giáo dục.

That's what I'm hopeful about, about even this really grim stuff,

Đó là điều tôi hy vọng, là ngay cả trong thực tế ảm đạm,

that if you can take it and look at it properly,

nếu xem xét nó một cách đúng đắn,

it's actually in itself a piece of education

bạn sẽ thấy nó thật sự là giáo dục

that allows you to start seeing how complex systems come together and work

cho phép bạn nhìn thấy

cách hệ thống phức tạp này kết hợp và hoạt động

and maybe be able to apply that knowledge elsewhere in the world.

và có thể áp dụng kiến thức này ở nơi khác trên thế giới.

HW: James, it's such an important discussion,

HW: James, đây là một cuộc thảo luận quan trọng,

and I know many people here are really open and prepared to have it,

mà tôi biết nhiều người đã rất cởi mở và sẵn lòng lắng nghe.

so thanks for starting off our morning.

Cảm ơn vì đã chia sẻ với chúng tôi sáng hôm nay.

JB: Thanks very much. Cheers.

JB: Cám ơn rất nhiều.

(Applause)

(Vỗ tay)