The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Translator: Kelwalin Dhanasarnsombut Reviewer: Uma Read

I'm James.

ผมชื่อเจมส์ครับ

I'm a writer and artist,

ผมเป็นนักเขียนและศิลปิน

and I make work about technology.

และทำงานเกี่ยวกับเทคโนโลยี

I do things like draw life-size outlines of military drones

งานของผมได้แก่การเขียนแบบ โดรนทหารที่มีขนาดเท่าจริง

in city streets around the world,

บนถนนในเมืองทั่วโลก

so that people can start to think and get their heads around

เพื่อที่คนจะได้เริ่มครุ่นคิดกัน และลองนึกตรึกตรองกันดู

these really quite hard-to-see and hard-to-think-about technologies.

มันค่อนข้างที่จะเป็นเทคโนโลยี ที่เห็นได้ยากและคนไม่ค่อยจะคิดถึง

I make things like neural networks that predict the results of elections

งานอื่นของผมเช่น เครือข่ายประสาท ที่คาดคะเนผลลัพธ์ของการเลือกตั้ง

based on weather reports,

ตามการรายงานพยากรณ์อากาศ

because I'm intrigued about

เพราะว่าผมสนใจว่า

what the actual possibilities of these weird new technologies are.

เทคโนโลยีใหม่ ๆ แปลก ๆ เหล่านี้ จะทำอะไรได้บ้าง

Last year, I built my own self-driving car.

ปีที่แล้ว ผมสร้างรถยนต์ที่ขับเคลื่อนเอง ด้วยตัวผมเอง

But because I don't really trust technology,

เพราะว่าผมไม่ไว้ใจเทคโนโลยีจริง ๆ

I also designed a trap for it.

ผมออกแบบหลุมพรางให้มัน

(Laughter)

(เสียงหัวเราะ)

And I do these things mostly because I find them completely fascinating,

และผมทำงานเหล่านี้เป็นส่วนใหญ่ เพราะว่าผมพบว่ามันน่าทึ่งอย่างยิ่ง

but also because I think when we talk about technology,

แต่ยังเป็นเพราะว่าผมคิดว่า เมื่อเราพูดถึงเทคโนโลยี

we're largely talking about ourselves

เรามักพูดกันถึงตัวเราเอง

and the way that we understand the world.

และในแบบที่เราเข้าใจโลก

So here's a story about technology.

ครับ นี่จะเป็นเรื่องราวเกี่ยวกับเทคโนโลยี

This is a "surprise egg" video.

นี่คือวีดีโอ "ไข่พิศวง"

It's basically a video of someone opening up loads of chocolate eggs

เป็นวีดีโอที่มีการเปิดไข่ช็อกโกแลต

and showing the toys inside to the viewer.

เพื่อดูว่าของเล่นข้างในคืออะไร

That's it. That's all it does for seven long minutes.

ตลอดเจ็ดนาที ก็มีแค่นั้นแหละครับ

And I want you to notice two things about this.

และผมก็อยากให้คุณสังเกตอะไรสองอย่าง

First of all, this video has 30 million views.

อย่างแรกเลย วีดีโอนี้มีผู้ชม 30 ล้านครั้ง

(Laughter)

(เสียงหัวเราะ)

And the other thing is,

และอีกอย่างก็คือ

it comes from a channel that has 6.3 million subscribers,

มันมาจากช่องที่มีผู้ติดตาม 6.3 ล้านคน

that has a total of eight billion views,

นั่นเท่ากับมีผู้ชมทั้งหมดแปดพันล้านครั้ง

and it's all just more videos like this --

และมันก็ยังมีวีดีโอแบบนี้อีกมากมาย

30 million people watching a guy opening up these eggs.

คน 30 ล้านคน กำลังดูการแกะไข่พวกนี้

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

มันฟังดูพิลึก แต่ถ้าคุณลองค้นหาด้วยคำว่า "ไข่พิศวง" บนยูทูป

it'll tell you there's 10 million of these videos,

มันจะบอกว่ามีวีดีโอเหล่านี้ 10 ล้านวีดีโอ

and I think that's an undercount.

และผมคิดว่านั่นยังไม่หมด

I think there's way, way more of these.

ผมคิดว่ามันยังมีวีดีโอพวกนี้อยู่อีกมาก

If you keep searching, they're endless.

ถ้าคุณลองค้นหาไปเรื่อย ๆ พวกมันมีมากมายมหาศาล

There's millions and millions of these videos

มีวีดีโอแบบนี้มากมายนับไม่ถ้วน

in increasingly baroque combinations of brands and materials,

ด้วยยี่ห้อและวัสดุต่าง ๆ ที่พิศดารขึ้นเรื่อย ๆ

and there's more and more of them being uploaded every single day.

และพวกมันก็ถูกโหลดขึ้นไปบนยูทูป มากขึ้นทุกวัน

Like, this is a strange world. Right?

โลกนี้มันประหลาด ใช่ไหมครับ

But the thing is, it's not adults who are watching these videos.

แต่ประเด็นก็คือ คนที่ดูวีดีโอเหล่านี้ ไม่ใช่ผู้ใหญ่

It's kids, small children.

แต่เป็นเด็ก เด็กเล็ก ๆ

These videos are like crack for little kids.

วีดีโอเหล่านี้ เหมือนเป็นหลุมดักเด็กเล็ก

There's something about the repetition,

มันมีอะไรบ้างอย่างเกี่ยวกับการทำซ้ำ ๆ

the constant little dopamine hit of the reveal,

เหมือนการเปิดที่กระตุ้นโดปามีน ทีละนิดอย่างสม่ำเสมอ

that completely hooks them in.

ที่ดึงความสนใจของเด็กได้อย่างอยู่หมัด

And little kids watch these videos over and over and over again,

และเด็ก ๆ ที่ดูวีดีโอเหล่านี้ ซ้ำแล้วซ้ำเล่า

and they do it for hours and hours and hours.

และพวกเขาก็ดูกันเป็นชั่วโมง ๆ

And if you try and take the screen away from them,

และถ้าคุณพยายาม ที่จะดึงจอไปจากเด็กแล้วล่ะก็

they'll scream and scream and scream.

พวกเขาก็จะร้องจ้ากันไม่หยุด

If you don't believe me --

ถ้าไม่เชื่อผมนะ

and I've already seen people in the audience nodding --

แล้วผมก็เห็นคนที่กำลังฟังอยู่ พยักหน้าเห็นด้วยแล้ว

if you don't believe me, find someone with small children and ask them,

ถ้าคุณไม่เชื่อผม ลองถามใครสักคน ที่มีลูกเล็ก ๆ สิครับ

and they'll know about the surprise egg videos.

พวกเขารู้ดีเลยเรื่องวีดีโอไข่พิศวง

So this is where we start.

และนี่คือจุดเริ่มต้นของเรา

It's 2018, and someone, or lots of people,

ในปี ค.ศ. 2018 ใครบางคน หรืออาจจะหลาย ๆ คน

are using the same mechanism that, like, Facebook and Instagram are using

ใช้กลไกเดียวกับที่เฟสบุ๊กหรืออินสตาแกรมใช้

to get you to keep checking that app,

เพื่อให้คุณกลับไปกดดูแอพเรื่อย ๆ

and they're using it on YouTube to hack the brains of very small children

และพวกเขาก็ใช้มันกับยูทูป และเข้ายึดครองสมองของเด็กตัวเล็ก ๆ

in return for advertising revenue.

เพื่อให้ได้มาซึ่งค่าโฆษณา

At least, I hope that's what they're doing.

อย่างน้อย ผมก็หวังว่า นั่นเป็นสิ่งที่พวกเขาทำ

I hope that's what they're doing it for,

ผมหวังว่า เขาทำเพื่อผลกำไรนั้น

because there's easier ways of making ad revenue on YouTube.

เพราะว่ามันมีวิธีที่ง่ายกว่านี้ ในการสร้างผลกำไรบนยูทูป

You can just make stuff up or steal stuff.

คุณก็แค่สร้างอะไรสักอย่างขึ้นมา หรือขโมยอะไรมาก็ได้

So if you search for really popular kids' cartoons

ถ้าคุณลองค้นหาการ์ตูนที่เด็ก ๆ ชื่นชอบ

like "Peppa Pig" or "Paw Patrol,"

อย่าง "ปาป้า พิ๊ก" หรือ "พาว เพโทร"

you'll find there's millions and millions of these online as well.

คุณก็จะพบกับวีดีโอออนไลน์เช่นนี้ มากมายมหาศาลเช่นกัน

Of course, most of them aren't posted by the original content creators.

แน่นอนล่ะว่า ส่วนใหญ่แล้ว มันไม่ได้ถูกปะไว้ที่นั่นโดยผู้ผลิตวีดีโอ

They come from loads and loads of different random accounts,

พวกมันมาจากผู้ใช้ที่หลากหลาย

and it's impossible to know who's posting them

และเราก็ไม่อาจรู้ได้ว่า ใครเป็นผู้ที่โหลดพวกมันขึ้นไป

or what their motives might be.

หรือพวกเขามีจุดประสงค์อะไร

Does that sound kind of familiar?

ฟังดูคุ้น ๆ ไหมครับ

Because it's exactly the same mechanism

เพราะว่านั่นเป็นกระบวนการเดียวกันเป๊ะ

that's happening across most of our digital services,

ที่เกิดขึ้นกับบริการดิจิทัลอื่น ๆ

where it's impossible to know where this information is coming from.

ซึ่งเราไม่สามารถบอกได้เลย ว่าข้อมูลนี้มาจากไหน

It's basically fake news for kids,

มันเป็นเหมือนข่าวเทียมสำหรับเด็ก

and we're training them from birth

และเรากำลังให้มันสอนเด็กตั้งแต่แบเบาะ

to click on the very first link that comes along,

ให้กดลิงก์แรกที่เห็น

regardless of what the source is.

โดยไม่ต้องคำนึงว่ามันมาจากไหน

That's doesn't seem like a terribly good idea.

นั่นไม่น่าจะเป็นความคิดที่ดีสักเท่าไร

Here's another thing that's really big on kids' YouTube.

นี่เป็นอีกอย่างหนึ่ง ที่นิยมกันในยูทูปของเด็ก ๆ

This is called the "Finger Family Song."

มันเรียกว่า "เพลงครอบครัวนิ้วมือ"

I just heard someone groan in the audience.

ผมว่าผมได้ยินผู้ฟังส่งเสียงคร่ำครวญนะ

This is the "Finger Family Song."

นี่คือ "เพลงครอบครัวนิ้วมือ"

This is the very first one I could find.

นี่เป็นอันแรกที่ผมเจอ

It's from 2007, and it only has 200,000 views,

มันถูกโหลดขึ้นไปตั้งแต่ปี ค.ศ. 2007 และมีผู้ชม 200,000 ครั้ง

which is, like, nothing in this game.

ซึ่งเรียกได้ว่าเล็กน้อยมาก

But it has this insanely earwormy tune,

แต่มันมีทำนองที่ติดหูสุด ๆ

which I'm not going to play to you,

ซึ่งผมจะไม่เปิดให้ฟังนะครับ

because it will sear itself into your brain

เพราะว่ามันจะทำร้ายสมองของคุณ

in the same way that it seared itself into mine,

แบบเดียวกับที่มันทำร้ายสมองของผม

and I'm not going to do that to you.

และผมจะไม่ทำแบบนั้นหรอกครับ

But like the surprise eggs,

แต่เช่นเดียวกันกับ ไข่พิศวง

it's got inside kids' heads

มันบุกเข้าไปในสมองของเด็ก ๆ

and addicted them to it.

และทำให้พวกเขาติดงอมแงม

So within a few years, these finger family videos

ฉะนั้น ภายในไม่กี่ปี วีดีโอเพลงครอบครัวนิ้วมือ

start appearing everywhere,

จะผุดขึ้นทุกหนทุกแห่ง

and you get versions in different languages

และคุณก็จะเห็นมันถูกแปลง เป็นภาษาต่าง ๆ

with popular kids' cartoons using food

โดยมีการ์ตูนที่สร้างจากอาหาร ที่เด็ก ๆ ชอบกัน

or, frankly, using whatever kind of animation elements

หรือใช้แอนิเมชั่นรูปแบบอื่น ๆ

you seem to have lying around.

ที่คุณเคยเห็นมาก่อนหน้านี้

And once again, there are millions and millions and millions of these videos

และอีกครั้งหนึ่ง วีดีโอออนไลน์แบบนี้

available online in all of these kind of insane combinations.

ก็มากมายหลายรูปแบบ บ้าบอคอแตกเหลือเกิน

And the more time you start to spend with them,

และยิ่งคุณใช้เวลากับมันมากเท่าไร

the crazier and crazier you start to feel that you might be.

คุณก็จะยิ่งรู้สึกบ้าบอขึ้นเรื่อย ๆ

And that's where I kind of launched into this,

และนั่นก็เป็นจุดเริ่มต้นของผม ที่มีต่อสิ่งนี้

that feeling of deep strangeness and deep lack of understanding

ความรู้สึกที่แสนแปลกประหลาด และการขาดความเข้าใจโดยสิ้นเชิง

of how this thing was constructed that seems to be presented around me.

ว่าสิ่งที่ปรากฏอยู่รอบตัวผมนี้ ถูกสร้างขึ้นได้อย่างไร

Because it's impossible to know where these things are coming from.

เพราะว่าเราไม่อาจรู้ได้เลย ว่าสิ่งเหล่านี้มาจากไหน

Like, who is making them?

เช่น ใครเป็นผู้สร้าง

Some of them appear to be made of teams of professional animators.

บางวีดีโอน่าจะถูกสร้าง โดยกลุ่มของแอนิเมเตอร์มืออาชีพ

Some of them are just randomly assembled by software.

บางวีดีโออาจถูกนำมารวมกันแบบสุ่ม ๆ โดยซอร์ฟแวร์

Some of them are quite wholesome-looking young kids' entertainers.

บางวีดีโอก็น่าจะ ส่งเสริมให้เกิดความบันเทิงกับเด็ก

And some of them are from people

แต่บางวีดีโอก็น่าจะมาจาก

who really clearly shouldn't be around children at all.

คนที่ควรอยู่ห่าง ๆ เด็กเอาไว้

(Laughter)

(เสียงหัวเราะ)

And once again, this impossibility of figuring out who's making this stuff --

และอีกครั้ง เราไม่อาจรู้ได้เลย ว่าใครเป็นผู้สร้างสิ่งเหล่านี้

like, this is a bot?

โปรแกรมอย่างนั้นหรือ

Is this a person? Is this a troll?

คนทั่วไป หรือว่าเกรียนที่ไหน

What does it mean that we can't tell the difference

มันคืออะไรกันแน่ ที่ว่าเราไม่อาจบอกความแตกต่าง

between these things anymore?

ระหว่างสิ่งเหล่านี้ได้อีกแล้ว

And again, doesn't that uncertainty feel kind of familiar right now?

และอีกแหละ คุณรู้สึกว่า มันคุ้น ๆ บ้างหรือยัง

So the main way people get views on their videos --

โดยทั่วไปวีดีโอเหล่านี้ถูกรับชม

and remember, views mean money --

อ้อ จำนวนครั้งที่ชมหมายถึงเงินนะครับ

is that they stuff the titles of these videos with these popular terms.

ก็เพราะมันมีชื่อหัวข้อ เหมือนกับวีดีโอที่ได้รับความนิยม

So you take, like, "surprise eggs"

ฉะนั้น ใช้ชื่อหัวข้อ เช่น "ไข่พิศวง"

and then you add "Paw Patrol," "Easter egg,"

กับ "พาว เพโทร" และ "ไข่อีสเตอร์"

or whatever these things are,

หรืออะไรก็ตามแต่

all of these words from other popular videos into your title,

ที่เป็นคำจากวีดีโออื่นที่ได้รับความนิยม

until you end up with this kind of meaningless mash of language

จนกระทั่งคุณได้ข้อความ ที่ไร้ซึ่งความหมายทางภาษา

that doesn't make sense to humans at all.

สำหรับคนแล้วจะอ่านไม่เข้าใจเลย

Because of course it's only really tiny kids who are watching your video,

เพราะแน่ล่ะว่า ผู้ชมวีดีโอเหล่านี้ เป็นแค่เด็กเล็ก ๆ เองไม่ใช่หรือ

and what the hell do they know?

พวกเขาจะไปรู้อะไรล่ะ

Your real audience for this stuff is software.

ผู้ชมตัวจริงคือซอร์ฟแวร์

It's the algorithms.

คืออัลกอริธึม

It's the software that YouTube uses

คือซอร์ฟแวร์ที่ยูทูปใช้

to select which videos are like other videos,

เพื่อเลือกวีดีโอที่คล้ายกับวีดีโออื่น

to make them popular, to make them recommended.

เพื่อทำให้พวกมันได้รับความนิยม ได้รับการอ้างถึง

And that's why you end up with this kind of completely meaningless mash,

และเป็นเหตุว่าทำไม มันจึงลงเอย ที่การยำรวมอย่างไร้ความหมายนี้

both of title and of content.

ทั้งหัวข้อและเนื้อหา

But the thing is, you have to remember,

แต่ประเด็นก็คือ คุณต้องจำไว้ว่า

there really are still people within this algorithmically optimized system,

ยังมีคนจริง ๆ ที่อยู่เบื้องหลัง ระบบที่ถูกปรับด้วยอัลกอริธึมนี้

people who are kind of increasingly forced to act out

คนจำพวกที่ถูกกดดัน

these increasingly bizarre combinations of words,

ให้ทำการผนวกคำอย่างแสนพิลึกนี้

like a desperate improvisation artist responding to the combined screams

ราวกับศิลปินที่ด้นสดแบบไม่ลืมหูลืมตา เพื่อสนองตอบเสียงกรีดร้องระงม

of a million toddlers at once.

ของเด็กทารกล้านคน

There are real people trapped within these systems,

มีคนจริง ๆ ที่ติดอยู่ในระบบเหล่านี้

and that's the other deeply strange thing about this algorithmically driven culture,

และนี่ก็เป็นอีกเรื่องประหลาด ของวัฒนธรรมที่ถูกขับเคลื่อนด้วยอัลกอริธึม

because even if you're human,

เพราะแม้ว่าคุณจะเป็นคน

you have to end up behaving like a machine

คุณลงเอยที่การทำตัวเป็นหุ่นยนต์

just to survive.

เพียงเพื่อจะเอาตัวรอด

And also, on the other side of the screen,

และอีกข้างหนึ่งของจอ

there still are these little kids watching this stuff,

ก็ยังมีเด็กเล็ก ๆ ดูสิ่งนี้กันอยู่

stuck, their full attention grabbed by these weird mechanisms.

พวกเขาติดงอมแงม จดจ่อเต็มที่ เพราะกลไกประหลาดนี้

And most of these kids are too small to even use a website.

และเด็กส่วนใหญ่ก็เล็กเกินไป ที่จะเคยใช้เว็บไซต์

They're just kind of hammering on the screen with their little hands.

พวกเขาก็แค่กด ๆ ไปบนจอ ด้วยมือเล็ก ๆ ของพวกเขา

And so there's autoplay,

แล้วไหนจะยังมีการเล่นอัตโนมัติ

where it just keeps playing these videos over and over and over in a loop,

ที่จะเล่นวีดีโอวนไปเรื่อย ๆ

endlessly for hours and hours at a time.

ไม่หยุดไม่หย่อนครั้งละหลายชั่วโมง

And there's so much weirdness in the system now

และตอนนี้ระบบ ก็มีความประหลาดเยอะแล้ว

that autoplay takes you to some pretty strange places.

การเล่นโดยอัตโนมัติ นำคุณไปพบกับความแปลกประหลาด

This is how, within a dozen steps,

นั่นคือสาเหตุว่า ทำไมภายในสิบกว่าขั้นตอน

you can go from a cute video of a counting train

จากวีดีโอน่ารัก ๆ เกี่ยวกับรถไฟสอนการนับ

to masturbating Mickey Mouse.

ถึงได้กลายเป็นมิ๊กกี้เม้าส์ช่วยตัวเองไปได้

Yeah. I'm sorry about that.

ครับ ขอโทษด้วยจริง ๆ ครับ

This does get worse.

มันมีที่แย่กว่านี้อีก

This is what happens

นี่เกิดขึ้น

when all of these different keywords,

เมื่อคำหลักต่าง ๆ เหล่านี้

all these different pieces of attention,

ความสนใจต่าง ๆ เหล่านี้

this desperate generation of content,

การสร้างเนื้อหาอย่างไม่ลืมหัวลืมตานี้

all comes together into a single place.

ทุกสิ่งมารวมตัวกันในที่เดียว

This is where all those deeply weird keywords come home to roost.

นี่จึงเป็นที่ที่คำหลักประหลาด ๆ ฝังอยู่

You cross-breed the finger family video

คุณผสมวีดีโอเพลงครอบครัวนิ้ว

with some live-action superhero stuff,

กับยอดมนุษย์ที่แสดงด้วยคนจริง

you add in some weird, trollish in-jokes or something,

คุณเติมมุกตลกเกรียน ๆ แปลก ๆ หรืออะไรสักอย่างเข้าไป

and suddenly, you come to a very weird place indeed.

และทันใดนั้น คุณก็จะไปถึงดินแดนประหลาด

The stuff that tends to upset parents

สิ่งที่ทำให้บรรดาพ่อแม่ไม่พอใจ

is the stuff that has kind of violent or sexual content, right?

คือสิ่งที่มีเนื้อหาที่รุนแรง หรือเกี่ยวข้องกับเรื่องเพศ ใช่ไหมครับ

Children's cartoons getting assaulted,

การ์ตูนของเด็กถูกทำร้าย

getting killed,

ถูกฆ่า

weird pranks that actually genuinely terrify children.

การเล่นพิเรนที่ทำให้เด็ก ๆ หวาดกลัว

What you have is software pulling in all of these different influences

เรามีซอร์ฟแวร์ ที่ดึงเอาสิ่งเย้ายวนทั้งหลายเข้ามา

to automatically generate kids' worst nightmares.

เพื่อทำให้เกิดฝันร้ายของเด็ก ๆ อย่างอัตโนมัติ

And this stuff really, really does affect small children.

และสิ่งนี้ก็ส่งผลต่อเด็กเล็ก ๆ จริง ๆ

Parents report their children being traumatized,

ผู้ปกครองรายงานว่า ลูก ๆ ถูกทำให้หวาดผวา

becoming afraid of the dark,

กลัวความมืด

becoming afraid of their favorite cartoon characters.

กลัวตัวการ์ตูนที่พวกเขาชอบ

If you take one thing away from this, it's that if you have small children,

สิ่งที่คุณควรเรียนรู้ก็คือ ถ้าคุณมีลูกเล็ก ๆ

keep them the hell away from YouTube.

เอายูทูปไปให้ไกลจากพวกเขาเลยครับ

(Applause)

(เสียงปรบมือ)

But the other thing, the thing that really gets to me about this,

แต่อีกอย่างหนึ่งที่กวนใจผมก็คือ

is that I'm not sure we even really understand how we got to this point.

ผมไม่แน่ใจว่า เราจะรู้ว่า เรามาถึงจุดนี้ได้อย่างไร

We've taken all of this influence, all of these things,

เรารับเอาอิทธิพลของสิ่งเหล่านี้

and munged them together in a way that no one really intended.

และจัดเรียงมันเข้าด้วยกัน ในแบบที่ไม่มีใครจะจงใจ

And yet, this is also the way that we're building the entire world.

แต่กระนั้น นี่ก็ยังเป็นวิธี ที่เราสร้างโลกใหม่ของเรา

We're taking all of this data,

เรานำข้อมูลทั้งหมดนี้

a lot of it bad data,

ข้อมูลแย่ ๆ จำนวนมาก

a lot of historical data full of prejudice,

ข้อมูลทางประวัติศาสตร์ ที่เต็มไปด้วยอคติ

full of all of our worst impulses of history,

เต็มไปด้วยส่วนที่แย่ที่สุด ของเราในประวัติศาสตร์

and we're building that into huge data sets

เราก็เอามันไปประกอบ เป็นชุดข้อมูลขนาดใหญ่

and then we're automating it.

แล้วก็ให้มันทำงานโดยอัตโนมัติ

And we're munging it together into things like credit reports,

เราจัดเรียงมันเข้าด้วยกัน เป็นรายงานเครดิต

into insurance premiums,

เป็นเบี้ยประกันภัย

into things like predictive policing systems,

เป็นระบบนโยบายที่คาดการณ์ได้

into sentencing guidelines.

เป็นแนวทางในการตัดสินใจ อะไรประมาณนั้น

This is the way we're actually constructing the world today

นี่เป็นวิธีที่เราใช้สร้างโลกของเรา

out of this data.

จากข้อมูลนี้

And I don't know what's worse,

และผมก็ไม่รู้ว่าอะไรที่แย่กว่ากัน

that we built a system that seems to be entirely optimized

ระหว่างการที่เราสร้างระบบ ที่น่าจะถูกปรับมาให้เหมาะสม

for the absolute worst aspects of human behavior,

กับแง่มุมที่แย่ที่สุด ของพฤติกรรมมนุษย์

or that we seem to have done it by accident,

หรือการที่เราเหมือนจะสร้างมันขึ้นมา โดยบังเอิญ

without even realizing that we were doing it,

โดยไม่ได้ตระหนักเลยว่า เรากำลังทำอะไรอยู่

because we didn't really understand the systems that we were building,

เพราะว่าเราไม่ได้มีความเข้าใจ ระบบที่เรากำลังสร้างอยู่

and we didn't really understand how to do anything differently with it.

และเราก็ไม่รู้จริง ๆ ว่าจะทำให้มันต่างจากนี้ได้อย่างไร

There's a couple of things I think that really seem to be driving this

ผมคิดว่ามีสองสามสิ่ง ที่น่าจะเป็นตัวส่งเสริมหลัก

most fully on YouTube,

ที่ทำให้ยูทูปเป็นอย่างนี้

and the first of those is advertising,

อย่างแรกก็คือการโฆษณา

which is the monetization of attention

ซึ่งเป็นการใช้เงินเป็นตัวบ่งบอกความสนใจ

without any real other variables at work,

โดยไม่ได้ใช้ตัวแปรอื่น ๆ ของงานจริง ๆ

any care for the people who are actually developing this content,

ไม่ได้ใส่ใจกับคน ที่เป็นผู้พัฒนาเนื้อหาเหล่านี้

the centralization of the power, the separation of those things.

การรวมอำนาจได้ ก็หมายถึงการแพร่กระจายของสิ่งเหล่านี้

And I think however you feel about the use of advertising

และผมคิดว่า ไม่ว่าคุณจะรู้สึกอย่างไร ต่อการใช้โฆษณา

to kind of support stuff,

เพื่อสนับสนุน เช่น

the sight of grown men in diapers rolling around in the sand

การดูผู้ชายใส่ผ้าอ้อมกลิ้งไปบนพื้นทราย

in the hope that an algorithm that they don't really understand

โดยหวังว่าอัลกอริธึมที่พวกเขาก็ไม่เข้าใจ

will give them money for it

ทำใช้มันทำเงินให้กับพวกเขา

suggests that this probably isn't the thing

มันบอกเราว่า สังคมและวัฒนธรรมของเรา

that we should be basing our society and culture upon,

ไม่ควรที่มีสิ่งเหล่านี้เป็นรากฐาน

and the way in which we should be funding it.

และวิธีการหาเงินของเรา ก็ไม่ควรจะเป็นแบบนี้

And the other thing that's kind of the major driver of this is automation,

อีกสิ่งหนึ่งที่เป็นแรงขับสำคัญ ของการทำอย่างอัตโนมัตินี้

which is the deployment of all of this technology

ซึ่งเป็นการกำหนดทิศทางของเทคโนโลยีทุกอย่าง

as soon as it arrives, without any kind of oversight,

ตั้งแต่วินาทีที่มันมาถึง

and then once it's out there,

และเมื่อมันอยู่ตรงนั้นแล้ว

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

มันก็ทำให้เราได้โอกาสปัดความรับผิดชอบ ในทำนองว่า "เทคโนโลยีมันทำ เราเปล่า"

Like, "We're not involved in it."

เช่น "เราไม่ได้มีส่วนเกี่ยวข้อง"

That's not really good enough,

นั่นมันยังดีไม่พอ

because this stuff isn't just algorithmically governed,

เพราะสิ่งนี้ ไม่ได้แค่ถูกควบคุมด้วยอัลกอริธึม

it's also algorithmically policed.

แต่ยังถูกควบคุมด้วยอัลกอริธึม

When YouTube first started to pay attention to this,

เมื่อยูทูปเริ่มให้ความสนใจกับสิ่งนี้

the first thing they said they'd do about it

สิ่งแรกที่พวกเขาบอกว่าจะทำก็คือ

was that they'd deploy better machine learning algorithms

พวกเขาจะปรับอัลกอริธึม การเรียนรู้ของเครื่องให้ดีขึ้น

to moderate the content.

เพื่อกลั่นกรองเนื้อหา

Well, machine learning, as any expert in it will tell you,

ครับ ไม่ว่าผู้เชี่ยวชาญคนไหน ๆ ก็จะบอกว่า

is basically what we've started to call

การเรียนรู้ของเครื่อง คือสิ่งที่ตอนแรกเราเรียกว่า

software that we don't really understand how it works.

ซอร์ฟแวร์ที่เราไม่เข้าใจว่ามันทำงานอย่างไร

And I think we have enough of that already.

และผมก็คิดว่าเราพอกับมันแล้ว

We shouldn't be leaving this stuff up to AI to decide

เราไม่ควรที่จะทิ้งให้มันเป็นภาระของ ปัญญาประดิษฐ์ในการตัดสินใจ

what's appropriate or not,

ว่าอะไรควรหรือไม่ควร

because we know what happens.

เพราะเรารู้ว่ามันเกิดอะไรขึ้น

It'll start censoring other things.

มันจะเริ่มปิดกั้นสิ่งอื่น

It'll start censoring queer content.

มันจะเริ่มปิดกั้นเนื้อหาที่พิลึก

It'll start censoring legitimate public speech.

มันจะเริ่มปิดกั้น การพูดคุยของประชาชน

What's allowed in these discourses,

วาทกรรมใด ๆ ที่ได้รับอนุญาต

it shouldn't be something that's left up to unaccountable systems.

ไม่ควรที่จะเป็นบางสิ่ง ที่ขึ้นอยู่กับระบบที่ไร้การรับผิดชอบ

It's part of a discussion all of us should be having.

มันเป็นส่วนหนึ่งของการอภิปรายร่วมกัน ของพวกเราทุกคน

But I'd leave a reminder

ผมขอย้ำว่า

that the alternative isn't very pleasant, either.

ทางเลือกนั้นก็อาจไม่น่าอภิรมย์พอกัน

YouTube also announced recently

ยูทูปยังประกาศเมื่อเร็ว ๆ นี้ว่า

that they're going to release a version of their kids' app

พวกเขากำลังจะปล่อย แอพเวอร์ชั่นสำหรับเด็ก

that would be entirely moderated by humans.

ที่ถูกดูแลด้วยมนุษย์ทั้งหมด

Facebook -- Zuckerberg said much the same thing at Congress,

มาร์ค ซัคเกอร์เบอร์ก เจ้าของเฟสบุ๊ก พูดอะไรทำนองนี้ที่สภาคอนเกรส

when pressed about how they were going to moderate their stuff.

เมื่อถูกกระทู้ถามว่า พวกเขาจะจัดการ ผลิตภัณฑ์ของพวกเขาอย่างไร

He said they'd have humans doing it.

เขาบอกว่า พวกเขาจะให้มนุษย์มาจัดการ

And what that really means is,

และความหมายที่แท้จริงก็คือ

instead of having toddlers being the first person to see this stuff,

แทนที่จะให้เด็กน้อยเห็นเป็นคนแรก

you're going to have underpaid, precarious contract workers

พวกเขากำลังจะให้ลูกจ้างชั่วคราว ที่ได้ค่าแรงต่ำ ๆ

without proper mental health support

ที่ไม่ได้รับการรับรองด้านสุขภาพจิต

being damaged by it as well.

ได้รับผลกระทบนั้นด้วยเช่นกัน

(Laughter)

(เสียงหัวเราะ)

And I think we can all do quite a lot better than that.

แและผมคิดว่า เราทุกคนทำได้ดีกว่านั้น

(Applause)

(เสียงปรบมือ)

The thought, I think, that brings those two things together, really, for me,

ผมคิดว่า แนวคิดที่นำสองสิ่งมาบรรจบกัน สำหรับผมแล้ว

is agency.

คือการลงมือทำ

It's like, how much do we really understand -- by agency, I mean:

ในลักษณะที่ว่า เราเข้าใจมันจริง ๆ แค่ไหน

how we know how to act in our own best interests.

เรารู้ว่าต้องทำอย่างไร จากพื้นฐานความรู้ที่ดีที่สุดที่เรามี

Which -- it's almost impossible to do

ซึ่งมันแทบจะเป็นไปไม่ได้เลย

in these systems that we don't really fully understand.

ในระบบเหล่านี้ ที่เราไม่ได้เข้าใจมันเสียจริง ๆ

Inequality of power always leads to violence.

ความไม่เท่าเทียมกันของอำนาจ นำไปสู่ความรุนแรงเสมอ

And we can see inside these systems

และเราก็เห็นได้ในระบบเหล่านี้

that inequality of understanding does the same thing.

ที่ความไม่เข้าใจที่ไม่เท่าเทียมกัน ทำในสิ่งเดียวกัน

If there's one thing that we can do to start to improve these systems,

ถ้ามีสักสิ่งที่เราจะทำ เพื่อเริ่มพัฒนาระบบเหล่านี้

it's to make them more legible to the people who use them,

มันก็น่าจะเป็นการทำให้พวกมัน เป็นที่เข้าใจของผู้ใช้มากขึ้น

so that all of us have a common understanding

เพื่อที่ทุกคนจะได้เข้าใจตรงกัน

of what's actually going on here.

ว่าเกิดอะไรขึ้นกันแน่

The thing, though, I think most about these systems

แต่สิ่งที่ผมคิดมากที่สุด เกี่ยวกับระบบเหล่านี้ก็คือ

is that this isn't, as I hope I've explained, really about YouTube.

มันไม่ได้เกี่ยวกับยูทูปแค่อย่างเดียว อย่างที่ผมได้อธิบายไปแล้ว

It's about everything.

มันเกี่ยวกับทุก ๆ อย่าง

These issues of accountability and agency,

ปัญหาเกี่ยวกับการตรวจสอบและการปฏิบัติ

of opacity and complexity,

เกี่ยวกับความคลุมเครือและความซับซ้อน

of the violence and exploitation that inherently results

ของความรุนแรงและการหาประโยชน์ ที่เป็นผลลัพธ์ที่ตามมา

from the concentration of power in a few hands --

จากอำนาจที่อยู่ในกำมือคนไม่กี่คน

these are much, much larger issues.

นี่มันเป็นปัญหาที่ใหญ่กว่ามาก

And they're issues not just of YouTube and not just of technology in general,

และพวกมันไม่ใช่แค่ปัญหาของยูทูป และไม่ใช่แค่ปัญหาของเทคโนโลยี

and they're not even new.

และมันก็ไม่ได้เป็นเรื่องใหม่เลย

They've been with us for ages.

เราอยู่กับมันมาตั้งนานแล้ว

But we finally built this system, this global system, the internet,

แต่เราสร้างระบบนี้ที่มีความเป็นสากล ระบบอินเทอร์เน็ต

that's actually showing them to us in this extraordinary way,

ที่นำเสนอให้กับเราในแบบที่ไม่ธรรมดา

making them undeniable.

ทำให้พวกมันยากที่จะถูกปฏิเสธ

Technology has this extraordinary capacity

เทคโนโลยีมีศักยภาพที่เหนือธรรมดา

to both instantiate and continue

ต่อทั้งการใช้อ้างอิงและสานต่อ

all of our most extraordinary, often hidden desires and biases

ความเหนือธรรมดาที่สุดของเรา ความต้องการและความอคติที่ถูกซ่อนเร้น

and encoding them into the world,

และการนำพวกมันมาสู่โลก

but it also writes them down so that we can see them,

แต่มันยังเป็นการเขียนออกมา เพื่อที่เราจะได้เห็น

so that we can't pretend they don't exist anymore.

เพื่อที่เราจะไม่เสแสร้งอีกต่อไปว่า พวกมันไม่ได้มีอยู่

We need to stop thinking about technology as a solution to all of our problems,

เราต้องหยุดคิดว่าเทคโนโลยีเป็นคำตอบ ของทุก ๆ ปัญหา

but think of it as a guide to what those problems actually are,

แต่ให้คิดว่ามันเป็นแนวทาง ที่จะระบุว่าปัญหาจริง ๆ คืออะไร

so we can start thinking about them properly

เพื่อที่เราจะเริ่มคิดถึงพวกมัน ได้อย่างเหมาะสม

and start to address them.

และเริ่มจัดการกับมันจริง ๆ

Thank you very much.

ขอบคุณมากครับ

(Applause)

(เสียงปรบมือ)

Thank you.

ขอบคุณครับ

(Applause)

(เสียงปรบมือ)

Helen Walters: James, thank you for coming and giving us that talk.

เฮเลน วอลเตอร์: ขอบคุณค่ะ เจมส์ ที่มาบรรยายให้เราฟัง

So it's interesting:

มันน่าสนใจค่ะ

when you think about the films where the robotic overlords take over,

เมื่อคุณคิดถึงภาพยนตร์ ที่เกี่ยวกับเจ้าหุ่นยนต์ยึดครองโลก

it's all a bit more glamorous than what you're describing.

มันดูมีน่าตื่นตามากว่าที่คุณอธิบาย

But I wonder -- in those films, you have the resistance mounting.

แต่ฉันสงสัยว่า ในภาพยนตร์ มีกลุ่มที่ลุกขึ้นมาต่อต้าน

Is there a resistance mounting towards this stuff?

แล้วเรามีกลุ่ม ที่ลุกขึ้นมาต่อต้านสิ่งนี้ไหม

Do you see any positive signs, green shoots of resistance?

คุณเห็นสัญญาณในเชิงบวก หรือต้นกล้าของการต่อต้านไหมคะ

James Bridle: I don't know about direct resistance,

เจมส์ บริเดิล: ผมไม่รู้อะไรเกี่ยวกับ การต่อต้านโดยตรงนะครับ

because I think this stuff is super long-term.

เพราะคิดว่ามันเป็นเรื่องระยะยาวมาก

I think it's baked into culture in really deep ways.

ผมคิดว่ามันก่อตัวฝังแน่น อยู่ในวัฒนธรรมของเรา

A friend of mine, Eleanor Saitta, always says

เอเลนอร์ ซิตต้า เพื่อนของผม พูดเสมอ ๆ ว่า

that any technological problems of sufficient scale and scope

ปัญหาเทคโนโลยี ในระดับและขอบเขตที่เหมาะสม

are political problems first of all.

เป็นปัญหาการเมืองเลยประการแรก

So all of these things we're working to address within this

ฉะนั้น ทุกอย่างที่เรากำลังทำ เพื่อจัดการกับมัน

are not going to be addressed just by building the technology better,

จะไม่ได้รับการแก้ไข ด้วยการสร้างเทคโนโลยีที่ดีกว่าเท่านั้น

but actually by changing the society that's producing these technologies.

แต่ด้วยการเปลี่ยนสังคม ที่กำลังผลิตเทคโนโลยีเหล่านั้นด้วย

So no, right now, I think we've got a hell of a long way to go.

ฉะนั้น ตอนนี้ ผมคิดว่า เรายังต้องทำอะไรอีกมากมาย

But as I said, I think by unpacking them,

แต่อย่างที่ผมบอก ถ้าเราแก้ปมมันออก

by explaining them, by talking about them super honestly,

โดยการอธิบาย โดยการพูดคุย ในแบบที่ตรงประเด็นที่สุด

we can actually start to at least begin that process.

เราสามารถเริ่มกระบวนการนั้นได้

HW: And so when you talk about legibility and digital literacy,

เฮเลน: และเมื่อคุณพูดถึง ความเข้าใจและความรู้เกี่ยวกับดิจิตัล

I find it difficult to imagine

ฉันพบว่ามันยากที่จะนึกว่า

that we need to place the burden of digital literacy on users themselves.

เราต้องยกเรื่องความรู้เกี่ยวกับดิจิตัล ให้เป็นภาระของผู้ใช้เอง

But whose responsibility is education in this new world?

แต่ใครกันล่ะที่มีหน้าที่ให้ความรู้ เกี่ยวกับโลกใหม่นี้

JB: Again, I think this responsibility is kind of up to all of us,

เจมส์: ครับ ผมคิดว่ามันเป็นความรับผิดชอบ ของพวกเราทุกคน

that everything we do, everything we build, everything we make,

ทุกอย่างที่เราทำ ทุกอย่างที่เราสร้างขึ้นประดิษฐ์ขึ้น

needs to be made in a consensual discussion

ต้องเกิดขึ้นจากการอภิปรายตกลงกัน

with everyone who's avoiding it;

กับทุกคนที่ไม่อยากให้มันเกิดขึ้น

that we're not building systems intended to trick and surprise people

ที่เราไม่อยากจะสร้างระบบ ที่จงใจลวงหรือทำให้คนประหลาดใจ

into doing the right thing,

แล้วทำในสิ่งที่ถูกต้อง

but that they're actually involved in every step in educating them,

แต่เกี่ยวกับการมีส่วนร่วมในทุกก้าว ในการให้ความรู้

because each of these systems is educational.

เพราะแต่ละระบบก็คือการศึกษา

That's what I'm hopeful about, about even this really grim stuff,

นั่นคือสิ่งที่ผมหวัง แม้แต่กับสิ่งที่ดูเละเทะนี้

that if you can take it and look at it properly,

ถ้าเรานำมันมาพิจารณาได้อย่างเหมาะสม

it's actually in itself a piece of education

มันก็เป็นการศึกษาด้วยตัวของมันเองอยู่แล้ว

that allows you to start seeing how complex systems come together and work

ที่จะทำให้เราเริ่มเห็นว่าระบบที่ซับซ้อน มาบรรจบและทำงานด้วยกันได้อย่างไร

and maybe be able to apply that knowledge elsewhere in the world.

และอาจใช้ความรู้นั้น กับสิ่งอื่น ๆ ในโลกนี้ได้

HW: James, it's such an important discussion,

เฮเลน: เจมส์คะ นี่เป็นการสนทนาที่สำคัญมาก

and I know many people here are really open and prepared to have it,

และฉันก็รู้ว่าอีกหลายคนในที่นี้ ใจกว้างแล้วก็พร้อมที่จะยอมรับมัน

so thanks for starting off our morning.

ขอบคุณมาก ๆ สำหรับ การบรรยายแรกในเช้าวันนี้

JB: Thanks very much. Cheers.

เจมส์: ขอบคุณมากครับ

(Applause)

(เสียงปรบมือ)