The price of a "clean" internet | Hans Block and Moritz Riesewieck

Translator: Thirakan Somsungnoen Reviewer: Panitan Suvannaroj

[This talk contains mature content]

[วิดีโอนี้มีเนื้อหาที่เหมาะกับผู้ใหญ่]

Moritz Riesewieck: On March 23, 2013,

Moritz Riesewieck: วันที่ 23 มีนาคม 2013

users worldwide discovered in their news feed

ผู้ใช้ทั่วโลกพบว่าบนหน้านิวส์ฟีดของตน

a video of a young girl being raped by an older man.

มีวิดีโอเด็กผู้หญิงถูกชายแก่ข่มขืน

Before this video was removed from Facebook,

ก่อนที่วิดีโอนี้จะถูกลบออกจากเฟสบุ๊ค

it was already shared 16,000 times,

ก็มีการแชร์ไปแล้ว 16,000 ครั้ง

and it was even liked 4,000 times.

และมีคนกดไลค์ถึง 4,000 ครั้ง

This video went viral and infected the net.

วีดิโอนี้กลายเป็นกระแส ลามไปทั่วอินเตอร์เน็ต

Hans Block: And that was the moment we asked ourselves

Hans Block: และนั่นเป็นตอนที่ เราถามตัวเองว่า

how could something like this get on Facebook?

เนื้อหาแบบนี้มาอยู่ในเฟสบุ๊คได้อย่างไร

And at the same time, why don't we see such content more often?

แต่ในเวลาเดียวกัน ทำไมเราถึงไม่ค่อยเห็นเนื้อหาแบบนี้บ่อยๆ

After all, there's a lot of revolting material online,

ในเมื่อมีสื่อแย่ๆ เต็มโลกออนไลน์ไปหมด

but why do we so rarely see such crap on Facebook, Twitter or Google?

แต่ทำไมเราจึงไม่ค่อยเห็นขยะแบบนั้น ในเฟสบุ๊ค, ทวิตเตอร์ หรือกูเกิล ล่ะ

MR: While image-recognition software

MR: แม้ซอฟต์แวร์จดจำใบหน้า

can identify the outlines of sexual organs,

จะระบุรูปทรงอวัยวะที่เกี่ยวกับเพศ

blood or naked skin in images and videos,

เลือดหรือการเปลือยในรูปและวิดีโอได้

it has immense difficulties to distinguish pornographic content

แต่กลับมีปัญหาในการแยกแยะ เนื้อหาลามก

from holiday pictures, Adonis statues

ออกจากภาพวันหยุด รูปปั้นอโดนิส

or breast-cancer screening campaigns.

หรือแคมเปญตรวจคัดกรองมะเร็งเต้านม

It can't distinguish Romeo and Juliet dying onstage

มันไม่สามารถแยกแยะโรมิโอกับจูเลียต ที่ตายบนเวที

from a real knife attack.

จากการโดนแทงจริงๆ

It can't distinguish satire from propaganda

มันไม่สามารถแยกแยะการเสียดสีออกจาก การโฆษณาชวนเชื่อ

or irony from hatred, and so on and so forth.

หรือการประชดออกจากความเกลียดชังจริงๆ แล้วก็อีกหลายอย่าง

Therefore, humans are needed to decide

ดังนั้น จึงต้องมีคนที่คอยตัดสิน

which of the suspicious content should be deleted,

ว่าเนื้อหาน่าสงสัยอันไหนควรลบทิ้ง

and which should remain.

และอันไหนควรเก็บไว้

Humans whom we know almost nothing about,

กลุ่มคนที่เราแทบไม่รู้จักเลย

because they work in secret.

เพราะการทำงานที่เป็นความลับ

They sign nondisclosure agreements,

พวกเขาเซ็นข้อตกลงห้ามเปิดเผยข้อมูล

which prohibit them from talking and sharing

ที่ห้ามพูดหรือแชร์ข้อมูล

what they see on their screens and what this work does to them.

ที่เห็นบนหน้าจอตัวเอง หรือว่างานนี้ทำให้พวกเขาเป็นอย่างไร

They are forced to use code words in order to hide who they work for.

พวกเขาถูกบังคับให้ใช้โค้ดลับ เพื่อปิดบังว่าตนทำงานให้ใคร

They are monitored by private security firms

พวกเขาถูกจับตา จากบริษัทรักษาความปลอดภัยเอกชน

in order to ensure that they don't talk to journalists.

เพื่อให้แน่ใจว่า จะไม่ไปพูดกับนักข่าว

And they are threatened by fines in case they speak.

และจะต้องเสียค่าปรับ ถ้าเกิดทำอย่างนั้น

All of this sounds like a weird crime story,

ทั้งหมดนี้ฟังดูเหมือน อาชญากรรมแปลกๆ

but it's true.

แต่เป็นเรื่องจริงครับ

These people exist,

คนเหล่านี้มีตัวตนจริง

and they are called content moderators.

และเรียกกันว่าผู้คัดกรองเนื้อหา

HB: We are the directors of the feature documentary film "The Cleaners,"

HB: เราเป็นผู้กำกับภาพยนตร์ สารคดีความยาวปานกลางเรื่อง "The Cleaners"

and we would like to take you

และอยากพาคุณ

to a world that many of you may not know yet.

เข้าสู่โลกที่หลายๆ คนอาจยังไม่รู้จัก

Here's a short clip of our film.

มาดูคลิปสั้นๆ จากหนังของเรากันครับ

(Music)

(เสียงดนตรี)

(Video) Moderator: I need to be anonymous, because we have a contract signed.

(วิดีโอ) ผู้คัดกรอง:ฉันเปิดเผยตัวตนไม่ได้ เพราะว่าเซ็นสัญญาไว้

We are not allowed to declare whom we are working with.

เราเปิดเผยไม่ได้ว่าทำงานกับใคร

The reason why I speak to you

เหตุผลที่ฉันบอกคุณ

is because the world should know that we are here.

เพราะโลกควรได้รู้ว่ายังมีพวกเราอยู่

There is somebody who is checking the social media.

มีคนที่คอยตรวจสอบ โซเชียลมีเดียอยู่

We are doing our best to make this platform

เราตั้งใจทำงานสุดความสามารถ เพื่อให้แพลตฟอร์มนี้

safe for all of them.

ปลอดภัยสำหรับทุกคน

Delete.

ลบ

Ignore.

ข้าม

Delete.

ลบ

Ignore.

ข้าม

Delete.

ลบ

Ignore.

ข้าม

Ignore.

ข้าม

Delete.

ลบ

HB: The so-called content moderators

HB: กลุ่มคนที่เรียกว่าผู้คัดกรองเนื้อหา

don't get their paychecks from Facebook, Twitter or Google themselves,

ไม่ได้รับรายได้จากเฟสบุ๊ค, ทวิตเตอร์ หรือกูเกิล โดยตรง

but from outsourcing firms around the world

แต่จากบริษัทจัดจ้างภายนอกทั่วโลก

in order to keep the wages low.

เพื่อให้ค่าจ้างต่ำ

Tens of thousands of young people

คนหนุ่มสาวหลายหมื่นคน

looking at everything we are not supposed to see.

ซึ่งเห็นทุกสิ่งที่เราไม่ควรเห็น

And we are talking about decapitations, mutilations,

ทั้งการฆ่าตัดคอ การตัดแขนขา

executions, necrophilia, torture, child abuse.

การประหารชีวิต การร่วมเพศกับศพ การทรมาน การทารุณเด็ก

Thousands of images in one shift --

นับพันรูปในหนึ่งกะ

ignore, delete, day and night.

ลบ ข้าม ทั้งกลางวันกลางคืน

And much of this work is done in Manila,

งานส่วนใหญ่ดำเนินการในมะนิลา

where the analog toxic waste from the Western world

ที่ที่มีการขนส่งขยะอิเล็กทรอนิกส์มีพิษ

was transported for years by container ships,

มาจากโลกตะวันตกเป็นเวลาหลายปี ทางเรือขนส่ง

now the digital waste is dumped there via fiber-optic cable.

ซึ่งตอนนี้เป็นการทิ้งขยะ ผ่านทางสายไฟเบอร์ออปติก

And just as the so-called scavengers

หน้าที่ของพวกเขาไม่ต่างจากคนเก็บขยะ

rummage through gigantic tips on the edge of the city,

ที่คุ้ยอยู่เหนือขยะกองมหึมา ใกล้เมือง

the content moderators click their way through an endless toxic ocean

ผู้คัดกรองเนื้อหาก็คลิกไปบน มหาสมุทรแห่งสารพิษอันไร้ที่สิ้นสุด

of images and videos and all manner of intellectual garbage,

ทั้งรูปภาพ วิดีโอ และขยะที่ประดิษฐ์ขึ้น ทุกรูปแบบ

so that we don't have to look at it.

เพื่อให้เราไม่ต้องเห็นมัน

MR: But unlike the wounds of the scavengers,

MR: แต่บาดแผลของผู้คัดกรอง

those of the content moderators remain invisible.

ไม่เหมือนกับของคนเก็บขยะ ตรงที่มันมองไม่เห็น

Full of shocking and disturbing content,

เนื้อหาทั้งรูปภาพและวิดีโอ

these pictures and videos burrow into their memories

ที่ชวนผวาและรบกวนใจทั้งหลาย ซุกซ่อนในความทรงจำของพวกเขา

where, at any time, they can have unpredictable effects:

และอาจส่งผลที่คาดเดาไม่ได้ทุกเวลา

eating disorders, loss of libido,

ทั้งอาการกินผิดปกติ หมดความรู้สึกทางเพศ

anxiety disorders, alcoholism,

อาการวิตกกังวล ติดเหล้า

depression, which can even lead to suicide.

ซึมเศร้า กระทั่งนำไปสู่ การฆ่าตัวตาย

The pictures and videos infect them,

รูปภาพและวิดีโอพวกนั้น ส่งผลต่อพวกเขา

and often never let them go again.

และมักไม่มีทางหายไปไหน

If they are unlucky, they develop post-traumatic stress disorders,

หากโชคร้าย พวกเขาก็อาจมี ภาวะผิดปกติทางจิตใจจากเหตุการณ์รุนแรง

like soldiers after war missions.

เหมือนทหารที่เพิ่งกลับจากสงคราม

In our film, we tell the story of a young man

ในหนังเรื่องนี้ เราเล่าเรื่อง ชายหนุ่มคนหนึ่ง

who had to monitor livestreams of self-mutilations and suicide attempts,

ที่ต้องคอยตรวจสอบการไลฟ์วิดีโอ ทำร้ายตัวเองและการพยายามฆ่าตัวตาย

again and again,

ซ้ำแล้วซ้ำเล่า

and who eventually committed suicide himself.

และท้ายที่สุดก็ฆ่าตัวตายเอง

It's not an isolated case, as we've been told.

เท่าที่เรารู้ เรื่องนี้ไม่ใช่แค่กรณีเดียว

This is the price all of us pay

นี่คือราคาที่เราทุกคนจ่าย

for our so-called clean and safe and "healthy"

ให้กับสิ่งที่เรียกว่า สภาพแวดล้อมในโซเชียลมีเดีย

environments on social media.

ที่สะอาด ปลอดภัย และ "ดีต่อจิตใจ"

Never before in the history of mankind

เราติดต่อกับคนนับล้านทั่วโลก

has it been easier to reach millions of people around the globe

ได้ง่ายขึ้นอย่างที่ไม่เคยมีมาก่อน ในประวัติศาสตร์

in a few seconds.

ด้วยเวลาเพียงไม่กี่วินาที

What is posted on social media spreads so quickly,

สิ่งที่โพสต์ลงในโซเชียลมีเดีย แพร่ออกไปอย่างรวดเร็ว

becomes viral and excites the minds of people all around the globe.

กลายเป็นกระแส และสร้างความตื่นเต้น ให้ผู้คนทั่วโลก

Before it is deleted,

ก่อนที่มันจะถูกลบ

it is often already too late.

ก็มักสายเกินไปแล้ว

Millions of people have already been infected

ผู้คนนับล้านติดเชื้อ ความเกลียดชัง

with hatred and anger,

และความโกรธแค้นไปแล้ว

and they either become active online,

แล้วพวกเขาก็มามีบทบาท ในโลกออนไลน์

by spreading or amplifying hatred,

ด้วยการแพร่หรือโหมกระพือ ความเกลียดชัง

or they take to the streets and take up arms.

ไม่ก็ออกไปก่อความรุนแรง ตามท้องถนน

HB: Therefore, an army of content moderators

HB: จึงต้องมีกองทัพผู้คัดกรองเนื้อหา

sit in front of a screen to avoid new collateral damage.

นั่งประจำตรงหน้าจอเพื่อเลี่ยงไม่ให้เกิด ความเสียหายในแบบเดียวกันอีก

And they are deciding, as soon as possible,

และพวกเขาต้องตัดสินใจ ให้เร็วที่สุด

whether the content stays on the platform -- ignore;

ว่าเนื้อหานั้นๆ จะอยู่ในแพลตฟอร์ม ด้วยการกดข้าม

or disappears -- delete.

หรือต้องหายไปด้วยการกดลบ

But not every decision is as clear

แต่ก็ไม่ใช่ว่าทุกการตัดสินใจ จะทำได้อย่างชัดเจน

as the decision about a child-abuse video.

เหมือนการตัดสินใจเกี่ยวกับ วิดีโอการทารุณเด็ก

What about controversial content, ambivalent content,

แล้วเนื้อหาซึ่งเป็นที่ถกเถียง เนื้อหาที่ก้ำกึ่ง

uploaded by civil rights activists or citizen journalists?

ที่นักเคลื่อนไหวเพื่อสิทธิ หรือนักข่าวพลเมืองอัปโหลดล่ะ

The content moderators often decide on such cases

ผู้คัดกรองเนื้อหา มักตัดสินใจในกรณีดังกล่าว

at the same speed as the [clear] cases.

ด้วยความรวดเร็วเท่ากับ เนื้อหาที่ [ชัดเจน]

MR: We will show you a video now,

MR: เราจะให้คุณดูวิดีโออันหนึ่ง

and we would like to ask you to decide:

และอยากขอให้คุณตัดสินใจ

Would you delete it,

ว่าจะลบ

or would you not delete it?

หรือไม่ลบ

(Video) (Air strike sounds)

(วิดีโอ) (เสียงการโจมตีทางอากาศ)

(Explosion)

(เสียงระเบิด)

(People speaking in Arabic)

(คนพูดภาษาอาหรับ)

MR: Yeah, we did some blurring for you.

MR: เราได้เบลอบางส่วนในวิดีโอนะครับ

A child would potentially be dangerously disturbed

เด็กอาจตกใจอย่างรุนแรง

and extremely frightened by such content.

และหวาดกลัวเนื้อหาประะภทนี้อย่างมาก

So, you rather delete it?

งั้นคุณก็น่าจะลบใช่ไหมครับ

But what if this video could help investigate the war crimes in Syria?

แต่ถ้าเกิดวิดีโอนี้ช่วยสืนสวน การก่อสงครามในซีเรียได้ล่ะ

What if nobody would have heard about this air strike,

ถ้าเกิดไม่มีใครเคยได้ยิน เรื่องการโจมตีทางอากาศนี้

because Facebook, YouTube, Twitter would have decided to take it down?

เพราะเฟสบุ๊ค, ยูทูบ, ทวิตเตอร์ ตัดสินใจลบทิ้งไปล่ะ

Airwars, a nongovernmental organization based in London,

Airwars ซึ่งเป็นองค์กรนอกภาครัฐ ในลอนดอน

tries to find those videos as quickly as possible

พยายามค้นหาวิดีโอเหล่านั้น ให้เร็วที่สุด

whenever they are uploaded to social media,

ไม่ว่าจะอัปโหลดลงใน โซเชียลมีเดียเมื่อไรก็ตาม

in order to archive them.

เพื่อบันทึกเก็บไว้

Because they know, sooner or later,

เพราะบริษัทนี้รู้ว่า ไม่ช้าก็เร็ว

Facebook, YouTube, Twitter would take such content down.

เฟสบุ๊ค, ยูทูบ, ทวิตเตอร์ จะลบเนื้อหานั้นออก

People armed with their mobile phones

ผู้คนที่มีโทรศัพท์มือถือ

can make visible what journalists often do not have access to.

สามารถเห็นสิ่งต่างๆ ที่นักข่าวมักไม่ได้เห็น

Civil rights groups often do not have any better option

กลุ่มสิทธิมนุษยชน มักไม่มีทางเลือก

to quickly make their recordings accessible to a large audience

ในการทำให้วิดีโอของกลุ่ม เข้าถึงผู้ชมจำนวนมากอย่างรวดเร็ว

than by uploading them to social media.

ได้ดีไปกว่าการอัปโหลดลงโซเชียลมีเดีย

Wasn't this the empowering potential the World Wide Web should have?

นี่ไม่ใช่ศักยภาพของการส่งเสริม ที่เครือข่ายอินเทอร์เน็ตควรมีหรอกหรือครับ

Weren't these the dreams

นี่ไม่ใช่ความฝัน

people in its early stages had about the World Wide Web?

ที่ผู้คนในยุคแรกเริ่มมี เกี่ยวกับอินเทอร์เน็ตหรือครับ

Can't pictures and videos like these

รูปภาพและวิดีโอพวกนี้

persuade people who have become insensitive to facts

จะโน้มน้าวให้คนที่มีภูมิต้านทาน ต่อความเป็นจริง

to rethink?

คิดทบทวนไม่ได้หรือครับ ?

HB: But instead, everything that might be disturbing is deleted.

HB: แต่ทุกสิ่งที่อาจก่อกวนจิตใจ กลับถูกลบทิ้ง

And there's a general shift in society.

และเกิดการเปลี่ยนแปลงไปทั่วในสังคม

Media, for example, more and more often use trigger warnings

เช่น มีสื่อจำนวนมากขึ้นเรื่อยๆ ที่ขึ้นคำเตือนเนื้อหาสุ่มเสี่ยง

at the top of articles

ตรงหัวบทความ

which some people may perceive as offensive or troubling.

ซึ่งบางคนอาจมองว่า ทำให้ขุ่นเคืองหรือสร้างปัญหา

Or more and more students at universities in the United States

หรือนักศึกษามหาวิทยาลัย ในสหรัฐอเมริกาจำนวนมากขึ้น

demand the banishment of antique classics

เรียกร้องให้แบนผลงานคลาสสิกยุคเก่า

which depict sexual violence or assault from the curriculum.

ที่บรรยายความรุนแรงทางเพศ หรือการล่วงละเมิดออกจากหลักสูตร

But how far should we go with that?

แต่มันควรไปไกลขนาดไหนล่ะ

Physical integrity is guaranteed as a human right

บูรณภาพแห่งร่างกาย เป็นสิทธิมนุษยชนข้อหนึ่ง

in constitutions worldwide.

ในสถาบันต่างๆ ทั่วโลก

In the Charter of Fundamental Rights of the European Union,

ในกฎบัตรสิทธิขั้นพื้นฐาน ของสหภาพยุโรป

this right expressly applies to mental integrity.

สิทธิข้อนี้จะสื่อถึง บูรณภาพทางจิตใจ

But even if the potentially traumatic effect

ถึงแม้ว่าผลกระทบจากเหตุรุนแรง

of images and videos is hard to predict,

ที่มาจากรูปภาพและวิดีโอนั้นยากจะคาดเดา

do we want to become so cautious

แต่เราจำเป็นต้องระวังตัวมาก

that we risk losing social awareness of injustice?

จนอาจเสียการตระหนักรู้ ถึงความอยุติธรรมในสังคมเลยหรือครับ

So what to do?

แล้วควรทำอย่างไรดีล่ะ

Mark Zuckerberg recently stated that in the future,

เมื่อเร็วๆ นี้ Mark Zuckerberg บอกว่าในอนาคต

the users, we, or almost everybody,

ผู้ใช้ ก็คือเรา หรือเกือบทุกคน

will decide individually

ต้องเป็นคนตัดสินใจเอง

what they would like to see on the platform,

ว่าอยากเห็นอะไรในแพลตฟอร์ม

by personal filter settings.

ด้วยการตั้งค่าตัวกรองส่วนบุคคล

So everyone could easily claim to remain undisturbed

ทุกคนก็จะเลือกได้ว่า จะไม่ดูภาพสงคราม

by images of war or other violent conflicts, like ...

หรือเนื้อหารุนแรงอื่นๆ เหมือนเดิม อย่างเช่น...

MR: I'm the type of guy who doesn't mind seeing breasts

MR: ผมเป็นคนประเภทที่โอเค กับการเห็นภาพหน้าอก

and I'm very interested in global warming,

และผมสนใจเรื่องภาวะโลกร้อนมาก

but I don't like war so much.

และไม่ชอบสงครามเอามากๆ

HB: Yeah, I'm more the opposite,

HB: ส่วนผมตรงข้ามเลยครับ

I have zero interest in naked breasts or naked bodies at all.

ผมไม่สนใจอะไรกับหน้าอกเปลือย หรือร่างกายเปล่าเปลือยสักนิด

But why not guns? I like guns, yes.

แต่ชอบปืน ชอบมากเลย

MR: Come on, if we don't share a similar social consciousness,

MR: แล้วกัน ถ้าเราไม่มี จิตสำนึกทางสังคมร่วมกัน

how shall we discuss social problems?

เราจะถกปัญหาสังคมกันได้อย่างไร

How shall we call people to action?

เราจะเรียกร้องให้ผู้คนลงมือทำได้อย่างไร

Even more isolated bubbles would emerge.

ในเมื่อเกิดโลกที่แยกขาดจากกันขึ้น

One of the central questions is: "How, in the future,

หนึ่งในคำถามสำคัญคือ "ในอนาคต

freedom of expression will be weighed against the people's need for protection."

เสรีภาพในการแสดงออกจะมีความสำคัญแค่ไหน เมื่อเทียบกับที่คนเราอยากได้รับการปกป้อง"

It's a matter of principle.

นี่เป็นเรื่องของหลักการ

Do we want to design an either open or closed society

เราอยากออกแบบสังคม ในโลกดิจิทัลให้เป็น

for the digital space?

พื้นที่ปิดหรือเปิดเท่านั้นหรือ

At the heart of the matter is "freedom versus security."

ใจกลางสำคัญของเรื่องนี้ คือ "เสรีภาพ ปะทะ ความปลอดภัย"

Facebook has always wanted to be a "healthy" platform.

เฟสบุ๊ค อยากเป็นแพลตฟอร์ม ที่ "ดีต่อใจ" มาโดยตลอด

Above all, users should feel safe and secure.

เหนือสิ่งอื่นใด ผู้ใช้ต้อง รู้สึกปลอดภัยและได้รับการปกป้อง

It's the same choice of words

ซึ่งเป็นคำเดียวกับที่

the content moderators in the Philippines used

ผู้คัดกรองเนื้อหาในฟิลิปปินส์ เลือกใช้

in a lot of our interviews.

จากการสัมภาษณ์จำนวนมาก

(Video) The world that we are living in right now,

(วิดีโอ) โลกที่เราอาศัยอยู่ทุกวันนี้

I believe, is not really healthy.

ฉันเชื่อว่ามันไม่จรรโลงใจนัก

(Music)

(เสียงดนตรี)

In this world, there is really an evil who exists.

ในโลกนี้ ปีศาจร้ายมีตัวตนอยู่จริงๆ

(Music)

(เสียงดนตรี)

We need to watch for it.

เราต้องคอยจับตาดู

(Music)

(เสียงดนตรี)

We need to control it -- good or bad.

เราต้องคอยควบคุมทั้งสิ่งดีและเลว

(Music)

(ดนตรี)

[Look up, Young man! --God]

[ระวังหน่อยเจ้าหนุ่ม! --พระเจ้า]

MR: For the young content moderators in the strictly Catholic Philippines,

MR: สำหรับผู้คัดกรองหนุ่มสาว ในสังคมคาทอลิกของฟิลิปปินส์ที่เคร่งศาสนา

this is linked to a Christian mission.

งานนี้เชื่อมโยงกับภารกิจของชาวคริสต์

To counter the sins of the world

ในการต่อสู้กับบาปของโลก

which spread across the web.

ที่แพร่ไปทั่วเว็บไซต์ต่างๆ

"Cleanliness is next to godliness,"

"รองจากศรัทธาในพระเจ้าคือความบริสุทธิ์"

is a saying everybody in the Philippines knows.

นี่เป็นวาทะที่ทุกคนในฟิลิปปินส์รู้จัก

HB: And others motivate themselves

HB: และอีกหลายคนจูงใจตัวเอง

by comparing themselves with their president, Rodrigo Duterte.

ด้วยการเปรียบเทียบกับ ประธานาธิบดีโรดริโก ดูแตร์เต

He has been ruling the Philippines since 2016,

ที่ดำรงตำแหน่งมาตั้งแต่ปี 2016

and he won the election with the promise: "I will clean up."

และชนะการเลือกตั้งจากคำสัญญาว่า "ผมจะทำให้ประเทศนี้ใสสะอาด"

And what that means is eliminating all kinds of problems

ซึ่งหมายถึงการกำจัด ปัญหาทุกอย่างตรงตามตัว

by literally killing people on the streets

ด้วยการฆ่าผู้คนบนถนน

who are supposed to be criminals, whatever that means.

ที่มีโอกาสเป็นอาชญากร ไม่ว่าอย่างไรก็ตาม

And since he was elected,

และตั้งแต่เขาได้รับเลือก

an estimated 20,000 people have been killed.

มีคนถูกฆ่าไปประมาณ 20,000 คน

And one moderator in our film says,

ผู้คัดกรองคนหนึ่งในหนังของเราบอกว่า

"What Duterte does on the streets,

"ผมทำสิ่งเดียวกับที่ดูแตร์เตทำ

I do for the internet."

แต่เป็นทางอินเทอร์เน็ต"

And here they are, our self-proclaimed superheroes,

พวกเขาเป็นซูเปอร์ฮีโร่ที่ประกาศตน

who enforce law and order in our digital world.

เป็นผู้บังคับใช้กฎระเบียบ ในโลกดิจิทัล

They clean up, they polish everything clean,

พวกเขาเก็บกวาด ขัดถูทุกอย่างจนบริสุทธิ์ผุดผ่อง

they free us from everything evil.

ทำให้สิ่งชั่วร้ายหายไป

Tasks formerly reserved to state authorities

หน้าที่ที่เคยสงวนไว้ สำหรับเจ้าหน้าที่รัฐ

have been taken over by college graduates in their early 20s,

กลายมาเป็นของเด็กจบมหาวิทยาลัย วัย 20 ต้นๆ

equipped with three- to five-day training --

ที่ได้รับการฝึกอบรม 3 ถึง 5 วัน

this is the qualification --

คุณสมบัติประจำตำแหน่งนี้คือ

who work on nothing less than the world's rescue.

คนที่ทำงานไม่ต่างไปจาก หน่วยกู้ภัยโลก

MR: National sovereignties have been outsourced to private companies,

MR: อธิปไตยของชาติถูกฝากฝัง ในมือบริษัทเอกชน

and they pass on their responsibilities to third parties.

แล้วก็ส่งต่อความรับผิดชอบ ให้กับบริษัทภายนอก

It's an outsourcing of the outsourcing of the outsourcing,

ซึ่งเป็นบริษัทภายนอกของภายนอก ของภายนอกอีกที

which takes place.

ที่ได้รับหน้าที่นี้

With social networks,

ในสังคมออนไลน์

we are dealing with a completely new infrastructure,

เราต้องรับมือกับ โครงสร้างพื้นฐานแบบใหม่ล้วนๆ

with its own mechanisms,

ที่ระบบกลไกของมัน

its own logic of action

และตรรกะในการทำสิ่งต่างๆ

and therefore, also, its own new dangers,

หรือก็คืออันตรายแบบใหม่

which had not yet existed in the predigitalized public sphere.

ยังไม่เคยมีการพูดถึงในพื้นที่สาธารณะ ก่อนหน้ายุคดิจิทัล

HB: When Mark Zuckerberg was at the US Congress

HB: ตอน Mark Zuckerberg ขึ้นให้การที่สภาคองเกรส

or at the European Parliament,

หรือที่รัฐสภายุโรป

he was confronted with all kinds of critics.

เขาต้องเผชิญกับ คำวิจารณ์ทุกรูปแบบ

And his reaction was always the same:

และเขาก็ตอบแบบเดิมเสมอ

"We will fix that,

"เราจะแก้ไข

and I will follow up on that with my team."

และผมจะติดตามผลเรื่องนี้ กับทีม"

But such a debate shouldn't be held in back rooms of Facebook,

แต่การถกเถียงไม่ควรเกิดขึ้น ที่หลังห้องประชุมของเฟสบุ๊ค

Twitter or Google --

ทวิตเตอร์ หรือกูเกิล

such a debate should be openly discussed in new, cosmopolitan parliaments,

การถกเถียงนั้นควรพูดคุยอย่างเปิดกว้าง ในรัฐสภาแบบใหม่ทั่วโลก

in new institutions that reflect the diversity of people

ในสถาบันแบบใหม่ที่มี ผู้คนหลากหลายแบบ

contributing to a utopian project of a global network.

ซึ่งอุทิศตนให้กับโครงการ อินเทอร์เน็ตโลกในอุดมคติ

And while it may seem impossible to consider the values

และแม้การคำนึงถึงค่านิยม ของผู้ใช้ทั่วโลก

of users worldwide,

อาจเป็นไปได้ยาก

it's worth believing

แต่ก็คุ้มที่จะเชื่อมั่น

that there's more that connects us than separates us.

ว่ามีสิ่งที่เชื่อมโยงเราเข้ากัน มากกว่าแยกเราออกจากกัน

MR: Yeah, at a time when populism is gaining strength,

MR: ครับ ในช่วงเวลา ที่ความเป็นประชานิยมมีมากขึ้น

it becomes popular to justify the symptoms,

ผู้คนนิยม ตัดสินสิ่งต่างๆ

to eradicate them,

ถอนรากถอนโคน

to make them invisible.

และทำให้หายไปจากการรับรู้

This ideology is spreading worldwide,

แนวคิดนี้แพร่ไปทั่วโลก

analog as well as digital,

ทั้งโลกอะนาล็อกและดิจิทัล

and it's our duty to stop it

ซึ่งเราทุกคนมีหน้าที่หยุดเรื่องนี้

before it's too late.

ก่อนจะสายเกินไป

The question of freedom and democracy

การตั้งคำถามอย่างเสรี และเป็นประชาธิปไตย

must not only have these two options.

ไม่ควรมีแค่สองตัวเลือกนี้

HB: Delete.

HB: คือลบ

MR: Or ignore.

MR: หรือข้ามไป

HB: Thank you very much.

HB: ขอบคุณมากครับ

(Applause)

(เสียงปรบมือ)