We're building a dystopia just to make people click on ads | Zeynep Tufekci

Translator: yamela areesamarn Reviewer: Nattpapat Pinyopusarerk

So when people voice fears of artificial intelligence,

เมื่อผู้คนออกมากล่าวว่า กลัวปัญญาประดิษฐ์

very often, they invoke images of humanoid robots run amok.

บ่อยครั้ง พวกมันนำมาซึ่งภาพพจน์ พวกหุ่นยนต์มนุษย์วิ่งพล่านอาละวาดไปทั่ว

You know? Terminator?

รู้ไหม? หนังเรื่องคนเหล็ก?

You know, that might be something to consider,

นั่นอาจเป็นบางสิ่งบางอย่าง ที่ต้องมาพิจารณาให้ดี

but that's a distant threat.

แต่นั่นเป็นภัยคุกคามที่ยังอยู่ห่างไกล

Or, we fret about digital surveillance

หรือไม่ก็ เป็นการที่เราทุกข์กังวลใจ เกี่ยวกับการสอดแนมผ่านทางระบบดิจิตอล

with metaphors from the past.

โดยการเปรียบเทียบจากอดีต

"1984," George Orwell's "1984,"

"1984" หนังสือของจอร์จ ออร์เวลล์ "1984"

it's hitting the bestseller lists again.

ขณะนี้ติดอันดับหนังสือขายดีที่สุดอีกครั้ง

It's a great book,

เป็นหนังสือที่เยี่ยมมาก

but it's not the correct dystopia for the 21st century.

แต่นั่นไม่ถือเป็นจินภาพที่ถูกต้อง ของสังคมที่เลวร้ายสำหรับศตวรรษที่ 21 นี้

What we need to fear most

สิ่งที่เราต้องกลัวมากที่สุด

is not what artificial intelligence will do to us on its own,

ไม่ใช่สิ่งที่ปัญญาประดิษฐ์ จะทำกับเราด้วยตัวมันเอง

but how the people in power will use artificial intelligence

แต่เป็นวิธีการที่คนที่มีอำนาจ จะใช้ปัญญาประดิษฐ์

to control us and to manipulate us

เพื่อควบคุมเรา และเพื่อล่อลวงเรา

in novel, sometimes hidden,

ในรูปแบบนิยาย ซึ่งบางครั้งก็ซ่อนเร้น

subtle and unexpected ways.

ในรูปแบบที่แยบยล และคาดไม่ถึง

Much of the technology

เทคโนโลยีจำนวนมาก

that threatens our freedom and our dignity in the near-term future

ที่คุกคามอิสระภาพ และเกียรติยศของเรา ในช่วงอนาคตอันใกล้นี้

is being developed by companies

กำลังถูกพัฒนาโดยบริษัทต่าง ๆ

in the business of capturing and selling our data and our attention

ในธุรกิจที่เข้ามาเก็บและขาย ข้อมูล และความสนใจของเรา

to advertisers and others:

ให้กับพวกบริษัทโฆษณาและบริษัทอื่น ๆ

Facebook, Google, Amazon,

เช่น เฟสบุ๊ก กูเกิล อเมซอน

Alibaba, Tencent.

อาลีบาบา เท็นเซ็นท์

Now, artificial intelligence has started bolstering their business as well.

ตอนนี้ ปัญญาประดิษฐ์ได้เริ่ม ปรับเสริมธุรกิจพวกเขาให้แข็งแรงขึ้นอีกด้วย

And it may seem like artificial intelligence

และมันอาจดูราวกับว่า ปัญญาประดิษฐ์

is just the next thing after online ads.

ก็เป็นเพียงแค่สิ่งที่จะมาถัดไปจาก โฆษณาทางอินเตอร์เน็ต

It's not.

แต่มันไม่ใช่ค่ะ

It's a jump in category.

มันเป็นการก้าวกระโดดในลำดับขั้น

It's a whole different world,

มันเป็นโลกที่แตกต่างออกไปอย่างสิ้นเชิง

and it has great potential.

และมันก็มีศักยภาพที่ยิ่งใหญ่

It could accelerate our understanding of many areas of study and research.

มันอาจเร่งความเข้าใจของเราให้เร็วขึ้นได้ ในการศึกษา และการวิจัยหลายๆสาขา

But to paraphrase a famous Hollywood philosopher,

แต่เมื่อถอดคำพูดของนักปรัชญาฮอลลีวูด ผู้มีชื่อเสียง ที่กล่าวว่า

"With prodigious potential comes prodigious risk."

"ด้วยศักยภาพมหาศาล ก็จะมีมาซึ่ง การเสี่ยงที่มหาศาลเช่นกัน"

Now let's look at a basic fact of our digital lives, online ads.

ทีนี้มาดูข้อเท็จจริงพื้นฐาน ของชีวิตดิจิตอลของเรา อย่างโฆษณาออนไลน์

Right? We kind of dismiss them.

ใช่มั๊ยคะ? เราไม่ค่อยจะสนใจมัน

They seem crude, ineffective.

มันดูจะยังหยาบ ๆ ไร้ประสิทธิภาพ

We've all had the experience of being followed on the web

เราทุกคนเคยมีประสบการณ์ของการถูกติดตาม ทางอินเตอร์เน็ตมาแลัว

by an ad based on something we searched or read.

โดยโฆษณาที่ขึ้นอยู่กับบางอย่าง ที่เราเคยค้นหาหรือเคยอ่าน

You know, you look up a pair of boots

and for a week, those boots are following you around everywhere you go.

แล้วก็นานเป็นอาทิตย์ รองเท้าบูทพวกนั้น ก็ตามคุณไปทั่ว ไม่ว่าจะไปที่ไหน

Even after you succumb and buy them, they're still following you around.

แม้กระทั่งว่า คุณยอมไปซื้อมันมา มันก็ยังคงตามคุณไปทั่ว

We're kind of inured to that kind of basic, cheap manipulation.

เหมือนพวกเราชินชากับ การล่อลวงพื้นฐานง่าย ๆ กระจอก ๆ นั้นไปแล้ว

We roll our eyes and we think, "You know what? These things don't work."

เรากลอกตารำคราญใจ และเราคิดว่า "รู้อะไรมั๊ย? ของแบบนี้ใช้ไม่ได้ผลหรอก"

Except, online,

ยกเว้นทางอินเตอร์เน็ต

the digital technologies are not just ads.

เทคโนโลยีดิจิตอลนั้น ไม่ใช่แค่เพียงโฆษณา

Now, to understand that, let's think of a physical world example.

ทีนี้ เพื่อจะได้เข้าใจเรื่องนั้น เรามาคิดถึงตัวอย่างในโลกทางกายภาพ

You know how, at the checkout counters at supermarkets, near the cashier,

คุณก็รู้ ที่ช่องจ่ายเงิน ในซุปเปอร์มาร์เก็ต ใกล้เครื่องคิดเงิน

there's candy and gum at the eye level of kids?

จะมีพวกลูกอมและหมากฝรั่ง วางอยู่ในระดับสายตาของพวกเด็ก ๆ​

That's designed to make them whine at their parents

นั่นถูกออกแบบมา เพื่อให้เด็กเหล่านั้น งอแงใส่พ่อแม่

just as the parents are about to sort of check out.

ในขณะที่พ่อแม่ กำลังจะจ่ายเงิน

Now, that's a persuasion architecture.

นั่นค่ะ นั่นเป็นสถาปัตยกรรมเชิงการชักจูง

It's not nice, but it kind of works.

ไม่ใช่สิ่งที่ดี แต่ใช้การได้

That's why you see it in every supermarket.

นั่นคือเหตุผลที่คุณเห็นมัน ในทุกร้านค้า

Now, in the physical world,

ทีนี้ ในโลกทางกายภาพนั้น,

such persuasion architectures are kind of limited,

สถาปัตยกรรมเชิงชักจูงแบบนั้น ค่อนข้างมีข้อจำกัด

because you can only put so many things by the cashier. Right?

เพราะคุณได้แค่วางของหลายอย่าง ไว้ใกล้เครื่องคิดเงินได้ ใช่มั๊ยคะ?

And the candy and gum, it's the same for everyone,

แล้วพวกลูกกวาดและหมากฝรั่ง ก็เหมือนๆกันสำหรับทุกคน

even though it mostly works

แม้ว่าวิธีนี้ส่วนใหญ่ใช้การได้

only for people who have whiny little humans beside them.

แต่ก็เพียงกับคนที่มีเจ้าตัวน้อย ร้องโหยหวนอยู่ข้างกาย

In the physical world, we live with those limitations.

ในโลกเชิงกายภาพ เราอยู่กับข้อจำกัดเหล่านั้น

In the digital world, though,

แต่ในโลกดิจิตอลเนี่ยสิ

persuasion architectures can be built at the scale of billions

สถาปัตยกรรมเชิงชักจูง สามารถถูกสร้างขึ้นมาได้ในระดับพันล้าน

and they can target, infer, understand

และมันก็สามารถเล็งเป้า สรุป เข้าใจ

and be deployed at individuals

และถูกนำไปแยกใช้กับปัจเจกบุคคล

one by one

ทีละคน

by figuring out your weaknesses,

โดยการวิเคราะห์ถึงจุดอ่อนของคุณ

and they can be sent to everyone's phone private screen,

และมันก็ยังสามารถถูกส่งไปที่หน้าจอ โทรศัพท์ส่วนตัวของทุกคน

so it's not visible to us.

เพื่อที่เราจะได้มองไม่เห็น

And that's different.

และนั่นเป็นข้อแตกต่าง

And that's just one of the basic things that artificial intelligence can do.

และนั่นเป็นเพียงของพื้น ๆ ที่ปัญญาประดิษฐ์สามารถทำได้

Now, let's take an example.

ทีนี้ มาดูอีกสักตัวอย่างค่ะ

Let's say you want to sell plane tickets to Vegas. Right?

เอาว่า คุณอยากจะขายตั๋วเครื่องบิน ไปที่ลาส เวกัสนะคะ?

So in the old world, you could think of some demographics to target

ในโลกเดิม ๆ คุณอาจคิดถึง กลุ่มประชากรที่คุณจะตั้งเป้า

based on experience and what you can guess.

ขึ้นอยู่กับประสบการณ์ และสิ่งที่คุณสามารถคาดเดาได้

You might try to advertise to, oh,

คุณอาจจะพยายามโฆษณาไปยัง,

men between the ages of 25 and 35,

ผู้ชายอายุระหว่าง 25 ถึง 35 ปี

or people who have a high limit on their credit card,

หรือ ผู้คนที่มีวงเงินบัตรเครดิตสูง

or retired couples. Right?

หรือคู่ครองวัยเกษียณ ใช่ไหม?

That's what you would do in the past.

นั่นเป็นสิ่งที่คุณอาจจะทำในอดีต

With big data and machine learning,

ด้วยข้อมูลขนาดใหญ่ และการเรียนรู้ของเครื่องจักรกล

that's not how it works anymore.

นั่นไม่ใช่วิธีที่ได้ผลต่อไปแล้ว

So to imagine that,

เพื่อที่จะจินตนาการถึงสิ่งนั้น

think of all the data that Facebook has on you:

ลองคิดถึงข้อมูลทั้งหมด ที่เฟสบุ๊กมีเกี่ยวกับคุณ:

every status update you ever typed,

ทุกสถานะที่คุณเคยพิมพ์

every Messenger conversation,

ทุกการสนทนาในแมสเซนเจอร์

every place you logged in from,

ทุกที่ ที่คุณเคยใช้ล๊อคอิน

all your photographs that you uploaded there.

รูปภาพคุณทั้งหมด ที่คุณถ่ายโอนข้อมูลลงไป

If you start typing something and change your mind and delete it,

ถ้าคุณเริ่มต้นพิมพ์บางอย่าง แล้วเปลี่ยนใจและลบมันไปเสีย

Facebook keeps those and analyzes them, too.

เฟซบุ๊กจะเก็บมันไว้ แล้วก็วิเคราะห์ สิ่งที่คุณลบไปแล้วนั้นด้วย

Increasingly, it tries to match you with your offline data.

เพิ่มมากขึ้นเรื่อย ๆ มันพยายามจะจับคู่ คุณกับข้อมูลออฟไลน์ของคุณ

It also purchases a lot of data from data brokers.

นอกจากนี้ มันยังไปซื้อข้อมูลมากมาย จากนายหน้าขายข้อมูลอีกด้วย

It could be everything from your financial records

ข้อมูลนั้นอาจจะเป็นได้ทุกเรื่อง ตั้งแต่บันทึกด้านการเงินของคุณ

to a good chunk of your browsing history.

จนถึงประวัติการเรียกดูเว็บไซต์มากมาย

Right? In the US, such data is routinely collected,

ใช่ไหมคะ? ในสหรัฐฯ ข้อมูลพวกนั้น ถูกเก็บรวบรวมไว้ประจำเป็นกิจวัตร

collated and sold.

เรียบเรียงแล้วก็ขายไป

In Europe, they have tougher rules.

แต่ในยุโรป พวกเขามีกฎที่เข้มงวดกว่านี้ค่ะ

So what happens then is,

สิ่งที่เกิดขึ้นก็คือ

by churning through all that data, these machine-learning algorithms --

โดยการคลุกเคล้าข้อมูลทั่วทั้งหมด, ชุดคำสั่งการเรียนรู้ของเครื่องพวกนี้ --

that's why they're called learning algorithms --

นั่นคือเหตุผลที่เรียกมันว่า ชุดคำสั่งขั้นตอนการเรียนรู้ ..

they learn to understand the characteristics of people

พวกมันเรียนรู้ที่จะเข้าใจ ลักษณะเฉพาะของผู้คน

who purchased tickets to Vegas before.

ที่ซื้อตั๋วไปลาสเวกัสมาก่อนแล้ว

When they learn this from existing data,

เมื่อพวกมันเรียนรู้เรื่องนี้ จากข้อมูลที่มีอยู่

they also learn how to apply this to new people.

พวกมันยังเรียนรู้อีกด้วย ถึงวิธีประยุกต์ใช้กับคนใหม่

So if they're presented with a new person,

ดังนั้นถ้ามีคนใหม่เข้ามา

they can classify whether that person is likely to buy a ticket to Vegas or not.

พวกมันก็สามารถแยกได้ว่า คนนั้นน่าจะซื้อตั๋วไปฃาสเวกัสหรือไม่

Fine. You're thinking, an offer to buy tickets to Vegas.

ก็ดีค่ะ คุณกำลังคิดถึง การเสนอขายตั๋วไปเวกัส

I can ignore that.

ฉันไม่สนใจเรื่องนั้นก็ได้

But the problem isn't that.

แต่นั่นไม่ใช่ปัญหา

The problem is,

ปัญหาที่ว่านั้นคือ

we no longer really understand how these complex algorithms work.

เราจะไม่เข้าใจแท้จริงอีกต่อไปว่า ชุดคำสั่ง ขั้นตอนวิธีที่ซับซ้อนพวกนี้ทำงานอย่างไร

We don't understand how they're doing this categorization.

เราไม่เข้าใจว่า พวกมันกำลังทำ การแยกประเภทข้อมูลนี้ได้อย่างไร

It's giant matrices, thousands of rows and columns,

มันเป็นระบบเมตริกที่ใหญ่มหึมา เต็มไปด้วยแถบแถวของข้อมูลนับพัน

maybe millions of rows and columns,

หรืออาจจะนับล้านเลยก็ได้

and not the programmers

และไม่ว่าจะเป็นคนเขียนโปรแกรม

and not anybody who looks at it,

และใครก็ตามที่ดูมัน

even if you have all the data,

แม้คุณจะมีข้อมูลทั้งหมดนั้น

understands anymore how exactly it's operating

ก็อาจจะไม่เข้าใจอีกต่อไปว่า มันกำลังทำงานอย่างไร

any more than you'd know what I was thinking right now

ไม่มากไปกว่า การที่คุณอาจล่วงรู้ ว่าฉันกำลังคิดอยู่ในขณะนี้

if you were shown a cross section of my brain.

หากว่าคุณได้เห็นภาพตัดตามขวางของสมองฉัน

It's like we're not programming anymore,

มันเหมือนกับว่า เราไม่ได้กำลังเขียนโปรแกรมอีกต่อไปแล้ว

we're growing intelligence that we don't truly understand.

แต่เรากำลังสร้างสติปัญญาที่หลักแหลม ที่เราไม่เข้าใจอย่างแท้จริง ให้เติบโตขึ้น

And these things only work if there's an enormous amount of data,

และสิ่งเหล่านี้ทำงานก็ต่อเมื่อ มีข้อมูลจำนวนมากมายเท่านั้น

so they also encourage deep surveillance on all of us

ดังนั้น พวกเขาจึงส่งเสริม การสอดแนมเชิงลึกกับพวกเราทุกคน

so that the machine learning algorithms can work.

เพื่อให้เครื่องจักรใช้ ชุดคำสั่งการเรียนรู้มาทำงาน

That's why Facebook wants to collect all the data it can about you.

นั่นคือเหตุผลที่เฟซบุ๊กต้องการ รวบรวมข้อมูลคุณทั้งหมดเท่าที่จะทำได้

The algorithms work better.

เพื่อให้ชุดคำสั่งทำงานได้ดีขึ้น

So let's push that Vegas example a bit.

ค่ะ เรามารุกต่อในตัวอย่างเรื่องเวกัสอีกนิด

What if the system that we do not understand

สมมุติว่าระบบที่ว่า ซึ่งเราไม่เข้าใจนั้น

was picking up that it's easier to sell Vegas tickets

กำลังจับได้ว่า มันง่ายกว่าที่จะขายตั๋วไปเวกัส

to people who are bipolar and about to enter the manic phase.

ให้กับคนที่เป็นโรคจิตชนิดไบโพลาร์ และกำลังจะเข้าช่วงอารมณ์ดีผิดปกติ

Such people tend to become overspenders, compulsive gamblers.

คนแบบนั้นมีแนวโน้มที่จะใช้จ่ายเงินเกินตัว เป็นนักพนันที่ควบคุมตัวเองไม่ได้

They could do this, and you'd have no clue that's what they were picking up on.

มันก็จะทำสิ่งที่ว่านี้ และคุณก็ไม่อาจรู้ได้ ว่านั่นคือสิ่งที่มันหยิบมาใช้ได้

I gave this example to a bunch of computer scientists once

ครั้งหนึ่ง ฉันเคยให้ตัวอย่างนี้ กับกลุ่มนักวิทยาศาสตร์คอมพิวเตอร์

and afterwards, one of them came up to me.

และหลังจากนั้น หนึ่งในนั้นมาหาฉัน

He was troubled and he said, "That's why I couldn't publish it."

เขาเดือดร้อนใจ และบอกว่า "นั่นล่ะสาเหตุที่ผมพิมพ์เผยแพร่มันไม่ได้"

I was like, "Couldn't publish what?"

ฉันก็แบบ "ไม่อาจพิมพ์เผยแพร่อะไร?"

He had tried to see whether you can indeed figure out the onset of mania

เขาได้พยายามดูว่า คุณจะสามารถรู้ได้ถึง การเข้าสู่ช่วงอารมณ์ดีผิดปกติ

from social media posts before clinical symptoms,

จากการพิมพ์ข้อความลงในสื่อสังคมออนไน์ ก่อนมีอาการของโรค

and it had worked,

และปรากฎว่ามันก็ทำได้

and it had worked very well,

และมันก็ใช้การได้อย่างดีมาก

and he had no idea how it worked or what it was picking up on.

และเขาก็ไม่รู้ว่า มันทำงานได้อย่างไร หรือมันกำลังหยิบจับอะไรขึ้นมา

Now, the problem isn't solved if he doesn't publish it,

ดังนั้น ปัญหาจึงยังไม่ได้ถูกแก้ไข ถ้าเขาไม่ได้พิมพ์เผยแพร่มันไป

because there are already companies

เพราะในขณะนี้ มีหลายบริษัท

that are developing this kind of technology,

ที่กำลังพัฒนาเทคโนโลยีประเภทนี้อยู่

and a lot of the stuff is just off the shelf.

และมีอยู่มากมายหลายอย่างแค่ หาได้ง่ายมีจำหน่ายทั่วไป

This is not very difficult anymore.

นี่ไม่ใช่เรื่องยากเย็นมากมายอีกต่อไป

Do you ever go on YouTube meaning to watch one video

คุณเคยเข้าไปในยูทูบมั๊ยคะ ตั้งใจจะดูแค่วิดีโอเดียว

and an hour later you've watched 27?

และแล้วหนึ่งชั่วโมงต่อมา คุณดูไปแล้ว 27 เรื่อง

You know how YouTube has this column on the right

คุณรู้ถึงการที่ยูทูบมีช่อง อยู่ทางขวามือ

that says, "Up next"

ที่บอกไว่า "ลำดับต่อไป"

and it autoplays something?

และมันก็เล่นต่อเองได้ในบางครั้ง?

It's an algorithm

เป็นชุดคำสั่งขั้นตอนวิธี

picking what it thinks that you might be interested in

กำลังจับสิ่งที่มันคิดว่า คุณอาจจะสนใจ

and maybe not find on your own.

และบางทีคุณอาจพบไม่ได้ด้วยตัวเอง

It's not a human editor.

มันไม่ใช่บรรณาธิการมนุษย์

It's what algorithms do.

มันเป็นสิ่งที่ทำโดยชุดคำสั่ง

It picks up on what you have watched and what people like you have watched,

มันจับเอาสิ่งที่คุณได้ดูไปแล้ว และสิ่งที่คนเหมือนคุณได้ดูไปแล้ว

and infers that that must be what you're interested in,

และอนุมานว่า นั่นจะต้องเป็นสิ่งที่คุณสนใจ

what you want more of,

ที่คุณจะต้องการมากขึ้น

and just shows you more.

แล้วแค่แสดงให้คุณเห็นมากขึ้น

It sounds like a benign and useful feature,

ฟังดูเหมือนกับ เป็นคุณลักษณะที่ดี และมีประโยชน์

except when it isn't.

เว้นแต่มันไม่ใช่

So in 2016, I attended rallies of then-candidate Donald Trump

ในปี 2016 ฉันเข้าร่วมการชุมนุมกับ โดแนล ทรัมพ์ ซึ่งตอนนั้นยังเป็นผู้สมัคร

to study as a scholar the movement supporting him.

เพื่อที่จะศึกษาในฐานะผู้ที่ได้รับทุน ความเคลื่อนไหวที่สนับสนุนเขาอยู่

I study social movements, so I was studying it, too.

ฉันศึกษาความเคลื่อนไหวทางด้านสังคม จึงกำลังศึกษามันด้วยเช่นกัน

And then I wanted to write something about one of his rallies,

แล้วฉันก็อยากจะเขียนอะไรสักอย่าง เกี่ยวกับการชุมนุมครั้งหนึ่งของเขา

so I watched it a few times on YouTube.

ฉันจึงเข้าไปดูมันสองสามครั้งในยูทูบ

YouTube started recommending to me

ยูทูบก็เริ่มแนะนำฉัน

and autoplaying to me white supremacist videos

และก็เล่นวิดีโออัตโนมัติให้ฉันดูวิดีโอ ของผู้ที่เชื่อในความเป็นเลิศของคนผิวขาว

in increasing order of extremism.

ตามลำดับที่เพิ่มสูงขึ้นเรื่อยๆ ของลัทธิหัวรุนแรง

If I watched one,

ถ้าหากดูไปแล้วหนึ่งเรื่อง

it served up one even more extreme

มันก็ให้อีกหนึ่งเรื่องที่ยิ่งสูงขึ้นอีก

and autoplayed that one, too.

และเล่นโดยอัตโนมัติด้วย

If you watch Hillary Clinton or Bernie Sanders content,

ถ้าคุณดูเนื้อหาของ ฮิลลารี คลินตัน หรือ เบอร์นี แซนเดอร์

YouTube recommends and autoplays conspiracy left,

ยูทูบก็แนะนำ และเล่นให้อัตโนมัติ เรื่องเกี่ยวกับฝ่ายซ้ายสมคบคิดกัน

and it goes downhill from there.

แล้วก็เป็นอย่างนี้ไป หนักขึ้นเรื่อยๆ

Well, you might be thinking, this is politics, but it's not.

คุณอาจจะกำลังคิดอยู่ว่า นี่มันเป็นเรื่องการเมือง แต่มันไม่ใข่

This isn't about politics.

สิ่งนี้ไม่ได้เกี่ยวกับการเมือง

This is just the algorithm figuring out human behavior.

เรื่องนี้เป็นแค่ขั้นตอนคำสั่ง ที่กำลังวิเคราะห์พฤติกรรมมนุษย์

I once watched a video about vegetarianism on YouTube

มีอยู่ครั้งหนึ่ง ฉันดูวิดิโอ เกี่ยวกับลัทธิมังสวิรัติ ในยูทูบ

and YouTube recommended and autoplayed a video about being vegan.

และยูทูบก็แนะนำ และเล่นวิดิโอต่ออัตโนมัติ เรื่องเกี่ยวกับการเป็นคนกินมังสวิรัติ

It's like you're never hardcore enough for YouTube.

เหมือนอย่างกับว่า คุณไม่เคยสุดโต่งพอ สำหรับยูทูบ

(Laughter)

(เสียงหัวเราะ)

So what's going on?

แล้วมันกำลังเกิดอะไรขึ้นเหรอคะ?

Now, YouTube's algorithm is proprietary,

ตอนนี้ ขั้นตอนคำสั่งของยูทูบ จดทะเบียนกรรมสิทธิ์ไปแล้ว

but here's what I think is going on.

แต่ตรงนี้ เป็นสิ่งที่ฉันคิดว่า กำลังเกิดขึ้นอยู่

The algorithm has figured out

ชุดคำสั่งขั้นตอนวิธีคิดออกแล้วว่า

that if you can entice people

ถ้าหากสามารถชักนำผู้คนไป

into thinking that you can show them something more hardcore,

ให้คิดว่า คุณแสดงให้พวกเขาได้เห็น บางสิ่งบางอย่างที่สุดโต่งยิ่งขึ้น

they're more likely to stay on the site

พวกเขาก็น่าจะยังคงดูเว็บไซต์นั้นอยู่ นานยิ่งขึ้น

watching video after video going down that rabbit hole

ดูวิดีโอแล้ววิดีโอเล่า ลงไปสู่ภาวะอันชุลมุนวุ่นวาย

while Google serves them ads.

ในขณะที่กูเกิลก็เอาโฆษณามาให้คุณดู

Now, with nobody minding the ethics of the store,

ทีนี้ เมื่อไม่มีใครสนใจจะว่าอะไร ในเรื่องจริยธรรมของร้านค้า

these sites can profile people

เว็บไซต์พวกนี้ก็สามารถเก็บเอาข้อมูลส่วนตัว ของผู้คนทั้งหลาย

who are Jew haters,

ที่เกลียดชังพวกยิว

who think that Jews are parasites

ที่คิดว่าพวกยิวเป็นพวกเกาะคนอื่นกิน

and who have such explicit anti-Semitic content,

และที่มีความพอใจในการเป็นปฏิปักษ์ กับพวกยิวอย่างเปิดเผยแน่นอน

and let you target them with ads.

และก็ให้คุณตั้งเป้าไปที่พวกเขา ในการโฆษณา

They can also mobilize algorithms

พวกเขายังสามารถระดม ชุดคำสั่งขั้นตอนวิธีเข้ามาได้อีกด้วย

to find for you look-alike audiences,

เพื่อใช้ค้นหาผู้ชมที่มีความคล้ายคลึงกับคุณ

people who do not have such explicit anti-Semitic content on their profile

ผู้คนที่ไม่ได้มีเนื้อหาต่อต้านยิว อย่างเปิดเผยในข้อมูลส่วนตัว

but who the algorithm detects may be susceptible to such messages,

แต่เป็นชุดคำสั่งนั้นแกะรอยได้ว่า อาจจะรู้สึกหวั่นไหวต่อข่าวสารข้อความนั้น

and lets you target them with ads, too.

และให้คุณเล็งเป้าโฆษณาไปที่พวกเขาอีกด้วย

Now, this may sound like an implausible example,

เรื่องนี้อาจจะฟังดูแล้ว เหมือนตัวอย่างที่เหลือเชื่อ

but this is real.

แต่นี่เป็นเรื่องจริง

ProPublica investigated this

เว็บไซต์ข่าวสหรัฐฯโปรพับลิกา ตรวจสอบเรื่องนี้

and found that you can indeed do this on Facebook,

และพบว่า โดยแท้แล้ว คุณก็สามารถทำแบบนี้ได้ ในเฟซบุ๊ก

and Facebook helpfully offered up suggestions

และเฟซบุ๊กก็ช่วยเหลือเสนอแนะ

on how to broaden that audience.

เรื่องวิธีจะขยายผู้ชมให้กว้างขึ้น

BuzzFeed tried it for Google, and very quickly they found,

เว็บไซต์ข่าวบัซฟีดได้ทดลองกับกูเกิล และก็พบอย่างรวดเร็วมาก

yep, you can do it on Google, too.

ใช่เลย คุณทำบนกูเกิลได้ด้วย

And it wasn't even expensive.

และมันไม่แพงด้วยซ้ำ

The ProPublica reporter spent about 30 dollars

นักข่าวโปรพับลิกา ใช้เงินประมาณ 30 ดอลลาร์

to target this category.

เพื่อตั้งเป้าประเภทนี้

So last year, Donald Trump's social media manager disclosed

เมื่อปีที่แล้ว ผู้จัดการด้านสื่อสังคม ของโดนัลด์ ทรัมป์ ได้เปิดเผยว่า

that they were using Facebook dark posts to demobilize people,

เขาใช้วิธีโพสในเฟซบุ๊กแบบให้เห็นเฉพาะ กลุ่มที่ตั้งเป้าไว้เท่านั้น เพื่อระดมคน

not to persuade them,

ไม่ใช่เพื่อชักจูงคน

but to convince them not to vote at all.

แต่เพื่อโน้มน้าวพวกเค้า ไม่ไปลงคะแนนเสียงเลย

And to do that, they targeted specifically,

และในการทำอย่างนั้น พวกเขาก็ตั้งเป้าเจาะจงเป็นพิเศษ

for example, African-American men in key cities like Philadelphia,

ตัวอย่างเช่น คนแอฟริกันอเมริกัน ในเมืองสำคัญ เช่น ฟิลาเดลเฟีย

and I'm going to read exactly what he said.

และก็กำลังจะอ่านสิ่งที่เขาพูด ตรงเป๊ะกับที่เขาพูด

I'm quoting.

ฉัยยกคำพูดมาตรง ๆ

They were using "nonpublic posts

พวกเขาใช้ "โพสที่ไม่เป็นสาธารณะ

whose viewership the campaign controls

ซึ่งจำกัดการผู้เข้าชมนั้น โดยทีมหาเสียง

so that only the people we want to see it see it.

เพื่อให้เฉพาะผู้เข้าชมที่เราต้องการ ให้เห็นเท่านั้น ที่ได้เห็นมัน

We modeled this.

เราสร้างรูปแบบนี้ขึ้น

It will dramatically affect her ability to turn these people out."

มันจะกระทบกระเทือนอย่างรวดเร็วไปถึง ความสามารถของเธอ ที่จะทำให้คนพวกนี้ออกมา"

What's in those dark posts?

มีอะไรอยู่ในโพสต์เฉพาะกิจนั้นบ้าง

We have no idea.

เราเดาไม่ออกเลย

Facebook won't tell us.

เฟซบุ๊กจะไม่บอกเรา

So Facebook also algorithmically arranges the posts

เฟซบุ๊กยังจัดเรียงการโพสต์นั้น ไปตามลำดับคำสั่งชุดขั้นตอนวิธี

that your friends put on Facebook, or the pages you follow.

สิ่งที่เพื่อนคุณใส่เข้าไปในเฟซบุ๊ก หรือบนเพจที่คุณติดตามอยู่

It doesn't show you everything chronologically.

มันไม่ได้แสดงทุกอย่างให้คุณดู ตามลำดับก่อนหลัง

It puts the order in the way that the algorithm thinks will entice you

มันเรียงลำดับตามที่ชุดคำสั่งขั้นตอนวิธี คิดว่า มันจะหลอกล่อคุณ

to stay on the site longer.

ให้ยังอยู่ในเว็บไซต์นั้น ให้นานขึ้น

Now, so this has a lot of consequences.

เรื่องนี้จึงส่งให้เกิดผลที่ตามมามากมาย

You may be thinking somebody is snubbing you on Facebook.

คุณอาจกำลังคิดว่า ใครบางคนกำลังดูถูกดูแคลนคุณอยู่ บนเฟซบุ๊ก

The algorithm may never be showing your post to them.

ลำดับขั้นตอนคำสั่งอาจไม่แสดง สิ่งที่คุณโพสต์ลงไป ให้พวกเขาเห็นเลย

The algorithm is prioritizing some of them and burying the others.

ชุดคำสั่ง กำลังจัดลำดับความสำคัญ ของบางเรื่อง และก็ฝังกลบเรื่องอื่นที่เหลือ

Experiments show

การทดลองแสดงให้เห็นว่า

that what the algorithm picks to show you can affect your emotions.

สิ่งที่ลำดับขั้นตอนคำสั่งหยิบออกมาให้เห็น สามารถกระทบถึงอารมณ์ของคุณได้

But that's not all.

แต่นั่นไม่ใช่ทั้งหมด

It also affects political behavior.

มันยังกระทบถึงพฤติกรรมทางการเมืองอีกด้วย

So in 2010, in the midterm elections,

ดังนั้น ในปี ค.ศ 2010 ในการเลือกตั้งกึ่งวาระ

Facebook did an experiment on 61 million people in the US

เฟซบุ๊กได้ทำการทดลองกับชาวอเมริกัน จำนวน 61 ล้านคนในสหรัฐฯ

that was disclosed after the fact.

ซึ่งถูกเปิดเผยออกมา หลังข้อเท็จจริงนั้น

So some people were shown, "Today is election day,"

คนบางคนจึงได้รับการนำแสดงให้เห็น "วันนี้เป็นวันเลือกตั้ง"

the simpler one,

ข้อความง่าย ๆ

and some people were shown the one with that tiny tweak

และบางคนก็ได้รับการนำเสนอให้เห็น ข้อความที่ปรับเปลี่ยนไปเล็กน้อยนั้น

with those little thumbnails

พร้อมกับรูปหัวแม่มือเล็กๆ

of your friends who clicked on "I voted."

ของเพื่อนคุณที่คลิกเข้าไปที่ "ฉันออกเสียงเลือกตั้งแล้ว"

This simple tweak.

นี่เป็นการปรับเปลี่ยนที่ง่าย

OK? So the pictures were the only change,

ใช่ไหม? รูปภาพจึงเป็นสิ่งเดียวที่เปลี่ยน

and that post shown just once

และการโพสต์นั้นแสดงให้เห็นแค่ครั้งเดียว

turned out an additional 340,000 voters

ปรากฎว่า มีคนไปออกเสียงเพิ่มขึ้น ถึง 340,000 คน

in that election,

ในการเลือกตั้งครั้งนั้น,

according to this research

ตามรายงานวิจัยนี้

as confirmed by the voter rolls.

ซึ่งได้รับการยืนยัน โดยทะเบียนผู้มีสิทธิเลือกตั้ง

A fluke? No.

เป็นความบังเอิญหรือ? ไม่ใช่ค่ะ

Because in 2012, they repeated the same experiment.

เพราะว่าในปี ค.ศ 2012 พวกเขาทำการทดลองเหมือนกันนี้อีกครั้ง

And that time,

และในครั้งนั้น

that civic message shown just once

ข้อความเกี่ยวกับสิทธิหน้าที่พลเมืองนั้น ถูกนำเสนอแค่ครั้งเดียว

turned out an additional 270,000 voters.

ปรากฎว่าได้คนที่มาออกเสียงเพิ่มขึ้น อีก 270,000 คน

For reference, the 2016 US presidential election

เพื่อการอ้างอิง การเลือกตั้งประธานาธิบดี ของสหรัฐฯ ในปี ค.ศ 2016

was decided by about 100,000 votes.

ถูกตัดสินด้วยเสียงราว 100,000 เสียง

Now, Facebook can also very easily infer what your politics are,

ปัจจุบัน เฟซบุ๊กยังสรุปได้อย่างง่ายดาย อีกด้วยว่า มุมมองการเมืองคุณเป็นอย่างไร

even if you've never disclosed them on the site.

แม้ว่าคุณไม่เคยเปิดเผยเรื่องนั้นในเว็บไซต์

Right? These algorithms can do that quite easily.

ใช่ไหม? ชุดขั้นตอนคำสั่งเหล่านี้ กลับทำได้ง่ายดาย

What if a platform with that kind of power

อะไรจะเกิดขึ้น หากว่าระบบ ที่พร้อมด้วยพลังอำนาจเช่นนั้น

decides to turn out supporters of one candidate over the other?

ตัดสินใจให้ผู้สนับสนุนของผู้สมัครคนหนึ่ง ออกไปลงคะแนน เกินกว่าผู้สมัครอีกคน?

How would we even know about it?

แล้วเราจะรู้เกี่ยวกับมันได้อย่างไร?

Now, we started from someplace seemingly innocuous --

ตอนนี้ เราได้เริ่มต้นมาจากที่แห่งหนึ่ง ซึ่งดูเหมือนจะไม่มีอันตราย --

online adds following us around --

คือโฆษณาออนไลน์ ที่ติดตามเราไปทั่ว --

and we've landed someplace else.

แล้วเราก็ร่อนลงไปในที่อีกแห่งหนึ่ง

As a public and as citizens,

ในฐานะที่เป็นสาธารณชน และในฐานะพลเมือง

we no longer know if we're seeing the same information

เราจะไม่รู้อีกต่อไป ว่าเรากำลังเห็นข้อมูลข่าวสารเดียวกัน

or what anybody else is seeing,

หรือสิ่งที่คนอื่นเห็นคืออะไร

and without a common basis of information,

และเมื่อปราศจากพื้นฐานข้อมูลข่าวสารร่วมกัน

little by little,

ทีละน้อยละนิด

public debate is becoming impossible,

การอภิปรายโต้เถียงกันทางสาธารณะ ก็กำลังจะเป็นไปไม่ได้

and we're just at the beginning stages of this.

และเราก็เพียงแค่อยู่ที่ขั้นตอนต้น ๆ ของเรื่องนี้เท่านั้น

These algorithms can quite easily infer

ชุดคำสั่งขั้นตอนวิธีเหล่านี้ สามารถอนุมานได้อย่างง่ายดาย

things like your people's ethnicity,

อย่างชาติพันธุ์ของคุณ

religious and political views, personality traits,

แนวคิดเรื่องศาสนาและการเมือง ลักษณะบุคลิกภาพ

intelligence, happiness, use of addictive substances,

ความเฉลียวฉลาด ความสุข การใช้สารเสพย์ติด

parental separation, age and genders,

การหย่าร้างของพ่อแม่ อายุ และเพศ

just from Facebook likes.

จากเพียงแค่ ปุ่มชอบ ของเฟซบุ๊ก

These algorithms can identify protesters

ชุดคำสั่งขั้นตอนวิธีเหล่านี้ ก็สามารถระบุตัวผู้ประท้วงได้

even if their faces are partially concealed.

แม้ว่าใบหน้าของพวกเขา จะถูกปกปิดซ่อนเร้นเป็นบางส่วน

These algorithms may be able to detect people's sexual orientation

ชุดคำสั่งขั้นตอนวิธีเหล่านี้ อาจจะสามารถแกะรอยแนวโน้มทางเพศของผู้คน

just from their dating profile pictures.

จากเพียงภาพข้อมูลส่วนตัว ในการนัดหมายนัดพบของพวกเขา

Now, these are probabilistic guesses,

ตอนนี้ นี่คือการคะเนถึงความน่าจะเป็นไปได้

so they're not going to be 100 percent right,

ดังนั้นมันจึงจะไม่ถูกต้อง 100 เปอร์เซ็นต์

but I don't see the powerful resisting the temptation to use these technologies

แต่ฉันไม่เห็นมี การต่อต้านที่ทรงพลัง ต่อสิ่งล่อใจที่จะใช้เทคโนโลยีเหล่านี้

just because there are some false positives,

แค่เพราะพวกมัน มีประโยชน์เชิงเท็จบางอย่าง

which will of course create a whole other layer of problems.

ซึ่งแน่นอนว่า มันสามารถสร้างปัญหาอีกหลายชั้น

Imagine what a state can do

ลองจินตนาการดูว่า รัฐจะสามารถทำอะไรได้บ้าง

with the immense amount of data it has on its citizens.

ด้วยปริมาณข้อมูลมากมายที่มี เกี่ยวกับพลเมืองของรัฐ

China is already using face detection technology

ขณะนี้จีนกำลังใช้เทคโนโลยี การแกะรอยใบหน้าแล้ว

to identify and arrest people.

เพื่อระบุตัวและจับกุมผู้คน

And here's the tragedy:

และนี่เป็นเรื่องเศร้าที่ว่านั้น:

we're building this infrastructure of surveillance authoritarianism

เรากำลังสร้างโครงสร้างพื้นฐานของ สอดแนมตามแบบลัทธิอำนาจนิยมขึ้นมา

merely to get people to click on ads.

เพียงเพื่อให้ผู้คนคลิกเข้าไปในโฆษณา

And this won't be Orwell's authoritarianism.

เรื่องนี้ จะไม่เป็นลัทธิอำนาจนิยม ตามแบบของออร์เวลล์

This isn't "1984."

นี่ไม่ใช่เรื่อง "1984"

Now, if authoritarianism is using overt fear to terrorize us,

ทีนี้ ถ้าลัทธิอำนาจนิยมกำลังใช้ ความกลัวที่โจ่งแจ้ง เพื่อคุกคามข่มขวัญเรา

we'll all be scared, but we'll know it,

เราทุกคนก็จะตกใจกลัว แต่เราก็จะรู้

we'll hate it and we'll resist it.

เราก็จะเกลียดชังมัน และเราก็จะต่อต้านมัน

But if the people in power are using these algorithms

แต่ถ้าคนที่อยู่ในอำนาจนั้น กำลังใช้ชุดตำสั่งขั้นตอนวิธีเหล่านี้

to quietly watch us,

เพื่อเฝ้ามองดูเราอย่างเงียบ ๆ

to judge us and to nudge us,

เพื่อตัดสินเรา และเพื่อสะกิดเรา

to predict and identify the troublemakers and the rebels,

เพื่อให้คาดเดาและระบุตัวตน คนที่จะสร้างความเดือดร้อน และผู้ทรยศ

to deploy persuasion architectures at scale

เพื่อวางสถาปัตยกรรมการโน้มน้าว อย่างกว้างขวาง

and to manipulate individuals one by one

และเพื่อโน้มน้าวบุคคล ทีละคน

using their personal, individual weaknesses and vulnerabilities,

โดยการใช้จุดอ่อนและความเปราะบางอ่อนแอ ส่วนตัวรายบุคคลของพวกเขา

and if they're doing it at scale

และถ้าเขากำลังทำสิ่งนั้นอยู่ อย่างกว้างขวาง

through our private screens

ผ่านทางหน้าจอส่วนตัวของเรา

so that we don't even know

เพื่อที่ว่า กระทั่งเราไม่รู้เลยว่า

what our fellow citizens and neighbors are seeing,

พลเมืองพวกพ้องและเพื่อนบ้านของเรานั้น กำลังดูอะไรอยุ่,

that authoritarianism will envelop us like a spider's web

ลัทธิอำนาจนิยมนั้น จะครอบงำเราเอาไว้ ราวกับใยแมงมุม

and we may not even know we're in it.

และจนกระทั่งเราอาจไม่รู้เลยว่า เราอยู่ในนั้น

So Facebook's market capitalization

ดังนั้นโครงสร้างเงินทุนการตลาดของเฟซบุ๊ก

is approaching half a trillion dollars.

จึงกำลังเข้าไปถึงเงินจำนวน ครึ่งล้านล้านดอลลาร์

It's because it works great as a persuasion architecture.

นั่นเพราะว่า มันทำงานได้เยี่ยมยอด ในฐานะเป็นสถาปัตยกรรมการชักจูง

But the structure of that architecture

แต่โครงสร้างของสถาปัตยกรรมดังกล่าวนั้น

is the same whether you're selling shoes

ก็เหมือนกัน ไม่ว่าคุณจะกำลังขายรองเท้า

or whether you're selling politics.

หรือไม่ว่าคุณจะกำลังขายนโยบยาการเมืองอยู่

The algorithms do not know the difference.

ชุดคำสั่งขั้นตอนวิธีไม่รู้ถึงความแตกต่าง

The same algorithms set loose upon us

ชุดคำสั่งขั้นตอนวิธีเดียวกันที่ปล่อยเรา

to make us more pliable for ads

ให้เรายิ่งโอนอ่อนตามโฆษณายิ่งขึ้น

are also organizing our political, personal and social information flows,

ก็กำลังจัดระเบียบ กระแสข้อมูลข่าวสาร ด้านการเมือง ส่วนตัว และสังคมของเราอีกด้วย

and that's what's got to change.

และนั่นเป็นสิ่งที่จะต้องเปลี่ยน

Now, don't get me wrong,

ทีนี้ อย่าเข้าใจฉันผิดไปนะคะ

we use digital platforms because they provide us with great value.

เราใช้ฐานงานดิจิตอล ก็เพราะว่า มันให้คุณค่าที่ยิ่งใหญ่แก่เรา

I use Facebook to keep in touch with friends and family around the world.

เราใช้เฟซบุ๊กเพื่อติดต่อกับเพื่อน ๆ และครอบครัวเราไปทั่วโลก

I've written about how crucial social media is for social movements.

ฉันได้เขียนหนังสือไว้ว่า สื่อสังคมออนไลน์ สำคัญยิ่งต่อการเคลื่อนไหวทางสังคมอย่างไร

I have studied how these technologies can be used

ฉันได้ศึกษาถึงวิธีที่จะ สามารถนำเทคโนโลยีเหล่านี้ไปใช้ได้อย่างไร

to circumvent censorship around the world.

เพื่อหลีกเลี่ยงการเซ็นเซอร์ทั่วโลก

But it's not that the people who run, you know, Facebook or Google

แต่ไม่ใช่ว่า คนที่ทำงาน ในที่อย่างเฟซบุ๊ก หรือกุเกิล

are maliciously and deliberately trying

กำลังมุ่งร้ายและจงใจพยายาม

to make the country or the world more polarized

ที่จะทำให้ประเทศชาติ หรือโลก ถูกแบ่งแยกยิ่งขึ้น

and encourage extremism.

และส่งเสริมลัทธิหัวรุนแรง

I read the many well-intentioned statements

ฉันได้อ่านคำแถลงที่ปรารถณาดีมากมาย

that these people put out.

ที่ผู้คนเหล่านี้แถลงออกมา

But it's not the intent or the statements people in technology make that matter,

ทว่าที่สำคัญ มันไม่ใช่ความตั้งใจหรือคำแถลง ที่ผู้คนในเทคโนโลยีนั้นบอกมาหรอก

it's the structures and business models they're building.

แต่มันเป็นโครงสร้าง และแบบแผนทางธุรกิจ ที่พวกเขากำลังสร้างขึ้นมาต่างหาก

And that's the core of the problem.

และนั่นแหละ คือ แก่นของปัญหา

Either Facebook is a giant con of half a trillion dollars

หรือเฟซบุ๊คเป็นการหลอกลวงขนาดยักษ์ ในเงินครึ่งล้านล้านนั้น

and ads don't work on the site,

และโฆษณาก็ใช้การไม่ได้ในเว็บไซต์นั้น

it doesn't work as a persuasion architecture,

มันใช้การไม่ได้ ในฐานะเป็นสถาปัตยกรรมเชิงการชักจูง

or its power of influence is of great concern.

หรือเป็นเรื่องอำนาจในการชักจูง โน้มน้าวของมันนั้น เป็นเรื่องน่าห่วงใยมากๆ

It's either one or the other.

มันเป็นอย่างใดอย่างหนึ่ง

It's similar for Google, too.

มันก็คล้ายคลึงสำหรับกูเกิลด้วย

So what can we do?

ดังนั้น เราจะสามารถทำอะไรได้หรือ?

This needs to change.

สิ่งนี้จำเป็นต้องเปลี่ยน

Now, I can't offer a simple recipe,

ตอนนี้ ฉันไม่อาจเสนอสูตรสำเร็จง่าย ๆ ได้

because we need to restructure

เพราะว่าเราจำเป็นต้องปรับโครงสร้าง

the whole way our digital technology operates.

ในเรื่องวิธีการทั้งหมด ที่เทคโนโลยีดิจิตอลทำงาน

Everything from the way technology is developed

ทุกสิ่งทุกอย่าง ตั้งแต่วิธีการ ที่เทคโนโลยีนี้ถูกพัฒนาขึ้นมา

to the way the incentives, economic and otherwise,

ไปจนถึงแรงจูงใจ เศรษฐกิจ และเรื่องอื่นๆ

are built into the system.

ซึ่งถูกสร้างเข้ามาอยู่ในระบบนี้

We have to face and try to deal with

เราจะต้องเผชิญหน้าและพยายามที่จะจัดการกับ

the lack of transparency created by the proprietary algorithms,

การขาดความโปร่งใส ที่ถูกสร้างขึ้นมาโดย ชุดคำสั่งขั้นตอนวิธี ที่สั่งการด้วยตัวเอง

the structural challenge of machine learning's opacity,

ความท้าทายเชิงโครงสร้าง ในความคลุมเครือ ของการเรียนรู้ของเครื่องจักร

all this indiscriminate data that's being collected about us.

ข้อมูลที่เอามาตามอำเภอใจ ที่ถูกสะสมจากพวกเรา

We have a big task in front of us.

เรามีงานชิ้นใหญ่อยู่เบื้องหน้าเรา

We have to mobilize our technology,

เราจะต้องระดมเทคโนโลยีของเรา

our creativity

ความคิดสร้างสรรค์ของเรา

and yes, our politics

และใช่ค่ะ, การเมืองของเรา

so that we can build artificial intelligence

เพื่อที่ว่าเราจะสามารถสร้างปัญญาประดิษฐ์

that supports us in our human goals

ที่จะส่งเสริมเรา ในเป้าหมาย ด้านความเป็นมนุษย์ของเรา

but that is also constrained by our human values.

แต่สิ่งนั้นก็ยังถูกบีบบังคับไว้ด้วย ค่านิยมในความเป็นมนุษย์ของเราอีกด้วย

And I understand this won't be easy.

และฉันก็เข้าใจว่า นี่ไม่ใช่เรื่องง่าย

We might not even easily agree on what those terms mean.

เราอาจจะแม้กระทั่ง ตกลงกันได้ง่ายๆ ในเรื่องความหมายของคำศัพท์เหล่านั้น

But if we take seriously

แต่ถ้าหากว่าเราเอาจริงเอาจัง

how these systems that we depend on for so much operate,

ว่าระบบที่เราพึ่งพามันอย่างมากเหล่านี้นั้น ทำงานอย่างไร

I don't see how we can postpone this conversation anymore.

ฉันก็ไม่เห็นว่า เราจะสามารถเลื่อน การพูดคุยกันในเรื่องนี้ต่อไปอีก ได้อย่างไร

These structures

โครงสร้างเหล่านี้

are organizing how we function

กำลังจะจัดระบบวิธีการที่เราปฏิบัติการงาน

and they're controlling

และพวกมันกำลังควบคุม

what we can and we cannot do.

สิ่งที่เราสามารถทำได้ และที่เราทำไม่ได้

And many of these ad-financed platforms,

และฐานโฆษณาที่ได้เงินสนับสนุนเหล่านี้ เป็นจำนวนมาก

they boast that they're free.

พวกเขาอวดอ้างว่า พวกเขาเป็นอิสระ

In this context, it means that we are the product that's being sold.

แต่ในเนื้อหานี้นั้น มันหมายถึงว่า เราเป็นผลิตภัณฑ์ ที่กำลังถูกขาย

We need a digital economy

เราจำเป็นต้องมีเศรษฐกิจเชิงดิจิตอล

where our data and our attention

เป็นที่ซึ่งข้อมูลของเรา และความสนใจของเรานั้น

is not for sale to the highest-bidding authoritarian or demagogue.

ไม่ใช่สำหรับเพื่อขายให้กับ เผด็จการหรือพวกกวนเมืองที่เสนอราคาสูงสุด

(Applause)

(เสียงปรบมือ)

So to go back to that Hollywood paraphrase,

ค่ะ เพื่อกลับไปที่ถ้อยความฮอลลีวูด ที่พูดถึงมาแล้วนั้

we do want the prodigious potential

เราต้องการจริงๆ ให้ศักยภาพที่มหาศาล

of artificial intelligence and digital technology to blossom,

ของปัญญาประดิษฐ์ และดิจิตอลเทคโนโลยี เบ่งบาน

but for that, we must face this prodigious menace,

แต่ในเรื่องนั้น เราจะต้องเผชิญกับ ภัยอันตรายมากมายมหาศาลนี้

open-eyed and now.

เปิดหูเปิดตาเสียตอนนี้เลยค่ะ

Thank you.

ขอบคุณคะ

(Applause)

(ปรบมือ)