Machine intelligence makes human morals more important | Zeynep Tufekci

Translator: Teerachart Prasert Reviewer: Sritala Dhanasarnsombut

So, I started my first job as a computer programmer

ดิฉันเริ่มทำงานครั้งแรก เป็นคอมพิวเตอร์ โปรแกรมเมอร์

in my very first year of college --

ในปีแรกที่เรียนมหาวิทยาลัย

basically, as a teenager.

ตั้งแต่ยังวัยรุ่น

Soon after I started working,

เริ่มทำงานเขียนโปรแกรม

writing software in a company,

ให้บริษัทได้ไม่นาน

a manager who worked at the company came down to where I was,

ผู้จัดการคนหนึ่งในบริษัทนั้น มาหาดิฉัน

and he whispered to me,

แล้วกระซิบถามว่า

"Can he tell if I'm lying?"

"มันจับโกหกผมได้หรือเปล่า?"

There was nobody else in the room.

ตอนนั้น ไม่มีคนอื่นอยู่ในห้องอีก

"ใครที่ไหนจับโกหกคุณได้เหรอ? แล้วเราจะกระซิบกันทำไม?"

"Can who tell if you're lying? And why are we whispering?"

The manager pointed at the computer in the room.

ผู้จัดการก็ชี้ ไปที่คอมพิวเตอร์

"Can he tell if I'm lying?"

"มันจับโกหกผมได้หรือเปล่า?"

Well, that manager was having an affair with the receptionist.

พอดีว่า ผู้จัดการคนนั้น เป็นชู้อยู่กับพนักงานต้อนรับ

(Laughter)

(เสียงหัวเราะ)

ตอนนั้น ฉันยังเป็นแค่วัยรุ่น

And I was still a teenager.

So I whisper-shouted back to him,

ฉันเลยกระซิบดัง ๆ กลับไปว่า

"Yes, the computer can tell if you're lying."

"ใช่ ๆ คอมพิวเตอร์มันจับโกหกได้ค่ะ"

(เสียงหัวเราะ)

(Laughter)

Well, I laughed, but actually, the laugh's on me.

ดิฉันอำไปขำ ๆ แต่ตอนนี้ ดิฉันกลับขำไม่ออกเสียเอง

Nowadays, there are computational systems

ปัจจุบัน มีระบบคอมพิวเตอร์

that can suss out emotional states and even lying

ที่สามารถตรวจจับอารมณ์ หรือกระทั่งคำโกหกได้

from processing human faces.

โดยการประมวลผลใบหน้ามนุษย์

Advertisers and even governments are very interested.

ทั้งบริษัทโฆษณาและรัฐบาล ต่างก็สนใจอย่างมาก

I had become a computer programmer

ดิฉันทำอาชีพคอมพิวเตอร์ โปรแกรมเมอร์

because I was one of those kids crazy about math and science.

เพราะตอนเป็นเด็ก ดิฉันชอบคณิตศาสตร์ และวิทยาศาสตร์มาก ๆ

But somewhere along the line I'd learned about nuclear weapons,

แต่พอโตขึ้น ดิฉันก็ได้รู้เรื่องอาวุธนิวเคลียร์

ซึ่งทำให้ดิฉันไม่สบายใจเรื่อง จริยธรรมทางวิทยาศาสตร์เอามาก ๆ

and I'd gotten really concerned with the ethics of science.

ดิฉันรู้สึกไม่ดีเลย

I was troubled.

However, because of family circumstances,

อย่างไรก็ตาม ด้วยความจำเป็นของครอบครัว

I also needed to start working as soon as possible.

ดิฉันต้องรีบหางานทำให้เร็วที่สุดให้ได้ด้วย

So I thought to myself, hey, let me pick a technical field

ดิฉันเลยคิดว่า เอาอาชีพเชิงเทคนิค

where I can get a job easily

แบบที่ดิฉันจะได้งานง่าย ๆ

and where I don't have to deal with any troublesome questions of ethics.

และก็ไม่ต้องมาปวดหัวกับ ปัญหาจริยธรรมอะไรก็แล้วกัน

ดิฉันเลยเลือกคอมพิวเตอร์

So I picked computers.

(Laughter)

(เสียงหัวเราะ)

Well, ha, ha, ha! All the laughs are on me.

ฮ่า ฮ่า ฮ่า ดิฉันนี่เองกลับขำไม่ออก

ปัจจุบัน นักวิทยาศาสตร์คอมพิวเตอร์ กำลังสร้างแพลตฟอร์ม

Nowadays, computer scientists are building platforms

that control what a billion people see every day.

ที่ควบคุมสื่อซึ่งประชากร เป็นพันล้านคนดูอยู่ทุกวัน

พวกเขากำลังสร้างรถ ที่จะตัดสินใจว่าใครที่จะวิ่งชนได้

They're developing cars that could decide who to run over.

They're even building machines, weapons,

พวกเขาสร้างแม้กระทั่งเครื่องจักร และอาวุธ

that might kill human beings in war.

ที่คร่าชีวิตมนุษย์ในสงครามได้

It's ethics all the way down.

สิ่งเหล่านี้ ล้วนเกี่ยวกับจริยธรรม

Machine intelligence is here.

เครื่องจักร มีสติปัญญาแล้ว

We're now using computation to make all sort of decisions,

เราใช้คอมพิวเตอร์คำนวณ เพื่อตัดสินใจเรื่องสารพัดอย่าง

but also new kinds of decisions.

รวมถึงการตัดสินใจรูปแบบใหม่ ๆ ด้วย

We're asking questions to computation that have no single right answers,

เราเริ่มใช้คอมพิวเตอร์ เพื่อตอบคำถามที่ไม่มีคำตอบตายตัว

that are subjective

คำถามอัตนัย

and open-ended and value-laden.

ปลายเปิด และต้องใช้มุมมองในการตอบ

คำถามอย่างเช่น

We're asking questions like,

"Who should the company hire?"

"บริษัทควรจ้างใครดี"

"ควรแสดงอัพเดตของเฟรนด์คนไหนดี"

"Which update from which friend should you be shown?"

"Which convict is more likely to reoffend?"

"นักโทษคนไหนมีแนวโน้มทำผิดซ้ำอีก"

"Which news item or movie should be recommended to people?"

"ควรแนะนำข่าวหรือหนังเรื่องอะไรให้คนดูดี"

Look, yes, we've been using computers for a while,

ใช่ค่ะ เราใช้คอมพิวเตอร์กันมาระยะนึงแล้ว

but this is different.

แต่นี่ไม่เหมือนแต่ก่อน

This is a historical twist,

นี่คือจุดพลิกผันครั้งประวัติศาสตร์

because we cannot anchor computation for such subjective decisions

เพราะเป็นไปไม่ได้ ที่เราจะใช้คอมพิวเตอร์ มาช่วยแก้ปัญหาเชิงอัตวิสัย

the way we can anchor computation for flying airplanes, building bridges,

แบบเดียวกับที่ใช้ช่วยสร้างเครื่องบิน สร้างสะพาน

going to the moon.

หรือไปดวงจันทร์

Are airplanes safer? Did the bridge sway and fall?

เครื่องบินปลอดภัยขึ้นมั้ย สะพานจะแกว่งหรือพังมั้ย

There, we have agreed-upon, fairly clear benchmarks,

เรื่องแบบนี้ เรามีจุดตรวจสอบ ที่จับต้อง เห็นตรงกันได้

and we have laws of nature to guide us.

และเรามีกฎธรรมชาติช่วยนำทางให้

We have no such anchors and benchmarks

แต่เราไม่มีหมุดหมายหรือจุดตรวจสอบเช่นนั้น

for decisions in messy human affairs.

สำหรับการตัดสิน เรื่องธุระที่ยุ่งเหยิงของมนุษย์

To make things more complicated, our software is getting more powerful,

เรื่องยิ่งยุ่งยากขึ้นอีก เมื่อซอฟท์แวร์ของเราทรงพลังขึ้น

but it's also getting less transparent and more complex.

แต่ขณะเดียวกัน ก็โปร่งใสลดลง และซับซ้อนมากขึ้น

Recently, in the past decade,

ในทศวรรษที่ผ่านมา

complex algorithms have made great strides.

อัลกอริธึ่มระดับซับซ้อน ก้าวล้ำรุดหน้าอย่างยิ่ง

They can recognize human faces.

พวกมันตรวจจับใบหน้ามนุษย์ได้

They can decipher handwriting.

แกะลายมือได้

They can detect credit card fraud

ตรวจหาการโกงบัตรเครดิต

and block spam

และบล็อกสแปมได้

and they can translate between languages.

แปลภาษาได้หลากหลาย

They can detect tumors in medical imaging.

ค้นหาเนื้องอกผ่านระบบฉายภาพได้

They can beat humans in chess and Go.

เล่นหมากรุกและโกะชนะมนุษย์ได้

Much of this progress comes from a method called "machine learning."

ความล้ำหน้าเหล่านี้เกิดจากกระบวนการ "แมคชีน เลิร์นนิ่ง" (Machine Learning)

แมคชีน เลิร์นนิ่ง ต่างจาก การเขียนโปรแกรมทั่วไป

Machine learning is different than traditional programming,

where you give the computer detailed, exact, painstaking instructions.

ที่คุณเขียนคำสั่งป้อนคอมพิวเตอร์ อย่างละเอียด เจาะจง และรัดกุม

It's more like you take the system and you feed it lots of data,

กรณีนี้ เป็นเหมือนการป้อนข้อมูลจำนวนมาก เข้าสู่ระบบ

including unstructured data,

ซึ่งรวมถึงข้อมูลที่ไม่มีโครงสร้าง

like the kind we generate in our digital lives.

แบบที่เกิดขึ้น เวลาเล่นอินเทอร์เนต

And the system learns by churning through this data.

จากนั้น ระบบจะเรียนรู้ โดยประมวลย่อยข้อมูลเหล่านั้น

And also, crucially,

และที่สำคัญ

these systems don't operate under a single-answer logic.

ระบบพวกนี้ไม่ได้ทำงาน โดยใช้ชุดตรรกะที่ให้คำตอบตายตัว

They don't produce a simple answer; it's more probabilistic:

พวกมันจะไม่สร้างคำตอบแบบพื้น ๆ แต่เป็นคำตอบที่อิงความน่าจะเป็น

"This one is probably more like what you're looking for."

"คำตอบนี้น่าจะเป็นสิ่งที่คุณมองหาอยู่"

ซึ่งมีด้านดีคือ วิธีการนี้ทรงพลังเอามาก ๆ

Now, the upside is: this method is really powerful.

หัวหน้าระบบเอไอของกูเกิ้ลเรียกมันว่า

The head of Google's AI systems called it,

"the unreasonable effectiveness of data."

"ประสิทธิผลอย่างไม่น่าเชื่อของดาต้า"

The downside is,

แต่ด้าบลบก็คือ

we don't really understand what the system learned.

เรายังไม่เข้าใจเลยว่า อะไรคือสิ่งที่ระบบเรียนรู้

In fact, that's its power.

ซึ่งนี่เองคือจุดเด่นของมัน

This is less like giving instructions to a computer;

นี่ไม่ใช่การป้อนคำสั่งให้คอมพิวเตอร์

it's more like training a puppy-machine-creature

แต่เป็นเหมือนการฝึกลูกหมา ที่เผอิญเป็นคอมพิวเตอร์

we don't really understand or control.

เราไม่ได้เข้าใจหรือควบคุมอะไรมันได้เลย

So this is our problem.

นี่เองคือปัญหาของเรา

It's a problem when this artificial intelligence system gets things wrong.

จะเกิดปัญหาขึ้น เมื่อระบบเอไอ พวกนี้ตีความข้อมูลผิด

It's also a problem when it gets things right,

และจะเกิดปัญหาเช่นกัน แม้เมื่อมันตีความถูก

because we don't even know which is which when it's a subjective problem.

เพราะเราไม่รู้ด้วยซ้ำว่าอะไรผิดหรือถูก เมื่อพูดถึงปัญหาแบบอัตนัย

We don't know what this thing is thinking.

เราไม่รู้ว่าเจ้าสิ่งนี้คิดอะไรอยู่กันแน่

So, consider a hiring algorithm --

สมมติว่ามีอัลกอริธึ่มสำหรับจ้างพนักงาน

ระบบที่ตัดสินใจจ้างพนักงาน โดยใช้วิธีแมคชีน เลิร์นนิ่ง

a system used to hire people, using machine-learning systems.

ระบบเช่นนี้ จะถูกฝึกผ่านการป้อนข้อมูล พนักงานที่เคยจ้างในอดีต

Such a system would have been trained on previous employees' data

and instructed to find and hire

และถูกสั่งให้ค้นหาและว่าจ้าง

people like the existing high performers in the company.

คนที่มีคุณสมบัติเหมือนพนักงาน ระดับเยี่ยมที่มีอยู่ในปัจจุบัน

Sounds good.

ฟังดูดี

I once attended a conference

ครั้งหนึ่ง ดิฉันเข้าประชุม

งานเสวนาที่รวมเอา ผู้จัดการและผู้บริหารด้านทรัพยากรมนุษย์

that brought together human resources managers and executives,

คนระดับสูง ๆ

high-level people,

using such systems in hiring.

ที่ใช้ระบบแบบนี้ไว้จ้างงาน

They were super excited.

พวกเขาตื่นเต้นมาก ๆ

They thought that this would make hiring more objective, less biased,

พวกเขาคิดว่า ระบบจะทำให้การจ้างงาน ตรงตามข้อเท็จจริงมากขึ้น มีอคติน้อยลง

and give women and minorities a better shot

ทำให้ผู้หญิงและคนกลุ่มน้อย มีโอกาสได้จ้างดีขึ้น

against biased human managers.

เมื่อเทียบกับใช้คนจ้างที่อาจมีอคติ

And look -- human hiring is biased.

การจ้างงานโดยใช้มนุษย์นั้นมีอคติค่ะ

ฉันรู้ดี

I know.

I mean, in one of my early jobs as a programmer,

ช่วงที่ฉันเป็นโปรแกรมเมอร์ใหม่ ๆ

my immediate manager would sometimes come down to where I was

บางครั้ง หัวหน้าของฉัน จะมาหาฉัน

really early in the morning or really late in the afternoon,

ตอนเช้ามาก ๆ หรือไม่ก็ ตอนบ่ายมาก ๆ

เธอบอกว่า "เซย์เน็ป ไปกินข้าวเที่ยงกัน!"

and she'd say, "Zeynep, let's go to lunch!"

I'd be puzzled by the weird timing.

พอดูเวลา ฉันก็จะงง

It's 4pm. Lunch?

บ่าย 4 ข้าวเที่ยงเหรอ?

ตอนนั้น ฉันไม่มีเงิน ฉะนั้น ข้าวเที่ยงฟรี ฉันพร้อมเสมอ

I was broke, so free lunch. I always went.

I later realized what was happening.

ต่อมา ดิฉันถึงเข้าใจเบื้องหลัง

My immediate managers had not confessed to their higher-ups

หัวหน้าของฉันไม่ได้ บอกผู้ใหญ่ตามตรงว่า

that the programmer they hired for a serious job was a teen girl

โปรแกรมเมอร์ที่พวกเขาจ้าง มานั้น เป็นแค่วัยรุ่นผู้หญิง

who wore jeans and sneakers to work.

ที่ใส่กางเกงยีนส์ รองเท้าผ้าใบมาทำงาน

ดิฉันทำผลงานดี แต่รูปลักษณ์นั้นไม่ผ่าน

I was doing a good job, I just looked wrong

and was the wrong age and gender.

ไม่ผ่านทั้งอายุ และเพศ

แน่นอนว่า การจ้างงานโดย ไม่คำนึงถึงเพศ และเชื้อชาติ

So hiring in a gender- and race-blind way

certainly sounds good to me.

ถูกใจฉันแน่นอน

แต่ถ้าเราใช้ระบบนี้ จะมีเรื่องยุ่งยากเพิ่มขึ้นค่ะ

But with these systems, it is more complicated, and here's why:

Currently, computational systems can infer all sorts of things about you

เพราะในปัจจุบันระบบคอมพิวเตอร์ สามารถคาดเดาเรื่องของคุณได้สารพัด

from your digital crumbs,

จากร่องรอยทางดิจิตอลของคุณ

even if you have not disclosed those things.

ถึงแม้คุณจะไม่เปิดเผย ข้อมูลเหล่านั้นเลยก็ตาม

They can infer your sexual orientation,

พวกมันคาดเดาได้ ทั้งรสนิยมทางเพศของคุณ

your personality traits,

บุคลิกนิสัย

your political leanings.

แนวโน้มทางการเมือง

They have predictive power with high levels of accuracy.

พวกมันสามารถทำนายได้ ด้วยความแม่นยำสูง

Remember -- for things you haven't even disclosed.

อย่าลืมค่ะ นี่แค่เรื่อง ที่คุณไม่ได้เปิดเผยเสียด้วยซ้ำ

This is inference.

เป็นแค่การคาดเดา

I have a friend who developed such computational systems

ดิฉันมีเพื่อนที่พัฒนา ระบบคอมพิวเตอร์แบบนี้

to predict the likelihood of clinical or postpartum depression

เพื่อทำนายความน่าจะเป็น ของการเป็นโรคซึมเศร้ารุนแรงหรือหลังคลอดลูก

from social media data.

โดยใช้ข้อมูลโซเชียลมีเดีย

The results are impressive.

ผลที่ได้ น่าประทับใจมาก

Her system can predict the likelihood of depression

ระบบของเธอสามารถทำนาย แนวโน้มการเป็นโรคซึมเศร้า

months before the onset of any symptoms --

ได้ล่วงหน้าหลายเดือนก่อนเกิดอาการขึ้นจริง

months before.

รู้ล่วงหน้าหลายเดือน

No symptoms, there's prediction.

ยังไม่มีอาการ แต่เป็นแค่การทำนาย

She hopes it will be used for early intervention. Great!

เธอหวังว่าจะใช้ระบบนี้ เพื่อป้องกันโรคแต่เนิ่น ๆ ดีค่ะ!

But now put this in the context of hiring.

ทีนี้ ลองเอาเรื่องนี้มาคิดกับการจ้างคน

ที่งานประชุมของผู้จัดการทรัพยากรมนุษย์ งานนี้

So at this human resources managers conference,

ดิฉันพูดคุยกับผู้บริหารระดับสูง ของบริษัทใหญ่ยักษ์แห่งหนึ่ง

I approached a high-level manager in a very large company,

and I said to her, "Look, what if, unbeknownst to you,

ดิฉันถามเธอว่า "สมมติว่า โดยที่คุณไม่ล่วงรู้"

your system is weeding out people with high future likelihood of depression?

ระบบคัดคนที่มีแนวโน้ม เป็นโรคซึมเศร้าในอนาคตสูงออกไป

They're not depressed now, just maybe in the future, more likely.

ไม่ใช่ว่าซึมเศร้าตอนนี้นะ แค่อาจจะซึมเศร้าในอนาคต

What if it's weeding out women more likely to be pregnant

ถ้ามันคัดผู้หญิงที่มีแนวโน้มสูง ว่าจะตั้งครรภ์

in the next year or two but aren't pregnant now?

ในอีกปีสองปี แต่ไม่ได้ตั้งครรภ์ตอนนี้ออกไปล่ะ

What if it's hiring aggressive people because that's your workplace culture?"

สมมติว่า มันจ้างคนบุคลิกก้าวร้าว เพราะว่ามันเป็นวัฒนธรรมองค์กรของคุณล่ะ

เรื่องเหล่านี้ คุณดูไม่ออก โดยใช้แค่เพศจำแนก

You can't tell this by looking at gender breakdowns.

Those may be balanced.

มันอาจเหมือน ๆ กันก็ได้

And since this is machine learning, not traditional coding,

และเพราะว่านี่เป็น แมคชีน เลิร์นนิ่ง ไม่ใช่การโปรแกรมแบบปกติ

there is no variable there labeled "higher risk of depression,"

จึงไม่มีตัวแปรที่ระบุว่า "ความเสี่ยงซึมเศร้าสูง"

"higher risk of pregnancy,"

"ความเสี่ยงตั้งครรภ์สูง"

"aggressive guy scale."

"ระดับความก้าวร้าวสูง"

Not only do you not know what your system is selecting on,

คุณไม่เพียงไม่รู้ว่า ระบบเลือกอะไรมา

you don't even know where to begin to look.

คุณไม่รู้ด้วยซ้ำ ว่าจะเริ่มหาจากตรงไหนดี

มันเหมือนกล่องดำ

It's a black box.

It has predictive power, but you don't understand it.

มันสามารถทำนายได้ แต่เราไม่อาจเข้าใจมันได้

"What safeguards," I asked, "do you have

ฉันถาม "คุณจะใช้วิธีป้องกันใด

to make sure that your black box isn't doing something shady?"

เพื่อให้แน่ใจว่า กล่องดำของคุณ ไม่ทำอะไรนอกลู่นอกทาง

She looked at me as if I had just stepped on 10 puppy tails.

เธอมองดิฉันกลับเหมือนดิฉันกำลัง เหยียบหางลูกหมาอยู่ 10 ตัว

(Laughter)

(เสียงหัวเราะ)

เธอจ้องดิฉันกลับ และพูดว่า

She stared at me and she said,

"I don't want to hear another word about this."

"อย่ามาพูดอะไรแบบนี้ ให้ฉันฟังอีกนะคะ"

And she turned around and walked away.

แล้วเธอก็หันหน้า เดินหนีไป

เธอไม่ได้หยาบคายหรอกค่ะ

Mind you -- she wasn't rude.

It was clearly: what I don't know isn't my problem, go away, death stare.

แค่ว่า อะไรที่ฉันไม่รู้ ไม่ใช่ปัญหาของฉัน ไปไกล ๆ ไล่ด้วยสายตา

(Laughter)

(เสียงหัวเราะ)

Look, such a system may even be less biased

ระบบแบบนั้น อาจมีอคติน้อยกว่า

than human managers in some ways.

ผู้จัดการมนุษย์ในบางด้าน

And it could make monetary sense.

และอาจคุ้มค่าทางการเงินด้วยก็จริง

But it could also lead

แต่ก็อาจเป็นต้นเหตุ

to a steady but stealthy shutting out of the job market

ที่ค่อย ๆ นำไปสู่การกีดกัน คนที่มีแนวโน้มซึมเศร้า

ออกจากตลาดแรงงานไปเลย โดยเราไม่รู้ตัว

of people with higher risk of depression.

Is this the kind of society we want to build,

นี่คือสังคมแบบที่เราอยาก สร้างขึ้น

without even knowing we've done this,

โดยที่เราไม่รู้ตัว เพราะเราให้การตัดสินใจ

because we turned decision-making to machines we don't totally understand?

อยู่ในมือของเครื่องกลที่เราเอง ก็ไม่เข้าใจอย่างถ่องแท้อย่างนั้นหรือ

Another problem is this:

อีกปัญหาหนึ่งคือ

these systems are often trained on data generated by our actions,

ระบบเหล่านี้ มักถูกฝึกฝน โดยใช้ข้อมูลที่เกิดจากพฤติกรรมของเรา

human imprints.

พฤติกรรมของมนุษย์

Well, they could just be reflecting our biases,

ฉะนั้น มันอาจรับเอาอคติของเรา

แล้วก็หยิบอคติเหล่านั้นออกมา

and these systems could be picking up on our biases

and amplifying them

ขยายให้รุนแรงขึ้น

and showing them back to us,

แล้วก็แสดงผลกลับมาให้เราดู

while we're telling ourselves,

ขณะที่เราพร่ำบอกตัวเองว่า

"We're just doing objective, neutral computation."

"เรากำลังคำนวณอย่างเป็นกลาง ตามข้อเท็จจริง"

Researchers found that on Google,

นักวิจัยพบว่าบนกูเกิ้ล

โฆษณางานรายได้สูงมีแนวโน้มจะแสดง ให้ผู้หญิงเห็นน้อยกว่าให้ผู้ชาย

women are less likely than men to be shown job ads for high-paying jobs.

And searching for African-American names

และถ้าเราเสิร์ชหาชื่อคนแอฟริกัน-อเมริกัน

ก็มีแนวโน้มที่โฆษณาซึ่งเกี่ยวข้อง กับประวัติอาชญากรรมจะแสดงขึ้นมา

is more likely to bring up ads suggesting criminal history,

even when there is none.

แม้ว่าคนนั้น จะไม่มีประวัติเลยก็ตาม

Such hidden biases and black-box algorithms

อคติซ่อนเร้น และอัลกอริธึ่มกล่องดำแบบนี้เอง

that researchers uncover sometimes but sometimes we don't know,

ซึ่งบางครั้ง นักวิจัยก็เผอิญค้นพบ แต่บางครั้งก็ไม่อาจรู้ได้

can have life-altering consequences.

ที่อาจสร้างผลกระทบ ถึงขั้นเปลี่ยนชีวิตคนได้

In Wisconsin, a defendant was sentenced to six years in prison

ในวิสคอนซิน ผู้ต้องหาคนหนึ่ง ถูกตัดสินจำคุกหกปี

ข้อหาหลบหนีตำรวจ

for evading the police.

You may not know this,

เรื่องนี้คุณอาจไม่รู้

แต่เราให้อัลกอริธึ่มตัดสินใจเรื่อง การสั่งทัณฑ์บนหรือจำคุกมากขึ้นเรื่อย ๆ

but algorithms are increasingly used in parole and sentencing decisions.

ผู้ต้องหาคนนั้นอยากรู้ว่า คะแนนนี้มีวิธีคำนวณอย่างไร

He wanted to know: How is this score calculated?

It's a commercial black box.

อัลกอริธึ่มนีี้เป็นของบริษัทแสวงกำไร

The company refused to have its algorithm be challenged in open court.

บริษัทนั้นปฎิเสธที่จะให้ ศาลไต่สวนอัลกอริธึ่มของตนเอง

But ProPublica, an investigative nonprofit, audited that very algorithm

แต่ โพรพับลิก้า (ProPublica) หน่วยงานสืบสวนไม่หวังกำไร ตรวจสอบอัลกอริธึ่มนั้น

with what public data they could find,

โดยใช้ข้อมูลสาธารณะเท่าที่หาได้

and found that its outcomes were biased

และพบว่า ผลลัพธ์ที่ได้มีอคติอยู่

and its predictive power was dismal, barely better than chance,

ความสามารถในการทำนายย่ำแย่ ดีกว่าเดาสุ่มแค่นิดเดียว

and it was wrongly labeling black defendants as future criminals

มันให้ผลลัพธ์ที่ผิดพลาดว่า ผู้ต้องหาผิวดำมีแนวโน้มเป็นอาชญากรในอนาคต

at twice the rate of white defendants.

สูงเป็นสองเท่าของผู้ต้องหาผิวขาว

So, consider this case:

ลองดูอีกคดีหนึ่ง

ผู้หญิงคนนี้ ไปรับน้องสาวบุญธรรม กลับจากโรงเรียน

This woman was late picking up her godsister

from a school in Broward County, Florida,

ในบรอเวิร์ด เคาน์ตี้ ฟลอริด้า สายกว่าเวลา

running down the street with a friend of hers.

เธอกับเพื่อน ๆ วิ่งกันไปตามถนน

แล้วเจอจักรยานเด็ก และสกูตเตอร์วางทิ้งไว้

They spotted an unlocked kid's bike and a scooter on a porch

and foolishly jumped on it.

แล้วก็เอามาใช้อย่างไม่คิด

As they were speeding off, a woman came out and said,

ขณะที่กำลังจะปั่นจักรยานไป ผู้หญิงคนหนึ่งก็ออกมาตะโกนว่า

"Hey! That's my kid's bike!"

"เฮ้ นั่นของลูกฉันนะ"

They dropped it, they walked away, but they were arrested.

พวกเธอเลยทิ้งจักรยาน รีบเดินหนี แล้วก็ถูกจับกุม

เธอผิดจริง เธอโง่เขลา แต่เธอก็อายุแค่ 18 ด้วย

She was wrong, she was foolish, but she was also just 18.

She had a couple of juvenile misdemeanors.

เธอเคยถูกจับด้วยข้อหาเล็ก ๆ น้อย ๆ มาก่อน

Meanwhile, that man had been arrested for shoplifting in Home Depot --

ส่วนผู้ชายคนนั้น ถูกจับกุม ข้อหาขโมยของในโฮมดีโป้

มูลค่า 85 ดอลลาร์ เป็นอาชญากรรมเล็ก ๆ น้อย ๆ เช่นกัน

85 dollars' worth of stuff, a similar petty crime.

But he had two prior armed robbery convictions.

แต่เขามีประวัติกรรโชคทรัพย์ มาแล้วถึงสองครั้ง

But the algorithm scored her as high risk, and not him.

แต่อัลกอริธึ่มกลับให้คะแนน ความเสี่ยงเธอสูง ไม่ใช่เขา

Two years later, ProPublica found that she had not reoffended.

สองปีต่อมา โปรพับลิก้า พบว่า เธอไม่ได้กระทำผิดซ้ำอีก

It was just hard to get a job for her with her record.

แต่ด้วยประวัติของเธอ ทำให้เธอหางานทำได้ยาก

He, on the other hand, did reoffend

แต่ผู้ชายนั้น กลับทำความผิดซ้ำ

and is now serving an eight-year prison term for a later crime.

และตอนนี้ ต้องโทษจำคุกแปดปี จากการทำผิดหนหลัง

ฉะนั้น เราต้องตรวจสอบกล่องดำของเรา

Clearly, we need to audit our black boxes

and not have them have this kind of unchecked power.

และไม่ปล่อยให้มันมีอำนาจโดย ไม่มีการถ่วงดุลเช่นนี้

(เสียงปรบมือ)

(Applause)

การตรวจสอบเป็นเรื่องที่ดีและสำคัญ แต่ก็ไม่ได้แก้ปัญหาได้ทุกเรื่อง

Audits are great and important, but they don't solve all our problems.

Take Facebook's powerful news feed algorithm --

ลองดูฟีดข่าวทรงอิทธิพล ของเฟซบุ้กเป็นตัวอย่าง

อันที่จัดลำดับข่าวสารทุกอย่าง แล้วตัดสินใจว่าจะโชว์อะไรให้คุณดู

you know, the one that ranks everything and decides what to show you

from all the friends and pages you follow.

โดยดูจากเพื่อนและเพจที่คุณติดตามนี่แหละ

Should you be shown another baby picture?

จะโชว์อะไรดีล่ะ รูปเด็กเล็ก

(Laughter)

(เสียงหัวเราะ)

A sullen note from an acquaintance?

หรือโน้ตขึงขังที่คนรู้จักเขียน

An important but difficult news item?

หรือจะเป็นข่าวชิ้นสำคัญแต่อ่านยาก

There's no right answer.

ไม่มีคำตอบผิดถูก

Facebook optimizes for engagement on the site:

เฟซบุ้กให้ความสำคัญกับ การมีปฏิสัมพันธ์ต่อคอนเทนต์

likes, shares, comments.

ไลค์ แชร์ คอมเมนต์

ในเดือนสิงหาคม ค.ศ. 2014

In August of 2014,

protests broke out in Ferguson, Missouri,

เกิดการประท้วงที่ เฟอร์กูสัน รัฐมิสซูรี่

after the killing of an African-American teenager by a white police officer,

หลังจากเหตุการณ์ที่ตำรวจผิวขาว ฆ่าวัยรุ่นแอฟริกันอเมริกันตาย

ในสภาพการณ์ที่ีน่าสงสัย

under murky circumstances.

The news of the protests was all over

ข่าวการประท้วงผุดเต็มฟีด

บนหน้าทวิตเตอร์ ที่ไม่มีอัลกอริธึ่มคัดกรองของดิฉัน

my algorithmically unfiltered Twitter feed,

but nowhere on my Facebook.

แต่หาไม่เจอบนเฟซบุ้กเลย

Was it my Facebook friends?

เพราะเพื่อนบนเฟซบุ้กของฉันหรือ?

I disabled Facebook's algorithm,

ดิฉันบล็อกอัลกอริธึ่มของเฟซบุ้กเสีย

which is hard because Facebook keeps wanting to make you

ซึ่งทำได้ยาก เพราะเฟซบุ้ก จะยืนกรานแต่ให้คุณ

come under the algorithm's control,

อยู่ใต้บงการของอัลกอริธึ่ม

and saw that my friends were talking about it.

แล้วก็พบว่า เพื่อน ๆ ของฉัน ต่างก็พูดถึงเรื่องนี้

It's just that the algorithm wasn't showing it to me.

แต่อัลกอริธึ่มมันไม่ยอม โชว์ให้ดิฉันดู

I researched this and found this was a widespread problem.

ฉันค้นคว้าเรื่องนี้ต่อ และพบว่านี่เป็นปัญหาในวงกว้าง

The story of Ferguson wasn't algorithm-friendly.

ข่าวเฟอร์กูสัน ไม่เป็นมิตรกับอัลกอริธึ่ม

เพราะมัน "ไม่มีคนไลค์"

It's not "likable."

Who's going to click on "like?"

ใครจะไปกดไลค์ล่ะ

It's not even easy to comment on.

ขนาดคอมเมนต์ยังยากเลย

Without likes and comments,

เมื่อไม่มีไลค์ หรือคอมเมนต์

อัลกอริธึ่มจึงมีแนวโน้ม จะโชว์ให้คนดูน้อยลงไปอีก

the algorithm was likely showing it to even fewer people,

so we didn't get to see this.

เราเลยไม่เห็นข่าวนี้เลย

Instead, that week,

แต่ในสัปดาห์นั้น

Facebook's algorithm highlighted this,

สิ่งที่อัลกอริธึ่มของเฟซบุ้กให้ความสำคัญ

which is the ALS Ice Bucket Challenge.

คือ การท้าราดน้ำแข็งสู้โรค ALS

Worthy cause; dump ice water, donate to charity, fine.

จุดประสงค์ดี มีการราดน้ำแข็ง ได้บริจาคช่วยคน ดีค่ะ

But it was super algorithm-friendly.

แต่ข่าวนี้ อัลกอริธึ่มก็จะชอบมาก ๆ ไปเลย

The machine made this decision for us.

เครื่องจักรตัดสินใจเรื่องแบบนี้ให้พวกเรา

A very important but difficult conversation

การสนทนาประเด็นยาก ๆ แต่สำคัญมาก ๆ แบบนี้

might have been smothered,

อาจถูกกำจัดออก

had Facebook been the only channel.

หากมีเฟซบุ้กเป็นสื่อเพียงช่องทางเดียว

และท้ายที่สุด ระบบพวกนี้ ก็อาจผิดพลาด

Now, finally, these systems can also be wrong

in ways that don't resemble human systems.

ในแบบที่ต่างจากระบบของมนุษย์ไปเลยก็ได้

Do you guys remember Watson, IBM's machine-intelligence system

พวกคุณคงรู้จักวัตสัน ระบบสมองประดิษฐ์ของ IBM

that wiped the floor with human contestants on Jeopardy?

ที่เอาชนะคู่แข่งมนุษย์ แบบขาดลอยในรายการเจพเปอร์ดี้

มันเล่นเกมเก่งมาก

It was a great player.

But then, for Final Jeopardy, Watson was asked this question:

แต่ในเจพเปอร์ดี้รอบสุดท้าย วัตสันต้องตอบคำถามนี้ค่ะ

"Its largest airport is named for a World War II hero,

"สนามบินที่ใหญ่ที่สุดของมัน ตั้งชื่อตามวีรบุรุษสงครามโลกครั้งที่ 2

its second-largest for a World War II battle."

และเป็นสมรภูมิใหญ่เป็นที่สอง ในสงครามโลกครั้งที่ 2"

(Hums Final Jeopardy music)

(ฮัมดนตรีรายการเจพเปอร์ดี้รอบสุดท้าย)

Chicago.

ชิคาโก้ค่ะ

The two humans got it right.

มนุษย์สองคนตอบถูกต้อง

Watson, on the other hand, answered "Toronto" --

แต่วัตสัน ตอบว่า "โตรอนโต้"

ทั้งที่คำถามเป็นหมวด เมืองในสหรัฐฯ!

for a US city category!

The impressive system also made an error

ระบบที่เก่งกาจ ยังรู้จักพลาดพลั้ง

that a human would never make, a second-grader wouldn't make.

ในเรื่องที่มนุษย์ทั่วไป หรือกระทั้งเด็กประถมไม่มีทางพลาด

Our machine intelligence can fail

สมองประดิษฐ์อาจทำผิดพลาดได้

in ways that don't fit error patterns of humans,

ด้วยพฤติการณ์คนละแบบกับของมนุษย์

ในรูปแบบที่เราจะคาดไม่ถึง และไม่ได้เตรียมรับมือ

in ways we won't expect and be prepared for.

การไม่ได้งานทั้งที่คุณ มีคุณสมบัติพร้อมก็แย่อยู่แล้ว

It'd be lousy not to get a job one is qualified for,

but it would triple suck if it was because of stack overflow

แต่คงแย่สุด ๆ ถ้าไม่ได้งาน เพราะแค่เกิด สแต็ค โอเวอร์โฟลว์

in some subroutine.

ในซับรูทีนบางตัว

(Laughter)

(เสียงหัวเราะ)

In May of 2010,

เมื่อเดือนพฤษภาคม 2010

a flash crash on Wall Street fueled by a feedback loop

ตลาดหุ้นวอลล์สตรีท เกิดล่มกระทันหัน เนื่องจากลูปป้อนกลับ

in Wall Street's "sell" algorithm

ในอัลกอริธึ่มของวอลล์สตรีท

wiped a trillion dollars of value in 36 minutes.

ทำให้เงินในตลาดหายไป กว่าหนึ่งล้านล้านดอลลาร์ใน 36 นาที

I don't even want to think what "error" means

ดิฉันไม่อยากคิดเลยว่า "ข้อบกพร่อง" จะเป็นแบบไหน

in the context of lethal autonomous weapons.

ถ้าเกิดเปลี่ยนเป็น อาวุธอันตรายแบบอัตโนมัติแทน

So yes, humans have always made biases.

มนุษย์ล้วนมีอคติกันทั้งนั้น

Decision makers and gatekeepers,

ทั้งผู้ตัดสินใจ และผู้ดูแลกฎ

in courts, in news, in war ...

ทั้งในศาล ในข่าว และในสงคราม

they make mistakes; but that's exactly my point.

พวกเขาผิดพลาดได้ทั้งนั้น แต่นั่นแหละ คือประเด็นของดิฉัน

We cannot escape these difficult questions.

เราหลบเลี่ยงคำถามยาก ๆ แบบนี้ไม่ได้

We cannot outsource our responsibilities to machines.

เราจะถ่ายโอนความรับผิดชอบ ของเราเองนี้ไปให้คอมพิวเตอร์ไม่ได้

(Applause)

(เสียงปรบมือ)

ปัญญาประดิษฐ์ ไม่ได้ทำให้เรา เป็นอิสระจากปัญหาเชิงจริยธรรม

Artificial intelligence does not give us a "Get out of ethics free" card.

Data scientist Fred Benenson calls this math-washing.

นักวิทยาศาสตร์ข้อมูล เฟรด เบเนนสัน เรียกเรื่องนี้ว่า แม็ธวอชชิ่ง (math-washing)

เราต้องทำตรงกันข้าม

We need the opposite.

We need to cultivate algorithm suspicion, scrutiny and investigation.

เราต้องส่งเสริมการสีบสวน ตรวจตรา ตั้งข้อสงสัยในอัลกอริธึ่ม

We need to make sure we have algorithmic accountability,

เราต้องมั่นใจได้ว่าอัลกอริธึ่มที่ใช้ สามารถตรวจสอบย้อนกลับได้

auditing and meaningful transparency.

ออดิทได้ และมีความโปร่งใสอย่างเป็นรูปธรรม

We need to accept that bringing math and computation

เราต้องยอมรับว่า การเอาคณิตศาสตร์และคอมพิวเตอร์

to messy, value-laden human affairs

มาใช้แก้ปัญหาของมนุษย์ที่กำกวม และแฝงความเชื่อทางสังคม

does not bring objectivity;

ไม่ได้ทำให้เกิดความเที่ยงตรง อย่างภววิสัย

แต่ความซับซ้อนของปัญหามนุษย์ จะเล่นงานอัลกอริธึ่มแทน

rather, the complexity of human affairs invades the algorithms.

จริงค่ะ คอมพิวเตอร์นั้น เราใช้ได้ และควรใช้ด้วย

Yes, we can and we should use computation

to help us make better decisions.

เพื่อให้เราตัดสินใจได้ดีขึ้น

But we have to own up to our moral responsibility to judgment,

แต่เราต้องไม่ลืมความรับผิดชอบทางศีลธรรม ในการตัดสินใจนั้น

แล้วใช้อัลกอริธึ่มภายในขอบเขตนั้น

and use algorithms within that framework,

not as a means to abdicate and outsource our responsibilities

ไม่ใช่เพื่อปลดเปลื้อง หรือถ่ายโอน ความรับผิดชอบของเรา

to one another as human to human.

ที่มีต่อผู้อื่น ในฐานะมนุษย์ด้วยกัน

Machine intelligence is here.

เรามีสมองประดิษฐ์ไว้ใช้แล้ว

That means we must hold on ever tighter

นั่นหมายความว่า เรายิ่งต้องยึดมั่น

to human values and human ethics.

ในค่านิยมของมนุษย์ และจริยธรรมของมนุษย์

ขอบคุณค่ะ

Thank you.

(Applause)

(เสียงปรบมือ)