The era of blind faith in big data must end | Cathy O'Neil

Translator: PanaEk Warawit Reviewer: Thanyanuch Tantikul

Algorithms are everywhere.

อัลกอริทึมอยู่ทุกหนแห่ง

They sort and separate the winners from the losers.

มันคัดแยกและ กันผู้ชนะออกจากผู้แพ้

The winners get the job

ผู้ชนะได้งาน

or a good credit card offer.

หรือได้ข้อเสนอบัตรเครดิตดีๆ

The losers don't even get an interview

ผู้แพ้ไม่ได้แม้กระทั่งโอกาสเรียกสัมภาษณ์

or they pay more for insurance.

หรือต้องจ่ายเบี้ยประกันแพงกว่า

We're being scored with secret formulas that we don't understand

เรากำลังถูกให้คะแนน จากสูตรลับที่เราไม่เข้าใจ

that often don't have systems of appeal.

และโดยมากมักไม่มีระบบที่เราจะอุทธรณ์ได้

That begs the question:

นั่นทำให้เกิดคำถามขึ้นว่า

What if the algorithms are wrong?

แล้วถ้าอัลกอริทึมมันผิดล่ะ

To build an algorithm you need two things:

ในการสร้างอัลกอริทึม คุณต้องการสองอย่าง

you need data, what happened in the past,

คุณต้องการข้อมูล สิ่งที่เกิดขึ้นในอดีต

and a definition of success,

และนิยามของความสำเร็จ

the thing you're looking for and often hoping for.

สิ่งที่คุณมองหา หรือหวังว่าจะเจอ

You train an algorithm by looking, figuring out.

คุณฝึกสอนอัลกอริทึม โดยการมองหา และคำนวณ

The algorithm figures out what is associated with success.

อัลกอริทึมจะคำนวณหา ว่าอะไรที่มีส่วนเกี่ยวข้องกับความสำเร็จ

What situation leads to success?

สถานการณ์อย่างไรที่จะนำ ไปสู่ความสำเร็จ

Actually, everyone uses algorithms.

ความจริงแล้ว ทุกคนต่าง ก็ใช้อัลกอริทึม

They just don't formalize them in written code.

เพียงแต่ไม่ได้เขียนเป็นโปรแกรม เป็นทางการ

Let me give you an example.

ขอยกตัวอย่างนะคะ

I use an algorithm every day to make a meal for my family.

ฉันใช้อัลกอริทึมทุกวัน เพื่อทำอาหารสำหรับครอบครัว

The data I use

ข้อมูลที่ฉันใช้

is the ingredients in my kitchen,

คือวัตถุดิบที่มีในครัว

the time I have,

เวลาที่ฉันมี

the ambition I have,

ความตั้งใจที่มี

and I curate that data.

และฉันเองก็กลั่นกรองข้อมูลเหล่านั้น

I don't count those little packages of ramen noodles as food.

ฉันไม่นับพวกบะหมี่กึ่งสำเร็จรูป ว่าเป็นอาหารนะคะ

(Laughter)

(เสียงหัวเราะ)

My definition of success is:

นิยามความสำเร็จของฉันคือ

a meal is successful if my kids eat vegetables.

มื้ออาหารจะถือว่าสำเร็จ ถ้าเด็กๆ ยอมกินผัก

It's very different from if my youngest son were in charge.

มันจะต่างออกไปมาก ถ้าลูกชายคนเล็กของฉันเป็นคนคุมครัว

He'd say success is if he gets to eat lots of Nutella.

เขาจะบอกว่า ความสำเร็จคือ เขาได้กินนูเทลล่าเยอะๆ

But I get to choose success.

แต่ฉันเป็นคนเลือกนิยามความสำเร็จ

I am in charge. My opinion matters.

ฉันเป็นคนรับผิดชอบ ความเห็นของฉันสำคัญ

That's the first rule of algorithms.

มันเป็นกฏข้อแรกของอัลกอริทึม

Algorithms are opinions embedded in code.

อัลกอริทึมคือความคิดเห็น ที่ถูกฝังลงในในโค้ดโปรแกรม

It's really different from what you think most people think of algorithms.

ซึ่งมันแตกต่างอย่างมาก กับที่คุณ หรือคนทั่วไปคิดถึงอัลกอริทึม

They think algorithms are objective and true and scientific.

พวกเขาคิดว่า อัลกอริทึมมีความ ตรงไปตรงมา เป็นวิทยาศาสตร์

That's a marketing trick.

นั่นเป็นแค่กลทางการตลาด

It's also a marketing trick

และก็เป็นทริกการตลาดนี่แหละ

to intimidate you with algorithms,

ที่คุกคามคุณด้วยอัลกอริทึม

to make you trust and fear algorithms

เพื่อจะทำให้คุณเชื่อใจ และกลัวอัลกอริทึม

because you trust and fear mathematics.

เพราะว่าคุณไว้ใจ และกลัวคณิตศาสตร์

A lot can go wrong when we put blind faith in big data.

อาจเกิดสิ่งผิดพลาดได้มากมาย เมื่อเรามีศรัทธา อย่างมืดบอดในข้อมูลมหาศาล (big data)

This is Kiri Soares. She's a high school principal in Brooklyn.

นี่คือ คิริ ซัวเรส เธอเป็นครูใหญ่ โรงเรียนมัธยมแห่งหนึ่งในบรุคลิน

In 2011, she told me her teachers were being scored

ปี 2011 เธอบอกฉันว่า ครูของเธอถูกให้คะแนนจาก

with a complex, secret algorithm

อัลกอริทึมที่ซับซ้อน และเป็นความลับ

called the "value-added model."

ที่เรียกว่า "โมเดลเพิ่มคุณค่า"

I told her, "Well, figure out what the formula is, show it to me.

ฉันบอกเธอว่า "เอาล่ะ มาดูกันว่าสูตรคืออะไร ให้ฉันดูหน่อย

I'm going to explain it to you."

ฉันจะอธิบายให้เธอฟังเอง"

She said, "Well, I tried to get the formula,

เธอบอก "ฉันพยายามจะเอาสูตรมา

but my Department of Education contact told me it was math

แต่ทางกระทรวงศึกษาธิการ แจ้งว่ามันเป็นคณิตศาสตร์

and I wouldn't understand it."

และฉันคงไม่เข้าใจ"

It gets worse.

มันยิ่งแย่ลงไปกว่านั้นอีก

The New York Post filed a Freedom of Information Act request,

หนังสือพิมพ์นิวยอร์กโพสต์ ทำเรื่องขอตามกฎหมายเสรีภาพข้อมูล

got all the teachers' names and all their scores

และได้ข้อมูลรายชื่อครู รวมถึงผลคะแนน ของครูแต่ละคน

and they published them as an act of teacher-shaming.

แล้วนำมาตีพิมพ์ เหมือนกับว่าจะประจานเหล่าครู

When I tried to get the formulas, the source code, through the same means,

เมื่อฉันติดต่อเพื่อขอทราบสูตรการคำนวณ ผ่านช่องทางเดียวกัน

I was told I couldn't.

กลับได้รับการแจ้งว่า ไม่สามารถให้สูตรได้

I was denied.

ฉันถูกปฏิเสธ

I later found out

และฉันมาพบภายหลังว่า

that nobody in New York City had access to that formula.

ไม่มีใครในนิวยอร์กสามารถเข้าถึงสูตรนั้นได้

No one understood it.

ไม่มีใครเข้าใจมัน

Then someone really smart got involved, Gary Rubinstein.

จนกระทั่งคนที่ฉลาดมากคนหนึ่ง เข้ามาเกี่ยวข้องด้วย แกรี่ รูบินสไตน์

He found 665 teachers from that New York Post data

เขาพบข้อมูลเกี่ยวกับครู 665 คน จากข้อมูลของนิวยอร์คโพสต์

that actually had two scores.

ที่ในความจริงแล้ว มีค่าคะแนนเป็นสองค่า

That could happen if they were teaching

ซึ่งก็อาจจะเป็นไปได้หากพวกเขาสอน

seventh grade math and eighth grade math.

คณิตศาสตร์ในชั้นเกรดเจ็ด และในชั้นเกรดแปด

He decided to plot them.

เขาตัดสินใจนำข้อมูลพวกนั้นมาวาดกราฟ

Each dot represents a teacher.

แต่ละจุดแทนครูแต่ละคน

(Laughter)

(เสียงหัวเราะ)

What is that?

นั่นคืออะไร?

(Laughter)

(เสียงหัวเราะ)

That should never have been used for individual assessment.

นั่นไม่ควรจะถูกเอามาใช้ ในการประเมินรายบุคคล

It's almost a random number generator.

มันเกือบจะเหมือนการสร้างตัวเลขแบบสุ่มเลย

(Applause)

(เสียงปรบมือ)

But it was.

แต่ก็เป็นไปแล้ว

This is Sarah Wysocki.

และนี่คือ ซาร่า ไวซอคกี

She got fired, along with 205 other teachers,

เธอถูกไล่ออก พร้อมกับ ครูคนอื่นๆ อีก 205 คน

from the Washington, DC school district,

จากเขตการศึกษาวอชิงตันดีซี

even though she had great recommendations from her principal

ถึงแม้ว่าเธอจะได้รับจดหมายแนะนำตัว ที่ดีมากจากครูใหญ่ของเธอ

and the parents of her kids.

และจากผู้ปกครองของนักเรียน

I know what a lot of you guys are thinking,

ฉันรู้ว่า พวกคุณคิดอะไรกันอยู่

especially the data scientists, the AI experts here.

โดยเฉพาะเหล่านักวิทยาการข้อมูล ที่เชี่ยวชาญ AI ในที่นี้

You're thinking, "Well, I would never make an algorithm that inconsistent."

คุณคงคิดว่า "แหม ฉันคงไม่มีทาง สร้างอัลกอริทึมที่ไม่แน่นอนอย่างนี้หรอก"

But algorithms can go wrong,

แต่อัลกอริทึม ก็สามารถผิดพลาดได้

even have deeply destructive effects with good intentions.

และถึงขนาดส่งผลเสียหายอย่างขนานใหญ่ ทั้งๆ ที่มีเจตนาดีได้

And whereas an airplane that's designed badly

นี่ไม่เหมือนกับการออกแบบเครื่องบินที่แย่

crashes to the earth and everyone sees it,

ซึ่งพอตกลงมา ทุกคนจะมองเห็นได้

an algorithm designed badly

แต่อัลกอริทึมที่ออกแบบไม่ดี

can go on for a long time, silently wreaking havoc.

อาจจะถูกใช้งานอยู่ได้เป็นเวลานาน สร้างหายนะอย่างเงียบๆ ไม่มีใครเห็นได้

This is Roger Ailes.

นี่คือโรเจอร์ เอลส์

(Laughter)

(เสียงหัวเราะ)

He founded Fox News in 1996.

เขาก่อตั้งฟอกซ์นิวส์ในปี 1996

More than 20 women complained about sexual harassment.

มีผู้หญิงกว่า 20 คนร้องเรียนเรื่อง การคุกคามทางเพศ

They said they weren't allowed to succeed at Fox News.

พวกเธอกล่าวว่า พวกเธอไม่ได้รับโอกาส ที่จะประสบความสำเร็จในฟอกซ์นิวส์

He was ousted last year, but we've seen recently

เขาออกจากตำแหน่งเมื่อปีที่แล้ว แต่เราได้เห็นเร็วๆ นี้ว่า

that the problems have persisted.

ปัญหาเรื่องเพศ ยังคงมีอยู่

That begs the question:

ซึ่งนั่นก่อให้เกิดคำถามว่า

What should Fox News do to turn over another leaf?

ฟอกซ์นิวส์ควรจะทำอย่างไร เพื่อจะเปลี่ยนไปในทางที่ดีขึ้น

Well, what if they replaced their hiring process

แล้วถ้าหากว่าพวกเขาเปลี่ยน กระบวนการว่าจ้าง

with a machine-learning algorithm?

มาให้ใช้อัลกอริทึมที่ เรียนรู้ด้วยเครื่อง (Machine Learning) ละ

That sounds good, right?

นั่นฟังดูดีใช่มั้ยละ

Think about it.

ลองคิดดูดีๆ นะคะ

The data, what would the data be?

ข้อมูลที่ใช้ ข้อมูลอะไรที่จะนำมาใช้

A reasonable choice would be the last 21 years of applications to Fox News.

ตัวเลือกที่สมเหตุสมผลคือใบสมัครงาน ของฟอกซ์นิวส์ใน 21 ปีที่ผ่านมา

Reasonable.

สมเหตุสมผล

What about the definition of success?

แล้วนิยามของความสำเร็จละ

Reasonable choice would be,

ตัวเลือกที่ดูเหมาะสมก็คือ

well, who is successful at Fox News?

คิดดูนะ ใครที่ประสบความสำเร็จ ที่ฟอกซ์นิวส์

I guess someone who, say, stayed there for four years

ฉันเดาว่า น่าจะเป็นใครสักคนที่อยู่ มาได้สัก 4 ปี

and was promoted at least once.

และได้เลื่อนตำแหน่ง อย่างน้อยหนึ่งครั้ง

Sounds reasonable.

ฟังดูเข้าท่าดีใช่มั้ยล่ะ

And then the algorithm would be trained.

และอัลกอริทึมก็จะถูกฝึกสอน

It would be trained to look for people to learn what led to success,

มันจะถูกสอนให้มองหาผู้สมัคร มองหาลักษณะที่จะนำไปสู่ความสำเร็จ

what kind of applications historically led to success

ใบสมัครแบบไหน ที่จะประสบความสำเร็จ จากในอดีตที่ผ่านมา

by that definition.

ตามนิยามความสำเร็จ

Now think about what would happen

ลองคิดดูซิว่า จะเกิดอะไรขึ้น

if we applied that to a current pool of applicants.

ถ้าเราเอามาประยุกต์ใช้กับ กลุ่มผู้สมัครในปัจจุบัน

It would filter out women

มันจะคัดกรองเอาผู้หญิงออกไป

because they do not look like people who were successful in the past.

เพราะผู้หญิงดูไม่เหมือนกับ คนที่จะประสบความสำเร็จในอดีต

Algorithms don't make things fair

อัลกอริทึมไม่ได้ ทำให้เกิดความยุติธรรมขึ้นนะคะ

if you just blithely, blindly apply algorithms.

ถ้าคุณแค่หลับหูหลับตา เอาอัลกอริทึมมาใช้

They don't make things fair.

มันไม่ทำให้เกิดความเป็นธรรม

They repeat our past practices,

มันแค่ทำซ้ำสิ่งที่เคยปฏิบัติมาในอดีต

our patterns.

รูปแบบของเรา

They automate the status quo.

มันแค่ทำสถานะปัจจุบันให้เป็นอัตโนมัติ

That would be great if we had a perfect world,

ซึ่งมันคงจะเป็นเรื่องเยี่ยม ถ้าเราอยู่ในโลกที่สมบูรณ์แบบ

but we don't.

แต่เราไม่ได้อยู่

And I'll add that most companies don't have embarrassing lawsuits,

และฉันจะเพิ่มเติมอีกว่า ถึงบริษัทส่วนใหญ่จะไม่ได้มีคดีอื้อฉาว

but the data scientists in those companies

แต่เหล่านักวิทยาการข้อมูลในบริษัทเหล่านั้น

are told to follow the data,

ได้รับคำสั่งให้ถือข้อมูลเป็นหลัก

to focus on accuracy.

ให้เน้นไปที่ความถูกต้องแม่นยำ

Think about what that means.

ลองคิดดูว่า นั่นหมายความว่าอย่างไร

Because we all have bias, it means they could be codifying sexism

เนื่องจากเราต่างก็มีอคติ มันหมายความว่า เรากำลังสร้างการเหยียดเพศ

or any other kind of bigotry.

หรือความอคติดื้อรั้นบางอย่างลงในระบบ

Thought experiment,

มาทดลองด้านความคิดกันหน่อย

because I like them:

เพราะฉันชอบทำ

an entirely segregated society --

สังคมแห่งหนึ่งที่มีความแบ่งแยกอย่างสมบูรณ์

racially segregated, all towns, all neighborhoods

แบ่งแยกกันด้านเชื้อชาติ ในทุกเมือง ทุกชุมชน

and where we send the police only to the minority neighborhoods

และเราส่งตำรวจไปแค่ที่ชุมชน ของคนกลุ่มเสียงข้างน้อยเท่านั้น

to look for crime.

เพื่อตรวจหาอาชญากรรม

The arrest data would be very biased.

ข้อมูลการจับกุมก็จะมีความลำเอียงเป็นอย่างมาก

What if, on top of that, we found the data scientists

นอกจากนั้นแล้ว ถ้าเราหานักวิทยาการข้อมูลและจ้าง

and paid the data scientists to predict where the next crime would occur?

ให้พวกเขาเหล่านั้น ทำนายว่า อาชญากรรมครั้งต่อไปจะเกิดที่ไหน

Minority neighborhood.

ชุมชนของคนกลุ่มน้อย

Or to predict who the next criminal would be?

หรือเพื่อทำนายว่า อาชญากรคนต่อไปจะเป็นใคร?

A minority.

คนกลุ่มน้อย

The data scientists would brag about how great and how accurate

นักวิทยาการข้อมูลก็คงจะอวดโอ่ ได้ว่าโมเดลของพวกเขานั้น

their model would be,

ยอดเยี่ยมและแม่นยำเพียงใด

and they'd be right.

และพวกเขาก็คงจะเป็นฝ่ายถูก

Now, reality isn't that drastic, but we do have severe segregations

ในความเป็นจริงแล้ว มันคงไม่สุดขั้วขนาดนั้น แต่เราก็มีปัญหาการแบ่งแยกที่รุนแรง

in many cities and towns,

ในหลายๆ เมืองทั้งเล็กและใหญ่

and we have plenty of evidence

และเรายังมีหลักฐานอีกมากมาย

of biased policing and justice system data.

ของข้อมูลเกี่ยวกับ กระบวนการยุติธรรมที่มีอคติ

And we actually do predict hotspots,

และเราก็มีการพยากรณ์จุดเสี่ยงจริงๆ

places where crimes will occur.

คือตำแหน่งที่จะเกิดอาชญากรรมขึ้น

And we do predict, in fact, the individual criminality,

และเราก็มีการพยากรณ์การเกิด อาชญากรรมจริงๆ

the criminality of individuals.

การเกิดอาชญากรรมของแต่ละบุคคล

The news organization ProPublica recently looked into

องค์กรสื่อที่เรียกว่า โปรพับลิก้า ได้ทำการศึกษาเมื่อเร็วๆ นี้

one of those "recidivism risk" algorithms,

เกี่ยวกับอัลกอริทึม ที่เรียกกันว่า

as they're called,

"ความเสี่ยงที่จะทำผิดซ้ำซาก"

being used in Florida during sentencing by judges.

ที่ถูกใช้ในรัฐฟลอริด้า ในระหว่างกระบวนการตัดสินของศาล

Bernard, on the left, the black man, was scored a 10 out of 10.

เบอร์นาร์ด ชายผิวดำ ทางด้านซ้าย ได้คะแนน 10 เต็ม 10

Dylan, on the right, 3 out of 10.

ส่วนดีแลน ทางด้านขวา ได้ 3 เต็ม 10

10 out of 10, high risk. 3 out of 10, low risk.

10 เต็ม 10 ความเสี่ยงสูง 3 เต็ม 10 ความเสี่ยงต่ำ

They were both brought in for drug possession.

พวกเราถูกคุมตัวมาด้วยข้อหา มียาเสพติดในครอบครอง

They both had records,

ทั้งคู่ต่างก็มีประวัติอาชญากรรม

but Dylan had a felony

แต่ดีแลนมีความผิดอุกฉกรรจ์ร่วมด้วย

but Bernard didn't.

แต่เบอร์นาร์ดไม่มี

This matters, because the higher score you are,

เรื่องนี้เป็นประเด็น เพราะว่า ยิ่งคุณได้คะแนนสูงเท่าไหร่

the more likely you're being given a longer sentence.

ยิ่งมีโอกาสที่จะต้องโทษ เป็นเวลาที่ยาวนานกว่า

What's going on?

นี่มันเกิดอะไรขึ้น?

Data laundering.

การฟอกข้อมูล

It's a process by which technologists hide ugly truths

มันคือกระบวนการที่ นักเทคโนโลยีซ่อนความจริงที่น่าเกลียด

inside black box algorithms

เอาไว้ภายในกล่องดำของอัลกอริทึม

and call them objective;

แล้วเรียกมันว่า ภววิสัย

call them meritocratic.

เรียกมันว่า คุณธรรมนิยม

When they're secret, important and destructive,

เมื่อมันเป็นความลับ มีความสำคัญ และมีอำนาจทำลายล้าง

I've coined a term for these algorithms:

ฉันเลยบัญญัติศัพท์เรียกอัลกอริทึมพวกนี้ว่า

"weapons of math destruction."

"อาวุธทำลายล้างด้วยคณิตศาสตร์"

(Laughter)

(เสียงหัวเราะ)

(Applause)

(เสียงปรบมือ)

They're everywhere, and it's not a mistake.

พวกมันอยู่ทุกหนแห่ง และนี่ไม่ใช่ความผิดพลาด

These are private companies building private algorithms

นี่คือเหล่าบริษัทเอกชน ที่สร้างอัลกอริทึมภาคเอกชน

for private ends.

เพื่อผลประโยชน์ของเอกชน

Even the ones I talked about for teachers and the public police,

แม้กระทั่งเรื่องที่ฉันพูดถึง เกี่ยวกับครูและตำรวจสาธารณะ

those were built by private companies

อัลกอริทึมเหล่านั้นถูกสร้างโดย บริษัทเอกชน

and sold to the government institutions.

และขายให้กับหน่วยงานของรัฐ

They call it their "secret sauce" --

พวกเขาเรียกมันว่า "สูตรลับ"

that's why they can't tell us about it.

และนั่นเป็นสาเหตุที่พวกเขาบอกเราไม่ได้

It's also private power.

และมันยังเป็นอำนาจของเอกชนด้วย

They are profiting for wielding the authority of the inscrutable.

พวกเขาได้กำไรจากการใช้ อำนาจที่ลึกลับและตรวจสอบไม่ได้

Now you might think, since all this stuff is private

ถึงตอนนี้คุณอาจจะคิดว่า ในเมื่อของพวกนี้เป็นของเอกชน

and there's competition,

และมันมีการแข่งขัน

maybe the free market will solve this problem.

บางทีสภาพตลาดเสรี อาจจะช่วยแก้ปัญหานี้ให้ได้

It won't.

มันแก้ไม่ได้

There's a lot of money to be made in unfairness.

เพราะมีความร่ำรวยมหาศาล ที่ถูกสร้างขึ้นมาได้จากความไม่ยุติธรรม

Also, we're not economic rational agents.

และอีกอย่าง คนเราก็ไม่ได้มีความ เป็นเหตุเป็นผลนักในทางเศรษฐศาสตร์

We all are biased.

เราต่างก็มีอคติกันอยู่ทุกคน

We're all racist and bigoted in ways that we wish we weren't,

เราต่างก็มีความเหยียดเชื้อชาติและอคติ ในแบบที่เราไม่คิดว่าจะมี

in ways that we don't even know.

หรือในแบบที่เราเองก็ไม่รู้ตัว

We know this, though, in aggregate,

แต่เรารู้ว่า ในภาพรวมระดับสังคม เรามีอคติเหล่านี้

because sociologists have consistently demonstrated this

เพราะว่านักสังคมวิทยา ได้สาธิตให้เราเห็นอคติเหล่านี้

with these experiments they build,

อยู่บ่อยๆ ผ่านการทดลองต่างๆ

where they send a bunch of applications to jobs out,

เช่นการส่งใบสมัครงานออกไป

equally qualified but some have white-sounding names

โดยระบุคุณสมบัติพอๆ กัน แต่กลุ่มหนึ่งชื่อเหมือนคนขาว

and some have black-sounding names,

อีกกลุ่มมีชื่อเหมือนคนผิวสี

and it's always disappointing, the results -- always.

และผลลัพธ์ที่ออกมาก็น่าผิดหวัง อยู่เสมอมา ตลอดมาจริงๆ

So we are the ones that are biased,

ดังนั้น พวกเรานี่เองแหละที่มีอคติ

and we are injecting those biases into the algorithms

และเรากำลังใส่อคติเหล่านั้น ลงไปในอัลกอริทึม

by choosing what data to collect,

โดยผ่านการเลือกว่าจะเก็บข้อมูลอะไร

like I chose not to think about ramen noodles --

เหมือนที่ฉันเลือกที่จะไม่ใช้ บะหมี่กึ่งสำเร็จรูป

I decided it was irrelevant.

ฉันตัดสินใจว่า มันไม่ถือเป็นอาหาร

But by trusting the data that's actually picking up on past practices

แต่โดยการเชื่อข้อมูลที่เรา เก็บมาจากผลการกระทำในอดีต

and by choosing the definition of success,

และโดยการเลือกนิยามของความสำเร็จ

how can we expect the algorithms to emerge unscathed?

เราจะคาดหวังว่าอัลกอริทึมจะ ออกมาดีได้อย่างไร?

We can't. We have to check them.

เราคาดหวังไม่ได้ เราต้องตรวจสอบมัน

We have to check them for fairness.

เราต้องตรวจสอบมัน ในแง่ความเป็นธรรม

The good news is, we can check them for fairness.

ข่าวดีก็คือ เราสามารถตรวจสอบ ความเป็นธรรมของมันได้

Algorithms can be interrogated,

อัลกอริทึมสามารถถูกสอบสวนได้

and they will tell us the truth every time.

และมันจะบอกความจริงเราทุกครั้ง

And we can fix them. We can make them better.

และเราสามารถซ่อมแซมมันได้ เราทำให้มันดีขึ้นได้

I call this an algorithmic audit,

ฉันเรียกมันว่า "การตรวจสอบอัลกอริทึม"

and I'll walk you through it.

และฉันจะเล่าให้พวกคุณฟัง

First, data integrity check.

สิ่งแรกคือ การตรวจสอบความสอดคล้องของข้อมูล

For the recidivism risk algorithm I talked about,

สำหรับอัลกอริทึมความเสี่ยง ที่จะทำผิดซ้ำที่ได้เล่าไปแล้ว

a data integrity check would mean we'd have to come to terms with the fact

การตรวจสอบข้อมูลหมายถึง การที่เราต้องตระหนักความจริงที่ว่า

that in the US, whites and blacks smoke pot at the same rate

ในสหรัฐนั้น ทั้งคนขาวและคนดำ ต่างก็เสพยาในอัตราเดียวกัน

but blacks are far more likely to be arrested --

แต่คนดำนั้นมีโอกาสสูงกว่ามาก ที่จะถูกจับ

four or five times more likely, depending on the area.

สูงกว่ามากถึง 4 หรือ 5 เท่า ขึ้นอยู่กับสถานที่

What is that bias looking like in other crime categories,

แล้วอคตินั้นเป็นอย่างไร ในอาชญากรรมประเภทอื่นๆ

and how do we account for it?

แล้วเราจะนำปัจจัยมาพิจารณาอย่างไร

Second, we should think about the definition of success,

อย่างที่สอง เราควรจะคิดถึง นิยามของความสำเร็จ

audit that.

ตรวจสอบนิยามเหล่านั้น

Remember -- with the hiring algorithm? We talked about it.

จำไว้ว่า ในอัลกอริทึมการว่าจ้าง ที่เราได้พูดถึงนั้น

Someone who stays for four years and is promoted once?

ใครบางคนที่อยู่มาสี่ปีและได้ เลื่อนขั้นอย่างน้อยครั้งหนึ่ง

Well, that is a successful employee,

นั่นถือว่าเป็นพนักงานที่ประสบความสำเร็จ

but it's also an employee that is supported by their culture.

แต่นั่นก็เป็นพนักงานที่ได้รับการสนับสนุน จากวัฒนธรรมของพวกเขาด้วย

That said, also it can be quite biased.

หมายความว่า มันสามารถที่จะลำเอียงได้มาก

We need to separate those two things.

เราจำเป็นต้องแยกสองอย่างนี้ออกจากกัน

We should look to the blind orchestra audition

เราน่าจะดูการปิดตาคัดตัว ที่ใช้ในวงออร์เคสตรา

as an example.

เป็นตัวอย่าง

That's where the people auditioning are behind a sheet.

นั่นคือเมื่อคนที่กำลังทดสอบ ถูกกั้นอยู่หลังม่าน

What I want to think about there

สิ่งที่ฉันคิดก็คือ

is the people who are listening have decided what's important

นั่นทำให้คนที่กำลังฟังอยู่ สามารถตัดสินใจได้ว่า อะไรเป็นสิ่งสำคัญ

and they've decided what's not important,

และพวกเขาได้ตัดสินใจแล้วว่า อะไรไม่ใช่สิ่งสำคัญ

and they're not getting distracted by that.

และจะไม่ยอมให้เกิดการ เบี่ยงเบนความสนใจไปได้

When the blind orchestra auditions started,

เมื่อเริ่มมีการคัดตัวสมาชิก วงออร์เคสตราแบบปิดตา

the number of women in orchestras went up by a factor of five.

จำนวนของนักดนตรีหญิง ในวงออร์เคสตรา สูงขึ้นถึง 5 เท่า

Next, we have to consider accuracy.

ต่อมา เราจำเป็นต้องพิจารณาเรื่องความแม่นยำ

This is where the value-added model for teachers would fail immediately.

นี่คือจุดที่โมเดลคุณค่าเพิ่ม สำหรับครู จะล้มเหลวในทันที

No algorithm is perfect, of course,

จริงอยู่ที่ไม่มีอัลกอริทึมใดจะสมบูรณ์แบบ

so we have to consider the errors of every algorithm.

ดังนั้นเราจะต้องพิจารณาถึง ความผิดพลาดต่างๆ ของทุกอัลกอริทึม

How often are there errors, and for whom does this model fail?

ความผิดพลาดเกิดบ่อยแค่ไหน และมันส่งผลเสียต่อใครบ้าง

What is the cost of that failure?

ความเสียหายนั้นมีต้นทุนเป็นอย่างไร

And finally, we have to consider

และท้ายที่สุดแล้ว เรายังต้องพิจารณาถึง

the long-term effects of algorithms,

ผลกระทบในระยะยาวของอัลกอริทึมต่างๆ

the feedback loops that are engendering.

ที่เกิดจากวงจรของเสียงตอบรับ

That sounds abstract,

นั่นฟังดูค่อนข้างเป็นนามธรรม

but imagine if Facebook engineers had considered that

แต่ลองนึกภาพว่าถ้าวิศวกรของเฟซบุ๊ค ได้เคยหยุดคิดถึงผลกระทบ

before they decided to show us only things that our friends had posted.

ก่อนที่พวกเขาจะตัดสินใจแสดง แต่เฉพาะสิ่งที่เพื่อนๆ เราได้โพสไป

I have two more messages, one for the data scientists out there.

ฉันมีอีกสองประเด็นที่อยากบอก เรื่องแรกสำหรับนักวิทยาการข้อมูลทั้งหลาย

Data scientists: we should not be the arbiters of truth.

เราไม่ควรทำตัวเป็นผู้ชี้ขาดความจริง

We should be translators of ethical discussions that happen

เราควรเป็นผู้สื่อประเด็น ข้อถกเถียงทางศีลธรรมที่กำลังเกิดขึ้น

in larger society.

ในสังคมวงกว้าง

(Applause)

(เสียงปรบมือ)

And the rest of you,

และสำหรับคุณที่เหลือ

the non-data scientists:

ที่ไม่ใช่นักวิทยาการข้อมูล

this is not a math test.

นี่ไม่ใช่การทดสอบทางคณิตศาสตร์

This is a political fight.

นี่เป็นการต่อสู้ทางการเมือง

We need to demand accountability for our algorithmic overlords.

เราจำเป็นต้องเรียกร้องความรับผิดชอบ ของผู้มีอำนาจบงการอัลกอริทึมเหล่านี้

(Applause)

(เสียงปรบมือ)

The era of blind faith in big data must end.

ยุคแห่งความเชื่อที่มืดบอด ในโลกแห่งข้อมูลมหาศาลจะต้องสิ้นสุดลง

Thank you very much.

ขอบคุณมากค่ะ

(Applause)

(เสียงปรบมือ)