How I'm fighting bias in algorithms | Joy Buolamwini

Translator: yamela areesamarn Reviewer: Rawee Ma

Hello, I'm Joy, a poet of code,

สวัสดีค่ะ ฉันชื่อ จอย เป็นกวีเขียนรหัส

on a mission to stop an unseen force that's rising,

มีภาระหน้าที่เพื่อหยุดยั้ง พลังที่เรามองไม่เห็นที่กำลังพุ่งขึ้นมา

a force that I called "the coded gaze,"

พลังที่ฉันเคยเรียกว่า การจ้องมองที่ถูกเข้ารหัส (โคดเดด เกซ)

my term for algorithmic bias.

ศัพท์ของฉันเอง สำหรับอคติในชุดคำสั่งขั้นตอนวิธี (algorithmic bias)

Algorithmic bias, like human bias, results in unfairness.

อคติที่ว่านั้น ก็เหมือนกับอคติของมนุษย์ มีผลทำให้เกิดความไม่เป็นธรรม

However, algorithms, like viruses, can spread bias on a massive scale

แต่ขั้นตอนวิธีปฏิบัติ ก็เหมือนกับไวรัส สามารถแพร่กระจายอคติ ไปได้อย่างกว้างขวาง

at a rapid pace.

ในย่างก้าวที่รวดเร็ว

Algorithmic bias can also lead to exclusionary experiences

อคติในชุดคำสั่งขั้นตอนวิธี ยังสามารถนำไปสู่ประสบการณ์ที่กันออกไป

and discriminatory practices.

และการกระทำที่แบ่งแยกเลือกปฏิบัติ

Let me show you what I mean.

ขอแสดงให้คุณเข้าใจว่าฉันหมายถึงอะไร

(Video) Joy Buolamwini: Hi, camera. I've got a face.

(วิดีโอ) จอยบัวลามวินิ: สวัสดีค่ะ กล้อง ฉันมีใบหน้า

Can you see my face?

คุณสามารถเห็นใบหน้าฉันหรือไม่ค่ะ

No-glasses face?

ใบหน้าที่ไม่มีแว่นตานะค่ะ

You can see her face.

คุณสามารถเห็นใบหน้าของเธอได้

What about my face?

แล้วใบหน้าของฉันเองล่ะ

I've got a mask. Can you see my mask?

ฉันสวมหน้ากากอยู่นะ คุณสามารถเห็นหน้ากากของฉันหรือไม่ค่ะ

Joy Buolamwini: So how did this happen?

จอย บัวลามมินิ: ค่ะ สิ่งนี้เกิดขึ้นได้อย่างไรหรือ

Why am I sitting in front of a computer

ทำไมฉันจึงกำลังนั่งอยู่หน้าคอมพิวเตอร์

in a white mask,

ใส่หน้ากากสิขาว

trying to be detected by a cheap webcam?

พยายามจะให้ถูกตรวจพบโดยเว็บแคมราคาถูก ๆ

Well, when I'm not fighting the coded gaze

ค่ะ เมื่อฉันไม่ได้กำลังต่อสู้ อยู่กับโคดเด็ดเกซ

as a poet of code,

ในฐานะเป็นกวีเขียนรหัส

I'm a graduate student at the MIT Media Lab,

ฉันเป็นนักศึกษาบัณฑิตศึกษา อยู่ที่ห้องทดลองสื่อที่สถาบัน MIT

and there I have the opportunity to work on all sorts of whimsical projects,

และที่นั่นฉันได้โอกาสทำงานในทุก ๆ เรื่อง เกี่ยวกับโครงการแปลก ๆ ซึ่งรวมถึง

including the Aspire Mirror,

กระจกตามความปรารถนา (Aspire Mirror)

a project I did so I could project digital masks onto my reflection.

เป็นโครงการที่ฉันทำ เพื่อให้ฉันฉาย หน้ากากดิจิตอล ลงบนภาพสะท้อนของฉันบนกระจก

So in the morning, if I wanted to feel powerful,

ดังนั้น ในตอนเช้า ถ้าฉันต้องการจะรู้สึกมีพลัง

I could put on a lion.

ฉันก็ใส่หน้ากากสิงโต

If I wanted to be uplifted, I might have a quote.

ถ้าต้องการทำให้รู้สึกเบิกบานใจ ฉันอาจยกหรือคัดลอกคำพูดมา

So I used generic facial recognition software

ดังนั้น ฉันจึงได้ใช้โปรแกรมจดจำใบหน้า แบบพื้นฐาน

to build the system,

เพื่อสร้างระบบนั้นขึ้นมา

but found it was really hard to test it unless I wore a white mask.

แต่ก็ได้พบว่า มันยากจริง ๆ ที่จะทดสอบมัน เว้นแต่ว่าฉันจะต้องใส่หน้ากากสีขาว

Unfortunately, I've run into this issue before.

โชคไม่ดีค่ะ ฉันเคยวิ่งเข้าไปพบปัญหานี้ มาก่อน

When I was an undergraduate at Georgia Tech studying computer science,

เมื่อตอนเรียนปริญญาตรีอยู่ที่จอร์เจียเทค เรียนวิทยาศาสตร์คอมพิวเตอร์

I used to work on social robots,

ฉันเคยทำงานเกี่ยวกับหุ่นยนต์สังคม

and one of my tasks was to get a robot to play peek-a-boo,

และงานหน้าที่อย่างหนึ่งของฉันก็คือ ให้หุ่นยนต์เล่นเกมจ๊ะเอ๋

a simple turn-taking game

เป็นเกมง่าย ๆ แบบผลัดกันเล่น

where partners cover their face and then uncover it saying, "Peek-a-boo!"

ที่ผู้เล่นปิดหน้าของตนไว้ แล้วก็เปิดออก พร้อมกับพูดว่า "จ๊ะเอ๋"

The problem is, peek-a-boo doesn't really work if I can't see you,

ปัญหาก็ตือ จะเล่น จ๊ะเอ๋ ไม่ได้ ถ้าฉันมองไม่เห็นคุณ

and my robot couldn't see me.

และหุ่นยนต์ของฉันก็มองไม่เห็นฉัน

But I borrowed my roommate's face to get the project done,

แต่ฉันไปยืมใบหน้าของเพื่อนร่วมห้องมา เพื่อให้โครงการนี้สำเร็จ

submitted the assignment,

ส่งงานนั้นให้อาจารย์ไปได้

and figured, you know what, somebody else will solve this problem.

และก็คิดไปว่า คุณรู้ไหม จะมีคนอื่นมาแก้ปัญหานี้

Not too long after,

หลังจากนั้นไม่นานนัก

I was in Hong Kong for an entrepreneurship competition.

ตอนอยู่ที่ฮ่องกงในการแข่งขันผู้ประกอบการ

The organizers decided to take participants

ผู้จัดการแข่งขันตัดสินใจ พาผู้เข้าร่วมการแข่งขัน

on a tour of local start-ups.

ไปเที่ยวชมธุรกิจเติบโตเร็วในท้องถิ่น

One of the start-ups had a social robot,

หนึ่งในธุรกิจเติบโตเร็วนั้นมีหุ่นยนต์สังคม (social robot)

and they decided to do a demo.

และพวกเขาก็ตัดสินใจแสดงให้ดูเป็นตัวอย่าง

The demo worked on everybody until it got to me,

การแสดงทำได้ดีกับทุก ๆ คน จนมาถึงฉัน

and you can probably guess it.

และคุณก็น่าจะเดาออก

It couldn't detect my face.

มันตรวจไม่พบใบหน้าของฉัน

I asked the developers what was going on,

ฉันเลยถามผู้ที่พัฒนาสร้างมันขึ้นมา ว่าเกิดอะไรขึ้น

and it turned out we had used the same generic facial recognition software.

และก็กลายเป็นว่า พวกเราใช้ โปรแกรมจดจำใบหน้าแบบพื้นฐานแบบเดียวกัน

Halfway around the world,

ห่างออกไปครึ่งหนึ่งของโลก

I learned that algorithmic bias can travel as quickly

ฉันเรียนรู้ว่าอคติในชุดคำสั่งขั้นตอนวิธี สามารถเดินทางไปได้อย่างรวดเร็ว

as it takes to download some files off of the internet.

เท่า ๆ กับที่มันใช้เวลาคัดลอกบางแฟ้มข้อมูล ของอินเตอร์เน็ตออกไปจนหมด

So what's going on? Why isn't my face being detected?

ดังนั้น จึงเกิดอะไรขึ้นหรือค่ะ ทำไมมันจึงตรวจไม่ใบหน้าของฉัน

Well, we have to look at how we give machines sight.

ค่ะ เราก็ต้องมาดูว่า เราให้เครื่องจักรกล มองเห็นได้อย่างไร

Computer vision uses machine learning techniques

การมองเห็นของคอมพิวเตอร์นั้น ใช้เทคนิคการเรียนรู้ของเครื่องจักรกล

to do facial recognition.

เพื่อให้จดจำใบหน้าได้

So how this works is, you create a training set with examples of faces.

สิ่งนี้ทำงานอย่างไรนั้น คือ คุณสร้างชุด การฝึกขึ้นมาพร้อมกับตัวอย่างใบหน้าแบบต่าง ๆ

This is a face. This is a face. This is not a face.

นี่เป็นใบหน้า นี่ก็เป็นใบหน้า นี่ไม่ใช่ใบหน้า

And over time, you can teach a computer how to recognize other faces.

และเมื่อเวลาผ่านไป คุณก็สามารถสอนคอมพิวเตอร์ วิธีการจดจำใบหน้าอื่น ๆ ได้

However, if the training sets aren't really that diverse,

อย่างไรก็ตาม ถ้าหากว่าชุดการฝึกนั้น ไม่มีความหลากหลายอย่างแท้จริงแล้ว

any face that deviates too much from the established norm

ใบหน้าใดก็ตามที่เบี่ยงเบนไปอย่างมาก จากบรรทัดฐานที่สร้างขึ้นมา

will be harder to detect,

ก็จะเป็นการยากที่จะตรวจพบได้

which is what was happening to me.

ซึ่งก็คือ สิ่งที่กำลังเกิดขึ้นกับฉัน

But don't worry -- there's some good news.

แต่ไม่ต้องเป็นห่วงนะคะ -- มีข่าวดีอยู่บ้าง

Training sets don't just materialize out of nowhere.

ชุดการฝึกนั้น ไม่ได้แค่เป็นตัวเป็นตน ขึ้นมาได้เอง

We actually can create them.

จริง ๆ เราสามารถสร้างพวกมันขึ้นมาได้

So there's an opportunity to create full-spectrum training sets

ดังนั้นจึงมีโอกาสที่จะสร้าง ชุดการฝึกแบบครบถ้วนทุกส่วน

that reflect a richer portrait of humanity.

ที่สะท้อนภาพเหมือนของมนุษย์ ได้สมบูรณ์ยิ่งขึ้น

Now you've seen in my examples

ค่ะ คุณก็ได้เห็นในตัวอย่างของฉันแล้ว

how social robots

ว่า หุ่นยนต์สังคมเป็นอย่างไร

was how I found out about exclusion with algorithmic bias.

ฉันค้นพบได้อย่างไร เกี่ยวกับการกันแยกออกไป ด้วยอคติของชุดคำสั่งปฏิบัติ

But algorithmic bias can also lead to discriminatory practices.

แต่อคติของชุดคำสั่งขั้นตอนวิธี ยังสามารถ นำไปสู่การเลือกปฏิบัติได้อีกด้วย

Across the US,

ขณะนี้ทั่วทั้งสหรัฐ

police departments are starting to use facial recognition software

กรมตำรวจกำลังเริ่มใช้โปรแกรมการจดจำใบหน้า

in their crime-fighting arsenal.

ในคลังแสงต่อสู้อาชญากรรมของพวกเขา

Georgetown Law published a report

คณะกฎหมายมหาวิทยาลัยจอร์ดทาวน์ ได้ตีพิมพ์

showing that one in two adults in the US -- that's 117 million people --

แสดงให้เห็นว่า ผู้ใหญ่หนึ่งในสองคน ในสหรัฐ -- นั่นก็คือ คน 117 ล้านคน --

have their faces in facial recognition networks.

มีใบหน้าของพวกเขา อยู่ในเครือข่ายของการจดจำใบหน้าแล้ว

Police departments can currently look at these networks unregulated,

ปัจจุบันกรมตำรวจสามารถเข้าไป ดูเครือข่ายเหล่านี้ได้ โดยไม่มีการควบคุม

using algorithms that have not been audited for accuracy.

โดยใช้ชุดคำสั่งที่ยังไม่ได้ถูกตรวจสอบ ในเรื่องความเที่ยงตรง

Yet we know facial recognition is not fail proof,

แต่เราก็รู้ว่า การจดจำใบหน้า ไม่ใช่ข้อมูลที่ใช้ไม่ได้

and labeling faces consistently remains a challenge.

และการบอกชื่อลักษณะของใบหน้า ก็ยังคงเป็นสิ่งที่ท้าทาย

You might have seen this on Facebook.

คุณอาจจะได้เห็นสิ่งนี้มาแล้ว ในเฟซบุค

My friends and I laugh all the time when we see other people

เพื่อน ๆ ฉันและตัวฉันหัวเราะตลอดเวลา เมื่อเราเห็นคนอื่น ๆ

mislabeled in our photos.

ติดป้ายชื่อผิด ๆ ในภาพของเรา

But misidentifying a suspected criminal is no laughing matter,

แต่การระบุตัวอาชญากรผู้ต้องสงสัยผิดไป ไม่ใช่เรื่องน่าขบขัน

nor is breaching civil liberties.

และไม่ใช่เป็นเรื่องทำให้เกิดรอยแตกร้าว ในเสรีภาพของพลเมือง

Machine learning is being used for facial recognition,

การเรียนรู้ของเครื่องจักรกล กำลังถูกใช้ สำหรับการจดจำใบหน้า

but it's also extending beyond the realm of computer vision.

แต่มันยังกำลังขยายออกไปเกินขอบเขต ของการมองเห็นของคอมพิวเตอร์

In her book, "Weapons of Math Destruction,"

หนังสือ "อาวุธของการทำลายเชิงคณิตศาสตร์" (Weapons of Math Destruction)

data scientist Cathy O'Neil talks about the rising new WMDs --

นักวิทยาศาสตร์ข้อมูล แคธี่ โอนีล พูดถึง การเกิดขึ้นของ ดับเบิลยูเอ็มดี แบบใหม่ --

widespread, mysterious and destructive algorithms

คือ ชุดคำสั่งที่ ขยายกว้าง (widespread) ลึกลับ (mysterious) ทำลายล้าง (destructive)

that are increasingly being used to make decisions

ที่กำลังถูกใช้เพิ่มมากขึ้น เพื่อใช้ในการตัดสินใจ

that impact more aspects of our lives.

ที่เกิดผลกระทบต่อด้านต่าง ๆ ในชีวิตของเรามากยิ่งขึ้น

So who gets hired or fired?

ใครถูกจ้างงาน หรือถูกไล่ออกหรือคะ

Do you get that loan? Do you get insurance?

คุณได้เงินกู้นั่น หรือได้ประกันหรือไม่คะ

Are you admitted into the college you wanted to get into?

คุณได้รับการตอบรับให้เข้าเรียน ในมหาวิทยาลัยที่คุณต้องการหรือไม่คะ

Do you and I pay the same price for the same product

คุณและฉันจ่ายเงินซื้อสินค้าอย่างเดียวกัน ในราคาที่เท่ากันหรือไม่คะ

purchased on the same platform?

เมื่อสินค้านั้นถูกซื้อบนฐานงานเดียวกัน

Law enforcement is also starting to use machine learning

การบังคับกฏหมาย กำลังเริ่มต้นที่จะใช้ การเรียนรู้ของเครื่องจักรกล

for predictive policing.

เพื่อคาดเดาและระบุอาชญากรรม

Some judges use machine-generated risk scores to determine

ผู้พิพากษาบางคนใช้คะแนนความเสี่ยง ที่ได้จากเครื่องจักรกล เพื่อตัดสินใจว่า

how long an individual is going to spend in prison.

บุคคลหนึ่งจะใช้เวลาติดคุกนานเท่าใด

So we really have to think about these decisions.

แท้จริง เราจึงต้องคิดเกี่ยวกับ การตัดสินใจเหล่านี้

Are they fair?

มันยุติธรรมหรือไม่

And we've seen that algorithmic bias

และเราก็ได้เห็นแล้วว่า อคติในชุดคำสั่งขั้นตอนการวิธีนั้น

doesn't necessarily always lead to fair outcomes.

ไม่ได้จำเป็นเสมอว่า จะนำไปสู่ผลลัพธ์ที่เป็นธรรม

So what can we do about it?

ดังนั้น เราจะสามารถทำอะไรได้ในเรื่องนี้

Well, we can start thinking about how we create more inclusive code

ค่ะ เราสามารถเริ่มคิดเกี่ยวกับว่า จะสร้างรหัสที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้

and employ inclusive coding practices.

และใช้วิธีการปฏิบัติในการลงรหัส ที่ครอบคลุมเบ็ดเสร็จ ได้อย่างไร

It really starts with people.

โดยแท้จริงแล้ว มันเริ่มต้นจากผู้คน

So who codes matters.

ใครเป็นคนลงรหัส จึงเป็นเรื่องสำคัญ

Are we creating full-spectrum teams with diverse individuals

เรากำลังสร้างทีมงานที่ครบถ้วนทุกส่วน พร้อมกับบุคคลที่หลากหลายหรือไม่

who can check each other's blind spots?

มีใครที่จะสามารถตรวจสอบ จุดบอดของแต่ละคนหรือไม่

On the technical side, how we code matters.

ในด้านเทคนิคนั้น เราลงรหัสอย่างไร เป็นสิ่งสำคัญ

Are we factoring in fairness as we're developing systems?

เราแบ่งแยกออกเป็นส่วนๆในเรื่องความเป็นธรรม ขณะที่เราพัฒนาระบบหรือไม่

And finally, why we code matters.

และท้ายสุด ทำไมเราจึงลงรหัส ก็สำคัญ

We've used tools of computational creation to unlock immense wealth.

เราใช้เครื่องมือของการสร้างเชิงคอมพิวเตอร์ เพื่อปลดล็อกความมั่งคั่งที่มากมาย

We now have the opportunity to unlock even greater equality

ถึงตอนนี้ เรามีโอกาสที่จะปลดล็อกเปิดได้ แม้กระทั่งระดับคุณภาพที่ยิ่งใหญ่กว่า

if we make social change a priority

ถ้าเราทำให้การเปลี่ยนแปลงทางสังคมนั้น เป็นสิ่งสำคัญอันดับแรก

and not an afterthought.

และไม่ใช่เป็นสิ่งที่จะนำมาคิดพิจารณา ในภายหลัง

And so these are the three tenets that will make up the "incoding" movement.

และทั้งหมดนี้ คือ หลักการสามข้อที่จะ ก่อร่างขึ้นเป็นความเคลื่อนไหว "การลงรหัส"

Who codes matters,

คนที่ลงรหัสนั้นสำคัญ

how we code matters

เราจะลงรหัสอย่างไรนั้นสำคัญ

and why we code matters.

และทำไมเราจึงลงรหัส ก็สำคัญ

So to go towards incoding, we can start thinking about

ดังนั้น จะไปสู่การลงรหัส เราสามารถเริ่มต้นการคิดเกี่ยวกับ

building platforms that can identify bias

การสร้างฐานงานที่สามารถระบุอคติได้

by collecting people's experiences like the ones I shared,

โดยการรวบรวมประสบการณ์ของผู้คน เช่น คนที่ฉันได้ไปแบ่งปันความคิด

but also auditing existing software.

และก็ยังไปตรวจสอบโปรแกรมคอมพิวเตอร์ ที่มีอยู่อีกด้วย

We can also start to create more inclusive training sets.

เรายังสามารถที่จะสร้างชุดการฝึก ที่ครอบคลุมเบ็ดเสร็จยิ่งกว่านี้ได้อีกด้วย

Imagine a "Selfies for Inclusion" campaign

ลองคิดดูซิคะ รณรงค์ "มือถือถ่ายภาพตัวเอง เพื่อนำไปรวมด้วย"

where you and I can help developers test and create

ซึ่งคุณและฉันสามารถช่วยนักพัฒนาทั้งหลาย ทดสอบและสร้างขึ้นมาได้

more inclusive training sets.

ชุดการฝึกแบบครอบคลุมเบ็ดเสร็จ

And we can also start thinking more conscientiously

และเรายังเริ่มต้นการคิดที่ เป็นเรื่องเป็นราวยิ่งขึ้นได้อีก

about the social impact of the technology that we're developing.

เกี่ยวกับผลกระทบของเทคโนโลยีต่อสังคม ที่เรากำลังพัฒนากัน

To get the incoding movement started,

เพื่อให้การเคลื่อนไหวเชิงการลงรหัส เริ่มต้นขึ้นมา

I've launched the Algorithmic Justice League,

ฉันได้เริ่ม คณะเพื่อความเป็นธรรม ด้านชุดคำสั่งขั้นตอนวิธี

where anyone who cares about fairness can help fight the coded gaze.

ซึ่งใครๆที่สนใจเกี่ยวกับความเป็นธรรมมาร่วม ช่วยต่อสู้เรื่อง การจ้องมองที่ถูกเข้ารหัส

On codedgaze.com, you can report bias,

ที่ codedgaze.com คุณสามารถรายงานเกี่ยวกับ อคติ

request audits, become a tester

ร้องขอการตรวจสอบ มาเป็นผู้ทดสอบ

and join the ongoing conversation,

และเข้ามาร่วมการสนธนาที่กำลังมีอยู่

#codedgaze.

ที่ #codedgaze

So I invite you to join me

จึงขอเชิญชวนคุณให้มาร่วมกับฉัน

in creating a world where technology works for all of us,

ในการสร้างโลกใบหนึ่ง ซึ่งเทคโนโลยี ทำงานให้กับเราทุกคน

not just some of us,

ไม่ใช่แค่พวกเราบางคน

a world where we value inclusion and center social change.

โลกใบหนึ่ง ที่เราเห็นคุณค่าในการรวมกัน และมีศูนย์กลางอยู่ที่การเปลี่ยนแปลงสังคม

Thank you.

ขอบคุณค่ะ

(Applause)

(เสียงปรบมือ)

But I have one question:

แต่ฉันมีคำถามหนึ่ง

Will you join me in the fight?

คุณจะมาเข้าร่วมกับฉันในการต่อสู้หรือไม่คะ

(Laughter)

(เสียงหัวเราะ)

(Applause)

(เสียงปรบมือ)