Daniel Suarez: The kill decision shouldn't belong to a robot

Translator: Joseph Geni Reviewer: Morton Bast

Translator: Yada Sattarujawong Reviewer: Kelwalin Dhanasarnsombut

I write fiction sci-fi thrillers,

ผมเป็นนักเขียนนวนิยายวิทยาศาสตร์เขย่าขวัญ

so if I say "killer robots,"

ดังนั้นเวลาที่ผมพูดถึง "หุ่นยนต์นักฆ่า"

you'd probably think something like this.

คุณคงคิดถึงหุ่นยนต์ประมาณนี้

But I'm actually not here to talk about fiction.

แต่ผมไม่ได้มาที่นี่เพื่อพูดถึงเรื่องในนิยาย

I'm here to talk about very real killer robots,

ผมมาเพื่อพูดถึงหุ่นยนต์นักฆ่าของจริง

autonomous combat drones.

หุ่นยนต์ทหารที่ตัดสินใจได้ด้วยตนเอง

Now, I'm not referring to Predator and Reaper drones,

ผมไม่ได้พูดถึงหุ่นแบบ พรีเดเตอร์ (Predator) หรือ รีพเพอร์ (Reaper) นะครับ

which have a human making targeting decisions.

หุ่นเหล่านั้นเป็นซึ่งมีมนุษย์คอยตัดสินเป้าหมาย

I'm talking about fully autonomous robotic weapons

ผมกำลังพูดถึงหุ่นยนต์ติดอาวุธ ที่ตัดสินใจด้วยตนเองจริงๆ

that make lethal decisions about human beings

หุ่นที่สามารถตัดสินใจปลิดชีวิตคนได้

all on their own.

ด้วยตัวมันเอง

There's actually a technical term for this: lethal autonomy.

ศัพท์เฉพาะของสิ่งนี้คือ "ภาวะอิสระในการฆ่า" (lethal autonomy)

Now, lethally autonomous killer robots

หุ่นยนต์ที่ตัดสินใจฆ่าได้อย่างอิสระนั้น

would take many forms -- flying, driving,

มีได้หลายรูปแบบ ทั้งบินได้ ขับได้

or just lying in wait.

หรือตั้งอยู่นิ่งๆ อย่างนั้น

And actually, they're very quickly becoming a reality.

และมันกำลังใกล้ความเป็นจริงขึ้นทุกที

These are two automatic sniper stations

นี่คือฐานซุ่มยิงอัตโนมัติสองแห่ง

currently deployed in the DMZ between North and South Korea.

ซึ่งติดตั้งอยู่ในบริเวณเขตปลอดทหาร ระหว่างเกาหลีเหนือและเกาหลีใต้

Both of these machines are capable of automatically

เจ้าเครื่องทั้งสองนี้สามารถระบุ

identifying a human target and firing on it,

เป้าหมายที่เป็นมนุษย์ แล้วยิงได้ด้วยตัวมันเอง

the one on the left at a distance of over a kilometer.

ตัวซ้ายมือสามารถยิงได้เป็นระยะทางกว่า 1 กิโลเมตร

Now, in both cases, there's still a human in the loop

ทั้งสองกรณีนั้น ยังคงมีการควบคุมโดยมนุษย์อยู่

to make that lethal firing decision,

ก่อนที่จะมีการตัดสินใจยิง

but it's not a technological requirement. It's a choice.

แต่มันไม่ใช่ความจำเป็นทางเทคโนโลยี เราเลือกที่จะมีมันต่างหาก

And it's that choice that I want to focus on,

และนั่นคือตัวเลือกที่ผมอยากจะมุ่งประเด็นไป

because as we migrate lethal decision-making

เพราะเมื่อใดที่เราย้ายการตัดสินใจปลิดชีวิต

from humans to software,

จากมนุษย์สู่ซอฟท์แวร์แล้ว

we risk not only taking the humanity out of war,

เราไม่เพียงนำมวลมนุษยชาติออกจากสงคราม

but also changing our social landscape entirely,

แต่เราจะเปลี่ยนภูมิสังคมไปโดยสิ้นเชิง

far from the battlefield.

นอกจากในสนามรบ

That's because the way humans resolve conflict

นั่นเป็นเพราะด้วยลักษณะที่มนุษย์ใช้แก้ปัญหา

shapes our social landscape.

หล่อหลอมให้เกิดภูมิทัศน์ทางสังคมของเรา

And this has always been the case, throughout history.

และนี่เป็นสิ่งที่เกิดขึ้นมาตลอดในประวัติศาสตร์ของเรา

For example, these were state-of-the-art weapons systems

ยกตัวอย่างเช่น อาวุธใหม่ล่าสุดเหล่านี้

in 1400 A.D.

ในสมัยปีค.ศ. 1400

Now they were both very expensive to build and maintain,

พวกมันแพงมากที่จะสร้างและบำรุงรักษา

but with these you could dominate the populace,

แต่ด้วยอาวุธนี้ คุณสามารถปกครองประชากรได้

and the distribution of political power in feudal society reflected that.

และการกระจายอำนาจทางการเมือง ในระบบศักดินาก็เป็นเช่นนั้น

Power was focused at the very top.

อำนาจรวมอยู่ที่ผู้สูงสุด

And what changed? Technological innovation.

และอะไรที่เปลี่ยนไปล่ะ? นวัตกรรมทางเทคโนโลยี

Gunpowder, cannon.

ดินปืน ปืนใหญ่

And pretty soon, armor and castles were obsolete,

และไม่นานนัก ชุดเกราะและปราสาทก็หมดความสำคัญลง

and it mattered less who you brought to the battlefield

ประเด็นที่ว่าคุณเอา "ใคร" ลงในสนามรบ

versus how many people you brought to the battlefield.

จึงไม่สำคัญเท่า "จำนวนเท่าไหร่" อีกต่อไป

And as armies grew in size, the nation-state arose

ขณะที่ขนาดของกองทัพใหญ่ขึ้น รัฐประเทศก็เติบโตขึ้น

as a political and logistical requirement of defense.

ในขณะที่ภาวะด้านการเมืองและขนส่ง เพื่อการป้องกันตนเอง

And as leaders had to rely on more of their populace,

ทำให้ผู้นำต้องพึ่งพาประชากรมากยิ่งขึ้น

they began to share power.

พวกเขาก็เริ่มมีส่วนในอำนาจเหล่านั้น

Representative government began to form.

รัฐบาลที่มีผู้สมัครเป็นตัวแทนทางการเมืองก็เกิดขึ้น

So again, the tools we use to resolve conflict

และอีกครั้ง ที่เครื่องมือที่เราใช้แก้ไขความขัดแย้ง

shape our social landscape.

ทำให้ภูมิทัศน์ทางสังคมของเราเปลี่ยนไป

Autonomous robotic weapons are such a tool,

หุ่นยนต์ติดอาวุธที่ตัดสินใจอย่างอิสระ คือเครื่องมือนั้น

except that, by requiring very few people to go to war,

ยกเว้นว่า เนื่องจากมันใช้คนน้อยลงในการทำสงคราม

they risk re-centralizing power into very few hands,

มันทำให้เราเสี่ยงต่อการรวมอำนาจ ไปที่คนเพียงไม่กี่คน

possibly reversing a five-century trend toward democracy.

ซึ่งอาจทำให้เราถดถอยจากประชาธิปไตยที่ เราสร้างกันมากว่า 500 ปี

Now, I think, knowing this,

เมื่อรู้อย่างนี้แล้ว

we can take decisive steps to preserve our democratic institutions,

เราสามารถปกป้องรักษาสถาบัน ทางประชาธิปไตยของเราไว้ได้

to do what humans do best, which is adapt.

โดยทำสิ่งที่มนุษย์ทำได้ดีที่สุด นั่นคือการปรับตัว

But time is a factor.

แต่เวลานั้นเป็นปัจจัยหนึ่ง

Seventy nations are developing remotely-piloted

มี 70 ประเทศที่กำลังพัฒนา

combat drones of their own,

หุ่นยนต์ต่อสู้บังคับระยะไกลของพวกเขาเอง

and as you'll see, remotely-piloted combat drones

และดังที่คุณจะเห็น หุ่นยนต์ควบคุมระยะไกลเหล่านี้

are the precursors to autonomous robotic weapons.

จะเป็นต้นฉบับของหุ่นยนต์ที่ตัดสินใจได้ด้วยตนเอง

That's because once you've deployed remotely-piloted drones,

นั่นก็เพราะ เมื่อคุณเริ่มพัฒนาหุ่นควบคุมระยะไกล

there are three powerful factors pushing decision-making

มันมีปัจจัยสามประการ ที่ผลักดันให้การตัดสินใจเองนั้น

away from humans and on to the weapon platform itself.

ออกห่างจากการควบคุมของมนุษย์ และอยู่บนตัวอาวุธเอง

The first of these is the deluge of video that drones produce.

เหตุผลข้อแรกคือ ภาพจำนวนมหาศาลที่หุ่นเหล่านี้สร้างขึ้น

For example, in 2004, the U.S. drone fleet produced

ยกตัวอย่างเช่น ในปี 2004 กองทัพหุ่นยนต์ของ อเมริกาได้สร้างผลงาน

a grand total of 71 hours of video surveillance for analysis.

ด้วยการออกลาดตระเวณเป็นเวลา 71 ชั่วโมง และทำการบันทึกภาพเพื่อใช้ในการวิเคราะห์

By 2011, this had gone up to 300,000 hours,

ในปี 2011 จำนวนชั่วโมงการทำงานได้เพิ่มขึ้น เป็นสามแสนชั่วโมง

outstripping human ability to review it all,

ซึ่งมันเกินกว่าประสิทธิภาพของมนุษย์ ที่จะตรวจดูได้หมด

but even that number is about to go up drastically.

และตัวเลขนี้มีแต่จะเพิ่มขึ้นอย่างรวดเร็ว

The Pentagon's Gorgon Stare and Argus programs

โปรแกรมกอร์กอน สแตร์ แอนด์ อาร์กัส (Gorgon Stare and Argus programs) ของกระทรวงกลาโหมสหรัฐ

will put up to 65 independently operated camera eyes

จะติดตั้งกล้องที่สามารถเคลื่อนไหวได้อย่างอิสระ 65 ตัว

on each drone platform,

บนหุ่นยนต์แต่ละตัว

and this would vastly outstrip human ability to review it.

และนี่ก็จะยิ่งย้ำถึงความห่างไกล ของศักยภาพของมนุษย์ที่จะตรวจสอบมันเข้าไปอีก

And that means visual intelligence software will need

นั่นหมายความว่า ตัวโปรแกรมซอฟท์แวร์ ด้านการลาดตระเวน

to scan it for items of interest.

จะต้องสามารถตรวจหาสิ่งสนใจได้เอง

And that means very soon

และนั่นหมายความว่า อีกไม่นาน

drones will tell humans what to look at,

หุ่นยนต์จะเป็นตัวที่คอยบอกมนุษย์ ว่าเราควรสนใจมองอะไร

not the other way around.

แทนที่จะเป็นไปในทิศทางตรงกันข้าม

But there's a second powerful incentive pushing

แต่นอกจากนี้ก็ยังมีเหตุผลประการที่สอง ที่กระตุ้นการเปลี่ยนแปลง

decision-making away from humans and onto machines,

เรื่องการตัดสินใจ จากมือมนุษย์ สู่เครื่องจักร

and that's electromagnetic jamming,

และนั่นก็คือกิจกรรมแม่เหล็กไฟฟ้า

severing the connection between the drone

ที่เป็นตัวเชื่อมต่อหุ่นยนต์เหล่านั้น

and its operator.

กับตัวควบคุม

Now we saw an example of this in 2011

เมื่อเราได้เห็นตัวอย่างของสิ่งเหล่านี้แล้วในปี 2011

when an American RQ-170 Sentinel drone

ในตอนที่หุ่น RQ- 170 ของอเมริกา

got a bit confused over Iran due to a GPS spoofing attack,

เกิดสับสนระหว่างที่ปฏิบัติหน้าที่ในอิหร่าน เพราะสัญญาน GPS ที่ล้นเกิน

but any remotely-piloted drone is susceptible to this type of attack,

แต่กรณีเช่นนี้ก็เกิดขึ้นได้กับหุ่นควบคุมระยะไกลทุกชนิด

and that means drones

และนั่นหมายความว่าหุ่นยนต์

will have to shoulder more decision-making.

จะต้องแบบรับภาระการตัดสินใจมากยิ่งกว่าเดิม

They'll know their mission objective,

พวกมันจะต้องรับทราบถึงเป้าหมายของปฏิบัติการ

and they'll react to new circumstances without human guidance.

และจะต้องตอบสนองกับสถานการณ์แวดล้อม โดยไม่ได้รับคำแนะนำจากมนุษย์

They'll ignore external radio signals

พวกมันจะไม่สนใจสัญญานวิทยุจากภายนอก

and send very few of their own.

และส่งสัญญานของตัวเองกลับมาเองน้อยมากด้วย

Which brings us to, really, the third

ซึ่งนั่นก็จะนำเราไปสู่ปัจจัยที่สาม

and most powerful incentive pushing decision-making

ซึ่งเป็นปัจจัยที่มีอิทธิพลมากที่สุด ต่อการเปลี่ยนแปลงความรับผิดชอบเรื่องการตัดสินใจ

away from humans and onto weapons:

ที่ย้ายจากมนุษย์สู่อาวุธทั้งหลาย

plausible deniability.

นั่นคือความสามารถในการเลือกไม่กระทำ

Now we live in a global economy.

ปัจจุบันเราอาศัยอยู่ในโลกยุคที่มีเศรษฐกิจเชื่อมโยงถึงกัน

High-tech manufacturing is occurring on most continents.

การผลิตข้าวของไฮเทค เกิดขึ้นในแทบทุกทวีป

Cyber espionage is spiriting away advanced designs

โลกไซเบอร์กำลังนำเราไปสู่การออกแบบที่ล้ำหน้า

to parts unknown,

นำไปสู่สิ่งที่เราอาจยังไม่รู้จัก

and in that environment, it is very likely

และในสภาพการณ์แบบนั้น มันมีความเป็นไปได้มาก

that a successful drone design will be knocked off in contract factories,

ที่หุ่นยนต์ที่ออกแบบได้อย่างดี จะกลายเป็นต้นแบบ ของหุ่นยนต์ที่จะถูกผลิตในเชิงอุตสาหกรรม

proliferate in the gray market.

ทำให้มันสามารถเพิ่มจำนวนได้อย่างรวดเร็วในตลาดมืด

And in that situation, sifting through the wreckage

และในสถานการณ์เช่นนี้ นำไปสู่การทำลายล้าง

of a suicide drone attack, it will be very difficult to say

โดยใช้หุ่นยนต์โจมตีแบบพลีชีพ ซึ่งเป็นการยากที่จะหาที่มา

who sent that weapon.

ว่าใครเป็นคนส่งหุ่นเหล่านี้มา

This raises the very real possibility

นี่ทำให้เกิดความเป็นไปได้ที่จะทำให้เกิด

of anonymous war.

สงครามที่ไร้ผู้ก่อ

This could tilt the geopolitical balance on its head,

นี่อาจทำให้เกิดการเปลี่ยนแปลง ในสภาวะสมดุลทางการเมืองในระดับโลก

make it very difficult for a nation to turn its firepower

ทำให้เป็นการยากมากสำหรับประเทศหนึ่ง ที่จะหันปลายปืน

against an attacker, and that could shift the balance

ไปยังผู้ที่ทำการบุกรุก และนั่นอาจทำให้สมดุลนั้นเสียไป

in the 21st century away from defense and toward offense.

ในศตวรรษที่ 21 เราก้าวเดินห่างออกมาจากการป้องกัน และก้าวไปสู่การเตรียมการรุกราน

It could make military action a viable option

นั่นทำให้การใช้กำลังทางการทหาร กลายเป็นทางเลือกหนึ่งที่อยู่ยงคงกระพัน

not just for small nations,

ไม่ใช่เฉพาะกับประเทศเล็กๆเท่านั้น

but criminal organizations, private enterprise,

แต่สำหรับองค์กรก่อการร้าย หรือ บริษัทเอกชนต่างๆ

even powerful individuals.

หรือแม้แต่บุคคลที่มีอำนาจ

It could create a landscape of rival warlords

มันอาจทำให้เกิดสภาพที่เหมาะ กับการเกิดการแข่งขัน ระหว่างผู้มีอำนาจต่างๆ

undermining rule of law and civil society.

โดยบ่อนทำลายนาจของกฏหมายและขนบต่างๆของสังคม

Now if responsibility and transparency

แล้วถ้าความรับผิดชอบ และความโปร่งใส

are two of the cornerstones of representative government,

เป็นสิ่งสำคัญพื้นฐานของรัฐบาลที่เป็นตัวแทนของเรา

autonomous robotic weapons could undermine both.

อาวุธหุ่นยนต์อัตโนมัติ ก็สามารถทำลายความเชื่อทั้งสองประการนี้ได้

Now you might be thinking that

คุณอาจจะคิดว่า

citizens of high-tech nations

ประชาชนของประเทศที่มีเทคโนโลยีสูง

would have the advantage in any robotic war,

จะมีความได้เปรียบในสงครามหุ่นยนต์

that citizens of those nations would be less vulnerable,

แต่ความจริงแล้ว ประชากรของประเทศเหล่านั้นกลับตกอยู่ในความเสี่ยง

particularly against developing nations.

โดยเฉพาะเมื่อพวกเขาต้องเผชิญหน้ากับชาติกำลังพัฒนา

But I think the truth is the exact opposite.

แต่ผมคิดว่าความจริงนั้นกลับตรงกันข้าม

I think citizens of high-tech societies

ผมคิดว่าประชาชนในสังคมที่มีเทคโนโลยีสูง

are more vulnerable to robotic weapons,

จะตกเป็นเหยื่อของอาวุธหุ่นยนต์ได้ง่ายกว่า

and the reason can be summed up in one word: data.

และสาเหตุก็สรุปได้ในคำๆเดียว คือ ข้อมูล

Data powers high-tech societies.

ข้อมูลเป็นส่วนสำคัญของสังคมที่ใช้เทคโนโลยี

Cell phone geolocation, telecom metadata,

การระบุตำแหน่งบนพื้นโลกด้วยโทรศัพท์มือถือ หรือข้อมูลทางโทรคมนาคมทั้งหลาย

social media, email, text, financial transaction data,

สื่อทางสังคมต่างๆ อีเมล ข้อความ ข้อมูลธุรกรรมการเงิน

transportation data, it's a wealth of real-time data

ข้อมูลเรื่องการขนส่งมวลชน มันเป็นขุมคลังของข้อมูลที่มีการบันทึกตามจริงอยู่ตลอดเวลา

on the movements and social interactions of people.

ภายใต้ความเคลื่อนไหว และการติดต่อสื่อสารระหว่างผู้คนในสังคม

In short, we are more visible to machines

สรุปง่ายๆ คือ เรากำลังถูกจับตามองโดยเครื่องจักรเหล่านี้

than any people in history,

มากกว่าคนทุกรุ่นในประวัติศาสตร์

and this perfectly suits the targeting needs of autonomous weapons.

และสถานการณ์นี้ก็เหมาะสมอย่างยิ่ง ต่อการตกเป็นเหยื่อของอาวุธอัตโนมัติ

What you're looking at here

สิ่งที่เรากำลังเห็นอยู่ในขณะนี้

is a link analysis map of a social group.

คือ แผนที่แสดงความเชื่อมโยงระหว่างกลุ่มชนต่างๆ

Lines indicate social connectedness between individuals.

เส้นเหล่านี้แสดงความเชื่อมโยงทางสังคมระหว่างบุคคล

And these types of maps can be automatically generated

และแผนผังเหล่านี้สามารถประมวลผลออกมาได้อัตโนมัติ

based on the data trail modern people leave behind.

จากข้อมูลที่คนรุ่นใหม่ทั้งหลายใช้อยู่

Now it's typically used to market goods and services

ตอนนี้มันเป็นเรื่องปรกติที่ข้อมูลเหล่านี้ จะถูกนำไปใช้เพื่อการขายสินค้าและบริการต่างๆ

to targeted demographics, but it's a dual-use technology,

หรือใช้เพื่อการหาจำนวนประขากร ซึ่งมันก็เป็นการใช้เทคโนโลยีทั้งสองทาง

because targeting is used in another context.

เพราะการพุ่งเป้าไปที่กลุ่มเป้าหมายนั้น ในอีกนัยหนึ่ง

Notice that certain individuals are highlighted.

ก็คือการที่คนบางกลุ่ม หรือ บุคคลใดบุคคลหนึ่งนั้นถูกทำให้เด่นชัดขึ้นมา

These are the hubs of social networks.

นี่คือจุดศูนย์รวมข้อมูลของโซเชียลเน็ทเวิรก์ทั้งหลาย

These are organizers, opinion-makers, leaders,

คนที่เป็นจุดศูนย์รวมเหล่านี้ได้แก่ ผู้จัดการ คนที่แสดงความเห็นทางสังคม ผู้นำทั้งหลาย

and these people also can be automatically identified

และคนเหล่านี้ก็ยังจะถูกแยกแยะ ลักษณะการเกี่ยวข้องทางสังคมโดยอัตโนมัติ

from their communication patterns.

จากพฤติกรรมการสื่อสารของเขา

Now, if you're a marketer, you might then target them

ทีนี้ ถ้าคุณเป็นนักการตลาด คุณอาจจะพุ่งเป้าไปที่คนเหล่านี้

with product samples, try to spread your brand

ด้วยการเสนอตัวอย่างสินค้าของคุณ หรือพยายามที่จะขายแบรนด์ของคุณ

through their social group.

ผ่านกลุ่มเครือข่ายทางสังคมของพวกเขา

But if you're a repressive government

แต่ถ้าคุณเป็นตัวแทนของรัฐบาล

searching for political enemies, you might instead remove them,

และกำลังมองหาศัตรูทางการเมือง คุณก็ลบพวกเขา

eliminate them, disrupt their social group,

กำจัดคนเหล่านั้น สร้างความวุ่นวายให้กับกลุ่มทางสังคมนั้น

and those who remain behind lose social cohesion

และคนที่อยู่เบื้องหลังความเกี่ยวข้องทางสังคมเหล่านั้น

and organization.

และองค์กรเหล่านั้น

Now in a world of cheap, proliferating robotic weapons,

ในโลกของการเติบโตอย่างรวดเร็วของอาวุธหุ่นยนต์ ที่มีราคาย่อมเยา

borders would offer very little protection

เขตชายแดนระหว่างประเทศจะให้ความคุ้มครองพวกเราได้เพียงนิดเดียวเท่านั้น

to critics of distant governments

ในสายตาของรัฐบาลประเทศใดประเทศหนึ่งจากแดนไกล

or trans-national criminal organizations.

หรือองค์กรก่อการร้ายข้ามชาติ

Popular movements agitating for change

การเคลื่อนไหวที่เรียกร้องให้เกิดความเปลี่ยนแปลงนั้นกำลังได้รับความนิยม

could be detected early and their leaders eliminated

และมันอาจกลายเป็นสิ่งที่ทำให้ทราบข้อมูลเกี่ยวกับผู้นำและทำให้จัดการกับผู้นำได้อย่างรวดเร็ว

before their ideas achieve critical mass.

ก่อนที่ความคิดนี้จะสำเร็จผลในวงกว้าง

And ideas achieving critical mass

แล้วความคิดที่จะทำให้เกิดผลในวงกว้าง

is what political activism in popular government is all about.

ก็คือสิ่งที่นักเคลื่อนไหวทางการเมือง ของรัฐบาลทั้งหลายที่กำลังพยายามทำอยู่

Anonymous lethal weapons could make lethal action

การมีอาวุธทำลายล้างที่มีอานุภาพสูงอาจทำให้เกิดผลถึงแก่ชีวิตได้

an easy choice for all sorts of competing interests.

ซึ่งเป็นทางออกที่ง่ายดายเหลือเกิน สำหรับความขัดแย้งทางผลประโยชน์ต่างๆ

And this would put a chill on free speech

นี่จะทำให้การกล่าวสุนทรพจน์ เพื่อแสดงความคิดเห็นดูน่ากลัวขึ้นอีกมาก

and popular political action, the very heart of democracy.

และทำให้การแสดงออกทางการเมือง ซึ่งเป็นหัวใจของระบอบประชาธิปไตย กลายเป็นเรื่องน่าผวา

And this is why we need an international treaty

และนี่คือสาเหตุที่เราจำเป็นต้องมีสนธิสัญญาระหว่างประเทศ

on robotic weapons, and in particular a global ban

เกี่ยวกับการพัฒนาหุ่นยนต์เป็นอาวุธ ซึ่งควรเป็นสนธิสัญญานานาชาติเพื่อห้าม

on the development and deployment of killer robots.

การพัฒนา หรือการทดลองใช้หุ่นยนต์นักฆ่า

Now we already have international treaties

ในตอนนี้เราได้มีสนธิสัญญาเพื่อห้ามใช้

on nuclear and biological weapons, and, while imperfect,

อาวุธนิวเคลียร์ และอาวุธชีวภาพแล้ว และถึงแม้ว่ามันจะไม่สมบูรณ์แบบ

these have largely worked.

แต่มันก็ใช้ได้ผลดีในระดับหนึ่ง

But robotic weapons might be every bit as dangerous,

แต่อาวุธหุ่นยนต์นั้นก็น่าจะเป็นอันตราย พอๆกับอาวุธร้ายแรงทั้งสองอย่างนั้น

because they will almost certainly be used,

เพราะว่ามันค่อนข้างจะแน่นอนว่ามันจะถูกนำไปใช้

and they would also be corrosive to our democratic institutions.

และมันก็จะบ่อนทำลาย ระบอบการปกครองแบบประชาธิปไตยของเรา

Now in November 2012 the U.S. Department of Defense

ในเดือนพฤศจิกายน ปี 2012 กระทรวงกลาโหมสหรัฐ

issued a directive requiring

ได้ออกกฏซึ่งบังคับ

a human being be present in all lethal decisions.

ให้มีมนุษย์อยู่เป็นพยานในการตัดสินใจโจมตีทุกครั้ง

This temporarily effectively banned autonomous weapons in the U.S. military,

ซึ่งนี่เป็นกฏที่แสดงถึงการห้ามการใช้หุ่นยนต์ ในการปฏิบัติการโดยอัตโนมัติในกองทัพสหรัฐ

but that directive needs to be made permanent.

แต่คำสั่งนี้ควรได้รับการปรับปรุงให้มีการบังคับใช้อย่างถาวร

And it could set the stage for global action.

และมันควรจะเป็นสิ่งที่เกิดขึ้นในเวทีโลก

Because we need an international legal framework

เพราะว่าเราต้องการกรอบทางกฏหมายในระดับนานาชาติ

for robotic weapons.

เพื่อบังคับเรื่องการใช้อาวุธหุ่นยนต์

And we need it now, before there's a devastating attack

และเราต้องการมันในขณะนี้ ก่อนที่จะเกิดการโจมตีร้ายแรง

or a terrorist incident that causes nations of the world

หรือเหตุการณ์ก่อการร้ายที่ทำให้ทุกชาติในโลก

to rush to adopt these weapons

รีบนำอาวุธเหล่านั้นมาใช้

before thinking through the consequences.

โดยไม่ทันได้คำนึงถึงผลที่จะตามมา

Autonomous robotic weapons concentrate too much power

อาวุธที่เป็นหุ่นยนต์อัตโนมัติ เป็นการรวมอำนาจไว้

in too few hands, and they would imperil democracy itself.

ในกำมือคนเพียงไม่กี่คน และพวกเขาก็จะกลายเป็นภัยคุกคามต่อระบอบประชาธิปไตย

Now, don't get me wrong, I think there are tons

ทีนี้ อย่าเข้าใจผิดนะครับ ผมคิดว่ายังมีคนอีกเป็นจำนวนมาก

of great uses for unarmed civilian drones:

ที่ใช้งานหุ่นยนต์ที่ไม่ได้ติดอาวุธ เพื่อวัตถุประสงค์ในการดำรงชีวิตทั่วไป

environmental monitoring, search and rescue, logistics.

ใช้ช่วยงานด้านสิ่งแวดล้อม ใช้ค้นหาและช่วยเหลืองานด้านการขนส่งสินค้า

If we have an international treaty on robotic weapons,

ถ้าเรามีการเซ็นต์สนธิสัญญา ว่าด้วยการห้ามพัฒนาหุ่นยนต์เป็นอาวุธ

how do we gain the benefits of autonomous drones

แล้วเราจะใช้ประโยชน์จากหุ่นยนต์อัตโนมัติ

and vehicles while still protecting ourselves

และยานพาหนะต่างๆ พร้อมกับที่เราป้องกันตัวเราเอง

against illegal robotic weapons?

จากการใช้หุ่นยนต์เป็นอาวุธอย่างผิดกฏหมายได้อย่างไร ?

I think the secret will be transparency.

ผมคิดว่ามันเป็นเรื่องจำเป็น ที่ความลับเหล่านี้ต้องมีความโปร่งใส

No robot should have an expectation of privacy

และไม่ควรมีหุ่นยนต์ตัวไหนควรจะได้รับความเป็นส่วนตัว

in a public place.

ในสถานที่ชุมนุมชน

(Applause)

(เสียงปรบมือ)

Each robot and drone should have

หุ่นยนต์และหุ่นบังคับระยะไกลควรจะมี

a cryptographically signed I.D. burned in at the factory

การสลักเลขประจำตัวบนตัวถังตั้งแต่ที่โรงงาน

that can be used to track its movement through public spaces.

ซึ่งจะทำให้เราสามารถติดตามความเคลือนไหวของพวกมัน ในสถานที่สาธารณะได้

We have license plates on cars, tail numbers on aircraft.

เรามีป้ายทะเบียนสำหรับรถยนต์ มีเลขที่เครื่องบิน

This is no different.

เพราะฉะนั้น นี่ก็ไม่ต่างกัน

And every citizen should be able to download an app

และประชาชนทุกคนก็ควรจะสามารถดาวน์โหลดแอพพลิเคชั่น

that shows the population of drones and autonomous vehicles

ที่จะใช้แสดงจำนวนประชากรของหุ่นควบคุม และหุ่นยนต์โดยสารอัตโนมัติเหล่านี้ว่า

moving through public spaces around them,

พวกหุ่นกำลังเคลื่อนที่ไปมาอย่างไรในพื้นที่รอบๆตัวพวกเขา

both right now and historically.

โดยเป็นข้อมูลทั้งในแบบที่เป็นจริง และในเชิงประวัติ

And civic leaders should deploy sensors and civic drones

และผู้นำชุมชนควรจะมีเซ็นเซอร์สำหรับหุ่นที่ใช้ในครัวเรือน

to detect rogue drones,

เพื่อตรวจสอบหุ่นเถื่อน

and instead of sending killer drones of their own up to shoot them down,

แทนที่เราจะส่งหุ่นชนิดเดียวกันออกไปทำลายหุ่น

they should notify humans to their presence.

พวกมันควรแจ่งให้มนุษย์ทราบเมื่อมันจะบุกรุก

And in certain very high-security areas,

และในบางกรณี ในพื้นที่ๆต้องการการรักษาความปลอดภัย

perhaps civic drones would snare them

เราอาจจะใช้หุ่นตามบ้านในการจัดการกับหุ่นเหล่านั้น

and drag them off to a bomb disposal facility.

เพื่อลากเอาหุ่นเหล่านั้นไปทำลาย

But notice, this is more an immune system

แต่สังเกตดูนะครับว่า นี่น่าจะดูมีลักษณะคล้ายกับการเป็นระบบภูมิคุ้มกัน

than a weapons system.

มากกว่าที่จะเป็นอาวุธ

It would allow us to avail ourselves of the use

มันจะทำให้เราสามารถมีข้ออ้างในการใช้

of autonomous vehicles and drones

หุ่นยนต์และพาหนะโดยสารที่ควบคุมโดยหุ่นยนต์

while still preserving our open, civil society.

โดยที่ยังรักษาสถานภาพของสังคมเปิด และมีวัฒนธรรมของเราไว้ได้

We must ban the deployment and development

เราควรต่อต้านการพัฒนาและการใช้

of killer robots.

หุ่นยนต์นักฆ่า

Let's not succumb to the temptation to automate war.

อย่ายอมลงให้กับความเป็นไปได้ในการเกิดสงครามหุ่นยนต์

Autocratic governments and criminal organizations

องค์กรก่อการร้ายและรัฐบาลเผด็จการทั้งหลาย

undoubtedly will, but let's not join them.

น่าจะใช้ประโยชน์จากสิ่งนี้แน่ แต่พวกเราจะไม่ปล่อยให้เป็นอย่างนั้น

Autonomous robotic weapons

อาวุธอัตโนมัติที่เป็นหุ่นยนต์นั้น

would concentrate too much power

จะไม่รวบอำนาจที่มากมายเกินไป

in too few unseen hands,

เข้าไปอยู่ในมือของคนไม่กี่คน

and that would be corrosive to representative government.

มันเป็นเรืองที่ออกจะกัดกร่อนสถานะของรัฐ

Let's make sure, for democracies at least,

แต่เราควรทำให้แน่ใจว่า อย่างน้อยก็เพื่อประชาธิปไตย

killer robots remain fiction.

หุ่นยนต์นักฆ่า ก็จะยังคงเป็นเพียงจินตนาการต่อไป

Thank you.

ขอบคุณครับ

(Applause)

(เสียงปรบมือ)

Thank you. (Applause)

ขอบคุณครับ (เสียงปรบมือ)