Daniel Suarez: The kill decision shouldn't belong to a robot

دنیل سوآرز: تصمیم برای کشتن نباید بر عهده‌ی یک ربات قرار بگیرد

Translator: Joseph Geni Reviewer: Morton Bast

Translator: Sina Pourasgari Reviewer: Leila Ataei

I write fiction sci-fi thrillers,

من داستان‌های مهیجِ علمی‌ـ‌تخیلی می‌نویسم،

so if I say "killer robots,"

در نتیجه اگه من بگم «ربات‌های قاتل»،

you'd probably think something like this.

احتمالاً فکرتون بره سمتِ چیزی مثلِ این.

But I'm actually not here to talk about fiction.

اما واقعیتش من این‌جا نیومدم تا درباره‌ی تخیل حرف بزنم.

I'm here to talk about very real killer robots,

من این‌جام تا درباره‌ی ربات‌های قاتلِ خیلی واقعی صحبت کنم؛

autonomous combat drones.

پهپادهای رزمیِ خودکار.

Now, I'm not referring to Predator and Reaper drones,

الآن موضوعِ صحبتِ من پهپادهای «شکارچی» یا «درنده» نیستن

which have a human making targeting decisions.

که در اون‌ها یک انسان تصمیماتِ هدف‌گیری رو انجام میده.

I'm talking about fully autonomous robotic weapons

من در موردِ سلاح‌های رباتیکِ تمام‌خودکاری صحبت می‌کنم

that make lethal decisions about human beings

که در موردِ مرگِ انسان‌ها تصمیم می‌گیرن،

all on their own.

اون هم کاملاً تنها و مستقل.

There's actually a technical term for this: lethal autonomy.

در واقع یه اصطلاح فنی هم براش وجود داره: «استقلالِ‌ عمل مرگبار».

Now, lethally autonomous killer robots

ربات‌های قاتلِ دارای استقلالِ عملِ مرگبار،

would take many forms -- flying, driving,

می‌تونن شکل‌های مختلفی داشته باشن ــ پرواز کنن، رو زمین حرکت کنن،

or just lying in wait.

یا این که صرفاً کمین بکنن.

And actually, they're very quickly becoming a reality.

و راستش اونا به‌سرعت دارن به واقعیت نزدیک میشن.

These are two automatic sniper stations

اینا دو تا پایگاهِ تیراندازیِ خودکارن

currently deployed in the DMZ between North and South Korea.

که در حالِ حاضر توی منطقه‌ی بی‌طرف بینِ کره‌ی شمالی و جنوبی به کار گرفته شدن.

Both of these machines are capable of automatically

هر دوی این ماشین‌ها این قابلیتو دارن که به طورِ خودکار

identifying a human target and firing on it,

یه هدفِ انسانی رو شناسایی كرده و بهش شلیک کنن،

the one on the left at a distance of over a kilometer.

بردِ اون سمتِ چپی حتی بیشتر از یک کیلومترست.

Now, in both cases, there's still a human in the loop

الآن در هر دو نمونه، هنوز یه آدم وجود داره

to make that lethal firing decision,

که در موردِ اون شلیکِ مرگبار تصمیم می‌گیره.

but it's not a technological requirement. It's a choice.

اما این یه الزامِ تکنولوژیک نیست، صرفاً یه انتخابه.

And it's that choice that I want to focus on,

و من می‌خوام درست روی همین «انتخاب» تمرکز کنم،

because as we migrate lethal decision-making

چون همین طور که ما گرفتنِ این تصمیمِ مرگبار رو

from humans to software,

از انسان‌ها به نرم‌افزار منتقل می‌کنیم،

we risk not only taking the humanity out of war,

نه‌ تنها خطرِ گرفتنِ انسانیت از جنگ‌هامون رو می‌پذیریم،

but also changing our social landscape entirely,

بلکه کلِ چشم‌اندازِ اجتماعی‌مون رو تغییر میدیم،

far from the battlefield.

کاملاً سوای میدانِ جنگ.

That's because the way humans resolve conflict

به این دلیل که شیوه‌ای که انسان‌ها باهاش کشمکش‌هاشون رو حل‌وفصل می‌کنن،

shapes our social landscape.

چشم‌اندازِ اجتماعی‌مون رو شکل میده.

And this has always been the case, throughout history.

در طولِ تاریخ همیشه همین طور بوده.

For example, these were state-of-the-art weapons systems

برای مثال، این‌ها پیشرفته‌ترین سیستمِ تسلیحاتی

in 1400 A.D.

در سده‌ی ۱۴۰۰ پس از میلاد بودند.

Now they were both very expensive to build and maintain,

هم ساختن و هم نگهداریِ اون‌ها بسیار پرهزینه بود،

but with these you could dominate the populace,

اما با داشتنِ اون‌ها شما می‌تونستین به توده‌ی مردم مسلط بشین،

and the distribution of political power in feudal society reflected that.

و توزیعِ قدرتِ سیاسی در جامعه‌ی فئودالی هم همین رو منعکس می‌کرد.

Power was focused at the very top.

قدرت در بالاترین نقطه متمرکز شده بود.

And what changed? Technological innovation.

و بعد چه تغییری ایجاد شد؟ نوآوری در تکنولوژی.

Gunpowder, cannon.

باروت، توپ.

And pretty soon, armor and castles were obsolete,

و خیلی زود زره‌ها و قلعه‌ها از دور خارج شدند،

and it mattered less who you brought to the battlefield

و این که شما «چه کسی» رو به میدانِ نبرد می‌فرستادید

versus how many people you brought to the battlefield.

اهمیتش کمتر شد در برابر این که شما «چند نفر» رو به میدان نبرد می‌فرستادین.

And as armies grew in size, the nation-state arose

پس همین طور که اندازه‌ی ارتش‌ها بزرگتر می‌شد،

as a political and logistical requirement of defense.

دولت‌ـ‌ملت به مثابه یک الزامِ سیاسی و پشتیبانی برای دفاع پدید اومد.

And as leaders had to rely on more of their populace,

و همون طور که رهبرها مجبور بودن به تعدادِ نفراتِ بیشتری از مردم‌شون تکیه بکنن،

they began to share power.

شروع به تقسیمِ قدرت با اون‌ها کردن.

Representative government began to form.

دولت‌های انتخابی شروع به شکل‌گیری کردند.

So again, the tools we use to resolve conflict

پس مجدداً، ابزارهایی که ما از اونا برای حل و فصلِ منازعه‌ها استفاده می‌کنیم،

shape our social landscape.

چشم‌اندازِ اجتماعیِ ما رو شکل میدن.

Autonomous robotic weapons are such a tool,

سلاح‌های رباتیکِ خودکار هم یک چنین ابزاری هستند،

except that, by requiring very few people to go to war,

اما چون با استفاده از اون‌ها، به عده‌ی بسیار اندکی برای رفتن به جنگ نیاز داریم،

they risk re-centralizing power into very few hands,

این خطر وجود داره که دوباره قدرت در دستِ افراد بسیار کمی متمرکز بشه.

possibly reversing a five-century trend toward democracy.

و ممکنه این ابزار روندِ پنج‌ـ‌سده‌ای به سمتِ دموکراسی رو معکوس بکنه.

Now, I think, knowing this,

من فکر می‌کنم با دونستنِ این موضوع،

we can take decisive steps to preserve our democratic institutions,

می‌تونیم قدم‌های سرنوشت‌سازی رو برای حفظِ نهادهای دموکراتیک‌مون برداریم،

to do what humans do best, which is adapt.

برای انجامِ کاری که انسان‌ها از همه بهتر انجامش میدن، «تطبیق پیدا کردن».

But time is a factor.

اما عاملِ زمان رو نباید فراموش کنیم.

Seventy nations are developing remotely-piloted

هفتاد کشور دارن به طورِ جداگانه

combat drones of their own,

پهپادهای رزمیِ هدایت‌ـ‌از‌ـ‌دور رو توسعه میدن،

and as you'll see, remotely-piloted combat drones

و همون طور که خواهید دید، این پهپادهای هدایت‌ـ‌ازـ‌دور

are the precursors to autonomous robotic weapons.

پیش‌درآمدِ تسلیحاتِ رباتیکِ خودکنترل هستن.

That's because once you've deployed remotely-piloted drones,

دلیلش اینه که زمانی که شما از پهپادهای هدایت‌ـ‌ازـ‌دور استفاده می‌کنید،

there are three powerful factors pushing decision-making

سه عاملِ قدرتمند وجود دارن که باعثِ انتقالِ تصمیم‌گیری

away from humans and on to the weapon platform itself.

از انسان‌ها به خودِ سامانه‌ی تسلیحاتی میشن.

The first of these is the deluge of video that drones produce.

عاملِ اول حجمِ انبوهِ ویدیوهاییه که پهپادها تولید می‌کنن.

For example, in 2004, the U.S. drone fleet produced

برای مثال، در سالِ ۲۰۰۴، ناوگانِ پهپادهای ایالاتِ متحده

a grand total of 71 hours of video surveillance for analysis.

روی‌هم‌ رفته ۷۱ ساعت ویدیوی نظارتی تولید کرده بود.

By 2011, this had gone up to 300,000 hours,

تا سالِ ۲۰۱۱ این رقم به ۳۰۰,۰۰۰ ساعت رسید،

outstripping human ability to review it all,

که بازبینیِ تمامِ اون‌ها فراتر از توانِ انسان بود،

but even that number is about to go up drastically.

اما حتی همین مقدار هم داره شدیداً افزایش پیدا می‌کنه.

The Pentagon's Gorgon Stare and Argus programs

برنامه‌های Gorgon Stare و Argus ِ پنتاگون

will put up to 65 independently operated camera eyes

۶۵ دوربینِ مستقل از هم رو

on each drone platform,

روی هر پهپاد سوار خواهند کرد،

and this would vastly outstrip human ability to review it.

که بازبینیِ این حجمِ عظیم کاملاً فراتر از توانِ انسان خواهد بود.

And that means visual intelligence software will need

و این معنی‌ش اینه که نیازمندِ نرم‌افزارهای هوشِ بصری خواهیم بود

to scan it for items of interest.

تا این داده‌ها رو به‌دنبالِ مواردِ موردِ نظر مرور بکنن.

And that means very soon

و این به این معنى هست که به زودی

drones will tell humans what to look at,

این پهپادها هستند که به انسان‌ها میگن به چی نگاه کنن،

not the other way around.

بی برو برگرد.

But there's a second powerful incentive pushing

اما یه انگیزه‌ی قویِ دیگه هم وجود داره

decision-making away from humans and onto machines,

که بارِ تصمیم‌گیری رو از انسان‌ها برمی‌داره و به ماشین‌ها منتقل می‌کنه،

and that's electromagnetic jamming,

و اون پارازیتِ الکترومغناطیسیه،

severing the connection between the drone

که ارتباطِ بینِ پهپاد و اُپراتورش رو

and its operator.

قطع می‌کنه.

Now we saw an example of this in 2011

یه مثال از این موضوع رو در سال ۲۰۱۱ دیدیم،

when an American RQ-170 Sentinel drone

جایی که پهپادِ آمریکاییِ دیده‌بانی «RQ-170»

got a bit confused over Iran due to a GPS spoofing attack,

به واسطه‌ی یه حمله‌ی «جعلِ جی‌پی‌اس» بر فرازِ ایران کمی سردرگم شد،

but any remotely-piloted drone is susceptible to this type of attack,

اما هر پهپادِ هدایت‌ـ‌ازـ‌دوری در معرضِ این نوع حمله قرار داره،

and that means drones

و این یعنی پهپادها مجبور خواهند شد

will have to shoulder more decision-making.

که بارِ تصمیم‌گیریِ بیشتری رو بر عهده بگیرن.

They'll know their mission objective,

اون‌ها هدفِ ماموریت‌شون رو خواهند دونست،

and they'll react to new circumstances without human guidance.

و بدونِ هدایتِ انسان نسبت به شرایطِ جدید واکنش نشون خواهند داد.

They'll ignore external radio signals

اون‌ها سیگنال‌های رادیوییِ خارجی رو نادیده می‌گیرن

and send very few of their own.

و خودشون هم سیگنال‌های بسیار کمی رو ارسال می‌کنن.

Which brings us to, really, the third

و در واقع، می‌رسیم به سومین

and most powerful incentive pushing decision-making

و قوی‌ترین عاملی که بارِ تصمیم‌گیری رو

away from humans and onto weapons:

از انسان‌ها به سمتِ اسلحه‌ها سوق میده:

plausible deniability.

«انکارِ موجّه».

Now we live in a global economy.

ما امروز در یک اقتصادِ جهانی زندگی می‌کنیم.

High-tech manufacturing is occurring on most continents.

تولیداتِ های‌تک (فناوری پیشرفته) داره در بیشترِ قاره‌ها انجام میشه.

Cyber espionage is spiriting away advanced designs

جاسوسیِ سایبری در حالِ ربودنِ طراحی‌های پیشرفته

to parts unknown,

برای طرف‌های نامعلومه،

and in that environment, it is very likely

و در این محیط، احتمالِ خیلی زیادی داره که

that a successful drone design will be knocked off in contract factories,

یه طراحیِ موفقیت‌آمیز پهپاد توی کارخونه‌های طرفِ قرارداد سرِ هم بشه،

proliferate in the gray market.

و توی بازارِ خاکستری پخش بشه.

And in that situation, sifting through the wreckage

و در چنین شرایطی، وقتی داریم بقایای حمله‌ی انتحاریِ یک پهپاد رو

of a suicide drone attack, it will be very difficult to say

موشکافی می‌کنیم، خیلی سخت خواهد بود که بفهمیم

who sent that weapon.

چه کسی اون سلاح رو فرستاده.

This raises the very real possibility

بدین ترتیب احتمال کاملا واقعیِ رخ دادنِ

of anonymous war.

یک «جنگِ ناشناس» رو زیاد می‌کنه.

This could tilt the geopolitical balance on its head,

این می‌تونه موازنه‌ی ژئوپولیتیک رو واژگون کنه،

make it very difficult for a nation to turn its firepower

و دیگه برای یک ملت بسیار دشوار خواهد بود که قدرتِ آتش خودش رو

against an attacker, and that could shift the balance

به سمتِ مهاجم نشونه بره و اون می‌تونه

in the 21st century away from defense and toward offense.

موازنه‌ی قرنِ ۲۱ رو از دفاع به تهاجم سوق بده.

It could make military action a viable option

بدین ترتیب، اقدامِ نظامی به یک گزینه‌ی قابلِ اجرا تبدیل میشه،

not just for small nations,

نه‌ فقط برای کشورهای کوچیک

but criminal organizations, private enterprise,

بلکه همچنین برای سازمان‌های جنایت‌کار، شرکت‌های خصوصی

even powerful individuals.

و حتی اشخاص قدرتمند.

It could create a landscape of rival warlords

این می‌تونه چشم‌اندازی از جنگ‌سالارانِ رقیبِ هم رو ایجاد کنه

undermining rule of law and civil society.

که حاکمیتِ قانون و جامعه‌ی مدنی رو تضعیف می‌کنه.

Now if responsibility and transparency

حالا اگه پاسخ‌گویی و شفافیت

are two of the cornerstones of representative government,

دو شالوده‌ی یک دولتِ انتخابی باشن،

autonomous robotic weapons could undermine both.

تسلیحاتِ رباتیکِ خودکار می‌تونن هر دو رو سست بکنن.

Now you might be thinking that

شاید الآن دارین فکر می‌کنین که

citizens of high-tech nations

شهروندانِ کشورهای فوقِ پیشرفته

would have the advantage in any robotic war,

توی هر جنگِ رباتیک از این مزیت برخوردارن

that citizens of those nations would be less vulnerable,

که آسیب‌پذیریِ کمتری دارن،

particularly against developing nations.

به‌خصوص نسبت به کشورهای در حالِ توسعه.

But I think the truth is the exact opposite.

اما من فکر می‌کنم که حقیقت درست عکسِ اینه.

I think citizens of high-tech societies

من فکر می‌کنم که شهروندانِ جوامعِ فوقِ پیشرفته

are more vulnerable to robotic weapons,

نسبت به تسلیحاتِ رباتیک آسیب‌پذیرتر هستن.

and the reason can be summed up in one word: data.

و دلیلش رو میشه در یک کلمه خلاصه کرد: دیتا (داده).

Data powers high-tech societies.

دیتا به جوامعِ فوقِ پیشرفته نیرو میده.

Cell phone geolocation, telecom metadata,

موقعیتِ جغرافیاییِ تلفنِ همراه، فراداده‌های مخابراتی،

social media, email, text, financial transaction data,

رسانه‌های اجتماعی، ایمیل، پیامک، داده‌های تراکنش‌های مالی،

transportation data, it's a wealth of real-time data

داده‌های حمل‌ونقل، اینها گنجینه‌ای از داده‌های بلادرنگ

on the movements and social interactions of people.

درباره‌ی جابه‌جایی‌ها و تعاملاتِ اجتماعیِ مردم هستن.

In short, we are more visible to machines

خلاصه‌ی کلام، ما بیشتر از هر مردمِ دیگه‌ای در طولِ تاریخ،

than any people in history,

برای ماشین‌ها قابلِ رؤیت هستیم،

and this perfectly suits the targeting needs of autonomous weapons.

و این درست همون چیزیه که سلاح‌های خودکنترل برای هدف‌گیری بهش نیاز دارن.

What you're looking at here

چیزی که اینجا دارین می‌بینین،

is a link analysis map of a social group.

نقشه‌ی تحلیل ارتباط یک گروه اجتماعیه.

Lines indicate social connectedness between individuals.

خط‌ها متصل بودن اجتماعی بین اشخاص رو نشون می‌ده.

And these types of maps can be automatically generated

و این نوع نقشه‌ها می‌تونن به صورت اتوماتیک بر اساس ردپای داده‌هایی

based on the data trail modern people leave behind.

که مردم امروزی به جا می‌ذارن ایجاد بشن.

Now it's typically used to market goods and services

این معمولا برای بازاریابی کالاها و خدمات برای جوامع هدف

to targeted demographics, but it's a dual-use technology,

استفاده می‌شه، ولی این یه فناوری دو-لبه است،

because targeting is used in another context.

چون هدف گرفتن در مفهوم دیگه‌ای هم استفاده می‌شه.

Notice that certain individuals are highlighted.

دقت کنین که افراد خاصی پررنگ شده‌اند.

These are the hubs of social networks.

این‌ها مراکز شبکه‌های اجتماعی هستن.

These are organizers, opinion-makers, leaders,

این‌ها سازمان‌دهنده، تاثیرگذار و رهبر هستند،

and these people also can be automatically identified

و این افراد هم می‌تونن به صورت اتوماتیک ازطریقِ

from their communication patterns.

الگوی ارتباطاتشون شناسایی بشن.

Now, if you're a marketer, you might then target them

حالا اگه شما یه بازاریاب هستین، پس شما هم ممکنه اون‌ها رو با

with product samples, try to spread your brand

نمونه‌ی محصولات هدف بگیرین و سعی کنین که نشان تجاریتون رو

through their social group.

از طریق گروه اجتماعی اون‌ها گسترش بدین.

But if you're a repressive government

ولی اگه شما یه دولت سرکوبگر باشین

searching for political enemies, you might instead remove them,

که به دنبال دشمنان سیاسی می‌گرده، به جاش ممکنه اونارو حذف کنید،

eliminate them, disrupt their social group,

نابودشون کنین، توی گروه اجتماعیشون ازهم‌ گسیختگی ایجاد کنین،

and those who remain behind lose social cohesion

و اونایی هم که باقی می‌مونن پیوستگی و سازمان‌دهی اجتماعی

and organization.

رو از دست می‌دن.

Now in a world of cheap, proliferating robotic weapons,

حالا توی دنیایی از سلاح‌های رباتیک ارزون و در حالا گسترش،

borders would offer very little protection

مرزها حفاظت خیلی کمی رو در برابر

to critics of distant governments

تهدیدات کشورهای دور یا

or trans-national criminal organizations.

سازمان‌های جنایتکار فَرا-ملّی فراهم می‌کنن.

Popular movements agitating for change

جنبش‌های مردمیِ به دنبال تغییر

could be detected early and their leaders eliminated

می‌تونن زود شناسایی بشن و رهبرانشون قبل از این که

before their ideas achieve critical mass.

تفکراتشون ارزش و بار حساس و حیاتی پیدا کنه نابود بشن.

And ideas achieving critical mass

و تفکراتی که دارن ارزش مهمی پیدا می‌کنن،

is what political activism in popular government is all about.

در واقع همون چیزیه که توی دولت مردمی، فعالیت سیاسی بهش می‌پردازه.

Anonymous lethal weapons could make lethal action

سلاح‌های مرگبار ناشناس می‌تونن حرکت مهلک انجام بدن

an easy choice for all sorts of competing interests.

انتخابی آسان برای همه‌ی انواع علائق مورد رقابت.

And this would put a chill on free speech

و این می‌تونه آزادی بیان و حرکت‌های سیاسی مردمی

and popular political action, the very heart of democracy.

رو دل‌سرد کنه، چیزایی که اساس دموکراسی هستن.

And this is why we need an international treaty

و به همین دلیله که به یك عهدنامه‌ی بین‌المللی در رابطه با

on robotic weapons, and in particular a global ban

سلاح‌های رباتیک نیاز داریم، و به طور مشخصص‌تر یه منع بین‌المللی

on the development and deployment of killer robots.

برای گسترش و به‌کارگیری ربات‌های کشنده.

Now we already have international treaties

ما الآن تعهدهای بین‌المللی در رابطه با

on nuclear and biological weapons, and, while imperfect,

سلاح‌های هسته‌ای و بیولوژیک داریم، که با وجود نقص‌هایی،

these have largely worked.

باز هم به طور گسترده‌ای کار کرده و تاثیرگذار بوده‌اند.

But robotic weapons might be every bit as dangerous,

ولی سلاح‌های رباتیک می‌تونن به همون اندازه خطرناک باشن،

because they will almost certainly be used,

چون اون‌ها تقریبا با قطعیت می‌شه گفت که استفاده خواهند شد،

and they would also be corrosive to our democratic institutions.

و همچنین می‌تونن برای نهادهای دموکراتیک ما نابود کننده باشن،

Now in November 2012 the U.S. Department of Defense

در نوامبر ۲۰۱۲ وزارت دفاع ایالات متحده

issued a directive requiring

بخشنامه‌ای صادر کرد که می‌گه در

a human being be present in all lethal decisions.

تمامی تصمیمات منجر به مرگ یک انسان باید حاضر باشه.

This temporarily effectively banned autonomous weapons in the U.S. military,

این دستور موقتا و به طور تاثیرگذاری سلاح‌های خودکنترل رو در ارتش ایالات متحده ممنوع کرد،

but that directive needs to be made permanent.

ولی اون بخشنامه باید دائمی بشه.

And it could set the stage for global action.

و می‌تونه زمینه رو برای اقدام جهانی فراهم کنه.

Because we need an international legal framework

چون نیاز به چهارچوبی بین‌المللی و قانونی

for robotic weapons.

برای سلاح‌های رباتیک دارم.

And we need it now, before there's a devastating attack

و همین حالا هم بهش نیاز داریم، قبل از این که حمله‌ای ویران‌کننده به وقوع بپیونده

or a terrorist incident that causes nations of the world

یا یک حادثه‌ی تروریستی‌ای رخ بده که باعث بشه ملل جهان

to rush to adopt these weapons

بدون فکر کردن درباره‌ی پیامدهاش

before thinking through the consequences.

بخوان که از این سلاح‌ها استفاده بشه.

Autonomous robotic weapons concentrate too much power

سلاح‌های رباتیک خودکنترل قدرت بسیار زیادی رو در دستان افراد بسیار اندکی

in too few hands, and they would imperil democracy itself.

متمرکز می‌کنن که این خودش باعث به خطر افتادن دموکراسی می‌شه.

Now, don't get me wrong, I think there are tons

حالا، منظورم رو اشتباه برداشت نکنید، فکر می‌کنم هزاران کاربرد عالی

of great uses for unarmed civilian drones:

برای پهپادهای غیرمسلح غیرنظامی وجود داره:

environmental monitoring, search and rescue, logistics.

مونیتور کردن شرایط محیط زیستی، جستجو و نجات، تدارکات.

If we have an international treaty on robotic weapons,

اگه یه عهدنامه‌ی بین‌المللی در رابطه با سلاح‌های رباتیک داشته باشیم،

how do we gain the benefits of autonomous drones

چطور از مزایای پهپادها و وسایط نقلیه‌ی خودکنترل بهره ببریم

and vehicles while still protecting ourselves

در همون حال که از خودمون هم در برابر سلاح‌های رباتیک غیرقانونی

against illegal robotic weapons?

محافظت می‌کنیم؟

I think the secret will be transparency.

فکر می‌کنم رازش «شفافیت» خواهد بود.

No robot should have an expectation of privacy

هیچ رباتی نباید توقع حریم خاص خودش رو

in a public place.

در یه مکان عمومی داشته باشه.

(Applause)

(تشویق حضار)

Each robot and drone should have

هر ربات و پهپاد باید یک ID

a cryptographically signed I.D. burned in at the factory

با امضای رمزنگاری شده که در کارخونه روی اون ثبت شده داشته باشه که

that can be used to track its movement through public spaces.

بتونه برای ردیابی حرکاتش در فضاهای عمومی استفاده بشه.

We have license plates on cars, tail numbers on aircraft.

ما پلاک‌های شماره رو روی ماشین‌ها و هواپیماها داریم.

This is no different.

این هم تفاوتی نداره.

And every citizen should be able to download an app

و هر شهروندی باید بتونه یک برنامه رو دانلود کنه

that shows the population of drones and autonomous vehicles

که تراکم پهپادها و وسایط نقلیه‌ی خودکنترل رو که در فضای عمومی اطراف اون‌ها

moving through public spaces around them,

هم الآن و هم در گذشته

both right now and historically.

دارن حرکت می‌کنن نشون بده.

And civic leaders should deploy sensors and civic drones

و مدیران شهری باید حسگرها و پهپادهای شهری رو برای

to detect rogue drones,

کشف پهپادهای ولگرد به کار بگیرن،

and instead of sending killer drones of their own up to shoot them down,

و به جای فرستادن پهپادهایی کشنده از نوع خودشون که برن و اونارو سرنگون کنن،

they should notify humans to their presence.

باید مردم رو از وجود اون‌ها آگاه کنن.

And in certain very high-security areas,

و در مناطق خیلی فوق‌امنیتی خاص،

perhaps civic drones would snare them

شاید ربات‌های شهری اونارو به تله بندازن

and drag them off to a bomb disposal facility.

و اونا رو تا یک محل انهدام بمب ببرن.

But notice, this is more an immune system

ولی دقت کنین، این بیشتر یک سیستم ایمنی‌‌ست

than a weapons system.

تا یه سیستم تسلیحاتی.

It would allow us to avail ourselves of the use

این به ما اجازه خواهد داد تا به خودمون با استفاده از

of autonomous vehicles and drones

وسایط نقلیه‌ی خودکنترل و پهپادها سود برسونیم

while still preserving our open, civil society.

در همون حال که همچنان از جامعه‌ی مدنی و آزاد خودمون حفاظت می‌کنیم.

We must ban the deployment and development

ما باید استفاده و گسترش ربات‌های کشنده رو

of killer robots.

ممنوع کنیم.

Let's not succumb to the temptation to automate war.

بیاین تسلیم وسوسه‌ی جنگ خودکار نشیم.

Autocratic governments and criminal organizations

دولت‌های استبدادی و سازمان‌های جنایتکار بدون شک این کارو خواهند کرد،

undoubtedly will, but let's not join them.

ولی بیاین ما دیگه به اون‌ها ملحق نشیم.

Autonomous robotic weapons

سلاح‌های رباتیک خودکنترل

would concentrate too much power

قدرت بسیار زیادی رو در دستان افراد ناشناسِ

in too few unseen hands,

بسیار اندکی متمرکز می‌کنن،

and that would be corrosive to representative government.

و این برای حکومت منتخب مردم نابودگر خواهد بود.

Let's make sure, for democracies at least,

بیاین مطمئن بشیم که، حداقل برای دموکراسی‌ها،

killer robots remain fiction.

ربات‌های کشنده تخیلی باقی بمونن.

Thank you.

ممنونم.

(Applause)

(تشویق حضار)

Thank you. (Applause)

ممنونم. (تشویق حضار)