Military robots and the future of war | P.W. Singer

Translator: MaYoMo com Reviewer: Anton Hikov

I thought I'd begin with a scene of war.

Помислих си, че ще започна със сцена от война.

There was little to warn of the danger ahead.

Малко предупреждение за опасностите занапред.

The Iraqi insurgent had placed the IED,

Иракски бунтовник беше поставил СВУ,

an Improvised Explosive Device,

самоделно взривно устройство

along the side of the road with great care.

по протежение на пътя, с голямо внимание.

By 2006, there were more than 2,500

През 2006 год. имаше повече от 2 500

of these attacks every single month,

такива атаки всеки месец,

and they were the leading cause of

и те бяха водещата причина за

casualties among American soldiers

нещастни случаи сред американските войници

and Iraqi civilians.

и иракските цивилни граждани.

The team that was hunting for this IED

Отрядът, който преследваше за тези СВУ

is called an EOD team—

се наричаше ООБ --

Explosives Ordinance Disposal—and

отряд за обезвреждане на боеприпаси --

they're the pointy end of the spear in the

и те бяха "върхът на копието" в

American effort to suppress these roadside bombs.

американските усилия да се справят с тези крайпътни бомби.

Each EOD team goes out on about

Всеки отряд се отзоваваше на около

600 of these bomb calls every year,

600 обаждания за такива бомби, всеки ден,

defusing about two bombs a day.

обезвреждайки около две бомби на ден.

Perhaps the best sign of how valuable they

Може би най-добрият знак, за това колко ценни

are to the war effort, is that

са те в усилията си във войната е, че

the Iraqi insurgents put a $50,000 bounty

иракските бунтовници даваха 50 000 долара възнаграждение,

on the head of a single EOD soldier.

за главата на един войник от отряда.

Unfortunately, this particular call

За съжаление, точно това повикване,

would not end well.

няма да завърши добре.

By the time the soldier advanced close

По времето когато войникът доближи достатъчно

enough to see the telltale wires

близо, за да види сигналните жици

of the bomb, it exploded in a wave of flame.

на бомбата, тя експлодира във вълна от пламъци.

Now, depending how close you are

Сега, в зависимост от това колко близо си

and how much explosive has been packed

и колко експлозив е вложен

into that bomb, it can cause death

в тази бомба, тя може да причини смърт

or injury. You have to be as far as

или раняване. Трябва да бъдеш на около

50 yards away to escape that.

50 ярда, за да избегнеш това.

The blast is so strong it can even break

Взривът е толкова силен, че може дори да разкъса

your limbs, even if you're not hit.

крайниците, дори да не сте ударен.

That soldier had been on top of the bomb.

Този войник е бил точно над бомбата.

And so when the rest of the team advanced

И когато останалите от отряда напредват,

they found little left. And that night the unit's

намерили много малко останало от него. Същата вечер,

commander did a sad duty, and he wrote

командирът свършил тъжното си задължение и написал

a condolence letter back to the United

съболезнователно писмо обратно до САЩ,

States, and he talked about how hard the

разказал колко е трудно

loss had been on his unit, about the fact

да се понесе загубата от отряда, за факта,

that they had lost their bravest soldier,

че са загубили най-смелия си войник,

a soldier who had saved their lives

войникът, който е спасявал животите им

many a time.

много пъти.

And he apologized

И се извинил,

for not being able to bring them home.

че няма да му бъде възможно да го върне у дома.

But then he talked up the silver lining

Но тогава той заговори за ползите,

that he took away from the loss.

които беше извлякъл след загубата.

"At least," as he wrote, "when a robot dies,

"Най малкото," докато пишеше, "когато робот умре,

you don't have to write a letter

не се налага да пишеш писмо

to its mother."

до майка му."

That scene sounds like science fiction,

Тази сцена звучи като научна фантастика,

but is battlefield reality already.

но е вече реалност от бойното поле.

The soldier in that case

Войникът от този случай

was a 42-pound robot called a PackBot.

беше робот, тежащ 42 паунда (19 килограма) и се казваше ПакБот.

The chief's letter went, not to some

Писмото отиде, не в някаква

farmhouse in Iowa like you see

ферма в Айова, както виждате

in the old war movies, but went to

в старите военни филми, а отиде в

the iRobot Company, which is

компанията iRobot (Аз роботът), която

named after the Asimov novel

наречена така по романа на Азимов,

and the not-so-great Will Smith movie,

и не толкова добрия филм на Уил Смит,

and... um... (Laughter)...

и ....хм... (смях)

if you remember that

ако си спомняте това,

in that fictional world, robots started out

в този измислен свят, роботите започнаха

carrying out mundane chores, and then

да се грижат за рутинни задължения и после

they started taking on life-and-death decisions.

започнаха да вземат решения на живот и смърт.

That's a reality we face today.

Това е реалността, пред която сме изправени днес.

What we're going to do is actually just

Онова, което ще направим, е всъщност просто

flash a series of photos behind me that

да прожектираме серия снимки зад мен,

show you the reality of robots used in war

които ви показват реалността на роботите,

right now or already at the prototype stage.

използвани във война сега, или вече в прототипния стадий.

It's just to give you a taste.

Само да добиете представа.

Another way of putting it is you're not

Друг начин да се каже е, че няма да видите нищо,

going to see anything that's powered

което да е захранвано от технологията "Вулкан,"

by Vulcan technology, or teenage

или магически тийнейджърски хормони,

wizard hormones or anything like that.

или нещо такова.

This is all real. So why don't we

Всичко е реално.

go ahead and start those pictures.

Защо да не започваме с тези снимки?

Something big is going on in war today,

Във военното дело днес става нещо голямо,

and maybe even the history of humanity

а може би дори и в историята на самото човечество.

itself. The U.S. military went into Iraq with

Армията на САЩ отиде в Ирак

a handful of drones in the air.

с шепа самолети с дистанционно управление във въздуха,

We now have 5,300.

а сега имаме 5300.

We went in with zero unmanned ground

Влязохме с нула наземни безпилотни системи,

systems. We now have 12,000.

а сега имаме 12 000.

And the tech term "killer application"

Техническият термин "убийствено приложение"

takes on new meaning in this space.

придобива ново значение в това пространство.

And we need to remember that we're

Трябва да помним, че говорим

talking about the Model T Fords,

за модела Т4, "Райт Флайърс,"

the Wright Flyers, compared

в сравнение с онова,

to what's coming soon.

което идва скоро.

That's where we're at right now.

Ето къде сме точно сега.

One of the people that I recently met with

Един от хората, с които се срещах наскоро,

was an Air Force three-star general, and he

беше генерал с три звезди от военновъздушните сили.

said basically, where we're headed very

Той каза: "По същество онова, което ни очаква много скоро,

soon is tens of thousands of robots

са десетки хиляди роботи,

operating in our conflicts, and these

действащи в нашите конфликти."

numbers matter, because we're not just

А тези числа имат значение, защото не говорим само

talking about tens of thousands of today's

за десетки хиляди днешни роботи,

robots, but tens of thousands of these

а за десетки хиляди от тези прототипи

prototypes and tomorrow's robots, because

и утрешни роботи.

of course, one of the things that's operating

Защото, разбира се, едно от нещата,

in technology is Moore's Law,

действащо в технологиите е законът на Мур,

that you can pack in more and more

че можеш да вкарваш все повече и повеч

computing power into those robots, and so

е изчислителна сила в тези роботи.

flash forward around 25 years,

И така, ако превъртим с 25 години напред,

if Moore's Law holds true,

ако Мур се окаже прав,

those robots will be close to a billion times

тези роботи ще имат близо милиард пъти по-голяма

more powerful in their computing than today.

изчислителна мощ от днес.

And so what that means is the kind of

А това означава, че за онзи вид неща,

things that we used to only talk about at

за които сме свикнали да говорим само

science fiction conventions like Comic-Con

на конгреси по научна фантастика като "Комикон,"

have to be talked about in the halls

трябва да се говори в залите на властта,

of power and places like the Pentagon.

на места като Пентагона.

A robots revolution is upon us.

Настъпва революция на роботите.

Now, I need to be clear here.

Тук трябва да съм ясен.

I'm not talking about a revolution where you

Не говоря за революция,

have to worry about the Governor of

при която трябва да се безпокоите,

California showing up at your door,

че губернаторът на Калифорния ще се появи на вратата ви

a la the Terminator. (Laughter)

а ла Терминатор. (Смях)

When historians look at this period, they're

Когато историците разглеждат този период,

going to conclude that we're in a different

ще заключат, че сме в различен тип революция,

type of revolution: a revolution in war,

революция във войната,

like the invention of the atomic bomb.

като изобретяването на атомната бомба.

But it may be even bigger than that,

Но може да се окаже дори нещо по-голямо,

because our unmanned systems don't just

защото нашите безпилотни системи

affect the "how" of war-fighting,

не засягат само "как" се води война,

they affect the "who" of fighting

те засягат "кой" се бие

at its most fundamental level.

на най-фундаментално ниво.

That is, every previous revolution in war, be

Тоест, всяка предишна революция във войната --

it the machine gun, be it the atomic bomb,

била тя картечницата, или атомната бомба,

was about a system that either shot faster,

е била свързана със система, която или е стреляла по-бързо,

went further, had a bigger boom.

стигала е по-далеч, предизвиквала е по-мощен взрив.

That's certainly the case with robotics, but

Такъв със сигурност е случаят с роботиката.

they also change the experience of the warrior

Но те променят също преживяването на войника,

and even the very identity of the warrior.

и дори самата идентичност на войника.

Another way of putting this is that

Друг начин да се каже това е,

mankind's 5,000-year-old monopoly

че 5000-годишният монопол на човечеството

on the fighting of war is breaking down

върху воденето на война ще бъде разбит

in our very lifetime. I've spent

още по време на нашия живот. Прекарах

the last several years going around

последните няколко години в обикаляне

meeting with all the players in this field,

и срещи с всички играчи в тази област --

from the robot scientists to the science

от учените роботисти, до

fiction authors who inspired them to the

авторите на научна фантастика, които са ги вдъхновили,

19-year-old drone pilots who are fighting

до 19-годишните пилоти на безпилотни самолети, които водят битки

from Nevada, to the four-star generals

от Невада, до четиризвездните генерали,

who command them, to even the Iraqi

които ги командват, дори до иракските

insurgents who they are targeting and what

метежници, в които се целят, и какво

they think about our systems, and

мислят те за нашите системи,

what I found interesting is not just

и което намерих за интересно, не са само

their stories, but how their experiences

техните истории, а това как техните преживявания

point to these ripple effects that are going

сочат към тези разпространяващи се ефекти от тях,

outwards in our society, in our law

които се движат навън в нашето общество, нашето право,

and our ethics, etc. And so what I'd like

нашата етика и така нататък. И така, онова, което бих искал

to do with my remaining time is basically

да направя в оставащото ми време,

flesh out a couple of these.

е по същество да ви представя две от тях.

So the first is that the future of war,

Първото е, че бъдещето на войната,

even a robotics one, is not going to be

дори такава с роботи, няма да е

purely an American one.

чисто американска.

The U.S. is currently ahead in military

САЩ понастоящем са напред във военната роботика,

robotics right now, but we know that in

но знаем, че в

technology there's no such thing as

технологията няма такова нещо като

a permanent first move or advantage.

постоянно предимство на първооткривателя.

In a quick show of hands, how many

С бързо вдигане на ръка, колко

people in this room still use

души в тази стая все още използват

Wang Computers? (Laughter)

компютри "Уонг"? (Смях)

It's the same thing in war. The British and

Същото е във войната. Британците и

the French invented the tank.

французите са изобретили танка,

The Germans figured out how

германците са проумяли как

to use it right, and so what we have to

да го използват правилно, и което трябва

think about for the U.S. is that we are

да помислим за САЩ, е, че ние

ahead right now, but you have

в момента сме напред, но има

43 other countries out there

още 43 други страни,

working on military robotics, and they

работещи по военна роботика,

include all the interesting countries like

и сред тях са всички интересни страни,

Russia, China, Pakistan, Iran.

като Русия, Китай, Пакистан, Иран.

And this raises a bigger worry for me.

А това според мен води до едно по-голямо безпокойство.

How do we move forward in this revolution

Как да се движим напред в тази революция

given the state of our manufacturing

при състоянието на нашето производство

and the state of our science and

и състоянието на обучението по техника

mathematics training in our schools?

и математика в нашите училища?

Or another way of thinking about this is,

Друг начин да се мисли за това е,

what does it mean to go to war increasingly

какво означава да отидеш на война,

with soldiers whose hardware is made

все повече с войници, чийто хардуер е произведен

in China and software is written in India?

в Китай, а софтуерът е написан в Индия?

But just as software has gone open-source,

Но точно както софтуерът стана с отворен код,

so has warfare.

така стана и с военното дело.

Unlike an aircraft carrier or an atomic bomb,

За разлика от самолетоносач, или атомна бомба,

you don't need a massive manufacturing

не е нужна масивна производствена

system to build robotics. A lot of it is

система за изграждане на роботика. Голяма част

off the shelf. A lot of it's even do-it-yourself.

работи с достъпни продукти. А част дори е "направи си сам."

One of those things you just saw flashed

Едно от тези неща, които току-що видяхте да проблесват

before you was a raven drone, the handheld

пред вас, беше безпилотен самолет "Рейвън," задвижван чрез изтласкване с ръка.

tossed one. For about a thousand dollars,

За около 1000 долара,

you can build one yourself, equivalent to

сами можете да построите такъв, еквивалентен на онова,

what the soldiers use in Iraq.

което войниците използват в Ирак.

That raises another wrinkle when it comes

Това повдига друг въпрос, когато става дума

to war and conflict. Good guys might play

за война и конфликт. Добрите момчета може да си играят

around and work on these as hobby kits,

и да работят по тях като хоби,

but so might bad guys.

но лошите момчета също могат да го сторят.

This cross between robotics and things like

Тази кръстоска между роботика и неща като

terrorism is going to be fascinating

тероризма ще бъде смайваща

and even disturbing,

и дори обезпокоителна,

and we've already seen it start.

Вече сме видяли началото.

During the war between Israel, a state,

По време на войната между Израел, една държава,

and Hezbollah, a non-state actor,

и Хизбула, участник-недържава,

the non-state actor flew

участникът-недържава изстреля

four different drones against Israel.

четири различни безпилотни самолета срещу Израел.

There's already a jihadi website

Вече има един уебсайт за джихад,

that you can go on and remotely

в който можеш да влезеш и дистанционно да

detonate an IED in Iraq while sitting

детонираш ИЕУ (Импровизирано експлозивно устройство),

at your home computer.

докато седиш на домашния си компютър.

And so I think what we're going to see is

Затова смятам, че ще видим

two trends take place with this.

две тенденции при това.

First is, you're going to reinforce the power

Първата е, че ще се засили мощта

of individuals against governments,

на индивиди срещу правителства.

but then the second is that

Втората е, че ще видим

we are going to see an expansion

една експанзия

in the realm of terrorism.

в сферата на тероризма.

The future of it may be a cross between

Бъдещето може да е кръстоска между

al Qaeda 2.0 and the

Ал Кайда 2.0 и

next generation of the Unabomber.

слдващото поколение от "Унабомбър."

And another way of thinking about this

Друг начин да се мисли за това

is the fact that, remember, you don't have

е фактът, че, помнете, не се налага

to convince a robot that they're gonna

да убеждавате робот, че ще получи

receive 72 virgins after they die

72 девици, след като умре,

to convince them to blow themselves up.

за да го убедите да се самовзриви.

But the ripple effects of this are going to go

Но разпространяващите се ефекти от това ще навлязат

out into our politics. One of the people that

в нашата политика. Един от хората, с които се

I met with was a former Assistant Secretary of

срещнах, беше бивш помощник-секретар

Defense for Ronald Reagan, and he put it

по отбраната от администрацията на Роналд Рейгън, той се изрази

this way: "I like these systems because

така: " Харесвам тези системи, защото

they save American lives, but I worry about

те спасяват американски животи, но се безпокоя

more marketization of wars,

за по-голяма маркетизация на войната,

more shock-and-awe talk,

повече приказки за шок и страхопочитание,

to defray discussion of the costs.

за да се покрие дискусията за цената.

People are more likely to support the use

Хората са по-склонни да подкрепят

of force if they view it as costless."

употребата на сила, ако я разглеждат като безплатна."

Robots for me take certain trends

Роботите за мен поемат известни тенденции,

that are already in play in our body politic,

които вече са в действие в основната ни политика,

and maybe take them to

и може би ги водят към

their logical ending point.

логичната им крайна точка.

We don't have a draft. We don't

Нямаме законопроект.

have declarations of war anymore.

Вече нямаме обявявания на война.

We don't buy war bonds anymore.

Вече не купуваме военни облигации.

And now we have the fact that we're

А сега имаме факта, че

converting more and more of our American

конвертираме все повече и повече от нашите американски

soldiers that we would send into harm's

войници, които бихме изпратили срещу риска,

way into machines, and so we may take

в машини, и така можем да изпратим

those already lowering bars to war

тези вече снижаващи се лостове на война

and drop them to the ground.

и да ги пуснем на земята.

But the future of war is also going to be

Но бъдещето на войната ще бъде

a YouTube war.

също и YouTube война.

That is, our new technologies don't merely

Тоест, нашите нови технологии не само

remove humans from risk.

отстраняват хората от риск.

They also record everything that they see.

Те също така записват всичко, което видят.

So they don't just delink the public:

Така че те не само лишават публиката от връзка,

they reshape its relationship with war.

те преоформят връзката й с войната.

There's already several thousand

Вече има няколко хиляди

video clips of combat footage from Iraq

видеоклипа заснети сражения от Ирак,

on YouTube right now,

в момента в YouTube,

most of it gathered by drones.

повечето от тях събрани от безпилотни самолети.

Now, this could be a good thing.

Това може да е добро нещо,

It could be building connections between

би могло да изгражда връзки между

the home front and the war front

домашния фронт и военния фронт,

as never before.

както никога преди.

But remember, this is taking place

Но помнете, че това се случва

in our strange, weird world, and so

в нашия странен, чудат свят,

inevitably the ability to download these

така че неизбежно способността за изтегляне на тези

video clips to, you know, your iPod

видеоклипове на вашия iPod

or your Zune gives you

или вашия Zune ви дава

the ability to turn it into entertainment.

възможността да ги превърнете в забавление.

Soldiers have a name for these clips.

Войниците имат име за тези клипове.

They call it war porn.

Наричат ги военно порно.

The typical one that I was sent was

Едно типично, което ми изпратиха,

an email that had an attachment of

беше един и-мейл, към който беше прикрепен

video of a Predator strike taking out

видеозапис от удар на "Придейтър," унищожаващ

an enemy site. Missile hits,

вражески обект. Ракетни удари,

bodies burst into the air with the explosion.

тела, изхвърлени във въздуха при експлозията.

It was set to music.

Беше озвучено с музика.

It was set to the pop song

Беше озвучено с поп песента

"I Just Want To Fly" by Sugar Ray.

"Просто искам да летя" на Шугър Рей.

This ability to watch more

Способността да гледаш повече,

but experience less creates a wrinkle

а да преживяваш по-малко, създава проблем

in the public's relationship with war.

в отношението на обществеността към войната.

I think about this with a sports parallel.

Мисля за това с един спортен паралел.

It's like the difference between

То е като разликата между

watching an NBA game, a professional

това да гледаш игра на НБА, професионална

basketball game on TV, where the athletes

баскетболна игра, по телевизията, където атлетите

are tiny figures on the screen, and

са мънички фигури на екрана, и

being at that basketball game in person

да си на тази баскетболна игра лично,

and realizing what someone seven feet

да осъзнаеш как човек, висок седем фута (2,13 м.)

really does look like.

наистина изглежда.

But we have to remember,

Но трябва да помним,

these are just the clips.

че това са само клиповете.

These are just the ESPN SportsCenter

Това са само на спортния център ESPN

version of the game. They lose the context.

версии за играта. Те губят контекста.

They lose the strategy.

Те губят стратегията.

They lose the humanity. War just

Те губят човещината. Войната

becomes slam dunks and smart bombs.

става просто майсторски вкарани кошове и умни бомби.

Now the irony of all this is that

Иронията във всичко това е, че,

while the future of war may involve

макар че бъдещето на войната може би включва

more and more machines,

все повече и повече машини,

it's our human psychology that's driving

нашата човешка психология движи всичко това,

all of this, it's our human failings

нашите човешки провали

that are leading to these wars.

водят до тези войни.

So one example of this that has

Един пример за това, който има

big resonance in the policy realm is

голям резонанс в сферата на политиката,

how this plays out on our very real

е как това се разиграва върху нашата много реална

war of ideas that we're fighting

война на идеи, че се борим

against radical groups.

срещу радикални групи.

What is the message that we think we are

Какво е посланието, което мислим,

sending with these machines versus what

че изпращаме с тези машини, срещу това

is being received in terms of the message.

какво се получава с оглед на посланието.

So one of the people that I met was

Един от хората, които срещнах, беше

a senior Bush Administration official,

висш служител от администрацията на Буш,

who had this to say about

който заяви следното за

our unmanning of war:

нашето обезчовечаване на войната:

"It plays to our strength. The thing that

"Това играе в наша полза. Онова, което

scares people is our technology."

плаши хората, е нашата технология."

But when you go out and meet with people,

Но когато отидеш да се срещнеш с хора,

for example in Lebanon, it's a very

например в Ливан, историята е

different story. One of the people

много различна. Един от хората,

I met with there was a news editor, and

с които се срещнах там, беше новинарски редактор,

we're talking as a drone is flying above him,

и докато говорехме, над него прелетя един безпилотен самолет.

and this is what he had to say.

Ето какво каза той:

"This is just another sign of the coldhearted

"Това е само още един знак за студеносърдечните,

cruel Israelis and Americans,

жестоки израелци и американци,

who are cowards because

които са страхливци, защото

they send out machines to fight us.

изпращат машини, които да се бият с нас.

They don't want to fight us like real men,

Не искат да се бият с нас като истински мъже,

but they're afraid to fight,

а се страхуват да се бият,

so we just have to kill a few of their soldiers

така че само трябва да убием малко от войниците им,

to defeat them."

за да ги победим."

The future of war also is featuring

Бъдещето на войната също така представя

a new type of warrior,

нов тип войник,

and it's actually redefining the experience

Това всъщност е предефиниране на преживяването

of going to war.

да отидеш на война.

You can call this a cubicle warrior.

Това може да се нарече кабинков войник.

This is what one Predator drone pilot

Ето какво описа един пилот на безпилотен самолет "Придейтър"

described of his experience fighting

за опита си в битки в Иракската война,

in the Iraq War while never leaving Nevada.

без изобщо да напусне Невада -- цитирам:

"You're going to war for 12 hours,

"Отиваш на война за 12 часа,

shooting weapons at targets,

стреляш с оръжия по мишени,

directing kills on enemy combatants,

режисираш убийствата на вражески бойци,

and then you get in the car

а после се качваш на колата

and you drive home and within 20 minutes,

и се прибираш в къщи и до 20 минути

you're sitting at the dinner table

седиш на масата за вечеря

talking to your kids about their homework."

и говориш с децата си за домашните им."

Now, the psychological balancing

Психологическият баланс

of those experiences is incredibly tough,

на тези преживявания е невероятно труден,

and in fact those drone pilots have

всъщност, при пилотите на безпилотни самолети

higher rates of PTSD than many

има най-високи нива на посттравматичен стрес,

of the units physically in Iraq.

отколкото много от поделенията, намиращи се физически в Ирак.

But some have worries that this

Но някои се притесняват,

disconnection will lead to something else,

че тази липса на връзка ще доведе до нещо друго,

that it might make the contemplation of war

че тя би могла да направи планирането на военни

crimes a lot easier when you have

престъпления много по-лесно, когато имаш

this distance. "It's like a video game,"

това разстояние. "Като видеоигра е" -

is what one young pilot described to me

описа ми един млад пилот,

of taking out enemy troops from afar.

за премахване на вражески войници отдалеч.

As anyone who's played Grand Theft Auto

Както знае всеки, който е играл "Гранд Тефт Ауто,"

knows, we do things in the video world

във видеосвета правим неща,

that we wouldn't do face to face.

които не бихме направили лице в лице.

So much of what you're hearing from me

И така, много от това, което чувате от мен,

is that there's another side

е, че има друга страна

to technologic revolutions,

на технологичните революции,

and that it's shaping our present

и че тя оформя нашето настояще,

and maybe will shape our future of war.

а може би ще оформя и военното ни бъдеще.

Moore's Law is operative,

Законът на Мур е оперативен,

but so's Murphy's Law.

но също и законът на Мърфи.

The fog of war isn't being lifted.

Мъглата на войната не се вдига.

The enemy has a vote.

Врагът има глас.

We're gaining incredible new capabilities,

Получаваме невероятни нови способности,

but we're also seeing and experiencing

но също така виждаме и преживяваме

new human dilemmas. Now,

нови човешки дилеми. Сега,

sometimes these are just "oops" moments,

понякога това са просто моменти "опа,"

which is what the head of a robotics

както го описа ръководителят на една компания за роботи:

company described it, you just have

"Просто има моменти 'опа'."

"oops" moments. Well, what are

Е, какви са моментите "опа"

"oops" moments with robots in war?

с роботите и войната?

Well, sometimes they're funny. Sometimes,

Понякога са смешни. Понякога

they're like that scene from the

са като онази сцена от

Eddie Murphy movie "Best Defense,"

филма с Еди Мърфи, "Най-добра защита,"

playing out in reality, where they tested out

разиграващ се в реалността, където тестваха

a machine gun-armed robot, and during

един въоръжен с автомат робот и по време на

the demonstration it started spinning

демонстрацията той започна да се върти

in a circle and pointed its machine gun

в кръг и насочи автомата си

at the reviewing stand of VIPs.

към журито от ВИП-ове.

Fortunately the weapon wasn't loaded

За щастие, оръжието не беше заредено

and no one was hurt, but other times

и никой не беше ранен, но в други случаи

"oops" moments are tragic,

грешките са трагични,

such as last year in South Africa, where

както миналата година в Южна Африка, където

an anti-aircraft cannon had a

едно противовъздушно оръдие дало

"software glitch," and actually did turn on

"софтуерна грешка," включило се,

and fired, and nine soldiers were killed.

стреляло и девет войници били убити.

We have new wrinkles in the laws of war

Има нови проблеми в законите за война

and accountability. What do we do

и отговорност. Какво да правим

with things like unmanned slaughter?

с неща като безпилотно убийство?

What is unmanned slaughter?

Какво е безпилотно убийство?

We've already had three instances of

Вече има три случая на удари

Predator drone strikes where we thought

от безпилотни самолети "Придейтър," където смятахме,

we got bin Laden, and it turned out

че сме хванали Бин Ладен, а се оказа,

not to be the case.

че случаят не е такъв.

And this is where we're at right now.

Ето къде сме сега.

This is not even talking about armed,

Дори не говорим за въоръжени

autonomous systems

автономни системи

with full authority to use force.

с пълни правомощия да използват сила.

And do not believe that that isn't coming.

И не смятайте, че това няма да дойде.

During my research I came across

По време на проучванията си се натъкнах

four different Pentagon projects

на четири различни проекти на Пентагона

on different aspects of that.

по различни аспекти на това.

And so you have this question:

И така, има го този въпрос.

what does this lead to issues like

Какво следва от това по проблеми като

war crimes? Robots are emotionless, so

военните престъпления? Роботите нямат емоции,

they don't get upset if their buddy is killed.

затова не се потискат, ако другарят им е убит.

They don't commit crimes of rage

Те не извършват престъпления от ярост

and revenge.

и за отмъщение.

But robots are emotionless.

Но роботите нямат емоции,

They see an 80-year-old grandmother

те виждат една 80-годишна баба

in a wheelchair the same way they see

в инвалидна количка по същия начин,

a T-80 tank: they're both

по който виждат един танк Т80. И двете

just a series of zeroes and ones.

са само серия нули и единици.

And so we have this question to figure out:

Затова трябва да решим този въпрос,

How do we catch up our 20th century

как да пригодим военните си закони от XX век,

laws of war, that are so old right now

които са толкова стари сега,

that they could qualify for Medicare,

че могат да се квалифицират за "Медикеър,"

to these 21st century technologies?

към тези технологии от XXI-ви век.

And so, in conclusion, I've talked about

В заключение, говорих за онова,

what seems the future of war,

което изглежда бъдещето на войната,

but notice that I've only used

но забележете, че използвах

real world examples and you've only seen

само примери от реалния свят, а вие видяхте

real world pictures and videos.

само снимки и видеоклипове от реалния свят.

And so this sets a great challenge for

Това поставя огромно предизвикателство пред

all of us that we have to worry about well

всички нас, за което трябва да се безпокоим доста

before you have to worry about your

преди да се налага да се безпокоите,

Roomba sucking the life away from you.

че румбата изсмуква живота от вас.

Are we going to let the fact that what's

Ще оставим ли факта, че онова,

unveiling itself right now in war

което се разкрива сега във войната,

sounds like science fiction and therefore

звучи като научна фантастика и поради това

keeps us in denial?

ни държи в отрицание?

Are we going to face the reality

Ще се изправим ли срещу реалността

of 21st century war?

на една война от XXI-ви век?

Is our generation going to make the same

Ще направи ли нашето поколение същата

mistake that a past generation did

грешка, която е направило едно минало поколение

with atomic weaponry, and not deal with

с атомните оръжия да не се справи със

the issues that surround it until

заобикалящите ги въпроси, докато

Pandora's box is already opened up?

кутията на Пандора вече не е отворена?

Now, I could be wrong on this, and

Може да греша за това,

one Pentagon robot scientist told me

а един учен-роботик от Пентагона ми каза,

that I was. He said, "There's no real

че е така, той каза: "Няма реални,

social, ethical, moral issues when it comes

социални, етични, морални проблеми, когато става дума

to robots.

за роботи.

That is," he added, "unless the machine

Тоест," добави той, "освен ако машината

kills the wrong people repeatedly.

убива многократно погрешните хора.

Then it's just a product recall issue."

Тогава това е просто проблем за отзоваване на продукта."

And so the ending point for this is

И така, крайната точка за това е,

that actually, we can turn to Hollywood.

че всъщност можем да се обърнем към Холивуд.

A few years ago, Hollywood gathered

Преди няколко години Холивуд събра

all the top characters and created

всички най-добри образи и създаде

a list of the top 100 heroes and

списък на най-великите 100 герои

top 100 villains of all of Hollywood history,

и най-великите 100 злодеи в цялата холивудска история,

the characters that represented the best

героите, които са представяли най-доброто

and worst of humanity.

и най-лошото от човечеството.

Only one character made it onto both lists:

Само един герой е влязъл и в двата списъка --

The Terminator, a robot killing machine.

Терминатор, робот -- машина за убийства.

And so that points to the fact that

Това сочи към факта, че

our machines can be used

нашите машини могат да се използват

for both good and evil, but for me

както за добро, така и за зло, но за мен

it points to the fact that there's a duality

то сочи към факта, че има дуалност

of humans as well.

също и при хората.

This week is a celebration

Тази седмица е честване

of our creativity. Our creativity

на нашата креативност. Нашата креативност

has taken our species to the stars.

е отвела нашия вид до звездите.

Our creativity has created works of arts

Нашата креативност е създала творби на изкуствата

and literature to express our love.

и литературата, които да изразяват любовта ни.

And now, we're using our creativity

А сега използваме креативността си

in a certain direction, to build fantastic

в определена насока за изграждане на фантастични

machines with incredible capabilities,

машини с невероятни способности,

maybe even one day

може би някой ден

an entirely new species.

дори един изцяло нов вид.

But one of the main reasons that we're

Но една от основните причини да го правим

doing that is because of our drive

е заради подтика ни

to destroy each other, and so the question

да се унищожаваме взаимно, затова въпросът,

we all should ask:

който трябва да си задаваме всички,

is it our machines, or is it us

е дали нашите машини, или ние

that's wired for war?

сме настроени за война?

Thank you. (Applause)

Благодаря. (Аплодисменти)