Military robots and the future of war | P.W. Singer

Перекладач: Oleksiy Lohvinov Утверджено: Khrystyna Romashko

I thought I'd begin with a scene of war.

Я почну з військового епізоду.

There was little to warn of the danger ahead.

Нічого не віщувало небезпеки.

The Iraqi insurgent had placed the IED,

Іракський повстанець обережно встановив

an Improvised Explosive Device,

саморобний вибуховий пристрій

along the side of the road with great care.

на узбіччі дороги.

By 2006, there were more than 2,500

Станом на 2006 рік щомісяця відбувалося

of these attacks every single month,

більш, ніж 2500 таких нападів,

and they were the leading cause of

і вони були головною причиною

casualties among American soldiers

загибелі американських солдатів

and Iraqi civilians.

та іракських цивільних.

The team that was hunting for this IED

Група, яка полювала на такі фугаси,

is called an EOD team—

називається групою розмінування.

Explosives Ordinance Disposal—and

Вони є ключовою силою

they're the pointy end of the spear in the

в американській боротьбі

American effort to suppress these roadside bombs.

з такими фугасами на дорогах.

Each EOD team goes out on about

Кожна група виїжджає щороку приблизно

600 of these bomb calls every year,

на 600 викликів щодо таких фугасів,

defusing about two bombs a day.

знешкоджуючи приблизно 2 фугаси на день.

Perhaps the best sign of how valuable they

Певно, найкращим свідченням їх цінності

are to the war effort, is that

у військовому протистоянні є те,

the Iraqi insurgents put a $50,000 bounty

що іракські повстанці призначили винагороду

on the head of a single EOD soldier.

50 000 доларів за одного солдата групи розмінування.

Unfortunately, this particular call

На жаль, цей конкретний виїзд

would not end well.

завершився погано.

By the time the soldier advanced close

Коли солдат підійшов досить близько,

enough to see the telltale wires

щоб роздивитися сигнальні дроти фугасу,

of the bomb, it exploded in a wave of flame.

він вибухнув полум’ям.

Now, depending how close you are

Залежно від того, наскільки ви близько,

and how much explosive has been packed

і скільки вибухівки було закладено до фугасу,

into that bomb, it can cause death

він може вбити або поранити.

or injury. You have to be as far as

Ви повинні знаходитись принаймні

50 yards away to escape that.

за 45 метрів, щоб уникнути цього.

Вибух настільки потужний, що може зламати кінцівки,

The blast is so strong it can even break

your limbs, even if you're not hit.

навіть, якщо вас не зачепили осколки.

That soldier had been on top of the bomb.

Цей солдат знаходився над фугасом.

And so when the rest of the team advanced

Тож коли підійшла решта групи,

вони майже нічого не знайшли. І того вечора

they found little left. And that night the unit's

командиру групи довелося виконати сумний обов’язок,

commander did a sad duty, and he wrote

a condolence letter back to the United

і він написав листа співчуття до США.

States, and he talked about how hard the

Він писав про те, яка це була важка втрата

loss had been on his unit, about the fact

для його підрозділу, і про те,

that they had lost their bravest soldier,

що вони втратили найхоробрішого солдата,

a soldier who had saved their lives

солдата, який неодноразово

many a time.

рятував їхні життя.

And he apologized

І він вибачився

for not being able to bring them home.

за те, що не міг повернути його додому.

But then he talked up the silver lining

Але потім він написав

that he took away from the loss.

про позитивний бік цієї втрати.

"At least," as he wrote, "when a robot dies,

"Принаймні", - писав він, - "коли помирає

you don't have to write a letter

робот, вам не треба писати листа

to its mother."

його матері".

That scene sounds like science fiction,

Цей епізод виглядає, ніби наукова фантастика,

but is battlefield reality already.

але це вже реальність війни.

The soldier in that case

Солдатом у цьому випадку

was a 42-pound robot called a PackBot.

був 19-кілограмовий робот, що називається ПекБот.

The chief's letter went, not to some

Командир надіслав листа не родичам

farmhouse in Iowa like you see

в село посеред Айови,

in the old war movies, but went to

як показують у старих фільмах про війну.

the iRobot Company, which is

Він надіслав його в компанію iRobot,

named after the Asimov novel

названу на честь роману Айзека Азімова,

and the not-so-great Will Smith movie,

і не надто доброго фільму з Віллом Смітом,

and... um... (Laughter)...

(Сміх)

if you remember that

Якщо ви пригадуєте,

in that fictional world, robots started out

у тому вигаданому світі

роботи почали з виконання повсякденних завдань,

carrying out mundane chores, and then

they started taking on life-and-death decisions.

а згодом -- ухвалювати життєво важливі рішення.

That's a reality we face today.

Це реальність сьогодення.

What we're going to do is actually just

Ми покажемо фотографії,

flash a series of photos behind me that

які продемонструють вам реальність роботів,

show you the reality of robots used in war

що використовуються на війні вже зараз,

right now or already at the prototype stage.

або на стадії прототипу.

It's just to give you a taste.

Це просто, щоб дати вам уявлення.

Another way of putting it is you're not

Іншими словами -

going to see anything that's powered

тут немає чогось фантастичного,

by Vulcan technology, or teenage

інопланетних технологій,

wizard hormones or anything like that.

казкових чарів або чогось подібного.

This is all real. So why don't we

Це все існує насправді.

Тож давайте почнемо переглядати ці слайди.

go ahead and start those pictures.

Дещо значне відбувається зараз у військовій справі

Something big is going on in war today,

and maybe even the history of humanity

і, може, навіть в історії самого людства.

itself. The U.S. military went into Iraq with

Американські війська, входячи до Іраку,

a handful of drones in the air.

мали жменьку безпілотників у повітрі.

We now have 5,300.

Зараз ми маємо 5300.

We went in with zero unmanned ground

Ми увійшли туди без наземних роботів.

systems. We now have 12,000.

Зараз їх 12 000.

And the tech term "killer application"

І технічний термін "пристрій для знищення"

takes on new meaning in this space.

набуває нового значення в цих умовах.

And we need to remember that we're

І варто пам’ятати, що усе це -

talking about the Model T Fords,

всього лише Форд моделі "Т"

the Wright Flyers, compared

чи літаки братів Райт

to what's coming soon.

порівняно з тим, що з’явиться незабаром.

That's where we're at right now.

Ось на якому етапі ми зараз.

One of the people that I recently met with

Нещодавно я спілкувався

was an Air Force three-star general, and he

з генерал-лейтенантом ВПС і він сказав,

said basically, where we're headed very

що в найближчому майбутньому

soon is tens of thousands of robots

десятки тисяч роботів

operating in our conflicts, and these

працюватимуть у зонах конфліктів,

numbers matter, because we're not just

і ці цифри мають значення, бо ми говоримо

talking about tens of thousands of today's

не лише про десятки тисяч сьогоднішніх

robots, but tens of thousands of these

роботів, а про десятки тисяч

prototypes and tomorrow's robots, because

тих прототипів і завтрашніх роботів,

of course, one of the things that's operating

бо, звичайно, однією з речей, які впливають на техніку,

in technology is Moore's Law,

є закон Мура, який стверджує,

that you can pack in more and more

що можна вмістити все більше і більше

computing power into those robots, and so

обчислювальної потужності у цих роботах,

flash forward around 25 years,

і, таким чином, через 25 років,

if Moore's Law holds true,

якщо закон Мура все ще працюватиме,

those robots will be close to a billion times

ці роботи матимуть приблизно в мільярд разів більшу

more powerful in their computing than today.

обчислювальну потужність, ніж сьогодні.

And so what that means is the kind of

Це означає, що ті речі, про які ми раніше

things that we used to only talk about at

говорили лише на науково-фантастичних фестивалях,

science fiction conventions like Comic-Con

таких як Комік-Кон,

have to be talked about in the halls

сьогодні повинні обговорюватись

of power and places like the Pentagon.

у коридорах влади і таких місцях як Пентагон.

A robots revolution is upon us.

На нас чекає революція роботів.

Now, I need to be clear here.

Я хочу уточнити -

I'm not talking about a revolution where you

я кажу не про таку революцію, де вам

have to worry about the Governor of

варто хвилюватися, що губернатор Каліфорнії

California showing up at your door,

з’явиться на вашому ґанку

a la the Terminator. (Laughter)

у подобі Термінатора. (Сміх)

When historians look at this period, they're

Коли історики досліджуватимуть цей період,

going to conclude that we're in a different

вони скажуть, що у нас був інший

type of revolution: a revolution in war,

вид революції - революція війни,

like the invention of the atomic bomb.

на зразок винайдення атомної бомби.

But it may be even bigger than that,

Але вона може бути ще масштабнішою,

because our unmanned systems don't just

бо наші безпілотні системи змінюють

affect the "how" of war-fighting,

не лише те, "як" воюють.

they affect the "who" of fighting

Вони змінюють те, "хто" воює,

at its most fundamental level.

і це кардинальні зміни.

That is, every previous revolution in war, be

Тобто, усі попередні революції у способах

it the machine gun, be it the atomic bomb,

ведення війни, від кулемета до атомної бомби,

was about a system that either shot faster,

полягали в удосконаленні системи, яка, або стріляла швидше,

went further, had a bigger boom.

або стріляла далі, або мала більшу уражаючу дію.

That's certainly the case with robotics, but

Це, звичайно, стосується і роботів,

they also change the experience of the warrior

але вони також змінюють те, що означає бути воїном,

and even the very identity of the warrior.

і навіть саму особистіть воїна.

Another way of putting this is that

Інакше кажучи,

5000-літня монополія людства

mankind's 5,000-year-old monopoly

on the fighting of war is breaking down

на ведення війни добігає кінця,

in our very lifetime. I've spent

і ми є свідками цього.

the last several years going around

Я провів останні кілька років, спілкуючись

meeting with all the players in this field,

з різними гравцями цієї сфери,

від фахівців з робототехніки до авторів

from the robot scientists to the science

науково-фантастичних книг, які їх надихають,

fiction authors who inspired them to the

19-year-old drone pilots who are fighting

19-річними пілотами дронів,

from Nevada, to the four-star generals

які воюють з Невади, і генералами,

who command them, to even the Iraqi

які віддають їм накази, і навіть

з іракськими повстанцями, на яких вони полюють,

insurgents who they are targeting and what

they think about our systems, and

щоб дізнатися їх думку про наші системи.

what I found interesting is not just

Ці розповіді цікаві не лише самі по собі,

their stories, but how their experiences

але й тим, як вони ілюструють

point to these ripple effects that are going

ті наслідки, які, мов хвилі по воді,

outwards in our society, in our law

розходяться в нашому суспільстві,

and our ethics, etc. And so what I'd like

торкаючись закону, етики тощо.

to do with my remaining time is basically

Тож залишок часу я хочу присвятити

flesh out a couple of these.

кільком таким змінам.

So the first is that the future of war,

Перша полягає в тому, що майбутнє війни,

even a robotics one, is not going to be

навіть роботизованої, не буде

purely an American one.

винятково американським.

The U.S. is currently ahead in military

США зараз займають чільне місце

robotics right now, but we know that in

у військовій робототехніці, але ми знаємо

technology there's no such thing as

що у техніці неможливо довічно

a permanent first move or advantage.

утримувати першість або перевагу.

In a quick show of hands, how many

Підніміть руки ті з вас,

people in this room still use

у цій залі, хто досі користується

Wang Computers? (Laughter)

комп’ютерами Уонг? (Сміх)

It's the same thing in war. The British and

Те саме відбувається і у військовій справі.

the French invented the tank.

Британці й французи винайшли танк.

The Germans figured out how

Німці зрозуміли, як його

to use it right, and so what we have to

правильно застосовувати, і, отже,

think about for the U.S. is that we are

про що нам, американцям, треба подумати,

ahead right now, but you have

це те, що зараз ми попереду,

43 other countries out there

але є ще 43 інші країни,

working on military robotics, and they

які працюють над військовими роботами,

include all the interesting countries like

і серед них такі цікаві країни як

Russia, China, Pakistan, Iran.

Росія, Китай, Пакистан, Іран.

And this raises a bigger worry for me.

І у мене це викликає велике занепокоєння.

How do we move forward in this revolution

Як ми рухатимемося далі у цій революції,

given the state of our manufacturing

враховуючи стан нашої промисловості,

and the state of our science and

стан нашої науки

mathematics training in our schools?

і викладання математики в наших школах?

Or another way of thinking about this is,

Або, іншими словами, що означає

what does it mean to go to war increasingly

в усе більшій мірі покладатися у війні

with soldiers whose hardware is made

на "солдатів", чия апаратна частина виготовляється в Китаї,

in China and software is written in India?

а програмне забезпечення пишеться в Індії?

But just as software has gone open-source,

Але, подібно до програм з відкритим кодом, стають доступними

so has warfare.

також і військові технології.

Unlike an aircraft carrier or an atomic bomb,

На відміну від авіаносця чи атомної бомби,

you don't need a massive manufacturing

вам не потрібна велика промисловість,

system to build robotics. A lot of it is

щоб створювати роботів. Багато роботів

off the shelf. A lot of it's even do-it-yourself.

можна придбати або зробити самотужки.

One of those things you just saw flashed

Один з пристроїв, які ви щойно побачили,

before you was a raven drone, the handheld

це дрон "Рейвен", який запускається з рук.

tossed one. For about a thousand dollars,

Приблизно за тисячу доларів

you can build one yourself, equivalent to

ви можете самі зробити такий,

what the soldiers use in Iraq.

ідентичний тому, яким користуються солдати в Іраку.

That raises another wrinkle when it comes

Це ще один привід для занепокоєння,

to war and conflict. Good guys might play

якщо подумати про війну і конфлікти. Це може бути

around and work on these as hobby kits,

хобі чи іграшка для хороших хлопців,

but so might bad guys.

але погані хлопці теж мають доступ до цього.

This cross between robotics and things like

Поєднання робототехніки з такими речима

terrorism is going to be fascinating

як тероризм, буде неймовірним

and even disturbing,

і навіть тривожним,

and we've already seen it start.

і ми вже бачимо, як це починається.

During the war between Israel, a state,

Під час війни між Ізраїлем, державою,

and Hezbollah, a non-state actor,

та рухом Хезболла, який не є державою,

the non-state actor flew

Хезболла використовувала

four different drones against Israel.

4 різних види дронів проти Ізраїлю.

There's already a jihadi website

Вже є такий джихадистський веб-сайт,

that you can go on and remotely

де можна дистанційно підірвати

detonate an IED in Iraq while sitting

вибуховий пристрій в Іраку,

at your home computer.

сидячи вдома перед комп’ютером.

And so I think what we're going to see is

Тож, на мою думку, ми будемо спостерігати

two trends take place with this.

дві тенденції у цій сфері.

First is, you're going to reinforce the power

Перша -- зростання сили окремої особи

of individuals against governments,

у протистоянні з державою,

but then the second is that

але друга полягає в тому,

we are going to see an expansion

що ми станемо свідками розширення можливостей

in the realm of terrorism.

у сфері тероризму.

The future of it may be a cross between

Тероризм майбутнього може бути гібридом

al Qaeda 2.0 and the

Аль-каїди 2.0

next generation of the Unabomber.

та наступного покоління терористів-одинаків.

And another way of thinking about this

Погляньмо на це з іншої перспективи:

is the fact that, remember, you don't have

вам не треба

to convince a robot that they're gonna

переконувати робота, що на небесах

receive 72 virgins after they die

після смерті його чекатимуть 72 дівчини,

to convince them to blow themselves up.

щоб переконати його підірвати себе.

But the ripple effects of this are going to go

Але ці зміни позначаться і на політиці.

out into our politics. One of the people that

Одним з людей, з якими я зустрічався,

I met with was a former Assistant Secretary of

був колишній заступник міністра оборони

Defense for Ronald Reagan, and he put it

адміністрації Рональда Рейгана, і він

this way: "I like these systems because

висловся так: "Мені подобаються ці системи,

they save American lives, but I worry about

бо вони рятують життя американців,

more marketization of wars,

але мене хвилює зростаюча реклама війни,

more shock-and-awe talk,

все більше розмов на кшталт "шок" і "жах",

to defray discussion of the costs.

щоб заглушити питання ціни.

People are more likely to support the use

Люди більш схильні підтримувати

of force if they view it as costless."

застосування сили, якщо вважають, що це нічого не коштує".

Robots for me take certain trends

Я вважаю, що роботи вписуються

that are already in play in our body politic,

у вже існуючі тенденції нашої політики,

and maybe take them to

і, можливо, підводять їх

their logical ending point.

до логічного завершення.

We don't have a draft. We don't

У нас немає призову на військову службу,

have declarations of war anymore.

Ми більше не оголошуємо воєн.

We don't buy war bonds anymore.

Ми більше не купуємо військові облігації.

And now we have the fact that we're

Дійсність сьогодення в тому,

converting more and more of our American

що все більше американських солдатів,

soldiers that we would send into harm's

які раніше ризикували б життям,

way into machines, and so we may take

замінюються машинами, тож ми можемо знизити

those already lowering bars to war

вже і так низький рівень смертності

and drop them to the ground.

до нуля.

But the future of war is also going to be

Але війна майбутнього також буде

a YouTube war.

війною на YouTube.

That is, our new technologies don't merely

Тобто наші нові технології не лише

remove humans from risk.

усувають ризик для людей.

They also record everything that they see.

Вони також записують усе, що люди бачать.

So they don't just delink the public:

Тож вони не просто дистанціюють людей від війни:

they reshape its relationship with war.

вони надають іншої форми стосункам з війною.

There's already several thousand

Зараз вже є кілька тисяч

video clips of combat footage from Iraq

відеозаписів боїв з Іраку,

on YouTube right now,

які доступні на YouTube.

most of it gathered by drones.

Більшість з них записані дронами.

Now, this could be a good thing.

Можливо, це і добре.

It could be building connections between

Може, це зміцнює зв’язки

the home front and the war front

між тилом і фронтом

as never before.

так, як ніколи доти.

But remember, this is taking place

Але, пам’ятайте, це відбувається

in our strange, weird world, and so

у нашому дивному, чудернацькому світі і, таким чином,

inevitably the ability to download these

можливість завантажувати ці відеоролики,

video clips to, you know, your iPod

скажімо, на ваш смартфон чи планшет,

or your Zune gives you

неминуче дає вам можливість

the ability to turn it into entertainment.

перетворити це на розвагу.

Soldiers have a name for these clips.

У солдатів є назва для цих відеороликів.

They call it war porn.

Вони називають їх військовим порно.

The typical one that I was sent was

Типовий приклад такого ролика, який

an email that had an attachment of

мені надіслали електронною поштою,

video of a Predator strike taking out

це відео, на якому Предатор знищує

an enemy site. Missile hits,

вороже укріплення. Ракета влучає в ціль,

bodies burst into the air with the explosion.

тіла розлітаються у повітрі разом з вибухом.

It was set to music.

Усе це супроводжується музикою.

It was set to the pop song

Це супроводжується піснею

"I Just Want To Fly" by Sugar Ray.

"Я просто хочу літати" гурту "Sugar Ray".

This ability to watch more

Ця можливість дивитися більше,

but experience less creates a wrinkle

але на власній шкурі переживати менше, негативно позначається

in the public's relationship with war.

на стосунках суспільства з війною.

I think about this with a sports parallel.

Це можна порівняти зі спортом.

It's like the difference between

Це як різниця між тим,

watching an NBA game, a professional

щоб дивитися гру НБА, професійну

basketball game on TV, where the athletes

баскетбольну гру по телевізору, де спортсмени виглядають

are tiny figures on the screen, and

крихітними фігурками на екрані,

being at that basketball game in person

і тим, щоб самому опинитися на баскетбольному майданчику

and realizing what someone seven feet

і усвідомити, як двометровий гравець

really does look like.

виглядає насправді.

But we have to remember,

Але нам варто пам’ятати -

these are just the clips.

це просто відеоролики.

These are just the ESPN SportsCenter

Це лише гарна картинка, як у телепрограмі.

version of the game. They lose the context.

Там втрачається контекст.

They lose the strategy.

Там втрачається стратегія.

They lose the humanity. War just

Там втрачається гуманність.

becomes slam dunks and smart bombs.

Війна просто перетворюється на яскраве шоу про розумні бомби.

Now the irony of all this is that

Та іронія всього цього в тому, що

while the future of war may involve

хоча майбутнє війни передбачає участь

more and more machines,

все більшої кількості машин,

it's our human psychology that's driving

але саме наша людська психологія є рушієм

all of this, it's our human failings

всього цього, саме наші людські помилки

that are leading to these wars.

призводять до цих воєн.

So one example of this that has

Тож одним з прикладів,

big resonance in the policy realm is

який має великий резонанс у політиці,

how this plays out on our very real

є те, як це відбувається у справжній

war of ideas that we're fighting

війні ідей, яку ми ведемо

against radical groups.

проти радикальних угрупувань.

What is the message that we think we are

Яку ідею, на нашу думку, ми надсилаємо

sending with these machines versus what

разом з цими машинами, і як насправді

is being received in terms of the message.

сприймаються наші послання їх адресатами?

So one of the people that I met was

Одним з тих, з ким я зустрічався,

a senior Bush Administration official,

був високопосадовець адміністрації Буша,

who had this to say about

який сказав такі слова

our unmanning of war:

про наше знеособлення війни:

"It plays to our strength. The thing that

"Це нас зміцнює. Саме наші технології

scares people is our technology."

лякають людей".

But when you go out and meet with people,

Але якщо ви поспілкуєтесь з людьми

for example in Lebanon, it's a very

на місці подій, наприклад, у Лівані,

different story. One of the people

то почуєте дещо зовсім інше. Я спілкувався

I met with there was a news editor, and

з одним тамтешнім журналістом і над нами

we're talking as a drone is flying above him,

пролетів дрон, якраз під час розмови,

and this is what he had to say.

і ось що він сказав з цього приводу:

"This is just another sign of the coldhearted

"Це ще одна ознака безсердечних

cruel Israelis and Americans,

жорстоких ізраїльтян та американців.

who are cowards because

Вони - боягузи, тому що

they send out machines to fight us.

надсилають машини воювати проти нас.

They don't want to fight us like real men,

Вони не хочуть битися з нами як справжні

but they're afraid to fight,

чоловіки, вони бояться битися,

so we just have to kill a few of their soldiers

тож нам достатньо буде вбити кількох

to defeat them."

їхніх солдатів, щоб перемогти їх".

The future of war also is featuring

Майбутнє війни також характеризується

a new type of warrior,

новим типом воїна,

and it's actually redefining the experience

і, фактично, змінює те, що

of going to war.

для нього означає воювати.

You can call this a cubicle warrior.

Його можна назвати офісним воїном.

This is what one Predator drone pilot

Саме так висловився один пілот Предатора,

described of his experience fighting

описуючи свою участь у війні в Іраку,

in the Iraq War while never leaving Nevada.

під час якої він жодного разу не залишав меж Невади.

"You're going to war for 12 hours,

"Ви йдете на війну на 12 годин,

shooting weapons at targets,

стріляєте по цілях,

directing kills on enemy combatants,

наводите ракети на ворожих солдатів,

and then you get in the car

а потім - сідаєте у машину,

and you drive home and within 20 minutes,

їдете додому, і через 20 хвилин

you're sitting at the dinner table

сидите за обіднім столом,

обговорюючи з дітьми їх домашнє завдання".

talking to your kids about their homework."

Now, the psychological balancing

Утримувати психологічну рівновагу

of those experiences is incredibly tough,

між цими ролями надзвичайно складно,

and in fact those drone pilots have

і, насправді, ці пілоти дронів більш схильні

higher rates of PTSD than many

до посттравматичних стресових розладів

of the units physically in Iraq.

ніж бійці, які фізично перебувають в Іраку.

But some have worries that this

Але дехто висловлює побоювання,

disconnection will lead to something else,

що дистанціювання матиме й інші наслідки,

that it might make the contemplation of war

що зважитись на військові злочини

crimes a lot easier when you have

буде значно легше внаслідок такого

this distance. "It's like a video game,"

дистанціювання. "Це ніби відеогра", -

is what one young pilot described to me

так один молодий пілот описував мені

of taking out enemy troops from afar.

знищення супротивника на відстані.

As anyone who's played Grand Theft Auto

Будь-хто, хто грав у Grand Theft Auto,

knows, we do things in the video world

знає, що у віртуальному світі ми робимо такі речі,

that we wouldn't do face to face.

які ніколи б не зробили у реальному світі.

So much of what you're hearing from me

Загалом, я хочу сказати,

is that there's another side

що є й інший бік

to technologic revolutions,

технологічних революцій

and that it's shaping our present

і він змінює наше теперішнє

and maybe will shape our future of war.

і, можливо, змінюватиме наше майбутнє війни.

Moore's Law is operative,

Закон Мура продовжує бути чинним,

but so's Murphy's Law.

але так само чинний і закон бутерброда.

The fog of war isn't being lifted.

Туман війни не розсіявся.

The enemy has a vote.

Ворог теж має право вибору.

We're gaining incredible new capabilities,

У нас з’являються нові неймовірні можливості,

but we're also seeing and experiencing

але перед нами також постають

new human dilemmas. Now,

нові людські дилеми.

sometimes these are just "oops" moments,

Інколи це просто прикрі несподіванки,

which is what the head of a robotics

"ой, халепа", як їх називає керівник

company described it, you just have

однієї робототехнічної компанії:

"oops" moments. Well, what are

"Ой! Халепа!". То як виглядають

"oops" moments with robots in war?

ці "халепи" з роботами на війні?

Well, sometimes they're funny. Sometimes,

Інколи вони смішні. Інколи вони подібні

they're like that scene from the

до тієї сцени з фільму

Eddie Murphy movie "Best Defense,"

"Найкращий захист" з Едді Мерфі,

playing out in reality, where they tested out

тільки в реальному житті, де вони

a machine gun-armed robot, and during

випробовували робота з кулеметом

the demonstration it started spinning

і під час демонстрації він почав крутитися

in a circle and pointed its machine gun

по колу, спрямовуючи свій кулемет

at the reviewing stand of VIPs.

на трибуну VIP-персон.

Fortunately the weapon wasn't loaded

На щастя, зброя не була заряджена

and no one was hurt, but other times

і ніхто не постраждав, але інколи

"oops" moments are tragic,

"халепи" мають трагічні наслідки,

such as last year in South Africa, where

такі як минулого року в Південній Африці,

an anti-aircraft cannon had a

де в протиповітряній гарматі

"software glitch," and actually did turn on

стався "збій програми", вона увімкнулася

and fired, and nine soldiers were killed.

почала стріляти і вбила 9 солдатів.

We have new wrinkles in the laws of war

Ми маємо нові спірні моменти у законах війни

and accountability. What do we do

і відповідальності. Що нам робити

with things like unmanned slaughter?

із вбивствами, скоєними машинами?

What is unmanned slaughter?

Що таке вбивство, скоєне машиною?

We've already had three instances of

У нас вже було три випадки

Predator drone strikes where we thought

ударів безпілотника, де ми думали,

we got bin Laden, and it turned out

що поцілили бен Ладена, а виявлялося,

not to be the case.

що то була помилка.

And this is where we're at right now.

Ось такі реалії сьогодення.

This is not even talking about armed,

Тут навіть не йдеться

autonomous systems

про автономні системи озброєння, які самостійно

with full authority to use force.

вирішують, коли відкривати вогонь.

And do not believe that that isn't coming.

І не сподівайтесь, що такого не буде.

During my research I came across

У своїх дослідженнях я натрапив

four different Pentagon projects

на 4 різних проекти Пентагону,

on different aspects of that.

по 4 різних аспектах цього питання.

And so you have this question:

Отже, постає питання:

what does this lead to issues like

як це впливає на такі проблеми

war crimes? Robots are emotionless, so

як військові злочини? Робот не має емоцій,

they don't get upset if their buddy is killed.

тож він не журиться, коли вбивають його побратима.

They don't commit crimes of rage

Він не скоїть злочин від нападу люті

and revenge.

або з помсти.

But robots are emotionless.

Але робот не має емоцій.

They see an 80-year-old grandmother

Він бачить 80-річну бабусю

in a wheelchair the same way they see

у візочку так само, як він бачить

a T-80 tank: they're both

танк Т-80: вони обоє для нього

just a series of zeroes and ones.

лише послідовність нулів та одиниць.

And so we have this question to figure out:

Перед нами постає питання -

How do we catch up our 20th century

як закони війни 20-го століття,

laws of war, that are so old right now

що застаріли вже настільки,

that they could qualify for Medicare,

що їх можна вважати антикваріатом,

to these 21st century technologies?

привести у відповідність до технологій 21-го століття?

And so, in conclusion, I've talked about

І на завершення хочу зазначити:

what seems the future of war,

я говорив нібито про майбутнє війни,

but notice that I've only used

але зауважте, що я приводив лише приклади

real world examples and you've only seen

з сьогодення, і ви бачили лише

real world pictures and videos.

справжні фотографії та відео.

And so this sets a great challenge for

Це величезний виклик для усіх нас,

all of us that we have to worry about well

на який ми мусимо відповідати вже зараз,

before you have to worry about your

а вже потім хвилюватися, що ваш

Roomba sucking the life away from you.

робот-пилосмок висмокче з вас життя.

Are we going to let the fact that what's

Чи можемо ми і далі заперечувати

unveiling itself right now in war

те, що бачимо просто зараз на власні очі

sounds like science fiction and therefore

у військовій сфері, лише тому, що це

keeps us in denial?

виглядає як наукова фантастика?

Are we going to face the reality

Чи здатні ми визнати реалії

of 21st century war?

війни 21-го століття?

Is our generation going to make the same

Невже наше покоління зробить ту саму

mistake that a past generation did

помилку, яку зробило минуле покоління

with atomic weaponry, and not deal with

з ядерною зброєю

the issues that surround it until

і ігноруватиме проблеми доти,

Pandora's box is already opened up?

доки не відкриється скриня Пандори?

Now, I could be wrong on this, and

Можливо, я помиляюсь щодо цього,

one Pentagon robot scientist told me

і один спеціаліст по роботах з Пентагону

that I was. He said, "There's no real

так мені й сказав. Він сказав: "Немає

social, ethical, moral issues when it comes

жодних реальних соціальних, етичних

to robots.

або моральних проблем, пов’язаних з роботами.

That is," he added, "unless the machine

Отже, - додав він - якщо машина

kills the wrong people repeatedly.

вбиває не тих людей багаторазово,

Then it's just a product recall issue."

то це лише проблема бракованих виробів".

And so the ending point for this is

І, на завершення,

that actually, we can turn to Hollywood.

звернімося до Голлівуду.

A few years ago, Hollywood gathered

Кілька років тому в Голлівуді склали

all the top characters and created

перелік усіх головних персонажів і створили рейтинг

a list of the top 100 heroes and

100 найбільших героїв

top 100 villains of all of Hollywood history,

і 100 найбільших лиходіїв в історії Голлівуду -

the characters that represented the best

персонажів, які втілювали усе найкраще

and worst of humanity.

і найгірше, що є в людстві.

Only one character made it onto both lists:

Лише один персонаж потрапив до обох списків -

The Terminator, a robot killing machine.

Термінатор, робот-убивця.

And so that points to the fact that

Отже, це вказує на той факт,

our machines can be used

що наші машини можуть використовуватись

for both good and evil, but for me

як з добрими, так і з лихими намірами,

it points to the fact that there's a duality

але для мене це також свідчить

of humans as well.

про двоїстість людини.

This week is a celebration

Цей тиждень - свято нашої винахідливості.

of our creativity. Our creativity

Винахідливість дозволила нашому видові

has taken our species to the stars.

полетіти до зірок.

Our creativity has created works of arts

Винахідливість дозволяє нам через

and literature to express our love.

витвори мистецтва, через літературу виражати нашу любов.

And now, we're using our creativity

Сьогодні ми використовуємо винахідливість,

in a certain direction, to build fantastic

щоб створювати фантастичні машини

machines with incredible capabilities,

з неймовірними можливостями,

maybe even one day

які, можливо, одного дня

an entirely new species.

стануть цілком новим видом.

But one of the main reasons that we're

Але одним з головних рушіїв

doing that is because of our drive

цієї діяльності є наше бажання

to destroy each other, and so the question

знищувати одне одного, і, отже, усі ми

we all should ask:

повинні запитати себе:

is it our machines, or is it us

"Це наші машини, чи ми самі

that's wired for war?

запрограмовані на війну?"

Thank you. (Applause)

Дякую. (Оплески)