Military robots and the future of war | P.W. Singer

П.В. Сингер: Военные роботы и будущее войны

Переводчик: Oleksandr Vasyliev Редактор: Olga Tabunshikova

Давайте начнём с эпизода военных действий.

I thought I'd begin with a scene of war.

There was little to warn of the danger ahead.

Ничего не предвещало опасности.

The Iraqi insurgent had placed the IED,

Иракский повстанец аккуратно разместил

an Improvised Explosive Device,

самодельное взрывное устройство на обочине.

along the side of the road with great care.

By 2006, there were more than 2,500

К 2006 году каждый месяц совершалось

более 2 500 таких нападений,

of these attacks every single month,

and they were the leading cause of

и они были основной причиной

casualties among American soldiers

потерь среди американских солдат

и мирных жителей Ирака.

and Iraqi civilians.

Поиском и обезвреживанием фугасов

The team that was hunting for this IED

занималось подразделение

is called an EOD team—

по обезвреживанию взрывчатых боеприпасов.

Explosives Ordinance Disposal—and

Оно находится на первом месте по борьбе

they're the pointy end of the spear in the

с подобными бомбами на дорогах.

American effort to suppress these roadside bombs.

Ежегодно такое подразделение

Each EOD team goes out on about

выезжает примерно на 600 вызовов,

600 of these bomb calls every year,

defusing about two bombs a day.

обезвреживая в среднем 2 мины в день.

Пожалуй, лучшим знаком их достижений в войне

Perhaps the best sign of how valuable they

are to the war effort, is that

является то, что иракские повстанцы назначили награду в 50 000 долларов

the Iraqi insurgents put a $50,000 bounty

on the head of a single EOD soldier.

за голову любого сапёра.

Unfortunately, this particular call

К сожалению, данное задание закончилось печально.

would not end well.

Когда солдат был достаточно близко,

By the time the soldier advanced close

enough to see the telltale wires

чтобы увидеть идущие к бомбе провода,

of the bomb, it exploded in a wave of flame.

бомба исчезла в клубке огня.

В зависимости от расстояния до заряда

Now, depending how close you are

and how much explosive has been packed

into that bomb, it can cause death

и количества взрывчатки в нём

взрыв может убить или покалечить.

or injury. You have to be as far as

50 yards away to escape that.

Шансы уцелеть есть,

если расстояние более 50 метров.

The blast is so strong it can even break

Взрыв такой силы может переломать конечности,

your limbs, even if you're not hit.

даже если осколки ушли мимо.

That soldier had been on top of the bomb.

Наш солдат был прямо над бомбой.

And so when the rest of the team advanced

Когда товарищи подбежали,

they found little left. And that night the unit's

они почти ничего не нашли.

Вечером командир подразделения выполнял печальный долг:

commander did a sad duty, and he wrote

a condolence letter back to the United

он писал письмо с соболезнованиями в США.

States, and he talked about how hard the

В нём говорилось, что это была тяжёлая

loss had been on his unit, about the fact

потеря для подразделения,

что они потеряли самого храброго из храбрых,

that they had lost their bravest soldier,

a soldier who had saved their lives

солдат неоднократно спасал жизнь другим.

many a time.

And he apologized

Командир просил прощения за то,

for not being able to bring them home.

что не смог вернуть его домой живым.

But then he talked up the silver lining

Но потом он упомянул светлую сторону

этой трагедии.

that he took away from the loss.

«По крайней мере, когда гибнет робот,

"At least," as he wrote, "when a robot dies,

you don't have to write a letter

вам не надо писать письмо

его матери».

to its mother."

Звучит как научная фантастика,

That scene sounds like science fiction,

but is battlefield reality already.

но это уже реальность поля боя.

The soldier in that case

В этом случае солдатом был

was a 42-pound robot called a PackBot.

двадцатикилограммовый робот «ПэкБот».

The chief's letter went, not to some

Письмо командира отправилось

farmhouse in Iowa like you see

in the old war movies, but went to

не на ферму где-то в Айове,

как в старых фильмах о войне,

а в фирму iRobot Company,

the iRobot Company, which is

named after the Asimov novel

названную в честь романа Азимова

and the not-so-great Will Smith movie,

и не очень удачного фильма с Уиллом Смитом,

and... um... (Laughter)...

и… хм… (Смех)

if you remember that

Возможно, вы помните,

in that fictional world, robots started out

что в этом выдуманном мире

роботы сначала выполняли рутинную работу,

carrying out mundane chores, and then

и лишь потом приняли на себя решение вопросов жизни и смерти.

they started taking on life-and-death decisions.

That's a reality we face today.

Именно это происходит сегодня.

Сейчас на экране за моей спиной

What we're going to do is actually just

flash a series of photos behind me that

пройдёт серия фотографий роботов,

show you the reality of robots used in war

уже используемых в военных действиях

right now or already at the prototype stage.

или находящихся на стадии прототипов,

It's just to give you a taste.

чтобы вы почувствовали происходящее.

Сформулируем это так:

Another way of putting it is you're not

вы не увидите ничего такого,

going to see anything that's powered

что основано на инопланетных технологиях

by Vulcan technology, or teenage

или магических заклинаниях Гарри Поттера.

wizard hormones or anything like that.

Это обыденная реальность.

This is all real. So why don't we

Давайте взглянем на эти изображения.

go ahead and start those pictures.

В ведении боевых действий, как и в

Something big is going on in war today,

and maybe even the history of humanity

жизни человечества в целом, идут огромные перемены.

itself. The U.S. military went into Iraq with

Американская армия вошла в Ирак

a handful of drones in the air.

с дюжиной беспилотников в воздухе.

We now have 5,300.

Сейчас их 5 300.

We went in with zero unmanned ground

Наземных беспилотных систем не было ни одной.

systems. We now have 12,000.

Сейчас их 12 000.

And the tech term "killer application"

Технический термин «убийственная программа»

takes on new meaning in this space.

приобретает специфический смысл.

And we need to remember that we're

Не забывайте: то, что мы имеем сейчас, —

talking about the Model T Fords,

это уровень автомобилей Генри Форда

the Wright Flyers, compared

и самолётов братьев Райт

to what's coming soon.

по сравнению с тем, что будет завтра.

Такова обстановка на сегодня.

That's where we're at right now.

Недавно я встречался

One of the people that I recently met with

с генерал-лейтенантом американских ВВС.

was an Air Force three-star general, and he

По его словам, в ближайшем будущем

said basically, where we're headed very

в конфликтах будут задействованы

soon is tens of thousands of robots

десятки тысяч роботов.

operating in our conflicts, and these

Эти цифры важны ещё и потому,

numbers matter, because we're not just

что речь идёт о десятках тысяч

talking about tens of thousands of today's

robots, but tens of thousands of these

prototypes and tomorrow's robots, because

не нынешних роботов, а устройств завтрашнего дня,

of course, one of the things that's operating

которые ещё только создаются.

Один из законов, действующих в технике, —

in technology is Moore's Law,

это закон Мура.

that you can pack in more and more

С каждым годом в робота можно поместить

computing power into those robots, and so

всё больше вычислительной мощности.

flash forward around 25 years,

Представьте, что будет через 25 лет.

if Moore's Law holds true,

Если закон Мура не потеряет силу,

вычислительная мощность роботов будущего

those robots will be close to a billion times

будет в миллиард раз больше сегодняшней.

more powerful in their computing than today.

Это означает, что те вещи, о которых

And so what that means is the kind of

things that we used to only talk about at

мы привыкли говорить на конференциях

по научной фантастике типа Комик-Кон

science fiction conventions like Comic-Con

have to be talked about in the halls

уже должны обсуждаться

в коридорах власти вроде Пентагона.

of power and places like the Pentagon.

A robots revolution is upon us.

Революция роботов уже начинается.

Хочу немного уточнить.

Now, I need to be clear here.

Я не имею в виду революцию,

I'm not talking about a revolution where you

have to worry about the Governor of

при которой в вашу дверь постучится

губернатор Калифорнии

California showing up at your door,

в обличье Терминатора. (Смех)

a la the Terminator. (Laughter)

Изучая этот период, историки скажут,

When historians look at this period, they're

что это была революция другого типа:

going to conclude that we're in a different

революция в военных действиях

type of revolution: a revolution in war,

типа изобретения атомной бомбы.

like the invention of the atomic bomb.

Но масштаб изменений сегодня гораздо больше.

But it may be even bigger than that,

Беспилотные системы меняют не только то,

because our unmanned systems don't just

как ведутся войны,

affect the "how" of war-fighting,

но и то, кто воюет.

they affect the "who" of fighting

at its most fundamental level.

That is, every previous revolution in war, be

Любая предыдущая революция в ведении военных действий —

it the machine gun, be it the atomic bomb,

пулемёт, атомная бомба и т.п. —

was about a system that either shot faster,

заключалась в задаче стрелять дальше,

went further, had a bigger boom.

стрелять быстрее, либо стрелять громче.

That's certainly the case with robotics, but

Это справедливо и для роботизации войны,

they also change the experience of the warrior

но она также меняет ощущения войны

and even the very identity of the warrior.

и даже саму личность воина.

Another way of putting this is that

Можно сказать,

что 5 000 лет монополии человечества на ведение войны

mankind's 5,000-year-old monopoly

on the fighting of war is breaking down

заканчиваются на наших глазах.

in our very lifetime. I've spent

Последние несколько лет я провёл,

the last several years going around

встречаясь с людьми,

meeting with all the players in this field,

from the robot scientists to the science

для которых это не просто слова:

специалистами по робототехнике,

fiction authors who inspired them to the

писателями фантастических книг, вдохновлявших их,

19-летними пилотами беспилотников,

19-year-old drone pilots who are fighting

from Nevada, to the four-star generals

воюющими из Невады по всему миру,

4-звёздными генералами, командующими ими,

who command them, to even the Iraqi

и даже их целями — иракскими повстанцами.

insurgents who they are targeting and what

Всё для того, чтобы понять, что они думают об этих системах.

they think about our systems, and

Их рассказы ценны не только сами по себе,

what I found interesting is not just

their stories, but how their experiences

но и как свидетельство тех изменений,

point to these ripple effects that are going

что как круги по воде расходятся

outwards in our society, in our law

по всему нашему обществу,

and our ethics, etc. And so what I'd like

задевая закон, этику и прочее.

to do with my remaining time is basically

В оставшееся время я как раз хотел

затронуть пару таких изменений.

flesh out a couple of these.

Прежде всего, будущее войны,

So the first is that the future of war,

even a robotics one, is not going to be

даже роботизированной,

purely an American one.

не принадлежит только Америке.

The U.S. is currently ahead in military

На сегодняшний день США впереди

robotics right now, but we know that in

в военной робототехнике, но все мы знаем,

technology there's no such thing as

что в технологии не может быть

a permanent first move or advantage.

вечного опережения или преимущества.

In a quick show of hands, how many

Поднимите руки, если кто-то из вас

people in this room still use

Wang Computers? (Laughter)

всё ещё использует

специализированные компьютеры Уонга? (Смех)

It's the same thing in war. The British and

В войне то же самое.

the French invented the tank.

Англичане и французы изобрели танк.

The Germans figured out how

Немцы нашли ему применение.

to use it right, and so what we have to

Мы здесь, в США, должны думать о том,

think about for the U.S. is that we are

ahead right now, but you have

что на данный момент мы впереди всех,

но кроме нас в мире

43 other countries out there

есть 43 других государства,

working on military robotics, and they

работающих над военными разработками,

и среди них такие примечательные

include all the interesting countries like

как Россия, Китай, Пакистан, Иран.

Russia, China, Pakistan, Iran.

И здесь мы переходим к другой проблеме.

And this raises a bigger worry for me.

Как мы сможем продвигаться в этой области

How do we move forward in this revolution

given the state of our manufacturing

при нашем нынешнем уровне производства,

and the state of our science and

уровне преподавания естественных наук

mathematics training in our schools?

и математики в наших школах?

Or another way of thinking about this is,

Другими словами,

what does it mean to go to war increasingly

как мы можем вести войну с «солдатами»,

with soldiers whose hardware is made

для которых «железо» делается в Китае,

in China and software is written in India?

а программы пишутся в Индии?

Подобно программам с открытым кодом,

But just as software has gone open-source,

so has warfare.

оружие стало общедоступным.

В отличие от авианосца или атомной бомбы,

Unlike an aircraft carrier or an atomic bomb,

для создания робототехники не нужны производственные цеха.

you don't need a massive manufacturing

system to build robotics. A lot of it is

Многое можно купить уже готовым.

off the shelf. A lot of it's even do-it-yourself.

Многое можно даже сделать самому.

На одном из кадров вы видели

One of those things you just saw flashed

before you was a raven drone, the handheld

беспилотник, запускавшийся толчком руки.

tossed one. For about a thousand dollars,

Примерно за 1 000 долларов вы можете

сделать своими руками аналог того,

you can build one yourself, equivalent to

что наши солдаты используют в Ираке.

what the soldiers use in Iraq.

Это создаёт ещё одну проблему

That raises another wrinkle when it comes

в войнах и конфликтах.

to war and conflict. Good guys might play

Хорошие парни могут сделать такие игрушки своим хобби.

around and work on these as hobby kits,

but so might bad guys.

Но это же могут делать и злодеи.

This cross between robotics and things like

Сочетание робототехники и терроризма

terrorism is going to be fascinating

будет невероятным,

and even disturbing,

очень тревожным,

и процесс этот уже начался.

and we've already seen it start.

Во время войны между Израилем, государством,

During the war between Israel, a state,

and Hezbollah, a non-state actor,

и движением «Хезболла», не имеющим государства,

the non-state actor flew

последнее использовало против Израиля

4 беспилотника.

four different drones against Israel.

Уже существует веб-сайт джихада,

There's already a jihadi website

that you can go on and remotely

с которого вы можете

detonate an IED in Iraq while sitting

удалённо подорвать фугас в Ираке,

at your home computer.

сидя дома перед компьютером.

And so I think what we're going to see is

Думаю, в будущем мы увидим

two trends take place with this.

развитие действий по двум линиям.

First is, you're going to reinforce the power

Во-первых, возрастёт сила личности

of individuals against governments,

в противостоянии государству,

во-вторых,

but then the second is that

мы увидим расширение

we are going to see an expansion

in the realm of terrorism.

возможностей терроризма.

Его будущее будет в симбиозе

The future of it may be a cross between

al Qaeda 2.0 and the

«Аль-Каиды» нового уровня

next generation of the Unabomber.

и следующего поколения террористов-одиночек.

And another way of thinking about this

Подумайте вот о чём:

is the fact that, remember, you don't have

не забывайте, вам не нужно

to convince a robot that they're gonna

убеждать робота, что после смерти

receive 72 virgins after they die

на небесах его будут ждать 72 девственницы,

to convince them to blow themselves up.

чтобы уговорить его взорвать себя.

Всё это скажется и на нашей политике.

But the ripple effects of this are going to go

out into our politics. One of the people that

Одним из тех, с кем я встречался,

I met with was a former Assistant Secretary of

был бывший помощник министра обороны у Рейгана,

Defense for Ronald Reagan, and he put it

и он высказался так:

this way: "I like these systems because

«Мне нравятся эти системы,

they save American lives, but I worry about

more marketization of wars,

потому что они спасают жизни американцев,

но меня беспокоит усиление рекламы войны,

more shock-and-awe talk,

разговоры в духе «шок и ужас»,

to defray discussion of the costs.

заглушающие обсуждение цены.

People are more likely to support the use

Людям легче одобрить использование силы,

of force if they view it as costless."

когда им кажется, что это ничего не стоит».

Robots for me take certain trends

Те тенденции,

that are already in play in our body politic,

которые уже существуют в нашей политике,

and maybe take them to

роботы просто доводят

their logical ending point.

до логического завершения.

We don't have a draft. We don't

У нас нет призыва в армию.

have declarations of war anymore.

Мы больше не объявляем войну.

Мы не покупаем облигации военных займов.

We don't buy war bonds anymore.

And now we have the fact that we're

Тот факт, что всё больше

converting more and more of our American

американских солдат,

soldiers that we would send into harm's

подвергающихся опасности,

way into machines, and so we may take

являются машинами, позволяет снизить

those already lowering bars to war

и без того низкую смертность на войне

and drop them to the ground.

практически до нуля.

Но будущие войны

But the future of war is also going to be

будут вестись также и на YouTube.

a YouTube war.

That is, our new technologies don't merely

Имеется в виду, что новые технологии

remove humans from risk.

не только отдаляют людей от опасности.

They also record everything that they see.

Они ещё и фиксируют всё увиденное.

So they don't just delink the public:

Они не просто отдаляют общество от войны:

they reshape its relationship with war.

они изменяют отношение общества к войне.

Уже сейчас несколько тысяч видеороликов

There's already several thousand

video clips of combat footage from Iraq

с боевыми действиями в Ираке

on YouTube right now,

выложены на YouTube.

most of it gathered by drones.

Большинство снято беспилотниками.

Now, this could be a good thing.

Это может быть хорошо.

It could be building connections between

Это может укрепить связи

the home front and the war front

между тылом и фронтом

as never before.

как никогда ранее.

Но не забудьте, это происходит

But remember, this is taking place

in our strange, weird world, and so

в нашем странном, причудливом мире.

И возможность загрузить эти видеоролики

inevitably the ability to download these

video clips to, you know, your iPod

на ваш Айпод

or your Zune gives you

или Зун неизбежно даст вам возможность

the ability to turn it into entertainment.

превратить их в развлечение.

У солдат есть специальное имя для этих роликов.

Soldiers have a name for these clips.

They call it war porn.

Военная порнография.

Например, я получил

The typical one that I was sent was

в приложении к электронному письму —

an email that had an attachment of

видео удара «Предатора» по группе людей.

video of a Predator strike taking out

an enemy site. Missile hits,

Взрыв ракеты,

bodies burst into the air with the explosion.

тела взлетают в воздух.

It was set to music.

И всё это на фоне музыки.

It was set to the pop song

Для фона кто-то выбрал песню

"I Just Want To Fly" by Sugar Ray.

Шугар Рэя «Я просто хочу летать».

Эта возможность увидеть больше,

This ability to watch more

but experience less creates a wrinkle

а чувствовать меньше всё больше сказывается

in the public's relationship with war.

на отношении общества к войне.

I think about this with a sports parallel.

Можно провести параллель со спортом.

It's like the difference between

Такая же разница существует

watching an NBA game, a professional

между просмотром игры

профессионалов НБА по телевизору,

basketball game on TV, where the athletes

когда крошечные фигурки бегают по экрану,

are tiny figures on the screen, and

being at that basketball game in person

и видом с первого ряда трибун,

and realizing what someone seven feet

когда понимаешь, как в реальности

really does look like.

выглядит кто-то выше двух метров ростом.

But we have to remember,

Мы должны помнить,

these are just the clips.

что это всего лишь ролики,

These are just the ESPN SportsCenter

трансляция игры по спортивному каналу.

version of the game. They lose the context.

Теряется контекст.

They lose the strategy.

Теряется стратегия.

They lose the humanity. War just

Теряется гуманизм.

becomes slam dunks and smart bombs.

Остаются удары по кольцу и умные бомбы.

Now the irony of all this is that

Ирония происходящего в том,

while the future of war may involve

что в то время, как в будущих войнах

more and more machines,

будет воевать всё больше и больше машин,

именно людская психология будет в их основе,

it's our human psychology that's driving

all of this, it's our human failings

именно человеческие слабости

that are leading to these wars.

будут приводить к началу войны.

So one example of this that has

Хорошим примером этого, имеющим

большой резонанс в нашей политике,

big resonance in the policy realm is

может быть использование этой темы

how this plays out on our very real

war of ideas that we're fighting

в той войне идей, которую мы ведём

against radical groups.

против радикальных группировок.

What is the message that we think we are

Что мы, как нам кажется, пытаемся сказать,

sending with these machines versus what

посылая куда-то эти машины,

is being received in terms of the message.

и как это воспринимает другая сторона?

So one of the people that I met was

Одним из тех, с кем я встречался,

a senior Bush Administration official,

был высокопоставленный чиновник администрации Буша,

who had this to say about

который сказал следующее

по поводу нашего «обезличивания» войны:

our unmanning of war:

«Это увеличивает нашу силу.

"It plays to our strength. The thing that

Наша технология — как раз то, что пугает людей».

scares people is our technology."

But when you go out and meet with people,

Но если вы встретитесь с кем-то

for example in Lebanon, it's a very

вне коридоров власти где-нибудь в Ливане,

different story. One of the people

то услышите совсем другое.

I met with there was a news editor, and

Когда я разговаривал там с редактором новостей,

we're talking as a drone is flying above him,

над его головой пролетал беспилотник.

and this is what he had to say.

Вот что он сказал по этому поводу:

"This is just another sign of the coldhearted

«Это ещё одно доказательство того,

cruel Israelis and Americans,

что американцы и израильтяне —

who are cowards because

жестокие и бессердечные трусы.

they send out machines to fight us.

Они посылают машины воевать с нами потому,

что не хотят сражаться как настоящие мужчины.

They don't want to fight us like real men,

but they're afraid to fight,

Они боятся воевать,

так что нам будет достаточно убить

so we just have to kill a few of their soldiers

несколько их солдат, чтобы победить их».

to defeat them."

The future of war also is featuring

В будущей войне также появится

a new type of warrior,

новый тип воина,

and it's actually redefining the experience

меняющий само понятие

of going to war.

участия в военных действиях.

You can call this a cubicle warrior.

Его можно назвать офисным воином.

This is what one Predator drone pilot

Именно так один из пилотов «Предатора»

described of his experience fighting

охарактеризовал своё участие в войне в Ираке,

не покидая Невады.

in the Iraq War while never leaving Nevada.

"You're going to war for 12 hours,

«12 часов ты находишься на войне,

shooting weapons at targets,

стреляя боевыми снарядами по целям,

directing kills on enemy combatants,

убивая вражеских солдат,

and then you get in the car

а потом ты садишься в машину и едешь домой.

and you drive home and within 20 minutes,

Через 20 минут

you're sitting at the dinner table

ты сидишь за обеденным столом,

обсуждая с детьми их домашние задания».

talking to your kids about their homework."

Удержать психику в равновесии

Now, the psychological balancing

of those experiences is incredibly tough,

при таких переходах невероятно сложно.

and in fact those drone pilots have

В реальности у таких пилотов

higher rates of PTSD than many

уровень посттравматического синдрома выше,

чем во многих подразделениях на поле боя в Ираке.

of the units physically in Iraq.

Но есть опасения, что эта отстранённость

But some have worries that this

disconnection will lead to something else,

может иметь последствия.

that it might make the contemplation of war

Такое дистанцирование может облегчить

crimes a lot easier when you have

путь к военным преступлениям.

this distance. "It's like a video game,"

«Похоже на видеоигру», —

is what one young pilot described to me

так один молодой пилот описывал мне

of taking out enemy troops from afar.

уничтожение противника на расстоянии.

As anyone who's played Grand Theft Auto

Любой игравший в Grand Theft Auto знает,

knows, we do things in the video world

что в игре мы совершаем поступки,

that we wouldn't do face to face.

которые никогда бы не сделали в реальном мире.

So much of what you're hearing from me

Этим я хочу сказать,

is that there's another side

что существует другая сторона

to technologic revolutions,

технологической революции.

and that it's shaping our present

Она меняет ведение войны сегодня

and maybe will shape our future of war.

и, возможно, повлияет на будущие конфликты.

Действует не только закон Мура,

Moore's Law is operative,

but so's Murphy's Law.

но и законы Мёрфи.

The fog of war isn't being lifted.

Туман войны не рассеялся.

The enemy has a vote.

У противника тоже есть выбор.

У нас появляются невероятные новые способности,

We're gaining incredible new capabilities,

but we're also seeing and experiencing

но в то же время мы стоим

перед тяжёлым выбором.

new human dilemmas. Now,

Иногда это просто неприятные случайности,

sometimes these are just "oops" moments,

which is what the head of a robotics

как сказал директор одной робототехнической фирмы.

company described it, you just have

«Просто так вышло».

"oops" moments. Well, what are

Как выглядят такие «случайности»

"oops" moments with robots in war?

с роботами на войне?

Да, иногда они смешные.

Well, sometimes they're funny. Sometimes,

Но иногда это похоже на сцену из фильма

they're like that scene from the

Eddie Murphy movie "Best Defense,"

«Лучшая защита», только в реальной жизни.

На испытаниях робота, оснащённого пулемётом,

playing out in reality, where they tested out

a machine gun-armed robot, and during

во время демонстрации его начальству

the demonstration it started spinning

in a circle and pointed its machine gun

машина начала крутиться по кругу,

at the reviewing stand of VIPs.

поочерёдно направляя дуло

на важных персон на трибуне.

К счастью, оружие не было заряжено,

Fortunately the weapon wasn't loaded

and no one was hurt, but other times

и никто не пострадал.

Но такие «случайности» могут привести к трагедии,

"oops" moments are tragic,

such as last year in South Africa, where

как в прошлом году в Южной Африке,

an anti-aircraft cannon had a

где из-за сбоя в программном обеспечении

"software glitch," and actually did turn on

настоящее зенитное орудие включилось и выстрелило.

and fired, and nine soldiers were killed.

Погибли 9 солдат.

We have new wrinkles in the laws of war

Появились спорные места в законах войны.

and accountability. What do we do

Что делать с убийством, совершённым машиной?

with things like unmanned slaughter?

What is unmanned slaughter?

Что такое убийство без человека?

We've already had three instances of

Уже были три случая ударов беспилотников

Predator drone strikes where we thought

we got bin Laden, and it turned out

по местам, где, как предполагалось,

находился бен Ладен.

not to be the case.

Как оказалось, это были ошибки.

And this is where we're at right now.

Такова ситуация сегодня.

This is not even talking about armed,

И речь тут ещё не идет

autonomous systems

об автономных системах вооружения,

with full authority to use force.

самостоятельно принимающих решение атаковать.

И не надейтесь, что такого не будет.

And do not believe that that isn't coming.

During my research I came across

Проводя своё расследование,

four different Pentagon projects

я натолкнулся на 4 разных проекта Пентагона

on different aspects of that.

по разным аспектам этой проблемы.

Вопрос в следующем:

And so you have this question:

куда это приведёт в таких ситуациях как военные преступления?

what does this lead to issues like

war crimes? Robots are emotionless, so

У роботов нет эмоций,

they don't get upset if their buddy is killed.

у них нет нервных срывов из-за гибели друга.

Они не совершают преступления

They don't commit crimes of rage

в припадке ярости или ради мести.

and revenge.

У роботов нет эмоций.

But robots are emotionless.

Для них нет принципиального отличия

They see an 80-year-old grandmother

in a wheelchair the same way they see

между 80-летней старухой в инвалидной коляске

a T-80 tank: they're both

и танком Т-80: и то, и другое —

просто набор нулей и единиц.

just a series of zeroes and ones.

And so we have this question to figure out:

Перед нами стоит проблема:

How do we catch up our 20th century

как законы войны ХХ века, настолько устаревшие,

laws of war, that are so old right now

что их можно считать антиквариатом,

that they could qualify for Medicare,

to these 21st century technologies?

привести в соответствие

с технологиями XXI века?

And so, in conclusion, I've talked about

В заключение хочу заметить:

what seems the future of war,

я говорил вроде бы о будущих войнах,

but notice that I've only used

но при этом использовал

только примеры из наших дней,

real world examples and you've only seen

real world pictures and videos.

показывал только реальные фото и видео.

And so this sets a great challenge for

За этим скрывается проблема,

all of us that we have to worry about well

о которой надо задуматься уже сейчас,

before you have to worry about your

оставив на потом страхи перед роботом-пылесосом,

Roomba sucking the life away from you.

высасывающим из вас жизненные соки.

Are we going to let the fact that what's

Можем ли мы не обращать внимания

на всё то, что проявляется в военных действиях

unveiling itself right now in war

прямо перед нашими глазами только потому,

что это похоже на научную фантастику?

sounds like science fiction and therefore

В силах ли мы осознать реалии?

keeps us in denial?

Неужели мы в XXI веке повторим ошибку предыдущего поколения

Are we going to face the reality

of 21st century war?

с ядерным оружием,

закрывая глаза на возникающие проблемы,

Is our generation going to make the same

mistake that a past generation did

with atomic weaponry, and not deal with

пока ящик Пандоры не будет открыт?

the issues that surround it until

Pandora's box is already opened up?

Now, I could be wrong on this, and

Конечно, я могу ошибаться.

one Pentagon robot scientist told me

Один пентагоновский специалист по роботам

that I was. He said, "There's no real

так мне и сказал. По его словам,

social, ethical, moral issues when it comes

«нет никаких социальных, этических, моральных проблем,

to robots.

связанных с роботами».

That is," he added, "unless the machine

«Кроме тех случаев, — добавил он, — когда

машина неоднократно убивает не тех людей.

kills the wrong people repeatedly.

Тогда это просто вопрос возврата брака».

Then it's just a product recall issue."

And so the ending point for this is

that actually, we can turn to Hollywood.

И в завершение рассказа

обратимся к Голливуду.

A few years ago, Hollywood gathered

Несколько лет назад

all the top characters and created

там перебрали всех главных героев

и создали два списка: 100 величайших героев

a list of the top 100 heroes and

top 100 villains of all of Hollywood history,

и 100 величайших злодеев в истории Голливуда.

Персонажей, воплотивших

the characters that represented the best

всё лучшее и худшее в человечестве.

and worst of humanity.

Only one character made it onto both lists:

И только один персонаж попал в оба списка:

Терминатор, робот-машина для убийства.

The Terminator, a robot killing machine.

And so that points to the fact that

Это указывает на то,

our machines can be used

что наши машины можно использовать

for both good and evil, but for me

и во имя добра, и во имя зла.

it points to the fact that there's a duality

Но для меня это демонстрирует

и двойственность человеческой натуры.

of humans as well.

Эта неделя — праздник нашей изобретательности.

This week is a celebration

of our creativity. Our creativity

Именно эта черта

has taken our species to the stars.

позволила нашему виду полететь к звёздам.

Our creativity has created works of arts

Она создала шедевры искусства и литературы

and literature to express our love.

для выражения нашей любви.

And now, we're using our creativity

Сейчас мы используем нашу изобретательность

in a certain direction, to build fantastic

для создания фантастических машин

machines with incredible capabilities,

с невероятными возможностями,

maybe even one day

которые в один прекрасный день,

an entirely new species.

возможно, даже станут новым видом.

Но одна из главных сил,

But one of the main reasons that we're

doing that is because of our drive

движущих созданием этих чудес, —

наше желание уничтожать друг друга.

to destroy each other, and so the question

we all should ask:

Мы должны задать себе вопрос:

кто в реальности создан для войны —

is it our machines, or is it us

машины или мы?

that's wired for war?

Спасибо. (Аплодисменты)

Thank you. (Applause)