Military robots and the future of war | P.W. Singer

P・W・シンガー: ロボットと戦争の未来

翻訳: Akira KAKINOHANA 校正: Masaki Yanagishita

I thought I'd begin with a scene of war.

まずは戦争の風景から話したいと思います

There was little to warn of the danger ahead.

待ち受けている危険を知らせるものは ほとんどありません

The Iraqi insurgent had placed the IED,

IED という即席爆弾が

an Improvised Explosive Device,

イラクの反体制派により

along the side of the road with great care.

道のあちこちで仕掛けられています

By 2006, there were more than 2,500

2006年までに このような攻撃は

of these attacks every single month,

毎月2500を数えるようになり

and they were the leading cause of

アメリカ軍兵士とイラク市民が

casualties among American soldiers

死亡する主な

and Iraqi civilians.

原因となっていました

The team that was hunting for this IED

このような即席爆弾を解体するのは

is called an EOD team—

EOD チームと呼ばれる

Explosives Ordinance Disposal—and

爆弾処理班で

they're the pointy end of the spear in the

道ばたにおける米国爆発物処理の

American effort to suppress these roadside bombs.

最前線を担っています

Each EOD team goes out on about

各 EOD チームは 毎年およそ

600 of these bomb calls every year,

600もの爆弾処理に従事し

defusing about two bombs a day.

毎日２個程の爆弾解体を行っています

Perhaps the best sign of how valuable they

彼らがどれほど重要なのかは

are to the war effort, is that

イラクの反体制派が

the Iraqi insurgents put a $50,000 bounty

EOD 兵１人に対して５万ドルもの

on the head of a single EOD soldier.

懸賞金をかけていることからも伺い知れます

Unfortunately, this particular call

残念なことにこの話は

would not end well.

良い終わり方をしません

By the time the soldier advanced close

導火線を確認できる程

enough to see the telltale wires

兵士が接近すると 爆風とともに

of the bomb, it exploded in a wave of flame.

爆弾が爆発します

Now, depending how close you are

どれほど近くにいるのかと

and how much explosive has been packed

どれほどの爆発物があるかにより

into that bomb, it can cause death

死傷または負傷することになり

or injury. You have to be as far as

それを避けるには45メートル程

50 yards away to escape that.

離れている必要があります

The blast is so strong it can even break

爆風があまりにも強烈なので

your limbs, even if you're not hit.

直撃でなくても手足を骨折することがあります

That soldier had been on top of the bomb.

この兵士は爆弾の上にいたため

And so when the rest of the team advanced

他のチームメンバーが近寄ってみると

they found little left. And that night the unit's

身体は殆ど残っておらず

commander did a sad duty, and he wrote

その日の夜に指揮官は

a condolence letter back to the United

米本国に対してお悔やみ状を書くという

States, and he talked about how hard the

悲しい任務に就き

loss had been on his unit, about the fact

幾度となく仲間の命を救ってきた

that they had lost their bravest soldier,

最も勇敢な兵士を失うのが

a soldier who had saved their lives

どれほど大変か

many a time.

教えてくれました

And he apologized

そして指揮官は兵士を無事に

for not being able to bring them home.

国に返せなかったことを謝るのです

But then he talked up the silver lining

しかしそんな現実にも

that he took away from the loss.

希望の光があることを教えてくれました

"At least," as he wrote, "when a robot dies,

「仮にロボットが死んでも

you don't have to write a letter

その母親に手紙を書く

to its mother."

必要はないでしょう」

That scene sounds like science fiction,

サイエンスフィクションのような話ですが

but is battlefield reality already.

これが既に戦場の現実なのです

The soldier in that case

ここでの兵士は19キログラムの

was a 42-pound robot called a PackBot.

PackBot というロボットでした

The chief's letter went, not to some

今では昔の戦争映画のように

farmhouse in Iowa like you see

アイオワにある農家へ

in the old war movies, but went to

手紙が送られることはなく

the iRobot Company, which is

アシモフの小説とウィルスミスの

named after the Asimov novel

駄作映画から名付けられた

and the not-so-great Will Smith movie,

iRobot 社へ手紙は送られます

and... um... (Laughter)...

えぇっと （笑）..

if you remember that

フィクションの世界では

in that fictional world, robots started out

最初は日常の手伝いから始まり

carrying out mundane chores, and then

そしてしばらくすると

they started taking on life-and-death decisions.

生死の判断を下すようになります

That's a reality we face today.

それが今日の現実なのです

What we're going to do is actually just

これから私の後ろに

flash a series of photos behind me that

写真を投影し

show you the reality of robots used in war

現実に使用されている あるいは試作品の

right now or already at the prototype stage.

戦闘用ロボットの現実を見てもらいます

It's just to give you a taste.

ちょっとだけです

Another way of putting it is you're not

言い方を変えると

going to see anything that's powered

ここでお見せするのは

by Vulcan technology, or teenage

（スタートレックの）バルカン星人の技術や

wizard hormones or anything like that.

十代の若者オタクなどではなく

This is all real. So why don't we

全て本物です それでは

go ahead and start those pictures.

写真を見ていきましょう

Something big is going on in war today,

今日の戦場では 人間の歴史始まって以来かもしれない

and maybe even the history of humanity

大きな変化が起こっています

itself. The U.S. military went into Iraq with

アメリカ軍は わずかばかりのドローンで

a handful of drones in the air.

イラク戦争に行きましたが

We now have 5,300.

今では5300機あります

We went in with zero unmanned ground

陸上用の無人システムは 一つもありませんでしたが

systems. We now have 12,000.

今では12000台あります

And the tech term "killer application"

技術用語の「キラーアプリケーション」が

takes on new meaning in this space.

ここでは新しい意味合いを持っているのです

And we need to remember that we're

私たちはＴ型フォードや

talking about the Model T Fords,

ライト兄弟の飛行機と

the Wright Flyers, compared

これから目にするものを

to what's coming soon.

比べなくてはなりません

That's where we're at right now.

我々はそういう時代にいるのです

One of the people that I recently met with

最近会った空軍の

was an Air Force three-star general, and he

中将が言うには

said basically, where we're headed very

我々は もうすぐ 我々の戦場で

soon is tens of thousands of robots

何万ものロボットを使用することになる

operating in our conflicts, and these

というもので これらロボットは

numbers matter, because we're not just

単なる量産型のロボットではなく

talking about tens of thousands of today's

将来使われる何万もの これら試作品

robots, but tens of thousands of these

未来のロボットであるため

prototypes and tomorrow's robots, because

この数は重要になります

of course, one of the things that's operating

もちろん 技術分野のムーアの法則により

in technology is Moore's Law,

これらのロボットの演算能力は

that you can pack in more and more

どんどん増えて行きます

computing power into those robots, and so

だから25年後ぐらいを推測すると

flash forward around 25 years,

ムーアの法則がまだ正しければ

if Moore's Law holds true,

これらのロボットは

those robots will be close to a billion times

現在より10億倍ほど強力な

more powerful in their computing than today.

演算能力を持つでしょう

And so what that means is the kind of

それはつまり 我々がコミコンのような

things that we used to only talk about at

SF大会で話しているようなことが

science fiction conventions like Comic-Con

ペンタゴンのような

have to be talked about in the halls

軍事力の中枢で

of power and places like the Pentagon.

議論されるということです

A robots revolution is upon us.

ロボットの革新がおきています

Now, I need to be clear here.

次のことも明らかにしておきます

I'm not talking about a revolution where you

実際に起こる革命は

have to worry about the Governor of

カリフォルニアの州知事が

California showing up at your door,

あなたの戸口にターミネーターとして現れる

a la the Terminator. (Laughter)

というものではありません

When historians look at this period, they're

歴史家が振り返って今の時代を見た時 彼らは

going to conclude that we're in a different

我々がこれまでと違った革命、戦争の革命の

type of revolution: a revolution in war,

中にあったと言うでしょう

like the invention of the atomic bomb.

ちょうど原子爆弾の発明の時のように

But it may be even bigger than that,

しかし 事態はそれより重大かもしれません

because our unmanned systems don't just

なぜなら無人システムは

affect the "how" of war-fighting,

単に戦闘を「どう」闘うかだけでなく

they affect the "who" of fighting

とても根本的なレベルで

at its most fundamental level.

「誰が」闘うのかに影響するからです

That is, every previous revolution in war, be

それは これまでの戦争の革命が

it the machine gun, be it the atomic bomb,

マシンガンであれ 原子爆弾であれ

was about a system that either shot faster,

より速く撃ち より遠くへ行き

went further, had a bigger boom.

より大きな威力を持つかであって

That's certainly the case with robotics, but

それはロボットの場合も当てはまりますが

they also change the experience of the warrior

ロボットは 兵士の考え方や

and even the very identity of the warrior.

根本的な兵士の定義も変えてしまいます

Another way of putting this is that

別の言い方をすれば 5000年の間

mankind's 5,000-year-old monopoly

人類の専売特許であった

on the fighting of war is breaking down

「戦場での戦闘」が我々の時代で

in our very lifetime. I've spent

崩壊しつつあるのです

the last several years going around

私はここ数年 あちこちで

meeting with all the players in this field,

ロボット科学者から

from the robot scientists to the science

彼らにひらめきを与えたSF作家まで

fiction authors who inspired them to the

この分野の役者たち皆に会いました

19-year-old drone pilots who are fighting

ネバダから戦闘ロボットを操縦する19歳の

from Nevada, to the four-star generals

兵士から 彼らに命令を下す大将まで

who command them, to even the Iraqi

あるいはその標的になっているイラクの

insurgents who they are targeting and what

反乱分子にまで会い

they think about our systems, and

我々のシステムについてどう思うか尋ねました

what I found interesting is not just

興味深いのは 彼らの話そのものだけではなく

their stories, but how their experiences

彼らの経験が 社会

point to these ripple effects that are going

法制度や 倫理観などに

outwards in our society, in our law

どのように影響を与えるかでした

and our ethics, etc. And so what I'd like

残りの時間を使って

to do with my remaining time is basically

それらを詳しく見て

flesh out a couple of these.

いくことにします

So the first is that the future of war,

第一に 未来の戦争は

even a robotics one, is not going to be

ロボット兵士でさえ

purely an American one.

アメリカの独占物ではないということです

The U.S. is currently ahead in military

アメリカは現在は軍事ロボットの分野で 先を走っていますが

robotics right now, but we know that in

ご存知のようにテクノロジーの世界では

technology there's no such thing as

先行者の有利はいつまでも

a permanent first move or advantage.

続くものではありません

In a quick show of hands, how many

お尋ねしますが

people in this room still use

ここにいる何名の人が

Wang Computers? (Laughter)

Wangコンピュータを使っているでしょう？

It's the same thing in war. The British and

戦争でも同じです

the French invented the tank.

イギリスとフランスが戦車を発明しましたが

The Germans figured out how

正しい使い方を見つけたのはドイツで

to use it right, and so what we have to

我々が考えなくてはならないのは

think about for the U.S. is that we are

今のところアメリカは先進的だが

ahead right now, but you have

他にも43カ国が軍事ロボットの

43 other countries out there

開発に着手しており

working on military robotics, and they

その中にはロシア、中国

include all the interesting countries like

パキスタン、イランなどの

Russia, China, Pakistan, Iran.

国も含まれていることです

And this raises a bigger worry for me.

ここからさらに大きな懸念が持ち上がります

How do we move forward in this revolution

現在のこの革命の中

given the state of our manufacturing

この国の生産体制

and the state of our science and

科学や数学の教育体制を考えて

mathematics training in our schools?

どうやって前に進むのか？

Or another way of thinking about this is,

別の言い方をするとこうです

what does it mean to go to war increasingly

中国製の武器やインド製の戦闘ソフトをもって

with soldiers whose hardware is made

戦場に出て行く機会が増えているのは

in China and software is written in India?

どういうことなのか？

But just as software has gone open-source,

ソフトウェアがオープンソース化したように

so has warfare.

武器もそうなりつつあります

Unlike an aircraft carrier or an atomic bomb,

空母や原子爆弾と違って

you don't need a massive manufacturing

ロボットを作るのに巨大な生産システムは

system to build robotics. A lot of it is

必要ありません

off the shelf. A lot of it's even do-it-yourself.

既製品で

One of those things you just saw flashed

いくつかは自作すらできます

before you was a raven drone, the handheld

あなたが今見たものの一つは放り投げて使う

tossed one. For about a thousand dollars,

Ravenドローンで 1000ドルも出せば

you can build one yourself, equivalent to

イラクで兵士が使っているものと同じものを

what the soldiers use in Iraq.

自分で作ることができます

That raises another wrinkle when it comes

ここでは 善人が趣味として

to war and conflict. Good guys might play

色々いじることもできるが

around and work on these as hobby kits,

悪人も同じことができるという

but so might bad guys.

戦争や戦闘の新たな問題が持ち上がります

This cross between robotics and things like

ロボット工学とテロリズムが

terrorism is going to be fascinating

交錯すると 魅惑的かつ

and even disturbing,

憂慮すべきことになるでしょう

and we've already seen it start.

もうそれが始まっているのを見ました

During the war between Israel, a state,

政府側であるイスラエルと非政府側の

and Hezbollah, a non-state actor,

ヒズボラの戦闘で

the non-state actor flew

非政府側がイスラエルに向けて

four different drones against Israel.

４種類のドローンを飛ばしました

There's already a jihadi website

ジハードのウェブサイトでは

that you can go on and remotely

パソコンの前にいながら

detonate an IED in Iraq while sitting

イラクの即席爆弾を遠隔から

at your home computer.

起爆することができます

And so I think what we're going to see is

つまり 私たちはここから

two trends take place with this.

二つの傾向を見て取ることができます

First is, you're going to reinforce the power

第一は 政府に対する個人の力が

of individuals against governments,

強まっているということです

but then the second is that

第二は テロリズムの領域が

we are going to see an expansion

拡大していくさまを

in the realm of terrorism.

目撃するということです

The future of it may be a cross between

その未来はアルカイダ2.0と 次世代の

al Qaeda 2.0 and the

ユナボマー（米国の爆弾魔）の

next generation of the Unabomber.

交点にあるのかもしれません

And another way of thinking about this

他にも忘れてはならないのは

is the fact that, remember, you don't have

ロボットが自爆するのに

to convince a robot that they're gonna

死後に72人の処女を得られると

receive 72 virgins after they die

説得する必要はない

to convince them to blow themselves up.

ということです

But the ripple effects of this are going to go

この連鎖反応は

out into our politics. One of the people that

我々の政策にも影響します

I met with was a former Assistant Secretary of

私が会った一人は レーガン政権の

Defense for Ronald Reagan, and he put it

元国防長官補佐官でした

this way: "I like these systems because

彼が言うには（以下引用）

they save American lives, but I worry about

「私はこのシステムが好きだ なぜならアメリカ人の命を救うから

more marketization of wars,

だが戦争の市場化は懸念するし

more shock-and-awe talk,

コスト負担のための

to defray discussion of the costs.

衝撃的な議論も懸念する

People are more likely to support the use

コストがかからないとわかるとより簡単に

of force if they view it as costless."

力の行使を支持するものだ」と

Robots for me take certain trends

ロボットは 我々国民全般に

that are already in play in our body politic,

広まっている世論に影響を与え

and maybe take them to

それを論理的な終局点まで

their logical ending point.

けん引していくようです

We don't have a draft. We don't

草案もありませんし

have declarations of war anymore.

宣戦布告書もすでにありません

We don't buy war bonds anymore.

戦争債も買わないし

And now we have the fact that we're

そして 我々は危険の多い地域に

converting more and more of our American

アメリカ人の兵士を送る代わりに

soldiers that we would send into harm's

機械を送り込むようになっており

way into machines, and so we may take

それにより戦争行為に対する

those already lowering bars to war

ハードルが更に低くなり

and drop them to the ground.

終には抑止力が無くなってしまいます

But the future of war is also going to be

同時に 未来の戦争はまた

a YouTube war.

YouTube戦争でもあります

That is, our new technologies don't merely

つまり 我々の技術は単に兵士を

remove humans from risk.

危険から遠ざけるだけでなく

They also record everything that they see.

彼らの見るものを全て記録するようになっています

So they don't just delink the public:

戦争を公衆から切り離すだけでなく

they reshape its relationship with war.

戦争との関わりを再構築しています

There's already several thousand

現在 YouTubeには何千もの

video clips of combat footage from Iraq

イラクの戦闘を撮影した

on YouTube right now,

ビデオクリップがありますが

most of it gathered by drones.

ほとんどはドローンから得られたものです

Now, this could be a good thing.

それは 戦争の最前線と家庭を

It could be building connections between

かつてなかったかたちで

the home front and the war front

結びつけるという

as never before.

良い側面もあります

But remember, this is taking place

しかし何が起こっても

in our strange, weird world, and so

おかしく無い世の中では

inevitably the ability to download these

このようなビデオクリップをダウンロードして

video clips to, you know, your iPod

iPodやZuneに収めることで

or your Zune gives you

エンターテイメントにしてしまえることも

the ability to turn it into entertainment.

忘れてはなりません

Soldiers have a name for these clips.

兵士達はこのようなビデオクリップを

They call it war porn.

「戦争ポルノ」と読んでいます

The typical one that I was sent was

最近見た典型的な例は 電子メールに

an email that had an attachment of

添付された映像で

video of a Predator strike taking out

プレデター（無人航空機）が敵の基地を

an enemy site. Missile hits,

ミサイルで攻撃した時の爆発で

bodies burst into the air with the explosion.

肉体が空中にばらばらに吹き飛んでいました

It was set to music.

それには音楽がついていて

It was set to the pop song

シュガー・レイの「I Just Want to Fly」

"I Just Want To Fly" by Sugar Ray.

という曲でした

This ability to watch more

より多くのものを見て

but experience less creates a wrinkle

経験はより少なくなる状態は

in the public's relationship with war.

大衆と戦争の関係にひずみを引き起こしています

I think about this with a sports parallel.

これはスポーツと同じです

It's like the difference between

プロバスケットボールである

watching an NBA game, a professional

NBAのゲームをテレビで見ていて

basketball game on TV, where the athletes

選手が画面の小さな点に見えているのと

are tiny figures on the screen, and

自分で実際に試合を見に行って

being at that basketball game in person

２メートル10センチの人間が

and realizing what someone seven feet

実際はどんな感じか

really does look like.

理解することに似ています

But we have to remember,

しかし思い出して下さい

these are just the clips.

これらはただのビデオで

These are just the ESPN SportsCenter

試合のダイジェスト版で

version of the game. They lose the context.

それは文脈を失い

They lose the strategy.

戦略を失い

They lose the humanity. War just

人間性を失い

becomes slam dunks and smart bombs.

戦争はただのスラムダンクやスマート爆弾なのです

Now the irony of all this is that

皮肉なのは 未来の戦争では

while the future of war may involve

より多くの機械が

more and more machines,

使われるのにもかかわらず

it's our human psychology that's driving

それらを動かすのは人間の心理で

all of this, it's our human failings

戦争を起こすのも

that are leading to these wars.

人間の欠点によるものなのです

So one example of this that has

これに対する

big resonance in the policy realm is

政治の世界からの反応は

how this plays out on our very real

過激派を相手に戦っているという

war of ideas that we're fighting

現実の戦争の考え方に

against radical groups.

大きな影響を与えています

What is the message that we think we are

我々がこれらの機械と一緒に送っている

sending with these machines versus what

メッセージは

is being received in terms of the message.

どのように受け取られているのか

So one of the people that I met was

私がブッシュ政権の総務局で会ったある人は

a senior Bush Administration official,

人間が戦わない戦争について

who had this to say about

以下の様な事を言いました

our unmanning of war:

「これは我々の力に影響を与えます

"It plays to our strength. The thing that

人々を脅かしているのは

scares people is our technology."

我々のテクノロジーなのです」

But when you go out and meet with people,

しかし遠く -- 例えばレバノン-- まで行き

for example in Lebanon, it's a very

人と会ってみると

different story. One of the people

それはとても違った話となります

I met with there was a news editor, and

そこで私が出会ったのはニュースの編集者で

we're talking as a drone is flying above him,

会話している我々の頭上を 無人航空機が飛んで行くなか

and this is what he had to say.

彼はこう言いました

"This is just another sign of the coldhearted

「これは我々と戦う為の機械を

cruel Israelis and Americans,

送ってくる臆病で 無慈悲

who are cowards because

冷血なアメリカ人とイスラエル人を

they send out machines to fight us.

象徴するものだ

They don't want to fight us like real men,

彼らは男らしく戦うのではなく

but they're afraid to fight,

戦う事を恐れている

so we just have to kill a few of their soldiers

だから我々は数少ない彼ら兵士を殺すことで

to defeat them."

勝利を得るのだ」

The future of war also is featuring

未来の戦争は新しいタイプの兵士を

a new type of warrior,

形作っています

and it's actually redefining the experience

それは戦争に行くという

of going to war.

定義を変えるもので

You can call this a cubicle warrior.

個室兵士とでも呼べるものです

This is what one Predator drone pilot

ネバダから離れる事無く

described of his experience fighting

イラク戦争で戦っていた

in the Iraq War while never leaving Nevada.

プレデターのパイロットはこう言いました

"You're going to war for 12 hours,

「12時間戦争に行き

shooting weapons at targets,

武器を標的に向けて撃って

directing kills on enemy combatants,

敵の兵士を撃ち殺す様に命令し

and then you get in the car

車に乗って家に帰り

and you drive home and within 20 minutes,

20分後には夕食の席にいて

you're sitting at the dinner table

子供たちと宿題について

talking to your kids about their homework."

話をしている」

Now, the psychological balancing

さて 心理的にこれらのバランスを取るのは

of those experiences is incredibly tough,

非常に難しい事です

and in fact those drone pilots have

実はこれらの無人戦闘機パイロットたちは

higher rates of PTSD than many

実際にイラクにいる兵士よりも

of the units physically in Iraq.

高い率で PTSD を患っています

But some have worries that this

しかし中にはこの断絶が

disconnection will lead to something else,

戦争犯罪をもっとやり易いものに

that it might make the contemplation of war

してしまうのではないかと

crimes a lot easier when you have

危惧している人達もいます

this distance. "It's like a video game,"

「まるでこれはテレビゲームです」とは

is what one young pilot described to me

遠方から敵の部隊を攻撃する

of taking out enemy troops from afar.

若いパイロットの言葉です

As anyone who's played Grand Theft Auto

グランド・セフト・オートをしたことがある人なら

knows, we do things in the video world

人は面と向かってはしないようなことを

that we wouldn't do face to face.

テレビゲームではすることを知ってるでしょう

So much of what you're hearing from me

私がここで言いたいのは

is that there's another side

技術革新は別の面も併せ持っており

to technologic revolutions,

それは 現在の

and that it's shaping our present

そしてもしかしたら未来の戦争を

and maybe will shape our future of war.

形作っているということです

Moore's Law is operative,

ムーアの法則の他に

but so's Murphy's Law.

マーフィーの法則も働いています

The fog of war isn't being lifted.

戦雲は消えていません

The enemy has a vote.

敵にも選択する権利はありますし

We're gaining incredible new capabilities,

我々はとてつもない能力を手に入れようとしています

but we're also seeing and experiencing

しかし我々は同時に新しい人間のジレンマを

new human dilemmas. Now,

見て 体験しているのです

sometimes these are just "oops" moments,

さて 失敗する時もあります

which is what the head of a robotics

これはロボット関連の企業のトップが

company described it, you just have

言った言葉ですが

"oops" moments. Well, what are

それではロボットがいる戦場での

"oops" moments with robots in war?

失敗とは何でしょうか？

Well, sometimes they're funny. Sometimes,

面白い時もあります

they're like that scene from the

時には エディー・マーフィーが出ている

Eddie Murphy movie "Best Defense,"

「おかしな関係」という

playing out in reality, where they tested out

映画のワンシーンを現実にした様な

a machine gun-armed robot, and during

マシンガンを搭載した新しいロボットが

the demonstration it started spinning

デモの時にクルクルと回りだし

in a circle and pointed its machine gun

自分のマシンガンを VIP 席に向けて 照準を合わせるという

at the reviewing stand of VIPs.

ものなのかも知れません

Fortunately the weapon wasn't loaded

幸運な事に弾は込められておらず

and no one was hurt, but other times

誰も傷つきませんでした

"oops" moments are tragic,

しかしそうで無いときの失敗は悲劇的で

such as last year in South Africa, where

南アフリカでは去年

an anti-aircraft cannon had a

対空砲に「ソフトウェアの問題」があり

"software glitch," and actually did turn on

誤動作して 発砲

and fired, and nine soldiers were killed.

９名の兵士が亡くなりました

We have new wrinkles in the laws of war

戦時国際法と責任についても

and accountability. What do we do

我々はひずみを持っています

with things like unmanned slaughter?

無人殺戮兵器を使って何をするのか？

What is unmanned slaughter?

無人殺戮兵器とは何でしょうか？

We've already had three instances of

既に我々は３回 プレデターにより

Predator drone strikes where we thought

ビン・ラディンを爆撃したと思い

we got bin Laden, and it turned out

実際にはそうでなかったことを

not to be the case.

経験しています

And this is where we're at right now.

これが現在の我々なのです

This is not even talking about armed,

発砲する権限を持っている

autonomous systems

自立した兵器システムについて

with full authority to use force.

話しているわけではありませんし

And do not believe that that isn't coming.

それがやって来ないと思わないで下さい

During my research I came across

私の調査中 そのような特性を備えた

four different Pentagon projects

４つの国防総省プロジェクトを

on different aspects of that.

見ました

And so you have this question:

あなたはこんな事を疑問に思うでしょう

what does this lead to issues like

戦争犯罪はどのようなものになるのか？

war crimes? Robots are emotionless, so

機械に感情はありませんから

they don't get upset if their buddy is killed.

仲間が殺されても取り乱す事は無く

They don't commit crimes of rage

逆上して犯罪を犯したり

and revenge.

復讐する事もありません

But robots are emotionless.

しかし機械には感情が無いので

They see an 80-year-old grandmother

T80戦車を見るのと同じ様に

in a wheelchair the same way they see

車椅子に乗っている

a T-80 tank: they're both

80歳のお婆ちゃんを見ます

just a series of zeroes and ones.

０と１の連続でしかないのですから

And so we have this question to figure out:

そこで考えなければならない問題があります

How do we catch up our 20th century

介護保険の対象になる様な

laws of war, that are so old right now

時代遅れの20世紀の戦争法を

that they could qualify for Medicare,

我々はどうやって21世紀の技術に

to these 21st century technologies?

合わせるのでしょうか

And so, in conclusion, I've talked about

最後にまとめますと 私は

what seems the future of war,

戦争の未来がどうなるかを話してきました

but notice that I've only used

しかしすべて現実にある例だけを

real world examples and you've only seen

挙げている事に注意して下さい

real world pictures and videos.

あなたの見たビデオや写真はすべて現実です

And so this sets a great challenge for

これはルンバ掃除機があなたの人生を

all of us that we have to worry about well

吸い取ってしまうずっと前に

before you have to worry about your

考えなければ

Roomba sucking the life away from you.

ならないということです

Are we going to let the fact that what's

戦争で使われるものの秘密を

unveiling itself right now in war

明らかにすることは

sounds like science fiction and therefore

まるでSFのように見え

keeps us in denial?

目をつぶってしまいがちです

Are we going to face the reality

我々は21世紀型の戦争の現実を

of 21st century war?

直視しますか？

Is our generation going to make the same

我々の世代は 過去の世代が

mistake that a past generation did

原爆で犯したのと同じ過ちを

with atomic weaponry, and not deal with

繰り返し パンドラの箱が

the issues that surround it until

開かれてしまうまで物事に対処しないという

Pandora's box is already opened up?

失敗を犯すのでしょうか？

Now, I could be wrong on this, and

これについて私は間違っているかもしれません

one Pentagon robot scientist told me

あるペンタゴンの

that I was. He said, "There's no real

ロボット科学者が言うには

social, ethical, moral issues when it comes

「ロボットにとっては

to robots.

間違った人間を繰り返し殺さない限り

That is," he added, "unless the machine

社会的、倫理的、道徳的な問題などなく

kills the wrong people repeatedly.

そうなったとしても

Then it's just a product recall issue."

それは単なるリコール問題です」

And so the ending point for this is

ここで最後に言いたい事は 我々は

that actually, we can turn to Hollywood.

ハリウッドを参考にする事ができるということです

A few years ago, Hollywood gathered

数年前 ハリウッドはあらゆる

all the top characters and created

キャラクターを集め ハリウッドの史上の

a list of the top 100 heroes and

トップ100のヒーローと

top 100 villains of all of Hollywood history,

トップ100の悪役リストを作りました

the characters that represented the best

最高と最悪の人間性を併せ持つ

and worst of humanity.

１キャラクターだけが

Only one character made it onto both lists:

両方のリストに入りました

The Terminator, a robot killing machine.

ターミネーター 、ロボットの殺人マシンです

And so that points to the fact that

これは我々の機械が

our machines can be used

良い事にも悪い事にも

for both good and evil, but for me

使われうる事を示していますが

it points to the fact that there's a duality

私はこれを 人間が持つ二重性を

of humans as well.

示しているとも思います

This week is a celebration

今週は我々の

of our creativity. Our creativity

創造性を祝う週です

has taken our species to the stars.

創造性は私たちを星に送り

Our creativity has created works of arts

芸術作品を創造し

and literature to express our love.

我々の愛を文字で表現し

And now, we're using our creativity

そして今 我々はその創造性を

in a certain direction, to build fantastic

信じられない性能を持った素晴らしい機械を

machines with incredible capabilities,

作るという方向に使っています

maybe even one day

いつの日か 全く新しい人種に

an entirely new species.

なるかも知れません

But one of the main reasons that we're

しかしこのようなことは

doing that is because of our drive

お互いを破壊するという原動力に

to destroy each other, and so the question

突き動かされており

we all should ask:

我々一人ひとりが自問するべきでしょう

is it our machines, or is it us

戦争を起こそうとしているのは機械なのか

that's wired for war?

あるいは我々なのか？

Thank you. (Applause)

ありがとう （拍手）