Military robots and the future of war | P.W. Singer

PW Singer : les robots militaires et l'avenir de la guerre

Traducteur: Elisabeth Buffard Relecteur: eric vautier

I thought I'd begin with a scene of war.

Je pensais commencer par une scène de guerre.

There was little to warn of the danger ahead.

Il n'y avait pas grand' chose pour avertir du danger à venir.

The Iraqi insurgent had placed the IED,

L'insurgé irakien avait placé l'engin explosif,

an Improvised Explosive Device,

un engin explosif improvisé,

along the side of the road with great care.

sur le côté de la route avec beaucoup de soin.

By 2006, there were more than 2,500

En 2006, il y a eu plus de 2 500

of these attacks every single month,

de ces attaques chaque mois,

and they were the leading cause of

et ils étaient la principale cause de

casualties among American soldiers

victimes parmi les soldats américains

and Iraqi civilians.

et les civils irakiens.

The team that was hunting for this IED

L'équipe qui chasse ces explosifs

is called an EOD team—

s'appelle une équipe EOD -

Explosives Ordinance Disposal—and

Equipe de neutralisation d'explosifs et

they're the pointy end of the spear in the

ils sont le fer de lance de

American effort to suppress these roadside bombs.

effort américain pour supprimer ces bombes artisanales.

Each EOD team goes out on about

Chaque équipe EOD sort sur environ

600 of these bomb calls every year,

600 de ces alertes à la bombe chaque année,

defusing about two bombs a day.

et désamorce environ deux bombes par jour.

Perhaps the best sign of how valuable they

Peut-être le meilleur signe de l'importance qu'elles ont

are to the war effort, is that

pour l'effort de guerre, c'est que

the Iraqi insurgents put a $50,000 bounty

les insurgés irakiens ont mis une prime de 50 000 $

on the head of a single EOD soldier.

sur la tête d'un seul soldat EOD.

Unfortunately, this particular call

Malheureusement, cet appel particulier

would not end well.

a mal fini.

By the time the soldier advanced close

Au moment où le soldat s'est avancé

enough to see the telltale wires

assez près pour voir les fils révélateurs

of the bomb, it exploded in a wave of flame.

de la bombe, elle a explosé dans une vague de flammes.

Now, depending how close you are

Maintenant, en fonction de votre proximité

and how much explosive has been packed

et de la quantité d'explosif qui a été emballée

into that bomb, it can cause death

dans cette bombe, elle peut tuer

or injury. You have to be as far as

ou blesser. Vous devez être à

50 yards away to escape that.

50 mètres au mois pour y échapper.

The blast is so strong it can even break

L'explosion est si forte qu'elle peut même briser

your limbs, even if you're not hit.

vos membres, même si vous n'êtes pas touché.

That soldier had been on top of the bomb.

Ce soldat était au-dessus de la bombe.

And so when the rest of the team advanced

Et donc quand le reste de l'équipe s"est avancé

they found little left. And that night the unit's

ils n'ont pas trouvé grand' chose. Et cette nuit-là

commander did a sad duty, and he wrote

le commandant de l'unité a rempli un triste devoir, il a écrit

a condolence letter back to the United

une lettre de condoléances aux États-Unis,

States, and he talked about how hard the

et il a dit à quel point cette perte

loss had been on his unit, about the fact

avait affecté son unité, comme ils

that they had lost their bravest soldier,

avaient perdu leur soldat le plus courageux,

a soldier who had saved their lives

un soldat qui avait sauvé leurs vies

many a time.

plus d'une fois.

And he apologized

Puis il s'est excusé

for not being able to bring them home.

de ne pas être en mesure de le ramener à la maison.

But then he talked up the silver lining

Mais alors il a parlé de ce qu'il y avait de bon

that he took away from the loss.

dans cette perte.

"At least," as he wrote, "when a robot dies,

"Au moins," comme il l'écrit, «quand un robot meurt,

you don't have to write a letter

vous n'avez pas à écrire une lettre

to its mother."

à sa mère."

That scene sounds like science fiction,

Cette scène ressemble à de la science-fiction,

but is battlefield reality already.

mais c'est déjà une réalité sur le champ de bataille.

The soldier in that case

Le soldat, dans ce cas

was a 42-pound robot called a PackBot.

était un robot de 21 kilos appelé PackBot.

The chief's letter went, not to some

La lettre du chef était adressée non pas à une

farmhouse in Iowa like you see

ferme dans l'Iowa comme on le voit

in the old war movies, but went to

dans les vieux films de guerre, mais à

the iRobot Company, which is

la Société iRobot, qui tire son nom

named after the Asimov novel

du roman d'Asimov

and the not-so-great Will Smith movie,

et du film pas si bon de Will Smith,

and... um... (Laughter)...

et ... euh ... (Rires) ...

if you remember that

si vous vous souvenez que

in that fictional world, robots started out

dans ce monde de fiction, les robots ont commencé

carrying out mundane chores, and then

par effectuer des tâches ordinaires, puis

they started taking on life-and-death decisions.

ils ont commencé à prendre des décisions de vie ou de mort.

That's a reality we face today.

C'est une réalité que nous connaissons aujourd'hui.

What we're going to do is actually just

Ce que nous allons faire est en fait juste

flash a series of photos behind me that

afficher rapidement une série de photos derrière moi,

show you the reality of robots used in war

qui vous montrent la réalité des robots utilisés dans la guerre

right now or already at the prototype stage.

en ce moment ou qui sont déjà au stade du prototype.

It's just to give you a taste.

C'est juste pour vous en donner une idée.

Another way of putting it is you're not

Autrement dit, vous ne verrez rien

going to see anything that's powered

de propulsé par une technologie vulcaine

by Vulcan technology, or teenage

ou des hormones de sorciers adolescents

wizard hormones or anything like that.

ou des choses de ce genre.

This is all real. So why don't we

Tout cela est vrai. Alors, pourquoi ne pas

go ahead and start those pictures.

commencer et lancer ces images?

Something big is going on in war today,

Quelque chose de grand se passe à la guerre aujourd'hui,

and maybe even the history of humanity

et peut-être même dans l'histoire de l'humanité

itself. The U.S. military went into Iraq with

elle-même. L'armée américaine est allée en Irak avec

a handful of drones in the air.

une poignée de drones dans le ciel.

We now have 5,300.

Nous en avons maintenant 5300.

We went in with zero unmanned ground

Nous sommes allés avec zéro système terrestre sans pilote.

systems. We now have 12,000.

Nous en avons maintenant 12000.

And the tech term "killer application"

Et le terme technique "application qui tue"

takes on new meaning in this space.

prend une nouvelle signification dans cet espace.

And we need to remember that we're

Nous devons nous rappeler que nous parlons

talking about the Model T Fords,

de la Ford Modèle T,

the Wright Flyers, compared

des avions des frères Wright, comparé

to what's coming soon.

à ce qui se profile.

That's where we're at right now.

C'est là que nous en sommes à l'heure actuelle.

One of the people that I recently met with

Une des personnes que j'ai rencontrée récemment avec

was an Air Force three-star general, and he

était un général trois étoiles de l'Armée de l'air, et il

said basically, where we're headed very

a dit en gros que nous allions très bientôt

soon is tens of thousands of robots

avoir des dizaines de milliers de robots

operating in our conflicts, and these

opérant dans nos conflits, et

numbers matter, because we're not just

ces chiffres avaient de l'importance parce que

talking about tens of thousands of today's

nous parlons non seulement de dizaines de milliers

robots, but tens of thousands of these

de robots aujourd'hui, mais de dizaines de milliers

prototypes and tomorrow's robots, because

de ces prototypes et ces robots de demain, parce que

of course, one of the things that's operating

bien entendu, l'une des choses qui est à l’œuvre

in technology is Moore's Law,

en technologie est la loi de Moore :

that you can pack in more and more

vous pouvez incorporer de plus en plus

computing power into those robots, and so

de puissance de calcul dans ces robots, et ainsi

flash forward around 25 years,

si on regarde environ 25 ans dans le futur,

if Moore's Law holds true,

si la loi de Moore s'avère exacte,

those robots will be close to a billion times

ces robots feront des calculs près d'un milliard de fois

more powerful in their computing than today.

plus puissants qu'aujourd'hui.

And so what that means is the kind of

Ça signifie que le genre de

things that we used to only talk about at

choses que nous ne faisions que parler

science fiction conventions like Comic-Con

dans les conventions de science-fiction comme la Comic-Con

have to be talked about in the halls

doivent être discutées dans les allées

of power and places like the Pentagon.

du pouvoir et des endroits comme le Pentagone.

A robots revolution is upon us.

Une révolution des robots est à nos portes.

Now, I need to be clear here.

Maintenant, je dois être clair.

I'm not talking about a revolution where you

Je ne parle pas d'une révolution où vous

have to worry about the Governor of

devez craindre que le gouverneur de

California showing up at your door,

Californie se pointe à votre porte,

a la the Terminator. (Laughter)

à la Terminator. (Rires)

When historians look at this period, they're

Lorsque les historiens se pencheront sur cette époque, ils

going to conclude that we're in a different

concluront que nous sommes dans un autre

type of revolution: a revolution in war,

type de révolution : une révolution de la guerre,

like the invention of the atomic bomb.

comme l'invention de la bombe atomique.

But it may be even bigger than that,

Mais c'est peut être encore plus que cela,

because our unmanned systems don't just

parce que nos systèmes sans pilote ne se contentent pas

affect the "how" of war-fighting,

d'affecter le «comment» du combat de guerre.

they affect the "who" of fighting

ils affectent le «qui» du combat

at its most fundamental level.

à son niveau le plus fondamental.

That is, every previous revolution in war, be

C'est-à-dire, chaque révolution précédente à la guerre,

it the machine gun, be it the atomic bomb,

qu'il s'agisse de la mitrailleuse, qu'il s'agisse de la bombe atomique,

was about a system that either shot faster,

reposait sur un système qui soit tirait plus vite,

went further, had a bigger boom.

soit allait plus loin, soit produisait une plus grande explosion.

That's certainly the case with robotics, but

C'est certainement le cas avec la robotique, mais

they also change the experience of the warrior

ça change également ce qui vit le combattant

and even the very identity of the warrior.

et même son identité.

Another way of putting this is that

Autrement dit,

mankind's 5,000-year-old monopoly

le monopole que l'humanité a depuis 5000 ans

on the fighting of war is breaking down

dans les combats de guerre se brise

in our very lifetime. I've spent

de notre vivant même. J'ai passé

the last several years going around

ces dernières années à aller

meeting with all the players in this field,

à la rencontre de tous les acteurs de ce domaine,

from the robot scientists to the science

des scientifiques qui conçoivent les robots

fiction authors who inspired them to the

aux auteurs de science fiction qui les ont inspirés,

19-year-old drone pilots who are fighting

en passant par les pilotes de drones de 19 ans du Nevada

from Nevada, to the four-star generals

qui se battent, aux généraux quatre étoiles

who command them, to even the Iraqi

qui les commandent, aux insurgés irakiens

insurgents who they are targeting and what

même qu'ils visent et ce

they think about our systems, and

qu'ils pensent de nos systèmes, et

what I found interesting is not just

ce que j'ai trouvé intéressant, c'est non seulement

their stories, but how their experiences

leurs histoires, mais la façon dont leurs expériences

point to these ripple effects that are going

pointent vers ces effets secondaires qui

outwards in our society, in our law

se propagent dans notre société, dans nos lois

and our ethics, etc. And so what I'd like

et notre éthique, etc Je voudrais

to do with my remaining time is basically

utiliser le temps qu'il me reste à essentiellement

flesh out a couple of these.

étoffer un ou deux de ces points.

So the first is that the future of war,

Le premier est que l'avenir de la guerre,

even a robotics one, is not going to be

même s'il est robotique, ne sera pas

purely an American one.

purement américain.

The U.S. is currently ahead in military

Les États-Unis sont actuellement en avance dans le domaine militaire

robotics right now, but we know that in

robotique en ce moment, mais nous savons qu'avec

technology there's no such thing as

la technologie, il n'y a pas d'avance ou d'avantage

a permanent first move or advantage.

permanent.

In a quick show of hands, how many

Levez la main pour répondre, combien de

people in this room still use

gens dans cette salle utilisent encore

Wang Computers? (Laughter)

des ordinateurs Wang? (Rires)

It's the same thing in war. The British and

C'est la même chose pour la guerre. Les Britanniques et les

the French invented the tank.

les Français ont inventé le blindé.

The Germans figured out how

Les Allemands ont compris comment

to use it right, and so what we have to

bien s'en servir, et donc ce à quoi nous devons

think about for the U.S. is that we are

penser aux États-Unis est que nous sommes

ahead right now, but you have

en avance en ce moment, mais vous avez

43 other countries out there

43 autres pays ici-bas

working on military robotics, and they

qui travaillent sur la robotique militaire, et,

include all the interesting countries like

parmi eux tous les pays intéressants, comme

Russia, China, Pakistan, Iran.

la Russie, la Chine, le Pakistan, l'Iran.

And this raises a bigger worry for me.

Cela me pose un gros souci.

How do we move forward in this revolution

Comment pouvons-nous aller de l'avant dans cette révolution

given the state of our manufacturing

étant donné l'état de nos usines

and the state of our science and

et l'état de nos sciences et des

mathematics training in our schools?

de l'enseignement des mathématiques dans nos écoles?

Or another way of thinking about this is,

Ou une autre façon de voir ça,

what does it mean to go to war increasingly

qu'est-ce que cela signifie d'aller de plus en plus à la guerre

with soldiers whose hardware is made

avec des soldats dont le matériel est fabriqué

in China and software is written in India?

en Chine et le logiciel écrit en Inde?

But just as software has gone open-source,

Mais, tout comme les logiciels sont devenus open-source,

so has warfare.

il en va de même pour la guerre.

Unlike an aircraft carrier or an atomic bomb,

Contrairement à un porte-avions ou une bombe atomique,

you don't need a massive manufacturing

vous n'avez pas besoin d'un système de fabrication massive

system to build robotics. A lot of it is

pour construire de la robotique. Une bonne partie

off the shelf. A lot of it's even do-it-yourself.

est en vente libre. Une bonne partie est même en kit à monter soi-même.

One of those things you just saw flashed

Une des choses qui vient de vous être projetée

before you was a raven drone, the handheld

était un drone corbeau, celui qu'on

tossed one. For about a thousand dollars,

lançait à la main. Pour environ un millier de dollars,

you can build one yourself, equivalent to

vous pouvez en construire un vous-même, ce qui équivaut à

what the soldiers use in Iraq.

ce que les soldats utilisent en Irak.

That raises another wrinkle when it comes

Cela soulève une autre petite question quand il s'agit

to war and conflict. Good guys might play

de guerre et de conflit. Les gentils s'amusent à

around and work on these as hobby kits,

travailler sur ces trucs comme des kits de bricolage,

but so might bad guys.

mais les méchants aussi.

This cross between robotics and things like

Ce croisement entre la robotique et des choses comme

terrorism is going to be fascinating

le terrorisme va être fascinant

and even disturbing,

et même inquiétant,

and we've already seen it start.

nous en avons déjà vu le début.

During the war between Israel, a state,

Pendant la guerre entre Israël, un état,

and Hezbollah, a non-state actor,

et le Hezbollah, un acteur non-étatique,

the non-state actor flew

l'acteur non-étatique a fait voler

four different drones against Israel.

quatre drones différents contre Israël.

There's already a jihadi website

Il y a déjà un site web djihadiste

that you can go on and remotely

sur lequel vous pouvez aller et à distance

detonate an IED in Iraq while sitting

détoner un engin explosif improvisé en Irak tout en étant

at your home computer.

sur votre ordinateur domestique.

And so I think what we're going to see is

Je pense donc que nous allons voir

two trends take place with this.

deux tendances qui vont s'installer.

First is, you're going to reinforce the power

La première, vous allez renforcer le pouvoir

of individuals against governments,

des individus contre les gouvernements,

but then the second is that

mais la seconde est que

we are going to see an expansion

nous allons voir une expansion

in the realm of terrorism.

dans le domaine du terrorisme.

The future of it may be a cross between

L'avenir de celui-ci peut être un croisement entre

al Qaeda 2.0 and the

Al-Qaïda 2.0 et la

next generation of the Unabomber.

prochaine génération d'Unabomber.

And another way of thinking about this

Une autre façon de voir ça,

is the fact that, remember, you don't have

est le fait que, rappelez-vous, vous n'avez pas

to convince a robot that they're gonna

à convaincre un robot qu'il va

receive 72 virgins after they die

recevoir 72 vierges après sa mort

to convince them to blow themselves up.

pour le convaincre de se faire exploser.

But the ripple effects of this are going to go

Mais les répercussions vont pénétrer

out into our politics. One of the people that

notre politique. Une des personnes que

I met with was a former Assistant Secretary of

j'ai rencontrée était un ancien secrétaire adjoint du

Defense for Ronald Reagan, and he put it

Ministère de la Défense de Ronald Reagan, et il l'a dit

this way: "I like these systems because

de la façon suivante : «J'aime ces systèmes, car

they save American lives, but I worry about

ils sauvent des vies américaines, mais je m'inquiète

more marketization of wars,

plus de la marchandisation des guerres,

more shock-and-awe talk,

plus des discours qui créent le choc et la peur,

to defray discussion of the costs.

pour défrayer la discussion des coûts.

People are more likely to support the use

Les gens sont plus enclins à soutenir l'utilisation

of force if they view it as costless."

de la force s'ils l'envisagent comme ne coûtant rien."

Robots for me take certain trends

Les robots pour moi prennent certaines tendances

that are already in play in our body politic,

qui sont déjà en jeu dans notre corps politique,

and maybe take them to

et les amènent peut-être

their logical ending point.

à leur point final logique.

We don't have a draft. We don't

Nous n'avons pas de projet. Nous ne faisons plus

have declarations of war anymore.

de déclarations de guerre.

We don't buy war bonds anymore.

Nous n'achetons plus d'emprunts de guerre.

And now we have the fact that we're

Maintenant nous avons le fait que nous

converting more and more of our American

convertissons de plus en plus de nos soldats

soldiers that we would send into harm's

américains que nous envoyons se battre

way into machines, and so we may take

dans des machines, et nous pouvons peut-être prendre

those already lowering bars to war

ces barres qui baissent déjà à la guerre

and drop them to the ground.

et les déposer sur le sol.

But the future of war is also going to be

Mais l'avenir de la guerre va également être

a YouTube war.

une guerre YouTube.

That is, our new technologies don't merely

En clair, nos nouvelles technologies ne se contentent pas

remove humans from risk.

de soustraire les humains au risque.

They also record everything that they see.

Elles enregistrent aussi tout ce qu'ils voient.

So they don't just delink the public:

Donc, elles ne se contentent pas d'éloigner le public :

they reshape its relationship with war.

elles remodèlent sa relation avec la guerre.

There's already several thousand

Il y a déjà plusieurs milliers de

video clips of combat footage from Iraq

de clips vidéo de séquences de combat en Irak

on YouTube right now,

sur YouTube en ce moment.

most of it gathered by drones.

la plupart recueillies par des drones.

Now, this could be a good thing.

Cela pourrait être une bonne chose.

It could be building connections between

Ça pourrait établir des liens entre

the home front and the war front

le front intérieur et le front de guerre

as never before.

comme jamais auparavant.

But remember, this is taking place

Mais rappelez-vous, ça se passe

in our strange, weird world, and so

dans notre monde étrange et bizarre, et donc

inevitably the ability to download these

inévitablement la possibilité de télécharger

video clips to, you know, your iPod

ces clips vidéo sur votre iPod

or your Zune gives you

ou votre Zune vous donne

the ability to turn it into entertainment.

la capacité de le transformer en divertissement.

Soldiers have a name for these clips.

Les soldats ont un nom pour ces clips.

They call it war porn.

Ils appellent ça du porno-guerre.

The typical one that I was sent was

Un exemple type qu'on m'a envoyé

an email that had an attachment of

était un e-mail avec en pièce jointe

video of a Predator strike taking out

une vidéo d'une attaque Predator éliminant

an enemy site. Missile hits,

un site ennemi. Des frappes de missiles,

bodies burst into the air with the explosion.

des corps détruits par l'explosion.

It was set to music.

Il a été mis en musique.

It was set to the pop song

au son d'une chanson pop,

"I Just Want To Fly" by Sugar Ray.

"I Just Want To Fly" par Sugar Ray.

This ability to watch more

Cette capacité à regarder plus

but experience less creates a wrinkle

mais à vivre moins crée un remous

in the public's relationship with war.

dans la relation du public avec la guerre.

I think about this with a sports parallel.

J'y pense en faisant un parallèle avec le sport.

It's like the difference between

C'est comme la différence entre

watching an NBA game, a professional

regarder un match de NBA, un match de basket

basketball game on TV, where the athletes

professionnel à la télévision, où les athlètes

are tiny figures on the screen, and

sont des silhouettes minuscules sur l'écran, et

being at that basketball game in person

se trouver en personne à un match de basket

and realizing what someone seven feet

et se rendre compte de ce à quoi quelqu'un qui mesure

really does look like.

2,10 mètres ressemble vraiment.

But we have to remember,

Mais nous devons nous rappeler,

these are just the clips.

ce ne sont que les clips.

These are just the ESPN SportsCenter

Ce ne sont que la version du jeu de

version of the game. They lose the context.

la chaîne ESPN. Ils perdent le contexte.

They lose the strategy.

Ils perdent la stratégie.

They lose the humanity. War just

Ils perdent l'humanité. La guerre

becomes slam dunks and smart bombs.

se réduit à des paniers marqués et des bombes intelligentes.

Now the irony of all this is that

Et l'ironie de tout cela, c'est que,

while the future of war may involve

alors que l'avenir de la guerre peut impliquer

more and more machines,

de plus en plus de machines,

it's our human psychology that's driving

c'est notre psychologie humaine qui est le moteur

all of this, it's our human failings

tout cela, ce sont nos faiblesses humaines

that are leading to these wars.

qui mènent à ces guerres.

So one example of this that has

Donc, un exemple qui a

big resonance in the policy realm is

un grand écho dans le domaine politique en est

how this plays out on our very real

comment cela joue sur notre guerre des idées

war of ideas that we're fighting

bien réelle que nous menons

against radical groups.

contre les groupes radicaux.

What is the message that we think we are

Quel est le message que nous pensons envoyer

sending with these machines versus what

avec ces machines par rapport à ce

is being received in terms of the message.

qui est reçu en termes du message.

So one of the people that I met was

L'une des personnes que j'ai rencontrées était

a senior Bush Administration official,

un représentant haut gradé de l'administration Bush,

who had this to say about

qui a eu ceci à dire quant à impliquer

our unmanning of war:

moins de nos hommes dans la guerre.

"It plays to our strength. The thing that

"Ça joue en notre force. La seule chose qui

scares people is our technology."

effraie les gens est notre technologie."

But when you go out and meet with people,

Mais quand vous allez à la rencontre des gens,

for example in Lebanon, it's a very

par exemple au Liban, c'est une toute

different story. One of the people

autre histoire. L'une des personnes

I met with there was a news editor, and

que j'ai rencontrée là-bas était rédacteur en chef, et

we're talking as a drone is flying above him,

nous parlons alors qu'un drone vole au dessus de lui,

and this is what he had to say.

et voilà ce qu'il avait à dire.

"This is just another sign of the coldhearted

"Ce n'est qu'un signe de plus de la cruauté insensible

cruel Israelis and Americans,

des Israéliens et des Américains,

who are cowards because

qui sont des lâches parce

they send out machines to fight us.

qu'ils envoient des machines pour nous combattre.

They don't want to fight us like real men,

Ils ne veulent pas nous combattre comme de vrais hommes,

but they're afraid to fight,

mais ils ont peur de se battre,

so we just have to kill a few of their soldiers

donc nous n'avons qu'à tuer quelques-uns de leurs soldats

to defeat them."

pour les vaincre."

The future of war also is featuring

L'avenir de la guerre se fait aussi avec

a new type of warrior,

un nouveau type de guerrier,

and it's actually redefining the experience

et il redéfinit effectivement ce que l'on vit

of going to war.

en allant à la guerre.

You can call this a cubicle warrior.

Vous pouvez appeler cela une cellule guerrière.

This is what one Predator drone pilot

C'est ainsi qu'un pilote de drone Predator

described of his experience fighting

a décrit son expérience des combats

in the Iraq War while never leaving Nevada.

dans la guerre en Irak sans jamais quitter le Nevada.

"You're going to war for 12 hours,

«Tu vas à la guerre pendant 12 heures,

shooting weapons at targets,

tu tires avec des armes sur des cibles,

directing kills on enemy combatants,

tu tues des ennemis,

and then you get in the car

puis tu montes dans ta voiture

and you drive home and within 20 minutes,

et tu rentres chez toi et en moins de 20 minutes,

you're sitting at the dinner table

tu es assis à table pour diner

talking to your kids about their homework."

et tu parles à tes enfants de leurs devoirs."

Now, the psychological balancing

L'équilibre psychologique

of those experiences is incredibly tough,

de ces expériences est incroyablement difficile,

and in fact those drone pilots have

et en fait les pilotes de drones ont

higher rates of PTSD than many

des taux plus élevés de stress post-traumatique que de bien

of the units physically in Iraq.

des unités physiquement présentes en Irak.

But some have worries that this

Mais certains craignent que cette

disconnection will lead to something else,

déconnexion mène à quelque chose d'autre,

that it might make the contemplation of war

qu'elle pourrait rendre la contemplation des crimes

crimes a lot easier when you have

de guerre beaucoup plus facile quand vous avez

this distance. "It's like a video game,"

cette distance. "C'est comme un jeu vidéo,"

is what one young pilot described to me

est ce qu'un jeune pilote m'a décrit

of taking out enemy troops from afar.

en parlant de descendre des soldats ennemis à distance.

As anyone who's played Grand Theft Auto

Comme tous ceux qui ont joué à Grand Theft Auto

knows, we do things in the video world

le savent, nous faisons des choses dans le monde virtuel

that we wouldn't do face to face.

que nous ne ferions pas face à face.

So much of what you're hearing from me

Donc, une grande partie de ce que vous m'entendez dire,

is that there's another side

c'est qu'il y a un autre aspect

to technologic revolutions,

aux révolutions technologiques,

and that it's shaping our present

et qu'il façonne notre présent

and maybe will shape our future of war.

et peut-être façonnera notre avenir de la guerre.

Moore's Law is operative,

La loi de Moore est opérationnelle,

but so's Murphy's Law.

mais la loi de Murphy l'est aussi.

The fog of war isn't being lifted.

Le brouillard de la guerre n'est pas levé.

The enemy has a vote.

L'ennemi a un vote.

We're gaining incredible new capabilities,

Nous gagnons de nouvelles capacités incroyables,

but we're also seeing and experiencing

mais nous voyons aussi et nous vivons

new human dilemmas. Now,

de nouveaux dilemmes humains. Maintenant,

sometimes these are just "oops" moments,

parfois ce ne sont que des moments de gaffes,

which is what the head of a robotics

et c'est ce que le chef d'une entreprise de robotique

company described it, you just have

a décrit, il vous suffit

"oops" moments. Well, what are

de moments de gaffes. Que sont des moments de gaffes

"oops" moments with robots in war?

pour des robots dans la guerre?

Well, sometimes they're funny. Sometimes,

Eh bien, parfois ils sont drôles. Parfois,

they're like that scene from the

ils sont comme si cette scène du

Eddie Murphy movie "Best Defense,"

film d'Eddie Murphy "Best Defense",

playing out in reality, where they tested out

se jouait dans la réalité, où on a testé

a machine gun-armed robot, and during

un robot mitrailleur, et pendant

the demonstration it started spinning

la démonstration, il a commencé à tourner

in a circle and pointed its machine gun

en cercle et a pointé sa mitrailleuse

at the reviewing stand of VIPs.

vers la tribune des VIP.

Fortunately the weapon wasn't loaded

Heureusement l'arme n'était pas chargée

and no one was hurt, but other times

et personne n'a été blessé, mais d'autres fois

"oops" moments are tragic,

les moments de gaffes sont tragiques,

such as last year in South Africa, where

comme l'année dernière en Afrique du Sud, où

an anti-aircraft cannon had a

un canon anti-aérien a eu une

"software glitch," and actually did turn on

"panne de logiciel," et en fait ne s'est pas allumé

and fired, and nine soldiers were killed.

et a tiré, et neuf soldats ont été tués.

We have new wrinkles in the laws of war

Nous avons de nouveaux remous dans les lois de la guerre

and accountability. What do we do

et la responsabilisation. Que faisons-nous

with things like unmanned slaughter?

avec des choses comme le massacre sans pilote?

What is unmanned slaughter?

Qu'est-ce que le massacre sans pilote?

We've already had three instances of

Nous avons déjà eu trois cas de

Predator drone strikes where we thought

drones Predator qui frappent où nous pensions

we got bin Laden, and it turned out

avoir Ben Laden, et il s'est avéré

not to be the case.

que ce n'était pas le cas.

And this is where we're at right now.

Voilà où nous en sommes à l'heure actuelle.

This is not even talking about armed,

On ne parle même pas

autonomous systems

de systèmes autonomes

with full authority to use force.

avec plein pouvoir de recourir à la force.

And do not believe that that isn't coming.

Et ne croyez pas que ce n'est pas ce qui se profile.

During my research I came across

Au cours de mes recherches je suis tombé sur

four different Pentagon projects

quatre différents projets du Pentagone

on different aspects of that.

sur les différents aspects de ces systèmes.

And so you have this question:

Et alors la question se pose :

what does this lead to issues like

à quoi est-ce que ça amène aux questions telles

war crimes? Robots are emotionless, so

que les crimes de guerre? Les robots n'ont pas d'émotion, de sorte

they don't get upset if their buddy is killed.

qu'ils ne sont pas bouleversés si leur copain est tué.

They don't commit crimes of rage

Ils ne commettent pas de crimes de rage

and revenge.

et de vengeance.

But robots are emotionless.

Mais les robots n'ont pas d'émotion.

They see an 80-year-old grandmother

Ils voient une grand-mère de 80 ans

in a wheelchair the same way they see

dans un fauteuil roulant de la même façon qu'ils voient

a T-80 tank: they're both

un char T-80 : les deux ne sont

just a series of zeroes and ones.

qu'une série de zéros et de uns.

And so we have this question to figure out:

Et nous avons donc cette question à résoudre :

How do we catch up our 20th century

comment pouvons-nous faire pour que nos lois de guerre

laws of war, that are so old right now

du 20e siècle qui sont si vieilles à présent

that they could qualify for Medicare,

qu'elles seraient éligibles à l'assurance-maladie,

to these 21st century technologies?

rattrapent ces technologies du 21e siècle.

And so, in conclusion, I've talked about

Et donc, en conclusion, je vous ai parlé

what seems the future of war,

ce qui semble l'avenir de la guerre,

but notice that I've only used

mais remarquez que je n'ai utilisé

real world examples and you've only seen

que des exemples du monde réel et vous n'avez vu que

real world pictures and videos.

des images du monde réel et des vidéos.

And so this sets a great challenge for

Et si cela pose un grand problème dont

all of us that we have to worry about well

nous tous devons nous soucier bien

before you have to worry about your

avant que vous ayez à vous soucier que votre

Roomba sucking the life away from you.

robot aspirateur vous tue par aspiration.

Are we going to let the fact that what's

Allons-nous laisser le fait que ce qui

unveiling itself right now in war

se dévoile en ce moment dans la guerre

sounds like science fiction and therefore

ressemble à de la science-fiction et donc

keeps us in denial?

nous maintient dans le déni?

Are we going to face the reality

Allons-nous faire face à la réalité

of 21st century war?

de la guerre du 21e siècle?

Is our generation going to make the same

Est-ce notre génération va faire la même

mistake that a past generation did

erreur qu'une génération passée a faite

with atomic weaponry, and not deal with

avec les armes atomiques, et ne pas faire face

the issues that surround it until

aux questions qui l'entourent jusqu'à ce

Pandora's box is already opened up?

la boîte de Pandore soit déjà ouverte?

Now, I could be wrong on this, and

Maintenant, je peux me tromper sur ce point, et

one Pentagon robot scientist told me

un chercheur en robotique du Pentagone m'a dit

that I was. He said, "There's no real

c'était le cas. Il a dit, "Il n'y a pas de vraies questions

social, ethical, moral issues when it comes

sociales, éthiques, morales quand il s'agit

to robots.

de robots."

That is," he added, "unless the machine

"C'est-à-dire," a-t-il ajouté, à moins que la machine

kills the wrong people repeatedly.

tue les mauvaises personnes à plusieurs reprises.

Then it's just a product recall issue."

Alors, c'est juste une question de rappel de produit."

And so the ending point for this is

Et donc le point final ici est

that actually, we can turn to Hollywood.

qu'en réalité, nous pouvons nous tourner vers Hollywood.

A few years ago, Hollywood gathered

Il y a quelques années, Hollywood a réuni

all the top characters and created

tous les personnages les plus populaires et créé

a list of the top 100 heroes and

une liste des 100 plus grands héros et

top 100 villains of all of Hollywood history,

les 100 meilleurs méchants de toute l'histoire de Hollywood,

the characters that represented the best

les personnages qui représentaient le meilleur

and worst of humanity.

et le pire de l'humanité.

Only one character made it onto both lists:

Un seul personnage a figuré sur les deux listes:

The Terminator, a robot killing machine.

Le Terminator, un robot tueur.

And so that points to the fact that

Cela souligne le fait que

our machines can be used

nos machines peuvent être utilisées

for both good and evil, but for me

à la fois pour le bien et le mal, mais pour moi

it points to the fact that there's a duality

elle souligne le fait qu'il y a une dualité

of humans as well.

des êtres humains aussi.

This week is a celebration

Cette semaine est une célébration

of our creativity. Our creativity

de notre créativité. Notre créativité

has taken our species to the stars.

a emmené notre espèce vers les étoiles.

Our creativity has created works of arts

Notre créativité a créé des œuvres d'arts

and literature to express our love.

et de la littérature pour exprimer notre amour.

And now, we're using our creativity

Et maintenant, nous utilisons notre créativité

in a certain direction, to build fantastic

dans une certaine direction, pour construire de fantastiques

machines with incredible capabilities,

machines avec des capacités incroyables,

maybe even one day

peut-être même un jour

an entirely new species.

une toute nouvelle espèce.

But one of the main reasons that we're

Mais l'une des principales raisons pour laquelle

doing that is because of our drive

nous le faisons, c'est à cause de notre instinct

to destroy each other, and so the question

à nous détruire les uns les autres, d'où la question

we all should ask:

que nous devrions tous nous poser :

is it our machines, or is it us

est-ce nos machines, ou est-ce nous

that's wired for war?

qui est câblé pour la guerre?

Thank you. (Applause)

Merci! (Applaudissements)