Military robots and the future of war | P.W. Singer

Vertaald door: Remco van Duijvenvoorde Nagekeken door: Axel Saffran

I thought I'd begin with a scene of war.

Ik wilde met een oorlogsscene beginnen.

There was little to warn of the danger ahead.

Er was weinig waarschuwing vooraf.

The Iraqi insurgent had placed the IED,

De Iraakse opstandeling plaatste een IED,

an Improvised Explosive Device,

een geïmproviseerd explosief,

along the side of the road with great care.

zorgvuldig langs de kant van de weg.

By 2006, there were more than 2,500

In 2006 waren er meer dan 2.500

of these attacks every single month,

van deze aanvallen per maand,

and they were the leading cause of

en zij waren de belangrijkste oorzaak

casualties among American soldiers

van slachtoffers onder Amerikaanse soldaten

and Iraqi civilians.

en Iraakse burgers.

The team that was hunting for this IED

Het team dat deze IED opspoorde

is called an EOD team—

heet de EOD -

Explosives Ordinance Disposal—and

'Explosives Ordinance Disposal' - en

they're the pointy end of the spear in the

zij zijn de voorhoede in de

American effort to suppress these roadside bombs.

Amerikaanse strijd tegen deze bermbommen.

Each EOD team goes out on about

Elk EOD team rukt ongeveer

600 of these bomb calls every year,

600 keer per jaar uit,

defusing about two bombs a day.

ongeveer twee bommen per dag.

Perhaps the best sign of how valuable they

Het beste voorbeeld van hoe waardevol ze zijn

are to the war effort, is that

voor de oorlogsinspanningen, is dat

the Iraqi insurgents put a $50,000 bounty

de Iraakse opstandelingen een beloning van 50.000 dollar

on the head of a single EOD soldier.

uitloven op het hoofd van een EOD soldaat.

Unfortunately, this particular call

Helaas liep het bij deze oproep

would not end well.

niet goed af.

By the time the soldier advanced close

Tegen de tijd dat de soldaat dichtbij

enough to see the telltale wires

genoeg was om de bedrading te zien,

of the bomb, it exploded in a wave of flame.

explodeerde deze in een bal van vuur.

Now, depending how close you are

Afhankelijk van de afstand

and how much explosive has been packed

en de gebruikte hoeveelheid explosief materiaal

into that bomb, it can cause death

kan het de dood veroorzaken

or injury. You have to be as far as

of verwonding. Je moet minstens

50 yards away to escape that.

45 meter afstand hebben om dat te voorkomen.

The blast is so strong it can even break

De explosie kan zelfs je botten breken,

your limbs, even if you're not hit.

ook al word je niet geraakt.

That soldier had been on top of the bomb.

De soldaat zat boven de bom.

And so when the rest of the team advanced

Toen de rest van het team ter plaatse kwam,

they found little left. And that night the unit's

waren er weinig restanten. Die avond had

commander did a sad duty, and he wrote

de commandant de droevige plicht een

a condolence letter back to the United

condoleancebrief naar de Verenigde Staten

States, and he talked about how hard the

te sturen. Hij schreef hoe hard het verlies

loss had been on his unit, about the fact

aankwam bij zijn eenheid, over het feit

that they had lost their bravest soldier,

dat ze hun dapperste soldaat verloren.

a soldier who had saved their lives

Een soldaat die hun leven gered had,

many a time.

meer dan eens.

And he apologized

Hij verontschuldigde zich,

for not being able to bring them home.

dat hij hem niet naar huis kon brengen.

But then he talked up the silver lining

Daarna sprak hij over het zilveren randje

that he took away from the loss.

dat hij zag in het verlies.

"At least," as he wrote, "when a robot dies,

"Gelukkig," schreef hij, "als een robot sterft,

you don't have to write a letter

hoef je tenminste geen brief te schrijven

to its mother."

aan zijn moeder."

That scene sounds like science fiction,

Dit klinkt als sciencefiction,

but is battlefield reality already.

maar het is al realiteit op het slagveld.

The soldier in that case

In dit geval was de soldaat

was a 42-pound robot called a PackBot.

een 19 kilo zware robot, een 'Packbot'.

The chief's letter went, not to some

De brief van de commandant ging niet

farmhouse in Iowa like you see

naar een boerderij in Iowa,

in the old war movies, but went to

als in een oude oorlogsfilm,

the iRobot Company, which is

maar naar de iRobot Company,

named after the Asimov novel

genaamd naar de roman van Asimov,

and the not-so-great Will Smith movie,

en de niet zo fantastische film met Will Smith,

and... um... (Laughter)...

en... eeh... (Gelach)...

if you remember that

Als je je realiseert

in that fictional world, robots started out

dat in die fictieve wereld, robots begonnen

carrying out mundane chores, and then

met alledaagse klusjes, waarna ze beslissingen

they started taking on life-and-death decisions.

over leven en dood begonnen te nemen.

That's a reality we face today.

Dat is de realiteit van vandaag.

What we're going to do is actually just

We gaan nu achter mij

flash a series of photos behind me that

een fotoserie tonen van robots

show you the reality of robots used in war

die nu worden gebruikt in oorlogvoering,

right now or already at the prototype stage.

of die al in de prototypefase zijn.

It's just to give you a taste.

Het is om je alvast een voorproefje te geven.

Another way of putting it is you're not

Anders gezegd, je zult niets zien

going to see anything that's powered

dat wordt aangedreven

by Vulcan technology, or teenage

door Vulcan-technologie,

wizard hormones or anything like that.

of door hormonen van slimme tieners, of iets dergelijks.

This is all real. So why don't we

DIt is allemaal echt.

go ahead and start those pictures.

Dus laten we beginnen met de foto's.

Something big is going on in war today,

Er is iets belangrijks aan de gang in de oorlogvoering

and maybe even the history of humanity

en misschien wel in de geschiedenis van de mensheid.

itself. The U.S. military went into Iraq with

Het Amerikaanse leger ging naar Irak

a handful of drones in the air.

met een handjevol onbemande toestellen in de lucht.

We now have 5,300.

Dat zijn er nu 5.300.

We went in with zero unmanned ground

We zijn gegaan met nul onbemande grondsystemen.

systems. We now have 12,000.

Dat zijn er nu 12.000.

And the tech term "killer application"

En de technische term 'killer application'

takes on new meaning in this space.

krijgt in dit verband een nieuwe betekenis.

And we need to remember that we're

Onthoud hierbij dat we nu praten

talking about the Model T Fords,

over de T-Fordjes,

the Wright Flyers, compared

de Wright Flyers,

to what's coming soon.

vergeleken met wat er binnenkort aankomt.

That's where we're at right now.

Zo staan we er nu voor.

One of the people that I recently met with

Onlangs ontmoette ik

was an Air Force three-star general, and he

een driesterrengeneraal van de Luchtmacht

said basically, where we're headed very

en hij zei: "Waar het binnenkort heen gaat

soon is tens of thousands of robots

is dat tienduizenden robots

operating in our conflicts, and these

worden ingezet bij onze conflicten."

numbers matter, because we're not just

Deze getallen doen ertoe, omdat we niet alleen

talking about tens of thousands of today's

praten over de tienduizenden robots van vandaag,

robots, but tens of thousands of these

maar over tienduizenden van deze prototypes,

prototypes and tomorrow's robots, because

en de robots van morgen.

of course, one of the things that's operating

Want een van de wetten die opgaat

in technology is Moore's Law,

voor de technologie, is de wet van Moore,

that you can pack in more and more

waardoor steeds meer

computing power into those robots, and so

rekencapaciteit in die robots past.

flash forward around 25 years,

Als je 25 jaar vooruitspoelt,

if Moore's Law holds true,

en de wet van Moore blijkt correct,

those robots will be close to a billion times

dan zullen die robots bijna een miljard keer

more powerful in their computing than today.

meer rekenkracht hebben dan vandaag,

And so what that means is the kind of

Dat betekent dat dingen waarover

things that we used to only talk about at

we vroeger alleen praatten

science fiction conventions like Comic-Con

tijdens sciencefiction-congressen zoals Comic-Con

have to be talked about in the halls

besproken moeten worden in de machtscentra

of power and places like the Pentagon.

en plaatsen als het Pentagon.

A robots revolution is upon us.

Er staat ons een robotrevolutie te wachten.

Now, I need to be clear here.

Laat me duidelijk zijn.

I'm not talking about a revolution where you

Het is geen revolutie

have to worry about the Governor of

waarbij je je zorgen moet maken dat de gouverneur

California showing up at your door,

van Californië voor je deur staat,

a la the Terminator. (Laughter)

à la de Terminator. (Gelach)

When historians look at this period, they're

Historici die op deze periode terugkijken,

going to conclude that we're in a different

zullen concluderen dat dit een ander

type of revolution: a revolution in war,

type revolutie is, een revolutie in oorlogvoering.

like the invention of the atomic bomb.

Net als de uitvinding van de atoombom.

But it may be even bigger than that,

Misschien zelfs groter,

because our unmanned systems don't just

omdat onze onbemande systemen niet alleen

affect the "how" of war-fighting,

het 'hoe' van de oorlogvoering beïnvloeden,

they affect the "who" of fighting

ze beïnvloeden het 'wie' van het vechten

at its most fundamental level.

op het meest fundamentele niveau.

That is, every previous revolution in war, be

Iedere voorgaande revolutie in oorlog

it the machine gun, be it the atomic bomb,

bijvoorbeeld het machinegeweer of de atoombom

was about a system that either shot faster,

ging over een systeem dat of sneller schoot,

went further, had a bigger boom.

of verder ging, of een grotere knal gaf.

That's certainly the case with robotics, but

Dat is zeker het geval in robotica, maar

they also change the experience of the warrior

het verandert ook de ervaring van de militair

and even the very identity of the warrior.

en zelfs de kern van de identiteit van de militair.

Another way of putting this is that

Op een andere manier gezegd:

mankind's 5,000-year-old monopoly

het 5.000 jaar oude monopolie van de mens

on the fighting of war is breaking down

op het vechten in een oorlog,

in our very lifetime. I've spent

zal nog in onze tijd verloren gaan.

the last several years going around

Ik ben de laatste paar jaar bezig geweest

meeting with all the players in this field,

om alle spelers in dit veld te ontmoeten,

from the robot scientists to the science

van de robotwetenschappers

fiction authors who inspired them to the

tot de sciencefiction-schrijvers die hen inspireerden,

19-year-old drone pilots who are fighting

tot de 19-jarige piloten van onbemande toestellen,

from Nevada, to the four-star generals

die vanuit Nevada vechten, tot de viersterrengeneraals

who command them, to even the Iraqi

en zelfs de Iraakse opstandelingen

insurgents who they are targeting and what

die het doelwit zijn,

they think about our systems, and

en wat zij van deze systemen denken.

what I found interesting is not just

Wat ik interessant vond, waren niet alleen

their stories, but how their experiences

hun verhalen, maar hoe hun ervaringen wijzen op

point to these ripple effects that are going

uitwaaiereffecten die zich

outwards in our society, in our law

uitbreiden in onze samenleving, in onze wetten,

and our ethics, etc. And so what I'd like

en in onze ethiek.

to do with my remaining time is basically

In de de resterende tijd

flesh out a couple of these.

wil ik hier gedetailleerder op ingaan.

So the first is that the future of war,

Allereerst zal de toekomst van oorlogvoering,

even a robotics one, is not going to be

ook die op basis van robotica, niet een puur

purely an American one.

Amerikaanse aangelegenheid zijn.

The U.S. is currently ahead in military

De V.S. lopen nu voor

robotics right now, but we know that in

in militaire robotica, maar we weten dat er in

technology there's no such thing as

de technologie niet iets bestaat als

a permanent first move or advantage.

een permanente eerste stap of voordeel.

In a quick show of hands, how many

Even snel de hand opsteken: hoeveel

people in this room still use

mensen in deze zaal gebruiken nog steeds

Wang Computers? (Laughter)

Wang computers? (Gelach)

It's the same thing in war. The British and

Het is hetzelfde in oorlogvoering. De Britten

the French invented the tank.

en de Fransen vonden de tank uit.

The Germans figured out how

De Duitsers wisten hoe ze die

to use it right, and so what we have to

moesten gebruiken. Waar we

think about for the U.S. is that we are

aan moeten denken voor de V.S. is dat we

ahead right now, but you have

nu een voorsprong hebben, maar dat er

43 other countries out there

43 andere landen zijn

working on military robotics, and they

die werken aan militaire robotica. Daar zitten

include all the interesting countries like

interessante landen bij als

Russia, China, Pakistan, Iran.

Rusland, China, Pakistan, Iran.

And this raises a bigger worry for me.

Daarover maak ik me meer zorgen.

How do we move forward in this revolution

Hoe ontwikkelen we ons in deze revolutie,

given the state of our manufacturing

gezien het niveau van onze productie,

and the state of our science and

het niveau van onze wetenschap en

mathematics training in our schools?

wiskundig onderwijs in onze scholen?

Or another way of thinking about this is,

Of anders benaderd:

what does it mean to go to war increasingly

wat betekent het als de hardware

with soldiers whose hardware is made

van je soldaten in toenemende mate

in China and software is written in India?

uit China komt en software uit India?

But just as software has gone open-source,

Maar evenzeer als software open source werd,

so has warfare.

werd oorlogvoering dat ook.

Unlike an aircraft carrier or an atomic bomb,

In tegenstelling tot een vliegdekschip of een atoombom

you don't need a massive manufacturing

is er geen omvangrijk productiesysteem nodig

system to build robotics. A lot of it is

om robots te bouwen. Veel ervan is

off the shelf. A lot of it's even do-it-yourself.

uit voorraad verkrijgbaar. Veel is zelfs doe-het-zelf.

One of those things you just saw flashed

Wat je net voorbij zag komen

before you was a raven drone, the handheld

was een onbemand Raventoestel, uit de hand

tossed one. For about a thousand dollars,

te lanceren. Voor ongeveer 1.000 dollar

you can build one yourself, equivalent to

kunt er zelf eentje bouwen, gelijkwaardig

what the soldiers use in Iraq.

aan wat de soldaten in Irak gebruiken.

That raises another wrinkle when it comes

Dat werpt een volgende vraag op

to war and conflict. Good guys might play

over oorlog en conflict. Goeie lui spelen

around and work on these as hobby kits,

er een beetje mee als met een bouwdoos,

but so might bad guys.

maar kwaadwillenden wellicht ook.

This cross between robotics and things like

Dit kruispunt tussen robotica en zaken als

terrorism is going to be fascinating

terrorisme zal fascinerend worden

and even disturbing,

en zelfs zorgwekkend.

and we've already seen it start.

We hebben het begin al gezien.

During the war between Israel, a state,

In de oorlog tussen Israël, een staat,

and Hezbollah, a non-state actor,

en Hezbollah, een niet-statelijke actor,

the non-state actor flew

stuurde de niet-statelijke actor

four different drones against Israel.

vier onbemande toestellen naar Israël.

There's already a jihadi website

Er is al een Jihadi-website

that you can go on and remotely

waar je op afstand

detonate an IED in Iraq while sitting

een geïmproviseerd explosief kunt laten detoneren,

at your home computer.

gewoon thuis vanachter je computer.

And so I think what we're going to see is

Wat we volgens mij gaan zien

two trends take place with this.

zijn twee trends.

First is, you're going to reinforce the power

Als eerste zul je de macht versterken

of individuals against governments,

van individuen tegen regeringen.

but then the second is that

Als tweede zullen we een

we are going to see an expansion

uitbreiding zien van

in the realm of terrorism.

het bereik van terrorisme.

The future of it may be a cross between

In de toekomst kan dat een kruising zijn

al Qaeda 2.0 and the

tussen Al Qaida 2.0 en de

next generation of the Unabomber.

volgende generatie van de Unabomber.

And another way of thinking about this

Een andere manier om hier tegenaan te kijken,

is the fact that, remember, you don't have

is het feit dat je een robot er niet van hoeft

to convince a robot that they're gonna

te overtuigen dat hij na zijn dood

receive 72 virgins after they die

72 maagden krijgt om hem

to convince them to blow themselves up.

over te halen zichzelf op te blazen.

But the ripple effects of this are going to go

De uitwaaiereffecten hiervan zullen

out into our politics. One of the people that

onze politiek beïnvloeden. Eén van de mensen

I met with was a former Assistant Secretary of

die ik ontmoette was een voormalig adjunct-secretaris

Defense for Ronald Reagan, and he put it

van Ronald Reagan. Hij zei het zo:

this way: "I like these systems because

"Ik vind die systemen mooi omdat

they save American lives, but I worry about

ze Amerikaanse levens sparen, maar ik maak me zorgen

more marketization of wars,

over de vermarkting van oorlogen,

more shock-and-awe talk,

meer krachttaal die afleidt

to defray discussion of the costs.

van de kostendiscussie.

People are more likely to support the use

Mensen zullen eerder het gebruik van geweld

of force if they view it as costless."

ondersteunen als ze het als 'zonder kosten' beschouwen."

Robots for me take certain trends

Robots belichamen trends

that are already in play in our body politic,

die al aan de gang zijn in onze politiek.

and maybe take them to

Misschien brengen ze het

their logical ending point.

naar het logische eindpunt.

We don't have a draft. We don't

We hebben geen dienstplicht. We hebben

have declarations of war anymore.

geen oorlogsverklaringen meer.

We don't buy war bonds anymore.

We kopen geen oorlogsobligaties meer.

And now we have the fact that we're

Feit is nu, dat we onze Amerikaanse soldaten,

converting more and more of our American

die we anders in gevaar zouden brengen,

soldiers that we would send into harm's

steeds meer vervangen

way into machines, and so we may take

door machines en we stappen zo over die

those already lowering bars to war

toch al lage drempel

and drop them to the ground.

van oorlogvoeren heen.

But the future of war is also going to be

De toekomst van oorlogvoering zal ook

a YouTube war.

een YouTube-oorlog worden.

That is, our new technologies don't merely

Onze nieuwe technologieën houden mensen

remove humans from risk.

niet alleen uit de buurt van risico's.

They also record everything that they see.

Ze nemen ook alles op wat ze zien.

So they don't just delink the public:

Ze verbreken de link met het volk niet alleen,

they reshape its relationship with war.

ze transformeren diens relatie met oorlog.

There's already several thousand

Er zijn nu al enige duizenden

video clips of combat footage from Iraq

videoclips met beeldmateriaal van de strijd

on YouTube right now,

in Irak op YouTube,

most of it gathered by drones.

de meeste opgenomen met onbemande toestellen.

Now, this could be a good thing.

Het kan een voordeel zijn.

It could be building connections between

Het kan het thuisfront en het oorlogsfront

the home front and the war front

met elkaar verbinden

as never before.

als nooit tevoren.

But remember, this is taking place

Maar bedenk dat dit plaatsvindt

in our strange, weird world, and so

in onze vreemde, gekke wereld.

inevitably the ability to download these

Onvermijdelijk is, dat de mogelijkheid

video clips to, you know, your iPod

deze clips te downloaden naar je iPod,

or your Zune gives you

of je Zune, je de mogelijkheid

the ability to turn it into entertainment.

geeft het in entertainment te veranderen.

Soldiers have a name for these clips.

Soldaten hebben een naam voor dit soort clips.

They call it war porn.

Ze noemen het oorlogsporno.

The typical one that I was sent was

Een typisch voorbeeld kreeg ik per email.

an email that had an attachment of

Bijgevoegd zat een video

video of a Predator strike taking out

van een Predatoraanval die een

an enemy site. Missile hits,

vijandelijke stelling vernietigde. Raketinslagen,

bodies burst into the air with the explosion.

lichamen die door explosies de lucht invlogen.

It was set to music.

Er was muziek onder gezet.

It was set to the pop song

Het nummer was

"I Just Want To Fly" by Sugar Ray.

"I Just Want to Fly" van Sugar Ray.

This ability to watch more

Deze mogelijkheid om meer te zien

but experience less creates a wrinkle

maar minder te voelen, creëert een oneffenheid

in the public's relationship with war.

bij het publiek in relatie tot oorlog.

I think about this with a sports parallel.

Ik denk hierbij analoog aan sport.

It's like the difference between

Hetzelfde verschil ontstaat

watching an NBA game, a professional

als je kijkt naar een NBA-wedstrijd, professioneel

basketball game on TV, where the athletes

basketball, op TV, waar de sporters

are tiny figures on the screen, and

kleine figuurtjes op het scherm zijn,

being at that basketball game in person

of zelf aanwezig zijn bij de wedstrijd,

and realizing what someone seven feet

waarbij je je realiseert hoe iemand van 2,10 meter

really does look like.

er echt uitziet.

But we have to remember,

We moeten onthouden

these are just the clips.

dat dit maar de clips zijn.

These are just the ESPN SportsCenter

Dit zijn maar de Studio Sport-samenvattingen

version of the game. They lose the context.

van de wedstrijd.

They lose the strategy.

Ze verliezen de strategie.

They lose the humanity. War just

Ze verliezen de menselijkheid.

becomes slam dunks and smart bombs.

Oorlog verwordt tot doelpunten en slimme bommen.

Now the irony of all this is that

De ironie van dit alles is dat,

while the future of war may involve

terwijl de toekomst van oorlogvoering

more and more machines,

steeds meer over machines gaat,

it's our human psychology that's driving

onze menselijke psychologie achter

all of this, it's our human failings

dit alles zit. Onze menselijke tekortkomingen

that are leading to these wars.

leiden tot deze oorlogen.

So one example of this that has

Een voorbeeld hiervan, dat

big resonance in the policy realm is

veel weerklank vindt bij beleidsmakers,

how this plays out on our very real

is hoe dit uitwerkt op onze zeer reële

war of ideas that we're fighting

oorlog van ideeën die we uitvechten

against radical groups.

met radicale groepen.

What is the message that we think we are

Welke boodschap denken we uit te zenden

sending with these machines versus what

met deze machines, versus de boodschap

is being received in terms of the message.

die aan de andere kant wordt ontvangen.

So one of the people that I met was

Een van de mensen die ik ontmoette,

a senior Bush Administration official,

een hoge functionaris uit de regering Bush,

who had this to say about

zei het volgende over

our unmanning of war:

onze onbemanning van de oorlog:

"It plays to our strength. The thing that

"Het versterkt onze kracht. Waar mensen

scares people is our technology."

bang voor zijn, is onze technologie."

But when you go out and meet with people,

Als je er op uittrekt en mensen ontmoet,

for example in Lebanon, it's a very

bijvoorbeeld in Libanon, is dat

different story. One of the people

een heel ander verhaal. Een van de mensen

I met with there was a news editor, and

die ik ontmoette was nieuwsredacteur.

we're talking as a drone is flying above him,

We praatten terwijl een onbemand toestel overvloog.

and this is what he had to say.

Dit is wat hij te zeggen had:

"This is just another sign of the coldhearted

"Dit is het zoveelste teken van koude mensen,

cruel Israelis and Americans,

wrede Israëli's en Amerikanen.

who are cowards because

Het zijn lafaards omdat

they send out machines to fight us.

ze machines sturen om tegen ons te vechten.

They don't want to fight us like real men,

Ze willen niet als echte mannen tegen ons vechten,

but they're afraid to fight,

want ze zijn bang om te vechten,

so we just have to kill a few of their soldiers

dus moeten we gewoon een paar van hun soldaten doden

to defeat them."

om ze te verslaan."

The future of war also is featuring

De toekomst van de oorlog wordt gekenmerkt

a new type of warrior,

door een nieuw type militair.

and it's actually redefining the experience

Het herdefinieert de beleving van

of going to war.

ten strijde trekken.

You can call this a cubicle warrior.

Je kunt dit de werkplekkrijger noemen.

This is what one Predator drone pilot

Een Predatorpiloot omschreef

described of his experience fighting

zijn ervaring van het vechten

in the Iraq War while never leaving Nevada.

in de oorlog met Irak, terwijl hij nooit buiten Nevada kwam:

"You're going to war for 12 hours,

"Je gaat 12 uur vechten,

shooting weapons at targets,

beschiet doelen met wapens,

directing kills on enemy combatants,

doodt vijandelijke strijders.

and then you get in the car

Dan stap je in je auto,

and you drive home and within 20 minutes,

rijdt naar huis en binnen 20 minuten

you're sitting at the dinner table

zit je aan de eettafel

talking to your kids about their homework."

met je kinderen over hun huiswerk te praten."

Now, the psychological balancing

Het psychologisch balanceren

of those experiences is incredibly tough,

van deze ervaringen is ontzettend moeilijk.

and in fact those drone pilots have

Veel van deze piloten hebben

higher rates of PTSD than many

méér last van posttraumatische stress

of the units physically in Iraq.

dan eenheden die fysiek aanwezig waren in Irak.

But some have worries that this

Sommigen maken zich zorgen dat

disconnection will lead to something else,

deze loskoppeling tot iets anders leidt.

that it might make the contemplation of war

Dat het de bereidheid tot oorlogsmisdaden

crimes a lot easier when you have

veel gemakkelijker maakt.

this distance. "It's like a video game,"

"Het is net een videospelletje",

is what one young pilot described to me

is hoe een jonge piloot omschreef

of taking out enemy troops from afar.

hoe hij op afstand troepen elimineerde.

As anyone who's played Grand Theft Auto

Iedereen die Grand Theft Auto gespeeld heeft

knows, we do things in the video world

weet dat we in een virtuele wereld dingen doen,

that we wouldn't do face to face.

die we in het echt niet zouden doen.

So much of what you're hearing from me

Veel van wat jullie van mij horen,

is that there's another side

gaat over de andere kant

to technologic revolutions,

van technologische revoluties.

and that it's shaping our present

Het vormt ons heden en wellicht

and maybe will shape our future of war.

onze toekomstige oorlogvoering.

Moore's Law is operative,

De Wet van Moore is van toepassing,

but so's Murphy's Law.

maar ook de Wet van Murphy.

The fog of war isn't being lifted.

De oorlogsmist trekt niet op.

The enemy has a vote.

De vijand heeft een stem.

We're gaining incredible new capabilities,

We krijgen ongelofelijke, nieuwe mogelijkheden.

but we're also seeing and experiencing

We zien en ervaren ook

new human dilemmas. Now,

nieuwe menselijke dilemma's.

sometimes these are just "oops" moments,

Soms zijn het gewoon "oops"-momenten.

which is what the head of a robotics

Zo omschreef het hoofd van een roboticabedrijf het.

company described it, you just have

Het zijn gewoon

"oops" moments. Well, what are

"oops"-momenten. Wat zijn

"oops" moments with robots in war?

"oops"-momenten bij oorlogsrobots?

Well, sometimes they're funny. Sometimes,

Soms zijn ze best grappig.

they're like that scene from the

Soms zijn ze net als die scene uit

Eddie Murphy movie "Best Defense,"

de film met Eddy Murphy, "Best Defense",

playing out in reality, where they tested out

waarin ze een robot met een

a machine gun-armed robot, and during

machinegeweer testten.

the demonstration it started spinning

Tijdens de demonstratie begon hij rond te draaien

in a circle and pointed its machine gun

en richtte het machinegeweer

at the reviewing stand of VIPs.

op de tribune met de VIP's.

Fortunately the weapon wasn't loaded

Gelukkig was het wapen niet geladen

and no one was hurt, but other times

en raakte niemand gewond.

"oops" moments are tragic,

Andere "oops"-momenten zijn tragisch,

such as last year in South Africa, where

zoals afgelopen jaar in Zuid Afrika,

an anti-aircraft cannon had a

waar een anti-vliegtuigkanon een

"software glitch," and actually did turn on

"softwarefoutje" had, inschakelde

and fired, and nine soldiers were killed.

en vuurde, waarbij negen soldaten omkwamen.

We have new wrinkles in the laws of war

Er zijn problemen met de regels van oorlogvoering

and accountability. What do we do

en verantwoording. Wat doen we

with things like unmanned slaughter?

met zaken als onbemande doodslag?

What is unmanned slaughter?

Wat is onbemande doodslag?

We've already had three instances of

Er zijn al drie voorbeelden van

Predator drone strikes where we thought

Predatoraanvallen, waarbij we dachten

we got bin Laden, and it turned out

dat we Bin Laden hadden, maar

not to be the case.

dat bleek niet zo te zijn.

And this is where we're at right now.

Daar staan we nu.

This is not even talking about armed,

Ik heb het niet eens over gewapende,

autonomous systems

autonome systemen,

with full authority to use force.

met het gezag om geweld te gebruiken.

And do not believe that that isn't coming.

En geloof maar, dat dat er aan zit te komen.

During my research I came across

Tijdens mijn onderzoek kwam ik

four different Pentagon projects

vier verschillende Pentagonprojecten tegen

on different aspects of that.

over verschillende aspecten hiervan.

And so you have this question:

Nu rijst de vraag:

what does this lead to issues like

"Waar leidt dit toe in kwesties rond

war crimes? Robots are emotionless, so

oorlogsmisdaden?" Robots hebben geen emotie,

they don't get upset if their buddy is killed.

ze raken niet van streek als hun maat wordt gedood.

They don't commit crimes of rage

Ze plegen geen misdaden uit woede

and revenge.

en wraak.

But robots are emotionless.

Maar, robots hebben geen emotie.

They see an 80-year-old grandmother

Ze zien een tachtigjarige oma

in a wheelchair the same way they see

in een rolstoel op dezelfde manier als

a T-80 tank: they're both

ze een T-80 tank zien: het zijn beide

just a series of zeroes and ones.

slechts een serie enen en nullen.

And so we have this question to figure out:

We moeten een antwoord vinden op de vraag:

How do we catch up our 20th century

"Hoe maken we onze 20e-eeuwse wetten

laws of war, that are so old right now

die nu zo oud zijn

that they could qualify for Medicare,

dat ze voor pensioen in aanmerking komen,

to these 21st century technologies?

geschikt voor deze 21e-eeuwse technologie?"

And so, in conclusion, I've talked about

Tenslotte: ik heb gesproken over

what seems the future of war,

wat de toekomst van oorlog lijkt te zijn.

but notice that I've only used

Let wel: ik heb alleen

real world examples and you've only seen

echte voorbeelden gebruikt. Jullie hebben alleen

real world pictures and videos.

echte beelden en video's gezien.

And so this sets a great challenge for

Hier ligt een grote uitdaging

all of us that we have to worry about well

die ons allemaal zorgen moet baren

before you have to worry about your

ruim voordat we ons er zorgen over maken,

Roomba sucking the life away from you.

dat onze Roomba het leven uit ons wegzuigt.

Are we going to let the fact that what's

Laten we het sciencefiction-gehalte

unveiling itself right now in war

van wat zich nu in oorlogvoering ontvouwt,

sounds like science fiction and therefore

als excuus dienen om te

keeps us in denial?

kunnen blijven ontkennen?

Are we going to face the reality

Of gaan we de werkelijkheid onder ogen zien

of 21st century war?

van de 21e-eeuwse oorlog?

Is our generation going to make the same

Zal onze huidige generatie dezelfde

mistake that a past generation did

fout maken als de vorige

with atomic weaponry, and not deal with

met atoomwapens en niets doen

the issues that surround it until

aan de problemen die eromheen hangen

Pandora's box is already opened up?

tot de doos van Pandora al geopend is?

Now, I could be wrong on this, and

Ik kan het fout hebben.

one Pentagon robot scientist told me

Een robotgeleerde van het Pantagon

that I was. He said, "There's no real

zei van wel. Hij zei: "Er zijn geen echte

social, ethical, moral issues when it comes

sociale, ethische en morele kwesties

to robots.

rond robots.

That is," he added, "unless the machine

Tenzij," voegde hij toe "de machines

kills the wrong people repeatedly.

herhaaldelijk de verkeerde mensen doodt.

Then it's just a product recall issue."

Dan wordt het gewoon een terugroepactie."

And so the ending point for this is

Het eindpunt van dit alles is,

that actually, we can turn to Hollywood.

dat we naar Hollywood kunnen kijken.

A few years ago, Hollywood gathered

Een paar jaar geleden werden in Hollywood

all the top characters and created

alle bekende personages verzameld op

a list of the top 100 heroes and

een top 100-lijst van helden

top 100 villains of all of Hollywood history,

en een top 100-lijst van schurken.

the characters that represented the best

De personages die het beste en het

and worst of humanity.

slechtste van de wereld vertegenwoordigden.

Only one character made it onto both lists:

Slechts één personage haalde beide lijsten.

The Terminator, a robot killing machine.

De Terminator, een robot-moordmachine.

And so that points to the fact that

Dit duidt op het feit dat we onze

our machines can be used

machines kunnen gebruiken

for both good and evil, but for me

ten goed en ten kwade. Voor mij

it points to the fact that there's a duality

duidt het ook op de dualiteit

of humans as well.

van mensen.

This week is a celebration

Deze week vieren we

of our creativity. Our creativity

onze creativiteit. Onze creativiteit

has taken our species to the stars.

bracht ons naar de sterren.

Our creativity has created works of arts

Onze creativiteit bracht kunstwerken en

and literature to express our love.

literatuur voort om onze liefde uit te drukken.

And now, we're using our creativity

Nu gebruiken we onze creativiteit

in a certain direction, to build fantastic

in een bepaalde richting, om fantastische

machines with incredible capabilities,

machines te bouwen met geweldige mogelijkheden.

maybe even one day

Misschien zelfs

an entirely new species.

een geheel nieuwe soort.

But one of the main reasons that we're

Maar de belangrijkste reden waarom

doing that is because of our drive

we dat doen, is onze neiging

to destroy each other, and so the question

elkaar te vernietigen.

we all should ask:

We moeten ons afvragen:

is it our machines, or is it us

zijn het onze machines,

that's wired for war?

of zijn wij zelf ontworpen voor oorlog?

Thank you. (Applause)

Dank u. (Applaus)