Military robots and the future of war | P.W. Singer

Översättare: Björn Fredberg Granskare: Lisbeth Pekkari

I thought I'd begin with a scene of war.

Jag tänkte inleda med en krigsscen.

There was little to warn of the danger ahead.

Det fanns ingen varning för kommande faror.

The Iraqi insurgent had placed the IED,

Irakiska upprorsmän hade placerat en IED,

an Improvised Explosive Device,

en improviserad sprängladdning,

along the side of the road with great care.

med stor noggrannhet vid vägkanten.

By 2006, there were more than 2,500

Fram till 2006 skedde fler än 2 500

of these attacks every single month,

sådana typer av attacker varje månad,

and they were the leading cause of

och de var den främsta orsaken till

skador bland amerikanska soldater

casualties among American soldiers

och civila irakier.

and Iraqi civilians.

Gruppen som sökte denna IED

The team that was hunting for this IED

is called an EOD team—

kallas för ett EOD-team -

för bortförande av explosiva laddningar,

Explosives Ordinance Disposal—and

och de är spjutspetsen i den

they're the pointy end of the spear in the

amerikanska ansträngningen att bli kvitt dessa vägbomber.

American effort to suppress these roadside bombs.

Varje EOD-team åker ut på ungefär

Each EOD team goes out on about

600 of these bomb calls every year,

600 anrop om vägbomber varje år,

defusing about two bombs a day.

och desarmerar cirka två bomber om dagen.

Perhaps the best sign of how valuable they

Det tydligaste tecknet på hur värdefulla

are to the war effort, is that

de är i krigsinsatsen, är att

upprorsmännen ger en belöning på 50 000 USD

the Iraqi insurgents put a $50,000 bounty

on the head of a single EOD soldier.

för att döda en enda EOD-soldat.

Unfortunately, this particular call

Olyckligtvis slutade just detta

would not end well.

anrop inte så bra.

By the time the soldier advanced close

När väl soldaten kommit nära

enough to see the telltale wires

nog för att se de avslöjande kablarna

från bomben, exploderade den i flammor.

of the bomb, it exploded in a wave of flame.

Now, depending how close you are

Beroende på hur nära du är

and how much explosive has been packed

och hur mycket explosiva ämnen

into that bomb, it can cause death

som packats in i bomben kan den orsaka död eller skada.

or injury. You have to be as far as

Man måste vara så långt som

50 yards away to escape that.

50 meter bort för att komma undan.

Stötvågen är så stark att den kan bryta av

The blast is so strong it can even break

ben och armar även om du inte träffas.

your limbs, even if you're not hit.

Den här soldaten hade varit ovanpå bomben.

That soldier had been on top of the bomb.

And so when the rest of the team advanced

Så när hans team kom fram fanns det mycket lite kvar.

they found little left. And that night the unit's

Den kvällen gjorde befälet sin sorgesamma plikt och skrev

commander did a sad duty, and he wrote

a condolence letter back to the United

ett kondoleansbrev tillbaka till USA,

States, and he talked about how hard the

där han talade om hur hårt förlusten

loss had been on his unit, about the fact

hade slagit mot enheten, över det faktum

that they had lost their bravest soldier,

att de hade förlorat sin tappraste soldat,

a soldier who had saved their lives

en soldat som hade räddat deras liv

many a time.

många gånger.

And he apologized

Och han bad om ursäkt

for not being able to bring them home.

för att han inte kunde ta med dem hem.

But then he talked up the silver lining

Men han talade ändå om ljusglimten

that he took away from the loss.

som lättade på sorgen över förlusten.

"At least," as he wrote, "when a robot dies,

Han skrev, "När en robot dör,

you don't have to write a letter

behöver man inte skriva ett brev

to its mother."

till dess mor".

That scene sounds like science fiction,

Scenen låter som science fiction,

but is battlefield reality already.

men är redan nu verklighet på slagfältet.

The soldier in that case

Soldaten i detta fall

was a 42-pound robot called a PackBot.

var en tjugo kilo tung robot, PackBot.

The chief's letter went, not to some

Enhetschefens brev skickades inte till ett

farmhouse in Iowa like you see

familjehem i Iowa som man ofta ser

in the old war movies, but went to

i gamla krigsfilmer, utan gick till

the iRobot Company, which is

företaget iRobot, som är

named after the Asimov novel

döpt efter Asimov-romanen

and the not-so-great Will Smith movie,

och den mindre bra Will Smith-filmen,

and... um... (Laughter)...

och... (Skratt)

if you remember that

Ni kanske minns att

in that fictional world, robots started out

i den fiktiva världen, började robotar

carrying out mundane chores, and then

utföra vardagliga sysslor, och sen

they started taking on life-and-death decisions.

ta sig an val som rörde liv och död.

That's a reality we face today.

Det är en verklighet vi möter idag.

What we're going to do is actually just

Det vi ska göra är faktiskt att

visa några bilder bakom mig

flash a series of photos behind me that

show you the reality of robots used in war

för att visa er verkligheten för robotar som används i krig

right now or already at the prototype stage.

just nu eller som är på prototyp-stadium.

It's just to give you a taste.

Bara för att ge er en försmak.

Another way of putting it is you're not

Man kan också säga att ni inte kommer att

going to see anything that's powered

se någonting som drivs av

teknologi från Vulcan, eller tonårs-

by Vulcan technology, or teenage

trollkarlars hormoner eller något sådant.

wizard hormones or anything like that.

This is all real. So why don't we

Allt detta är verkligt, så låt oss börja

go ahead and start those pictures.

att visa dessa bilder.

Någonting stort händer i krigsindustrin idag,

Something big is going on in war today,

and maybe even the history of humanity

och kanske även i mänsklighetens historia.

itself. The U.S. military went into Iraq with

USAs militär gick in i Irak med

a handful of drones in the air.

en handfull drönare i luften.

We now have 5,300.

Vi har nu 5 300 stycken.

We went in with zero unmanned ground

Vi gick in utan obemannade marksystem.

systems. We now have 12,000.

Vi har nu 12 000 stycken.

And the tech term "killer application"

Och den tekniska termen "killer application"

takes on new meaning in this space.

får en helt ny betydelse i denna sfär.

And we need to remember that we're

Vi måste komma ihåg att vi

talking about the Model T Fords,

talar om robotarnas T-Ford,

the Wright Flyers, compared

bröderna Wright-flygplan, jämfört

to what's coming soon.

med vad som komma skall.

That's where we're at right now.

Det är läget vi är i just nu.

En person jag nyligen mötte

One of the people that I recently met with

var trestjärnig general i flygvapnet, och han sa

was an Air Force three-star general, and he

i princip att vi är på väg mot

said basically, where we're headed very

soon is tens of thousands of robots

tiotusentals robotar

som sköter våra konflikter, och dessa siffror spelar roll

operating in our conflicts, and these

numbers matter, because we're not just

eftersom vi inte bara talar om tiotusentals av dagens robotar,

talking about tens of thousands of today's

robots, but tens of thousands of these

prototypes and tomorrow's robots, because

utan tiotusentals av dessa

prototyper och framtida robotar,

of course, one of the things that's operating

eftersom en av de saker som såklart påverkar

in technology is Moore's Law,

teknologisk utveckling är Moores lag

that you can pack in more and more

som säger att man kan få in mer och mer

computing power into those robots, and so

beräkningskraft i dessa robotar.

Ge det ungefär 25 år,

flash forward around 25 years,

if Moore's Law holds true,

och om Moores lag visar sig stämma,

those robots will be close to a billion times

kommer dessa robotar att ha närapå en miljard gånger

more powerful in their computing than today.

mer kraftfull beräkningskraft än idag.

And so what that means is the kind of

Vad detta betyder är att

saker som vi tidigare bara talade om

things that we used to only talk about at

science fiction conventions like Comic-Con

vid science fiction-konvent som Comic-con

have to be talked about in the halls

nu måste talas om i maktens korridorer

of power and places like the Pentagon.

på platser som Pentagon.

A robots revolution is upon us.

En robotrevolution har nått oss.

Now, I need to be clear here.

Men låt mig tala klarspråk.

I'm not talking about a revolution where you

Jag talar inte om en revolution där du

have to worry about the Governor of

behöver vara orolig att Kaliforniens guvernör

California showing up at your door,

ska dyka upp vid din dörr,

som Terminator. (Skratt)

a la the Terminator. (Laughter)

När historiker tittar på vår tid kommer de

When historians look at this period, they're

dra slutsatsen att vi är i en annan

going to conclude that we're in a different

sorts revolution: en krigsrevolution,

type of revolution: a revolution in war,

ungefär som när atombomben uppfanns.

like the invention of the atomic bomb.

But it may be even bigger than that,

Men det kan vara större än så,

eftersom våra obemannade system inte bara

because our unmanned systems don't just

påverkar "hur" vi slåss,

affect the "how" of war-fighting,

they affect the "who" of fighting

de påverkar också "vem" vi slåss mot

at its most fundamental level.

på en helt fundamental nivå.

That is, every previous revolution in war, be

Varje tidigare krigsrevolution, vare sig det handlar om

it the machine gun, be it the atomic bomb,

maskingeväret eller atombomben,

was about a system that either shot faster,

handlade om system som antingen sköt snabbare,

went further, had a bigger boom.

eller längre, eller smällde högre.

That's certainly the case with robotics, but

Det är inte minst sant när det gäller robotteknik,

they also change the experience of the warrior

men det förändrar också upplevelsen av krigaren

and even the very identity of the warrior.

och även en krigares identitet.

Another way of putting this is that

Ett annat sätt att uttrycka det här är

mankind's 5,000-year-old monopoly

att mänsklighetens 5000-åriga monopol

on the fighting of war is breaking down

på att utkämpa krig håller på att brytas ner

in our very lifetime. I've spent

under vår egen livstid.

Jag har tillbringat de senaste åren med

the last several years going around

att träffa alla aktörer inom detta område,

meeting with all the players in this field,

från robotingenjörerna till science fiction-författarna

from the robot scientists to the science

fiction authors who inspired them to the

som inspirerat dem, till de

19-åriga drönarpiloter som slåss

19-year-old drone pilots who are fighting

från Nevada, till fyrstjärniga generaler

from Nevada, to the four-star generals

som är deras befäl, och även de irakiska upprorsmän

who command them, to even the Iraqi

insurgents who they are targeting and what

som de söker, och tagit reda på

vad de tycker om våra system,

they think about our systems, and

och det intressanta är inte bara

what I found interesting is not just

deras berättelser utan hur deras erfarenheter

their stories, but how their experiences

point to these ripple effects that are going

visar ringar på vattnet som sprider sig

outwards in our society, in our law

utåt i vårt samhälle, våra lagar,

and our ethics, etc. And so what I'd like

vår etik och så vidare.

Det jag vill göra

to do with my remaining time is basically

med resten av tiden är

flesh out a couple of these.

att utveckla några av dessa.

So the first is that the future of war,

Det första är att krigets framtid,

even a robotics one, is not going to be

även robotkrig, inte kommer att vara

purely an American one.

enbart amerikansk.

The U.S. is currently ahead in military

USA ligger idag långt fram inom

robotics right now, but we know that in

robotteknik, men vi vet att inom

technology there's no such thing as

teknologi finns det ingenting som heter

a permanent first move or advantage.

ett permanent första drag eller övertag.

In a quick show of hands, how many

Snabb handuppräckning, hur många

people in this room still use

här använder fortfarande

Wang Computers? (Laughter)

Wang-datorer? (Skratt)

It's the same thing in war. The British and

Det är samma sak med krig.

the French invented the tank.

Britterna och fransmännen uppfann stridsvagnen.

The Germans figured out how

Tyskarna luskade ut hur

to use it right, and so what we have to

man använder den rätt, och det vi måste

think about for the U.S. is that we are

fundera över för USA är att vi har

ahead right now, but you have

ett försprång just nu, men det finns

43 other countries out there

43 andra länder där ute

som också utvecklar militär robotik,

working on military robotics, and they

inklusive alla intressanta länder som

include all the interesting countries like

Ryssland, Kina, Pakistan, Iran.

Russia, China, Pakistan, Iran.

And this raises a bigger worry for me.

Och det här väcker en än större oro hos mig.

How do we move forward in this revolution

Hur tar vi oss framåt i denna revolution

given the state of our manufacturing

givet tillståndet för vår tillverkning,

and the state of our science and

och tillståndet för vetenskaps- och

mathematics training in our schools?

matematikundervisningen i våra skolor?

Or another way of thinking about this is,

Ett annat sätt att tänka på det är,

what does it mean to go to war increasingly

vad innebär det att gå i krig allt mer

with soldiers whose hardware is made

med soldater vars hårdvara är gjord

in China and software is written in India?

i Kina och mjukvaran skriven i Indien?

But just as software has gone open-source,

På samma sätt som mjukvara har blivit öppen källkod,

so has warfare.

har även krigskonst blivit det.

Unlike an aircraft carrier or an atomic bomb,

Till skillnad från ett hangarfartyg eller en atombomb,

you don't need a massive manufacturing

behöver man inte ett massivt system

för att bygga robotar.

system to build robotics. A lot of it is

En hel del finns att köpa.

off the shelf. A lot of it's even do-it-yourself.

En del går även att bygga själv.

One of those things you just saw flashed

En av sakerna som precis blixtrade förbi

before you was a raven drone, the handheld

var en Raven-drönare, den handhållna som kastas.

tossed one. For about a thousand dollars,

För omkring tusen dollar

you can build one yourself, equivalent to

kan man bygga en själv, likvärdig med

what the soldiers use in Iraq.

dem som soldaterna använder i Irak.

Det väcker en annan fråga när det gäller krig och konflikt.

That raises another wrinkle when it comes

to war and conflict. Good guys might play

De goda kanske leker

around and work on these as hobby kits,

och fixar med dem som hobby,

but so might bad guys.

men det kan också de onda göra.

This cross between robotics and things like

Denna korsning mellan robotteknik

terrorism is going to be fascinating

och terrorism kommer att vara fascinerande

and even disturbing,

men även alarmerande,

and we've already seen it start.

och vi har redan sett dess början.

During the war between Israel, a state,

Under kriget mellan staten Israel

and Hezbollah, a non-state actor,

och Hizbollah, en icke-statlig aktör,

the non-state actor flew

flög den icke-statliga aktören

four different drones against Israel.

fyra olika drönare mot Israel.

There's already a jihadi website

Det finns redan en jihadistisk hemsida

that you can go on and remotely

dit man kan gå och fjärrdetonera

detonate an IED in Iraq while sitting

en IED i Irak från sin hemdator.

at your home computer.

And so I think what we're going to see is

Det jag tror vi kommer att se är

two trends take place with this.

att två nya trender kommer ut ur det här.

First is, you're going to reinforce the power

Först och främst kommer makten att stärkas

of individuals against governments,

hos individer gentemot regeringar,

but then the second is that

men den andra sidan av det är

we are going to see an expansion

att vi kommer se en utökning i aktivitet

in the realm of terrorism.

när det kommer till terrorism.

The future of it may be a cross between

Framtiden kan bli en korsning

al Qaeda 2.0 and the

mellan Al-Qaida 2.0

next generation of the Unabomber.

och nästa generations Unabombare.

And another way of thinking about this

Ett annat sätt att tänka kring det här

is the fact that, remember, you don't have

är det faktum att man inte behöver

to convince a robot that they're gonna

övertyga en robot om att den kommer

receive 72 virgins after they die

få 72 jungfrur efter att den har dött

to convince them to blow themselves up.

för att övertyga den om att spränga sig själv.

But the ripple effects of this are going to go

Ringarna på vattnet kommer nå

ända till våra politiker.

out into our politics. One of the people that

En av de människor jag träffat

I met with was a former Assistant Secretary of

var tidigare vice försvarsminister

Defense for Ronald Reagan, and he put it

till Ronald Reagan, och han uttryckte sig så här:

this way: "I like these systems because

"Jag gillar dessa system eftersom

they save American lives, but I worry about

de räddar amerikanska liv, men jag oroar mig

more marketization of wars,

för en större marknadisering av krig,

more shock-and-awe talk,

mer prat om chock och fruktan,

to defray discussion of the costs.

för att förvilla kostnadsdiskussionerna.

People are more likely to support the use

Folk är mer benägna att stödja användande av våld

of force if they view it as costless."

om de ser det som kostnadsfritt."

Robots for me take certain trends

För mig tar robotar vissa trender

that are already in play in our body politic,

som redan är igång i vår förvaltning,

and maybe take them to

och drar dem kanske till sin logiska ändpunkt.

their logical ending point.

We don't have a draft. We don't

Vi har inte krigsinkallelse.

have declarations of war anymore.

Vi har inte krigsförklaringar längre.

Vi köper inte krigsobligationer längre.

We don't buy war bonds anymore.

And now we have the fact that we're

Och nu när det är så att vi

converting more and more of our American

omvandlar fler och fler amerikanska

soldiers that we would send into harm's

soldater som skulle skickas till fronten,

way into machines, and so we may take

till maskiner, tar vi de redan

those already lowering bars to war

låga trösklarna för att gå till krig

and drop them to the ground.

och drar ner dem till marknivå.

But the future of war is also going to be

Men framtidens krig kommer också vara

a YouTube war.

ett YouTube-krig.

That is, our new technologies don't merely

Våra nya teknologier tar inte bara

remove humans from risk.

bort människor från riskområden.

They also record everything that they see.

De spelar också in allt de ser.

So they don't just delink the public:

Så de kopplar inte bara bort allmänheten:

they reshape its relationship with war.

de omformar deras relation till krig.

There's already several thousand

Det finns redan flera tusen

video clips of combat footage from Iraq

filmklipp med stridsinspelningar från Irak

on YouTube right now,

på YouTube,

most of it gathered by drones.

det mesta insamlat av drönare.

Now, this could be a good thing.

Men, det skulle kunna vara bra.

It could be building connections between

Det skulle kunna skapa kopplingar

the home front and the war front

mellan hemmafronten och krigsfronten

as never before.

på ett aldrig tidigare skådat sätt.

But remember, this is taking place

Men kom ihåg, det här äger rum

in our strange, weird world, and so

i vår konstiga, märkliga värld, och därför

inevitably the ability to download these

gör tillgången till att ladda ner dessa

video clips to, you know, your iPod

videoklipp till din iPod

or your Zune gives you

eller till din Zune också att du får

the ability to turn it into entertainment.

förmågan att göra det till underhållning.

Soldiers have a name for these clips.

Soldater har ett namn för dessa klipp.

They call it war porn.

De kallar det krigsporr.

The typical one that I was sent was

Ett typiskt exempel som skickades till mig

an email that had an attachment of

var e-post med en bifogad fil,

video of a Predator strike taking out

ett videoklipp på en Predator som slår ut

an enemy site. Missile hits,

en motståndarbas.

Missilträffar, kroppar kastas upp i luften av explosionen.

bodies burst into the air with the explosion.

It was set to music.

Allt koordinerat till musik.

It was set to the pop song

Musiken var poplåten

"I Just Want To Fly" by Sugar Ray.

"I Just Want to Fly" med Sugar Ray.

This ability to watch more

Den här förmågan att se mer

but experience less creates a wrinkle

men uppleva mindre skapar en rynka

in the public's relationship with war.

i allmänhetens relation till krig.

I think about this with a sports parallel.

Man kan dra en parallell till sport.

It's like the difference between

Det är som skillnaden mellan

watching an NBA game, a professional

att se en NBA-match, en professionell

basketball game on TV, where the athletes

basketmatch på TV, där atleter

are tiny figures on the screen, and

är små figurer på en skärm, jämfört med

being at that basketball game in person

att vara på samma basketmatch själv

and realizing what someone seven feet

och inse hur någon som är två och tio

really does look like.

verkligen ser ut.

But we have to remember,

Men vi måste komma ihåg,

these are just the clips.

att det här är bara videoklipp.

These are just the ESPN SportsCenter

Dessa är endast ESPN SportsCenters

version of the game. They lose the context.

version av matchen.

De tappar sammanhanget.

They lose the strategy.

Det förlorar överblick.

They lose the humanity. War just

Det förlorar mänsklighet.

Krig blir bara

becomes slam dunks and smart bombs.

dunkningar och smarta bomber.

Now the irony of all this is that

Men ironin i allt detta är att

while the future of war may involve

medan framtiden kan komma att involvera

more and more machines,

fler och fler maskiner,

it's our human psychology that's driving

är det vår mänskliga psykologi som driver på allt detta,

all of this, it's our human failings

det är våra mänskliga brister

that are leading to these wars.

som leder fram till dessa krig.

So one example of this that has

Ett exempel på hur detta har

stor återklang i den politiska sfären är

big resonance in the policy realm is

how this plays out on our very real

hur det påverkar våra verkliga

war of ideas that we're fighting

ideologiska tankekrig som vi utkämpar

against radical groups.

mot radikala grupperingar.

What is the message that we think we are

Vilket budskap tror vi att vi

sending with these machines versus what

sänder med dessa maskiner

is being received in terms of the message.

kontra hur detta budskap uppfattas?

So one of the people that I met was

En av de jag mötte hade en

a senior Bush Administration official,

hög post inom Bush-administrationen,

who had this to say about

och hade detta att säga om

vårt omänskliggörande av krig:

our unmanning of war:

"Det är till vår fördel.

"It plays to our strength. The thing that

Det som skrämmer folk är vår teknologi."

scares people is our technology."

But when you go out and meet with people,

Men när du träffar människor,

for example in Lebanon, it's a very

till exempel i Libanon, säger de något helt annat.

different story. One of the people

En av dem jag mötte där

I met with there was a news editor, and

var nyhetsredaktör, och

we're talking as a drone is flying above him,

vi samtalade medan en drönare flög förbi,

and this is what he had to say.

och det här är vad han hade att säga:

"This is just another sign of the coldhearted

"Det här är bara ännu ett tecken på de kallhjärtade

cruel Israelis and Americans,

och grymma israeler och amerikaner

who are cowards because

som är ynkryggar eftersom

they send out machines to fight us.

de skickar maskiner för att slåss.

They don't want to fight us like real men,

De vill inte slåss som riktiga män,

but they're afraid to fight,

snarare är de rädda för att slåss,

so we just have to kill a few of their soldiers

så vi behöver bara döda några av deras soldater

to defeat them."

för att besegra dem."

The future of war also is featuring

Krigets framtid innehåller också

a new type of warrior,

en ny typ av krigare,

and it's actually redefining the experience

och det håller faktiskt på att omdana upplevelsen

of going to war.

av att gå i krig.

You can call this a cubicle warrior.

Man kan kalla det för kontorskrigare.

This is what one Predator drone pilot

Det här är hur en Predator-drönarpilot

described of his experience fighting

beskriver sin upplevelse av att slåss

in the Iraq War while never leaving Nevada.

i Irakkriget utan att någonsin lämna Nevada.

"You're going to war for 12 hours,

"Man slåss i kriget under 12 timmar,

shooting weapons at targets,

avfyrar vapen mot mål,

directing kills on enemy combatants,

leder in eld mot fientliga krigare,

and then you get in the car

sedan sätter man sig i sin bil

och kör hem, och inom 20 minuter

and you drive home and within 20 minutes,

you're sitting at the dinner table

sitter man vid middagsbordet

och pratar med sina barn om deras hemläxor."

talking to your kids about their homework."

Now, the psychological balancing

Men att balansera de psykologiska

of those experiences is incredibly tough,

upplevelserna är otroligt tungt,

and in fact those drone pilots have

och faktum är att dessa drönarpiloter

har högre andel posttraumatisk stress

higher rates of PTSD than many

än många av de enheter

of the units physically in Iraq.

som är fysiskt i Irak.

But some have worries that this

Men några oroar sig att detta distanserande

disconnection will lead to something else,

kommer leda till något annat,

that it might make the contemplation of war

att det kommer göra begrundandet

av krigsbrott för enkelt eftersom man har distansen.

crimes a lot easier when you have

this distance. "It's like a video game,"

"Det är som ett tv-spel",

is what one young pilot described to me

beskrev en ung pilot det för mig

of taking out enemy troops from afar.

hur man slår ut fientliga trupper på håll.

As anyone who's played Grand Theft Auto

Och som alla som spelat Grand Theft Auto vet,

knows, we do things in the video world

så gör vi saker i tv-spelsvärlden

that we wouldn't do face to face.

som vi aldrig skulle göra i verkligheten.

So much of what you're hearing from me

Så mycket av det ni hör från mig idag

is that there's another side

är att det finns en annan sida

to technologic revolutions,

av teknologirevolutionen

and that it's shaping our present

och att det håller på omforma vår nutid

and maybe will shape our future of war.

och kanske även omforma framtidens krig.

Moore's Law is operative,

Moores lag spelar en roll,

but so's Murphy's Law.

men det gör också Murphys lag.

The fog of war isn't being lifted.

Krigets ovissheter kommer inte försvinna.

The enemy has a vote.

Fienden har en röst.

Vi börjar få ofattbara nya förmågor,

We're gaining incredible new capabilities,

but we're also seeing and experiencing

men vi ser och upplever också

new human dilemmas. Now,

nya mänskliga dilemman.

sometimes these are just "oops" moments,

Ibland är dessa bara "ojdå"-ögonblick,

which is what the head of a robotics

som en chef för ett robotteknikföretag sa,

company described it, you just have

man har helt enkelt "ojdå"-ögonblick.

"oops" moments. Well, what are

Men vad är "ojdå"-ögonblick när det

"oops" moments with robots in war?

gäller robotteknik i krig?

Well, sometimes they're funny. Sometimes,

Tja, ibland är de roliga.

Ibland är de som den där scenen

they're like that scene from the

från Eddie Murphy-filmen "Best Defense",

Eddie Murphy movie "Best Defense,"

men i verkligheten, där de testade

playing out in reality, where they tested out

a machine gun-armed robot, and during

en robot med maskingevärsarmar,

the demonstration it started spinning

och under visningen började den snurra runt

in a circle and pointed its machine gun

och rikta sitt maskingevär

at the reviewing stand of VIPs.

mot åskådarläktaren.

Fortunately the weapon wasn't loaded

Turligt nog var inte vapnet laddat

and no one was hurt, but other times

och ingen blev skadad, men andra gånger

"oops" moments are tragic,

är "ojdå"-ögonblicken rent tragiska,

such as last year in South Africa, where

som förra året i Sydafrika

an anti-aircraft cannon had a

där en luftartillerikanon fick ett "mjukvarufel",

"software glitch," and actually did turn on

och faktiskt vände sig om

and fired, and nine soldiers were killed.

och sköt, och nio soldater dödades.

We have new wrinkles in the laws of war

Vi har nya rynkor när det gäller krigslagar

and accountability. What do we do

och ansvarsskyldighet.

Vad gör vi med sånt som obemannat dråp?

with things like unmanned slaughter?

What is unmanned slaughter?

Vad är obemannat dråp?

We've already had three instances of

Vi har redan tre exempel på

Predator drone strikes where we thought

anfall med drönare där vi trodde att vi

we got bin Laden, and it turned out

fått tag i bin Laden men det visade sig

not to be the case.

att så inte var fallet.

And this is where we're at right now.

Och i det läget är vi just nu.

This is not even talking about armed,

Och då pratar vi inte ens om beväpnade,

autonomous systems

autonoma system

with full authority to use force.

med fulla befogenheter till dödligt våld.

And do not believe that that isn't coming.

Tro inte att det inte är på väg.

During my research I came across

Under mina efterforskningar hittade jag

four different Pentagon projects

fyra olika Pentagon-projekt

on different aspects of that.

som behandlar olika aspekter kring detta.

And so you have this question:

Så ni ställs inför frågan:

vilka problem med krigsbrott leder det till?

what does this lead to issues like

Robotar är känslolösa,

war crimes? Robots are emotionless, so

så de blir inte ledsna om kollegan dödas.

they don't get upset if their buddy is killed.

They don't commit crimes of rage

De begår inte brott i vredesmod

and revenge.

eller med hämndmotiv.

But robots are emotionless.

Men robotar är känslolösa.

They see an 80-year-old grandmother

De ser en 80-årig morförälder

in a wheelchair the same way they see

i en rullstol på samma sätt som de ser

a T-80 tank: they're both

en T-80-pansarvagn: de är båda

just a series of zeroes and ones.

bara en serie ettor och nollor.

And so we have this question to figure out:

Så vi måste ställas inför denna fråga:

How do we catch up our 20th century

hur får vi våra 1900-talslagar för krig,

laws of war, that are so old right now

som är så åldersstigna nu

that they could qualify for Medicare,

att de har rätt till äldrevård,

to these 21st century technologies?

att hinna ikapp denna teknik från 2000-talet?

And so, in conclusion, I've talked about

Och för att sammanfatta, jag har talat om

what seems the future of war,

vad som verkar vara krigets framtid,

but notice that I've only used

men märk väl att det enda jag använt

real world examples and you've only seen

är verkliga exempel och det ni fått se

real world pictures and videos.

är riktiga videoinspelningar och bilder.

And so this sets a great challenge for

Så detta skapar en enorm utmaning

all of us that we have to worry about well

som vi måste oroa oss för

before you have to worry about your

långt innan ni behöver oroa er för

Roomba sucking the life away from you.

att er Roomba suger livet ur er.

Are we going to let the fact that what's

Kommer vi låta det faktum att det

unveiling itself right now in war

som visar sig just nu inom krigskonsten

sounds like science fiction and therefore

låter mer som science fiction och därför

håller oss i förnekelse?

keeps us in denial?

Are we going to face the reality

Kommer vi möta verkligheten

of 21st century war?

i 2000-talets krig?

Kommer vår generation att göra samma misstag

Is our generation going to make the same

mistake that a past generation did

som tidigare generationer gjorde

när det gäller atomvapen, och inte hantera

with atomic weaponry, and not deal with

the issues that surround it until

de frågor som omgärdar det förrän

Pandoras ask redan är öppnad?

Pandora's box is already opened up?

Now, I could be wrong on this, and

Men, jag kan ha fel om det här,

one Pentagon robot scientist told me

och en av Pentagons forskare sa till mig att jag har fel.

that I was. He said, "There's no real

Han sa: "det finns inga sociala, etiska,

social, ethical, moral issues when it comes

moraliska spörsmål med robotar."

to robots.

"Det vill säga", tillade han, "om inte maskinerna

That is," he added, "unless the machine

kills the wrong people repeatedly.

upprepade gånger dödar fel människor.

Then it's just a product recall issue."

Då är det en fråga om produktreklamation."

And so the ending point for this is

Så slutargumentet för detta är

that actually, we can turn to Hollywood.

att vi faktiskt kan vända oss till Hollywood.

A few years ago, Hollywood gathered

För några år sedan samlade Hollywood

all the top characters and created

alla sina toppkaraktärer och skapade

a list of the top 100 heroes and

en topp 100-lista med filmhjältar

top 100 villains of all of Hollywood history,

och en topp 100 med filmskurkar i Hollywoods historia,

the characters that represented the best

karaktärer som representerar det bästa

and worst of humanity.

och det värsta hos mänskligheten.

Only one character made it onto both lists:

Bara en karaktär kom med på båda listorna:

The Terminator, a robot killing machine.

Terminatorn, en mördarrobot.

And so that points to the fact that

Det pekar på det faktum

our machines can be used

att våra maskiner kan användas

for both good and evil, but for me

till både gott och till ont, men för mig

it points to the fact that there's a duality

pekar det på att det finns en dualitet

of humans as well.

också hos människan.

Denna vecka firar vi vår kreativitet.

This week is a celebration

of our creativity. Our creativity

Vår kreativitet har tagit vår art till stjärnorna.

has taken our species to the stars.

Vår kreativitet har skapat konstverk

Our creativity has created works of arts

and literature to express our love.

och litteratur som uttrycker vår kärlek.

And now, we're using our creativity

Och nu använder vi vår kreativitet

in a certain direction, to build fantastic

åt ett visst håll för att bygga fantastiska

machines with incredible capabilities,

maskiner med otroliga förmågor,

maybe even one day

kanske till och med en dag

an entirely new species.

en helt ny art.

But one of the main reasons that we're

Men en av anledningarna till att vi gör detta är vår drivkraft

doing that is because of our drive

to destroy each other, and so the question

att förgöra varandra, och därför väcks frågan

we all should ask:

vi alla borde ställa oss:

är det våra maskiner, eller är det vi själva

is it our machines, or is it us

that's wired for war?

som är inställda på krig?

Tack så mycket. (Applåder)

Thank you. (Applause)