Military robots and the future of war | P.W. Singer

Translator: Monika Križanovičová Reviewer: Ivana Donovalova

I thought I'd begin with a scene of war.

Za mnou sa bude premietať

There was little to warn of the danger ahead.

séria fotiek, na ktorých uvidíte roboty,

The Iraqi insurgent had placed the IED,

ktoré sa aktuálne využívaju v bojoch,

an Improvised Explosive Device,

alebo ktoré sa nachádzajú v štádiu prototypu.

along the side of the road with great care.

Len, aby ste o tom mali nejakú predstavu.

By 2006, there were more than 2,500

Dá sa to povedať aj inak, neuvidíte nič,

of these attacks every single month,

čo by bolo poháňané technológiou Vulkáncov zo Star Treku,

and they were the leading cause of

či hormónmi tínedžerských čarodejníkov, nič také, všetko je to skutočné.

casualties among American soldiers

Takže prečo hneď nezačneme tými fotografiami?

and Iraqi civilians.

Vo vojne a možno v histórii samotného ľudsta

The team that was hunting for this IED

sa teraz dejú veľké veci.

is called an EOD team—

Americká armáda šla do Iraku

Explosives Ordinance Disposal—and

s hŕstkou drón vo vzduchu.

they're the pointy end of the spear in the

Dnes ich máme 5300.

American effort to suppress these roadside bombs.

Keď sme tam šli, nemali sme žiaden bezposádkový pozemný systém,

Each EOD team goes out on about

teraz ich máme 12 000.

600 of these bomb calls every year,

A technický termín „killer application“ (dosl. vražedná aplikácia)

defusing about two bombs a day.

v tomto kontexte nadobúda nový význam.

Perhaps the best sign of how valuable they

Nezabúdajme, že to, o čom hovoríme,

are to the war effort, is that

je ako model T4 či lietadlá bratov Wrightovcov

the Iraqi insurgents put a $50,000 bounty

v porovnaní s tým, čo onedlho príde.

on the head of a single EOD soldier.

Tak v tej etape vývoja sa práve nachádzame.

Unfortunately, this particular call

Nedávno som sa, medzi inými, stretol s trojhviezdičkovým generálom amerických vzdušných síl,

would not end well.

a on mi povedal: „V podstate čoskoro zažijeme dobu,

By the time the soldier advanced close

v ktorej budú desaťtisíce robotov nasadené do našich konfliktov.“

enough to see the telltale wires

A na týchto číslach záleží,

of the bomb, it exploded in a wave of flame.

lebo tu nie je reč len o desiatich tisícoch súčasných robotov,

Now, depending how close you are

ale o desiatich tisícoch týchto prototypov a robotov zajtraška.

and how much explosive has been packed

Pretože, prirodzene, jedna vec, ktorá platí v technike, je Moorov zákon,

into that bomb, it can cause death

čo znamená, že do týchto robotov možno vtesnať stále viac výpočtového výkonu.

or injury. You have to be as far as

Takže o takých 25 rokov,

50 yards away to escape that.

ak sa Moorov zákon neporuší,

The blast is so strong it can even break

bude výpočtový výkon robotov

your limbs, even if you're not hit.

takmer miliardukrát lepší ako dnes.

That soldier had been on top of the bomb.

Takže znamená to, že veci, o ktorých sme mali vo zvyku hovoriť

And so when the rest of the team advanced

len na stretnutiach fanúšikov sci-fi, ako napr. na Comicone,

they found little left. And that night the unit's

budú musieť prediskutovať ľudia pri moci,

commander did a sad duty, and he wrote

na miestach ako Pentagon.

a condolence letter back to the United

Pred nami je revolúcia robotov.

States, and he talked about how hard the

Aby sme si rozumeli,

loss had been on his unit, about the fact

nehovorím o revolúcii pri ktorej sa musíte obávať,

that they had lost their bravest soldier,

že sa guvernér Kalifornie objaví vo vašich dverách na spôsob filmu Terminátor.

a soldier who had saved their lives

Keď budú historici skúmať túto dobu, prídu k záveru,

many a time.

že stojíme na prahu celkom inej revolúcie,

And he apologized

revolúcie vo vedení vojen,

for not being able to bring them home.

ako v prípade vynájdenia atómovej bomby.

But then he talked up the silver lining

No môže to byť dokonca ešte významnejšie, lebo naše bezposádkové systémy

that he took away from the loss.

úplne od základov ovplyvňujú nielen to,

"At least," as he wrote, "when a robot dies,

„ako" sa bojuje, ale aj to, „kto“ v skutočnosti bojuje.

you don't have to write a letter

Takže každý jeden predchádzajúci technický prevrat vo vojne,

to its mother."

či už to bol samopal alebo atómová bomba,

That scene sounds like science fiction,

sa vzťahoval na systém,

but is battlefield reality already.

ktorý strieľal rýchlejšie, mal väčší dosah,

The soldier in that case

spôsobil väčší výbuch,

was a 42-pound robot called a PackBot.

to je určite aj prípad robotiky.

The chief's letter went, not to some

Ale tu sa mení aj skúsenosť bojovníka,

farmhouse in Iowa like you see

dokonca aj jeho samotná identita.

in the old war movies, but went to

Inak povedané: Päťtisícročný monopol ľudstva

the iRobot Company, which is

v bojovaní vo vojne sa v našich časoch

named after the Asimov novel

rozpadáva.

and the not-so-great Will Smith movie,

Posledné roky som sa stretával

and... um... (Laughter)...

so všetkými zainteresovanými v tejto oblasti,

if you remember that

od vedcov, autorov sci-fi, ktorí ich inšpirovali,

in that fictional world, robots started out

19-ročných pilotov drón bojujúcich z Nevady,

carrying out mundane chores, and then

cez štvorhviezdičkových generálov, ktorí im velia,

they started taking on life-and-death decisions.

až po irackých povstalcov, ktorí sú ich terčmi

That's a reality we face today.

a pýtal som sa, čo si myslia o našich systémoch.

What we're going to do is actually just

Nezaujali ma len ich príbehy,

flash a series of photos behind me that

ale i to, ako ich zážitky poukazujú

show you the reality of robots used in war

na túto reťazovú reakciu dôsledkov pre našu spoločnosť,

right now or already at the prototype stage.

právny systém, našu etiku atď.

It's just to give you a taste.

A v zostávajúcom čase by som vám rád

Another way of putting it is you're not

niektoré z týchto dôsledkov priblížil.

going to see anything that's powered

Tak prvým dôsledkom je, že budúcnosť vedenia vojny,

by Vulcan technology, or teenage

dokonca aj tej s použitím robotov, nebude čisto americká.

wizard hormones or anything like that.

USA majú momentálne vedúce postavenie vo vojenskej robotike,

This is all real. So why don't we

no vieme, že v technike pozícia priekopníka

go ahead and start those pictures.

v žiadnom prípade trvalý náskok nezaručuje.

Something big is going on in war today,

Prihláste sa, koľkí z vás v tejto miestnosti

and maybe even the history of humanity

ešte používajú počítače Wang?

itself. The U.S. military went into Iraq with

Vo vojne platí to isté.

a handful of drones in the air.

Briti a Francúzi vynašli tank,

We now have 5,300.

no Nemci prišli na to, ako ho optimálne používať.

We went in with zero unmanned ground

Takže mali by sme sa zamyslieť nad tým,

systems. We now have 12,000.

že USA sú v súčasnosti vo vedení,

And the tech term "killer application"

ale na svete je ďalších 43 krajín,

takes on new meaning in this space.

ktoré sa zaoberajú vojenskou robotikou,

And we need to remember that we're

a medzi nimi sú všetky tie zaujímavé krajiny

talking about the Model T Fords,

ako Rusko, Čína, Pakistan, Irán.

the Wright Flyers, compared

To vo mne vyvoláva ešte väčšie obavy.

to what's coming soon.

Ako sa v tejto revolúcii pohneme vpred

That's where we're at right now.

vzhľadom na stav našej výroby

One of the people that I recently met with

a úroveň vzdelávania vo vedách a matematike na našich školách?

was an Air Force three-star general, and he

Iný spôsob nazerania na tento problém je otázka,

said basically, where we're headed very

čo to znamená ísť do boja s narastajúcim počtom vojakov,

soon is tens of thousands of robots

ktorých hardvér vyrábajú v Číne

operating in our conflicts, and these

a softvér píšu v Indii?

numbers matter, because we're not just

Ale tak, ako sa softvér stal voľne dostupným,

talking about tens of thousands of today's

aj vedenie vojny zaznamenalo rovnakú zmenu.

robots, but tens of thousands of these

Na rozdiel od lietadlovej lode alebo atómovej bomby,

prototypes and tomorrow's robots, because

robotika si nevyžaduje obrovský výrobný systém,

of course, one of the things that's operating

veľa z toho je bežne v predaji

in technology is Moore's Law,

a niečo si môžete dokonca vyrobiť aj doma.

that you can pack in more and more

Jednu z vecí, ktoré ste práve videli, bola dróna Raven,

computing power into those robots, and so

ktorá sa štartuje hodom z ruky.

flash forward around 25 years,

Za zhruba 1000 dolárov si môžete vyrobiť takú,

if Moore's Law holds true,

akú používajú vojaci v Iraku.

those robots will be close to a billion times

To je ďalší dôvod na znepokojenie, pokiaľ ide o vojnu a konflikty.

more powerful in their computing than today.

Tak, ako sa s nimi môžu hrať a robiť si z nich hobby "tí dobrí",

And so what that means is the kind of

rovnaké možnosti majú aj "tí zlí".

things that we used to only talk about at

Tento prienik robotiky a vecí ako terorizmus

science fiction conventions like Comic-Con

bude ohromujúci, ba priam znepokojujúci.

have to be talked about in the halls

Už sme boli svedkami jeho začiatku.

of power and places like the Pentagon.

Počas vojny medzi Izraelom, teda štátom na jednej strane,

A robots revolution is upon us.

a Hizballáhom, neštátnym aktérom na druhej strane,

Now, I need to be clear here.

neštátny aktér pilotoval štyri rôzne typy drón proti Izraelu.

I'm not talking about a revolution where you

Existuje už webstránka Džihádu, ktorú môžete navštíviť

have to worry about the Governor of

a na diaľku v Iraku odpáliť IED (improvizované výbušné zariadenie alebo fugas)

California showing up at your door,

zatiaľ čo sedíte doma za počítačom.

a la the Terminator. (Laughter)

Podľa môjho názoru sa v tejto súvislosti staneme svedkami dvoch tendencií.

When historians look at this period, they're

Prvá je, že sa tým posilní moc jednotlivcov

going to conclude that we're in a different

v porovnaní s vládami.

type of revolution: a revolution in war,

Druhá je, že zažijeme

like the invention of the atomic bomb.

rozmach v oblasti terorizmu.

But it may be even bigger than that,

Jeho budúcnosť môže byť skríženie Al-Káidy 2.0 a novej generácie Unabombera,

because our unmanned systems don't just

(americká tlač kedysi nazvala univerzitného a aerolinkového bombového útočníka Teda Kaczynského)

affect the "how" of war-fighting,

Ďalšia stránka veci, na ktorú netreba zabúdať, je,

they affect the "who" of fighting

že robota nemusíte presviedčať,

at its most fundamental level.

že po smrti dostane 72 panien,

That is, every previous revolution in war, be

aby sa vyhodil do vzduchu.

it the machine gun, be it the atomic bomb,

No reťazová reakcia dôsledkov tejto skutočnosti sa odzrkadlí v našej politike.

was about a system that either shot faster,

Jedným z ľudí, ktorých som stretol, bol bývalý námestník ministra obrany za vlády Ronalda Regana.

went further, had a bigger boom.

A on sa vyjadril takto, citujem:

That's certainly the case with robotics, but

„Mám rád tieto systémy, lebo zachraňujú životy Američanov,

they also change the experience of the warrior

ale obávam, že vzrastajúca marketizácia vojen a

and even the very identity of the warrior.

čoraz väčší priestor venovaný hrôzam a šoku z vojny odvracajú pozornosť od diskusie o cene.

Another way of putting this is that

Ľudia viac inklinujú k použitiu sily,

mankind's 5,000-year-old monopoly

ak majú pocit, že ich to nič nestojí.“

on the fighting of war is breaking down

Vývoj robotov sa podľa mňa dotýka istých trendov,

in our very lifetime. I've spent

ktoré existujú v našom štátnom organizme

the last several years going around

a možno bude znamenť ich logický koniec.

meeting with all the players in this field,

Nemáme žiaden nábor.

from the robot scientists to the science

Nemáme už žiadne vyhlásenia vojny.

fiction authors who inspired them to the

Už nekupujeme vojnové obligácie.

19-year-old drone pilots who are fighting

A k tomu sa pridružuje skutočnosť, že čoraz viac amerických vojakov,

from Nevada, to the four-star generals

ktorých by sme inak vystavili nebezpečiu,

who command them, to even the Iraqi

nahrádzame strojmi,

insurgents who they are targeting and what

a tak môžeme už aj tak zníženú latku nárokov na vojnu

they think about our systems, and

úplne pustiť na zem.

what I found interesting is not just

No budúcnosť vojny bude aj vojna na YouTube.

their stories, but how their experiences

To znamená, že naše nové technológie nielen zachraňujú ľudí pred nebezpečenstvom,

point to these ripple effects that are going

ale aj zaznamenávajú všetko, čo uvidia.

outwards in our society, in our law

Čiže nielenže má verejnosť len nepriame spojenie s dianím,

and our ethics, etc. And so what I'd like

ale jej vzťah k vojne sa pretvára.

to do with my remaining time is basically

Na YouTube je dnes niekoľko tisícov videoklipov

flesh out a couple of these.

so záznamom bojov z Iraku,

So the first is that the future of war,

väčšinu z nich zozbierali dróny.

even a robotics one, is not going to be

No, toto by mohla byť dobrá vec, vďaka tomu by sa vytváralo také prepojenie

purely an American one.

medzi domácim a vojnovým frontom ako nikdy predtým.

The U.S. is currently ahead in military

Ale nezabúdajme, že toto sa deje

robotics right now, but we know that in

v našom zvláštnom, čudesnom svete.

technology there's no such thing as

Tak vďaka sťahovaniu týchto videoklipov

a permanent first move or advantage.

na váš IPod alebo Zune

In a quick show of hands, how many

môžete z tých videí urobiť zábavu.

people in this room still use

Vojaci majú názov pre tieto klipy.

Wang Computers? (Laughter)

Volajú ich vojnové porno.

It's the same thing in war. The British and

Typický príklad niečoho takého mi zaslali emailom.

the French invented the tank.

V prílohe bolo video útoku dróny,

The Germans figured out how

ktorá ničila nepriateľskú základňu;

to use it right, and so what we have to

zásahy rakiet, telá roztrhané explóziou.

think about for the U.S. is that we are

Bol k tomu hudobný sprievod,

ahead right now, but you have

hrala k tomu popová skladba

43 other countries out there

„I just wanna fly“ („Len chcem lietať“) od Sugar Raya.

working on military robotics, and they

To, že môžeme viac vidieť,

include all the interesting countries like

ale menej zažívať,

Russia, China, Pakistan, Iran.

skresľuje chápanie vojny verejnosťou.

And this raises a bigger worry for me.

V tejto súvislosti mi napadá paralela zo športu.

How do we move forward in this revolution

Je to podobné ako rozdiel medzi pozeraním zápasu NBA,

given the state of our manufacturing

profesionálnej basketbalovej ligy, v televízii,

and the state of our science and

kde sú športovci len malé postavičky na obrazovke,

mathematics training in our schools?

a sledovaním zápasu priamo v hale, kde naozaj vnímate,

Or another way of thinking about this is,

ako taký dvojmetrový človek vyzerá.

what does it mean to go to war increasingly

Ale nesmieme zabudnúť, toto sú len klipy.

with soldiers whose hardware is made

Sú to len upravené verzie zápasu zo štúdia športovej stanice ESPN.

in China and software is written in India?

Strácajú kontext, stratégiu, ľudskosť.

But just as software has gone open-source,

Vojna sa tak stáva kombináciou „zavesených košov“, čiže trafených cieľov a inteligentných bômb.

so has warfare.

Iróniou toho všetkého je,

Unlike an aircraft carrier or an atomic bomb,

že kým budúcnosť vedenia vojny môže zahŕňať čoraz viacej strojov,

you don't need a massive manufacturing

je to práve naša ľudská psychika, ktorá to všetko poháňa,

system to build robotics. A lot of it is

sú to naše ľudské zlyhania, ktoré nás do týchto vojen ženú.

off the shelf. A lot of it's even do-it-yourself.

Takže jedným príkladom, ktorý má veľkú rezonanciu v politickej sfére,

One of those things you just saw flashed

je to, ako sa to uplatňuje v našej veľmi skutočnej vojne myšlienok,

before you was a raven drone, the handheld

v ktorej bojujeme proti radikálnym skupinám.

tossed one. For about a thousand dollars,

Aký odkaz podľa nás týmito strojmi posielame,

you can build one yourself, equivalent to

v porovnaní s tým,

what the soldiers use in Iraq.

aký odkaz skutočne prejde?

That raises another wrinkle when it comes

Ďalší človek, s ktorým som sa stretol, bol istý vedúci predstaviteľ Bushovej vlády,

to war and conflict. Good guys might play

ktorý mal na naše odosobnenie vojny takýto názor, citujem:

around and work on these as hobby kits,

„Využívame to ako našu silnú stránku,

but so might bad guys.

to, čo ľudí desí, je naša technika,“

This cross between robotics and things like

no ak sa stretnete s ľuďmi zo zahraničia, napríklad z Libanonu, je to úplne iný príbeh.

terrorism is going to be fascinating

Jeden z ľudí, s ktorým som sa tam stretol,

and even disturbing,

bol spravodajský redaktor a kým sme sa zhovárali, letela nad ním dróna.

and we've already seen it start.

Povedal mi, citujem:

During the war between Israel, a state,

„Toto je ďalší prejav bezcitných,

and Hezbollah, a non-state actor,

krutých Izraelčanov a Američanov,

the non-state actor flew

ktorí sú zbabelci, lebo do boja proti nám posielajú stroje.

four different drones against Israel.

Nechcú s nami bojovať ako skutoční muži, ale majú strach z boja.

There's already a jihadi website

Takže len musíme zabiť zopár ich vojakov,

that you can go on and remotely

aby sme ich porazili.“

detonate an IED in Iraq while sitting

Budúcnosť vojny zahŕňa aj nový typ bojovníka.

at your home computer.

Je to vlastne predefinovanie skúsenosti s nasadením do vojny.

And so I think what we're going to see is

Môžete to nazvať kancelársky bojovník.

two trends take place with this.

Jeden pilot dróny Predátor takto opísal

First is, you're going to reinforce the power

svoju skúsenosť, ktorú mal z vojny v Iraku,

of individuals against governments,

hoci z Nevady nikdy neodišiel, citujem:

but then the second is that

„Idete do vojny na dvanásť hodín,

we are going to see an expansion

strieľate na ciele, zabíjate nepriateľských bojovníkov

in the realm of terrorism.

a potom nastúpite do auta a idete domov,

The future of it may be a cross between

do 20 minút sedíte za stolom

al Qaeda 2.0 and the

a pri večeri sa s deťmi rozprávate o ich domácich úlohách.“

next generation of the Unabomber.

Je nesmierne ťažké tieto dve skúsenosti psychologicky vyvážiť.

And another way of thinking about this

A v skutočnosti sa u týchto pilotov drón

is the fact that, remember, you don't have

posttraumatická stresová porucha vyskytuje oveľa častejšie

to convince a robot that they're gonna

ako u mnohých jednotiek fyzicky prítomných v Iraku.

receive 72 virgins after they die

No niektorí sa obávajú, že toto prerušenie priameho kontaktu

to convince them to blow themselves up.

bude mať za následok niečo iné. S týmto odstupom by bolo oveľa jednoduchšie

But the ripple effects of this are going to go

zľahčovať uvažovanie o vojnových zločinoch.

out into our politics. One of the people that

„Je to ako videohra,“ tak mi jeden mladý pilot opísal

I met with was a former Assistant Secretary of

zneškodňovanie nepriateľských jednotiek na diaľku.

Defense for Ronald Reagan, and he put it

Ako každý, kto raz hral videohru ako napr. Grand Theft Auto vie,

this way: "I like these systems because

že vo svete videohier robíme veci,

they save American lives, but I worry about

ktoré by sme zoči-voči skutočným ľuďom neurobili.

more marketization of wars,

Takže, veľa z toho, čo odo mňa počujete, poukazuje na to,

more shock-and-awe talk,

že existuje odvrátená strana technickej revolúcie,

to defray discussion of the costs.

a že táto formuje našu prítomnosť a možno ovplyvní aj budúcnosť vedenia vojen.

People are more likely to support the use

Moorov zákon platí,

of force if they view it as costless."

ale rovnako aj ten Murphyho.

Robots for me take certain trends

Rúško vojny sa neodkrýva,

that are already in play in our body politic,

nepriateľ má hlas, nadobúdame neobyčajné nové schopnosti,

and maybe take them to

no zároveň vidíme a zažívame nové ľudké dilemy.

their logical ending point.

Niekedy sú to len tzv. momenty, kedy si človek povie „hups“,

We don't have a draft. We don't

ako ich nazval šéf jednej spoločnosti robotiky.

have declarations of war anymore.

„Prosto sa vám pritrafia také momenty, kedy si poviete „hups“. “

We don't buy war bonds anymore.

O akých chvíľach tu hovoríme v súvislosti s robotmi a vojnou?

And now we have the fact that we're

No, niekedy sú zábavné, niekedy sa podobajú

converting more and more of our American

scéne z filmu s Eddiem Murphym, Best Defense (Najlepšia obrana), ak by sa odohrala v realite.

soldiers that we would send into harm's

V scéne skúšali robota vyzbrojeného samopalom

way into machines, and so we may take

a počas ukážky sa začal točiť v kruhu,

those already lowering bars to war

pričom svojím samopalom mieril

and drop them to the ground.

na tribúnu hostí VIP.

But the future of war is also going to be

Našťastie zbraň nebola nabitá, a tak sa nikto nezranil.

a YouTube war.

Ale inokedy končia takéto chvíle tragicky,

That is, our new technologies don't merely

ako napr. minulý rok v Južnej Afrike,

remove humans from risk.

keď jedno protivzdušné delo malo, citujem

They also record everything that they see.

„chvíľkovú softvérovú poruchu“

So they don't just delink the public:

a skutočne sa zaplo a vystrelilo,

they reshape its relationship with war.

pričom zahynulo deväť vojakov.

There's already several thousand

Objavujú sa tak nové otázniky v zákonoch o vojne a zodpovednosti.

video clips of combat footage from Iraq

Čo urobíme v prípadoch, akým je neosobné zabitie?

on YouTube right now,

Čo je neosobné zabitie?

most of it gathered by drones.

Už sme mali tri prípady útokov drón Predátor,

Now, this could be a good thing.

keď sme si mysleli, že sme dostali Bin Ladina,

It could be building connections between

a nakoniec to tak nebolo.

the home front and the war front

Na takomto stupni vývoja práve sme.

as never before.

Ešte tu ani nie je reč o ozbrojených autonómnych systémoch

But remember, this is taking place

s plnou mocou použiť silu

in our strange, weird world, and so

a nemyslite si, že k tomu nedôjde.

inevitably the ability to download these

Počas mojej rešerše som narazil na štyri rôzne projekty Pentagonu

video clips to, you know, your iPod

o rôznych aspektoch tejto problematiky.

or your Zune gives you

Tak sa tu naskytá otázka: V čom tu spočíva súvislosť s témami, akými sú napr. vojnové zločiny?

the ability to turn it into entertainment.

Roboty nemajú city,

Soldiers have a name for these clips.

takže sa nerozčúlia, ak im protivník zabije kamoša.

They call it war porn.

Nepáchajú zločiny zo záchvatu zúrivosti a z pomsty.

The typical one that I was sent was

No roboty nemajú žiadne city.

an email that had an attachment of

Pri pohľade na osemdesiatročnú starenku na vozíčku vidia to isté,

video of a Predator strike taking out

ako pri pohľade na tank T80.

an enemy site. Missile hits,

Pre nich sú obaja len radom jednotiek a núl.

bodies burst into the air with the explosion.

Takže musíme nájsť odpoveď na otázku:

It was set to music.

Ako prispôsobíme naše zákony o vojne z 20. storočia,

It was set to the pop song

ktoré sú také staré, že sú zrelé do penzie,

"I Just Want To Fly" by Sugar Ray.

nárokom techniky 21. storočia?

This ability to watch more

Čo dodať na záver, hovoril som o tom, čo sa zdá byť budúcnosťou vedenia vojen,

but experience less creates a wrinkle

ale všimnite si, že som použil len príklady zo skutočného života,

in the public's relationship with war.

a videli ste len obrázky a videá zo skutočného života.

I think about this with a sports parallel.

To nás všetkých stavia pred veľkú výzvu,

It's like the difference between

ktorej sa musíme obávať skôr,

watching an NBA game, a professional

ako toho, že vám robotický vysávač Roomba z tela vysaje život.

basketball game on TV, where the athletes

Dovolíme, aby to, čo sa dnes deje vo vojnovej sfére,

are tiny figures on the screen, and

pre nás znelo ako z vedecko-fanatastického románu,

being at that basketball game in person

a aby sme tak v sebe živili zamietavý postoj?

and realizing what someone seven feet

Postavíme sa tvárou v tvár realite 21.storočia?

really does look like.

Urobí naša generácia tú istú chybu,

But we have to remember,

akú urobila predchádzajúca generácia s atómovými zbraňami

these are just the clips.

a nebude sa zaoberať otázkami spojenými s týmto problémom,

These are just the ESPN SportsCenter

až kým sa Pandorina skrinka znovu neotvorí?

version of the game. They lose the context.

No, mohol by som sa v tomto mýliť, a jeden vedec na poli robotiky mi povedal, že sa mýlim.

They lose the strategy.

Vravel: „Nejestvujú žiadne reálne, sociálne, etické a morálne problémy, pokiaľ ide o roboty.“

They lose the humanity. War just

„Teda,“ dodal, „len ak stroj nezačne opakovane zabíjať tých nesprávnych ľudí.“

becomes slam dunks and smart bombs.

Ďalej citujem: „Vtedy je to iba otázka stiahnutia výrobku.“

Now the irony of all this is that

A tak, záver tohto prejavu je,

while the future of war may involve

že sa naozaj môžeme obrátiť na Hollywood.

more and more machines,

Pred pár rokmi Hollywood zozbieral mená všetkých najlepších filmových postáv

it's our human psychology that's driving

a zostavil zoznam 100 najväčších hrdinov

all of this, it's our human failings

a 100 najväčších zloduchov v celej histórii Hollywoodu,

that are leading to these wars.

postáv, ktoré predstavovali to najlepšie a najhoršie z ľudstva.

So one example of this that has

Len jedna postava sa dostala na oba zoznamy,

big resonance in the policy realm is

Terminátor, robotický vraždiaci stroj.

how this plays out on our very real

To poukazuje na skutočnosť,

war of ideas that we're fighting

že naše stroje môžeme použiť na dobro i zlo,

against radical groups.

ale podľa mňa to poukazuje

What is the message that we think we are

aj na existenciu duality v ľuďoch.

sending with these machines versus what

Tento týždeň je oslavou našej tvorivosti.

is being received in terms of the message.

Naša kreativita vyniesla náš druh k hviezdam.

So one of the people that I met was

Naša kreativita vytvorila umelecké diela

a senior Bush Administration official,

a literatúru, ktorou prejavujeme našu lásku

who had this to say about

a teraz využívame našu kreativitu na iný konkrétny účel:

our unmanning of war:

Konštruujeme úžasné stroje

"It plays to our strength. The thing that

s neobyčajnými schopnosťami,

scares people is our technology."

možno jedného dňa stvoríme aj celkom nový druh.

But when you go out and meet with people,

No jedným z hlavných dôvodov nášho konania je,

for example in Lebanon, it's a very

že nás poháňa túžba zničiť sa navzájom.

different story. One of the people

A tak by sme si všetci mali položiť otázku:

I met with there was a news editor, and

Sú to naše stroje, alebo my, ktorí sme naprogramovaní na vojnu?

we're talking as a drone is flying above him,

Ďakujem vám za pozornosť.

and this is what he had to say.

(Potlesk)

"This is just another sign of the coldhearted

cruel Israelis and Americans,

who are cowards because

they send out machines to fight us.

They don't want to fight us like real men,

but they're afraid to fight,

so we just have to kill a few of their soldiers

to defeat them."

The future of war also is featuring

a new type of warrior,

and it's actually redefining the experience

of going to war.

You can call this a cubicle warrior.

This is what one Predator drone pilot

described of his experience fighting

in the Iraq War while never leaving Nevada.

"You're going to war for 12 hours,

shooting weapons at targets,

directing kills on enemy combatants,

and then you get in the car

and you drive home and within 20 minutes,

you're sitting at the dinner table

talking to your kids about their homework."

Now, the psychological balancing

of those experiences is incredibly tough,

and in fact those drone pilots have

higher rates of PTSD than many

of the units physically in Iraq.

But some have worries that this

disconnection will lead to something else,

that it might make the contemplation of war

crimes a lot easier when you have

this distance. "It's like a video game,"

is what one young pilot described to me

of taking out enemy troops from afar.

As anyone who's played Grand Theft Auto

knows, we do things in the video world

that we wouldn't do face to face.

So much of what you're hearing from me

is that there's another side

to technologic revolutions,

and that it's shaping our present

and maybe will shape our future of war.

Moore's Law is operative,

but so's Murphy's Law.

The fog of war isn't being lifted.

The enemy has a vote.

We're gaining incredible new capabilities,

but we're also seeing and experiencing

new human dilemmas. Now,

sometimes these are just "oops" moments,

which is what the head of a robotics

company described it, you just have

"oops" moments. Well, what are

"oops" moments with robots in war?

Well, sometimes they're funny. Sometimes,

they're like that scene from the

Eddie Murphy movie "Best Defense,"

playing out in reality, where they tested out

a machine gun-armed robot, and during

the demonstration it started spinning

in a circle and pointed its machine gun

at the reviewing stand of VIPs.

Fortunately the weapon wasn't loaded

and no one was hurt, but other times

"oops" moments are tragic,

such as last year in South Africa, where

an anti-aircraft cannon had a

"software glitch," and actually did turn on

and fired, and nine soldiers were killed.

We have new wrinkles in the laws of war

and accountability. What do we do

with things like unmanned slaughter?

What is unmanned slaughter?

We've already had three instances of

Predator drone strikes where we thought

we got bin Laden, and it turned out

not to be the case.

And this is where we're at right now.

This is not even talking about armed,

autonomous systems

with full authority to use force.

And do not believe that that isn't coming.

During my research I came across

four different Pentagon projects

on different aspects of that.

And so you have this question:

what does this lead to issues like

war crimes? Robots are emotionless, so

they don't get upset if their buddy is killed.

They don't commit crimes of rage

and revenge.

But robots are emotionless.

They see an 80-year-old grandmother

in a wheelchair the same way they see

a T-80 tank: they're both

just a series of zeroes and ones.

And so we have this question to figure out:

How do we catch up our 20th century

laws of war, that are so old right now

that they could qualify for Medicare,

to these 21st century technologies?

And so, in conclusion, I've talked about

what seems the future of war,

but notice that I've only used

real world examples and you've only seen

real world pictures and videos.

And so this sets a great challenge for

all of us that we have to worry about well

before you have to worry about your

Roomba sucking the life away from you.

Are we going to let the fact that what's

unveiling itself right now in war

sounds like science fiction and therefore

keeps us in denial?

Are we going to face the reality

of 21st century war?

Is our generation going to make the same

mistake that a past generation did

with atomic weaponry, and not deal with

the issues that surround it until

Pandora's box is already opened up?

Now, I could be wrong on this, and

one Pentagon robot scientist told me

that I was. He said, "There's no real

social, ethical, moral issues when it comes

to robots.

That is," he added, "unless the machine

kills the wrong people repeatedly.

Then it's just a product recall issue."

And so the ending point for this is

that actually, we can turn to Hollywood.

A few years ago, Hollywood gathered

all the top characters and created

a list of the top 100 heroes and

top 100 villains of all of Hollywood history,

the characters that represented the best

and worst of humanity.

Only one character made it onto both lists:

The Terminator, a robot killing machine.

And so that points to the fact that

our machines can be used

for both good and evil, but for me

it points to the fact that there's a duality

of humans as well.

This week is a celebration

of our creativity. Our creativity

has taken our species to the stars.

Our creativity has created works of arts

and literature to express our love.

And now, we're using our creativity

in a certain direction, to build fantastic

machines with incredible capabilities,

maybe even one day

an entirely new species.

But one of the main reasons that we're

doing that is because of our drive

to destroy each other, and so the question

we all should ask:

is it our machines, or is it us

that's wired for war?

Thank you. (Applause)