Military robots and the future of war | P.W. Singer

PW Singer en: robots militares y el futuro de la guerra

Traductor: Ana María Pérez Revisor: Hazael Jaramillo Molina

I thought I'd begin with a scene of war.

Pensaba comenzar con una escena de guerra.

There was little to warn of the danger ahead.

Había poco que advertir sobre el peligro inminente.

The Iraqi insurgent had placed the IED,

El insurgente iraquí había colocado el IED,

an Improvised Explosive Device,

un artefacto explosivo improvisado,

along the side of the road with great care.

cuidadosamente al borde de la carretera.

By 2006, there were more than 2,500

En 2006 hubo más de 2,500

of these attacks every single month,

ataques de este tipo cada mes,

and they were the leading cause of

y fueron la principal causa de

casualties among American soldiers

víctimas entre soldados estadounidenses

and Iraqi civilians.

y civiles iraquíes.

The team that was hunting for this IED

El equipo que estaba a la caza de este IED

is called an EOD team—

se llama EOD

Explosives Ordinance Disposal—and

-Eliminación de Artefactos Explosivos-

they're the pointy end of the spear in the

y son la punta de lanza en el esfuerzo

American effort to suppress these roadside bombs.

estadounidense para suprimir estas bombas artesanales.

Each EOD team goes out on about

Cada equipo EOD interviene

600 of these bomb calls every year,

unas 600 veces al año

defusing about two bombs a day.

desactivando alrededor de dos bombas al día.

Perhaps the best sign of how valuable they

Quizás la mejor indicación de su valor

are to the war effort, is that

al esfuerzo de guerra, es que

the Iraqi insurgents put a $50,000 bounty

los insurgentes iraquíes ofrecían una recompensa de 50,000

on the head of a single EOD soldier.

dólares por la cabeza de cada soldado EOD.

Unfortunately, this particular call

Por desgracia, esa llamada en particular

would not end well.

no terminaría bien.

By the time the soldier advanced close

Cuando el soldado avanzó suficientemente

enough to see the telltale wires

cerca para ver los cables

of the bomb, it exploded in a wave of flame.

reveladores de la bomba, ésta explotó en una ola de fuego.

Now, depending how close you are

Ahora, dependiendo de lo cerca que uno esté

and how much explosive has been packed

y la cantidad de explosivo que haya sido

into that bomb, it can cause death

colocado en la bomba, puede causar la muerte

or injury. You have to be as far as

o lesiones. Hay que estar a una distancia

50 yards away to escape that.

aproximada de 50 metros para estar a salvo.

The blast is so strong it can even break

La explosión es tan fuerte que puede incluso romper

your limbs, even if you're not hit.

un miembro, aunque el golpe no sea directo.

That soldier had been on top of the bomb.

Ese soldado estaba encima de la bomba.

And so when the rest of the team advanced

Cuando el resto del equipo se acercó,

they found little left. And that night the unit's

de él había quedado poco. Esa noche el comandante

commander did a sad duty, and he wrote

de la unidad tuvo el penoso deber de escribir una carta

a condolence letter back to the United

de condolencias a los EE.UU.

States, and he talked about how hard the

que hablaba de lo duro que había sido

loss had been on his unit, about the fact

para su unidad la pérdida, del hecho

that they had lost their bravest soldier,

de haber perdido el soldado más valiente,

a soldier who had saved their lives

un soldado que más de una vez

many a time.

les había salvado la vida.

And he apologized

Luego se disculpó

for not being able to bring them home.

por no poder llevarlo de vuelta a casa.

But then he talked up the silver lining

Pero también habló de la lección positiva

that he took away from the loss.

que aprendió de esa pérdida.

"At least," as he wrote, "when a robot dies,

"Al menos", escribió, "cuando un robot muere,

you don't have to write a letter

no hay necesidad de escribir una carta

to its mother."

a su madre".

That scene sounds like science fiction,

Suena a ciencia ficción

but is battlefield reality already.

pero ya es una realidad en el campo de batalla.

The soldier in that case

En ese caso el soldado

was a 42-pound robot called a PackBot.

era un robot de 21 kilos llamado PackBot.

The chief's letter went, not to some

La carta del comandante no se dirigía

farmhouse in Iowa like you see

a una granja en Iowa como se ve

in the old war movies, but went to

en las viejas películas de guerra,

the iRobot Company, which is

sino a la iRobot Company, que toma

named after the Asimov novel

el nombre de la novela de Asimov

and the not-so-great Will Smith movie,

y de la no tan buena película con Will Smith,

and... um... (Laughter)...

y... uh... (Risas)...

if you remember that

si Uds. recuerdan,

in that fictional world, robots started out

en ese mundo ficticio los robots comenzaron

carrying out mundane chores, and then

realizando tareas ordinarias, y luego

they started taking on life-and-death decisions.

comenzaron a tomar decisiones de vida o muerte.

That's a reality we face today.

Es una realidad que hoy conocemos.

What we're going to do is actually just

Lo que vamos a hacer es simplemente

flash a series of photos behind me that

mostrarles una serie de fotos que muestran

show you the reality of robots used in war

la realidad de los robots utilizados en la guerra

right now or already at the prototype stage.

en este momento o ya en fase de prototipo.

It's just to give you a taste.

Es solo para darles una idea.

Another way of putting it is you're not

En otras palabras, no van a ver nada

going to see anything that's powered

que funcione con la tecnología Vulcano

by Vulcan technology, or teenage

o con las hormonas de algún geniecillo

wizard hormones or anything like that.

adolescente o cosas por el estilo.

This is all real. So why don't we

Todo esto es real. Así que sigamos adelante

go ahead and start those pictures.

y comencemos a ver las imágenes.

Something big is going on in war today,

Algo importante está sucediendo en la guerra,

and maybe even the history of humanity

y quizás también en la historia de la humanidad.

itself. The U.S. military went into Iraq with

El ejército de Estados Unidos fue a Irak

a handful of drones in the air.

con unos cuantos aviones no tripulados.

We now have 5,300.

Ahora tenemos 5300.

We went in with zero unmanned ground

Fuimos sin sistemas terrestres no tripulados.

systems. We now have 12,000.

Ahora tenemos 12000.

And the tech term "killer application"

Y el término técnico "aplicación asesina"

takes on new meaning in this space.

adquiere un nuevo significado en este contexto.

And we need to remember that we're

Y no olvidemos que estamos

talking about the Model T Fords,

hablando de los Ford Modelo T,

the Wright Flyers, compared

los aviones de los hermanos Wright,

to what's coming soon.

en comparación con lo que vendrá pronto.

That's where we're at right now.

Aquí es donde estamos ahora.

One of the people that I recently met with

Una de las personas que conocí hace poco

was an Air Force three-star general, and he

fue un general de tres estrellas de la Fuerza Aérea,

said basically, where we're headed very

y dijo, básicamente, que muy pronto

soon is tens of thousands of robots

tendremos decenas de miles de robots

operating in our conflicts, and these

operando en nuestros conflictos, y estas

numbers matter, because we're not just

son cifras importantes ya que no se habla solo

talking about tens of thousands of today's

de decenas de miles de robots modernos,

robots, but tens of thousands of these

sino de decenas de miles de estos

prototypes and tomorrow's robots, because

prototipos y robots del futuro, porque,

of course, one of the things that's operating

por supuesto, uno de los factores que funciona

in technology is Moore's Law,

en la tecnología es la Ley de Moore,

that you can pack in more and more

la cual puede incorporar más y más

computing power into those robots, and so

potencia de cálculo a estos robots, así que

flash forward around 25 years,

si la Ley de Moore sigue vigente

if Moore's Law holds true,

dentro de 25 años,

those robots will be close to a billion times

esos robots serán unos mil millones de veces

more powerful in their computing than today.

más potentes que ahora.

And so what that means is the kind of

Esto significa que ese tipo de cosas

things that we used to only talk about at

de las cuales se hablaba solo en las

science fiction conventions like Comic-Con

convenciones de ciencia ficción como la Comic-Con

have to be talked about in the halls

tendrán que ser discutidas en los centros

of power and places like the Pentagon.

de poder y en lugares como el Pentágono.

A robots revolution is upon us.

Se acerca una revolución de los robots.

Now, I need to be clear here.

Ahora, y en esto debo ser claro,

I'm not talking about a revolution where you

no estoy hablando de una revolución en la que hay

have to worry about the Governor of

que preocuparse porque el gobernador de

California showing up at your door,

California se aparezca en su puerta

a la the Terminator. (Laughter)

a la Terminator. (Risas)

When historians look at this period, they're

Cuando los historiadores miren este periodo,

going to conclude that we're in a different

van a concluir que estamos viviendo un tipo

type of revolution: a revolution in war,

de revolución diferente: una revolución en la guerra,

like the invention of the atomic bomb.

como la invención de la bomba atómica.

But it may be even bigger than that,

Pero podría ser aún más importante

because our unmanned systems don't just

porque nuestros sistemas no tripulados no solo

affect the "how" of war-fighting,

afectan el "cómo" de la guerra,

they affect the "who" of fighting

sino también el "quién" de la guerra

at its most fundamental level.

en su nivel más fundamental.

That is, every previous revolution in war, be

Es decir, cada revolución anterior en la guerra,

it the machine gun, be it the atomic bomb,

ya sea la ametralladora o la bomba atómica,

was about a system that either shot faster,

se basaba en un sistema que disparaba más rápido,

went further, had a bigger boom.

o más lejos, o más fuerte.

That's certainly the case with robotics, but

Ese es ciertamente el caso de la robótica,

they also change the experience of the warrior

pero también cambia la experiencia del guerrero

and even the very identity of the warrior.

e incluso su propia identidad.

Another way of putting this is that

En otras palabras, el monopolio que la humanidad

mankind's 5,000-year-old monopoly

ha tenido en los últimos cinco mil años

on the fighting of war is breaking down

para combatir la guerra se está desmoronando

in our very lifetime. I've spent

en nuestra vida. He pasado

the last several years going around

los últimos años por ahí reuniéndome

meeting with all the players in this field,

con todos los actores en este campo,

from the robot scientists to the science

desde creadores de robots a los autores

fiction authors who inspired them to the

de ciencia ficción que los inspiró, a los

19-year-old drone pilots who are fighting

pilotos de 19 años de aviones no tripulados que combaten

from Nevada, to the four-star generals

desde Nevada, a los generales de cuatro estrellas

who command them, to even the Iraqi

que los manejan, hasta los insurgentes

insurgents who they are targeting and what

iraquíes que son atacados para saber

they think about our systems, and

qué opinan de nuestros sistemas,

what I found interesting is not just

y me parecieron interesantes no solo

their stories, but how their experiences

sus historias, sino cómo sus experiencias

point to these ripple effects that are going

indican que estos efectos dominó se reflejan

outwards in our society, in our law

en nuestra sociedad, en nuestras leyes,

and our ethics, etc. And so what I'd like

en nuestra ética, etc. Por eso quisiera

to do with my remaining time is basically

utilizar el tiempo que queda para analizar

flesh out a couple of these.

un par de estos efectos.

So the first is that the future of war,

El primero es que el futuro de la guerra,

even a robotics one, is not going to be

incluyendo la robótica, no va a ser

purely an American one.

exclusivamente americano.

The U.S. is currently ahead in military

Actualmente los Estados Unidos llevan la delantera

robotics right now, but we know that in

en cuanto a robótica militar, pero sabemos

technology there's no such thing as

que en la tecnología no hay

a permanent first move or advantage.

avance o ventaja permanente.

In a quick show of hands, how many

Una encuesta rápida: ¿Cuántas

people in this room still use

personas aquí siguen utilizando

Wang Computers? (Laughter)

computadoras Wang? (Risas)

It's the same thing in war. The British and

Lo mismo ocurre en la guerra. Los británicos

the French invented the tank.

y los franceses inventaron el tanque.

The Germans figured out how

Los alemanes descubrieron cómo

to use it right, and so what we have to

usarlo mejor, así que lo que hay que pensar

think about for the U.S. is that we are

para los Estados Unidos, es que estamos

ahead right now, but you have

por delante en este momento, pero hay

43 other countries out there

otros 43 países por ahí

working on military robotics, and they

trabajando en robótica militar,

include all the interesting countries like

incluyendo países interesantes como

Russia, China, Pakistan, Iran.

Rusia, China, Pakistán, Irán.

And this raises a bigger worry for me.

Esto me plantea una gran preocupación:

How do we move forward in this revolution

¿Cómo podemos avanzar en esta revolución,

given the state of our manufacturing

dado nuestro nivel de producción,

and the state of our science and

el estado de nuestra ciencia y

mathematics training in our schools?

la formación matemática en las escuelas?

Or another way of thinking about this is,

También se puede pensar de este modo:

what does it mean to go to war increasingly

¿Qué significa enviar cada vez más soldados a la guerra

with soldiers whose hardware is made

con equipos cuyo hardware es hecho

in China and software is written in India?

en China y el software programado en India?

But just as software has gone open-source,

Pero así como el software se ha vuelto de código abierto,

so has warfare.

también lo ha hecho la guerra.

Unlike an aircraft carrier or an atomic bomb,

A diferencia de un portaaviones o una bomba atómica,

you don't need a massive manufacturing

no es necesario un sistema de fabricación masiva

system to build robotics. A lot of it is

para construir robots. Muchos ya están a la venta.

off the shelf. A lot of it's even do-it-yourself.

Incluso muchos son "hágalo usted mismo".

One of those things you just saw flashed

Una de las cosas que acaban de ver pasar en frente

before you was a raven drone, the handheld

es un Raven no tripulado, que se lanza

tossed one. For about a thousand dollars,

con la mano. Con unos mil dólares

you can build one yourself, equivalent to

se pueden construir uno equivalente

what the soldiers use in Iraq.

a los que usan los soldados en Irak.

That raises another wrinkle when it comes

Esto plantea otro problema cuando se trata

to war and conflict. Good guys might play

de guerras y conflictos. Los buenos podrían jugar

around and work on these as hobby kits,

y trabajar en ellos como kits de pasatiempo,

but so might bad guys.

pero también podrían hacerlo los malos.

This cross between robotics and things like

Este cruce entre robótica y cosas como

terrorism is going to be fascinating

el terrorismo resultará fascinante

and even disturbing,

y hasta perturbador,

and we've already seen it start.

y ya lo hemos visto comenzar.

During the war between Israel, a state,

Durante la guerra entre Israel, un estado

and Hezbollah, a non-state actor,

y Hezbolá, un actor no estatal,

the non-state actor flew

el actor no estatal lanzó

four different drones against Israel.

cuatro aviones no tripulados contra Israel.

There's already a jihadi website

Ya existe un sitio web yihadista

that you can go on and remotely

en el que se puede entrar y detonar

detonate an IED in Iraq while sitting

a distancia un IED en Irak sentado

at your home computer.

desde su computadora.

And so I think what we're going to see is

Y entonces creo que vamos a ver surgir

two trends take place with this.

dos tendencias.

First is, you're going to reinforce the power

La primera es que va a reforzar el poder

of individuals against governments,

de los individuos contra los gobiernos,

but then the second is that

pero la segunda es que

we are going to see an expansion

vamos a ver una expansión

in the realm of terrorism.

en el ámbito del terrorismo.

The future of it may be a cross between

El futuro de esto prodría ser una mezcla entre

al Qaeda 2.0 and the

Al Qaeda 2.0

next generation of the Unabomber.

y la próxima generación de Unabomber.

And another way of thinking about this

Y otra forma de verlo

is the fact that, remember, you don't have

es el hecho que, recuerden,

to convince a robot that they're gonna

no hay que convencer a un robot que recibirá

receive 72 virgins after they die

72 vírgenes después de su muerte

to convince them to blow themselves up.

para hacerlo inmolar.

But the ripple effects of this are going to go

Pero las repercusiones se van a hacer sentir

out into our politics. One of the people that

en nuestra política. Una de las personas que

I met with was a former Assistant Secretary of

conocí era un asistente del secretario de defensa

Defense for Ronald Reagan, and he put it

de Ronald Reagan, y me dijo

this way: "I like these systems because

lo siguiente: "Me gustan estos sistemas porque

they save American lives, but I worry about

salvan vidas americanas, pero me preocupa

more marketization of wars,

la comercialización de las guerras,

more shock-and-awe talk,

el lenguaje sensacionalista

to defray discussion of the costs.

que distrae la atención acerca de los costos.

People are more likely to support the use

La gente es más propensa a apoyar el uso

of force if they view it as costless."

de la fuerza si ve que no cuesta nada".

Robots for me take certain trends

Para mí, los robots siguen ciertas tendencias

that are already in play in our body politic,

que ya están jugando un papel importante en nuestra

and maybe take them to

vida política y tal vez los llevan

their logical ending point.

a su conclusión lógica.

We don't have a draft. We don't

No tenemos ningún proyecto.

have declarations of war anymore.

Ya no hacemos declaraciones de guerra

We don't buy war bonds anymore.

ni compramos bonos de guerra.

And now we have the fact that we're

Y ahora hay que considerar que cada vez más

converting more and more of our American

estamos reemplazando nuestros soldados

soldiers that we would send into harm's

americanos que mandaríamos al peligro

way into machines, and so we may take

por máquinas, y así poder superar

those already lowering bars to war

los obstáculos que quedan en la guerra

and drop them to the ground.

y hacerlos caer al suelo.

But the future of war is also going to be

Pero el futuro de la guerra también va a ser

a YouTube war.

una guerra en YouTube.

That is, our new technologies don't merely

Es decir, nuestras nuevas tecnologías no se limitan

remove humans from risk.

a alejar la gente del riesgo.

They also record everything that they see.

También registran todo lo que ven.

So they don't just delink the public:

No solo desvinculan el público:

they reshape its relationship with war.

redefinen su relación con la guerra.

There's already several thousand

Ya hay miles de video clips

video clips of combat footage from Iraq

de escenas de combates en Irak

on YouTube right now,

en este momento en Youtube,

most of it gathered by drones.

la mayoría filmados por aviones no tripulados.

Now, this could be a good thing.

Ahora, esto podría ser una cosa positiva.

It could be building connections between

Podría crear conexiones entre

the home front and the war front

el frente interno y el frente de guerra

as never before.

como nunca antes.

But remember, this is taking place

Pero recuerden, todo esto sucede

in our strange, weird world, and so

en nuestro extraño y bizarro mundo, y así,

inevitably the ability to download these

inevitablemente, la posibilidad de descargar estos

video clips to, you know, your iPod

video clips en el iPod o Zune

or your Zune gives you

nos da la capacidad

the ability to turn it into entertainment.

para convertirlos en entretenimiento.

Soldiers have a name for these clips.

Los soldados tienen un nombre para estos videos.

They call it war porn.

Los llaman pornografía bélica.

The typical one that I was sent was

Un ejemplo típico fue uno que me enviaron

an email that had an attachment of

por email con un archivo adjunto

video of a Predator strike taking out

de un video del ataque de un Predator

an enemy site. Missile hits,

a una base enemiga. Golpes de misiles,

bodies burst into the air with the explosion.

cuerpos volando por el aire por la explosión.

It was set to music.

Fue hecho con música.

It was set to the pop song

Era con la canción

"I Just Want To Fly" by Sugar Ray.

"I Just Want To Fly" de Sugar Ray.

This ability to watch more

Esta capacidad de ver más

but experience less creates a wrinkle

pero sufrir menos crea un desequilibrio

in the public's relationship with war.

en la relación del público con la guerra.

I think about this with a sports parallel.

Hago una comparación con el deporte.

It's like the difference between

Es como la diferencia entre

watching an NBA game, a professional

ver un partido de la NBA, un partido de baloncesto

basketball game on TV, where the athletes

profesional en televisión, donde los jugadores

are tiny figures on the screen, and

son pequeñas figuras en la pantalla,

being at that basketball game in person

y estar en el mismo partido en persona

and realizing what someone seven feet

y darse cuenta cómo es realmente alguien

really does look like.

de 2,10 metros.

But we have to remember,

Pero hay que recordar

these are just the clips.

que estos son solo videos.

These are just the ESPN SportsCenter

Es solo la versión del partido

version of the game. They lose the context.

de ESPN. Pierden el contexto.

They lose the strategy.

Pierden la estrategia.

They lose the humanity. War just

Pierden la humanidad. La guerra se convierte

becomes slam dunks and smart bombs.

solo en mates y bombas inteligentes.

Now the irony of all this is that

La cosa irónica en todo esto es que

while the future of war may involve

mientras el futuro de la guerra puede involucrar

more and more machines,

cada vez más máquinas,

it's our human psychology that's driving

es nuestra psique humana la que impulsa

all of this, it's our human failings

todo esto, son nuestros errores humanos

that are leading to these wars.

los que están llevando a estas guerras.

So one example of this that has

Un ejemplo de esto que tiene

big resonance in the policy realm is

gran resonancia en la esfera política es

how this plays out on our very real

cómo se manifiesta en nuestra verdadera

war of ideas that we're fighting

guerra de ideas que estamos librando

against radical groups.

contra los grupos radicales.

What is the message that we think we are

Qué mensaje creemos que estamos enviando

sending with these machines versus what

con estas máquinas, frente al mensaje que

is being received in terms of the message.

se está recibiendo del otro lado.

So one of the people that I met was

Una de las personas que conocí era

a senior Bush Administration official,

un alto funcionario del gobierno Bush,

who had this to say about

que dijo lo siguiente acerca

our unmanning of war:

de la deshumanización de la guerra:

"It plays to our strength. The thing that

"Contribuye a nuestra fuerza. Lo que

scares people is our technology."

asusta a la gente es nuestra tecnología".

But when you go out and meet with people,

Pero cuando conoces a la gente del Líbano,

for example in Lebanon, it's a very

por ejemplo, es una historia

different story. One of the people

muy diferente. Allá conocí

I met with there was a news editor, and

a un editor de noticias. Mientras hablábamos,

we're talking as a drone is flying above him,

un avión no tripulado volaba sobre nosotros,

and this is what he had to say.

y dijo esto al respecto:

"This is just another sign of the coldhearted

"Esto es otra muestra más de la insensibilidad

cruel Israelis and Americans,

de los israelíes y los americanos,

who are cowards because

que son cobardes porque

they send out machines to fight us.

envían máquinas para luchar contra nosotros.

They don't want to fight us like real men,

No quieren luchar contra nosotros como hombres de verdad,

but they're afraid to fight,

pero tienen miedo de luchar,

so we just have to kill a few of their soldiers

así que es suficiente matar a algunos de sus soldados

to defeat them."

para derrotarlos".

The future of war also is featuring

El futuro de la guerra trae consigo

a new type of warrior,

un nuevo tipo de guerrero

and it's actually redefining the experience

que en realidad está redefiniendo la experiencia

of going to war.

de ir a la guerra.

You can call this a cubicle warrior.

Se les puede llamar guerreros de cubículo.

This is what one Predator drone pilot

Fue así que un piloto de avión no tripulado Predator

described of his experience fighting

describió su experiencia de lucha

in the Iraq War while never leaving Nevada.

en la guerra de Irak sin salir de Nevada:

"You're going to war for 12 hours,

"Vas a la guerra durante 12 horas,

shooting weapons at targets,

disparas a los blancos,

directing kills on enemy combatants,

matas directamente a los enemigos,

and then you get in the car

luego tomas el coche,

and you drive home and within 20 minutes,

conduces hasta tu casa y en 20 minutos

you're sitting at the dinner table

estás sentado en la mesa

talking to your kids about their homework."

hablando con tus hijos de sus tareas".

Now, the psychological balancing

Pues bien, el equilibrio psicológico

of those experiences is incredibly tough,

de estas experiencias es increíblemente difícil,

and in fact those drone pilots have

y de hecho los pilotos de aviones no tripulados tienen

higher rates of PTSD than many

mayores índices de trastorno por estrés postraumático

of the units physically in Iraq.

que muchas de las unidades físicas en Irak.

But some have worries that this

Pero algunos temen que esta

disconnection will lead to something else,

desconexión conducirá a otra cosa,

that it might make the contemplation of war

que hará que sea más fácil aceptar

crimes a lot easier when you have

los crímines de guerra cuando se tiene

this distance. "It's like a video game,"

esta distancia. "Es como un videojuego",

is what one young pilot described to me

me dijo un joven piloto hablando del ataque

of taking out enemy troops from afar.

de las tropas enemigas desde la distancia.

As anyone who's played Grand Theft Auto

Cualquiera que haya jugado Grand Theft Auto,

knows, we do things in the video world

sabe que en el mundo virtual hacemos cosas

that we wouldn't do face to face.

que nunca haríamos en la vida real.

So much of what you're hearing from me

Gran parte de lo que estoy diciendo

is that there's another side

es que hay otro aspecto

to technologic revolutions,

de las revoluciones tecnológicas

and that it's shaping our present

que está dando forma a nuestro presente,

and maybe will shape our future of war.

y quizás dará forma a nuestro futuro en la guerra.

Moore's Law is operative,

La Ley de Moore se aplica,

but so's Murphy's Law.

al igual que la Ley de Murphy.

The fog of war isn't being lifted.

La niebla de la guerra no se levanta.

The enemy has a vote.

El enemigo tiene un voto.

We're gaining incredible new capabilities,

Estamos ganando increíbles nuevas capacidades,

but we're also seeing and experiencing

pero también estamos viendo y experimentando

new human dilemmas. Now,

nuevos dilemas humanos.

sometimes these are just "oops" moments,

A veces no son más que momentos "¡oops!",

which is what the head of a robotics

que es lo que el jefe de una compañía

company described it, you just have

de robótica describió como "patinazos".

"oops" moments. Well, what are

Bien, ¿Cuáles son los patinazos

"oops" moments with robots in war?

de los robots en la guerra?

Well, sometimes they're funny. Sometimes,

Bueno, a veces son graciosos. A veces

they're like that scene from the

son como esa escena de la película

Eddie Murphy movie "Best Defense,"

con Eddie Murphy "La mejor defensa, ¡el ataque!",

playing out in reality, where they tested out

por ejemplo, cuando pusieron a prueba

a machine gun-armed robot, and during

un robot que estaba armado, y durante

the demonstration it started spinning

la demostración, éste comenzó a girar

in a circle and pointed its machine gun

en un círculo apuntando con sus ametralladoras

at the reviewing stand of VIPs.

hacia la tribuna de las personalidades.

Fortunately the weapon wasn't loaded

Afortunadamente el arma no estaba cargada

and no one was hurt, but other times

y nadie resultó herido, pero otras veces

"oops" moments are tragic,

los patinazos son trágicos,

such as last year in South Africa, where

como el año pasado en Sudáfrica, donde

an anti-aircraft cannon had a

un cañón antiaéreo tuvo un

"software glitch," and actually did turn on

"problema de software", y en realidad se activó

and fired, and nine soldiers were killed.

y disparó, matando a nueve soldados.

We have new wrinkles in the laws of war

Existen nuevos escollos en las leyes de guerra

and accountability. What do we do

y la rendición de cuentas. ¿Qué hacemos

with things like unmanned slaughter?

en situaciones como la masacre no tripulada?

What is unmanned slaughter?

¿Qué es masacre no tripulada?

We've already had three instances of

Ya hemos tenido tres casos de ataques

Predator drone strikes where we thought

con aviones no tripulados Predator donde

we got bin Laden, and it turned out

pensábamos que tenían a Bin Laden,

not to be the case.

y resultó no ser así.

And this is where we're at right now.

Y ahí es donde estamos ahora.

This is not even talking about armed,

Ni siquiera estamos hablando de sistemas

autonomous systems

autónomos armados

with full authority to use force.

con plena autoridad para usar la fuerza.

And do not believe that that isn't coming.

Y no creo que esto no vaya a suceder.

During my research I came across

Durante mi investigación me topé con cuatro

four different Pentagon projects

diferentes proyectos del Pentágono

on different aspects of that.

sobre diversos aspectos del problema.

And so you have this question:

Y entonces surge la pregunta:

what does this lead to issues like

¿cómo plantear cuestiones relacionadas

war crimes? Robots are emotionless, so

con crímenes de guerra? Los robots no tienen emociones,

they don't get upset if their buddy is killed.

así que no se enojan si un compañero es asesinado.

They don't commit crimes of rage

No cometen crímenes de rabia

and revenge.

y venganza.

But robots are emotionless.

Pero los robots no sienten emociones.

They see an 80-year-old grandmother

Ven a una abuela de 80 años

in a wheelchair the same way they see

en silla de ruedas del mismo modo que ven

a T-80 tank: they're both

un tanque T-80: ambos

just a series of zeroes and ones.

son solo una serie de ceros y unos.

And so we have this question to figure out:

Debemos hallar entonces una respuesta a esta pregunta:

How do we catch up our 20th century

¿Cómo podemos adaptar nuestras leyes

laws of war, that are so old right now

de guerra del siglo XX, tan viejas

that they could qualify for Medicare,

que podrían jubilarse,

to these 21st century technologies?

a estas tecnologías del siglo XXI?

And so, in conclusion, I've talked about

Por último, he hablado de lo que parece

what seems the future of war,

ser el futuro de la guerra,

but notice that I've only used

pero tengan en cuenta que solo

real world examples and you've only seen

he usado ejemplos del mundo real y que solo

real world pictures and videos.

han visto fotos y videos reales.

And so this sets a great challenge for

Y esto representa un gran desafío

all of us that we have to worry about well

del cual todos debemos preocuparnos,

before you have to worry about your

antes de tener que preocuparnos de que

Roomba sucking the life away from you.

una aspiradora nos succione la vida.

Are we going to let the fact that what's

¿Vamos a dejar que esto que está

unveiling itself right now in war

sucediendo en la guerra,

sounds like science fiction and therefore

solo porque suena a ciencia ficción

keeps us in denial?

nos mantenga en la negación?

Are we going to face the reality

¿Vamos a enfrentar la realidad

of 21st century war?

de la guerra del siglo XXI?

Is our generation going to make the same

¿Nuestra generación va a repetir

mistake that a past generation did

el error que cometió una generación pasada

with atomic weaponry, and not deal with

con las armas atómicas, y no va a lidiar con

the issues that surround it until

las cuestiones que lo rodean sino hasta

Pandora's box is already opened up?

que la caja de Pandora esté abierta?

Now, I could be wrong on this, and

Ahora, yo podría estar equivocado,

one Pentagon robot scientist told me

como afirmó un científico de robots

that I was. He said, "There's no real

del Pentágono diciendo: "No hay verdaderos

social, ethical, moral issues when it comes

problemas sociales, éticos y morales cuando

to robots.

se trata de robots.

That is," he added, "unless the machine

Es decir", añadió, "a menos que la máquina

kills the wrong people repeatedly.

mate repetidamente a las personas equivocadas.

Then it's just a product recall issue."

Entonces es simplemente una cuestión de retiro del producto".

And so the ending point for this is

Y el punto de esto es que

that actually, we can turn to Hollywood.

podemos recurrir a Hollywood.

A few years ago, Hollywood gathered

Hace unos años, Hollywood reunió

all the top characters and created

a los personajes más famosos y creó

a list of the top 100 heroes and

una lista de los 100 mejores héroes y

top 100 villains of all of Hollywood history,

los 100 mejores villanos de toda la historia de Hollywood,

the characters that represented the best

los personajes que representan lo mejor

and worst of humanity.

y lo peor de la humanidad.

Only one character made it onto both lists:

Solo un personaje aparece en ambas listas:

The Terminator, a robot killing machine.

Terminator, una máquina asesina.

And so that points to the fact that

Y esto indica que

our machines can be used

nuestras máquinas pueden ser usadas

for both good and evil, but for me

ya sea para bien o para mal, pero para mí

it points to the fact that there's a duality

indica que hay una dualidad

of humans as well.

en el ser humano.

This week is a celebration

Esta semana celebramos

of our creativity. Our creativity

nuestra creatividad. Nuestra creatividad

has taken our species to the stars.

ha llevado nuestra especie a las estrellas.

Our creativity has created works of arts

Nuestra creatividad ha creado obras de arte

and literature to express our love.

y la literatura para expresar nuestro amor.

And now, we're using our creativity

Ahora estamos usando nuestra creatividad

in a certain direction, to build fantastic

en una cierta dirección, para construir

machines with incredible capabilities,

máquinas fantásticas con increíbles capacidades,

maybe even one day

y quizás, algún día,

an entirely new species.

incluso una nueva especie.

But one of the main reasons that we're

Pero una de las principales razones por las que

doing that is because of our drive

hacemos esto se debe a nuestro instinto

to destroy each other, and so the question

de destruirnos unos a otros. Por lo tanto,

we all should ask:

deberíamos preguntarnos:

is it our machines, or is it us

¿son nuestras máquinas, o estamos

that's wired for war?

auto diseñados para la guerra?

Thank you. (Applause)

Gracias. (Aplausos)