Military robots and the future of war | P.W. Singer

PW Singer sobre robôs militares e o futuro da guerra

Tradutor: Nadja Nathan Revisor: Fers Gruendling

I thought I'd begin with a scene of war.

Pensei em começar com uma cena de guerra.

There was little to warn of the danger ahead.

Havia pouco alerta sobre o perigo à frente.

The Iraqi insurgent had placed the IED,

O insurgente iraquiano havia colocado o IED,

an Improvised Explosive Device,

um Dispositivo Explosivo Improvisado,

along the side of the road with great care.

ao longo da beira da estrada com muito cuidado.

By 2006, there were more than 2,500

Até 2006, havia mais de 2.500

of these attacks every single month,

desses ataques todo mês,

and they were the leading cause of

e eram a causa principal das

casualties among American soldiers

casualidades entre soldados americanos

and Iraqi civilians.

e civis iraquianos.

The team that was hunting for this IED

A equipe que caçava este Dispositivo Explosivo Improvisado

is called an EOD team—

é chamada de equipe EOD --

Explosives Ordinance Disposal—and

Artilharia de Neutralização de Explosivos -- e

they're the pointy end of the spear in the

são as equipes com maior risco de vida do

American effort to suppress these roadside bombs.

esforço americano para subjugar essas bombas de beira de estradas.

Each EOD team goes out on about

Cada equipe EOD lida com cerca de

600 of these bomb calls every year,

600 desses alertas de bombas todo ano,

defusing about two bombs a day.

desativando cerca de duas bombas por dia.

Perhaps the best sign of how valuable they

Talvez o melhor sinal de quão valiosas as equipes são

are to the war effort, is that

para com o esforço da guerra, é que

the Iraqi insurgents put a $50,000 bounty

os insurgentes iraquianos oferecem 91.000 reais

on the head of a single EOD soldier.

pela cabeça de um único soldado EOD.

Unfortunately, this particular call

Infelizmente, este alerta em particular

would not end well.

não acabaria bem.

By the time the soldier advanced close

Quando o soldado avançou suficientemente

enough to see the telltale wires

perto para ver os fios reveladores

of the bomb, it exploded in a wave of flame.

da bomba, ela explodiu numa onda de fogo.

Now, depending how close you are

Agora, dependendo de quão próximo você está

and how much explosive has been packed

e da quantidade de explosivos comprimida

into that bomb, it can cause death

dentro da bomba, ela pode causar morte

or injury. You have to be as far as

ou ferimento. Você tem que ficar até

50 yards away to escape that.

45 metros de distância para conseguir escapar.

The blast is so strong it can even break

A explosão é tão forte que pode até mesmo quebrar

your limbs, even if you're not hit.

seus membros, mesmo que você não tenha sido atingido.

That soldier had been on top of the bomb.

Esse soldado estava em cima da bomba.

And so when the rest of the team advanced

E então, quando o resto da equipe avançou

they found little left. And that night the unit's

eles pouco encontraram. E naquela noite, foi o triste dever

commander did a sad duty, and he wrote

do comandante da unidade escrever

a condolence letter back to the United

uma carta de condolências aos EUA

States, and he talked about how hard the

na qual ele falava sobre o quão difícil

loss had been on his unit, about the fact

tinha sido a perda para a unidade, o fato

that they had lost their bravest soldier,

que tinham perdido o soldado mais corajoso,

a soldier who had saved their lives

um soldado que tinha salvado as suas vidas

many a time.

muitas vezes.

And he apologized

E ele pedia desculpas

for not being able to bring them home.

por não poder trazê-lo de volta para casa.

But then he talked up the silver lining

Mas então ele falou sobre o lado positivo

that he took away from the loss.

dessa perda.

"At least," as he wrote, "when a robot dies,

“Pelo menos,” ele escreveu, “quando’ um robô morre,

you don't have to write a letter

não precisamos escrever uma carta

to its mother."

para a mãe dele.”

That scene sounds like science fiction,

Este cena soa como ficção cientifica,

but is battlefield reality already.

mas é a realidade do campo de batalha.

The soldier in that case

O soldado nesse caso

was a 42-pound robot called a PackBot.

era um robô de 19 quilos chamado PackBot.

The chief's letter went, not to some

A carta foi enviada, não a alguma

farmhouse in Iowa like you see

fazenda em Iowa como se vê

in the old war movies, but went to

nos filmes de guerra antigos, mas sim para

the iRobot Company, which is

a Companhia iRobot, cujo nome

named after the Asimov novel

deriva de um romance de Asimov

and the not-so-great Will Smith movie,

e o não tão bom filme com Will Smith,

and... um... (Laughter)...

e … hum … (Risos) ...

if you remember that

se você lembrar que

in that fictional world, robots started out

no mundo fictício, os robôs começaram

carrying out mundane chores, and then

fazendo tarefas mundanas, e depois

they started taking on life-and-death decisions.

começaram a tomar decisões sobre vida e morte.

That's a reality we face today.

Esta é a realidade que encaramos atualmente.

What we're going to do is actually just

O que vamos fazer é, na verdade, apenas

flash a series of photos behind me that

rapidamente mostrar uma série de fotos

show you the reality of robots used in war

mostrando a realidade dos robôs utilizados na guerra

right now or already at the prototype stage.

no momento ou já em fase de protótipo.

It's just to give you a taste.

Isso é apenas para lhe dar uma ideia.

Another way of putting it is you're not

Uma outra forma de ver isto é que você não

going to see anything that's powered

verá nada que seja agilizado

by Vulcan technology, or teenage

pela tecnologia da Vulcan, ou hormônios

wizard hormones or anything like that.

de adolescentes feiticeiros ou qualquer coisa assim.

This is all real. So why don't we

Isso tudo é real. Então, por que

go ahead and start those pictures.

não prosseguimos e mostramos estas imagens?

Something big is going on in war today,

Algo grande está acontecendo nas guerras hoje,

and maybe even the history of humanity

e talvez até mesmo na historia da humanidade.

itself. The U.S. military went into Iraq with

As forças armadas americanas foram para o Iraque

a handful of drones in the air.

com um punhado de ‘drones’ (bombardeiros não tripulados) no céu.

We now have 5,300.

Agora temos 5.300.

We went in with zero unmanned ground

Fomos com zero sistemas terrestres não tripulados.

systems. We now have 12,000.

Agora temos 12.000.

And the tech term "killer application"

E o termo técnico “aplicação assassina”

takes on new meaning in this space.

passa a ter um significado inédito neste espaço.

And we need to remember that we're

E precisamos lembrar que estamos

talking about the Model T Fords,

falando sobre o Ford Modelo T (o Ford Bigode),

the Wright Flyers, compared

os aviadores Wright, em comparação com

to what's coming soon.

o que estará chegando em breve.

That's where we're at right now.

Que é onde estamos agora.

One of the people that I recently met with

Uma das pessoas que encontrei recentemente

was an Air Force three-star general, and he

foi um general com três estrelas da Força Aérea

said basically, where we're headed very

e ele basicamente disse, que logo teríamos

soon is tens of thousands of robots

dezenas de milhares de robôs

operating in our conflicts, and these

em operação nos nossos conflitos, e esses

numbers matter, because we're not just

números são importantes porque não estamos apenas

talking about tens of thousands of today's

falando de dezenas de milhares de robôs

robots, but tens of thousands of these

de agora, mas dezenas de milhares desses

prototypes and tomorrow's robots, because

protótipos e os robôs do futuro, porque

of course, one of the things that's operating

obviamente, uma das coisas que opera

in technology is Moore's Law,

em tecnologia é a Lei de Moore:

that you can pack in more and more

que você pode incorporar mais

computing power into those robots, and so

poder de computação nesses robôs, e então

flash forward around 25 years,

avançar cerca de 25 anos,

if Moore's Law holds true,

se a Lei de Moore é válida,

those robots will be close to a billion times

esses robôs serão perto de um bilhão de vezes

more powerful in their computing than today.

mais potentes na sua computação do que são hoje.

And so what that means is the kind of

E então, o que isso significa é que o tipo de

things that we used to only talk about at

coisas que estamos acostumados a discutir

science fiction conventions like Comic-Con

nas convenções de ficção científica como Comic-Con

have to be talked about in the halls

serão discutidas nos salões

of power and places like the Pentagon.

do poder e lugares como o Pentágono.

A robots revolution is upon us.

Uma revolução robótica está muito próxima.

Now, I need to be clear here.

Agora, preciso deixar bem claro aqui.

I'm not talking about a revolution where you

Não estou falando sobre uma revolução em que

have to worry about the Governor of

você precisa se preocupar que o governador

California showing up at your door,

da California apareça na sua casa,

a la the Terminator. (Laughter)

a la o Terminador. (Risos)

When historians look at this period, they're

Quando historiadores estudarem essa era,

going to conclude that we're in a different

irão concluir que passamos por um tipo de

type of revolution: a revolution in war,

revolução diferente: uma revolução da guerra,

like the invention of the atomic bomb.

como a invenção da bomba atômica.

But it may be even bigger than that,

Porém, poderá ser ainda maior do que isso,

because our unmanned systems don't just

porque os nossos sistemas não tripulados não apenas

affect the "how" of war-fighting,

afetam o “como” do combate,

they affect the "who" of fighting

eles afetam o “quem” em combate

at its most fundamental level.

em seu nível mais rudimentar.

That is, every previous revolution in war, be

Ou seja, cada revolução da guerra anterior

it the machine gun, be it the atomic bomb,

seja a metralhadora, seja a bomba atômica,

was about a system that either shot faster,

era sobre um sistema que aconteceu mais rápido,

went further, had a bigger boom.

teve um avanço, teve um crescimento maior.

That's certainly the case with robotics, but

Com certeza isso é o caso da robótica, mas

they also change the experience of the warrior

eles também mudam a experiência do guerreiro

and even the very identity of the warrior.

e até mesmo a sua identidade.

Another way of putting this is that

Uma outra maneira de por isto é que

mankind's 5,000-year-old monopoly

o monopólio de 5.000 anos

on the fighting of war is breaking down

de combate de guerra está se desmoronando

in our very lifetime. I've spent

durante nossa vida. Eu passei

the last several years going around

os últimos anos percorrendo lugares,

meeting with all the players in this field,

me encontrando com todos os jogadores deste campo,

from the robot scientists to the science

desde cientistas na área da robótica até autores de

fiction authors who inspired them to the

ficção cientifica que os inspiraram, desde pilotos dos drones

19-year-old drone pilots who are fighting

de 19 anos que combatem

from Nevada, to the four-star generals

de Nevada, aos generais de quatro estrelas

who command them, to even the Iraqi

que os comandam, até mesmo os insurgentes do Iraque

insurgents who they are targeting and what

que os têm como alvo e o que

they think about our systems, and

eles pensam sobre os nossos sistemas e,

what I found interesting is not just

o que achei interessante não foi apenas

their stories, but how their experiences

suas historias, mas como suas experiências

point to these ripple effects that are going

apontam para estes efeitos cascata que

outwards in our society, in our law

influenciam nossas sociedade, nossas leis

and our ethics, etc. And so what I'd like

nossas éticas, etc. E então, o que eu gostaria

to do with my remaining time is basically

de fazer com o restante da minha palestra é basicamente

flesh out a couple of these.

falar em detalhe sobre dois deles.

So the first is that the future of war,

Então o primeiro é que o futuro da guerra,

even a robotics one, is not going to be

mesmo a robótica, não será

purely an American one.

puramente uma guerra americana.

The U.S. is currently ahead in military

Os EU atualmente estão na vanguarda da robótica

robotics right now, but we know that in

militar, mas sabemos que com

technology there's no such thing as

tecnologia não existe essa coisa de

a permanent first move or advantage.

um primeiro passo permanente ou vantagem.

In a quick show of hands, how many

Rapidamente levantem as mãos, quantas

people in this room still use

pessoas nesta sala ainda usam

Wang Computers? (Laughter)

Wang computadores? (Risos)

It's the same thing in war. The British and

É as mesma coisa na guerra. Os britânicos e

the French invented the tank.

os franceses inventaram o tanque.

The Germans figured out how

Os alemães descobriram

to use it right, and so what we have to

como usá-lo, então o que precisamos fazer

think about for the U.S. is that we are

é pensar que para os EU, no momento,

ahead right now, but you have

nós estamos à frente, mas você tem

43 other countries out there

43 outros países lá fora,

working on military robotics, and they

trabalhando em robótica militar

include all the interesting countries like

incluindo todos os países interessantes como

Russia, China, Pakistan, Iran.

Rússia, China, Paquistão, Iran.

And this raises a bigger worry for me.

E isso gera uma preocupação maior para mim.

How do we move forward in this revolution

Como levamos adiante essa revolução

given the state of our manufacturing

considerando o estado da nossa fabricação

and the state of our science and

e o estado do ensino da nossa ciência e

mathematics training in our schools?

matemática em nossas escolas?

Or another way of thinking about this is,

Ou uma outra forma de pensar nisso é,

what does it mean to go to war increasingly

o que significa ir à guerra,

with soldiers whose hardware is made

com soldados cujo equipamento é fabricado

in China and software is written in India?

na China e o software é programado na Índia?

But just as software has gone open-source,

Mas, da mesma maneira como software tornou-se código aberto

so has warfare.

o mesmo aconteceu com a guerra.

Unlike an aircraft carrier or an atomic bomb,

Ao contrário de um porta-aviões ou uma bomba atômica,

you don't need a massive manufacturing

você não precisa de um sistema de fabricação

system to build robotics. A lot of it is

em massa para construir robôs. Boa parte disso

off the shelf. A lot of it's even do-it-yourself.

tem estoques disponíveis. Muito disso é faça-você-mesmo.

One of those things you just saw flashed

Uma dessas coisas que acabou de passar

before you was a raven drone, the handheld

diante dos seus olhos foi um drone corvo, o

tossed one. For about a thousand dollars,

que é lançado a mão. Por cerca de 1.800 reais,

you can build one yourself, equivalent to

você pode construir um você mesmo, o equivalente

what the soldiers use in Iraq.

ao usado pelos soldados no Iraque.

That raises another wrinkle when it comes

Isto levanta uma outra questão quando se trata

to war and conflict. Good guys might play

de guerra e conflito. Os caras bons podem brincar

around and work on these as hobby kits,

e trabalhar neles como kits de passatempo,

but so might bad guys.

e trabalhar neles como kits de passatempo,

This cross between robotics and things like

Este cruzamento entre robótica e coisas como

terrorism is going to be fascinating

terrorismo vai se tornar fascinante

and even disturbing,

e até mesmo perturbador,

and we've already seen it start.

e já vimos o seu começo.

During the war between Israel, a state,

Na guerra entre Israel, um estado

and Hezbollah, a non-state actor,

e o Hezbolá, um ator não-estatal,

the non-state actor flew

o ator não-estatal lançou

four different drones against Israel.

quatro drones diferentes contra Israel.

There's already a jihadi website

Já existe um site jihadista

that you can go on and remotely

o qual você pode visitar e detonar

detonate an IED in Iraq while sitting

à distância um IED no Iraque enquanto

at your home computer.

você está em seu computador em casa

And so I think what we're going to see is

E então acho que vamos ver

two trends take place with this.

a sucessão de duas tendências.

First is, you're going to reinforce the power

A primeira é que você vai reforçar o poder

of individuals against governments,

dos indivíduos contra os governos,

but then the second is that

mas a segunda é que

we are going to see an expansion

vamos ver uma expansão

in the realm of terrorism.

no domínio do terrorismo.

The future of it may be a cross between

O futuro disso poderá ser um cruzamento entre

al Qaeda 2.0 and the

Al Qaeda 2.0 e a

next generation of the Unabomber.

próxima geração do Unabomber.

And another way of thinking about this

E uma outra forma de pensarmos sobre isto

is the fact that, remember, you don't have

é o fato, lembre-se de que você não precisa

to convince a robot that they're gonna

convencer um robô que ele vai

receive 72 virgins after they die

ganhar 72 virgens após sua morte,

to convince them to blow themselves up.

para convencê-lo a fazer-se explodir

But the ripple effects of this are going to go

Mas os efeitos cascata disso entrarão

out into our politics. One of the people that

dentro da nossa política. Uma das pessoas com quem

I met with was a former Assistant Secretary of

me encontrei foi o antigo Assistente do Secretário

Defense for Ronald Reagan, and he put it

de Defesa de Ronald Reagan, e ele disse o seguinte:

this way: "I like these systems because

“Eu gosto desses sistemas porque

they save American lives, but I worry about

eles salvam vidas americanas, mas me preocupo

more marketization of wars,

com a marketização das guerras,

more shock-and-awe talk,

mais conversas choque-pavor,

to defray discussion of the costs.

para custear as discussões sobre custos

People are more likely to support the use

As pessoas são mais propensas a apoiar o uso

of force if they view it as costless."

da força se entendem que elas não custam nada.”

Robots for me take certain trends

Robôs, para mim, têm certas tendências

that are already in play in our body politic,

que já funcionam no nosso corpo político,

and maybe take them to

e talvez os levem ao

their logical ending point.

seu lógico ponto final.

We don't have a draft. We don't

Nós não temos serviço militar obrigatório. Não

have declarations of war anymore.

temos mais declarações de guerra.

We don't buy war bonds anymore.

Não compramos mais títulos de guerra.

And now we have the fact that we're

E agora, nós temos o fato que cada vez mais

converting more and more of our American

nós convertemos nossos soldados americanos,

soldiers that we would send into harm's

os quais nós enviaríamos ao perigo,

way into machines, and so we may take

em máquinas; e assim podemos pegar

those already lowering bars to war

aqueles impedimentos existentes de guerra

and drop them to the ground.

e abandoná-los.

But the future of war is also going to be

Mas o futuro da guerra também será

a YouTube war.

uma guerra do YouTube.

That is, our new technologies don't merely

Ou seja, nossas novas tecnologias não apenas

remove humans from risk.

eliminam os riscos para os humanos.

They also record everything that they see.

Eles também gravam tudo o que veem.

So they don't just delink the public:

Assim eles simplesmente não se desconectam do público:

they reshape its relationship with war.

eles reformulam sua relação com a guerra.

There's already several thousand

Já existem milhares de

video clips of combat footage from Iraq

clipes de vídeo de filmagens de combate do Iraque

on YouTube right now,

no YouTube, neste momento,

most of it gathered by drones.

a maior parte recolhidas por drones.

Now, this could be a good thing.

Agora, isto poderia ser uma boa coisa.

It could be building connections between

Isto poderia construir conexões entre

the home front and the war front

a frente interna e a frente de guerra

as never before.

como nunca antes.

But remember, this is taking place

Mas lembre-se, isto está acontecendo

in our strange, weird world, and so

em nosso mundo estranho, esquisito, e assim,

inevitably the ability to download these

inevitavelmente, a capacidade de baixar esses

video clips to, you know, your iPod

vídeo clipes para o seu iPod

or your Zune gives you

ou seu Zune lhe oferece

the ability to turn it into entertainment.

a capacidade de os transformar em divertimento.

Soldiers have a name for these clips.

Soldados têm um nome para estes clipes.

They call it war porn.

Eles os chamam de pornô-guerra.

The typical one that I was sent was

Um exemplo do que me enviaram foi

an email that had an attachment of

um email que tinha um anexo de um

video of a Predator strike taking out

vídeo de um ataque de Predator eliminando

an enemy site. Missile hits,

um site inimigo. Ataques de míssil,

bodies burst into the air with the explosion.

corpos explodindo no ar devido à explosão.

It was set to music.

Era configurado com música.

It was set to the pop song

Configurado com a música pop

"I Just Want To Fly" by Sugar Ray.

"I Just Want To Fly" por Sugar Ray.

This ability to watch more

Esta capacidade de ver mais

but experience less creates a wrinkle

mas sentir menos cria um empecilho

in the public's relationship with war.

na relação entre o público e a guerra.

I think about this with a sports parallel.

Eu penso nisso com um paralelo esportivo.

It's like the difference between

É como a diferença entre

watching an NBA game, a professional

assistindo um jogo da NBA, um jogo de

basketball game on TV, where the athletes

basket na TV no qual os atletas

are tiny figures on the screen, and

são figuras pequeníssimas na tela, e

being at that basketball game in person

indo ver o jogo de basket ao vivo

and realizing what someone seven feet

e realizando como alguém com 2.10 m.

really does look like.

realmente se parece.

But we have to remember,

Mas precisamos nos lembrar,

these are just the clips.

que eles são simplesmente clipes.

These are just the ESPN SportsCenter

Eles são apenas a versão do jogo do

version of the game. They lose the context.

Centro de Esportes ESPN. Eles perdem o contexto.

They lose the strategy.

Perdem a estratégia.

They lose the humanity. War just

Perdem a humanidade. A guerra é reduzida

becomes slam dunks and smart bombs.

a “slam dunks” e bombas inteligentes.

Now the irony of all this is that

Agora, a ironia de tudo isso é que

while the future of war may involve

enquanto o futuro da guerra poderia envolver

more and more machines,

muito mais máquinas,

it's our human psychology that's driving

é a nossa psicologia humana que força

all of this, it's our human failings

tudo isso, são as nossas fraquezas humanas

that are leading to these wars.

que nos levam as essas guerras.

So one example of this that has

Um exemplo disso que tem

big resonance in the policy realm is

grande repercussão na esfera política é

how this plays out on our very real

de que forma isso esgota a nossa verdadeira

war of ideas that we're fighting

guerra de ideias que nós estamos lutando

against radical groups.

contra grupos radicais.

What is the message that we think we are

Qual é a mensagem que pensamos estar

sending with these machines versus what

mandando com essas máquina versus o que

is being received in terms of the message.

está sendo recebido em termos da mensagem.

So one of the people that I met was

Uma das pessoas que encontrei foi

a senior Bush Administration official,

um funcionário sênior da Administração de Bush,

who had this to say about

que disse o seguinte sobre

our unmanning of war:

nossa guerra não tripulada:

"It plays to our strength. The thing that

"Ela é vantajosa para nossa força. A única coisa que

scares people is our technology."

assusta as pessoas é a nossa tecnologia."

But when you go out and meet with people,

Mas quando você encontra com pessoas,

for example in Lebanon, it's a very

por exemplo, no Líbano, a história é muito

different story. One of the people

diferente. Uma das pessoas com quem

I met with there was a news editor, and

tive um encontro foi um redator chefe e

we're talking as a drone is flying above him,

conversávamos enquanto um drone voou sobre ele,

and this is what he had to say.

e é isso que ele tinha a dizer.

"This is just another sign of the coldhearted

“Isto é apenas mais um sinal da crueldade

cruel Israelis and Americans,

insensível de israelenses e americanos,

who are cowards because

que são covardes pois

they send out machines to fight us.

enviam máquinas para lutar contra a gente.

They don't want to fight us like real men,

Eles não querem lutar como homens de verdade,

but they're afraid to fight,

mas eles têm medo de lutar,

so we just have to kill a few of their soldiers

então temos que matar alguns dos seus soldados

to defeat them."

para derrotá-los.”

The future of war also is featuring

O futuro da guerra retrata

a new type of warrior,

um novo tipo de guerreiro,

and it's actually redefining the experience

e está, na verdade, redefinindo a experiência

of going to war.

do ir para a guerra.

You can call this a cubicle warrior.

Você pode chamar isso de guerreiro de cubículo.

This is what one Predator drone pilot

Foi assim que um piloto do drone Predator

described of his experience fighting

descreveu sua experiência de combate

in the Iraq War while never leaving Nevada.

na guerra do Iraque sem sequer sair de Nevada.

"You're going to war for 12 hours,

“Você está indo para a guerra por 12 horas,

shooting weapons at targets,

atira nos alvos com armas,

directing kills on enemy combatants,

diretamente mata os inimigos,

and then you get in the car

e depois você pega seu carro

and you drive home and within 20 minutes,

e vai pra casa e em 20 minutos

you're sitting at the dinner table

você está sentado em volta da mesa de jantar

talking to your kids about their homework."

falando com seus filhos sobre seus deveres de casa.”

Now, the psychological balancing

Bom, o equilíbrio psicológico

of those experiences is incredibly tough,

dessas experiências é incrivelmente difícil,

and in fact those drone pilots have

e, de fato, estes pilotos têm

higher rates of PTSD than many

taxas mais elevadas de TEPT do que muitos

of the units physically in Iraq.

daqueles nas unidades no Iraque.

But some have worries that this

E algumas pessoas se preocupam que

disconnection will lead to something else,

esta desconexão levará a uma outra coisa,

that it might make the contemplation of war

que poderia fazer o contemplar de crimes de guerra

crimes a lot easier when you have

muito mais fácil quando se tem

this distance. "It's like a video game,"

esta distância. “É como um jogo de vídeo,”

is what one young pilot described to me

é como um piloto jovem descreveu para mim

of taking out enemy troops from afar.

o eliminar das tropas inimigas de longe.

As anyone who's played Grand Theft Auto

Como qualquer pessoa que já jogou Grand Theft Auto

knows, we do things in the video world

sabe, fazemos coisas no mundo do vídeo

that we wouldn't do face to face.

que não faríamos cara a cara.

So much of what you're hearing from me

Muito do que você me ouviu falar

is that there's another side

é que há um outro aspecto

to technologic revolutions,

das revoluções tecnológicas,

and that it's shaping our present

que molda o nosso presente

and maybe will shape our future of war.

e poderá moldar o nosso futuro da guerra.

Moore's Law is operative,

A Lei de Moore está em operação,

but so's Murphy's Law.

mas a Lei de Murphy também está.

The fog of war isn't being lifted.

A névoa da guerra não levantou.

The enemy has a vote.

O inimigo tem um voto.

We're gaining incredible new capabilities,

Estamos ganhando novas habilidades incríveis,

but we're also seeing and experiencing

mas também estamos presenciando e tendo experiências

new human dilemmas. Now,

dos novos dilemas humanos. Agora,

sometimes these are just "oops" moments,

às vezes eles são apenas momentos “oops” (mancada),

which is what the head of a robotics

e foi assim que o chefe de uma empresa de robótica

company described it, you just have

os descreveu, você simplesmente tem

"oops" moments. Well, what are

momentos “oops”. Bem, quais são

"oops" moments with robots in war?

os momentos “oops” nas guerras robótica?

Well, sometimes they're funny. Sometimes,

Bem, às vezes eles são engraçados. Às vezes,

they're like that scene from the

eles são como uma cena do filme

Eddie Murphy movie "Best Defense,"

com Eddie Murphy “A melhor defesa é o ataque”,

playing out in reality, where they tested out

encenando realidade, quando testavam

a machine gun-armed robot, and during

um robô armado com uma metralhadora e

the demonstration it started spinning

durante a demonstração ele começa a rodar

in a circle and pointed its machine gun

num círculo e aponta a arma

at the reviewing stand of VIPs.

para o palanque dos VIPs.

Fortunately the weapon wasn't loaded

Felizmente a arma estava desarmada

and no one was hurt, but other times

e ninguém fica ferido, mas em outras ocasiões

"oops" moments are tragic,

os momentos “oops” são trágicos,

such as last year in South Africa, where

tal como aconteceu no ano passado na África de Sul, quando

an anti-aircraft cannon had a

um canhão anti-aéreo teve uma

"software glitch," and actually did turn on

"falha de software" e, de fato, ligou

and fired, and nine soldiers were killed.

e atirou e nove soldados foram mortos.

We have new wrinkles in the laws of war

Nós temos novos obstáculos nas leis de guerra

and accountability. What do we do

e responsabilização. O que fazer

with things like unmanned slaughter?

em situações como massacres não tripulados?

What is unmanned slaughter?

O que é um massacre não tripulado?

We've already had three instances of

Já tivemos três casos de ataques do bombardeiro

Predator drone strikes where we thought

não tripulado Predador onde pensamos

we got bin Laden, and it turned out

que tínhamos capturado Bin Laden e descobriu-se

not to be the case.

que não era o caso.

And this is where we're at right now.

E é onde estamos neste momento.

This is not even talking about armed,

Isso não é nem se falando de sistemas

autonomous systems

armados autônomos

with full authority to use force.

com plena autoridade para usar a força.

And do not believe that that isn't coming.

E não pense que isto não está prestes a acontecer.

During my research I came across

Durante a minha pesquisa me deparei

four different Pentagon projects

com quatro projetos diferentes do Pentágono

on different aspects of that.

nos aspectos diferentes da autonomia.

And so you have this question:

E então surge a pergunta:

what does this lead to issues like

como se levantar questões como

war crimes? Robots are emotionless, so

crimes de guerra? Os robôs não têm emoções,

they don't get upset if their buddy is killed.

eles não ficam tristes se seu companheiro é morto.

They don't commit crimes of rage

Eles não cometem crimes de ódio

and revenge.

e vingança.

But robots are emotionless.

Mas os robôs não têm emoções,

They see an 80-year-old grandmother

Eles veem uma avó de 80 anos de idade

in a wheelchair the same way they see

numa cadeira de rodas da mesma forma que veem

a T-80 tank: they're both

um tanque T-80: são ambos

just a series of zeroes and ones.

apenas uma série de zero e um.

And so we have this question to figure out:

Então nós temos que resolver esta questão:

How do we catch up our 20th century

Como podemos atualizar as nossas leis

laws of war, that are so old right now

de guerra do século XX que são tão obsoletas

that they could qualify for Medicare,

E então, resumindo, eu falei sobre

to these 21st century technologies?

a essas tecnologias do século XXI?

And so, in conclusion, I've talked about

E então, resumindo, eu falei sobre

what seems the future of war,

o que parece ser o futuro da guerra,

but notice that I've only used

mas note que somente usei

real world examples and you've only seen

exemplos do mundo real e você somente viu

real world pictures and videos.

imagens do mundo real e vídeos.

And so this sets a great challenge for

E então, isto apresenta um grande desafio

all of us that we have to worry about well

para todos nós que têm que se preocupar

before you have to worry about your

muito antes de se preocupar com o seu

Roomba sucking the life away from you.

Roomba sugando a sua vida de você

Are we going to let the fact that what's

Será que vamos ignorar o fato que o que está

unveiling itself right now in war

sendo desvelado agora na guerra

sounds like science fiction and therefore

soa como ficção cientifica e portanto

keeps us in denial?

nos mantém em negação?

Are we going to face the reality

Será que vamos enfrentar a realidade

of 21st century war?

da guerra do século XXI?

Is our generation going to make the same

Será que nossa geração vai cometer o mesmo

mistake that a past generation did

erro que a geração passada cometeu

with atomic weaponry, and not deal with

com as armas atômicas e não lidar com

the issues that surround it until

as questões que as cercavam até

Pandora's box is already opened up?

que a caixa de Pandora se abrisse?

Now, I could be wrong on this, and

Agora, eu poderia estar errado nisso e

one Pentagon robot scientist told me

um cientista de robótica do Pentágono me disse

that I was. He said, "There's no real

que eu estava. Ele disse: “Não há verdadeiras questões

social, ethical, moral issues when it comes

sociais, éticas e morais quando se trata

to robots.

de robôs.

That is," he added, "unless the machine

Isto é,” ele acrescentou, “ a não ser que a máquina

kills the wrong people repeatedly.

mate pessoas erradas repetidas vezes.

Then it's just a product recall issue."

Aí então é apenas uma questão de mandar o produto de volta.”

And so the ending point for this is

E assim, o final desse ponto é

that actually, we can turn to Hollywood.

que na verdade podemos recorrer a Hollywood.

A few years ago, Hollywood gathered

Alguns anos atrás, Hollywood reuniu

all the top characters and created

todos os personagens principais e criou

a list of the top 100 heroes and

uma lista dos top 100 heróis e

top 100 villains of all of Hollywood history,

os top 100 vilões de toda a historia de Hollywood,

the characters that represented the best

os personagens que melhor representaram o melhor

and worst of humanity.

e o pior da humanidade.

Only one character made it onto both lists:

Apenas um personagem alcançou as duas listas:

The Terminator, a robot killing machine.

‘O Exterminador do Futuro’, uma máquina robô de matar

And so that points to the fact that

E então, isto indica o fato que

our machines can be used

nossas máquinas podem ser usadas

for both good and evil, but for me

para o bem e para o mal, mas para mim

it points to the fact that there's a duality

isto indica o fato que há uma dualidade

of humans as well.

dos humanos também.

This week is a celebration

Esta semana é uma comemoração

of our creativity. Our creativity

da nossa criatividade. Nossa criatividade

has taken our species to the stars.

levou nossas espécies às estrelas.

Our creativity has created works of arts

Nossa criatividade criou trabalhos de arte

and literature to express our love.

e literatura para expressar nosso amor.

And now, we're using our creativity

E agora, usamos nossa criatividade

in a certain direction, to build fantastic

numa certa direção, para construir

machines with incredible capabilities,

máquinas de capacidades incríveis,

maybe even one day

talvez quem sabe um dia

an entirely new species.

uma espécie inteiramente nova.

But one of the main reasons that we're

Mas uma das razões principais que estamos

doing that is because of our drive

fazendo isto é por causa da nossa vontade

to destroy each other, and so the question

de destruir-nos uns aos outros, e então todos nós

we all should ask:

deveríamos perguntar:

is it our machines, or is it us

são as nossas máquinas ou somos nós

that's wired for war?

que estamos ligados na guerra?

Thank you. (Applause)

Obrigado. (Aplausos)