Military robots and the future of war | P.W. Singer

Tradutor: Bruno Dinis Revisora: Jeff Caponero

I thought I'd begin with a scene of war.

Pensei começar com uma cena de guerra.

There was little to warn of the danger ahead.

Havia pouco que alertasse para o perigo iminente.

The Iraqi insurgent had placed the IED,

Os rebeldes iraquianos tinham colocado um engenho explosivo,

an Improvised Explosive Device,

um engenho explosivo improvisado,

along the side of the road with great care.

na berma da estrada, com grande cuidado.

By 2006, there were more than 2,500

Em 2006, houve mais de 2500 destes ataques

of these attacks every single month,

todos os meses.

and they were the leading cause of

Foram a principal causa das baixas

casualties among American soldiers

entre os soldados americanos e os civis iraquianos.

and Iraqi civilians.

A equipa que procura esses explosivos

The team that was hunting for this IED

is called an EOD team—

chama-se uma equipa ENE,

Equipa de Neutralização de Explosivos.

Explosives Ordinance Disposal—and

they're the pointy end of the spear in the

São a ponta de lança do esforço americano

American effort to suppress these roadside bombs.

para suprimir estas bombas nas estradas.

Each EOD team goes out on about

Cada ENE recebe cerca de 600 alertas

600 of these bomb calls every year,

destas bombas, por ano,

defusing about two bombs a day.

e desativa cerca de duas bombas por dia.

Perhaps the best sign of how valuable they

O melhor sinal de como são valiosos

are to the war effort, is that

para o esforço de guerra,

the Iraqi insurgents put a $50,000 bounty

é que os rebeldes iraquianos oferecem um prémio de 50 000 dólares

on the head of a single EOD soldier.

pela cabeça de cada soldado da ENE.

Unfortunately, this particular call

Infelizmente, este alerta em especial não iria acabar bem.

would not end well.

By the time the soldier advanced close

Na altura em que o soldado se aproximou o suficiente

enough to see the telltale wires

para ver os fios denunciadores da bomba,

of the bomb, it exploded in a wave of flame.

ela explodiu numa onda de chamas.

Now, depending how close you are

Consoante a proximidade a que estejamos,

and how much explosive has been packed

e a quantidade de explosivos dentro da bomba,

into that bomb, it can cause death

ela pode provocar a morte ou apenas ferir.

or injury. You have to be as far as

Temos que estar, no mínimo a 50 metros, para escapar.

50 yards away to escape that.

The blast is so strong it can even break

A explosão é tão forte que pode partir-nos as pernas

your limbs, even if you're not hit.

mesmo que não nos toque.

That soldier had been on top of the bomb.

Aquele soldado estava em cima da bomba.

And so when the rest of the team advanced

Quando o resto da equipa avançou, pouco restava dele.

they found little left. And that night the unit's

Naquela noite, o comandante das unidades cumpriu um triste dever

commander did a sad duty, and he wrote

a condolence letter back to the United

e escreveu uma carta de condolências para os EUA.

States, and he talked about how hard the

Contou como aquela perda tinha afetado a sua unidade,

loss had been on his unit, about the fact

como tinham perdido o seu soldado mais corajoso,

that they had lost their bravest soldier,

a soldier who had saved their lives

um soldado que lhes tinha salvo a vida mais de uma vez.

many a time.

And he apologized

E pedia desculpa

for not being able to bring them home.

por não ter sido capaz de o levar para casa.

But then he talked up the silver lining

Mas, depois, falou do que havia de bom naquela perda.

that he took away from the loss.

"At least," as he wrote, "when a robot dies,

"Pelo menos", escreveu, "quando morre um robô,

you don't have to write a letter

"não temos que escrever uma carta para a mãe dele".

to its mother."

That scene sounds like science fiction,

Esta cena parece uma cena de ficção científica,

but is battlefield reality already.

mas é já uma realidade no campo da batalha.

The soldier in that case

O soldado, neste caso,

was a 42-pound robot called a PackBot.

era um robô de 21 quilos, chamado PackBot.

The chief's letter went, not to some

A carta do chefe era dirigida,

farmhouse in Iowa like you see

não a uma quinta no Iowa,

in the old war movies, but went to

como se vê nos velhos filmes de guerra,

the iRobot Company, which is

mas para a Sociedade iRobot

named after the Asimov novel

assim chamada conforme o romance de Asimov

and the not-so-great Will Smith movie,

e o filme de Will Smith, não muito bom.

and... um... (Laughter)...

(Risos)

if you remember that

Se se recordam, naquele mundo de ficção,

in that fictional world, robots started out

os robôs começaram por realizar tarefas vulgares

carrying out mundane chores, and then

they started taking on life-and-death decisions.

depois começaram a tomar decisões de vida ou de morte.

That's a reality we face today.

É uma realidade que conhecemos hoje.

What we're going to do is actually just

Agora vou mostrar rapidamente

flash a series of photos behind me that

uma série de fotos, por detrás de mim,

show you the reality of robots used in war

que mostram a realidade dos robôs usados hoje na guerra

right now or already at the prototype stage.

ou já em fase de protótipos.

It's just to give you a taste.

Só para vos dar uma ideia.

Another way of putting it is you're not

Por outras palavras,

going to see anything that's powered

não vão ver nada alimentado por tecnologia vulcânica

by Vulcan technology, or teenage

ou por hormonas de feiticeiros adolescentes

wizard hormones or anything like that.

ou coisas desse género.

This is all real. So why don't we

Tudo isto é real.

go ahead and start those pictures.

Portanto, vamos ver as imagens.

Something big is going on in war today,

Passa-se hoje qualquer coisa de grande na guerra

and maybe even the history of humanity

e talvez na história da humanidade.

itself. The U.S. military went into Iraq with

O exército dos EUA foi para o Iraque

a handful of drones in the air.

com meia dúzia de drones no ar.

We now have 5,300.

Hoje temos 5300.

We went in with zero unmanned ground

Fomos sem qualquer sistema terrestre sem piloto

systems. We now have 12,000.

Hoje temos 12 000.

And the tech term "killer application"

O termo técnico "aplicação que mata"

takes on new meaning in this space.

assume um novo significado neste espaço.

And we need to remember that we're

Temos que nos lembrar que estamos a falar dos Fords T,

talking about the Model T Fords,

the Wright Flyers, compared

dos aviões dos irmãos Wright,

to what's coming soon.

em comparação com o que virá em breve.

That's where we're at right now.

É aí que estamos agora.

Encontrei-me há pouco

One of the people that I recently met with

com um general de três estrelas da Força Aérea.

was an Air Force three-star general, and he

Disse-me que caminhamos muito em breve

said basically, where we're headed very

soon is tens of thousands of robots

para dezenas de milhares de robôs

operating in our conflicts, and these

a funcionar nos conflitos.

Estes números são importantes

numbers matter, because we're not just

porque não estamos a falar apenas de dezenas de milhares dos robôs atuais

talking about tens of thousands of today's

robots, but tens of thousands of these

mas de dezenas de milhares destes protótipos e dos robôs de amanhã,

prototypes and tomorrow's robots, because

of course, one of the things that's operating

porque uma das coisas

que está a funcionar na tecnologia é a Lei de Moore.

in technology is Moore's Law,

that you can pack in more and more

Podemos incorporar nestes robôs

computing power into those robots, and so

cada vez maior potência de cálculo.

flash forward around 25 years,

Dentro de 25 anos,

if Moore's Law holds true,

se é que a Lei de Moore está certa,

those robots will be close to a billion times

estes robôs serão mil milhões de vezes

more powerful in their computing than today.

mais potentes no cálculo do que hoje.

And so what that means is the kind of

Isto significa que o tipo de coisas

things that we used to only talk about at

de que só falávamos nas convenções de ficção científica,

science fiction conventions like Comic-Con

como a Comic-Con,

have to be talked about in the halls

devem ser discutidas hoje

of power and places like the Pentagon.

nos salões do poder e em locais como o Pentágono.

A robots revolution is upon us.

Temos à porta uma revolução de robôs.

Now, I need to be clear here.

Preciso de ser muito claro.

I'm not talking about a revolution where you

Não estou a falar duma revolução

have to worry about the Governor of

em que temos de recear

que o governador da Califórnia apareça à nossa porta

California showing up at your door,

a la the Terminator. (Laughter)

como o Exterminador.

Quando os historiadores analisarem esta época,

When historians look at this period, they're

vão concluir que estamos num tipo diferente de revolução:

going to conclude that we're in a different

type of revolution: a revolution in war,

uma revolução na guerra,

like the invention of the atomic bomb.

como a invenção da bomba atómica.

But it may be even bigger than that,

Mas ainda pode ser maior do que isso,

because our unmanned systems don't just

porque os nossos sistemas sem piloto

affect the "how" of war-fighting,

não afetam apenas o "como" da guerra,

they affect the "who" of fighting

afetam "aqueles" que combatem

at its most fundamental level.

a um nível mais fundamental.

That is, every previous revolution in war, be

Ou seja, todas as revoluções prévias na guerra,

it the machine gun, be it the atomic bomb,

quer as metralhadoras, quer a bomba atómica,

was about a system that either shot faster,

basearam-se num sistema que disparava mais depressa,

went further, had a bigger boom.

ia mais longe, tinha uma explosão mais forte.

That's certainly the case with robotics, but

Isso também acontece com a robótica,

they also change the experience of the warrior

mas ela também altera a experiência do combatente

and even the very identity of the warrior.

e até a identidade do combatente.

Another way of putting this is that

Por outras palavras,

o monopólio que a humanidade tem, desde há 5000 anos, na guerra,

mankind's 5,000-year-old monopoly

on the fighting of war is breaking down

está a desaparecer, na nossa época.

in our very lifetime. I've spent

the last several years going around

Passei estes últimos anos

a encontrar-me com todos os atores desta área,

meeting with all the players in this field,

from the robot scientists to the science

desde os cientistas de robôs

aos autores de ficção científica que os inspiraram

fiction authors who inspired them to the

19-year-old drone pilots who are fighting

aos pilotos de drones, de 19 anos, que combatem a partir do Nevada,

from Nevada, to the four-star generals

aos generais de quatro estrelas que os comandam,

who command them, to even the Iraqi

até mesmo aos rebeldes iraquianos que são o alvo

insurgents who they are targeting and what

they think about our systems, and

e o que eles pensam dos nossos sistemas.

what I found interesting is not just

O que achei interessante não foram só as suas histórias,

their stories, but how their experiences

mas como a sua experiência reflete

point to these ripple effects that are going

o efeito cascata que atinge a nossa sociedade,

outwards in our society, in our law

and our ethics, etc. And so what I'd like

as nossas leis, a nossa ética, etc.

to do with my remaining time is basically

No tempo que me resta

gotaria de desenvolver alguns destes tópicos.

flesh out a couple of these.

So the first is that the future of war,

Primeiro, o futuro da guerra,

even a robotics one, is not going to be

mesmo que seja uma guerra robótica,

purely an American one.

não será exclusivamente americano.

The U.S. is currently ahead in military

Os EUA estão atualmente à frente na robótica militar,

robotics right now, but we know that in

technology there's no such thing as

mas sabemos que, na tecnologia,

a permanent first move or advantage.

não há avanço nem vantagem permanente.

In a quick show of hands, how many

people in this room still use

Levante a mão quem, aqui na sala,

Wang Computers? (Laughter)

ainda usa um computador Wang.

It's the same thing in war. The British and

(Risos)

O mesmo acontece na guerra.

the French invented the tank.

Os britânicos e os franceses inventaram o tanque,

The Germans figured out how

e os alemães descobriram como usá-lo da melhor forma.

to use it right, and so what we have to

think about for the U.S. is that we are

Precisamos pois de pensar

que os EUA estão na liderança agora,

ahead right now, but you have

mas há outros 43 países pelo mundo fora

43 other countries out there

working on military robotics, and they

a trabalhar em robótica militar.

include all the interesting countries like

Nessa lista encontram-se países interessantes,

Russia, China, Pakistan, Iran.

como a Rússia, a China, o Paquistão e o Irão.

And this raises a bigger worry for me.

Isso ainda me deixa mais preocupado.

How do we move forward in this revolution

Como nos mantemos à frente, no meio desta revolução,

given the state of our manufacturing

dado o estado atual das nossas manufaturas,

and the state of our science and

da nossa ciência

mathematics training in our schools?

e do ensino da matemática nas nossas escolas?

Or another way of thinking about this is,

Outra forma de pensar no assunto é:

what does it mean to go to war increasingly

o que significa ir para a guerra

with soldiers whose hardware is made

com soldados cujo hardware é cada vez mais produzido na China

in China and software is written in India?

e cujo software é desenvolvidos na Índia?

But just as software has gone open-source,

Tal como o software passou a ser de fonte aberta,

so has warfare.

acontece o mesmo com a guerra.

Unlike an aircraft carrier or an atomic bomb,

Ao contrário de um porta-aviões ou de uma bomba atómica,

you don't need a massive manufacturing

não precisamos de um sistema de fabrico maciço

system to build robotics. A lot of it is

para construir robôs.

Há muitas peças de venda livre e outras podemos montá-las.

off the shelf. A lot of it's even do-it-yourself.

One of those things you just saw flashed

Uma das imagens que viram foi de um drone Corvo,

before you was a raven drone, the handheld

que era lançado manualmente.

tossed one. For about a thousand dollars,

Por 1000 dólares, podemos construir um,

you can build one yourself, equivalent to

equivalente ao modelo que os soldados usaram no Iraque.

what the soldiers use in Iraq.

That raises another wrinkle when it comes

Isto gera outro problema, quando se trata de guerra e conflito.

to war and conflict. Good guys might play

Pessoas boas podem brincar e trabalhar com essa tecnologia como um passatempo,

around and work on these as hobby kits,

but so might bad guys.

mas as pessoas más também.

This cross between robotics and things like

A encruzilhada entre robótica e coisas como o terrorismo

terrorism is going to be fascinating

será fascinante e alarmante.

and even disturbing,

and we've already seen it start.

Já vimos o começo.

During the war between Israel, a state,

Durante a guerra entre Israel, um estado,

and Hezbollah, a non-state actor,

e o Hezboullah, um não-estado,

the non-state actor flew

o ator não-estado

four different drones against Israel.

lançou quatro drones diferentes contra Israel.

There's already a jihadi website

Já há um site jehadi na Internet

that you can go on and remotely

onde podemos detonar à distância

detonate an IED in Iraq while sitting

um engenho explosivo improvisado no Iraque

at your home computer.

a partir do nosso computador em casa.

And so I think what we're going to see is

Acho que iremos ver instalarem-se duas tendências

two trends take place with this.

First is, you're going to reinforce the power

Primeiro, haverá uma intensificação

of individuals against governments,

da força de indivíduos contra governos.

but then the second is that

Em segundo lugar,

we are going to see an expansion

iremos assistir à expansão do terrorismo.

in the realm of terrorism.

The future of it may be a cross between

O terrorismo futuro poderá ser uma mistura

al Qaeda 2.0 and the

entre a Al Qaeda 2.0 e a próxima geração do Unabomber

next generation of the Unabomber.

And another way of thinking about this

Podemos ainda ver isso de outra forma.

is the fact that, remember, you don't have

Lembrem-se, não é preciso convencer um robô

to convince a robot that they're gonna

receive 72 virgins after they die

de que ele irá ganhar 72 virgens depois de morrer,

to convince them to blow themselves up.

para o convencer a fazer-se explodir.

But the ripple effects of this are going to go

Mas as repercussões vão chegar à política.

out into our politics. One of the people that

Uma das pessoas com quem me encontrei

I met with was a former Assistant Secretary of

foi o ex-secretário adjunto da Defesa de Ronald Reagan.

Defense for Ronald Reagan, and he put it

Foram estas as suas palavras:

this way: "I like these systems because

"Gosto destes sistemas

they save American lives, but I worry about

"porque poupam vidas americanas,

more marketization of wars,

"mas preocupo-me com a mercantilização das guerras,

more shock-and-awe talk,

"com toda essa conversa de "choque e terror"

to defray discussion of the costs.

"para desviar atenção da discussão dos custos.

People are more likely to support the use

"As pessoas apoiarão mais provavelmente o uso da força

of force if they view it as costless."

"se ela não tiver um custo alto."

Robots for me take certain trends

Para mim, os robôs representam certas tendências

that are already in play in our body politic,

que já atuam no nosso corpo político

and maybe take them to

e levem-nas talvez ao seu destino lógico.

their logical ending point.

We don't have a draft. We don't

Não temos alistamento obrigatório.

have declarations of war anymore.

Já não temos declarações de guerra.

We don't buy war bonds anymore.

Já não compramos títulos de guerra.

And now we have the fact that we're

E agora estamos cada vez mais a transformar em máquinas

converting more and more of our American

os nossos soldados americanos que vão enfrentar o perigo.

soldiers that we would send into harm's

way into machines, and so we may take

Podemos talvez levar para a guerra

those already lowering bars to war

and drop them to the ground.

este padrão já baixo e rebaixá-lo ainda mais.

But the future of war is also going to be

Mas o futuro da guerra também será uma guerra YouTube.

a YouTube war.

That is, our new technologies don't merely

Isto é, as nossas novas tecnologias

remove humans from risk.

não só afastam os seres humanos do risco,

They also record everything that they see.

mas também gravam tudo o que veem.

So they don't just delink the public:

Não só se distanciam do público,

they reshape its relationship with war.

como também remodelam toda a sua relação com a guerra.

There's already several thousand

Já há hoje milhares de videoclips

video clips of combat footage from Iraq

com cenas de combate no Iraque disponíveis no YouTube.

on YouTube right now,

most of it gathered by drones.

A maior parte delas foi captada por drones.

Now, this could be a good thing.

Isso podia ser positivo.

It could be building connections between

Podia estabelecer ligação entre a frente doméstica

the home front and the war front

e a frente na guerra, como nunca existiu.

as never before.

But remember, this is taking place

Mas lembrem-se, isso está a acontecer

in our strange, weird world, and so

no nosso estranho e bizarro mundo.

inevitably the ability to download these

Inevitavelmente, a possibilidade de descarregar esses videoclipes

video clips to, you know, your iPod

para o nosso iPod ou Zune

or your Zune gives you

permite que isso passe a ser uma forma de entretenimento.

the ability to turn it into entertainment.

Soldiers have a name for these clips.

Os soldados já têm um nome para esses clipes.

They call it war porn.

Chamam-lhes a pornografia da guerra.

The typical one that I was sent was

Eu recebi um muito típico.

an email that had an attachment of

Era um email com um vídeo em anexo de um ataque de um Predator

video of a Predator strike taking out

an enemy site. Missile hits,

aniquilando uma base inimiga.

Ataque com mísseis, corpos pelo ar depois da explosão.

bodies burst into the air with the explosion.

It was set to music.

E tinha uma música de fundo,

It was set to the pop song

uma canção pop chamada

"I Just Want To Fly" by Sugar Ray.

"Eu só quero voar", de Sugar Ray.

This ability to watch more

Esta possibilidade de observar cada vez mais,

but experience less creates a wrinkle

mas de viver cada vez menos

in the public's relationship with war.

gera distorções na relação do público com a guerra.

I think about this with a sports parallel.

Posso traçar um paralelo com o mundo do desporto.

It's like the difference between

É a mesma diferença entre assistir na televisão

watching an NBA game, a professional

a um jogo de basquetebol do NBA,

basketball game on TV, where the athletes

em que os atletas são apenas pequenas figuras no ecrã,

are tiny figures on the screen, and

being at that basketball game in person

e estar presente pessoalmente nesse jogo

and realizing what someone seven feet

e ver ao vivo uma pessoa com mais de dois metros de altura.

really does look like.

But we have to remember,

Temos que nos lembrar que são apenas videoclips.

these are just the clips.

These are just the ESPN SportsCenter

São apenas versão do jogo da cadeia ESPN.

version of the game. They lose the context.

Perdem o contexto, a estratégia, a humanidade.

They lose the strategy.

They lose the humanity. War just

becomes slam dunks and smart bombs.

A guerra resume-se a "Slam Dunks" e bombas inteligentes

Now the irony of all this is that

A ironia de tudo isto é que,

while the future of war may involve

enquanto o futuro da guerra vai depender cada vez mais de máquinas,

more and more machines,

é a nossa psicologia humana que propulsiona tudo isso,

it's our human psychology that's driving

all of this, it's our human failings

são as nossas falhas que levam a essas guerras.

that are leading to these wars.

So one example of this that has

Um exemplo que tem muita repercussão no mundo da política

big resonance in the policy realm is

é como isso afeta a nossa real guerra de ideias

how this plays out on our very real

war of ideas that we're fighting

que estamos a travar contra grupos radicais.

against radical groups.

What is the message that we think we are

Qual é a mensagem que achamos que estamos a enviar

sending with these machines versus what

com todas estas máquinas,

is being received in terms of the message.

versus o que está a ser recebido em termos da mensagem?

So one of the people that I met was

Encontrei-me com um funcionário sénior da administração Bush

a senior Bush Administration official,

who had this to say about

que me disse isto sobre a nossa desumanização da guerra:

our unmanning of war:

"Isto fortalece-nos ainda mais.

"It plays to our strength. The thing that

"O que amedronta as pessoas é a nossa tecnologia."

scares people is our technology."

But when you go out and meet with people,

Mas quando nos encontramos com pessoas, por exemplo, no Líbano,

for example in Lebanon, it's a very

different story. One of the people

a história é bem diferente.

I met with there was a news editor, and

Uma das pessoas que lá encontrei era um editor jornalístico.

we're talking as a drone is flying above him,

Conversávamos enquanto um drone nos sobrevoava.

and this is what he had to say.

Foi isto o que ele disse:

"This is just another sign of the coldhearted

"Isso é apenas mais um sinal da frieza,

cruel Israelis and Americans,

"da crueldade dos israelitas e dos americanos,

who are cowards because

"que são cobardes porque enviam máquinas para lutar contra nós.

they send out machines to fight us.

They don't want to fight us like real men,

"Não querem lutar como homens de verdade, têm medo de lutar.

but they're afraid to fight,

"Por isso, precisamos de matar alguns dos seus soldados

so we just have to kill a few of their soldiers

to defeat them."

"para derrotá-los."

The future of war also is featuring

O futuro da guerra também trará um novo tipo de combatente.

a new type of warrior,

and it's actually redefining the experience

E isso irá redefinir toda a experiência bélica.

of going to war.

You can call this a cubicle warrior.

Podemos chamar-lhes combatentes de cubículo.

This is what one Predator drone pilot

Foi assim que um piloto do drone Predator

described of his experience fighting

descreveu a sua experiência como combatente na Guerra do Iraque,

in the Iraq War while never leaving Nevada.

apesar de nunca ter deixado Nevada:

"You're going to war for 12 hours,

"Vamos para a guerra durante 12 horas,

shooting weapons at targets,

"disparando contra alvos, planeando a eliminação de combatentes inimigos.

directing kills on enemy combatants,

and then you get in the car

"Depois entramos no carro e voltamos para casa.

and you drive home and within 20 minutes,

"Vinte minutos depois estamos sentados a jantar,

you're sitting at the dinner table

a conversar com os filhos sobre os trabalhos da escola."

talking to your kids about their homework."

Now, the psychological balancing

É muito difícil lidar com o impacto psicológico de todas essas experiências.

of those experiences is incredibly tough,

and in fact those drone pilots have

A verdade é que estes pilotos de drones

sofrem de maiores índices de Stress Pós Traumático

higher rates of PTSD than many

of the units physically in Iraq.

do que muitos dos soldados que estiveram fisicamento no Iraque.

But some have worries that this

Mas há quem se preocupe que esse distanciamento

disconnection will lead to something else,

possa levar a outras consequências.

that it might make the contemplation of war

Pode facilitar a contemplação de crimes de guerra

crimes a lot easier when you have

quando há esse distanciamento.

this distance. "It's like a video game,"

"É como um vídeo jogo", foi como um piloto me descreveu

is what one young pilot described to me

of taking out enemy troops from afar.

a sua experiência de ataque à distância contra os seus inimigos.

As anyone who's played Grand Theft Auto

Todos os que jogaram o Grand Theft Auto

knows, we do things in the video world

sabem que fazemos coisas no mundo virtual

that we wouldn't do face to face.

que não faríamos se estivéssemos cara a cara com a situação.

So much of what you're hearing from me

Grande parte do que eu estou a dizer

is that there's another side

é que há um outro lado nas revoluções tecnológicas,

to technologic revolutions,

and that it's shaping our present

que está a definir o nosso presente e irá remodelar talvez o futuro da guerra.

and maybe will shape our future of war.

Moore's Law is operative,

A Lei de Moore é operacional,

but so's Murphy's Law.

mas a Lei de Murphy também é.

The fog of war isn't being lifted.

A névoa que cobre a guerra não está a dissipar-se.

The enemy has a vote.

O inimigo tem razão: estamos a ganhar novas capacidades incríveis.

We're gaining incredible new capabilities,

but we're also seeing and experiencing

Mas também estamos a ver e a viver novos dilemas humanos.

new human dilemmas. Now,

sometimes these are just "oops" moments,

Às vezes temos momentos a que chamamos momentos "oops".

which is what the head of a robotics

O chefe de uma empresa de robótica descreveu-os assim:

company described it, you just have

"Nós temos momentos ''oops".

"oops" moments. Well, what are

E o que são esses momentos com robôs e guerra?

"oops" moments with robots in war?

Well, sometimes they're funny. Sometimes,

Às vezes são engraçados.

Às vezes são como aquela cena

they're like that scene from the

do filme do Eddie Murphy, A Melhor Defesa É o Ataque,

Eddie Murphy movie "Best Defense,"

playing out in reality, where they tested out

quando testam um robô armado com uma metralhadora.

a machine gun-armed robot, and during

the demonstration it started spinning

Durante a demonstração o robô começa a girar em círculos

in a circle and pointed its machine gun

e aponta a metralhadora para toda a comitiva dos VIPS.

at the reviewing stand of VIPs.

Fortunately the weapon wasn't loaded

Felizmente a arma não estava carregada e ninguém se feriu.

and no one was hurt, but other times

Mas outras vezes esses momentos "oops" são trágicos,

"oops" moments are tragic,

such as last year in South Africa, where

como no ano passado na África do Sul,

an anti-aircraft cannon had a

em que um canhão antiaéreo teve uma "falha de software"

"software glitch," and actually did turn on

foi acionado e disparou.

and fired, and nine soldiers were killed.

Morreram nove soldados.

We have new wrinkles in the laws of war

Também há novas falhas nas leis da guerra e da responsabilidade.

and accountability. What do we do

O que fazemos sobre coisas como um massacre não tripulado?

with things like unmanned slaughter?

What is unmanned slaughter?

O que é um massacre não tripulado?

We've already had three instances of

Já tivemos três casos de ataques de drones Predator

Predator drone strikes where we thought

em que pensámos que tínhamos eliminado Bin Laden.

we got bin Laden, and it turned out

not to be the case.

Mas no final vimos que não era o caso.

And this is where we're at right now.

Esse é o ponto onde estamos agora.

This is not even talking about armed,

E nem sequer estamos a falar de sistemas armados autónomos,

autonomous systems

with full authority to use force.

com plena autorização para uso da força.

And do not believe that that isn't coming.

Não pensem que isso não acontecerá.

During my research I came across

Durante a minha pesquisa encontrei quatro projetos distintos do Pentágono

four different Pentagon projects

on different aspects of that.

sobre diferentes aspetos dessa questão.

And so you have this question:

Eis que surge a pergunta:

Quais as implicações para problemas como crimes de guerra?

what does this lead to issues like

war crimes? Robots are emotionless, so

Os robôs não têm sentimentos,

they don't get upset if their buddy is killed.

por isso não ficam preocupados quando morre um companheiro.

They don't commit crimes of rage

Não praticam crimes de raiva e vingança.

and revenge.

But robots are emotionless.

Mas os robôs não têm sentimentos.

They see an 80-year-old grandmother

Veem uma velhinha de 80 anos numa cadeira de rodas

in a wheelchair the same way they see

da mesma forma que veem um tanque T80.

a T-80 tank: they're both

just a series of zeroes and ones.

Não passam ambos de uma série de zeros e uns.

And so we have this question to figure out:

O problema é este:

Como podemos equiparar as nossas leis de guerra do século XX,

How do we catch up our 20th century

laws of war, that are so old right now

that they could qualify for Medicare,

que já estão praticamente ultrapassadas,

to these 21st century technologies?

às novas tecnologias do século XXI?

And so, in conclusion, I've talked about

Para concluir, já falei do que poderá ser o futuro da guerra,

what seems the future of war,

but notice that I've only used

mas reparem que só usei exemplos do mundo real.

real world examples and you've only seen

Vocês só viram fotos e vídeos do mundo real.

real world pictures and videos.

And so this sets a great challenge for

Isso cria um grande desafio para todos nós.

all of us that we have to worry about well

Precisamos de nos preocupar com isso

before you have to worry about your

antes de nos preocuparmos com outras coisas menos importantes.

Roomba sucking the life away from you.

Are we going to let the fact that what's

Vamos deixar que o que está a acontecer hoje na guerra

unveiling itself right now in war

sounds like science fiction and therefore

pareça ficção científica

e fiquemos num estado de negação?

keeps us in denial?

Are we going to face the reality

Vamos encarar a realidade da guerra do século XXI?

of 21st century war?

Irá a nossa geração fazer os mesmos erros das gerações passadas,

Is our generation going to make the same

mistake that a past generation did

com armas atómicas

with atomic weaponry, and not deal with

sem tratar dos problemas com ela relacionados

the issues that surround it until

até que a caixa de Pandora se abra?

Pandora's box is already opened up?

Now, I could be wrong on this, and

Eu posso estar enganado, como me disse um cientista do Pentágono:

one Pentagon robot scientist told me

that I was. He said, "There's no real

"Não há questões reais, sociais, éticas ou morais quando se trata de robôs,

social, ethical, moral issues when it comes

to robots.

"a menos que a máquina mate as pessoas erradas repetidamente.

That is," he added, "unless the machine

kills the wrong people repeatedly.

Then it's just a product recall issue."

"Nesse caso temos um problema de recall de produto."

And so the ending point for this is

that actually, we can turn to Hollywood.

A conclusão de tudo isso é que

podemos de facto voltar-nos para Hollywood.

A few years ago, Hollywood gathered

Aqui há uns anos, Hollywood juntou todos os seus principais personagens

all the top characters and created

e criou uma lista dos seus 100 maiores heróis

a list of the top 100 heroes and

top 100 villains of all of Hollywood history,

e dos 100 maiores vilões da história de Hollywood.

the characters that represented the best

Eram os personagens que representavam o melhor e o pior da humanidade.

and worst of humanity.

Only one character made it onto both lists:

Só havia um personagem que aparecia nas duas listas:

The Terminator, a robot killing machine.

O Exterminador do Futuro, uma máquina mortífera robótica.

And so that points to the fact that

Isso mostra-nos que as nossas máquinas

our machines can be used

podem ser usadas para o bem e para o mal.

for both good and evil, but for me

Mas para mim isso também é um claro exemplo

it points to the fact that there's a duality

of humans as well.

da dualidade do ser humano.

This week is a celebration

Esta semana celebra nossa criatividade.

of our creativity. Our creativity

A nossa criatividade já levou a nossa espécie até as estrelas.

has taken our species to the stars.

Our creativity has created works of arts

A nossa criatividade já criou obras de arte

and literature to express our love.

e de literatura que exprimem o nosso amor

And now, we're using our creativity

e agora estamos a usar a nossa criatividade numa certa direção

in a certain direction, to build fantastic

para criar máquinas espetaculares,

machines with incredible capabilities,

com enormes capacidades.

maybe even one day

Talvez um dia possamos criar toda uma nova espécie.

an entirely new species.

But one of the main reasons that we're

Mas uma das razões que nos leva a fazer isso

doing that is because of our drive

é a nossa determinação para nos destruirmos uns aos outros.

to destroy each other, and so the question

Então, a pergunta que todos devemos fazer é:

we all should ask:

is it our machines, or is it us

Quem está programado para guerra: são as nossas máquinas ou nós mesmos?

that's wired for war?

Muito obrigado.

Thank you. (Applause)

(Aplausos)