The 4 greatest threats to the survival of humanity

Tradutor: Gabriel Barros Revisor: Elisa Santos

In January of 1995, Russia detected a nuclear missile headed its way.

Em janeiro de 1995, a Rússia detectou um míssil nuclear indo em sua direção.

The alert went all the way to the president,

O alerta percoreu o caminho inteiro até o presidente,

who was deciding whether to strike back

que estava decidindo se iria retaliar

when another system contradicted the initial warning.

quando outro sistema contrariou o aviso inicial.

O que eles achavam que era o primeiro míssil em um ataque massivo

What they thought was the first missile in a massive attack

was actually a research rocket studying the Northern Lights.

era na verdade um foguete de pesquisa estudando a Aurora Boreal.

Esse incidente aconteceu após o final da Guerra Fria,

This incident happened after the end of the Cold War,

but was nevertheless one of the closest calls we’ve had

mas foi mesmo assim uma das situações mais próximas que já tivemos

to igniting a global nuclear war.

de iniciar uma guerra nuclear global.

With the invention of the atomic bomb,

Com a invenção da bomba atômica,

humanity gained the power to destroy itself for the first time in our history.

a humanidade ganhou o poder de se destruir pela primeira vez em nossa história.

Since then, our existential risk—

Desde então, nosso risco existencial—

risk of either extinction

risco de extinção

or the unrecoverable collapse of human civilization—

ou do colapso irrecuperável da civilização humana—

has steadily increased.

tem aumentado constantemente.

It’s well within our power to reduce this risk,

Está bem dentro de nosso poder diminuir esse risco,

but in order to do so,

mas para fazer isso

we have to understand which of our activities

nós temos que entender quais de nossas atividades

pose existential threats now, and which might in the future.

representam ameaças existenciais agora e possivelmente no futuro.

So far, our species has survived 2,000 centuries,

Até então, nossa espécie sobreviveu 2 mil séculos,

each with some extinction risk from natural causes—

cada um com algum risco de extinção por causas naturais—

asteroid impacts, supervolcanoes, and the like.

impactos de asteroides, supervulcões, entre outras.

Assessing existential risk is an inherently uncertain business

A avaliação de risco existencial é um negócio inerentemente incerto

because usually when we try to figure out how likely something is,

porque normalmente quando nós tentamos descobrir quão provável algo é,

we check how often it's happened before.

nós conferimos quão frequentemente aconteceu antes.

But the complete destruction of humanity has never happened before.

Mas a destruição completa da humanidade nunca aconteceu anteriormente.

While there’s no perfect method to determine our risk from natural threats,

Mesmo que não exista método perfeito para determinar o risco de ameaças naturais,

experts estimate it’s about 1 in 10,000 per century.

especialistas estimam que é cerca de 1 em 10 mil por século.

Nuclear weapons were our first addition to that baseline.

Armas nucleares foram nossa primeira adição a esse patamar.

While there are many risks associated with nuclear weapons,

Embora existam muitos riscos associados com armas nucleares,

the existential risk comes from the possibility

o risco existencial vem da possibilidade

of a global nuclear war that leads to a nuclear winter,

de uma guerra nuclear global que leva à um inverno nuclear,

where soot from burning cities blocks out the sun for years,

onde as cinzas de cidades em chamas bloqueiam o sol por anos,

causing the crops that humanity depends on to fail.

impedindo o crescimento das plantações das quais dependemos.

We haven't had a nuclear war yet,

Nós não tivemos uma guerra nuclear ainda,

but our track record is too short to tell if they’re inherently unlikely

mas nosso histórico é curto para dizer se elas são inerentemente improváveis

or we’ve simply been lucky.

ou se nós só tivemos sorte.

We also can’t say for sure

Nós também não podemos afirmar

whether a global nuclear war would cause a nuclear winter so severe

se uma guerra nuclear global causaria um inverno nuclear tão severo

it would pose an existential threat to humanity.

que iria representar uma ameaça para humanidade.

The next major addition to our existential risk was climate change.

A próxima maior adição para nosso risco existencial foi a mudança climática.

Like nuclear war, climate change could result

Como a guerra nuclear, a mudança climática poderia resultar

in a lot of terrible scenarios that we should be working hard to avoid,

em muitos cenários terríveis que deveríamos estar dando duro para evitar,

but that would stop short of causing extinction or unrecoverable collapse.

mas isso poderia impedir a extinção ou colapso irrecuperável.

We expect a few degrees Celsius of warming,

Nós esperamos um aquecimento de alguns graus Celsius,

but can’t yet completely rule out 6 or even 10 degrees,

mas ainda não podemos desconsiderar 6 ou até mesmo 10 graus,

which would cause a calamity of possibly unprecedented proportions.

que causariam uma calamidade de proporções possivelmente sem precedentes.

Even in this worst-case scenario,

Até mesmo no pior cenário,

it’s not clear whether warming would pose a direct existential risk,

não está claro se o aquecimento iria representar um risco existencial direto,

but the disruption it would cause would likely make us more vulnerable

mas a perturbação que causaria poderia nos deixar mais vulneráveis

to other existential risks.

a outros riscos existenciais.

The greatest risks may come from technologies that are still emerging.

Os maiores riscos podem ainda vir de tecnologias que ainda estão aparecendo.

Take engineered pandemics.

Pandemias projetadas, por exemplo.

The biggest catastrophes in human history have been from pandemics.

As maiores catástrofes na história humana foram por conta de pandemias.

And biotechnology is enabling us to modify and create germs

E a biotecnologia nos está possibilitando a modificar e criar germes

that could be much more deadly than naturally occurring ones.

que poderiam ser muito mais mortais do que os gerados naturalmente.

Such germs could cause pandemics through biowarfare and research accidents.

Tais germes poderiam causar pandemias por bioguerras e acidentes de pesquisa.

Decreased costs of genome sequencing and modification,

Custos diminuídos de sequenciamento e modificação do genoma,

along with increased availability of potentially dangerous information

junto com o aumento da disponibilidade de informação potencialmente perigosa

like the published genomes of deadly viruses,

como os genomas publicados de vírus mortais,

also increase the number of people and groups

também aumenta o número de pessoas e grupos

who could potentially create such pathogens.

que poderiam potencialmente criar tais patógenos.

Another concern is unaligned AI.

Outra preocupação é IA desalinhada.

Most AI researchers think this will be the century

A maioria dos cientistas de IA acham que neste século

where we develop artificial intelligence that surpasses human abilities

desenvolveremos a Inteligência Artificial que ultrapassa as habilidades humanas

across the board.

de maneira geral.

If we cede this advantage, we place our future in the hands

Se nós cedermos essa vantagem, nós colocamos nosso futuro nas mãos

of the systems we create.

dos sistemas que nós criamos.

Even if created solely with humanity’s best interests in mind,

Mesmo se criada somente com os melhores interesses da humanidade em mente,

superintelligent AI could pose an existential risk

a IA superinteligente poderia representar um risco existencial

if it isn’t perfectly aligned with human values—

se não for perfeitamente alinhada com os valores humanos—

a task scientists are finding extremely difficult.

uma tarefa que cientistas estão tendo dificuldade extrema.

Based on what we know at this point,

Baseado no que nós sabemos até este ponto,

some experts estimate the anthropogenic existential risk

alguns especialistas estimam que o risco existencial antropogênico

is more than 100 times higher than the background rate of natural risk.

é mais de 100 vezes maior que a taxa de base do risco natural.

But these odds depend heavily on human choices.

Mas essas chances dependem muito das escolhas humanas.

Because most of the risk is from human action, and it’s within human control.

Porque o maior risco vem da ação humana, e isso está dentro do controle humano.

If we treat safeguarding humanity's future as the defining issue of our time,

Se tratarmos de cuidar do futuro da humanidade como nosso problema atual,

we can reduce this risk.

nós podemos reduzir esse risco.

Whether humanity fulfils its potential—

Se a humanidade realizará seu potencial—

or not—

ou não—

is in our hands.

está em nossas mãos.