The 4 greatest threats to the survival of humanity

Traductor: Miranda Almeida Revisor: Daniel García Romero

In January of 1995, Russia detected a nuclear missile headed its way.

En enero de 1995, Rusia detectó un misil nuclear en su dirección.

The alert went all the way to the president,

La señal de alarma llegó hasta el presidente,

who was deciding whether to strike back

que se estaba planteando contraatacar,

when another system contradicted the initial warning.

hasta que otro radar contradijo la alarma inicial.

What they thought was the first missile in a massive attack

Lo que se pensó era el primer misil de un ataque masivo

was actually a research rocket studying the Northern Lights.

resultó ser una sonda espacial que estudiaba la aurora boreal.

This incident happened after the end of the Cold War,

El incidente ocurrió tras el fin de la Guerra Fría.

but was nevertheless one of the closest calls we’ve had

Sin embargo, fue una de las veces que más cerca hemos estado

to igniting a global nuclear war.

de iniciar una guerra mundial nuclear.

With the invention of the atomic bomb,

Con la creación de la bomba atómica,

humanity gained the power to destroy itself for the first time in our history.

la humanidad ganó el poder de autodestruirse por primera vez.

Since then, our existential risk—

Desde entonces, la amenaza existencial,

risk of either extinction

el riesgo de extinguirse

or the unrecoverable collapse of human civilization—

o de un colapso irrecuperable de la civilización humana,

has steadily increased.

ha aumentado progresivamente.

It’s well within our power to reduce this risk,

Está en nuestras manos reducir tal riesgo,

but in order to do so,

pero para hacerlo,

we have to understand which of our activities

debemos comprender cuáles acciones representan una amenaza existencial

pose existential threats now, and which might in the future.

en el presente y cuáles en un futuro.

So far, our species has survived 2,000 centuries,

Hasta ahora, nuestra especie ha existido durante 2.000 siglos,

each with some extinction risk from natural causes—

cada uno con un riesgo de extinción por causas naturales:

asteroid impacts, supervolcanoes, and the like.

impactos de asteroides, supervolcanes, entre otros.

Assessing existential risk is an inherently uncertain business

Evaluar el riesgo existencial es algo incierto porque,

because usually when we try to figure out how likely something is,

cuando intentamos entender cuál es la probabilidad de un evento,

we check how often it's happened before.

solemos investigar cuántas veces ha sucedido antes.

But the complete destruction of humanity has never happened before.

Pero nunca se ha visto la destrucción total de la humanidad.

While there’s no perfect method to determine our risk from natural threats,

Si bien no hay un método perfecto para saber el riesgo por amenaza natural,

experts estimate it’s about 1 in 10,000 per century.

los expertos estiman que es de 1 en 10.000 por siglo.

Nuclear weapons were our first addition to that baseline.

Las armas nucleares fueron nuestra primera contribución a esa base.

While there are many risks associated with nuclear weapons,

Aunque existen varios riesgos relacionados con las armas nucleares,

the existential risk comes from the possibility

el riesgo existencial proviene de la posibilidad

of a global nuclear war that leads to a nuclear winter,

de una guerra mundial nuclear que resulte en un invierno nuclear,

where soot from burning cities blocks out the sun for years,

donde el hollín de las ciudades en llamas bloquee el sol durante años,

causing the crops that humanity depends on to fail.

causando la pérdida de cultivos de los que depende la humanidad.

We haven't had a nuclear war yet,

Aún no hemos tenido una guerra nuclear

but our track record is too short to tell if they’re inherently unlikely

y nuestro historial no es suficiente para saber si son poco probables

or we’ve simply been lucky.

o si solo hemos tenido suerte.

We also can’t say for sure

Tampoco podemos estar seguros

whether a global nuclear war would cause a nuclear winter so severe

de si una guerra nuclear mundial causaría un invierno nuclear tan severo

it would pose an existential threat to humanity.

que sería una amenaza existencial para la humanidad.

The next major addition to our existential risk was climate change.

Otra contribución al riesgo existencial fue el calentamiento global.

Like nuclear war, climate change could result

Como una guerra nuclear, el calentamiento global podría causar

in a lot of terrible scenarios that we should be working hard to avoid,

terribles escenarios que deberíamos intentar evitar,

but that would stop short of causing extinction or unrecoverable collapse.

pero que nos acercarían a la extinción o a un colapso irrecuperable.

We expect a few degrees Celsius of warming,

Esperamos el aumento de unos cuantos grados Celsius,

but can’t yet completely rule out 6 or even 10 degrees,

pero no podemos descartar que sean 6 o incluso 10 grados,

which would cause a calamity of possibly unprecedented proportions.

lo que causaría una calamidad de proporciones sin precedentes.

Even in this worst-case scenario,

Incluso en el peor de los casos,

it’s not clear whether warming would pose a direct existential risk,

no está claro si el calentamiento significaría una amenaza directa,

but the disruption it would cause would likely make us more vulnerable

pero tal disrupción invariablemente nos dejaría más vulnerables

to other existential risks.

a otros riesgos existenciales.

The greatest risks may come from technologies that are still emerging.

Los riesgos más grandes quizás provengan de las tecnologías emergentes.

Take engineered pandemics.

Por ejemplo, las pandemias fabricadas.

The biggest catastrophes in human history have been from pandemics.

Las catástrofes más grandes en la historia son resultado de pandemias.

And biotechnology is enabling us to modify and create germs

La biotecnología nos permite modificar y crear gérmenes

that could be much more deadly than naturally occurring ones.

que podrían ser mucho más mortales que los que ocurren naturalmente.

Such germs could cause pandemics through biowarfare and research accidents.

Podrían desatar pandemias a través de una guerra biológica o un accidente.

Decreased costs of genome sequencing and modification,

La reducción del costo de la secuenciación y modificación del genoma,

along with increased availability of potentially dangerous information

junto con la creciente disponibilidad de información peligrosa,

like the published genomes of deadly viruses,

como la publicación de genomas de virus letales,

also increase the number of people and groups

también incrementan el número de personas y grupos

who could potentially create such pathogens.

que podrían crear tales patógenos.

Another concern is unaligned AI.

Otra preocupación es la IA sin afiliaciones.

Most AI researchers think this will be the century

Muchos investigadores creen que este será el siglo

where we develop artificial intelligence that surpasses human abilities

en el que creemos inteligencia artificial que supere a los humanos

across the board.

en todas sus habilidades.

If we cede this advantage, we place our future in the hands

Si concedemos esta ventaja, ponemos nuestro futuro en las manos

of the systems we create.

de los sistemas que creamos.

Even if created solely with humanity’s best interests in mind,

Incluso si se crean con el beneficio de la humanidad en mente,

superintelligent AI could pose an existential risk

la IA superinteligente podría implicar un riesgo existencial

if it isn’t perfectly aligned with human values—

si no se apega perfectamente a los valores humanos,

a task scientists are finding extremely difficult.

Una tarea que los científicos consideran muy difícil de lograr.

Based on what we know at this point,

Con base en lo que sabemos hasta ahora,

some experts estimate the anthropogenic existential risk

algunos expertos estiman que el riesgo existencial antropogénico

is more than 100 times higher than the background rate of natural risk.

es más de 100 veces superior a la tasa de riesgo natural.

But these odds depend heavily on human choices.

Pero estas probabilidades dependen ampliamente de las decisiones humanas,

Because most of the risk is from human action, and it’s within human control.

porque la mayoría del riesgo se debe a los humanos y está dentro de su control.

If we treat safeguarding humanity's future as the defining issue of our time,

Si la protección de nuestro futuro se vuelve el tema principal del presente,

we can reduce this risk.

podemos reducir tal riesgo.

Whether humanity fulfils its potential—

Que la humanidad alcance su potencial,

or not—

o no,

is in our hands.

está en nuestras manos.