The 4 greatest threats to the survival of humanity

Traducteur: Cécilia Canal Relecteur: Elisabeth Buffard

In January of 1995, Russia detected a nuclear missile headed its way.

En janvier 1995,

la Russie a détecté un missile nucléaire allant dans sa direction.

The alert went all the way to the president,

L’alerte est remontée jusqu’au président,

who was deciding whether to strike back

qui réfléchissait à une éventuelle contre-attaque

when another system contradicted the initial warning.

lorsqu’un autre système a contredit l’alerte initiale.

What they thought was the first missile in a massive attack

Ce qu’ils pensaient être le premier missile d’une attaque massive

was actually a research rocket studying the Northern Lights.

était en réalité une sonde d’observation qui étudiait les aurores boréales.

This incident happened after the end of the Cold War,

Cet incident a eu lieu après la fin de la guerre froide,

but was nevertheless one of the closest calls we’ve had

mais néanmoins, il s’en est fallu de peu

to igniting a global nuclear war.

pour qu’une guerre nucléaire mondiale éclate.

With the invention of the atomic bomb,

Avec l’invention de la bombe atomique,

humanity gained the power to destroy itself for the first time in our history.

l’humanité a acquis le pouvoir de s’autodétruire

pour la première fois de son histoire.

Since then, our existential risk—

Depuis, la menace pour notre existence,

risk of either extinction

que ce soit l’extinction

or the unrecoverable collapse of human civilization—

ou l’effondrement irréversible de la civilisation humaine,

has steadily increased.

ne cesse d’augmenter.

It’s well within our power to reduce this risk,

Il est largement en notre pouvoir de réduire ce risque,

but in order to do so,

mais pour ce faire,

we have to understand which of our activities

nous devons comprendre parmi nos activités,

pose existential threats now, and which might in the future.

lesquelles représentent une menace immédiate, et celles qui le deviendront.

So far, our species has survived 2,000 centuries,

Jusqu’ici, notre espèce a survécu 2 000 siècles,

each with some extinction risk from natural causes—

et dans chaque siècle, à des risques d’extinctions naturelles :

asteroid impacts, supervolcanoes, and the like.

impacts d’astéroïdes, supervolcans, etc.

Assessing existential risk is an inherently uncertain business

Estimer un risque existentiel est fondamentalement hasardeux,

because usually when we try to figure out how likely something is,

car lorsque nous cherchons à déterminer la probabilité de quelque chose,

we check how often it's happened before.

nous vérifions combien de fois cela a déjà eu lieu.

But the complete destruction of humanity has never happened before.

Mais la destruction totale de l’humanité n’a jamais eu lieu auparavant.

While there’s no perfect method to determine our risk from natural threats,

Il n’existe pas de méthode parfaite pour établir le risque de menaces naturelles,

experts estimate it’s about 1 in 10,000 per century.

mais les experts l’estiment à environ 1 sur 10000 par siècle.

Nuclear weapons were our first addition to that baseline.

Les armes nucléaires ont été le premier ajout à ce point de référence.

While there are many risks associated with nuclear weapons,

Bien qu’il existe de nombreux risques liés aux armes nucléaires,

the existential risk comes from the possibility

la menace pour notre existence provient de la possibilité

of a global nuclear war that leads to a nuclear winter,

d’une guerre nucléaire mondiale entraînant un hiver nucléaire,

where soot from burning cities blocks out the sun for years,

où la suie des villes en feu bloquerait le soleil pendant des années,

causing the crops that humanity depends on to fail.

ce qui provoquerait la perte des récoltes dont l’humanité dépend.

We haven't had a nuclear war yet,

Nous n’avons pas encore eu de guerre nucléaire,

but our track record is too short to tell if they’re inherently unlikely

mais notre histoire est trop courte pour dire si c’est peu probable par nature

or we’ve simply been lucky.

ou si nous avons simplement eu de la chance.

We also can’t say for sure

Nous ne sommes pas non plus sûrs

whether a global nuclear war would cause a nuclear winter so severe

qu’une guerre nucléaire mondiale entraînerait un hiver nucléaire si grave

it would pose an existential threat to humanity.

qu’il constituerait une menace existentielle pour l’humanité.

The next major addition to our existential risk was climate change.

Le deuxième ajout important à cette menace a été le changement climatique.

Like nuclear war, climate change could result

Comme la guerre nucléaire,

le changement climatique pourrait créer de nombreux scénarios effrayants

in a lot of terrible scenarios that we should be working hard to avoid,

que nous devrions chercher à éviter à tout prix,

but that would stop short of causing extinction or unrecoverable collapse.

mais qui n’iraient pas jusqu’à provoquer une extinction

ou un effondrement irréversible.

We expect a few degrees Celsius of warming,

Nous nous attendons à un réchauffement de quelques degrés,

but can’t yet completely rule out 6 or even 10 degrees,

mais nous ne pouvons pas exclure une augmentation de 6, voire 10 degrés,

which would cause a calamity of possibly unprecedented proportions.

ce qui entraînerait un désastre d’une ampleur probablement sans précédent.

Even in this worst-case scenario,

Même dans le pire des cas,

it’s not clear whether warming would pose a direct existential risk,

il n’est pas certain que le réchauffement présente un risque existentiel direct,

but the disruption it would cause would likely make us more vulnerable

mais le bouleversement provoqué

nous rendrait sûrement plus vulnérables à d’autres risques existentiels.

to other existential risks.

The greatest risks may come from technologies that are still emerging.

Il se peut que le plus grand danger vienne des technologies émergentes.

Take engineered pandemics.

Prenons les pandémies créées par l’homme.

The biggest catastrophes in human history have been from pandemics.

Les plus grandes catastrophes de l’histoire humaine

résultent de pandémies.

And biotechnology is enabling us to modify and create germs

Et la biotechnologie nous permet de modifier et de créer des microbes

that could be much more deadly than naturally occurring ones.

qui pourraient être bien plus mortels que ceux d’origine naturelle.

Such germs could cause pandemics through biowarfare and research accidents.

Ils pourraient provoquer des pandémies par des guerres biologiques

et des accidents de laboratoire.

Decreased costs of genome sequencing and modification,

La diminution des coûts du séquençage et de la modification du génome,

along with increased availability of potentially dangerous information

ainsi que l’accès accru à des informations potentiellement dangereuses

like the published genomes of deadly viruses,

comme la publication des génomes de virus mortel,

also increase the number of people and groups

augmentent également le nombre de personnes et de groupes

who could potentially create such pathogens.

qui pourraient potentiellement créer de tels pathogènes.

Another concern is unaligned AI.

Une autre inquiétude est l’IA non alignée.

Most AI researchers think this will be the century

La plupart des chercheurs en IA pensent que ce siècle

verra le développement d’une intelligence artificielle

where we develop artificial intelligence that surpasses human abilities

qui surpasse les aptitudes humaines à tous les niveaux.

across the board.

If we cede this advantage, we place our future in the hands

Si nous cédons à cet avantage, nous mettons notre avenir entre les mains

of the systems we create.

des systèmes que nous créons.

Even if created solely with humanity’s best interests in mind,

Même créée uniquement dans l’intérêt de l’humanité,

superintelligent AI could pose an existential risk

une IA superintelligente pourrait représenter une menace existentielle

if it isn’t perfectly aligned with human values—

si elle n’est pas parfaitement alignée sur nos valeurs humaines,

a task scientists are finding extremely difficult.

ce que les scientifiques trouvent extrêmement difficile.

Based on what we know at this point,

Sur ce que nous savons à ce stade,

some experts estimate the anthropogenic existential risk

des experts estiment que le risque existentiel anthropique

is more than 100 times higher than the background rate of natural risk.

est plus de 100 fois plus important que le taux de risque naturel.

But these odds depend heavily on human choices.

Mais cette probabilité dépend fortement des choix humains.

Because most of the risk is from human action, and it’s within human control.

Car la plupart des risques viennent de l’action des hommes,

et sont sous leur contrôle.

If we treat safeguarding humanity's future as the defining issue of our time,

Si la protection de l’avenir de l’humanité est traitée

comme le problème majeur de notre temps,

we can reduce this risk.

nous pouvons réduire ce risque.

Whether humanity fulfils its potential—

Que l’humanité atteigne son plein potentiel...

or not—

ou pas...

is in our hands.

ne dépend que de nous.