Is AI the most important technology of the century?

Traducteur: Clémentine Puech Relecteur: Claire Ghyselen

What's the most important century in human history?

Quel est le siècle le plus important de l’histoire humaine ?

Some might argue it’s a period of extensive military campaigning,

Certains diraient que c’est une période de vastes campagnes militaires,

like Alexander the Great’s in the 300s BCE,

comme celles d’Alexandre le Grand dans les années 300 avant J.-C.,

which reshaped political and cultural borders.

qui redéfinirent les frontières politiques et culturelles.

Others might cite the emergence of a major religion,

D’autres pourraient citer l’émergence d’une grande religion,

such as Islam in the 7th century,

comme l’Islam au 7e siècle,

which codified and spread values across such borders.

qui établit et diffusa des valeurs à travers ces frontières.

Or perhaps it’s the Industrial Revolution of the 1700s

Ou peut-être s’agit-il de la Révolution Industrielle du 17e siècle

that transformed global commerce

qui bouleversa le commerce mondial

and redefined humanity's relationship with labor.

et redéfinit la relation entre l’Homme et le travail.

Whatever the answer, it seems like any century vying for that top spot

Quelle que soit la réponse, n’importe quel siècle en lice

pour la première position

is at a moment of great change—

semble se situer à un moment de grand changement,

when the actions of our ancestors shifted humanity’s trajectory

quand les actions de nos ancêtres changèrent la trajectoire de l’humanité

for centuries to come.

pour les siècles à venir.

So if this is our metric, is it possible that right now—

S’il s’agit de notre unité de mesure, est-il alors possible qu’en ce moment,

this century— is the most important one yet?

ce siècle-ci, soit le plus important à ce jour ?

The 21st century has already proven to be a period of rapid technological growth.

Le 21e siècle s’est déjà révélé être

une période de croissance technologique rapide.

Phones and computers have accelerated the pace of life.

Les portables et ordinateurs ont accéléré notre rythme de vie.

And we’re likely on the cusp of developing new transformative technologies,

Et nous sommes sur le point de créer de nouvelles technologies transformatrices,

like advanced artificial intelligence,

comme l’intelligence artificielle avancée,

that could entirely change the way people live.

qui pourrait entièrement changer notre façon de vivre.

Meanwhile, many technologies we already have

Parallèlement, de nombreuses technologies déjà en notre possession

contribute to humanity’s unprecedented levels of existential risk—

contribuent à des niveaux sans précédent de risque existentiel de l’humanité,

that’s the risk of our species going extinct

le risque d’extinction de notre espèce

or experiencing some kind of disaster that permanently limits

et l’expérience d’un désastre qui limiterait de manière permanente

humanity’s ability to grow and thrive.

la capacité de l’humanité à grandir et s’épanouir.

The invention of the atomic bomb marked a major rise in existential risk,

L’invention de la bombe atomique marqua une hausse majeure du risque existentiel

and since then we’ve only increased the odds against us.

et depuis lors, nous n’avons fait qu’augmenter les risques à notre encontre.

It’s profoundly difficult to estimate the odds

Il est profondément difficile d’estimer les probabilités

of an existential collapse occurring this century.

d’un effondrement existentiel survenant ce siècle.

Very rough guesses put the risk of existential catastrophe

Des calculs approximatifs conjecturent le risque d’une catastrophe existentielle

due to nuclear winter and climate change at around 0.1%,

en raison de l’hiver nucléaire et du changement climatique de l’ordre de 0,1 %,

with the odds of a pandemic causing the same kind of collapse

et les risques d’une pandémie causant le même genre d’effondrement

at a frightening 3%.

à un pourcentage alarmant de 3%.

Given that any of these disasters could mean the end of life as we know it,

Étant donné que l’un de ces désastres signifierait la fin de la vie

telle qu’on la connaît,

these aren’t exactly small figures,

il ne s’agit pas de petits chiffres.

And it’s possible this century could see the rise of new technologies

Et il est possible que ce siècle puisse voir la montée de nouvelles technologies

that introduce more existential risks.

introduisant davantage de risques existentiels.

Les experts en IA disposent d’une multitude d’estimations

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

sur le moment où émergera l’intelligence artificielle générale,

but according to some surveys, many believe it could happen this century.

mais selon de nombreuses études,

beaucoup pensent que cela pourrait arriver durant ce siècle.

Currently, we have relatively narrow forms of artificial intelligence,

À ce jour, nous avons des formes plutôt limitées en termes d’IA,

which are designed to do specific tasks like play chess or recognize faces.

qui sont conçues pour effectuer des tâches spécifiques

comme le jeu d’échecs ou la reconnaissance faciale.

Even narrow AIs that do creative work are limited to their singular specialty.

Même ces IA réalisant une mission créative sont limitées

à leur spécialité singulière.

But artificial general intelligences, or AGIs,

Or les intelligences artificielles générales, ou IAG,

would be able to adapt to and perform any number of tasks,

seraient capables de s’adapter et de réaliser un grand nombre de tâches,

quickly outpacing their human counterparts.

dépassant rapidement leurs homologues humains.

There are a huge variety of guesses about what AGI could look like,

Il existe une grande variété d’hypothèses sur ce à quoi pourrait ressembler l’IAG,

and what it would mean for humanity to share the Earth

et sur ce que cela signifierait pour l’humanité de partager la Terre

with another sentient entity.

avec une autre entité sensible.

AGIs might help us achieve our goals,

Les IAG pourraient nous aider à atteindre nos objectifs,

they might regard us as inconsequential,

elles pourraient nous juger insignifiants,

or, they might see us as an obstacle to swiftly remove.

ou, elles pourraient nous voir comme un obstacle à éliminer rapidement.

So in terms of existential risk,

Alors en termes de risque existentiel,

it's imperative the values of this new technology align with our own.

il est impératif d’aligner les valeurs de ces technologies avec les nôtres.

This is an incredibly difficult philosophical and engineering challenge

C’est un défi extrêmement difficile philosophiquement et techniquement parlant

that will require a lot of delicate, thoughtful work.

qui demandera beaucoup de travail subtil et réfléchi.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Mais même si nous réussissons, les IAG pourraient encore conduire

à un autre résultat compliqué.

Let’s imagine an AGI emerges with deep respect for human life

Imaginons qu’une IAG voit le jour avec un profond respect pour la vie humaine

and a desire to solve all humanity’s troubles.

et un désir de résoudre tous les problèmes de l’humanité.

But to avoid becoming misaligned,

Mais pour éviter de se désaligner,

it's been developed to be incredibly rigid about its beliefs.

elle a été développée afin d’être très rigide quant à ses convictions.

If these machines became the dominant power on Earth,

Si ces machines devenaient la puissance dominante sur Terre,

their strict values might become hegemonic,

leurs valeurs strictes pourraient devenir hégémoniques,

locking humanity into one ideology that would be incredibly resistant to change.

enfermant l’humanité dans une idéologie extrêmement résistante au changement.

History has taught us that no matter how enlightened

L’histoire nous a appris que peu importe à quel point

a civilization thinks they are,

une civilisation pense être éclairée,

they are rarely up to the moral standards of later generations.

elle est rarement à la hauteur des normes morales des générations futures.

And this kind of value lock in could permanently distort or constrain

Ce type d’enfermement de valeurs pourrait altérer ou restreindre de façon permanente

humanity’s moral growth.

la croissance morale de l’humanité.

There's a ton of uncertainty around AGI,

Il y a une tonne d’incertitude autour de l’IAG,

and it’s profoundly difficult to predict how any existential risks

et il est difficile de prédire la manière dont les risques existentiels

will play out over the next century.

se manifesteront au cours du siècle prochain.

It’s also possible that new, more pressing concerns

Il est également possible que de nouveaux et plus urgents problèmes

might render these risks moot.

puissent rendre ces risques sans importance.

But even if we can't definitively say that ours is the most important century,

Mais même si nous ne pouvons pas dire

que notre siècle est absolument le plus important,

it still seems like the decisions we make might have a major impact

il semble que les décisions que nous prenons auront un impact majeur

on humanity’s future.

sur le futur de l’humanité.

So maybe we should all live like the future depends on us—

Nous devrions peut-être vivre tous comme si le futur dépendait de nous -

because actually, it just might.

car en réalité, cela pourrait être le cas.