Is AI the most important technology of the century?

Traductor: Eugenia Tain Revisor: Sebastian Betti

What's the most important century in human history?

¿Cuál es el siglo más importante de la historia de la humanidad?

Some might argue it’s a period of extensive military campaigning,

Para algunos, sería un período con una campaña militar extensiva,

like Alexander the Great’s in the 300s BCE,

como la de Alejandro Magno en el siglo IV a.C.,

which reshaped political and cultural borders.

que redefinió las fronteras políticas y culturales.

Others might cite the emergence of a major religion,

Otros mencionarían el nacimiento de una religión trascendental,

such as Islam in the 7th century,

como el islam en el siglo VII,

which codified and spread values across such borders.

que codificó y difundió valores a través de esas fronteras.

Or perhaps it’s the Industrial Revolution of the 1700s

O quizás sea la Revolución Industrial del siglo XVIII,

that transformed global commerce

que transformó el comercio global

and redefined humanity's relationship with labor.

y reformó la relación de la humanidad con el trabajo.

Whatever the answer, it seems like any century vying for that top spot

Sea cual fuere, parece que los siglos que compiten por el primer lugar

is at a moment of great change—

presenciaron tiempos de grandes cambios...

when the actions of our ancestors shifted humanity’s trajectory

acciones de nuestros ancestros que cambiaron el rumbo de la humanidad

for centuries to come.

por siglos venideros.

So if this is our metric, is it possible that right now—

Si tomamos esto como medida,

¿es posible que, ahora mismo, este siglo sea el más importante de todos?

this century— is the most important one yet?

The 21st century has already proven to be a period of rapid technological growth.

El siglo XXI ya demostró ser un período de veloz desarrollo tecnológico.

Phones and computers have accelerated the pace of life.

Los teléfonos y las computadoras aceleraron el ritmo de la vida.

And we’re likely on the cusp of developing new transformative technologies,

Y es probable que estemos cerca de desarrollar

nuevas tecnologías transformadoras, como inteligencia artificial avanzada,

like advanced artificial intelligence,

that could entirely change the way people live.

que podrían cambiar el vivir de las personas por completo.

Meanwhile, many technologies we already have

Así mismo, muchas tecnologías que ya tenemos

contribute to humanity’s unprecedented levels of existential risk—

contribuyen a niveles inauditos de riesgos existenciales para la humanidad.

that’s the risk of our species going extinct

Es decir, que nuestra especie se extinga

or experiencing some kind of disaster that permanently limits

o experimente algún tipo de calamidad que limite permanentemente

humanity’s ability to grow and thrive.

nuestra capacidad de crecer y prosperar.

The invention of the atomic bomb marked a major rise in existential risk,

La invención de la bomba atómica produjo un gran aumento de riesgos existenciales,

and since then we’ve only increased the odds against us.

y, desde entonces, las probabilidades en nuestra contra no pararon de subir.

It’s profoundly difficult to estimate the odds

Es extremadamente difícil calcular las probabilidades

of an existential collapse occurring this century.

de que un colapso existencial ocurra en este siglo.

Very rough guesses put the risk of existential catastrophe

Conjeturas muy aproximadas indican que el riesgo de que las causas

due to nuclear winter and climate change at around 0.1%,

sean invierno nuclear y cambio climático es de alrededor de 0,1 %,

with the odds of a pandemic causing the same kind of collapse

mientras que las probabilidades de que al colapso lo cause

at a frightening 3%.

una pandemia son de un alarmante 3 %.

Given that any of these disasters could mean the end of life as we know it,

Ya que cualquiera de estos desastres podría acabar con la vida que conocemos,

these aren’t exactly small figures,

estos números no son tan bajos como parecen.

And it’s possible this century could see the rise of new technologies

Y es posible que este siglo vea un aumento de nuevas tecnologías

that introduce more existential risks.

que introduzcan más riesgos existenciales.

AI experts have a wide range of estimates regarding

Hay una gran variedad de estimaciones respecto

when artificial general intelligence will emerge,

a cuándo surgirá la inteligencia artificial fuerte,

but according to some surveys, many believe it could happen this century.

pero algunos estudios indican que puede ser en este siglo.

Currently, we have relatively narrow forms of artificial intelligence,

Por ahora, tenemos formas relativamente débiles de IA,

which are designed to do specific tasks like play chess or recognize faces.

diseñadas para funciones específicas, como jugar al ajedrez o reconocer rostros.

Even narrow AIs that do creative work are limited to their singular specialty.

Incluso las que hacen trabajos creativos están limitadas a una única especialidad.

But artificial general intelligences, or AGIs,

Pero las inteligencias artificiales fuertes, o las IAF,

would be able to adapt to and perform any number of tasks,

serían capaces de adaptarse para cumplir cualquier cantidad de funciones

quickly outpacing their human counterparts.

y pronto superarían a sus equivalentes humanos.

There are a huge variety of guesses about what AGI could look like,

Existen muchísimas conjeturas sobre el aspecto que tendría la IAF

and what it would mean for humanity to share the Earth

y lo que significaría para la humanidad compartir la Tierra

with another sentient entity.

con otra entidad sensible.

AGIs might help us achieve our goals,

Las IAF podrían ayudarnos a cumplir nuestras metas,

they might regard us as inconsequential,

podrían considerarnos intrascendentes

or, they might see us as an obstacle to swiftly remove.

o podrían vernos como un obstáculo que quieran remover con rapidez.

So in terms of existential risk,

Así que, en materia de riesgos existenciales,

it's imperative the values of this new technology align with our own.

es fundamental que esta nueva tecnología comparta nuestros valores.

This is an incredibly difficult philosophical and engineering challenge

Es un desafío sumamente difícil para la ingeniería y la filosofía

that will require a lot of delicate, thoughtful work.

que requerirá mucha reflexión y sensibilidad.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Pero, aunque lo lográsemos, la IAF podría traer otro resultado complejo.

Let’s imagine an AGI emerges with deep respect for human life

Imaginemos que surge una IAF con un fuerte respeto por la vida humana

and a desire to solve all humanity’s troubles.

y el deseo de resolver todos los problemas de la humanidad.

But to avoid becoming misaligned,

Pero, para evitar que se desaliñe,

it's been developed to be incredibly rigid about its beliefs.

es diseñada con una increíble rigidez en sus creencias.

If these machines became the dominant power on Earth,

Si se convirtieran en el poder dominante de la Tierra,

their strict values might become hegemonic,

los valores de estas máquinas se volverían hegemónicos

locking humanity into one ideology that would be incredibly resistant to change.

y forzarían a la humanidad a seguir una ideología casi inescapable.

History has taught us that no matter how enlightened

La historia nos enseña que, aunque una civilización

a civilization thinks they are,

se considere la más progresista,

they are rarely up to the moral standards of later generations.

rara vez está a la altura moral de las generaciones que le siguen.

And this kind of value lock in could permanently distort or constrain

Y esta especie de bloqueo ético podría distorsionar o restringir

humanity’s moral growth.

el crecimiento moral de la humanidad.

There's a ton of uncertainty around AGI,

Hay mucha incertidumbre acerca de la IAF,

and it’s profoundly difficult to predict how any existential risks

y es extremadamente difícil predecir cómo se manifestarán

los riesgos existenciales en el próximo siglo.

will play out over the next century.

It’s also possible that new, more pressing concerns

También es posible que, si surgen inquietudes más apremiantes,

might render these risks moot.

estos riesgos se vuelvan cuestionables.

But even if we can't definitively say that ours is the most important century,

Pero, aunque no podamos afirmar que este sea el siglo más importante,

it still seems like the decisions we make might have a major impact

parece que las decisiones que tomemos podrían tener una enorme repercusión

on humanity’s future.

en el futuro de la humanidad.

So maybe we should all live like the future depends on us—

Tal vez deberíamos vivir como si el futuro dependiera de nosotros,

because actually, it just might.

porque lo más probable es que así sea.