Is AI the most important technology of the century?

Traduttore: Mritika Senthil Revisore: Agnese Giacomelli

What's the most important century in human history?

Qual è il secolo più importante nella storia dell’umanità?

Some might argue it’s a period of extensive military campaigning,

Alcuni potrebbero sostenere che si tratti di un periodo di estese campagne militari

like Alexander the Great’s in the 300s BCE,

come la conquista di Alessandro Magno negli anni ’300 a.C.,

which reshaped political and cultural borders.

che ha ridefinito i confini politici e culturali.

Others might cite the emergence of a major religion,

Altre persone potrebbero pensare all’emergere di una grande religione,

such as Islam in the 7th century,

come l’Islam nel settimo secolo,

which codified and spread values across such borders.

che ha codificato e diffuso valori al di là dei confini.

Or perhaps it’s the Industrial Revolution of the 1700s

Altrimenti, potrebbe essere la Rivoluzione Industriale del 1700

that transformed global commerce

ad aver trasformato il commercio globale

and redefined humanity's relationship with labor.

e ridefinito il rapporto dell’umanità con il lavoro.

Whatever the answer, it seems like any century vying for that top spot

Qualunque sia la risposta, sembra che ogni secolo che enfatizza la sua importanza

is at a moment of great change—

sia in un momento di grande cambiamento;

when the actions of our ancestors shifted humanity’s trajectory

quando le azioni dei nostri antenati hanno cambiato la traiettoria dell’umanità

for centuries to come.

per i secoli successivi.

So if this is our metric, is it possible that right now—

Se questa è la nostra metrica, potrebbe essere possibile che

this century— is the most important one yet?

questo secolo sia il più significativo finora?

The 21st century has already proven to be a period of rapid technological growth.

Il XXI secolo si è dimostrato un’epoca di rapida crescita tecnologica.

Phones and computers have accelerated the pace of life.

I telefoni e i computer hanno accelerato il ritmo della vita.

And we’re likely on the cusp of developing new transformative technologies,

E probabilmente stiamo per sviluppare nuove tecnologie trasformative,

like advanced artificial intelligence,

come l’intelligenza artificiale avanzata,

that could entirely change the way people live.

che possono cambiare completamente il modo in cui le persone vivono.

Meanwhile, many technologies we already have

Nel frattempo, molte delle tecnologie che già possediamo

contribute to humanity’s unprecedented levels of existential risk—

contribuiscono a livelli senza precedenti di rischio esistenziale dell’umanità.

that’s the risk of our species going extinct

Questo è il rischio che la nostra specie si estingua

or experiencing some kind of disaster that permanently limits

o che si verifichi qualche disastro che limiti in modo permanente

humanity’s ability to grow and thrive.

la capacità dell’umanità di prosperare.

The invention of the atomic bomb marked a major rise in existential risk,

L’invenzione della bomba atomica ha aumentato il rischio esistenziale

and since then we’ve only increased the odds against us.

e da allora le probabilità contro di noi sono solo cresciute.

It’s profoundly difficult to estimate the odds

È profondamente difficile stimare la probabilità

of an existential collapse occurring this century.

di un collasso esistenziale che possa verificarsi in questo secolo.

Very rough guesses put the risk of existential catastrophe

Stime approssimative pongono il rischio di una catastrofe esistenziale

due to nuclear winter and climate change at around 0.1%,

a causa dell’inverno nucleare e del cambiamento climatico a circa lo 0'1%,

with the odds of a pandemic causing the same kind of collapse

con la probabilità che una pandemia causi lo stesso tipo

at a frightening 3%.

di collasso a un più preoccupante 3%.

Given that any of these disasters could mean the end of life as we know it,

Dato che uno di questi disastri potrebbe comportare la fine della vita conosciuta,

these aren’t exactly small figures,

queste cifre non sono trascurabili.

And it’s possible this century could see the rise of new technologies

Ed è possibile che questo secolo assista allo sviluppo di nuove tecnologie

that introduce more existential risks.

che propongano maggiori rischi vitali.

Gli esperti di IA hanno una vasta gamma di stime riguardo

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

il momento in cui l’intelligenza artificiale generale emergerà.

but according to some surveys, many believe it could happen this century.

Secondo i sondaggi, l’opinione di molti è che possa svilupparsi in questo secolo.

Currently, we have relatively narrow forms of artificial intelligence,

Attualmente, abbiamo forme relativamente limitate di IA,

which are designed to do specific tasks like play chess or recognize faces.

progettate per svolgere compiti specifici, giocare a scacchi o riconoscere i volti.

Even narrow AIs that do creative work are limited to their singular specialty.

I piccoli programmi di IA per il lavoro creativo sono limitati a una sola area.

But artificial general intelligences, or AGIs,

Ma le intelligenze artificiali generali, o “AGI”,

would be able to adapt to and perform any number of tasks,

sarebbero in grado di adattarsi e svolgere un numero qualsiasi di compiti,

quickly outpacing their human counterparts.

superando rapidamente i loro equivalenti umani.

There are a huge variety of guesses about what AGI could look like,

Ci sono molte previsioni su come potrebbe essere un AGI

and what it would mean for humanity to share the Earth

e su cosa significherebbe per l’umanità condividere la Terra

with another sentient entity.

con un’altra entità senziente.

AGIs might help us achieve our goals,

Le AGI potrebbero aiutarci a raggiungere i nostri obiettivi,

they might regard us as inconsequential,

potrebbero considerarci insignificanti

or, they might see us as an obstacle to swiftly remove.

oppure vederci come un ostacolo da rimuovere rapidamente.

So in terms of existential risk,

Pertanto, in termini di rischio esistenziale,

it's imperative the values of this new technology align with our own.

è imperativo che i valori di questa nuova tecnologia si allineino ai nostri.

This is an incredibly difficult philosophical and engineering challenge

Questo rappresenta una sfida filosofica e ingegneristica estremamente difficile

that will require a lot of delicate, thoughtful work.

che richiederà molto lavoro delicato e ponderato.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Anche se avremo successo, l’AGI potrebbe comunque portare a un altro esito ostico.

Let’s imagine an AGI emerges with deep respect for human life

Immaginate un’AGI con un profondo rispetto per la vita umana

and a desire to solve all humanity’s troubles.

e il desiderio di risolvere tutti i problemi dell’umanità.

But to avoid becoming misaligned,

Tuttavia, per evitare di diventare non allineati,

it's been developed to be incredibly rigid about its beliefs.

è stato sviluppato per essere estremamente rigido riguardo alle sue credenze.

If these machines became the dominant power on Earth,

Se queste macchine diventassero la potenza dominante sulla Terra,

their strict values might become hegemonic,

i loro rigidi valori potrebbero diventare egemonici.

locking humanity into one ideology that would be incredibly resistant to change.

imprigionando l’umanità in un’ideologia che sarebbe davvero difficile da cambiare.

History has taught us that no matter how enlightened

La storia ci ha insegnato che non importa quanto illuminata

a civilization thinks they are,

possa considerarsi una civiltà,

they are rarely up to the moral standards of later generations.

raramente soddisfa gli standard morali delle generazioni future.

And this kind of value lock in could permanently distort or constrain

Questo tipo di fissaggio di valore potrebbe falsare o limitare per sempre

humanity’s moral growth.

la crescita morale dell'umanità.

There's a ton of uncertainty around AGI,

C’è molta incertezza riguardo all’AGI

and it’s profoundly difficult to predict how any existential risks

ed è molto difficile prevedere come si svilupperanno

will play out over the next century.

eventuali rischi esistenziali nel prossimo secolo.

It’s also possible that new, more pressing concerns

È anche possibile che nuove e più urgenti preoccupazioni

might render these risks moot.

rendano questi rischi oggetto di dibattito.

But even if we can't definitively say that ours is the most important century,

Ma anche se non possiamo dire con certezza che il nostro secolo sia il più importante

it still seems like the decisions we make might have a major impact

sembra che le decisioni che prendiamo avranno un impatto significativo

on humanity’s future.

sul futuro dell'umanità.

So maybe we should all live like the future depends on us—

Quindi forse dovremmo tutti vivere come se il futuro dipendesse da noi,

because actually, it just might.

perché in realtà potrebbe essere così.