How to Keep AI Under Control | Max Tegmark | TED

Traduttore: Gabriella Patricola Revisore: Francesca Galdi

Five years ago,

Cinque anni fa,

I stood on the TED stage

sono salito sul palco TED,

and warned about the dangers of superintelligence.

mettendo in guardia sui pericoli della Super Intelligenza.

I was wrong.

Mi sbagliavo.

It went even worse than I thought.

È andata ancora peggio di quanto pensassi.

(Laughter)

(Risate)

I never thought governments would let AI companies get this far

Impensabile che i governi permettessero alle aziende di IA di andare così lontano

without any meaningful regulation.

senza alcuna regolamentazione al riguardo.

And the progress of AI went even faster than I predicted.

Lo sviluppo dell’IA è andato persino più veloce di quanto avessi previsto.

Look, I showed this abstract landscape of tasks

Guardate, ho mostrato questo panorama astratto di compiti

where the elevation represented how hard it was for AI

in cui l'elevazione rappresentava quanto fosse difficile per l'IA

to do each task at human level.

svolgere ogni compito a livello umano.

And the sea level represented what AI could be back then.

Il livello del mare rappresentava ciò che l’IA poteva essere allora.

And boy or boy, has the sea been rising fast ever since.

E accidenti, da allora il mare si è innalzato velocemente.

But a lot of these tasks have already gone blub blub blub blub blub blub.

Ma molte di queste attività sono già state incorporate glu glu glu glu glu.

And the water is on track to submerge all land,

L’acqua è sulla buona strada per sommergere tutta la terra,

matching human intelligence at all cognitive tasks.

eguagliando l’intelligenza umana in tutti i compiti cognitivi.

This is a definition of artificial general intelligence, AGI,

Questa è la definizione di Intelligenza Artificiale Generale, IAG,

which is the stated goal of companies like OpenAI,

che è l'obiettivo dichiarato di aziende come OpenAI,

Google DeepMind and Anthropic.

Google DeepMind e Anthropic.

And these companies are also trying to build superintelligence,

Queste aziende provano anche a costruire la Super Intelligenza,

leaving human intelligence far behind.

che va molto oltre l’intelligenza umana.

And many think it'll only be a few years, maybe, from AGI to superintelligence.

Molti pensano che in pochi anni, forse, passeremo da IAG alla Super Intelligenza.

So when are we going to get AGI?

Quando avremo l’IAG?

Well, until recently, most AI researchers thought it was at least decades away.

Poco tempo fa, gran parte dei ricercatori di IA pensava ci volessero decenni.

And now Microsoft is saying, "Oh, it's almost here."

E ora Microsoft dice: «Oh, ci siamo quasi».

We're seeing sparks of AGI in ChatGPT-4,

Stiamo vedendo barlumi di IAG in ChatGPT-4

and the Metaculus betting site is showing the time left to AGI

e il sito di scommesse Metaculus mostra che il tempo per l’IAG

plummeting from 20 years away to three years away

è crollato da 20 anni a tre anni di distanza

in the last 18 months.

negli ultimi 18 mesi.

And leading industry people are now predicting

I principali esponenti del settore ora prevedono

that we have maybe two or three years left until we get outsmarted.

che ci restino forse due o tre anni prima di essere superati in astuzia.

So you better stop talking about AGI as a long-term risk,

È meglio smettere di parlare dell’IAG come di un rischio a lungo termine,

or someone might call you a dinosaur stuck in the past.

o qualcuno potrebbe definirvi un dinosauro bloccato nel passato.

It's really remarkable how AI has progressed recently.

È davvero straordinario constatare come l’IA sia progredita di recente.

Not long ago, robots moved like this.

Non molto tempo fa, i robot si muovevano in questo modo.

(Music)

(Musica)

Now they can dance.

Ora sanno ballare.

(Music)

(Musica)

Just last year, Midjourney produced this image.

Solo l’anno scorso, Midjourney ha prodotto questa immagine.

This year, the exact same prompt produces this.

Quest’anno, la stessa identica richiesta produce questo.

Deepfakes are getting really convincing.

I deepfake stanno diventando davvero convincenti.

(Video) Deepfake Tom Cruise: I’m going to show you some magic.

(Video) Deepfake Tom Cruise: Ti mostrerò un po’ di magia.

It's the real thing.

È tutto vero.

(Laughs)

(Risata)

I mean ...

Voglio dire...

It's all ...

È tutto...

the real ...

è tutto... vero.

thing.

Max Tegmark: Or is it?

Max Tegmark: O forse no?

And Yoshua Bengio now argues

Yoshua Bengio ora sostiene

that large language models have mastered language

che i grandi modelli linguistici padroneggiano linguaggio e conoscenze

and knowledge to the point that they pass the Turing test.

al punto di superare il test di Turing.

I know some skeptics are saying,

So che alcuni scettici dicono:

"Nah, they're just overhyped stochastic parrots

«No, sono solo pappagalli stocastici sopravvalutati

that lack a model of the world,"

che non hanno un modello del mondo»,

but they clearly have a representation of the world.

invece hanno una chiara rappresentazione del mondo.

In fact, we recently found that Llama-2 even has a literal map of the world in it.

Abbiamo scoperto di recente che Llama-2 contiene letteralmente una mappa mondiale.

And AI also builds

Inoltre, l’intelligenza artificiale crea

geometric representations of more abstract concepts

rappresentazioni geometriche di concetti più astratti,

like what it thinks is true and false.

ad esempio, di ciò che crede vero o falso.

So what's going to happen if we get AGI and superintelligence?

Cosa succederà se avremo AGI e Super Intelligenza?

If you only remember one thing from my talk, let it be this.

Se ricorderete almeno una cosa del mio talk, lasciate che sia questa.

AI godfather, Alan Turing predicted

Il padrino dell’IA, Alan Turing, ha predetto

that the default outcome is the machines take control.

che il risultato scontato è che le macchine prenderanno il controllo.

The machines take control.

Le macchine prenderanno il controllo.

I know this sounds like science fiction,

So che sembra fantascienza,

but, you know, having AI as smart as GPT-4

ma avere un’IA intelligente come GPT-4

also sounded like science fiction not long ago.

sembrava anche fantascienza fino a poco tempo fa.

And if you think of AI,

Se considerate l’IA,

if you think of superintelligence in particular, as just another technology,

se considerate la Super Intelligenza, in particolare, una tecnologia come tante,

like electricity,

come l’elettricità,

you're probably not very worried.

probabilmente non vi preoccupa molto.

Ma vedete,

But you see,

Turing considerava la Super Intelligenza più come una nuova specie.

Turing thinks of superintelligence more like a new species.

Think of it,

Pensateci, stiamo costruendo raccapriccianti, super capaci

we are building creepy, super capable,

amoral psychopaths

amorali psicopatici,

that don't sleep and think much faster than us,

che non dormono e pensano molto più velocemente di noi,

can make copies of themselves

possono duplicarsi

and have nothing human about them at all.

senza avere nulla di umano.

So what could possibly go wrong?

Quindi, cosa potrebbe andare storto?

(Laughter)

(Risate)

And it's not just Turing.

Non la pensa così solo Turing.

OpenAI CEO Sam Altman, who gave us ChatGPT,

Il CEO di OpenAI Sam Altman, che ci ha fornito ChatGPT,

recently warned that it could be "lights out for all of us."

ha recentemente avvertito che potrebbe «sostituire completamente tutti noi».

Anthropic CEO, Dario Amodei, even put a number on this risk:

Il CEO di Anthropic, Dario Amodei, ha addirittura stimato questo rischio:

10-25 percent.

Dal 10 al 25 percento.

And it's not just them.

Non sono solo loro a pensarlo.

Human extinction from AI went mainstream in May

L’estinzione umana dovuta all’IA è un’idea diventata virale a maggio,

when all the AGI CEOs and who's who of AI researchers

quando tutti gli amministratori delegati dell’IAG e i principali ricercatori di IA

came on and warned about it.

ci hanno messo in guardia.

And last month, even the number one of the European Union

Il mese scorso, persino il numero uno dell’Unione Europea

warned about human extinction by AI.

ha messo in guardia sull’estinzione umana a causa dell’IA.

So let me summarize everything I've said so far

Lasciatemi riassumere quanto ho detto finora

in just one slide of cat memes.

in una sola slide di meme sui gatti.

Three years ago,

Tre anni fa, la gente diceva:

people were saying it's inevitable, superintelligence,

«La Super Intelligenza è inevitabile,

it'll be fine,

andrà tutto bene,

it's decades away.

mancano ancora decenni».

Last year it was more like,

L’anno scorso, si diceva più:

It's inevitable, it'll be fine.

«È inevitabile, andrà tutto bene».

Now it's more like,

Ora l’atteggiamento è:

It's inevitable.

«È inevitabile».

(Laughter)

(Risate)

But let's take a deep breath and try to raise our spirits

Ma facciamo un respiro profondo e proviamo a risollevare il morale

and cheer ourselves up,

e a riprenderci,

because the rest of my talk is going to be about the good news,

perché il resto del mio talk riguarderà le buone notizie,

that it's not inevitable, and we can absolutely do better,

tutto questo non è inevitabile e possiamo decisamente migliorare,

alright?

siete d’accordo?

(Applause)

(Applausi)

So ...

Quindi...

The real problem is that we lack a convincing plan for AI safety.

Il vero problema è la mancanza di un piano plausibile per la sicurezza dell’IA.

People are working hard on evals

Le persone stanno lavorando sodo sulle valutazioni,

looking for risky AI behavior, and that's good,

alla ricerca di comportamenti rischiosi legati all'IA, e questo è positivo,

but clearly not good enough.

ma chiaramente non sufficiente.

They're basically training AI to not say bad things

Praticamente stanno addestrando l’IA a non dire cose cattive,

rather than not do bad things.

ma non a non fare cose cattive.

Moreover, evals and debugging are really just necessary,

Inoltre, le valutazioni e il debug sono in realtà solo condizioni necessarie,

not sufficient, conditions for safety.

ma non sufficienti, per la sicurezza.

In other words,

In altre parole,

they can prove the presence of risk,

possono verificare la presenza di un rischio,

not the absence of risk.

non l'assenza di rischio.

So let's up our game, alright?

Facciamo di meglio, va bene?

Try to see how we can make provably safe AI that we can control.

Proviamo a rendere l’IA dimostrabilmente sicura e controllabile.

Guardrails try to physically limit harm.

I guardrail cercano di limitare fisicamente i danni.

But if your adversary is superintelligence

Ma se l’avversario è la Super Intelligenza

o un umano che usa la Super Intelligenza contro di voi,

or a human using superintelligence against you, right,

trying is just not enough.

provarci non è sufficiente.

You need to succeed.

Dovete vincere.

Harm needs to be impossible.

Il danno deve essere impossibile.

So we need provably safe systems.

Necessitiamo di sistemi dimostrabilmente sicuri.

Provable, not in the weak sense of convincing some judge,

Dimostrabile, non nel senso debole di convincere qualche giudice,

but in the strong sense of there being something that's impossible

ma nel senso forte che esiste qualcosa di impossibile

according to the laws of physics.

in base alle leggi della fisica.

Because no matter how smart an AI is,

Non importa quanto sia intelligente un’IA,

it can't violate the laws of physics and do what's provably impossible.

essa non può violare le leggi della fisica e fare ciò che è provatamente impossibile.

Steve Omohundro and I wrote a paper about this,

Io e Steve Omohundro abbiamo scritto un articolo al riguardo

and we're optimistic that this vision can really work.

e siamo ottimisti che questa visione possa davvero funzionare.

So let me tell you a little bit about how.

Permettetemi di spiegarvi come.

There's a venerable field called formal verification,

Esiste un campo venerabile chiamato verifica formale,

which proves stuff about code.

che dimostra cose riguardanti il codice.

And I'm optimistic that AI will revolutionize automatic proving business

Sono ottimista che l’IA rivoluzionerà il campo delle verifiche automatiche

and also revolutionize program synthesis,

e rivoluzionerà la sintesi dei programmi,

the ability to automatically write really good code.

ossia la capacità di scrivere un ottimo codice in automatico.

So here is how our vision works.

Ecco come funziona la nostra visione.

You, the human, write a specification

Tu, in quanto essere umano, scrivi una specifica

that your AI tool must obey,

a cui il tuo strumento di IA deve obbedire,

that it's impossible to log in to your laptop

per esempio che è impossibile accedere al tuo laptop

without the correct password,

senza la password corretta,

or that a DNA printer cannot synthesize dangerous viruses.

o che una stampante per il DNA non può sintetizzare virus pericolosi.

Then a very powerful AI creates both your AI tool

Un’IA molto potente crea sia il vostro strumento di IA,

and a proof that your tool meets your spec.

sia una prova che lo strumento soddisfa le vostre specifiche.

Machine learning is uniquely good at learning algorithms,

L’apprendimento automatico è straordinario nell’apprendimento degli algoritmi,

but once the algorithm has been learned,

ma una volta appreso l'algoritmo,

si può implementarlo di nuovo in un’architettura computazionale diversa

you can re-implement it in a different computational architecture

that's easier to verify.

e più facile da verificare.

Now you might worry,

Ora potreste obiettare,

how on earth am I going to understand this powerful AI

come diavolo farò a capire questa potente IA

and the powerful AI tool it built

e il potente strumento che ha creato e la prova,

and the proof,

se sono tutti troppo complicati da comprendere per un umano?

if they're all too complicated for any human to grasp?

Here is the really great news.

Ecco la notizia davvero fantastica.

You don't have to understand any of that stuff,

Non dovete capire nessuna di queste cose,

because it's much easier to verify a proof than to discover it.

perché è molto più facile verificare una prova che scoprirla.

So you only have to understand or trust your proof-checking code,

Dovete solo capire o fidarvi del codice di verifica delle prove,

che potrebbe essere lungo solo poche centinaia di righe.

which could be just a few hundred lines long.

And Steve and I envision

Steve e io immaginiamo

that such proof checkers get built into all our compute hardware,

che tali test valutativi siano integrati in tutto il nostro hardware di calcolo,

so it just becomes impossible to run very unsafe code.

rendendo impossibile eseguire codici molto pericolosi.

What if the AI, though, isn't able to write that AI tool for you?

E se l’IA, però, non fosse in grado di creare un tale strumento di IA?

Then there's another possibility.

In questo caso c’è un’altra possibilità.

You train an AI to first just learn to do what you want

Si addestra un’IA perché apprenda prima a fare ciò che si desidera

and then you use a different AI

e poi si utilizza un’altra IA

to extract out the learned algorithm and knowledge for you,

per estrarre l’algoritmo e le conoscenze apprese per voi,

like an AI neuroscientist.

come un neuroscienziato dell’IA.

This is in the spirit of the field of mechanistic interpretability,

Questo è nello spirito del campo dell’interpretabilità meccanicistica,

which is making really impressive rapid progress.

che sta facendo progressi rapidi e davvero sorprendenti.

Provably safe systems are clearly not impossible.

Sistemi dimostrabilmente sicuri non sono impossibili.

Let's look at a simple example

Vediamo un semplice esempio

of where we first machine-learn an algorithm from data

in cui prima c’è un algoritmo che apprende automaticamente a partire dai dati

and then distill it out in the form of code

e poi lo estraiamo sotto forma di codice

that provably meets spec, OK?

che soddisfa per certo le specifiche, ok?

Let’s do it with an algorithm that you probably learned in first grade,

Proviamo con un algoritmo che di certo avrete imparato in prima elementare,

addition,

l’addizione,

where you loop over the digits from right to left,

in cui si scorrono le cifre da destra a sinistra

and sometimes you do a carry.

e, a volte, si esegue un riporto.

We'll do it in binary,

Lo faremo in linguaggio binario,

as if you were counting on two fingers instead of ten.

come se contassi su due dita anziché dieci.

And we first train a recurrent neural network,

Per prima cosa addestriamo una rete neurale ricorsiva,

never mind the details,

lasciate stare i dettagli,

to nail the task.

per portare a termine il compito.

So now you have this algorithm that you don't understand how it works

Ora avete questo algoritmo che non capite come funziona,

in a black box

in una scatola nera

defined by a bunch of tables of numbers that we, in nerd speak,

definita da una serie di tabelle con numeri che noi, in linguaggio nerd,

call parameters.

chiamiamo parametri.

Then we use an AI tool we built to automatically distill out from this

Dopo usiamo uno strumento di IA creato per estrarre automaticamente

the learned algorithm in the form of a Python program.

l'algoritmo appreso sotto forma di programma Python.

And then we use the formal verification tool known as Daphne

Infine, utilizziamo lo strumento di verifica formale noto come Daphne

to prove that this program correctly adds up any numbers,

per dimostrare che questo programma somma correttamente tutti i numeri,

not just the numbers that were in your training data.

non solo i numeri presenti nei computi di addestramento.

So in summary,

In sintesi,

provably safe AI, I'm convinced is possible,

un’IA dimostrabilmente sicura, sono convinto sia possibile,

but it's going to take time and work.

ma richiederà tempo e lavoro.

And in the meantime,

Nel frattempo,

let's remember that all the AI benefits

ricordiamo che tutti i vantaggi dell’IA

that most people are excited about

che entusiasmano la maggior parte delle persone

actually don't require superintelligence.

in realtà non richiedono la Super Intelligenza.

We can have a long and amazing future with AI.

Possiamo avere un futuro lungo e fantastico con l'IA.

So let's not pause AI.

Quindi, non mettiamo in pausa l’IA.

Let's just pause the reckless race to superintelligence.

Mettiamo in pausa la corsa spericolata alla Super Intelligenza.

Let's stop obsessively training ever-larger models

Smettiamola di addestrare ossessivamente modelli sempre più grandi

that we don't understand.

che non comprendiamo.

Let's heed the warning from ancient Greece

Facciamo attenzione agli avvertimenti dell’antica Grecia

and not get hubris, like in the story of Icarus.

e non diventiamo arroganti, come nel mito di Icaro.

Because artificial intelligence

Perché l’intelligenza artificiale

is giving us incredible intellectual wings

ci sta regalando incredibili ali intellettuali

with which we can do things beyond our wildest dreams

con cui possiamo fare cose che superano i nostri sogni più sfrenati

if we stop obsessively trying to fly to the sun.

se abbandoniamo l’ossessione di volare verso il sole.

Thank you.

Vi ringrazio.

(Applause)

(Applausi)