The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Traduttore: Stefania Basset Revisore: Gabriella Patricola

You've all experienced the progress of artificial intelligence.

Avete tutti sperimentato i progressi dell’intelligenza artificiale.

Many of you may have spoken with a computer,

Molti di voi forse hanno parlato con un computer,

and a computer understood you

e il computer vi ha capito

and spoke back to you.

e risposto.

With the rate of progress being that it is,

Al ritmo dei progressi attuali,

it's not difficult to imagine that at some point in the future,

non è difficile immaginare che in futuro

our intelligent computers will become as smart or smarter than people.

i computer diventeranno intelligenti quanto gli umani, o anche di più.

And it's also not difficult to imagine that when that happens,

Inoltre, non è difficile immaginare che quando ciò accadrà,

the impact of such artificial intelligence

l’impatto di tale intelligenza artificiale

is going to be truly, truly vast.

sarà a dir poco enorme.

And you may wonder:

Forse vi chiederete:

Is it going to be OK when technology is so impactful?

cosa succederà quando la tecnologia avrà un impatto del genere?

And here my goal is to point out the existence of a force

E qui il mio obiettivo è sottolineare l’esistenza di una forza

that many of you may have not noticed,

che molti di voi forse non hanno notato

that gives me hope that indeed,

e che mi fa sperare che

we will be happy with the result.

saremo davvero soddisfatti del risultato.

So artificial intelligence.

Allora, l’intelligenza artificiale.

What is it, and how does it work?

Che cos’è, e come funziona?

Well, it turns out that it's very easy to explain

Beh, in realtà è molto facile spiegare

how artificial intelligence works.

come funziona l'intelligenza artificiale.

Just one sentence.

Userò solo una frase.

Artificial intelligence is nothing but digital brains

L’intelligenza artificiale non è altro se non cervelli digitali

inside large computers.

all'interno di grandi computer.

That's what artificial intelligence is.

Ecco cos'è l'intelligenza artificiale.

Every single interesting AI that you've seen

Ogni singola IA interessante che avete visto

is based on this idea.

si basa su questa idea.

Over the decades,

Nel corso dei decenni,

scientists and engineers have been figuring out

scienziati e ingegneri hanno lavorato per capire

how such digital brains should work

come dovrebbero funzionare questi cervelli digitali,

and how to build them, how to engineer them.

e come costruirli e progettarli.

Now, I find it interesting

Ora, trovo interessante

that the seat of intelligence in human beings is our biological brain.

che la sede dell'intelligenza negli esseri umani sia il nostro cervello biologico.

It is fitting that the seat of intelligence

È appropriato che la sede

in artificial intelligence

dell’intelligenza artificiale

is an artificial brain.

sia un cervello artificiale.

Here, I'd like to take a digression and tell you about how I got into AI.

Vorrei fare una digressione e raccontarvi come mi sono avvicinato all’IA.

There were three forces that pulled me into it.

Sono state tre le forze che mi hanno spinto a farlo.

The first one was that when I was a little child,

La prima è stata che quando ero bambino,

at around the age of five or six,

all'incirca all'età di cinque o sei anni,

I was very struck by my own conscious experience,

ero molto colpito dalla mia esperienza cosciente,

by the fact that I am me and I am experiencing things.

dal fatto che io sono io e sto sperimentando delle cose.

That when I look at things, I see them.

Che quando guardo le cose, le vedo.

Like, this feeling over time went away, though,

Questa sensazione col tempo è svanita,

by simply mentioning it to you right now it comes back.

ma, soltanto parlandone ora, ritorna.

But this this feeling of ...

Ma questa sensazione…

That I am me, that you are you,

che io sia io, che tu sia te,

I found it very strange and very disturbing almost.

l’ho trovata molto strana e quasi… inquietante.

And so when I learned about artificial intelligence,

Così, quando ho saputo dell’intelligenza artificiale,

I thought, wow, if we could build a computer

ho pensato: wow, se riuscissimo a costruire un computer

that is intelligent,

intelligente,

maybe we will learn something about ourselves,

forse impareremo qualcosa su noi stessi,

about our own consciousness.

sulla nostra coscienza.

That was my first motivation that pulled me towards AI.

Questa è stata la prima motivazione che mi ha avvicinato all’IA.

The second motivation was more pedestrian in a way.

La seconda motivazione è più banale, in un certo senso.

I was simply curious about how intelligence works.

Ero semplicemente curioso di capire come funzionasse l’intelligenza.

And when I was a teenager, an early teenager in the late '90s,

E quando ero adolescente, all'inizio degli anni '90, avevo la sensazione che

the sense that I got is that science simply did not know

la scienza semplicemente non sapesse

how intelligence worked.

come funzionava l’intelligenza.

There was also a third reason,

C’era anche una terza ragione:

which is that it was clear to me back then

all’epoca mi era chiaro che

that artificial intelligence,

l’intelligenza artificiale,

if it worked, it would be incredibly impactful.

se avesse funzionato, avrebbe avuto un impatto enorme.

Now, it wasn't at all obvious

Naturalmente, non era affatto ovvio

that it will be possible to make progress in artificial intelligence,

che fosse possibile fare progressi nell’intelligenza artificiale,

but if it were possible to make progress in artificial intelligence,

ma se fosse stato possibile,

that would be incredibly impactful.

l’impatto sarebbe stato davvero enorme.

So these were the three reasons that pulled me towards AI.

Ecco, questi sono stati i tre motivi che mi hanno spinto verso l’IA.

That's why I thought that's a great area to spend all my efforts on.

È per questo che ho pensato fosse un ottimo campo in cui applicarmi.

So now let's come back to our artificial intelligence,

Ma torniamo all’intelligenza artificiale,

the digital brains.

ai cervelli digitali.

Today, these digital brains

Oggi, questi cervelli digitali

are far less smart than our biological brains.

sono molto meno intelligenti dei nostri cervelli biologici.

When you speak to an AI chat bot,

Quando si parla con un chatbot basato sull’intelligenza artificiale,

you very quickly see that it's not all there,

ci si accorge subito che non è ancora perfetto,

that it's, you know,

che capisce le cose, ma all’incirca.

it understands mostly, sort of.

But you can clearly see that there are so many things it cannot do

Si capisce subito che ci sono tante cose che non sa fare

and that there are some strange gaps.

e che ha alcune strane lacune.

But this situation, I claim, is temporary.

Ma questa situazione, a mio avviso, è temporanea.

As researchers and engineers continue to work on AI,

Ricercatori e ingegneri continuano a lavorare sull’intelligenza artificiale,

the day will come when the digital brains that live inside our computers

e verrà il giorno

in cui i cervelli digitali che vivono nei nostri computer

will become as good and even better than our own biological brains.

diventeranno efficienti quanto o più dei nostri cervelli biologici.

Computers will become smarter than us.

I computer diventeranno più intelligenti di noi.

We call such an AI an “AGI,” artificial general intelligence.

Tale intelligenza viene chiamata «AGI», intelligenza artificiale generale.

When we can say that the level at which we can teach the AI to do anything

Questo avverrà quando potremo dire di poter insegnare all’IA a fare tutto ciò

that, for example, I can do, or someone else.

che ad esempio io, o qualcun altro sa fare.

So although AGI does not exist today,

Quindi, sebbene l'AGI non esista oggi,

we can still gain a little bit of an insight

possiamo comunque avere un’idea

into the impact of AGI once it's built.

dell’impatto che avrà una volta creata.

It is completely obvious

È praticamente ovvio

that such an AGI will have a dramatic impact

che l’AGI avrà un impatto enorme

on every area of life, of human activity and society.

su ogni ambito della vita, dell’attività umana e della società.

And I want to go over a quick case study.

Vorrei soffermarmi brevemente su uno studio.

This is a narrow example of a very, very broad technology.

Questo è solo un esempio di una tecnologia che ha applicazioni molto ampie.

The example I want to present is health care.

L’esempio che voglio presentarvi riguarda la sanità.

Many of you may have had the experience of trying to go to a doctor.

Molti di voi hanno provato a rivolgersi a un medico.

You need to wait for many months sometimes,

A volte è necessario attendere molti mesi

and then when you do get to see a doctor, you get a small,

e poi, quando si visita un medico,

very limited amount of time with the doctor

si ha un lasso di tempo limitato a disposizione,

and furthermore, the doctor, being only human,

e inoltre, essendo solo umano,

can have only limited knowledge of all this,

il medico può avere solo una conoscenza limitata

all the medical knowledge that exists.

di tutte le conoscenze mediche esistenti.

And then by the end of it, you get a very large bill.

E poi, alla fine, ricevi una fattura molto alta.

(Laughter)

(Risate)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Bene, se avete un computer intelligente, un’AGI costruita per essere un medico,

it will have complete and exhaustive knowledge of all medical literature.

avrà una conoscenza completa ed esaustiva di tutta la letteratura medica.

It will have billions of hours of clinical experience,

Avrà miliardi di ore di esperienza clinica,

and it will be always available and extremely cheap.

e sarà sempre disponibile ed estremamente economica.

When this happens,

Quando ciò accadrà,

we will look back at today's health care

guarderemo all’assistenza sanitaria odierna

similarly to how we look at 16th century dentistry.

come guardiamo oggi un dentista del XVI secolo.

(Laughter)

(Risate)

You know, when they tied people with belts and then have this drill,

Sapete, quando legavano le persone con delle cinture e usavano un trapano,

that's how today's health care will look like.

ecco come sembrerà l’assistenza sanitaria di oggi.

And again, to emphasize, this is just one example.

E ancora una volta vorrei sottolineare che questo è solo un esempio.

This is just one example.

Questo è solo un esempio.

AGI will have dramatic and incredible impact

L’AGI avrà un impatto rivoluzionario e incredibile

on every single area of human activity.

su ogni singola area dell'attività umana.

But when you see impact this large, you may wonder, "Gosh,

Ma con un impatto così grande, potreste chiedervi:

«Caspita, non è che questa tecnologia avrà un impatto troppo grande?»

isn't this technology too impactful?"

And indeed, for every positive application of AGI,

E infatti, per ogni applicazione positiva dell’AGI,

there will be a negative application as well.

ce ne sarà anche una negativa.

This technology is also going to be different

Questa tecnologia sarà anche diversa

from technologies that we are used to,

dalle tecnologie a cui siamo abituati,

because it will have the ability to improve itself.

perché avrà la capacità di migliorarsi da sola.

It is possible to build an AGI

È possibile creare un’AGI

that will work on the next generation of AGI.

che lavori alla prossima generazione di AGI.

The closest analogue we have to this kind of rapid technological improvement

Per questo tipo di rapido miglioramento tecnologico,

is when the Industrial Revolution has taken place, where humans,

la miglior analogia che possiamo fare è con la rivoluzione industriale,

the material condition of human society, was very, very constant.

quando la condizione materiale della società umana, era molto costante.

And then it was a rapid increase, rapid growth.

E poi c’è stato un rapido aumento, una rapida crescita.

With AGI,

Con l’AGI,

something like this could happen again, but on a shorter timescale.

qualcosa di simile potrebbe succedere di nuovo, ma in tempi più brevi.

And then furthermore,

Inoltre,

there are concerns around

c’è apprensione riguardo al fatto che

if an AGI ever becomes very, very powerful,

se un’AGI diventasse molto, molto potente,

which is possible,

il che è possibile,

maybe it will want to go rogue being that it is an agent.

forse si rivolterà, visto che si tratta di un ente autonomo.

So this is a concern that exists with this unprecedented,

Si tratta quindi di un problema legato a questa tecnologia senza precedenti,

not yet existing technology.

non ancora esistente.

And indeed,

In effetti,

you look at all the positive potential of AGI

se esaminate tutto il potenziale positivo dell'AGI

and all the concerning possibilities of AGI as well,

e anche tutte le relative possibilità dell’AGI,

and you may say, "Gosh, where is this all headed?"

potreste dire: «Caspita, dove arriveremo con tutto questo?»

One of my motivations in creating OpenAI was,

Una delle mie motivazioni nel creare OpenAI è stata,

in addition to developing this technology,

oltre allo sviluppo di questa tecnologia,

was also to address the questions

era quello di rispondere alle domande

that are posed by AGI, the difficult questions,

che pone l’AGI, le domande difficili,

the concerns that we raised.

le preoccupazioni di cui abbiamo parlato.

In addition to working with governments

Oltre a collaborare con i governi

and helping them understand what is coming and prepare for it,

e ad aiutarli a capire cosa succederà e a prepararsi,

we are also doing a lot of research

stiamo anche facendo molte ricerche

on addressing the technological side of things,

per affrontare l’aspetto tecnologico

so that the AI will never want to go rogue.

in modo che l’IA non voglia mai rivoltarsi.

And this is something which I’m working on as well.

E ci sto lavorando su anch’io.

But I think, the thing to note,

Credo sia una cosa da notare,

because AI and AGI is really the only area of the economy

poiché l’IA e l’AGI sono davvero l’unica area dell’economia

where there is a lot of excitement, a lot of investment,

in cui c’è molto entusiasmo, e molti investimenti,

everyone is working on it,

e tutti ci stanno lavorando,

there's a huge number of labs in the world trying to build the same thing.

ci sono un gran numero di laboratori nel mondo che cercano di creare tutto ciò.

Even if OpenAI takes these desirable steps that I mentioned,

Anche se OpenAI intraprende le misure che ho menzionato,

what about the rest of the companies and the rest of the world?

che ne sarà del resto delle aziende e del resto del mondo?

And this is where I want to make my observation

Ed è qui che voglio proporvi la mia osservazione

about the force that exists.

su questa forza esistente.

The observation is this: consider the world one year ago,

L'osservazione è questa: pensate al mondo di un anno fa,

as recently as one year ago.

non più di un anno fa.

People weren't really talking about AI, not in the same way at all.

La gente non parlava dell’IA, o almeno non nello stesso modo.

What happened?

Cosa è successo?

We all experienced what it's like to talk to a computer and to be understood.

Abbiamo tutti sperimentato cosa vuol dire parlare con un computer ed essere capiti.

The idea that computers will become really intelligent

L'idea che i computer diventeranno davvero intelligenti

and eventually more intelligent than us is becoming widespread.

e alla fine più intelligenti di noi si sta diffondendo.

It used to be a niche idea that only a few enthusiasts

Era un’idea di nicchia a cui solo pochi appassionati

and hobbyists and people who were very into AI were thinking about.

e persone interessate all’IA stavano pensando.

But now everyone is thinking about it.

Ma ora ci stanno pensando tutti.

And as the AI continues to make progress,

E man a mano che l’IA continua a fare progressi,

as technology continues to advance,

la tecnologia continua ad avanzare,

as more and more people see what AI can do

man mano che sempre più persone vedono cosa può fare l’IA

and where it is headed towards,

e dove sta andando,

then it will become clear just how dramatic,

allora diventerà chiaro quanto rivoluzionaria,

incredible and ...

incredibile e...

almost fantastical AGI is going to be

quasi fantastica sarà l’AGI

and how much trepidation is appropriate.

e quanto sia appropriata l’apprensione.

And what I claim will happen is that people will start to act

Ciò che secondo me accadrà è che le persone inizieranno ad agire

in unprecedentedly collaborative way out of their own self-interest.

collaborando in modi senza precedenti per il proprio interesse personale.

It's already happening right now.

Sta già accadendo.

You see the leading AGI companies starting to collaborate

Le principali società AGI stanno già iniziando a collaborare

for a specific example, through the Frontier Model Forum.

per fare un esempio specifico, attraverso il Frontier Model Forum.

And we will expect that companies that are competitors

E ci aspettiamo che le aziende concorrenti

will share technical information to make their AIs safe.

condividano informazioni tecniche per rendere sicure le loro IA.

We may even see governments do this.

Persino i governi potrebbero farlo.

For another example,

Per fare un altro esempio,

at OpenAI, we really believed in how dramatic AGI is going to be.

ad OpenAI, abbiamo davvero creduto nella rivoluzione dell’AGI.

So one of the ideas that we were operating by,

Una delle idee su cui stavamo lavorando,

and it's been written on our website for five years now,

ed è scritta sul nostro sito web ormai da cinque anni,

that when technology gets such that we are very, very close to AGI,

è che quando la tecnologia progredirà

a tal punto che saremo molto vicini all’AGI,

to computers smarter than humans,

a computer più intelligenti degli umani,

and if some other company is far ahead of us,

e se qualche altra azienda è molto più avanti di noi,

then rather than compete with them,

invece di competere con loro,

we will help them out, join them, in a sense.

li aiuteremo, ci uniremo a loro, in un certo senso.

And why do that?

E perché lo faremo?

Because we feel, we appreciate

Perché sentiamo e apprezziamo

how incredibly dramatic AGI is going to be.

quanto sarà incredibilmente rivoluzionaria sarà l’AGI.

And my claim is that with each generation of capability advancements,

A mio avviso, con l'avanzamento delle capacità di ogni generazione,

as AI gets better

man mano che l’intelligenza artificiale migliora

and as all of you experience what AI can do,

e tutti voi sperimenterete ciò che l'IA è in grado di fare,

as people who run AI efforts and AGI efforts

le persone che gestiscono le iniziative relative all’IA e all’AGI

and people who work on them will experience it as well,

e le persone che vi lavorano ne faranno esperienza,

this will change the way we see AI and AGI,

questo cambierà il modo in cui vediamo l’IA e l’AGI,

and that will change collective behavior.

e ciò cambierà il comportamento della collettività.

And this is an important reason

E questo è un motivo importante

why I'm hopeful

per cui sono fiducioso che,

that despite the great challenges that's posed by this technology,

nonostante le sfide poste da questa tecnologia siano molte,

we will overcome them.

le supereremo.

Thank you.

Grazie.

(Applause)

(Applausi)