What Is an AI Anyway? | Mustafa Suleyman | TED

Traduttore: Matteo Casarin Revisore: Maria Pericleous

I want to tell you what I see coming.

MUSTAFA SULEYMAN: Vorrei raccontarvi cosa ci attende.

I've been lucky enough to be working on AI for almost 15 years now.

Ho la fortuna di lavorare nel campo dell’IA da quasi 15 anni.

Back when I started, to describe it as fringe would be an understatement.

Quando ho iniziato, definirlo “di nicchia” era un eufemismo.

Researchers would say, “No, no, we’re only working on machine learning.”

I ricercatori dicevano: «No, stiamo solo lavorando sul machine learning»

Because working on AI was seen as way too out there.

perché lavorare sull’IA era una cosa da eccentrici.

In 2010, just the very mention of the phrase “AGI,”

Nel 2010, solo menzionare il termine “AGI”

artificial general intelligence,

– intelligenza artificiale generale –

would get you some seriously strange looks

suscitava sguardi perplessi e persino di sufficienza.

and even a cold shoulder.

"You're actually building AGI?" people would say.

Ci avrebbero chiesto «State davvero creando un’AGI?»

"Isn't that something out of science fiction?"

«Non è roba da fantascienza?»

People thought it was 50 years away or 100 years away,

Si pensava che mancassero ancora 50 o 100 anni, ammesso che fosse possibile.

if it was even possible at all.

Talk of AI was, I guess, kind of embarrassing.

Immagino che parlare di IA generasse imbarazzo.

People generally thought we were weird.

Ci consideravano gente stramba.

And I guess in some ways we kind of were.

E immagino che un po’ lo fossimo.

It wasn't long, though, before AI started beating humans

Ma, poco tempo dopo, l’IA iniziò a battere gli umani

at a whole range of tasks

in tutta una serie di compiti

that people previously thought were way out of reach.

che in precedenza erano considerati fuori portata.

Interpretare le immagini,

Understanding images,

translating languages,

tradurre le lingue, trascrivere il parlato,

transcribing speech,

playing Go and chess

giocare a Go e a scacchi

and even diagnosing diseases.

e persino diagnosticare malattie.

People started waking up to the fact

Le persone iniziarono ad intuire l’enorme impatto che avrebbe avuto l’IA

that AI was going to have an enormous impact,

and they were rightly asking technologists like me

e comprensibilmente ponevano domande scomode ai tecnologi come me.

some pretty tough questions.

Is it true that AI is going to solve the climate crisis?

«È vero che l’IA risolverà la crisi climatica?»

Will it make personalized education available to everyone?

«Permetterà a tutti di accedere ad un’istruzione personalizzata?»

Does it mean we'll all get universal basic income

«Avremo il reddito universale e non dovremo più lavorare?»

and we won't have to work anymore?

Should I be afraid?

«È il caso di preoccuparsi?»

What does it mean for weapons and war?

«Che conseguenze avrà sulle guerre e le armi?»

And of course, will China win?

E ovviamente: «Vincerà la Cina? C’è una corsa?»

Are we in a race?

Are we headed for a mass misinformation apocalypse?

«Avverrà un’apocalisse di disinformazione di massa?»

All good questions.

Sono tutte ottime domande.

But it was actually a simpler

Ma fu una domanda più semplice e molto più basilare

and much more kind of fundamental question that left me puzzled.

a lasciarmi perplesso.

Una domanda diretta al cuore del mio lavoro quotidiano.

One that actually gets to the very heart of my work every day.

One morning over breakfast,

Una mattina, durante la colazione,

my six-year-old nephew Caspian was playing with Pi,

mio nipote Caspian, di sei anni, stava giocando con Pi,

the AI I created at my last company, Inflection.

l’IA che avevo creato nella mia ultima azienda, Inflection.

With a mouthful of scrambled eggs,

Con la bocca piena di uova strapazzate,

he looked at me plain in the face and said,

mi guardò dritto in faccia e mi chiese:

"But Mustafa, what is an AI anyway?"

«Mustafa, ma cos’è un’IA?»

He's such a sincere and curious and optimistic little guy.

È un ragazzino sincero, curioso e ottimista.

He'd been talking to Pi about how cool it would be if one day in the future,

Stava parlando con Pi di quanto sarebbe bello un futuro

he could visit dinosaurs at the zoo.

con i dinosauri negli zoo.

And how he could make infinite amounts of chocolate at home.

E di come avrebbe preparato da solo un mare di cioccolata.

And why Pi couldn’t yet play I Spy.

E del perché Pi non poteva ancora giocare a “io vedo”.

"Well," I said, "it's a clever piece of software

Gli dissi: «Beh, è un software intelligente

that's read most of the text on the open internet,

che legge i testi disponibili su internet

and it can talk to you about anything you want."

e può parlarti di tutto ciò che vuoi.»

"Right.

«Capito! Proprio come una persona?»

So like a person then?"

I was stumped.

Non sapevo cosa dire.

Genuinely left scratching my head.

Ero completamente nel pallone.

All my boring stock answers came rushing through my mind.

Mi passarono per la testa le classiche risposte aziendali.

"No, but AI is just another general-purpose technology,

«No, l’IA è solo un’altra tecnologia general purpose,

like printing or steam."

come la stampa o il vapore.»

It will be a tool that will augment us

«Sarà uno strumento che ci accrescerà,

and make us smarter and more productive.

e che ci renderà più intelligenti e produttivi.»

And when it gets better over time,

«E migliorando nel corso del tempo, sarà come un oracolo onnisciente

it'll be like an all-knowing oracle

that will help us solve grand scientific challenges."

che ci aiuterà a risolvere grandi sfide scientifiche.»

You know, all of these responses started to feel, I guess,

Sapete, tutte queste risposte iniziarono a farmi sentire…

a little bit defensive.

un po’ sulla difensiva.

And actually better suited to a policy seminar

E più preparato ai seminari politici

than breakfast with a no-nonsense six-year-old.

che ad una colazione con un pragmatico seienne.

"Why am I hesitating?" I thought to myself.

«Perché esito?» pensai tra me e me.

You know, let's be honest.

Siamo onesti.

My nephew was asking me a simple question

Mio nipote mi stava ponendo una semplice domanda

that those of us in AI just don't confront often enough.

che noi dell’IA tendiamo a trascurare.

What is it that we are actually creating?

Cosa stiamo creando davvero?

What does it mean to make something totally new,

Cosa significa creare qualcosa di totalmente nuovo,

fundamentally different to any invention that we have known before?

di fondamentalmente diverso da qualsiasi invenzione del passato?

It is clear that we are at an inflection point

È chiaro che siamo ad un punto di flesso

in the history of humanity.

nella storia dell'umanità.

On our current trajectory,

La traiettoria attuale ci sta conducendo verso la comparsa

we're headed towards the emergence of something

di qualcosa che fatichiamo a descrivere.

that we are all struggling to describe,

and yet we cannot control what we don't understand.

Eppure non possiamo controllare ciò che non comprendiamo.

And so the metaphors,

Quindi le metafore, i modelli mentali, i nomi

the mental models,

the names, these all matter

sono importanti se vogliamo sfruttare al meglio l’IA

if we’re to get the most out of AI whilst limiting its potential downsides.

limitandone al contempo i potenziali svantaggi.

As someone who embraces the possibilities of this technology,

Essendo una persona che abbraccia le possibilità di questa tecnologia

but who's also always cared deeply about its ethics,

ma che ha sempre dato importanza agli aspetti etici,

we should, I think,

credo che dovremmo imparare a descrivere facilmente ciò che stiamo creando.

be able to easily describe what it is we are building.

And that includes the six-year-olds.

Anche ai bambini di sei anni.

So it's in that spirit that I offer up today the following metaphor

Ed è con questo spirito che oggi vi propongo una metafora

for helping us to try to grapple with what this moment really is.

che dovrebbe aiutarci a decifrare questo momento.

I think AI should best be understood

Penso che l’IA possa essere assimilabile

as something like a new digital species.

ad una sorta di nuova specie digitale.

Now, don't take this too literally,

Non prendetemi troppo alla lettera,

but I predict that we'll come to see them as digital companions,

ma prevedo che finiremo per considerarle delle companion digitali,

new partners in the journeys of all our lives.

delle nuove compagne di viaggio nelle nostre vite.

Whether you think we’re on a 10-, 20- or 30-year path here,

Potrebbero volerci ancora dieci, venti o trent’anni,

this is, in my view, the most accurate and most fundamentally honest way

ma credo che questo sia il modo più veritiero e trasparente

of describing what's actually coming.

per descrivere ciò che ci attende.

And above all, it enables everybody to prepare for

E, soprattutto, consente a tutti di arrivare preparati

and shape what comes next.

e di plasmare ciò che verrà dopo.

Now I totally get, this is a strong claim,

Capisco che è un’affermazione forte,

and I'm going to explain to everyone as best I can why I'm making it.

e cercherò di motivarla nel miglior modo possibile,

But first, let me just try to set the context.

ma prima lasciate che provi a definire il contesto.

From the very first microscopic organisms,

I primissimi organismi microscopici

life on Earth stretches back billions of years.

fanno risalire la vita sulla Terra a miliardi di anni fa.

Over that time, life evolved and diversified.

Nel corso del tempo la vita si è evoluta e diversificata.

Then a few million years ago, something began to shift.

Poi, alcuni milioni di anni fa, avvenne un cambiamento.

After countless cycles of growth and adaptation,

Dopo innumerevoli cicli di crescita e adattamento,

one of life’s branches began using tools, and that branch grew into us.

uno dei rami della vita iniziò ad usare gli strumenti,

e da quel ramo nascemmo noi.

We went on to produce a mesmerizing variety of tools,

Da allora abbiamo prodotto un’incredibile varietà di strumenti,

at first slowly and then with astonishing speed,

all’inizio lentamente, poi con una velocità sorprendente.

we went from stone axes and fire

Siamo passati dal fuoco e le asce di pietra

to language, writing and eventually industrial technologies.

al linguaggio, alla scrittura e infine alle tecnologie industriali.

One invention unleashed a thousand more.

Un’invenzione ne generò altre mille.

And in time, we became homo technologicus.

E col tempo siamo diventati “homo technologicus”.

Around 80 years ago,

Circa 80 anni fa è nata una nuova branca della tecnologia.

another new branch of technology began.

With the invention of computers,

Con l'invenzione dei computer,

we quickly jumped from the first mainframes and transistors

siamo passati rapidamente dai primi mainframe e transistor

to today's smartphones and virtual-reality headsets.

agli attuali smartphone e visori per la realtà virtuale.

Information, knowledge, communication, computation.

Informazioni, conoscenza, comunicazione, calcolo.

In this revolution,

Una rivoluzione con ramificazioni senza precedenti.

creation has exploded like never before.

And now a new wave is upon us.

Ma è in arrivo una nuova ondata.

Artificial intelligence.

L’intelligenza artificiale.

These waves of history are clearly speeding up,

I flutti della storia sono sempre più frequenti

as each one is amplified and accelerated by the last.

perché assorbono la forza e la velocità dei precedenti.

And if you look back,

E andando a ritroso,

it's clear that we are in the fastest

è evidente che si tratta dell’ondata più veloce e significativa di sempre.

and most consequential wave ever.

The journeys of humanity and technology are now deeply intertwined.

Ora l’umanità e la tecnologia sono intime compagne di viaggio.

In just 18 months,

In soli 18 mesi,

over a billion people have used large language models.

oltre un miliardo di persone hanno usato gli LLM.

We've witnessed one landmark event after another.

Abbiamo assistito ad una sequenza di eventi epocali.

Just a few years ago, people said that AI would never be creative.

Solo pochi anni fa, si diceva che l’IA non sarebbe mai stata creativa.

And yet AI now feels like an endless river of creativity,

Eppure l’IA ora sembra un fiume di creatività in piena

making poetry and images and music and video that stretch the imagination.

che crea poesie, immagini, musica e video che sfidano l’immaginazione.

People said it would never be empathetic.

Si diceva che non sarebbe mai stata empatica.

And yet today, millions of people enjoy meaningful conversations with AIs,

Eppure milioni di persone ora conversano in modo costruttivo con le IA,

talking about their hopes and dreams

parlano di sogni e speranze,

and helping them work through difficult emotional challenges.

e trovano un aiuto durante momenti difficili.

AIs can now drive cars,

Ora le IA sanno guidare automobili, gestire reti elettriche

manage energy grids

and even invent new molecules.

e persino inventare nuove molecole.

Just a few years ago, each of these was impossible.

Solo pochi anni fa erano tutte cose impossibili.

And all of this is turbocharged by spiraling exponentials of data

E tutto ciò è iperstimolato

da una spirale esponenziale di dati e potenza di calcolo.

and computation.

Last year, Inflection 2.5, our last model,

L’anno scorso, Inflection 2.5, il nostro ultimo modello,

used five billion times more computation

ha usato una potenza di calcolo cinque miliardi di volte superiore

than the DeepMind AI that beat the old-school Atari games

rispetto all’IA DeepMind che sconfisse i vecchi giochi Atari

just over 10 years ago.

poco più di un decennio fa.

That's nine orders of magnitude more computation.

Nove ordini di grandezza in termini di potenza di calcolo.

10x per year,

10× all’anno,

every year for almost a decade.

ogni anno per quasi un decennio.

Over the same time, the size of these models has grown

Parallelamente, questi modelli sono passati

from first tens of millions of parameters to then billions of parameters,

dalle decine di milioni di parametri ai miliardi di parametri,

and very soon, tens of trillions of parameters.

e, molto presto, alle decine di bilioni di parametri.

If someone did nothing but read 24 hours a day for their entire life,

Se una persona leggesse 24 ore al giorno per tutta la vita,

they'd consume eight billion words.

assimilerebbe otto miliardi di parole.

And of course, that's a lot of words.

Certo, sono un sacco di parole.

But today, the most advanced AIs consume more than eight trillion words

Ma le più avanzate IA attuali assimilano più di otto bilioni di parole

in a single month of training.

in un solo mese di addestramento.

And all of this is set to continue.

E la cosa è destinata a continuare.

The long arc of technological history is now in an extraordinary new phase.

Il lungo arco della storia tecnologica

è entrato in una fase nuova e straordinaria.

So what does this mean in practice?

Ma quali sono le conseguenze pratiche?

Well, just as the internet gave us the browser

Proprio come Internet ci ha portato i browser

and the smartphone gave us apps,

e gli smartphone ci hanno portato le app,

the cloud-based supercomputer is ushering in a new era

i supercomputer basati sul cloud stanno inaugurando una nuova era

of ubiquitous AIs.

dove le IA sono onnipresenti.

Everything will soon be represented by a conversational interface.

Tra non molto tutto verrà gestito da un’interfaccia conversazionale.

Or, to put it another way, a personal AI.

O, per usare un’altra espressione, da un’IA personale.

And these AIs will be infinitely knowledgeable,

Queste IA saranno infinitamente sapienti,

and soon they'll be factually accurate and reliable.

e a breve avranno un altissimo livello di accuratezza e affidabilità.

They'll have near-perfect IQ.

Avranno un QI quasi perfetto.

They’ll also have exceptional EQ.

Avranno anche un QE eccezionale.

They’ll be kind, supportive, empathetic.

Saranno gentili, solidali, empatiche.

These elements on their own would be transformational.

Basterebbero questi elementi per parlare di “rivoluzione”.

Just imagine if everybody had a personalized tutor in their pocket

Immaginate se tutti avessero un mentore personale in tasca

and access to low-cost medical advice.

e accesso a consulenze mediche a costi irrisori.

A lawyer and a doctor,

Un avvocato e un medico, uno stratega aziendale e un allenatore,

a business strategist and coach --

all in your pocket 24 hours a day.

nelle vostre tasche, 24 ore al giorno.

But things really start to change when they develop what I call AQ,

Ma la svolta arriverà quando svilupperanno quello che io chiamo “FQ”,

their “actions quotient.”

il «quoziente di fattibilità».

This is their ability to actually get stuff done

La capacità di un’IA di portare a termine un compito,

in the digital and physical world.

nel mondo fisico e digitale.

And before long, it won't just be people that have AIs.

E, tra breve, le IA non saranno un’esclusiva delle persone.

Strange as it may sound, every organization,

Per quanto strano possa sembrare, tutte le organizzazioni,

from small business to nonprofit to national government,

dalle piccole imprese al no-profit fino ai governi nazionali,

each will have their own.

ne avranno una.

Every town, building and object

Le città, gli edifici e gli oggetti

will be represented by a unique interactive persona.

saranno rappresentati da un personaggio interattivo.

And these won't just be mechanistic assistants.

E non si tratterà di semplici assistenti meccanici.

They'll be companions, confidants,

Saranno companion, confidenti,

colleagues, friends and partners,

colleghi, amici e partner,

as varied and unique as we all are.

diversi e unici come tutti noi.

At this point, AIs will convincingly imitate humans at most tasks.

A quel punto le IA imiteranno gli umani in modo convincente in molte attività.

And we'll feel this at the most intimate of scales.

Lo sperimenteremo in contesti intimi.

An AI organizing a community get-together for an elderly neighbor.

Un’IA che organizza un’occasione di socialità per un vicino anziano.

A sympathetic expert helping you make sense of a difficult diagnosis.

Un esperto che con empatia vi aiuta ad accettare una diagnosi infausta.

But we'll also feel it at the largest scales.

Ma lo sperimenteremo anche su scale più grandi.

Accelerating scientific discovery,

Scoperte scientifiche più rapide,

autonomous cars on the roads,

auto a guida autonoma,

drones in the skies.

droni nei cieli.

They'll both order the takeout and run the power station.

Ordineranno cibo da asporto e gestiranno una centrale elettrica.

They’ll interact with us and, of course, with each other.

Interagiranno con noi e, ovviamente, tra di loro.

They'll speak every language,

Parleranno tutte le lingue,

take in every pattern of sensor data,

assimileranno i pattern dei dati acquisiti dai sensori.

sights, sounds,

Immagini, suoni,

streams and streams of information,

flussi incessanti di informazioni,

far surpassing what any one of us could consume in a thousand lifetimes.

ben oltre le capacità di assimilazione di chiunque, anche in mille vite.

So what is this?

Quindi di cosa si tratta?

What are these AIs?

Cosa sono queste IA?

If we are to prioritize safety above all else,

Se vogliamo dare priorità assoluta alla sicurezza,

affinché questa nuova ondata ci accresca e sia al servizio dell’umanità,

to ensure that this new wave always serves and amplifies humanity,

then we need to find the right metaphors for what this might become.

allora dobbiamo trovare le metafore adatte a descrivere i suoi possibili esiti.

For years, we in the AI community, and I specifically,

Per anni, noi della comunità dell’IA, ed io in particolare,

have had a tendency to refer to this as just tools.

le abbiamo sempre dipinte come semplici strumenti.

But that doesn't really capture what's actually happening here.

Ma non è un quadro fedele di ciò che sta accadendo.

AIs are clearly more dynamic,

Le IA sono chiaramente più dinamiche,

more ambiguous, more integrated

più interpretabili, più integrate

and more emergent than mere tools,

e più emergenti dei semplici strumenti,

which are entirely subject to human control.

che invece sono sotto il completo controllo umano.

So to contain this wave,

Quindi, per arginare questa ondata,

to put human agency at its center

per mettere al centro l’azione umana

and to mitigate the inevitable unintended consequences

e mitigare le inevitabili conseguenze indesiderate che potrebbero verificarsi,

that are likely to arise,

we should start to think about them as we might a new kind of digital species.

dovremmo iniziare a considerarle un nuovo tipo di specie digitale.

Now it's just an analogy,

È solo un’analogia,

it's not a literal description, and it's not perfect.

non è una descrizione letterale, ed è imperfetta.

Innanzitutto, ovviamente non sono biologiche nel senso tradizionale,

For a start, they clearly aren't biological in any traditional sense,

but just pause for a moment

ma fermiamoci un attimo

and really think about what they already do.

e pensiamo a ciò che sono già in grado di fare.

They communicate in our languages.

Comunicano usando le nostre lingue.

They see what we see.

Vedono ciò che vediamo noi.

They consume unimaginably large amounts of information.

Assimilano enormi quantità di informazioni.

They have memory.

Hanno una memoria.

They have personality.

Hanno una personalità.

They have creativity.

Sono creative.

Hanno una certa capacità di ragionamento e possono formulare piani rudimentali.

They can even reason to some extent and formulate rudimentary plans.

They can act autonomously if we allow them.

Possono agire autonomamente, se glielo consentiamo.

And they do all this at levels of sophistication

E fanno tutto questo con una sofisticatezza

that is far beyond anything that we've ever known from a mere tool.

che va ben oltre qualsiasi strumento mai concepito.

And so saying AI is mainly about the math or the code

Quindi ridurre l’IA alla matematica o al suo codice

is like saying we humans are mainly about carbon and water.

è come dire che noi umani siamo un composto di acqua e carbonio.

It's true, but it completely misses the point.

È vero, ma non è quello il punto.

And yes, I get it, this is a super arresting thought

E capisco che è un concetto decisamente straniante,

but I honestly think this frame helps sharpen our focus on the critical issues.

ma penso che possa aiutare a far emergere le varie criticità.

What are the risks?

Quali sono i rischi?

What are the boundaries that we need to impose?

Quali sono i limiti che dobbiamo imporre?

What kind of AI do we want to build or allow to be built?

Che tipo di intelligenza artificiale vogliamo costruire

o permettere che venga costruita?

This is a story that's still unfolding.

È una storia in pieno svolgimento.

Nothing should be accepted as a given.

Non dovremmo dare niente per scontato.

We all must choose what we create.

Dobbiamo scegliere cosa creare.

What AIs we bring into the world, or not.

Quali IA mettere al mondo, oppure no.

These are the questions for all of us here today,

Sono queste le domande da rivolgere a noi che siamo qui oggi

and all of us alive at this moment.

ed a tutti noi che stiamo vivendo questo momento.

For me, the benefits of this technology are stunningly obvious,

Ritengo che i vantaggi di questa tecnologia siano evidenti,

and they inspire my life's work every single day.

e sono il faro quotidiano della mia carriera.

But quite frankly, they'll speak for themselves.

Ma, francamente, parleranno da sé.

Over the years, I've never shied away from highlighting risks

Negli anni non ho mai avuto paura di evidenziare i rischi

and talking about downsides.

e di parlare degli aspetti negativi.

Thinking in this way helps us focus on the huge challenges

È un approccio che evidenzia le enormi sfide che ci attendono.

that lie ahead for all of us.

But let's be clear.

Ma cerchiamo di essere chiari.

There is no path to progress

La strada verso il progresso passa per forza dalla tecnologia.

where we leave technology behind.

The prize for all of civilization is immense.

La ricompensa per la nostra civiltà è immensa.

Servono soluzioni nella sanità, nell’istruzione e alla crisi climatica.

We need solutions in health care and education, to our climate crisis.

And if AI delivers just a fraction of its potential,

E se l’IA sfruttasse anche solo una frazione del suo potenziale,

the next decade is going to be the most productive in human history.

il prossimo sarà il decennio più produttivo della storia umana.

Here's another way to think about it.

Ecco un’altra prospettiva.

In the past,

In passato,

unlocking economic growth often came with huge downsides.

la crescita economica era spesso accompagnata da enormi risvolti negativi.

The economy expanded as people discovered new continents

L’economia si espandeva grazie alla scoperta di nuovi continenti

and opened up new frontiers.

e all’apertura di nuove frontiere.

But they colonized populations at the same time.

Ma al contempo le popolazioni venivano colonizzate.

We built factories,

Costruivamo fabbriche,

but they were grim and dangerous places to work.

ma erano luoghi di lavoro tetri e pericolosi.

We struck oil,

Trovavamo il petrolio, ma inquinavamo il pianeta.

but we polluted the planet.

Now because we are still designing and building AI,

Dato che stiamo ancora progettando e costruendo l’IA,

we have the potential and opportunity to do it better,

abbiamo la capacità e l’occasione per fare meglio.

radically better.

Decisamente meglio.

And today, we're not discovering a new continent

E non stiamo scoprendo un nuovo continente

and plundering its resources.

saccheggiandone le risorse.

We're building one from scratch.

Ne stiamo costruendo uno da zero.

Sometimes people say that data or chips are the 21st century’s new oil,

A volte si dice che i dati o i chip sono il petrolio del XXI secolo,

but that's totally the wrong image.

ma è un’immagine totalmente sbagliata.

AI is to the mind

L’IA sta alla mente

what nuclear fusion is to energy.

come la fusione nucleare sta all'energia.

Limitless, abundant,

Illimitata, abbondante, in grado di cambiare il mondo.

world-changing.

And AI really is different,

L’IA è davvero diversa,

and that means we have to think about it creatively and honestly.

ed è per questo che dobbiamo agire onestamente e innovativamente.

We have to push our analogies and our metaphors

Dobbiamo spingere al limite analogie e metafore

to the very limits

per poter affrontare ciò che ci aspetta.

to be able to grapple with what's coming.

Because this is not just another invention.

Perché non si tratta di un’invenzione come le altre.

AI is itself an infinite inventor.

L’IA stessa è un’inventrice senza limiti.

And yes, this is exciting and promising and concerning

E sì, è eccitante, promettente e preoccupante

and intriguing all at once.

e intrigante allo stesso tempo.

To be quite honest, it's pretty surreal.

Onestamente, è piuttosto surreale.

But step back,

Ma fate un passo indietro.

see it on the long view of glacial time,

Dalla prospettiva a lungo termine del periodo glaciale,

and these really are the very most appropriate metaphors that we have today.

sono le metafore più appropriate oggi a nostra disposizione.

Since the beginning of life on Earth,

Dalla comparsa della vita sulla Terra,

we've been evolving, changing

ci siamo evoluti, siamo cambiati,

and then creating everything around us in our human world today.

e abbiamo creato tutto ciò che troviamo nel mondo degli umani.

And AI isn't something outside of this story.

E l’IA non è un racconto a parte.

In fact, it's the very opposite.

Anzi, tutto il contrario.

It's the whole of everything that we have created,

È l’insieme di tutto ciò che abbiamo creato,

distilled down into something that we can all interact with

sintetizzato in qualcosa con cui possiamo interagire

and benefit from.

e da cui trarre beneficio.

It's a reflection of humanity across time,

È un riflesso dell’era umana,

and in this sense,

e in tal senso non è affatto una nuova specie.

it isn't a new species at all.

This is where the metaphors end.

È qui che finiscono le metafore.

Here's what I'll tell Caspian next time he asks.

Ecco come risponderò a Caspian la prossima volta.

AI isn't separate.

L’IA non è qualcos’altro.

AI isn't even in some senses, new.

L’IA non è nemmeno nuova, per certi versi.

AI is us.

L'IA siamo noi.

It's all of us.

Tutti noi.

And this is perhaps the most promising and vital thing of all

E forse è questo l’aspetto più promettente ed essenziale

that even a six-year-old can get a sense for.

che persino un bambino di sei anni può comprendere.

As we build out AI,

Sviluppando l’IA,

we can and must reflect all that is good,

possiamo e dobbiamo riflettere su tutto ciò che è buono,

all that we love,

su tutto ciò che amiamo, su tutto ciò che rende speciale l’umanità:

all that is special about humanity:

our empathy, our kindness,

empatia, gentilezza, curiosità e creatività.

our curiosity and our creativity.

This, I would argue, is the greatest challenge of the 21st century,

Direi che si tratta della più grande sfida del XXI secolo,

but also the most wonderful,

ma anche la nostra più meravigliosa, stimolante e incoraggiante occasione.

inspiring and hopeful opportunity for all of us.

Thank you.

Grazie.

(Applause)

(Applausi)

Chris Anderson: Thank you Mustafa.

CHRIS ANDERSON: Grazie, Mustafa.

It's an amazing vision and a super powerful metaphor.

È una visione meravigliosa, una metafora potentissima.

You're in an amazing position right now.

Sei nella posizione ideale.

I mean, you were connected at the hip

Sei strettamente legato all’incredibile lavoro che viene svolto in OpenAI.

to the amazing work happening at OpenAI.

You’re going to have resources made available,

Vi verranno fornite nuove risorse,

there are reports of these giant new data centers,

ci sono report che parlano di nuovi e giganteschi data center,

100 billion dollars invested and so forth.

investimenti da 100 miliardi di dollari e così via.

And a new species can emerge from it.

E da tutto questo può emergere una nuova specie.

I mean, in your book,

Nel tuo libro, oltre a proporre una visione incredibilmente ottimistica,

you did, as well as painting an incredible optimistic vision,

you were super eloquent on the dangers of AI.

sei stato molto eloquente riguardo i pericoli dell’IA.

And I'm just curious, from the view that you have now,

Sono curioso di sapere, basandoci sulla prospettiva attuale,

what is it that most keeps you up at night?

se c’è qualcosa che ti tiene sveglio la notte.

Mustafa Suleyman: I think the great risk is that we get stuck

MS: Penso sia il rischio di rimanere bloccati

in what I call the pessimism aversion trap.

nella trappola del “rifiuto del pessimismo”.

You know, we have to have the courage to confront

Dobbiamo avere il coraggio di confrontarci con i possibili scenari avversi

the potential of dark scenarios

in order to get the most out of all the benefits that we see.

per ottenere il massimo dai potenziali benefici che conosciamo.

So the good news is that if you look at the last two or three years,

La buona notizia è che, ripensando agli ultimi due o tre anni,

there have been very, very few downsides, right?

ci sono stati pochissimi eventi sfavorevoli, giusto?

It’s very hard to say explicitly what harm an LLM has caused.

È difficilissimo nominare dei danni causati dagli LLM

But that doesn’t mean that that’s what the trajectory is going to be

ma non è detto che sarà anche la traiettoria del prossimo decennio.

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

Penso che si debba prestare attenzione ad alcune specifiche capacità,

take for example, autonomy.

ad esempio, l’autonomia.

L’autonomia è chiaramente una soglia

Autonomy is very obviously a threshold

over which we increase risk in our society.

che, se superata, incrementa il rischio per la società,

And it's something that we should step towards very, very closely.

ed è qualcosa che dovremmo approcciare con molta cautela.

The other would be something like recursive self-improvement.

Un altro esempio potrebbe essere l’automiglioramento ricorsivo.

If you allow the model to independently self-improve,

Se si consentisse ad un modello di migliorarsi autonomamente,

update its own code,

aggiornare il proprio codice, esplorare un ambiente senza supervisione

explore an environment without oversight, and, you know,

e senza che ci sia un umano a regolare il suo comportamento,

without a human in control to change how it operates,

that would obviously be more dangerous.

il rischio aumenterebbe.

But I think that we're still some way away from that.

Ma non credo sia una questione imminente.

Penso che dovranno passare altri cinque o dieci anni,

I think it's still a good five to 10 years before we have to really confront that.

But it's time to start talking about it now.

ma dobbiamo iniziare a parlarne.

CA: Una specie digitale, a differenza di quelle biologiche,

CA: A digital species, unlike any biological species,

can replicate not in nine months,

può replicarsi non in nove mesi ma in nove nanosecondi,

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

e produrre una quantità indefinita di copie di sé stessa,

all of which have more power than we have in many ways.

ognuna delle quali ha, per molti aspetti, capacità superiori alle nostre.

I mean, the possibility for unintended consequences seems pretty immense.

L’eventualità di conseguenze non volute mi sembra davvero probabile.

And isn't it true that if a problem happens,

È vero che basterebbe un’ora per far sorgere dei problemi?

it could happen in an hour?

MS: No.

MS: No.

That is really not true.

Non è affatto vero.

I think there's no evidence to suggest that.

Non credo ci siano prove a sostegno.

And I think that, you know,

Spesso viene definita “esplosione di intelligenza”.

that’s often referred to as the “intelligence explosion.”

And I think it is a theoretical, hypothetical maybe

Penso sia un concetto teorico, forse ipotetico,

that we're all kind of curious to explore,

che siamo tutti piuttosto curiosi di esplorare,

but there's no evidence that we're anywhere near anything like that.

ma non c’è motivo di credere che sia dietro l’angolo.

And I think it's very important that we choose our words super carefully.

E penso sia molto importante scegliere con cura le parole.

Hai ragione, è uno dei punti deboli della visione concettuale di “specie”.

Because you're right, that's one of the weaknesses of the species framing,

that we will design the capability for self-replication into it

Incorporeremo la capacità di autoreplicarsi

if people choose to do that.

se qualcuno deciderà di farlo.

And I would actually argue that we should not,

E io non credo che dovremmo,

that would be one of the dangerous capabilities

è una di quelle capacità pericolose che dovremmo evitare.

that we should step back from, right?

Quindi è impossibile che “affiori” fortuitamente.

So there's no chance that this will "emerge" accidentally.

I really think that's a very low probability.

Penso che sia un’eventualità remotissima.

It will happen if engineers deliberately design those capabilities in.

Avverrà se gli ingegneri progetteranno intenzionalmente tali capacità

And if they don't take enough efforts to deliberately design them out.

e se non adotteranno misure sufficienti per sopprimerle.

È questo lo scopo di essere chiari e trasparenti

And so this is the point of being explicit

and transparent about trying to introduce safety by design very early on.

introducendo l’aspetto della sicurezza fin dalle prime fasi di progettazione.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Grazie, la tua visione di un’umanità

che infonde in questa nuova realtà

la parte migliore di noi stessi,

the best parts of ourselves,

avoiding all those weird, biological, freaky,

tralasciando tutte quelle orrende e strambe tendenze biologiche

horrible tendencies that we can have in certain circumstances,

che dimostriamo in certe circostanze…

I mean, that is a very inspiring vision.

È una visione ispiratrice,

And thank you so much for coming here and sharing it at TED.

ti ringrazio per averla condivisa con noi in questo TED.

Thank you, good luck.

Grazie, e buona fortuna.

(Applause)

(Applausi)