How to get empowered, not overpowered, by AI | Max Tegmark

Traduttore: Anna Cristiana Minoli Revisore: Antonio Lambiase

After 13.8 billion years of cosmic history,

Dopo 13,8 miliardi di anni di storia cosmica,

our universe has woken up

il nostro universo si è risvegliato

and become aware of itself.

e ha preso coscienza di se stesso.

From a small blue planet,

Da un piccolo pianeta blu,

tiny, conscious parts of our universe have begun gazing out into the cosmos

minuscole parti coscienti del nostro universo

hanno iniziato a osservare il cosmo

with telescopes,

con telescopi,

discovering something humbling.

scoprendo umiltà.

We've discovered that our universe is vastly grander

Abbiamo scoperto che il nostro universo è molto più grande

than our ancestors imagined

di quanto abbiano immaginato i nostri antenati

and that life seems to be an almost imperceptibly small perturbation

e che la vita sembra essere una perturbazione quasi impercettibile

on an otherwise dead universe.

in un universo altrimenti morto.

But we've also discovered something inspiring,

Ma abbiamo anche scoperto qualcosa di stimolante,

which is that the technology we're developing has the potential

ossia che la tecnologia che stiamo sviluppando

to help life flourish like never before,

può potenzialmente aiutare la vita a fiorire come mai prima d'ora,

not just for centuries but for billions of years,

non solo per secoli, ma per miliardi di anni,

and not just on earth but throughout much of this amazing cosmos.

e non solo sulla terra ma in gran parte dell'universo.

I think of the earliest life as "Life 1.0"

Vedo la vita precedente come una "Vita 1.0"

because it was really dumb,

perché era davvero stupida,

like bacteria, unable to learn anything during its lifetime.

come i batteri, incapaci di imparare alcunché.

I think of us humans as "Life 2.0" because we can learn,

Vedo gli esseri umani come una "Vita 2.0" perché possiamo imparare,

which we in nerdy, geek speak,

che in linguaggio nerd o geek,

might think of as installing new software into our brains,

significa installare nuovi software nel cervello,

like languages and job skills.

come le lingue e le capacità lavorative.

"Life 3.0," which can design not only its software but also its hardware

La "Vita 3.0", che può progettare l'hardware oltre che il software

of course doesn't exist yet.

ovviamente non esiste ancora.

But perhaps our technology has already made us "Life 2.1,"

Ma forse la nostra tecnologia ci ha già resi "Vita 2.1",

with our artificial knees, pacemakers and cochlear implants.

con le ginocchia artificiali, i pacemaker e gli apparecchi acustici.

So let's take a closer look at our relationship with technology, OK?

Diamo uno sguardo più da vicino alla nostra relazione con la tecnologia.

As an example,

Ad esempio,

the Apollo 11 moon mission was both successful and inspiring,

la missione lunare Apollo 11 è riuscita ed è stata stimolante,

showing that when we humans use technology wisely,

mostrando che quando gli esseri umani usano la tecnologia con saggezza,

we can accomplish things that our ancestors could only dream of.

possiamo compiere cose che i nostri antenati si sognavano.

But there's an even more inspiring journey

Ma c'è un percorso ancora più stimolante

propelled by something more powerful than rocket engines,

spinto da qualcosa di ancora più forte dei motori dei razzi,

where the passengers aren't just three astronauts

in cui i passeggeri non sono solo tre astronauti

but all of humanity.

ma tutta l'umanità.

Let's talk about our collective journey into the future

Parliamo del nostro viaggio collettivo nel futuro

with artificial intelligence.

con l'intelligenza artificiale.

My friend Jaan Tallinn likes to point out that just as with rocketry,

Il mio amico Jaan Tallinn ama sottolineare che proprio come i razzi,

it's not enough to make our technology powerful.

non basta rendere potente la tecnologia.

We also have to figure out, if we're going to be really ambitious,

Dobbiamo anche capire se saremo davvero ambiziosi,

how to steer it

dove indirizzarla

and where we want to go with it.

e dove vogliamo andarci.

So let's talk about all three for artificial intelligence:

Parliamo di tutti e tre per l'intelligenza artificiale:

the power, the steering and the destination.

la potenza, la direzione e la destinazione.

Let's start with the power.

Iniziamo con la potenza.

I define intelligence very inclusively --

Definisco l'intelligenza in modo molto inclusivo --

simply as our ability to accomplish complex goals,

semplicemente la nostra capacità di realizzare obiettivi complessi,

because I want to include both biological and artificial intelligence.

perché voglio includere sia l'intelligenza biologica

che quella artificiale.

And I want to avoid the silly carbon-chauvinism idea

E voglio evitare quella stupida idea carbonio-sciovinistica

that you can only be smart if you're made of meat.

che si può essere intelligenti solo se fatti di carne.

It's really amazing how the power of AI has grown recently.

È incredibile quanto sia migliorata l'IA ultimamente.

Just think about it.

Pensateci un po'.

Not long ago, robots couldn't walk.

Non molto tempo fa, i robot non potevano camminare.

Now, they can do backflips.

Ora possono fare capriole.

Not long ago,

Poco tempo fa,

we didn't have self-driving cars.

non avevamo le auto a guida autonoma.

Now, we have self-flying rockets.

Ora abbiamo razzi a volo autonomo.

Not long ago,

Poco tempo fa,

AI couldn't do face recognition.

l'IA non era capace di riconoscimento facciale.

Now, AI can generate fake faces

Ora l'IA può generare falsi visi

and simulate your face saying stuff that you never said.

e similare la vostra faccia che dice cose che non avete mai detto.

Not long ago,

Poco tempo fa,

AI couldn't beat us at the game of Go.

l'IA non poteva batterci a Go.

Then, Google DeepMind's AlphaZero AI took 3,000 years of human Go games

Poi, l'IA AlphaZero di Google DeepMind ha preso 3000 anni di giochi di Go

and Go wisdom,

e saggezza Go,

ignored it all and became the world's best player by just playing against itself.

li ha ignorati tutti ed è diventato il miglior giocatore al mondo

giocando contro se stesso.

And the most impressive feat here wasn't that it crushed human gamers,

E l'aspetto più impressionante non è che ha stracciato gli umani,

but that it crushed human AI researchers

ma che ha stracciato i ricercatori di IA

who had spent decades handcrafting game-playing software.

che avevano passato decenni a creare il software di gioco.

And AlphaZero crushed human AI researchers not just in Go but even at chess,

E AlphaZero ha stracciato i ricercatori di IA non solo a Go, ma anche a scacchi,

which we have been working on since 1950.

su cui lavoriamo dal 1950.

So all this amazing recent progress in AI really begs the question:

Questi straordinari progressi recenti in IA sollevano la questione:

How far will it go?

fin dove ci spingeremo?

I like to think about this question

Mi piace pensare a questa domanda

in terms of this abstract landscape of tasks,

in termini di astratto panorama di compiti

where the elevation represents how hard it is for AI to do each task

in cui l'elevazione rappresenta la difficoltà di ogni compito per l'IA

at human level,

a livello umano,

and the sea level represents what AI can do today.

e il livello del mare rappresenta quello che l'IA può fare oggi.

The sea level is rising as AI improves,

Il livello del mare si innalza quando l'IA migliora,

so there's a kind of global warming going on here in the task landscape.

c'è una specie di riscaldamento globale nel panorama dei compiti.

And the obvious takeaway is to avoid careers at the waterfront --

Il risultato ovvio è evitare carriere lungo la costa --

(Laughter)

(Risate)

which will soon be automated and disrupted.

che saranno presto scombussolate e automatizzate.

But there's a much bigger question as well.

Ma la questione è molto più ampia.

How high will the water end up rising?

Quanto si innalzerà l'acqua?

Will it eventually rise to flood everything,

Si innalzerà per inondare tutto,

matching human intelligence at all tasks.

arriverà a livello di tutti i compiti umani.

This is the definition of artificial general intelligence --

Questa è la definizione di intelligenza artificiale generale --

AGI,

AGI,

which has been the holy grail of AI research since its inception.

che è stato il santo graal dell'IA fin dalla sua nascita.

By this definition, people who say,

Con questa definizione, la gente che dice,

"Ah, there will always be jobs that humans can do better than machines,"

"Ci saranno sempre lavori che gli esseri umani

possono fare meglio delle macchine,

are simply saying that we'll never get AGI.

sta semplicemente dicendo che non arriveremo mai all'AGI.

Sure, we might still choose to have some human jobs

Certo, potremo anche scegliere di avere lavori umani

or to give humans income and purpose with our jobs,

o di dare agli esseri umani reddito e scopo con i nostri lavori,

but AGI will in any case transform life as we know it

ma l'AGI trasformerà comunque la vita come la conosciamo

with humans no longer being the most intelligent.

e gli esseri umani non saranno più i più intelligenti.

Now, if the water level does reach AGI,

Se il livello dell'acqua raggiunge l'AGI,

then further AI progress will be driven mainly not by humans but by AI,

gli ulteriori progressi dell'IA non saranno più guidati

dagli esseri umani, ma dalla IA,

which means that there's a possibility

che significa che c'è la possibilità

that further AI progress could be way faster

che un'ulteriore progresso dell'IA sia ancora più veloce

than the typical human research and development timescale of years,

della tipica scala temporale di ricerca e sviluppo umani di anni,

raising the controversial possibility of an intelligence explosion

sollevando la possibile controversia di un'esplosione di intelligenza

where recursively self-improving AI

in cui una IA che auto-migliora in modo ricorrente

rapidly leaves human intelligence far behind,

lascia rapidamente molto indietro l'intelligenza umana,

creating what's known as superintelligence.

creando quello che chiamiamo una superintelligenza.

Alright, reality check:

Controllo della realtà:

Are we going to get AGI any time soon?

avremo a breve l'AGI?

Some famous AI researchers, like Rodney Brooks,

Alcuni famosi ricercatori di IA, come Rodney Brooks,

think it won't happen for hundreds of years.

pensano che non succederà per centinaia di anni.

But others, like Google DeepMind founder Demis Hassabis,

Ma altri, come il fondatore di Google DeepMind Demis Hassabis,

are more optimistic

sono più ottimisti

and are working to try to make it happen much sooner.

e stanno lavorando per farlo accadere molto prima.

And recent surveys have shown that most AI researchers

Ricerche recenti hanno dimostrato che molti ricercatori di IA

actually share Demis's optimism,

condividono l'ottimismo di Demis,

expecting that we will get AGI within decades,

e si aspettano di vedere l'AGI in qualche decennio,

so within the lifetime of many of us,

quindi durante le vita di molti di noi,

which begs the question -- and then what?

il che solleva la domanda: e poi?

What do we want the role of humans to be

Quale vogliamo che sia il ruolo degli esseri umani

if machines can do everything better and cheaper than us?

se le macchina possono fare tutto meglio e a minor costo?

The way I see it, we face a choice.

La vedo così: abbiamo di fronte una scelta.

One option is to be complacent.

Un'opzione è esserne soddisfatti.

We can say, "Oh, let's just build machines that can do everything we can do

Possiamo dire, "Dai, costruiamo macchine

che possano fare tutto quel che facciamo noi

and not worry about the consequences.

e non ci preoccupiamo delle conseguenze.

Come on, if we build technology that makes all humans obsolete,

Dai, se costruiamo tecnologie che rendono gli umani obsoleti,

what could possibly go wrong?"

cosa potrebbe andare storto?"

(Laughter)

(Risate)

But I think that would be embarrassingly lame.

Ma credo che sarebbe davvero poco convincente.

I think we should be more ambitious -- in the spirit of TED.

Credo che dovremmo essere più ambiziosi, nello spirito di TED.

Let's envision a truly inspiring high-tech future

Immaginiamo un futuro high-tech davvero stimolante

and try to steer towards it.

e cerchiamo di andare in quella direzione.

This brings us to the second part of our rocket metaphor: the steering.

Questo ci porta alla seconda parte della metafora del razzo: la direzione.

We're making AI more powerful,

Facciamo l'IA più potente,

but how can we steer towards a future

ma come possiamo indirizzarci verso un futuro

where AI helps humanity flourish rather than flounder?

in cui l'IA aiuti l'umanità a progredire invece di annaspare?

To help with this,

Per aiutare,

I cofounded the Future of Life Institute.

ho cofondato il Future of Life Institute.

It's a small nonprofit promoting beneficial technology use,

È una piccola no profit che promuove l'uso benefico della tecnologia,

and our goal is simply for the future of life to exist

e il nostro obiettivo è il futuro della vita

and to be as inspiring as possible.

e essere più stimolanti possibile.

You know, I love technology.

Sapete che adoro la tecnologia.

Technology is why today is better than the Stone Age.

La tecnologia è il motivo per cui oggi stiamo meglio che nell'età della pietra.

And I'm optimistic that we can create a really inspiring high-tech future ...

E sono ottimista, possiamo creare un futuro high-tech davvero stimolante...

if -- and this is a big if --

se, ed è un grande se,

if we win the wisdom race --

se vinciamo la gara della saggezza,

the race between the growing power of our technology

la gara tra il potere crescente della tecnologia

and the growing wisdom with which we manage it.

e la saggezza crescente con cui la gestiamo.

But this is going to require a change of strategy

Ma sarà necessario un cambio di strategia

because our old strategy has been learning from mistakes.

perché la nostra vecchia strategia prevedeva di imparare dagli errori.

We invented fire,

Abbiamo inventato il fuoco,

screwed up a bunch of times --

abbiamo fatto qualche casino --

invented the fire extinguisher.

abbiamo inventato l'estintore.

(Laughter)

(Risate)

We invented the car, screwed up a bunch of times --

Abbiamo inventato la macchina, fatto qualche casino --

invented the traffic light, the seat belt and the airbag,

abbiamo inventato i semafori, le cinture e gli airbag,

but with more powerful technology like nuclear weapons and AGI,

ma con una tecnologia più potente come le armi nucleari e l'AGI,

learning from mistakes is a lousy strategy,

imparare dagli errori è una strategia che fa schifo,

don't you think?

siete d'accordo?

(Laughter)

(Risate)

It's much better to be proactive rather than reactive;

È molto meglio essere proattivi invece che reattivi;

plan ahead and get things right the first time

pianificare in anticipo e fare le cose bene la prima volta

because that might be the only time we'll get.

perché potrebbe essere la nostra unica occasione.

But it is funny because sometimes people tell me,

Ma è divertente perché talvolta la gente mi dice,

"Max, shhh, don't talk like that.

"Max, shhh, non dire così.

That's Luddite scaremongering."

È allarmismo luddista."

But it's not scaremongering.

Ma non è allarmismo.

It's what we at MIT call safety engineering.

È quello che noi all'MIT chiamiamo ingegneria di sicurezza.

Think about it:

Pensateci:

before NASA launched the Apollo 11 mission,

prima del lancio della missione Apollo 11,

they systematically thought through everything that could go wrong

la NASA ha pensato sistematicamente a tutto quello che poteva andare storto

when you put people on top of explosive fuel tanks

a mettere persone su serbatoi carburante esplosivi

and launch them somewhere where no one could help them.

e lanciarle dove nessuno avrebbe potuto aiutarle.

And there was a lot that could go wrong.

E molte cose potevano andare storte.

Was that scaremongering?

Era allarmismo?

No.

No.

That's was precisely the safety engineering

Era esattamente l'ingegneria di sicurezza

that ensured the success of the mission,

che assicurava il successo della missione,

and that is precisely the strategy I think we should take with AGI.

ed è esattamente la strategia che credo dovremmo adottare per l'AGI.

Think through what can go wrong to make sure it goes right.

Pensare a quello che potrebbe andare storto per fare le cose giuste.

So in this spirit, we've organized conferences,

Con questo spirito, abbiamo organizzato conferenze,

bringing together leading AI researchers and other thinkers

riunito grandi ricercatori di IA e altri esperti

to discuss how to grow this wisdom we need to keep AI beneficial.

per discutere di come coltivare la saggezza utile

perché l'IA sia vantaggiosa.

Our last conference was in Asilomar, California last year

La nostra ultima conferenza è stata a Asilomar, California, l'anno scorso

and produced this list of 23 principles

e ha prodotto una lista di 23 principi

which have since been signed by over 1,000 AI researchers

che da allora sono stati sottoscritti da più di 1000 ricercatori di IA

and key industry leaders,

e importanti leader industriali.

and I want to tell you about three of these principles.

Voglio raccontarvi tre di questi principi.

One is that we should avoid an arms race and lethal autonomous weapons.

Uno è che dovremmo evitare

una corsa agli armamenti e armi autonome letali.

The idea here is that any science can be used for new ways of helping people

L'idea è che qualunque scienza può essere usata per aiutare la gente

or new ways of harming people.

o per armare la gente.

For example, biology and chemistry are much more likely to be used

Per esempio, è più probabile che la biologia e la chimica vengano usate

for new medicines or new cures than for new ways of killing people,

per nuovi medicinali o nuove cure che per uccidere le persone,

because biologists and chemists pushed hard --

perché biologi e chimici fanno pressione,

and successfully --

in modo efficace,

for bans on biological and chemical weapons.

per proibire armi chimiche e biologiche.

And in the same spirit,

Con lo stesso spirito,

most AI researchers want to stigmatize and ban lethal autonomous weapons.

molti ricercatori vogliono stigmatizzare e proibire le armi letali autonome.

Another Asilomar AI principle

Un altro principio Asilomar dell'IA

is that we should mitigate AI-fueled income inequality.

è che dovremmo mitigare

le disparità di reddito alimentate dall'IA.

I think that if we can grow the economic pie dramatically with AI

Credo che se possiamo far crescere significativamente l'economia con l'IA

and we still can't figure out how to divide this pie

senza capire come dividerci questa torta

so that everyone is better off,

in modo che tutti stiano meglio,

then shame on us.

è una vergogna.

(Applause)

(Applausi)

Alright, now raise your hand if your computer has ever crashed.

Bene, ora alzate la mano se vi si è mai impallato il computer.

(Laughter)

(Risate)

Wow, that's a lot of hands.

Wow, sono tante mani.

Well, then you'll appreciate this principle

Allora vi piacerà questo principio

that we should invest much more in AI safety research,

per cui dovremmo investire molto di più nella sicurezza dell'IA,

because as we put AI in charge of even more decisions and infrastructure,

perché se cediamo il controllo all'IA in sempre più decisioni e infrastrutture,

we need to figure out how to transform today's buggy and hackable computers

dobbiamo capire come trasformare i bug e i computer attaccabili di oggi

into robust AI systems that we can really trust,

in sistemi di IA solidi in cui avere fiducia,

because otherwise,

perché altrimenti,

all this awesome new technology can malfunction and harm us,

questa meravigliosa nuova tecnologia, può funzionare male e danneggiarci,

or get hacked and be turned against us.

o essere attaccata e rivoltarsi contro di noi.

And this AI safety work has to include work on AI value alignment,

Questo lavoro di sicurezza sull'IA

deve includere un allineamento dei valori,

because the real threat from AGI isn't malice,

perché la vera minaccia dell'AGI non è la malizia,

like in silly Hollywood movies,

come negli stupidi film hollywoodiani,

but competence --

ma la competenza --

AGI accomplishing goals that just aren't aligned with ours.

l'AGI realizza obiettivi che non sono allineati ai nostri.

For example, when we humans drove the West African black rhino extinct,

Per esempio, quando noi umani

abbiamo portato il rinoceronte all'estinzione,

we didn't do it because we were a bunch of evil rhinoceros haters, did we?

non l'abbiamo fatto perché eravamo nemici dei rinoceronti, no?

We did it because we were smarter than them

L'abbiamo fatto perché eravamo più intelligenti di loro

and our goals weren't aligned with theirs.

e i nostri obiettivi non erano allineati con i loro.

But AGI is by definition smarter than us,

Ma l'AGI per definizione è più intelligente di noi,

so to make sure that we don't put ourselves in the position of those rhinos

quindi per essere sicuri di non metterci nella posizione di quei rinoceronti

if we create AGI,

se creiamo l'AGI,

we need to figure out how to make machines understand our goals,

dobbiamo capire come fare macchine che capiscano i nostri obiettivi,

adopt our goals and retain our goals.

li adottino e li memorizzino.

And whose goals should these be, anyway?

E comunque di chi dovrebbero essere questi obiettivi?

Which goals should they be?

Quali obiettivi dovrebbero essere?

This brings us to the third part of our rocket metaphor: the destination.

Questo ci porta

alla terza parte della nostra metafora del razzo: la destinazione.

We're making AI more powerful,

Facciamo IA più potente,

trying to figure out how to steer it,

per capire come indirizzarla,

but where do we want to go with it?

ma dove vogliamo andarci?

This is the elephant in the room that almost nobody talks about --

È l'elefante nella stanza di cui quasi nessuno parla,

not even here at TED --

nemmeno qui a TED,

because we're so fixated on short-term AI challenges.

perché siamo così fissati sulle sfide a breve termine dell'IA.

Look, our species is trying to build AGI,

La nostra specie sta cercando di costruire l'AGI,

motivated by curiosity and economics,

motivata da curiosità e interessi economici,

but what sort of future society are we hoping for if we succeed?

ma in che tipo di società futura speriamo se abbiamo successo?

We did an opinion poll on this recently,

Di recente, abbiamo fatto un sondaggio,

and I was struck to see

sono stato colpito del fatto

that most people actually want us to build superintelligence:

che in realtà molti vogliono che si costruisca una superintelligenza:

AI that's vastly smarter than us in all ways.

IA che sia molto più intelligente di noi in tutti i sensi.

What there was the greatest agreement on was that we should be ambitious

Il più grande accordo è stato sull'ambizione

and help life spread into the cosmos,

e sull'aiutare la vita a diffondersi nel cosmo,

but there was much less agreement about who or what should be in charge.

ma c'è stato molto meno accordo su chi o cosa fosse responsabile.

And I was actually quite amused

E mi sono quasi divertito

to see that there's some some people who want it to be just machines.

a vedere che qualcuno vorrebbe solo le macchine.

(Laughter)

(Risate)

And there was total disagreement about what the role of humans should be,

C'era totale disaccordo su quale debba essere il ruolo degli esseri umani,

even at the most basic level,

anche a livello più basilare,

so let's take a closer look at possible futures

allora guardiamo più da vicino i futuri possibili

that we might choose to steer toward, alright?

verso i quali potremmo andare.

So don't get me wrong here.

Non fraintendetemi.

I'm not talking about space travel,

Non sto parlando di viaggio nello spazio,

merely about humanity's metaphorical journey into the future.

semplicemente di un metaforico viaggio dell'umanità nel futuro.

So one option that some of my AI colleagues like

Un'opzione che piace ai miei colleghi IA

is to build superintelligence and keep it under human control,

è costruire una superintelligenza e tenerla sotto controllo umano,

like an enslaved god,

come un Dio schiavizzato,

disconnected from the internet

sconnesso da Internet

and used to create unimaginable technology and wealth

e usato per creare tecnologia e ricchezza inimmaginabili

for whoever controls it.

per chiunque la controlli.

But Lord Acton warned us

Ma Lord Acton ci ha avvisati

that power corrupts, and absolute power corrupts absolutely,

che il potere corrompe,

e il potere assoluto corrompe assolutamente,

so you might worry that maybe we humans just aren't smart enough,

penserete che forse gli esseri umani non sono abbastanza intelligenti,

or wise enough rather,

o piuttosto abbastanza saggi,

to handle this much power.

per gestire un tale potere.

Also, aside from any moral qualms you might have

Inoltre, fatta eccezione per gli scrupoli morali che potreste avere

about enslaving superior minds,

sulla sottomissione di menti superiori,

you might worry that maybe the superintelligence could outsmart us,

potreste preoccuparvi di un'intelligenza più furba di noi,

break out and take over.

che scappa e prende il controllo.

But I also have colleagues who are fine with AI taking over

Ma ho anche colleghi a cui sta bene una IA che prende il controllo

and even causing human extinction,

che causa addirittura l'estinzione dell'uomo,

as long as we feel the the AIs are our worthy descendants,

purché sentiamo che l'IA è un nostro degno discendente,

like our children.

come i nostri figli.

But how would we know that the AIs have adopted our best values

Ma come sapremo che l'IA ha adottato i nostri migliori valori

and aren't just unconscious zombies tricking us into anthropomorphizing them?

e non è solo fatta di zombie inconsapevoli che ci ingannano a antropomorfizzarli?

Also, shouldn't those people who don't want human extinction

E quelli che non vogliono l'estinzione della razza umana

have a say in the matter, too?

non dovrebbero dire qualcosa anche loro?

Now, if you didn't like either of those two high-tech options,

Se non vi piace nessuna di queste opzioni high-tech,

it's important to remember that low-tech is suicide

è importante ricordare che low-tech equivale a suicidio

from a cosmic perspective,

da un punto di vista cosmico,

because if we don't go far beyond today's technology,

perché se non andiamo molto oltre la tecnologia di oggi,

the question isn't whether humanity is going to go extinct,

la questione non è se l'umanità si estinguerà,

merely whether we're going to get taken out

ma se verremo spazzati via

by the next killer asteroid, supervolcano

dal prossimo asteroide killer, supervulcano

or some other problem that better technology could have solved.

o qualche altro problema

che una migliore tecnologia avrebbe potuto risolvere.

So, how about having our cake and eating it ...

Allora perché non mangiarci la nostra torta...

with AGI that's not enslaved

con AGI non sottomessa

but treats us well because its values are aligned with ours?

ma ci tratta bene perché i suoi valori sono allineati ai nostri?

This is the gist of what Eliezer Yudkowsky has called "friendly AI,"

Questo è il concetto di quello che Eliezer Yudowsky chiama "IA amica,"

and if we can do this, it could be awesome.

e se potessimo farlo, sarebbe meraviglioso.

It could not only eliminate negative experiences like disease, poverty,

Potrebbe non solo eliminare

le esperienze negative come malattie, povertà,

crime and other suffering,

crimini e altre sofferenze,

but it could also give us the freedom to choose

ma potrebbe darci anche la libertà di scelta

from a fantastic new diversity of positive experiences --

tra un fantastica nuova varietà di esperienze positive --

basically making us the masters of our own destiny.

in sostanza rendendoci padroni del nostro destino.

So in summary,

Per riassumere,

our situation with technology is complicated,

la nostra situazione con la tecnologia è complicata,

but the big picture is rather simple.

ma il quadro generale è piuttosto semplice.

Most AI researchers expect AGI within decades,

Molti ricercatori di IA si aspettano l'AGI entro qualche decennio,

and if we just bumble into this unprepared,

e se ci arriviamo impreparati,

it will probably be the biggest mistake in human history --

sarà probabilmente il più grande errore della storia --

let's face it.

accettiamolo.

It could enable brutal, global dictatorship

Potrebbe permettere una dittatura globale brutale

with unprecedented inequality, surveillance and suffering,

con ineguaglianze, sorveglianza e sofferenza senza precedenti,

and maybe even human extinction.

e forse addirittura l'estinzione del genere umano.

But if we steer carefully,

Ma se la indirizziamo attentamente,

we could end up in a fantastic future where everybody's better off:

potremmo finire in un futuro fantastico in cui tutti stanno meglio:

the poor are richer, the rich are richer,

i poveri sono più ricchi, i ricchi sono più ricchi,

everybody is healthy and free to live out their dreams.

tutti sono più in salute e liberi di vivere i loro sogni.

Now, hang on.

Ora, tenetevi forte.

Do you folks want the future that's politically right or left?

Volete un futuro politicamente di destra o di sinistra?

Do you want the pious society with strict moral rules,

Volete la devota società con regole morali rigide,

or do you an hedonistic free-for-all,

o ne volete una edonistica gratis per tutti,

more like Burning Man 24/7?

un po' come Burning Man H24?

Do you want beautiful beaches, forests and lakes,

Volete belle spiagge, foreste e laghi,

or would you prefer to rearrange some of those atoms with the computers,

o preferite risistemare un po' di atomi con il computer,

enabling virtual experiences?

che apra a esperienze di realtà virtuale?

With friendly AI, we could simply build all of these societies

Con una IA amichevole, potremmo costruire tutte queste società

and give people the freedom to choose which one they want to live in

e dare alla gente la libertà di scegliere in quale vivere

because we would no longer be limited by our intelligence,

perché non saremmo più limitati dalla nostra intelligenza,

merely by the laws of physics.

solamente dalla leggi della fisica.

So the resources and space for this would be astronomical --

Quindi le risorse e lo spazio diventerebbero astronomiche --

literally.

letteralmente.

So here's our choice.

Ecco la scelta.

We can either be complacent about our future,

Possiamo essere soddisfatti del nostro futuro,

taking as an article of blind faith

prendere come dato con fede cieca

that any new technology is guaranteed to be beneficial,

che qualunque nuova tecnologia è garantita vantaggiosa,

and just repeat that to ourselves as a mantra over and over and over again

e ripetercelo come un mantra in continuazione

as we drift like a rudderless ship towards our own obsolescence.

e andare alla deriva come una nave senza timone verso l'obsolescenza.

Or we can be ambitious --

O possiamo essere ambiziosi --

thinking hard about how to steer our technology

pensare bene a come indirizzare la tecnologia

and where we want to go with it

e dove vogliamo andarci

to create the age of amazement.

per creare l'era della meraviglia.

We're all here to celebrate the age of amazement,

Siamo qui tutti per festeggiare l'era della meraviglia,

and I feel that its essence should lie in becoming not overpowered

e sento che la sua essenza non dovrebbe stare nella sopraffazione

but empowered by our technology.

ma nella responsabilizzazione da parte della nostra tecnologia.

Thank you.

Grazie.

(Applause)

(Applausi)