Don't fear superintelligent AI | Grady Booch

Traduttore: Rosalia Mazza Revisore: Maria Carmina Distratto

When I was a kid, I was the quintessential nerd.

Quando ero piccolo, ero la quintessenza dell'essere nerd.

I think some of you were, too.

Penso che anche alcuni di voi lo fossero.

(Laughter)

(Risate)

And you, sir, who laughed the loudest, you probably still are.

E lei, che ride più forte degli altri, probabilmente lo è ancora.

(Laughter)

(Risate)

I grew up in a small town in the dusty plains of north Texas,

Sono cresciuto in una piccola città nelle piane polverose del nord Texas,

the son of a sheriff who was the son of a pastor.

figlio di uno sceriffo che era figlio di un pastore.

Getting into trouble was not an option.

Mettersi nei guai non era contemplato.

And so I started reading calculus books for fun.

Quindi ho iniziato a leggere libri di calcolo per divertimento.

(Laughter)

(Risate)

You did, too.

Lo avete fatto anche voi.

That led me to building a laser and a computer and model rockets,

Ciò mi ha portato a costruire un laser, un computer e modellini di razzi,

and that led me to making rocket fuel in my bedroom.

e poi a creare del propellente per razzi nella mia stanza.

Now, in scientific terms,

Ora, in termini scientifici,

we call this a very bad idea.

questa si chiama "una pessima idea".

(Laughter)

(Risate)

Around that same time,

All'incirca in quel periodo,

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

"2001: Odissea nello spazio" di Kubrick, usciva nei cinema

and my life was forever changed.

e lì la mia vita cambiò per sempre.

I loved everything about that movie,

Ho amato tutto di quel film,

especially the HAL 9000.

specialmente HAL 9000.

Now, HAL was a sentient computer

HAL era un computer senziente

designed to guide the Discovery spacecraft

progettato per guidare l'astronave Discovery

from the Earth to Jupiter.

dalla Terra a Giove.

HAL was also a flawed character,

HAL era anche un personaggio fallace,

for in the end he chose to value the mission over human life.

perché alla fine preferì la missione alla vita umana.

Now, HAL was a fictional character,

HAL era un personaggio fittizio

but nonetheless he speaks to our fears,

ma nonostante ciò riusciva a parlare alle nostre paure,

our fears of being subjugated

quelle di essere soggiogati

by some unfeeling, artificial intelligence

da qualche intelligenza artificiale, priva di sentimenti

who is indifferent to our humanity.

che è indifferente alla nostra umanità.

I believe that such fears are unfounded.

Credo che tali paure siano infondate.

Indeed, we stand at a remarkable time

Infatti, viviamo in un'epoca significativa

in human history,

della storia dell'umanità,

where, driven by refusal to accept the limits of our bodies and our minds,

in cui, guidati dal rifiuto di accettare i limiti del corpo e della mente

we are building machines

costruiamo macchine

of exquisite, beautiful complexity and grace

di ricercata, bellissima complessità e grazia

that will extend the human experience

che espanderà l'esperienza umana

in ways beyond our imagining.

in modi che non possiamo immaginare.

After a career that led me from the Air Force Academy

Dopo una carriera che va dall'Air Force Academy

to Space Command to now,

allo Space Command a oggi,

I became a systems engineer,

sono un ingegnere sistemista,

and recently I was drawn into an engineering problem

e da poco sono stato coinvolto in un problema d'ingegneria

associated with NASA's mission to Mars.

associato alla spedizione NASA su Marte.

Now, in space flights to the Moon,

Nelle spedizioni verso la Luna,

we can rely upon mission control in Houston

possiamo affidarci al centro di controllo di Houston

to watch over all aspects of a flight.

perché sorvegli la spedizione.

However, Mars is 200 times further away,

In ogni caso, Marte è 200 volte più lontano,

and as a result it takes on average 13 minutes

e perciò ci vogliono in media 13 minuti

for a signal to travel from the Earth to Mars.

perché un segnale arrivi dalla Terra a Marte.

If there's trouble, there's not enough time.

Se si verifica un problema, non c'è abbastanza tempo.

And so a reasonable engineering solution

E quindi una soluzione ingegneristica ragionevole

calls for us to put mission control

ci chiama a mettere dispositivi di controllo

inside the walls of the Orion spacecraft.

dentro la navicella Orion.

Another fascinating idea in the mission profile

Un'altra affascinante idea per le missioni

places humanoid robots on the surface of Mars

è piazzare robot umanoidi sulla superficie di Marte

before the humans themselves arrive,

prima che vi arrivino gli esseri umani,

first to build facilities

affinché facilitino il lavoro

and later to serve as collaborative members of the science team.

e collaborino con la squadra scientifica.

Now, as I looked at this from an engineering perspective,

Ora, lavorando da una prospettiva ingegneristica,

it became very clear to me that what I needed to architect

fu molto chiaro per me che ciò che dovevo architettare

was a smart, collaborative,

era un'intelligenza artificiale

socially intelligent artificial intelligence.

brillante, collaborativa, socialmente ragionevole.

In other words, I needed to build something very much like a HAL

In altre parole, dovevo creare qualcosa molto simile ad HAL

but without the homicidal tendencies.

ma senza le sue tendenze omicide.

(Laughter)

(Risate)

Let's pause for a moment.

Fermiamoci per un momento.

Is it really possible to build an artificial intelligence like that?

È davvero possibile costruire un'intelligenza artificiale come quella?

Actually, it is.

In effetti sì.

In many ways,

Sotto molti aspetti,

this is a hard engineering problem

è un complesso problema ingegneristico

with elements of AI,

con elementi di IA,

not some wet hair ball of an AI problem that needs to be engineered.

non un inestricabile problema di IA che ha bisogno dell'ingegneria.

To paraphrase Alan Turing,

Parafrasando Alan Turing,

I'm not interested in building a sentient machine.

non voglio costruire una macchina senziente.

I'm not building a HAL.

Non sto costruendo un HAL.

All I'm after is a simple brain,

Ciò che cerco è un semplice cervello,

something that offers the illusion of intelligence.

qualcosa che offra l'illusione dell'intelligenza.

The art and the science of computing have come a long way

L'arte e la scienza dell'elaborazione dati ha fatto molta strada

since HAL was onscreen,

da quando è apparso HAL,

and I'd imagine if his inventor Dr. Chandra were here today,

e immagino che se il suo inventore, il Dott. Chandra, fosse qui oggi

he'd have a whole lot of questions for us.

avrebbe un sacco di domande per noi.

Is it really possible for us

È davvero possibile per noi

to take a system of millions upon millions of devices,

prendere un sistema di milioni e milioni di dispositivi,

to read in their data streams,

leggere le loro sequenze dati,

to predict their failures and act in advance?

prevedere i loro fallimenti e azioni in anticipo?

Yes.

Sì.

Can we build systems that converse with humans in natural language?

Possiamo costruire sistemi che conversino con noi in linguaggio naturale?

Yes.

Sì.

Can we build systems that recognize objects, identify emotions,

Sistemi che riconoscano oggetti, identifichino emozioni,

emote themselves, play games and even read lips?

si emozionino a loro volta, giochino e leggano persino il labiale?

Yes.

Sì.

Can we build a system that sets goals,

Un sistema che ponga degli obiettivi,

that carries out plans against those goals and learns along the way?

che pianifichi in base ad essi e che impari strada facendo?

Yes.

Sì.

Can we build systems that have a theory of mind?

Costruire sistemi che abbiano una teoria della mente?

This we are learning to do.

Stiamo imparando a farlo.

Can we build systems that have an ethical and moral foundation?

Possiamo costruire sistemi che abbiano un'etica e una morale?

This we must learn how to do.

Dobbiamo imparare a farlo.

So let's accept for a moment

Accettiamo per un momento

that it's possible to build such an artificial intelligence

che si possa costruire una simile intelligenza artificiale

for this kind of mission and others.

per questo tipo di missioni o per altre.

The next question you must ask yourself is,

La domanda successiva che dovete porvi è:

should we fear it?

dovremmo averne paura?

Now, every new technology

Qualsiasi nuova tecnologia

brings with it some measure of trepidation.

porta con sé un po' di apprensione.

When we first saw cars,

Quando arrivarono le prime auto,

people lamented that we would see the destruction of the family.

la gente temeva di assistere alla distruzione della famiglia.

When we first saw telephones come in,

Quando arrivarono i telefoni,

people were worried it would destroy all civil conversation.

si preoccupò per la fine della conversazione civile.

At a point in time we saw the written word become pervasive,

E, quando assistette alla diffusione della scrittura,

people thought we would lose our ability to memorize.

la gente pensò di perdere la capacità di memorizzare.

These things are all true to a degree,

Tutto questo è vero fino a un certo punto,

but it's also the case that these technologies

ma si dà anche il caso che queste tecnologie

brought to us things that extended the human experience

ci abbiano portato cose che hanno allargato l'esperienza umana

in some profound ways.

profondamente.

So let's take this a little further.

Approfondiamo la questione.

I do not fear the creation of an AI like this,

Non ho paura della creazione di un'IA come questa,

because it will eventually embody some of our values.

perché alla fine incarnerà alcuni dei nostri valori.

Consider this: building a cognitive system is fundamentally different

Considerate questo: costruire un sistema cognitivo è molto diverso

than building a traditional software-intensive system of the past.

dal costruire un sistema software intensivo tradizionale del passato.

We don't program them. We teach them.

Non li programmiamo ma insegniamo loro.

In order to teach a system how to recognize flowers,

Per insegnare a un sistema a riconoscere i fiori,

I show it thousands of flowers of the kinds I like.

gli mostro migliaia di fiori, dei tipi che piacciono a me.

In order to teach a system how to play a game --

Per insegnare a un sistema a giocare a un gioco --

Well, I would. You would, too.

beh lo farei, farei anche questo.

I like flowers. Come on.

Mi piacciono i fiori. Andiamo.

To teach a system how to play a game like Go,

Per insegnare a un sistema a giocare a un gioco come Go,

I'd have it play thousands of games of Go,

devo fargli fare migliaia di partite a Go,

but in the process I also teach it

e nel frattempo gli insegno anche

how to discern a good game from a bad game.

a distinguere un buon gioco da un gioco cattivo.

If I want to create an artificially intelligent legal assistant,

Se voglio creare un assistente legale artificialmente intelligente,

I will teach it some corpus of law

gli insegnerò il corpus legislativo

but at the same time I am fusing with it

ma allo stesso tempo gli infonderò

the sense of mercy and justice that is part of that law.

il senso di pietà e giustizia che è parte di quella legge.

In scientific terms, this is what we call ground truth,

In termini scientifici definiamo tutto questo "ground truth",

and here's the important point:

e questo è il punto fondamentale:

in producing these machines,

nel produrre queste macchine,

we are therefore teaching them a sense of our values.

insegniamo anche loro il senso dei nostri valori.

To that end, I trust an artificial intelligence

Con questo fine, mi fido di un'intelligenza artificiale

the same, if not more, as a human who is well-trained.

come, se non di più, mi fido di un essere umano ben istruito.

But, you may ask,

Ma, potreste chiedere,

what about rogue agents,

che ne è degli agenti corrotti,

some well-funded nongovernment organization?

di qualche organizzazione non governativa ben finanziata?

I do not fear an artificial intelligence in the hand of a lone wolf.

Non ho paura di un'intelligenza artificiale in mano a un lupo solitario.

Clearly, we cannot protect ourselves against all random acts of violence,

È ovvio, non possiamo proteggerci da tutti gli arbitrari atti di violenza,

but the reality is such a system

ma la realtà è che un simile sistema

requires substantial training and subtle training

richiede un allenamento tanto acuto

far beyond the resources of an individual.

da andare ben oltre le risorse di un individuo.

And furthermore,

E inoltre,

it's far more than just injecting an internet virus to the world,

è molto più che iniettare un virus via internet al mondo,

where you push a button, all of a sudden it's in a million places

dove premi un bottone e subito lo ritrovi in milioni di posti

and laptops start blowing up all over the place.

e i computer iniziano ovunque ad andare in tilt.

Now, these kinds of substances are much larger,

Questo tipo di elementi è molto più complesso

and we'll certainly see them coming.

e certamente lo sperimenteremo.

Do I fear that such an artificial intelligence

Ho paura che una simile intelligenza artificiale

might threaten all of humanity?

possa minacciare tutta l'umanità?

If you look at movies such as "The Matrix," "Metropolis,"

Se guardate film come "Matrix", "Metropolis",

"The Terminator," shows such as "Westworld,"

"Terminator", show come "Westworld",

they all speak of this kind of fear.

tutti parlano di questo tipo di paura.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

Infatti, nel libro "Superintelligence" del filosofo Nick Bostrom,

he picks up on this theme

l'autore considera questo tema

and observes that a superintelligence might not only be dangerous,

e osserva che una super intelligenza potrebbe non solo essere pericolosa,

it could represent an existential threat to all of humanity.

ma rappresentare anche una minaccia esistenziale per tutta l'umanità.

Dr. Bostrom's basic argument

La principale argomentazione del Dott. Bostrom

is that such systems will eventually

è che tali sistemi potrebbero prima o poi

have such an insatiable thirst for information

avere una sete tale di informazioni

that they will perhaps learn how to learn

che potrebbero forse imparare come si impara

and eventually discover that they may have goals

e anche scoprire che potrebbero avere obiettivi

that are contrary to human needs.

contrari ai bisogni umani.

Dr. Bostrom has a number of followers.

Bostrom ha un gran numero di seguaci.

He is supported by people such as Elon Musk and Stephen Hawking.

È supportato da persone come Elon Musk e Stephen Hawking.

With all due respect

Con tutto il rispetto dovuto

to these brilliant minds,

a queste menti brillanti,

I believe that they are fundamentally wrong.

credo che siano gravemente in errore.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Ci sarebbero molte parti della teoria di Bostrom da analizzare,

and I don't have time to unpack them all,

e non ho il tempo di analizzarle tutte,

but very briefly, consider this:

ma molto brevemente, considerate questo:

super knowing is very different than super doing.

una grande conoscenza è diversa da una grande capacità di azione.

HAL was a threat to the Discovery crew

HAL era una minaccia per l'equipaggio

only insofar as HAL commanded all aspects of the Discovery.

solo finché controllava tutti gli aspetti del Discovery.

So it would have to be with a superintelligence.

Quindi avrebbe dovuto avere una super intelligenza.

It would have to have dominion over all of our world.

Avrebbe dovuto dominare tutto il mondo.

This is the stuff of Skynet from the movie "The Terminator"

Questa è la squadra Skynet dal film "Terminator"

in which we had a superintelligence

in cui abbiamo una super intelligenza

that commanded human will,

che domina la volontà umana

that directed every device that was in every corner of the world.

e ogni congegno in ogni parte del mondo.

Practically speaking,

In pratica,

it ain't gonna happen.

questo non succederà.

We are not building AIs that control the weather,

Non stiamo costruendo IA che controllino il meteo,

that direct the tides,

le maree,

that command us capricious, chaotic humans.

che comandino su noi capricciosi e caotici umani.

And furthermore, if such an artificial intelligence existed,

Inoltre, se una simile intelligenza artificiale esistesse,

it would have to compete with human economies,

dovrebbe competere con le economie degli esseri umani,

and thereby compete for resources with us.

e quindi competere con noi per le risorse disponibili.

And in the end --

E infine --

don't tell Siri this --

non ditelo a Siri --

we can always unplug them.

possiamo sempre disattivarli.

(Laughter)

(Risate)

We are on an incredible journey

Siamo parte di un incredibile viaggio

of coevolution with our machines.

di co-evoluzione con altre macchine.

The humans we are today

Gli esseri umani che siamo oggi

are not the humans we will be then.

non sono quelli che saremo in futuro.

To worry now about the rise of a superintelligence

Preoccuparsi ora della minaccia di una super-intelligenza

is in many ways a dangerous distraction

è per molti aspetti una distrazione pericolosa

because the rise of computing itself

perché l'incremento della computerizzazione

brings to us a number of human and societal issues

ci presenta una quantità di questioni umane e sociali

to which we must now attend.

di cui adesso dobbiamo occuparci.

How shall I best organize society

Come posso organizzare al meglio la società

when the need for human labor diminishes?

quando diminuirà la necessità del lavoro umano?

How can I bring understanding and education throughout the globe

Come posso fornire al mondo conoscenza ed educazione

and still respect our differences?

rispettando le nostre differenze?

How might I extend and enhance human life through cognitive healthcare?

Come posso estendere e migliorare la vita umana attraverso la salute cognitiva?

How might I use computing

Come posso usare la computerizzazione

to help take us to the stars?

per raggiungere le stelle?

And that's the exciting thing.

Ed è questa la cosa eccitante.

The opportunities to use computing

Le opportunità di elaborare dati

to advance the human experience

per affinare l'esperienza umana

are within our reach,

sono alla nostra portata,

here and now,

qui e adesso,

and we are just beginning.

e siamo solo all'inizio.

Thank you very much.

Grazie mille.

(Applause)

(Applausi)