Don't fear superintelligent AI | Grady Booch

Traductor: Claudia Viveros Revisor: Frank Zegarra

Cuando era niño, era un nerd por excelencia.

When I was a kid, I was the quintessential nerd.

I think some of you were, too.

Creo que algunos de Uds. también.

(Laughter)

(Risas)

And you, sir, who laughed the loudest, you probably still are.

Y Ud. señor, el que se rio más fuerte, probablemente aún lo sea.

(Laughter)

(Risas)

I grew up in a small town in the dusty plains of north Texas,

Crecí en un pueblo pequeño en los llanos del norte de Tejas,

the son of a sheriff who was the son of a pastor.

hijo de un comisario, que fue hijo de un pastor.

Getting into trouble was not an option.

Meterse en problemas no era una opción.

And so I started reading calculus books for fun.

Así es que comencé a leer libros de cálculo por diversión.

(Laughter)

(Risas)

You did, too.

Uds. también lo hicieron.

That led me to building a laser and a computer and model rockets,

Eso me llevó a crear un láser, una computadora y modelos de cohetes,

and that led me to making rocket fuel in my bedroom.

y eso me llevó a hacer combustible para cohetes en mi habitación.

Now, in scientific terms,

En términos científicos,

we call this a very bad idea.

esta es una muy mala idea.

(Laughter)

(Risas)

Around that same time,

Por esos días

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

se estrenó "2001: Una Odisea en el Espacio" de Stanley Kubrick,

and my life was forever changed.

y mi vida cambió para siempre.

I loved everything about that movie,

Me encantó todo de esa película,

especially the HAL 9000.

especialmente el HAL 9000.

Now, HAL was a sentient computer

HAL era un computador sensible

designed to guide the Discovery spacecraft

diseñado para guiar la aeronave Discovery

from the Earth to Jupiter.

de la Tierra a Júpiter.

HAL was also a flawed character,

HAL además era imperfecto,

for in the end he chose to value the mission over human life.

porque eligió el valor de la misión sobre la vida humana.

Now, HAL was a fictional character,

HAL era un personaje ficticio,

but nonetheless he speaks to our fears,

y sin embargo habla sobre nuestros temores,

our fears of being subjugated

nuestros temores a ser subyugados

by some unfeeling, artificial intelligence

por alguna insensible inteligencia artificial

who is indifferent to our humanity.

indiferente a nuestra humanidad.

I believe that such fears are unfounded.

Creo que esos temores son infundados.

Indeed, we stand at a remarkable time

De hecho, estamos en un tiempo notable

in human history,

en la historia de la humanidad,

where, driven by refusal to accept the limits of our bodies and our minds,

donde, motivados por la negación a aceptar los límites del cuerpo y mente,

we are building machines

construimos máquinas

of exquisite, beautiful complexity and grace

de complejidad y gracia exquisita y hermosa

that will extend the human experience

que expanden la experiencia humana

in ways beyond our imagining.

más allá de nuestra imaginación.

After a career that led me from the Air Force Academy

Tras una carrera que me llevó de la Academia de la Fuerza Aérea

to Space Command to now,

a comandante de estación espacial,

I became a systems engineer,

me volví ingeniero de sistemas,

and recently I was drawn into an engineering problem

y recientemente me encontré con un problema de ingeniería

associated with NASA's mission to Mars.

relacionado con la misión de la NASA a Marte.

Now, in space flights to the Moon,

En vuelos espaciales a la Luna,

we can rely upon mission control in Houston

dependemos del control de la misión en Houston

to watch over all aspects of a flight.

para vigilar todos los aspectos de un vuelo.

However, Mars is 200 times further away,

Sin embargo, Marte está 200 veces más lejos,

and as a result it takes on average 13 minutes

como resultado toma en promedio 13 minutos

for a signal to travel from the Earth to Mars.

para que una señal viaje de la Tierra a Marte.

If there's trouble, there's not enough time.

Si hay algún percance, no hay suficiente tiempo.

And so a reasonable engineering solution

Una solución razonable de ingeniería

calls for us to put mission control

nos incita a instalar el control de la misión

inside the walls of the Orion spacecraft.

dentro de las paredes de la aeronave Orión.

Another fascinating idea in the mission profile

Otra idea fascinante en el perfil de la misión

places humanoid robots on the surface of Mars

es colocar robots humanoides en la superficie de Marte

before the humans themselves arrive,

antes de que los humanos mismos lleguen,

first to build facilities

primero para construir instalaciones

and later to serve as collaborative members of the science team.

y luego para servir como colaboradores en el equipo científico.

Now, as I looked at this from an engineering perspective,

Al mirar esto desde la ingeniería,

it became very clear to me that what I needed to architect

me quedó claro que lo que necesitaba diseñar

was a smart, collaborative,

era una inteligencia artificial muy lista,

socially intelligent artificial intelligence.

colaborativa y social.

In other words, I needed to build something very much like a HAL

En otras palabras, necesitaba construir algo muy parecido a HAL

but without the homicidal tendencies.

pero sin las tendencias homicidas.

(Laughter)

(Risas)

Let's pause for a moment.

Detengámonos un momento.

Is it really possible to build an artificial intelligence like that?

¿Es realmente posible construir inteligencia artificial así?

Actually, it is.

De hecho, sí lo es.

In many ways,

En muchas maneras,

this is a hard engineering problem

este es un problema difícil de la ingeniería

with elements of AI,

con elementos de IA,

not some wet hair ball of an AI problem that needs to be engineered.

no es un simple problema de IA que necesite diseñarse.

To paraphrase Alan Turing,

Parafraseando a Alan Turing,

I'm not interested in building a sentient machine.

no me interesa construir una máquina sensible.

I'm not building a HAL.

No voy a construir un HAL.

All I'm after is a simple brain,

Todo lo que busco es un cerebro sencillo,

something that offers the illusion of intelligence.

algo que ofrezca una ilusión de inteligencia.

The art and the science of computing have come a long way

El arte y la ciencia de la computación ha pasado por mucho

since HAL was onscreen,

desde la aparición de HAL,

and I'd imagine if his inventor Dr. Chandra were here today,

e imagino que si su inventor Dr. Chandra estuviera aquí hoy,

he'd have a whole lot of questions for us.

tendría mucho que preguntarnos.

Is it really possible for us

¿Es realmente posible

to take a system of millions upon millions of devices,

tomar un sistema de millones y millones de dispositivos,

to read in their data streams,

para leer flujos de datos,

to predict their failures and act in advance?

para predecir fallas y actuar con antelación?

Yes.

Sí.

Can we build systems that converse with humans in natural language?

¿Podemos construir sistemas que se comuniquen con humanos?

Yes.

Sí.

Can we build systems that recognize objects, identify emotions,

¿Podemos construir sistemas que reconozcan objetos, emociones,

emote themselves, play games and even read lips?

que se emocionen, jueguen e incluso que lean los labios?

Yes.

Sí.

Can we build a system that sets goals,

¿Podemos construir un sistema que fije objetivos,

that carries out plans against those goals and learns along the way?

que lleve a cabo planes contra esos objetivos y siga aprendiendo más?

Yes.

Sí.

Can we build systems that have a theory of mind?

¿Podemos construir sistemas que piensen por sí mismos?

This we are learning to do.

Estamos aprendiendo a hacerlo.

Can we build systems that have an ethical and moral foundation?

¿Podemos construir sistemas con fundamentos éticos y morales?

This we must learn how to do.

Debemos aprender cómo hacerlo.

So let's accept for a moment

Aceptemos por un momento

that it's possible to build such an artificial intelligence

que es posible construir tal inteligencia artificial

for this kind of mission and others.

para estas misiones y otras.

The next question you must ask yourself is,

La siguiente pregunta que deben formularse es,

should we fear it?

¿deberíamos temerle?

Now, every new technology

Toda nueva tecnología

brings with it some measure of trepidation.

trae consigo algunos temores.

When we first saw cars,

Cuando vimos autos por primera vez,

people lamented that we would see the destruction of the family.

la gente temía que viéramos la destrucción de la familia.

When we first saw telephones come in,

Cuando se inventaron los teléfonos,

people were worried it would destroy all civil conversation.

la gente temía que arruinara la conversación civilizada.

At a point in time we saw the written word become pervasive,

En algún momento, vimos a la palabra escrita aparecer en todos lados,

people thought we would lose our ability to memorize.

la gente creyó que perderíamos la habilidad de memorizar.

These things are all true to a degree,

Todo esto es cierto hasta cierto grado,

but it's also the case that these technologies

pero estas tecnologías también

brought to us things that extended the human experience

nos dieron cosas que expandieron la experiencia humana

in some profound ways.

de manera profunda.

So let's take this a little further.

Así que vayamos más lejos.

I do not fear the creation of an AI like this,

No temo la creación de una IA así,

because it will eventually embody some of our values.

porque finalmente encarnará algunos de nuestros valores.

Consider this: building a cognitive system is fundamentally different

Consideren lo siguiente: construir un sistema cognitivo es muy distinto

than building a traditional software-intensive system of the past.

a construir uno tradicional intensivo en software como en el pasado.

We don't program them. We teach them.

No los programamos. Les enseñamos.

In order to teach a system how to recognize flowers,

Para enseñarle a un sistema a reconocer flores,

I show it thousands of flowers of the kinds I like.

le muestro miles de flores que me gustan.

In order to teach a system how to play a game --

Para enseñarle a jugar...

Well, I would. You would, too.

Bueno, lo haría y Uds. también.

I like flowers. Come on.

Me gustan las flores.

To teach a system how to play a game like Go,

Para enseñarle a un sistema a jugar un juego como Go,

I'd have it play thousands of games of Go,

lo pondría a jugar miles de juegos de Go,

but in the process I also teach it

y en el proceso también le enseñaría

how to discern a good game from a bad game.

a discernir un buen juego de uno malo.

If I want to create an artificially intelligent legal assistant,

Si quiero crear un asistente legal con inteligencia artificial,

I will teach it some corpus of law

le enseñaría algo del corpus legislativo

but at the same time I am fusing with it

combinando al mismo tiempo

the sense of mercy and justice that is part of that law.

el sentido de la piedad y la justicia que también son parte de la ley.

In scientific terms, this is what we call ground truth,

En términos científicos, lo llamamos verdad en tierra firme,

and here's the important point:

este es el punto importante:

in producing these machines,

al producir estas máquinas,

we are therefore teaching them a sense of our values.

les estamos enseñando también el sentido de nuestros valores.

To that end, I trust an artificial intelligence

Para este fin, confío en la inteligencia artificial

the same, if not more, as a human who is well-trained.

tanto, si no más, que en un humano bien entrenado.

But, you may ask,

Quizá se pregunten

what about rogue agents,

¿qué hay de los agentes rebeldes,

some well-funded nongovernment organization?

algunas organizaciones sólidas no gubernamentales?

I do not fear an artificial intelligence in the hand of a lone wolf.

No le temo a la inteligencia artificial en manos de un lobo solitario.

Clearly, we cannot protect ourselves against all random acts of violence,

Claramente no podemos protegernos de todo tipo de violencia,

but the reality is such a system

en realidad, un sistema así

requires substantial training and subtle training

requiere entrenamiento importante y sutil

far beyond the resources of an individual.

más allá de los recursos de un individuo.

And furthermore,

Además,

it's far more than just injecting an internet virus to the world,

se trata de algo más que inyectar un virus en el internet global,

where you push a button, all of a sudden it's in a million places

donde al presionar un botón, se esparce a millones de lugares

and laptops start blowing up all over the place.

y las laptops comienzan a estallar en pedazos.

Now, these kinds of substances are much larger,

Este tipo de sustancias son más grandes

and we'll certainly see them coming.

y se les ve venir.

Do I fear that such an artificial intelligence

¿Temo que ese tipo de inteligencia artificial

might threaten all of humanity?

amenace a la humanidad?

If you look at movies such as "The Matrix," "Metropolis,"

Si miran películas como "Matrix", "Metrópolis",

"The Terminator," shows such as "Westworld,"

"Terminator" y shows como "Westworld",

they all speak of this kind of fear.

todos hablan de este miedo.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

El libro "Superinteligencia" del filósofo Nick Bostrom,

he picks up on this theme

habla de este tema

and observes that a superintelligence might not only be dangerous,

y opina que una superinteligencia no solo puede ser peligrosa,

it could represent an existential threat to all of humanity.

sino que podría representar una amenaza existencial para la humanidad.

Dr. Bostrom's basic argument

El argumento fundamental del Dr. Bostrom

is that such systems will eventually

es que dichos sistemas finalmente

have such an insatiable thirst for information

tendrán una necesidad insaciable de información

that they will perhaps learn how to learn

que quizá aprendan cómo aprender

and eventually discover that they may have goals

y finalmente descubran que pueden tener objetivos

that are contrary to human needs.

contrarios a las necesidades humanas.

Dr. Bostrom has a number of followers.

El Dr. Bostrom tiene varios seguidores.

He is supported by people such as Elon Musk and Stephen Hawking.

Gente como Elon Musk y Stephen Hawking lo apoyan.

With all due respect

Con todo respeto

to these brilliant minds,

a estas mentes brillantes,

I believe that they are fundamentally wrong.

creo que están completamente equivocados.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Hay muchas partes del argumento del Dr. Bostrom que analizar,

and I don't have time to unpack them all,

y no tengo tiempo para hacerlo,

but very briefly, consider this:

pero brevemente, piensen esto:

super knowing is very different than super doing.

el superconocimiento es muy distinto al superhacer.

HAL era una amenaza para la flota del Discovery

HAL was a threat to the Discovery crew

only insofar as HAL commanded all aspects of the Discovery.

en la medida en que controlaba todos los aspectos del Discovery.

So it would have to be with a superintelligence.

Se necesitaría una superinteligencia.

It would have to have dominion over all of our world.

Y un dominio total de nuestro mundo.

This is the stuff of Skynet from the movie "The Terminator"

Skynet de la película "Terminator"

in which we had a superintelligence

tenía una superinteligencia

that commanded human will,

que controlaba la voluntad humana,

that directed every device that was in every corner of the world.

y controlaba cada dispositivo en todos los rincones del mundo.

Practically speaking,

Siendo prácticos,

it ain't gonna happen.

eso no pasará.

We are not building AIs that control the weather,

No estamos construyendo IAs que controlen el clima,

that direct the tides,

que controlen las mareas,

that command us capricious, chaotic humans.

que nos controlen a nosotros, caprichosos y caóticos humanos.

And furthermore, if such an artificial intelligence existed,

Además, si tal inteligencia artificial existiera,

it would have to compete with human economies,

tendría que competir contra las economías del hombre,

and thereby compete for resources with us.

y por tanto competir por recursos contra nosotros.

And in the end --

Y al final

don't tell Siri this --

--no le digan a Siri--

we can always unplug them.

siempre podremos desconectarlos.

(Laughter)

(Risas)

We are on an incredible journey

Estamos en una increíble aventura

of coevolution with our machines.

de coevolución con nuestras máquinas.

The humans we are today

Los humanos que somos hoy

are not the humans we will be then.

no son los humanos que seremos.

To worry now about the rise of a superintelligence

Preocuparse ahorita del ascenso de una superinteligencia

is in many ways a dangerous distraction

es una distracción peligrosa en muchos sentidos

because the rise of computing itself

porque el ascenso de la computación

brings to us a number of human and societal issues

trajo consigo muchos problemas humanos y sociales

to which we must now attend.

de los que debemos ocuparnos ahora.

How shall I best organize society

¿Cómo organizar a la sociedad

when the need for human labor diminishes?

cuando la necesidad de trabajo humano decrece?

How can I bring understanding and education throughout the globe

¿Cómo llevar conocimiento y educación a través del mundo

and still respect our differences?

respetando nuestras diferencias?

How might I extend and enhance human life through cognitive healthcare?

¿Cómo expandir y mejorar la vida con la atención médica cognitiva?

How might I use computing

¿Cómo usar la computación

to help take us to the stars?

para ayudarnos a alcanzar las estrellas?

And that's the exciting thing.

Eso es lo emocionante.

The opportunities to use computing

Las oportunidades para usar la computación

to advance the human experience

y fomentar la experiencia humana

are within our reach,

están a nuestro alcance,

here and now,

aquí y ahora,

and we are just beginning.

y apenas hemos comenzado.

Thank you very much.

Muchas gracias.

(Applause)

(Aplausos)