The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Traductor: Sebastian Betti Revisor: Steven Leiva

You've all experienced the progress of artificial intelligence.

Todos hemos experimentado el progreso de la inteligencia artificial.

Many of you may have spoken with a computer,

Quizás muchos de ustedes han hablado con una computadora,

and a computer understood you

y una computadora les entendió

and spoke back to you.

y les respondió.

With the rate of progress being that it is,

Con el ritmo actual de progreso,

it's not difficult to imagine that at some point in the future,

no es difícil imaginar que en algún momento en el futuro,

our intelligent computers will become as smart or smarter than people.

nuestras computadoras inteligentes serán tan inteligentes

o más inteligentes que las personas.

And it's also not difficult to imagine that when that happens,

Y tampoco es difícil imaginar que cuando eso suceda,

the impact of such artificial intelligence

el impacto de esta inteligencia artificial

is going to be truly, truly vast.

será realmente enorme.

And you may wonder:

Y quizás se pregunten:

Is it going to be OK when technology is so impactful?

¿todo va a estar bien cuando la tecnología sea tan impactante?

And here my goal is to point out the existence of a force

Y aquí mi objetivo es señalar la existencia de una fuerza

that many of you may have not noticed,

que quizás muchos de ustedes no han notado,

that gives me hope that indeed,

que me da la esperanza de que en efecto,

we will be happy with the result.

estaremos satisfechos con el resultado.

So artificial intelligence.

Entonces, la inteligencia artificial,

What is it, and how does it work?

¿qué es y cómo funciona?

Well, it turns out that it's very easy to explain

Pues resulta que es muy fácil explicar

how artificial intelligence works.

cómo funciona la inteligencia artificial.

Just one sentence.

Solo una frase.

Artificial intelligence is nothing but digital brains

La inteligencia artificial no es más que cerebros digitales

inside large computers.

dentro de grandes computadoras.

That's what artificial intelligence is.

Eso es la inteligencia artificial.

Every single interesting AI that you've seen

Todas las IA interesantes que han visto

is based on this idea.

se basan en esta idea.

Over the decades,

Durante décadas,

scientists and engineers have been figuring out

científicos e ingenieros han estado descifrando

how such digital brains should work

cómo deberían funcionar esos cerebros digitales

and how to build them, how to engineer them.

y cómo construirlos, cómo diseñarlos.

Now, I find it interesting

Ahora bien, me parece interesante

that the seat of intelligence in human beings is our biological brain.

que la sede de la inteligencia en los seres humanos

sea nuestro cerebro biológico.

It is fitting that the seat of intelligence

Resulta apropiado que la sede de la inteligencia

in artificial intelligence

de una inteligencia artificial

is an artificial brain.

sea un cerebro artificial.

Here, I'd like to take a digression and tell you about how I got into AI.

Me gustaría hacer una digresión y contarles cómo llegué a la IA.

There were three forces that pulled me into it.

Fueron tres las fuerzas que me atrajeron a esto.

The first one was that when I was a little child,

La primera fue que cuando era pequeño,

at around the age of five or six,

alrededor de los cinco o seis años,

I was very struck by my own conscious experience,

estaba muy impresionado de mi propia experiencia consciente,

by the fact that I am me and I am experiencing things.

el hecho de que yo soy yo y estoy experimentando cosas.

That when I look at things, I see them.

Que cuando miro las cosas, las veo.

Like, this feeling over time went away, though,

Esa sensación se fue con el paso del tiempo,

by simply mentioning it to you right now it comes back.

pero con solo mencionárselas ahora mismo vuelve.

But this this feeling of ...

Pero esta sensación de...

That I am me, that you are you,

que yo sea yo, que tú seas tú,

I found it very strange and very disturbing almost.

me pareció muy extraña y casi inquietante.

And so when I learned about artificial intelligence,

Así que cuando aprendí sobre la inteligencia artificial,

I thought, wow, if we could build a computer

pensé: vaya, si pudiéramos construir una computadora

that is intelligent,

que fuera inteligente,

maybe we will learn something about ourselves,

quizás aprenderíamos algo sobre nosotros,

sobre nuestra propia conciencia.

about our own consciousness.

That was my first motivation that pulled me towards AI.

Esa fue mi primera motivación que me llevó a la IA.

The second motivation was more pedestrian in a way.

La segunda motivación era, en cierto modo, más mundana.

I was simply curious about how intelligence works.

Solo sentía curiosidad por saber cómo funciona la inteligencia.

And when I was a teenager, an early teenager in the late '90s,

Y cuando era adolescente, un joven adolescente a finales de los 90,

the sense that I got is that science simply did not know

tuve la sensación de que la ciencia simplemente no sabía

how intelligence worked.

cómo funcionaba la inteligencia.

There was also a third reason,

También hubo una tercera razón,

which is that it was clear to me back then

y es que en aquel entonces tenía claro

that artificial intelligence,

que la inteligencia artificial,

if it worked, it would be incredibly impactful.

si funcionaba, tendría un impacto increíble.

Now, it wasn't at all obvious

Ahora bien, no era del todo obvio

that it will be possible to make progress in artificial intelligence,

que sería posible progresar en la inteligencia artificial,

but if it were possible to make progress in artificial intelligence,

pero si fuera posible progresar en la inteligencia artificial,

that would be incredibly impactful.

eso tendría un impacto increíble.

So these were the three reasons that pulled me towards AI.

Estas fueron las tres razones que me llevaron a decantarme por la IA.

That's why I thought that's a great area to spend all my efforts on.

Por eso pensé que era una gran área en la que dedicar todos mis esfuerzos.

So now let's come back to our artificial intelligence,

Así que ahora volvamos a nuestra inteligencia artificial,

the digital brains.

los cerebros digitales.

Today, these digital brains

Hoy en día, estos cerebros digitales

are far less smart than our biological brains.

son mucho menos inteligentes que nuestros cerebros biológicos.

When you speak to an AI chat bot,

Cuando hablamos con un bot de chat de IA,

you very quickly see that it's not all there,

nos damos cuenta rápidamente de que no está todo ahí,

that it's, you know,

que, ya saben,

it understands mostly, sort of.

entiende en su mayoría, más o menos.

Pero pueden ver claramente que hay muchas cosas que no puede hacer

But you can clearly see that there are so many things it cannot do

and that there are some strange gaps.

y que hay algunos vacíos extraños

But this situation, I claim, is temporary.

Sin embargo, afirmo que esta situación es temporal.

As researchers and engineers continue to work on AI,

Conforme los investigadores e ingenieros sigan trabajando en la IA

the day will come when the digital brains that live inside our computers

llegará el día en que los cerebros digitales

que viven en nuestras computadoras

will become as good and even better than our own biological brains.

serán tan buenos e incluso mejores que nuestros propios cerebros biológicos.

Las computadoras serán más inteligentes que nosotros.

Computers will become smarter than us.

We call such an AI an “AGI,” artificial general intelligence.

A esta IA la llamamos “IAG”, inteligencia artificial general.

When we can say that the level at which we can teach the AI to do anything

Podemos decir que es el nivel

en el que podemos enseñar a la IA a hacer cualquier cosa

that, for example, I can do, or someone else.

que, por ejemplo, cualquiera de nosotros puede hacer.

So although AGI does not exist today,

Por lo tanto, aunque la IAG no existe en la actualidad,

we can still gain a little bit of an insight

todavía podemos hacernos una pequeña idea

into the impact of AGI once it's built.

del impacto de la IAG una vez creada.

It is completely obvious

Es completamente obvio

that such an AGI will have a dramatic impact

que una IAG de este tipo tendrá un impacto drástico

on every area of life, of human activity and society.

en todos los ámbitos de la vida, de la actividad humana y de la sociedad.

And I want to go over a quick case study.

Y quiero repasar un rápido estudio de caso.

This is a narrow example of a very, very broad technology.

Este es un ejemplo limitado de una tecnología muy, muy amplia.

The example I want to present is health care.

El ejemplo trata sobre la atención médica.

Many of you may have had the experience of trying to go to a doctor.

Es posible que muchos hayan tenido la experiencia de intentar ir al médico.

You need to wait for many months sometimes,

A veces tienen que esperar muchos meses

and then when you do get to see a doctor, you get a small,

y luego, cuando van al médico,

very limited amount of time with the doctor

tienen un tiempo muy limitado con el médico,

and furthermore, the doctor, being only human,

además, el médico, al ser solo un ser humano,

can have only limited knowledge of all this,

puede tener un conocimiento limitado de todo esto,

all the medical knowledge that exists.

de todo el conocimiento médico que existe.

And then by the end of it, you get a very large bill.

Y luego, al final, reciben una factura muy grande.

(Laughter)

(Risas)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Si tienen una computadora inteligente, una IAG, diseñada para ser un médico,

it will have complete and exhaustive knowledge of all medical literature.

tendrá un conocimiento completo y exhaustivo de toda la literatura médica.

It will have billions of hours of clinical experience,

Tendrá miles de millones de horas de experiencia clínica,

and it will be always available and extremely cheap.

y siempre estará disponible y será extremadamente económica.

When this happens,

Cuando esto suceda,

we will look back at today's health care

recordaremos la atención médica actual

similarly to how we look at 16th century dentistry.

de manera similar a como recordamos la odontología del siglo XVI.

(Laughter)

(Risas)

You know, when they tied people with belts and then have this drill,

Cuando ataban a las personas con cinturones

y luego les ponían este taladro,

that's how today's health care will look like.

así parecerá la atención médica actual.

And again, to emphasize, this is just one example.

Y nuevamente, para recalcarlo, este es un solo ejemplo.

This is just one example.

Este es un solo ejemplo.

AGI will have dramatic and incredible impact

La IAG tendrá un impacto drástico e increíble

on every single area of human activity.

en cada área de la actividad humana.

But when you see impact this large, you may wonder, "Gosh,

Pero al ver un impacto tan grande, tal vez se pregunten:

“Caramba, ¿no es esta tecnología demasiado impactante?”

isn't this technology too impactful?"

And indeed, for every positive application of AGI,

De hecho, por cada aplicación positiva de la IAG,

there will be a negative application as well.

también habrá una aplicación negativa.

This technology is also going to be different

Esta tecnología también será diferente

de las tecnologías que conocemos,

from technologies that we are used to,

because it will have the ability to improve itself.

porque tendrá la capacidad de mejorarse a sí misma.

It is possible to build an AGI

Es posible crear una IAG

that will work on the next generation of AGI.

que funcione en la próxima generación de IAG.

The closest analogue we have to this kind of rapid technological improvement

La analogía más cercana a este tipo de rápida mejora tecnológica

is when the Industrial Revolution has taken place, where humans,

fue durante la Revolución Industrial, donde los humanos,

the material condition of human society, was very, very constant.

la condición material de la sociedad, era muy, muy constantes.

And then it was a rapid increase, rapid growth.

Y luego hubo un rápido aumento, un rápido crecimiento.

With AGI,

Con la IAG,

something like this could happen again, but on a shorter timescale.

podría volver a ocurrir algo como esto, pero en un plazo más corto.

And then furthermore,

Además,

there are concerns around

existe la preocupación de que

if an AGI ever becomes very, very powerful,

si una IAG llega a ser muy, muy poderosa,

which is possible,

lo cual es posible,

maybe it will want to go rogue being that it is an agent.

tal vez quiera convertirse en un agente hostil.

So this is a concern that exists with this unprecedented,

Por tanto, esta es una preocupación que existe

con esta tecnología sin precedentes que aún no existe.

not yet existing technology.

And indeed,

Y en efecto,

you look at all the positive potential of AGI

al ver el potencial positivo de la IAG

and all the concerning possibilities of AGI as well,

y todas las posibilidades preocupantes de la IAG,

and you may say, "Gosh, where is this all headed?"

podríamos decir: “Caramba, ¿a dónde lleva todo esto?”

One of my motivations in creating OpenAI was,

Una de mis motivaciones para crear OpenAI,

in addition to developing this technology,

además de desarrollar esta tecnología,

was also to address the questions

fue también abordar las preguntas

that are posed by AGI, the difficult questions,

planteadas por la IAG, las preguntas difíciles,

the concerns that we raised.

las preocupaciones que planteamos.

In addition to working with governments

Además de trabajar con los gobiernos

and helping them understand what is coming and prepare for it,

y ayudarlos a entender lo que está por venir y a prepararse para ello,

we are also doing a lot of research

también estamos investigando mucho

on addressing the technological side of things,

con el fin de abordar el aspecto tecnológico de las cosas,

so that the AI will never want to go rogue.

de modo que la IA nunca quiera volverse hostil.

And this is something which I’m working on as well.

Y esto es algo en lo que también estoy trabajando.

But I think, the thing to note,

Pero creo que lo que hay que tener en cuenta es que,

because AI and AGI is really the only area of the economy

dado que la IA y la IAG son realmente el único área de la economía

where there is a lot of excitement, a lot of investment,

en la que hay mucho entusiasmo, mucha inversión,

everyone is working on it,

todo el mundo trabaja en ello,

there's a huge number of labs in the world trying to build the same thing.

hay un gran número de laboratorios en el mundo intentando construir lo mismo.

Even if OpenAI takes these desirable steps that I mentioned,

Incluso si OpenAI toma las medidas deseadas que he mencionado,

what about the rest of the companies and the rest of the world?

¿qué pasará con el resto de las empresas y el resto del mundo?

And this is where I want to make my observation

Y aquí es donde quiero hacer mi observación

about the force that exists.

sobre la fuerza que existe.

The observation is this: consider the world one year ago,

La observación es la siguiente:

consideremos el mundo de hace un año,

as recently as one year ago.

tan recientemente como hace un año.

People weren't really talking about AI, not in the same way at all.

En realidad, la gente no hablaba de la IA, no de la misma manera.

What happened?

¿Qué pasó?

We all experienced what it's like to talk to a computer and to be understood.

Todos experimentamos lo que es hablar con una computadora y que nos entienda.

The idea that computers will become really intelligent

Se está generalizando la idea

de que las computadoras serán realmente inteligentes

and eventually more intelligent than us is becoming widespread.

y un día, más inteligentes que nosotros.

It used to be a niche idea that only a few enthusiasts

Solía ser una idea común

en la que solo pensaban unos pocos entusiastas, aficionados

and hobbyists and people who were very into AI were thinking about.

y personas a las que les interesaba mucho la IA.

But now everyone is thinking about it.

Pero ahora todo el mundo piensa en ello.

And as the AI continues to make progress,

Y conforme la IA siga progresando,

as technology continues to advance,

a medida que la tecnología siga avanzando,

as more and more people see what AI can do

a medida que más y más personas vean lo que puede hacer la IA

and where it is headed towards,

y hacia dónde se dirige,

then it will become clear just how dramatic,

entonces quedará claro cuán drástica,

incredible and ...

increíble y...

almost fantastical AGI is going to be

casi fantástica va a ser la IAG

and how much trepidation is appropriate.

y cuánta inquietud es apropiada.

And what I claim will happen is that people will start to act

Y afirmo que las personas comenzarán a actuar

in unprecedentedly collaborative way out of their own self-interest.

de una manera colaborativa sin precedentes por sus propios intereses.

It's already happening right now.

Ya está ocurriendo en estos momentos.

You see the leading AGI companies starting to collaborate

Pueden ver a las principales empresas de IAG comenzando a colaborar,

for a specific example, through the Frontier Model Forum.

para dar un ejemplo específico, a través del Foro del Modelo de Frontera.

And we will expect that companies that are competitors

Y esperamos que las empresas competidoras

compartan información técnica para garantizar la seguridad de sus IA.

will share technical information to make their AIs safe.

We may even see governments do this.

Quizás veamos gobiernos hacer esto.

For another example,

Por poner otro ejemplo,

at OpenAI, we really believed in how dramatic AGI is going to be.

en OpenAI realmente creíamos en lo espectacular que va a ser la IAG.

Una de las ideas en las que nos basamos,

So one of the ideas that we were operating by,

and it's been written on our website for five years now,

y que está escita en nuestra web desde hace cinco años,

that when technology gets such that we are very, very close to AGI,

es que cuando la tecnología llegue al punto

en que estemos muy, muy cerca de la IAG,

to computers smarter than humans,

de computadoras más inteligentes que humanos,

and if some other company is far ahead of us,

y si alguna otra empresa está muy por delante de nosotros,

then rather than compete with them,

en lugar de competir con ellos,

we will help them out, join them, in a sense.

los ayudaremos, nos uniremos a ellos, en cierto sentido.

And why do that?

¿Y por qué hacerlo?

Because we feel, we appreciate

Porque sentimos, apreciamos,

how incredibly dramatic AGI is going to be.

lo increíblemente drástica que va a ser la IAG.

And my claim is that with each generation of capability advancements,

Afirmo que, con cada generación de avances en materia de capacidades,

as AI gets better

conforme la IA vaya mejorando

and as all of you experience what AI can do,

y todos experimenten lo que puede hacer la IA,

as people who run AI efforts and AGI efforts

conforme lo experimenten quienes se ocupan de la IA y la IAG

and people who work on them will experience it as well,

así como las personas que trabajan en ellas,

this will change the way we see AI and AGI,

esto cambiará nuestra forma de ver a la IA y la IAG,

and that will change collective behavior.

y eso cambiará el comportamiento colectivo.

And this is an important reason

Y este es un motivo importante por el que espero que,

why I'm hopeful

that despite the great challenges that's posed by this technology,

a pesar de los grandes retos que plantea esta tecnología,

we will overcome them.

los podremos superar.

Thank you.

Gracias.

(Aplausos)

(Applause)