The Transformative Potential of AGI — and When It Might Arrive | Shane Legg and Chris Anderson | TED

Traductor: Sebastian Betti Revisor: Anna Sobota

Chris Anderson: Shane, give us a snapshot of you growing up

Chris Anderson: Shane, danos una instantánea de tu infancia

and what on Earth led you to get interested in artificial intelligence?

y ¿qué te llevó a interesarte por la inteligencia artificial?

Shane Legg: Well, I got my first home computer on my 10th birthday,

Shane Legg: Bueno, compré mi primer ordenador en casa cuando cumplí 10 años,

and I --

this was before the internet and everything.

eso fue antes de Internet y todo eso.

So you couldn't just go and surf the web and so on.

No podías simplemente navegar por la web y esas cosas.

You had to actually make stuff yourself and program.

De hecho, tenías que hacer cosas tú mismo y programarlas.

And so I started programming,

Empecé a programar

and I discovered that in this computer there was a world,

y descubrí que en este ordenador había un mundo, podía crear un mundo,

I could create a world,

I could create little agents that would run around

podía crear pequeños agentes que corrían por ahí

and chase each other and do things and so on.

persiguiéndose unos a otros y haciendo cosas, etc.

And I could sort of, bring this whole universe to life.

Y podía, en cierto modo, dar vida a todo este universo.

And there was sort of that spark of creativity that really captivated me

Y había una chispa de creatividad que realmente me cautivó

and sort of, I think that was really the seeds

y creo que esa fue la semilla de mi interés,

of my interest that later grew

que luego se volvió un interés por la inteligencia artificial.

into an interest in artificial intelligence.

CA: Because in your standard education, you had some challenges there.

CA: Porque en tu educación estándar tenías algunos desafíos en ese sentido.

SL: Yeah, I was dyslexic as a child.

SL: Sí, de niño fui disléxico.

And so they were actually going to hold me back a year

Me iban a hacer repetir un año

when I was 10 years old,

cuando tenía 10 años,

and they sent me off to get my IQ tested to sort of,

y me mandaron a hacer una prueba de coeficiente intelectual

you know, assess how bad the problem was.

para evaluar la gravedad del problema.

And they discovered I had an exceptionally high IQ.

Y descubrieron que tenía un CI excepcionalmente alto.

And then they were a little bit confused about what was going on.

Estaban un poco confundidos por lo que estaba pasando.

And fortunately, at that time,

Por fortuna, en esa época,

there was somebody in the town I lived in

alguien en la ciudad donde vivía aplicaba pruebas de dislexia.

who knew how to test for dyslexia.

And it turns out I wasn't actually of limited intelligence.

Y resulta que en realidad no tenía una inteligencia limitada.

I was dyslexic, and that was the issue.

Era disléxico, ese era el problema.

CA: Tenías motivos desde temprana edad para creer

CA: You had reason from an early age to believe

that our standard assumptions about intelligence might be off a bit.

que algunas ideas sobre inteligencia artificial podían ser un poco erróneas

SL: Well, I had reason, from an early age, to sometimes doubt authority.

SL: Bueno, desde muy temprana edad

tuve motivos para dudar a veces de la autoridad.

(Laughter)

(Risas)

You know, if the teacher thinks you're dumb, maybe it's not true.

Si el profesor piensa que eres tonto, tal vez no sea cierto.

Maybe there are other things going on.

Quizá estén pasando otras cosas.

But I think it also created in me an interest in intelligence

Pero creo que también despertó en mí un interés por la inteligencia

when I sort of had that experience as a child.

cuando tuve esa experiencia cuando era niño.

CA: Muchos te atribuyen el haber acuñado el término

CA: So you're credited by many

as coining the term “artificial general intelligence,” AGI.

«inteligencia artificial general», IAG.

Tell us about 2001, how that happened.

Háblenos de 2001 y de cómo ocurrió.

SL: Sí, alguien llamado Ben Goertzel,

SL: Yeah, so I was approached by someone called Ben Goertzel

con quien había estado trabajando, se puso en contacto conmigo

who I'd actually been working with,

and he was going to write a book,

e iba a escribir un libro

and he was thinking about a book on AI systems

y estaba pensando en un libro sobre sistemas de inteligencia artificial

that would be much more general and capable,

que fuera mucho más general y eficaz,

rather than focusing on very narrow things.

en lugar de centrarse en cosas muy limitadas.

And he was thinking about a title for the book.

Estaba pensando en ponerle un título al libro.

So I suggested to him, "If you're interested in very general systems,

Así que le sugerí: «Si te interesan los sistemas muy generales,

call it artificial general intelligence."

llámalo inteligencia artificial general».

And so he went with that.

Así que se decantó por eso.

And then him and various other people started using the term online

Luego él y otras personas empezaron a usar el término en línea

and the internet,

e Internet,

and then it sort of became popularized from there.

y después se popularizó a partir de ahí.

We later discovered there was someone called Mike Garrod,

Más tarde descubrimos que Mike Garrod

who published a paper in a security nanotech journal in '97.

publicó un artículo en una revista de nanotecnología de seguridad en 1997.

So he is actually the first person to have used the term.

De hecho, fue la primera persona que usó el término.

Pero de todos modos quiso decir más o menos lo mismo que nosotros.

But it turns out he pretty much meant the same thing as us anyway.

CA: It was kind of an idea whose time had come,

CA: Era más o menos una idea a la que le había llegado el momento

to recognize the potential here.

de reconocer el potencial que había aquí.

I mean, you made an early prediction that many people thought was bonkers.

Hiciste una predicción temprana que mucha gente pensó que era descabellada.

What was that?

¿Qué era eso?

SL: Well, in about 2001,

SL: Bueno, aproximadamente en 2001,

a similar time to when I suggested this term artificial general intelligence,

una época similar a la que sugerí utilizar el término inteligencia artificial general

I read a book by Ray Kurzweil, actually, "Age of Spiritual Machines,"

leí un libro de Ray Kurzweil que se titulaba

«La era de las máquinas espirituales»,

and I concluded that he was fundamentally right,

y llegué a la conclusión de que tenía toda la razón:

that computation was likely to grow exponentially for at least a few decades,

que la computación probablemente crecería exponencialmente

durante al menos unas décadas,

and the amount of data in the world would grow exponentially

y la cantidad de datos en el mundo crecería exponencialmente

for a few decades.

durante algunas décadas.

And so I figured that if that was going to happen,

Así que pensé que si eso sucedía,

then the value of extremely scalable algorithms

el valor de los algoritmos extremadamente escalables

that could harness all this data and computation

que pudieran aprovechar todos estos datos y cálculos

were going to be very high.

sería muy alto.

And then I also figured that in the mid 2020s,

También me imaginé que, a mediados de la década de 2020,

it would be possible then,

sería posible,

if we had these highly scalable algorithms,

si tuviéramos estos algoritmos altamente escalables,

to train artificial intelligence systems

entrenar sistemas de IA con muchos más datos

on far more data than a human would experience in a lifetime.

de los que un humano podría obtener en toda su vida.

And so as a result of that,

Como resultado de ello, lo pueden encontrar en mi blog

you can find it on my blog from about 2009

desde aproximadamente 2009.

I think it's the first time I publicly talked about it,

Creo que es la primera vez que hablo públicamente sobre ello.

I predicted a 50 percent chance of AGI by 2028.

Predije una probabilidad del 50 % de que se produjera una IAG en 2028.

I still believe that today.

Sigo creyendo eso hoy en día.

CA: That's still your date.

CA: Sigue siendo tu fecha.

How did you define AGI back then, and has your definition changed?

¿Cómo definías la IAG en aquel entonces ? ¿Ha cambiado tu definición?

SL: Yeah, I didn't have a particularly precise definition at the beginning.

SL: Sí, al principio no tenía una definición particularmente precisa.

It was really just an idea of systems that would just be far more general.

En realidad, era solo una idea de sistemas que serían mucho más generales.

So rather than just playing Go or chess or something,

En lugar de simplemente jugar al Go o al ajedrez o algo así,

rather than actually be able to do many, many different things.

poder hacer muchísimas cosas diferentes.

The definition I use now is that it's a system

La definición que uso ahora es que es un sistema

that can do all the cognitive kinds of tasks

que puede realizar todo tipo de tareas cognitivas

that people can do, possibly more,

que las personas podemos realizar, posiblemente más,

but at least it can do the sorts of cognitive tasks

pero al menos puede realizar tareas cognitivas que

that people can typically do.

podemos realizar normalmente.

CA: So talk about just the founding of DeepMind

CA: Hablemos solo de la fundación de DeepMind

and the interplay between you and your cofounders.

y de la interacción entre tú y tus cofundadores.

SL: Right. So I went to London to the place called the Gatsby Unit,

SL: Correcto. Fui a Londres, a un lugar llamado Unidad Gatsby,

which studies theoretical neuroscience and machine learning.

que estudia neurociencia teórica y aprendizaje automático.

And I was interested in learning the relationships

Y me interesaba aprender las relaciones

between what we understand about the brain

entre lo que entendemos sobre el cerebro

and what we know from machine learning.

y lo que sabemos del aprendizaje automático.

So that seemed like a really good place.

Me pareció un lugar muy bueno.

And I met Demis Hassabis there.

Allí conocí a Demis Hassabis.

Tenía el mismo supervisor de posdoctorado que yo,

He had the same postdoc supervisor as me,

and we got talking.

y empezamos a hablar.

And he convinced me

Y me convenció de que

that it was the time to start a company then.

era el momento de crear una empresa en ese momento.

That was in 2009 we started talking.

Fue en 2009 cuando empezamos a hablar.

And I was a little bit skeptical.

Yo era un poco escéptico.

I thought AGI was still a bit too far away,

Pensaba que la IAG estaba todavía demasiado lejos,

but he thought the time was right, so we decided to go for it.

pero él pensaba que era el momento adecuado, así que decidimos hacerlo.

And then a friend of his was Mustafa Suleyman.

Y luego un amigo suyo era Mustafa Suleyman.

CA: And specifically, one of the goals of the company

CA: Y específicamente, ¿uno de los objetivos de la empresa

was to find a pathway to AGI?

era encontrar un camino hacia la AGI?

SL: Absolutely.

SL: Absolutamente.

On our first business plan that we were circulating

En nuestro primer plan de negocios que distribuimos

when we were looking for investors in 2010,

cuando buscábamos inversores en 2010,

it had one sentence on the front cover and it said,

tenía una frase en la portada que decía:

"Build the world's first artificial general intelligence."

«Construye la primera inteligencia artificial general del mundo».

So that was right in from the beginning.

Así que eso fue justo desde el principio.

CA: Even though you knew

CA: ¿Sabías

that building that AGI might actually have

que construir esa IAG podría tener consecuencias

apocalyptic consequences in some scenarios?

apocalípticas en algunos escenarios?

SL: Yeah.

SL: Sí.

So it's a deeply transformative technology.

Es una tecnología profundamente transformadora.

I believe it will happen.

Creo que va a suceder.

I think that, you know,

Pienso que, ya sabes,

estos algoritmos se pueden entender y se entenderán en su momento.

these algorithms can be understood and they will be understood at the time.

And I think that intelligence is fundamentally

Y pienso que la inteligencia es, fundamentalmente, algo

an incredibly valuable thing.

increíblemente valioso.

Todo lo que nos rodea en este momento,

Everything around us at the moment -- the building we’re in,

el edificio en el que nos encontramos, las palabras que uso,

the words I’m using, the concepts we have, the technology around us --

los conceptos que tenemos, la tecnología que nos rodea,

you know, all of these things are being affected by intelligence.

todas estas cosas se ven afectadas por la inteligencia.

So having intelligence in machines

Por lo tanto, desarrollar inteligencia en las máquinas

is an incredibly valuable thing to develop.

es algo increíblemente valioso.

And so I believe it is coming.

Por eso creo que está por venir.

Now when a very, very powerful technology arises,

Ahora, cuando surge una tecnología muy, muy poderosa,

there can be a range of different outcomes.

puede haber una variedad de resultados diferentes.

Things could go very, very well,

Las cosas podrían ir muy, muy bien,

but there is a possibility things can go badly as well.

pero existe la posibilidad de que las cosas también vayan mal.

And that was something I was aware of also from about 20 years ago.

Y eso era algo de lo que también era consciente desde hace unos 20 años.

CA: So talk about, as DeepMind developed,

CA: A medida que DeepMind se desarrollaba,

was there a moment where you really felt,

¿hubo un momento en el que realmente pensaste

"My goodness, we're onto something unbelievably powerful?"

«Dios mío, estamos ante algo increíblemente poderoso»?

Like, was it AlphaGo, that whole story, or what was the moment for you?

Por ejemplo, ¿fue AlphaGo, toda esa historia o cuál fue el momento para ti?

SL: Yeah, there were many moments over the years.

SL: Sí, hubo muchos momentos a lo largo de los años.

One was when we did the Atari games.

Uno fue cuando hicimos los juegos de Atari.

¿Has visto esos vídeos en los que teníamos un algoritmo

Have you seen those videos

where we had an algorithm that could learn to play multiple games

que podía aprender a jugar a varios juegos

without being programmed for any specific game?

sin estar programado para ningún juego específico?

There were some exciting moments there.

Allí hubo algunos momentos emocionantes.

Go, of course, was a really exciting moment.

Go, por supuesto, fue un momento muy emocionante.

But I think the thing that's really captured my imagination,

Pero creo que lo que realmente ha capturado mi imaginación,

a lot of people's imagination,

la imaginación de mucha gente,

es la extraordinaria expansión de los modelos lingüísticos

is the phenomenal scaling of language models in recent years.

en los últimos años.

I think we can see they're systems

Creo que podemos ver que son sistemas

that really can start to do some meaningful fraction

que realmente pueden empezar a realizar una fracción significativa

of the cognitive tasks that people can do.

de las tareas cognitivas que las personas pueden realizar.

CA: Now, you were working on those models,

CA: Estabas trabajando en esos modelos,

but were you, to some extent, blindsided

¿te sorprendió hasta cierto punto la repentina revelación de ChatGPT

by OpenAI's, sort of, sudden unveiling of ChatGPT?

por parte de OpenAI?

SL: Right.

SL: Correcto.

We were working on them and you know,

Estábamos trabajando en ellos

the transformer model was invented in Google,

y, el modelo transformador se inventó en Google,

and we had teams who were building big transformer language models and so on.

y teníamos equipos que creaban grandes modelos de lenguaje transformador, etc.

CA: Google acquired DeepMind at some point in this journey.

CA: Google adquirió DeepMind en algún momento de este viaje.

SL: Yeah, exactly.

SL: Sí, exactamente.

And so what I didn't expect

Así que lo que no me esperaba

was just how good a model could get training purely on text.

era la calidad con la que un modelo podía formarse únicamente con textos.

I thought you would need more multimodality.

Pensé que necesitarías más multimodalidad.

You'd need images, you'd need sound, you'd need video and things like that.

Necesitarías imágenes, sonido, vídeo y cosas así.

But due to the absolutely vast quantities of text,

Sin embargo, las enormes cantidades de texto

it can sort of compensate for these things to an extent.

en cierto modo pueden compensar estas cosas hasta cierto punto.

I still think you see aspects of this.

Sigo pensando que ves algunos aspectos de esto.

I think language models tend to be weak in areas

Creo que los modelos lingüísticos tienden a ser débiles en áreas

that are not easily expressed in text.

que no se expresan fácilmente en el texto.

But I don’t think this is a fundamental limitation.

Pero no creo que esta sea una limitación fundamental.

I think we're going to see these language models expanding into video

Veremos cómo estos modelos lingüísticos se expanden al vídeo, las imágenes

and images and sound and all these things,

y el sonido y todas esas cosas,

and these things will be overcome in time.

y estas cosas se superarán con el tiempo.

CA: So talk to us, Shane,

CA: Háblanos, Shane,

about the things that you, at this moment,

sobre las cosas en las que, en este momento, sientes

passionately feel that the world needs to be thinking about more cogently.

apasionadamente que el mundo necesita pensar de manera más convincente.

SL: Right.

SL: Correcto.

So I think that very, very powerful,

pienso que está en camino una inteligencia artificial

very intelligent artificial intelligence is coming.

muy, muy poderosa e inteligente.

I think that this is very, very likely.

Pienso que esto es muy, muy probable.

I don't think it's coming today.

Pienso que no llegará hoy.

I don't think it's coming next year or the year after.

No creo que llegue el año que viene ni el siguiente.

It's probably a little bit further out than that.

Probablemente esté un poco más lejos que eso.

CA: 2028?

CA: ¿2028?

SL: 2028, that's a 50 percent chance.

SL: 2028, esa es una probabilidad del 50 %.

So, you know, if it doesn't happen in 2028,

Así que, si no ocurre en 2028, obviamente no me sorprenderá.

I'm not going to be surprised, obviously.

CA: And when you say powerful,

CA: Y cuando dices poderosa,

I mean there's already powerful AI out there.

quiero decir que ya existe una IA poderosa.

But you're saying basically a version

Básicamente estás diciendo que viene una versión

of artificial general intelligence is coming.

de inteligencia artificial general.

SL: Yeah.

SL: Sí.

CA: So give us a picture of what that could look like.

CA: Danos una idea de cómo podría verse.

SL: Well, if you had an artificial general intelligence,

SL: Bueno, una inteligencia artificial general

you could do all sorts of amazing things.

podría hacer todo tipo de cosas increíbles.

Al igual que la inteligencia humana puede hacer muchísimas cosas asombrosas.

Just like human intelligence is able to do many, many amazing things.

So it's not really about a specific thing,

No es algo específico,

that's the whole point of the generality.

ese es el objetivo de la generalidad.

But to give you one example,

Pero para darles un ejemplo,

we developed the system AlphaFold,

desarrollamos el sistema AlphaFold,

which will take a protein and compute, basically, the shape of that protein.

que tomará una proteína y calculará, básicamente, la forma de esa proteína.

And that enables you to do all sorts of research

Y eso permite realizar todo tipo de investigaciones

into understanding biological processes,

para comprender los procesos biológicos,

developing medicines and all kinds of things like that.

desarrollar medicamentos y cosas por el estilo.

Now, if you had an AGI system,

Ahora bien, si tuvieras una IAG,

instead of requiring what we had at DeepMind,

en lugar de necesitar lo que teníamos en DeepMind,

about roughly 30 world-class scientists

unos 30 científicos de talla mundial

working for about three years to develop that,

trabajando durante unos tres años para desarrollarlo,

maybe you could develop that with just a team

tal vez podrías desarrollarlo con solo un equipo

of a handful of scientists in one year.

de un puñado de científicos en un año.

So imagine these, sort of, AlphaFold-level developments

Imagina estos desarrollos, algo así como los de Alphafold,

taking place around the world on a regular basis.

que se llevan a cabo en todo el mundo de forma regular.

This is the sort of thing that AGI could enable.

Este es el tipo de cosas que la IAG podría permitir.

CA: So within months of AGI being with us, so to speak,

CA: Unos meses después de que la IAG esté con nosotros, por así decirlo,

it's quite possible that some of the scientific challenges

es muy posible que algunos de los desafíos científicos a los que

that humans have wrestled with for decades, centuries, if you like,

los humanos se han enfrentado durante décadas, siglos, por así decirlo,

will start to tumble in rapid succession.

comiencen a ir surgiendo en rápida sucesión.

SL: Yeah, I think it'll open up all sorts of amazing possibilities.

SL: Sí, creo que abrirá todo tipo de posibilidades asombrosas.

And it could be really a golden age of humanity

En realidad, podría tratarse de una época dorada de la humanidad,

where human intelligence,

en la que la inteligencia humana,

which is aided and extended with machine intelligence,

que se ve reforzada por la inteligencia artificial,

enables us to do all sorts of fantastic things

nos permita hacer todo tipo de cosas fantásticas

and solve problems that previously were just intractable.

y resolver problemas que antes eran simplemente insolubles.

CA: So let's come back to that.

CA: Así que volvamos a eso.

But I think you also,

Pero pienso que además, no eres solo un optimista irremediable,

you're not like, an irredeemable optimist only,

you see a potential for it to go very badly in a different direction.

sino que ves la posibilidad de que las cosas vayan muy mal

en una dirección diferente.

Talk about what that pathway could look like.

Hable sobre cómo podría ser ese camino.

SL: Well, yeah, I want to explain.

SL: Bueno, sí, quiero explicarlo.

I don't believe the people

No le creo a la gente

who are sure that it's going to go very well,

que está segura de que le va a ir muy bien,

and I don't believe the people

y no le creo a la gente

who are sure that it’s going to go very, very badly.

que está segura de que le va a ir muy, muy mal.

Because what we’re talking about is an incredibly profound transition.

Porque estamos hablando de una transición increíblemente profunda.

It's like the arrival of human intelligence in the world.

Es como la llegada de la inteligencia humana al mundo.

This is another intelligence arriving in the world.

Esta es otra inteligencia que llega al mundo.

And so it is an incredibly deep transition,

Por lo tanto, se trata de una transición increíblemente profunda,

and we do not fully understand all the implications

y no entendemos completamente todas las implicaciones

and consequences of this.

y consecuencias de esto.

And so we can't be certain

Así que no podemos estar seguros de que vaya a ser esto, aquello o lo otro.

that it's going to be this, that or the other thing.

Tenemos que tener la mente abierta en cuanto a lo que pueda suceder.

So we have to be open-minded about what may happen.

I have some optimism because I think

Tengo cierto optimismo porque creo que si quieres que un sistema sea seguro,

that if you want to make a system safe,

you need to understand a lot about that system.

tienes que entender mucho sobre ese sistema.

No puedes hacer que un avión sea seguro

You can't make an airplane safe

if you don't know about how airplanes work.

si no sabes cómo funcionan los aviones.

So as we get closer to AGI,

Así pues, a medida que nos acerquemos a la IAG,

we will understand more and more about these systems,

comprenderemos más y más acerca de estos sistemas

and we will see more ways to make these systems safe,

y veremos más formas de hacer que estos sistemas sean seguros

make highly ethical AI systems.

y de crear sistemas de inteligencia artificial altamente éticos.

But there are many things we don't understand about the future.

Sin embargo, hay muchas cosas que no entendemos sobre el futuro.

So I have to accept that there is a possibility that things may go badly

Así que tengo que aceptar que existe la posibilidad de que las cosas vayan mal

because I don't know what's going to happen.

porque no sé qué va a pasar.

I can't know that about the future in such a big change.

No puedo saber eso del futuro con un cambio tan grande.

And even if the probability of something going bad is quite small,

E incluso si la probabilidad de que algo vaya mal es muy pequeña,

we should take this extremely seriously.

debemos tomárnoslo muy en serio.

CA: Paint a scenario of what going bad could look like.

CA: Pinta un escenario de cómo podría ser que saliera mal.

SL: Well, it's hard to do

SL: Bueno, es difícil de hacer

because you're talking about systems

porque estamos hablando de sistemas

that potentially have superhuman intelligence, right?

que potencialmente tienen una inteligencia sobrehumana, ¿verdad?

So there are many ways in which things would go bad in the world.

Así que hay muchas maneras en las que las cosas podrían ir mal en el mundo.

La gente a veces señala, no sé, patógenos modificados genéticamente, ¿sí?

People sometimes point to, I don't know, engineered pathogens, right?

Maybe a superintelligence could design an engineered pathogen.

Quizá una superinteligencia podría diseñar un patógeno modificado genéticamente.

It could be much more mundane things.

Podrían ser cosas mucho más mundanas.

Maybe with AGI, you know,

Puede que con el AGI,

it gets used to destabilize democracy in the world,

ya sabes, se utilice para desestabilizar la democracia en el mundo,

with, you know, propaganda or all sorts of other things like that.

con, ya sabes, propaganda o todo tipo de cosas así.

We don't know --

No lo sabemos...

CA: That one might already have happened.

CA: Es posible que eso ya haya ocurrido.

SL: There might be happening a bit already.

SL: Puede que ya esté ocurriendo un poco.

But, you know, there may be a lot more of this

Pero, ya sabes, puede haber mucho más de esto

if we have more powerful systems.

si tenemos sistemas más potentes.

So there are many ways in which societies can be destabilized.

Hay muchas maneras de desestabilizar sociedades.

And you can see that in the history books.

Se puede ver en los libros de historia.

CA: I mean, Shane, if you could have asked all humans,

CA: Shane, si se le hubiera podido preguntar a todos los humanos,

say, 15 years ago, OK, we can open a door here,

hace 15 años, OK, podemos abrir una puerta aquí,

and opening this door could lead to the best-ever outcomes for humanity.

y abrir esta puerta podría llevar a los mejores resultados

de la historia para la humanidad.

But there's also a meaningful chance,

Pero también hay una posibilidad, digamos que de más del 5 %,

let's say it's more than five percent,

that we could actually destroy our civilization.

de que podamos destruir nuestra civilización.

¿no hay posibilidad de que la mayoría de la gente hubiera dicho realmente:

I mean, isn't there a chance that most people would have actually said,

"Don't you dare open that damn door.

«No te atrevas a abrir esa maldita puerta».

Let's wait."

Esperemos».

SL: If I had a magic wand and I could slow things down,

SL: Si tuviera una varita mágica y pudiera ralentizar las cosas,

I would use that magic wand, but I don't.

la usaría, pero no la uso.

There are dozens of companies,

Hay docenas de compañías,

well, there's probably 10 companies in the world now

bueno, probablemente haya 10 compañías en el mundo

that can develop the most cutting-edge models, including, I think,

que pueden desarrollar los modelos más vanguardistas, incluyendo, pienso,

some national intelligence services who have secret projects doing this.

algunos servicios de inteligencia nacionales

que tienen proyectos secretos en este sentido.

And then there's, I don't know,

Y luego hay, no sé,

dozens of companies that can develop something that's a generation behind.

decenas de empresas que pueden desarrollar algo que lleva una generación de retraso.

And remember, intelligence is incredibly valuable.

Y recuerda que la inteligencia es increíblemente valiosa.

It's incredibly useful.

Es increíblemente útil.

We're doing this

Hacemos esto

because we can see all kinds of value that can be created in this

porque podemos ver todo tipo de valor que se puede crear en esto

for all sorts of reasons.

por todo tipo de razones.

How do you stop this process?

¿Cómo se detiene este proceso?

I don't see any realistic plan that I've heard of,

No veo ningún plan realista del que haya oído hablar

of stopping this process.

para detener este proceso

Maybe we can --

Tal vez podamos...

I think we should think about regulating things.

deberíamos pensar en regular las cosas.

I think we should do things like this as we do with every powerful technology.

Regulaciones

como en todas las tecnologías potentes.

En este caso, la IA no tiene nada de especial.

There's nothing special about AI here.

People talk about, oh, you know, how dare you talk about regulating this?

La gente dice ¿cómo te atreves a hablar de regular esto?

No, we regulate powerful technologies all the time in the interests of society.

Regulamos tecnologías poderosas todo el tiempo en beneficio de la sociedad.

And I think this is a very important thing that we should be looking at.

Es algo muy importante que deberíamos analizar.

CA: Más o menos es la primera vez que tenemos esta tecnología superpoderosa

CA: It's kind of the first time we have this superpowerful technology out there

that we literally don't understand in full how it works.

y, literalmente, no entendemos completamente cómo funciona.

Is the most single, most important thing we must do, in your view,

En tu opinión, lo más importante que debemos hacer es entender,

to understand, to understand better what on Earth is going on,

entender mejor lo que sucede en la Tierra,

para tener la menor posibilidad de orientarlo en la dirección correcta.

so that we least have a shot at pointing it in the right direction?

SL: There is a lot of energy behind capabilities at the moment

SL: Hay mucha energía detrás de las capacidades en este momento,

because there's a lot of value in developing the capabilities.

porque desarrollar las capacidades tiene mucho valor.

I think we need to see a lot more energy going into actual science,

Creo que necesitamos dedicar mucha más energía a la ciencia real,

understanding how these networks work,

entender cómo funcionan estas redes,

what they're doing, what they're not doing,

qué están haciendo, qué no están haciendo,

where they're likely to fail,

dónde es probable que fallen,

and understanding how we put these things together

y entender cómo combinamos estas cosas

so that we're able to find ways

para poder encontrar formas de hacer que estos sistemas de IAG

to make these AGI systems profoundly ethical and safe.

sean profundamente éticos y seguros.

I believe it's possible.

Creo que es posible.

But we need to mobilize more people's minds and brains

Pero necesitamos movilizar la mente y el cerebro de más personas

to finding these solutions

para encontrar estas soluciones,

so that we end up in a future

de modo que acabemos en un futuro

where we have incredibly powerful machine intelligence

en el que tengamos una IA increíblemente poderosa,

that's also profoundly ethical and safe,

que también sea profundamente ética y segura, y que mejore

and it enhances and extends humanity

y extienda a la humanidad

into, I think, a new golden period for humanity.

hasta convertirla, en mi opinión, en un nuevo período dorado para la humanidad.

CA: Shane, thank you so much for sharing that vision

CA: Shane, muchísimas gracias por compartir esa visión

and coming to TED.

y venir a TED.

(Applause)

(Aplausos)