How AI Is Unlocking the Secrets of Nature and the Universe | Demis Hassabis | TED

Traductor: Sebastian Betti Revisor: Alicia Brito-Antequera

Chris Anderson: Demis, so good to have you here.

Chris Anderson: Demis, me alegro de tenerte aquí.

Demis Hassabis: It's fantastic to be here, thanks, Chris.

Demis Hassabis: Es fantástico estar aquí, gracias, Chris.

Now, you told Time Magazine,

Le dijiste a la revista Time:

"I want to understand the big questions,

"Quiero entender las grandes preguntas,

the really big ones that you normally go into philosophy or physics

las cuestiones realmente importantes que normalmente

if you're interested in them.

se plantean en filosofía o física, si te interesan.

I thought building AI

Pensé que desarrollar la IA

would be the fastest route to answer some of those questions."

sería la forma más rápida de responder a algunas de esas preguntas".

Why did you think that?

¿Por qué pensaste eso?

DH: (Laughs)

DH: (Risas)

Well, I guess when I was a kid,

Bueno, supongo que cuando era niño,

my favorite subject was physics,

mi asignatura favorita era la física,

and I was interested in all the big questions,

y me interesaban todas las grandes cuestiones,

fundamental nature of reality,

la naturaleza fundamental de la realidad,

what is consciousness,

qué es la conciencia,

you know, all the big ones.

todas las grandes.

And usually you go into physics, if you're interested in that.

Y normalmente te dedicas a la física, si te interesa eso.

But I read a lot of the great physicists,

Pero he leído a muchos de los grandes físicos,

some of my all-time scientific heroes like Feynman and so on.

a mis héroes científicos de todos los tiempos, como Feynman, etc.

And I realized, in the last, sort of 20, 30 years,

Y me di cuenta de que en los últimos 20 o 30 años,

we haven't made much progress

no hemos avanzado mucho

in understanding some of these fundamental laws.

en la comprensión de algunas de estas leyes fundamentales.

So I thought, why not build the ultimate tool to help us,

Así que pensé: ¿por qué no crear la herramienta definitiva para ayudarnos,

which is artificial intelligence.

que es la IA?

Y, al mismo tiempo, tal vez también

And at the same time,

podríamos entendernos mejor a nosotros mismos

we could also maybe better understand ourselves

y al cerebro si lo hiciéramos.

and the brain better, by doing that too.

Por lo tanto, no solo era una herramienta increíble,

So not only was it incredible tool,

it was also useful for some of the big questions itself.

sino que era útil para algunas de las grandes preguntas.

CA: Super interesting.

CA: Súper interesante.

So obviously AI can do so many things,

Obviamente, la IA puede hacer muchas cosas,

but I think for this conversation,

pero pienso que para esta conversación

I'd love to focus in on this theme of what it might do

me gustaría centrarme en el tema de lo que se podría hacer

to unlock the really big questions, the giant scientific breakthroughs,

para resolver las cuestiones más importantes,

los enormes avances científicos,

because it's been such a theme driving you and your company.

porque es uno de los temas que más te ha impulsado a ti y a tu empresa.

DH: So I mean, one of the big things AI can do,

DH: Una de las grandes cosas que puede hacer la IA,

and I've always thought about,

y en las que siempre he pensado,

is we're getting, you know, even back 20, 30 years ago,

es que estamos recuperando, incluso hace 20 o 30 años,

the beginning of the internet era and computer era,

al comienzo de la era de Internet y la era de los ordenadores,

the amount of data that was being produced

la cantidad de datos que se producían

and also scientific data,

y también los datos científicos,

just too much for the human mind to comprehend in many cases.

era demasiado para que la mente humana los comprenda en muchos casos.

And I think one of the uses of AI is to find patterns and insights

Y pienso que uno de los usos de la IA es encontrar patrones e ideas

in huge amounts of data and then surface that

en enormes cantidades de datos y luego

to the human scientists to make sense of

mostrarlos a los científicos humanos para que tengan sentido

and make new hypotheses and conjectures.

y formulen nuevas hipótesis y conjeturas.

So it seems to me very compatible with the scientific method.

Por lo tanto, me parece muy compatible con el método científico.

CA: Right.

CA: Correcto.

But game play has played a huge role in your own journey

Pero el juego ha jugado un papel muy importante en tu propio viaje

in figuring this thing out.

para descubrir esto.

Who is this young lad on the left there?

¿Quién es este jovencito de la izquierda?

Who is that?

¿Quién es ese?

DH: So that was me, I think I must have been about around nine years old.

DH: Así que ese era yo, pienso que tenía unos nueve años.

I'm captaining the England Under 11 team,

Soy el capitán del equipo sub-11 de Inglaterra

and we're playing in a Four Nations tournament,

y jugamos en un torneo de Cuatro Naciones,

por eso estamos todos de rojo.

that's why we're all in red.

I think we're playing France, Scotland and Wales, I think it was.

pienso que jugamos contra Francia, Escocia y Gales, pienso que sí.

CA: That is so weird, because that happened to me too.

CA: Es muy extraño, porque también me pasó a mí.

In my dreams.

En mis sueños.

(Laughter)

(Risas)

And it wasn't just chess,

Y no era solo el ajedrez,

te encantaban todo tipo de juegos.

you loved all kinds of games.

DH: I loved all kinds of games, yeah.

DH: Me encantaban todo tipo de juegos, sí.

CA: And when you launched DeepMind,

CA: Y cuando lanzaste DeepMind,

pretty quickly, you started having it tackle game play.

con bastante rapidez, empezaste a hacer que abordara el juego.

Why?

¿Por qué?

DH: Well, look, I mean, games actually got me into AI in the first place

DH: Bueno, mira, los juegos me hicieron entrar en la IA

because while we were doing things like,

porque mientras íbamos a campos de entrenamiento

we used to go on training camps with the England team and so on.

con el equipo de Inglaterra, etc.

And actually back then,

En realidad, por aquel entonces,

I guess it was in the mid '80s,

supongo que fue a mediados de los 80,

we would use the very early chess computers,

usábamos los primeros ordenadores de ajedrez,

if you remember them, to train against,

si los recuerdas, para entrenar unos contra otros,

as well as playing against each other.

jugar unos contra otros.

Eran grandes trozos de plástico,

And they were big lumps of plastic,

you know, physical boards that you used to,

tablas físicas que

algunos recordarán al presionar las casillas hacia abajo

some of you remember, used to actually press the squares down

and there were LED lights, came on.

y se encendían luces LED.

And I remember actually, not just thinking about the chess,

Y recuerdo que no solo pensaba en el ajedrez, sino que

I was actually just fascinated by the fact that this lump of plastic,

me fascinaba el hecho de que ese trozo de plástico,

someone had programmed it to be smart

alguien lo hubiera programado para ser inteligente

and actually play chess to a really high standard.

y jugar al ajedrez con un estándar muy alto.

And I was just amazed by that.

Y eso me sorprendió.

And that got me thinking about thinking.

Y eso me hizo pensar en el pensar.

And how does the brain come up with these thought processes,

Y cómo se le ocurren al cerebro estos procesos de pensamiento,

these ideas,

estas ideas,

and then maybe how we could mimic that with computers.

y quizás cómo podríamos imitar eso con las computadoras.

So yeah, it's been a whole theme for my whole life, really.

Así que sí, la verdad es que ha sido un tema central durante toda mi vida.

CA: But you raised all this money to launch DeepMind,

CA: Pero recaudaste todo este dinero para lanzar DeepMind,

and pretty soon you were using it to do, for example, this.

y muy pronto lo usaste para hacer, por ejemplo, esto.

I mean, this is an odd use of it.

Este es un uso extraño.

What was going on here?

¿Qué estaba pasando aquí?

DH: Well, we started off with games at the beginning of DeepMind.

DH: Bueno, empezamos con los juegos al principio de DeepMind.

This was back in 2010, so this is from about 10 years ago,

Esto fue en 2010, es decir, de hace unos 10 años,

it was our first big breakthrough.

fue nuestro primer gran avance.

Because we started off with classic Atari games from the 1970s,

Porque empezamos con los juegos clásicos de Atari de la década de 1970,

the simplest kind of computer games there are out there.

los juegos de ordenador más sencillos que existen.

And one of the reasons we used games is they're very convenient

Y usamos juegos porque son muy prácticos

to test out your ideas and your algorithms.

para poner a prueba tus ideas y algoritmos.

They're really fast to test.

Son muy rápidos de probar.

And also, as your systems get more powerful,

Además, a medida que sus sistemas se hacen más potentes,

you can choose harder and harder games.

puedes elegir juegos cada vez más difíciles.

And this was actually the first time ever that our machine surprised us,

De hecho, esta fue la primera vez que nuestra máquina nos sorprendió,

the first of many times,

la primera de muchas veces,

which, it figured out in this game called Breakout,

que descubrió en un juego llamado Breakout,

that you could send the ball round the back of the wall,

que podías lanzar la pelota por atrás de la pared

and actually, it would be much safer way to knock out all the tiles of the wall.

y, de hecho, sería mucho más seguro derribar todas las fichas de la pared.

It's a classic Atari game there.

Es un juego clásico de Atari.

And that was our first real aha moment.

Fue nuestro primer momento real de ajá.

CA: So this thing was not programmed to have any strategy.

CA: No estaba programado para tener ninguna estrategia.

It was just told, try and figure out a way of winning.

Simplemente dijeron, traten de encontrar una forma de ganar.

You just move the bat at the bottom and see if you can find a way of winning.

Hay que mover el bate de abajo y ver encontrar una forma de ganar.

DH: It was a real revolution at the time.

DH: Fue una revolución en ese momento.

So this was in 2012, 2013

Fue en 2012 y 2013

where we coined these terms "deep reinforcement learning."

cuando acuñamos el término "aprendizaje por refuerzo profundo".

And the key thing about them is that those systems were learning

Y lo más importante es que esos sistemas aprendían

directly from the pixels, the raw pixels on the screen,

directamente de los píxeles sin procesar de la pantalla,

but they weren't being told anything else.

pero no se les decía nada más.

So they were being told, maximize the score,

Así que les dijeron: maximizan la puntuación,

here are the pixels on the screen,

aquí están los píxeles de la pantalla, 30 000 píxeles.

30,000 pixels.

El sistema tiene que tener sentido por sí solo,

The system has to make sense on its own from first principles

partiendo de principios básicos:

what’s going on, what it’s controlling,

qué está pasando, qué está controlando

how to get points.

y cómo conseguir puntos.

And that's the other nice thing about using games to begin with.

Y esa es la otra ventaja de usar juegos para empezar.

They have clear objectives, to win, to get scores.

Tienen objetivos claros: ganar, conseguir puntuaciones.

So you can kind of measure very easily that your systems are improving.

Así, puede medir con mucha facilidad si sus sistemas están mejorando.

CA: But there was a direct line from that to this moment

CA: Pero había una línea directa desde entonces hasta ahora,

a few years later,

unos años después,

where country of South Korea and many other parts of Asia

en el que Corea del Sur y muchas otras partes de Asia

and in fact the world went crazy over -- over what?

y, de hecho, el mundo se volvieron locos... ¿por qué?

DH: Yeah, so this was the pinnacle of -- this is in 2016 --

DH: Sí, este fue el punto culminante de... fue en 2016,

the pinnacle of our games-playing work,

el pináculo como jugador de videojuegos,

where, so we'd done Atari,

donde, al hacer Atari,

we'd done some more complicated games.

hicimos algunos juegos más complicados.

And then we reached the pinnacle, which was the game of Go,

Y luego llegamos a la cima, el Go, que se juega en Asia en lugar del ajedrez,

which is what they play in Asia instead of chess,

pero en realidad es más complejo que el ajedrez.

but it's actually more complex than chess.

And the actual brute force algorithms

Y los algoritmos de fuerza bruta

that were used to kind of crack chess were not possible with Go

que se utilizaban para descifrar el ajedrez no eran posibles con Go,

because it's a much more pattern-based game,

porque es un juego mucho más intuitivo y basado en patrones.

much more intuitive game.

Aunque Deep Blue venció a Garry Kasparov en los años 90, nuestro programa, AlphaGo,

So even though Deep Blue beat Garry Kasparov in the '90s,

it took another 20 years for our program, AlphaGo,

tardó otros 20 años en derrotar al campeón mundial en Go.

to beat the world champion at Go.

And we always thought,

Con la gente que ha estado trabajando en este proyecto durante muchos años

myself and the people working on this project for many years,

if you could build a system that could beat the world champion at Go,

siempre pensamos que de haber podido crear un sistema

capaz de derrotar al campeón del mundo en Go,

it would have had to have done something very interesting.

habría tenido que hacer algo muy interesante.

And in this case, what we did with AlphaGo,

AlphaGo básicamente aprendió por sí mismo,

is it basically learned for itself,

jugando millones y millones de partidas contra sí mismo,

by playing millions and millions of games against itself,

ideas sobre el Go y las estrategias correctas.

ideas about Go, the right strategies.

And in fact invented its own new strategies

De hecho, inventó sus propias estrategias nuevas

que el mundo del Go nunca había visto antes.

that the Go world had never seen before,

even though we've played Go for more than,

A pesar de que llevamos jugando al Go más de 2000 años.

you know, 2,000 years,

it's the oldest board game in existence.

Es el juego de mesa más antiguo que existe.

So, you know, it was pretty astounding.

Así que, fue bastante sorprendente.

Not only did it win the match,

No solo ganó el partido,

it also came up with brand new strategies.

sino que también ideó estrategias completamente nuevas.

CA: And you continued this with a new strategy

CA: Y continuaste con una nueva estrategia:

of not even really teaching it anything about Go,

ni siquiera enseñarle nada sobre el Go,

but just setting up systems

sino simplemente configurar sistemas

that just from first principles would play

que jugaran desde los principios básicos

so that they could teach themselves from scratch, Go or chess.

para que puedan aprender por sí mismos desde cero, el Go o el ajedrez.

Talk about AlphaZero and the amazing thing that happened in chess then.

Hablemos de AlphaZero y de lo increíble que ocurrió en el ajedrez de esa época.

DH: So following this, we started with AlphaGo

DH: Después de esto, empezamos con AlphaGo

by giving it all of the human games that are being played on the internet.

incluyendo todos los juegos humanos que se juegan en Internet.

So it started that as a basic starting point for its knowledge.

Empezó como un punto de partida básico para su conocimiento.

And then we wanted to see what would happen if we started from scratch,

Y luego quisimos ver qué pasaría si empezáramos desde cero,

from literally random play.

partiendo literalmente de un juego aleatorio.

So this is what AlphaZero was.

Eso era AlphaZero.

That's why it's the zero in the name,

De ahí el cero en el nombre,

because it started with zero prior knowledge

porque empezó con cero conocimiento previo

And the reason we did that is because then we would build a system

porque luego crearíamos un sistema más general.

that was more general.

So AlphaGo could only play Go,

AlphaGo solo podía jugar a Go,

but AlphaZero could play any two-player game,

pero AlphaZero podía jugar cualquier juego para dos jugadores,

and it did it by playing initially randomly

y lo hacía jugando inicialmente de forma aleatoria

and then slowly, incrementally improving.

y luego mejorando poco a poco.

Well, not very slowly, actually, within the course of 24 hours,

No muy despacio, de hecho, en el transcurso de 24 horas,

going from random to better than world-champion level.

pasó de un nivel aleatorio a uno mejor que el de campeón del mundo.

CA: Esto me parece increíble.

CA: And so this is so amazing to me.

Estoy más familiarizado con el ajedrez que con el Go.

So I'm more familiar with chess than with Go.

And for decades,

Y durante décadas,

thousands and thousands of AI experts worked on building

miles y miles de expertos en IA trabajaron en la construcción

de increíbles ordenadores de ajedrez.

incredible chess computers.

Eventually, they got better than humans.

Con el tiempo, llegaron a ser mejores que los humanos.

You had a moment a few years ago,

Hace unos años, hubo un momento en el que,

where in nine hours,

en nueve horas,

AlphaZero taught itself to play chess better than any of those systems ever did.

AlphaZero aprendió por sí mismo a jugar al ajedrez

mejor que cualquiera de esos sistemas.

Talk about that.

Habla sobre eso.

DH: It was a pretty incredible moment, actually.

DH: De hecho, fue un momento increíble.

So we set it going on chess.

Así que lo pusimos en marcha en el ajedrez.

Y como has dicho, existe una rica historia del ajedrez e IA

And as you said, there's this rich history of chess and AI

where there are these expert systems that have been programmed

se han programando sistemas expertos

with these chess ideas, chess algorithms.

con estas ideas ajedrecísticas, algoritmos ajedrecísticos.

And you have this amazing, you know,

Y existe este increíble...

I remember this day very clearly, where you sort of sit down with the system

recuerdo con mucha claridad este día, en el que te sentabas con el sistema

starting off random, you know, in the morning,

que comenzaba de forma aleatoria, por la mañana,

you go for a cup of coffee, you come back.

vas a tomar una taza de café y regresas.

I can still just about beat it by lunchtime, maybe just about.

Todavía puedo superarlo en el almuerzo, tal vez sí.

And then you let it go for another four hours.

Y luego lo dejas pasar otras cuatro horas.

And by dinner,

Y para la hora de cenar,

it's the greatest chess-playing entity that's ever existed.

es la mejor entidad ajedrecística de la historia.

And, you know, it's quite amazing,

Es increíble verlo en vivo sobre algo que conoces bien,

like, looking at that live on something that you know well,

you know, like chess, and you're expert in

como el ajedrez, y eres experto, y ver eso delante de tus ojos.

and actually just seeing that in front of your eyes.

Y luego lo extrapolas a lo que podría hacer en ciencia u otra cosa,

And then you extrapolate to what it could then do in science or something else,

que por supuesto, los juegos eran solo un medio para lograr un fin.

which of course, games were only a means to an end.

They were never the end in themselves.

Nunca fueron el fin en sí mismos.

Fueron solo el campo de entrenamiento para nuestras ideas

They were just the training ground for our ideas

and to make quick progress in a matter of, you know,

y, para progresar rápidamente en cuestión de,

less than five years actually went from Atari to Go.

menos de cinco años pasamos de Atari a Go.

CA: I mean, this is why people are in awe of AI

CA: Esta es la razón por la que la gente está asombrada por la IA

and also kind of terrified by it.

y también algo aterrorizada.

I mean, it's not just incremental improvement.

No se trata solo de una mejora gradual.

The fact that in a few hours you can achieve

El hecho de que en unas pocas horas puedas lograr

what millions of humans over centuries have not been able to achieve.

lo que millones de humanos durante siglos no han podido lograr,

That gives you pause for thought.

eso te da una pausa para pensar.

DH: It does, I mean, it's a hugely powerful technology.

DH: Sí, es una tecnología enormemente potente.

It's going to be incredibly transformative.

Va a ser increíblemente transformadora.

And we have to be very thoughtful about how we use that capability.

Y debemos ser muy cuidadosos a la hora de usar esa capacidad.

CA: So talk about this use of it because this is again,

CA: Hablemos de su uso porque, una vez más,

this is another extension of the work you've done,

es una extensión del trabajo que has realizado

where now you're turning it to something incredibly useful for the world.

ahora devenido en algo muy útil para el mundo.

What are all the letters on the left, and what’s on the right?

¿Qué son todas las letras de la izquierda y cuáles de la derecha?

DH: This was always my aim with AI from a kid,

DH: Este fue siempre mi objetivo con la IA desde niño,

which is to use it to accelerate scientific discovery.

que es usarla para acelerar los descubrimientos científicos.

And actually, ever since doing my undergrad at Cambridge,

De hecho, desde que me gradué en Cambridge,

I had this problem in mind one day for AI,

un día tuve en mente este problema para la IA:

it's called the protein-folding problem.

el llamado problema del plegamiento de proteínas.

And it's kind of like a 50-year grand challenge in biology.

Y es algo así como un gran desafío de 50 años en biología.

And it's very simple to explain.

Y es muy sencillo de explicar.

Proteins are essential to life.

Las proteínas son esenciales para la vida.

Son los componentes básicos de la vida.

They're the building blocks of life.

Everything in your body depends on proteins.

Todo en el cuerpo depende de las proteínas.

A protein is sort of described by its amino acid sequence,

Una proteína se describe en cierto modo por su secuencia de aminoácidos,

que se puede considerar más o menos como la secuencia genética que

which you can think of as roughly the genetic sequence

describing the protein, so that are the letters.

describe la proteína, así que esas son las letras.

CA: ¿Y cada letra representa en sí misma una molécula compleja?

CA: And each of those letters represents in itself a complex molecule?

DH: That's right, each of those letters is an amino acid.

DH: Así es, cada una de esas letras es un aminoácido.

Es como una especie de cadena de cuentas

And you can think of them as a kind of string of beads

there at the bottom, left, right?

en la parte inferior, a la izquierda, ¿verdad?

But in nature, in your body or in an animal,

Pero en la naturaleza, en tu cuerpo o en un animal,

this string, a sequence,

esta cuerda, una secuencia,

turns into this beautiful shape on the right.

se convierte en esta hermosa forma de la derecha.

That's the protein.

Esa es la proteína.

Those letters describe that shape.

Esas letras describen esa forma.

And that's what it looks like in nature.

Y así es como se ve en la naturaleza.

And the important thing about that 3D structure is

Y lo importante de esa estructura tridimensional es que

the 3D structure of the protein goes a long way to telling you

la estructura tridimensional de la proteína nos dice en gran medida

what its function is in the body, what it does.

cuál es su función en el cuerpo y qué hace.

And so the protein-folding problem is:

El problema del plegamiento de las proteínas es:

Can you directly predict the 3D structure just from the amino acid sequence?

¿se puede predecir la estructura tridimensional

solo a partir de la secuencia de aminoácidos?

So literally if you give the machine, the AI system,

Literalmente, si le das a la máquina, al sistema de IA,

the letters on the left,

las letras de la izquierda,

can it produce the 3D structure on the right?

¿puede producir la estructura 3D de la derecha?

And that's what AlphaFold does, our program does.

Eso hace AlphaFold, nuestro programa.

CA: It's not calculating it from the letters,

CA: No lo calcula a partir de las letras,

it's looking at patterns of other folded proteins that are known about

sino que observa los patrones de otras proteínas plegadas conocidas

and somehow learning from those patterns

y, de alguna manera, aprende de esos patrones

that this may be the way to do this?

que esta puede ser la forma de hacerlo.

DH: So when we started this project, actually straight after AlphaGo,

DH: Cuando empezamos este proyecto, después de AlphaGo,

I thought we were ready.

pensé que estábamos preparados.

Once we'd cracked Go,

Cuando descubrimos Go,

I felt we were finally ready after, you know,

sentí que por fin estábamos preparados,

almost 20 years of working on this stuff

tras casi 20 años trabajando en este material,

to actually tackle some scientific problems,

para abordar algunos problemas científicos,

incluido el plegamiento de las proteínas.

including protein folding.

And what we start with is painstakingly,

Empezamos con mucho esmero:

over the last 40-plus years,

durante los últimos 40 o más años,

experimental biologists have pieced together

los biólogos experimentales han reconstruido

around 150,000 protein structures

unas 150 000 estructuras proteicas

using very complicated, you know, X-ray crystallography techniques

mediante técnicas muy complicadas de cristalografía de rayos X

and other complicated experimental techniques.

y otras técnicas experimentales complicadas.

Y la regla general es que un estudiante de doctorado

And the rule of thumb is

that it takes one PhD student their whole PhD,

tarda todo su doctorado, es decir, cuatro o cinco años,

so four or five years, to uncover one structure.

en descubrir una estructura.

But there are 200 million proteins known to nature.

Pero hay 200 millones de proteínas conocidas en la naturaleza.

So you could just, you know, take forever to do that.

Así que podrías tardar una eternidad en hacerlo.

And so we managed to actually fold, using AlphaFold, in one year,

Usando AlphaFold, logramos plegar en un año

all those 200 million proteins known to science.

esos 200 millones de proteínas conocidas por la ciencia.

So that's a billion years of PhD time saved.

Eso supone un ahorro de mil millones de años de tiempo de doctorado.

(Applause)

(Aplausos)

CA: So it's amazing to me just how reliably it works.

CA: Me sorprende la fiabilidad con la que funciona.

I mean, this shows, you know,

Esto muestra...

here's the model and you do the experiment.

aquí está el modelo y tú haces el experimento.

And sure enough, the protein turns out the same way.

Y, por supuesto, la proteína resulta de la misma manera.

Times 200 million.

200 millones de veces.

DH: And the more deeply you go into proteins,

DH: Cuanto más profundizas en las proteínas,

you just start appreciating how exquisite they are.

empiezas a apreciar lo exquisitas que son.

I mean, look at how beautiful these proteins are.

Mira lo hermosas que son estas proteínas.

And each of these things do a special function in nature.

Cada una cumple una función especial en la naturaleza.

And they're almost like works of art.

Y son casi como obras de arte.

And it's still astounds me today that AlphaFold can predict,

Y todavía hoy me sorprende que AlphaFold pueda predecir,

the green is the ground truth, and the blue is the prediction,

el verde es la verdad fundamental y el azul es la predicción,

how well it can predict, is to within the width of an atom on average,

qué tan bien puede predecir, con una precisión media del ancho de un átomo,

is how accurate the prediction is,

qué tan precisa es la predicción,

which is what is needed for biologists to use it,

es lo que necesitan los biólogos para usarla, y para diseñar fármacos

and for drug design and for disease understanding,

y entender enfermedades,

which is what AlphaFold unlocks.

que es lo que hace AlphaFold.

CA: You made a surprising decision,

CA: Tomaste una decisión sorprendente,

which was to give away the actual results of your 200 million proteins.

que fue revelar los resultados reales de tus 200 millones de proteínas.

DH: We open-sourced AlphaFold and gave everything away

DH: Creamos el código abierto de AlphaFold y regalamos todo lo que

on a huge database with our wonderful colleagues,

había en una enorme base de datos,

the European Bioinformatics Institute.

con el Instituto Europeo de Bioinformática.

(Applause)

(Aplausos)

CA: I mean, you're part of Google.

CA: Eres parte de Google.

Was there a phone call saying, "Uh, Demis, what did you just do?"

Hubo una llamada telefónica que decía: "Demis, ¿qué acabas de hacer?"

DH: You know, I'm lucky we have very supportive,

DH: Tengo suerte de que contamos con todo el apoyo.

Google's really supportive of science

Google apoya realmente la ciencia

and understand the benefits this can bring to the world.

y entiende los beneficios que esto puede aportar al mundo.

And, you know, the argument here

Y el argumento aquí

was that we could only ever have even scratched the surface

era que solo podríamos haber arañado la superficie

of the potential of what we could do with this.

del potencial de lo que podríamos hacer con esto.

This, you know, maybe like a millionth

Esto tal vez sea una millonésima parte

of what the scientific community is doing with it.

de lo que la comunidad científica está haciendo con él.

There's over a million and a half biologists around the world

Más de un millón y medio de biólogos de todo el mundo

have used AlphaFold and its predictions.

han utilizado AlphaFold y sus predicciones.

We think that's almost every biologist in the world

Creemos que casi todos los biólogos del mundo

is making use of this now, every pharma company.

usan esta tecnología, todas las compañías farmacéuticas.

So we'll never know probably what the full impact of it all is.

Quizás nunca sabremos cuál es el impacto total de todo esto.

CA: But you're continuing this work in a new company

CA: Pero tú continúas con este trabajo en una nueva empresa

that's spinning out of Google called Isomorph.

que está surgiendo de Google llamada Isomorphic.

DH: Isomorphic.

DH: Isomorphic.

CA: Isomorphic.

CA: Isomorphic.

Give us just a sense of the vision there.

Danos una idea de la visión que hay allí.

What's the vision?

¿Cuál es la visión?

DH: AlphaFold es una especie de herramienta biológica fundamental.

DH: AlphaFold is a sort of fundamental biology tool.

Like, what are these 3D structures,

Por ejemplo, ¿qué son estas estructuras tridimensionales

and then what might they do in nature?

y qué podrían hacer en la naturaleza?

And then if you, you know,

Y si, pensé en esto

the reason I thought about this and was so excited about this,

y me entusiasmó esto,

is that this is the beginnings of understanding disease

porque es el principio para comprender la enfermedad

and also maybe helpful for designing drugs.

y también puede ser útil para diseñar fármacos.

So if you know the shape of the protein,

Si conoces la forma de la proteína,

and then you can kind of figure out

puedes averiguar a qué parte

which part of the surface of the protein

de la superficie de la proteína

you're going to target with your drug compound.

vas a atacar con el compuesto farmacológico.

And Isomorphic is extending this work we did in AlphaFold

Y Isomorphic amplía el trabajo que hicimos en AlphaFold

into the chemistry space,

al campo de la química,

where we can design chemical compounds

donde podemos diseñar compuestos químicos

that will bind exactly to the right spot on the protein

que se unan exactamente al punto correcto de la proteína

and also, importantly, to nothing else in the body.

y, lo que es más importante, a ninguna otra parte del cuerpo.

So it doesn't have any side effects and it's not toxic and so on.

Por lo tanto, no tiene efectos secundarios y no es tóxico, etc.

And we're building many other AI models,

Y estamos creando muchos otros modelos de IA,

sort of sister models to AlphaFold

algo así como modelos similares a AlphaFold,

to help predict,

para ayudar a hacer predicciones

make predictions in chemistry space.

en el ámbito de la química.

CA: So we can expect to see

CA: Por lo tanto, podemos esperar ver

some pretty dramatic health medicine breakthroughs

algunos avances importantes en la medicina de la salud

in the coming few years.

en los próximos años.

DH: I think we'll be able to get down drug discovery

DH: Pienso que podremos reducir el descubrimiento de fármacos

from years to maybe months.

de años a quizás meses.

CA: OK. Demis, I'd like to change direction a bit.

CA: Bien. Demis, me gustaría cambiar un poco de dirección.

Our mutual friend, Liv Boeree, gave a talk last year at TEDAI

Nuestra amiga común, Liv Boeree, dio una charla el año pasado en TEDAI

that she called the “Moloch Trap.”

a la que llamó la "trampa de Moloch".

The Moloch Trap is a situation

La trampa de Moloch es una situación

where organizations,

en la que las organizaciones, las empresas,

companies in a competitive situation can be driven to do things

que compiten, pueden verse obligadas a hacer cosas

that no individual running those companies would by themselves do.

que ninguna persona que dirija esas empresas haría por sí sola.

I was really struck by this talk,

Esta charla me impresionó mucho

and it's felt, as a sort of layperson observer,

y, como observador no especializado en la materia, tengo la impresión

that the Moloch Trap has been shockingly in effect in the last couple of years.

de que la Trampa de Moloch se ha dado mucho en los últimos dos años.

So here you are with DeepMind,

Aquí están con DeepMind buscando asombrosos avances médicos

sort of pursuing these amazing medical breakthroughs

and scientific breakthroughs,

y científicos, y de repente, sin pensarlo dos veces,

and then suddenly, kind of out of left field,

OpenAI con Microsoft lanza ChatGPT.

OpenAI with Microsoft releases ChatGPT.

And the world goes crazy and suddenly goes, “Holy crap, AI is ...”

El mundo se vuelve loco y dice: “Vaya, la IA es...”

you know, everyone can use it.

todo el mundo puede usarla.

And there’s a sort of, it felt like the Moloch Trap in action.

Y hay una especie de... pareciera la trampa de Moloch en acción.

I think Microsoft CEO Satya Nadella actually said,

Pienso que el director ejecutivo de Microsoft, Satya Nadella, dijo:

"Google is the 800-pound gorilla in the search space.

“Google es el gorila de 400 kilos en el mundo de las búsquedas.

We wanted to make Google dance."

Queríamos hacer bailar a Google".

How ...?

¿Cómo...?

And it did, Google did dance.

Y lo hizo, Google bailó.

There was a dramatic response.

Hubo una respuesta drástica.

Your role was changed,

Cambiaste tu rol y te hiciste cargo

you took over the whole Google AI effort.

de todo el esfuerzo de IA de Google.

Products were rushed out.

Los productos se distribuyeron a toda prisa.

You know, Gemini, some part amazing, part embarrassing.

Gemini, en parte increíble, en parte embarazoso.

I’m not going to ask you about Gemini because you’ve addressed it elsewhere.

No te voy a preguntar sobre Gemini porque lo has abordado en otro lugar.

But it feels like this was the Moloch Trap happening,

Pero parece que esto fue lo que ocurrió en la trampa de Moloch,

that you and others were pushed to do stuff

que junto a otros se vieron obligados a hacer cosas

that you wouldn't have done without this sort of catalyzing competitive thing.

que no habrían hecho sin este tipo de actividad catalizadora de la competencia.

Meta did something similar as well.

Meta también hizo algo similar.

They rushed out an open-source version of AI,

Se apresuraron a lanzar una versión de código abierto de la IA,

which is arguably a reckless act in itself.

lo que podría decirse que es un acto imprudente en sí mismo.

This seems terrifying to me.

Esto me parece aterrador.

Is it terrifying?

¿Es aterrador?

DH: Look, it's a complicated topic, of course.

DH: Mira, es un tema complicado, por supuesto.

And, first of all, I mean, there are many things to say about it.

En primer lugar, hay muchas cosas que decir al respecto.

First of all, we were working on many large language models.

Trabajábamos en muchos modelos lingüísticos de gran tamaño.

And in fact, obviously, Google research actually invented Transformers,

Y de hecho, obviamente, Google Research inventó los Transformers,

as you know,

como saben,

which was the architecture that allowed all this to be possible,

la arquitectura que permitió que todo esto fuera posible,

five, six years ago.

hace cinco o seis años.

And so we had many large models internally.

Por eso teníamos muchos modelos grandes internamente.

The thing was, I think what the ChatGPT moment did that changed was,

pienso que lo que cambió con el momento de ChatGPT fue que demostraron,

and fair play to them to do that, was they demonstrated,

y lo que les pareció justo, que demostraron,

I think somewhat surprisingly to themselves as well,

algo que también me sorprendió, y a ellos mismos,

that the public were ready to,

que el público en general estaba dispuesto

you know, the general public were ready to embrace these systems

a adoptar estos sistemas y, de hecho, encontrarles valor.

and actually find value in these systems.

Por impresionantes que sean, supongo, cuando trabajamos en estos sistemas,

Impressive though they are, I guess, when we're working on these systems,

la mayoría de las veces te centras en los defectos y las cosas que no hacen

mostly you're focusing on the flaws and the things they don't do

and hallucinations and things you're all familiar with now.

y en las alucinaciones y eso que nos resulta familiar ahora.

We're thinking, you know,

Pensábamos, ¿alguien lo encontraría útil dado que hace esto y aquello?

would anyone really find that useful given that it does this and that?

Y nos gustaría que primero mejoraran esas cosas,

And we would want them to improve those things first,

before putting them out.

antes de publicarlas.

Pero, curiosamente, resultó que, incluso con esos defectos,

But interestingly, it turned out that even with those flaws,

many tens of millions of people still find them very useful.

muchas decenas de millones de personas todavía los encuentran muy útiles.

And so that was an interesting update on maybe the convergence of products

Fue una novedad interesante sobre la posible convergencia de los productos

and the science that actually,

y la ciencia en el sentido de que

all of these amazing things we've been doing in the lab, so to speak,

las cosas asombrosas que hemos estado haciendo en el laboratorio,

are actually ready for prime time for general use,

por así decirlo, están listas para su uso general,

beyond the rarefied world of science.

más allá del enrarecido mundo de la ciencia.

And I think that's pretty exciting in many ways.

Y pienso que es muy emocionante en muchos sentidos.

CA: So at the moment, we've got this exciting array of products

CA: Por el momento, tenemos esta increíble variedad de productos

which we're all enjoying.

que todos disfrutamos.

And, you know, all this generative AI stuff is amazing.

Y todo esto de la IA generativa es increíble.

But let's roll the clock forward a bit.

Pero avancemos un poco el reloj.

Microsoft and OpenAI are reported to be building

Se informa que Microsoft y OpenAI están creando

or investing like 100 billion dollars

o invirtiendo alrededor de USD 100 000 millones

into an absolute monster database supercomputer

en un superordenador de bases de datos absolutamente monstruoso

that can offer compute at orders of magnitude

que puede ofrecer procesamiento en órdenes de magnitud

more than anything we have today.

más que cualquier otro de los que tenemos hoy en día.

Se estima que se necesitan

It takes like five gigawatts of energy to drive this, it's estimated.

unos cinco gigavatios de energía para impulsarlo.

That's the energy of New York City to drive a data center.

Es la energía de la ciudad de Nueva York para impulsar un centro de datos.

So we're pumping all this energy into this giant, vast brain.

Estamos inyectando toda esta energía a este enorme y vasto cerebro.

Google, I presume is going to match this type of investment, right?

Supongo que Google va a igualar este tipo de inversión, ¿verdad?

DH: Well, I mean, we don't talk about our specific numbers,

DH: Bueno, no hablamos de nuestras cifras específicas,

but you know, I think we're investing more than that over time.

pero pienso que estamos invirtiendo más que eso con el tiempo.

So, and that's one of the reasons

Y esa es una de las razones por las que

we teamed up with Google back in 2014,

nos asociamos con Google en 2014,

is kind of we knew that in order to get to AGI,

porque sabíamos que, para llegar a la IAG,

we would need a lot of compute.

necesitaríamos mucho cálculo.

And that's what's transpired.

Y eso es lo que ha ocurrido.

And Google, you know, had and still has the most computers.

Y Google tenía, y sigue teniendo, el mayor número de ordenadores.

CA: So Earth is building these giant computers

CA: La Tierra está construyendo estos ordenadores gigantes

that are going to basically, these giant brains,

que, básicamente, van a ser cerebros gigantes,

that are going to power so much of the future economy.

y van a alimentar a gran parte de la economía del futuro.

And it's all by companies that are in competition with each other.

Todo obra de empresas que compiten entre sí.

How will we avoid the situation where someone is getting a lead,

¿Cómo evitaremos la situación en la que alguien se adelante?

someone else has got 100 billion dollars invested in their thing.

Alguien más tenga USD 100 000 millones invertidos en lo suyo.

Isn't someone going to go, "Wait a sec.

¿No va a decir alguien: “Espera un segundo.

If we used reinforcement learning here

Si usáramos el aprendizaje por refuerzo

to maybe have the AI tweak its own code

para que la IA modificara su propio código

and rewrite itself and make it so [powerful],

y lo reescribiera para hacerlo muy [potente], tal vez

we might be able to catch up in nine hours over the weekend

pudiéramos ponernos al día en 9 horas durante el fin de semana

with what they're doing.

con lo que están haciendo.

Roll the dice, dammit, we have no choice.

Tira los dados, no tenemos otra opción.

Otherwise we're going to lose a fortune for our shareholders."

De lo contrario, perderemos una fortuna de los accionistas”?

How are we going to avoid that?

¿Cómo evitarlo?

DH: Yeah, well, we must avoid that, of course, clearly.

DH: Debemos evitarlo, por supuesto, claramente.

And my view is that as we get closer to AGI,

Y mi opinión es que, a medida que nos acercamos a la IAG,

we need to collaborate more.

necesitamos colaborar más.

And the good news is that most of the scientists involved in these labs

Y la buena noticia es que la mayoría de los científicos

que trabajan en estos laboratorios se conocen muy bien.

know each other very well.

And we talk to each other a lot at conferences and other things.

Y hablamos mucho entre nosotros en las conferencias y otros espacios.

And this technology is still relatively nascent.

Y esta tecnología es aún relativamente incipiente.

So probably it's OK what's happening at the moment.

Quizás esté bien lo que sucede en este momento.

But as we get closer to AGI, I think as a society,

Pero conforme nos acercamos a la IAG, pienso que, como sociedad,

we need to start thinking about the types of architectures that get built.

debemos empezar a pensar en los tipos de arquitecturas que se crean.

So I'm very optimistic, of course,

Por eso soy muy optimista, y por eso

that's why I spent my whole life working on AI and working towards AGI.

he pasado toda mi vida trabajando en la IA y trabajando en la creación de la IAG.

But I suspect there are many ways to build the architecture safely, robustly,

Pero sospecho que hay muchas maneras de construir la arquitectura

reliably and in an understandable way.

de forma segura, sólida, fiable y comprensible.

And I think there are almost certainly going to be ways of building architectures

Y pienso que es casi seguro que habrá formas de construir arquitecturas

that are unsafe or risky in some form.

inseguras o riesgosas en alguna forma.

So I see a sort of,

Por lo tanto,

a kind of bottleneck that we have to get humanity through,

veo un cuello de botella a superar para la humanidad,

which is building safe architectures as the first types of AGI systems.

que consiste en construir arquitecturas seguras

como los primeros tipos de sistemas IAG.

And then after that, we can have a sort of,

Luego, un florecimiento de muchos sistemas

a flourishing of many different types of systems

that are perhaps sharded off those safe architectures

quizás separados de aquellas arquitecturas seguras

that ideally have some mathematical guarantees

que, idealmente, tienen algunas garantías matemáticas

o, al menos, prácticas en cuanto a lo que hacen.

or at least some practical guarantees around what they do.

CA: ¿Tienen los gobiernos un papel esencial aquí

CA: Do governments have an essential role here

to define what a level playing field looks like

para definir la igualdad de condiciones

and what is absolutely taboo?

y qué es absolutamente tabú?

DH: Yeah, I think it's not just about --

DH: Sí, pienso que no es solo...

que el gobierno, la sociedad civil y el mundo académico

actually I think government and civil society

and academia and all parts of society have a critical role to play here

y los sectores de la sociedad que desempeñan un papel fundamental

to shape, along with industry labs,

para dar forma, junto con los laboratorios industriales,

what that should look like as we get closer to AGI

a cómo debería ser eso a medida que nos acerquemos a la IAG

and the cooperation needed and the collaboration needed,

y a la cooperación y la colaboración necesarias,

to prevent that kind of runaway race dynamic happening.

para evitar que se produzca esa dinámica racial desbocada.

CA: OK, well, it sounds like you remain optimistic.

CA: Parece que sigues siendo optimista.

What's this image here?

¿Qué es esta imagen?

DH: That's one of my favorite images, actually.

DH: En realidad, es una de mis imágenes favoritas.

I call it, like, the tree of all knowledge.

Lo llamo árbol de todo conocimiento.

So, you know, we've been talking a lot about science,

Hemos estado hablando mucho de ciencia,

and a lot of science can be boiled down to

y se puede resumir mucha ciencia

if you imagine all the knowledge that exists in the world

si te imaginas todo el conocimiento que existe en el mundo

as a tree of knowledge,

como un árbol del conocimiento,

and then maybe what we know today as a civilization is some, you know,

y quizás lo que hoy conocemos como civilización

sea un pequeño subconjunto de eso.

small subset of that.

And I see AI as this tool that allows us,

Considero que la IA es una herramienta que nos permite,

como científicos, explorar, potencialmente,

as scientists, to explore, potentially, the entire tree one day.

el árbol entero algún día.

And we have this idea of root node problems

Y esta idea de los problemas en los nódulos radiculares

como en AlphaFold, el problema del plegamiento de las proteínas,

that, like AlphaFold, the protein-folding problem,

where if you could crack them,

en el que, si pudiéramos descifrarlos,

it unlocks an entire new branch of discovery or new research.

se desbloquearía toda una nueva rama de descubrimiento o investigación.

And that's what we try and focus on at DeepMind

Y en eso intentamos centrarnos en DeepMind

and Google DeepMind to crack those.

y Google DeepMind para resolverlos.

And if we get this right, then I think we could be, you know,

Y si lo entendemos bien, entonces pienso que podríamos estar,

in this incredible new era of radical abundance,

en esta increíble nueva era de abundancia radical,

curing all diseases,

curando todas las enfermedades

spreading consciousness to the stars.

y esparciendo la conciencia hasta las estrellas.

You know, maximum human flourishing.

Al máximo florecimiento humano.

CA: Se nos acaba el tiempo,

CA: We're out of time,

but what's the last example of like, in your dreams,

¿cuál es el último ejemplo, esa cuestión onírica

this dream question that you think there is a shot

donde piensas que hay una oportunidad en IA

that in your lifetime AI might take us to?

durante el transcurso de tu vida?

DH: I mean, once AGI is built,

DH: Una vez que se construya la IAG,

what I'd like to use it for is to try and use it to understand

me gustaría usarla para tratar de entender

the fundamental nature of reality.

la naturaleza fundamental de la realidad,

So do experiments at the Planck scale.

para hacer experimentos en la escala de Planck,

You know, the smallest possible scale, theoretical scale,

la escala más pequeña posible, la escala teórica,

which is almost like the resolution of reality.

que es casi como la resolución de la realidad.

CA: You know, I was brought up religious.

CA: Me criaron en la religión.

And in the Bible, there’s a story about the tree of knowledge

Y en la Biblia hay una historia sobre el árbol del conocimiento

that doesn't work out very well.

que no funciona muy bien.

(Laughter)

(Risas)

Is there any scenario

¿Hay algún escenario en el que

where we discover knowledge that the universe says,

descubramos el conocimiento de que el universo diga:

"Humans, you may not know that."

"Humanos, puede que no lo sepan"?

DH: Potentially.

DH: Potencialmente.

I mean, there might be some unknowable things.

Puede haber algunas cosas desconocidas.

But I think scientific method is the greatest sort of invention

Pero pienso que el método científico es el mejor invento que se le haya ocurrido

humans have ever come up with.

a los humanos.

You know, the enlightenment and scientific discovery.

La Ilustración y el descubrimiento científico.

That's what's built this incredible modern civilization around us

Eso es lo que ha construido esta increíble civilización moderna

and all the tools that we use.

en torno a nosotros y a todas las herramientas que utilizamos.

So I think it's the best technique we have

Pienso que es la mejor técnica que tenemos

for understanding the enormity of the universe around us.

para entender la enormidad del universo que nos rodea.

CA: Well, Demis, you've already changed the world.

CA: Bueno, Demis, ya has cambiado el mundo.

I think probably everyone here will be cheering you on

Pienso que probablemente todos los presentes te apoyarán

in your efforts to ensure that we continue to accelerate

en tus esfuerzos por garantizar que sigamos acelerando

in the right direction.

en la dirección correcta.

DH: Thank you.

DH: Gracias.

CA: Demis Hassabis.

CA: Demis Hassabis.

(Applause)

(Aplausos)