What Is an AI Anyway? | Mustafa Suleyman | TED

Traductor: Sebastian Betti Revisor: Trina Oršić

I want to tell you what I see coming.

Quiero hablar sobre lo que veo venir.

I've been lucky enough to be working on AI for almost 15 years now.

He tenido la suerte de trabajar en IA durante casi 15 años.

Back when I started, to describe it as fringe would be an understatement.

Cuando empecé, describirlo como marginal, sería quedarse corto.

Researchers would say, “No, no, we’re only working on machine learning.”

Los investigadores decían:

“No, solo trabajamos en aprendizaje automático”.

Because working on AI was seen as way too out there.

Porque trabajar en IA se veía como algo muy alejado de la realidad.

In 2010, just the very mention of the phrase “AGI,”

En 2010, tan solo mencionar la frase “IAG”,

artificial general intelligence,

inteligencia artificial general,

would get you some seriously strange looks

daba lugar a miradas realmente extrañas

and even a cold shoulder.

e incluso que te ignoraran.

"You're actually building AGI?" people would say.

“¿De verdad estás creando IAG?“, decía la gente.

"Isn't that something out of science fiction?"

“¿No es algo sacado de la ciencia ficción?”

People thought it was 50 years away or 100 years away,

Se pensaba que faltaban 50 o 100 años, si es que era posible.

if it was even possible at all.

Talk of AI was, I guess, kind of embarrassing.

Supongo que era algo vergonzoso hablar sobre IA.

People generally thought we were weird.

Por lo general, nos consideraban raros.

And I guess in some ways we kind of were.

Y supongo que, en cierto modo, lo éramos.

It wasn't long, though, before AI started beating humans

Sin embargo, la IA no tardó mucho en superar a los humanos

at a whole range of tasks

en toda una serie de tareas

that people previously thought were way out of reach.

que antes la gente pensaba que estaban fuera de su alcance.

Analizar imágenes,

Understanding images,

translating languages,

traducir idiomas,

transcribing speech,

transcribir discursos,

playing Go and chess

jugar al Go y al ajedrez

and even diagnosing diseases.

e incluso diagnosticar enfermedades.

People started waking up to the fact

La gente empezó a darse cuenta de que la IA iba a tener un impacto enorme

that AI was going to have an enormous impact,

and they were rightly asking technologists like me

y, con razón, hacían preguntas bastante difíciles a tecnólogos como yo.

some pretty tough questions.

Is it true that AI is going to solve the climate crisis?

“¿Es cierto que la IA va a resolver la crisis climática?”

Will it make personalized education available to everyone?

“¿Hará que la educación personalizada esté disponible para todos?”

Does it mean we'll all get universal basic income

“¿Significa que habrá un ingreso básico universal

and we won't have to work anymore?

y no tendremos que trabajar?”

Should I be afraid?

“¿Debería tener miedo?”

What does it mean for weapons and war?

“¿Qué significa esto para las armas y la guerra?”

And of course, will China win?

Y, por supuesto: “¿Ganará China? ¿Estamos en una carrera?”

Are we in a race?

Are we headed for a mass misinformation apocalypse?

“¿Nos dirigimos a un enorme apocalipsis de desinformación?”

All good questions.

Todas buenas preguntas.

But it was actually a simpler

Pero, en realidad, una pregunta más simple y mucho más fundamental me dejó perplejo.

and much more kind of fundamental question that left me puzzled.

Una que, de hecho, llega a la base de mi trabajo diario.

One that actually gets to the very heart of my work every day.

One morning over breakfast,

Una mañana, mientras desayunaba,

my six-year-old nephew Caspian was playing with Pi,

mi sobrino Caspian, de seis años, estaba jugando con Pi,

the AI I created at my last company, Inflection.

la IA que creé en Inflection, la última empresa donde trabajé.

With a mouthful of scrambled eggs,

Con un bocado de huevos revueltos,

he looked at me plain in the face and said,

me miró fijamente a la cara y dijo:

"But Mustafa, what is an AI anyway?"

“Pero Mustafa, ¿qué es una IA?”

He's such a sincere and curious and optimistic little guy.

Es un chico muy sincero, curioso y optimista.

He'd been talking to Pi about how cool it would be if one day in the future,

Había estado hablando con Pi de lo genial que sería si en un futuro

he could visit dinosaurs at the zoo.

pudiera visitar a los dinosaurios en el zoológico.

And how he could make infinite amounts of chocolate at home.

Y cómo podía hacer cantidades infinitas de chocolate en casa.

And why Pi couldn’t yet play I Spy.

Y por qué Pi aún no podía jugar a I Spy.

"Well," I said, "it's a clever piece of software

Dije: “Bueno, es un software inteligente

que lee gran parte del texto que hay abiertamente en Internet

that's read most of the text on the open internet,

and it can talk to you about anything you want."

y puede hablar contigo de lo que quieras”.

"Right.

“Claro”.

So like a person then?"

“Entonces, ¿es como una persona?”

I was stumped.

Me quedé perplejo.

Genuinely left scratching my head.

De verdad, me fui rascándome la cabeza.

All my boring stock answers came rushing through my mind.

Pasaron por mi mente todas mis aburridas respuestas predefinidas.

"No, but AI is just another general-purpose technology,

“Pero la IA es solo otra tecnología de uso general,

like printing or steam."

como la impresión o el vapor”.

It will be a tool that will augment us

“Será una herramienta que nos potenciará, nos hará más inteligentes y productivos.

and make us smarter and more productive.

And when it gets better over time,

Y cuando mejore con el tiempo, será como un oráculo omnisciente

it'll be like an all-knowing oracle

that will help us solve grand scientific challenges."

que nos ayudará a resolver los grandes desafíos científicos”.

You know, all of these responses started to feel, I guess,

Todas estas respuestas empezaron a parecer, supongo,

a little bit defensive.

un poco defensivas.

And actually better suited to a policy seminar

Era más adecuado para un seminario político

than breakfast with a no-nonsense six-year-old.

que para desayunar con un niño sensato de seis años.

"Why am I hesitating?" I thought to myself.

“¿Por qué dudo?“, pensé.

You know, let's be honest.

Seamos honestos.

My nephew was asking me a simple question

Mi sobrino me hacía una pregunta sencilla

a la que los que trabajamos en IA

that those of us in AI just don't confront often enough.

no nos enfrentamos con la suficiente frecuencia.

¿Qué es lo que estamos creando realmente?

What is it that we are actually creating?

What does it mean to make something totally new,

¿Qué significa hacer algo totalmente nuevo,

fundamentally different to any invention that we have known before?

fundamentalmente diferente a cualquier invento que hayamos conocido antes?

It is clear that we are at an inflection point

Está claro que estamos en un punto de inflexión

in the history of humanity.

en la historia de la humanidad.

On our current trajectory,

En nuestra trayectoria actual,

we're headed towards the emergence of something

nos dirigimos hacia el surgimiento de algo que a todos nos cuesta describir.

that we are all struggling to describe,

and yet we cannot control what we don't understand.

Y, sin embargo, no podemos controlar lo que no entendemos.

And so the metaphors,

Por eso, las metáforas, los modelos mentales, los nombres...

the mental models,

the names, these all matter

Todo esto importa si queremos sacar el máximo provecho de la IA,

if we’re to get the most out of AI whilst limiting its potential downsides.

limitando sus posibles desventajas.

As someone who embraces the possibilities of this technology,

Como alguien que acepta abiertamente las posibilidades de esta tecnología,

but who's also always cared deeply about its ethics,

pero que también se ha preocupado mucho por su ética,

we should, I think,

creo que deberíamos poder describir fácilmente qué es lo que estamos creando.

be able to easily describe what it is we are building.

And that includes the six-year-olds.

Y eso incluye a los niños de seis años.

So it's in that spirit that I offer up today the following metaphor

Con esa mentalidad, les ofrezco la siguiente metáfora,

for helping us to try to grapple with what this moment really is.

para ayudarnos a tratar de entender lo que realmente es este momento.

I think AI should best be understood

Pienso que la IA debería entenderse mejor

as something like a new digital species.

como algo parecido a una nueva especie digital.

Now, don't take this too literally,

Ahora bien, no lo tomen al pie de la letra,

but I predict that we'll come to see them as digital companions,

pero predigo que acabaremos considerándolos compañeros digitales.

new partners in the journeys of all our lives.

Nuevos compañeros en los viajes de toda nuestra vida.

Whether you think we’re on a 10-, 20- or 30-year path here,

Ya sea que piensen que estamos a 10, 20 o 30 años,

this is, in my view, the most accurate and most fundamentally honest way

esta es, en mi opinión, la manera más precisa y fundamentalmente honesta

of describing what's actually coming.

de describir lo que realmente está por venir.

And above all, it enables everybody to prepare for

Y, sobre todo, permite a todos prepararse

and shape what comes next.

y dar forma a lo que viene después.

Now I totally get, this is a strong claim,

Entiendo que es una afirmación sólida

and I'm going to explain to everyone as best I can why I'm making it.

y voy a explicar, lo mejor que pueda, por qué la hago.

But first, let me just try to set the context.

Pero primero, permítanme intentar establecer el contexto.

From the very first microscopic organisms,

Desde los primeros organismos microscópicos,

la vida en la Tierra se remonta a miles de millones de años.

life on Earth stretches back billions of years.

Over that time, life evolved and diversified.

Durante ese tiempo, la vida evolucionó y se diversificó.

Then a few million years ago, something began to shift.

Luego, hace unos pocos millones de años, algo empezó a cambiar.

After countless cycles of growth and adaptation,

Tras innumerables ciclos de crecimiento y adaptación,

one of life’s branches began using tools, and that branch grew into us.

una de las ramas de la vida empezó a utilizar herramientas,

y esa rama se convirtió en nosotros.

We went on to produce a mesmerizing variety of tools,

Pasamos a producir una increíble variedad de herramientas.

at first slowly and then with astonishing speed,

Al principio lentamente y luego a una velocidad asombrosa,

we went from stone axes and fire

pasamos del hacha de piedra y el fuego

to language, writing and eventually industrial technologies.

al lenguaje, la escritura y, finalmente, a las tecnologías industriales.

One invention unleashed a thousand more.

Un invento dio origen a mil más.

And in time, we became homo technologicus.

Y con el tiempo, nos convertimos en homo technologicus.

Around 80 years ago,

Hace unos 80 años, comenzó otra nueva rama de la tecnología.

another new branch of technology began.

With the invention of computers,

Con la invención de las computadoras,

we quickly jumped from the first mainframes and transistors

rápido pasamos de las primeras unidades centrales y transistores

a los teléfonos inteligentes y auriculares de realidad virtual de hoy.

to today's smartphones and virtual-reality headsets.

Information, knowledge, communication, computation.

Información, conocimiento, comunicación, computación.

In this revolution,

En esta revolución, la creación se ha expandido como nunca antes.

creation has exploded like never before.

And now a new wave is upon us.

Y ahora se acerca una nueva ola.

Artificial intelligence.

La inteligencia artificial.

These waves of history are clearly speeding up,

Es evidente que estas olas históricas se están acelerando,

as each one is amplified and accelerated by the last.

ya que cada una se ve amplificada y acelerada por la anterior.

And if you look back,

Y si pensamos en todo,

it's clear that we are in the fastest

está claro que estamos en la ola más rápida y trascendental de la historia.

and most consequential wave ever.

The journeys of humanity and technology are now deeply intertwined.

Los viajes de la humanidad y la tecnología están ahora muy entrelazados.

In just 18 months,

En tan solo 18 meses,

over a billion people have used large language models.

más de mil millones de personas han utilizado modelos LLM.

We've witnessed one landmark event after another.

Hemos sido testigos de un acontecimiento histórico tras otro.

Just a few years ago, people said that AI would never be creative.

Hace solo unos años, la gente decía que la IA nunca sería creativa.

And yet AI now feels like an endless river of creativity,

Sin embargo, ahora Ia parece un río de creatividad sin fin,

making poetry and images and music and video that stretch the imagination.

que crea poesía, imágenes, música y vídeos que amplíen la imaginación.

People said it would never be empathetic.

Se decía que nunca sería empática.

And yet today, millions of people enjoy meaningful conversations with AIs,

Sin embargo, hoy en día, millones de personas

disfrutan de conversaciones significativas con la IA,

talking about their hopes and dreams

hablando sobre sus esperanzas y sueños

and helping them work through difficult emotional challenges.

y ayudándolas a superar difíciles desafíos emocionales.

AIs can now drive cars,

La IA ahora pueden conducir automóviles,

manage energy grids

gestionar redes de energía e incluso inventar nuevas moléculas.

and even invent new molecules.

Just a few years ago, each of these was impossible.

Hace tan solo unos años, cada una de ellas era imposible.

And all of this is turbocharged by spiraling exponentials of data

Y todo esto se ve impulsado

por grandes exponenciales de datos y cálculos.

and computation.

Last year, Inflection 2.5, our last model,

El año pasado, Inflection 2.5, nuestro último modelo,

used five billion times more computation

usó 5000 millones de veces más cálculos

than the DeepMind AI that beat the old-school Atari games

que la IA de DeepMind que superó a los juegos de Atari de la vieja escuela

hace poco más de 10 años.

just over 10 years ago.

That's nine orders of magnitude more computation.

Eso supone nueve órdenes de magnitud y más cálculos.

Diez veces al año,

10x per year,

every year for almost a decade.

todos los años durante casi una década.

Over the same time, the size of these models has grown

Al mismo tiempo, estos modelos han crecido,

from first tens of millions of parameters to then billions of parameters,

pasando de tener decenas de millones de parámetros

a miles de millones de parámetros

and very soon, tens of trillions of parameters.

y, muy pronto, a decenas de billones de parámetros.

If someone did nothing but read 24 hours a day for their entire life,

Si alguien no hiciera más que leer las 24 horas del día durante toda su vida,

they'd consume eight billion words.

consumiría 8000 millones de palabras.

And of course, that's a lot of words.

Y, por supuesto, son muchas palabras.

But today, the most advanced AIs consume more than eight trillion words

Pero hoy en día, las IA más avanzadas consumen más de 8 billones de palabras

en un solo mes de entrenamiento.

in a single month of training.

And all of this is set to continue.

Y todo esto va a continuar.

The long arc of technological history is now in an extraordinary new phase.

El largo arco de la historia tecnológica

se encuentra ahora en una nueva fase extraordinaria.

So what does this mean in practice?

¿Y qué significa esto en la práctica?

Well, just as the internet gave us the browser

Del mismo modo que Internet nos dio el navegador

and the smartphone gave us apps,

y los teléfonos inteligentes nos dieron aplicaciones,

the cloud-based supercomputer is ushering in a new era

la supercomputadora basada en la nube

está marcando el comienzo de una nueva era de IA omnipresente.

of ubiquitous AIs.

Everything will soon be represented by a conversational interface.

Pronto todo estará representado por una interfaz conversacional.

O, dicho de otro modo, una IA personal.

Or, to put it another way, a personal AI.

And these AIs will be infinitely knowledgeable,

Y estas IA tendrán un conocimiento infinito

and soon they'll be factually accurate and reliable.

y pronto serán fiables y precisas desde el punto de vista fáctico.

Tendrán un coeficiente intelectual casi perfecto.

They'll have near-perfect IQ.

They’ll also have exceptional EQ.

También tendrán un EQ excepcional.

They’ll be kind, supportive, empathetic.

Serán amables, comprensivos y empáticos.

These elements on their own would be transformational.

Estos elementos por sí solos serían transformadores.

Just imagine if everybody had a personalized tutor in their pocket

Imagínese si todo el mundo tuviera un tutor personalizado en el bolsillo

and access to low-cost medical advice.

y acceso a consejos médicos de bajo costo.

A lawyer and a doctor,

Un abogado y un médico,

a business strategist and coach --

un estratega empresarial y un entrenador:

all in your pocket 24 hours a day.

todo en su bolsillo las 24 horas del día.

But things really start to change when they develop what I call AQ,

Pero las cosas realmente comienzan a cambiar

cuando desarrollan lo que yo llamo AQ,

their “actions quotient.”

su «cociente de acciones».

This is their ability to actually get stuff done

Esta es su capacidad para hacer cosas

in the digital and physical world.

en el mundo digital y físico.

And before long, it won't just be people that have AIs.

Y en poco tiempo, no serán solo las personas las que tengan IA.

Strange as it may sound, every organization,

Por extraño que parezca,

cada organización, desde las pequeñas empresas

from small business to nonprofit to national government,

hasta las sin fines de lucro y el gobierno nacional,

each will have their own.

tendrá la suya propia.

Every town, building and object

Cada ciudad, edificio y objeto

will be represented by a unique interactive persona.

estará representado por una persona interactiva única.

And these won't just be mechanistic assistants.

Y no serán solo asistentes mecanicistas.

They'll be companions, confidants,

Serán compañeros, confidentes,

colegas, amigos y socios,

colleagues, friends and partners,

as varied and unique as we all are.

tan variados y únicos como lo somos todos nosotros.

At this point, AIs will convincingly imitate humans at most tasks.

En este punto, las IA imitarán de manera convincente a los humanos

en la mayoría de las tareas.

And we'll feel this at the most intimate of scales.

Y lo sentiremos en la escala más íntima.

An AI organizing a community get-together for an elderly neighbor.

Una IA que organiza una reunión comunitaria

para un vecino de edad avanzada.

A sympathetic expert helping you make sense of a difficult diagnosis.

Un experto comprensivo que le ayuda a entender un diagnóstico difícil.

But we'll also feel it at the largest scales.

Pero también lo sentiremos a gran escala.

Acelerar los descubrimientos científicos,

Accelerating scientific discovery,

autonomous cars on the roads,

coches autónomos en las carreteras,

drones in the skies.

drones en los cielos.

They'll both order the takeout and run the power station.

Ambos pedirán la comida para llevar y administrarán la central eléctrica.

They’ll interact with us and, of course, with each other.

Interactuarán con nosotros y, por supuesto, entre ellos.

They'll speak every language,

Hablarán todos los idiomas,

take in every pattern of sensor data,

asimilarán todos los patrones de datos de los sensores,

sights, sounds,

imágenes, sonidos,

streams and streams of information,

flujos y flujos de información, superando con creces

far surpassing what any one of us could consume in a thousand lifetimes.

lo que cualquiera de nosotros podría consumir en mil vidas.

So what is this?

Entonces, ¿qué es esto?

What are these AIs?

¿Qué son estas IA?

If we are to prioritize safety above all else,

Si queremos priorizar la seguridad por encima de todo,

para garantizar que esta nueva ola siempre sirva y amplifique a la humanidad,

to ensure that this new wave always serves and amplifies humanity,

then we need to find the right metaphors for what this might become.

necesitamos encontrar las metáforas correctas

sobre lo que podría convertirse en esto.

For years, we in the AI community, and I specifically,

Durante años, en la comunidad de IA, y yo en concreto,

have had a tendency to refer to this as just tools.

hemos tenido la tendencia a referirnos a esto

simplemente como herramientas.

Pero eso no capta realmente lo que realmente está sucediendo aquí.

But that doesn't really capture what's actually happening here.

AIs are clearly more dynamic,

Las IA son claramente más dinámicas,

more ambiguous, more integrated

más ambiguas, más integradas

and more emergent than mere tools,

y más emergentes que las simples herramientas,

which are entirely subject to human control.

que están totalmente sujetas al control humano.

So to contain this wave,

Por lo tanto, para contener esta ola,

to put human agency at its center

poner la acción humana en el centro

and to mitigate the inevitable unintended consequences

y mitigar las inevitables consecuencias no deseadas

that are likely to arise,

que probablemente surjan,

we should start to think about them as we might a new kind of digital species.

deberíamos empezar a pensar en ellas

como si fuéramos un nuevo tipo de especie digital.

Now it's just an analogy,

Ahora es solo una analogía,

it's not a literal description, and it's not perfect.

no es una descripción literal y no es perfecta.

Para empezar, está claro que no son biológicas

For a start, they clearly aren't biological in any traditional sense,

en ningún sentido tradicional,

but just pause for a moment

pero basta con hacer una pausa por un momento

and really think about what they already do.

y pensar realmente en lo que ya están haciendo.

They communicate in our languages.

Se comunican en nuestros idiomas.

They see what we see.

Ven lo que vemos nosotros.

They consume unimaginably large amounts of information.

Consumen cantidades inimaginablemente grandes de información.

They have memory.

Tienen memoria.

They have personality.

Tienen personalidad.

They have creativity.

Tienen creatividad.

Incluso pueden razonar hasta cierto punto

They can even reason to some extent and formulate rudimentary plans.

y formular planes rudimentarios.

They can act autonomously if we allow them.

Pueden actuar de forma autónoma si se lo permitimos.

And they do all this at levels of sophistication

Y hacen todo esto con un nivel de sofisticación

that is far beyond anything that we've ever known from a mere tool.

que supera con creces cualquier cosa que hayamos conocido

a partir de una simple herramienta.

And so saying AI is mainly about the math or the code

Por lo tanto, decir que la IA tiene que ver principalmente

con las matemáticas o el código

is like saying we humans are mainly about carbon and water.

es como decir que los humanos nos centramos principalmente

en el carbono y el agua.

It's true, but it completely misses the point.

Es cierto, pero no entiende por completo el punto.

And yes, I get it, this is a super arresting thought

Y sí, lo entiendo, es una idea muy llamativa,

but I honestly think this frame helps sharpen our focus on the critical issues.

pero sinceramente creo que este marco ayuda

a centrar nuestra atención en los temas críticos.

What are the risks?

¿Cuáles son los riesgos?

What are the boundaries that we need to impose?

¿Cuáles son los límites que debemos imponer?

What kind of AI do we want to build or allow to be built?

¿Qué tipo de IA queremos construir o permitir que se construya?

This is a story that's still unfolding.

Esta es una historia que aún se está desarrollando.

Nothing should be accepted as a given.

Nada debe aceptarse como un hecho.

We all must choose what we create.

Todos debemos elegir lo que creamos.

What AIs we bring into the world, or not.

Qué IA traemos al mundo o no.

These are the questions for all of us here today,

Estas son las preguntas para todos los que estamos aquí hoy,

and all of us alive at this moment.

y para todos los que estamos vivos en este momento.

For me, the benefits of this technology are stunningly obvious,

Para mí, los beneficios de esta tecnología son asombrosamente obvios

and they inspire my life's work every single day.

e inspiran el trabajo de toda mi vida todos los días.

But quite frankly, they'll speak for themselves.

Pero, francamente, hablarán por sí mismos.

Over the years, I've never shied away from highlighting risks

A lo largo de los años, nunca he rehuido destacar los riesgos

and talking about downsides.

y hablar sobre las desventajas.

Thinking in this way helps us focus on the huge challenges

Pensar de esta manera nos ayuda a concentrarnos en los enormes desafíos

that lie ahead for all of us.

que nos esperan a todos.

But let's be clear.

Pero seamos claros.

There is no path to progress

No hay camino hacia el progreso

where we leave technology behind.

si dejamos atrás la tecnología.

The prize for all of civilization is immense.

El premio para toda la civilización es inmenso.

Necesitamos soluciones en el cuidado de la salud y la educación

We need solutions in health care and education, to our climate crisis.

para nuestra crisis climática.

And if AI delivers just a fraction of its potential,

Y si la IA ofrece solo una fracción de su potencial,

the next decade is going to be the most productive in human history.

la próxima década será la más productiva

de la historia de la humanidad.

Here's another way to think about it.

He aquí otra forma de pensar en ello.

In the past,

En el pasado, impulsar

unlocking economic growth often came with huge downsides.

el crecimiento económico a menudo acarreaba enormes desventajas.

The economy expanded as people discovered new continents

La economía se expandió a medida que la gente descubrió nuevos continentes

and opened up new frontiers.

y abrió nuevas fronteras.

But they colonized populations at the same time.

Pero colonizaron poblaciones al mismo tiempo.

We built factories,

Construimos fábricas,

but they were grim and dangerous places to work.

pero eran lugares sombríos y peligrosos para trabajar.

Encontramos petróleo,

We struck oil,

but we polluted the planet.

pero contaminamos el planeta.

Now because we are still designing and building AI,

Ahora, dado que todavía estamos diseñando y creando IA,

we have the potential and opportunity to do it better,

tenemos el potencial y la oportunidad de hacerlo mejor,

radically better.

radicalmente mejor.

And today, we're not discovering a new continent

Y hoy, no estamos descubriendo un nuevo continente

and plundering its resources.

ni saqueando sus recursos.

We're building one from scratch.

Estamos construyendo uno desde cero.

Sometimes people say that data or chips are the 21st century’s new oil,

A veces la gente dice que los datos o los chips

son el nuevo petróleo del siglo XXI,

but that's totally the wrong image.

pero esa es una imagen totalmente equivocada.

AI is to the mind

La IA es para la mente

what nuclear fusion is to energy.

lo que la fusión nuclear es para la energía.

Limitless, abundant,

Ilimitado, abundante, que cambia el mundo.

world-changing.

And AI really is different,

Y la IA es realmente diferente,

and that means we have to think about it creatively and honestly.

y eso significa que tenemos que pensar en ello de forma creativa y honesta.

We have to push our analogies and our metaphors

Tenemos que llevar nuestras analogías y metáforas al límite

to the very limits

para poder hacer frente a lo que viene.

to be able to grapple with what's coming.

Because this is not just another invention.

Porque no se trata de un invento más.

AI is itself an infinite inventor.

La IA es en sí misma un inventor infinito.

And yes, this is exciting and promising and concerning

Y sí, esto es emocionante y prometedor y preocupante

and intriguing all at once.

e intrigante a la vez.

To be quite honest, it's pretty surreal.

Para ser honesto, es bastante surrealista.

But step back,

Pero si damos un paso atrás,

see it on the long view of glacial time,

considerándolo desde el punto de vista de la época glacial,

and these really are the very most appropriate metaphors that we have today.

estas son realmente las metáforas más apropiadas que tenemos hoy en día.

Since the beginning of life on Earth,

Desde el comienzo de la vida en la Tierra,

we've been evolving, changing

hemos estado evolucionando, cambiando

and then creating everything around us in our human world today.

y creando todo lo que nos rodea en nuestro mundo humano actual.

And AI isn't something outside of this story.

Y la IA no es algo ajeno a esta historia.

In fact, it's the very opposite.

De hecho, es todo lo contrario.

It's the whole of everything that we have created,

Es el conjunto de todo lo que hemos creado,

distilled down into something that we can all interact with

resumido en algo con lo que todos podemos interactuar

and benefit from.

y beneficiarnos.

It's a reflection of humanity across time,

Es un reflejo de la humanidad a lo largo del tiempo

and in this sense,

y, en este sentido,

it isn't a new species at all.

no se trata en absoluto de una especie nueva.

This is where the metaphors end.

Aquí es donde terminan las metáforas.

Here's what I'll tell Caspian next time he asks.

Eso le diré a Caspian la próxima vez que me pregunte.

AI isn't separate.

La IA no está separada.

AI isn't even in some senses, new.

La IA ni siquiera es, en algunos sentidos, nueva.

AI is us.

La IA somos nosotros.

It's all of us.

Somos todos nosotros.

Y esto es quizás lo más prometedor y vital de todo

And this is perhaps the most promising and vital thing of all

that even a six-year-old can get a sense for.

lo que incluso un niño de seis años puede entender.

As we build out AI,

A medida que desarrollamos la IA,

we can and must reflect all that is good,

podemos y debemos reflejar todo lo que es bueno,

all that we love,

todo lo que nos gusta

all that is special about humanity:

y todo lo que tiene de especial la humanidad:

our empathy, our kindness,

nuestra empatía, nuestra amabilidad,

our curiosity and our creativity.

nuestra curiosidad y nuestra creatividad.

This, I would argue, is the greatest challenge of the 21st century,

Yo diría que este es el mayor desafío del siglo XXI,

but also the most wonderful,

pero también la oportunidad más maravillosa,

inspiring and hopeful opportunity for all of us.

inspiradora y esperanzadora para todos nosotros.

Thank you.

Gracias.

(Applause)

(Aplausos)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Gracias, Mustafa.

It's an amazing vision and a super powerful metaphor.

Es una visión asombrosa y una metáfora superpoderosa.

Estás en una posición increíble ahora mismo.

You're in an amazing position right now.

I mean, you were connected at the hip

Es decir, estabas muy involucrado en el increíble trabajo

to the amazing work happening at OpenAI.

que se estaba realizando en OpenAI.

You’re going to have resources made available,

Tendrás recursos disponibles,

there are reports of these giant new data centers,

hay informes sobre estos nuevos y gigantescos centros de datos,

100 billion dollars invested and so forth.

se han invertido USD 100 000 millones, etc.

Y de ella puede emerger una nueva especie.

And a new species can emerge from it.

I mean, in your book,

En tu libro, además de pintar una visión increíblemente optimista,

you did, as well as painting an incredible optimistic vision,

you were super eloquent on the dangers of AI.

fuiste muy elocuente sobre los peligros de la IA.

And I'm just curious, from the view that you have now,

Y solo por curiosidad, por la visión que tienes ahora,

what is it that most keeps you up at night?

¿qué es lo que más te desvela por la noche?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman: El gran riesgo es que quedemos atrapados

in what I call the pessimism aversion trap.

en lo que llamo la trampa del pesimismo y la aversión.

You know, we have to have the courage to confront

Tenemos que tener el coraje de enfrentarnos al potencial

the potential of dark scenarios

de los escenarios oscuros

in order to get the most out of all the benefits that we see.

para aprovechar al máximo los beneficios que vemos.

So the good news is that if you look at the last two or three years,

La buena noticia es que, si vemos los últimos dos o tres años,

there have been very, very few downsides, right?

ha habido muy muy pocos inconvenientes, ¿verdad?

It’s very hard to say explicitly what harm an LLM has caused.

Es muy difícil decir explícitamente qué daño ha causado un LLM.

But that doesn’t mean that that’s what the trajectory is going to be

Pero eso no significa que esa sea la trayectoria

que va a seguir en los próximos 10 años.

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

Pienso que si prestamos atención a unas cuantas capacidades específicas,

take for example, autonomy.

tomemos, por ejemplo, la autonomía.

Autonomy is very obviously a threshold

La autonomía es, obviamente, un umbral

over which we increase risk in our society.

por encima del cual aumentamos el riesgo en nuestra sociedad.

And it's something that we should step towards very, very closely.

Y es algo en lo que debemos avanzar muy muy de cerca.

The other would be something like recursive self-improvement.

La otra sería algo así como la superación personal recursiva.

If you allow the model to independently self-improve,

Si permites que el modelo se mejore por sí mismo,

update its own code,

actualice su propio código,

explore an environment without oversight, and, you know,

explore un entorno sin supervisión,

sin que una persona tenga el control para cambiar su funcionamiento,

without a human in control to change how it operates,

that would obviously be more dangerous.

obviamente sería más peligroso.

But I think that we're still some way away from that.

Pero creo que todavía estamos un poco lejos de eso.

Todavía faltan entre 5 y 10 años para enfrentarnos realmente a eso.

I think it's still a good five to 10 years before we have to really confront that.

Pero es hora de empezar a hablar de ello.

But it's time to start talking about it now.

CA: Una especie digital, a diferencia de cualquier especie biológica,

CA: A digital species, unlike any biological species,

can replicate not in nine months,

no puede replicarse en nueve meses,

but in nine nanoseconds,

sino en nueve nanosegundos,

and produce an indefinite number of copies of itself,

y producir un número indefinido de copias de sí misma,

all of which have more power than we have in many ways.

todas las cuales tienen más potencia

que la que tenemos nosotros en muchos aspectos.

I mean, the possibility for unintended consequences seems pretty immense.

La posibilidad de que se produzcan consecuencias imprevistas parece inmensa.

And isn't it true that if a problem happens,

¿Y no es cierto que si ocurre un problema,

it could happen in an hour?

podría ocurrir en una hora?

MS: No.

MS: No.

That is really not true.

En realidad, eso no es cierto.

I think there's no evidence to suggest that.

Creo que no hay pruebas que lo sugieran.

And I think that, you know,

Pienso que eso es lo que a menudo se conoce

that’s often referred to as the “intelligence explosion.”

como la «explosión de inteligencia».

And I think it is a theoretical, hypothetical maybe

Y creo que es algo teórico, hipotético,

que quizás todos sintamos curiosidad por explorar,

that we're all kind of curious to explore,

but there's no evidence that we're anywhere near anything like that.

pero no hay pruebas de que estemos cerca de algo así.

And I think it's very important that we choose our words super carefully.

Creo que es muy importante escoger nuestras palabras con sumo cuidado.

Porque tienes razón, es una de las debilidades del encuadre por especies,

Because you're right, that's one of the weaknesses of the species framing,

that we will design the capability for self-replication into it

que diseñaremos la capacidad de autorreplicación

if people choose to do that.

si la gente así lo decide.

And I would actually argue that we should not,

Y, de hecho, yo diría que no deberíamos,

esa sería una de las capacidades peligrosas

that would be one of the dangerous capabilities

that we should step back from, right?

de las que deberíamos alejarnos, ¿sí?

Por lo tanto, no hay posibilidad de que esto «surja» accidentalmente.

So there's no chance that this will "emerge" accidentally.

I really think that's a very low probability.

Realmente creo que es una probabilidad muy baja.

It will happen if engineers deliberately design those capabilities in.

Ocurrirá si los ingenieros diseñan deliberadamente esas capacidades.

And if they don't take enough efforts to deliberately design them out.

Y si no se esfuerzan lo suficiente como para quitarlas deliberadamente.

And so this is the point of being explicit

Por lo tanto, este es el punto de ser explícitos

and transparent about trying to introduce safety by design very early on.

y transparentes a la hora de intentar introducir la seguridad

desde el diseño desde el principio.

CA: Gracias, tu visión de la humanidad inyectando en esta nueva realidad

CA: Thank you, your vision of humanity injecting into this new thing

lo mejor de nosotros mismos,

the best parts of ourselves,

avoiding all those weird, biological, freaky,

evitando todas esas tendencias raras, biológicas, espeluznantes

horrible tendencies that we can have in certain circumstances,

y horribles que podemos tener en determinadas circunstancias,

I mean, that is a very inspiring vision.

es una visión muy inspiradora.

And thank you so much for coming here and sharing it at TED.

Y muchas gracias por venir aquí y compartirlo en TED.

Thank you, good luck.

Gracias, buena suerte.

(Applause)

(Aplausos)