Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

Traductor: Paula Motter Revisor: Sebastian Betti

So I'm excited to share a few spicy thoughts on artificial intelligence.

Estoy feliz de compartir con Uds. algunos interesantes conceptos

sobre la inteligencia artificial.

But first, let's get philosophical

Primero, un poco de filosofía

by starting with this quote by Voltaire,

con esta cita de Voltaire,

an 18th century Enlightenment philosopher,

filósofo de la Ilustración del siglo XVIII, que dijo:

who said, "Common sense is not so common."

“El sentido común no es nada común”.

Turns out this quote couldn't be more relevant

Pues bien, esta cita es hoy totalmente aplicable

to artificial intelligence today.

a la inteligencia artificial.

Despite that, AI is an undeniably powerful tool,

Pese a ello, la IA es una herramienta tan poderosa

beating the world-class "Go" champion,

que le ha ganado al campeón mundial de go,

acing college admission tests and even passing the bar exam.

aprobó con altas notas los exámenes de ingreso universitario

y hasta el examen Bar.

I’m a computer scientist of 20 years,

Llevo 20 años como experta en informática,

and I work on artificial intelligence.

y me especializo en inteligencia artificial.

I am here to demystify AI.

Vine hoy a desmitificar la inteligencia artificial.

So AI today is like a Goliath.

Actualmente, la inteligencia artificial es como Goliat.

It is literally very, very large.

Es literalmente inmensa.

It is speculated that the recent ones are trained on tens of thousands of GPUs

Se cree que los últimos modelos de IA

están entrenados con miles de unidades de procesamiento gráfico, o GPU,

and a trillion words.

y un billón de palabras.

Such extreme-scale AI models,

Estos modelos de IA son de escala extrema,

often referred to as "large language models,"

generalmente llamados “grandes modelos de lenguaje”,

appear to demonstrate sparks of AGI,

muestran, al parecer, algunos signos de IAG,

artificial general intelligence.

que es la inteligencia artificial general.

Except when it makes small, silly mistakes,

Excepto cuando comete errores pequeños, tontos,

which it often does.

lo cual hace a menudo.

Many believe that whatever mistakes AI makes today

Muchos creen que cualquier error que hoy cometa la IA

puede ser fácilmente corregido con la fuerza bruta,

can be easily fixed with brute force,

bigger scale and more resources.

mayores escalas y más recursos.

What possibly could go wrong?

¿Qué podría salir mal?

So there are three immediate challenges we face already at the societal level.

Pues bien, hay tres desafíos inmediatos que ya tenemos a nivel social.

First, extreme-scale AI models are so expensive to train,

Primero, los modelos de IA a escala extrema

son muy costosos de entrenar,

y muy pocas empresas tecnológicas pueden costear esa inversión.

and only a few tech companies can afford to do so.

So we already see the concentration of power.

Allí ya vemos la concentración de poder.

But what's worse for AI safety,

Pero lo peor para la seguridad de la IA

we are now at the mercy of those few tech companies

es que ahora estamos a merced de esas pocas empresas tecnológicas,

because researchers in the larger community

porque los investigadores de la comunidad en general

do not have the means to truly inspect and dissect these models.

no tienen los medios para examinar estos modelos de manera exhaustiva.

And let's not forget their massive carbon footprint

Y no olvidemos la enorme huella de carbono

and the environmental impact.

y el impacto ambiental que causan.

And then there are these additional intellectual questions.

Por otro lado, hay cuestionamientos de tipo intelectual.

Can AI, without robust common sense, be truly safe for humanity?

¿Es la IA realmente segura para la humanidad,

siendo que carece de un sentido común sólido?

And is brute-force scale really the only way

Y ¿es con fuerza bruta

la única manera correcta de entrenar a la IA?

and even the correct way to teach AI?

So I’m often asked these days

Últimamente, me suelen preguntar

whether it's even feasible to do any meaningful research

si es incluso posible hacer una investigación seria

without extreme-scale compute.

sin computación a escala extrema.

And I work at a university and nonprofit research institute,

Yo trabajo en una universidad

y en un instituto de investigación sin fines de lucro,

so I cannot afford a massive GPU farm to create enormous language models.

así que no puedo costear una inmensa granja de GPU

para crear enormes modelos de lenguaje.

Nevertheless, I believe that there's so much we need to do

Pero creo que hay mucho que debemos y podemos hacer

and can do to make AI sustainable and humanistic.

para que la IA sea sustentable y humanista.

We need to make AI smaller, to democratize it.

Tenemos que reducir el tamaño de la IA

y democratizarla.

And we need to make AI safer by teaching human norms and values.

También debemos hacerla más segura enseñándole normas y valores humanos.

Perhaps we can draw an analogy from "David and Goliath,"

Podríamos hacer una analogía con “David y Goliat”,

here, Goliath being the extreme-scale language models,

donde Goliat encarna los modelos de lenguaje a escala extrema,

and seek inspiration from an old-time classic, "The Art of War,"

e inspirarnos en un clásico de todos los tiempos,

“El arte de la guerra”,

which tells us, in my interpretation,

que, según interpreto yo, nos dice que conozcamos al enemigo,

know your enemy, choose your battles, and innovate your weapons.

elijamos nuestras batallas e innovemos nuestras armas.

Let's start with the first, know your enemy,

Comencemos por la primera estrategia: conocer al enemigo.

which means we need to evaluate AI with scrutiny.

Significa que debemos evaluar a la IA muy en detalle.

AI is passing the bar exam.

La IA es capaz de aprobar el examen Bar,

Does that mean that AI is robust at common sense?

pero ¿quiere decir esto que la IA tiene un sentido común sólido?

You might assume so, but you never know.

Se podría pensar que sí, pero nunca se sabe.

So suppose I left five clothes to dry out in the sun,

Supongamos que dejé cinco prendas a secar al sol,

and it took them five hours to dry completely.

y que tardaron cinco horas en secarse por completo.

How long would it take to dry 30 clothes?

¿Cuánto tardarían 30 prendas en secarse?

GPT-4, the newest, greatest AI system says 30 hours.

El GPT-4, la mejor y última versión de IA, dice que tardarían 30 horas.

Not good.

Incorrecto.

A different one.

Veamos otro caso.

I have 12-liter jug and six-liter jug,

Tengo una jarra de 12 litros y otra de 6 litros,

and I want to measure six liters.

y quiero medir 6 litros.

How do I do it?

¿Cómo lo hago?

Just use the six liter jug, right?

Simplemente uso la jarra de 6 litros, ¿verdad?

GPT-4 spits out some very elaborate nonsense.

Pues bien, el GPT-4 se despacha con disparates muy elaborados.

(Laughter)

(Risas)

Step one, fill the six-liter jug,

Paso 1: Llenar la jarra de 6 litros.

step two, pour the water from six to 12-liter jug,

Paso 2: Poner esos 6 litros en la jarra de 12 litros.

step three, fill the six-liter jug again,

Paso 3: Volver a llenar la jarra de 6 litros.

step four, very carefully, pour the water from six to 12-liter jug.

Paso 4: Con cuidado, poner esos 6 litros en la jarra de 12 litros.

And finally you have six liters of water in the six-liter jug

Finalmente, tendremos 6 litros de agua en la jarra de 6 litros,

that should be empty by now.

que ahora estará vacía.

(Laughter)

(Risas)

OK, one more.

Veamos otro más.

Would I get a flat tire by bicycling over a bridge

¿Se pincharía la rueda de mi bicicleta si voy por un puente

that is suspended over nails, screws and broken glass?

construido sobre clavos, tornillos y vidrios rotos?

Yes, highly likely, GPT-4 says,

El GPT-4 dirá que es muy probable,

presumably because it cannot correctly reason

porque no estaría en condiciones de razonar

that if a bridge is suspended over the broken nails and broken glass,

que si un puente está erigido sobre clavos y vidrios rotos,

then the surface of the bridge doesn't touch the sharp objects directly.

la superficie del puente no está en contacto directo con estos objetos.

OK, so how would you feel about an AI lawyer that aced the bar exam

Ahora bien, ¿cómo se sentirían ante un abogado de IA

que aprobó el examen Bar

yet randomly fails at such basic common sense?

pero tropieza ante un planteo al azar de sentido común básico?

AI today is unbelievably intelligent and then shockingly stupid.

La IA de hoy es increíblemente lista, pero sorprendentemente tonta.

(Laughter)

(Risas)

It is an unavoidable side effect of teaching AI through brute-force scale.

Es el efecto secundario inevitable de entrenar la IA con fuerza bruta.

Some scale optimists might say, “Don’t worry about this.

Los que apoyan este tipo de escalas dirían que no debemos preocuparnos,

All of these can be easily fixed by adding similar examples

que estas fallas se subsanan fácilmente incorporando ejemplos similares

as yet more training data for AI."

y mayor cantidad datos para entrenar a la IA.

But the real question is this.

Pero la pregunta real es la siguiente:

Why should we even do that?

¿por qué llegar a esto?

You are able to get the correct answers right away

Nosotros mismos podemos arribar rápido a la respuesta correcta

without having to train yourself with similar examples.

sin necesidad de entrenarnos con ejemplos similares.

Children do not even read a trillion words

Los niños, por ejemplo, no leen un billón de palabras

to acquire such a basic level of common sense.

para llegar a ese nivel básico de sentido común.

So this observation leads us to the next wisdom,

Esta observación nos lleva al segundo consejo:

choose your battles.

elige tus batallas.

So what fundamental questions should we ask right now

Pues bien, ¿qué preguntas básicas debemos hacernos ahora

and tackle today

y tratar de responder

in order to overcome this status quo with extreme-scale AI?

para sortear este ‘statu quo’ de la IA a escala extrema?

I'll say common sense is among the top priorities.

Diría que el sentido común está entre las prioridades.

So common sense has been a long-standing challenge in AI.

De hecho, el sentido común es un desafío de larga data para la IA.

To explain why, let me draw an analogy to dark matter.

Para explicarlo, haré una analogía con la materia oscura.

So only five percent of the universe is normal matter

Tan solo el 5 % del universo es materia normal

that you can see and interact with,

que es visible y con la cual interactuamos.

and the remaining 95 percent is dark matter and dark energy.

El 95 % restante es materia oscura y energía oscura.

Dark matter is completely invisible,

La materia oscura es totalmente invisible,

but scientists speculate that it's there because it influences the visible world,

pero los científicos conjeturan que existe

porque influye en el mundo visible,

even including the trajectory of light.

aun en la trayectoria de la luz.

So for language, the normal matter is the visible text,

En el lenguaje, la materia normal es el texto visible,

and the dark matter is the unspoken rules about how the world works,

y la materia oscura son las reglas tácitas sobre el funcionamiento del mundo,

including naive physics and folk psychology,

incluso la física ingenua y la psicología popular,

which influence the way people use and interpret language.

que influyen en nuestra forma de usar e interpretar el lenguaje.

So why is this common sense even important?

Pero ¿por qué es tan importante este sentido común?

Well, in a famous thought experiment proposed by Nick Bostrom,

En un conocido experimento mental propuesto por Nick Bostrom,

AI was asked to produce and maximize the paper clips.

se ordenó a la IA que produzca y maximice clips sujetapapeles.

And that AI decided to kill humans to utilize them as additional resources,

Esa IA decidió matar personas y usarlas como un recurso más

to turn you into paper clips.

para transformarlas en clips sujetapapeles.

Because AI didn't have the basic human understanding about human values.

Esto sucedió porque la IA no tenía la comprensión humana básica

sobre los valores humanos.

Now, writing a better objective and equation

Pero crear un objetivo mejor y una ecuación más acertada

that explicitly states: “Do not kill humans”

que aclare de modo explícito la prohibición de matar personas

will not work either

tampoco funcionaría,

because AI might go ahead and kill all the trees,

porque la IA podría decidir matar todos los árboles

thinking that's a perfectly OK thing to do.

y creer que es lo correcto.

And in fact, there are endless other things

En realidad, hay un sinfín de otras cosas

that AI obviously shouldn’t do while maximizing paper clips,

que la IA no debería hacer para maximizar los clips,

including: “Don’t spread the fake news,” “Don’t steal,” “Don’t lie,”

como no difundir noticias falsas, no robar y no mentir,

which are all part of our common sense understanding about how the world works.

todas premisas de sentido común

en nuestra comprensión de cómo funciona el mundo.

However, the AI field for decades has considered common sense

Sin embargo, hace décadas que el sentido común

as a nearly impossible challenge.

es un desafío casi imposible para la IA.

So much so that when my students and colleagues and I

De hecho, cuando empecé a trabajar con la IA hace varios años

started working on it several years ago, we were very much discouraged.

junto a alumnos y colegas,

la desilusión fue muy grande.

We’ve been told that it’s a research topic of ’70s and ’80s;

Nos dijeron que esa investigación era de los años 70 y 80,

shouldn’t work on it because it will never work;

que no trabajáramos en eso porque no funcionaría,

in fact, don't even say the word to be taken seriously.

y que no dijéramos ni una palabra para que nos tomaran en serio.

Now fast forward to this year,

Pero resulta que ahora, este año,

I’m hearing: “Don’t work on it because ChatGPT has almost solved it.”

nos dicen que no hagamos nada, porque el chat GPT ya lo hizo casi todo,

And: “Just scale things up and magic will arise,

y que si escalamos las cosas, se producirá la magia,

and nothing else matters.”

y lo demás no importa.

So my position is that giving true common sense

Mi opinión es que dotar a la IA de verdadero sentido común,

human-like robots common sense to AI, is still moonshot.

robotizado pero con base humana,

sigue siendo tan ambicioso como llegar a la luna.

And you don’t reach to the Moon

Y nadie llega a la luna construyendo el edificio más alto del mundo

by making the tallest building in the world one inch taller at a time.

de a un centímetro por vez.

Extreme-scale AI models

Admito que los modelos de IA a escala extrema

do acquire an ever-more increasing amount of commonsense knowledge,

son capaces de razonar cada vez más

I'll give you that.

con base en el sentido común.

Pero recordemos que siguen tropezando con problemas tan banales

But remember, they still stumble on such trivial problems

that even children can do.

que hasta un niño puede resolver.

So AI today is awfully inefficient.

De modo que la IA de hoy es terriblemente ineficiente.

And what if there is an alternative path or path yet to be found?

Pero ¿y si hubiera una vía alternativa o una vía no descubierta aún?

A path that can build on the advancements of the deep neural networks,

Una vía que pueda aprovechar los avances en redes neuronales profundas,

but without going so extreme with the scale.

pero sin llegar a escalas tan extremas.

So this leads us to our final wisdom:

Esto nos lleva al consejo final:

innovate your weapons.

innovar nuestras armas.

In the modern-day AI context,

En el marco de la IA actual,

that means innovate your data and algorithms.

esto significa innovar en datos y algoritmos.

OK, so there are, roughly speaking, three types of data

Pues bien, en términos generales, hay tres tipos de datos

that modern AI is trained on:

con los que se entrena a la IA:

raw web data,

los datos brutos de la web,

crafted examples custom developed for AI training,

ejemplos diseñados especialmente para entrenar a la IA

and then human judgments,

y los juicios humanos,

also known as human feedback on AI performance.

que es la valoración humana sobre el rendimiento de la IA.

If the AI is only trained on the first type, raw web data,

Si entrenamos a la IA exclusivamente con los datos brutos de la web,

which is freely available,

que son de libre acceso,

it's not good because this data is loaded with racism and sexism

los resultados no serán buenos

porque esos datos están cargados de racismo, sexismo

and misinformation.

e información errónea.

So no matter how much of it you use, garbage in and garbage out.

Se usen mucho o poco, si entra basura, sale basura.

So the newest, greatest AI systems

Los sistemas de IA mejores y más recientes

are now powered with the second and third types of data

se basan ahora en el segundo y tercer tipo de datos

that are crafted and judged by human workers.

que son creados y juzgados por operadores humanos.

It's analogous to writing specialized textbooks for AI to study from

Es como escribir textos especializados para que la IA se alimente de ellos,

and then hiring human tutors to give constant feedback to AI.

y luego contratar tutores humanos

para dar valoraciones constantes a la IA.

These are proprietary data, by and large,

Generalmente, estos datos son cerrados,

speculated to cost tens of millions of dollars.

que costarían decenas de millones de dólares.

We don't know what's in this,

No sabemos qué hay detrás,

but it should be open and publicly available

pero deberían ser abiertos y de acceso público

so that we can inspect and ensure [it supports] diverse norms and values.

para poder examinarlos

y asegurarnos de que cumplan con diversas normas y valores.

So for this reason, my teams at UW and AI2

Por ello, en la Universidad de Washington y el Instituto Allen

have been working on commonsense knowledge graphs

estamos trabajando en grafos de conocimiento de sentido común

as well as moral norm repositories

y en repositorios de normas morales

to teach AI basic commonsense norms and morals.

para enseñar a la IA las normas y la ética básica del sentido común.

Our data is fully open so that anybody can inspect the content

Estos datos son totalmente abiertos.

Cualquiera puede ver su contenido y hacer las correcciones necesarias,

and make corrections as needed

because transparency is the key for such an important research topic.

porque la transparencia es clave en una investigación de esta envergadura.

Now let's think about learning algorithms.

Veamos ahora los algoritmos de aprendizaje.

No matter how amazing large language models are,

Los grandes modelos de lenguaje pueden ser excelentes,

by design

pero, por diseño, no son necesariamente los más apropiados

they may not be the best suited to serve as reliable knowledge models.

para usar como modelos de conocimiento confiables.

And these language models do acquire a vast amount of knowledge,

Y si bien esos modelos de lenguaje

son capaces de adquirir gran cantidad de conocimiento,

but they do so as a byproduct as opposed to direct learning objective.

lo hacen de manera lateral, a diferencia del aprendizaje directo.

Resulting in unwanted side effects such as hallucinated effects

Así producen efectos secundarios no deseados,

como la alucinación y la falta de sentido común.

and lack of common sense.

Now, in contrast,

Por el contrario,

el aprendizaje humano nunca tiene que ver con predecir la próxima palabra,

human learning is never about predicting which word comes next,

but it's really about making sense of the world

sino con entender el mundo

and learning how the world works.

y aprender cómo funciona.

Maybe AI should be taught that way as well.

Quizá la IA deba ser entrenada en ese sentido también.

So as a quest toward more direct commonsense knowledge acquisition,

Así que para intentar que la IA razone con un sentido común más directo,

my team has been investigating potential new algorithms,

mi equipo se puso a investigar potenciales algoritmos nuevos,

including symbolic knowledge distillation

como la destilación de conocimiento simbólico,

that can take a very large language model as shown here

que puede usar un modelo de lenguaje de gran tamaño como este,

that I couldn't fit into the screen because it's too large,

solo que no entraba en pantalla justamente por el tamaño,

and crunch that down to much smaller commonsense models

y los redujimos a modelos de sentido común mucho más pequeños

using deep neural networks.

usando redes neuronales profundas.

And in doing so, we also generate, algorithmically, human-inspectable,

De este modo, también logramos generar algorítmicamente

representaciones simbólicas basadas en razonamientos por sentido común

symbolic, commonsense knowledge representation,

que pueden ser examinadas por humanos.

so that people can inspect and make corrections

Así, la gente puede verlas, corregirlas

and even use it to train other neural commonsense models.

y hasta usarlas para entrenar en el sentido común

a otros modelos neuronales

More broadly,

Y fuimos un poco más allá

we have been tackling this seemingly impossible giant puzzle

para resolver este gran rompecabezas del sentido común,

aparentemente imposible,

of common sense, ranging from physical,

desde el sentido común físico, social y visual

social and visual common sense

to theory of minds, norms and morals.

a la teoría de la mente, las normas y la ética.

Each individual piece may seem quirky and incomplete,

Cada una de estas piezas puede parecer poco convencional e incompleta,

but when you step back,

pero si lo vemos en perspectiva,

it's almost as if these pieces weave together into a tapestry

es como si esas piezas se entrelazaran para formar un tapiz,

that we call human experience and common sense.

que es la experiencia humana y el sentido común.

We're now entering a new era

Estamos entrando a una nueva era

in which AI is almost like a new intellectual species

donde la IA es casi como una nueva especie intelectual

with unique strengths and weaknesses compared to humans.

con fortalezas y debilidades únicas distintas de los humanos.

In order to make this powerful AI

Para que esta poderosa IA

sustainable and humanistic,

sea sustentable y humanista,

we need to teach AI common sense, norms and values.

debemos entrenarla en el sentido común, las normas y los valores.

Thank you.

Gracias.

(Applause)

(Aplausos)

Chris Anderson: Look at that.

Chris Anderson: Maravilloso.

Yejin, please stay one sec.

Yejin, no te retires aún.

This is so interesting,

Me pareció sumamente interesante la idea del sentido común.

this idea of common sense.

We obviously all really want this from whatever's coming.

Claramente, es algo que todos deseamos en lo que sea que vendrá.

But help me understand.

Pero para entender mejor:

Like, so we've had this model of a child learning.

hablaste del modelo de aprendizaje de un niño.

How does a child gain common sense

¿Cómo hace un niño para adquirir sentido común,

apart from the accumulation of more input

además de acumulando más datos

and some, you know, human feedback?

y siendo valorado por humanos?

What else is there?

¿Existe otra manera?

Yejin Choi: So fundamentally, there are several things missing,

Yejin Choi: En esencia, hay varias cosas que faltan.

but one of them is, for example,

Una de ellas, por ejemplo,

the ability to make hypothesis and make experiments,

es la capacidad de formular hipótesis y hacer experimentos,

interact with the world and develop this hypothesis.

de interactuar con el mundo y desarrollar esa hipótesis.

We abstract away the concepts about how the world works,

Hacemos una abstracción de los conceptos sobre el funcionamiento del mundo,

and then that's how we truly learn,

y de ese modo aprendemos en verdad,

as opposed to today's language model.

a diferencia del modelo de lenguaje de hoy.

Some of them is really not there quite yet.

Eso aún falta.

CA: You use the analogy that we can’t get to the Moon

CA: Hiciste la analogía de que no se puede llegar a la luna

by extending a building a foot at a time.

construyendo un edificio centímetro a centímetro.

But the experience that most of us have had

Pero la experiencia de la mayoría con estos modelos de lenguaje

of these language models is not a foot at a time.

no ha sido de un centímetro por vez.

It's like, the sort of, breathtaking acceleration.

La velocidad ha sido vertiginosa.

Are you sure that given the pace at which those things are going,

¿No tienes la impresión de que a este ritmo de desarrollo,

each next level seems to be bringing with it

cada nuevo nivel parece venir

what feels kind of like wisdom and knowledge.

con una considerable dosis de sabiduría y conocimiento?

YC: I totally agree that it's remarkable how much this scaling things up

YC: Totalmente de acuerdo contigo

en que todo está escalando rápidamente

really enhances the performance across the board.

y los resultados son cada vez mejores en todas las áreas.

So there's real learning happening

Es verdad que el aprendizaje está avanzando

due to the scale of the compute and data.

gracias a la escala de la computación y de los datos.

However, there's a quality of learning that is still not quite there.

Pero aún no se ha logrado calidad de aprendizaje.

And the thing is,

El problema es que no sabemos todavía

we don't yet know whether we can fully get there or not

si ese objetivo es posible o no

just by scaling things up.

con solo escalar las cosas.

And if we cannot, then there's this question of what else?

Y si no es posible, el tema es cómo hacerlo.

And then even if we could,

Pero aunque encontráramos la manera,

do we like this idea of having very, very extreme-scale AI models

¿nos gustaría tener modelos de IA a escala tan extrema

that only a few can create and own?

que muy pocas personas pueden crear y tener?

CA: I mean, if OpenAI said, you know, "We're interested in your work,

CA: Si OpenAI dijera, por ejemplo: “Nos interesa tu trabajo.

Nos gustaría que nos ayudes a mejorar nuestro modelo”,

we would like you to help improve our model,"

can you see any way of combining what you're doing

¿verías la posibilidad de combinar lo que estás haciendo

with what they have built?

con lo que ellos han construido?

YC: Certainly what I envision

YC: Lo que yo vislumbro

will need to build on the advancements of deep neural networks.

deberá construirse sobre los avances de las redes neuronales profundas.

And it might be that there’s some scale Goldilocks Zone,

Y puede llegar a haber alguna zona de escalas adecuadas.

such that ...

Tampoco soy de los que creen

I'm not imagining that the smaller is the better either, by the way.

que cuanto menos, mejor.

It's likely that there's right amount of scale, but beyond that,

Puede que haya una escala correcta,

pero más allá de eso, la receta ganadora podría ser otra.

the winning recipe might be something else.

So some synthesis of ideas will be critical here.

De modo que, en este caso, combinar ideas sería fundamental.

CA: Yejin Choi, thank you so much for your talk.

CA: Yejin Choi, muchas gracias por esta charla.

(Applause)

(Aplausos)