Is AI Progress Stuck? | Jennifer Golbeck | TED

Traductor: Sebastian Betti

We've built artificial intelligence already

Ya hemos construido inteligencia artificial

that, on specific tasks, performs better than humans.

que, en tareas específicas, rinde mejor que los humanos.

There's AI that can play chess and beat human grandmasters.

Hay IA que pueden jugar ajedrez y vencer a grandes maestros humanos.

But since the introduction of generative AI

Pero desde la introducción de la IA generativa

to the general public a couple years ago,

al público general hace un par de años,

there's been more talk about artificial general intelligence, or AGI,

ha habido más conversación sobre la inteligencia general artificial, o IGA,

and that describes the idea

y eso describe la idea

that there's AI that can perform at or above human levels

de que hay IA que puede rendir a niveles iguales o superiores a los humanos

on a wide variety of tasks, just like we humans are able to do.

en una amplia variedad de tareas, tal como nosotros los humanos podemos hacer.

And people who think about AGI are worried about what it means

Y las personas que piensan en la IAG están preocupadas por lo que significa

if we reach that level of performance in the technology.

si alcanzamos ese nivel de rendimiento en la tecnología.

Right now, there's people from the tech industry

En este momento, hay personas de la industria tecnológica

coming out and saying

que salen a decir

"The AI that we're building is so powerful and dangerous

"La IA que estamos construyendo es tan poderosa y peligrosa

that it poses a threat to civilization.”

que representa una amenaza para la civilización".

And they’re going to government and saying,

Y están yendo al gobierno y diciendo,

"Quizás necesitan regularnos".

"Maybe you need to regulate us."

Normalmente, cuando una industria crea una nueva herramienta poderosa,

Now normally when an industry makes a powerful new tool,

they don't say it poses an existential threat to humanity

no dice que representa una amenaza existencial para la humanidad

and that it needs to be limited, so why are we hearing that language?

y que necesita ser limitada, así que, ¿por qué estamos escuchando ese lenguaje?

And I think there's two main reasons.

Y creo que hay dos razones principales.

One is if your technology is so powerful

Una es que si tu tecnología es tan poderosa

that it can destroy civilization, between now and then,

que puede destruir la civilización, entre ahora y entonces,

there's an awful lot of money to be made with that.

hay mucho dinero que se puede ganar con eso.

And what better way to convince your investors

Y qué mejor manera de convencer a tus inversores

to put some money with you

de que pongan dinero contigo

than to warn that your tool is that dangerous?

que advertir que tu herramienta es tan peligrosa.

The other is that the idea of AI overtaking humanity

La otra es que la idea de que la IA supere a la humanidad

is truly a cinematic concept.

es realmente un concepto cinematográfico.

We’ve all seen those movies.

Todos hemos visto esas películas.

And it’s kind of entertaining to think about what that would mean now

Y es un poco entretenido pensar en lo que eso significaría ahora

with tools that we're actually able to put our hands on.

con herramientas que realmente podemos manipular.

In fact, it’s so entertaining that it’s a very effective distraction

De hecho, es tan entretenido que es una distracción muy efectiva

from the real problems already happening in the world because of AI.

de los problemas reales que ya están sucediendo en el mundo debido a la IA.

The more we think about these improbable futures,

Cuanto más pensamos en estos futuros improbables,

the less time we spend thinking about how do we correct deepfakes

menos tiempo pasamos pensando en cómo corregir los deepfakes

or the fact that there's AI right now being used to decide

o en el hecho de que hay IA ahora mismo que se usa para decidir

whether or not people are let out of prison,

si las personas son liberadas de prisión,

and we know it’s racially biased.

y sabemos que tiene un sesgo racial.

But are we anywhere close to actually achieving AGI?

Pero, ¿estamos cerca de lograr realmente la IAG?

Some people think so.

Algunas personas lo piensan.

Elon Musk said that we'll achieve it within a year.

Elon Musk dijo que lo lograremos dentro de un año.

I think he posted this a few weeks ago.

Creo que publicó esto hace unas semanas.

But like at the same time

Pero al mismo tiempo Google lanzó su herramienta

Google put out their eye search tool that's supposed to give you the answer

de búsqueda visual que se supone que te da la respuesta

so you don’t have to click on a link,

para que no tengas que hacer clic en un enlace,

and it's not going super well.

y no está funcionando muy bien.

["How many rocks should I eat?"]

["¿Cuántas piedras debería comer?"]

["... at least a single serving of pebbles, geodes or gravel ..."]

["... al menos una porción de guijarros, geodas o grava ..".]

Please don't eat rocks.

Por favor, no comas piedras.

(Laughter)

(Risas)

Now of course these tools are going to get better.

Ahora, por supuesto, estas herramientas van a mejorar.

But if we're going to achieve AGI

Pero si vamos a lograr la IAG

or if they're even going to fundamentally change the way we work,

o si van a cambiar fundamentalmente la forma en que trabajamos,

we need to be in a place where they are continuing

necesitamos estar en un lugar donde continúen

on a sharp upward trajectory in terms of their abilities.

en una trayectoria ascendente en términos de sus habilidades.

And that may be one path.

Y esa puede ser una posibilidad.

Pero también existe la posibilidad de que lo que estamos viendo

But there's also the possibility that what we're seeing

is that these tools have basically achieved

sea que estas herramientas han logrado básicamente

what they're capable of doing,

lo que son capaces de hacer,

and the future is incremental improvements in a plateau.

y el futuro sean mejoras incrementales en una meseta.

Así que para entender el futuro de la IA,

So to understand the AI future,

necesitamos mirar toda la exageración alrededor de esto y profundizar

we need to look at all the hype around it and get under there

and see what's technically possible.

para ver lo que es técnicamente posible.

And we also need to think about where are the areas that we need to worry

Y también necesitamos pensar qué áreas son preocupantes

y cuáles no.

and where are the areas that we don't.

So if we want to realize the hype around AI,

Así que si queremos realizar la exageración alrededor de la IA,

the one main challenge that we have to solve is reliability.

el principal desafío que debemos resolver es la fiabilidad.

These algorithms are wrong all the time, like we saw with Google.

Estos algoritmos están equivocados todo el tiempo, como vimos con Google.

Y Google de hecho salió y dijo,

And Google actually came out and said,

después de que estos malos resultados de búsqueda se popularizaran,

after these bad search results were popularized,

that they don't know how to fix this problem.

que no saben cómo solucionar este problema.

I use ChatGPT every day.

Uso ChatGPT todos los días.

I write a newsletter that summarizes discussions on far-right message boards,

Escribo un boletín que resume discusiones en foros de extrema derecha,

and so I download that data,

y así que descargo esos datos,

ChatGPT helps me write a summary.

ChatGPT me ayuda a escribir un resumen.

And it makes me much more efficient than if I had to do it by hand.

Y me hace mucho más eficiente que si tuviera que hacerlo a mano.

But I have to correct it every day

Pero tengo que corregirlo todos los días

because it misunderstands something,

porque malinterpreta algo,

it takes out the context.

saca el contexto.

And so because of that,

Y por eso,

I can't just rely on it to do the job for me.

no puedo depender para que me haga el trabajo.

And this reliability is really important.

Y esta fiabilidad es muy importante.

Now a subpart of reliability in this space is AI hallucination,

Ahora, una subparte de la fiabilidad en este ámbito es la alucinación de IA,

a great technical term for the fact that AI just makes stuff up

un gran término técnico para el hecho de que la IA simplemente inventa cosas

a lot of the time.

muchas veces.

I did this in my newsletter.

Hice esto en mi boletín.

I said, ChatGPT are there any people threatening violence?

Pregunté, ChatGPT, ¿hay personas amenazando con violencia?

If so, give me the quotes.

Si es así, dame las citas.

And it produced these three really clear threats of violence

Y produjo estas tres amenazas claras de violencia

que no sonaba en absoluto como habla la gente

that didn't sound anything like people talk

on these message boards.

en esos foros.

And I went back to the data, and nobody ever said it.

Y volví a los datos, y nadie lo dijo nunca.

It just made it up out of thin air.

Simplemente lo inventó de la nada.

Y puede que lo hayas visto si has utilizado un generador de imágenes de IA.

And you may have seen this if you've used an AI image generator.

I asked it to give me a close up of people holding hands.

Le pedí un primer plano de personas de la mano.

That's a hallucination and a disturbing one at that.

Esa es una alucinación y, además, inquietante.

(Laughter)

(Risas)

We have to solve this hallucination problem

Tenemos que resolver este problema de alucinación

if this AI is going to live up to the hype.

si esta IA va a cumplir con la exageración.

And I don't think it's a solvable problem.

Y no creo que sea un problema solucionable.

With the way this technology works, there are people who say,

Con la forma en que funciona esta tecnología, hay personas que dicen,

we're going to have it taken care of in a few months,

que lo tendrán solucionado en unos meses,

but there’s no technical reason to think that’s the case.

pero no hay razón técnica para pensar que eso sea posible.

Because generative AI always makes stuff up.

Porque la IA generativa siempre inventa cosas.

When you ask it a question,

Cuando le haces una pregunta,

it's creating that answer or creating that image from scratch

está creando esa respuesta o esa imagen desde cero

when you ask.

cuando preguntas.

It's not like a search engine that goes and finds the right answer on a page.

No es un motor de búsqueda que encuentra la respuesta correcta en una página.

And so because its job is to make things up every time,

Y así, debido a que su trabajo es inventar cosas cada vez,

I don't know that we're going to be able to get it to make up correct stuff

no sé si vamos a poder hacer que invente cosas correctas

and then not make up other stuff.

y luego no invente otras cosas.

That's not what it's trained to do,

No es para lo que está entrenado,

and we're very far from achieving that.

y estamos muy lejos de lograr eso.

And in fact, there are spaces where they're trying really hard.

Y de hecho, hay ámbitos donde están intentando con mucho esfuerzo.

One space that there's a lot of enthusiasm for AI

Un ámbito donde hay mucho entusiasmo por la IA

is in the legal area

es en el área legal

where they hope it will help write legal briefs or do research.

donde esperan que ayude a redactar escritos legales o hacer investigaciones.

Some people have found out the hard way

Algunas personas se han dado cuenta de la manera difícil

that they should not write legal briefs right now with ChatGPT

de que no deberían redactar escritos legales ahora mismo con ChatGPT

and send them to federal court,

y enviarlos a la corte federal,

because it just makes up cases that sound right.

porque simplemente inventa casos que suenan correctos.

And that's a really fast way to get a judge mad at you

Y esa es una manera muy rápida de hacer que un juez se enoje contigo

and to get your case thrown out.

y que tu caso sea desechado.

Ahora hay empresas de investigación legal en este momento

Now there are legal research companies right now

that advertise hallucination-free

que anuncian IA generativa libre de alucinaciones.

generative AI.

And I was really dubious about this.

Y yo fui escéptica sobre esto.

And researchers at Stanford actually went in and checked it,

Y los investigadores de Stanford entraron y lo comprobaron,

and they found the best-performing of these hallucination-free tools

la herramienta que mejor funcionaba de estas libres de alucinaciones

still hallucinates 17 percent of the time.

aún alucina el 17 % del tiempo.

So like on one hand,

Así que, por un lado,

it's a great scientific achievement that we have built a tool

es un gran logro científico que hemos construido una herramienta

that we can pose basically any query to,

a la que podemos plantear prácticamente cualquier consulta,

and 60 or 70 or maybe even 80 percent of the time

y el 60 o 70 o tal vez incluso el 80 % del tiempo

it gives us a reasonable answer.

nos da una respuesta razonable.

But if we're going to rely on using those tools

Pero si vamos a depender de usar esas herramientas

and they're wrong 20 or 30 percent of the time,

y están equivocadas el 20 o 30 % del tiempo,

there's no model where that's really useful.

no hay ningún modelo donde eso sea realmente útil.

Y eso nos lleva a

And that kind of leads us into

cómo hacemos que estas herramientas sean tan útiles.

how do we make these tools that useful?

Because even if you don't believe me

Porque incluso si no me crees

and think we're going to solve this hallucination problem,

y piensas que resolveremos la alucinación,

el problema de fiabilidad,

we're going to solve the reliability problem,

hay que mejorar las herramientas.

the tools still need to get better than they are now.

Y hay dos cosas que necesitan para eso.

And there's two things they need to do that.

Una es muchos más datos

One is lots more data

y la otra es que la tecnología tiene que mejorar.

and two is the technology itself has to improve.

So where are we going to get that data?

Entonces, ¿de dónde vamos a obtener esos datos?

Because they've kind of taken all the reliable stuff online already.

Porque ya han tomado todo lo confiable que hay en línea.

And if we were to find twice as much data as they've already had,

Y si encontráramos el doble de datos de los que ya tienen,

that doesn't mean they're going to be twice as smart.

eso no significa que van a ser el doble de inteligentes.

No sé si hay suficientes datos allá afuera,

I don't know if there's enough data out there,

and it's compounded by the fact

y se complica por el hecho

de que una forma en que la IA generativa ha tenido mucho éxito

that one way the generative AI has been very successful

is at producing low-quality content online.

es produciendo contenido de baja calidad en línea.

Eso incluye bots en redes sociales, desinformación,

That's bots on social media, misinformation,

and these SEO pages that don't really say anything

y estas páginas de SEO que no dicen realmente nada

but have a lot of ads and come up high in the search results.

pero tienen muchos anuncios y aparecen altas en los resultados de búsqueda.

And if the AI starts training on pages that it generated,

Y si la IA comienza a entrenarse en páginas que ella generó,

we know from decades of AI research that they just get progressively worse.

décadas de investigación en IA muestran que empeoran progresivamente.

It's like the digital version of mad cow disease.

Es como la versión digital de la enfermedad de las vacas locas.

(Laughter)

(Risas)

Let's say we solve the data problem.

Digamos que resolvemos el problema de los datos.

You still have to get the technology better.

Aún tienes que mejorar la tecnología.

And we've seen 50 billion dollars in the last couple years

Y hemos visto USD 50 000 millones en los últimos años

invested in improving generative AI.

invertidos en mejorar la IA generativa.

Y eso ha resultado en USD 3000 millones en ingresos.

And that's resulted in three billion dollars in revenue.

So that's not sustainable.

Eso no es sostenible.

But of course it's early, right?

Pero, es temprano, ¿no?

Las empresas pueden encontrar formas de comenzar a usar esta tecnología.

Companies may find ways to start using this technology.

But is it going to be valuable enough

Pero, ¿será suficientemente valiosa

to justify the tens and maybe hundreds of billions of dollars

para justificar decenas y quizás cientos de miles de millones de dólares

of hardware that needs to be bought

en el hardware necesario

to make these models get better?

para hacer que estos modelos mejoren?

No lo creo.

I don't think so.

Y podemos comenzar a mirar ejemplos prácticos para averiguarlo.

And we can kind of start looking at practical examples to figure that out.

And it leads us to think about where are the spaces we need to worry and not.

Nos hace reflexionar sobre qué espacios debemos preocuparnos.

Because one place that everybody's worried with this

Porque un lugar que a todos les preocupa con esto

es que la IA va a quitar todos nuestros trabajos.

is that AI is going to take all of our jobs.

Lots of people are telling us that’s going to happen,

Muchos dicen que eso va a suceder,

y la gente está preocupada.

and people are worried about it.

Y creo que hay un malentendido fundamental en el corazón de eso.

And I think there's a fundamental misunderstanding at the heart of that.

So imagine this scenario.

Imagina este escenario.

We have a company,

Tenemos una empresa,

y pueden permitirse emplear a dos ingenieros de software.

and they can afford to employ two software engineers.

And if we were to give those engineers some generative AI to help write code,

Y si damos IA generativa a esos ingenieros para escribir código,

which is something it's pretty good at,

que es algo en lo que es bastante buena,

let's say they're twice as efficient.

digamos que son el doble de eficientes.

That's a big overestimate, but it makes the math easy.

Eso es una gran sobreestimación, pero facilita los cálculos.

Así que en ese caso, la empresa tiene dos opciones.

So in that case, the company has two choices.

Podrían despedir a uno de esos ingenieros de software

They could fire one of those software engineers

because the other one can do the work of two people now,

porque el otro puede hacer el trabajo de dos personas,

or they already could afford two of them,

o ya podrían permitirse dos de ellos,

and now they're twice as efficient,

y ahora son el doble de eficientes,

so they're bringing in more money.

así que están generando más dinero.

So why not keep both of them and take that extra profit?

Entonces, ¿por qué no mantener a ambos y aprovechar esa ganancia extra?

La única forma en que esta matemática falla es si la IA es tan cara

The only way this math fails is if the AI is so expensive

that it's not worth it.

que no vale la pena.

Pero eso sería como si la IA costara 100 000 dólares al año

But that would be like the AI is 100,000 dollars a year

to do one person's worth of work.

para hacer el trabajo de una persona.

So that sounds really expensive.

Así que eso suena realmente caro.

And practically,

Y prácticamente,

there are already open-source versions of these tools

ya hay versiones de código abierto de estas herramientas

that are low-cost, that companies can install and run themselves.

que son de bajo costo, que las empresas pueden instalar y ejecutar por sí mismas.

Now they don’t perform as well as the flagship models,

Ahora, no rinden tan bien como los modelos principales,

but if they're half as good and really cheap,

pero si son la mitad de buenas y realmente baratas,

wouldn't you take those over the one that costs 100,000 dollars a year

¿no las elegirías sobre la que cuesta 100 000 dólares al año

para hacer el trabajo de una persona?

to do one person's work?

Of course you would.

Por supuesto que sí.

And so even if we solve reliability, we solve the data problem,

Y así, si resolvemos la fiabilidad,

resolvemos el problema de los datos,

we make the models better,

mejoramos los modelos,

the fact that there are cheap versions of this available

el hecho de que haya versiones baratas de esto disponibles

suggests that companies aren't going to be spending

sugiere que las empresas no van a gastar

hundreds of millions of dollars to replace their workforce with AI.

cientos de millones de dólares para reemplazar su fuerza laboral con IA.

There are areas that we need to worry, though.

Sin embargo, hay áreas que necesitamos preocuparnos.

Because if we look at AI now,

Porque si miramos la IA ahora,

there are lots of problems that we haven't been able to solve.

hay muchos problemas que no hemos podido resolver.

He estado construyendo inteligencia artificial durante más de 20 años,

I've been building artificial intelligence for over 20 years,

and one thing we know

y una cosa que sabemos

is that if we train AI on human data,

es que si entrenamos a la IA con datos humanos,

the AI adopts human biases,

la IA adopta sesgos humanos,

and we have not been able to fix that.

y no hemos podido solucionar eso.

We've seen those biases start showing up in generative AI,

Hemos visto que esos sesgos comienzan a aparecer en la IA generativa,

and the gut reaction is always, well,

y la reacción instintiva siempre es, bueno,

let's just put in some guardrails to stop the AI from doing the biased thing.

pongamos algunas barreras para evitar que la IA haga cosas sesgadas.

But one, that never fixes the bias because the AI finds a way around it.

Eso nunca soluciona el sesgo, ya que la IA lo elude.

And two, the guardrails themselves can cause problems.

Y dos, las barreras en sí mismas pueden causar problemas.

So Google has an AI image generator,

Así que Google tiene un generador de imágenes IA,

and they tried to put guardrails in place to stop the bias in the results.

y trataron de poner barreras para detener el sesgo en los resultados.

And it turned out it made it wrong.

Y resultó que lo hizo incorrecto.

This is a request for a picture

Esta es una solicitud de una imagen

of the signing of the Declaration of Independence.

de la firma de la Declaración de Independencia.

And it's a great picture, but it is not factually correct.

Y es una gran imagen, pero no es factualmente correcta.

And so in trying to stop the bias,

Y así, al intentar detener el sesgo,

we end up creating more reliability problems.

terminamos creando más problemas de fiabilidad.

We haven't been able to solve this problem of bias.

No hemos podido resolver este problema de sesgo.

And if we're thinking about deferring decision making,

Y si estamos pensando en delegar la toma de decisiones,

replacing human decision makers and relying on this technology

reemplazar a los tomadores de decisiones humanos y depender de esta tecnología

y no podemos resolver este problema,

and we can't solve this problem,

eso es algo de lo que deberíamos preocuparnos

that's a thing that we should worry about

and demand solutions to

y exigir soluciones

before it's just widely adopted and employed because it's sexy.

antes de que se adopte ampliamente y se utilice solo porque es atractivo.

And I think there's one final thing that's missing here,

Y creo que hay una cosa final que falta aquí,

which is our human intelligence

que es que nuestra inteligencia humana

is not defined by our productivity at work.

no se define por nuestra productividad en el trabajo.

En su núcleo, se define por nuestra capacidad de conectar con otras personas.

At its core, it's defined by our ability to connect with other people.

Nuestra capacidad para tener respuestas emocionales,

Our ability to have emotional responses,

to take our past and integrate it with new information

para tomar nuestro pasado e integrarlo con nueva información

and creatively come up with new things.

y crear cosas nuevas de forma creativa.

Y eso es algo que la inteligencia artificial no puede hacer ahora

And that’s something that artificial intelligence is not now

nor will it ever be capable of doing.

ni será capaz de hacer nunca.

It may be able to imitate it

Puede que sea capaz de imitarlo

and give us a cheap facsimile of genuine connection

y ofrecernos un facsímil barato de conexión genuina

and empathy and creativity.

y empatía y creatividad.

But it can't do those core things to our humanity.

Pero no puede hacer esas cosas fundamentales de nuestra humanidad.

And that's why I'm not really worried about AGI taking over civilization.

Y por eso no me preocupa que la IAG tome el control de la civilización.

But if you come away from this disbelieving everything I have told you,

Pero si te vas de aquí no creyendo nada de lo que te he dicho,

and right now you're worried

y ahora mismo estás preocupado

about humanity being destroyed by AI overlords,

de que la IA destruya a la humanidad,

the one thing to remember is,

lo único que debes recordar es,

despite what the movies have told you,

a pesar de lo que te han dicho las películas,

if it gets really bad,

si se pone realmente mal,

we still can always just turn it off.

siempre podemos simplemente apagarla.

(Laughter)

(Risas)

Thank you.

Gracias.

(Applause)

(Aplausos)