How will AI change the world?

Traductor: Fiama Canul Revisor: Sebastian Sanchez

En algunos años, la inteligencia artificial

In the coming years, artificial intelligence

probablemente cambiará tu vida, y la del resto del mundo.

is probably going to change your life, and likely the entire world.

Pero la gente no se pone de acuerdo sobre cómo exactamente.

But people have a hard time agreeing on exactly how.

Los siguientes fragmentos son de una entrevista

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

en la que Stuart Russell, un conocido profesor de informática y experto en IA,

helps separate the sense from the nonsense.

ayuda a separar el sentido del sinsentido.

There’s a big difference between asking a human to do something

Hay una gran diferencia entre pedirle a un humano que haga algo

and giving that as the objective to an AI system.

y asignar eso como objetivo a un sistema de IA.

When you ask a human to get you a cup of coffee,

Cuando le pides a un humano que traiga una taza de café,

you don’t mean this should be their life’s mission,

no quieres decir que esta deba ser la misión de su vida

and nothing else in the universe matters.

y que nada más importa en el universo.

Even if they have to kill everybody else in Starbucks

Deben de hacerlo, incluso si tienen que matar a todos en el Starbucks

to get you the coffee before it closes— they should do that.

para conseguirlo antes de que cierre,

No, that’s not what you mean.

Eso no es lo que quiero decir.

All the other things that we mutually care about,

Todas las cosas que nos importan mutuamente

they should factor into your behavior as well.

también deberían influir en tu comportamiento.

And the problem with the way we build AI systems now

El problema con la forma en que construimos sistemas de IA hoy

is we give them a fixed objective.

es que les damos un objetivo fijo.

The algorithms require us to specify everything in the objective.

Los algoritmos necesitan que especifiquemos todo en el objetivo.

And if you say, can we fix the acidification of the oceans?

Y si dijeras: “¿Podemos solucionar la acidificación de los océanos?”

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Sí, podrías conseguir una reacción catalítica que haga eso eficientemente,

but it consumes a quarter of the oxygen in the atmosphere,

pero consumiría un cuarto del oxígeno de la atmósfera,

which would apparently cause us to die fairly slowly and unpleasantly

lo que causaría nuestra muerte de manera lenta y desagradable

over the course of several hours.

en el transcurso de varias horas.

So, how do we avoid this problem?

Entonces, ¿cómo evitamos este problema?

You might say, okay, well, just be more careful about specifying the objective—

Podrías decir: “sólo hay que ser más cuidadoso al especificar el objetivo;

don’t forget the atmospheric oxygen.

no olvidar el oxígeno atmosférico”.

And then, of course, some side effect of the reaction in the ocean

Y luego, por supuesto, algún efecto secundario de la reacción en el océano

poisons all the fish.

envenena a todos los peces.

Okay, well I meant don’t kill the fish either.

“Bueno, lo que quise decir es que no maten a los peces”.

And then, well, what about the seaweed?

Y entonces, ¿qué pasa con las algas?

Don’t do anything that’s going to cause all the seaweed to die.

“No hagas nada que cause la muerte de las algas”.

And on and on and on.

Y así sucesivamente.

And the reason that we don’t have to do that with humans is that

La razón por la que no tenemos que hacer eso con los humanos es que

humans often know that they don’t know all the things that we care about.

los humanos a menudo saben que no conocen todas las cosas que nos importan.

If you ask a human to get you a cup of coffee,

Si le pides a un humano que te traiga una taza de café,

and you happen to be in the Hotel George Sand in Paris,

y resulta que tú estás en el hotel George Sand en París,

where the coffee is 13 euros a cup,

donde la taza de café cuesta 13 euros,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

es completamente razonable, que la persona vuelva y diga:

“son 13 euros,

are you sure you want it, or I could go next door and get one?

¿seguro lo quieres o podría ir a otro lado a comprarlo?”

And it’s a perfectly normal thing for a person to do.

Y es algo completamente normal que hace una persona.

To ask, I’m going to repaint your house—

Si preguntas, voy a re-pintar tu casa.

is it okay if I take off the drainpipes and then put them back?

¿Está bien si quito las cañerías y luego las vuelvo a poner?

We don't think of this as a terribly sophisticated capability,

No pensamos que esto es una capacidad muy sofisticada,

but AI systems don’t have it because the way we build them now,

pero los sistemas de IA no la poseen, ya que por su construcción

they have to know the full objective.

requieren de un objetivo completo.

If we build systems that know that they don’t know what the objective is,

Si construimos sistemas que no conocen cuál es el objetivo,

then they start to exhibit these behaviors,

estos comienzan a manifestar comportamientos

like asking permission before getting rid of all the oxygen in the atmosphere.

tales como pedir permiso antes de eliminar todo el oxígeno de la tierra.

In all these senses, control over the AI system

En todos los sentidos, el control sobre el sistema de IA

comes from the machine’s uncertainty about what the true objective is.

proviene de la incertidumbre de la máquina sobre cuál es el verdadero objetivo.

And it’s when you build machines that believe with certainty

Y es que cuando construyes máquinas que creen con certeza

that they have the objective,

que cuentan con el objetivo,

that’s when you get this sort of psychopathic behavior.

se obtiene este comportamiento psicópata.

And I think we see the same thing in humans.

Y creo que vemos lo mismo en humanos.

What happens when general purpose AI hits the real economy?

¿Qué pasará cuando la IA de propósito general impacte la economía real?

How do things change? Can we adapt?

¿Cómo cambiarán las cosas? ¿Podremos adaptarnos?

This is a very old point.

Este es un planteamiento muy antiguo.

Amazingly, Aristotle actually has a passage where he says,

Sorprendentemente, hay un pasaje de Aristóteles que dice

look, if we had fully automated weaving machines

que si tuviéramos máquinas de tejer totalmente automatizadas

and plectrums that could pluck the lyre and produce music without any humans,

y plectros que pudieran tocar la lira y producir música sin ningún humano,

then we wouldn’t need any workers.

entonces no necesitaríamos trabajadores.

That idea, which I think it was Keynes

Esta idea, la cual creo que fue Keynes

who called it technological unemployment in 1930,

quien la llamó desempleo tecnológico en 1930,

is very obvious to people.

es bastante obvia para la gente.

They think, yeah, of course, if the machine does the work,

Ellos piensan: “obviamente, si la máquina hace todo el trabajo

then I'm going to be unemployed.

entonces voy a estar desempleado”.

You can think about the warehouses that companies are currently operating

Piensa en los almacenes que las compañías utilizan actualmente

for e-commerce, they are half automated.

para el comercio online,

estos son semi-automatizados.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

En un viejo almacén, donde hay toneladas de cosas apiladas por todas partes

all over the place and humans go and rummage around

donde humanos van a hurgar

and then bring it back and send it off—

y luego traen de vuelta para enviar,

there’s a robot who goes and gets the shelving unit

hay un robot que va y toma lo que necesitas

that contains the thing that you need,

de la estantería que la contiene,

but the human has to pick the object out of the bin or off the shelf,

pero el humano tiene que tomar el objeto del contenedor o estantería,

because that’s still too difficult.

porque esto sigue siendo muy difícil.

But, at the same time,

Pero, al mismo tiempo,

would you make a robot that is accurate enough to be able to pick

¿podrías crear un robot que sea lo suficientemente preciso como para recoger

pretty much any object within a very wide variety of objects that you can buy?

prácticamente cualquier objeto de una amplia variedad que puedes comprar?

That would, at a stroke, eliminate 3 or 4 million jobs?

Esto eliminaría de golpe 3 o 4 millones de trabajos.

There's an interesting story that E.M. Forster wrote,

Hay una historia interesante escrita por E.M Foster,

where everyone is entirely machine dependent.

donde todos son completamente dependientes de las máquinas,

The story is really about the fact that if you hand over

En realidad, la historia es sobre el hecho de que si le entregas

the management of your civilization to machines,

la gestión de tu civilización a las máquinas,

you then lose the incentive to understand it yourself

pierdes el incentivo para comprenderla tu mismo

or to teach the next generation how to understand it.

o enseñarle a la siguiente generación a comprendela.

You can see “WALL-E” actually as a modern version,

Puedes ver a “WALL-E”, como una versión moderna

where everyone is enfeebled and infantilized by the machine,

donde todos están debilitados e infantilizados por las máquinas,

and that hasn’t been possible up to now.

y esto no había sido posible hasta ahora.

We put a lot of our civilization into books,

Ponemos gran parte de nuestra civilización en los libros,

but the books can’t run it for us.

que no pueden reemplazarnos.

And so we always have to teach the next generation.

Debemos instruir a la próxima generación.

If you work it out, it’s about a trillion person years of teaching and learning

Si lo calculas, es alrededor de un billón

de años-persona de enseñanza y aprendizaje

and an unbroken chain that goes back tens of thousands of generations.

y una cadena intacta que remonta

a decenas de miles de generaciones atrás.

What happens if that chain breaks?

¿Qué pasa si se rompe esa cadena?

I think that’s something we have to understand as AI moves forward.

Creo que es algo que tenemos que entender a medida que la IA avanza.

The actual date of arrival of general purpose AI—

La fecha real de llegada de la IA de propósito general.

you’re not going to be able to pinpoint, it isn’t a single day.

no se puede identificar, no es sólo un día

It’s also not the case that it’s all or nothing.

y tampoco es todo o nada.

The impact is going to be increasing.

El impacto va a aumentar.

So with every advance in AI,

Con cada avance de la IA,

it significantly expands the range of tasks.

se amplia mucho el rango de tareas.

So in that sense, I think most experts say by the end of the century,

En ese sentido, creo que la mayoría de

los expertos dicen que para fines de siglo,

we’re very, very likely to have general purpose AI.

muy probablemente tengamos IA de propósito general.

The median is something around 2045.

Se estima alrededor del 2045.

I'm a little more on the conservative side.

Yo soy un poco más conservador.

I think the problem is harder than we think.

Creo que aún falta mucho para llegar a eso.

I like what John McAfee, he was one of the founders of AI,

Me gusta lo que John McAfee decía, uno de los creadores de la IA,

when he was asked this question, he said, somewhere between five and 500 years.

cuando le hicieron la pregunta, dijo:

“en algún punto entre 5 y 500 años,

And we're going to need, I think, several Einsteins to make it happen.

y creo que vamos a requerir de varios Einsteins para lograrlo”.