Jeff Dean: AI isn't as smart as you think -- but it could be | TED

Traductor: Ernesto Martínez Revisor: Sebastian Betti

Hi, I'm Jeff.

Hola, soy Jeff.

I lead AI Research and Health at Google.

Dirijo AI Research and Health en Google.

I joined Google more than 20 years ago,

Me uní a Google hace más de 20 años,

when we were all wedged into a tiny office space,

cuando todos estábamos apretados en una pequeña oficina,

above what's now a T-Mobile store in downtown Palo Alto.

arriba de lo que hoy es una tienda T-Mobile en Palo Alto.

I've seen a lot of computing transformations in that time,

Vi muchas transformaciones informáticas en ese momento,

and in the last decade, we've seen AI be able to do tremendous things.

en la última década, hemos visto a la IA hacer cosas tremendas.

But we're still doing it all wrong in many ways.

Pero, nos seguimos equivocando de muchas formas.

That's what I want to talk to you about today.

Y, de eso es lo que quiero hablar hoy.

But first, let's talk about what AI can do.

Primero, hablemos de lo que la IA puede hacer.

So in the last decade, we've seen tremendous progress

En la última década, hemos visto un progreso tremendo

in how AI can help computers see, understand language,

en la forma en la que IA puede ayudar a las computadoras a entender el idioma,

understand speech better than ever before.

a entender el habla mejor que antes.

Things that we couldn't do before, now we can do.

Algo que antes no podíamos hacer, y ahora sí.

If you think about computer vision alone,

Si piensan solo en la visión artificial,

just in the last 10 years,

en los últimos 10 años,

computers have effectively developed the ability to see;

las computadoras han desarrollado la habilidad de ver;

10 years ago, they couldn't see, now they can see.

algo que hace 10 años no podían hacer, y ahora sí.

You can imagine this has had a transformative effect

pueden imaginarse el efecto transformador de esto

on what we can do with computers.

en lo que podemos hacer con las computadoras.

So let's look at a couple of the great applications

Veamos un par de grandes aplicaciones

enabled by these capabilities.

habilitadas por estas capacidades.

We can better predict flooding, keep everyone safe,

Predecir las inundaciones, salvaguardar a todos,

using machine learning.

con el aprendizaje automático.

We can translate over 100 languages so we all can communicate better,

traducir más de 100 idiomas y comunicarnos mejor,

and better predict and diagnose disease,

y diagnosticar mejor las enfermedades,

where everyone gets the treatment that they need.

para recibir el tratamiento necesario.

So let's look at two key components

Veamos dos componentes clave

that underlie the progress in AI systems today.

que sustentan el progreso de los sistemas de IA.

The first is neural networks,

Primero, las redes neuronales,

a breakthrough approach to solving some of these difficult problems

un enfoque innovador para resolver algunos de estos problemas difíciles

that has really shone in the last 15 years.

que realmente ha brillado en los últimos 15 años.

But they're not a new idea.

sin embargo, no es una idea nueva.

And the second is computational power.

Segundo, la capacidad informática.

It actually takes a lot of computational power

Se requiere mucho de esta capacidad

to make neural networks able to really sing,

para que las redes neuronales canten,

and in the last 15 years, we’ve been able to halve that,

y en los últimos 15 años, hemos podido reducir eso a la mitad,

and that's partly what's enabled all this progress.

y en parte, eso ha permitido todo este progreso.

But at the same time, I think we're doing several things wrong,

Pero al mismo tiempo, pienso que nos estamos equivocando mucho,

and that's what I want to talk to you about

y eso es de lo que quiero hablar

at the end of the talk.

al final de la charla.

First, a bit of a history lesson.

Primero, un poco de historia.

So for decades,

Por décadas,

almost since the very beginning of computing,

casi desde el inicio de la computación,

people have wanted to be able to build computers

las personas han querido construir computadoras

that could see, understand language, understand speech.

que puedan ver y entender el idioma, el habla en sí.

The earliest approaches to this, generally,

En los primeros acercamientos a esto,

people were trying to hand-code all the algorithms

se trataba de codificar a mano los algoritmos

that you need to accomplish those difficult tasks,

necesarios para cumplir tareas difíciles,

and it just turned out to not work very well.

y resultó que no función tan bien.

But in the last 15 years, a single approach

Pero en los últimos 15 años, un simple enfoque

unexpectedly advanced all these different problem spaces all at once:

inesperadamente, fue un avance a todos estos problemas:

neural networks.

las redes neuronales.

So neural networks are not a new idea.

esto no es una idea nueva.

They're kind of loosely based

Vagamente, se basan en

on some of the properties that are in real neural systems.

algunas propiedades que hay en los sistemas neuronales reales.

And many of the ideas behind neural networks

y muchas de las ideas detrás de ellas

have been around since the 1960s and 70s.

han estado ahí desde 1960 y 1970.

A neural network is what it sounds like,

Una red neuronal es como se oye,

a series of interconnected artificial neurons

una serie de neuronas artificiales interconectadas

that loosely emulate the properties of your real neurons.

que vagamente imitan las propiedades de las neuronas reales.

An individual neuron in one of these systems

Una sola neurona en uno de estos sistemas

has a set of inputs,

tiene varias entradas,

each with an associated weight,

con un peso asociado,

and the output of a neuron

y la salida de una neurona

is a function of those inputs multiplied by those weights.

es una función de las entradas multiplicada por los pesos.

So pretty simple,

Así de simple,

and lots and lots of these work together to learn complicated things.

y muchos de estos trabajan juntos para aprender cosas más complicadas.

So how do we actually learn in a neural network?

Entonces, ¿cómo se aprende en un sistema neuronal?

It turns out the learning process

El proceso de aprendizaje

consists of repeatedly making tiny little adjustments

consiste en hacer pequeños ajustes

to the weight values,

en los valores de peso,

strengthening the influence of some things,

reforzando la influencia de algunas cosas,

weakening the influence of others.

y debilitando aquella de otras.

By driving the overall system towards desired behaviors,

Al conducir el sistema general hacia los comportamientos deseados,

these systems can be trained to do really complicated things,

se puede entrenar estos sistemas para hacer cosas complicadas,

like translate from one language to another,

como traducir de un idioma a otro,

detect what kind of objects are in a photo,

detectar el tipo de objetos en una foto,

all kinds of complicated things.

todo tipo de cosas complicadas.

I first got interested in neural networks

Me interesé en todo esto por primera vez

when I took a class on them as an undergraduate in 1990.

cuando tomé una clase en 1990.

At that time,

En ese momento,

neural networks showed impressive results on tiny problems,

las redes neuronales mostraban resultados impresionantes en problemitas,

but they really couldn't scale to do real-world important tasks.

pero no podían escalar para hacer tareas importantes del mundo real.

But I was super excited.

Aún así, está súper emocionado.

(Laughter)

(risas)

I felt maybe we just needed more compute power.

Quizá necesitábamos más capacidad de cómputo.

And the University of Minnesota had a 32-processor machine.

Y la Universidad de Minnesota tenía una computadora de 32 procesadores.

I thought, "With more compute power,

Pensé: “Con más capacidad de cómputo,

boy, we could really make neural networks really sing."

¡podríamos hacer que las redes neuronales realmente canten!

So I decided to do a senior thesis on parallel training of neural networks,

Y decidí hacer una tesis sobre el entrenamiento paralelo de estas,

the idea of using processors in a computer or in a computer system

la idea de usar muchos procesadores en una computadora o en un sistema

to all work toward the same task,

para que todos trabajen en la misma tarea:

that of training neural networks.

entrenar a las redes neuronales.

32 processors, wow,

¡32 procesadores!

we’ve got to be able to do great things with this.

tenemos que ser capaces de hacer cosas geniales con esto.

But I was wrong.

Pero estaba equivocado.

Turns out we needed about a million times as much computational power

Resultó que necesitábamos millones de veces más capacidad de cómputo

as we had in 1990

de la que teníamos en 1990

before we could actually get neural networks to do impressive things.

para lograr que las redes neuronales hicieran cosas impresionantes.

But starting around 2005,

Pero, alrededor del 2005,

thanks to the computing progress of Moore's law,

gracias al progreso informático de la ley de Moore,

we actually started to have that much computing power,

empezamos a tener esa capacidad de cómputo,

and researchers in a few universities around the world started to see success

e investigadores en algunas universidades del mundo comenzaron a ver resultados

in using neural networks for a wide variety of different kinds of tasks.

al usar redes neuronales en una variedad de tareas distintas.

I and a few others at Google heard about some of these successes,

Yo y otros pocos en Google escuchamos algo sobre estos resultados,

and we decided to start a project to train very large neural networks.

y comenzamos un proyecto para entrenar redes neuronales muy grandes.

One system that we trained,

Entrenamos un sistema

we trained with 10 million randomly selected frames

con 10 millones de cuadros seleccionados al azar

from YouTube videos.

de vídeos de YouTube.

The system developed the capability

El sistema desarrolló la capacidad

to recognize all kinds of different objects.

de reconocer todo tipo de objetos distintos.

And it being YouTube, of course,

Y, siendo YouTube,

it developed the ability to recognize cats.

desarrolló la habilidad de reconocer gatos.

YouTube is full of cats.

YouTube está lleno de eso.

(Laughter)

(risas)

But what made that so remarkable

Pero lo que lo hizo tan notable fue que

is that the system was never told what a cat was.

nunca se le dijo al sistema lo que era un gato.

So using just patterns in data,

Solo con el uso de patrones en los datos,

the system honed in on the concept of a cat all on its own.

el sistema, por su cuenta, perfeccionó el concepto de un gato.

All of this occurred at the beginning of a decade-long string of successes,

Todo esto ocurrió al comienzo de una serie de éxitos de una década,

of using neural networks for a huge variety of tasks,

de uso de redes neuronales para tareas muy variadas,

at Google and elsewhere.

en Google y en otros.

Many of the things you use every day,

Muchas de estas cosas se usan a diario:

things like better speech recognition for your phone,

mejor reconocimiento de voz para el teléfono,

improved understanding of queries and documents

mejor comprensión de consultas y documentos

for better search quality,

para más calidad de búsqueda,

better understanding of geographic information to improve maps,

mejor comprensión geográfica para mejorar los mapas,

and so on.

etcétera.

Around that time,

Alrededor de ese tiempo,

we also got excited about how we could build hardware that was better tailored

también nos entusiasmó el cómo construir un hardware mejor adaptado

to the kinds of computations neural networks wanted to do.

al tipo de cálculos que las redes neuronales querían hacer.

Neural network computations have two special properties.

Y estos cálculos tienen dos propiedades especiales.

The first is they're very tolerant of reduced precision.

Primero, son muy tolerantes con la precisión reducida.

Couple of significant digits, you don't need six or seven.

Dos dígitos significativos, no se necesitan seis o siete.

And the second is that all the algorithms are generally composed

Y, en segundo, por lo general, todos los algoritmos se componen de

of different sequences of matrix and vector operations.

distintos tipos de secuencias de operaciones matriciales y vectoriales.

So if you can build a computer

Si pueden construir una computadora

that is really good at low-precision matrix and vector operations

que sea bastante buena en operaciones matriciales y vectoriales

but can't do much else,

pero que no pueda hacer más,

that's going to be great for neural-network computation,

eso va a ser grandioso para un cálculo de red neuronal,

even though you can't use it for a lot of other things.

incluso si no se puede usar para muchas otras cosas.

And if you build such things, people will find amazing uses for them.

Y si pueden construir eso, le van a encontrar una utilidad asombrosa.

This is the first one we built, TPU v1.

Esta es la primera que hicimos: el TPU v1.

"TPU" stands for Tensor Processing Unit.

“TPU” significa Unidad de Procesamiento de Tensor.

These have been used for many years behind every Google search,

Se ha usado por muchos años, en cada búsqueda en Google,

for translation,

en las traducciones,

in the DeepMind AlphaGo matches,

en las contiendas de DeepMind AlphaGo,

so Lee Sedol and Ke Jie maybe didn't realize,

Lee Sedol y Ke Jie quizá no se dieron cuenta,

but they were competing against racks of TPU cards.

pero estaban compitiendo contra estantes de tarjetas TPU.

And we've built a bunch of subsequent versions of TPUs

E hicimos un montón de versiones subsecuentes de TPUs

that are even better and more exciting.

que son mejores y más interesantes.

But despite all these successes,

Sin embargo, a pesar de todos estos logros

I think we're still doing many things wrong,

pienso que seguimos haciendo muchas cosas mal,

and I'll tell you about three key things we're doing wrong,

voy a hablar de tres cosas clave que estamos haciendo mal,

and how we'll fix them.

y su solución.

The first is that most neural networks today

Primero, muchas redes neuronales actuales

are trained to do one thing, and one thing only.

están entrenadas para hacer solo una cosa.

You train it for a particular task that you might care deeply about,

Se les entrena para una tarea en particular, la más importante,

but it's a pretty heavyweight activity.

y eso es una actividad bastante pesada.

You need to curate a data set,

Hay que curar varios datos,

you need to decide what network architecture you'll use

decidir qué arquitectura de red se usará

for this problem,

para este problema,

you need to initialize the weights with random values,

hay que inicializar los pesos con valores aleatorios,

apply lots of computation to make adjustments to the weights.

hacer muchos cálculos para ajustar los pesos.

And at the end, if you’re lucky, you end up with a model

Y al final, si se tiene suerte, se termina con un modelo

that is really good at that task you care about.

realmente bueno para la tarea más importante.

But if you do this over and over,

Si esto se hace una y otra vez,

you end up with thousands of separate models,

el resultado son miles de modelos separados,

each perhaps very capable,

quizá, cada uno muy capaz

but separate for all the different tasks you care about.

pero lejos de las distintas tareas que realmente importan.

But think about how people learn.

Piensen en cómo aprendemos.

In the last year, many of us have picked up a bunch of new skills.

En el último año, muchos han adquirido muchas habilidades nuevas.

I've been honing my gardening skills,

Estoy perfeccionando mi jardinería,

experimenting with vertical hydroponic gardening.

estoy experimentando con jardinería hidropónica.

To do that, I didn't need to relearn everything I already knew about plants.

Y para hacer eso, no tuve que reaprender todo lo que ya sabía sobre plantas.

I was able to know how to put a plant in a hole,

Ya sabía cómo poner una planta en un hoyo,

how to pour water, that plants need sun,

cómo regarla, las plantas necesitan sol,

and leverage that in learning this new skill.

y aproveché eso al aprender esta nueva habilidad.

Computers can work the same way, but they don’t today.

Las computadoras pueden trabajar igual, pero aún no lo hacen.

If you train a neural network from scratch,

Si se entrena a una red neuronal desde cero,

it's effectively like forgetting your entire education

es, efectivamente, como si se olvidara toda la educación de uno

every time you try to do something new.

cuando se intenta aprender algo nuevo.

That’s crazy, right?

Es una locura.

So instead, I think we can and should be training

En vez de eso, creo que podemos y deberíamos de entrenar

multitask models that can do thousands or millions of different tasks.

modelos multitareas, los cuales puedan realizar miles de millones de tareas.

Each part of that model would specialize in different kinds of things.

Cada parte de ese modelo se especializaría en algo distinto.

And then, if we have a model that can do a thousand things,

Y, si tenemos un modelo que pueda hacer miles de cosas,

and the thousand and first thing comes along,

y surge otra más,

we can leverage the expertise we already have

se puede aprovechar la experiencia previa

in the related kinds of things

en cosas relacionadas

so that we can more quickly be able to do this new task,

y podamos realizar esta tarea nueva más rápido,

just like you, if you're confronted with some new problem,

como ustedes, si se encuentran con un problema nuevo,

you quickly identify the 17 things you already know

rápidamente identifican lo que ya saben

that are going to be helpful in solving that problem.

que les va a ayudar a resolver el problema.

Second problem is that most of our models today

El segundo problema: muchos de nuestros modelos actuales

deal with only a single modality of data --

se ocupan solo de una sola modalidad de datos

with images, or text or speech,

ya sea, imágenes, texto o voz,

but not all of these all at once.

pero no de todos al mismo tiempo.

But think about how you go about the world.

Piensen en cómo van por el mundo.

You're continuously using all your senses

Continuamente, usan todos sus sentidos

to learn from, react to,

para aprender, reaccionar,

figure out what actions you want to take in the world.

descifrar qué acciones quieren tomar en el mundo.

Makes a lot more sense to do that,

Tiene más sentido hacer eso,

and we can build models in the same way.

y podemos hacer modelos de la misma forma.

We can build models that take in these different modalities of input data,

Podemos hacer modelos que tomen estos distintas modalidades de datos,

text, images, speech,

texto, imágenes, voz,

but then fuse them together,

y fusionarlos,

so that regardless of whether the model sees the word "leopard,"

de modo que, independientemente si el modelo ve la palabra “leopardo”,

sees a video of a leopard or hears someone say the word "leopard,"

ve un vídeo de uno o si escucha a alguien decir la palabra “leopardo”,

the same response is triggered inside the model:

se provoca la misma respuesta dentro del modelo:

the concept of a leopard

el concepto de un leopardo

can deal with different kinds of input data,

puede manejar varios tipos de datos de entrada,

even nonhuman inputs, like genetic sequences,

incluso, entradas no humanas, como secuencias genéticas,

3D clouds of points, as well as images, text and video.

nubes de puntos 3D, así como imágenes, texto y vídeo.

The third problem is that today's models are dense.

El tercer problema es que los modelos actuales son densos.

There's a single model,

Hay un solo modelo,

the model is fully activated for every task,

que se activa completamente para todas las tareas,

for every example that we want to accomplish,

para cada ejemplo que queremos lograr,

whether that's a really simple or a really complicated thing.

ya sea algo sencillo o algo realmente complicado.

This, too, is unlike how our own brains work.

Además, es distinto a cómo funciona nuestro cerebro.

Different parts of our brains are good at different things,

tenemos diferentes partes que son buenas para distintas cosas.

and we're continuously calling upon the pieces of them

y constantemente recurrimos a esas partes

that are relevant for the task at hand.

que son relevantes para la tarea en cuestión.

For example, nervously watching a garbage truck

Por ejemplo, ver nerviosamente un camión de basura

back up towards your car,

que viene en reversa hacia tu auto,

the part of your brain that thinks about Shakespearean sonnets

la parte del cerebro que piensa en los sonetos de Shakespeare

is probably inactive.

estará inactiva.

(Laughter)

(risas)

AI models can work the same way.

Los modelos de IA operan igual.

Instead of a dense model,

En vez de un modelo denso,

we can have one that is sparsely activated.

podemos tener uno que esté escasamente activo.

So for particular different tasks, we call upon different parts of the model.

Así que, para tareas particulares, recurrirnos a distintas partes del modelo.

During training, the model can also learn which parts are good at which things,

En el entrenamiento, también puede aprender las partes buenas de las cosas,

to continuously identify what parts it wants to call upon

para identificar continuamente a cuáles partes quiere recurrir

in order to accomplish a new task.

a fin de completar una nueva tarea.

The advantage of this is we can have a very high-capacity model,

La ventaja es que podemos tener un modelo de capacidad muy alta,

but it's very efficient,

que es muy eficiente,

because we're only calling upon the parts that we need

solo recurrimos a las partes que necesitamos para

for any given task.

una tarea determinada.

So fixing these three things, I think,

Solucionar estos tres problemas,

will lead to a more powerful AI system:

nos guiará a un sistema de IA más poderoso:

instead of thousands of separate models,

En vez de miles de modelos separados,

train a handful of general-purpose models

entrenar algunos de propósitos generales

that can do thousands or millions of things.

que pueden hacer miles de millones de cosas.

Instead of dealing with single modalities,

En lugar de manejar modalidades únicas,

deal with all modalities,

ocuparse de todas,

and be able to fuse them together.

y fusionarlas.

And instead of dense models, use sparse, high-capacity models,

Y, en vez de modelos densos, usar unos dispersos, de alta capacidad,

where we call upon the relevant bits as we need them.

los cuales recurran a los bits relevantes, según se necesite.

We've been building a system that enables these kinds of approaches,

Hemos estado desarrollando un sistema que permite estos enfoques,

and we’ve been calling the system “Pathways.”

y lo hemos llamado “Pathways”.

So the idea is this model will be able to do

La idea es que, este modelo sea capaz de hacer

thousands or millions of different tasks,

miles de millones de diferentes tareas,

and then, we can incrementally add new tasks,

y, paulatinamente, poder agregar nuevas tareas,

and it can deal with all modalities at once,

y que maneje todas las modalidades a la vez,

and then incrementally learn new tasks as needed

y que, paulatinamente, aprenda nuevas tareas según se necesite

and call upon the relevant bits of the model

y recurra a los bits relevantes a ese modelo

for different examples or tasks.

para diferentes ejemplos o tareas.

And we're pretty excited about this,

Estamos muy emocionados por eso,

we think this is going to be a step forward

creemos que este va a ser un paso adelante

in how we build AI systems.

al crear sistemas de IA.

But I also wanted to touch on responsible AI.

También, quería hablar sobre IA responsable.

We clearly need to make sure that this vision of powerful AI systems

Claramente, necesitamos asegurarnos que esta visión de sistemas de IA potentes

benefits everyone.

benefice a todos.

These kinds of models raise important new questions

Este tipo de modelos, plantean nuevas preguntas

about how do we build them with fairness,

acerca de cómo construirlos con justicia,

interpretability, privacy and security,

interpretabilidad, privacidad y seguridad,

for all users in mind.

para todos los usuarios.

For example, if we're going to train these models

Por ejemplo, si vamos a entrenar estos modelos

on thousands or millions of tasks,

en miles de millones de tareas,

we'll need to be able to train them on large amounts of data.

necesitaremos entrenarlos en grandes cantidades de datos.

And we need to make sure that data is thoughtfully collected

Y necesitamos asegurarnos que esos datos se recopilen cuidadosamente

and is representative of different communities and situations

y que sean representativos de distintas comunidades y situaciones

all around the world.

en todo el mundo.

And data concerns are only one aspect of responsible AI.

Y la preocupación por los datos es solo un aspecto de una IA responsable.

We have a lot of work to do here.

Tenemos mucho trabajo por hacer.

So in 2018, Google published this set of AI principles

En 2018, Google publicó estos principios de IA

by which we think about developing these kinds of technology.

con los cuales pensamos en desarrollar este tipo de tecnología.

And these have helped guide us in how we do research in this space,

Y estos nos han guiado en cómo investigamos en este espacio,

how we use AI in our products.

como usamos IA en nuestros productos.

And I think it's a really helpful and important framing

Y creo que es un marco realmente útil e importante

for how to think about these deep and complex questions

para considerar estas preguntas profundas y complejas

about how we should be using AI in society.

sobre cómo deberíamos usar la IA en la sociedad.

We continue to update these as we learn more.

Seguimos actualizándolas a medida que sabemos más.

Many of these kinds of principles are active areas of research --

Muchos de estos principios son áreas activas de investigación...

super important area.

un área muy importante.

Moving from single-purpose systems that kind of recognize patterns in data

Pasando de sistemas de un solo propósito que reconocen patrones en los datos

to these kinds of general-purpose intelligent systems

a este tipo de sistemas inteligentes de propósito general

that have a deeper understanding of the world

con un entendimiento más profundo del mundo

will really enable us to tackle

realmente nos permitirá abordar

some of the greatest problems humanity faces.

algunos grandes problemas que la humanidad enfrenta.

For example,

Por ejemplo,

we’ll be able to diagnose more disease;

seremos capaces de diagnosticar más enfermedades;

we'll be able to engineer better medicines

de diseñar mejores medicinas

by infusing these models with knowledge of chemistry and physics;

al infusionar estos modelos con la química y la física;

we'll be able to advance educational systems

podremos hacer avanzar los sistemas de educación

by providing more individualized tutoring

al proporcionar más clases particulares

to help people learn in new and better ways;

para que las personas aprendan mejor;

we’ll be able to tackle really complicated issues,

seremos capaces de afrontar asuntos complicados,

like climate change,

como el cambio climático,

and perhaps engineering of clean energy solutions.

y quizá diseñar soluciones de energía limpia.

So really, all of these kinds of systems

En realidad, todos estos tipos de sistemas

are going to be requiring the multidisciplinary expertise

van a requerir la experiencia multidisciplinaria

of people all over the world.

de personas de todo el mundo.

So connecting AI with whatever field you are in,

Conectar la IA con cualquier campo en el que estén involucrados,

in order to make progress.

a fin de progresar.

So I've seen a lot of advances in computing,

He visto muchos avances en la computación,

and how computing, over the past decades,

y cómo esta, en décadas pasadas,

has really helped millions of people better understand the world around them.

ha ayudado a millones de personas a entender mejor el mundo.

And AI today has the potential to help billions of people.

Y, actualmente, la IA tiene el potencial de ayudar a muchas más.

We truly live in exciting times.

En verdad, vivimos tiempos fascinantes.

Thank you.

Gracias.

(Applause)

(Aplausos)

Chris Anderson: Thank you so much.

Chris Anderson: Muchas gracias.

I want to follow up on a couple things.

Quiero dar seguimiento a un par de cosas.

This is what I heard.

El nivel de progreso... esto es lo que he oído.

Most people's traditional picture of AI

La imagen típica sobre la IA de la mayoría de las personas

is that computers recognize a pattern of information,

es que las computadoras reconocen un patrón de información,

and with a bit of machine learning,

y con un poco de aprendizaje automático,

they can get really good at that, better than humans.

pueden volverse muy buenas, mejores que los humanos.

What you're saying is those patterns

Lo que dices es que esos patrones

are no longer the atoms that AI is working with,

ya no son los átomos con los que la IA trabaja,

that it's much richer-layered concepts

que son conceptos con más capas

that can include all manners of types of things

que pueden incluir todas las formas de los tipos de cosas

that go to make up a leopard, for example.

que componen un leopardo, por ejemplo.

So what could that lead to?

¿A qué puede llevar esto?

Give me an example of when that AI is working,

Dame un ejemplo en donde esa IA funciona.

what do you picture happening in the world

¿Qué imaginas que sucede en el mundo

in the next five or 10 years that excites you?

en los próximos 5 o 10 años que te emociona?

Jeff Dean: I think the grand challenge in AI

Jeff Dean: Creo que el gran reto en la IA

is how do you generalize from a set of tasks

es cómo generalizar un conjunto de tareas

you already know how to do

que ya sabes cómo hacer

to new tasks,

a nuevas tareas,

as easily and effortlessly as possible.

de forma tan fácil y sin esfuerzo como sea posible.

And the current approach of training separate models for everything

Y el enfoque actual de entrenar modelos separados para todo significa

means you need lots of data about that particular problem,

que se necesitan muchos datos acerca de ese problema particular,

because you're effectively trying to learn everything

porque efectivamente se intenta aprender todo

about the world and that problem, from nothing.

del mundo y ese problema, desde cero.

But if you can build these systems

Pero si se construyen sistemas

that already are infused with how to do thousands and millions of tasks,

que ya están infusionados en cómo hacer miles de millones de tareas,

then you can effectively teach them to do a new thing

se les puede enseñar de manera efectiva a hacer una cosa nueva

with relatively few examples.

con pocos ejemplos.

So I think that's the real hope,

Pienso que esa es la esperanza real,

that you could then have a system where you just give it five examples

que se podría tener un sistema al que se le den solo cinco ejemplos

of something you care about,

de algo que importe,

and it learns to do that new task.

y que aprenda a hacer esa nueva tarea.

CA: You can do a form of self-supervised learning

CA: Coma una forma de aprendizaje auto-supervisado

that is based on remarkably little seeding.

basado en una siembra notablemente pequeña

JD: Yeah, as opposed to needing 10,000 or 100,000 examples

JD: Sí, en lugar de necesitar 10 000 o 100 000 ejemplos

to figure everything in the world out.

para averiguar todo en el mundo.

CA: Aren't there kind of terrifying unintended consequences

CA: ¿Existen consecuencias aterradoras no intencionadas

possible, from that?

que puedan resultar de eso?

JD: I think it depends on how you apply these systems.

JD: Creo que depende de cómo se apliquen estos sistemas.

It's very clear that AI can be a powerful system for good,

Es bastante claro que la IA puede ser un sistema potente para el bien,

or if you apply it in ways that are not so great,

o, si se aplica en formas que no son tan buenas,

it can be a negative consequence.

puede haber consecuencias negativas.

So I think that's why it's important to have a set of principles

Por eso creo que es importante tener un conjunto de principios

by which you look at potential uses of AI

para observar los usos potenciales de la IA

and really are careful and thoughtful about how you consider applications.

y que sean cuidadosos acerca de cómo considerar las aplicaciones.

CA: One of the things people worry most about

CA: Uno aspecto bastante preocupante

is that, if AI is so good at learning from the world as it is,

es que, la IA es muy buena en aprender del mundo como es,

it's going to carry forward into the future

que va a llevar adelante en aspectos

aspects of the world as it is that actually aren't right, right now.

futuros del mundo como es, que en realidad no son buenos ahora.

And there's obviously been a huge controversy about that

Por ende, ha habido una gran controversia acerca de eso

recently at Google.

recientemente en Google.

Some of those principles of AI development,

Algunos de esos principios del desarrollo de la IA,

you've been challenged that you're not actually holding to them.

se les ha cuestionado que no se están apegando a ellos.

Not really interested to hear about comments on a specific case,

No me interesa escuchar comentarios de un caso en específico,

but ... are you really committed?

pero... ¿realmente están comprometidos?

How do we know that you are committed to these principles?

¿Cómo saber que están comprometidos con estos principios?

Is that just PR, or is that real, at the heart of your day-to-day?

¿Se trata de relaciones públicas o, de verdad es real?

JD: No, that is absolutely real.

JD: No, absolutamente es real.

Like, we have literally hundreds of people

Literalmente, tenemos cientos de personas

working on many of these related research issues,

trabajando en estos temas de investigación,

because many of those things are research topics

muchas de estas cosas son temas de investigación

in their own right.

por derecho propio.

How do you take data from the real world,

Cómo tomar datos del mundo real,

that is the world as it is, not as we would like it to be,

del mundo como es, no del que nos gustaría como fuera,

and how do you then use that to train a machine-learning model

y cómo usar eso para entrenar a un modelo de aprendizaje automático

and adapt the data bit of the scene

y adaptar los datos de la escena

or augment the data with additional data

o aumentarlos con datos adicionales

so that it can better reflect the values we want the system to have,

para que reflejen mejor los valores que queremos que el sistema tenga,

not the values that it sees in the world?

y no los que se ven en el mundo.

CA: But you work for Google,

CA: Pero, tú trabajas para Google,

Google is funding the research.

y este está financiando la investigación.

How do we know that the main values that this AI will build

¿Cómo sabemos que los valores principales que esta IA construirá

are for the world,

son para el mundo,

and not, for example, to maximize the profitability of an ad model?

y no para, por ejemplo, maximizar la rentabilidad de un modelo de anuncios?

When you know everything there is to know about human attention,

Cuando saben todo acerca de la atención humana,

you're going to know so much

van a saber mucho

about the little wriggly, weird, dark parts of us.

de las pequeñas partes oscuras de nosotros.

In your group, are there rules about how you hold off,

En tu grupo, ¿hay reglas sobre cómo frenar,

church-state wall between a sort of commercial push,

cómo separar entre una especie de impulso comercial,

"You must do it for this purpose,"

“Debes hacerlo para este propósito”,

so that you can inspire your engineers and so forth,

para que puedas inspirar a tus ingenieros y demás,

to do this for the world, for all of us.

a hacer esto por el mundo, por nosotros.

JD: Yeah, our research group does collaborate

JD: Sí, el grupo de investigación colabora

with a number of groups across Google,

con varios grupos en Google,

including the Ads group, the Search group, the Maps group,

el grupo de Anuncios, el de Investigación, el de Mapas,

so we do have some collaboration, but also a lot of basic research

así que colaboramos, pero también mucho de investigación básica

that we publish openly.

que publicamos abiertamente.

We've published more than 1,000 papers last year

El año pasado, publicamos más de 1,000 trabajos

in different topics, including the ones you discussed,

sobre temas diferentes, incluyendo los que comentaste:

about fairness, interpretability of the machine-learning models,

justicia, interpretación de modelos de aprendizaje automático,

things that are super important,

todo esto es muy importante,

and we need to advance the state of the art in this

y tenemos que fomentar la última generación en esto

in order to continue to make progress

para continuar progresando

to make sure these models are developed safely and responsibly.

para que estos modelos se desarrollen de manera segura y responsable.

CA: It feels like we're at a time when people are concerned

CA: Se siente como estar en un momento con personas preocupadas

about the power of the big tech companies,

por el poder de las compañías tecnológicas,

and it's almost, if there was ever a moment to really show the world

y es como si alguna vez hubo un momento para mostrarle al mundo

that this is being done to make a better future,

que esto se hace para un mejor futuro,

that is actually key to Google's future,

eso es clave para el futuro de Google,

as well as all of ours.

así como para el de todos nosotros.

JD: Indeed.

JD: Ciertamente.

CA: It's very good to hear you come and say that, Jeff.

CA: Es muy bueno escucharlo de ti Jeff.

Thank you so much for coming here to TED.

Muchas gracias por venir a TED.

JD: Thank you.

JD: Gracias.

(Applause)

(Aplausos)