Why AI Needs a “Nutrition Label” | Kasia Chmielinski | TED

Traductor: Sebastian Betti Revisor: Alicia Brito-Antequera

No conozco a la mayoría ni a ninguno de Uds.,

Now, I haven't met most of you or really any of you,

but I feel a really good vibe in the room.

pero siento una muy buena onda en la sala.

(Laughter)

(Risas)

And so I think I'd like to treat you all to a meal.

Me gustaría invitarlos a comer a todos.

What do you think?

¿Qué opinan?

Yes? Great, so many new friends.

¿Sí? Genial, muchos amigos nuevos.

So we're going to go to this cafe,

Vamos a ir a este café,

they serve sandwiches.

sirven sándwiches.

And the sandwiches are really delicious.

Y los sándwiches son realmente deliciosos.

But I have to tell you that sometimes they make people really, really sick.

Pero debo decirte que a veces hacen que la gente se ponga muy, muy enferma.

(Laughter)

(Risas)

And we don't know why.

Y no sabemos por qué.

Because the cafe won't tell us how they make the sandwich,

Como la cafetería no nos dice cómo hacen el sándwich,

they won't tell us about the ingredients.

tampoco nos dicen los ingredientes.

And then the authorities have no way to fix the problem.

Además, las autoridades no tienen forma de solucionar el problema.

But the offer still stands.

Pero la oferta sigue en pie.

So who wants to get a sandwich?

¿Quién quiere un sándwich?

(Laughter)

(Risas)

Some brave souls, we can talk after.

Algunas almas valientes, podemos hablar después.

But for the rest of you, I understand.

Al resto de Uds., los entiendo.

You don't have enough information

No tienen suficiente información

to make good choices about your safety

para tomar buenas decisiones sobre su seguridad

or even fix the issue.

o incluso para solucionar el problema.

Now, before I further the anxiety here, I'm not actually trying to make you sick,

Ahora, antes de continuar con la ansiedad, no estoy intentando que se enfermen,

but this is an analogy to how we're currently making algorithmic systems,

pero esto es una analogía con la forma de crear sistemas algorítmicos,

also known as artificial intelligence or AI.

también conocidos como inteligencia artificial o IA.

Now, for those who haven't thought about the relationship

Ahora, para aquellos que no hayan pensado en la relación

between AI and sandwiches, don't worry about it,

entre la IA y los sándwiches, no se preocupen por eso,

I'm here for you, I'm going to explain.

les voy a explicar.

You see, AI systems, they provide benefit to society.

Verán, los sistemas de IA brindan beneficios a la sociedad.

They feed us,

Nos alimentan,

but they're also inconsistently making us sick.

pero también nos enferman de manera inconsistente.

And we don't have access to the ingredients that go into the AI.

Y no tenemos acceso a los ingredientes que componen la IA.

And so we can't actually address the issues.

Por lo tanto, no podemos abordar los problemas.

Tampoco podemos dejar de consumir IA

We also can't stop eating AI

como podemos dejar de comer un sándwich sospechoso

like we can just stop eating a shady sandwich

porque está en todas partes

because it's everywhere,

and we often don't even know that we're encountering a system

y, a menudo, ni siquiera nos damos cuenta

that's algorithmically based.

de estar ante un sistema con algoritmos de IA.

So today, I'm going to tell you about some of the AI trends that I see.

Hablaré de algunas de las tendencias de IA que veo.

Me basaré en mi experiencia en la creación de estos sistemas

I'm going to draw on my experience building these systems

over the last two decades to tell you about the tools

en las últimas dos décadas para hablar de las herramientas

that I and others have built to look into these AI ingredients.

que otros y yo hemos creado para analizar estos ingredientes de la IA.

And finally, I'm going to leave you with three principles

Y, por último, les voy a dejar con tres principios

that I think will give us a healthier relationship

que creo que nos ayudarán

to the companies that build artificial intelligence.

a mantener una relación más sana con las empresas que desarrollan la IA.

Voy a empezar con la pregunta: ¿cómo hemos llegado hasta aquí?

I'm going to start with the question, how did we get here?

AI is not new.

La IA no es nueva.

We have been living alongside AI for two decades.

Llevamos dos décadas conviviendo con la IA.

Every time that you apply for something online,

Cada vez que solicitas algo por Internet, abres una cuenta bancaria

you open a bank account or you go through passport control,

o pasas por el control de pasaportes,

you're encountering an algorithmic system.

te encuentras con un sistema algorítmico.

We've also been living with the negative repercussions of AI for 20 years,

También llevamos 20 años viviendo con las repercusiones negativas de la IA,

and this is how it makes us sick.

y es por eso que nos enfermamos.

These systems get deployed on broad populations,

Estos sistemas se implementan en poblaciones amplias

and then certain subsets end up getting negatively disparately impacted,

y, luego, ciertos subconjuntos terminan teniendo un impacto negativo y dispar

usually on the basis of race or gender or other characteristics.

por lo general, en función de la raza, el género u otras características.

We need to be able to understand the ingredients to these systems

Tenemos que poder entender los ingredientes de estos sistemas

so that we can address the issues.

para abordar los problemas.

So what are the ingredients to an AI system?

¿Cuáles son los ingredientes de un sistema de IA?

Well, data fuels the AI.

Bueno, los datos alimentan la IA.

The AI is going to look like the data that you gave it.

La IA se parecerá a los datos que le proporcionaste.

So for example,

Por ejemplo,

if I want to make a risk-assessment system for diabetes,

si quiero crear un sistema de evaluación del riesgo de la diabetes,

my training data set might be adults in a certain region.

mi conjunto de datos de entrenamiento

podría incluir a adultos de una región determinada.

And so I'll build that system,

Así que crearé ese sistema,

it'll work really well for those adults in that region.

que funcionará muy bien para los adultos de esa región.

But it does not work for adults in other regions

Pero no funciona para los adultos de otras regiones

or maybe at all for children.

ni tampoco para los niños.

So you can imagine if we deploy this for all those populations,

Así que imaginen de aplicarlo a esas poblaciones,

there are going to be a lot of people who are harmed.

habrá muchas personas que se verán perjudicadas.

We need to be able to understand the quality of the data before we use it.

Tenemos que ser capaces de entender la calidad de los datos antes de utilizarlos.

But I'm sorry to tell you that we currently live

Pero lamento decirles que actualmente vivimos

in what I call the Wild West of data.

en lo que yo llamo el Lejano Oeste de los datos.

It's really hard to assess quality of data before you use it.

Es muy difícil evaluar la calidad de los datos antes de usarlos.

No existen estándares globales

There are no global standards for data quality assessment,

para la evaluación de la calidad de los datos,

and there are very few data regulations around how you can use data

y hay muy pocas regulaciones sobre cómo se pueden usar los datos

and what types of data you can use.

y qué tipos de datos se pueden usar.

This is kind of like in the food safety realm.

Es algo parecido a lo que ocurre en la seguridad alimentaria.

If we couldn't understand where the ingredients were sourced,

Si no podíamos entender de dónde procedían los ingredientes,

we also had no idea whether they were safe for us to consume.

tampoco sabíamos si era seguro consumirlos.

We also tend to stitch data together,

También tendemos a unir datos,

and every time we stitch this data together,

y cada vez que juntamos estos datos,

que podemos encontrar en Internet, extraerlos, generarlos,

which we might find on the internet, scrape, we might generate it,

we could source it.

obtenerlos.

We lose information about the quality of the data.

Perdemos información sobre la calidad de los datos.

Y las personas que están creando los modelos

And the folks who are building the models

are not the ones that found the data.

no son las que encontraron los datos.

So there's further information that's lost.

Por lo tanto, hay más información que se ha perdido.

Now, I've been asking myself a lot of questions

Ahora, me he estado haciendo muchas preguntas

about how can we understand the data quality before we use it.

sobre cómo podemos entender la calidad de los datos antes de usarlos.

And this emerges from two decades of building these kinds of systems.

Y esto se debe a dos décadas de construcción de este tipo de sistemas.

Me capacitaron para construir sistemas

The way I was trained to build systems is similar to how people do it today.

de manera similar a como lo hacen las personas hoy en día.

You build for the middle of the distribution.

Construyes para la mitad de la distribución.

That's your normal user.

Es tu usuario normal.

En mi opinión, muchos de mis datos de entrenamiento

So for me, a lot of my training data sets

would include information about people from the Western world who speak English,

incluirían información sobre personas del mundo occidental que hablan inglés

who have certain normative characteristics.

y que tienen ciertas características normativas.

And it took me an embarrassingly long amount of time

Y me llevó un tiempo embarazosamente largo

to realize that I was not my own user.

darme cuenta de que no era mi propio usuario.

So I identify as non-binary, as mixed race,

Así que me identifico como no binaria, como mestiza,

I wear a hearing aid

uso un audífono

and I just wasn't represented in the data sets that I was using.

y simplemente no aparecía en los datos que utilizaba.

And so I was building systems that literally didn't work for me.

Así que estaba creando sistemas que, literalmente, no me funcionaban.

And for example, I once built a system that repeatedly told me

Y, por ejemplo, una vez construí un sistema que me decía repetidamente

that I was a white Eastern-European lady.

que era una mujer blanca del este de Europa.

This did a real number on my identity.

Esto marcó un número real en mi identidad.

(Laughter)

(Risas)

But perhaps even more worrying,

Pero quizás lo más preocupante es que

this was a system to be deployed in health care,

era un sistema de atención de salud, en el que

where your background can determine things like risk scores for diseases.

los antecedentes podían determinar puntuaciones de riesgo de enfermedades.

And so I started to wonder,

Empecé a ver si podía crear herramientas

can I build tools and work with others to do this

y usar otras herramientas para hacerlo,

so that I can look inside of a dataset before I use it?

para ver los datos antes de usarlos.

In 2018, I was part of a fellowship at Harvard and MIT,

En 2018, obtuve una beca en Harvard y el MIT

and I, with some colleagues, decided to try to address this problem.

y, junto con algunos colegas, decidí intentar abordar este problema.

And so we launched the Data Nutrition Project,

Por eso lanzamos el Data Nutrition Project,

which is a research group and also a nonprofit

que es un grupo de investigación y una organización sin fines de lucro

that builds nutrition labels for datasets.

que crea etiquetas nutricionales para conjuntos de datos.

So similar to food nutrition labels,

Como en las etiquetas de información nutricional

the idea here is that you can look inside of a data set before you use it.

la idea es revisar los datos antes de usarlos.

You can understand the ingredients,

Puedes entender los ingredientes

see whether it's healthy for the things that you want to do.

y ver si son saludables para lo que quieres hacer.

Now this is a cartoonified version of the label.

Esta es una versión caricaturizada de la etiqueta.

The top part tells you about the completion of the label itself.

La parte superior informa sobre la finalización de la etiqueta en sí.

And underneath that you have information about the data,

Y debajo hay información de datos, descripción,

the description, the keywords, the tags,

palabras clave, etiquetas

and importantly, on the right hand side,

y, lo más importante, a la derecha,

how you should and should not use the data.

cómo se debe y no se debe usar los datos.

If you could scroll on this cartoon,

Si pudieran desplazarse por esta caricatura,

you would see information about risks and mitigation strategies

verían información de riesgos y estrategias de mitigación

across a number of vectors.

en varios vectores.

And we launched this with two audiences in mind.

Y lo lanzamos pensando en dos públicos.

The first audience are folks who are building AI.

La primera audiencia son personas que crean IA.

So they’re choosing datasets.

Eligen los datos.

We want to help them make a better choice.

Queremos ayudarlos a tomar una mejor decisión.

The second audience are folks who are building datasets.

La segunda audiencia son las personas que crean los datos.

And it turns out

Y resulta que

that when you tell someone they have to put a label on something,

si le dices a alguien que tiene que poner una etiqueta,

they think about the ingredients beforehand.

piensa de antemano en los ingredientes.

The analogy here might be,

La analogía podría ser que

if I want to make a sandwich and say that it’s gluten-free,

si quiero hacer un sándwich y decir que no contiene gluten,

I have to think about all the components as I make the sandwich,

tengo que pensar en todos los componentes al hacer el sándwich:

the bread and the ingredients, the sauces.

el pan y los ingredientes, las salsas.

I can't just put it on a sandwich and put it in front of you

No puedo ponerlo en un sándwich y simplemente

and tell you it's gluten-free.

decir que no contiene gluten.

We're really proud of the work that we've done.

Estamos muy orgullosos del trabajo realizado.

We launched this as a design and then a prototype

Lo lanzamos como un diseño y luego como un prototipo

and ultimately a tool for others to make their own labels.

y, en última instancia, como herramienta para crear las propias etiquetas.

And we've worked with experts at places like Microsoft Research,

Trabajamos con expertos de Microsoft Research,

the United Nations and professors globally

Naciones Unidas y profesores del mundo

to integrate the label and the methodology

para integrar la etiqueta y la metodología

into their work flows and into their curricula.

en sus flujos de trabajo y en sus planes de estudio.

Pero sabemos que solo llega hasta cierto punto.

But we know it only goes so far.

And that's because it's actually really hard to get a label

Y eso se debe a que es muy difícil colocar una etiqueta

on every single dataset.

a cada dato.

And this comes down to the question

Y esto se reduce a la pregunta

of why would you put a label on a dataset to begin with?

¿por qué pondrías una etiqueta a los datos para empezar?

Well, the first reason is not rocket science.

Bueno, la primera razón no es una ciencia espacial.

It's that you have to.

Hay que hacerlo.

And this is, quite frankly, why food nutrition labels exist.

Y esta es, francamente,

la razón por la que existen las etiquetas nutricionales de los alimentos.

It's because if they didn't put them on the boxes, it would be illegal.

Es porque si no las pusieran en las cajas, sería ilegal.

However, we don't really have AI regulation.

Sin embargo, en realidad no tenemos una regulación de la IA.

We don't have much regulation around the use of data.

No tenemos mucha regulación sobre el uso de los datos.

Now there is some on the horizon.

Pero hay algunas en el horizonte.

For example, the EU AI Act just passed this week.

Por ejemplo, la Ley de IA de la UE acaba de aprobarse esta semana.

Y aunque no hay ningún requisito

And although there are no requirements around making the training data available,

para que los datos de entrenamiento estén disponibles,

they do have provisions for creating transparency labeling

sí hay disposiciones para crear etiquetas transparentes,

como el conjunto de datos, la etiqueta nutricional,

like the dataset nutrition label, data sheets, data statements.

las hojas de datos y las declaraciones de datos.

There are many in the space.

Hay muchos en el espacio.

We think this is a really good first step.

Creemos que este es un primer paso realmente bueno.

The second reason that you might have a label on a dataset

La segunda razón para incluir etiqueta en datos

es porque es una práctica recomendada o una norma cultural.

is because it is a best practice or a cultural norm.

The example here might be how we're starting to see

Al igual que que empezamos a ver que

more and more food packaging and menus at restaurants

cada vez más los alimentos y los menús de los restaurantes

include information about whether there's gluten.

incluyen información sobre si contienen gluten.

This is not required by law,

La ley no lo exige,

although if you do say it, it had better be true.

aunque si lo dices, más vale que sea cierto.

And the reason that people are adding this to their menus

Y la razón por la que la gente lo añade a sus menús

and their food packaging

y envases de alimentos

is because there's an increased awareness of the sensitivity

es porque hay una mayor conciencia de la sensibilidad

and kind of the seriousness of that kind of an allergy or condition.

y el tipo de gravedad de ese tipo de alergia o afección.

So we're also seeing some movement in this area.

Por lo tanto, también vemos algún movimiento en esta área.

Folks who are building datasets are starting to put nutrition labels,

Las personas que crean datos empiezan a incluir etiquetas nutricionales

data sheets on their datasets.

y hojas de datos en sus datos.

And people who are using data are starting to request the information.

Y las personas que utilizan datos empiezan a solicitar la información.

This is really heartening.

Esto es alentador.

And you might say, "Kasia, why are you up here?

Y podrías decir: «Kasia, ¿por qué estás aquí?

Everything seems to be going well, seems to be getting better."

Todo parece ir bien, parece estar mejorando».

In some ways it is.

En cierto modo lo es.

But I'm also here to tell you that our relationship to data

También vine a decirles que nuestra relación con los datos

is getting worse.

está empeorando.

Now the last few years have seen a supercharged interest

En los últimos años, ha aumentado el interés por recopilar datos.

in gathering datasets.

Companies are scraping the web.

Las empresas están explorando la web.

They're transcribing millions of hours of YouTube videos into text.

Transcriben millones de horas de vídeos de YouTube a texto.

By some estimates, they'll run out of information on the internet by 2026.

Según algunas estimaciones,

se quedarán sin información en Internet en 2026.

They're even considering buying publishing houses

Incluso están pensando en comprar editoriales

so they can get access to printed text and books.

para acceder a libros y textos impresos.

So why are they gathering this information?

¿Por qué recopilan esta información?

Well, they need more and more information

Bueno, necesitan cada vez más información

to train a new technique called generative AI.

para entrenar una nueva técnica llamada IA generativa.

I want to tell you about the size of these datasets.

Quiero informarles sobre el tamaño de estos datos.

If you look at GPT-3, which is a model that launched in 2020,

Si vemos GPT-3, un modelo que se lanzó en 2020,

the training dataset included 300 billion words, or parts of words.

los datos de entrenamiento eran 300 000 millones de palabras o partes de palabras.

Now for context, the English language contains less than a million words.

En cuanto al contexto, el idioma inglés contiene menos de un millón de palabras.

Just three years later, DBRX was launched,

Solo tres años después, se lanzó el DBRX,

which was trained on eight trillion words.

entrenado con ocho billones de palabras.

So 300 billion to eight trillion in three years.

De 300 000 a ocho billones en tres años.

And the datasets are getting bigger.

Y los datos son cada vez más.

Now with each successive model launch,

Con cada lanzamiento de modelo sucesivo,

the datasets are actually less and less transparent.

los datos son cada vez menos transparentes.

And even we have access to the information,

Y aunque tengamos acceso a la información,

it's so big, it's so hard to look inside without any kind of transparency tooling.

es muy vasta y muy difícil ver su interior sin herramientas de transparencia.

And the generative AI itself is also causing some worries.

La propia IA generativa también está causando algunas preocupaciones.

And you've probably encountered this technique through ChatGPT.

Y es probable que hayas encontrado esta técnica a través de ChatGPT.

I don't need to know what you do on the internet,

No necesito saber lo que haces en Internet,

that's between you and the internet,

eso es algo entre tú e Internet,

but you probably know, just like I do,

pero probablemente sepan, como yo,

how easy it is to create information using ChatGPT

lo fácil que es crear información con ChatGPT

and other generative AI technologies

y otras tecnologías

and to put that out onto the web.

de IA generativa y publicarla en la web.

And so we're looking at a situation

Por lo tanto, estamos ante una situación

in which we're going to encounter lots of information

en la que vamos a encontrar mucha información

that's algorithmically generated but we won't know it

generada algorítmicamente, pero no la sabremos ni sabremos si es cierta.

and we won't know whether it's true.

And this increases the scale of the potential risks and harms from AI.

Y esto aumenta la magnitud de los posibles riesgos y daños derivados de la IA.

Not only that, I'm sorry,

No solo eso, lo siento,

but the models themselves are getting controlled

sino que los propios modelos están siendo controlados

por un número cada vez menor de actores privados

by a smaller and smaller number of private actors in US tech firms.

de empresas tecnológicas estadounidenses.

So this is the models that were launched last year, in 2023.

Estos son los modelos lanzados el año pasado, en 2023.

And you can see most of them are pink, meaning they came out of industry.

La mayoría son de color rosa,

o sea que salieron de la industria.

Con el tiempo, cada vez son más los que provienen de la industria

And if you look at this over time, more and more are coming out of industry

y cada vez menos los que provienen de todos los demás sectores juntos,

and fewer and fewer are coming out of all the other sectors combined,

including academia and government,

incluidos el mundo académico y el gobierno,

where technology is often launched in a way

donde la tecnología a menudo se lanza de una manera

that's more easy to be scrutinized.

más fácil de analizar.

So if we go back to our cafe analogy,

Volviendo a la analogía de los cafés,

this is like you have a small number of private actors

es como si tuviéramos un pequeño número de actores privados

who own all the ingredients,

propietarios de todos los ingredientes,

they make all the sandwiches globally,

hacen todos los sándwiches del mundo

and there's not a lot of regulation.

y no hay mucha regulación.

En este punto, probablemente estén asustados

And so at this point you're probably scared

and maybe feeling a little uncomfortable.

y tal vez se sientan un poco incómodos.

Which is ironic because a few minutes ago, I was going to get you all sandwiches

Lo cual es irónico porque hace unos minutos, iba a traerles sándwiches a todos

and you said yes.

y me dijeron que sí.

This is why you should not accept food from strangers.

Es por eso que no debes aceptar comida de desconocidos.

But I wouldn't be up here if I weren't also optimistic.

Pero no estaría aquí si no fuera también optimista.

And that's because I think we have momentum

Y eso se debe a que creo que

behind the regulation and the culture changes.

respaldamos la regulación y los cambios culturales.

Especially if we align ourselves with three basic principles

Especialmente si nos alineamos con tres principios básicos

about how corporations should engage with data.

sobre cómo las empresas deben interactuar con los datos.

The first principle is that companies that gather data should tell us

El primer principio es que las empresas que recopilan datos deben decirnos

what they're gathering.

qué están recopilando.

Esto nos permitiría hacer preguntas como:

This would allow us to ask questions like, is it copyrighted material?

¿es material protegido por derechos de autor?

Is that information private?

¿Esa información es privada?

Could you please stop?

¿Podrías parar, por favor?

It also opens up the data to scientific inquiry.

También abre los datos a la investigación científica.

The second principle is that companies that are gathering our data should tell us

El segundo principio es que las empresas que recopilan nuestros datos

what they're going to do with it before they do anything with it.

deben decirnos qué van a hacer con ellos antes de hacer cualquier cosa con ellos.

And by requiring that companies tell us their plan,

Y al exigir que las empresas nos comuniquen su plan,

this means that they have to have a plan,

es decir tienen que tener un plan,

which would be a great first step.

lo que sería un excelente primer paso.

También es probable que esto lleve a minimizar la captura de datos,

It also probably would lead to the minimization of data capture,

ya que no podrían capturar datos

because they wouldn't be able to capture data

si no supieran lo que ya van a hacer con ellos.

if they didn't know what they were already going to do with it.

Y, por último, el tercer principio:

And finally, principle three,

companies that build AI should tell us about the data

las empresas que desarrollan IA deben informarnos sobre los datos

that they use to train the AI.

que utilizan para entrenarla.

Y aquí entran en juego las etiquetas nutricionales

And this is where dataset nutrition labels

and other transparency labeling comes into play.

y otras etiquetas de transparencia.

En el caso de que los datos en sí no estén disponibles,

You know, in the case where the data itself won't be made available,

which is most of the time, probably,

que la mayoría de las veces, probablemente,

the labeling is critical for us to be able to investigate the ingredients

el etiquetado sea fundamental para que podamos investigar los ingredientes

and start to find solutions.

y empezar a encontrar soluciones.

Quiero dejarles con la buena noticia,

So I want to leave you with the good news,

y es que los proyectos de nutrición con base en datos y otros proyectos

and that is that the data nutrition projects and other projects

are just a small part of a global movement

son solo una pequeña parte de un movimiento global

towards AI accountability.

hacia la rendición de cuentas de la IA.

Dataset Nutrition Label and other projects are just a first step.

Dataset Nutrition Label y otros proyectos son solo un primer paso.

La regulación está en el horizonte,

Regulation's on the horizon,

las normas culturales están cambiando,

the cultural norms are shifting,

especialmente si nos alineamos con estos tres principios básicos:

especially if we align with these three basic principles

que las empresas deben decirnos qué recopilan,

that companies should tell us what they're gathering,

tell us what they're going to do with it before they do anything with it,

qué van a hacer con ello antes de hacer cualquier cosa con eso,

and that companies that are building AI

y que las empresas que desarrollan la IA

should explain the data that they're using to build the system.

deben explicar los datos que utilizan para crear el sistema.

Tenemos que hacer que estas organizaciones rindan cuentas

We need to hold these organizations accountable

for the AI that they're building

por la IA que están creando preguntándoles,

by asking them, just like we do with the food industry,

al igual que hacemos con la industria alimentaria,

what's inside and how did you make it?

qué hay dentro y cómo se creó.

Solo así podremos mitigar

Only then can we mitigate the issues before they occur,

los problemas antes de que ocurran, y no después.

as opposed to after they occur.

And in doing so, create an integrated algorithmic internet

Y al hacerlo, cree una Internet algorítmica integrada

that is healthier for everyone.

que sea más saludable para todos.

Thank you.

Gracias.

(Applause)

(Aplausos)