What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Traductor: José María Hernández Vicente Revisor: Lidia Cámara de la Fuente

Every day, every week,

Cada día de la semana, aceptamos términos y condiciones.

we agree to terms and conditions.

And when we do this,

Al hacerlo,

we provide companies with the lawful right

damos a las empresas el derecho

to do whatever they want with our data

de hacer lo que les plazca con nuestra información

and with the data of our children.

y con la de nuestros hijos.

Which makes us wonder:

Y nos preguntamos:

how much data are we giving away of children,

"¿cuántas cosas revelamos sobre nuestros hijos?"

and what are its implications?

y "¿qué implica esto?".

I'm an anthropologist,

Soy antropóloga y también madre de dos niñas.

and I'm also the mother of two little girls.

And I started to become interested in this question in 2015

Empecé a interesarme en este tema en 2015,

when I suddenly realized that there were vast --

cuando, de pronto, me di cuenta

almost unimaginable amounts of data traces

de la casi inconcebible cantidad de rastreos digitales

that are being produced and collected about children.

con los que se recopila información de niños.

So I launched a research project,

Por ello, inicié un proyecto llamado "Child Data Citizen",

which is called Child Data Citizen,

and I aimed at filling in the blank.

con el objetivo de llenar ese vacío.

Now you may think that I'm here to blame you

Quizás piensen que vengo a reprocharles

for posting photos of your children on social media,

que suban fotos de sus hijos a las redes sociales.

but that's not really the point.

Pero no he venido a eso.

The problem is way bigger than so-called "sharenting."

Esto es mucho más grave que el llamado "sharenting".

This is about systems, not individuals.

Esto no va de individuos, sino de sistemas.

You and your habits are not to blame.

Sus hábitos y Uds. no tienen culpa de nada.

For the very first time in history,

Por primerísima vez en la historia,

we are tracking the individual data of children

rastreamos la información de cada niño desde mucho antes de nacer.

from long before they're born --

sometimes from the moment of conception,

En ocasiones, antes de la fecundación y luego, a lo largo de sus vidas.

and then throughout their lives.

You see, when parents decide to conceive,

Cuando los padres deciden tener un hijo,

they go online to look for "ways to get pregnant,"

buscan en internet "formas de quedar embarazada"

or they download ovulation-tracking apps.

o descargan aplicaciones para controlar la ovulación.

When they do get pregnant,

Cuando llega el embarazo,

they post ultrasounds of their babies on social media,

suben ecografías de sus bebés a las redes sociales,

descargan aplicaciones para embarazadas

they download pregnancy apps

or they consult Dr. Google for all sorts of things,

o preguntan de todo al doctor Google,

Todo tipo de cosas, como:

like, you know --

for "miscarriage risk when flying"

"riesgo de aborto en pleno vuelo"

or "abdominal cramps in early pregnancy."

o "dolores menstruales al inicio del embarazo".

I know because I've done it --

Lo sé porque yo lo he hecho, y varias veces.

and many times.

And then, when the baby is born, they track every nap,

Y, al nacer el bebé, hacen un seguimiento de cada siesta, toma o acontecimiento

every feed,

every life event on different technologies.

en diferentes plataformas.

And all of these technologies

Todas estas plataformas se benefician de datos íntimos sobre salud y comportamiento

transform the baby's most intimate behavioral and health data into profit

by sharing it with others.

y los comparten entre ellas.

So to give you an idea of how this works,

Para que entiendan cómo funciona,

in 2019, the British Medical Journal published research that showed

en 2019, una investigación del "British Medical Journal"

that out of 24 mobile health apps,

desveló que, de 24 aplicaciones de salud,

19 shared information with third parties.

19 compartían información con terceros.

And these third parties shared information with 216 other organizations.

Y esos terceros compartían información con otras 216 organizaciones.

Of these 216 other fourth parties,

De esas 216 organizaciones, solo tres pertenecían al sector sanitario.

only three belonged to the health sector.

The other companies that had access to that data were big tech companies

En las demás empresas con acceso a esos datos eran gigantes de la tecnología,

like Google, Facebook or Oracle,

como Google, Facebook u Oracle,

they were digital advertising companies

había empresas de publicidad en línea y una agencia de crédito al consumo.

and there was also a consumer credit reporting agency.

So you get it right:

Para que me entiendan:

ad companies and credit agencies may already have data points on little babies.

agencias publicitarias y de crédito podrían tener puntos de datos de bebés.

But mobile apps, web searches and social media

Las aplicaciones móviles, redes sociales y buscadores solo son

are really just the tip of the iceberg,

"la punta del iceberg",

because children are being tracked by multiple technologies

porque se rastrea a los niños a diario desde múltiples tecnologías.

in their everyday lives.

They're tracked by home technologies and virtual assistants in their homes.

Se les sigue desde casa con dispositivos y asistentes virtuales.

They're tracked by educational platforms

Desde el colegio, con herramientas TIC y aulas virtuales.

and educational technologies in their schools.

They're tracked by online records

Desde la consulta del médico, con historiales clínicos y portales web.

and online portals at their doctor's office.

They're tracked by their internet-connected toys,

Los siguen desde sus juguetes con conexión a internet, juegos online

their online games

and many, many, many, many other technologies.

y muchas otras tecnologías.

So during my research,

En mi investigación, muchos padres venían a decirme cosas como:

a lot of parents came up to me and they were like, "So what?

"¿Y qué?".

"¿Qué importa si rastrean a mis hijos?

Why does it matter if my children are being tracked?

No tenemos nada que esconder".

We've got nothing to hide."

Well, it matters.

Pues sí, importa.

It matters because today individuals are not only being tracked,

No solo porque se hagan seguimientos de cada persona,

they're also being profiled on the basis of their data traces.

sino porque se les clasifica de acuerdo con lo recolectado.

Artificial intelligence and predictive analytics are being used

Con la inteligencia artificial y el análisis predictivo

se aprovechan al máximo los datos de cada individuo

to harness as much data as possible of an individual life

from different sources:

de distintas formas:

family history, purchasing habits, social media comments.

hábitos de compra, historial familiar comentarios en redes sociales...

And then they bring this data together

Luego, combinan esos datos y sacan conclusiones de esa persona.

to make data-driven decisions about the individual.

And these technologies are used everywhere.

Estas tecnologías se usan en todas partes.

Banks use them to decide loans.

Los bancos las usan para dar préstamos.

Insurance uses them to decide premiums.

Las aseguradoras las usan para las primas.

Recruiters and employers use them

Las empresas y patrones las usan para saber si alguien vale para un puesto.

to decide whether one is a good fit for a job or not.

Also the police and courts use them

Además, la policía y los juzgados las usan

to determine whether one is a potential criminal

para saber la probabilidad de que alguien cometa delito o reincida.

or is likely to recommit a crime.

We have no knowledge or control

No podemos saber ni controlar

over the ways in which those who buy, sell and process our data

la forma en la que esta gente que compra, vende y procesa nuestros datos

are profiling us and our children.

traza perfiles sobre nosotros y nuestros hijos.

But these profiles can come to impact our rights in significant ways.

Pero estos perfiles pueden afectar gravemente nuestros derechos.

To give you an example,

Pongamos un ejemplo:

in 2018 the "New York Times" published the news

"The New York Times" publicó en 2018

that the data that had been gathered

que los datos recogidos en webs de planificación educativa,

through online college-planning services --

that are actually completed by millions of high school kids across the US

que rellenan millones de jóvenes estadounidenses

who are looking for a college program or a scholarship --

en busca de una beca o un plan universitario,

had been sold to educational data brokers.

se vendieron a brókeres de información.

Now, researchers at Fordham who studied educational data brokers

Pues en Fordham se investigó a estos brókeres de lo educativo

revealed that these companies profiled kids as young as two

y se descubrió que estas empresas clasifican a niños de incluso dos años

on the basis of different categories:

según diferentes categorías:

ethnicity, religion, affluence,

etnia, religión, riqueza,

social awkwardness

ansiedad social

and many other random categories.

y muchas más categorías.

And then they sell these profiles together with the name of the kid,

Y luego venden esos perfiles,

con el nombre del niño, dirección y datos personales,

their home address and the contact details

to different companies,

a distintas empresas,

including trade and career institutions,

como instituciones educativas y de comercio,

student loans

de servicios de becas y cuentas bancarias para estudiantes.

and student credit card companies.

To push the boundaries,

Para avanzar en esto,

the researchers at Fordham asked an educational data broker

los investigadores de Fordham pidieron a uno de estos brókeres

to provide them with a list of 14-to-15-year-old girls

que les proporcionase una lista de chicas de entre 14 y 15 años

who were interested in family planning services.

a las que les interesase un servicio de planificación familiar.

The data broker agreed to provide them the list.

El bróker accedió a facilitarles esa lista.

So imagine how intimate and how intrusive that is for our kids.

Imagínense lo mucho que esto invade la intimidad de nuestros hijos.

But educational data brokers are really just an example.

Pero estos brókeres de lo educativo son solo un ejemplo.

The truth is that our children are being profiled in ways that we cannot control

Realmente, la forma en la que clasifican a nuestros hijos escapa de nuestro control

but that can significantly impact their chances in life.

y tiene un gran impacto en su futuro.

So we need to ask ourselves:

Así que debemos preguntarnos:

can we trust these technologies when it comes to profiling our children?

¿se puede confiar en estas tecnologías que catalogan a nuestros hijos?

Can we?

¿Se puede?

My answer is no.

Yo digo que no.

As an anthropologist,

Como antropóloga,

creo que la inteligencia artificial y el análisis predictivo

I believe that artificial intelligence and predictive analytics can be great

pueden servir para predecir enfermedades o luchar contra el cambio climático.

to predict the course of a disease

or to fight climate change.

Pero tenemos que abandonar la creencia

But we need to abandon the belief

that these technologies can objectively profile humans

de que estas tecnologías pueden hacer un perfil objetivo de los seres humanos

and that we can rely on them to make data-driven decisions

y que podemos confiar en ellas para tomar decisiones

about individual lives.

basadas en datos sobre las vidas de los individuos.

Because they can't profile humans.

No pueden clasificar humanos.

Data traces are not the mirror of who we are.

Los rastreos digitales no reflejan quiénes somos.

Humans think one thing and say the opposite,

Los humanos piensan una cosa y dicen otra, sienten de una forma y actúan diferente.

feel one way and act differently.

Algorithmic predictions or our digital practices

Las predicciones algorítmicas de lo que hacemos

cannot account for the unpredictability and complexity of human experience.

no tienen en cuenta la impredecibilidad y complejidad de la naturaleza humana.

But on top of that,

Por si fuera poco,

these technologies are always --

estas tecnologías son siempre, de un modo u otro, subjetivas.

always --

in one way or another, biased.

You see, algorithms are by definition sets of rules or steps

Los algoritmos son, por definición, conjuntos de reglas o pasos

that have been designed to achieve a specific result, OK?

diseñados para conseguir resultados concretos.

But these sets of rules or steps cannot be objective,

Pero tales reglas o pasos no pueden ser imparciales,

because they've been designed by human beings

porque los han diseñado humanos dentro de un marco cultural concreto

within a specific cultural context

and are shaped by specific cultural values.

y están influenciados por unos valores concretos.

So when machines learn,

Cuando las máquinas aprenden, lo hacen a partir de algoritmos sesgados,

they learn from biased algorithms,

and they often learn from biased databases as well.

y a menudo también aprenden de bases de datos sesgadas.

At the moment, we're seeing the first examples of algorithmic bias.

Justo ahora podemos ver los primeros casos de sesgo algorítmico.

And some of these examples are frankly terrifying.

Algunos de estos ejemplos son francamente aterradores.

This year, the AI Now Institute in New York published a report

Este año, el AI Institute de Nueva York ha publicado un informe que demuestra

that revealed that the AI technologies

que las inteligencias artificiales que usa la policía predictiva

that are being used for predictive policing

have been trained on "dirty" data.

han aprendido de "datos sucios".

This is basically data that had been gathered

Estos son datos recogidos de épocas de claro prejuicio racial

during historical periods of known racial bias

and nontransparent police practices.

y acciones policiales poco transparentes.

Because these technologies are being trained with dirty data,

Estas inteligencias, al alimentarse de datos sucios, no son objetivas,

they're not objective,

and their outcomes are only amplifying and perpetrating

y los resultados solo dan lugar a parcialidad y errores policiales.

police bias and error.

So I think we are faced with a fundamental problem

Creo que nos enfrentamos a un problema fundamental de la sociedad.

in our society.

We are starting to trust technologies when it comes to profiling human beings.

Nos estamos fiando de las tecnologías a la hora de clasificar a seres humanos.

We know that in profiling humans,

Ya se sabe que las tecnologías siempre van a estar influenciadas

these technologies are always going to be biased

and are never really going to be accurate.

y nunca van a ser del todo exactas.

So what we need now is actually political solution.

Lo que en realidad necesitamos es una es una solución política.

We need governments to recognize that our data rights are our human rights.

Que los gobiernos vean que la protección de datos es un derecho humano.

(Applause and cheers)

(Aplausos y vítores)

Until this happens, we cannot hope for a more just future.

Hasta que esto no ocurra, no esperemos un futuro más justo.

I worry that my daughters are going to be exposed

Me preocupa que mis hijas estén expuestas a discriminaciones y errores algorítmicos.

to all sorts of algorithmic discrimination and error.

You see the difference between me and my daughters

Lo que me diferencia de mis hijas es que no hay registros de mi infancia.

is that there's no public record out there of my childhood.

There's certainly no database of all the stupid things that I've done

Por supuesto, no se conocen las tonterías que decía y pensaba de adolescente.

and thought when I was a teenager.

(Laughter)

(Risas)

But for my daughters this may be different.

Pero, para mis hijas, esto podría ser diferente.

The data that is being collected from them today

Los datos que se recogen de ellas ahora

may be used to judge them in the future

pueden usarse en su contra en el futuro

and can come to prevent their hopes and dreams.

Y puede llegar a limitar sus sueños y aspiraciones.

I think that's it's time.

Creo que es el momento.

It's time that we all step up.

El momento de dar un paso adelante, de empezar a trabajar juntos,

It's time that we start working together

as individuals,

como individuos, organizaciones e instituciones

as organizations and as institutions,

and that we demand greater data justice for us

y exijamos más justicia por nuestros datos y los de nuestros hijos.

and for our children

before it's too late.

antes de que sea tarde.

Thank you.

Gracias.

(Applause)

(Aplausos)