What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Traducteur: eric vautier Relecteur: Claire Ghyselen

Every day, every week,

Chaque jour, chaque semaine,

we agree to terms and conditions.

nous acceptons des CGU.

And when we do this,

Et ce faisant,

we provide companies with the lawful right

nous donnons aux entreprises le droit

to do whatever they want with our data

de faire ce qu'elles veulent avec nos données

and with the data of our children.

et celles de nos enfants.

Which makes us wonder:

Ce qui nous amène à nous demander :

how much data are we giving away of children,

quelle quantité de données donnons-nous sur nos enfants,

and what are its implications?

et quelles en sont les implications ?

I'm an anthropologist,

Je suis anthropologue,

and I'm also the mother of two little girls.

et je suis aussi la mère de deux petites filles.

And I started to become interested in this question in 2015

J'ai commencé à m'intéresser à cette question en 2015

when I suddenly realized that there were vast --

lorsque j'ai soudain réalisé qu'il y avait de vastes,

almost unimaginable amounts of data traces

et presqu'innombrables, quantités de données

that are being produced and collected about children.

produites et collectées sur les enfants.

So I launched a research project,

J'ai donc lancé un projet de recherche,

which is called Child Data Citizen,

appelé « Child Data Citizen »,

and I aimed at filling in the blank.

et j'ai cherché à remplir le vide.

Now you may think that I'm here to blame you

Vous pensez peut-être que je suis ici pour vous reprocher

for posting photos of your children on social media,

de publier des photos de vos enfants sur les médias sociaux,

but that's not really the point.

mais là n'est pas la question.

The problem is way bigger than so-called "sharenting."

Le problème est bien plus important que le soi-disant « sharenting ».

This is about systems, not individuals.

Il s'agit de systèmes et non d'individus.

You and your habits are not to blame.

Vous et vos habitudes ne sont pas à blâmer.

For the very first time in history,

Pour la toute première fois dans l'Histoire,

we are tracking the individual data of children

nous suivons les données individuelles des enfants

from long before they're born --

bien avant leur naissance -

sometimes from the moment of conception,

parfois dès la conception,

and then throughout their lives.

puis tout au long de leur vie.

You see, when parents decide to conceive,

Vous voyez, lorsque les parents décident de concevoir,

they go online to look for "ways to get pregnant,"

ils vont chercher sur Internet des « moyens de tomber enceinte »

or they download ovulation-tracking apps.

ou les femmes téléchargent des applications de suivi de l'ovulation.

When they do get pregnant,

Lorsqu'elles tombent enceintes,

they post ultrasounds of their babies on social media,

elles publient les échographies sur les médias sociaux,

they download pregnancy apps

téléchargent des applications de grossesse

or they consult Dr. Google for all sorts of things,

ou consultent Dr Google pour toutes sortes de choses,

like, you know --

comme, vous savez...

for "miscarriage risk when flying"

« le risque de fausse couche en avion »

or "abdominal cramps in early pregnancy."

ou « les crampes abdominales en début de grossesse ».

I know because I've done it --

Je le sais parce que je l'ai fait -

and many times.

et plusieurs fois.

And then, when the baby is born, they track every nap,

Et puis, quand le bébé est né, elles suivent chaque sieste,

every feed,

chaque repas,

every life event on different technologies.

chaque événement de la vie sur différentes technologies.

And all of these technologies

Et toutes ces technologies font de l'argent

transform the baby's most intimate behavioral and health data into profit

avec les données les plus intimes du bébé - son comportement et sa santé -

by sharing it with others.

en les partageant avec d'autres.

So to give you an idea of how this works,

Pour vous montrer comment cela fonctionne,

in 2019, the British Medical Journal published research that showed

en 2019, le British Medical Journal a publié une étude qui a montré

that out of 24 mobile health apps,

que sur 24 applications de santé mobiles,

19 shared information with third parties.

19 partageaient des informations avec des tierces parties,

And these third parties shared information with 216 other organizations.

qui elles-mêmes les partageaient avec 216 autres entités.

Of these 216 other fourth parties,

Sur ces 216 entités,

only three belonged to the health sector.

seules trois appartenaient au secteur de la santé.

The other companies that had access to that data were big tech companies

Les autres entreprises étaient de grandes sociétés de la tech

like Google, Facebook or Oracle,

comme Google, Facebook ou Oracle,

they were digital advertising companies

des agences de publicité digitale,

and there was also a consumer credit reporting agency.

ainsi qu'une agence de renseignements sur le crédit à la consommation.

So you get it right:

Vous avez bien compris :

ad companies and credit agencies may already have data points on little babies.

les agences de publicité et de crédit ont déjà des données sur les bébés.

But mobile apps, web searches and social media

Mais les apps, les moteurs de recherche et les médias sociaux

are really just the tip of the iceberg,

ne sont en réalité que la partie visible de l'iceberg,

because children are being tracked by multiple technologies

car les enfants sont suivis par de multiples technologies

in their everyday lives.

dans leur vie quotidienne.

They're tracked by home technologies and virtual assistants in their homes.

Ils sont suivis chez eux par la domotique et les assistants virtuels ;

They're tracked by educational platforms

par les plates-formes éducatives

and educational technologies in their schools.

et les technologies éducatives à leur école ;

They're tracked by online records

par leur dossier médical

and online portals at their doctor's office.

et des portails en ligne chez leur médecin ;

They're tracked by their internet-connected toys,

par leurs jouets connectés à Internet,

their online games

leurs jeux en ligne

and many, many, many, many other technologies.

et beaucoup, beaucoup, beaucoup, beaucoup d'autres technologies.

So during my research,

Donc, pendant mes recherches,

a lot of parents came up to me and they were like, "So what?

beaucoup de parents sont venus me voir et m'ont dit : « Et alors ?

Why does it matter if my children are being tracked?

Quel est le problème que mes enfants soient surveillés ?

We've got nothing to hide."

Nous n'avons rien à cacher. »

Well, it matters.

Eh bien, c'est important.

It matters because today individuals are not only being tracked,

C'est important car aujourd'hui, les individus ne sont pas seulement suivis,

they're also being profiled on the basis of their data traces.

ils sont aussi profilés selon leurs données.

Artificial intelligence and predictive analytics are being used

L'intelligence artificielle et l'analyse prédictive sont utilisées

to harness as much data as possible of an individual life

pour exploiter le plus grand nombre possible de données sur un individu

from different sources:

provenant de différentes sources :

family history, purchasing habits, social media comments.

histoire familiale, habitudes d'achat, commentaires dans les médias sociaux.

And then they bring this data together

Puis ils rassemblent ces données

to make data-driven decisions about the individual.

pour prendre des décisions fondées sur des données concernant l'individu.

And these technologies are used everywhere.

Et ces technologies sont utilisées partout.

Banks use them to decide loans.

Les banques les utilisent pour décider des prêts.

Insurance uses them to decide premiums.

Les assurances les utilisent pour décider des primes.

Recruiters and employers use them

Les recruteurs et les employeurs les utilisent

to decide whether one is a good fit for a job or not.

pour décider si une personne est apte à occuper un emploi ou non.

Also the police and courts use them

La police et les tribunaux les utilisent également

to determine whether one is a potential criminal

pour déterminer si une personne est un criminel potentiel

or is likely to recommit a crime.

ou si elle est susceptible de récidiver.

We have no knowledge or control

Nous n'avons aucune connaissance ni aucun contrôle

over the ways in which those who buy, sell and process our data

sur la manière dont ceux qui achètent, vendent et traitent nos données

are profiling us and our children.

établissent notre profil et celui de nos enfants.

But these profiles can come to impact our rights in significant ways.

Mais ces profils peuvent avoir un impact significatif sur nos droits.

To give you an example,

Pour vous donner un exemple,

in 2018 the "New York Times" published the news

en 2018, le New York Times a publié un article

that the data that had been gathered

sur les données qui avaient été recueillies

through online college-planning services --

par le service de planification des études universitaires -

that are actually completed by millions of high school kids across the US

celles saisies par les millions de lycéens à travers les États-Unis

who are looking for a college program or a scholarship --

qui cherchent un programme universitaire ou une bourse.

had been sold to educational data brokers.

Elles avaient été vendues à des courtiers en données éducatives.

Now, researchers at Fordham who studied educational data brokers

Or, les chercheurs de Fordham qui ont étudié les courtiers en données éducatives

revealed that these companies profiled kids as young as two

ont révélé qu'ils établissaient le profil des enfants dès l'âge de deux ans

on the basis of different categories:

sur la base de différentes catégories :

ethnicity, religion, affluence,

ethnicité, religion, richesse,

social awkwardness

inaptitudes sociales

and many other random categories.

et bien d'autres catégories aléatoires.

And then they sell these profiles together with the name of the kid,

Ils vendent ensuite ces profils, accompagnés du nom de l'enfant,

their home address and the contact details

de son adresse et de ses coordonnées,

to different companies,

à différentes entreprises,

including trade and career institutions,

notamment des sociétés commerciales, des sociétés de recrutement,

student loans

des sociétés gérant des prêts étudiants et de cartes de crédit pour étudiants.

and student credit card companies.

To push the boundaries,

Pour aller au fond du sujet,

the researchers at Fordham asked an educational data broker

les chercheurs de Fordham ont demandé à un courtier en données éducatives

to provide them with a list of 14-to-15-year-old girls

de leur fournir une liste de jeunes filles de 14-15 ans

who were interested in family planning services.

intéressées par les services de planning familial.

The data broker agreed to provide them the list.

Le courtier a accepté de leur fournir la liste.

So imagine how intimate and how intrusive that is for our kids.

Imaginez donc à quel point c'est intime et intrusif pour nos enfants.

But educational data brokers are really just an example.

Mais les courtiers en données éducatives ne sont en réalité qu'un exemple.

The truth is that our children are being profiled in ways that we cannot control

La vérité est que nos enfants sont profilés

d'une manière que nous ne pouvons pas contrôler

but that can significantly impact their chances in life.

mais qui peut avoir un impact significatif sur leurs chances dans la vie.

So we need to ask ourselves:

Nous devons donc nous demander :

can we trust these technologies when it comes to profiling our children?

peut-on faire confiance à ces technologies lorsqu'il s'agit de profiler nos enfants ?

Can we?

Vraiment ?

My answer is no.

Ma réponse est non.

As an anthropologist,

En tant qu'anthropologue,

I believe that artificial intelligence and predictive analytics can be great

je pense que l'IA et l'analyse prédictive peuvent être très utiles

to predict the course of a disease

pour prédire l'évolution d'une maladie

or to fight climate change.

ou pour lutter contre le changement climatique.

But we need to abandon the belief

Mais nous devons arrêter de croire

that these technologies can objectively profile humans

que ces technologies peuvent établir un profil objectif des humains

and that we can rely on them to make data-driven decisions

et qu'on peut s'appuyer sur elles pour prendre des décisions

about individual lives.

concernant la vie des individus.

Because they can't profile humans.

Parce qu'on ne peut pas profiler les êtres humains.

Data traces are not the mirror of who we are.

Les traces de données ne sont pas le miroir de qui nous sommes.

Humans think one thing and say the opposite,

On pense une chose et on dit le contraire,

feel one way and act differently.

on ressent une chose et on agit différemment.

Algorithmic predictions or our digital practices

Les prédictions algorithmiques

cannot account for the unpredictability and complexity of human experience.

ne peuvent rendre compte de l'imprévisibilité

et de la complexité de l'expérience humaine.

But on top of that,

Mais en plus de cela,

these technologies are always --

ces technologies sont toujours -

always --

toujours -

in one way or another, biased.

d'une manière ou d'une autre, biaisées.

You see, algorithms are by definition sets of rules or steps

Les algorithmes sont par définition des ensembles de règles ou d'étapes

that have been designed to achieve a specific result, OK?

qui ont été conçus pour atteindre un résultat spécifique.

But these sets of rules or steps cannot be objective,

Mais ces ensembles de règles ne peuvent pas être objectifs,

because they've been designed by human beings

car ils ont été conçus par des êtres humains

within a specific cultural context

dans un contexte culturel spécifique

and are shaped by specific cultural values.

et sont façonnés par des valeurs culturelles spécifiques.

So when machines learn,

Lorsque les machines apprennent,

they learn from biased algorithms,

elles apprennent à partir d'algorithmes biaisés,

and they often learn from biased databases as well.

et elles apprennent souvent aussi à partir de bases de données biaisées.

At the moment, we're seeing the first examples of algorithmic bias.

En ce moment, nous voyons les premiers exemples de biais algorithmiques.

And some of these examples are frankly terrifying.

Et certains de ces exemples sont franchement terrifiants.

This year, the AI Now Institute in New York published a report

Cette année, l'AI Now Institute de New York a publié un rapport

that revealed that the AI technologies

qui révèle que les technologies d'IA

that are being used for predictive policing

utilisées pour la police prédictive

have been trained on "dirty" data.

ont été formées sur des données « sales ».

This is basically data that had been gathered

Il s'agit essentiellement de données recueillies

during historical periods of known racial bias

au cours de périodes de préjugés raciaux

and nontransparent police practices.

et de pratiques policières non transparentes.

Because these technologies are being trained with dirty data,

Comme ces technologies sont formées avec des données sales,

they're not objective,

elles ne sont pas objectives

and their outcomes are only amplifying and perpetrating

et leurs résultats ne font qu'amplifier et perpétuer

police bias and error.

les préjugés et les erreurs de la police.

So I think we are faced with a fundamental problem

Je pense donc que nous sommes confrontés à un problème fondamental

in our society.

dans notre société.

We are starting to trust technologies when it comes to profiling human beings.

Nous commençons à faire confiance aux technologies

pour profiler des êtres humains.

We know that in profiling humans,

Nous savons qu'en établissant le profil des humains,

these technologies are always going to be biased

ces technologies seront toujours biaisées

and are never really going to be accurate.

et ne seront jamais vraiment précises.

So what we need now is actually political solution.

Ce dont nous avons besoin, c'est d'une solution politique :

We need governments to recognize that our data rights are our human rights.

les gouvernements doivent reconnaître que

nos droits en matière de données sont des droits humains.

(Applause and cheers)

(Applaudissements et acclamations)

Until this happens, we cannot hope for a more just future.

Tant que cela ne sera pas le cas, nous ne pourrons pas espérer un avenir plus juste.

I worry that my daughters are going to be exposed

Je crains que mes filles soient exposées

to all sorts of algorithmic discrimination and error.

à toutes sortes de discriminations et d'erreurs algorithmiques.

You see the difference between me and my daughters

La différence entre mes filles et moi,

is that there's no public record out there of my childhood.

c'est qu'il n'y a pas d'archives publiques de mon enfance.

There's certainly no database of all the stupid things that I've done

Certainement pas de données sur toutes les choses stupides que j'ai faites

and thought when I was a teenager.

et pensées quand j'étais adolescente.

(Laughter)

(Rires)

But for my daughters this may be different.

Mais pour mes filles, c'est peut-être différent.

The data that is being collected from them today

Les données qui sont recueillies auprès d'elles aujourd'hui

may be used to judge them in the future

peuvent être utilisées pour les juger à l'avenir

and can come to prevent their hopes and dreams.

et pourraient peut-être altérer leurs espoirs et leurs rêves.

I think that's it's time.

Je pense qu'il est temps

It's time that we all step up.

que nous nous engagions tous,

It's time that we start working together

que nous commencions à travailler ensemble

as individuals,

en tant qu'individus,

as organizations and as institutions,

organisations et institutions,

and that we demand greater data justice for us

et exigions une plus grande justice en matière de données pour nous

and for our children

et pour nos enfants

before it's too late.

avant qu'il ne soit trop tard.

Thank you.

Je vous remercie.

(Applause)

(Applaudissements)