What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Traduttore: Leslie Gauthier Revisore: Silvia Monti

Every day, every week,

Ogni giorno, ogni settimana,

diamo il consenso a termini e condizioni.

we agree to terms and conditions.

And when we do this,

E quando lo facciamo,

we provide companies with the lawful right

forniamo alle aziende il diritto

to do whatever they want with our data

di fare quel che vogliono con i nostri dati

e con quelli dei nostri figli.

and with the data of our children.

Which makes us wonder:

Il che ci fa pensare:

how much data are we giving away of children,

quanti dati dei nostri figli stiamo rivelando

and what are its implications?

e cosa implica tutto ciò?

I'm an anthropologist,

Sono un'antropologa

and I'm also the mother of two little girls.

e sono anche la madre di due bambine.

And I started to become interested in this question in 2015

Ho iniziato a interessarmi a questo argomento nel 2015,

quando mi sono improvvisamente resa conto che c’era una vastità,

when I suddenly realized that there were vast --

almost unimaginable amounts of data traces

una quantità quasi inimmaginabile di tracce di dati

that are being produced and collected about children.

che vengono prodotte e raccolte sui bambini.

So I launched a research project,

Così ho avviato un progetto di ricerca, chiamato “Child Data Citizen”,

which is called Child Data Citizen,

and I aimed at filling in the blank.

che mira a colmare quel vuoto.

Now you may think that I'm here to blame you

Ora, penserete che sia qui per rimproverarvi

for posting photos of your children on social media,

perché postate foto dei vostri figli sui social media,

but that's not really the point.

ma in realtà non è quello il punto.

The problem is way bigger than so-called "sharenting."

Il problema è molto più grande dello “sharenting”.

This is about systems, not individuals.

Si tratta di sistemi, non di individui.

You and your habits are not to blame.

Né voi né le vostre abitudini siete da biasimare.

For the very first time in history,

Per la primissima volta nella storia,

we are tracking the individual data of children

teniamo traccia dei singoli dati dei bambini

from long before they're born --

da molto prima della loro nascita --

talvolta dal momento del concepimento

sometimes from the moment of conception,

and then throughout their lives.

e poi per tutta la durata della loro vita.

You see, when parents decide to conceive,

Vedete, quando i genitori decidono di concepire,

they go online to look for "ways to get pregnant,"

cercano su Internet “modi per rimanere incinta”

or they download ovulation-tracking apps.

o scaricano app che tracciano l’ovulazione.

When they do get pregnant,

Quando riescono a concepire,

they post ultrasounds of their babies on social media,

postano l’ecografia dei loro figli sui social media,

scaricano app per la gravidanza

they download pregnancy apps

o consultano il “Dottor Google” per qualsiasi cosa,

or they consult Dr. Google for all sorts of things,

like, you know --

come, ad esempio,

for "miscarriage risk when flying"

"rischio di aborto spontaneo in volo"

or "abdominal cramps in early pregnancy."

o “crampi addominali all’inizio della gravidanza”.

I know because I've done it --

Lo so perché l'ho fatto anch'io,

and many times.

tantissime volte.

And then, when the baby is born, they track every nap,

E poi, quando nasce il bambino, tengono traccia di ogni pisolino,

every feed,

di ogni pappa, di qualsiasi avvenimento su varie tecnologie.

every life event on different technologies.

E tutte queste tecnologie

And all of these technologies

transform the baby's most intimate behavioral and health data into profit

trasformano i dati comportamentali e sanitari più intimi dei bambini

in profitto

by sharing it with others.

condividendoli con altri.

So to give you an idea of how this works,

Per darvi un'idea di come funziona,

in 2019, the British Medical Journal published research that showed

nel 2019 il British Medical Journal ha pubblicato una ricerca

che ha rilevato che su 24 app sanitarie per il cellulare,

that out of 24 mobile health apps,

19 shared information with third parties.

19 hanno condiviso informazioni con terze parti.

E queste terze parti hanno condiviso informazioni con altre 216 organizzazioni.

And these third parties shared information with 216 other organizations.

Of these 216 other fourth parties,

Di queste altre 216 quarte parti,

only three belonged to the health sector.

soltanto tre appartenevano al settore sanitario.

The other companies that had access to that data were big tech companies

Le altre che vi hanno avuto accesso erano grandi aziende tecnologiche

come Google, Facebook e Oracle;

like Google, Facebook or Oracle,

they were digital advertising companies

erano aziende di digital advertising

and there was also a consumer credit reporting agency.

e c’era anche un’agenzia di segnalazione di credito al consumo.

Avete capito bene:

So you get it right:

ad companies and credit agencies may already have data points on little babies.

agenzie pubblicitarie e di credito potrebbero già avere

punti di dati sui bambini.

Ma le app per cellulari, le ricerche sul web e i social media

But mobile apps, web searches and social media

are really just the tip of the iceberg,

sono solamente la punta dell'iceberg,

perché i bambini vengono tracciati da diverse tecnologie

because children are being tracked by multiple technologies

in their everyday lives.

nella loro vita di tutti i giorni.

They're tracked by home technologies and virtual assistants in their homes.

A casa, vengono tracciati dalla tecnologia domestica e dagli assistenti virtuali.

They're tracked by educational platforms

Vengono tracciati dalle piattaforme e dalle tecnologie educative a scuola.

and educational technologies in their schools.

Vengono tracciati dalle registrazioni e dai portali online allo studio medico.

They're tracked by online records

and online portals at their doctor's office.

They're tracked by their internet-connected toys,

Vengono tracciati dai giocattoli connessi a Internet, dai giochi online

their online games

and many, many, many, many other technologies.

e da tante, tantissime altre tecnologie.

So during my research,

Durante la mia ricerca, tanti genitori sono venuti a chiedermi:

a lot of parents came up to me and they were like, "So what?

"E quindi?

Perché dovrebbe avere importanza se i miei figli vengono tracciati?

Why does it matter if my children are being tracked?

Non abbiamo nulla da nascondere".

We've got nothing to hide."

Well, it matters.

Beh, ha importanza.

Ha importanza perché oggi gli individui non vengono solo tracciati,

It matters because today individuals are not only being tracked,

ma vengono anche schedati in base alle loro tracce di dati.

they're also being profiled on the basis of their data traces.

Artificial intelligence and predictive analytics are being used

L’intelligenza artificiale e l’analisi predittiva vengono utilizzate

per raccogliere il maggior numero possibile di dati

to harness as much data as possible of an individual life

sulla vita di un individuo

from different sources:

da diverse fonti:

family history, purchasing habits, social media comments.

storia familiare, abitudini di acquisto, commenti sui social media.

E poi tutti questi dati vengono messi insieme

And then they bring this data together

to make data-driven decisions about the individual.

e usati come base per prendere decisioni sugli individui.

And these technologies are used everywhere.

E queste tecnologie sono utilizzate dappertutto:

Banks use them to decide loans.

le banche le usano per prendere decisioni sui prestiti,

Insurance uses them to decide premiums.

le assicurazioni le usano per prendere decisioni sulle polizze

Recruiters and employers use them

e i recruiter e i datori di lavoro le usano

to decide whether one is a good fit for a job or not.

per decidere se una persona sia o meno adatta per un lavoro.

Also the police and courts use them

Anche la polizia e i tribunali le utilizzano

to determine whether one is a potential criminal

per determinare se una persona sia un potenziale criminale

or is likely to recommit a crime.

o se sia incline o meno a ricommettere un crimine.

We have no knowledge or control

Non abbiamo né conoscenza né controllo

over the ways in which those who buy, sell and process our data

sui modi in cui coloro che acquistano, vendono ed elaborano i nostri dati

schedano noi e i nostri figli.

are profiling us and our children.

But these profiles can come to impact our rights in significant ways.

Ma questi profili potrebbero avere un importante impatto sui nostri diritti.

To give you an example,

Per farvi un esempio,

in 2018 the "New York Times" published the news

nel 2018 il New York Times ha pubblicato la notizia

that the data that had been gathered

che i dati che erano stati raccolti

through online college-planning services --

attraverso i servizi online di pianificazione universitaria --

that are actually completed by millions of high school kids across the US

che vengono utilizzati in tutti gli USA da milioni di liceali

who are looking for a college program or a scholarship --

che sono alla ricerca di un’università o di una borsa di studio --

had been sold to educational data brokers.

erano stati venduti a data broker educativi.

Now, researchers at Fordham who studied educational data brokers

Ora, i ricercatori della Fordham che hanno studiato i data broker educativi

revealed that these companies profiled kids as young as two

hanno rivelato che queste aziende schedano bimbi di appena due anni

on the basis of different categories:

sulla base di varie categorie:

ethnicity, religion, affluence,

etnia, religione, ricchezza,

social awkwardness

disagio sociale

and many other random categories.

e tante altre categorie casuali.

And then they sell these profiles together with the name of the kid,

Dopodiché, vendono questi profili insieme al nome del bambino,

their home address and the contact details

al suo indirizzo e ai dettagli di contatto

to different companies,

a numerose aziende,

including trade and career institutions,

compresi enti commerciali e professionali

e aziende di prestito e di carte di credito studentesche.

student loans

and student credit card companies.

To push the boundaries,

Per spingersi oltre,

the researchers at Fordham asked an educational data broker

i ricercatori della Fordham hanno chiesto a un data broker educativo

to provide them with a list of 14-to-15-year-old girls

di fornire loro una lista di ragazze dai 14 ai 15 anni

who were interested in family planning services.

che si erano interessate ai servizi di pianificazione familiare.

The data broker agreed to provide them the list.

Il data broker ha acconsentito.

So imagine how intimate and how intrusive that is for our kids.

Dunque immaginate quanto sia intimo e invasivo tutto ciò per i nostri figli.

But educational data brokers are really just an example.

Ma i data broker educativi sono solamente un esempio.

The truth is that our children are being profiled in ways that we cannot control

La verità è che i nostri figli vengono schedati in modi incontrollabili

but that can significantly impact their chances in life.

che, però, possono avere un impatto significativo sulla loro vita.

Dunque dobbiamo chiederci:

So we need to ask ourselves:

can we trust these technologies when it comes to profiling our children?

possiamo fidarci di queste tecnologie

quando si tratta di schedare i nostri figli?

Can we?

Possiamo farlo?

My answer is no.

La mia risposta è no.

As an anthropologist,

Come antropologa,

ritengo che l’intelligenza artificiale e l’analisi predittiva siano grandiose

I believe that artificial intelligence and predictive analytics can be great

to predict the course of a disease

per prevedere il corso di una malattia

or to fight climate change.

o per combattere il cambiamento climatico.

Ma dobbiamo abbandonare la convinzione

But we need to abandon the belief

that these technologies can objectively profile humans

che queste tecnologie possano schedare in modo oggettivo gli esseri umani

and that we can rely on them to make data-driven decisions

e che possiamo fare affidamento su di loro

per prendere decisioni sulle vite delle persone sulla base di dati.

about individual lives.

Because they can't profile humans.

Perché non possono schedare gli esseri umani.

Le tracce di dati non sono lo specchio di chi siamo.

Data traces are not the mirror of who we are.

Humans think one thing and say the opposite,

Gli umani pensano una cosa e dicono l’opposto,

feel one way and act differently.

si sentono in un modo e si comportano in tutt’altra maniera.

Algorithmic predictions or our digital practices

Le previsioni algoritmiche o le nostre abitudini digitali

cannot account for the unpredictability and complexity of human experience.

non possono tenere conto

dell’imprevedibilità e della complessità dell’esperienza umana.

But on top of that,

Oltretutto,

queste tecnologie sono sempre --

these technologies are always --

always --

sempre --

in un modo o nell'altro, discriminatorie.

in one way or another, biased.

Vedete, gli algoritmi sono per definizione insiemi di regole o fasi

You see, algorithms are by definition sets of rules or steps

that have been designed to achieve a specific result, OK?

progettati per raggiungere un determinato risultato.

But these sets of rules or steps cannot be objective,

Ma questi insiemi di regole o fasi non possono essere obiettivi

because they've been designed by human beings

perché sono stati creati dagli umani in un determinato contesto culturale

within a specific cultural context

and are shaped by specific cultural values.

e sono modellati da specifici valori culturali.

So when machines learn,

Dunque quando le macchine apprendono, lo fanno da algoritmi discriminatori

they learn from biased algorithms,

and they often learn from biased databases as well.

e spesso anche da banche dati discriminatorie.

At the moment, we're seeing the first examples of algorithmic bias.

Al momento, stiamo assistendo ai primi esempi di discriminazione algoritmica.

And some of these examples are frankly terrifying.

E alcuni di questi esempi sono, francamente, terrificanti.

This year, the AI Now Institute in New York published a report

Quest’anno, l’AI Now Institute di New York ha pubblicato una relazione

that revealed that the AI technologies

che ha mostrato come le tecnologie di IA

che vengono utilizzate per la politica preventiva

that are being used for predictive policing

have been trained on "dirty" data.

si basino su dati “sporchi”.

This is basically data that had been gathered

Si tratta in pratica di dati che sono stati raccolti

during historical periods of known racial bias

durante periodi storici di nota discriminazione razziale

and nontransparent police practices.

e di pratiche di polizia non trasparenti.

Because these technologies are being trained with dirty data,

Poiché queste tecnologie si basano su dati sporchi,

they're not objective,

non sono obiettive

e i loro risultati stanno solamente amplificando e perpetuando

and their outcomes are only amplifying and perpetrating

police bias and error.

il pregiudizio e gli sbagli della polizia.

Dunque ritengo che ci troviamo di fronte a un problema fondamentale

So I think we are faced with a fundamental problem

in our society.

della nostra società:

stiamo iniziando a fidarci delle tecnologie

We are starting to trust technologies when it comes to profiling human beings.

quando si tratta di schedare gli esseri umani.

We know that in profiling humans,

Sappiamo che nello schedare gli esseri umani,

queste tecnologie saranno sempre discriminatorie

these technologies are always going to be biased

e non saranno mai realmente precise.

and are never really going to be accurate.

So what we need now is actually political solution.

Quindi ciò di cui abbiamo bisogno ora è in realtà una soluzione politica.

We need governments to recognize that our data rights are our human rights.

I governi devono riconoscere che i diritti sui dati sono diritti umani.

(Applause and cheers)

(Applausi)

Until this happens, we cannot hope for a more just future.

Finché non accadrà, non possiamo sperare per un futuro più equo.

I worry that my daughters are going to be exposed

Mi preoccupa che le mie figlie vengano esposte

to all sorts of algorithmic discrimination and error.

a ogni sorta di discriminazione ed errore algoritmico.

You see the difference between me and my daughters

Vedete, la differenza tra me e le mie figlie

is that there's no public record out there of my childhood.

è che non c’è nessun tipo di informazione di pubblico dominio sulla mia infanzia.

There's certainly no database of all the stupid things that I've done

Certamente non esiste una banca dati di tutte le cose stupide che ho fatto

and thought when I was a teenager.

e pensato quando ero una ragazzina.

(Risate)

(Laughter)

But for my daughters this may be different.

Ma per le mie figlie tutto ciò potrebbe essere diverso.

The data that is being collected from them today

I dati che vengono raccolti su di loro oggi

may be used to judge them in the future

potrebbero essere usati per giudicarle in futuro

and can come to prevent their hopes and dreams.

e possono arrivare a ostacolare le loro speranze e i loro sogni.

I think that's it's time.

Penso che sia arrivato il momento.

It's time that we all step up.

È il momento di farci avanti,

It's time that we start working together

di iniziare a lavorare insieme

come individui,

as individuals,

as organizations and as institutions,

come organizzazioni e come istituzioni

e di esigere una maggiore giustizia sui dati per noi e per i nostri figli

and that we demand greater data justice for us

and for our children

before it's too late.

prima che sia troppo tardi.

Thank you.

Grazie.

(Applause)

(Applausi)