What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Traducător: Cristian Boros Corector: Bianca-Ioanidia Mirea

Every day, every week,

În fiecare zi, în fiecare săptămână,

we agree to terms and conditions.

acceptăm termeni și condiții.

And when we do this,

Când facem asta,

we provide companies with the lawful right

oferim companiilor dreptul legal

to do whatever they want with our data

să facă ce vor cu informațiile noastre

and with the data of our children.

și ale copiilor noștri.

Which makes us wonder:

Ceea ce ne face să ne întrebăm:

how much data are we giving away of children,

câte informații referitoare la copii oferim,

and what are its implications?

și care sunt implicațiile?

I'm an anthropologist,

Sunt antropolog

and I'm also the mother of two little girls.

și mamă a două fetițe.

And I started to become interested in this question in 2015

Această întrebare a început să mă intereseze în 2015,

when I suddenly realized that there were vast --

când am realizat subit că sunt multe —

almost unimaginable amounts of data traces

aproape inimaginabil de multe date care sunt produse și colectate

that are being produced and collected about children.

referitoare la copii.

So I launched a research project,

Am lansat un proiect de cercetare

which is called Child Data Citizen,

numit Child Data Citizen,

and I aimed at filling in the blank.

menit să umple spațiile goale.

Now you may think that I'm here to blame you

Acum ați putea crede că sunt aici ca să vă învinuiesc

for posting photos of your children on social media,

că postați poze cu propriii copii pe rețele de socializare,

but that's not really the point.

dar nu e acesta scopul.

The problem is way bigger than so-called "sharenting."

Problema e mult mai mare decât așa-numitul „părin-share”.

This is about systems, not individuals.

E vorba de sisteme, nu de indivizi.

You and your habits are not to blame.

Nu voi și obiceiurile voastre sunt de vină.

For the very first time in history,

Pentru prima oară în istorie,

we are tracking the individual data of children

urmărim informații individuale ale copiilor

from long before they're born --

cu mult înainte să se nască —

sometimes from the moment of conception,

câteodată de la momentul concepției

and then throughout their lives.

iar după, pe parcursul vieții.

You see, when parents decide to conceive,

Vedeți voi, când părinții decid să conceapă un copil,

they go online to look for "ways to get pregnant,"

caută online „moduri de a rămâne însărcinată”,

or they download ovulation-tracking apps.

sau descarcă aplicații care urmăresc perioada de ovulație.

When they do get pregnant,

Când rămân însărcinate,

they post ultrasounds of their babies on social media,

postează ultrasunetele bebelușului pe rețele de socializare,

they download pregnancy apps

descarcă aplicații pentru graviditate,

or they consult Dr. Google for all sorts of things,

sau îl consultă pe Dr. Google pentru tot felul de lucruri

like, you know --

cum ar fi, știți voi —

for "miscarriage risk when flying"

„risc de pierdere a sarcinii în timpul zborului”

or "abdominal cramps in early pregnancy."

sau „crampe abdominale în graviditatea timpurie”.

I know because I've done it --

Știu pentru că am făcut și eu asta —

and many times.

de multe ori.

And then, when the baby is born, they track every nap,

Iar după ce bebelușul s-a născut, aplicațiile îi monitorizează somnul,

every feed,

hrănirea,

every life event on different technologies.

fiecare eveniment din viață cu diferite tehnologii.

And all of these technologies

Și din toate aceste tehnologii,

transform the baby's most intimate behavioral and health data into profit

transformă cele mai intime informații despre bebeluș în profit,

by sharing it with others.

împărtășindu-le cu alții.

So to give you an idea of how this works,

Ca să vă dau o idee cum funcționează:

in 2019, the British Medical Journal published research that showed

în 2019, British Medical Journal a publicat o cercetare care arăta

that out of 24 mobile health apps,

că din 24 de aplicații de mobil pentru sănătate,

19 shared information with third parties.

19 împărtășeau informațiile cu părți terțe.

And these third parties shared information with 216 other organizations.

Iar aceste părți terțe împărtășeau informațiile cu alte 216 organizații.

Of these 216 other fourth parties,

Din aceste 216 organizații,

only three belonged to the health sector.

doar trei aparțineau sectorului medical.

The other companies that had access to that data were big tech companies

Celelalte companii care aveau acces la informații erau companii IT,

like Google, Facebook or Oracle,

cum ar fi Google, Facebook sau Oracle,

they were digital advertising companies

erau companii de reclame digitale,

and there was also a consumer credit reporting agency.

era de asemenea și o agenție de raportare a creditului pentru consumatori.

So you get it right:

Deci ați înțeles:

ad companies and credit agencies may already have data points on little babies.

companiile de reclame și de creditare au deja informații despre bebeluși.

But mobile apps, web searches and social media

Dar aplicațiile, căutările web și rețelele de socializare

are really just the tip of the iceberg,

sunt doar vârful aisbergului,

because children are being tracked by multiple technologies

pentru că acești copii sunt urmăriți de tehnologii multiple

in their everyday lives.

în viețile lor cotidiene.

They're tracked by home technologies and virtual assistants in their homes.

Sunt urmăriți de tehnologii din casă și de asistenți virtuali.

They're tracked by educational platforms

Sunt urmăriți de platforme educaționale

and educational technologies in their schools.

și de tehnologii educaționale în școli,

They're tracked by online records

prin înregistrări online

and online portals at their doctor's office.

și portaluri online la cabinetul medical.

They're tracked by their internet-connected toys,

Sunt urmăriți de jucării conectate la internet

their online games

de jocurile online,

and many, many, many, many other technologies.

și de multe, multe, multe alte tehnologii.

So during my research,

În timpul cercetării mele,

a lot of parents came up to me and they were like, "So what?

mulți părinți au venit și mi-au zis: „Și ce dacă?

Why does it matter if my children are being tracked?

De ce contează dacă ai mei copii sunt urmăriți?

We've got nothing to hide."

Nu avem nimic de ascuns.”

Well, it matters.

Ei bine, contează.

It matters because today individuals are not only being tracked,

Contează pentru că, în ziua de azi, indivizii nu doar că sunt urmăriți,

they're also being profiled on the basis of their data traces.

dar se și profită de pe urma lor, în funcție de datele acestora.

Artificial intelligence and predictive analytics are being used

Inteligența artificială și analiza predictivă sunt folosite

to harness as much data as possible of an individual life

pentru a obține cât mai multe informații despre o persoană,

from different sources:

din diferite surse: istoria familiei,

family history, purchasing habits, social media comments.

obiceiuri de cumpărături, comentarii pe rețelele de socializare.

And then they bring this data together

Iar ei pun informațiile la un loc

to make data-driven decisions about the individual.

pentru a lua decizii bazate pe informațiile unui individ.

And these technologies are used everywhere.

Iar aceste tehnologii sunt folosite pretutindeni.

Banks use them to decide loans.

Băncile pentru a decide acordarea creditelor.

Insurance uses them to decide premiums.

În asigurări la calculul primei de asigurare.

Recruiters and employers use them

Cei ce recrutează și angajatorii le folosesc

to decide whether one is a good fit for a job or not.

pentru a decide dacă ai profilul potrivit unui job sau nu.

Also the police and courts use them

Poliția și instanțele le folosesc

to determine whether one is a potential criminal

pentru a determina dacă cineva e un potențial infractor,

or is likely to recommit a crime.

sau dacă e probabil să recidiveze.

We have no knowledge or control

Nu avem cunoștințe, nici control

over the ways in which those who buy, sell and process our data

asupra felului în care cei care ne cumpără, ne folosesc și ne vând datele

are profiling us and our children.

ne profilează pe noi și copiii noștri.

But these profiles can come to impact our rights in significant ways.

Dar aceste profile pot să ne afecteze drepturile în moduri însemnate.

To give you an example,

Ca să vă dau un exemplu:

in 2018 the "New York Times" published the news

În 2018, „New York Times” a publicat știrea

that the data that had been gathered

că informațiile strânse

through online college-planning services --

prin serviciile de planificare pentru facultate —

that are actually completed by millions of high school kids across the US

care sunt completate de milioane de liceeni din Statele Unite,

who are looking for a college program or a scholarship --

care caută o facultate, o bursă —

had been sold to educational data brokers.

au fost vândute brokerilor de date educaționale.

Now, researchers at Fordham who studied educational data brokers

Cercetătorii de la Fordham care au studiat brokerii de date educaționale

revealed that these companies profiled kids as young as two

au dezvăluit că aceste companii profilau copii chiar și în vârstă de doi ani,

on the basis of different categories:

pe baza mai multor categorii:

ethnicity, religion, affluence,

etnie, religie, bunăstare,

social awkwardness

jenă socială,

and many other random categories.

și multe alte categorii aleatorii.

And then they sell these profiles together with the name of the kid,

Și apoi vând aceste profile, împreună cu numele copilului,

their home address and the contact details

adresa de acasă și detaliile de contact,

to different companies,

diferitelor companii,

including trade and career institutions,

inclusiv instituțiilor de meserii și carieră,

student loans

companiilor de creditare

and student credit card companies.

și bancare pentru studenți.

To push the boundaries,

Pentru a forța nota,

the researchers at Fordham asked an educational data broker

cercetătorii de la Fordham i-au cerut unui broker de informații educaționale

to provide them with a list of 14-to-15-year-old girls

să le dea o listă cu fete de 14 până la 15 ani

who were interested in family planning services.

care erau interesate de servicii de planificare familială.

The data broker agreed to provide them the list.

Brokerul de informații a fost de acord.

So imagine how intimate and how intrusive that is for our kids.

Imaginați-vă cât de intim și intruziv e asta pentru copiii noștri.

But educational data brokers are really just an example.

Dar brokerii de informații educaționale sunt doar un exemplu.

The truth is that our children are being profiled in ways that we cannot control

Adevărul e că copiii noștri sunt profilați în moduri pe care nu le controlăm,

but that can significantly impact their chances in life.

dar care pot să le influențeze șansele în viață.

So we need to ask ourselves:

Trebuie să ne întrebăm:

can we trust these technologies when it comes to profiling our children?

putem avea încredere în aceste tehnologii în legătură cu profilarea copiilor noștri?

Can we?

Putem?

My answer is no.

Răspunsul meu e nu.

As an anthropologist,

Ca antropolog,

I believe that artificial intelligence and predictive analytics can be great

cred că inteligența artificială și analiza predictivă sunt grozave

to predict the course of a disease

când prezic parcursul unei boli

or to fight climate change.

sau în combaterea schimbărilor climatice.

But we need to abandon the belief

Dar nu trebuie să credem

that these technologies can objectively profile humans

că aceste tehnologii pot să profileze oamenii în mod obiectiv,

and that we can rely on them to make data-driven decisions

și că ne putem baza pe ele pentru a lua decizii bazate pe date

about individual lives.

vizând viețile individuale.

Because they can't profile humans.

Pentru că nu pot profila oamenii.

Data traces are not the mirror of who we are.

Informațiile nu sunt oglinda noastră.

Humans think one thing and say the opposite,

Oamenii se gândesc la ceva și spun opusul,

feel one way and act differently.

se simt într-un fel și acționează altfel.

Algorithmic predictions or our digital practices

Predicțiile algoritmice și practicile digitale

cannot account for the unpredictability and complexity of human experience.

nu pot lua în calcul imprevizibilitatea și complexitatea experienței umane.

But on top of that,

Dar mai presus de atât,

these technologies are always --

aceste tehnologii sunt mereu —

always --

mereu —

in one way or another, biased.

într-un fel sau altul, părtinitoare.

You see, algorithms are by definition sets of rules or steps

Vedeți voi, algoritmii sunt prin definiție o mulțime de reguli și pași

that have been designed to achieve a specific result, OK?

care au fost concepuți pentru a obține un anume rezultat, da?

But these sets of rules or steps cannot be objective,

Dar aceste reguli sau pași nu pot fi obiectivi

because they've been designed by human beings

pentru că au fost creați de oameni

within a specific cultural context

într-un anume context cultural

and are shaped by specific cultural values.

și sunt formate de anumite valori culturale.

So when machines learn,

Deci, când mașinăriile învață,

they learn from biased algorithms,

învață prin algoritmi părtinitori

and they often learn from biased databases as well.

și învață adesea din baze de date părtinitoare.

At the moment, we're seeing the first examples of algorithmic bias.

În prezent, vedem primele exemple de prejudecăți ale algoritmilor.

And some of these examples are frankly terrifying.

Iar unele din aceste exemple sunt, sincer, terifiante.

This year, the AI Now Institute in New York published a report

Anul acesta, AI Now Institute din New York a publicat un raport

that revealed that the AI technologies

care dezvăluie că tehnologiile AI

that are being used for predictive policing

care sunt folosite pentru poliția predictivă

have been trained on "dirty" data.

au fost antrenate cu informații „murdare”.

This is basically data that had been gathered

Practic, informații obținute

during historical periods of known racial bias

în perioade istorice cu prejudecăți rasiale

and nontransparent police practices.

și cu practici netransparente ale poliției.

Because these technologies are being trained with dirty data,

Pentru că aceste tehnologii sunt antrenate cu informații „murdare”,

they're not objective,

acestea nu sunt obiective,

and their outcomes are only amplifying and perpetrating

iar rezultatele lor doar amplifică și perpetuează

police bias and error.

prejudecățile și erorile poliției.

So I think we are faced with a fundamental problem

Cred că avem în față o problemă fundamentală

in our society.

în societatea noastră.

We are starting to trust technologies when it comes to profiling human beings.

Începem să avem încredere în tehnologii, când vine vorba de profilarea oamenilor.

We know that in profiling humans,

Știm că atunci când e vorba de profilarea oamenilor,

these technologies are always going to be biased

aceste tehnologii vor avea mereu prejudecăți

and are never really going to be accurate.

și niciodată nu vor fi precise cu adevărat.

So what we need now is actually political solution.

Ce ne trebuie acum este o soluție politică.

We need governments to recognize that our data rights are our human rights.

Guvernele trebuie să admită că drepturile la datele noastre

fac parte din drepturile omului.

(Applause and cheers)

(Aplauze și urale)

Until this happens, we cannot hope for a more just future.

Până când asta nu se întâmplă, nu putem spera la un viitor mai corect.

I worry that my daughters are going to be exposed

Mi-e teamă că fiicele mele vor fi expuse

to all sorts of algorithmic discrimination and error.

la tot felul de discriminări algoritmice și erori.

You see the difference between me and my daughters

Diferența dintre mine și fiicele mele

is that there's no public record out there of my childhood.

este că nu există înregistrări publice despre copilăria mea.

There's certainly no database of all the stupid things that I've done

Nu există o bază de date cu toate prostiile pe care le-am făcut

and thought when I was a teenager.

și la care m-am gândit când eram adolescentă.

(Laughter)

(Râsete)

But for my daughters this may be different.

Dar pentru fiicele mele, asta ar putea fi diferit.

The data that is being collected from them today

Informațiile colectate despre ele acum

may be used to judge them in the future

pot fi folosite ca să fie judecate în viitor

and can come to prevent their hopes and dreams.

și pot să le împiedice să-și realizeze speranțele și visele.

I think that's it's time.

Cred că a venit timpul.

It's time that we all step up.

Trebuie pus piciorul în prag.

It's time that we start working together

E vremea să lucrăm împreună,

as individuals,

ca indivizi,

as organizations and as institutions,

ca organizații, ca instituții

and that we demand greater data justice for us

și să cerem dreptate pentru datele noastre

and for our children

și pentru copiii noștri,

before it's too late.

înainte să fie prea târziu.

Thank you.

Vă mulțumesc!

(Applause)

(Aplauze)