What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Tłumaczenie: Dariusz Szczuraszek Korekta: Barbara Guzik

Every day, every week,

Każdego dnia, każdego tygodnia,

we agree to terms and conditions.

akceptujemy różne warunki.

And when we do this,

Robiąc to,

we provide companies with the lawful right

udzielamy firmom prawa

to do whatever they want with our data

do dowolnego dysponowania naszymi danymi

oraz danymi naszych dzieci.

and with the data of our children.

Which makes us wonder:

Dlatego też zastanawiamy się,

how much data are we giving away of children,

jak wiele danych naszych dzieci oddajemy

and what are its implications?

i jakie są tego konsekwencje?

I'm an anthropologist,

Jestem antropologiem

and I'm also the mother of two little girls.

oraz matką dwóch małych dziewczynek.

And I started to become interested in this question in 2015

Zaczęłam się interesować tym problemem w roku 2015,

when I suddenly realized that there were vast --

kiedy to nagle uświadomiłam sobie, jak ogromna jest, prawie niewyobrażalna,

almost unimaginable amounts of data traces

ilość danych produkowanych i gromadzonych na temat dzieci.

that are being produced and collected about children.

So I launched a research project,

Dlatego zaczęłam projekt badawczy,

which is called Child Data Citizen,

który nazwałam Child Data Citizen,

and I aimed at filling in the blank.

żeby dowiedzieć się czegoś więcej.

Now you may think that I'm here to blame you

Możecie pomyśleć, że jestem tu, żeby was obwiniać

for posting photos of your children on social media,

za umieszczanie zdjęć swoich dzieci w mediach społecznościowych,

but that's not really the point.

ale nie o to chodzi.

The problem is way bigger than so-called "sharenting."

Problem jest o wiele większy niż "sharenting",

czyli udostępnianie treści przez rodziców.

This is about systems, not individuals.

Problem tkwi w systemie, nie w ludziach.

You and your habits are not to blame.

Wy i wasze nawyki nie jesteście temu winni.

For the very first time in history,

Pierwszy raz w historii

we are tracking the individual data of children

śledzimy dane osobowe dzieci

from long before they're born --

jeszcze przed ich narodzinami,

sometimes from the moment of conception,

czasem od momentu poczęcia,

and then throughout their lives.

a potem przez całe ich życie.

You see, when parents decide to conceive,

Kiedy rodzice decydują się na dziecko,

szukają w Internecie sposobów na zajście w ciążę

they go online to look for "ways to get pregnant,"

albo ściągają aplikacje do śledzenia owulacji.

or they download ovulation-tracking apps.

When they do get pregnant,

Kiedy w końcu udaje się zajść w ciążę,

they post ultrasounds of their babies on social media,

zamieszczają USG swoich dzieci w mediach społecznościowych,

they download pregnancy apps

ściągają aplikacje ciążowe

or they consult Dr. Google for all sorts of things,

albo konsultują się z doktorem Google na temat różnych rzeczy,

like, you know --

takich jak

for "miscarriage risk when flying"

ryzyko poronienia podczas lotu

or "abdominal cramps in early pregnancy."

albo skurcze brzucha na początku ciąży.

I know because I've done it --

Wiem to, bo przez to przeszłam.

and many times.

Wiele razy.

And then, when the baby is born, they track every nap,

A kiedy dziecko się narodzi,

monitorują każdą drzemkę, każde karmienie,

every feed,

every life event on different technologies.

każde wydarzenie, za pomocą różnych technologii.

And all of these technologies

Te wszystkie technologie

transform the baby's most intimate behavioral and health data into profit

zamieniają najbardziej prywatne dane o zachowaniu i zdrowiu dziecka w zysk

by sharing it with others.

poprzez udostępnianie ich innym.

So to give you an idea of how this works,

Podam przykład tego, jak to działa.

in 2019, the British Medical Journal published research that showed

W roku 2019 British Medical Journal opublikował badanie,

that out of 24 mobile health apps,

które pokazało, że spośród 24 mobilnych aplikacji zdrowotnych

19 shared information with third parties.

19 udostępniało informacje innym firmom.

Te z kolei udostępniały je 216 innym organizacjom.

And these third parties shared information with 216 other organizations.

Of these 216 other fourth parties,

Wśród tych 216 organizacji były tylko trzy

only three belonged to the health sector.

które należały do sektora opieki zdrowotnej.

The other companies that had access to that data were big tech companies

Pozostałe firmy, które miały dostęp do tych danych,

były dużymi firmami technologicznymi

takimi jak Google, Facebook czy Oracle.

like Google, Facebook or Oracle,

they were digital advertising companies

Były wśród nich także agencje reklamowe

oraz agencja sprawozdawczości kredytowej.

and there was also a consumer credit reporting agency.

So you get it right:

Właśnie tak.

ad companies and credit agencies may already have data points on little babies.

Agencje reklamowe i kredytowe

mogą być już w posiadaniu danych na temat małych dzieci.

But mobile apps, web searches and social media

Mobilne aplikacje, wyszukiwania w sieci oraz media społecznościowe

are really just the tip of the iceberg,

są tylko wierzchołkiem góry lodowej,

because children are being tracked by multiple technologies

ponieważ dzieci są śledzone przez różnorakie technologie

in their everyday lives.

w ich codziennym życiu.

They're tracked by home technologies and virtual assistants in their homes.

Są śledzone przez domowe urządzenia i asystentów wirtualnych w domach.

They're tracked by educational platforms

Są śledzone przez platformy i technologie edukacyjne w szkołach.

and educational technologies in their schools.

Są śledzone przez internetową dokumentację medyczną

They're tracked by online records

and online portals at their doctor's office.

i portale internetowe w gabinetach lekarskich.

They're tracked by their internet-connected toys,

Są śledzone przez zabawki połączone z Internetem,

their online games

gry internetowe

and many, many, many, many other technologies.

i wiele innych technologii.

So during my research,

Podczas moich badań

a lot of parents came up to me and they were like, "So what?

wielu rodziców pytało mnie: "I co z tego?

Why does it matter if my children are being tracked?

Czy to ważne, że moje dzieci są śledzone?

We've got nothing to hide."

Nie mamy nic do ukrycia".

Well, it matters.

Otóż to ma znaczenie.

To ma znaczenie, bo dzisiaj ludzie są nie tylko śledzeni,

It matters because today individuals are not only being tracked,

they're also being profiled on the basis of their data traces.

ale także profilowani na podstawie zebranych danych.

Artificial intelligence and predictive analytics are being used

Używa się sztucznej inteligencji i analizy prognostycznej,

żeby pozyskać jak największą ilość danych na temat życia danej osoby,

to harness as much data as possible of an individual life

from different sources:

opierając się o różne źródła:

family history, purchasing habits, social media comments.

historię rodziny, nawyki zakupowe,

komentarze w mediach społecznościowych.

And then they bring this data together

Następnie łączy się te dane w celu wykorzystania ich

to make data-driven decisions about the individual.

przy podejmowaniu decyzji dotyczących danej osoby.

And these technologies are used everywhere.

Te technologie są używane wszędzie.

Banks use them to decide loans.

Banki używają ich przy udzielaniu kredytów,

Insurance uses them to decide premiums.

ubezpieczyciele - przy kalkulacji zniżek,

Recruiters and employers use them

a rekruterzy i pracodawcy używają ich,

to decide whether one is a good fit for a job or not.

żeby sprawdzić, czy ktoś nadaje się do pracy.

Also the police and courts use them

Także policja i sądy ich używają

to determine whether one is a potential criminal

przy określaniu potencjalnych kryminalistów

or is likely to recommit a crime.

lub prawdopodobieństwa ponownego popełnienia zbrodni.

We have no knowledge or control

Nie mamy żadnej wiedzy i kontroli nad tym,

w jaki sposób ci, którzy kupują, sprzedają i przetwarzają nasze dane

over the ways in which those who buy, sell and process our data

are profiling us and our children.

profilują nas i nasze dzieci.

But these profiles can come to impact our rights in significant ways.

Jednak te profile mogą mieć znaczący wpływ na nasze prawa.

To give you an example,

Podam przykład.

in 2018 the "New York Times" published the news

W roku 2018 "New York Times" opublikował informacje,

that the data that had been gathered

że dane zebrane z internetowych formularzy planowania edukacji,

through online college-planning services --

that are actually completed by millions of high school kids across the US

wypełnianych przez miliony amerykańskich licealistów,

who are looking for a college program or a scholarship --

którzy szukają szkoły lub stypendium,

had been sold to educational data brokers.

zostały sprzedane brokerom danych edukacyjnych.

Now, researchers at Fordham who studied educational data brokers

Ponadto naukowcy z uniwersytetu Fordham, którzy zbadali brokerów z tego sektora,

revealed that these companies profiled kids as young as two

ujawnili, że te firmy profilowały nawet dwuletnie dzieci

on the basis of different categories:

na podstawie takich kategorii jak:

ethnicity, religion, affluence,

pochodzenie etniczne, religia, zamożność,

social awkwardness

niedostosowanie społeczne

and many other random categories.

oraz wiele innych losowych kategorii.

And then they sell these profiles together with the name of the kid,

Następnie sprzedają te profile razem z danymi osobowymi dziecka,

their home address and the contact details

ich adresem zamieszkania i danymi kontaktowymi,

to different companies,

różnym firmom,

including trade and career institutions,

między innymi agencjom handlu i biurom karier,

student loans

firmom zajmującym się pożyczkami i kartami kredytowymi dla studentów.

and student credit card companies.

To push the boundaries,

Żeby wyznaczyć nowe granice,

the researchers at Fordham asked an educational data broker

naukowcy z Fordham poprosili brokera danych edukacyjnych

to provide them with a list of 14-to-15-year-old girls

o listę dziewczyn w wieku od 14 do 15 lat,

who were interested in family planning services.

które interesowały się usługami w zakresie planowania rodziny.

The data broker agreed to provide them the list.

Broker zgodził się na dostarczenie takiej listy.

So imagine how intimate and how intrusive that is for our kids.

Wyobraźcie sobie, jak bardzo narusza to prywatność naszych dzieci.

But educational data brokers are really just an example.

Ale brokerzy danych edukacyjnych to tylko jeden z przykładów.

The truth is that our children are being profiled in ways that we cannot control

Prawda jest taka,

że nie jesteśmy w stanie kontrolować, w jaki sposób dzieci są profilowane,

but that can significantly impact their chances in life.

a to może mieć znaczący wpływ na ich życie.

So we need to ask ourselves:

Musimy zadać sobie pytanie:

can we trust these technologies when it comes to profiling our children?

Czy możemy ufać tym technologiom w kwestii profilowania naszych dzieci?

Can we?

Możemy?

My answer is no.

Moja odpowiedź brzmi: nie.

As an anthropologist,

Jako antropolog wierzę,

że sztuczna inteligencja i analiza prognostyczna

I believe that artificial intelligence and predictive analytics can be great

mogą być bardzo pomocne w przewidywaniu przebiegu choroby

to predict the course of a disease

or to fight climate change.

albo w walce ze zmianami klimatycznymi.

Jednak musimy porzucić wiarę w to,

But we need to abandon the belief

that these technologies can objectively profile humans

że te technologie mogą obiektywnie profilować ludzi

and that we can rely on them to make data-driven decisions

i że możemy polegać na nich

przy podejmowaniu kluczowych decyzji życiowych,

about individual lives.

Because they can't profile humans.

dlatego, że one nie potrafią profilować ludzi.

Data traces are not the mirror of who we are.

Dane nie są odbiciem lustrzanym tego, kim jesteśmy.

Humans think one thing and say the opposite,

Ludzie myślą jedno, a mówią drugie,

feel one way and act differently.

postępują inaczej niż czują.

Prognozy algorytmiczne czy nasze praktyki cyfrowe

Algorithmic predictions or our digital practices

cannot account for the unpredictability and complexity of human experience.

nie biorą pod uwagę nieprzewidywalności oraz złożoności ludzkich doświadczeń.

But on top of that,

Dodatkowo

te technologie są zawsze,

these technologies are always --

always --

zawsze,

w jakimś stopniu stronnicze.

in one way or another, biased.

Algorytmy są z definicji zbiorem zasad i instrukcji,

You see, algorithms are by definition sets of rules or steps

that have been designed to achieve a specific result, OK?

które zostały zaprojektowane w konkretnym celu.

But these sets of rules or steps cannot be objective,

Jednak te zbiory zasad i instrukcji nie są obiektywne,

because they've been designed by human beings

ponieważ są zaprojektowane przez ludzi

within a specific cultural context

w konkretnym kontekście kulturowym

and are shaped by specific cultural values.

i są ukształtowane przez konkretne wartości kulturowe.

So when machines learn,

Kiedy maszyny się uczą,

they learn from biased algorithms,

opierają się na stronniczych algorytmach,

and they often learn from biased databases as well.

a często także na stronniczych bazach danych.

At the moment, we're seeing the first examples of algorithmic bias.

Obecnie widzimy pierwsze przykłady przechyłów algorytmicznych.

And some of these examples are frankly terrifying.

Niektóre z tych przykładów są przerażające.

This year, the AI Now Institute in New York published a report

W tym roku instytut AI Now Institute z Nowego Jorku opublikował raport,

that revealed that the AI technologies

który ujawnił, że technologie AI

używane do prewencji przestępstw

that are being used for predictive policing

have been trained on "dirty" data.

działały w oparciu o "brudne" dane.

This is basically data that had been gathered

Są to dane zgromadzone

during historical periods of known racial bias

w okresie wyraźnych uprzedzeń rasowych

and nontransparent police practices.

i nietransparentnych praktyk policyjnych.

Because these technologies are being trained with dirty data,

Ponieważ te technologie używają "brudnych" danych,

they're not objective,

nie są obiektywne,

and their outcomes are only amplifying and perpetrating

a rezultaty ich działań tylko wzmacniają i przyczyniają się

police bias and error.

do policyjnej stronniczości i pomyłek.

So I think we are faced with a fundamental problem

Dlatego myślę, że stoimy

w obliczu fundamentalnego problemu naszego społeczeństwa.

in our society.

Zaczynamy ufać technologiom, jeśli chodzi o profilowanie ludzi.

We are starting to trust technologies when it comes to profiling human beings.

We know that in profiling humans,

Wiemy, że w profilowaniu ludzi,

these technologies are always going to be biased

te technologie będą zawsze stronnicze

i nigdy nie będą precyzyjne.

and are never really going to be accurate.

So what we need now is actually political solution.

Potrzebujemy politycznego rozwiązania tego problemu.

We need governments to recognize that our data rights are our human rights.

Potrzebujemy rządów, które uznają,

że ochrona danych to też prawa człowieka.

(Applause and cheers)

(Brawa i wiwaty)

Until this happens, we cannot hope for a more just future.

Dopóki to się nie stanie, nie możemy mieć nadziei

na bardziej sprawiedliwą przyszłość.

I worry that my daughters are going to be exposed

Martwię się, że moje córki będą narażone na różnego rodzaju

to all sorts of algorithmic discrimination and error.

algorytmiczne pomyłki i dyskryminacje.

You see the difference between me and my daughters

Różnica pomiędzy mną a moimi córkami jest taka,

is that there's no public record out there of my childhood.

że nie ma żadnego publicznego rejestru danych z mojego dzieciństwa.

There's certainly no database of all the stupid things that I've done

Na pewno nie ma żadnej bazy danych z głupotami,

and thought when I was a teenager.

które robiłam i myślałam, będąc nastolatką.

(Laughter)

(Śmiech)

But for my daughters this may be different.

W przypadku moich córek może to wyglądać inaczej.

The data that is being collected from them today

Dane, które są zbierane od nich dzisiaj,

may be used to judge them in the future

mogą być użyte w przyszłości do ich oceny,

and can come to prevent their hopes and dreams.

mogą zaprzepaścić ich nadzieje i marzenia.

I think that's it's time.

Myślę, że już czas,

żebyśmy wszyscy wzmogli nasze działania.

It's time that we all step up.

It's time that we start working together

Czas, żebyśmy zaczęli współpracować,

as individuals,

jako jednostki, organizacje i instytucje,

as organizations and as institutions,

i domagali się większej sprawiedliwości związanej z naszymi danymi,

and that we demand greater data justice for us

and for our children

dla nas i dla naszych dzieci,

before it's too late.

nim będzie za późno.

Thank you.

Dziękuję.

(Applause)

(Brawa)