What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Fordító: Zsofia Gocze Lektor: Péter Pallós

Every day, every week,

Minden nap és minden héten

szerződési feltételekhez és kikötésekhez járulunk hozzá.

we agree to terms and conditions.

And when we do this,

Ekkor

we provide companies with the lawful right

jogilag felhatalmazunk cégeket,

to do whatever they want with our data

hogy adatainkkal, így gyermekeink adataival is,

and with the data of our children.

tetszésük szerint bánjanak.

Which makes us wonder:

Ami elgondolkoztathat minket:

how much data are we giving away of children,

mekkora adatmennyiséget adunk ki gyermekeinkről,

and what are its implications?

és mik ennek a következményei?

I'm an anthropologist,

Antropológus vagyok,

and I'm also the mother of two little girls.

és egyúttal két kislány édesanyja.

And I started to become interested in this question in 2015

2015-ben kezdett el foglalkoztatni ez a kérdés,

when I suddenly realized that there were vast --

amikor hirtelen feleszméltem,

hogy széles körű, csaknem elképzelhetetlen mennyiségű adatnyom

almost unimaginable amounts of data traces

that are being produced and collected about children.

gyűlik össze és érhető el gyermekeinkről.

So I launched a research project,

Ezért kutatómunkát indítottam

which is called Child Data Citizen,

Child Data Citizen elnevezéssel,

and I aimed at filling in the blank.

és a homályos foltok felfedését tűztem ki célul.

Now you may think that I'm here to blame you

Talán arra gondolhatnak, önöket hibáztatom,

for posting photos of your children on social media,

mert gyermekeikről képeket posztolnak a közösségi médiában,

but that's not really the point.

de nem ez a lényeg.

The problem is way bigger than so-called "sharenting."

A baj annál sokkal nagyobb, mint az ún. “szülői megosztás”.

This is about systems, not individuals.

A rendszerekkel van baj, nem az egyéni szokásokkal.

You and your habits are not to blame.

Szokásaink nem hibáztathatók.

For the very first time in history,

Először a történelemben,

we are tracking the individual data of children

gyermekeink egyedi adatait

from long before they're born --

még jóval születésük előtt rögzítjük;

sometimes from the moment of conception,

gyakran már fogantatásuk pillanatától,

and then throughout their lives.

majd később egész életük során.

You see, when parents decide to conceive,

Amikor szülők gyermekvállalás mellett döntenek,

they go online to look for "ways to get pregnant,"

interneten rá szoktak keresni a “hogyan eshetek teherbe” témára,

or they download ovulation-tracking apps.

vagy letöltenek egy ovulációs alkalmazást.

When they do get pregnant,

Amikor várandósak,

they post ultrasounds of their babies on social media,

babáikról a közösségi médiában posztolnak ultrahangképeket,

they download pregnancy apps

terhességi alkalmazásokat töltenek le

or they consult Dr. Google for all sorts of things,

vagy dr. Google tanácsát kérik ki mindenféle ügyben,

like, you know --

olyan dolgokban, mint:

for "miscarriage risk when flying"

“vetélés kockázata repüléskor”,

or "abdominal cramps in early pregnancy."

“hasi görcsök a várandósság korai szakaszában“.

I know because I've done it --

Tudom, mert én is csináltam,

and many times.

sokszor.

And then, when the baby is born, they track every nap,

Amikor megszületik a baba, rögzítenek minden alvást,

every feed,

minden etetést,

every life event on different technologies.

minden eseményt különféle technológiákkal.

And all of these technologies

Minden ilyen technológia

transform the baby's most intimate behavioral and health data into profit

a baba legintimebb viselkedési és egészségügyi adatát profittá alakítja

by sharing it with others.

a megosztásuk révén.

So to give you an idea of how this works,

Hogy szemléletessé váljon, hogy is működik ez,

in 2019, the British Medical Journal published research that showed

2019-ben a British Medical Journalben megjelent kutatás feltárta,

that out of 24 mobile health apps,

hogy 24 egészségügyi mobilalkalmazás közül

19 shared information with third parties.

19 harmadik féllel is megosztott információkat.

And these third parties shared information with 216 other organizations.

Majd ezek további 216 másik szervezettel osztották meg az információkat.

Of these 216 other fourth parties,

A 216 további fél közül

only three belonged to the health sector.

csak három tartozott egészségügyi ágazatba.

The other companies that had access to that data were big tech companies

A többi cég, amelynek hozzáférése volt az adatokhoz, nagy techcégek voltak,

like Google, Facebook or Oracle,

mint a Google, Facebook vagy az Oracle,

they were digital advertising companies

de voltak digitálisreklám-ügynökségek

and there was also a consumer credit reporting agency.

és fogyasztói hitelelemző cégek is.

So you get it right:

Értik már, ugye?

ad companies and credit agencies may already have data points on little babies.

Reklámcégeknek és hitelügynökségeknek már csecsemőkről is lehetnek adataik.

But mobile apps, web searches and social media

De a mobilalkalmazások, webes keresések és a közösségi média

are really just the tip of the iceberg,

épp csak a jéghegy csúcsa,

because children are being tracked by multiple technologies

mert a gyerekeket számos technológia követi nyomon

in their everyday lives.

mindennapi életük során.

They're tracked by home technologies and virtual assistants in their homes.

Nyomon követik őket az okosotthonok technológiái és a virtuális asszisztensek.

They're tracked by educational platforms

Nyomon követik őket az oktatási felületek

and educational technologies in their schools.

és az iskolák oktatási technológiái.

They're tracked by online records

Nyomon követik őket online

and online portals at their doctor's office.

orvosi adatokon és portálokon keresztül.

They're tracked by their internet-connected toys,

Nyomon követik az internethez kapcsolt játékaikon,

their online games

az online játékokon

and many, many, many, many other technologies.

és még rengeteg más technológián keresztül is.

So during my research,

A kutatásom során

a lot of parents came up to me and they were like, "So what?

sok szülő ezzel jött oda hozzám: “Na és?

Why does it matter if my children are being tracked?

Mit számít, ha lekövetik a gyerekeimet?

We've got nothing to hide."

Nincs semmi takargatnivalónk.”

Well, it matters.

Hát számít!

It matters because today individuals are not only being tracked,

Számít, mert ma az egyes embereket nemcsak lekövetik,

they're also being profiled on the basis of their data traces.

de profilokat is alkotnak az adatnyomaik alapján.

Artificial intelligence and predictive analytics are being used

Mesterséges intelligenciát és prediktív elemzést alkalmaznak,

to harness as much data as possible of an individual life

hogy a lehető legtöbb adatot szerezzék be egyesek magánéletéről

from different sources:

különböző forrásokból:

family history, purchasing habits, social media comments.

családi háttér, vásárlási szokások, közösségimédia-kommentek.

And then they bring this data together

Majd ezeket az adatokat összegyűjtve

to make data-driven decisions about the individual.

adatvezérelt döntéseket hoznak az egyes emberekkel kapcsolatban.

And these technologies are used everywhere.

E technológiákat mindenütt használják.

Banks use them to decide loans.

Bankok hitelek elbírálására,

Insurance uses them to decide premiums.

biztosítók díjak meghatározására,

Recruiters and employers use them

toborzók és munkáltatók használják,

to decide whether one is a good fit for a job or not.

hogy eldöntsék, valaki megfelel-e az adott munkára vagy sem.

Also the police and courts use them

A rendőrség és a bíróság is használja,

to determine whether one is a potential criminal

hogy meghatározzák, valaki potenciális bűnöző-e,

or is likely to recommit a crime.

vagy mekkora esélye van, hogy újból bűntettet követ el.

We have no knowledge or control

Nem ismerjük az eljárásokat, és befolyásunk sincs azok módszereire,

over the ways in which those who buy, sell and process our data

akik adatainkat adják-veszik és feldolgozzák,

are profiling us and our children.

hogyan profiloznak minket és gyermekeinket.

But these profiles can come to impact our rights in significant ways.

Pedig ezek a profilok jelentős hatással lehetnek jogainkra.

To give you an example,

Egy példát említve,

in 2018 the "New York Times" published the news

2018-ban a The New York Timesban megjelent a hír,

that the data that had been gathered

hogy főiskolai tervező szolgáltatások

through online college-planning services --

adatbrókereknek adták el az adatokat,

that are actually completed by millions of high school kids across the US

amelyeket Amerika-szerte több millió középiskolás szokott megadni,

who are looking for a college program or a scholarship --

főiskolai programok

had been sold to educational data brokers.

vagy ösztöndíjak iránt érdeklődve.

Now, researchers at Fordham who studied educational data brokers

Az oktatási adatbrókereket tanulmányozó Fordham kutatói felfedték,

revealed that these companies profiled kids as young as two

hogy ezek a cégek már kétéves gyerekeket is profiloztak

on the basis of different categories:

különböző kategóriák,

ethnicity, religion, affluence,

pl. etnikum, vallás, jómód,

social awkwardness

szociális ügyetlenség

and many other random categories.

és még sok más véletlenszerű kategória alapján.

And then they sell these profiles together with the name of the kid,

Aztán e profilokat el is adják

their home address and the contact details

a gyerek nevével, lakcímével és elérhetőségi adataival együtt

to different companies,

különféle cégeknek,

including trade and career institutions,

többek között kereskedelmi- és karrierintézeteknek,

student loans

diákhitel-

and student credit card companies.

és diákhitelkártya-cégeknek is.

To push the boundaries,

Tovább feszítve a határokat,

the researchers at Fordham asked an educational data broker

a Fordham kutatói felkértek egy oktatási adatbrókert,

to provide them with a list of 14-to-15-year-old girls

hogy adjon listát 14–15 éves lányokról,

who were interested in family planning services.

akik családtervezési szolgáltatások iránt érdeklődnek.

The data broker agreed to provide them the list.

Az adatbróker vállalta a lista átadását.

So imagine how intimate and how intrusive that is for our kids.

Képzeljék csak el, mennyire intim és tolakodó ez a gyermekeink számára.

But educational data brokers are really just an example.

De az oktatási adatbrókerek példája valójában csak egy a sok közül.

The truth is that our children are being profiled in ways that we cannot control

Az igazság az, hogy gyermekeinket ellenőrizhetetlen módon profilozzák,

but that can significantly impact their chances in life.

profiljaik mégis jelentős mértékben befolyásolhatják lehetőségeiket.

So we need to ask ourselves:

Így hát fel kell tegyük a kérdést:

can we trust these technologies when it comes to profiling our children?

megbízhatunk ezekben a technológiákban gyermekeink profilozását illetően?

Can we?

Bízhatunk bennük?

My answer is no.

Az én válaszom: nem.

As an anthropologist,

Antropológusként hiszem,

I believe that artificial intelligence and predictive analytics can be great

hogy a mesterséges intelligencia és a prediktív elemzés remek lehet

to predict the course of a disease

megbetegedések lefolyásának előrejelzésére

or to fight climate change.

vagy a klímaváltozás elleni harcban.

But we need to abandon the belief

De fel kell hagynunk a hiedelemmel,

that these technologies can objectively profile humans

hogy ezek a technológiák objektíven tudnak emberi profilokat alkotni,

and that we can rely on them to make data-driven decisions

hogy megbízhatók az adatvezérelt döntések meghozatalában

about individual lives.

adott emberek életére vonatkozóan.

Because they can't profile humans.

Mert nem tudnak embereket profilozni.

Data traces are not the mirror of who we are.

Az adatnyomok nem tükrözik azt, akik vagyunk.

Humans think one thing and say the opposite,

Az emberek az ellenkezőjét gondolják, mint amit állítanak,

feel one way and act differently.

mást éreznek és más szerint cselekednek.

Algorithmic predictions or our digital practices

Algoritmusos előrejelzések és digitális szokásaink

cannot account for the unpredictability and complexity of human experience.

nem fedhetik le az emberi tapasztalás megjósolhatatlanságát és komplexitását.

But on top of that,

Ráadásul

these technologies are always --

ezek a technológiák mindig,

always --

mindig,

in one way or another, biased.

egyik vagy másik irányban részrehajlók.

You see, algorithms are by definition sets of rules or steps

Az algoritmusok definíció szerint szabályok és lépések összessége,

that have been designed to achieve a specific result, OK?

melyeket azért alkotnak, hogy adott eredményre jussanak.

But these sets of rules or steps cannot be objective,

De ezek a szabályok és lépések nem lehetnek objektívek,

because they've been designed by human beings

mert ezeket emberek alkották

within a specific cultural context

meghatározott kulturális kontextusban,

and are shaped by specific cultural values.

s adott kulturális értékek alakítják őket.

So when machines learn,

Amikor gépek tanulnak,

they learn from biased algorithms,

részrehajló algoritmusok alapján tanulnak,

and they often learn from biased databases as well.

és gyakran részrehajló adatbázisokból is tanulnak.

At the moment, we're seeing the first examples of algorithmic bias.

Ma már látni az algoritmikus részrehajlás első példáit.

And some of these examples are frankly terrifying.

Néhány ezek közül elég rémisztő.

This year, the AI Now Institute in New York published a report

A New York-i AI Now Kutatóintézet idén kiadott jelentése feltárta,

that revealed that the AI technologies

hogy az AI-technológiákat,

that are being used for predictive policing

melyeket a prediktív rendfenntartásban alkalmaznak,

have been trained on "dirty" data.

“piszkos” adatok alapján képezték.

This is basically data that had been gathered

Ezeket az adatokat

during historical periods of known racial bias

köztudottan részrehajló és nem átlátható

and nontransparent police practices.

rendőri gyakorlattal jellemezhető korszakokban gyűjtöttek.

Because these technologies are being trained with dirty data,

Mivel ezeket a technológiákat piszkos adatok alapján tanítják,

they're not objective,

nem objektívek,

and their outcomes are only amplifying and perpetrating

így az eredményeik felerősítik és megvalósítják

police bias and error.

a rendőri részrehajlást és hibákat.

So I think we are faced with a fundamental problem

Alapvető problémával állunk szemben

in our society.

társadalmunkban.

We are starting to trust technologies when it comes to profiling human beings.

Ami az emberek profilozását illeti, kezdünk technológiákban bízni.

We know that in profiling humans,

Tudjuk, hogy az emberek profilozásakor

these technologies are always going to be biased

ezek a technológiák mindig részrehajlók lesznek,

and are never really going to be accurate.

és sosem lesznek igazán pontosak.

So what we need now is actually political solution.

Ezért politikai megoldásra van szükség.

We need governments to recognize that our data rights are our human rights.

A kormányoknak el kell ismerniük: adatainkhoz való jogunk emberi jog.

(Applause and cheers)

(Taps és ujjongás)

Until this happens, we cannot hope for a more just future.

Amíg ez nem történik meg, nem remélhetünk igazságosabb jövőt.

I worry that my daughters are going to be exposed

Aggódom, hogy a lányaim

to all sorts of algorithmic discrimination and error.

mindenféle algoritmikus diszkriminációnak és hibának lesznek kitéve.

You see the difference between me and my daughters

A különbség köztem és a lányaim között,

is that there's no public record out there of my childhood.

hogy az én gyerekkoromról nincsen elérhető adat.

There's certainly no database of all the stupid things that I've done

Nincs adatbázis a sok hülyeségről,

and thought when I was a teenager.

melyet még tinédzserként elkövettem vagy gondoltam.

(Laughter)

(Nevetés)

But for my daughters this may be different.

De a lányaim esetében ez már más.

The data that is being collected from them today

A róluk ma gyűjtött adatot lehet,

may be used to judge them in the future

hogy a jövőben a megítélésükre használják,

and can come to prevent their hopes and dreams.

és reményeik s álmaik útjába is állhatnak.

I think that's it's time.

Úgy hiszem, itt az alkalom.

It's time that we all step up.

Az alkalom, hogy fellépjünk.

It's time that we start working together

Az alkalom, hogy elkezdjük együttműködni

as individuals,

mint egyének,

as organizations and as institutions,

mint szervezetek és intézmények,

and that we demand greater data justice for us

hogy szélesebb körű adatigazságosságot követeljünk

saját magunk és gyermekeink számára is,

and for our children

before it's too late.

még mielőtt nem túl késő.

Thank you.

Köszönöm.

(Applause)

(Taps)