What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Översättare: Elsa Juujärvi Granskare: Lisbeth Pekkari

Every day, every week,

Varje dag, varje vecka,

we agree to terms and conditions.

godkänner vi villkor.

And when we do this,

Och när gör vi detta förser vi företag med den lagliga rätten

we provide companies with the lawful right

to do whatever they want with our data

att göra vad de vill med våran data och med våra barns data.

and with the data of our children.

Which makes us wonder:

Vilket får oss att undra:

how much data are we giving away of children,

hur mycket data ger vi bort om barn, och vad får det för konsekvenser?

and what are its implications?

I'm an anthropologist,

Jag är antropolog och jag är även mamma till två små flickor.

and I'm also the mother of two little girls.

And I started to become interested in this question in 2015

Och jag började bli intresserad av denna fråga år 2015

when I suddenly realized that there were vast --

när jag plötsligt insåg att det fanns stora -

almost unimaginable amounts of data traces

nästan otroliga mängder dataspår

that are being produced and collected about children.

som produceras och samlas om barn.

So I launched a research project,

Så jag lanserade ett forskningsprojekt som heter Child Data Citizen

which is called Child Data Citizen,

and I aimed at filling in the blank.

och jag siktade på att fylla tomrummen.

Now you may think that I'm here to blame you

Nu kanske du tror att jag är här för att skylla på er

for posting photos of your children on social media,

för att ni lägger upp bilder på era barn på sociala medier

but that's not really the point.

men det är inte riktigt poängen.

The problem is way bigger than so-called "sharenting."

Problemet är mycket större än så kallat "sharenting."

This is about systems, not individuals.

Detta handlar om system, inte individer.

You and your habits are not to blame.

Du och dina vanor är inte att skylla på.

For the very first time in history,

För första gången i historien

we are tracking the individual data of children

spårar vi individuell data om barn från långt innan de är födda -

from long before they're born --

sometimes from the moment of conception,

ibland från befruktningsögonblicket, och sedan genom deras liv.

and then throughout their lives.

You see, when parents decide to conceive,

Du förstår, när föräldrar bestämmer sig för att skaffa barn

they go online to look for "ways to get pregnant,"

går de online för att söka på "sätt att bli gravid,"

or they download ovulation-tracking apps.

eller så laddar de ned appar för ägglossningsspårning.

When they do get pregnant,

När de blir gravida

they post ultrasounds of their babies on social media,

postar de ultraljud av sina bäbisar på sociala medier,

they download pregnancy apps

de laddar ned graviditetsappar

or they consult Dr. Google for all sorts of things,

eller så konsulterar de dr Google om alla möjliga saker,

like, you know --

som, du vet - om "missfallsrisk när man flyger"

for "miscarriage risk when flying"

or "abdominal cramps in early pregnancy."

eller "magkrämpor i tidig graviditet."

I know because I've done it --

Jag vet för jag har gjort det - och många gånger.

and many times.

And then, when the baby is born, they track every nap,

Och när är barnet fött spårar de varje tupplur, varje matning,

every feed,

every life event on different technologies.

varje liten livshändelse med olika tekniker.

And all of these technologies

Och alla dessa tekniker

transform the baby's most intimate behavioral and health data into profit

transformerar bäbisens mest intima beteende- och hälsodata till vinst

by sharing it with others.

genom att dela det med andra.

So to give you an idea of how this works,

Så för att ge er en aning om hur detta fungerar,

in 2019, the British Medical Journal published research that showed

2019 publicerade "British Medical Journal" forskning som visade

that out of 24 mobile health apps,

att av 24 hälsoappar,

19 shared information with third parties.

delade 19 information med en tredje part.

And these third parties shared information with 216 other organizations.

Och dessa tredje parter delade information med 216 andra organisationer.

Of these 216 other fourth parties,

Av dessa 216 fjärde parterna

only three belonged to the health sector.

ingick bara tre i sjukvårdssektorn.

The other companies that had access to that data were big tech companies

De andra företagen som hade tillgång till datan var stora teknikföretag

like Google, Facebook or Oracle,

som Google, Facebook eller Oracle,

they were digital advertising companies

de var digitala reklamföretag

and there was also a consumer credit reporting agency.

och det fanns även en konsumentkreditrapporteringsbyrå.

So you get it right:

Så du förstår:

ad companies and credit agencies may already have data points on little babies.

reklambyråer och kreditbyråer har redan datapunkter på små bäbisar.

But mobile apps, web searches and social media

Men mobilappar, webbsökningar och sociala medier

are really just the tip of the iceberg,

är bara toppen av isberget

because children are being tracked by multiple technologies

eftersom barn blir spårade av flera tekniker i vardagslivet.

in their everyday lives.

They're tracked by home technologies and virtual assistants in their homes.

De spåras av hemtekniker och virtuella assistenter hemma.

They're tracked by educational platforms

De spåras av utbildningsplattformar och utbildningstekniker i sina skolor.

and educational technologies in their schools.

They're tracked by online records

De spåras av uppgifter online och onlineportaler hos doktorn.

and online portals at their doctor's office.

They're tracked by their internet-connected toys,

De spåras av sina internetanslutna leksaker, onlinespel

their online games

and many, many, many, many other technologies.

och många, många, många, många andra tekniker.

So during my research,

Så under min forskning

a lot of parents came up to me and they were like, "So what?

kom många föräldrar fram till mig och sa:"Så vadå?

Why does it matter if my children are being tracked?

Varför spelar det roll att mina barn blir spårade?

We've got nothing to hide."

Vi har inget att dölja."

Well, it matters.

Det spelar roll.

It matters because today individuals are not only being tracked,

Det spelar roll för att dagens individer inte bara blir spårade,

they're also being profiled on the basis of their data traces.

de blir även profilerade på grundval av sina dataspår.

Artificial intelligence and predictive analytics are being used

Artificiell intelligens och förutsägbar analys används

to harness as much data as possible of an individual life

för att samla in så mycket data som möjligt om ett individuellt liv

from different sources:

från olika källor:

family history, purchasing habits, social media comments.

familjehistoria, köpvanor, kommentarer på sociala medier.

And then they bring this data together

Och sedan samlar de all denna data

to make data-driven decisions about the individual.

för att skapa datadrivna beslut om individen.

And these technologies are used everywhere.

Och dessa tekniker används överallt.

Banks use them to decide loans.

Banker använder dem för att besluta om lån.

Insurance uses them to decide premiums.

Försäkringar använder dem för att besluta om premier.

Recruiters and employers use them

Rekryterare och arbetsgivare använder dem

to decide whether one is a good fit for a job or not.

för att besluta om någon är passande för ett jobb eller inte.

Also the police and courts use them

Även polisen och rätten använder dem

to determine whether one is a potential criminal

för att bestämma om någon är en potentiell kriminell

or is likely to recommit a crime.

eller är sannolik att begå ett brott igen.

We have no knowledge or control

Vi har ingen kunskap eller kontroll

over the ways in which those who buy, sell and process our data

över de sätt som de som köper, säljer och bearbetar våran data

are profiling us and our children.

profilerar oss och våra barn.

But these profiles can come to impact our rights in significant ways.

Men dessa profiler kan komma att påverka våra rättigheter på betydelsefulla sätt.

To give you an example,

För att ge ett exempel,

in 2018 the "New York Times" published the news

2018 publicerade "New York Times" nyheten att datan som samlats in

that the data that had been gathered

through online college-planning services --

genom online högskoleplanerande tjänster -

that are actually completed by millions of high school kids across the US

som faktiskt används av miljoner skolbarn över USA

who are looking for a college program or a scholarship --

som letar efter ett högskoleprogram eller ett stipendium -

had been sold to educational data brokers.

hade sålts ut till utbildningsmäklare.

Now, researchers at Fordham who studied educational data brokers

Forskare på Fordham som studerade utbildningsmäklare har nu

revealed that these companies profiled kids as young as two

avslöjat att dessa företag profilerar barn så unga som 2 år

on the basis of different categories:

utifrån olika kategorier:

ethnicity, religion, affluence,

etnicitet, religion, välstånd, sociala besvärligheter

social awkwardness

and many other random categories.

och många andra slumpmässiga kategorier.

And then they sell these profiles together with the name of the kid,

Och sedan säljer de dessa profiler tillsammans med barnets namn,

their home address and the contact details

deras hemadress och kontaktuppgifter till olika företag

to different companies,

including trade and career institutions,

inklusive handels- och karriärinstitutioner,

student loans

studentlån och kreditkortsföretag för studenter.

and student credit card companies.

To push the boundaries,

För att skjuta på gränserna

the researchers at Fordham asked an educational data broker

bad forskarna på Fordham en utbildningsmäklare

to provide them with a list of 14-to-15-year-old girls

att förse dem med en lista på 14- till 15-åriga flickor

who were interested in family planning services.

som var intresserade av familjeplanerande tjänster.

The data broker agreed to provide them the list.

Datamäklaren gick med på att förse dem med listan.

So imagine how intimate and how intrusive that is for our kids.

Så tänk hur intimt och påträngande det är för våra barn.

But educational data brokers are really just an example.

Men utbildningsmäklare är bara ett exempel.

The truth is that our children are being profiled in ways that we cannot control

Sanningen är att våra barn blir profilerade

på sätt vi inte kan kontrollera

but that can significantly impact their chances in life.

men det kan avsevärt påverka deras chanser i livet.

So we need to ask ourselves:

Så vi måste fråga oss själva:

can we trust these technologies when it comes to profiling our children?

Kan vi lita på dessa tekniker när det kommer till att profilera våra barn?

Can we?

Kan vi?

My answer is no.

Mitt svar är nej.

As an anthropologist,

Som antropolog

tror jag att artificiell intelligens och förutsägbar analys kan vara bra

I believe that artificial intelligence and predictive analytics can be great

to predict the course of a disease

för att förutsäga sjukdomförlopp eller bekämpa klimatförändringar.

or to fight climate change.

But we need to abandon the belief

Men vi måste överge tron

that these technologies can objectively profile humans

att dessa tekniker objektivt kan profilera människor

and that we can rely on them to make data-driven decisions

och att vi kan förlita oss på dem att ta datadrivna beslut

about individual lives.

om individuella liv.

Because they can't profile humans.

För de kan inte profilera människor.

Data traces are not the mirror of who we are.

Dataspår speglar inte vem vi är.

Humans think one thing and say the opposite,

Människor tänker en sak och säger motsatsen,

feel one way and act differently.

känner på ett sätt och beter oss annorlunda.

Algorithmic predictions or our digital practices

Algoritmiska förutsägelser eller våra digitala metoder

cannot account for the unpredictability and complexity of human experience.

kan inte redogöra för oförutsägbarheten och komplexiteten i mänsklig erfarenhet.

But on top of that,

Och dessutom är dessa tekniker alltid -

these technologies are always --

always --

alltid på ett eller annat sätt partiska.

in one way or another, biased.

You see, algorithms are by definition sets of rules or steps

Algoritmer är per definition uppsättningar av regler eller steg

that have been designed to achieve a specific result, OK?

som har blivit designade att uppnå ett specifikt resultat, OK?

But these sets of rules or steps cannot be objective,

Men dessa regler och steg kan inte vara objektiva

because they've been designed by human beings

för de har designats av människor i ett specifikt kulturellt sammanhang

within a specific cultural context

and are shaped by specific cultural values.

och är formade av specifika kulturella värderingar.

So when machines learn,

Så när en maskin lär sig, lär den sig utifrån partiska algoritmer

they learn from biased algorithms,

and they often learn from biased databases as well.

och de lär sig även ofta från partiska databaser.

At the moment, we're seeing the first examples of algorithmic bias.

Just nu ser vi de första exemplen på algoritmisk partiskhet.

And some of these examples are frankly terrifying.

Och vissa av dessa exempel är uppriktigt skrämmande.

This year, the AI Now Institute in New York published a report

I år publicerade "Al Now Institute" i New York en rapport

that revealed that the AI technologies

som avslöjade att Al-tekniker som används för prediktivt polisarbete

that are being used for predictive policing

have been trained on "dirty" data.

har tränats på "problematisk" data.

This is basically data that had been gathered

Detta är helt enkelt data som har samlats

during historical periods of known racial bias

under historiska perioder av känd raspartiskhet

and nontransparent police practices.

och icke-transparent polisarbete.

Because these technologies are being trained with dirty data,

Eftersom dessa tekniker tränas med "problematisk" data

they're not objective,

är de inte objektiva, och deras resultat förstärker bara

and their outcomes are only amplifying and perpetrating

police bias and error.

polispartiskhet och fel.

So I think we are faced with a fundamental problem

Så jag tror att vi står inför ett grundläggande problem

in our society.

i vårt samhälle.

We are starting to trust technologies when it comes to profiling human beings.

Vi börjar att lita på teknik när det kommer till att profilera människor.

We know that in profiling humans,

Vi vet att när man profilerar människor

these technologies are always going to be biased

så kommer teknik alltid att vara partisk

and are never really going to be accurate.

och kommer aldrig att vara riktigt exakt.

So what we need now is actually political solution.

Så vad vi behöver nu är faktiskt en politisk lösning.

We need governments to recognize that our data rights are our human rights.

Vi behöver få regeringar att erkänna att vår data är våra mänskliga rättigheter.

(Applause and cheers)

(Applåder och jubel)

Until this happens, we cannot hope for a more just future.

Tills detta händer kan vi inte hoppas på en mer rättvis framtid.

I worry that my daughters are going to be exposed

Jag oroar mig över att mina döttrar kommer att bli utsatta

to all sorts of algorithmic discrimination and error.

för alla möjliga sorter av algoritmisk diskriminering och fel.

You see the difference between me and my daughters

Skillnaden mellan mig och mina döttrar

is that there's no public record out there of my childhood.

är att det inte finns något offentligt register av min barndom.

There's certainly no database of all the stupid things that I've done

Det finns absolut inte någon databas med alla dumma saker jag har gjort

and thought when I was a teenager.

och tänkt när jag var tonåring.

(Laughter)

(Skratt)

But for my daughters this may be different.

Men för mina döttrar kan detta vara annorlunda.

The data that is being collected from them today

Den data som samlas från dem idag

may be used to judge them in the future

kan komma att användas för att döma dem i framtiden

and can come to prevent their hopes and dreams.

och kan komma att hindra deras hopp och drömmar.

I think that's it's time.

Jag tycker att det är dags. Det är dags att vi kliver fram.

It's time that we all step up.

It's time that we start working together

Det är dags att börja jobba tillsammans

as individuals,

som individer, som organisationer och som institut

as organizations and as institutions,

and that we demand greater data justice for us

och kräva mer datarättvisa för oss och för våra barn innan det är för sent.

and for our children

before it's too late.

Thank you.

Tack så mycket.

(Applause)

(Applåder)