What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Tradutor: Higor Ribeiro Revisor: Maricene Crus

Every day, every week,

Todo dia, toda semana, concordamos com os termos e condições.

we agree to terms and conditions.

And when we do this,

Quando fazemos isso, fornecemos às empresas o direito legal

we provide companies with the lawful right

to do whatever they want with our data

de fazerem o que quiserem com nossos dados

and with the data of our children.

e com os dados de nossos filhos.

Which makes us wonder:

O que nos faz questionar:

how much data are we giving away of children,

quantos dados sobre crianças nós damos,

and what are its implications?

e quais são as consequências?

I'm an anthropologist,

Eu sou antropóloga

and I'm also the mother of two little girls.

e mãe de duas garotinhas.

And I started to become interested in this question in 2015

Passei a ter interesse nisso em 2015

when I suddenly realized that there were vast --

quando subitamente percebi que existem quantidades de dados enormes,

almost unimaginable amounts of data traces

quase inimagináveis,

that are being produced and collected about children.

sendo produzidas e coletadas sobre crianças.

So I launched a research project,

E então, comecei um projeto de pesquisa,

which is called Child Data Citizen,

chamado Child Data Citizen,

and I aimed at filling in the blank.

que almeja preencher essa lacuna.

Now you may think that I'm here to blame you

Talvez, pensem que estou aqui para culpar vocês

for posting photos of your children on social media,

por postar fotos de seus filhos nas redes sociais,

but that's not really the point.

mas esse não é o ponto.

The problem is way bigger than so-called "sharenting."

O problema é bem maior que o assim chamado "sharenting".

This is about systems, not individuals.

É sobre sistemas, não indivíduos.

You and your habits are not to blame.

A culpa não é dos seus hábitos.

For the very first time in history,

Pela primeira vez na história,

we are tracking the individual data of children

estamos rastreando os dados individuais das crianças

from long before they're born --

bem antes de elas nascerem,

sometimes from the moment of conception,

às vezes, do momento da concepção

and then throughout their lives.

e depois ao longo da vida delas.

You see, when parents decide to conceive,

Quando os pais decidem conceber,

they go online to look for "ways to get pregnant,"

buscam on-line por "formas de engravidar",

or they download ovulation-tracking apps.

ou fazem download de aplicativos que rastreiam a ovulação.

When they do get pregnant,

Quando a mulher consegue engravidar,

they post ultrasounds of their babies on social media,

eles postam fotos do ultrassom do bebê nas redes sociais,

they download pregnancy apps

baixam aplicativos de gravidez

or they consult Dr. Google for all sorts of things,

ou consultam o Dr. Google para saber sobre tudo,

like, you know --

por exemplo,

for "miscarriage risk when flying"

"risco de aborto involuntário ao pegar um avião"

or "abdominal cramps in early pregnancy."

ou "cãibras abdominais no início da gravidez".

I know because I've done it --

Eu sei porque já fiz isso, muitas vezes.

and many times.

And then, when the baby is born, they track every nap,

E então, quando o bebê nasce, monitoram cada cochilo, cada refeição,

every feed,

every life event on different technologies.

cada evento da vida dele em uma tecnologia diferente.

And all of these technologies

E todas essas tecnologias

transform the baby's most intimate behavioral and health data into profit

transformam os dados mais íntimos do comportamento e saúde do bebê em lucro

by sharing it with others.

através do compartilhamento.

So to give you an idea of how this works,

Explicando basicamente como isso funciona,

in 2019, the British Medical Journal published research that showed

em 2019, uma pesquisa publicada pelo British Medical Journal mostrou

that out of 24 mobile health apps,

que de 24 aplicativos de saúde,

19 shared information with third parties.

19 compartilharam informações com terceiros.

And these third parties shared information with 216 other organizations.

E esses terceiros compartilharam informações com outras 216 organizações.

Of these 216 other fourth parties,

Dessas 216 organizações,

only three belonged to the health sector.

somente três pertenciam ao setor da saúde.

The other companies that had access to that data were big tech companies

As outras eram grandes empresas de tecnologia

like Google, Facebook or Oracle,

como Google, Facebook ou Oracle,

they were digital advertising companies

que estavam fazendo publicidade digital,

and there was also a consumer credit reporting agency.

e havia também uma agência de relatório do crédito ao consumidor.

So you get it right:

Vocês entenderam corretamente:

ad companies and credit agencies may already have data points on little babies.

empresas e agências de publicidade já devem ter dados sobre bebês.

But mobile apps, web searches and social media

Só que aplicativos, pesquisas na web e redes sociais

are really just the tip of the iceberg,

são apenas a ponta do iceberg,

because children are being tracked by multiple technologies

porque as crianças são rastreadas por diversas tecnologias

in their everyday lives.

em seus cotidianos:

They're tracked by home technologies and virtual assistants in their homes.

tecnologias da casa, assistentes virtuais,

They're tracked by educational platforms

plataformas educacionais e tecnologias educacionais nas escolas,

and educational technologies in their schools.

They're tracked by online records

registros on-line e portais de seus consultórios médicos,

and online portals at their doctor's office.

They're tracked by their internet-connected toys,

brinquedos conectados à internet, jogos on-line

their online games

and many, many, many, many other technologies.

e muitas outras tecnologias.

So during my research,

Ao longo de minha pesquisa,

a lot of parents came up to me and they were like, "So what?

muitos pais me perguntaram: "E daí?

Why does it matter if my children are being tracked?

Importa se meus filhos forem rastreados?

We've got nothing to hide."

Não temos nada a esconder".

Well, it matters.

Bem, importa sim.

It matters because today individuals are not only being tracked,

Importa porque os indivíduos não são apenas rastreados,

they're also being profiled on the basis of their data traces.

mas também são perfilados de acordo com seus dados.

Artificial intelligence and predictive analytics are being used

A inteligência artificial e a análise preditiva são usadas

to harness as much data as possible of an individual life

para alcançar o máximo de dados possível de um indivíduo

from different sources:

através de fontes diferentes:

family history, purchasing habits, social media comments.

histórico familiar, hábitos de compra, comentários em rede sociais.

And then they bring this data together

E então, esses dados são coletados

to make data-driven decisions about the individual.

para orientar escolhas a respeito do indivíduo.

And these technologies are used everywhere.

E essas tecnologias são usadas em toda parte.

Banks use them to decide loans.

Bancos as usam para decidir empréstimos.

Insurance uses them to decide premiums.

Seguradoras as usam para decidir valores de contratação.

Recruiters and employers use them

Recrutadoras e empregadores as usam

to decide whether one is a good fit for a job or not.

para decidir se a pessoa se encaixa ou não num emprego.

Also the police and courts use them

A polícia e os tribunais também as usam

to determine whether one is a potential criminal

para determinar se alguém é um criminoso em potencial

or is likely to recommit a crime.

ou é propenso a voltar a cometer um crime.

We have no knowledge or control

Nós não temos conhecimento ou controle

over the ways in which those who buy, sell and process our data

sobre as formas em que aqueles que compram e vendem nossos dados

are profiling us and our children.

profilam a nós e nossos filhos.

But these profiles can come to impact our rights in significant ways.

Mas esses perfis podem impactar nossos direitos de forma significativa.

To give you an example,

Por exemplo,

in 2018 the "New York Times" published the news

em 2018, o New York Times publicou

that the data that had been gathered

que os dados que foram coletados

through online college-planning services --

pelos serviços de planejamento de faculdade on-line,

that are actually completed by millions of high school kids across the US

que são usados por milhões de alunos do ensino médio nos EUA

who are looking for a college program or a scholarship --

que procuram por programas ou bolsas de estudos para a faculdade,

had been sold to educational data brokers.

haviam sido vendidos para corretores de dados educacionais.

Now, researchers at Fordham who studied educational data brokers

Pesquisadores da Universidade Fordham que estudaram esse tipo de corretor

revealed that these companies profiled kids as young as two

revelaram que essas empresas perfilam crianças acima de dois anos de idade

on the basis of different categories:

com base em categorias diferentes:

ethnicity, religion, affluence,

etnia, religião, riqueza,

social awkwardness

inépcia social

and many other random categories.

e muitas outras categorias aleatórias.

And then they sell these profiles together with the name of the kid,

Depois, elas vendem os perfis, juntamente com o nome das crianças,

their home address and the contact details

o endereço delas e informações de contato

to different companies,

para empresas diferentes,

including trade and career institutions,

incluindo instituições de carreira, comércio,

student loans

e empresas de empréstimos e cartões de crédito estudantis.

and student credit card companies.

To push the boundaries,

Para ampliar os limites,

the researchers at Fordham asked an educational data broker

os pesquisadores pediram a um corretor de dados educacionais

to provide them with a list of 14-to-15-year-old girls

para providenciar uma lista com o nome de garotas de 14 e 15 anos de idade

who were interested in family planning services.

que estivessem interessadas em serviços de planejamento familiar.

The data broker agreed to provide them the list.

O corretor de dados aceitou o pedido.

So imagine how intimate and how intrusive that is for our kids.

Imaginem o quanto isso é íntimo e intrusivo para nossas crianças.

But educational data brokers are really just an example.

Mas esse é só um exemplo.

The truth is that our children are being profiled in ways that we cannot control

A verdade é que nossos filhos estão sendo perfilados de formas incontroláveis

but that can significantly impact their chances in life.

que podem impactar significativamente suas oportunidades na vida.

So we need to ask ourselves:

Então, precisamos nos perguntar:

can we trust these technologies when it comes to profiling our children?

podemos confiar nessas tecnologias que perfilam nossos filhos?

Can we?

Será que podemos?

My answer is no.

Minha resposta é não.

As an anthropologist,

Como antropóloga,

acredito que a inteligência artificial e a análise preditiva possam ser úteis

I believe that artificial intelligence and predictive analytics can be great

to predict the course of a disease

para prever o curso de uma doença

or to fight climate change.

ou lutar contra a mudança climática.

But we need to abandon the belief

Mas precisamos abandonar a crença

that these technologies can objectively profile humans

de que essas tecnologias podem perfilar seres humanos objetivamente

and that we can rely on them to make data-driven decisions

e que podemos confiar nelas para tomar decisões sobre indivíduos

about individual lives.

baseadas em bancos de dados,

Because they can't profile humans.

porque eles não conseguem perfilar seres humanos.

Data traces are not the mirror of who we are.

Dados não são um reflexo de quem somos.

Humans think one thing and say the opposite,

Humanos pensam uma coisa e dizem outra,

feel one way and act differently.

sentem e agem de formas diferentes.

Algorithmic predictions or our digital practices

Predições algorítmicas ou nossas práticas digitais

cannot account for the unpredictability and complexity of human experience.

não podem explicar a imprevisibilidade e a complexidade da vivência humana.

But on top of that,

Mas acima de tudo isso,

these technologies are always --

essas tecnologias são sempre,

always --

de uma forma ou outra, tendenciosas.

in one way or another, biased.

You see, algorithms are by definition sets of rules or steps

Algoritmos são, por definição, um conjunto de regras ou passos

that have been designed to achieve a specific result, OK?

projetado para alcançar um resultado específico, certo?

But these sets of rules or steps cannot be objective,

Mas esses conjuntos não podem ser objetivos

because they've been designed by human beings

porque são projetados por seres humanos

within a specific cultural context

num contexto cultural específico

and are shaped by specific cultural values.

e são modelados por valores culturais específicos.

So when machines learn,

Quando as máquinas aprendem,

they learn from biased algorithms,

é através de algoritmos tendenciosos

and they often learn from biased databases as well.

e, com frequência, através de bases de dados também tendenciosas.

At the moment, we're seeing the first examples of algorithmic bias.

No momento, vemos os primeiros exemplos de viés algorítmico.

And some of these examples are frankly terrifying.

E alguns desses exemplos são terríveis.

This year, the AI Now Institute in New York published a report

Neste ano, o AI Now Institute en Nova York publicou um relatório

that revealed that the AI technologies

que revelou que as tecnologias IA

that are being used for predictive policing

que estão sendo utilizadas para o policiamento preditivo

have been trained on "dirty" data.

foram treinadas com "dados sujos".

This is basically data that had been gathered

Esses são dados que foram coletados

during historical periods of known racial bias

durante períodos históricos de preconceito racial explícito

and nontransparent police practices.

e práticas policiais não transparentes.

Because these technologies are being trained with dirty data,

Por essas tecnologias serem treinadas com dados sujos,

they're not objective,

elas não são objetivas,

and their outcomes are only amplifying and perpetrating

e seus resultados estão ampliando e perpetuando

police bias and error.

os erros e o preconceito policial.

So I think we are faced with a fundamental problem

Aqui, nós enfrentamos um problema fundamental

in our society.

em nossa sociedade.

We are starting to trust technologies when it comes to profiling human beings.

Estamos confiando em tecnologias para perfilar seres humanos,

We know that in profiling humans,

mas sabemos que ao fazermos isso,

these technologies are always going to be biased

essas tecnologias sempre serão tendenciosas

and are never really going to be accurate.

e jamais realmente precisas.

So what we need now is actually political solution.

Precisamos de uma solução política.

We need governments to recognize that our data rights are our human rights.

Que os governos reconheçam que direitos sobre dados são direitos humanos.

(Applause and cheers)

(Aplausos)

Until this happens, we cannot hope for a more just future.

Até que isso aconteça, não podemos esperar por um futuro mais justo.

I worry that my daughters are going to be exposed

Preocupa-me que minhas filhas serão expostas a toda forma de discriminação

to all sorts of algorithmic discrimination and error.

e erro dos algoritmos.

You see the difference between me and my daughters

A diferença entre mim e minhas filhas

is that there's no public record out there of my childhood.

é que não existe um registro público da minha infância.

There's certainly no database of all the stupid things that I've done

Certamente não existe base de dados sobre todas as coisas estúpidas que fiz

and thought when I was a teenager.

e pensei quando era adolescente.

(Laughter)

(Risos)

But for my daughters this may be different.

Mas, para elas, pode ser diferente.

The data that is being collected from them today

Os dados coletados sobre elas atualmente

may be used to judge them in the future

podem ser usados para julgá-las no futuro

and can come to prevent their hopes and dreams.

e impedir os sonhos e esperanças delas.

I think that's it's time.

Acho que chegou o momento de nos posicionarmos.

It's time that we all step up.

It's time that we start working together

De começarmos a trabalhar juntos

as individuals,

como indivíduos,

as organizations and as institutions,

organizações e instituições,

and that we demand greater data justice for us

e exigir uma justiça de dados maior para nós e para nossas crianças

and for our children

before it's too late.

antes que seja tarde demais.

Thank you.

Obrigada.

(Applause)

(Aplausos)