What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Tradutor: Beatriz Morais Revisora: Margarida Ferreira

Every day, every week,

Todos os dias, todas as semanas,

we agree to terms and conditions.

nós concordamos com termos e condições.

And when we do this,

E quando fazemos isso,

we provide companies with the lawful right

fornecemos às empresas o direito legal

to do whatever they want with our data

de fazerem o que quiserem com os nossos dados

and with the data of our children.

e com os dados dos nossos filhos.

Which makes us wonder:

O que nos leva pensar:

how much data are we giving away of children,

quantos dados dos nossos filhos é que estamos a ceder,

and what are its implications?

e quais são as implicações disso?

I'm an anthropologist,

Eu sou antropóloga,

and I'm also the mother of two little girls.

mas também sou mãe de duas meninas pequenas.

And I started to become interested in this question in 2015

Comecei a interessar-me por esta questão em 2015

when I suddenly realized that there were vast --

quando, de repente, me apercebi de que havia

almost unimaginable amounts of data traces

uma quantidade quase inimaginável de dados

that are being produced and collected about children.

que estão a ser produzidos e recolhidos sobre crianças.

So I launched a research project,

Por isso, lancei um projeto de investigação,

which is called Child Data Citizen,

chamado Child Data Citizen,

and I aimed at filling in the blank.

com o objetivo de preencher os espaços em branco.

Now you may think that I'm here to blame you

Podem pensar que estou aqui para vos acusar

for posting photos of your children on social media,

de publicarem fotos dos vossos filhos nas redes sociais,

but that's not really the point.

mas o problema não é esse.

The problem is way bigger than so-called "sharenting."

O problema é muito maior do que o chamado "sharenting."

This is about systems, not individuals.

Isto é sobre sistemas, não é sobre indivíduos.

You and your habits are not to blame.

Vocês e os vossos hábitos não são os culpados.

For the very first time in history,

Pela primeira vez na história,

we are tracking the individual data of children

estamos a rastrear os dados individuais de crianças

from long before they're born --

desde antes de elas nascerem

sometimes from the moment of conception,

— por vezes, desde o momento da conceção,

and then throughout their lives.

e depois ao longo da vida delas.

You see, when parents decide to conceive,

Como veem, quando os pais decidem conceber,

they go online to look for "ways to get pregnant,"

vão "online" pesquisar "maneiras de engravidar,"

or they download ovulation-tracking apps.

ou descarregam aplicações de monitorização da ovulação.

When they do get pregnant,

Quando engravidam,

they post ultrasounds of their babies on social media,

publicam as ecografias dos bebés nas redes sociais,

they download pregnancy apps

descarregam aplicações de gravidez

or they consult Dr. Google for all sorts of things,

ou consultam o Dr. Google para todo o tipo de coisas,

like, you know --

como, por exemplo,

for "miscarriage risk when flying"

"risco de aborto ao viajar de avião"

or "abdominal cramps in early pregnancy."

ou "dores abdominais no início da gravidez."

I know because I've done it --

Eu sei disto porque já o fiz,

and many times.

e várias vezes.

And then, when the baby is born, they track every nap,

Depois, quando o bebé nasce, eles registam cada sesta, cada refeição,

every feed,

every life event on different technologies.

cada acontecimento na sua vida,

em diferentes tecnologias.

And all of these technologies

E todas estas tecnologias,

transform the baby's most intimate behavioral and health data into profit

transformam em lucro

os dados comportamentais e médicos mais íntimos do bebé

by sharing it with others.

ao partilhá-los com outros.

So to give you an idea of how this works,

Para vos dar uma ideia de como isto funciona,

in 2019, the British Medical Journal published research that showed

em 2019, o British Medical Journal publicou uma investigação

that out of 24 mobile health apps,

que mostrava que, de 24 aplicações móveis de saúde,

19 shared information with third parties.

19 partilhavam informações com terceiros.

And these third parties shared information with 216 other organizations.

E esses terceiros partilhavam informações com outras 216 organizações.

Of these 216 other fourth parties,

Destas outras 216 organizações,

only three belonged to the health sector.

apenas 3 pertenciam ao setor da saúde.

The other companies that had access to that data were big tech companies

As outras empresas que tinham acesso a esses dados

eram importantes empresas de tecnologia

like Google, Facebook or Oracle,

como o Google, o Facebook ou o Oracle,

they were digital advertising companies

empresas de publicidade digital

and there was also a consumer credit reporting agency.

e também agências de informações comerciais de consumo.

So you get it right:

Vocês perceberam bem:

ad companies and credit agencies may already have data points on little babies.

empresas de publicidade e agências de crédito

podem já ter dados sobre bebés.

But mobile apps, web searches and social media

Mas as aplicações móveis, os motores de pesquisa e as redes sociais

are really just the tip of the iceberg,

são apenas a ponta do icebergue,

porque as crianças estão a ser rastreadas por múltiplas tecnologias

because children are being tracked by multiple technologies

in their everyday lives.

na sua vida diária.

They're tracked by home technologies and virtual assistants in their homes.

São rastreadas pelas tecnologias domésticas

e pelos assistentes virtuais nas nossas casas.

They're tracked by educational platforms

São rastreadas pelas plataformas educativas,

and educational technologies in their schools.

pelas tecnologias de educação nas escolas.

They're tracked by online records

São rastreadas por registos "online"

and online portals at their doctor's office.

e por portais "online" no consultório do médico deles.

They're tracked by their internet-connected toys,

São rastreadas pelos seus brinquedos ligados à Internet,

their online games

pelos seus jogos "online"

and many, many, many, many other technologies.

e por muitas, muitas, muitas outras tecnologias.

So during my research,

Durante a minha pesquisa,

a lot of parents came up to me and they were like, "So what?

muitos pais me disseram:

"E depois? Que importância tem os meus filhos estarem a ser rastreados?

Why does it matter if my children are being tracked?

We've got nothing to hide."

"Não temos nada a esconder."

Well, it matters.

Bem, é muito importante

It matters because today individuals are not only being tracked,

É importante porque hoje em dia, as pessoas não estão só a ser rastreadas,

they're also being profiled on the basis of their data traces.

também traçam os perfis delas com base nesses dados.

Artificial intelligence and predictive analytics are being used

A inteligência artificial e a análise preditiva estão a ser utilizadas

to harness as much data as possible of an individual life

para reunir o máximo de dados possível da vida de um indivíduo

from different sources:

a partir de diferentes fontes:

family history, purchasing habits, social media comments.

o histórico familiar, os hábitos de compra,

os comentários nas redes sociais.

And then they bring this data together

E reúnem esses dados

to make data-driven decisions about the individual.

para tomarem decisões orientadas pelos dados sobre o indivíduo.

And these technologies are used everywhere.

Estas tecnologias são utilizadas em todo o lado.

Banks use them to decide loans.

Os bancos usam-nas para decidirem empréstimos.

Insurance uses them to decide premiums.

As companhias de seguros usam-nas para decidirem prémios.

Recruiters and employers use them

Os recrutadores e empregadores usam-nas

to decide whether one is a good fit for a job or not.

para decidirem se alguém é uma boa escolha ou não, para um emprego.

Also the police and courts use them

A polícia e os tribunais também as usam

to determine whether one is a potential criminal

para determinarem se alguém é um potencial criminoso

or is likely to recommit a crime.

ou se é provável que voltem a cometer um crime.

We have no knowledge or control

Nós não temos conhecimento nem controlo

over the ways in which those who buy, sell and process our data

sobre a forma como aqueles que compram, vendem e processam os nossos dados

are profiling us and our children.

estão a traçar os nossos perfis e os perfis dos nossos filhos.

But these profiles can come to impact our rights in significant ways.

Mas estes perfis podem vir a ter impacto nos nossos direitos

de forma significativa.

To give you an example,

Por exemplo,

in 2018 the "New York Times" published the news

em 2018 o "New York Times" publicou a notícia

that the data that had been gathered

de que os dados reunidos

through online college-planning services --

através de serviços de planeamento universitário "online"

that are actually completed by millions of high school kids across the US

que são utilizados por milhões de alunos do secundário nos EUA

who are looking for a college program or a scholarship --

que estão à procura de um programa universitário ou de uma bolsa,

had been sold to educational data brokers.

tinham sido vendidos a corretores de dados educativos.

Now, researchers at Fordham who studied educational data brokers

Ora, os investigadores da Universidade de Fordham

que investigaram corretores de dados educativos

revealed that these companies profiled kids as young as two

revelaram que estas empresas traçaram perfis de crianças a partir dos dois anos

on the basis of different categories:

com base em muitas outras categorias arbitrárias.

ethnicity, religion, affluence,

etnia, religião, riqueza,

social awkwardness

inépcia social

and many other random categories.

e muitas outras categorias.

And then they sell these profiles together with the name of the kid,

Depois vendem os perfis juntamente com os nomes das crianças,

their home address and the contact details

a morada e informações de contacto

to different companies,

a empresas diferentes,

including trade and career institutions,

incluindo instituições comerciais e de carreira,

empresas de empréstimos estudantis

student loans

and student credit card companies.

e de cartões de crédito estudantis.

To push the boundaries,

Para alargarem os limites,

the researchers at Fordham asked an educational data broker

os investigadores da Fordham pediram a um corretor de dados educativos

to provide them with a list of 14-to-15-year-old girls

que lhes fornecessem uma lista de raparigas dos 14 aos 15 anos

who were interested in family planning services.

que estivessem interessadas em serviços de planeamento familiar.

The data broker agreed to provide them the list.

O corretor aceitou fornecer a lista.

So imagine how intimate and how intrusive that is for our kids.

Por isso imaginem o quão íntimo e intrusivo

isto é para os nossos filhos.

But educational data brokers are really just an example.

Mas os corretores de dados educativos são apenas um exemplo.

The truth is that our children are being profiled in ways that we cannot control

A verdade é que os nossos filhos estão a ter perfis

de maneiras que não conseguimos controlar

but that can significantly impact their chances in life.

e que podem ter um impacto significativo nas suas oportunidades na vida.

So we need to ask ourselves:

Por isso, precisamos de perguntar:

can we trust these technologies when it comes to profiling our children?

podemos confiar nestas tecnologias para traçarem os perfis dos nossos filhos?

Can we?

Podemos?

My answer is no.

A minha resposta é não.

As an anthropologist,

Como antropóloga,

I believe that artificial intelligence and predictive analytics can be great

eu acredito que a inteligência artificial e a análise preditiva podem ser ótimas

to predict the course of a disease

para prever o decorrer de uma doença

or to fight climate change.

ou para lutar contra a alteração climática.

But we need to abandon the belief

Mas precisamos de abandonar a convicção

that these technologies can objectively profile humans

de que estas tecnologias podem traçar objetivamente perfis das pessoas

and that we can rely on them to make data-driven decisions

e de que podemos contar com elas

para tomarem decisões orientadas por dados

about individual lives.

sobre vidas individuais.

Because they can't profile humans.

Porque elas não conseguem traçar perfis das pessoas.

Data traces are not the mirror of who we are.

Os rastreios de dados não são um espelho do quem somos.

Humans think one thing and say the opposite,

Os seres humanos pensam uma coisa e dizem outra,

feel one way and act differently.

sentem-se de uma maneira e agem de maneira diferente.

Algorithmic predictions or our digital practices

As previsões algorítmicas e as nossas práticas digitais

cannot account for the unpredictability and complexity of human experience.

não têm em conta a imprevisibilidade e a complexidade da experiência humana.

But on top of that,

Mas além disso,

these technologies are always --

essas tecnologias são sempre,

always --

sempre,

in one way or another, biased.

de uma maneira ou outra, tendenciosas.

You see, algorithms are by definition sets of rules or steps

Os algoritmos são, por definição, conjuntos de regras ou passos

that have been designed to achieve a specific result, OK?

que foram concebidos para alcançar um resultado específico, OK?

But these sets of rules or steps cannot be objective,

Mas estes conjuntos de regras ou passos não podem ser objetivos,

because they've been designed by human beings

porque foram concebidos por seres humanos

within a specific cultural context

dentro de um contexto cultural específico

and are shaped by specific cultural values.

e são modelados por valores culturais específicos.

So when machines learn,

Por isso quando as máquinas aprendem,

they learn from biased algorithms,

aprendem a partir de algoritmos parciais,

and they often learn from biased databases as well.

e muitas vezes aprendem também a partir de bases de dados parciais.

At the moment, we're seeing the first examples of algorithmic bias.

De momento, estamos a ver os primeiros exemplos de viés algorítmico.

And some of these examples are frankly terrifying.

E alguns destes exemplos são francamente aterradores.

This year, the AI Now Institute in New York published a report

Este ano, o AI Now Institute em Nova Iorque publicou um relatório

that revealed that the AI technologies

que revelou que as tecnologias de IA

that are being used for predictive policing

que estão a ser utilizadas para policiamento preditivo

have been trained on "dirty" data.

foram treinadas com base em dados "sujos".

This is basically data that had been gathered

Ou seja, basicamente dados que foram reunidos

during historical periods of known racial bias

durante períodos históricos conhecidos pelos preconceitos raciais

and nontransparent police practices.

e por práticas policiais pouco transparentes.

Because these technologies are being trained with dirty data,

Como estas tecnologias estão a ser treinadas com dados sujos,

they're not objective,

não são objetivas,

and their outcomes are only amplifying and perpetrating

e os resultados estão apenas a amplificar e a perpetrar

police bias and error.

preconceitos policiais e erros.

So I think we are faced with a fundamental problem

Por isso, eu acho que estamos a enfrentar um problema fundamental

in our society.

na nossa sociedade.

We are starting to trust technologies when it comes to profiling human beings.

Estamos a começar a confiar em tecnologias

no que toca a traçar perfis de seres humanos.

We know that in profiling humans,

Sabemos que, ao traçarem perfis de pessoas,

these technologies are always going to be biased

estas tecnologias vão ser sempre tendenciosas

and are never really going to be accurate.

e nunca vão ser exatas.

So what we need now is actually political solution.

Por isso, precisamos agora de uma solução política.

We need governments to recognize that our data rights are our human rights.

Precisamos que os governos reconheçam

que os nossos direitos de dados são os nossos direitos humanos.

(Applause and cheers)

(Aplausos)

Until this happens, we cannot hope for a more just future.

Enquanto isto não acontecer, não podemos ter esperança de um futuro mais justo.

I worry that my daughters are going to be exposed

Eu preocupo-me que as minhas filhas sejam expostas

to all sorts of algorithmic discrimination and error.

a todo o tipo de discriminação e de erros algorítmicos.

You see the difference between me and my daughters

A diferença entre mim e as minhas filhas

is that there's no public record out there of my childhood.

é que não há nenhum registo público da minha infância.

There's certainly no database of all the stupid things that I've done

Certamente não há nenhuma base de dados com todas as coisas estúpidas que fiz

and thought when I was a teenager.

e que pensei quando era adolescente.

(Laughter)

(Risos)

But for my daughters this may be different.

Mas para as minhas filhas isso pode ser diferente.

The data that is being collected from them today

Os dados delas que estão a ser reunidos hoje

may be used to judge them in the future

podem ser utilizados para julgá-las no futuro

and can come to prevent their hopes and dreams.

e podem impedir os sonhos e esperanças delas.

I think that's it's time.

Eu acho que está na hora,

It's time that we all step up.

está na hora de avançar.

It's time that we start working together

Está na hora de começarmos a trabalhar juntos

as individuals,

como indivíduos,

as organizations and as institutions,

como organizações e como instituições,

and that we demand greater data justice for us

e exigir maior justiça de dados para nós

and for our children

e para os nossos filhos

before it's too late.

antes que seja tarde de mais.

Thank you.

Obrigada.

(Applause)

(Aplausos)