What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Translator: Leslie Gauthier Reviewer: Thu Ha Tran

Mỗi ngày, mỗi tuần,

ta đều đồng ý với các điều khoản và điều kiện.

Và khi làm điều này,

ta đã trao cho các công ty quyền hợp pháp

Every day, every week,

để làm bất kỳ điều gì họ muốn với dữ liệu của chúng ta

we agree to terms and conditions.

và với dữ liệu của con cái chúng ta.

And when we do this,

we provide companies with the lawful right

Điều này khiến chúng tôi tự hỏi:

to do whatever they want with our data

chúng ta đã cho họ bao nhiêu thông tin về con cái mình,

and with the data of our children.

và chúng có hệ lụy gì?

Which makes us wonder:

Tôi là nhà nhân chủng học

how much data are we giving away of children,

và cũng là mẹ của hai bé gái.

and what are its implications?

Và tôi đã bắt đầu quan tâm đến vấn đề này từ năm 2015,

I'm an anthropologist,

khi tôi chợt nhận ra rằng có rất nhiều,

and I'm also the mother of two little girls.

một lượng khổng lồ dấu vết dữ liệu

And I started to become interested in this question in 2015

về con cái chúng ta đang được tạo ra và thu thập.

when I suddenly realized that there were vast --

Vậy nên tôi đã làm một dự án nghiên cứu

almost unimaginable amounts of data traces

tên là Công dân Dữ liệu Trẻ em,

that are being produced and collected about children.

và mục tiêu của tôi là tìm ra câu trả lời.

So I launched a research project,

Chắc các bạn đang nghĩ tôi đến đây để trách các bạn

which is called Child Data Citizen,

vì đã đăng ảnh con mình lên các trang mạng xã hội,

and I aimed at filling in the blank.

nhưng đó không phải vấn đề.

Now you may think that I'm here to blame you

Vấn đề lớn hơn so với hành động “cha mẹ chia sẻ” đó nhiều.

for posting photos of your children on social media,

Nó nằm ở hệ thống, không phải cá nhân.

but that's not really the point.

The problem is way bigger than so-called "sharenting."

Lỗi không nằm ở bạn hay thói quen của bạn.

This is about systems, not individuals.

Lần đầu tiên trong lịch sử,

chúng ta theo dõi dữ liệu cá nhân của trẻ em

You and your habits are not to blame.

ngay cả trước khi chúng ra đời,

đôi khi là từ lúc thụ thai,

For the very first time in history,

rồi trong suốt quãng đời của chúng.

we are tracking the individual data of children

Bạn thấy đấy, khi cặp vợ chồng quyết định có con,

from long before they're born --

họ lên mạng tra cứu “các phương pháp thụ thai “,

sometimes from the moment of conception,

and then throughout their lives.

hay tải về các ứng dụng theo dõi rụng trứng.

You see, when parents decide to conceive,

Khi đã có thai,

they go online to look for "ways to get pregnant,"

họ đăng hình siêu âm của con trên mạng xã hội,

or they download ovulation-tracking apps.

rồi họ tải các ứng dụng mang thai

hoặc tham khảo bác sĩ Google về đủ loại vấn đề,

When they do get pregnant,

they post ultrasounds of their babies on social media,

chẳng hạn như

"nguy cơ sẩy thai khi đi máy bay"

they download pregnancy apps

hay "co thắt bụng tiền thai kỳ".

or they consult Dr. Google for all sorts of things,

Tôi biết vì tôi đã từng làm như vậy,

like, you know --

rất nhiều lần.

for "miscarriage risk when flying"

Và rồi khi em bé chào đời, họ theo dõi từng giấc ngủ,

or "abdominal cramps in early pregnancy."

từng bữa ăn,

I know because I've done it --

từng sự kiện trong đời bằng đủ loại công nghệ.

and many times.

Và tất cả các loại công nghệ này

And then, when the baby is born, they track every nap,

chuyển dữ liệu sức khỏe và hành vi riêng tư nhất của em bé thành lợi nhuận

every feed,

every life event on different technologies.

bằng cách chia sẻ với nhau.

And all of these technologies

transform the baby's most intimate behavioral and health data into profit

Để tôi giải thích cách hoạt động của nó,

năm 2019, Tạp Chí Y Khoa Anh đã công bố nghiên cứu cho thấy

by sharing it with others.

cứ 24 ứng dụng sức khỏe di động

So to give you an idea of how this works,

in 2019, the British Medical Journal published research that showed

thì có 19 cái chia sẻ thông tin cho bên thứ ba.

that out of 24 mobile health apps,

Và bên thứ ba này lại chia sẻ thông tin đó với 216 tổ chức khác.

19 shared information with third parties.

Trong số 216 bên thứ tư này,

And these third parties shared information with 216 other organizations.

chỉ có ba bên thuộc mảng sức khỏe.

Số còn lại có quyền truy cập dữ liệu này là các công ty công nghệ lớn

Of these 216 other fourth parties,

như Google, Facebook hay Oracle,

only three belonged to the health sector.

The other companies that had access to that data were big tech companies

họ là những công ty quảng cáo kỹ thuật số

và còn có công ty báo cáo tín dụng tiêu dùng.

like Google, Facebook or Oracle,

Vậy là bạn hiểu đúng rồi đó:

they were digital advertising companies

các công ty quảng cáo và tín dụng có lẽ đã có được điểm dữ liệu về trẻ sơ sinh.

and there was also a consumer credit reporting agency.

Nhưng các ứng dụng di động, web tìm kiếm hay mạng xã hội

So you get it right:

ad companies and credit agencies may already have data points on little babies.

thực ra chỉ là phần nổi của tảng băng

vì con cái chúng ta còn bị vô vàn công nghệ khác theo dõi

But mobile apps, web searches and social media

trong cuộc sống hàng ngày.

are really just the tip of the iceberg,

Chúng bị theo dõi bởi công nghệ và trợ lý ảo gắn trong nhà.

because children are being tracked by multiple technologies

Chúng bị theo dõi bởi nền tảng giáo dục

in their everyday lives.

và công nghệ giáo dục ở trường.

They're tracked by home technologies and virtual assistants in their homes.

Chúng bị theo dõi bởi hồ sơ mạng

và các cổng mạng tại văn phòng bác sĩ.

They're tracked by educational platforms

Chúng bị theo dõi bởi đồ chơi kết nối Internet,

and educational technologies in their schools.

các trò chơi trực tuyến

và vô số các công nghệ khác.

They're tracked by online records

and online portals at their doctor's office.

Trong quá trình nghiên cứu,

They're tracked by their internet-connected toys,

nhiều phụ huynh đã gặp tôi và hỏi: “Thế thì sao?

their online games

and many, many, many, many other technologies.

Chuyện con cái chúng tôi bị theo dõi thì có gì mà quan trọng?

So during my research,

a lot of parents came up to me and they were like, "So what?

Có gì đâu mà phải giấu.”

Chà, quan trọng đấy.

Why does it matter if my children are being tracked?

Quan trọng bởi vì ngày nay, cá nhân không chỉ bị theo dõi

We've got nothing to hide."

Well, it matters.

mà còn bị lập hồ sơ dựa vào dấu vết dữ liệu của mình.

It matters because today individuals are not only being tracked,

Trí tuệ nhân tạo và phân tích dự báo đã được dùng

để khai thác các dữ liệu về đời sống cá nhân càng nhiều càng tốt

they're also being profiled on the basis of their data traces.

từ nhiều nguồn khác nhau:

Artificial intelligence and predictive analytics are being used

lịch sử gia đình, thói quen mua sắm, bình luận trên mạng xã hội.

to harness as much data as possible of an individual life

Rồi họ tập hợp các dữ liệu này lại

from different sources:

để đưa ra quyết định dựa trên dữ liệu về cá nhân đó.

family history, purchasing habits, social media comments.

Và những công nghệ này được sử dụng khắp nơi.

And then they bring this data together

Ngân hàng dùng chúng để quyết định khoản vay.

to make data-driven decisions about the individual.

Bảo hiểm dùng chúng để xác định phí bảo hiểm.

And these technologies are used everywhere.

Nhà tuyển dụng và các công ty dùng chúng

Banks use them to decide loans.

để xác định một ứng viên có phù hợp cho công việc hay không.

Insurance uses them to decide premiums.

Cả cảnh sát và tòa án cũng dùng chúng

Recruiters and employers use them

để quyết định ai đó có tiềm năng phạm tội

to decide whether one is a good fit for a job or not.

hoặc tái phạm hay không.

Also the police and courts use them

to determine whether one is a potential criminal

Chúng ta không biết hay có quyền kiểm soát

or is likely to recommit a crime.

về cách thức mà những kẻ mua, bán và xử lý dữ liệu

đang tạo hồ sơ về bản thân và con cái chúng ta.

We have no knowledge or control

Nhưng những hồ sơ này có thể tác động đến quyền của chúng ta theo nhiều cách.

over the ways in which those who buy, sell and process our data

are profiling us and our children.

Tôi cho bạn ví dụ,

But these profiles can come to impact our rights in significant ways.

năm 2018, tạp chí “New York Times” đã công bố thông tin

To give you an example,

là các dữ liệu thu thập được

từ các dịch vụ chuẩn bị vào đại học trực tuyến

in 2018 the "New York Times" published the news

vốn đang được dùng bởi hàng triệu học sinh trung học cả nước Mỹ,

that the data that had been gathered

through online college-planning services --

những người đang tìm chương trình hay săn học bổng đại học,

that are actually completed by millions of high school kids across the US

đã được bán cho môi giới dữ liệu giáo dục.

who are looking for a college program or a scholarship --

Những nhà nghiên cứu môi giới dữ liệu giáo dục ở Fordham

had been sold to educational data brokers.

tiết lộ rằng các công ty này đã lập hồ sơ trẻ em từ hai tuổi

Now, researchers at Fordham who studied educational data brokers

dựa trên các tiêu chí khác nhau:

revealed that these companies profiled kids as young as two

dân tộc, tôn giáo, giàu nghèo,

sự vụng về trong giao tiếp xã hội

on the basis of different categories:

và nhiều tiêu chí ngẫu nhiên khác.

ethnicity, religion, affluence,

Rồi họ bán các hồ sơ này cùng các thông tin của đứa trẻ như tên,

social awkwardness

and many other random categories.

địa chỉ nhà và các thông tin liên hệ khác

And then they sell these profiles together with the name of the kid,

cho nhiều công ty khác nhau,

gồm cả các tổ chức thương mại lẫn nghề nghiệp,

their home address and the contact details

công ty thẻ tín dụng

và khoản vay cho sinh viên.

to different companies,

including trade and career institutions,

Nghiêm trọng hơn,

các nhà nghiên cứu ở Fordham yêu cầu một môi giới dữ liệu giáo dục

student loans

and student credit card companies.

cung cấp cho họ danh sách các cô bé từ 14 đến 15 tuổi

To push the boundaries,

the researchers at Fordham asked an educational data broker

có quan tâm đến các dịch vụ kế hoạch gia đình.

to provide them with a list of 14-to-15-year-old girls

Và môi giới dữ liệu ấy đã đồng ý cho họ danh sách đó.

Bạn có thể tưởng tượng nó riêng tư và xâm phạm thế nào đến con cái chúng ta.

who were interested in family planning services.

The data broker agreed to provide them the list.

Nhưng môi giới dữ liệu giáo dục chỉ mới là một ví dụ thôi đấy.

So imagine how intimate and how intrusive that is for our kids.

Sự thật là con cái chúng ta đang bị lập hồ sơ ngoài tầm kiểm soát của chúng ta

But educational data brokers are really just an example.

và việc đó ảnh hưởng nghiêm trọng đến các cơ hội trong đời của chúng.

The truth is that our children are being profiled in ways that we cannot control

Vì thế ta cần phải hỏi lại chính mình:

but that can significantly impact their chances in life.

ta có thể tin những công nghệ này trong chuyện lập hồ sơ con cái mình không?

Có thể tin không?

So we need to ask ourselves:

can we trust these technologies when it comes to profiling our children?

Tôi thì không.

Là một nhà nhân chủng học,

tôi tin rằng trí tuệ nhân tạo và phân tích dự báo là những công cụ tuyệt vời

Can we?

trong chẩn đoán bệnh

My answer is no.

hay chống biến đổi khí hậu.

As an anthropologist,

I believe that artificial intelligence and predictive analytics can be great

Nhưng ta cần phải bỏ niềm tin

cho rằng các công nghệ này có thể lập hồ sơ khách quan cho con người

to predict the course of a disease

or to fight climate change.

và rằng có thể dựa vào chúng để đưa ra quyết định dựa trên dữ liệu

But we need to abandon the belief

về cuộc sống cá nhân của mình.

that these technologies can objectively profile humans

Bởi chúng không thể lập hồ sơ con người.

Dấu vết dữ liệu không phải gương phản chiếu chúng ta.

and that we can rely on them to make data-driven decisions

Con người nghĩ một đằng và nói một nẻo,

about individual lives.

Because they can't profile humans.

nghĩ thế này và làm thế khác.

Dự đoán thuật toán hay ứng dụng kỹ thuật số

Data traces are not the mirror of who we are.

không thể giải thích tính khó lường và phức tạp cho trải nghiệm con người.

Humans think one thing and say the opposite,

feel one way and act differently.

Algorithmic predictions or our digital practices

Nhưng trên tất cả,

cannot account for the unpredictability and complexity of human experience.

các công nghệ này luôn luôn,

luôn luôn,

cách này hay cách khác, thiên vị.

But on top of that,

Bạn thấy đó, theo định nghĩa, thuật toán là tập hợp các quy tắc hoặc các bước

these technologies are always --

always --

được thiết kế để đạt một kết quả nhất định đúng không?

in one way or another, biased.

You see, algorithms are by definition sets of rules or steps

Nhưng tập hợp quy tắc hay các bước này không khách quan,

bởi vì chúng được tạo ra bởi con người

that have been designed to achieve a specific result, OK?

trong một hoàn cảnh văn hóa đặc thù

và được định hình bởi các giá trị văn hóa nhất định.

But these sets of rules or steps cannot be objective,

Vì thế khi máy móc học tập,

because they've been designed by human beings

chúng sẽ học từ những thuật toán thiên vị,

within a specific cultural context

and are shaped by specific cultural values.

và chúng cũng thường học từ những nguồn dữ liệu thiên vị nữa.

So when machines learn,

Hiện tại, chúng ta đang thấy các ví dụ đầu tiên về thiên vị thuật toán.

they learn from biased algorithms,

and they often learn from biased databases as well.

Và một số ví dụ này nói thật là rất đáng sợ.

At the moment, we're seeing the first examples of algorithmic bias.

Năm nay, Viện AI Now ở New York đã công bố một bản báo cáo

And some of these examples are frankly terrifying.

cho thấy các công nghệ trí tuệ nhân tạo

đang được sử dụng cho dự báo của cảnh sát

This year, the AI Now Institute in New York published a report

đã được dạy từ dữ liệu "bẩn".

that revealed that the AI technologies

Về cơ bản, đây là dữ liệu được thu thập

that are being used for predictive policing

trong các giai đoạn lịch sử phân biệt chủng tộc

have been trained on "dirty" data.

và những hành xử cảnh sát không minh bạch.

This is basically data that had been gathered

Vì những công nghệ này đã được dạy bằng dữ liệu “bẩn”

during historical periods of known racial bias

nên chúng không khách quan

and nontransparent police practices.

và kết quả của chúng chỉ khuếch tán và duy trì

Because these technologies are being trained with dirty data,

sai phạm và thiên vị của cảnh sát.

they're not objective,

and their outcomes are only amplifying and perpetrating

Vậy nên tôi nghĩ chúng ta đang phải đối mặt với một vấn đề cốt lõi

trong xã hội.

police bias and error.

Chúng ta đang bắt đầu tin vào công nghệ khi nói đến việc lập hồ sơ về con người.

So I think we are faced with a fundamental problem

Ta biết rằng khi lập hồ sơ con người,

in our society.

những công nghệ này sẽ luôn thiên vị

We are starting to trust technologies when it comes to profiling human beings.

và không bao giờ chính xác cả.

We know that in profiling humans,

Vì thế cái ta cần bây giờ thật ra là giải pháp chính trị.

these technologies are always going to be biased

Chúng ta cần chính phủ công nhận rằng quyền dữ liệu chính là quyền con người.

and are never really going to be accurate.

So what we need now is actually political solution.

(Vỗ tay và hoan hô)

We need governments to recognize that our data rights are our human rights.

Cho đến ngày đó, chúng ta không thể mong chờ một tương lai công bằng hơn.

(Applause and cheers)

Tôi lo các con gái của mình sẽ phải đối mặt

Until this happens, we cannot hope for a more just future.

với đủ loại phân biệt và sai sót thuật toán.

Bạn thấy sự khác biệt giữa tôi và các con tôi

I worry that my daughters are going to be exposed

đó là ngoài kia chẳng có thông tin gì về thời thơ ấu của tôi cả.

to all sorts of algorithmic discrimination and error.

Chắc chắn không có kho dữ liệu nào lưu lại những điều ngu ngốc tôi đã làm

You see the difference between me and my daughters

và đã nghĩ thời niên thiếu.

is that there's no public record out there of my childhood.

(Khán giả cười)

There's certainly no database of all the stupid things that I've done

Nhưng các con gái tôi thì khác.

and thought when I was a teenager.

Dữ liệu được thu thập từ chúng hôm nay

(Laughter)

có thể được dùng để đánh giá chúng ngày mai

But for my daughters this may be different.

và có thể cản trở ước mơ và hoài bão của chúng.

The data that is being collected from them today

may be used to judge them in the future

Tôi nghĩ đã đến lúc.

Đã đến lúc ta đứng lên.

Đã đến lúc ta đoàn kết lại

and can come to prevent their hopes and dreams.

như những cá nhân,

những tập thể và tổ chức,

I think that's it's time.

và đến lúc ta yêu cầu nhiều công lý hơn cho dữ liệu của chúng ta

It's time that we all step up.

It's time that we start working together

và của con cái chúng ta

as individuals,

trước khi quá muộn.

as organizations and as institutions,

Xin cảm ơn.

(Vỗ tay)

and that we demand greater data justice for us

and for our children

before it's too late.

Thank you.

(Applause)