What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Translator: Mohammad Badsar Reviewer: Masoud Motamedifar

Every day, every week,

هر روز، هر هفته،

we agree to terms and conditions.

ما با شرایط و مواد قراردادها موافقت می‌کنیم.

And when we do this,

و هنگامی که این کار را می‌کنیم،

we provide companies with the lawful right

به شرکت‌ها به لحاظ قانونی حق می‌دهیم

to do whatever they want with our data

تا هر چه می‌خواهند با داده‌های ما

and with the data of our children.

و داده‌های فرزندانمان انجام دهند.

Which makes us wonder:

که موجب تعجب است:

how much data are we giving away of children,

چه مقدار از اطلاعات فرزندان را ما در اختیار دیگران می‌گذاریم،

and what are its implications?

و عواقب آن چیست؟

I'm an anthropologist,

من یک انسان‌شناس هستم،

and I'm also the mother of two little girls.

و همچنین مادر دو دختر کوچک.

And I started to become interested in this question in 2015

و من از سال ۲۰۱۵ به این سوال علاقمند شدم

when I suddenly realized that there were vast --

زمانی که ناگهان دریافتم که تقریباً اطلاعات

almost unimaginable amounts of data traces

بسیار گسترده و غیرقابل تصوری

that are being produced and collected about children.

دارد در مورد کودکان تولید و جمع‌آوری می‌شود.

So I launched a research project,

بنابراین یک پروژه تحقیقاتی را آغاز کردم،

which is called Child Data Citizen,

که «شهروند داده‌های کودک» نام دارد،

and I aimed at filling in the blank.

و قصد داشتم این جای خالی را پر کنم.

Now you may think that I'm here to blame you

حالا ممکن است فکر کنید قصد دارم شما را مقصر بدانم

for posting photos of your children on social media,

برای اینکه عکس فرزندان‌تان را در فضای مجازی می‌گذارید،

but that's not really the point.

اما واقعاً بحث من این نیست.

The problem is way bigger than so-called "sharenting."

مسئله بسیار بزرگتر از چیزی به نام «دراختیارگذاری اطلاعات و تصاویر کودک» است.

This is about systems, not individuals.

این موضوع در مورد نظام است نه افراد.

You and your habits are not to blame.

قرار نیست شما و عادات‌تان را مقصر بدانیم.

For the very first time in history,

برای اولین بار در تاریخ،

we are tracking the individual data of children

ما داریم داده‌های انفرادی کودکان را ردیابی می‌کنیم

from long before they're born --

آن هم مدت‌ها قبل از تولد--

sometimes from the moment of conception,

گاهی از لحظه تصمیم‌گیری برای حاملگی،

and then throughout their lives.

و سپس در طول حیاتشان.

You see, when parents decide to conceive,

می‌بینید، زمانی که والدین تصمیم به فرزندآوری می‌گیرند،

they go online to look for "ways to get pregnant,"

به اینترنت مراجعه می‌کنند تا «روش‌های باردار شدن» را جستجو کنند،

or they download ovulation-tracking apps.

یا اپلیکیشن‌های ردیابی تخمک‌گذاری را دانلود می‌کنند.

When they do get pregnant,

هنگامی که باردار می‌شوند،

they post ultrasounds of their babies on social media,

فرا‌صوت رادیویی نوزادشان را در فضای مجازی می‌فرستند،

they download pregnancy apps

اپلیکیشن‌های حاملگی را دانلود می‌کنند

or they consult Dr. Google for all sorts of things,

یا در مورد همه چیز با دکتر گوگل مشورت می‌کنند،

like, you know --

می‌دانید، مثل --

for "miscarriage risk when flying"

«خطر سقط جنین هنگام پرواز با هواپیما»

or "abdominal cramps in early pregnancy."

یا «گرفتگی عضلات شکم در ابتدای بارداری.»

I know because I've done it --

می‌دانم چون خودم این کار را کرده‌ام --

and many times.

و دفعات بسیار.

And then, when the baby is born, they track every nap,

و هنگامی که نوزاد متولد می‌شود همه چیز را ردیابی می‌کنند

every feed,

هر چُرت، هر غذا دادن،

every life event on different technologies.

هر رویداد حیاتی را با فناوری‌های مختلف پیگیری می‌کنند.

And all of these technologies

همه این فناوری‌ها

transform the baby's most intimate behavioral and health data into profit

خصوصی‌ترین رفتار و داده‌های سلامت کودک را به سود تبدیل می‌کنند

by sharing it with others.

تنها با به اشتراک گذاری آن با دیگران.

So to give you an idea of how this works,

برای اینکه به شما بفهمانم چطور عمل می‌کند،

in 2019, the British Medical Journal published research that showed

در سال ۲۰۱۹، بریتیش مدیکال ژورنال پژوهشی منتشر کرد که نشان می‌داد

that out of 24 mobile health apps,

از هر ۲۴ اپلیکیشن حوزه سلامت،

19 shared information with third parties.

۱۹ مورد اطلاعات را در اختیار یک گروه ثالث می‌گذارند.

And these third parties shared information with 216 other organizations.

و این گروه‌های ثالث اطلاعات را در اختیار ۲۱۶ سازمان دیگر می‌گذارند.

Of these 216 other fourth parties,

از این ۲۱۶ تا بعنوان گروه چهارم،

only three belonged to the health sector.

فقط سه مورد متعلق به بخش سلامت بودند.

The other companies that had access to that data were big tech companies

دیگر شرکت‌هایی که به این داده‌ها دسترسی داشتند، شرکت‌های بزرگ فناوری بودند

like Google, Facebook or Oracle,

همچون گوگل، فیس‌بوک و اراکل،

they were digital advertising companies

آن‌ها شرکت‌های تبلیغات دیجیتالی بودند

and there was also a consumer credit reporting agency.

و یک مرکز اعتبارسنجی مشتریان هم وجود داشت.

So you get it right:

درست متوجه شدید:

ad companies and credit agencies may already have data points on little babies.

شرکت‌های تبلیغاتی و مراکز اعتبارسنجی احتمالا اطلاعات مربوط به نوزادان را دارند.

But mobile apps, web searches and social media

اما برنامه‌‌های موبایل، جستجوگرهای وب و شبکه‌های اجتماعی

are really just the tip of the iceberg,

تنها قله یک کوه یخ هستند،

because children are being tracked by multiple technologies

چون کودکان دارند توسط فناوری‌‌های چندگانه در هر روز

in their everyday lives.

از زندگی‌شان ردیابی می‌شوند.

They're tracked by home technologies and virtual assistants in their homes.

کودکان توسط فناوری‌های خانگی و دستیاران مجازی در منزل ردیابی می‌شوند.

They're tracked by educational platforms

کودکان توسط محمل‌های آموزشی

and educational technologies in their schools.

و فناوری‌های آموزشی در مدارس‌شان ردیابی می‌شوند.

They're tracked by online records

آن‌ها توسط رکوردهای آنلاین

and online portals at their doctor's office.

و پورتال‌های آنلاین در مطب پزشک ردیابی می‌شوند.

They're tracked by their internet-connected toys,

آن‌ها توسط اسباب‌بازی‌های متصل به اینترنت،

their online games

بازی‌های آنلاین و بسیار،

and many, many, many, many other technologies.

بسیار، بسیار، بسیار فناوری‌های دیگر ردیابی می‌شوند.

So during my research,

بنابراین در طی تحقیقم،

a lot of parents came up to me and they were like, "So what?

بسیاری از والدین پیش من می‌آمدند و می‌گفتند، «حالا که چه؟

Why does it matter if my children are being tracked?

چه اهمیتی دارد که کودکان ردیابی می‌شوند؟ ما چیزی برای

We've got nothing to hide."

Well, it matters.

خوب، این قضیه اهمیت دارد.

It matters because today individuals are not only being tracked,

مهم است چون امروز افراد فقط ردیابی نمی‌شوند،

they're also being profiled on the basis of their data traces.

افراد همچنین بر اساس داده‌ها طبقه‌بندی می‌شوند.

Artificial intelligence and predictive analytics are being used

هوش مصنوعی و تحلیلگرهای پیش‌بینی‌کننده به کار برده می‌شوند

to harness as much data as possible of an individual life

تا در حد ممکن داده‌های زندگی شخصی افراد از منابع مختلف

from different sources:

به خدمت گرفته شود:

family history, purchasing habits, social media comments.

منابعی چون تاریخچه خانوادگی، رفتارهای خرید، پیام‌های شبکه‌های اجتماعی.

And then they bring this data together

سپس این داده‌ها را جمع می‌کنند

to make data-driven decisions about the individual.

تا تصمیمات حاصل از داده‌های افراد اتخاذ شود.

And these technologies are used everywhere.

و این فناوری‌ها همه جا به کار می‌روند.

Banks use them to decide loans.

بانک‌ها برای تصمیم‌گیری در مورد وام‌ها

Insurance uses them to decide premiums.

و بیمه برای محاسبه مزایا از این‌ها استفاده می‌کند.

Recruiters and employers use them

استخدام‌کنندگان و کارگزینان برای اینکه ببینند

to decide whether one is a good fit for a job or not.

کسی برای شغلی مناسب است از اینها استفاده می‌کنند.

Also the police and courts use them

همچنین پلیس و دادگاه‌ها برای تعیین اینکه کسی مجرم بالقوه است

to determine whether one is a potential criminal

یا برای تشخیص احتمال ارتکاب دوباره جرم

or is likely to recommit a crime.

از اینها استفاده می‌کنند.

We have no knowledge or control

ما هیچگونه آگاهی یا کنترلی نداریم

over the ways in which those who buy, sell and process our data

در مورد روشی که داده‌های ما خرید و فروش می‌شود یا فرآیندی

are profiling us and our children.

که ما و فرزندان‌مان را طبقه‌بندی می‌کند.

But these profiles can come to impact our rights in significant ways.

اما این طبقه‌بندی‌ها می‌تواند بر حقوق ما به شکل چشمگیری اثر بگذارد.

To give you an example,

بعنوان مثال،

in 2018 the "New York Times" published the news

در سال ۲۰۱۸ «نیویورک تایمز» خبری منتشر کرد

that the data that had been gathered

که داده‌هایی که از طریق خدمات

through online college-planning services --

برنامه‌ریزی دانشگاهی آنلاین جمع‌آوری شده بود --

that are actually completed by millions of high school kids across the US

که در واقع توسط میلیون‌ها بچه دبیرستانی در سراسر امریکا تکمیل می‌شود

who are looking for a college program or a scholarship --

که در پی یک طرح دانشگاهی یا یک کمک هزینه تحصیلی هستند --

had been sold to educational data brokers.

به دلالان داده‌های آموزشی فروخته شده بود.

Now, researchers at Fordham who studied educational data brokers

اکنون، محققین در فوردهام که دلالان داده‌های آموزشی را مطالعه کرده‌اند

revealed that these companies profiled kids as young as two

فاش کرده‌اند که این شرکت‌ها بچه‌ها را حتی از سنین دو سالگی دسته‌بندی می‌کنند

on the basis of different categories:

بر اساس طبقه‌بندی‌های مختلف:

ethnicity, religion, affluence,

نژاد، مذهب، ثروت،

social awkwardness

ناسازگاری اجتماعی

and many other random categories.

و بسیاری از دیگر طبقه‌بندی‌های تصادفی.

And then they sell these profiles together with the name of the kid,

و سپس این طبقه‌بندی‌ها را با اسم بچه،

their home address and the contact details

آدرس منزل و جزئیات تماس

to different companies,

به شرکت‌های مختلف می‌فروشند،

including trade and career institutions,

شرکت‌هایی شامل موسسات کار و تجارت،

student loans

وام‌های دانشجویی

and student credit card companies.

و شرکت‌های کارت‌های اعتباری دانشجویی.

To push the boundaries,

برای جزئیات بیشتر،

the researchers at Fordham asked an educational data broker

محققان در فوردهام از یک دلال داده آموزشی خواستند

to provide them with a list of 14-to-15-year-old girls

تا لیستی از دختران ۱۴ تا ۱۵ ساله را فراهم کند

who were interested in family planning services.

که به خدمات برنامه‌ریزی خانوادگی علاقه دارند.

The data broker agreed to provide them the list.

دلال داده موافقت کرد که این لیست را به آن‌ها بدهد.

So imagine how intimate and how intrusive that is for our kids.

حالا تصور کنید که این چقدر برای فرزندان‌مان محرمانه و نوعی فضولی است.

But educational data brokers are really just an example.

اما دلال داده‌های آموزشی فقط یک نمونه هستند.

The truth is that our children are being profiled in ways that we cannot control

حقیقت این است که بچه‌های ما به طریقی که توسط ما قابل کنترل نیست، طبقه‌بندی می‌شوند

but that can significantly impact their chances in life.

اما این می‌تواند بطور چشمگیری بختشان در زندگی را تحت تأثیر قرار دهد.

So we need to ask ourselves:

پس نیاز است از خودمان بپرسیم:

can we trust these technologies when it comes to profiling our children?

آیا می‌توانیم به این فناوری‌ها اعتماد کنیم در حالی که کودکان را طبقه‌بندی می‌کنند؟

Can we?

می‌توانیم؟

My answer is no.

پاسخ من خیر است.

As an anthropologist,

بعنوان یک انسان‌شناس

I believe that artificial intelligence and predictive analytics can be great

معتقدم که هوش مصنوعی و تحلیلگران پیش‌بینی کننده می‌توانند خیلی خوب باشند

to predict the course of a disease

برای پیش‌بینی مسیر یک بیماری

or to fight climate change.

یا مبارزه با تغییرات آب و هوایی.

But we need to abandon the belief

اما باید این باور را رها کنیم

that these technologies can objectively profile humans

که این فناوری‌ها می‌توانند بیطرفانه انسان‌ها را طبقه‌بندی کنند

and that we can rely on them to make data-driven decisions

و اینکه می‌توانیم به آن‌ها اعتماد کنیم تا تصمیمات را بر مبنای

about individual lives.

داده‌های زندگی شخصی افراد بگیرند.

Because they can't profile humans.

چون نمی‌توانند انسان‌ها را طبقه‌بندی کنند.

Data traces are not the mirror of who we are.

آثار داده‌ها آیینه‌ای از واقعیت شما نیست.

Humans think one thing and say the opposite,

انسان‌ها جوری فکر می‌کنند اما خلافش را می‌گویند،

feel one way and act differently.

جوری احساس می‌کنند ولی متفاوت عمل می‌کنند.

Algorithmic predictions or our digital practices

پیش‌بینی‌های الگوریتمی یا محاسبات دیجیتال

cannot account for the unpredictability and complexity of human experience.

نمی‌تواند مبنایی منطبق بر غیرقابل پیش‌بینی بودن و پیچیدگی تجربه انسانی باشد.

But on top of that,

اما مهمتر از همه اینکه

these technologies are always --

این فناوری‌ها همیشه --

always --

همیشه --

in one way or another, biased.

به طریقی سوگیری مشخصی دارند.

You see, algorithms are by definition sets of rules or steps

می‌دانیم که الگوریتم‌ها دسته‌ای از قوانین و مراحل هستند

that have been designed to achieve a specific result, OK?

که برای حصول نتیجه مشخصی طراحی شده‌اند، درست؟

But these sets of rules or steps cannot be objective,

اما این دسته‌های قوانین و مراحل نمی‌توانند بیطرف باشند،

because they've been designed by human beings

چون توسط انسان‌ها طراحی شده‌اند

within a specific cultural context

و در یک زمینه فرهنگی خاص

and are shaped by specific cultural values.

و با ارزش‌های فرهنگی خاصی شکل گرفته‌اند.

So when machines learn,

بنابراین وقتی ماشین‌ها یاد می‌گیرند،

they learn from biased algorithms,

از الگوریتم‌های با سوگیری خاصی یاد می‌گیرند،

and they often learn from biased databases as well.

همچنین از پایگاه‌های داده با سوگیری خاص یاد می‌گیرند.

At the moment, we're seeing the first examples of algorithmic bias.

در این لحظه، داریم اولین نمونه سوگیری الگوریتمی را مشاهده می‌کنیم.

And some of these examples are frankly terrifying.

و برخی از این نمونه‌ها واقعاً ترسناک هستند.

This year, the AI Now Institute in New York published a report

امسال، ای‌آی ناو انستیتو در نیویورک گزارشی منتشر کرد

that revealed that the AI technologies

که فاش می‌کرد فناوری‌های هوش مصنوعی

that are being used for predictive policing

که برای نظارت پلیسی پیشگویانه مورد استفاده هستند

have been trained on "dirty" data.

با داده‌های «کثیف» آموزش دیده‌اند.

This is basically data that had been gathered

یعنی اطلاعاتی که اساساً

during historical periods of known racial bias

از زمان تاریخی تعصبات نژادی

and nontransparent police practices.

و اعمال پلیسی غیرشفاف جمع‌آوری شده‌اند.

Because these technologies are being trained with dirty data,

چون این فناوری‌ها با داد‌های «کثیف» آموزش می‌بینند،

they're not objective,

بیطرف نیستند،

and their outcomes are only amplifying and perpetrating

و خروجی آن‌ها فقط موجب تقویت و ارتکاب

police bias and error.

تبعیض و خطای پلیسی می‌شود.

So I think we are faced with a fundamental problem

بنابراین فکر می‌کنم با یک مشکل اساسی در جامعه

in our society.

روبرو هستیم.

We are starting to trust technologies when it comes to profiling human beings.

ما داریم به فناوری‌هایی اعتماد می‌کنیم که انسان‌ها را طبقه‌بندی می‌کنند.

We know that in profiling humans,

می‌دانیم که در طبقه‌بندی انسان‌ها،

these technologies are always going to be biased

این فناوری‌ها همواره سوگیری خاصی دارند

and are never really going to be accurate.

و هرگز نمی‌توانند صحیح باشند.

So what we need now is actually political solution.

بنابراین واقعاً به راه حل سیاسی نیاز داریم.

We need governments to recognize that our data rights are our human rights.

دولت‌ها باید بدانند که داده‌های ما جزء حقوق انسانی ماست.

(Applause and cheers)

(تشویق و هورا)

Until this happens, we cannot hope for a more just future.

تا زمانی که این محقق نشود نمی‌توانیم منتظر آینده عادلانه‌تری باشیم.

I worry that my daughters are going to be exposed

نگرانم که دخترانم در معرض

to all sorts of algorithmic discrimination and error.

تمام این خطاها و تبعیضات الگوریتمی قرار بگیرند.

You see the difference between me and my daughters

می‌دانید تفاوت من و دخترانم

is that there's no public record out there of my childhood.

این است که هیچ پرونده عمومی از دوران کودکی من وجود ندارد.

There's certainly no database of all the stupid things that I've done

مشخصاً هیچ پایگاه داده‌ای از تمام کارها و افکار احمقانه‌ام

and thought when I was a teenager.

در زمان نوجوانی وجود ندارد.

(Laughter)

(خنده)

But for my daughters this may be different.

اما در مورد دخترانم قضیه متفاوت است.

The data that is being collected from them today

داده‌هایی که امروز در مورد آن‌ها جمع‌آوری می‌شود

may be used to judge them in the future

می‌تواند برای قضاوت در مورد آن‌ها در آینده به کار گرفته شود

and can come to prevent their hopes and dreams.

و می‌تواند امیدها و رویاهای‌شان را سرکوب کند.

I think that's it's time.

فکر می‌کنم وقتش است.

It's time that we all step up.

وقت آن است که قیام کنیم.

It's time that we start working together

وقت آن است که تک تک ما با هم همکاری کنیم،

as individuals,

بعنوان افراد،

as organizations and as institutions,

بعنوان سازمان‌ها و بعنوان موسسات،

and that we demand greater data justice for us

و تقاضا کنیم که عدالت داده‌ای بیشتری برای خودمان و برای

and for our children

فرزندان‌مان وجود داشته باشد

before it's too late.

قبل از اینکه خیلی دیر شود.

Thank you.

متشکرم،

(Applause)

(تشویق)