What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

المترجم: Shimaa Nabil المدقّق: Nawfal Aljabali

Every day, every week,

كل يوم، كل أسبوع،

we agree to terms and conditions.

نوافق على شروط وأحكام.

And when we do this,

وعندما نفعل ذلك،

we provide companies with the lawful right

نزود الشركات بالحق القانوني

to do whatever they want with our data

لفعل ما تريده بالبيانات الخاصة بنا

and with the data of our children.

وبيانات أطفالنا.

Which makes us wonder:

ما يجعلنا نتساءل:

how much data are we giving away of children,

كم من البيانات التي نمنحها عن الأطفال،

and what are its implications?

وما هي آثارها؟

I'm an anthropologist,

أنا عالمة أنثروبولوجيا،

and I'm also the mother of two little girls.

وأيضاً أم لطفلتين صغيرتين.

And I started to become interested in this question in 2015

وبدأ اهتمامي بهذا السؤال في 2015

when I suddenly realized that there were vast --

عندما أدركت فجأة أن ثمّة

almost unimaginable amounts of data traces

كميات هائلة لا يمكن تخيلها من تتبع البيانات

that are being produced and collected about children.

التي يتم إنتاجها وتجميعها عن الأطفال.

So I launched a research project,

لذلك بدأت مشروعاً بحثياً،

which is called Child Data Citizen,

والذي يسمى مواطن بيانات الطفل،

and I aimed at filling in the blank.

وأهدف إلى ملء الفراغ.

Now you may think that I'm here to blame you

الآن ربما تفكر أنني ألومك

for posting photos of your children on social media,

لنشر صور أطفالك على وسائل التواصل الاجتماعي،

but that's not really the point.

لكن هذا ليس الهدف.

The problem is way bigger than so-called "sharenting."

المشكلة أكبر بكثير مما يسمى بـ "المشاركة".

This is about systems, not individuals.

هذا عن الأنظمة وليس عن الأفراد.

You and your habits are not to blame.

لا تُلامون أنتم وعاداتكم.

For the very first time in history,

لأول مرة في التاريخ،

we are tracking the individual data of children

نقوم بتتبع البيانات الفردية للأطفال

from long before they're born --

منذ وقت طويل قبل ولادتهم -

sometimes from the moment of conception,

ومن لحظة الحمل أحياناً،

and then throughout their lives.

وخلال حياتهم بعد ذلك.

You see, when parents decide to conceive,

كما تعرفون، عندما يقرر الآباء الحمل،

they go online to look for "ways to get pregnant,"

يبحثون عبر الإنترنت عن "طرق الحمل"

or they download ovulation-tracking apps.

أو يقومون بتحميل تطبيقات تتبع التبويض.

When they do get pregnant,

عندما يحصل الحمل،

they post ultrasounds of their babies on social media,

ينشرون الموجات فوق الصوتية لأطفالهم على وسائل التواصل الاجتماعي،

they download pregnancy apps

يقومون بتحميل تطبيقات الحمل

or they consult Dr. Google for all sorts of things,

أو استشارة دكتور جوجل لهذه الأشياء،

like, you know --

مثل، كما تعرفون-

for "miscarriage risk when flying"

عن "مخاطر الإجهاض عند الطيران"

or "abdominal cramps in early pregnancy."

أو "تشنجات البطن في وقت مبكر من الحمل."

I know because I've done it --

أعلم لأنني فعلت ذلك -

and many times.

مرات عديدة.

And then, when the baby is born, they track every nap,

عندما يولد الطفل وبعد ذلك، يتتبعون كل قيلولة،

every feed,

كل وجبة،

every life event on different technologies.

كل حدث في حياته على تقنيات مختلفة.

And all of these technologies

وتحول كل هذه التقنيات

transform the baby's most intimate behavioral and health data into profit

البيانات الخاصة بصحة الطفل وسلوكه الأكثر خصوصية إلى ربح

by sharing it with others.

بمشاركتها مع الآخرين.

So to give you an idea of how this works,

لأبين لكم فكرة عمل هذا،

in 2019, the British Medical Journal published research that showed

في 2019، نشرت المجلة الطبية البريطانية بحثاً يوضح

that out of 24 mobile health apps,

أن من كل 24 تطبيقاً خاصاً بالهاتف المحمول،

19 shared information with third parties.

ينشر 19 منهم معلومات مع أطراف ثالثة.

And these third parties shared information with 216 other organizations.

وتقوم هذه الأطراف بمشاركة المعلومات مع 216 منظمة أخرى.

Of these 216 other fourth parties,

ومن هذه الـ 216 طرف رابع،

only three belonged to the health sector.

ينتمي 3 منهم فقط للقطاع الطبي.

The other companies that had access to that data were big tech companies

الشركات الأخرى التي كان لها إمكانية الوصول لهذه البيانات هي شركات التقنية الكبرى

like Google, Facebook or Oracle,

مثل جوجل أو فيسبوك أو أوراكل،

they were digital advertising companies

وهم شركات إعلان رقمية

and there was also a consumer credit reporting agency.

وكان هناك أيضاً وكالة تقارير ائتمان المستهلك.

So you get it right:

لذا ما فهمته صحيحاً:

ad companies and credit agencies may already have data points on little babies.

الشركات الإعلانية ووكالات الائتمان لديها بالفعل بيانات عن الأطفال الصغار.

لكن تطبيقات الهاتف المحمول وبحث الإنترنت ووسائل التواصل الاجتماعي

But mobile apps, web searches and social media

are really just the tip of the iceberg,

في الحقيقة مجرد غيض من فيض،

because children are being tracked by multiple technologies

لأنه يتم تعقب الأطفال بواسطة تقنيات متعددة

in their everyday lives.

في حياتهم اليومية.

They're tracked by home technologies and virtual assistants in their homes.

يتم تتبعهم من خلال التقنيات المنزلية والمساعدين الافتراضيين في منازلهم.

They're tracked by educational platforms

من خلال المنصات التعليمية

and educational technologies in their schools.

والتقنيات التعليمية في مدارسهم.

They're tracked by online records

ومن خلال التسجيلات عبر الإنترنت

and online portals at their doctor's office.

والبوابات الالكترونية في العيادات.

They're tracked by their internet-connected toys,

يتم تعقبهم من خلال ألعابهم المتصلة بالإنترنت،

their online games

ألعابهم على الإنترنت

and many, many, many, many other technologies.

والكثير والكثير من التقنيات الأخرى.

So during my research,

لذا أثناء قيامي بالبحث،

a lot of parents came up to me and they were like, "So what?

جاءني الكثير من الآباء وسألوني: "ماذا بعد؟

Why does it matter if my children are being tracked?

ما القضية إذا تم تعقب أطفالي؟

We've got nothing to hide."

ليس لدينا ما نخفيه."

Well, it matters.

حسناً، إنه يهم.

It matters because today individuals are not only being tracked,

يهم لأن الأفراد اليوم لا يتم تعقبهم فقط،

they're also being profiled on the basis of their data traces.

يتم أيضاً تصنيفهم حسب البيانات الخاصة بهم.

Artificial intelligence and predictive analytics are being used

يتم استخدام الذكاء الصناعي والتحليلات التنبؤية

to harness as much data as possible of an individual life

لتسخير أكبر قدر ممكن من البيانات

from different sources:

من مصادر مختلفة:

family history, purchasing habits, social media comments.

تاريخ العائلة وعادات الشراء وتعليقات وسائل التواصل الاجتماعي.

And then they bring this data together

ثم يتم تجميع البيانات معاً

to make data-driven decisions about the individual.

لاتخاذ قرارات مبنية على بيانات الفرد.

And these technologies are used everywhere.

ويتم استخدام هذه التقنية في كل مكان.

Banks use them to decide loans.

تستخدمها البنوك لإقرار القروض.

Insurance uses them to decide premiums.

ويستخدمها التأمين لتحديد الأقساط.

Recruiters and employers use them

يستخدمها مسؤولو التوظيف وأرباب العمل

to decide whether one is a good fit for a job or not.

ليقرروا ما إذا كان أحد مناسباً للعمل أم لا.

Also the police and courts use them

وأيضاً تستخدمها الشرطة والمحاكم

to determine whether one is a potential criminal

لتحديد ما إذا كان أحدهم مجرماً محتملاً

or is likely to recommit a crime.

أو من المحتمل أن يعيد ارتكاب الجريمة.

We have no knowledge or control

ليس لدينا أي معرفة أو سيطرة

over the ways in which those who buy, sell and process our data

على الطرق التي يقوم بها أولئك الذين يشترون بياناتنا ويبيعونها ويعالجونها

are profiling us and our children.

لتوصيف هويتنا وأطفالنا.

But these profiles can come to impact our rights in significant ways.

لكن هذه الملفات الشخصية يمكن أن تؤثر على حقوقنا بطرق ملحوظة.

To give you an example,

لأوضح لكم بمثال،

in 2018 the "New York Times" published the news

نشرت نيويورك تايمز في 2018 أخباراً

that the data that had been gathered

أن البيانات التي تم تجميعها

through online college-planning services --

خلال خدمات التخطيط الجامعي عبر الإنترنت -

that are actually completed by millions of high school kids across the US

التي ينجزها ملايين من أطفال المدارس الثانوية في جميع أنحاء الولايات المتحدة

who are looking for a college program or a scholarship --

والذين يبحثون عن برنامج جامعي أو منحة دراسية -

had been sold to educational data brokers.

تم بيعها إلى وسطاء البيانات التعليمية.

Now, researchers at Fordham who studied educational data brokers

الآن، كشف باحثون في فوردهام الذين درسوا وسطاء البيانات التعليمية

revealed that these companies profiled kids as young as two

أن هذه الشركات وصفت أطفال لا تتجاوز أعمارهم العامين

on the basis of different categories:

على أساس فئات مختلفة:

ethnicity, religion, affluence,

العرق والدين والثراء،

social awkwardness

الصعيد الاجتماعي

and many other random categories.

والعديد من الفئات العشوائية الأخرى.

And then they sell these profiles together with the name of the kid,

ثم يبيعون هذه الملفات الشخصية مع اسم الطفل،

their home address and the contact details

عنوان منزلهم وتفاصيل الاتصال بهم

to different companies,

لشركات مختلفة،

including trade and career institutions,

بما في ذلك المؤسسات التجارية والمهنية،

student loans

والقروض الدراسية

and student credit card companies.

وشركات بطاقات الائتمان الطلابية.

To push the boundaries,

لكسر الحواجز،

the researchers at Fordham asked an educational data broker

طلب الباحثون في فورهام من وسيط البيانات التعليمية

to provide them with a list of 14-to-15-year-old girls

تزويدهم بقائمة الفتيات من 14 إلى 15 سنة

who were interested in family planning services.

ممن كن مهتمات بخدمات تنظيم الأسرة.

The data broker agreed to provide them the list.

وافق وسيط البيانات بتزويدهم بالقائمة.

So imagine how intimate and how intrusive that is for our kids.

لذا تخيل مدى خصوصية وتطفل هذا الأمر على أطفالنا.

But educational data brokers are really just an example.

لكن وسطاء بيانات التعليم مجرد مثال.

The truth is that our children are being profiled in ways that we cannot control

الحقيقة أنه تم توصيف أطفالنا بطرق لا نستطيع السيطرة عليها

but that can significantly impact their chances in life.

ولكن هذا يمكنه التأثير على فرصهم في الحياة بصورة كبيرة.

So we need to ask ourselves:

لذا نريد أن نسأل أنفسنا:

can we trust these technologies when it comes to profiling our children?

هل نستطيع أن نثق في هذه التقنيات عندما يتعلق الأمر بتوصيف أطفالنا؟

Can we?

هل يمكننا؟

My answer is no.

إجابتي هي لا.

As an anthropologist,

كعالمة أنثروبولوجيا،

I believe that artificial intelligence and predictive analytics can be great

أعتقد أنه يمكن للذكاء الصناعي والتحليلات التنبؤية أن يكونا رائعين

to predict the course of a disease

للتنبؤ بمسار المرض

or to fight climate change.

أو محاربة تغير المناخ.

But we need to abandon the belief

لكننا بحاجة إلى التخلي عن اعتقاد

that these technologies can objectively profile humans

أن هذه التقنيات يمكن أن تصنف البشر بشكل موضوعي

and that we can rely on them to make data-driven decisions

وأنه يمكننا الاعتماد عليهم لاتخاذ قرارات مبنية على البيانات

about individual lives.

عن حياة الفرد.

Because they can't profile humans.

إذ ليس باستطاعتهم توصيف البشر.

Data traces are not the mirror of who we are.

تتبع البيانات ليس مرآة لمن نحن.

Humans think one thing and say the opposite,

يفكر الإنسان بشيء ويقول العكس،

feel one way and act differently.

يشعر بطريقة ويتصرف بشكل مختلف.

Algorithmic predictions or our digital practices

التنبؤات الخوارزمية أو الأساليب الرقمية

cannot account for the unpredictability and complexity of human experience.

لا يمكن أن تفسر عدم إمكانية التنبؤ والتجربة الإنسانية المعقدة.

But on top of that,

إضافة إلى هذا،

these technologies are always --

هذه التقنيات دائماً -

always --

دائماً -

in one way or another, biased.

بطريقة أو بأخرى، منحازة.

You see, algorithms are by definition sets of rules or steps

الخوارزميات حسب التعريف مجموعات من القواعد أو الخطوات

that have been designed to achieve a specific result, OK?

تم تصميمها لتحقيق نتيجة محددة، أليس كذلك؟

But these sets of rules or steps cannot be objective,

لكن لا يمكن لهذه القواعد أو الخطوات أن تكون موضوعية،

because they've been designed by human beings

لأنه تم تصميمها بواسطة البشر

within a specific cultural context

ضمن سياق ثقافي محدد

and are shaped by specific cultural values.

وتتشكل بقيم ثقافية محددة.

So when machines learn,

لذا عندما تعمل الآلات،

they learn from biased algorithms,

تعمل من خوارزميات منحازة،

and they often learn from biased databases as well.

وغالبا ما يتعلمون من قواعد البيانات المتحيزة كذلك.

At the moment, we're seeing the first examples of algorithmic bias.

في الوقت الحالي، نحن نرى الأمثلة الأولية للتحيز الخوارزمي.

And some of these examples are frankly terrifying.

وبعض هذه الأمثلة صراحة مرعبة.

This year, the AI Now Institute in New York published a report

نشر معهد AI Now هذا العام في نيويورك تقريراً

that revealed that the AI technologies

كشف أن تقنيات الذكاء الصناعي

that are being used for predictive policing

التي يتم استخدامها للشرطة التنبؤية

have been trained on "dirty" data.

تم تغذيتها على بيانات "فاسدة".

This is basically data that had been gathered

تم جمع هذه البيانات في الأساس

during historical periods of known racial bias

خلال الفترات التاريخية من التحيز العنصري المعروف

and nontransparent police practices.

وممارسات الشرطة غير الشفافة.

Because these technologies are being trained with dirty data,

لأن هذه التقنيات يتم تغذيتها على بيانات فاسدة،

they're not objective,

فهم ليسوا موضوعيين،

and their outcomes are only amplifying and perpetrating

ونتائجها فقط تضخيم

police bias and error.

لتحيز الشرطة والخطأ.

So I think we are faced with a fundamental problem

لذلك أعتقد أننا نواجه مشكلة أساسية

in our society.

في مجتمعنا.

We are starting to trust technologies when it comes to profiling human beings.

بدأنا نثق في التقنيات عندما يتعلق الأمر بتوصيف البشر.

We know that in profiling humans,

نحن نعلم أنه في توصيف البشر،

these technologies are always going to be biased

هذه التقنيات دائماً منحازة

and are never really going to be accurate.

ولن تكون دقيقة أبداً.

So what we need now is actually political solution.

لذا ما نحتاجه الآن هو في الواقع حل سياسي.

We need governments to recognize that our data rights are our human rights.

نحتاج أن تعترف الحكومات أن حقوق البيانات الخاصة بنا هي حقوقنا الإنسانية.

(Applause and cheers)

(تصفيق وهتاف)

Until this happens, we cannot hope for a more just future.

حتى يحدث هذا، لا يمكننا أن نأمل في مستقبل أكثر عدلاً.

I worry that my daughters are going to be exposed

أخشى أن بناتي سوف يتعرضن

to all sorts of algorithmic discrimination and error.

لجميع أنواع خوارزميات التمييز والخطأ.

You see the difference between me and my daughters

ترون الفرق بيني وبين بناتي

is that there's no public record out there of my childhood.

هو أنه لا يوجد سجل عام لطفولتي.

There's certainly no database of all the stupid things that I've done

بالتأكيد لا توجد قاعدة بيانات لجميع الأشياء المتهورة التي قمت بها

and thought when I was a teenager.

وفكرت فيها عندما كنت مراهقة.

(Laughter)

(ضحك)

But for my daughters this may be different.

لكن هذا ربما مختلف لبناتي.

The data that is being collected from them today

البيانات التي يتم جمعها منهن اليوم

may be used to judge them in the future

يمكن استخدامها للحكم عليهن في المستقبل

and can come to prevent their hopes and dreams.

ويمكن أن تحول دون تحقيق آمالهن وأحلامهن.

I think that's it's time.

أعتقد أنه حان الوقت.

It's time that we all step up.

حان الوقت لكي نتحرك جميعاً.

It's time that we start working together

حان الوقت لنبدأ العمل معاً

as individuals,

كأفراد،

as organizations and as institutions,

كمنظمات وكمؤسسات،

and that we demand greater data justice for us

نطالب بقدر أكبر من عدالة البيانات لنا

and for our children

ولأطفالنا

before it's too late.

قبل فوات الأوان.

Thank you.

شكراً لكم.

(Applause)

(تصفيق)