What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

תרגום: מיכל סלמן

Every day, every week,

כל יום, כל שבוע,

we agree to terms and conditions.

אנו מסכימים לתנאים ולהגבלות.

And when we do this,

וכשאנחנו עושים זאת,

we provide companies with the lawful right

אנחנו מספקים לחברות את הזכות החוקית

to do whatever they want with our data

לעשות מה שהם רוצים עם הנתונים שלנו

and with the data of our children.

ועם הנתונים של ילדינו.

Which makes us wonder:

מה שגורם לנו לתהות:

how much data are we giving away of children,

כמה נתונים על ילדים אנו מוסרים,

and what are its implications?

ומה ההשלכות של כך?

I'm an anthropologist,

אני אנתרופולוגית,

and I'm also the mother of two little girls.

ואני גם אימא לשתי ילדות קטנות.

And I started to become interested in this question in 2015

והתחלתי להתעניין בשאלה זו בשנת 2015

when I suddenly realized that there were vast --

כשלפתע הבנתי שהיו כמויות עצומות

almost unimaginable amounts of data traces

כמויות כמעט בלתי נתפסות של עקבות נתונים

that are being produced and collected about children.

אשר מיוצרים ונאספים בקשר לילדים.

So I launched a research project,

אז השקתי פרויקט מחקר,

which is called Child Data Citizen,

בשם נתוני אזרח ילד,

and I aimed at filling in the blank.

וכיוונתי למלא את החסר.

Now you may think that I'm here to blame you

כעת אתם עשויים לחשוב שאני כאן כדי להאשים אתכם

for posting photos of your children on social media,

על כך שאתם מפרסמים תמונות של ילדיכם במדיה החברתית,

but that's not really the point.

אבל זה לא באמת העניין.

The problem is way bigger than so-called "sharenting."

הבעיה היא הרבה יותר גדולה ממה שמכונה "שיתוף יתר של הורים".

This is about systems, not individuals.

העניין כאן הוא מערכות, ולא יחידים.

You and your habits are not to blame.

אתם וההרגלים שלכם אינם אשמים.

For the very first time in history,

בפעם הראשונה בהיסטוריה,

we are tracking the individual data of children

אנו עוקבים אחר הנתונים האישיים של ילדים

from long before they're born --

הרבה לפני שהם נולדים,

sometimes from the moment of conception,

לפעמים מרגע ההתעברות,

and then throughout their lives.

ואז לאורך חייהם.

You see, when parents decide to conceive,

אתם מבינים, כשההורים מחליטים להרות,

they go online to look for "ways to get pregnant,"

הם נכנסים לאינטרנט לחפש אחר "דרכים להיכנס להריון"

or they download ovulation-tracking apps.

או שהם מורידים אפליקציות למעקב אחר ביוץ.

When they do get pregnant,

כשהם נכנסים להריון,

they post ultrasounds of their babies on social media,

הם מפרסמים את תוצאות האולטרסאונד של תינוקותיהם במדיה החברתית,

they download pregnancy apps

הם מורידים אפליקציות להריון

or they consult Dr. Google for all sorts of things,

או שהם מתייעצים עם ד"ר גוגל בכל מיני עניינים,

like, you know --

למשל, אתם יודעים -

for "miscarriage risk when flying"

לגבי "הסיכון להפיל בזמן טיסה"

or "abdominal cramps in early pregnancy."

או "התכווצויות בטן בתחילת ההיריון."

I know because I've done it --

אני יודעת כי אני עשיתי את זה -

and many times.

הרבה פעמים.

And then, when the baby is born, they track every nap,

ואז, כשהתינוק נולד, הם עוקבים אחר כל תנומה,

every feed,

כל האכלה,

every life event on different technologies.

כל אירוע בחיים על גבי טכנולוגיות שונות.

And all of these technologies

וכל הטכנולוגיות האלה

transform the baby's most intimate behavioral and health data into profit

הופכות את נתוני ההתנהגות והבריאות הכי אינטימיים של התינוק לרווח

by sharing it with others.

בכך שהן משתפות אותם עם אחרים.

So to give you an idea of how this works,

אז כדי לתת לכם מושג איך זה עובד,

in 2019, the British Medical Journal published research that showed

בשנת 2019, כתב העת הרפואי הבריטי פרסם מחקר שהראה

that out of 24 mobile health apps,

כי מתוך 24 אפליקציות בריאות לנייד,

19 shared information with third parties.

19 שיתפו את המידע עם צד שלישי.

And these third parties shared information with 216 other organizations.

ואלה שבצד שלישי שיתפו מידע עם 216 ארגונים אחרים.

Of these 216 other fourth parties,

מבין 216 אלה שהיוו צד רביעי,

only three belonged to the health sector.

רק שלושה היו שייכים לענף הבריאות.

The other companies that had access to that data were big tech companies

החברות האחרות שהייתה להן גישה לנתונים האלה היו חברות טכנולוגיה גדולות

like Google, Facebook or Oracle,

כמו גוגל, פייסבוק או אורקל,

they were digital advertising companies

הם היו חברות פרסום דיגיטלי

and there was also a consumer credit reporting agency.

וכן הייתה סוכנות לדיווח על אשראי צרכני.

So you get it right:

אז אתם מבינים את זה נכון:

ad companies and credit agencies may already have data points on little babies.

חברות פרסום וסוכנויות אשראי כבר עשויות להחזיק בחלקי נתונים על תינוקות קטנים.

But mobile apps, web searches and social media

אבל אפליקציות לנייד, חיפושים ברשת ומדיה חברתית

are really just the tip of the iceberg,

הם ממש רק קצה הקרחון,

because children are being tracked by multiple technologies

משום שמעקב אחר ילדים מתבצע דרך מספר טכנולוגיות

in their everyday lives.

בחיי היומיום שלהם.

They're tracked by home technologies and virtual assistants in their homes.

עוקבים אחריהם דרך טכנולוגיות ביתיות ועוזרים וירטואליים בבתיהם.

They're tracked by educational platforms

עוקבים אחריהם דרך פלטפורמות חינוכיות

and educational technologies in their schools.

וטכנולוגיות חינוכיות בבתי הספר שלהם.

They're tracked by online records

עוקבים אחריהם דרך רשומות מקוונות

and online portals at their doctor's office.

ופורטלים מקוונים במשרד הרופא שלהם.

They're tracked by their internet-connected toys,

עוקבים אחריהם דרך צעצועיהם המחוברים לאינטרנט,

their online games

המשחקים המקוונים שלהם

and many, many, many, many other technologies.

ועוד הרבה, הרבה, הרבה הרבה טכנולוגיות אחרות.

So during my research,

אז במהלך המחקר שלי,

a lot of parents came up to me and they were like, "So what?

הורים רבים ניגשו אלי והם אמרו משהו כמו, "אז מה?"

Why does it matter if my children are being tracked?

למה זה משנה אם עוקבים אחרי הילדים שלי?

We've got nothing to hide."

"אין לנו מה להסתיר".

Well, it matters.

ובכן, זה משנה.

It matters because today individuals are not only being tracked,

זה משנה כי היום אנשים לא רק נמצאים תחת מעקב,

they're also being profiled on the basis of their data traces.

הם גם מקבלים פרופיל בהתאם לעקבות הנתונים שלהם.

Artificial intelligence and predictive analytics are being used

בינה מלאכותית וניתוח תחזיות משמשים

to harness as much data as possible of an individual life

לרתום כמה שיותר נתונים מתוך חייו הפרטיים של אדם

from different sources:

ממקורות שונים:

family history, purchasing habits, social media comments.

היסטוריה משפחתית, הרגלי קנייה, הערות ברשתות החברתיות.

And then they bring this data together

ואז הם מחברים את הנתונים האלה

to make data-driven decisions about the individual.

במטרה לקבל החלטות מונחות נתונים על הפרט.

And these technologies are used everywhere.

והטכנולוגיות האלה מנוצלות בכל מקום.

Banks use them to decide loans.

בנקים משתמשים בהן כדי להחליט על הלוואות.

Insurance uses them to decide premiums.

חברות ביטוח משתמשות בהן כדי להחליט על פרמיות.

Recruiters and employers use them

מגייסים ומעסיקים משתמשים בהן

to decide whether one is a good fit for a job or not.

כדי להחליט אם אדם מתאים למשרה או לא.

Also the police and courts use them

גם המשטרה ובתי המשפט משתמשים בהן

to determine whether one is a potential criminal

כדי לקבוע אם אדם הוא עבריין פוטנציאלי

or is likely to recommit a crime.

או אם הוא עשוי לחזור לבצע פשע.

We have no knowledge or control

אין לנו שום ידע או שליטה

over the ways in which those who buy, sell and process our data

על הדרכים שבהן מי שקונה, מוכר ומעבד את הנתונים שלנו

are profiling us and our children.

יוצרים את הפרופיל שלנו ושל ילדינו.

But these profiles can come to impact our rights in significant ways.

אבל הפרופילים האלה יכולים להשפיע על זכויותינו בדרכים משמעותיות.

To give you an example,

לשם ההדגמה,

in 2018 the "New York Times" published the news

בשנת 2018 עיתון ה"ניו יורק טיימס" פרסם בחדשות

that the data that had been gathered

שהנתונים שנאספו

through online college-planning services --

דרך שירותי תכנון מכללות באינטרנט

that are actually completed by millions of high school kids across the US

שלמעשה ממולאים על ידי מיליונים של תלמידי תיכון ברחבי ארה"ב

who are looking for a college program or a scholarship --

שמחפשים תכנית לימודים במכללה או מלגה

had been sold to educational data brokers.

נמכרו למתווכים הסוחרים בנתונים חינוכיים.

Now, researchers at Fordham who studied educational data brokers

כעת, חוקרים בפורדהאם שחקרו תיווך נתונים חינוכיים

revealed that these companies profiled kids as young as two

חשפו כי חברות אלה ערכו פרופיל של ילדים בגיל שנתיים

on the basis of different categories:

על פי קטגוריות שונות:

ethnicity, religion, affluence,

אתניות, דת, מעמד כלכלי,

social awkwardness

אי נוחות חברתית,

and many other random categories.

ועוד קטגוריות אקראיות רבות אחרות.

And then they sell these profiles together with the name of the kid,

לאחר מכן הם מוכרים את הפרופילים האלה יחד עם שם הילד,

their home address and the contact details

כתובת הבית ופרטי ההתקשרות שלהם

to different companies,

לחברות שונות,

including trade and career institutions,

כולל מוסדות סחר וקריירה,

student loans

הלוואות סטודנטים

and student credit card companies.

וחברות כרטיסי אשראי לסטודנטים.

To push the boundaries,

במטרה לבדוק את הגבולות,

the researchers at Fordham asked an educational data broker

החוקרים בפורדהאם ביקשו ממתווך בנתונים חינוכיים

to provide them with a list of 14-to-15-year-old girls

לספק עבורם רשימה של נערות בנות 14- 15

who were interested in family planning services.

אשר הביעו התעניינות בשירותים לתכנון משפחה.

The data broker agreed to provide them the list.

מתווך הנתונים הסכים לספק להם את הרשימה.

So imagine how intimate and how intrusive that is for our kids.

אז תארו לכם כמה אינטימי וכמה פולשני הדבר עבור ילדינו.

But educational data brokers are really just an example.

אבל מתווכי נתונים חינוכיים הם באמת רק דוגמה.

The truth is that our children are being profiled in ways that we cannot control

האמת היא שפרופיל ילדינו נוצר בדרכים שאיננו יכולים לשלוט בהן

but that can significantly impact their chances in life.

אבל זה יכול להשפיע באופן משמעותי על ההזדמנויות שלהם בחיים.

So we need to ask ourselves:

לכן עלינו לשאול את עצמנו:

can we trust these technologies when it comes to profiling our children?

האם אנו יכולים לסמוך על הטכנולוגיות אלה כשמדובר ביצירת פרופיל לילדינו?

Can we?

האם אנחנו יכולים?

My answer is no.

התשובה שלי היא לא.

As an anthropologist,

כאנתרופולוגית,

I believe that artificial intelligence and predictive analytics can be great

אני מאמינה שבינה מלאכותית ותחזית נתונים יכולות להיות נהדרות

to predict the course of a disease

לחזות את מהלכה של מחלה

or to fight climate change.

או להילחם בשינויי אקלים.

But we need to abandon the belief

אבל עלינו לנטוש את האמונה

that these technologies can objectively profile humans

כי הטכנולוגיות האלה מסוגלות ליצור פרופיל אנושי באופן אובייקטיבי

and that we can rely on them to make data-driven decisions

ושאנחנו יכולים לסמוך עליהן בקבלת החלטות מונחות נתונים

about individual lives.

כשמדובר בחיי אדם.

Because they can't profile humans.

מכיוון שהן אינן מסוגלות ליצור פרופיל של אדם.

Data traces are not the mirror of who we are.

עקבות נתונים אינן השתקפות של מי שאנחנו.

Humans think one thing and say the opposite,

בני אדם חושבים דבר אחד ואומרים את ההיפך,

feel one way and act differently.

מרגישים באופן מסוים ופועלים אחרת.

Algorithmic predictions or our digital practices

התחזיות האלגוריתמיות או הפרקטיקות הדיגיטליות שלנו

cannot account for the unpredictability and complexity of human experience.

אינן מסוגלות לחזות את החוויה האנושית המורכבת והבלתי צפויה.

But on top of that,

בנוסף לכך,

these technologies are always --

הטכנולוגיות האלה הן תמיד

always --

תמיד

in one way or another, biased.

בדרך זו או אחרת, מוטות.

You see, algorithms are by definition sets of rules or steps

אתם מבינים, האלגוריתמים הם בהגדרה אוסף של כללים או שלבים

that have been designed to achieve a specific result, OK?

שתוכננו על מנת להשיג תוצאה ספציפית, בסדר?

But these sets of rules or steps cannot be objective,

אך אוסף זה של כללים או שלבים אינו יכול להיות אובייקטיבי,

because they've been designed by human beings

כי הוא עוצב על ידי בני אדם

within a specific cultural context

בהקשר תרבותי ספציפי

and are shaped by specific cultural values.

והוא מעוצב על פי ערכים תרבותיים ספציפיים.

So when machines learn,

אז כשמכונות לומדות,

they learn from biased algorithms,

הן לומדות מאלגוריתמים מוטים,

and they often learn from biased databases as well.

ולעתים קרובות הן גם לומדות ממאגרי נתונים מוטים.

At the moment, we're seeing the first examples of algorithmic bias.

כרגע אנחנו רואים את הדוגמאות הראשונות להטיה אלגוריתמית.

And some of these examples are frankly terrifying.

וכמה מהדוגמאות האלה ללא ספק מעוררות אימה.

This year, the AI Now Institute in New York published a report

השנה מכון AI Now בניו יורק פרסם דו"ח

that revealed that the AI technologies

שגילה כי טכנולוגיות בינה מלאכותית

that are being used for predictive policing

הנמצאות בשימוש השיטור המנבא

have been trained on "dirty" data.

הוכשרו באמצעות נתונים "מזוהמים".

This is basically data that had been gathered

אלו בעצם נתונים אשר נאספו

during historical periods of known racial bias

במהלך תקופות היסטוריות הידועות בהטייתן הגזעית

and nontransparent police practices.

ושיטות עבודה לא שקופות של המשטרה.

Because these technologies are being trained with dirty data,

מכיוון שטכנולוגיות אלה מאומנות בעזרת נתונים מזוהמים,

they're not objective,

הן אינן אובייקטיביות,

and their outcomes are only amplifying and perpetrating

והתוצאות שלהן רק מעצימות ומובילות

police bias and error.

להטיה ולטעויות של המשטרה.

So I think we are faced with a fundamental problem

אז אני חושבת שאנו עומדים מול בעיה עקרונית

in our society.

בחברה שלנו.

We are starting to trust technologies when it comes to profiling human beings.

אנו מתחילים לסמוך על טכנולוגיות כשמדובר ביצירת פרופיל של בני אדם.

We know that in profiling humans,

אנו יודעים שבניסיון ליצור פרופיל של אדם,

these technologies are always going to be biased

הטכנולוגיות האלה תמיד יהיו מוטות

and are never really going to be accurate.

ולעולם לא יהיו מדויקות באמת.

So what we need now is actually political solution.

אז מה שאנחנו צריכים עכשיו הוא למעשה פתרון פוליטי.

We need governments to recognize that our data rights are our human rights.

אנחנו צריכים שממשלות יכירו בכך שזכויות הנתונים שלנו הן זכויות האדם שלנו.

(Applause and cheers)

(מחיאות כפיים וצהלות)

Until this happens, we cannot hope for a more just future.

עד שזה יקרה, איננו יכולים לצפות לעתיד צודק יותר.

I worry that my daughters are going to be exposed

אני דואגת שבנותיי יהיו חשופות

to all sorts of algorithmic discrimination and error.

לכל מיני אפליות וטעויות אלגוריתמיות.

You see the difference between me and my daughters

תבינו, ההבדל ביני לבין בנותיי

is that there's no public record out there of my childhood.

הוא שאין רשומה ציבורית שם בחוץ על תקופת הילדות שלי.

There's certainly no database of all the stupid things that I've done

כמובן שאין מסד נתונים על כל הדברים המטופשים שעשיתי

and thought when I was a teenager.

וחשבתי כשהייתי נערה.

(Laughter)

(צחוק)

But for my daughters this may be different.

אבל עבור בנותיי זה עשוי להיות שונה.

The data that is being collected from them today

הנתונים שנאספים עליהן היום

may be used to judge them in the future

עלולים לשמש אמצעי לשפוט אותן בעתיד

and can come to prevent their hopes and dreams.

ויכולים למנוע את התקוות ואת החלומות שלהן.

I think that's it's time.

אני חושבת שהגיע הזמן.

It's time that we all step up.

הגיע הזמן שכולנו ניקח חלק.

It's time that we start working together

הגיע הזמן שנתחיל לעבוד ביחד

as individuals,

כיחידים,

as organizations and as institutions,

כארגונים וכמוסדות,

and that we demand greater data justice for us

ושנדרוש צדק נתונים גדול יותר עבורנו

and for our children

ועבור ילדינו

before it's too late.

לפני שיהיה מאוחר מדיי.

Thank you.

תודה רבה.

(Applause)

(מחיאות כפיים)