What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Переводчик: Samara Zhumabaeva Редактор: Anna Zvereva

Every day, every week,

Каждый день, каждую неделю,

we agree to terms and conditions.

мы соглашаемся c положениями и условиями.

And when we do this,

Делая такой шаг,

we provide companies with the lawful right

мы предоставляем компаниям законное право

to do whatever they want with our data

делать всё, что они хотят с нашими данными

и данными наших детей.

and with the data of our children.

Which makes us wonder:

Что заставляет нас задуматься:

how much data are we giving away of children,

какое количество данных о детях мы предоставляем,

and what are its implications?

и какие последствия это за собой повлечёт?

I'm an anthropologist,

Я антрополог,

and I'm also the mother of two little girls.

а также мать двух маленьких девочек.

And I started to become interested in this question in 2015

В 2015 году я начала интересоваться этим вопросом

when I suddenly realized that there were vast --

и внезапно осознала, что существует огромное,

almost unimaginable amounts of data traces

почти невообразимое количество

that are being produced and collected about children.

собираемых о детях данных.

So I launched a research project,

Поэтому я запустила исследовательский проект

which is called Child Data Citizen,

под названием Child Data Citizen

and I aimed at filling in the blank.

и намерена заполнить эту пустоту.

Now you may think that I'm here to blame you

Возможно, вы подумаете, что я пришла сюда обвинять вас

for posting photos of your children on social media,

в публикации фотографий ваших детей в социальных сетях,

but that's not really the point.

но дело не в этом.

The problem is way bigger than so-called "sharenting."

Проблема намного шире, чем так называемое «делительство».

This is about systems, not individuals.

Она носит системный характер, а не индивидуальный.

You and your habits are not to blame.

Вы и ваши привычки не виноваты.

For the very first time in history,

Впервые в истории

we are tracking the individual data of children

мы отслеживаем личные данные детей

from long before they're born --

задолго до их рождения,

sometimes from the moment of conception,

иногда — с момента зачатия,

and then throughout their lives.

а в дальнейшем — на протяжении жизни.

You see, when parents decide to conceive,

Понимаете, когда родители решают зачать ребенка,

they go online to look for "ways to get pregnant,"

они идут в интернет, чтобы посмотреть «способы забеременеть»,

or they download ovulation-tracking apps.

или скачивают приложения для отслеживания овуляции.

When they do get pregnant,

Забеременев,

they post ultrasounds of their babies on social media,

они публикуют фото УЗИ своих детей в социальных сетях,

they download pregnancy apps

скачивают приложения для отслеживания беременности,

or they consult Dr. Google for all sorts of things,

или консультируются с доктором Гуглом по всем вопросам,

like, you know --

например таким:

for "miscarriage risk when flying"

«риск выкидыша при полёте»

or "abdominal cramps in early pregnancy."

или «спазмы в животе при беременности».

I know because I've done it --

Я знаю, сама прошла через это,

and many times.

и не раз.

And then, when the baby is born, they track every nap,

После рождения ребёнка, они отслеживают каждый его сон,

every feed,

каждое кормление,

every life event on different technologies.

каждое событие жизни, используя различные технологии.

And all of these technologies

И все эти технологии

transform the baby's most intimate behavioral and health data into profit

превращают личные данные о здоровье и поведении ребёнка в прибыль,

by sharing it with others.

когда ими делятся с другими.

So to give you an idea of how this works,

Проиллюстрирую, как это работает.

in 2019, the British Medical Journal published research that showed

В 2019 году Британский медицинский журнал

опубликовал исследование, показавшее,

that out of 24 mobile health apps,

что 19 из 24 мобильных приложений для здоровья

19 shared information with third parties.

поделились информацией с третьими сторонами.

And these third parties shared information with 216 other organizations.

И эти третьи стороны поделились ей

с ещё 216 организациями.

Of these 216 other fourth parties,

Из этих 216 организаций

only three belonged to the health sector.

только треть принадлежали к сектору здравоохранения.

The other companies that had access to that data were big tech companies

Другими компаниями, получившими доступ к данным,

были технологические гиганты

like Google, Facebook or Oracle,

вроде Google, Facebook или Oracle,

they were digital advertising companies

среди них были рекламные,

and there was also a consumer credit reporting agency.

а также кредитные агентства.

So you get it right:

Итак, вы поняли верно:

ad companies and credit agencies may already have data points on little babies.

рекламные и кредитные агентства,

возможно, уже владеют данными о детях.

But mobile apps, web searches and social media

Но мобильные приложения, поисковики и социальные сети

are really just the tip of the iceberg,

лишь верхушка айсберга,

because children are being tracked by multiple technologies

так как в повседневной жизни за детьми наблюдают многочисленные

in their everyday lives.

устройства и приложения.

They're tracked by home technologies and virtual assistants in their homes.

В домах деятельность детей отслеживают виртуальные помощники и бытовая техника.

They're tracked by educational platforms

В школах это делается при помощи

and educational technologies in their schools.

образовательных платформ и технологий.

They're tracked by online records

В кабинете врача их отслеживают

and online portals at their doctor's office.

по онлайн-записям и онлайн-порталам.

За ними следят при помощи их игрушек, подключённых к интернету,

They're tracked by their internet-connected toys,

their online games

онлайн-игр,

and many, many, many, many other technologies.

и множества других технологий.

So during my research,

За время исследования

a lot of parents came up to me and they were like, "So what?

ко мне обращались многие родители и спрашивали: «Ну и что?

Разве то, что мои дети отслеживаются, имеет какое-то значение?

Why does it matter if my children are being tracked?

We've got nothing to hide."

Нам скрывать нечего».

Well, it matters.

Да, это имеет значение.

It matters because today individuals are not only being tracked,

Это имеет значение, потому что сегодня за людьми не только следят,

they're also being profiled on the basis of their data traces.

но и анализируют их данные на основе оставленного ими информационного следа.

Artificial intelligence and predictive analytics are being used

Искусственный интеллект и прогнозная аналитика используются,

to harness as much data as possible of an individual life

чтобы собрать как можно больше данных о жизни человека

from different sources:

из разных источников:

family history, purchasing habits, social media comments.

семейной истории, покупательских привычек, комментариев в социальных сетях.

And then they bring this data together

А потом они объединяют эти данные,

to make data-driven decisions about the individual.

чтобы принимать решения на основе данных о личности.

And these technologies are used everywhere.

И эти технологии используются везде.

Banks use them to decide loans.

Банки используют их при выдаче кредита.

Insurance uses them to decide premiums.

Страховые компании — для определения размера страховых взносов.

Recruiters and employers use them

Рекрутеры и работодатели используют их,

to decide whether one is a good fit for a job or not.

чтобы решить, кто лучше подходит для работы.

Also the police and courts use them

Полиция и суды также применяют их,

to determine whether one is a potential criminal

чтобы определить, кто является потенциальным преступником

or is likely to recommit a crime.

или кто вновь совершит преступление.

We have no knowledge or control

Мы не знаем и не контролируем

over the ways in which those who buy, sell and process our data

способы, которыми те, кто покупают,

продают и обрабатывают наши данные,

are profiling us and our children.

составляют психологические профили наших детей и наши.

But these profiles can come to impact our rights in significant ways.

Но эти профили могут существенно повлиять на наши права.

To give you an example,

Например,

in 2018 the "New York Times" published the news

в 2018 году газета «Нью-Йорк Таймс» опубликовала новость о том,

that the data that had been gathered

что собранные с помощью онлайн-сервисов

through online college-planning services --

that are actually completed by millions of high school kids across the US

которые в США заполняются миллионами школьников

who are looking for a college program or a scholarship --

при поиске программы колледжа или стипендии,

had been sold to educational data brokers.

были проданы брокерам в сфере образовательных услуг.

Now, researchers at Fordham who studied educational data brokers

Исследователи из Фордхэма, изучавшие данные образовательных брокеров,

revealed that these companies profiled kids as young as two

раскрыли, как эти компании профилируют детей в возрасте всего двух лет

on the basis of different categories:

на основе разных категорий:

ethnicity, religion, affluence,

этнической принадлежности, религии, достатка,

social awkwardness

социальной неуверенности в себе

and many other random categories.

и многих других произвольно взятых категорий.

And then they sell these profiles together with the name of the kid,

А потом эти компании продают эти профили вместе с именем ребёнка,

their home address and the contact details

их домашним адресом и контактными данными

to different companies,

различным организациям,

including trade and career institutions,

включая торговые и карьерные учреждения,

банки, предоставляющие студенческие кредиты

student loans

and student credit card companies.

и компании, выпускающие кредитные карты для студентов.

To push the boundaries,

Чтобы расширить границы,

the researchers at Fordham asked an educational data broker

исследователи из Фордхэма попросили брокера образовательных данных

to provide them with a list of 14-to-15-year-old girls

предоставить им список девушек в возрасте 14–15 лет,

who were interested in family planning services.

интересовавшихся услугами по планированию семьи.

The data broker agreed to provide them the list.

И торговец данными согласился предоставить такой список.

So imagine how intimate and how intrusive that is for our kids.

А теперь представьте, насколько глубоко они внедрены в жизнь наших детей.

But educational data brokers are really just an example.

Но торговцы данными — лишь один из ста примеров.

The truth is that our children are being profiled in ways that we cannot control

Правда в том, что наши дети отслеживаются так, что мы не можем это контролировать,

but that can significantly impact their chances in life.

и это может значительно повлиять на их возможности в жизни.

So we need to ask ourselves:

Поэтому мы должны спросить самих себя:

can we trust these technologies when it comes to profiling our children?

можем ли мы доверять этим технологиям,

когда речь идёт об отслеживании наших детей?

Can we?

Можем ли?

My answer is no.

Мой ответ — нет.

As an anthropologist,

Как антрополог

I believe that artificial intelligence and predictive analytics can be great

я верю, что искуственный интеллект и прогнозная аналитика могут быть полезны

to predict the course of a disease

в предсказывании течения болезни

or to fight climate change.

или в борьбе с изменением климата.

But we need to abandon the belief

Но мы должны отказаться от убеждения,

that these technologies can objectively profile humans

что эти технологии могут составить объективный психологический профиль,

and that we can rely on them to make data-driven decisions

и мы не можем на них полагаться, чтобы принимать решения на основе данных

about individual lives.

об отдельных жизнях.

Because they can't profile humans.

Потому что они на это не способны.

Data traces are not the mirror of who we are.

Наш информационный след не являются отражением того, кто мы есть.

Humans think one thing and say the opposite,

Люди думают об одном, а говорят о другом,

feel one way and act differently.

чувствуют одно, а действуют по-другому.

Algorithmic predictions or our digital practices

Алгоритмические прогнозы или наша цифровая практика

cannot account for the unpredictability and complexity of human experience.

не могут объяснить непредсказуемость и сложность человеческого опыта.

But on top of that,

Но вдобавок ко всему,

these technologies are always --

эти технологии всегда,

always --

так или иначе,

in one way or another, biased.

необъективны.

You see, algorithms are by definition sets of rules or steps

Вы знаете, что алгоритмы по определению означают набор правил и шагов,

that have been designed to achieve a specific result, OK?

которые были разработаны для достижения определённого результата?

But these sets of rules or steps cannot be objective,

Но эти наборы правил и шагов не могут быть объективными,

because they've been designed by human beings

так как они были придуманы человеком

within a specific cultural context

в определённом культурном контексте

and are shaped by specific cultural values.

и сформированы определёнными культурными ценностями.

So when machines learn,

Итак, когда машины учатся,

they learn from biased algorithms,

они учатся как с помощью предвзятых алгоритмов,

and they often learn from biased databases as well.

так и на основе предвзято составленных баз данных.

At the moment, we're seeing the first examples of algorithmic bias.

Сегодня мы видим первые примеры алгоритмической предвзятости.

And some of these examples are frankly terrifying.

Некоторые из этих примеров просто ужасны.

This year, the AI Now Institute in New York published a report

В этом году организация AI Now Institute в Нью-Йорке опубликовала отчёт,

that revealed that the AI technologies

в котором говорится, что технологии ИИ,

that are being used for predictive policing

используемые для прогнозирования полицейской деятельности,

have been trained on "dirty" data.

были обучены на «грязных» данных.

This is basically data that had been gathered

В основном это данные, собранные

during historical periods of known racial bias

в течение исторических периодов, известных расовыми предрассудками

and nontransparent police practices.

и непрозрачными действиями полиции.

Because these technologies are being trained with dirty data,

Из-за того, что эти технологии разрабатывались на основе грязных данных,

they're not objective,

они необъективны,

and their outcomes are only amplifying and perpetrating

и их результаты только усиливают и дополняют

police bias and error.

необъективность и ошибки полиции.

So I think we are faced with a fundamental problem

Я думаю, мы столкнулись с фундаментальной проблемой

in our society.

нашего общества.

We are starting to trust technologies when it comes to profiling human beings.

Мы начинаем доверять технологиям, когда речь идёт о профилировании людей.

We know that in profiling humans,

Мы знаем, что при профилировании людей

these technologies are always going to be biased

эти технологии всегда будут предвзятыми

and are never really going to be accurate.

и никогда не будут точными.

So what we need now is actually political solution.

Поэтому нам сейчас нужно политическое решение данного вопроса.

We need governments to recognize that our data rights are our human rights.

Нам нужно, чтобы правительства признали,

что права на данные — наши права человека.

(Applause and cheers)

(Аплодисменты)

Until this happens, we cannot hope for a more just future.

Пока этого не произойдет, мы не можем надеяться на более справедливое будущее.

I worry that my daughters are going to be exposed

Я волнуюсь из-за того, что мои дочери будут подвергаться

to all sorts of algorithmic discrimination and error.

всевозможной алгоритмической дискриминации и ошибкам.

You see the difference between me and my daughters

Разница между мной и моими дочерями в том,

is that there's no public record out there of my childhood.

что нет публичных записей моего детства.

There's certainly no database of all the stupid things that I've done

Точно нет никакой базы данных обо всех глупостях, которые я совершила,

and thought when I was a teenager.

или о которых помышляла, когда была подростком.

(Laughter)

(Смех)

But for my daughters this may be different.

Но у моих дочерей всё может сложиться по-другому.

The data that is being collected from them today

Информация, собранная о них сегодня

may be used to judge them in the future

может быть использована для их оценки в будущем,

and can come to prevent their hopes and dreams.

и может помешать реализации их надежд и целей.

I think that's it's time.

Я думаю, время пришло.

Время, чтобы мы все сделали шаг вперед.

It's time that we all step up.

It's time that we start working together

Пришло время, чтобы мы начали работать вместе

as individuals,

как отдельные люди,

as organizations and as institutions,

как организации и как институты,

and that we demand greater data justice for us

мы требуем большей справедливости в отношении данных для нас

and for our children

и наших детей,

before it's too late.

пока не стало слишком поздно.

Thank you.

Благодарю вас.

(Applause)

(Аплодисменты)