What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

번역: soojin Lim 검토: NaYeun Kim

Every day, every week,

매일, 매주

we agree to terms and conditions.

우리는 이용약관에 동의합니다.

And when we do this,

우리는 이 행위를 함으로써

we provide companies with the lawful right

기업에게 법적 권한을 부여하게 됩니다.

to do whatever they want with our data

우리 정보를 맘대로 사용할 권한이죠.

and with the data of our children.

우리 아이들의 정보도 포함해서요.

Which makes us wonder:

그럼 우리는 이런 생각을 하게 되죠.

how much data are we giving away of children,

나는 아이들에 대한 정보를 얼마만큼이나 제공하고 있으며

and what are its implications?

그로 인한 결과는 무엇일까?

I'm an anthropologist,

저는 인류학자이자

and I'm also the mother of two little girls.

동시에 두 여자아이의 엄마입니다.

And I started to become interested in this question in 2015

제가 이 질문에 관해 관심을 두기 시작한 건 2015년 즈음이었습니다.

when I suddenly realized that there were vast --

그 정보의 양이 엄청나다는 걸 불현듯 깨달았거든요.

almost unimaginable amounts of data traces

상상하기 힘들 정도로 많은 정보 추적을 통해서

that are being produced and collected about children.

아이들에 대한 정보가 수집되고 있었습니다.

So I launched a research project,

그래서 저는 '아동 정보 시민'이라는 연구 프로젝트를 시작하였고

which is called Child Data Citizen,

and I aimed at filling in the blank.

이 문제를 풀고자 했습니다.

Now you may think that I'm here to blame you

제가 이 자리에 선 이유가

SNS에 아이 사진을 올리는 걸 비난하기 위한 거라고 생각하실 텐데요.

for posting photos of your children on social media,

but that's not really the point.

하지만 문제는 그게 아닙니다.

The problem is way bigger than so-called "sharenting."

소위 말하는 '육아 블로그' 보다 훨씬 더 큰 문제입니다.

This is about systems, not individuals.

문제는 개인이 아니라 시스템에 관한 거예요.

You and your habits are not to blame.

비난받아야 할 것은 여러분과 여러분의 습관이 아닙니다.

For the very first time in history,

역사상 처음으로

we are tracking the individual data of children

아이들의 개인 정보가 추적되고 있습니다.

from long before they're born --

아이가 태어나기도 전부터요.

sometimes from the moment of conception,

어떨 땐 임신을 한 순간부터

and then throughout their lives.

그 아이들의 생애에 걸쳐서요.

You see, when parents decide to conceive,

부모들은 임신을 결정한 순간부터

they go online to look for "ways to get pregnant,"

인터넷에 임신하는 법을 검색하거나

or they download ovulation-tracking apps.

배란기를 알려주는 앱을 내려받습니다.

When they do get pregnant,

그리고 실제로 임신했을 땐

they post ultrasounds of their babies on social media,

아이의 초음파 사진을 SNS에 올리고

they download pregnancy apps

임신 관련 앱을 내려받거나

or they consult Dr. Google for all sorts of things,

구글에 이런저런 증상들을 검색하죠.

like, you know --

예를 들면

for "miscarriage risk when flying"

비행기 여행 시의 유산 가능성이나

or "abdominal cramps in early pregnancy."

혹은 임신 초기 복통 같은 것이죠.

I know because I've done it --

저도 많이 해봤기 때문에 잘 압니다.

and many times.

And then, when the baby is born, they track every nap,

그리고 아이가 태어나면

아이의 모든 낮잠과 식사, 아이의 일거수일투족을

every feed,

every life event on different technologies.

온갖 기술로 추적합니다.

And all of these technologies

그리고 이 기술들은

transform the baby's most intimate behavioral and health data into profit

아이의 가장 사적인 행동과 건강 정보를 다른 사람들에게 제공함으로써

by sharing it with others.

이익을 창출합니다.

So to give you an idea of how this works,

이게 어떻게 일어나는지 알려드릴게요.

in 2019, the British Medical Journal published research that showed

2019년, 영국 의학 학술지가 발표한 자료에서는

that out of 24 mobile health apps,

24개의 모바일 건강 앱을 조사한 결과

19 shared information with third parties.

19개가 제3자에게 정보를 제공했다고 밝혔습니다.

And these third parties shared information with 216 other organizations.

그 제3자들은 다시 216개의 다른 업체에 정보를 제공했죠.

Of these 216 other fourth parties,

그런데 216개의 제4자 기관들 중에서

only three belonged to the health sector.

오직 3개의 기관만이 건강과 관련된 곳이었습니다.

The other companies that had access to that data were big tech companies

그 정보를 가져간 기업에는 대형 IT 기업인

like Google, Facebook or Oracle,

구글, 페이스북 그리고 오라클이 포함되어 있었습니다.

they were digital advertising companies

디지털 광고 회사들도 있었고

and there was also a consumer credit reporting agency.

심지어 소비자 신용 평가 기관도 있었습니다.

So you get it right:

그러니까 여러분 생각이 맞아요.

ad companies and credit agencies may already have data points on little babies.

광고 회사와 신용평가사는 이미 아이들의 정보를 갖고 있을 것입니다.

But mobile apps, web searches and social media

모바일 앱, 검색 사이트, SNS는

are really just the tip of the iceberg,

그저 빙산의 일각일 뿐이죠.

because children are being tracked by multiple technologies

왜냐하면 아이들은 매일같이 다수의 기술에 의해

in their everyday lives.

추적당하고 있기 때문입니다.

They're tracked by home technologies and virtual assistants in their homes.

아이들은 집에서 사용하는 기술과 가상의 도우미들에 의해 추적당합니다.

They're tracked by educational platforms

학교의 교육 기반과 교육 기술로도 추적을 당하고 있어요.

and educational technologies in their schools.

They're tracked by online records

병원의 온라인상 기록과 병원 포털로도 추적당합니다.

and online portals at their doctor's office.

They're tracked by their internet-connected toys,

인터넷과 연결된 장난감과

their online games

온라인 게임 외에도

and many, many, many, many other technologies.

정말 정말 많은 기술로 추적 당합니다.

So during my research,

제가 연구하는 동안 부모님의 반응들은 대개 이랬어요.

a lot of parents came up to me and they were like, "So what?

"그래서 뭐 어쩌라고요?

Why does it matter if my children are being tracked?

우리 아이들이 추적당하는 게 왜 그리 문제가 되는 건가요?

We've got nothing to hide."

별로 숨길 것도 없어요."

Well, it matters.

음, 문제가 됩니다.

It matters because today individuals are not only being tracked,

왜냐하면 오늘날의 개개인은 그저 추적만 당하는 것이 아니라

they're also being profiled on the basis of their data traces.

추적당한 정보에 기초하여 분석되고 있기 때문입니다.

Artificial intelligence and predictive analytics are being used

인공지능과 예측 분석을 이용해서

to harness as much data as possible of an individual life

개인의 일생에 관한 정보를 최대한 끌어 모으고 있죠.

from different sources:

온갖 경로를 통해서요.

family history, purchasing habits, social media comments.

가족 이력, 소비 습관, 그리고 SNS 댓글들.

And then they bring this data together

기업들은 이 정보들을 모아

to make data-driven decisions about the individual.

그 정보에 기반하여 개인을 판단합니다.

And these technologies are used everywhere.

이 기술들은 우리의 일상 모든 곳에서 사용되고 있습니다.

Banks use them to decide loans.

은행이 대출액을 결정할 때 사용하고

Insurance uses them to decide premiums.

보험회사에서는 보험료 결정에 사용하죠.

Recruiters and employers use them

고용주들은 그걸 이용해서

to decide whether one is a good fit for a job or not.

입사 지원자가 일에 적합한 사람인지 판단합니다.

Also the police and courts use them

또한 경찰과 법원에서는 이를 이용해서

to determine whether one is a potential criminal

이 사람이 잠재적인 범죄자인지

or is likely to recommit a crime.

혹은 또다시 범행을 저지를지 판단하죠.

We have no knowledge or control

우리는 이에 대한 어떠한 지식도 없고

그런 기업에 대한 통제력도 없습니다.

over the ways in which those who buy, sell and process our data

우리와 아이들에 대한 정보가 거래되고 사용되는 과정을 막을 수 없습니다.

are profiling us and our children.

But these profiles can come to impact our rights in significant ways.

하지만 이 정보들은 우리 권리에 큰 영향을 끼칩니다.

To give you an example,

예를 들어 볼게요.

in 2018 the "New York Times" published the news

2018년 뉴욕타임스에 실린 기사가 있는데요.

that the data that had been gathered

대입 정보 온라인 서비스로 이용자 정보가 수집되었고

through online college-planning services --

that are actually completed by millions of high school kids across the US

미국 전역의 그야말로 수만 명의 고등학생들의

who are looking for a college program or a scholarship --

대학 교육 프로그램 또는 장학금을 조회한 정보들이

had been sold to educational data brokers.

교육 자료 중개인에게 팔렸다는 내용이었습니다.

Now, researchers at Fordham who studied educational data brokers

교육 자료 중개인에 대해 연구하던 포드햄대학교의 연구원들은

revealed that these companies profiled kids as young as two

이들 기업은 적게는 두 살 아이들 정보까지도 수집했다고 밝혔습니다.

on the basis of different categories:

여러 항목으로 분류까지 해서 말이죠.

ethnicity, religion, affluence,

민족성, 종교, 소득수준

social awkwardness

사교성

and many other random categories.

그 외에도 다양한 항목으로 구분해서요.

And then they sell these profiles together with the name of the kid,

그리고 그들은 그 분석 자료들을

아이의 이름, 집 주소, 연락처 등의 세부 정보와 묶어서

their home address and the contact details

to different companies,

다른 기업들에 팔았습니다.

including trade and career institutions,

직업 및 경력 관리 기관을 포함해서

student loans

학자금 대출 기관

and student credit card companies.

학생 신용카드 회사에 팔렸죠.

To push the boundaries,

연구 범위를 넓히기 위해

the researchers at Fordham asked an educational data broker

포드햄대학교의 연구원들은 한 교육 자료 중개인에게 연락해서

to provide them with a list of 14-to-15-year-old girls

14살에서 15살 여자아이들 중에서

who were interested in family planning services.

가족 계획 서비스에 관심 있는 아이들 명단을 부탁했습니다.

The data broker agreed to provide them the list.

그 중개인은 명단을 줄 수 있다고 했죠.

So imagine how intimate and how intrusive that is for our kids.

이것이 우리 아이들의 사생활을 얼마나 침해하는 일인지 생각해보세요.

But educational data brokers are really just an example.

하지만 교육 자료 중개인들은 그저 단 하나의 예시일 뿐입니다.

The truth is that our children are being profiled in ways that we cannot control

문제는 우리가 통제할 수 없는 방식으로 아이들에 대한 정보가 분석되고 있고

but that can significantly impact their chances in life.

아이들이 살면서 얻게 될 기회에 그것이 큰 영향을 끼친다는 것이죠.

So we need to ask ourselves:

따라서 우리는 스스로에게 질문해야만 합니다.

can we trust these technologies when it comes to profiling our children?

우리 아이들을 분석하는 문제에 있어서 우리는 이 기술들을 믿어도 되는가?

Can we?

정말 그래도 되는 걸까?

My answer is no.

저의 대답은 '아니오' 입니다.

As an anthropologist,

인류학자로서 저는

I believe that artificial intelligence and predictive analytics can be great

인공지능과 예측 분석이 큰 도움이 될 거라고 믿습니다.

to predict the course of a disease

병의 진행을 예측하고

or to fight climate change.

기후 변화에 대비하는 문제에 있어서요.

But we need to abandon the belief

그러나 이러한 기술들이 객관적으로 인간을 분석할 거라 믿어선 안 됩니다.

that these technologies can objectively profile humans

and that we can rely on them to make data-driven decisions

그것으로 개인의 삶을 판단할 수 있다는 생각은 버려야 합니다.

about individual lives.

Because they can't profile humans.

왜냐하면 이것들은 인간을 분석할 수 없기 때문입니다.

Data traces are not the mirror of who we are.

정보의 흔적들은 우리가 누구인지를 보여주는 거울이 아닙니다.

Humans think one thing and say the opposite,

인간은 생각과 다른 말을 하고 느끼는 감정과 달리 행동합니다.

feel one way and act differently.

Algorithmic predictions or our digital practices

알고리즘 예측 혹은 디지털 관행은

cannot account for the unpredictability and complexity of human experience.

사람의 경험에 존재하는 비예측성과 복잡성까지 파악할 수 없어요.

But on top of that,

그뿐만 아니라

these technologies are always --

이러한 기술들은 언제나

always --

언제나

in one way or another, biased.

어떤 식으로든 편향되어 있다는 것입니다.

You see, algorithms are by definition sets of rules or steps

자, 알고리즘은 의미 자체가

특정한 결과를 달성하기 위해 설계된 규칙 혹은 단계의 집합입니다.

that have been designed to achieve a specific result, OK?

그렇죠?

But these sets of rules or steps cannot be objective,

하지만 이 규칙 혹은 단계의 집합은 객관적일 수가 없습니다.

because they've been designed by human beings

왜냐하면 이것은 인간이 설계했고

within a specific cultural context

그도 특정한 문화적 맥락 안에서 특정한 문화적 가치를 갖기 때문입니다.

and are shaped by specific cultural values.

So when machines learn,

따라서 기계들이 정보를 습득할 때

they learn from biased algorithms,

편향된 알고리즘에서 습득하게 되고

and they often learn from biased databases as well.

이로 인해 기계는 종종 편향된 자료의 정보를 습득하게 되는 것입니다.

At the moment, we're seeing the first examples of algorithmic bias.

바로 이 순간, 우린 편향된 알고리즘의 첫 번째 사례를 보고 있는 겁니다.

And some of these examples are frankly terrifying.

이 사례 중 몇 가지는 솔직히 굉장히 무섭습니다.

This year, the AI Now Institute in New York published a report

올해, 뉴욕의 AI Now가 발표한 보고서에 따르면

that revealed that the AI technologies

예측 치안 유지 활동에 사용된 인공지능 기술이

that are being used for predictive policing

have been trained on "dirty" data.

'더러운' 정보로 훈련되었다고 합니다.

This is basically data that had been gathered

이 정보들이 수집된 시기는

during historical periods of known racial bias

역사적으로 인종 편견이 심하고

and nontransparent police practices.

불투명한 경찰 관행이 난무하던 때였습니다.

Because these technologies are being trained with dirty data,

이러한 기술들은 더러운 정보들로 훈련된 것이기 때문에

they're not objective,

객관적이지 않습니다.

and their outcomes are only amplifying and perpetrating

이러한 정보로는

경찰에게 있어서 편견과 오류를 증폭시킬 뿐입니다.

police bias and error.

So I think we are faced with a fundamental problem

저는 현재 우리가

우리 사회의 근본적인 문제에 직면하고 있다고 생각합니다.

in our society.

We are starting to trust technologies when it comes to profiling human beings.

우리는 사람을 분석할 때 기술을 믿기 시작했습니다.

We know that in profiling humans,

하지만 우리도 알죠.

사람을 분석함에 있어서 이런 기술들은 늘 편향되어 있고

these technologies are always going to be biased

and are never really going to be accurate.

절대로 정확할 수 없다는 것을요.

So what we need now is actually political solution.

따라서 지금 정말로 필요한 건 정치적 해결책입니다.

We need governments to recognize that our data rights are our human rights.

정부도 이제 깨달아아야 합니다.

정보에 대한 우리의 권리가 곧 인권이라는 사실을요.

(Applause and cheers)

(박수와 환호)

Until this happens, we cannot hope for a more just future.

이것이 실현되기 전까지는

우리는 더 정당한 미래를 꿈꿀 수 없습니다.

I worry that my daughters are going to be exposed

저는 제 딸들이 알고리즘에 의한 차별과 오류에 노출될까봐 걱정됩니다.

to all sorts of algorithmic discrimination and error.

You see the difference between me and my daughters

저와 제 딸들의 차이점은

is that there's no public record out there of my childhood.

제 청소년기에 대한 공식적인 기록은 어디에도 남아있지 않다는 거죠.

There's certainly no database of all the stupid things that I've done

제가 십 대 시절 저지른 또는 저지를 뻔 한 온갖 바보 같은 일이

and thought when I was a teenager.

자료로 남아있진 않습니다.

(Laughter)

(웃음)

But for my daughters this may be different.

하지만 제 딸들의 경우 상황이 조금 다를 수 있습니다.

The data that is being collected from them today

현재 제 딸들로부터 수집되고 있는 정보들은

may be used to judge them in the future

미래에 그들을 판단하는 데 쓰일 수 있고

and can come to prevent their hopes and dreams.

그들의 희망과 꿈을 가로막을 수도 있습니다.

I think that's it's time.

이제 때가 온 것 같습니다.

It's time that we all step up.

이젠 앞으로 나아갈 때입니다.

It's time that we start working together

우리는 함께 노력해야 합니다.

as individuals,

개인으로서

as organizations and as institutions,

조직으로서 그리고 기관으로서

and that we demand greater data justice for us

더욱 나은 개인 정보의 정당성을 요구해야 합니다.

and for our children

우리와 우리 아이들을 위해서요.

before it's too late.

더 늦기 전에요.

Thank you.

감사합니다.

(Applause)

(박수)