What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

翻訳: Leslie Gauthier 校正: Eriko Tsukamoto

毎日 毎週

私たちは利用規約に同意します

これを行うと

企業に対して合法的な権利を提供します

Every day, every week,

それによって 私たちやその子供のデータについて

we agree to terms and conditions.

望むことなら 何をしても良いことになるのです

And when we do this,

we provide companies with the lawful right

私達は不思議に思います

to do whatever they want with our data

子供たちのデータを どれくらい漏らしてしまっているのか

and with the data of our children.

そして それは何を意味するのか

Which makes us wonder:

私は人類学者です

how much data are we giving away of children,

二人の幼い女の子の母親でもあります

and what are its implications?

私は 2015年に この疑問に興味を持ち始めました

I'm an anthropologist,

子供について生成されたり収集されたー

and I'm also the mother of two little girls.

ほとんど想像もできないほど膨大な量の

And I started to become interested in this question in 2015

データ追跡があるのに突然気付いたのです

when I suddenly realized that there were vast --

そこで研究プロジェクトを立ち上げました

almost unimaginable amounts of data traces

それは 「チャイルド データ シチズン」と呼ばれ

that are being produced and collected about children.

不明確なことを明らかにすることを目指しました

So I launched a research project,

あなたは自分の子供の写真を ソーシャルメディアに載せたことを

which is called Child Data Citizen,

私が責めるためにここにいると 思うかもしれませんが

and I aimed at filling in the blank.

実際のところ それが主旨ではありません

Now you may think that I'm here to blame you

子どもの写真をネットに流す よりも 遙かに大きな問題です

for posting photos of your children on social media,

これは個人ではなくシステムに関する事です

but that's not really the point.

The problem is way bigger than so-called "sharenting."

あなたとあなたの習慣のせいではありません

This is about systems, not individuals.

歴史上まさに初めて

生まれるずっと前から

You and your habits are not to blame.

子供たちの個人的なデータが追跡されています

時には妊娠の瞬間から

For the very first time in history,

そして人生を通して

we are tracking the individual data of children

いいですか 親が子づくりを決心するとき

from long before they're born --

二人はオンラインで「妊娠の方法」を 探しに行ったり

sometimes from the moment of conception,

and then throughout their lives.

排卵追跡アプリを ダウンロードしたりします

You see, when parents decide to conceive,

妊娠すると

they go online to look for "ways to get pregnant,"

胎児の超音波を ソーシャルメディアに投稿したり

or they download ovulation-tracking apps.

妊娠アプリをダウンロードしたり

Google先生にあらゆる事を 相談したりします

When they do get pregnant,

they post ultrasounds of their babies on social media,

例えば

「飛行時の流産の確率」とか

they download pregnancy apps

「妊娠初期の腹部の痙攣」とかです

or they consult Dr. Google for all sorts of things,

私も同じ事をしたので知っています

like, you know --

何度もしました

for "miscarriage risk when flying"

そして赤ちゃんが生まれると 企業は 全ての睡眠

or "abdominal cramps in early pregnancy."

全ての食事

I know because I've done it --

その他日常生活の全ての出来事を 様々な技術で追跡します

and many times.

そして これらの技術は全て

And then, when the baby is born, they track every nap,

赤ちゃんの最も詳細な行動と健康の データを 他者と共有することで

every feed,

every life event on different technologies.

それらのデータを利益に変えます

And all of these technologies

transform the baby's most intimate behavioral and health data into profit

これがどのように機能するかをお伝えするために

2019年英国医事ジャーナルは ある研究を発表しました

by sharing it with others.

24の携帯用健康アプリのうち

So to give you an idea of how this works,

in 2019, the British Medical Journal published research that showed

19のアプリが第三者と 情報を共有していました

that out of 24 mobile health apps,

そしてこれらの第三者は 216の他の組織と情報を共有していました

19 shared information with third parties.

これらの216の他の組織のうち

And these third parties shared information with 216 other organizations.

たった３つの組織だけが健康分野のものでした

そのデータを利用した他の会社は 大きなハイテク企業でした

Of these 216 other fourth parties,

グーグル フェイスブック オラクル などのように

only three belonged to the health sector.

The other companies that had access to that data were big tech companies

それらは デジタル広告会社でした

そして消費者信用調査機関もいました

like Google, Facebook or Oracle,

もうお分かりでしょう

they were digital advertising companies

広告会社と信用機関は小さな赤ちゃんの データポイントをすでに持っています

and there was also a consumer credit reporting agency.

しかし 携帯用アプリや ウェブ検索 ソーシャルメディアは

So you get it right:

ad companies and credit agencies may already have data points on little babies.

氷山の一角でしかありません

子供たちは 多様な技術によって 毎日の生活を

But mobile apps, web searches and social media

追跡されているからです

are really just the tip of the iceberg,

子供たちは 家の中で家庭用技術や 仮想助手によって追跡されています

because children are being tracked by multiple technologies

子供たちは 学校では教育プラットフォームと

in their everyday lives.

教育用の技術によって追跡されています

They're tracked by home technologies and virtual assistants in their homes.

医療機関のオンライン記録と

オンラインポータルによって 追跡されています

They're tracked by educational platforms

子供たちは インターネットに接続された玩具や

and educational technologies in their schools.

オンラインゲーム

非常に多くの他の技術によって追跡されます

They're tracked by online records

and online portals at their doctor's office.

そういうわけで 私の研究中に

They're tracked by their internet-connected toys,

多くの親たちが来て言うには こんな調子です 「それがどうしたんですか？

their online games

and many, many, many, many other technologies.

何故 私たちの子供の情報が 追跡されると 問題なんですか？

So during my research,

a lot of parents came up to me and they were like, "So what?

私たちに隠すべき事はありません」

ですが これは問題なんです

Why does it matter if my children are being tracked?

今日において 個人は 追跡されているだけではなく

We've got nothing to hide."

Well, it matters.

データ追跡に基づいて人物像を プロファイリングされているから問題なのです

It matters because today individuals are not only being tracked,

人工知能と予測分析が

様々な情報源から可能な限りの 個人の生活のデータを利用するために

they're also being profiled on the basis of their data traces.

使われています

Artificial intelligence and predictive analytics are being used

家族歴 購買習慣 ソーシャルメディアのコメントなど

to harness as much data as possible of an individual life

そしてこのデータをまとめて

from different sources:

その個人についてデータ本位で決定します

family history, purchasing habits, social media comments.

そして こうした技術は どんな分野でも使われています

And then they bring this data together

銀行は ローンの決定に使います

to make data-driven decisions about the individual.

保険は 保険料の決定に使います

And these technologies are used everywhere.

採用担当者と雇用主は

Banks use them to decide loans.

その人がその仕事に適しているかどうか 決定するのに使います

Insurance uses them to decide premiums.

また 警察と裁判所は ある人が

Recruiters and employers use them

潜在的な犯罪者かどうか

to decide whether one is a good fit for a job or not.

あるいは 再犯しそうかどうか 判断するのに使います

Also the police and courts use them

to determine whether one is a potential criminal

データを購入 販売 処理する人たちが

or is likely to recommit a crime.

私たちや子供の人物像を特定する方法について

私たちは知らず 管理もしていません

We have no knowledge or control

しかし これらの特定された人物像は 私たちの権利に大いに影響を与えます

over the ways in which those who buy, sell and process our data

are profiling us and our children.

例をあげましょう

But these profiles can come to impact our rights in significant ways.

2018年『ニューヨークタイムス』は ある記事を出しました

To give you an example,

オンラインの大学進学準備サービスを通じて

オンラインの大学進学準備サービスを通じて

in 2018 the "New York Times" published the news

大学のプログラムや奨学金を探す 全米の何百万人もの高校生が

that the data that had been gathered

through online college-planning services --

実際に回答することにより 収集されたデータが

that are actually completed by millions of high school kids across the US

教育データ仲買人に 売り渡されていました

who are looking for a college program or a scholarship --

今や 教育データ仲買人を研究していた フォーダム大学の附属研究機関の研究者たちは

had been sold to educational data brokers.

これらの企業が様々な分類に基づいて わずか２歳の子供たちを

Now, researchers at Fordham who studied educational data brokers

特定していた事を明らかにしました

revealed that these companies profiled kids as young as two

民族性や宗教 金銭的豊かさ

社会的不適応

on the basis of different categories:

その他多くの不特定多数の分類です

ethnicity, religion, affluence,

次に これらの個人情報を その子の名前や

social awkwardness

and many other random categories.

自宅の住所 詳細な連絡先とともに

And then they sell these profiles together with the name of the kid,

様々な会社に販売します

そうした会社には 商業及び職業訓練機関

their home address and the contact details

学生ローン会社

学生クレジットカード会社を含みます

to different companies,

including trade and career institutions,

境界を広げるために

フォーダム大の研究者たちは 教育データ仲買人に

student loans

and student credit card companies.

家族計画サービスに興味がある 14歳から15歳の女子のリストを

To push the boundaries,

the researchers at Fordham asked an educational data broker

提供するよう求めました

to provide them with a list of 14-to-15-year-old girls

そのデータ仲買人はリストを 提供することに同意しました

そのデータが子供たちにとってどれほど 私的で立ち入ったものかを想像してください

who were interested in family planning services.

The data broker agreed to provide them the list.

しかし教育データ仲買人はほんの一例です

So imagine how intimate and how intrusive that is for our kids.

真実は 子供たちの人物像の特定が 私たちに管理できない一方で

But educational data brokers are really just an example.

人生の機会に大きな影響を 与えうる方法で なされているということです

The truth is that our children are being profiled in ways that we cannot control

ですから 私たちは 自らに問い掛ける必要があります

but that can significantly impact their chances in life.

子供たちの人物特定に関して 私たちは これらの技術を信頼できるだろうか？

So we need to ask ourselves:

どうでしょうか？

can we trust these technologies when it comes to profiling our children?

私の答えは「いいえ」です

１人の人類学者として

人工知能や予知分析は

Can we?

病気の経過を予測したり

My answer is no.

気候変動と戦うために 素晴らしい力を持ちうると信じています

As an anthropologist,

I believe that artificial intelligence and predictive analytics can be great

しかしこれらの技術が

客観的に人物像を特定したり 個人の人生において

to predict the course of a disease

or to fight climate change.

データ本位の決定を下す際に 頼ったりすることができるという考えは

But we need to abandon the belief

捨てる必要があります

that these technologies can objectively profile humans

そうした技術は 人間を描き出せないからです

データ追跡は私たちが 何者であるかを示す鏡ではありません

and that we can rely on them to make data-driven decisions

人間は あることを考えた時 それと反対のことを言うことがあります

about individual lives.

Because they can't profile humans.

感じ方とは異なる行動をとることがあります

アルゴリズムによる予測や デジタルによる実践は

Data traces are not the mirror of who we are.

人間の経験の予測不可能性 複雑さについては説明できません

Humans think one thing and say the opposite,

feel one way and act differently.

Algorithmic predictions or our digital practices

しかし 何よりも

cannot account for the unpredictability and complexity of human experience.

これらの技術は 常に

常に

何らか 偏っています

But on top of that,

アルゴリズムは 特定の成果を得るために設計された

these technologies are always --

always --

決まりや手順のまとまりに拠っています そうですよね？

in one way or another, biased.

You see, algorithms are by definition sets of rules or steps

しかしこうした決まりや手順のまとまりは 客観的であり得ません

特定の文化的背景の中で

that have been designed to achieve a specific result, OK?

人間が設計したものだからです

そして 特定の文化的価値観で 形作られているからです

But these sets of rules or steps cannot be objective,

つまり 機械が学習するとき

because they've been designed by human beings

偏った考えによるアルゴリズムから学びます

within a specific cultural context

and are shaped by specific cultural values.

また 偏った考えによる データベースからも学びます

So when machines learn,

正に今 私たちはアルゴリズムによる偏見の 最初の例を目撃しています

they learn from biased algorithms,

and they often learn from biased databases as well.

そしてこれらの例のいくつかは 率直に言って恐ろしいものです

At the moment, we're seeing the first examples of algorithmic bias.

今年 ニューヨークのAI Now Instituteが ある報告書を公表しました

And some of these examples are frankly terrifying.

これによると

予測警察活動に使われているAI技術は

This year, the AI Now Institute in New York published a report

「汚れた」データについて訓練されていたことが 明らかになりました

that revealed that the AI technologies

これらは 基本的に

that are being used for predictive policing

人種的な偏見と不透明な 警察の活動で 知られている時代に

have been trained on "dirty" data.

収集されたデータです

This is basically data that had been gathered

これらの技術は 汚れたデータで 訓練されているので

during historical periods of known racial bias

客観的ではありません

and nontransparent police practices.

そしてそれらが導き出す答えは 警察の偏見と過ちを

Because these technologies are being trained with dirty data,

誇張し 犯すものです

they're not objective,

and their outcomes are only amplifying and perpetrating

私たちは社会の根本的な問題に

直面していると思います

police bias and error.

私たちは人間の人物特定に関し 技術を信頼し始めています

So I think we are faced with a fundamental problem

私たちは 人物特定において

in our society.

これらの技術は常に偏ることを 知っています

We are starting to trust technologies when it comes to profiling human beings.

正確になる事は現実的には 決してないことを知っています

We know that in profiling humans,

私たちに今必要なことは 実際的な政治的解決です

these technologies are always going to be biased

データの権利が私たちの人権であることを 政府が認識する必要があります

and are never really going to be accurate.

So what we need now is actually political solution.

（拍手と歓声）

We need governments to recognize that our data rights are our human rights.

これが実現するまでは 私たちはより公正な未来を期待できません

(Applause and cheers)

あらゆる種類のアルゴリズムによる偏見と誤りに

Until this happens, we cannot hope for a more just future.

私の娘たちがさらされることを心配しています

私と娘たちの違いは

I worry that my daughters are going to be exposed

私が子供の頃には誰からも分かるところに 公開された記録がなかったことです

to all sorts of algorithmic discrimination and error.

10代の頃の 全ての馬鹿げた行いや考え についてのデータベースは

You see the difference between me and my daughters

間違いなく存在しません

is that there's no public record out there of my childhood.

（笑）

There's certainly no database of all the stupid things that I've done

しかし 私の娘たちにとっては 異なるかもしれません

and thought when I was a teenager.

今日収集された彼女たちのデータは

(Laughter)

将来 彼女たちを評価するために 使われるかもしれません

But for my daughters this may be different.

そして 彼女たちの希望や夢を 妨げることになり得るでしょう

The data that is being collected from them today

時が来ていると思います

may be used to judge them in the future

私たちが皆で取り組む時です

私たちが一緒に取り組み始める時です

and can come to prevent their hopes and dreams.

個人として

組織や機関として 取り組み始める時です

I think that's it's time.

自分たち自身 そして子供たちのために

It's time that we all step up.

It's time that we start working together

より優れたデータの公正性を 求める時です

as individuals,

手遅れになる前に 動くのです

as organizations and as institutions,

ありがとうございます

（拍手）

and that we demand greater data justice for us

and for our children

before it's too late.

Thank you.

(Applause)