How we can eliminate child sexual abuse material from the internet | Julie Cordua

翻訳: Tamami Inoue 校正: Yasushi Aoki

[This talk contains mature content]

［このトークは成人向けの内容です］

Five years ago,

５年前

I received a phone call that would change my life.

私の人生を変えることになる 電話がありました

I remember so vividly that day.

その時のことはハッキリと覚えています

It was about this time of year,

季節は今頃で

and I was sitting in my office.

私はオフィスで座っていました

I remember the sun streaming through the window.

窓から日が差し込んでいました

And my phone rang.

電話が鳴って

And I picked it up,

出てみると

and it was two federal agents, asking for my help

２人の連邦捜査官からでした

ネット上でたくさんの 児童性的虐待の画像を発見したので

in identifying a little girl

featured in hundreds of child sexual abuse images they had found online.

そこに出ている少女の 身元特定を手伝ってほしいというのです

They had just started working the case,

彼らは その事件に 着手したばかりで

but what they knew

分かっていたのは その少女への虐待の様子が

was that her abuse had been broadcast to the world for years

ダークウェブにある 児童性的虐待を専門とするサイトで

on dark web sites dedicated to the sexual abuse of children.

何年間も世界中に 配信されていたことだけでした

And her abuser was incredibly technologically sophisticated:

虐待の加害者は高度な技術を 持っていて

new images and new videos every few weeks,

数週間ごとに 新たな画像や動画が出るのに

but very few clues as to who she was

その少女が誰で どこにいるのか

手がかりが ほとんどつかめませんでした

or where she was.

And so they called us,

その連邦捜査官たちは

because they had heard we were a new nonprofit

我々が児童性的虐待と戦うための テクノロジーを開発する―

building technology to fight child sexual abuse.

新進の非営利団体だと聞いて 電話をかけてきたのです

But we were only two years old,

しかし 我々の団体は 出来てから まだ２年で

and we had only worked on child sex trafficking.

実績は児童の 性的人身売買だけだったので

And I had to tell them

我々には 何もできないと

告げねばなりませんでした

we had nothing.

We had nothing that could help them stop this abuse.

我々には この虐待を止めるために 協力できる術が なかったのです

It took those agents another year

捜査局が その少女を 見つけ出すのには

to ultimately find that child.

結局 それからさらに １年の歳月が かかりました

And by the time she was rescued,

少女が救出されるまでに

hundreds of images and videos documenting her rape had gone viral,

その子のレイプを収めた何百という 画像や動画が拡散されていました

from the dark web

ダークウェブから

to peer-to-peer networks, private chat rooms

ピアツーピア・ネットワークや プライベートチャットルーム

and to the websites you and I use

さらには 私や皆さんが 毎日 使っている

every single day.

ウェブサイトにまでもです

And today, as she struggles to recover,

現在も その少女は回復するのに 大変な思いをしています

she lives with the fact that thousands around the world

彼女は性的に虐待される姿を 世界中の人に見られ続けているという

continue to watch her abuse.

現実の中で生きているのです

I have come to learn in the last five years

私は この５年間で この事件が

that this case is far from unique.

特段 珍しくないことを知りました

How did we get here as a society?

この社会は なぜこんなことに なってしまったのでしょう？

In the late 1980s, child pornography --

1980年代後半 児童ポルノ―

or what it actually is, child sexual abuse material --

要は 児童性的虐待の 写真や映像ですが

was nearly eliminated.

それが消えかけたときがありました

New laws and increased prosecutions made it simply too risky

新しい法律と刑事起訴の増加により

郵便での取引が 危険すぎるようになったのです

to trade it through the mail.

And then came the internet, and the market exploded.

それから インターネットの台頭で 市場が爆発的に広がりました

The amount of content in circulation today

現在 出回っているコンテンツの数は

is massive and growing.

膨大であり 増加しています

This is a truly global problem,

これは 本当に世界的な問題ですが

but if we just look at the US:

アメリカだけを見ても

in the US alone last year,

昨年 アメリカだけで

more than 45 million images and videos of child sexual abuse material

4500万件の児童性的虐待の画像や動画が

were reported to the National Center for Missing and Exploited Children,

行方不明・被搾取児童センターへ 通報されました

and that is nearly double the amount the year prior.

これは 一昨年の約２倍になっています

And the details behind these numbers are hard to contemplate,

この数字の裏にある詳細は 直視に堪えません

with more than 60 percent of the images featuring children younger than 12,

画像の60％以上が 12歳以下の児童だと思われます

and most of them including extreme acts of sexual violence.

その大半が ひどい性暴力です

Abusers are cheered on in chat rooms dedicated to the abuse of children,

加害者は児童虐待専用の チャットルーム内で賞賛されます

where they gain rank and notoriety

そこでは 虐待をするほど 犠牲者が多いほど

with more abuse and more victims.

ランクが上がり 有名になるのです

In this market,

そんな市場の中で

the currency has become the content itself.

コンテンツそのものが 通貨になります

It's clear that abusers have been quick to leverage new technologies,

虐待加害者たちは 新しい技術を取り入れるのが早く

but our response as a society has not.

こちら側の対応が 遅れているのは明らかです

These abusers don't read user agreements of websites,

加害者はウェブサイトの 利用規約なんて読みはしません

and the content doesn't honor geographic boundaries.

そして コンテンツに 国境はありません

And they win when we look at one piece of the puzzle at a time,

個々の断片を一つずつ調べていたら 勝ち目はありませんが

which is exactly how our response today is designed.

現在の私たちの対応は まさに そんな感じなのです

Law enforcement works in one jurisdiction.

警察は管轄内でのみ動き

Companies look at just their platform.

企業は 自分たちの プラットフォームだけを見ます

And whatever data they learn along the way

そのようにして得たデータは どんなものであれ

is rarely shared.

ほとんど共有されません

It is so clear that this disconnected approach is not working.

こんな バラバラの取り組みでは 当然 効果が上がりません

We have to redesign our response to this epidemic

私たちはデジタル時代の 悪しき流行への対策を

for the digital age.

練り直さなくてはなりません

And that's exactly what we're doing at Thorn.

Thronの活動は まさにそれです

We're building the technology to connect these dots,

我々は組織同士を結び付けるための テクノロジーを開発しています

to arm everyone on the front lines --

児童性的虐待の画像や動画を

law enforcement, NGOs and companies --

インターネットから 消し去るのに必要なツールを

with the tools they need to ultimately eliminate

警察やNGOや企業などの 最前線で対応している人たちに

child sexual abuse material from the internet.

提供しようとしています

Let's talk for a minute --

お話ししたいのは―

(Applause)

（拍手）

Thank you.

どうも

(Applause)

（拍手）

Let's talk for a minute about what those dots are.

点を繋ぎ合わせる ということについてです

As you can imagine, this content is horrific.

そういうコンテンツが悲惨なのは 想像できますよね

If you don't have to look at it, you don't want to look at it.

見ずに済むなら 見たくないものです

And so, most companies or law enforcement agencies

ですから コンテンツを有する

企業の多くや 警察は

that have this content

can translate every file into a unique string of numbers.

個々のファイルを 固有の数字に変換します

This is called a "hash."

これを「ハッシュ」と呼びます

It's essentially a fingerprint

実質的には 個々のファイルや動画の

for each file or each video.

指紋のようなものです

And what this allows them to do is use the information in investigations

ハッシュにより いちいち 画像や動画の中身を確認しなくても

or for a company to remove the content from their platform,

その情報を捜査に利用したり

without having to relook at every image and every video each time.

企業がプラットフォームから コンテンツを削除したりできます

The problem today, though,

現在の問題は

is that there are hundreds of millions of these hashes

膨大な数のそういうハッシュが

sitting in siloed databases all around the world.

世界各地の独立したデータベースに 格納されていることです

In a silo,

それぞれのデータベースは

it might work for the one agency that has control over it,

それを管理する組織には 役立つでしょうが

but not connecting this data means we don't know how many are unique.

データベースが接続されていないと 固有のものがどれだけあるのかも

We don't know which ones represent children who have already been rescued

どの児童が救出済みで どの児童が身元確認中なのかも

or need to be identified still.

わからないのです

So our first, most basic premise is that all of this data

だから まず 基本的な前提として

全てのデータを つなげなければなりません

must be connected.

There are two ways where this data, combined with software on a global scale,

ソフトウェアによってデータを 世界的につなぎ合わせることで

can have transformative impact in this space.

大きな変化を生み出せる場所が ２つあります

The first is with law enforcement:

１つ目は警察です

helping them identify new victims faster,

警察が新たな犠牲者の 身元を迅速に特定し

stopping abuse

虐待を止めさせ

and stopping those producing this content.

コンテンツ制作を止めるのに 役立てられます

The second is with companies:

２つ目は企業です

using it as clues to identify the hundreds of millions of files

現在 出回っている膨大なファイルを 特定する手がかりとして

in circulation today,

ハッシュを使い

pulling it down

サイトから削除し

and then stopping the upload of new material before it ever goes viral.

新たなコンテンツのアップロードを 拡散前に阻止します

Four years ago,

４年前

when that case ended,

その事件が解決したとき

our team sat there, and we just felt this, um ...

我々のチームは座って ただ 強い挫折感を感じてました

... deep sense of failure, is the way I can put it,

そう感じずにいられませんでした

because we watched that whole year

なぜなら １年間 その少女を探している間

while they looked for her.

それを見ていたからです

And we saw every place in the investigation

捜査中の事件現場の様子を 全て見ました

where, if the technology would have existed,

しかるべきテクノロジーがあったなら

they would have found her faster.

その少女は もっと早く 見つかったでしょう

And so we walked away from that

そこが我々の出発点です

and we went and we did the only thing we knew how to do:

自分たちにできる唯一のことを することにしました

we began to build software.

ソフトフェアの開発に着手したのです

So we've started with law enforcement.

最初に 警察と協力しました

Our dream was an alarm bell on the desks of officers all around the world

我々の夢は世界中の警官の机で 通知音を鳴らすことでした

so that if anyone dare post a new victim online,

誰かがネットで 新たな被害者の投稿をしたら

someone would start looking for them immediately.

即座に 捜索し始められるようにです

I obviously can't talk about the details of that software,

そのソフトウェアの詳細を 話すことはできませんが

but today it's at work in 38 countries,

現在 それは 38カ国で運用され

having reduced the time it takes to get to a child

児童を保護するまでの時間を

by more than 65 percent.

65％以上短縮しています

(Applause)

（拍手）

And now we're embarking on that second horizon:

我々の次なる目標は

building the software to help companies identify and remove this content.

企業が虐待コンテンツを特定し削除するのを 支援するソフトウェアの開発です

Let's talk for a minute about these companies.

どういう企業かですが

So, I told you -- 45 million images and videos in the US alone last year.

昨年 アメリカだけで4500万件の 通報がありましたが

Those come from just 12 companies.

その通報元は たった12の企業でした

Twelve companies, 45 million files of child sexual abuse material.

12社が4500万件もの 児童性的虐待ファイルを通報したのです

These come from those companies that have the money

これらの企業には そういうコンテンツを

to build the infrastructure that it takes to pull this content down.

削除するための仕組みを 開発する資金があるのです

But there are hundreds of other companies,

その他の多くの

small- to medium-size companies around the world,

世界中にある中小の企業も

that need to do this work,

その機能を必要としていますが

but they either: 1) can't imagine that their platform would be used for abuse,

自分たちのプラットフォームが 虐待に使われると考えていないか

or 2) don't have the money to spend on something that is not driving revenue.

利益につながらないことに投資できる 資金がないかのどちらかです

So we went ahead and built it for them,

ですから 我々は そんな企業のために 開発を進めています

and this system now gets smarter with the more companies that participate.

そして 協力企業が多くなるほど このシステムも強力になります

Let me give you an example.

例を挙げましょう

Our first partner, Imgur -- if you haven't heard of this company,

最初のパートナー企業はImgurです ご存じないかもしれませんが

it's one of the most visited websites in the US --

Imgurはアメリカで最も 利用者の多いサイトの１つです

millions of pieces of user-generated content uploaded every single day,

インターネットをもっと 楽しい場所にするという志の元

ユーザーから 日に数百万件の 画像アップロードを受けています

in a mission to make the internet a more fun place.

They partnered with us first.

我々が 最初にImgurと協力して

Within 20 minutes of going live on our system,

システムを走らせたところ 20分もせずに

someone tried to upload a known piece of abuse material.

既知の虐待コンテンツの アップロードが試みられました

They were able to stop it, they pull it down,

Imgurは それを停止して 削除し

they report it to the National Center for Missing and Exploited Children.

行方不明・被搾取児童センターへ 通報することができました

But they went a step further,

それだけでなく

and they went and inspected the account of the person who had uploaded it.

そのコンテンツをアップロードしている アカウントの人物を調べたところ

Hundreds more pieces of child sexual abuse material

これまで知られていなかった 児童性的虐待の映像が

that we had never seen.

何百と見つかりました

And this is where we start to see exponential impact.

そこから 急激な変化が始まりました

We pull that material down,

それらのコンテンツを削除し

it gets reported to the National Center for Missing and Exploited Children

行方不明・被搾取児童センターへ 通報します

and then those hashes go back into the system

すると 新たなハッシュが システムに加わり

and benefit every other company on it.

他の企業にも利益をもたらします

And when the millions of hashes we have lead to millions more and, in real time,

我々の持つ何百万というハッシュが さらに何百万というハッシュにつながり

companies around the world are identifying and pulling this content down,

世界中の企業が リアルタイムで そのコンテンツを削除します

we will have dramatically increased the speed at which we are removing

世界中のインターネットから 児童性的虐待のコンテンツを

child sexual abuse material from the internet around the world.

削除するスピードが 劇的に速まるでしょう

(Applause)

（拍手）

But this is why it can't just be about software and data,

ですから ソフトウェアと データだけでなく

it has to be about scale.

規模も重要です

We have to activate thousands of officers,

テクノロジーによって加害者側を 追い抜くことができるなら

hundreds of companies around the world

世界中の何千という警官 何百という企業に行動を促し

if technology will allow us to outrun the perpetrators

現在 児童性的虐待を 当たり前のように 行っている世界中のコミュニティを

and dismantle the communities that are normalizing child sexual abuse

around the world today.

ぶち壊さなければなりません

And the time to do this is now.

今こそ その時です

We can no longer say we don't know the impact this is having on our children.

子供たちにどんな影響を与えるか わからないとは もう言えません

The first generation of children whose abuse has gone viral

虐待を拡散された 最初の世代の子どもたちが

are now young adults.

今では若者になっています

The Canadian Centre for Child Protection

最近 カナダ児童保護センターが

just did a recent study of these young adults

自分の虐待記録が 消えないことを知ってる若者が

to understand the unique trauma they try to recover from,

そこから回復しようとするとき 特有のトラウマの理解を目的とした

knowing that their abuse lives on.

調査を行いました

Eighty percent of these young adults have thought about suicide.

被害児童だった若者の80％が 自殺を考えたことがあります

More than 60 percent have attempted suicide.

60%以上が 自殺を試みたことがあります

And most of them live with the fear every single day

そういう若者の多くが 日々 怯えながら生活しています

that as they walk down the street or they interview for a job

道を歩いている時も 就職面接の時も

or they go to school

学校へ行く時も

or they meet someone online,

誰かとオンラインで会ってる時も

that that person has seen their abuse.

虐待される自分の姿を相手が 見たことがあるんじゃないかと怖いのです

And the reality came true for more than 30 percent of them.

そして その恐怖は30％以上の人に 現実になっています

They had been recognized from their abuse material online.

ネット上の虐待画像に写っているのが 自分だとバレたことがあるのです

This is not going to be easy,

これは難しい問題ですが

but it is not impossible.

解決不能ではありません

Now it's going to take the will,

今こそ 決意すべきです

the will of our society

我々の社会が

to look at something that is really hard to look at,

目を背けたくなる現実を 見つめると決意し

to take something out of the darkness

白日の下へさらけ出す 決意をしてください

so these kids have a voice;

被害児童の声が 聞こえるように

the will of companies to take action and make sure that their platforms

企業は自社のプラットフォームが 児童虐待に加担することが絶対ないよう

are not complicit in the abuse of a child;

対策を講じると 決意してください

the will of governments to invest with their law enforcement

政府は 犠牲者が 訴えることができなくても

for the tools they need to investigate a digital first crime,

デジタル時代の犯罪を捜査するために 必要なツールを

even when the victims cannot speak for themselves.

警察に与えることを 決意してください

This audacious commitment is part of that will.

TEDのプロジェクトへの参加は この決意の一部です

It's a declaration of war against one of humanity's darkest evils.

これは人類最悪の犯罪に対する 宣戦布告です

But what I hang on to

しかし 私がこだわっているのは

is that it's actually an investment in a future

これが実は 未来への投資だということです

where every child can simply be a kid.

すべての子どもたちが 子どものままでいられる未来への

Thank you.

ありがとうございました

(Applause)

（拍手）