What you need to know about face surveillance | Kade Crockford

翻訳: Masako Kigami 校正: Yoko Faulkner

How many of you have ever heard someone say

「プライバシーは死んだ」と言うのを

privacy is dead?

聞いたことのある人は？

Raise your hand.

手を挙げてみてください

How many of you have heard someone say

「別に隠すことはないから

they don't care about their privacy because they don't have anything to hide?

プライバシーなんて気にならない」は どうでしょう？

Go on.

さあ 手を挙げてください

(Laughter)

（笑）

Now, how many of you use any kind of encryption software?

暗号化ソフトを 何か使っている人は？

Raise your hand.

手を挙げてください

Or a password to protect an online account?

ユーザーアカウントを保護するために パスワードを設定している人は？

Or curtains or blinds on your windows at home?

自宅の窓にカーテンやブラインドを 掛けているという人は？

(Laughter)

（笑）

OK, so that's everyone, I think.

それは皆ですよね

(Laughter)

（笑）

So why do you do these things?

なぜ そうするのでしょう？

My guess is,

私が思うに

it's because you care about your privacy.

プライバシーを気にしているからでしょう

The idea that privacy is dead is a myth.

「プライバシーは死んだ」 なんて嘘です

The idea that people don't care about their privacy

「別に隠すことはないから

because "they have nothing to hide"

悪いことは 何もしていないから

or they've done nothing wrong

プライバシーなんて気にならない」

is also a myth.

それも嘘です

I'm guessing that you would not want to publicly share on the internet,

ネットに個人的なことを公開して

世界中の人に 見られたくはないですよね

for the world to see,

all of your medical records.

例えば 自分の全診療記録とか

Or your search histories from your phone or your computer.

携帯やパソコンからの 検索履歴とかです

And I bet

断言しますが

that if the government wanted to put a chip in your brain

もし 政府が全国民の脳に チップを埋め込み

to transmit every one of your thoughts to a centralized government computer,

政府の中央コンピュータに 国民の考えが全て送信されるようにしようとしたら

you would balk at that.

皆さん 嫌な顔を するんじゃないでしょうか

(Laughter)

（笑）

That's because you care about your privacy,

それは 人間誰しも プライバシーを

like every human being.

気にするものだからです

So, our world has changed fast.

現代社会は急速に変化してきました

And today, there is understandably a lot of confusion

こんにち プライバシーとは何か なぜ重要なのかについて

about what privacy is and why it matters.

かなり混乱があるのも 無理はありません

Privacy is not secrecy.

プライバシーとは 秘密にするということではなく

It's control.

どう管理するかということです

I share information with my doctor about my body and my health,

私が 自分の身体や健康状態に関する 情報を医者に提供する際

expecting that she is not going to turn around

先生がその情報を

and share that information with my parents,

私の親や、上司や、子どもたちに

or my boss or my kids.

勝手に言いふらさないことを 期待します

That information is private, not secret.

それはプライベートな情報であり 秘密というわけではありません

I'm in control over how that information is shared.

その情報の共有の仕方は 私が管理しているのです

You've probably heard people say that there's a fundamental tension

「プライバシーと安全性は

根本的に対立している」というのを

between privacy on the one hand

and safety on the other.

聞いたことがあるかもしれませんが

But the technologies that advance our privacy

プライバシーを向上させる技術は

also advance our safety.

安全性も向上させるのです

Think about fences, door locks,

例えば フェンス、ドアロック

curtains on our windows, passwords,

窓のカーテン、パスワード

encryption software.

暗号化ソフトなど―

All of these technologies

これらの技術は

simultaneously protect our privacy and our safety.

プライバシーと安全性を 同時に守ります

Dragnet surveillance, on the other hand, protects neither.

一方で 捜査用監視システムは いずれも保護しません

In recent years,

近年 連邦政府は

the federal government tasked a group of experts

専門家グループである

called The Privacy and Civil Liberties Oversight Board

「プライバシー・市民自由監視委員会」に

with examining post-9/11 government surveillance programs,

9・11後の政府による様々な 捜査用監視プログラムについて

dragnet surveillance programs.

検証させましたが

Those experts could not find a single example

捜査用監視システムによって 安全性が高まった例を

of that dragnet surveillance advancing any safety --

１つとして発見できず

特定・阻止できたテロ攻撃も １つもありませんでした

didn't identify or stop a single terrorist attack.

You know what that information was useful for, though?

その情報が何に役立ったか 分かりますか？

Helping NSA employees spy on their romantic interests.

ＮＳＡ職員が 気になる子を 付け回すのには役立ちます

(Laughter)

（笑）

(Audience: Wow.)

（観客：マジか）

Another example is closer to home.

もっと生活に身近な例もあります

So millions of people across the United States and the world

アメリカや世界の何百万人が

are adopting so-called "smart home" devices,

「スマートホーム」ということで ネット接続された

like internet-connected surveillance cameras.

監視カメラみたいな装置を 設置しています

But we know that any technology connected to the internet

しかし ご存じのように ネットに接続されたものは何でも

can be hacked.

ハッキングされる 可能性があります

And so if a hacker

だから もしハッカーが

gets into your internet-connected surveillance camera at home,

皆さんのお宅のネット接続された 監視カメラに侵入すると

they can watch you and your family coming and going,

家族全員の出入りの様子から

finding just the right time to strike.

襲撃すべきタイミングまで分かります

You know what can't be hacked remotely?

遠隔からハッキングできないものが 何かわかりますか？

Curtains.

カーテンです

(Laughter)

（笑）

Fences.

フェンスです

Door locks.

ドアロックです

(Laughter)

（笑）

Privacy is not the enemy of safety.

プライバシーは 安全性の敵ではありません

It is its guarantor.

安全性を保証するものです

Nonetheless, we daily face a propaganda onslaught

にもかかわらず 日々 監視プログラムが もたらす安全性と引き換えに

telling us that we have to give up some privacy in exchange for safety

プライバシーをある程度 犠牲にしなければならないという

through surveillance programs.

宣伝攻撃に晒されています

Face surveillance is the most dangerous of these technologies.

顔の監視が これらの技術の中で 最も危険です

There are two primary ways today governments use technologies like this.

こんにち 政府がこの技術を使う 主な２つの方法があります

One is face recognition.

１つは 顔認識で

That's to identify someone in an image.

画像中の人物を特定します

The second is face surveillance,

もう１つは一斉に連携して使える 顔の監視です

which can be used in concert

with surveillance-camera networks and databases

監視カメラ網や データベースを使って

to create records of all people's public movements,

公共の場における 人々の活動や習慣や

habits and associations,

交友関係をすべて録画して

effectively creating a digital panopticon.

実質的にデジタル版の 「パノプティコン」を作り出します

This is a panopticon.

これがパノプティコンです

It's a prison designed to allow a few guards in the center

中央にいる数人の看守で 外周上の監房内の様子を

to monitor everything happening in the cells around the perimeter.

すべて監視できるように 設計された刑務所です

The people in those prison cells can't see inside the guard tower,

監房にいる囚人からは 看守室の内部は見えませんが

but the guards can see into every inch of those cells.

看守からは監房内の隅から隅まで 監視できます

The idea here

ここでのアイデアは

is that if the people in those prison cells

監房にいる囚人が

know they're being watched all the time,

常時監視されている 可能性があると分かれば

or could be,

they'll behave accordingly.

結果的に おとなしくなる というものです

Similarly, face surveillance enables a centralized authority --

同様に 顔の監視によって 中央権力が—

in this case, the state --

この場合 国家ですが

to monitor the totality of human movement and association

公共の場における 人の動きや関係などを

総合的に監視できる ようになります

in public space.

And here's what it looks like

現実には こんな感じです

in real life.

In this case, it's not a guard in a tower,

この場合 看守室の看守ではなく

but rather a police analyst in a spy center.

監視センターにいる 警察の分析官が行います

The prison expands beyond its walls,

刑務所が壁を越えて広がり

encompassing everyone,

誰もが どこにいても常時

everywhere, all the time.

囚人となります

In a free society,

自由社会において

this should terrify us all.

このようなことは みんな恐れてしかるべきです

For decades now, we've watched cop shows

ここ何十年も 私たちは顔監視のような技術が

that push a narrative that says

公共の利益となるという筋書きの 刑事ドラマを見てきましたが

technologies like face surveillance ultimately serve the public good.

But real life is not a cop drama.

現実は刑事ドラマとは違います

The bad guy didn't always do it,

悪事を働くのは悪者に限らず

the cops definitely aren't always the good guys

警察がいつも正しいわけでなく

and the technology doesn't always work.

技術が常に機能するとは限りません

Take the case of Steve Talley,

スティーヴ・タリー事件を 見てみましょう

a financial analyst from Colorado.

タリーはコロラド州出身の 金融アナリストで

In 2015, Talley was arrested, and he was charged with bank robbery

2015年 銀行強盗の容疑で 逮捕されましたが

on the basis of an error in a facial recognition system.

顔認識システムの誤りによる 誤認逮捕でした

Talley fought that case

タリーは裁判で戦い

and he eventually was cleared of those charges,

最終的に無実が証明されましたが

but while he was being persecuted by the state,

拘留されていた間に

he lost his house, his job and his kids.

タリーは家も 仕事も 子どもも失いました

Steve Talley's case is an example

スティーヴ・タリー事件は

of what can happen when the technology fails.

テクノロジーが誤るとき 何が起こるかを示す例です

But face surveillance is just as dangerous when it works as advertized.

でも 顔の監視は ちゃんと機能しても 同じくらい危険です

Just consider how trivial it would be

アルコール依存者更生会の 会場の外に

for a government agency to put a surveillance camera

政府機関が 監視カメラを設置するのが

outside a building where people meet for Alcoholics Anonymous meetings.

いかにありそうなことか 考えてみてください

They could connect that camera

顔の監視用アルゴリズムや

to a face-surveillance algorithm and a database,

データベースにカメラを接続して

press a button and sit back and collect

ただボタンを押せば 椅子に座ったままで

a record of every person receiving treatment for alcoholism.

アルコール依存症治療を受ける人の 記録が集まります

It would be just as easy for a government agency

この技術を使えば 政府機関は同じくらい簡単に

to use this technology to automatically identify

ウィメンズ・マーチや ブラック・ライヴズ・マターの抗議集会参加者を

every person who attended the Women's March

or a Black Lives Matter protest.

全員自動的に特定できます

Even the technology industry is aware of the gravity of this problem.

テクノロジー業界でさえ この問題の重大さに気付き

Microsoft's president Brad Smith has called on Congress to intervene.

マイクロソフト社長のブラッド・スミスは 議会に介入を要求しました

Google, for its part,

この件で グーグルは

has publicly declined to ship a face surveillance product,

顔を監視する製品を出さないことを 公に宣言しました

in part because of these grave human and civil rights concerns.

人権や市民権に対する 大きな懸念があるためです

And that's a good thing.

それは良いことです

Because ultimately,

究極的には

protecting our open society is much more important

企業の利益よりも 開かれた社会を守る方が

遥かに重要だからです

than corporate profit.

The ACLU's nationwide campaign

米国自由人権協会の 全米キャンペーンは

to get the government to pump the brakes

この危険な技術を 政府が採用することに

on the adoption of this dangerous technology

歯止めをかけることを目的とし

has prompted reasonable questions from thoughtful people.

有識者からの理性的な議論を 促しています

What makes this technology in particular so dangerous?

この技術を特に 危険たらしめるのは何か？

Why can't we just regulate it?

なぜ 単に規制できないのか？

In short, why the alarm?

要は なぜ警戒するのか？

Face surveillance is uniquely dangerous for two related reasons.

顔の監視は 関連した２つの理由により 独特の危険があります

One is the nature of the technology itself.

１つ目は 技術自体の特質です

And the second is that our system

２つ目は 私達が制度として

fundamentally lacks the oversight and accountability mechanisms

監視と説明責任の仕組みを 欠いていることで

that would be necessary

これは政府の思うままに 悪用されないようにするため

to ensure it would not be abused in the government's hands.

必要なものです

First, face surveillance enables a totalizing form of surveillance

１点目 顔を監視することで 以前は不可能だった―

総合的な監視が可能になります

never before possible.

Every single person's every visit to a friend's house,

市民の誰であれ 友人宅や

a government office,

官庁や

a house of worship,

礼拝所や

a Planned Parenthood,

家族計画連盟や

a cannabis shop,

大麻販売所や

a strip club;

ストリップ劇場に行くたびに

every single person's public movements, habits and associations

その人の公の活動や習慣 交友関係が

documented and catalogued,

ある１日だけでなく 毎日記録・分類されることになります

not on one day, but on every day,

merely with the push of a button.

ただボタンを押すだけで

This kind of totalizing mass surveillance

このような総合的な国民の監視は

fundamentally threatens what it means to live in a free society.

自由社会に生きることの意味や

Our freedom of speech, freedom of association,

言論の自由や 結社の自由や

freedom of religion,

宗教の自由や

freedom of the press,

報道の自由や

our privacy,

プライバシーや

our right to be left alone.

独りになる権利を 根本的に脅かします

You may be thinking,

でも 思いますよね

"OK, come on, but there are tons of ways the government can spy on us."

「なるほど でも 政府が国民を 見張る方法は無数にある」と

And yes, it's true,

確かにそうです

the government can track us through our cell phones,

政府は携帯電話で 国民を追跡できますが

but if I want to go to get an abortion,

もし 中絶手術を受けたかったり

or attend a political meeting,

政治集会に参加したかったり

or even just call in sick and play hooky and go to the beach ...

病欠の連絡をしてサボって ビーチに行きたい場合はどうでしょう？

(Laughter)

（笑）

I can leave my phone at home.

携帯なら自宅に置いて来られますが

I cannot leave my face at home.

自分の顔だと そうもいきません

And that brings me to my second primary concern:

そして そのことが ２点目に繋がります

How we might meaningfully regulate this technology.

この技術をいかに有効に 規制できるのか

Today, if the government wants to know where I was last week,

現在は 私の先週の行動を 政府が知りたいからと

they can't just hop into a time machine and go back in time and follow me.

タイムマシンで過去に行って 追跡することはできません

And they also, the local police right now,

また 地元の警察も現時点では

don't maintain any centralized system of tracking,

常時 各人の公の動きを追跡し

where they're cataloging every person's public movements all the time,

いつかその情報が 役立つかもしれないからと

just in case that information some day becomes useful.

保持しておくような 集中管理システムは持っていません

Today, if the government wants to know where I was last week,

今日 もし政府が私の 先週・先月・去年の行動を

or last month or last year,

知りたければ

they have to go to a judge, get a warrant

裁判所で令状を得たうえで

and then serve that warrant on my phone company,

私の携帯会社に令状を 送達しなければならず

which by the way, has a financial interest in protecting my privacy.

携帯会社は私のプライバシーを守る 経済的動機があります

With face surveillance,

顔の監視には

no such limitations exist.

そんな制限はありません

This is technology that is 100 percent controlled by the government itself.

この技術は 政府が100％管理します

So how would a warrant requirement work in this context?

このような状況では 令状の要件が どう機能するのでしょうか？

Is the government going to go to a judge

政府が裁判所へ行って

and get a warrant,

令状を取ってから

and then serve the warrant on themselves?

令状を自分に送達するのでしょうか？

That would be like me giving you my diary,

それでは 誰かに自分の日記を渡して こう言うようなものです

and saying, "Here, you can hold on to this forever,

「私の日記を持っていていいけど

but you can't read it until I say it's OK."

私がいいと言うまで 読んじゃ駄目だからね」と

So what can we do?

では 何ができるのか？

The only answer to the threat

政府が顔の監視技術を 使用することでもたらされる

posed by the government's use of face surveillance

危険に対する唯一の打開策は

is to deny the government the capacity to violate the public's trust,

国民の信頼を裏切る力を 政府に持たせないことです

by denying the government the ability

政府が自前で 顔監視システムを

to build these in-house face-surveillance networks.

構築できないように することです

And that's exactly what we're doing.

それが まさに私たちの 行っていることです

The ACLU is part of a nationwide campaign

米国自由人権協会は 全米キャンペーンの一環として

to pump the brakes on the government's use of this dangerous technology.

政府が この危険な技術を使用しないよう 歯止めをかけようとしています

We've already been successful,

既に一定の成功を収めていて

from San Francisco to Somerville, Massachusetts,

サンフランシスコや マサチューセッツ州サマービルで

we have passed municipal bans

政府がこの技術を 使用することを禁止する

on the government's use of this technology.

条例を通しました

And plenty of other communities here in Massachusetts

ここマサチューセッツ州や 米国各地の

and across the country

多くのコミュニティが

are debating similar measures.

類似の法案を審議しています

Some people have told me that this movement is bound to fail.

この運動は失敗する運命にあると 言う人もいます

That ultimately,

結局のところ

merely because the technology exists,

技術は存在するのだから

it will be deployed in every context

あらゆる状況の中で

あらゆる場所の あらゆる政府が 配備することになるだろうと

by every government everywhere.

Privacy is dead, right?

プライバシーは死んだのだと

So the narrative goes.

そういう人もいます

Well, I refuse to accept that narrative.

私は断じて認めませんし

And you should, too.

皆さんも認めてはいけません

We can't allow Jeff Bezos or the FBI

私たちは ジェフ・ベゾスやＦＢＩに

to determine the boundaries of our freedoms in the 21st century.

21世紀における自由の限界を 決めさせるわけにはいきません

If we live in a democracy,

民主主義国家で 暮らしているのなら

we are in the driver's seat,

私たちに主導権があり

shaping our collective future.

私達が未来を作るのです

We are at a fork in the road right now.

私たちは今 岐路に 立たされています

We can either continue with business as usual,

普段通りに生活を続け

allowing governments to adopt and deploy these technologies unchecked,

この技術を政府が無制限に コミュニティ、道路、学校に

in our communities, our streets and our schools,

導入・配備するのを許すのか

or we can take bold action now

あるいは 今大胆な行動をとって

to press pause on the government's use of face surveillance,

政府の顔監視技術の使用に 歯止めをかけ

protect our privacy

プライバシーを保護し

and to build a safer, freer future

私たちみんなにとって より安全で自由な未来を

for all of us.

構築することもできるのです

Thank you.

ありがとうございました

(Applause and cheers)

（拍手と歓声）