What will a future without secrets look like? | Alessandro Acquisti

アレサンドロ・アクイスティ: プライバシーはなぜ重要か

翻訳: Shigeto Oeda 校正: Tomoyuki Suzuki

I would like to tell you a story

今日は アダムとイブが巻き込まれた

connecting the notorious privacy incident

今日は アダムとイブが巻き込まれた

involving Adam and Eve,

有名なプライバシー事件と

and the remarkable shift in the boundaries

ここ10年間に起きた

between public and private which has occurred

公私の境界の 大きな変化を関連付けて

in the past 10 years.

お話ししたいと思います

You know the incident.

この事件はご存知の通りです

Adam and Eve one day in the Garden of Eden

エデンの園にいる アダムとイブはある日

realize they are naked.

自分たちが 裸なのに気付きます

They freak out.

彼らは ひどく あわてます

And the rest is history.

その後の顛末は ご存知の通りです

Nowadays, Adam and Eve

今日なら アダムとイブは

would probably act differently.

恐らく 違った行動を取るでしょう

[@Adam Last nite was a blast! loved dat apple LOL]

[ @アダム ：昨夜は楽しかった！ あのリンゴは美味しかった（笑）]

[@Eve yep.. babe, know what happened to my pants tho?]

[ @イブ：本当に でも ズボンどうしたんだろう？]

We do reveal so much more information

私たちは今までになく多くの

about ourselves online than ever before,

情報をオンラインで公開しています

and so much information about us

そして我々に関する情報は

is being collected by organizations.

様々な組織によって収集されています

Now there is much to gain and benefit

この大量の個人情報

from this massive analysis of personal information,

あるいはビッグデータから

or big data,

非常に有用で 価値のあるものが得られますが

but there are also complex tradeoffs that come

同時にプライバシーを手放すことに伴う

from giving away our privacy.

複雑なトレードオフも存在します

And my story is about these tradeoffs.

今日は このような トレードオフについてお話しします

We start with an observation which, in my mind,

まずここ数年の間に 私のなかで

has become clearer and clearer in the past few years,

非常に明確になってきた

that any personal information

どんな個人情報でもプライバシー情報になり得る

can become sensitive information.

という洞察から話したいと思います

Back in the year 2000, about 100 billion photos

2000年の時点で 全世界で

1000億枚ほどの写真が撮られましたが

were shot worldwide,

but only a minuscule proportion of them

ウェブにアップロードされたものの割合は

were actually uploaded online.

非常に小さなものでした

In 2010, only on Facebook, in a single month,

2010年には ファイスブックだけでも

2.5 billion photos were uploaded,

25億枚の写真がひと月にアップされ

most of them identified.

そのほとんどが誰の写真か特定可能です

In the same span of time,

同じ期間で

computers' ability to recognize people in photos

写真に写っている人を認識する

improved by three orders of magnitude.

コンピュータの能力は３桁上がりました

What happens when you combine

この２つの技術を組み合わせると

these technologies together:

何が起こるでしょうか

increasing availability of facial data;

顔写真がどんどん手に入るようになり

improving facial recognizing ability by computers;

コンピュータの顔認識の能力が向上する

but also cloud computing,

そしてクラウドコンピューティングが

which gives anyone in this theater

ここにいる誰に対しても

the kind of computational power

数年前には政府の専門機関しか

which a few years ago was only the domain

持てなかったような

of three-letter agencies;

コンピュータ能力を提供します

and ubiquitous computing,

ユビキタスコンピューティングによって

which allows my phone, which is not a supercomputer,

スーパーコンピュータではない私の携帯電話が

to connect to the Internet

インターネットに接続して

and do there hundreds of thousands

数十万の顔認識を

of face metrics in a few seconds?

数秒で実行することを可能にします

Well, we conjecture that the result

このような技術の組み合わせが

of this combination of technologies

プライバシーと匿名性に対する

will be a radical change in our very notions

私たちの基本的な理解を

of privacy and anonymity.

大きく変えると推測します

To test that, we did an experiment

この考えを検証するために

on Carnegie Mellon University campus.

カーネギーメロン大学で ある実験を行ないました

We asked students who were walking by

キャンパスを歩いている学生に声を掛け

to participate in a study,

実験に参加してもらい

and we took a shot with a webcam,

ウェブカメラで学生の顔写真を撮って

and we asked them to fill out a survey on a laptop.

ノートパソコンに用意した アンケートに答えてもらいました

While they were filling out the survey,

彼らがアンケートに答えている間に

we uploaded their shot to a cloud-computing cluster,

クラウドコンピューティングのクラスタに 写真をアップし

and we started using a facial recognizer

顔認識技術を使って

to match that shot to a database

フェイスブックから取ってきた

of some hundreds of thousands of images

数十万の画像データーベースと

which we had downloaded from Facebook profiles.

照合しました

By the time the subject reached the last page

被験者の学生がアンケートの最後の

on the survey, the page had been dynamically updated

ページに到達する頃には そのページは動的に変更されていて

with the 10 best matching photos

顔認識エンジンが選んだ最も似ている

which the recognizer had found,

10枚の写真が表示されます

and we asked the subjects to indicate

そこで 学生にその写真の中に

whether he or she found themselves in the photo.

自分が映っているかどうか尋ねました

Do you see the subject?

学生をみつけられますか？

Well, the computer did, and in fact did so

コンピュータは探せたわけです

for one out of three subjects.

実際3人中1人の割合で学生の特定が可能でした

So essentially, we can start from an anonymous face,

基本的には 不特定の顔写真から始めて

offline or online, and we can use facial recognition

オンラインかオフラインかに関わらず 顔認識技術を使って

to give a name to that anonymous face

その写真の人物の名前を特定することが

thanks to social media data.

ソーシャルメディアのおかげで可能です

But a few years back, we did something else.

数年前にこれとは異なる実験を行いました

We started from social media data,

ソーシャルメディアのデータから始めて

we combined it statistically with data

それを統計的に米国政府の

from U.S. government social security,

ソーシャルセキュリティー関連の データと組み合わせ

and we ended up predicting social security numbers,

最終的にソーシャルセキュリティー番号を 特定することが出来ました

which in the United States

ソーシャルセキュリティー番号は米国では

are extremely sensitive information.

プライバシーに関する非常に重要な情報です

Do you see where I'm going with this?

この話の先に見えてくるものは何でしょう？

So if you combine the two studies together,

この2つの実験を組み合わせると

then the question becomes,

ある疑問が浮かびます

can you start from a face and,

顔の写真から始めて

using facial recognition, find a name

顔認識技術によって名前を特定し

and publicly available information

その名前からその個人に対する

about that name and that person,

公開情報を取得し

and from that publicly available information

次に公開情報から

infer non-publicly available information,

よりプライベートな

much more sensitive ones

非公開情報を参照し

which you link back to the face?

それを元の顔と結びつけられるでしょうか？

And the answer is, yes, we can, and we did.

答えはイエスで 私たちはそれに成功しました

Of course, the accuracy keeps getting worse.

もちろん精度は徐々に悪くなります [27%の被験者のソーシャルセキュリティ番号の 頭5桁が特定できました]

もちろん精度は徐々に悪くなります [27%の被験者のソーシャルセキュリティ番号の 頭5桁が特定できました]

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

But in fact, we even decided to develop an iPhone app

iPhoneのアプリも作ることにしました [27%の被験者のソーシャルセキュリティ番号の 頭5桁が特定できました]

which uses the phone's internal camera

内蔵のカメラで

to take a shot of a subject

人物の写真を撮って

and then upload it to a cloud

それをクラウドにアップして

and then do what I just described to you in real time:

先ほど説明した処理をリアルタイムで実行して

looking for a match, finding public information,

該当する写真を探し 公開されている情報を探し

trying to infer sensitive information,

そこからプライバシー情報を探し

and then sending back to the phone

それを携帯に送り返し

so that it is overlaid on the face of the subject,

その人物の写真と重ね合わせて表示する

an example of augmented reality,

なんかゾッとする 拡張現実の例だと思います

probably a creepy example of augmented reality.

なんかゾッとする 拡張現実の例だと思います

In fact, we didn't develop the app to make it available,

このアプリは公開していません

just as a proof of concept.

単に可能かやってみただけです

In fact, take these technologies

このような技術の応用が

and push them to their logical extreme.

最大限に進んだ場合を考えると

Imagine a future in which strangers around you

周りにいる他人が

will look at you through their Google Glasses

あなたの顔を グーグルグラスや

or, one day, their contact lenses,

コンタクトレンズを通して見て

and use seven or eight data points about you

あなたに関する７､８個のデータから

to infer anything else

知り得るどんな個人情報にも

which may be known about you.

アクセスできるような未来が想像できます

What will this future without secrets look like?

このような秘密のない世界はどんな感じでしょうか？

And should we care?

このようなことに注意を払うべきでしょうか？

We may like to believe

私たちは

that the future with so much wealth of data

多くのデータにアクセスできる未来が

would be a future with no more biases,

偏見のない世界だと信じる傾向にあります

but in fact, having so much information

でも 多くの情報があるからといって

doesn't mean that we will make decisions

より客観的な判断をするとは限りません

which are more objective.

より客観的な判断をするとは限りません

In another experiment, we presented to our subjects

もう1つの実験では 被験者に

information about a potential job candidate.

就職志望者の情報を見てもらいました

We included in this information some references

この情報のなかに 意図的に混ぜたのは

to some funny, absolutely legal,

被験者自身がネットに投稿した

but perhaps slightly embarrassing information

完全に合法でありながら ちょっと具合の悪い

that the subject had posted online.

情報に関することです

Now interestingly, among our subjects,

被験者のなかには

some had posted comparable information,

そのような情報を投稿したことがある人も

and some had not.

ない人もいました

Which group do you think

どちらのグループが求職者を

was more likely to judge harshly our subject?

厳しく非難したと思いますか？

Paradoxically, it was the group

逆説的ですが 自分自身もそのような

who had posted similar information,

情報を投稿したことがあるグループでした

an example of moral dissonance.

これは言動不一致の良い例です

Now you may be thinking,

皆さんは これは自分は当てはまらない

this does not apply to me,

なぜなら隠しておきたいことは

because I have nothing to hide.

ないからと思っているかも知れません

But in fact, privacy is not about

しかしプライバシーとは

having something negative to hide.

ネガティブなことを隠すことではありません

Imagine that you are the H.R. director

あなたがどこかの組織の

of a certain organization, and you receive résumés,

人事担当責任者で 就職希望者の 履歴書を受け取ったときに

and you decide to find more information about the candidates.

応募者に関してもう少し調べたいと思ったとしましょう

Therefore, you Google their names

候補者の名前をグーグルで検索したら

and in a certain universe,

あるサイトで こんな情報が 見つかったとします

you find this information.

あるサイトで こんな情報が 見つかったとします

Or in a parallel universe, you find this information.

一方 どこかのパラレルワールドで この情報を見つけるとします

Do you think that you would be equally likely

あなたは両方の応募者と

to call either candidate for an interview?

同じように面談をしたいと思うでしょうか

If you think so, then you are not

もしそう思うのなら

like the U.S. employers who are, in fact,

あなたは米国の雇用主とは違います

part of our experiment, meaning we did exactly that.

私たちは実験の一部として 正にそのような状況を試してみました

We created Facebook profiles, manipulating traits,

ファイスブックに人柄を操作した 架空のプロファイルを登録し

then we started sending out résumés to companies in the U.S.,

米国内の様々な企業に その人物の履歴書を送りました

and we detected, we monitored,

そして企業がその人物に関する情報を

whether they were searching for our candidates,

ソーシャルメディアで検索するかどうか

and whether they were acting on the information

また そこで得た情報に影響されるか 観察すると

they found on social media. And they were.

影響されると分かりました

Discrimination was happening through social media

同じ能力の候補者間で

for equally skilled candidates.

ソーシャルメディアを介した差別が発生していました

Now marketers like us to believe

マーケティングの人たちは

that all information about us will always

私たち自身に関する情報が

be used in a manner which is in our favor.

私たちのために使われると 信じさせようとしています

But think again. Why should that be always the case?

でもよく考えてみてください 常にそうであるはずがありません

In a movie which came out a few years ago,

何年か前の「マイノリティー・レポート」という映画で

"Minority Report," a famous scene

トム・クルーズがショッピング・モールを歩くと

had Tom Cruise walk in a mall

個人に特化した広告がホログラフィックに

and holographic personalized advertising

彼を取り巻くように表示される

would appear around him.

有名な場面がありました

Now, that movie is set in 2054,

映画の設定は2054年

about 40 years from now,

40年後の未来となっていて

and as exciting as that technology looks,

その技術は素晴らしいもののように見えますが

it already vastly underestimates

それはすでに

the amount of information that organizations

組織が集めることのできる個人情報と

can gather about you, and how they can use it

それが思いもよらない方法で利用され得る

to influence you in a way that you will not even detect.

ということに関して過小評価をしています

So as an example, this is another experiment

そのような例として 現在私たちが行なっている

actually we are running, not yet completed.

実験を紹介します

Imagine that an organization has access

企業があなたのフェイスブックの

to your list of Facebook friends,

友達リストにアクセスできると仮定してみて下さい

and through some kind of algorithm

そして何らかのアルゴリズムで

they can detect the two friends that you like the most.

一番仲のいい友達を２人選ぶことが出来るとします

And then they create, in real time,

そしてその２人の友達の顔の写真を

a facial composite of these two friends.

リアルタイムにで合成出来るとします

Now studies prior to ours have shown that people

過去の研究から 合成された顔写真は

don't recognize any longer even themselves

本人自身もそれと認識は出来ないのですが

in facial composites, but they react

何故かその写真の顔に親しみをもつ

to those composites in a positive manner.

ということが分かっています

So next time you are looking for a certain product,

次に何か特定の商品を探しているとき

and there is an ad suggesting you to buy it,

それを勧める広告があり

it will not be just a standard spokesperson.

勧めているのは見知らぬ人ではなく

It will be one of your friends,

あなたの友達の合成イメージで

and you will not even know that this is happening.

それに 全く気付かないかもしれません

Now the problem is that

問題は

the current policy mechanisms we have

現在の法律では

to protect ourselves from the abuses of personal information

個人情報の悪用から 我々を保護する仕組みは

are like bringing a knife to a gunfight.

銃撃戦にナイフで対抗するような ものだということです

One of these mechanisms is transparency,

このような仕組みの一つが透明性で

telling people what you are going to do with their data.

入手した情報をどの様に使うかを 明確するものです

And in principle, that's a very good thing.

原理として それは良いことです

It's necessary, but it is not sufficient.

必要ですが 充分ではありません

Transparency can be misdirected.

透明性は誤用される可能性があります

You can tell people what you are going to do,

情報をどのように使うかを伝えた上で

and then you still nudge them to disclose

個人情報を提供するように

arbitrary amounts of personal information.

相手を誘導することが可能です

So in yet another experiment, this one with students,

学生を対象に もう1つ実験を実施しました

we asked them to provide information

学生達にキャンパスでの行ないに関して

about their campus behavior,

情報を提供するように依頼しました

including pretty sensitive questions, such as this one.

試験でカンニングをしたことがありますか？

といった非常にプライベートな質問を含んでいます

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

一つ目のグループには

"Only other students will see your answers."

回答は 他の学生だけが閲覧すると伝えました

To another group of subjects, we told them,

もう一つのグループには

"Students and faculty will see your answers."

他の学生と教授陣が回答を閲覧すると伝えました

Transparency. Notification. And sure enough, this worked,

透明性と留意点が明確であり 当然期待した結果になりました

in the sense that the first group of subjects

最初のグループの方が

were much more likely to disclose than the second.

２番目のグループより情報を開示する可能性が 高いという結果です

It makes sense, right?

妥当な結果だと思います

But then we added the misdirection.

次に誤った誘導を加えました

We repeated the experiment with the same two groups,

同じ２つのグループで実験を行ないましたが

this time adding a delay

今度はどのように回答が利用されるかを

between the time we told subjects

伝えるタイミングと

how we would use their data

実際に質問をするタイミングを

and the time we actually started answering the questions.

ずらしました

How long a delay do you think we had to add

教授陣も回答を閲覧するという

in order to nullify the inhibitory effect

抑止作用のある情報を

of knowing that faculty would see your answers?

忘れるのにどの位の時間が必要だったと思いますか？

Ten minutes?

10分？

Five minutes?

５分？

One minute?

１分？

How about 15 seconds?

15秒ではどうでしょう？

Fifteen seconds were sufficient to have the two groups

両方のグループに同じ量の情報を開示させるのには

disclose the same amount of information,

15秒あれば充分でした

as if the second group now no longer cares

２つ目のグループも教授陣が

for faculty reading their answers.

回答を見ることを気にしていないようでした

Now I have to admit that this talk so far

ここまでの話で

may sound exceedingly gloomy,

とても憂鬱な気分になるとは思います

but that is not my point.

でもそれがポイントではないのです

In fact, I want to share with you the fact that

実際には別のアプローチがある

there are alternatives.

ということをお話したいのです

The way we are doing things now is not the only way

現在のやり方が唯一の方法ということは

they can done, and certainly not the best way

ありませんし ベストな方法でもありません

they can be done.

ありませんし ベストな方法でもありません

When someone tells you, "People don't care about privacy,"

もし誰かが 「人々はプライバシーを気にしない」と言ったら

consider whether the game has been designed

やり方が巧妙にデザインされていて

and rigged so that they cannot care about privacy,

プライバシーを 気にさせなくしているか疑って下さい

and coming to the realization that these manipulations occur

そのような操作が存在すると気付くことは

is already halfway through the process

すでに自分自身を守る道を

of being able to protect yourself.

半分進んでいることを示しています

When someone tells you that privacy is incompatible

もし誰かが プライバシーと

with the benefits of big data,

ビッグデータから得られるメリットは 両立しないなどと言い放ったら

consider that in the last 20 years,

ここ20年間 研究者は

researchers have created technologies

理論上どんな電気的な通信に対しても

to allow virtually any electronic transactions

プライバシーを強化できる技術を

to take place in a more privacy-preserving manner.

開発してきたことを思い出すべきです

We can browse the Internet anonymously.

私たちは匿名のままインターネットを ブラウズすることができます

We can send emails that can only be read

メールを指定した受信者だけが

by the intended recipient, not even the NSA.

読めるように送ることもできます 米国家安全保障局でさえ読めません

We can have even privacy-preserving data mining.

プライバシーに配慮したデータマイニングも可能です

In other words, we can have the benefits of big data

言い換えれば ビッグデータのメリットを享受しながら

while protecting privacy.

同時にプライバシーを守ることが可能です

Of course, these technologies imply a shifting

もちろんこのような技術は

of cost and revenues

情報を持つ者と 情報を利用する者の間の

between data holders and data subjects,

コストと利益のあり方に 影響するかもしれません

which is why, perhaps, you don't hear more about them.

これが理由であまりこのような話を 聞かないのかもしれません

Which brings me back to the Garden of Eden.

ここからエデンの園に話に戻ります

There is a second privacy interpretation

これはエデンの園の話を

of the story of the Garden of Eden

プライバシーの観点からみたもう1つの解釈です

which doesn't have to do with the issue

これはアダムとイブが裸であることに

of Adam and Eve feeling naked

気付いて恥ずかしいと思ったこととは

and feeling ashamed.

関係がありません

You can find echoes of this interpretation

同じような話を

in John Milton's "Paradise Lost."

ジョン・ミルトンの「失楽園」にも 見ることができます

In the garden, Adam and Eve are materially content.

エデンの園で アダムとイブは 物質的には不自由なく

They're happy. They are satisfied.

幸せで満足していました

However, they also lack knowledge

しかし同時に彼らは知識や

and self-awareness.

自己認識に欠けていました

The moment they eat the aptly named

彼らは 適切にも知恵の実と名付けられた

fruit of knowledge,

実を食べた瞬間

that's when they discover themselves.

自分たちを発見しました

They become aware. They achieve autonomy.

彼らは自分達を認識し 自主性を獲得しました

The price to pay, however, is leaving the garden.

しかしその代償は エデンの園を去ることでした

So privacy, in a way, is both the means

プライバシーも自由のための

and the price to pay for freedom.

手段でもあり 同時に払うべき代償でもあります

Again, marketers tell us

マーケッティングの人々は

that big data and social media

ビッグデータとソーシャルメディアは

are not just a paradise of profit for them,

彼らが利益を得るための場ではなく

but a Garden of Eden for the rest of us.

私たち全員のエデンの園だといいます

We get free content.

私たちは無料でコンテンツを楽しみ

We get to play Angry Birds. We get targeted apps.

アングリーバードを手に入れたり ほしいアプリを手に入れたりできます

But in fact, in a few years, organizations

しかし実際には 数年の内に企業は

will know so much about us,

私たちを熟知し

they will be able to infer our desires

私たちの欲しいものを

before we even form them, and perhaps

意識する前に察知し

buy products on our behalf

必要と思う前に 買い物まで してくれるようになるかもしれません

before we even know we need them.

必要と思う前に 買い物まで してくれるようになるかもしれません

Now there was one English author

このように私たちが自立性と自由を

who anticipated this kind of future

快適さと引き換えに手放してしまう

where we would trade away

このような未来を憂慮した

our autonomy and freedom for comfort.

英国の作家がいました

Even more so than George Orwell,

ジョージ・オーウェル以上に これを描いたのは

the author is, of course, Aldous Huxley.

もちろん オルダス・ハクスリーです

In "Brave New World," he imagines a society

『すばらしい新世界』で彼は

where technologies that we created

もともとは自由のために私たちが

originally for freedom

作り上げた技術が 私たちを

end up coercing us.

支配する世界を創造しています

However, in the book, he also offers us a way out

しかし同時にその小説では その社会から

of that society, similar to the path

逃げ出す経路 アダムとイブがエデンの園から

that Adam and Eve had to follow to leave the garden.

出るために通らなければならなかった経路と 似たものを示しています

In the words of the Savage,

小説のなかの未開人の言葉として

regaining autonomy and freedom is possible,

代償は高いが

although the price to pay is steep.

自立性と自由を手に入れることは可能だと言っています

So I do believe that one of the defining fights

我々の時代の独特の戦いは

of our times will be the fight

個人情報のコントロールに対する

for the control over personal information,

戦いであると私は信じています

the fight over whether big data will become a force

ビッグデータが自由のための力となるか

for freedom,

私たちを陰で操作するような 力となるかの戦いです

rather than a force which will hiddenly manipulate us.

私たちを陰で操作するような 力となるかの戦いです

Right now, many of us

現在はまだ 多くの人が

do not even know that the fight is going on,

そのような戦いが始まっていることすら知りません

but it is, whether you like it or not.

しかし好むと好まないとにかかわらず 戦いは始まっています

And at the risk of playing the serpent,

蛇の役割を演じてしまう危険を承知で

I will tell you that the tools for the fight

戦いに必要な道具はここにある

are here, the awareness of what is going on,

何が起きているかを理解する力は

and in your hands,

あなたの手のなかに

just a few clicks away.

ほんの数クリックしか離れていないところに あると伝えたいと思います

Thank you.

ありがとうございます

(Applause)

（拍手）