Bruce Schneier: The security mirage

ブルース・シュナイアー： セキュリティの幻想

翻訳: Keiichi Kudo 校正: Akiko Hicks

セキュリティには 2 つの側面があります

So, security is two different things:

感情と現実です

it's a feeling, and it's a reality.

両者は異なるものです

And they're different.

実際に安全ではなくとも

You could feel secure even if you're not.

安全だと感じることができます

And you can be secure

安全だと感じなくても

even if you don't feel it.

安全であることもあります

Really, we have two separate concepts

二つの別々の概念が

mapped onto the same word.

安全という一つの言葉に対応付けてられています

And what I want to do in this talk is to split them apart --

本日私がお話ししたいことは

感情と現実を区別し

figuring out when they diverge and how they converge.

どのような時に 別々の概念に別れ

どう一つに収束するかです

And language is actually a problem here.

ここでは言葉が問題となります

これからお話しする概念に則した

There aren't a lot of good words

良い言葉があまりないのです

for the concepts we're going to talk about.

安全を

So if you look at security from economic terms,

経済学の言葉で表現するなら

「トレードオフ」となります

it's a trade-off.

安全を得るときはいつも

Every time you get some security, you're always trading off something.

何かをトレードオフしています

個人的な判断で

Whether this is a personal decision --

自宅に防犯ベルを設置するとき

whether you're going to install a burglar alarm in your home --

国家的な判断で外国に侵攻するとき

or a national decision,

where you're going to invade a foreign country --

何かをトレードオフすることになります

you're going to trade off something: money or time, convenience, capabilities,

それはお金 時間 利便性 機能性

あるいは根本的な自由かもしれません

maybe fundamental liberties.

And the question to ask when you look at a security anything

安全を考えるときに問うべきは

is not whether this makes us safer,

それが自身をより安全にするかではなく

トレードオフするに値するかです

but whether it's worth the trade-off.

You've heard in the past several years, the world is safer

ここ数年でこんなことを耳にしたでしょう

サダム・フセインが権力を振るっていないので世界はより安全だと

because Saddam Hussein is not in power.

真実かもしれませんが関連性はごく僅かでしょう

That might be true, but it's not terribly relevant.

問うべきは その価値があったか ということです

The question is: Was it worth it?

これは個人個人で結論が出せます

And you can make your own decision,

and then you'll decide whether the invasion was worth it.

侵攻するに値したか 自分なりに判断するのです

これが安全を考える方法です

That's how you think about security: in terms of the trade-off.

トレードオフという観点を用いるのです

Now, there's often no right or wrong here.

この判断に特に正しい答えはありません

自宅に防犯ベルを設置している人もいれば

Some of us have a burglar alarm system at home and some of us don't.

そうでない人もいます

And it'll depend on where we live,

住んでいる地域

一人暮らしか家族と住んでいるか

whether we live alone or have a family,

どんな凄いものを所有しているか

how much cool stuff we have,

how much we're willing to accept the risk of theft.

窃盗のリスクをどの程度

許容するかによるでしょう

In politics also, there are different opinions.

政治でも

さまざまな見解があります

A lot of times, these trade-offs are about more than just security,

多くの場合 トレードオフは

安全に関するものに留まりません

and I think that's really important.

これは重要なことです

Now, people have a natural intuition about these trade-offs.

人間はこういったトレードオフに対して

直感を持っており

We make them every day.

日々それを使っています

Last night in my hotel room, when I decided to double-lock the door,

昨晩ホテルの部屋で

ドアを二重に施錠すると判断したとき

or you in your car when you drove here;

皆さんがここまで運転してきたとき

ランチに行き

when we go eat lunch

and decide the food's not poison and we'll eat it.

食べ物に毒が混入していないと判断し食べるとき

We make these trade-offs again and again,

私たちはこういったトレードオフを

一日に何回も判断しています

multiple times a day.

あまり意識することはないでしょう

We often won't even notice them.

They're just part of being alive; we all do it.

生存活動の一部に過ぎません 皆やっていることです

あらゆる種が行っていることです

Every species does it.

Imagine a rabbit in a field, eating grass.

野原で草を食べているウサギを想像してください

そのウサギはキツネを見つけます

And the rabbit sees a fox.

That rabbit will make a security trade-off:

するとウサギは安全のトレードオフをするでしょう

"Should I stay, or should I flee?"

「留まるべきか 逃げるべきか」

こうして考えてみると

And if you think about it,

トレードオフの判断に長けたウサギは

the rabbits that are good at making that trade-off

will tend to live and reproduce,

生き延びて繁殖するでしょう

and the rabbits that are bad at it

そうでないウサギは

will get eaten or starve.

捕食されたり餓死するでしょう

So you'd think

では

地球で成功している種である

that us, as a successful species on the planet -- you, me, everybody --

皆さん 私 全員が

would be really good at making these trade-offs.

トレードオフの判断に長けていると考えるかもしれません

にも関わらず

Yet it seems, again and again, that we're hopelessly bad at it.

私たちは絶望的に下手なようです

And I think that's a fundamentally interesting question.

これは非常に興味深い疑問だと思います

I'll give you the short answer.

端的な回答をお出ししましょう

The answer is, we respond to the feeling of security

私たちは安全の感覚に対応しているのであり

安全の実態に反応しているのではないということです

and not the reality.

Now, most of the time, that works.

多くの場合これは有効です

Most of the time,

多くの場合

feeling and reality are the same.

感覚と実態は同じです

Certainly that's true for most of human prehistory.

先史時代においては

まさしく真実でした

We've developed this ability

私たちが感覚的に反応する能力を発達させてきたのは

because it makes evolutionary sense.

進化的に正しかったからです

一つの解釈は

One way to think of it is that we're highly optimized

少数のグループで生活するときに

必要とされるリスク判断に

for risk decisions

極めて適合していたということです

that are endemic to living in small family groups

in the East African Highlands in 100,000 BC.

これは紀元前10万年の東アフリカ高地でのことであり

2010 New York, not so much.

2010 年のニューヨークではまた別です

Now, there are several biases in risk perception.

リスクの認知にはいくつものバイアスがかかるもので

それについては数多くの研究があります

A lot of good experiments in this.

And you can see certain biases that come up again and again.

特定のバイアスは繰り返し現れるものです

ここでは 4 つ紹介したいと思います

I'll give you four.

We tend to exaggerate spectacular and rare risks

私たちは劇的なリスクや珍しいリスクを誇大化し

一般的なリスクを過小評価しがちです

and downplay common risks --

例えば飛行機と車での移動の比較です

so, flying versus driving.

The unknown is perceived to be riskier than the familiar.

未知のリスクは

既知のリスクより大きく捉えられます

例えば

One example would be:

people fear kidnapping by strangers,

人々は見知らぬ人による誘拐を恐れますが

when the data supports that kidnapping by relatives is much more common.

データによると顔見知りによる誘拐の方が断然多いのです

これは子供の場合です

This is for children.

Third, personified risks are perceived to be greater

第三に 名前を持つものによるリスクは

匿名によるリスクより大きく捉えられます

than anonymous risks.

So, Bin Laden is scarier because he has a name.

ビン・ラディンは名を持つがゆえにより恐れられるということです

第四に 人々は

And the fourth is:

people underestimate risks in situations they do control

自分でコントロールできる状況での

リスクを過小評価し

そうでない状況でのリスクを過大評価します

and overestimate them in situations they don't control.

So once you take up skydiving or smoking,

スカイダイビングや喫煙をする人は

you downplay the risks.

そのリスクを実際より低く捉えます

テロが良い例ですが そういったリスクに曝されると

If a risk is thrust upon you -- terrorism is a good example --

それを過大評価します 自分でコントロールできないと感じるからです

you'll overplay it,

because you don't feel like it's in your control.

There are a bunch of other of these cognitive biases,

他にも私たちのリスク判断に影響する

that affect our risk decisions.

多数の認知バイアスが存在します

There's the availability heuristic,

利用可能性ヒューリスティックというものがあります

これは基本的に

which basically means we estimate the probability of something

想像の し易さから

by how easy it is to bring instances of it to mind.

その可能性を推測するというものです

So you can imagine how that works.

どういうことかお話ししましょう

If you hear a lot about tiger attacks, there must be a lot of tigers around.

トラの襲撃をよく耳にする場合 周辺にはトラが沢山いるはずです

ライオンの襲撃を耳にしないなら 周辺にライオンはあまりいないでしょう

You don't hear about lion attacks, there aren't a lot of lions around.

こう考えられるのも新聞が出回るまでです

This works, until you invent newspapers,

because what newspapers do is repeat again and again

なぜなら新聞とは

繰り返し繰り返し

希なリスクを記すものだからです

rare risks.

I tell people: if it's in the news, don't worry about it,

ニュースになるくらいなら心配はいらないと私はみんなに言っています

なぜなら定義によれば

because by definition, news is something that almost never happens.

ニュースとはほぼ起こらない出来事のことだからです

(笑)

(Laughter)

When something is so common, it's no longer news.

ある出来事が一般的なら それはもはやニュースではないのです

Car crashes, domestic violence --

自動車事故や家庭内暴力

those are the risks you worry about.

皆さんが心配するリスクはこういったものです

We're also a species of storytellers.

また私たちは物語る種です

We respond to stories more than data.

データより物語に敏感です

And there's some basic innumeracy going on.

また根本的な数量に対する感覚も欠けています

I mean, the joke "One, two, three, many" is kind of right.

「一つ 二つ 三つ たくさん」はある意味正しいということです

私たちは 小さい数にはとても強いです

We're really good at small numbers.

One mango, two mangoes, three mangoes,

一つのマンゴー 二つのマンゴー 三つのマンゴー

10,000 mangoes, 100,000 mangoes --

一万のマンゴー 十万のマンゴー

it's still more mangoes you can eat before they rot.

食べきる前に腐ってしまうほどの数です

So one half, one quarter, one fifth -- we're good at that.

二分の一 四分の一 五分の一 こういうのも得意です

百万分の一 十億分の一

One in a million, one in a billion --

どちらも「ほぼありえない」です

they're both almost never.

So we have trouble with the risks that aren't very common.

このように 私たちは

珍しいリスクというものが苦手です

And what these cognitive biases do

そしてこの認知バイアスは

is they act as filters between us and reality.

私たちと実態の間のフィルターとして働きます

その結果

And the result is that feeling and reality get out of whack,

感覚と実態が狂います

異なるものとなるのです

they get different.

Now, you either have a feeling -- you feel more secure than you are,

皆さんは実際より安全だと感じることがあります

偽りの感覚です

there's a false sense of security.

あるいは

Or the other way, and that's a false sense of insecurity.

偽りの不安感もあります

私は「セキュリティシアター」

I write a lot about "security theater,"

which are products that make people feel secure,

つまり人々に安心感を与えつつも

but don't actually do anything.

実効を持たないものについて沢山書いています

There's no real word for stuff that makes us secure,

私たちに安全を提供しつつも

安心にはさせないというものを示す言葉はありません

but doesn't make us feel secure.

CIA に是非やってもらいたいことです

Maybe it's what the CIA is supposed to do for us.

So back to economics.

では経済の話に戻りましょう

If economics, if the market, drives security,

もし経済が 市場が 安全を促進するならば

and if people make trade-offs based on the feeling of security,

そして人々が安心感に基づいて

トレードオフをするならば

then the smart thing for companies to do for the economic incentives

経済刺激のために

会社が取れる良策は

is to make people feel secure.

人々に安心感を与えることです

And there are two ways to do this.

それには二つ方法があります

One, you can make people actually secure

実際に安全を提供し

人々が気付くのに期待するか

and hope they notice.

Or two, you can make people just feel secure

もしくは安心感を提供して

and hope they don't notice.

実態に気付かないことを期待するか です

Right?

So what makes people notice?

では気付くには何が必要でしょう

いくつかあります

Well, a couple of things:

understanding of the security,

理解です

安全 リスク 脅威 対抗策

of the risks, the threats,

それらを理解し そして仕組みを知ることです

the countermeasures, how they work.

But if you know stuff, you're more likely

もし知っていれば

感覚と実態は一致しているでしょう

to have your feelings match reality.

沢山の実例の知識も助けになるでしょう

Enough real-world examples helps.

私たちは皆 近隣の犯罪率を知っています

We all know the crime rate in our neighborhood,

because we live there, and we get a feeling about it

なぜならそこに住んでいるからであり

that basically matches reality.

基本的に実態と感覚は一致しています

セキュリティシアターに気付くのは

Security theater is exposed

when it's obvious that it's not working properly.

それらがうまく噛み合っていないときです

では実態に気付けない理由は何でしょう

OK. So what makes people not notice?

Well, a poor understanding.

理解不足です

If you don't understand the risks, you don't understand the costs,

リスクやコストを理解していなければ

you're likely to get the trade-off wrong,

トレードオフの判断を誤るでしょう

and your feeling doesn't match reality.

感覚も実態とは ずれます

Not enough examples.

経験不足です

There's an inherent problem with low-probability events.

そこには発生率の低さという

固有の問題があります

If, for example, terrorism almost never happens,

もし仮に

テロがほとんど起きなければ

it's really hard to judge the efficacy of counter-terrorist measures.

テロ対策の有効性を

判断するのはとても困難でしょう

This is why you keep sacrificing virgins,

これが儀式でいけにえを捧げる習慣が続いたり

突拍子もない責任転嫁がまかり通る理由です

and why your unicorn defenses are working just great.

There aren't enough examples of failures.

失敗例が足りないのです

また感情も問題を曇らせます

Also, feelings that cloud the issues --

the cognitive biases I talked about earlier: fears, folk beliefs --

先ほど触れた認知バイアス

恐怖 迷信 等は

basically, an inadequate model of reality.

基本的に不適切な現実のモデルなのです

ここを更に複雑化します

So let me complicate things.

I have feeling and reality.

感覚と実態があります

I want to add a third element. I want to add "model."

ここに第三の要素「モデル」を加えたいと思います

Feeling and model are in our head,

頭の中には感覚とモデルがあり

外界に実態があります

reality is the outside world; it doesn't change, it's real.

実態は変わりません 現実です

Feeling is based on our intuition,

感覚は私たちの直感に基づいています

モデルは理性に基づいています

model is based on reason.

これが基本的な違いです

That's basically the difference.

In a primitive and simple world,

原始的で単純な世界においては

there's really no reason for a model,

モデルを持つ理由など全くありません

感覚が現実ととても近いからです

because feeling is close to reality.

You don't need a model.

モデルは必要ないのです

But in a modern and complex world,

しかし現代の複雑な世界においては

私たちが直面する

you need models to understand a lot of the risks we face.

数々のリスクを理解するためにモデルが必要です

There's no feeling about germs.

ばい菌についての感覚などありません

理解するためにはモデルがいるのです

You need a model to understand them.

つまりモデルとは現実を知的に理解し

This model is an intelligent representation of reality.

違う形で表現した物です

It's, of course, limited by science, by technology.

モデルには当然科学 そしてテクノロジーによる

限界があります

ばい菌を観察できる顕微鏡を開発する以前には

We couldn't have a germ theory of disease

before we invented the microscope to see them.

病気の細菌説などありえません

It's limited by our cognitive biases.

認知バイアスによる限界もあります

ただこれには

But it has the ability to override our feelings.

感覚を覆す力があります

Where do we get these models? We get them from others.

モデルはどこから得るのでしょう？他から得るのです

We get them from religion, from culture, teachers, elders.

宗教や文化

教師や長老から得ます

数年前 私は

A couple years ago, I was in South Africa on safari.

狩猟旅行で南アフリカに行っていました

The tracker I was with grew up in Kruger National Park.

同行したトラッカーはクルーガー国立公園で育ちました

He had some very complex models of how to survive.

彼はサバイバルに関していくつか複雑なモデルを持っていました

And it depended on if you were attacked by a lion, leopard, rhino, or elephant --

それは何が襲ってきたのかによります

ライオン、ヒョウ、サイ、ゾウ

and when you had to run away, when you couldn't run away,

また逃げなければならない場合 木に登らなければならない場合

when you had to climb a tree, when you could never climb a tree.

木に登れない場合もあります

私は一日と生きられないでしょうが

I would have died in a day.

彼はそこで生まれ

But he was born there, and he understood how to survive.

生存方法を理解していました

私はニューヨーク生まれです

I was born in New York City.

ニューヨークに連れてきたら 彼は一日と持たないかもしれません

I could have taken him to New York, and he would have died in a day.

(笑)

(Laughter)

Because we had different models based on our different experiences.

というのも私たちはそれぞれの経験に基づいて

別々のモデルを持っているからです

Models can come from the media,

モデルはメディアや

from our elected officials ...

役人から得られることもあります

Think of models of terrorism,

テロのモデルや

child kidnapping,

子供の誘拐 航空安全

airline safety, car safety.

交通安全などのモデルを考えてみてください

Models can come from industry.

モデルは産業から出現することもあります

The two I'm following are surveillance cameras,

私が興味を持っているのは監視カメラと

ID カードの二つで

ID cards,

コンピュータセキュリティのモデルがこれらから沢山生まれています

quite a lot of our computer security models come from there.

科学からも沢山のモデルが来ています

A lot of models come from science.

Health models are a great example.

健康モデルは素晴らしい例です

Think of cancer, bird flu, swine flu, SARS.

ガン、鳥インフルエンザ、豚インフルエンザ、SARS を考えてください

All of our feelings of security about those diseases

こういった病気に関する

安全の感覚は全て

come from models given to us, really, by science filtered through the media.

モデルから来ています

メディアのフィルターを通した科学からもたらされています

モデルは変化し得ます

So models can change.

Models are not static.

不変のものではありません

As we become more comfortable in our environments,

私たちが環境に馴染むにつれ

our model can move closer to our feelings.

モデルは私たちの感覚に近づいていきます

So an example might be,

例としては

100 年前に戻ってみましょう

if you go back 100 years ago,

when electricity was first becoming common,

電気が出現したばかりの頃で

沢山の懸念が持たれていました

there were a lot of fears about it.

呼び鈴を鳴らすのを怖がっていた人がいました

There were people who were afraid to push doorbells,

当時 危険だった電気が使われていたためにです

because there was electricity in there, and that was dangerous.

私たちは電気製品はお手の物です

For us, we're very facile around electricity.

電球の付け替えも

We change light bulbs without even thinking about it.

さして考えることもなくできます

Our model of security around electricity is something we were born into.

電気にまつわる安全のモデルは

私たちにとっては常識です

It hasn't changed as we were growing up.

生まれたときから特に変化もしていません

And we're good at it.

使い方は完全にマスターしています

Or think of the risks on the Internet across generations --

世代毎の

インターネットにまつわるリスクを考えてみましょう

how your parents approach Internet security,

ご両親のインターネットの安全に対する姿勢と

皆さんの姿勢

versus how you do,

versus how our kids will.

そして皆さんの子供はどうなるでしょう

Models eventually fade into the background.

モデルは最終的に背景へと馴染んでいきます

"Intuitive" is just another word for familiar.

直感は「慣れ」の言い換えに過ぎません

So as your model is close to reality and it converges with feelings,

つまりモデルが現実に近づくほど

そして感覚と一体になるほど

you often don't even know it's there.

モデルの存在に気付かなくなります

この良い例は

A nice example of this came from last year and swine flu.

昨年の豚インフルエンザでしょう

豚インフルエンザが最初現れたとき

When swine flu first appeared,

初期情報は沢山の過剰反応を引き起こしました

the initial news caused a lot of overreaction.

Now, it had a name,

名前が付いていたために

which made it scarier than the regular flu,

普通のインフルエンザより致死率が

even though it was more deadly.

低いにも関わらず恐ろしげです

And people thought doctors should be able to deal with it.

人々は医者に何とかしてもらいたいと考えていました

So there was that feeling of lack of control.

自分ではコントロールできない感覚があったわけです

名前と制御不能感が

And those two things made the risk more than it was.

リスクを実際以上のものに見せました

As the novelty wore off and the months went by,

新奇性が薄れ 月日が経ち

there was some amount of tolerance; people got used to it.

ある程度 危機感も薄れ

人々は慣れました

There was no new data, but there was less fear.

新しいデータはなくとも恐れは薄れたのです

By autumn,

秋になると

people thought the doctors should have solved this already.

人々は

医者は既に解決していても良いはずだ と考えるようになりました

And there's kind of a bifurcation:

ある種の分岐がありました

people had to choose between fear and acceptance --

人々は

恐怖か受容か--

実際には、恐怖か無関心かでしょうか--を選ぶところで

actually, fear and indifference --

リスク自体を疑い始めたようなのです

and they kind of chose suspicion.

冬にワクチンが出てきたときには

And when the vaccine appeared last winter,

驚くほど沢山の人が

there were a lot of people -- a surprising number --

who refused to get it.

ワクチンを受けることを拒否したのです

And it's a nice example of how people's feelings of security change,

以上は

人々の安全の感覚やモデルが

how their model changes,

奔放に

sort of wildly,

with no new information, with no new input.

新しい情報もなしに

変化することの良い例です

こういったことはしばしば起こります

This kind of thing happens a lot.

更にもう一つ問題を挙げます

I'm going to give one more complication.

We have feeling, model, reality.

感覚 モデル 実態とあります

I have a very relativistic view of security.

私は安全とは非常に相対的なものだと考えています

これは観察者次第だと思います

I think it depends on the observer.

And most security decisions have a variety of people involved.

またほとんどの安全に関する判断には

多様な人々が関与しています

And stakeholders with specific trade-offs will try to influence the decision.

特定のトレードオフで

利害を得る人達は

判断に関与しようとします

And I call that their agenda.

それが彼らのアジェンダ（課題）だと私は呼んでいます

アジェンダ、つまりこれが

And you see agenda -- this is marketing, this is politics --

マーケッティングだとか政治なのですが

trying to convince you to have one model versus another,

都合の良いモデルを選ばせたり

trying to convince you to ignore a model

モデルを無視して

and trust your feelings,

感覚で行動するようにしむけて

marginalizing people with models you don't like.

好みのモデルを持っていない人を排除しようとしているのです

This is not uncommon.

これは珍しいことではありません

An example, a great example, is the risk of smoking.

その良い例は喫煙のリスクです

過去 50 年の歴史で 喫煙のリスクは

In the history of the past 50 years,

the smoking risk shows how a model changes,

モデルがどのように変化していくかを示しています

and it also shows how an industry fights against a model it doesn't like.

また産業が望まないモデルに対して

どう戦っているかも分かります

Compare that to the secondhand smoke debate --

それを間接喫煙の議論と比較してください

約 20 年遅れて出てきたものです

probably about 20 years behind.

Think about seat belts.

シートベルトはどうでしょう

When I was a kid, no one wore a seat belt.

私が子供の頃 誰もシートベルトを締めていませんでした

Nowadays, no kid will let you drive if you're not wearing a seat belt.

今ではシートベルトを締めないと

誰も運転させてくれません

Compare that to the airbag debate,

エアーバッグはどうでしょう

約 30 年遅れて出てきた議論です

probably about 30 years behind.

全てモデルの変化の例です

All examples of models changing.

What we learn is that changing models is hard.

そこから分かるのは モデルを変えるのは困難だということです

安定しているモデルを変えるのは難しいのです

Models are hard to dislodge.

モデルと感覚が等しいならば

If they equal your feelings,

モデルを持っているということすら分かりません

you don't even know you have a model.

また別の認知バイアスがあります

And there's another cognitive bias

確証バイアスというもので

I'll call confirmation bias,

私たちは自身の信念に沿う

where we tend to accept data that confirms our beliefs

データを受け入れる傾向にあり

and reject data that contradicts our beliefs.

そぐわない情報ははねのける傾向にあるというものです

So evidence against our model, we're likely to ignore,

モデルに反する証拠は

そうだろうと思っても無視しがちです

even if it's compelling.

It has to get very compelling before we'll pay attention.

注意を引くには よほど強い説得力を持つものでなければなりません

New models that extend long periods of time are hard.

長期間をカバーする新しいモデルは難しいものです

地球温暖化がよい例です

Global warming is a great example.

私たちは 80 年という

We're terrible at models that span 80 years.

長いスパンを持つモデルには向いていません

We can do "to the next harvest."

次の収穫まではいけます

We can often do "until our kids grow up."

自分の子供が成長するまでも大丈夫でしょう

But "80 years," we're just not good at.

しかし 80 年ともなると上手くやれません

So it's a very hard model to accept.

従って地球温暖化のモデルは受け入れがとても難しいのです

We can have both models in our head simultaneously --

私たちは頭の中で二つのモデルを同時に持つことが出来ます

that kind of problem where we're holding both beliefs together,

二つの概念をどちらも信じている

そういう場合の問題で

認知的不協和があるときです

the cognitive dissonance.

最終的には

Eventually, the new model will replace the old model.

新しいモデルが古いモデルに取って代わります

Strong feelings can create a model.

強い感情がモデルを作ることがあります

September 11 created a security model in a lot of people's heads.

9.11 は大勢の人の頭の中に

安全モデルを作りました

Also, personal experiences with crime can do it,

また犯罪にあった個人的な経験や

健康を害した経験

personal health scare,

a health scare in the news.

ニュースで知った健康被害などもモデルを作るでしょう

以上は精神科医によると

You'll see these called "flashbulb events" by psychiatrists.

フラッシュバルブ記憶と呼ばれるものです

モデルを一瞬で作り上げます

They can create a model instantaneously,

because they're very emotive.

非常に感情価が高いためです

So in the technological world,

科学技術の話となると

we don't have experience to judge models.

モデルを評価するための経験を

私たちは持っていません

And we rely on others. We rely on proxies.

判断を他者に 代理に委ねています

これは信頼性のある他者に委ねる場合に限り有効です

And this works, as long as it's the correct others.

We rely on government agencies

私たちは治療薬の安全性の判断を

to tell us what pharmaceuticals are safe.

政府機関に委ねています

I flew here yesterday.

私は昨日飛行機でここまで来たのですが

I didn't check the airplane.

飛行機を調べませんでした

I relied on some other group

自分が乗る飛行機の安全性の判断を

他の組織に委ねたのです

to determine whether my plane was safe to fly.

We're here, none of us fear the roof is going to collapse on us,

この場にいる私たちは天井が落ちてくる心配なんてしていません

調べたからではなく

not because we checked,

but because we're pretty sure the building codes here are good.

ここの建築規定は良いと

私たちは確信しているからです

It's a model we just accept

これは疑問も持たずに信じて

受け入れているモデルです

pretty much by faith.

それでいいのです

And that's OK.

Now, what we want is people to get familiar enough with better models,

ここで私たちが望むのは

人々に より良いモデルに

精通してもらい

have it reflected in their feelings,

そしてそれを感覚に反映して

安全に関するトレードオフ判断ができるようになることです

to allow them to make security trade-offs.

これがうまくいかないときは

When these go out of whack, you have two options.

二つ 選択肢があります

One, you can fix people's feelings, directly appeal to feelings.

一つは直接感情に訴えて

感覚を直すことです

人を操るわけですが上手くいくときもあります

It's manipulation, but it can work.

より誠実な方法は

The second, more honest way

実際にモデルを修正することです

is to actually fix the model.

Change happens slowly.

変化はゆっくり訪れます

The smoking debate took 40 years -- and that was an easy one.

喫煙論争は 40 年掛かりました

これは簡単だった方です

こういったことは難しいのです

Some of this stuff is hard.

なんと言っても

Really, though, information seems like our best hope.

情報こそが私たちの最高の希望に思えます

先ほど嘘をつきました

And I lied.

Remember I said feeling, model, reality; reality doesn't change?

感覚 モデル 実態について触れたことを覚えていますか？

現実は変わらないと言いましたが 変わります

It actually does.

私たちは科学技術の世界に生きています

We live in a technological world;

reality changes all the time.

現実は常に移り変わっています

So we might have, for the first time in our species:

ヒトという種の歴史上で初めてこのような環境になったかもしれません

feeling chases model, model chases reality, reality's moving --

感覚がモデルを モデルが実態を追い 実態は変わり続け

いずれも追いつくことは恐らくありません

they might never catch up.

We don't know.

先のことは分かりませんが

しかし長期的には

But in the long term,

感覚と実態は共に重要なものです

both feeling and reality are important.

And I want to close with two quick stories to illustrate this.

それを示す小話を二つ紹介して終わりにしたいと思います

1982 -- I don't know if people will remember this --

1982 年 皆さんが覚えているか分かりませんが

アメリカで短期間

there was a short epidemic of Tylenol poisonings

タイレノール中毒が流行りました

in the United States.

It's a horrific story.

恐ろしい事件です 誰かがタイレノールのボトルに

Someone took a bottle of Tylenol,

毒を混入し フタを閉めて棚に戻しました

put poison in it, closed it up, put it back on the shelf,

それを誰かが購入し 死亡しました

someone else bought it and died.

This terrified people.

この事件は人々に恐怖を与えました

There were a couple of copycat attacks.

いくつかの模倣犯が現れました

There wasn't any real risk, but people were scared.

実際の危険は無かったものの人々は恐れました

And this is how the tamper-proof drug industry was invented.

こういった経緯で

タンパー防止の製薬産業ができたのです

Those tamper-proof caps? That came from this.

あのタンパー防止キャップはここから来ているのです

It's complete security theater.

完全にセキュリティシアターです

As a homework assignment, think of 10 ways to get around it.

宿題として回避策を十通り考えてください

一つはお教えしましょう 注射器です

I'll give you one: a syringe.

But it made people feel better.

しかし人々に安心感を与えました

It made their feeling of security more match the reality.

人々の安全感覚を

より現実に近づけたのです

最後です 数年前友人が子供を産みました

Last story: a few years ago, a friend of mine gave birth.

私は病院の彼女を訪ねました

I visit her in the hospital.

It turns out, when a baby's born now,

今日では新生児に

they put an RFID bracelet on the baby, a corresponding one on the mother,

RFID の腕輪を着け

それに対応した腕輪を母親に着けるようです

so if anyone other than the mother takes the baby out of the maternity ward,

こうすると 母親以外が赤ん坊を産科病棟から連れ出そうとしたときに

アラームが鳴ります

an alarm goes off.

「なんだか凄いですね

I said, "Well, that's kind of neat.

I wonder how rampant baby snatching is out of hospitals."

病院で新生児連れ去りは

どれだけ発生しているんでしょう」

I go home, I look it up.

帰宅して調べてみました

It basically never happens.

ほとんど発生していないようです

(Laughter)

しかし考えてみましょう

But if you think about it, if you are a hospital,

病院で

and you need to take a baby away from its mother,

何らかの検査のために母親の元から

out of the room to run some tests,

部屋の外へ連れ出す必要があるとします

you better have some good security theater,

そのとき良いセキュリティシアターが無ければ

or she's going to rip your arm off.

母親はあなたの腕をもぐでしょう

(Laughter)

(笑)

従って私たち安全を考えるものにとって

So it's important for us,

those of us who design security,

またセキュリティポリシーや

更には公序良俗を考えるものにとって

who look at security policy --

or even look at public policy in ways that affect security.

安全への影響という点で

これは重要なのです

実態だけではなく 感覚と実態を考えねばなりません

It's not just reality; it's feeling and reality.

重要なのは

What's important

両者がほぼ同じであることです

is that they be about the same.

It's important that, if our feelings match reality,

感覚が実態に則していれば 安全に関して

より良いトレードオフ判断ができるということが重要なのです

we make better security trade-offs.

ありがとうございました

Thank you.

(Applause)

（拍手）