Bruce Schneier: The security mirage

Bruce Schneier: le mirage de la sécurité

Traducteur: Elisabeth Buffard Relecteur: Timothée Parrique

La sécurité, c'est donc deux choses différentes:

So, security is two different things:

c'est une impression et c'est une réalité.

it's a feeling, and it's a reality.

Et c'est différent.

And they're different.

Vous pouvez vous sentir en sécurité

You could feel secure even if you're not.

même si vous ne l'êtes pas.

And you can be secure

Et vous pouvez être en sécurité

even if you don't feel it.

même si vous n'en avez pas l'impression.

Really, we have two separate concepts

Nous avons vraiment deux concepts distincts

mapped onto the same word.

rattachés au même terme.

And what I want to do in this talk is to split them apart --

Et ce que je veux faire pendant cette conférence,

c'est les séparer --

figuring out when they diverge and how they converge.

comprendre quand ils diverent

et comment ils convergent.

And language is actually a problem here.

Et le langage est en fait un problème ici

Il n'y a pas beaucoup de mots adéquats

There aren't a lot of good words

pour les concepts dont nous allons parler ici.

for the concepts we're going to talk about.

Alors si vous regardez la sécurité

So if you look at security from economic terms,

en termes économiques,

c'est un échannge.

it's a trade-off.

Chaque fois que vous obtenez une certaine sécurité,

Every time you get some security, you're always trading off something.

vous donnez toujours quelque chose en échange.

Que ce soit une décision personnelle --

Whether this is a personal decision --

que vous installiez une alarme chez vous --

whether you're going to install a burglar alarm in your home --

ou une décision nationale -- où vous allez envahir un pays étranger --

or a national decision,

where you're going to invade a foreign country --

vous allez donner quelque chose en échange,

you're going to trade off something: money or time, convenience, capabilities,

que ce soit de l'argent ou du temps, des commodités, des compétences,

peut-être des libertés fondamentales.

maybe fundamental liberties.

And the question to ask when you look at a security anything

Et la question à poser quand on considère la sécurité de quelque chose

is not whether this makes us safer,

n'est pas de savoir si ça nous protège mieux,

mais si oui ou non l'échange vaut la peine.

but whether it's worth the trade-off.

You've heard in the past several years, the world is safer

Ces dernières années, vous avez entendu dire

que le monde est plus sûr parce que Saddam Hussein n'est pas au pouvoir.

because Saddam Hussein is not in power.

il se pourrait que ce soit vrai, mais ce n'est pas terriblement pertinent.

That might be true, but it's not terribly relevant.

La question est, est-ce que ça valait le coup?

The question is: Was it worth it?

Et vous pouvez décider par vous-même,

And you can make your own decision,

and then you'll decide whether the invasion was worth it.

et ensuite vous déciderez si l'invasion en valait la peine.

C'est de cette façon qu'on réfléchit à la sécurité --

That's how you think about security: in terms of the trade-off.

en termes d'échange.

Now, there's often no right or wrong here.

Maintenant c'est souvent qu'il n'i a ni raison ni tort ici.

Certains d'entre nous ont des système d'alarme chez eux,

Some of us have a burglar alarm system at home and some of us don't.

et d'autres non.

And it'll depend on where we live,

Et ça dépend de là où nous habitons,

si nous habitons seul ou en famille,

whether we live alone or have a family,

de la quantité de trucs chouettes que nous avons,

how much cool stuff we have,

how much we're willing to accept the risk of theft.

du degré de risque de vol

que nous acceptons.

In politics also, there are different opinions.

En politique aussi,

il y a des opinions différentes.

A lot of times, these trade-offs are about more than just security,

Souvent, ces échanges

concernent plus que la sécurité,

and I think that's really important.

et je pense que c'est vraiment important.

Now, people have a natural intuition about these trade-offs.

Et les gens ont une intuition naturelle

envers ces échanges.

We make them every day.

Nous en faisons tous les jours --

Last night in my hotel room, when I decided to double-lock the door,

la nuit dernière, dans ma chambre d'hôtel,

quand j'ai décidé de fermer la porte à double tour,

or you in your car when you drove here;

ou vous dans votre voiture en venant ici,

quand nous allons déjeuner et que nous estimons

when we go eat lunch

and decide the food's not poison and we'll eat it.

que la nourriture n'est pas du poison et que nous la mangeons.

We make these trade-offs again and again,

Nous faisons sans cesse ces échanges

plusieurs fois par jour.

multiple times a day.

Souvent nous ne le remarquons même pas.

We often won't even notice them.

They're just part of being alive; we all do it.

lls font partie de la vie; nous le faisons tous

Toutes les espèces le font.

Every species does it.

Imagine a rabbit in a field, eating grass.

Imaginez un lapin dans un champ, qui mange de l'herbe,

et le lapin va voir un renard.

And the rabbit sees a fox.

That rabbit will make a security trade-off:

Ce lapin fera un échange de sécurité:

"Should I stay, or should I flee?"

"Je reste ou je m'enfuis?"

Et si vous y réfléchissez,

And if you think about it,

les lapins qui sont bons avec les échanges,

the rabbits that are good at making that trade-off

will tend to live and reproduce,

auront tendance à vivre et à se reproduire,

and the rabbits that are bad at it

et les lapins qui sont mauvais

will get eaten or starve.

seront mangés ou mourront de faim.

So you'd think

Alors vous pourriez penser

que nous, en tant qu'espèce prospère sur la planète --

that us, as a successful species on the planet -- you, me, everybody --

vous, moi, tout le monde --

would be really good at making these trade-offs.

nous sommes vraiment bons en ce qui concerne ces genres d'échanges.

Pourtant il semblerait, encore et encore,

Yet it seems, again and again, that we're hopelessly bad at it.

que nous soyons désespérément mauvais à cela.

And I think that's a fundamentally interesting question.

Et je pense que c'est une question fondamentalement intéressante.

I'll give you the short answer.

Je vous donnerai la réponse courte.

The answer is, we respond to the feeling of security

La réponse est, nous réagissons à l'impression de sécurité

et pas à la réalité.

and not the reality.

Now, most of the time, that works.

Et la plupart du temps, ça marche.

Most of the time,

La plupart du temps,

feeling and reality are the same.

l'impression et la réalité sont la même chose.

Certainly that's true for most of human prehistory.

C'est certainement vrai

pendant la plus grande partie de la préhistoire.

We've developed this ability

Nous avons développé cette capacité

because it makes evolutionary sense.

parce qu'elle a du sens du point de vue de l'évolution.

Une manière de considérer ça

One way to think of it is that we're highly optimized

est que nous sommes grandement optimisés

pour les prises de risques

for risk decisions

qui sont endémiques à la vie en petits groupes familaux

that are endemic to living in small family groups

in the East African Highlands in 100,000 BC.

sur les plateaux de l'Afrique de l'Est en 100 000 avant J.-C. --

2010 New York, not so much.

en 2010 à New York, pas tellement.

Now, there are several biases in risk perception.

Maintenant, il y a plusieurs tendances dans la prise de risque.

Beaucoup de bonnes expériences là dedans.

A lot of good experiments in this.

And you can see certain biases that come up again and again.

Et vous pouvez voir que certaines tendances reviennent sans cesse.

Alors je vais vous en donner quatre.

I'll give you four.

We tend to exaggerate spectacular and rare risks

Nous avons tendance à exagérer les risques rares et spectaculaires

et à minimiser les risques courants --

and downplay common risks --

donc prendre l'avion par rapport à conduire.

so, flying versus driving.

The unknown is perceived to be riskier than the familiar.

L'inconnu est perçu

comme étant plus risqué que le familier.

On pourrait citer comme exemple

One example would be:

people fear kidnapping by strangers,

les gens qui ont peur d'être kidnappé par des inconnus,

when the data supports that kidnapping by relatives is much more common.

alors que les données montrent que les enlèvements par des parents sont bien plus courants.

Il s'agit des enfants.

This is for children.

Third, personified risks are perceived to be greater

Troisièmement, les risques personnifiés

sont perçus comme étant plus grands que les risques anonymes --

than anonymous risks.

So, Bin Laden is scarier because he has a name.

donc Ben Laden fait plus peur parce qu'il a un nom.

Et le quatrième

And the fourth is:

people underestimate risks in situations they do control

est que les gens sous-estiment les risques

dans les situations qu'ils contrôlent

et les surestiment dans les situations qu'ils ne contrôlent pas.

and overestimate them in situations they don't control.

So once you take up skydiving or smoking,

Donc une fois que vous vous mettez à faire du parachute ou à fumer,

you downplay the risks.

vous minimisez les risques.

Si un risque vous tombe dessus -- le terrorisme était un bon exemple --

If a risk is thrust upon you -- terrorism is a good example --

vous le surévaluerez, parce que vous n'avez pas l'impression de le contrôler.

you'll overplay it,

because you don't feel like it's in your control.

There are a bunch of other of these cognitive biases,

il y a un tas d'autre tendances, ces tendances cognitives,

that affect our risk decisions.

qui affectent nos prises de risque.

There's the availability heuristic,

il y a l'heuristique de disponibilité,

ce qui signifie en gros

which basically means we estimate the probability of something

que nous estimons la probabilité de quelque chose

by how easy it is to bring instances of it to mind.

en fonction de la facilité d'en concevoir des exemples.

So you can imagine how that works.

Vous pouvez donc imaginer comment ça fonctionne.

If you hear a lot about tiger attacks, there must be a lot of tigers around.

Si vus entendez beaucoup parler d'attaques de tigres, il doit y avoir beaucoup de tigres dans le coin.

Vous n'etendez pas beaucoup parler d'attaques de lions, il n'y a pas beaucoup de lions dans le coin.

You don't hear about lion attacks, there aren't a lot of lions around.

Ça fonctionne jusqu'à ce qu'on invente les journaux

This works, until you invent newspapers,

because what newspapers do is repeat again and again

Parce que ce que font les journaux

est qu'ils répètent encore et encore

des risques rares.

rare risks.

I tell people: if it's in the news, don't worry about it,

je dis aux gens, si c'est dans les infos, ne vous en inquiétez pas.

Parce que par définition,

because by definition, news is something that almost never happens.

les informations sont des choses qui n'arrivent presque jamais.

(Rires)

(Laughter)

When something is so common, it's no longer news.

Quand quelque chose est si courant, ce n'est plus de l'information --

Car crashes, domestic violence --

les accidents de voiture, la violence domestique --

those are the risks you worry about.

voilà les risques dont on se préoccupe.

We're also a species of storytellers.

Nous sommes aussi une espèce de conteurs.

We respond to stories more than data.

Nous réagissons aux histoires plus qu'aux données.

And there's some basic innumeracy going on.

Et ce qu'il se passe, c'est une ignorance numérique élémentaire.

I mean, the joke "One, two, three, many" is kind of right.

Je veux dire, la plaisanterie "Un, Deux, Trois, Beaucoup" est assez vraie.

Nous sommes vraiment bons avec les petits chiffres.

We're really good at small numbers.

One mango, two mangoes, three mangoes,

Une mangue, deux mangues, trois mangues,

10,000 mangoes, 100,000 mangoes --

10 000 mangues, 100 000 mangues --

it's still more mangoes you can eat before they rot.

c'est toujours plus de mangues que vous ne pouvez manger avant qu'elles pourrissent.

So one half, one quarter, one fifth -- we're good at that.

Donc un demi, un quart, un cinquième -- là nous sommes bons.

Un sur un million, un sur un milliard --

One in a million, one in a billion --

dans les deux cas, c'est presque jamais.

they're both almost never.

So we have trouble with the risks that aren't very common.

Donc nous avons du mal avec les risques

qui ne sont pas très courants.

And what these cognitive biases do

Et ce que ces tendances cognitives font,

is they act as filters between us and reality.

est qu'elles agissent comme des filtres entre la réalité et nous.

Et le résultat

And the result is that feeling and reality get out of whack,

est que l'impression et la réalité ne collent pas,

ils diffèrent.

they get different.

Now, you either have a feeling -- you feel more secure than you are,

Et vous avez soit une impression -- vous vous sentez plus en sécurité que vous ne l'êtes.

C'est une fausse impression de sécurité.

there's a false sense of security.

Ou le contraire,

Or the other way, and that's a false sense of insecurity.

et c'est une fausse impression d'insécurité.

J'écris beaucoup sur "le théâtre de la sécurité",

I write a lot about "security theater,"

which are products that make people feel secure,

et ce sont les produits qui rassurent les gens,

but don't actually do anything.

mais qui en fait ne font rien.

There's no real word for stuff that makes us secure,

Il n'y a pas de monde réel pour les choses qui nous mettent en sécurité,

mais ne nous en donnent pas l'impression.

but doesn't make us feel secure.

C'est peut-être ce que la CIA est sensée faire pour nous.

Maybe it's what the CIA is supposed to do for us.

So back to economics.

Revenons donc à l'économie.

If economics, if the market, drives security,

Si l'économie, si le marché conduit la sécurité,

and if people make trade-offs based on the feeling of security,

et si les gens font des échanges

d'après l'impression de sécurité,

then the smart thing for companies to do for the economic incentives

alors la chose intelligente à faire pour les entreprises

pour que les motivations économiques

is to make people feel secure.

permettent aux gens de se sentir plus en sécurité.

And there are two ways to do this.

Et il y a deux manières de le faire.

One, you can make people actually secure

Une, vous pouvez mettre vraiment les gens plus en sécurité

et espérer qu'ils le remarquent.

and hope they notice.

Or two, you can make people just feel secure

Ou deux, vous pouvez donner aux gens seulement une impression de sécurité

and hope they don't notice.

et espérer qu'ils ne s'en aperçoivent pas.

Right?

So what makes people notice?

Alors qu'est-ce qui fait que les gens le remarquent?

Et bien deux ou trois choses :

Well, a couple of things:

understanding of the security,

comprendre la sécurité,

les risques, les menaces

of the risks, the threats,

des contre-mesures, comment elles fonctionnent.

the countermeasures, how they work.

But if you know stuff, you're more likely

Mais si vous savez des trucs,

vos impressions sont plus susceptibles de coller à la réalité.

to have your feelings match reality.

Avoir assez d'exemples dans le monde réel vous aide.

Enough real-world examples helps.

Et nous connaissons tous le taux de criminalité dans notre quartier,

We all know the crime rate in our neighborhood,

because we live there, and we get a feeling about it

parce que nous y vivons, et que nous en avons une impression

that basically matches reality.

qui en gros colle à la réalité.

Le théâtre de sécurité est exposé

Security theater is exposed

when it's obvious that it's not working properly.

quand il est évident qu'il ne fonctionne pas correctement.

Bon, alors qu'est-ce qui fait que les gens ne remarquent pas?

OK. So what makes people not notice?

Well, a poor understanding.

Et bien une mauvaise compréhension.

If you don't understand the risks, you don't understand the costs,

Si vous ne comprenez pas les risques, vous ne comprenez pas les coûts,

you're likely to get the trade-off wrong,

vous êtes susceptibles de ne pas faire les bons échanges,

and your feeling doesn't match reality.

et votre impression ne colle pas à la réalité.

Not enough examples.

Pas assez d'exemples

There's an inherent problem with low-probability events.

C'est un problème inhérent

aux évènements de faible probabilité.

If, for example, terrorism almost never happens,

Si, par exemple,

le terrorisme ne se produit presque jamais,

it's really hard to judge the efficacy of counter-terrorist measures.

il est vraiment difficile de juger

l'efficacité de nos mesures anti-terrorisme.

This is why you keep sacrificing virgins,

C'est pourquoi on continue à sacrifier des vierges,

et pourquoi vos défenses de licorne fonctionnent parfaitement.

and why your unicorn defenses are working just great.

There aren't enough examples of failures.

Il n'y a pas assez d'exemples d'échecs.

Aussi, les impressions qui rendent les problèmes confus --

Also, feelings that cloud the issues --

the cognitive biases I talked about earlier: fears, folk beliefs --

les tendances cognitives dont j'ai parlé plus tôt,

les peurs, les croyances populaires,

basically, an inadequate model of reality.

en gros un modèle inadéquat de réalité.

Alors permettez-moi de compliquer les choses.

So let me complicate things.

I have feeling and reality.

J'ai l'impression et la réalité.

I want to add a third element. I want to add "model."

Je veux ajouter un troisième élément. Je veux ajouter un modèle.

Feeling and model are in our head,

L'impression et le modèle dans nos têtes,

la réalité c'est le monde extérieur.

reality is the outside world; it doesn't change, it's real.

Il ne change pas: il est réel.

Feeling is based on our intuition,

Donc l'impression se fonde sur notre intuition.

Le modèle se fonde sur la raison.

model is based on reason.

C'est en gros la différence.

That's basically the difference.

In a primitive and simple world,

Dans un monde primitif et simple,

there's really no reason for a model,

il n'y a pas de raison pour un modèle.

Parce que l'impression est proche de la réalité.

because feeling is close to reality.

You don't need a model.

On n'a pas besoin d'un modèle.

But in a modern and complex world,

Mais dans un monde moderne et complexe,

on a besoin de modèles

you need models to understand a lot of the risks we face.

pour comprendre bon nombre des risques auxquels nous sommes confrontés.

There's no feeling about germs.

Il n'y a pas d'impression vis à vis des microbes.

Il vous faut un modèle pour les comprendre.

You need a model to understand them.

Donc ce modèle

This model is an intelligent representation of reality.

est une représentation intelligente de la réalité.

It's, of course, limited by science, by technology.

Il est bien sûr limité par la science,

par la technologie.

Nous ne pouvions pas écrire une théorie microbienne de la maladie

We couldn't have a germ theory of disease

before we invented the microscope to see them.

avant d'avoir inventé le microscope pour les voir.

It's limited by our cognitive biases.

Il est limité par nos tendances cognitives.

Mais il a la capacité

But it has the ability to override our feelings.

de l'emporter sur nos impressions.

Where do we get these models? We get them from others.

Où trouvons-nous ces modèles? Nous les trouvons chez les autres.

We get them from religion, from culture, teachers, elders.

Nous les trouvons dans la religion, la culture,

chez les enseignants, chez nos aînés.

Il y a deux ans,

A couple years ago, I was in South Africa on safari.

j'étais en Afrique du Sud en safari.

The tracker I was with grew up in Kruger National Park.

Le pisteur avec qui j'étais a grandi dans le parc national Kruger.

He had some very complex models of how to survive.

Il avait des modèles très complexes de façon de survivre.

And it depended on if you were attacked by a lion, leopard, rhino, or elephant --

Et ça dépendait de si vous étiez attaqué

par un lion, ou un léopard, ou un rhinocéros, ou un éléphant --

and when you had to run away, when you couldn't run away,

et quand vous deviez fuir, et quand vous deviez grimper à un arbre --

when you had to climb a tree, when you could never climb a tree.

quand vous pouviez ne jamais grimper à un arbre.

Je serais mort dans la journée,

I would have died in a day.

mais il était né là,

But he was born there, and he understood how to survive.

et il comprenait comment survivre.

Je suis né à New York City.

I was born in New York City.

J'aurais pu l'emmener à New York, et il serait mort dans la journée.

I could have taken him to New York, and he would have died in a day.

(Rires)

(Laughter)

Because we had different models based on our different experiences.

Parce que nous avions différents modèles

fondés sur nos différentes expériences.

Models can come from the media,

Les modèles peuvent venir des medias,

from our elected officials ...

de nos élus.

Think of models of terrorism,

Pensez aux modèles de terrorisme,

child kidnapping,

d'enlèvement d'enfant,

airline safety, car safety.

de sécurité aérienne, de sécurité automobile.

Models can come from industry.

Les modèles peuvent venir de l'industrie.

The two I'm following are surveillance cameras,

Les deux que je suis sont les caméras de surveillance,

les cartes d'identités,

ID cards,

un bon nombre de nos modèles de sécurité informatique viennent de là.

quite a lot of our computer security models come from there.

Beaucoup de modèles viennent de la science.

A lot of models come from science.

Health models are a great example.

Les modèles de santé sont un excellent exemple.

Think of cancer, bird flu, swine flu, SARS.

Pensez au cancer, à la grippe aviaire, la grippe porcine, le SRAS.

All of our feelings of security about those diseases

Toutes nos impressions de sécurité

vis à vis de ces maladies

come from models given to us, really, by science filtered through the media.

viennent de modèles

qu'on nous donne, vraiment, par la science filtrée par les médias.

Donc les modèles changent.

So models can change.

Models are not static.

Les modèles ne sont pas statiques.

As we become more comfortable in our environments,

Alors que nous sommes plus à l'aise avec nos environnements,

our model can move closer to our feelings.

notre modèle peut se rapprocher de nos impressions.

So an example might be,

Et on pourrait prendre pour exemple

si on remonte à 100 en arrière

if you go back 100 years ago,

when electricity was first becoming common,

quand l'électricité est devenue courante pour la première fois,

elle a généré beaucoup de peurs.

there were a lot of fears about it.

Je veux dire qu'il y avait des gens qui avaient peur de sonner aux portes ;

There were people who were afraid to push doorbells,

parce qu'il y avait de l'électricité dans les sonnettes, et que c'était dangereux.

because there was electricity in there, and that was dangerous.

Pour nous, nous sommes à l'aise avec l'électricité.

For us, we're very facile around electricity.

Nous changeons les ampoules

We change light bulbs without even thinking about it.

sans même y réfléchir.

Our model of security around electricity is something we were born into.

Notre modèle de sécurité vis à vis de l'électricité

est une chose dans laquelle nous sommes nés.

It hasn't changed as we were growing up.

Il n'a pas changé alors que nous grandissions.

And we're good at it.

Et nous sommes bons là-dedans.

Or think of the risks on the Internet across generations --

Ou sinon, pensez aux risques

sur internet entre générations --

how your parents approach Internet security,

comment vos parents abordent la sécurité d'internet,

par rapport à ce que vous faites,

versus how you do,

versus how our kids will.

par rapport à comment vos enfants le feront.

Models eventually fade into the background.

Les modèles finissent par se fondre dans le décor.

"Intuitive" is just another word for familiar.

Intuitif est synonyme de familier.

So as your model is close to reality and it converges with feelings,

Donc quand notre modèle est proche de la réalité,

et qu'il converge avec les impressions,

you often don't even know it's there.

vous ignorez souvent qu'il est là.

Et un bon exemple nous est venu

A nice example of this came from last year and swine flu.

l'an dernier avec la grippe porcine.

Quand la grippe porcine est apparue pour la première fois,

When swine flu first appeared,

l'information initiale a provoqué beaucoup de réactions excessives.

the initial news caused a lot of overreaction.

Now, it had a name,

D'abord la maladie avait un nom,

which made it scarier than the regular flu,

ce qui la rendait plus effrayante que la grippe traditionnelle,

even though it was more deadly.

même si elle était plus mortelle.

And people thought doctors should be able to deal with it.

Et les gens pensaient que les médecins devraient pouvoir s'en occuper.

So there was that feeling of lack of control.

Il y a donc eu un sentiment de manque de contrôle.

Et ces deux choses

And those two things made the risk more than it was.

ont fait que le risque semblait plus important qu'il n'était.

As the novelty wore off and the months went by,

Quand l'effet de nouveauté s'est estompé et que les mois ont passé,

there was some amount of tolerance; people got used to it.

il y a eu une une certaine tolérance,

les gens s'y sont habitués.

There was no new data, but there was less fear.

Il n'y a pas eu de nouvelles données, mais il y a eu moins de peur.

By autumn,

En automne,

people thought the doctors should have solved this already.

les gens pensaient

que les médecins auraient déjà dû résoudre le problème.

And there's kind of a bifurcation:

Et il y a eu un genre de tournant --

people had to choose between fear and acceptance --

les gens devaient choisir

entre la peur et l'acceptation --

en fait entre la peur et l'indifférence --

actually, fear and indifference --

ils ont choisi la méfiance.

and they kind of chose suspicion.

Et quand le vaccin est apparu l'hiver dernier,

And when the vaccine appeared last winter,

il y a eu beaucoup de gens -- un nombre surprenant --

there were a lot of people -- a surprising number --

who refused to get it.

qui ont refusé de se faire vacciner --

And it's a nice example of how people's feelings of security change,

et c'est un bon exemple

de la façon dont les impressions de sécurité des gens changent,

how their model changes,

comment leurs modèles changent, de façon irraisonnée

sort of wildly,

with no new information, with no new input.

sans nouvelles informations,

sans nouvel apport.

Ce genre de chose se produit souvent.

This kind of thing happens a lot.

Et je vais apporter une complication supplémentaire.

I'm going to give one more complication.

We have feeling, model, reality.

Nous avons l'impression, le modèle, la réalité.

I have a very relativistic view of security.

J'ai une vision très réaliste de la sécurité.

Je pense qu'elle dépend de l'observateur.

I think it depends on the observer.

And most security decisions have a variety of people involved.

Et la plupart des décisions de sécurité

ont des gens impliqués très différents .

And stakeholders with specific trade-offs will try to influence the decision.

Et les actionnaires

qui ont des échanges spécifiques

essaieront d'influencer la décision.

And I call that their agenda.

Et j'appelle ça leur programme.

Et vous voyez un programme --

And you see agenda -- this is marketing, this is politics --

c'est du marketing, c'est de la politique --

trying to convince you to have one model versus another,

essayez de vous convaincre que vous avez un modèle par rapport à un autre,

trying to convince you to ignore a model

essayez de vous convaincre d'ignorer un modèle

and trust your feelings,

et de vous fier à vos impressions,

marginalizing people with models you don't like.

marginaliser les gens qui ont des modèles que vous n'aimez pas.

This is not uncommon.

Ce n'est pas rare,

An example, a great example, is the risk of smoking.

Un exemple, un très bon exemple, c'est le risque du tabac.

Dans l'histoire de ces 50 dernières années, le risque du tabac

In the history of the past 50 years,

the smoking risk shows how a model changes,

montre comment un modèle change,

and it also shows how an industry fights against a model it doesn't like.

et il montre aussi comment une industrie combat

un modèle qu'elle n'aime aps.

Compare that to the secondhand smoke debate --

Comparez ça au débat sur le tabagisme passif --

probablement avec 20 ans de retard.

probably about 20 years behind.

Think about seat belts.

Pensez aux ceintures de sécurité.

When I was a kid, no one wore a seat belt.

Quand j'étais enfant, personne ne mettait de ceinture de sécurité.

Nowadays, no kid will let you drive if you're not wearing a seat belt.

Aujourd'hui, pas un enfant ne vous laissera conduire

si vous n'attachez pas votre ceinture de sécurité.

Compare that to the airbag debate,

Comparez ça au débat sur l'airbag --

probablement avec 30 ans de retard.

probably about 30 years behind.

Ce sont tous des exemples de modèles qui changent.

All examples of models changing.

What we learn is that changing models is hard.

Ce que nous apprenons c'est qu'il est difficile de changer les modèles.

Les modèles sont difficiles à déloger.

Models are hard to dislodge.

S'ils correspondent à vos impressions,

If they equal your feelings,

vous ne savez même pas que vous avez un modèle.

you don't even know you have a model.

Et il y a une autre tendance cognitive

And there's another cognitive bias

que j'appellerais une tendance de confirmation,

I'll call confirmation bias,

quand nous tendons à accepter des données

where we tend to accept data that confirms our beliefs

qui confirment ce que nous croyons

and reject data that contradicts our beliefs.

et à rejeter des données qui contredisent ce que nous croyons.

So evidence against our model, we're likely to ignore,

Donc nous sommes susceptibles

d'ignorer les preuves qui contredisent notre modèle, même si elles sont flagrantes.

even if it's compelling.

It has to get very compelling before we'll pay attention.

Elle doivent être vraiment flagrantes avant que nous y prêtions attention.

New models that extend long periods of time are hard.

Les nouveaux modèles qui durent sur de longues périodes sont difficiles.

Le réchauffement planétaire est un excellent exemple.

Global warming is a great example.

Nous sommes très mauvais

We're terrible at models that span 80 years.

avec les modèles qui couvrent 80 ans.

We can do "to the next harvest."

Nous pouvons aller jusqu'à la prochaine récolte.

We can often do "until our kids grow up."

Nous pouvons souvent aller jusqu'à ce que nos enfants grandissent.

But "80 years," we're just not good at.

Mais 80 ans, nous ne sommes pas bons avec ça.

So it's a very hard model to accept.

C'est donc un modèle très difficile à accepter.

We can have both models in our head simultaneously --

Nous pouvons avoir les deux modèles simultanément en tête,

that kind of problem where we're holding both beliefs together,

ou ce genre de problème

où nous prenons ensemble ces deux choses en quoi nous croyons,

ou la dissonance cognitive.

the cognitive dissonance.

Au final,

Eventually, the new model will replace the old model.

le nouveau modèle remplacera l'ancien.

Strong feelings can create a model.

Des impressions fortes peuvent créer un modèle.

September 11 created a security model in a lot of people's heads.

Le 11 septembre a créé un modèle de sécurité

dans la tête de beaucoup de gens.

Also, personal experiences with crime can do it,

Aussi, les expériences personnelles avec le crime peuvent le faire,

les peurs pour la santé personnelle,

personal health scare,

a health scare in the news.

une alerte de santé dans les informations.

Vous verrez que les psychiatres

You'll see these called "flashbulb events" by psychiatrists.

les appellent des évènements flash.

ils peuvent créer un modèle instantannément,

They can create a model instantaneously,

because they're very emotive.

parce qu'ils génèrent beaucoup d'émotion.

So in the technological world,

Donc dans le monde technologique,

we don't have experience to judge models.

nous n'avons pas l'expérience

pour juger les modèles.

And we rely on others. We rely on proxies.

Et nous comptons sur les autres. Nous comptons sur des intermédiaires.

Je veux dire, ça marche tant qu'il s'agit de corriger les autres.

And this works, as long as it's the correct others.

We rely on government agencies

Nous comptons sur les agences gouvernementales

to tell us what pharmaceuticals are safe.

pour nous dire quels produits pharmaceutiques sont sûrs.

I flew here yesterday.

Je suis venu en avion ici hier,

I didn't check the airplane.

je n'ai pas vérifié l'avion.

I relied on some other group

j'ai compté sur un autre groupe

pour déterminer si mon avion était sûr pour voler.

to determine whether my plane was safe to fly.

We're here, none of us fear the roof is going to collapse on us,

Nous sommes ici, aucun de nous n'a peur que le toit s'effondre sur nous,

pas parce que nous avons vérifié,

not because we checked,

but because we're pretty sure the building codes here are good.

mais parce que nous sommes sûrs

que les codes de constructions sont bons ici.

It's a model we just accept

C'est un modèle que nous nous contentons d'accepter

plutôt par foi.

pretty much by faith.

Et c'est bien.

And that's OK.

Now, what we want is people to get familiar enough with better models,

Maintenant, ce que nous voulons

c'est que les gens se familiarisent suffisemment

avec de meilleurs modèles --

have it reflected in their feelings,

qui reflètent leurs impressions --

pour leur permettre de faire des échanges de sécurité.

to allow them to make security trade-offs.

Et quand ils ne collent pas,

When these go out of whack, you have two options.

vous avez deux options.

One, you can fix people's feelings, directly appeal to feelings.

La première, vous pouvez changer les impressions des gens,

un appel direct aux impressions.

C'est de la manipulation, mais ça peut marcher.

It's manipulation, but it can work.

La deuxième, plus honnête,

The second, more honest way

est en fait de modifier le modèle.

is to actually fix the model.

Change happens slowly.

Le changement se produit lentement.

The smoking debate took 40 years -- and that was an easy one.

Le débat sur le tabac a pris 40 ans,

et c'était facile.

Certains de ces trucs sont difficiles.

Some of this stuff is hard.

Je veux dire

Really, though, information seems like our best hope.

que les informations semblent être notre meilleur espoir.

Et j'ai menti.

And I lied.

Remember I said feeling, model, reality; reality doesn't change?

Rappelez-vous quand j'ai dit impression, modèle, réalité.

J'ai dit que la réalité ne change pas. En fait, si.

It actually does.

Nous vivons dans u monde technologique ;

We live in a technological world;

reality changes all the time.

la réalité change tout le temps.

So we might have, for the first time in our species:

Il se pourrait donc que nous ayons -- pour la première fois dans l'histoire de notre espèce --

feeling chases model, model chases reality, reality's moving --

l'impression qui court derrière le modèle, le modèle derrière la réalité, la réalité bouge --

ils pourraient ne jamais se rattrapper.

they might never catch up.

We don't know.

Nous ne le savons pas.

Mais sur le long terme,

But in the long term,

l'impression et la réalité sont toutes deux importantes.

both feeling and reality are important.

And I want to close with two quick stories to illustrate this.

Et je veut conclure avec deux histoires courtes pour illustrer cela.

1982 -- I don't know if people will remember this --

1982 -- je ne sais pas si les gens se souviendront de ça --

il y a eu un épidémie de courte durée

there was a short epidemic of Tylenol poisonings

d'empoisonnements au Tylenol aux Etats-Unis.

in the United States.

It's a horrific story.

C'est une histoire horrible. Quelqu'un a pris une bouteille de Tylenol,

Someone took a bottle of Tylenol,

a mis du poison dedans, l'a refermée, l'a remise dans le rayon.

put poison in it, closed it up, put it back on the shelf,

Quelqu'un d'autre l'a acheté et est mort.

someone else bought it and died.

This terrified people.

Ça a terrifié les gens.

There were a couple of copycat attacks.

Il y a eu deux ou trois attaques par des imitateurs.

There wasn't any real risk, but people were scared.

Il n'y avait pas vraiment de risque réel, mais les gens étaient terrifiés.

And this is how the tamper-proof drug industry was invented.

Et c'est comme ça

que l'industrie du médicament scellé a été inventée.

Those tamper-proof caps? That came from this.

Ces bouchons scellés, c'est de là qu'ils viennent.

It's complete security theater.

C'est du théâtre de sécurité complet.

As a homework assignment, think of 10 ways to get around it.

Et en guise de devoir à la maison, réfléchissez à 10 manières de le contourner.

Je vous en donne un, une seringue.

I'll give you one: a syringe.

But it made people feel better.

Mais ça a rassuré les gens.

It made their feeling of security more match the reality.

Ça a rapproché leur impression de sécurité

de la réalité.

La dernière histoire, il y a quelques années, une de mes amies a eu un bébé.

Last story: a few years ago, a friend of mine gave birth.

Je suis allé la voir à l'hôpital.

I visit her in the hospital.

It turns out, when a baby's born now,

Il s'avère que maintenant, quand un bébé naît,

they put an RFID bracelet on the baby, a corresponding one on the mother,

ils lui mettent un bracelet avec une puce RFID,

en mettent un qui correspond à la mère,

so if anyone other than the mother takes the baby out of the maternity ward,

pour que si quelqu'un d'autre que la mère emmène le bébé hors de la maternité,

un alarme se déclenche.

an alarm goes off.

J'ai dit, "C'est chouette.

I said, "Well, that's kind of neat.

I wonder how rampant baby snatching is out of hospitals."

Je me demande à quel point l'enlèvement de bébés est en augmentation

en dehors des hôpitaux."

I go home, I look it up.

Je rentre chez moi, je vérifie.

It basically never happens.

Ça n'arrive quasiment jamais.

(Laughter)

Mais si vous y réfléchissez,

But if you think about it, if you are a hospital,

si vous êtes un hôpital,

and you need to take a baby away from its mother,

et que nous devez enlever un bébé à sa mère,

out of the room to run some tests,

le sortir de la pièce pour faire des examens,

you better have some good security theater,

il vaut mieux que vous ayez un bon théâtre de sécurité,

or she's going to rip your arm off.

ou elle va vous arracher le bras.

(Laughter)

(Rires)

C'est donc important pour nous,

So it's important for us,

those of us who design security,

qui concevons des systèmes de sécurité,

qui examinons la politique de sécurité,

who look at security policy --

or even look at public policy in ways that affect security.

ou même la politique publique

de manières qui affectent la sécurité.

Il ne s'agit pas que de sécurité, il s'agit d'impression et de réalité.

It's not just reality; it's feeling and reality.

Ce qui est important

What's important

est qu'elles soient en gros équivalentes,

is that they be about the same.

It's important that, if our feelings match reality,

il est important que, si nos impressions collent à la réalité,

nous faisons de meilleurs échanges de sécurité.

we make better security trade-offs.

Merci.

Thank you.

(Applause)

(Applaudissements)