Edward Tenner: Unintended consequences

Edward Tenner: Conséquences inattendues de l'innovation

Traducteur: Didier Chambaretaud Relecteur: Amelia Shroyer

I didn't always love unintended consequences,

Je n'ai pas toujours aimé les conséquences inattendues,

but I've really learned to appreciate them.

mais j'ai vraiment appris à les apprécier.

I've learned that they're really the essence

J'ai découvert qu'elles sont l'essence

of what makes for progress,

du progrès lui-même,

even when they seem to be terrible.

même quand elles semblent très négatives

And I'd like to review

J'aimerais passer en revue

just how unintended consequences

de quelle manière les conséquences inattendues

play the part that they do.

jouent le rôle qu'elles jouent

Let's go to 40,000 years before the present,

Revenons 40,000 ans en arrière

to the time of the cultural explosion,

à l'époque de l'explosion de la culture

when music, art, technology,

quand l'art, la musique et la technologie ...

so many of the things that we're enjoying today,

autant de choses dont nous profitons aujourd'hui,

so many of the things that are being demonstrated at TED

autant de choses dont TED fait la démonstration

were born.

virent le jour.

And the anthropologist Randall White

Et l'anthropologue Randall White

has made a very interesting observation:

a fait une observation très intéressante:

that if our ancestors

si nos ancêtres

40,000 years ago

il y a 40000 ans

had been able to see

avaient pu voir

what they had done,

ce qu'ils avaient fait

they wouldn't have really understood it.

ils n'auraient pas vraiment compris

They were responding

Ils répondaient

to immediate concerns.

à des préoccupations immédiates

They were making it possible for us

Ils nous rendaient possibles

to do what they do,

de faire ce qu'ils font,

and yet, they didn't really understand

et pourtant, ils ne comprenaient pas réellement

how they did it.

comment ils le faisaient.

Now let's advance to 10,000 years before the present.

Maintenant avançons jusqu'à 10000 ans avant le temps présent.

And this is when it really gets interesting.

C'est là que cela devient vraiment intéressant.

What about the domestication of grains?

Qu'en est-il de la domestication des céréales ?

What about the origins of agriculture?

Qu'en est-il des débuts de l'agriculture ?

What would our ancestors 10,000 years ago

Qu'auraient dit nos ancêtres il y a 10000 ans

have said

...

if they really had technology assessment?

s'ils avaient conduit une évaluation technologique

And I could just imagine the committees

Je pourrais bien imaginer les comités

reporting back to them

leur faisant un rapport

on where agriculture was going to take humanity,

sur ce que l'agriculture apporterait à l'humanité,

at least in the next few hundred years.

au moins dans les siècles suivants.

It was really bad news.

Et bien les nouvelles n'auraient pas été bonnes.

First of all, worse nutrition,

Pour commencer, une alimentation détériorée,

maybe shorter life spans.

peut-être des espérances de vies raccourcies.

It was simply awful for women.

une situation tout simplement horrible pour les femmes.

The skeletal remains from that period

Les restes des squelettes de cette période

have shown that they were grinding grain morning, noon and night.

démontrent qu'elles passaient leurs journées et leurs nuits à moudre le grain.

And politically, it was awful.

Et politiquement, c'était horrible.

It was the beginning of a much higher degree

C'était le début d'un beaucoup plus grand degré

of inequality among people.

d'inégalité entre les gens.

If there had been rational technology assessment then,

S'il y avait eu une analyse technologique rationnelle à ce moment-là

I think they very well might have said,

je pense qu'ils auraient bien pu dire

"Let's call the whole thing off."

"Laissons tomber tout cela"

Even now, our choices are having unintended effects.

A l'heure actuelle, nos choix ont des effets inattendus.

Historically, for example,

Par exemple, historiquement,

chopsticks -- according to one Japanese anthropologist

les baguettes -- d'après un anthropologue japonais

who wrote a dissertation about it

qui a écrit une thèse à ce sujet

at the University of Michigan --

à l'Université du Michigan --

resulted in long-term changes

ont induit des changements à long terme

in the dentition, in the teeth,

dans la denture, dans la dent-même,

of the Japanese public.

des japonais

And we are also changing our teeth right now.

Nous aussi sommes en train de transformer nos dents actuellement.

There is evidence

Il y a des preuves

that the human mouth and teeth

du fait que la bouche et les dents humaines

are growing smaller all the time.

ne font que se réduire en taille.

That's not necessarily a bad unintended consequence.

Ce n'est pas nécessairement une mauvaise conséquence inattendue.

But I think from the point of view of a Neanderthal,

Mais du point de vue de Néanderthal,

there would have been a lot of disapproval

il y aurait eu pas mal de désapprobation

of the wimpish choppers that we now have.

concernant les rateliers de demi-portions que nous avons maintenant

So these things are kind of relative

Ainsi, ces choses-là sont relatives

to where you or your ancestors happen to stand.

selon la place où vous vous situez vous ou vos ancêtres.

In the ancient world

Dans le monde ancien

there was a lot of respect for unintended consequences,

il y avait beaucoup de respect pour les conséquences inattendues,

and there was a very healthy sense of caution,

et il y avait une prudence très saine,

reflected in the Tree of Knowledge,

qui se retrouvait dans l'Arbre de la connaissance,

in Pandora's Box,

dans la boîte de Pandore,

and especially in the myth of Prometheus

et particulièrement dans le mythe de Prométhée

that's been so important

qui a été si important

in recent metaphors about technology.

dans les métaphores récentes sur la technologie

And that's all very true.

Et c'est très vrai.

The physicians of the ancient world --

Les médecins de l'ancien monde --

especially the Egyptians,

en particulier les égyptiens,

who started medicine as we know it --

qui démarrèrent la médecine comme nous la connaissons --

were very conscious

avaient fortement consciente

of what they could and couldn't treat.

de ce qu'ils pouvaient ou ne pouvaient pas soigner.

And the translations of the surviving texts say,

Et les traductions de textes ayant survécus disent,

"This I will not treat. This I cannot treat."

"Je ne soignerai pas ceci. Je ne peux pas soinger cela.

They were very conscious.

Ils étaient très conscientes.

So were the followers of Hippocrates.

De même pour les successeurs d'Hippocrates.

The Hippocratic manuscripts also --

Les écrits d'Hippocrates également --

repeatedly, according to recent studies --

de façon récurrente, selon des études récentes --

show how important it is not to do harm.

montrent combien il est important de ne pas causer de mal.

More recently,

Plus récemment,

Harvey Cushing,

Harvey Cushing,

who really developed neurosurgery as we know it,

qui est le véritable père de la neurochirurgie moderne

who changed it from a field of medicine

partant d'un domaine médical

that had a majority of deaths resulting from surgery

qui avaient une majorité de décès résultant de la chirurgie

to one in which there was a hopeful outlook,

à celui dans lequel il y avait une perspective pleines d'espoir,

he was very conscious

il était très consient

that he was not always going to do the right thing.

de ce qu'il ne ferait pas toujours le bon geste.

But he did his best,

Mais il faisait de son mieux,

and he kept meticulous records

conservant méticuleusement des notes

that let him transform that branch of medicine.

qui l'amenèrent à transformer cette branche de la médecine.

Now if we look forward a bit

Si maintenant nous avançons un peu

to the 19th century,

jusqu'au 19ième siècle,

we find a new style of technology.

on tombe sur une nouvelle sorte de technologie.

What we find is,

Ce que nous rencontrons, ce ne

no longer simple tools,

sont plus de simples outils,

but systems.

mais des systèmes.

We find more and more

On trouve de plus en plus

complex arrangements of machines

des arrangements complexes de machines

that make it harder and harder

qui rendent de plus en plus difficile

to diagnose what's going on.

le diagnostic de ce qui se passe.

And the first people who saw that

Et les premiers à s'en rendre compte

were the telegraphers of the mid-19th century,

furent les télégraphistes du milieu du 19ième siècle.

who were the original hackers.

qui étaient les premiers hackers.

Thomas Edison would have been very, very comfortable

Thomas Edison aurait été très très à l'aise

in the atmosphere of a software firm today.

dans l'atmosphère des sociétés de logiciels d'aujourd'hui.

And these hackers had a word

Et ces hackers ont donné un mot

for those mysterious bugs in telegraph systems

à ces mystérieuses bestioles des systèmes télégraphiques

that they called bugs.

ils les nommèrent: "bugs".

That was the origin of the word "bug."

C'est l'origine du mot "bug".

This consciousness, though,

Cette conscience pourtant

was a little slow to seep through the general population,

mis longtemps à faire son chemin dans la population générale,

even people who were very, very well informed.

même des gens très très bien informés.

Samuel Clemens, Mark Twain,

Samuel Clemens, Mark Twain,

was a big investor

était un gros investisseur

in the most complex machine of all times --

dans la machine la plus complexe de tous les temps --

at least until 1918 --

au moins jusqu'en 1918 --

registered with the U.S. Patent Office.

enregistré au bureau des brevets américains.

That was the Paige typesetter.

C'était le typographe Paige.

The Paige typesetter

Le typographe Paige

had 18,000 parts.

avait 18000 pièces.

The patent had 64 pages of text

Le brevet comportait 64 pages de texte

and 271 figures.

et 271 schémas.

It was such a beautiful machine

c'était une très belle machine

because it did everything that a human being did

car elle faisait tout ce qu'un humain faisait

in setting type --

en composition --

including returning the type to its place,

dont le fait de remettre le caractère dans sa case,

which was a very difficult thing.

ce qui était un tour de force.

And Mark Twain, who knew all about typesetting,

Mark Twain, qui connaissait tout de la composition,

really was smitten by this machine.

en était amoureux fou.

Unfortunately, he was smitten in more ways than one,

Malheureusement, il en été épris au delà du raisonnable,

because it made him bankrupt,

au point de le conduire à la faillite,

and he had to tour the world speaking

et il lui a fallu donner des conférences dans le monde entier

to recoup his money.

pour rentrer dans son argent.

And this was an important thing

Et il est important d'observer

about 19th century technology,

au sujet de la technologie du 19 ième siècle,

that all these relationships among parts

que toutes ces relations multiples entre éléments

could make the most brilliant idea fall apart,

a finalement ruiné la plus brillante des idées,

even when judged by the most expert people.

même aux yeux des personnes les plus pointues de leur époque.

Now there is something else, though, in the early 20th century

Maintenant en ce début de 20 ième siècle, il y a encore autre chose

that made things even more complicated.

qui rendit les choses encore plus compliquées.

And that was that safety technology itself

C'était que la technologie de la sécurité elle-même

could be a source of danger.

pouvait être la source de dangers.

The lesson of the Titanic, for a lot of the contemporaries,

La leçon du Titanic, pour nombre de contemporains,

was that you must have enough lifeboats

avait été qu'il faut suffisamment de canots de sauvetage

for everyone on the ship.

pour tous les passagers du navire.

And this was the result

Et ce fut le résultat

of the tragic loss of lives

de la perte des vies

of people who could not get into them.

de tous ces gens qui ne purent monter dedans.

However, there was another case, the Eastland,

Pourtant, il y eut un autre cas, l'Easterland,

a ship that capsized in Chicago Harbor in 1915,

un navire qui a chaviré dans le port de Chicago en 1915,

and it killed 841 people --

faisant 841 victimes --

that was 14 more

c'est- à-dire 14 de plus

than the passenger toll of the Titanic.

que les pertes humaines du Titanic.

The reason for it, in part, was

La raison, en partie, était

the extra life boats that were added

les canots de sauvetages supplémentaires qui avaient été ajoutés

that made this already unstable ship

qui rendit ce navire déjà instable

even more unstable.

encore plus instable.

And that again proves

Et ceci à son tour nous démontre

that when you're talking about unintended consequences,

que lorsque l'on parle de conséquences inattendues,

it's not that easy to know

il n'est pas aisé de savoir

the right lessons to draw.

tirer la bonne leçon.

It's really a question of the system, how the ship was loaded,

C'est en réalité une question systémique, comment le navire est chargé,

the ballast and many other things.

le lest et beaucoup d'autres choses.

So the 20th century, then,

Le 20ième siècle a donc

saw how much more complex reality was,

vu se manifester la réalité était plus complexe,

but it also saw a positive side.

mais il a vu apparaître aussi un côté positif.

It saw that invention

L'innovation

could actually benefit from emergencies.

pouvait en vérité profiter des situations de crises.

It could benefit

Elle pouvait profiter

from tragedies.

des tragédies.

And my favorite example of that --

Mon exemple préféré de ceci --

which is not really widely known

qui n'est pas très connu

as a technological miracle,

en tant que miracle technologique,

but it may be one of the greatest of all times,

mais ce pourrait être l'un des plus grands de tous les temps:

was the scaling up of penicillin in the Second World War.

il s'agit de la culture de la pénicilline pendant la 2nde guerre mondiale.

Penicillin was discovered in 1928,

La découverte de la pénicilline remonte à 1928,

but even by 1940,

et pourtant en 1940,

no commercially and medically useful quantities of it

elle n'avait pas encore pu être produite

were being produced.

en quantités commercialement et médicalement utiles.

A number of pharmaceutical companies were working on it.

Des laboratoires pharmaceutiques travaillaient dessus.

They were working on it independently,

Ils y travaillaient indépendamment;

and they weren't getting anywhere.

et personne n'aboutissait à rien.

And the Government Research Bureau

L'Office National de la Recherche

brought representatives together

rassembla leurs représentants

and told them that this is something

et leur dit

that has to be done.

qu'il fallait y arriver.

And not only did they do it,

Et non seulement ils l'ont fait,

but within two years,

mais dans les deux ans,

they scaled up penicillin

la penicilline est passée de

from preparation in one-liter flasks

préparations dans des fioles d'un litre

to 10,000-gallon vats.

à des cuves de près de 40000 litres

That was how quickly penicillin was produced

C'est à cette vitesse que la pénicilline fut produite

and became one of the greatest medical advances of all time.

pour devenir l'un des plus grands progrès médicaux de tous les temps.

In the Second World War, too,

Pendant la seconde guerre mondiale également;

the existence

l'existence

of solar radiation

des radiations solaires

was demonstrated by studies of interference

fut mise en évidence par des études sur les interférences

that was detected by the radar stations of Great Britain.

détectées par les stations radar de Grande Bretagne.

So there were benefits in calamities --

Ainsi donc les calamités profitent

benefits to pure science,

à la science fondamentale,

as well as to applied science

ainsi qu'aux sciences appliquées,

and medicine.

et à la médecine.

Now when we come to the period after the Second World War,

Quand on progresse jusqu'à la période de l'après- seconde guerre mondiale,

unintended consequences get even more interesting.

les conséquences inattendues deviennent encore plus intéressantes.

And my favorite example of that

Mon exemple favori

occurred beginning in 1976,

s'est produit au début de 1976,

when it was discovered

quand fut découvert le fait

that the bacteria causing Legionnaires disease

que la bactérie de la légionellose

had always been present in natural waters,

a toujours été présente dans l'eau

but it was the precise temperature of the water

mais que c'est précisément la température de l'eau

in heating, ventilating and air conditioning systems

dans les systèmes de chauffage, de ventilation et d'air conditionné

that raised the right temperature

qui permet d'atteindre le point exact

for the maximum reproduction

de reproduction maximum

of Legionella bacillus.

du bacille de la légionellose

Well, technology to the rescue.

Allez, la technologie: ... à la rescousse !

So chemists got to work,

Les chimistes se sont mis au travail,

and they developed a bactericide

et ont développé un bactéricide

that became widely used in those systems.

qui fut largement utilisé dans ces systèmes.

But something else happened in the early 1980s,

Mais au début des années 80, quelque chose d'autre se produisit,

and that was that there was a mysterious epidemic

une mystérieuse épidémie

of failures of tape drives

de pannes de lecteurs de bandes

all over the United States.

partout aux Etats Unis.

And IBM, which made them,

IBM, qui les fabriquait,

just didn't know what to do.

ne savaient simplement pas quoi faire.

They commissioned a group of their best scientists

Ils ont mandaté un groupe de leurs meilleurs scientifiques

to investigate,

pour enquêter,

and what they found was

et ce qu'ils trouvèrent c'est

that all these tape drives

que tous ces lecteurs de bandes

were located near ventilation ducts.

étaient situés près de conduits de ventilation

What happened was the bactericide was formulated

Ce qui s'est passé c'est que le bactéricide intégrait

with minute traces of tin.

dans sa formulation d'infimes quantités d'étain.

And these tin particles were deposited on the tape heads

Ces particules d'étain se déposaient sur les têtes de lectures

and were crashing the tape heads.

ce qui les endommageait.

So they reformulated the bactericide.

La formule du bactéricide fut modifiée.

But what's interesting to me

Mais ce qui m'intéresse ici

is that this was the first case

c'est que c'est le premier cas

of a mechanical device

de système mécanique

suffering, at least indirectly, from a human disease.

souffrant, au moins indirectement, d'une maladie humaine.

So it shows that we're really all in this together.

Cela montre que nous sommes tous dans le même bateau !

(Laughter)

...

In fact, it also shows something interesting,

D'où également le constat intéressant suivant:

that although our capabilities and technology

nos capacités et notre technologie

have been expanding geometrically,

ont eu une croissance géométrique,

unfortunately, our ability to model their long-term behavior,

malheureusement, notre capacité à modéliser leur comportement à long terme,

which has also been increasing,

qui s'est aussi développée,

has been increasing only arithmetically.

n'a cru qu'arithmétiquement.

So one of the characteristic problems of our time

Par conséquent, l'enjeu de notre époque

is how to close this gap

est de trouver comment combler cet écart

between capabilities and foresight.

entre capacités et prévisions.

One other very positive consequence

Une autre conséquence très positive

of 20th century technology, though,

de la technologie du 20 ième siècle pourtant

was the way in which other kinds of calamities

fut la façon avec laquelle d'autres calamités

could lead to positive advances.

purent conduire à des avancées positives.

There are two historians of business

Deux historiens des affaires

at the University of Maryland,

à l'université du Maryland,

Brent Goldfarb and David Kirsch,

Brent Goldfarb et David Kirsch,

who have done some extremely interesting work,

ont réalisé un travail extrêmement intéressant,

much of it still unpublished,

bien qu'encore principalement non publié,

on the history of major innovations.

sur l'histoire des principales innovations.

They have combined the list of major innovations,

Ils ont analysé la liste des innovations majeures,

and they've discovered that the greatest number, the greatest decade,

et ils ont découvert que le plus grand nombre, la meilleure décennie,

for fundamental innovations,

pour l'innovation fondamentale,

as reflected in all of the lists that others have made --

telles que traduites dans tous les listings disponibles --

a number of lists that they have merged --

un certain nombre de listes qu'ils ont fusionnées --

was the Great Depression.

fut la Grand Dépression.

And nobody knows just why this was so,

Personne ne sait expliquer pourquoi,

but one story can reflect something of it.

mais une histoire peut donner une piste.

It was the origin of the Xerox copier,

C'est l'histoire du photocopieur de Xérox

which celebrated its 50th anniversary

qui a fêté son 50 ième anniversaire

last year.

l'année dernière.

And Chester Carlson, the inventor,

Chester Carlson, l'inventeur,

was a patent attorney.

était un avoué spécialisé dans les brevets

He really was not intending

Il n'avait pas réellement l'intention

to work in patent research,

de travailler dans la recherche de brevets,

but he couldn't really find an alternative technical job.

mais il ne pouvait trouver d'autre emploi technique.

So this was the best job he could get.

Donc c'était le meilleur boulot qu'il pouvait trouver.

He was upset by the low quality and high cost

Il était contrarié par la faible qualité et le coût élevé

of existing patent reproductions,

des systèmes existants de reproduction des brevets,

and so he started to develop

et ainsi commença-t-il à développer

a system of dry photocopying,

un système de reproduction à sec

which he patented in the late 1930s --

qu'il breveta à la fin des années 1930 --

and which became the first dry photocopier

et qui devint le premier photocopieur à sec

that was commercially practical

qui fut disponible à la vente

in 1960.

en 1960.

So we see that sometimes,

Ainsi nous observons que parfois,

as a result of these dislocations,

comme résultat de ces ruptures,

as a result of people

comme conséquence du fait que des individus

leaving their original intended career

quittent leur carrière initiale

and going into something else

pour aller dans quelque chose

where their creativity could make a difference,

où leur créativité pourrait faire la différences,

that depressions

que les crises économiques

and all kinds of other unfortunate events

et toutes sortes d'événements malheureux

can have a paradoxically stimulating effect

peuvent avoir un effet stimulant paradoxal

on creativity.

sur la créativité.

What does this mean?

Que cela signifie-t-il ?

It means, I think,

Cela veut dire, je pense,

that we're living in a time of unexpected possibilities.

que nous vivons dans une époque de possibilités inattendues.

Think of the financial world, for example.

Prenez le monde de la finance par exemple.

The mentor of Warren Buffett, Benjamin Graham,

Benjamin Graham, le mentor de Warren Buffet,

developed his system of value investing

développa son système "l'investisseur intelligent"

as a result of his own losses

comme conséquence de ses propres pertes

in the 1929 crash.

dans le crash de 1929.

And he published that book

Il publia ce livre

in the early 1930s,

au début des années 1930,

and the book still exists in further editions

et le livre existe toujours dans des éditions ultérieures

and is still a fundamental textbook.

et est encore à ce jour un manuel de référence.

So many important creative things can happen

Tellement de choses créatives peuvent se passer

when people learn from disasters.

quand les gens apprennent des désastres.

Now think of the large and small plagues that we have now --

Maintenant, pensez aux plaies petites ou grandes qui nous affectent aujourd'hui --

bed bugs, killer bees, spam --

les punaises de lits, les mouches tueuses, les spams --

and it's very possible that the solutions to those

et il est bien possible que leurs solutions

will really extend well beyond the immediate question.

auront des développements bien au delà de la question elle même.

If we think, for example, of Louis Pasteur,

Prenons par exemple Louis Pasteur

who in the 1860s

à qui dans les années 1860

was asked to study

on demanda d'étudier

the diseases of silk worms for the silk industry,

la maladie des vers à soie pour l'Industrie de la soie,

and his discoveries were really the beginning

et ses découvertes furent le début

of the germ theory of disease.

de la théorie microbienne des maladies.

So very often, some kind of disaster --

Ainsi très souvent, un désastre --

sometimes the consequence, for example,

qui peut-être par exemple la conséquence

of over-cultivation of silk worms,

comme ici de la sur-exploitation des vers à soie,

which was a problem in Europe at the time --

qui était un problème à l'époque --

can be the key to something much bigger.

peut être la clef de quelque chose de beaucoup plus grand.

So this means

Cela signifie

that we need to take a different view

qu'il nous faut adopter une vue différente

of unintended consequences.

des conséquences inattendues.

We need to take a really positive view.

Il nous faut un point de vue réellement positif.

We need to see what they can do for us.

Il nous faut voir ce qu'elles peuvent nous apporter.

We need to learn

Il nous faut apprendre

from those figures that I mentioned.

de ces personnages que j'ai mentionné.

We need to learn, for example, from Dr. Cushing,

Apprenons par exemple du Dr Cushing,

who killed patients

qui a tué certains de ses patients

in the course of his early operations.

dans ses premières opérations.

He had to have some errors. He had to have some mistakes.

Il ne pouvait éviter de commettre des erreurs, de faire des fautes.

And he learned meticulously from his mistakes.

Il a appris consciencieusement de ses erreurs.

And as a result,

Et en conséquence,

when we say, "This isn't brain surgery,"

quand nous disons "Ce n'est pas de la chirurgie du cerveau,"

that pays tribute to how difficult it was

cela rend hommage au fait qu'il était

for anyone to learn from their mistakes

difficile à quiconque d'apprendre de ses erreurs

in a field of medicine

dans le domaine de la médecine

that was considered so discouraging in its prospects.

qui était considéré comme ayant des perspectives très peu encourageantes.

And we can also remember

Et rappelons-nous aussi

how the pharmaceutical companies

comment les laboratoires pharmaceutiques

were willing to pool their knowledge,

acceptèrent de rassembler leurs connaissances,

to share their knowledge,

de partager leurs connaissances,

in the face of an emergency,

face à une crise

which they hadn't really been for years and years.

ce qu'ils n'avaient pas voulu faire pendant des années et des années.

They might have been able to do it earlier.

Ils auraient pu le faire plus tôt.

The message, then, for me,

Le message, alors, pour moi

about unintended consequences

concernant les conséquences inattendues

is chaos happens;

c'est que le chaos intervient;

let's make better use of it.

faisons-en le meilleur usage.

Thank you very much.

Merci beaucoup.

(Applause)

(Applaudissements)