Edward Tenner: Unintended consequences

Эдвард Теннер: Непредвиденные последствия

Переводчик: Aliaksandr Autayeu Редактор: Larisa Larionova

I didn't always love unintended consequences,

Мне не всегда нравились непредвиденные последствия,

but I've really learned to appreciate them.

но я научился их ценить.

I've learned that they're really the essence

Я понял, что они являются сутью того,

of what makes for progress,

что мы называем прогрессом,

even when they seem to be terrible.

даже когда они кажутся ужасными.

And I'd like to review

Я хочу рассмотреть,

just how unintended consequences

как именно непредвиденные последствия

play the part that they do.

играют свою роль.

Let's go to 40,000 years before the present,

Давайте вернёмся на 40 тысяч лет назад,

to the time of the cultural explosion,

ко времени культурного взрыва,

when music, art, technology,

когда зародились музыка, искусство, технология,

so many of the things that we're enjoying today,

многие из вещей, которыми мы наслаждаемся сегодня,

so many of the things that are being demonstrated at TED

многие из тех вещей,

were born.

которые демонстрируются на TED.

And the anthropologist Randall White

Антрополог Рэндалл Уайт

has made a very interesting observation:

сделал интересное наблюдение:

that if our ancestors

если бы наши предки

40,000 years ago

40 тысяч лет назад

had been able to see

были способны видеть,

what they had done,

что они сделали,

they wouldn't have really understood it.

они бы не поняли.

They were responding

Они удовлетворяли

to immediate concerns.

насущные потребности.

They were making it possible for us

Они сделали возможным для нас то,

to do what they do,

что делали они,

and yet, they didn't really understand

и всё же, они не понимали,

how they did it.

как они это сделали.

Now let's advance to 10,000 years before the present.

Давайте продвинемся к отметке 10 тысяч лет назад.

And this is when it really gets interesting.

Именно в этот момент всё становится очень интересным.

What about the domestication of grains?

Как насчёт окультуривания злаков?

What about the origins of agriculture?

Как насчёт происхождения сельского хозяйства?

What would our ancestors 10,000 years ago

Что бы сказали наши предки

have said

10 тысяч лет назад,

if they really had technology assessment?

если бы они провели оценку технологии?

And I could just imagine the committees

Я могу только мечтать о комиссиях,

reporting back to them

докладывающих о том,

on where agriculture was going to take humanity,

к чему сельское хозяйство приведёт человечество,

at least in the next few hundred years.

по меньшей мере, в следующие несколько сотен лет.

It was really bad news.

Новости были ужасны.

First of all, worse nutrition,

Во-первых, худшее питание,

maybe shorter life spans.

может быть меньшая продолжительность жизни.

It was simply awful for women.

Это было ужасно для женщин.

The skeletal remains from that period

Остатки скелетов того периода свидетельствуют,

have shown that they were grinding grain morning, noon and night.

что они мололи зерно с утра до ночи.

And politically, it was awful.

Политически это тоже было ужасно.

It was the beginning of a much higher degree

Это было начало намного большего неравенства

of inequality among people.

среди людей.

If there had been rational technology assessment then,

Если бы тогда провели рациональную оценку технологии,

I think they very well might have said,

я думаю, они вполне могли бы сказать:

"Let's call the whole thing off."

«Давайте оставим эту затею».

Even now, our choices are having unintended effects.

Даже сейчас наши решения имеют непредвиденные последствия.

Historically, for example,

Например, исторически,

chopsticks -- according to one Japanese anthropologist

палочки — согласно одному японскому антропологу,

who wrote a dissertation about it

написавшему об этом диссертацию

at the University of Michigan --

в университете Мичигана —

resulted in long-term changes

привели к долговременным изменениям

in the dentition, in the teeth,

в прикусе, в зубах

of the Japanese public.

японского народа.

And we are also changing our teeth right now.

Мы тоже изменяем наши зубы прямо сейчас.

There is evidence

Есть свидетельства,

that the human mouth and teeth

что человеческий рот и зубы

are growing smaller all the time.

со временем становятся всё меньше и меньше.

That's not necessarily a bad unintended consequence.

Далеко не факт, что это плохое непредвиденное последствие.

But I think from the point of view of a Neanderthal,

Но я думаю, что с точки зрения неандертальца,

there would have been a lot of disapproval

наши жалкие зубки

of the wimpish choppers that we now have.

вызвали бы сильное порицание.

So these things are kind of relative

Эти вещи зависят от точки зрения,

to where you or your ancestors happen to stand.

вашей и ваших предков.

In the ancient world

В древнем мире присутствовало

there was a lot of respect for unintended consequences,

большое уважение к непредвиденным последствиям,

and there was a very healthy sense of caution,

и существовала здоровая осторожность,

reflected in the Tree of Knowledge,

отражённая в мифах о Дереве Познания,

in Pandora's Box,

о ящике Пандоры,

and especially in the myth of Prometheus

и в особенности в мифе о Прометее,

that's been so important

который был так важен

in recent metaphors about technology.

в недавних метафорах о технологии.

And that's all very true.

Всё это в высшей степени верно.

The physicians of the ancient world --

Врачи древнего мира —

especially the Egyptians,

в особенности египтяне,

who started medicine as we know it --

которые заложили начала современной медицины —

were very conscious

были хорошо осведомлены,

of what they could and couldn't treat.

что они могли и не могли лечить.

And the translations of the surviving texts say,

В переводах сохранившихся текстов говорится:

"This I will not treat. This I cannot treat."

«Я не буду это лечить. Я не могу это вылечить».

They were very conscious.

Они были весьма сознательны.

So were the followers of Hippocrates.

Таковы были последователи Гиппократа.

The Hippocratic manuscripts also --

Рукописи Гиппократа

repeatedly, according to recent studies --

— многократно, согласно недавним исследованиям —

show how important it is not to do harm.

указывают, насколько важно не причинить вред.

More recently,

Не столь давно,

Harvey Cushing,

Харви Кушинг,

who really developed neurosurgery as we know it,

основоположник современной нейрохирургии,

who changed it from a field of medicine

превративший её из области медицины

that had a majority of deaths resulting from surgery

с самым высоким показателем смертности в результате хирургического вмешательства

to one in which there was a hopeful outlook,

в одну из многообещающих,

he was very conscious

осознавал, что он не всегда

that he was not always going to do the right thing.

будет поступать правильно.

But he did his best,

Но он старался,

and he kept meticulous records

он вёл тщательные записи,

that let him transform that branch of medicine.

которые позволили ему преобразовать эту область медицины.

Now if we look forward a bit

Если мы заглянем немного вперёд,

to the 19th century,

в 19-й век,

we find a new style of technology.

мы обнаружим новый стиль технологии.

What we find is,

Мы обнаружим

no longer simple tools,

не простые инструменты,

but systems.

а системы.

We find more and more

Мы найдём всё более и более

complex arrangements of machines

сложные сочетания машин,

that make it harder and harder

которые делают всё более и более сложным

to diagnose what's going on.

понимание того, что происходит.

And the first people who saw that

Первыми, кто это заметил,

were the telegraphers of the mid-19th century,

были телеграфисты середины 19-го века,

who were the original hackers.

которые были первыми хакерами.

Thomas Edison would have been very, very comfortable

Томас Эдисон был бы в своей тарелке

in the atmosphere of a software firm today.

в атмосфере современной ИТ-компании.

And these hackers had a word

У этих хакеров было слово

for those mysterious bugs in telegraph systems

для обозначения мистических ошибок в телеграфных системах,

that they called bugs.

которые они называли «багами».

That was the origin of the word "bug."

Отсюда происходит слово «баг».

This consciousness, though,

Однако это знание

was a little slow to seep through the general population,

распространялось очень медленно среди населения,

even people who were very, very well informed.

даже среди людей, которые были очень и очень хорошо осведомлены.

Samuel Clemens, Mark Twain,

Сэмюель Клеменс, Марк Твен

was a big investor

был изобретателем

in the most complex machine of all times --

наиболее сложной машины всех времён

at least until 1918 --

— по крайней мере, до 1918-го —

registered with the U.S. Patent Office.

зарегистрированной в Патентном Бюро США.

That was the Paige typesetter.

Это была наборная машина Пейджа.

The Paige typesetter

Наборная машина Пейджа

had 18,000 parts.

имела 18 тысяч частей.

The patent had 64 pages of text

Описание патента состояло из 64 страниц текста

and 271 figures.

и 271 иллюстрации.

It was such a beautiful machine

Это была великолепная машина,

because it did everything that a human being did

потому что она делала всё, что делал человек

in setting type --

при наборе

including returning the type to its place,

включая возврат шрифта на место,

which was a very difficult thing.

что было очень сложной операцией.

And Mark Twain, who knew all about typesetting,

Марк Твен, знавший всё о типографском наборе,

really was smitten by this machine.

был поражён этой машиной.

Unfortunately, he was smitten in more ways than one,

К несчастью, было поражено не только его воображение —

because it made him bankrupt,

машина привела его к банкротству,

and he had to tour the world speaking

и он вынужден был гастролировать по миру с речами,

to recoup his money.

чтобы вернуть свои деньги.

And this was an important thing

Важным аспектом

about 19th century technology,

технологии 19-го века было то,

that all these relationships among parts

что отношения между частями

could make the most brilliant idea fall apart,

могли развалить даже самую гениальную идею,

even when judged by the most expert people.

даже оцениваемую самыми опытными людьми.

Now there is something else, though, in the early 20th century

Есть ещё кое-что в начале 20-го века,

that made things even more complicated.

что усложняло вещи ещё сильнее.

And that was that safety technology itself

Технологии безопасности

could be a source of danger.

могли быть источником опасности.

The lesson of the Titanic, for a lot of the contemporaries,

Уроком Титаника для многих современников

was that you must have enough lifeboats

была необходимость достаточного количества спасательных шлюпок

for everyone on the ship.

для всех на борту корабля.

And this was the result

Это было результатом

of the tragic loss of lives

трагической потери жизней людей,

of people who could not get into them.

которые не могли в них попасть.

However, there was another case, the Eastland,

Однако, в другом случае, с Истлэнд,

a ship that capsized in Chicago Harbor in 1915,

кораблём, опрокинувшемся в порту Чикаго в 1915-м,

and it killed 841 people --

жертвы достигли 541 человека —

that was 14 more

на 14 больше,

than the passenger toll of the Titanic.

чем погибло на Титанике.

The reason for it, in part, was

Причиной этого, отчасти,

the extra life boats that were added

были лишние спасательные шлюпки, которые были добавлены

that made this already unstable ship

и сделали этот итак неустойчивый корабль

even more unstable.

ещё более неустойчивым.

And that again proves

Это ещё раз доказывает,

that when you're talking about unintended consequences,

что когда имеешь дело с непредвиденными последствиями,

it's not that easy to know

не так-то легко знать,

the right lessons to draw.

какие уроки извлечь.

It's really a question of the system, how the ship was loaded,

Это системный вопрос, вопрос загрузки корабля,

the ballast and many other things.

балласта и многих других факторов.

So the 20th century, then,

20-й век стал свидетелем,

saw how much more complex reality was,

насколько сложнее была реальность,

but it also saw a positive side.

но он засвидетельствовал и положительную сторону.

It saw that invention

Стало видно, что аварии

could actually benefit from emergencies.

могут пойти на пользу изобретению.

It could benefit

Трагедии

from tragedies.

могут его улучшить.

And my favorite example of that --

Моим любимым примером

which is not really widely known

— это не было широко известно

as a technological miracle,

как технологическое чудо,

but it may be one of the greatest of all times,

но оно может быть величайшим чудом всех времён —

was the scaling up of penicillin in the Second World War.

является распространение пенициллина во время Второй Мировой войны.

Penicillin was discovered in 1928,

Пенициллин был открыт в 1928-м,

but even by 1940,

но даже к 1940-му

no commercially and medically useful quantities of it

его не производили в коммерчески- и

were being produced.

медицински-значимых количествах.

A number of pharmaceutical companies were working on it.

Над ним работал ряд фармацевтических компаний.

They were working on it independently,

Они работали независимо

and they weren't getting anywhere.

и безрезультатно.

And the Government Research Bureau

Бюро правительственных исследований

brought representatives together

собрало представителей вместе

and told them that this is something

и объявило, что это

that has to be done.

должно быть сделано.

And not only did they do it,

Не только они этого достигли,

but within two years,

но и в течение двух лет

they scaled up penicillin

производство пенициллина прошло путь

from preparation in one-liter flasks

от приготовления литровых бутылок

to 10,000-gallon vats.

до 40-тонных баков.

That was how quickly penicillin was produced

Именно так быстро пенициллин был произведён

and became one of the greatest medical advances of all time.

и стал одним из величайших прорывов всех времён в медицине.

In the Second World War, too,

Также, во время Второй Мировой войны,

the existence

существование

of solar radiation

солнечного излучения

was demonstrated by studies of interference

было показано исследованиями интерференции,

that was detected by the radar stations of Great Britain.

зарегистрированной радарами Великобритании.

So there were benefits in calamities --

Катастрофы приносили пользу,

benefits to pure science,

пользу не только фундаментальной науке,

as well as to applied science

но и прикладным наукам,

and medicine.

и медицине.

Now when we come to the period after the Second World War,

Далее, когда мы переходим к периоду после Второй Мировой войны,

unintended consequences get even more interesting.

непредвиденные последствия становятся ещё более интересными.

And my favorite example of that

Мой любимый пример

occurred beginning in 1976,

случился в начале 1976-го,

when it was discovered

когда было обнаружено,

that the bacteria causing Legionnaires disease

что бактерия, вызывающая легионеллёз,

had always been present in natural waters,

всегда присутствовала в воде в естественных условиях,

but it was the precise temperature of the water

однако именно температура воды

in heating, ventilating and air conditioning systems

в системах отопления, вентиляции и кондиционирования,

that raised the right temperature

явилась оптимальной температурой

for the maximum reproduction

для максимального размножения

of Legionella bacillus.

бактерии легионеллёза.

Well, technology to the rescue.

Что ж, зовём на помощь технологии.

So chemists got to work,

Химики приступили к работе

and they developed a bactericide

и разработали бактерицид,

that became widely used in those systems.

который начал широко использоваться в подобных системах.

But something else happened in the early 1980s,

Однако, в начале 1980-х случилось кое-что иное,

and that was that there was a mysterious epidemic

а именно — мистическая эпидемия

of failures of tape drives

отказов ленточных носителей

all over the United States.

по всем США.

And IBM, which made them,

Компания IBM, производитель этих носителей,

just didn't know what to do.

не знала, что делать.

They commissioned a group of their best scientists

Они отрядили группу своих лучших учёных

to investigate,

для исследования,

and what they found was

и они обнаружили,

that all these tape drives

что все эти ленточные приводы

were located near ventilation ducts.

были расположены возле вентиляционных шахт.

What happened was the bactericide was formulated

Причиной было то, что бактерицид содержал

with minute traces of tin.

незначительные части олова.

And these tin particles were deposited on the tape heads

Эти частицы олова оседали на головках приводов

and were crashing the tape heads.

и вызывали их отказы.

So they reformulated the bactericide.

Бактерицид был переделан.

But what's interesting to me

Однако меня заинтересовало то,

is that this was the first case

что это был первый случай, когда механическое устройство

of a mechanical device

пострадало, по карйней мере косвенно,

suffering, at least indirectly, from a human disease.

от человеческого заболевания.

So it shows that we're really all in this together.

Это показывает, что мы с ними в одной лодке.

(Laughter)

(Смех)

In fact, it also shows something interesting,

На самом деле, это также показывает,

that although our capabilities and technology

что, несмотря на то, что наши способности и технологии

have been expanding geometrically,

развиваются в геометрической прогрессии,

unfortunately, our ability to model their long-term behavior,

к сожалению, наша способность моделировать долгосрочное поведение,

which has also been increasing,

которая также улучшалась,

has been increasing only arithmetically.

улучшалась всего лишь в арифметической прогрессии.

So one of the characteristic problems of our time

Одна из характерных задач нашего времени

is how to close this gap

состоит в сокращении этого разрыва

between capabilities and foresight.

между возможностями и дальновидностью.

One other very positive consequence

Другим очень позитивным последствием

of 20th century technology, though,

технологий 20-го века явилось то,

was the way in which other kinds of calamities

как различные катастрофы

could lead to positive advances.

могут приводить к прогрессу.

There are two historians of business

Два историка бизнеса

at the University of Maryland,

из университета Мэриленда,

Brent Goldfarb and David Kirsch,

Брент Гольдфарб и Дэвид Кирш,

who have done some extremely interesting work,

проделали кое-какую чрезвычайно интересную работу

much of it still unpublished,

об истории великих открытий,

on the history of major innovations.

большая часть которой всё ещё не опубликована.

They have combined the list of major innovations,

Они составили список великих открытий,

and they've discovered that the greatest number, the greatest decade,

и заметили, что наибольшим количеством, величайшим десятилетием

for fundamental innovations,

фундаментальных инноваций,

as reflected in all of the lists that others have made --

как отражено во всех списках, сделанных другими

a number of lists that they have merged --

— они объединили несколько списков —

was the Great Depression.

была Великая Депрессия.

And nobody knows just why this was so,

Никто не знает почему,

but one story can reflect something of it.

но одна история может пролить на это свет.

It was the origin of the Xerox copier,

Это была история происхождения копировальной машины Xerox,

which celebrated its 50th anniversary

которая отпраздновала пятидесятилетие

last year.

в прошлом году.

And Chester Carlson, the inventor,

Честер Карлсон, изобретатель,

was a patent attorney.

был патентным поверенным.

He really was not intending

Он не собирался работать

to work in patent research,

исследователем патентов,

but he couldn't really find an alternative technical job.

но никакой другой работы не было.

So this was the best job he could get.

Это было лучшей доступной ему работой.

He was upset by the low quality and high cost

Он был расстроен низким качеством и высокой стоимостью

of existing patent reproductions,

существующих технологий копирования патентов

and so he started to develop

и стал разрабатывать

a system of dry photocopying,

систему сухого фотокопирования,

which he patented in the late 1930s --

которую он запатентовал в конце 1930-х.

and which became the first dry photocopier

Она стала первым сухим фотокопиром,

that was commercially practical

который стал коммерчески доступен

in 1960.

в 1960-х.

So we see that sometimes,

Итак, иногда можно видеть,

as a result of these dislocations,

что результатом этих неурядиц,

as a result of people

результатом оставления людьми

leaving their original intended career

людьми планируемой карьеры

and going into something else

и уходом в другую область,

where their creativity could make a difference,

где их творческие способности используются,

that depressions

результатом депрессии

and all kinds of other unfortunate events

и других печальных событий

can have a paradoxically stimulating effect

может быть удивительный стимулирующий эффект,

on creativity.

оказываемый на творчество.

What does this mean?

Что это означает?

It means, I think,

Я думаю, что это означает,

that we're living in a time of unexpected possibilities.

что мы живём во время неожиданных возможностей.

Think of the financial world, for example.

К примеру, возьмём финансовую сферу.

The mentor of Warren Buffett, Benjamin Graham,

Учитель Уоррена Баффета, Бенджамин Грэхэм,

developed his system of value investing

разработал свою систему стоимостного инвестирования

as a result of his own losses

в результате собственных потерь

in the 1929 crash.

во время кризиса 1929 года.

And he published that book

Он опубликовал эту книгу,

in the early 1930s,

в начале 1930-х,

and the book still exists in further editions

и книга до сих пор переиздаётся

and is still a fundamental textbook.

и всё ещё является фундаментальным учебником.

So many important creative things can happen

Огромное количество творческих прорывов может случиться

when people learn from disasters.

в результате урока, преподанного катастрофой.

Now think of the large and small plagues that we have now --

Теперь подумайте о больших и маленьких напастях текущего времени

bed bugs, killer bees, spam --

— постельные клопы, пчёлы-убийцы, спам —

and it's very possible that the solutions to those

весьма вероятно, что решения этих проблем

will really extend well beyond the immediate question.

будут применимы не только для оригинальной проблемы.

If we think, for example, of Louis Pasteur,

Если подумать о Луи Пастере,

who in the 1860s

который в 1860-х годах

was asked to study

был приглашён изучить

the diseases of silk worms for the silk industry,

болезни шёлковых червей в индустрии шёлка,

and his discoveries were really the beginning

и открытия которого на самом деле были началом

of the germ theory of disease.

микробной теории инфекционных заболеваний.

So very often, some kind of disaster --

Очень часто некая катастрофа —

sometimes the consequence, for example,

иногда последствие, например,

of over-cultivation of silk worms,

чрезмерной культивации шёлковых червей,

which was a problem in Europe at the time --

что было проблемой в Европе в то время —

can be the key to something much bigger.

может быть ключом к чему-то намного большему.

So this means

Это означает,

that we need to take a different view

что нужно по-другому смотреть

of unintended consequences.

на непредвиденные последствия.

We need to take a really positive view.

Нужно смотреть на них позитивно.

We need to see what they can do for us.

Нужно смотреть, что можно сделать с их помощью.

We need to learn

Нам нужно учиться

from those figures that I mentioned.

на примерах, которые я привёл.

We need to learn, for example, from Dr. Cushing,

Нужно учиться, к примеру, у доктора Кушинга,

who killed patients

убивавшего пациентов

in the course of his early operations.

в своих ранних операциях.

He had to have some errors. He had to have some mistakes.

Он должен был ошибаться.

And he learned meticulously from his mistakes.

И он тщательно учился на своих ошибках.

And as a result,

В результате,

when we say, "This isn't brain surgery,"

когда мы говорим: «Ай, это не нейрохирургия!»,

that pays tribute to how difficult it was

это воздаёт должное, насколько сложно было

for anyone to learn from their mistakes

кому бы то ни было учиться на своих ошибках

in a field of medicine

в области медицины,

that was considered so discouraging in its prospects.

которая рассматривалась как очень удручающая в перспективе.

And we can also remember

Можно также вспомнить,

how the pharmaceutical companies

как фармацевтические компании

were willing to pool their knowledge,

были готовы совмещать свои знания,

to share their knowledge,

делиться своими знаниями

in the face of an emergency,

перед лицом опасности,

which they hadn't really been for years and years.

впервые за много и много лет.

They might have been able to do it earlier.

Может быть, они были способны на это и раньше.

The message, then, for me,

Для меня, вывод

about unintended consequences

о непредвиденных последствиях таков:

is chaos happens;

хаос случается,

let's make better use of it.

давайте использовать его лучше.

Thank you very much.

Спасибо большое.

(Applause)

(Аплодисменты)