Why fascism is so tempting -- and how your data could power it | Yuval Noah Harari

Переводчик: Yulia Kallistratova Редактор: Natalia Ost

Hello, everyone.

Здравствуйте.

It's a bit funny, because I did write that humans will become digital,

Забавно: я сам писал о том, что человек примет цифровой облик,

but I didn't think it will happen so fast

но не предполагал, что это произойдёт так скоро

and that it will happen to me.

и что это произойдёт со мной.

But here I am, as a digital avatar,

Но вот на сцене мой цифровой аватар,

and here you are, so let's start.

а вы в зале, так давайте же начнём.

And let's start with a question.

И давайте начнём с вопроса.

How many fascists are there in the audience today?

Сколько сегодня в зале фашистов?

(Laughter)

(Смех)

Well, it's a bit difficult to say,

Вообще-то, на это трудно ответить,

because we've forgotten what fascism is.

потому что мы забыли, что значит фашизм.

People now use the term "fascist"

Термин «фашизм» превратился сегодня

as a kind of general-purpose abuse.

в некую форму обобщённого ругательства.

Or they confuse fascism with nationalism.

Или его путают с национализмом.

So let's take a few minutes to clarify what fascism actually is,

Поэтому давайте уделим пару минут разбору того, что же такое фашизм

and how it is different from nationalism.

и чем он отличается от национализма.

The milder forms of nationalism have been among the most benevolent

До определённой степени национализм лежит в основе самых благонамеренных

of human creations.

созданий человечества.

Nations are communities of millions of strangers

Нации — это сообщества миллионов людей,

who don't really know each other.

незнакомых друг с другом.

For example, I don't know the eight million people

Я, например, не знаком с восемью миллионами,

who share my Israeli citizenship.

разделяющими со мной израильское гражданство.

But thanks to nationalism,

Но благодаря национализму

we can all care about one another and cooperate effectively.

мы друг другу небезразличны и можем эффективно сотрудничать.

This is very good.

И это хорошо.

Some people, like John Lennon, imagine that without nationalism,

Некоторые люди, как Джон Леннон, представляют себе, что без национализма

the world will be a peaceful paradise.

мир превратится в мирный рай.

But far more likely,

Но наиболее вероятно,

without nationalism, we would have been living in tribal chaos.

что без него мы давно бы скатились к племенной междоусобице.

If you look today at the most prosperous and peaceful countries in the world,

Если посмотреть на наиболее процветающие и мирные страны в сегодняшнем мире,

countries like Sweden and Switzerland and Japan,

такие как Швеция, Швейцария и Япония,

you will see that they have a very strong sense of nationalism.

становится ясно, что у них очень сильно развито чувство национализма.

In contrast, countries that lack a strong sense of nationalism,

И наоборот, страны, где наблюдается недостаток национальной сплочённости,

like Congo and Somalia and Afghanistan,

такие как Конго, Сомали и Афганистан,

tend to be violent and poor.

страдают от жестокости и бедности.

So what is fascism, and how is it different from nationalism?

Итак, что же такое фашизм и чем он отличается от национализма?

Well, nationalism tells me that my nation is unique,

Национализм — это гордость за уникальность своей нации

and that I have special obligations towards my nation.

и определённые обязательства по отношению к своей нации.

Fascism, in contrast, tells me that my nation is supreme,

А фашизм, напротив, — утверждение, что моя нация выше других

and that I have exclusive obligations towards it.

и что только перед ней у меня есть обязательства.

I don't need to care about anybody or anything other than my nation.

Мне не нужно заботиться ни о ком и ни о чём другом, кроме моей нации.

Usually, of course, people have many identities

Но обычно люди испытывают чувство принадлежности

and loyalties to different groups.

и лояльности к различным группам.

For example, I can be a good patriot, loyal to my country,

Например, я могу быть истинным патриотом своей страны

and at the same time, be loyal to my family,

и в то же время быть преданным своей семье,

my neighborhood, my profession,

ощущать себя частью своего окружения, профессии,

humankind as a whole,

человечества в целом,

truth and beauty.

быть верным истине и красоте.

Of course, when I have different identities and loyalties,

И, разумеется, в результате этих разных привязанностей

it sometimes creates conflicts and complications.

иногда возникают конфликты и сложности.

But, well, who ever told you that life was easy?

Но ведь никто же не говорит, что жизнь проста.

Life is complicated.

Жизнь сложна.

Deal with it.

С этим надо считаться.

Fascism is what happens when people try to ignore the complications

Фашизм происходит тогда, когда люди пытаются не признавать этих сложностей,

and to make life too easy for themselves.

таким образом упрощая себе жизнь.

Fascism denies all identities except the national identity

Фашизм отрицает наличие какой-либо приверженности, кроме как к нации,

and insists that I have obligations only towards my nation.

и настаивает лишь на обязательствах по отношению к нации.

If my nation demands that I sacrifice my family,

Если нация потребует, чтобы я принёс в жертву свою семью,

then I will sacrifice my family.

тогда я пожертвую семьёй.

If the nation demands that I kill millions of people,

Если нация потребует, чтобы я убил миллионы людей,

then I will kill millions of people.

тогда я убью миллионы людей.

And if my nation demands that I betray truth and beauty,

И если нация потребует, чтобы я предал истину и красоту,

then I should betray truth and beauty.

я поступлюсь истиной и красотой.

For example, how does a fascist evaluate art?

Например, как фашист оценивает искусство?

How does a fascist decide whether a movie is a good movie or a bad movie?

Как фашист определяет, какой фильм хорош, а какой плох?

Well, it's very, very, very simple.

Да очень и очень просто.

There is really just one yardstick:

Тут есть только одна мерка:

if the movie serves the interests of the nation,

если фильм служит интересам нации,

it's a good movie;

это хороший фильм;

if the movie doesn't serve the interests of the nation,

если фильм не служит интересам нации,

it's a bad movie.

это плохой фильм.

That's it.

Вот и всё.

Similarly, how does a fascist decide what to teach kids in school?

Аналогично, как фашист решает, чему учить детей в школе?

Again, it's very simple.

Опять же, всё очень просто.

There is just one yardstick:

Существует только одна мерка:

you teach the kids whatever serves the interests of the nation.

учить детей надо лишь тому, что служит интересам нации.

The truth doesn't matter at all.

Истина не имеет значения.

Now, the horrors of the Second World War and of the Holocaust remind us

Ужасы Второй мировой войны и Холокоста напоминают нам

of the terrible consequences of this way of thinking.

о трагических последствиях такого мышления.

But usually, when we talk about the ills of fascism,

Но обычно в риторике о вреде фашизма

we do so in an ineffective way,

мы многое упускаем,

because we tend to depict fascism as a hideous monster,

так как представляем его безобразным чудовищем,

without really explaining what was so seductive about it.

не объясняя того, что делало его таким привлекательным.

It's a bit like these Hollywood movies that depict the bad guys --

Немного наподобие голливудских фильмов, изображающих злодеев —

Voldemort or Sauron or Darth Vader --

Волан-де-Морта, Саурона, Дарт Вейдера —

as ugly and mean and cruel.

уродливыми, озлобленными и жестокими.

They're cruel even to their own supporters.

Они жестоки даже по отношению к тем, кто на их стороне.

When I see these movies, I never understand --

Когда я смотрю такие фильмы, мне не понятно,

why would anybody be tempted to follow a disgusting creep like Voldemort?

с какой стати кто-то захочет водиться с таким мерзким гадом, как Волан-де-Морт.

The problem with evil is that in real life,

Но проблема со злом в том, что в реальной жизни

evil doesn't necessarily look ugly.

зло вовсе не обязательно омерзительно.

It can look very beautiful.

Оно может быть внешне прекрасно.

This is something that Christianity knew very well,

Это хорошо известно в христианстве,

which is why in Christian art, as [opposed to] Hollywood,

поэтому в искусстве христианства, в отличие от Голливуда,

Satan is usually depicted as a gorgeous hunk.

Сатана обычно изображается в виде красавчика.

This is why it's so difficult to resist the temptations of Satan,

Вот почему соблазнам Сатаны так трудно противостоять.

and why it is also difficult to resist the temptations of fascism.

И по этой же причине трудно устоять перед соблазнами фашизма.

Fascism makes people see themselves

Фашизм позволяет людям увидеть себя

as belonging to the most beautiful and most important thing in the world --

частью самой прекрасной и самой значительной идеи в мире —

the nation.

их нации.

And then people think,

И люди думают:

"Well, they taught us that fascism is ugly.

«Нас учили, что фашизм уродлив.

But when I look in the mirror, I see something very beautiful,

Но, глядя в зеркало, я вижу лишь красоту,

so I can't be a fascist, right?"

значит, я не могу быть фашистом, так?»

Wrong.

Нет, не так.

That's the problem with fascism.

Это и есть недопонимание фашизма.

When you look in the fascist mirror,

Когда вы смотрите в зеркало фашизма,

you see yourself as far more beautiful than you really are.

вы видите себя намного лучше, чем вы есть на самом деле.

In the 1930s, when Germans looked in the fascist mirror,

В 1930-х годах, когда немцы смотрели на себя в зеркало фашизма,

they saw Germany as the most beautiful thing in the world.

они видели в Германии самую прекрасную нацию на свете.

If today, Russians look in the fascist mirror,

Если сегодня русские посмотрят на себя в зеркало фашизма,

they will see Russia as the most beautiful thing in the world.

они увидят Россию как самую прекрасную нацию на свете.

And if Israelis look in the fascist mirror,

И израильтяне, глядя на себя в зеркале фашизма,

they will see Israel as the most beautiful thing in the world.

увидят Израиль как самую прекрасную нацию на свете.

This does not mean that we are now facing a rerun of the 1930s.

Это не означает, однако, что мы наблюдаем возврат к 30-м годам.

Fascism and dictatorships might come back,

Фашизм и диктатура могут вернуться,

but they will come back in a new form,

но они примут новое обличие —

a form which is much more relevant

наиболее современный вид,

to the new technological realities of the 21st century.

отвечающий реалиям новаторских технологий XXI века.

In ancient times,

В древнем мире

land was the most important asset in the world.

самым важным достоянием на свете считалась земля.

Politics, therefore, was the struggle to control land.

Поэтому политика разворачивалась вокруг владения территориями.

And dictatorship meant that all the land was owned by a single ruler

При этом диктатура означала сплочение собственности на землю в руках правителя

or by a small oligarch.

или олигархии.

And in the modern age, machines became more important than land.

В эпоху индустриализации важность машин оттеснила землю.

Politics became the struggle to control the machines.

Политика стала развиваться вокруг власти над машинами.

And dictatorship meant

А диктатура стала означать,

that too many of the machines became concentrated

что бóльшая часть машин сконцентрирована

in the hands of the government or of a small elite.

в руках правительства или малочисленной элиты.

Now data is replacing both land and machines

Теперь же на смену земле и машинам пришли данные,

as the most important asset.

став самым ценным активом.

Politics becomes the struggle to control the flows of data.

Политика превратилась в борьбу за контроль над потоками данных.

And dictatorship now means

А диктатура сегодня наступает,

that too much data is being concentrated in the hands of the government

когда слишком много данных скапливается в руках правительства

or of a small elite.

или малочисленной элиты.

The greatest danger that now faces liberal democracy

Сегодня самая большая опасность для либеральной демократии —

is that the revolution in information technology

это если революция в информационных технологиях

will make dictatorships more efficient than democracies.

сделает диктатуру более эффективной, чем демократию.

In the 20th century,

В XX веке

democracy and capitalism defeated fascism and communism

демократия и капитализм победили фашизм и коммунизм,

because democracy was better at processing data and making decisions.

потому что демократия лучше справлялась с обработкой данных и принятием решений.

Given 20th-century technology,

При технологиях XX века

it was simply inefficient to try and concentrate too much data

было просто непрактично пытаться консолидировать слишком много данных

and too much power in one place.

и слишком много власти в одном месте.

But it is not a law of nature

Однако нет такого закона природы,

that centralized data processing is always less efficient

по которому централизованная обработка данных не может стать эффективнее

than distributed data processing.

рассредоточенной обработки данных.

With the rise of artificial intelligence and machine learning,

С появлением искусственного интеллекта и самообучающихся машин

it might become feasible to process enormous amounts of information

эффективная обработка огромных объёмов информации в одном месте

very efficiently in one place,

может стать вполне осуществимой,

to take all the decisions in one place,

так же, как и принятие любых решений.

and then centralized data processing will be more efficient

Тогда централизованное управление информацией станет эффективнее

than distributed data processing.

рассредоточенного управления данными.

And then the main handicap of authoritarian regimes

И тогда главная проблема авторитарных режимов XX века —

in the 20th century --

their attempt to concentrate all the information in one place --

их попытка консолидации всей информации в одном месте —

it will become their greatest advantage.

станет их наибольшим преимуществом.

Another technological danger that threatens the future of democracy

Другая технологическая опасность, угрожающая будущему демократии,

is the merger of information technology with biotechnology,

находится на стыке информационных технологий и биотехнологий.

which might result in the creation of algorithms

Эта опасность заключается с создании алгоритмов,

that know me better than I know myself.

которые будут знать меня лучше меня самого.

And once you have such algorithms,

Как только появятся такие алгоритмы,

an external system, like the government,

любая внешняя сила вроде правительства

cannot just predict my decisions,

сможет не только предсказывать мои решения,

it can also manipulate my feelings, my emotions.

но и завладеть моими чувствами, моими эмоциями.

A dictator may not be able to provide me with good health care,

Диктатор может и не быть в состоянии обеспечить качественное здравоохранение,

but he will be able to make me love him

но наверняка сможет обеспечить мою любовь к себе

and to make me hate the opposition.

и ненависть к оппозиции.

Democracy will find it difficult to survive such a development

Демократии будет трудно пережить такую ситуацию,

because, in the end,

потому что в конечном итоге

democracy is not based on human rationality;

демократия опирается не на способность рационально мыслить,

it's based on human feelings.

а на чувства людей.

During elections and referendums,

Во время выборов и референдумов

you're not being asked, "What do you think?"

вас не спрашивают: «Что вы думаете?»

You're actually being asked, "How do you feel?"

Вас спрашивают: «Что вы чувствуете?»

And if somebody can manipulate your emotions effectively,

И если кто-то способен эффективно манипулировать вашими эмоциями,

democracy will become an emotional puppet show.

демократия превратится в кукольный театр эмоций.

So what can we do to prevent the return of fascism

Как же нам предотвратить возвращение фашизма

and the rise of new dictatorships?

и возникновение новых диктатур?

The number one question that we face is: Who controls the data?

Вопрос, который следует задать в первую очередь: «В чьих руках данные?»

If you are an engineer,

Если вы инженер,

then find ways to prevent too much data

тогда подумайте, как воспрепятствовать скоплению большого количества данных

from being concentrated in too few hands.

в руках немногих.

And find ways to make sure

И подумайте, как можно сделать

the distributed data processing is at least as efficient

распределённую обработку данных по крайней мере настолько же эффективной,

as centralized data processing.

как централизованную обработку данных.

This will be the best safeguard for democracy.

Это будет самой твёрдой гарантией демократии.

As for the rest of us who are not engineers,

А для остальных из нас, не инженеров,

the number one question facing us

первоочередной вопрос —

is how not to allow ourselves to be manipulated

это как не допустить того, чтобы нами управляли те,

by those who control the data.

кто управляет данными.

The enemies of liberal democracy, they have a method.

У врагов либеральной демократии есть свой подход.

They hack our feelings.

Они вскрывают наши чувства.

Not our emails, not our bank accounts --

Не наши почтовые ящики и банковские счета,

they hack our feelings of fear and hate and vanity,

а именно наши чувства страха, ненависти и тщеславия.

and then use these feelings

Затем они используют эти чувства

to polarize and destroy democracy from within.

для поляризации и раскола демократии изнутри.

This is actually a method

Изначально этот подход

that Silicon Valley pioneered in order to sell us products.

был разработан в Кремниевой долине с целью заставить нас покупать.

But now, the enemies of democracy are using this very method

И именно им пользуются теперь враги демократии,

to sell us fear and hate and vanity.

чтобы продавать нам страх, ненависть и тщеславие.

They cannot create these feelings out of nothing.

Они не могут вызвать эти чувства на пустом месте.

So they get to know our own preexisting weaknesses.

Поэтому им нужно знать присущие нам слабости

And then use them against us.

и затем использовать их против нас.

And it is therefore the responsibility of all of us

Вот почему на каждом из нас лежит ответственность

to get to know our weaknesses

за познание собственных слабостей

and make sure that they do not become a weapon

и за недопущение их использования в качестве оружия

in the hands of the enemies of democracy.

в руках врагов демократии.

Getting to know our own weaknesses

Познание собственных слабостей

will also help us to avoid the trap of the fascist mirror.

также поможет нам не оказаться в ловушке фашистского зеркала.

As we explained earlier, fascism exploits our vanity.

Как было сказано ранее, фашизм играет на нашем тщеславии.

It makes us see ourselves as far more beautiful than we really are.

Он показывает нам самих себя лучшими, чем мы есть на самом деле.

This is the seduction.

В этом и есть соблазн.

But if you really know yourself,

Но если вы знаете себя по-настоящему,

you will not fall for this kind of flattery.

вы не поддадитесь на подобную лесть.

If somebody puts a mirror in front of your eyes

Если вас поставят перед зеркалом,

that hides all your ugly bits and makes you see yourself

которое скрывает все ваши недостатки и делает ваше отражение

as far more beautiful and far more important

намного красивее и значительнее,

than you really are,

чем вы есть на самом деле,

just break that mirror.

просто разбейте это зеркало.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)

Chris Anderson: Yuval, thank you.

Крис Андерсон: Спасибо, Юваль.

Goodness me.

Подумать только.

It's so nice to see you again.

Как же здорово снова тебя увидеть.

So, if I understand you right,

Если я тебя правильно понял,

you're alerting us to two big dangers here.

ты предостерегаешь нас от двух опасностей.

One is the possible resurgence of a seductive form of fascism,

Одна — это возрождение соблазнительной формы фашизма,

but close to that, dictatorships that may not exactly be fascistic,

а другая, близкая ей, — это диктатура, которая может и не быть фашистской,

but control all the data.

но которая держит под контролем данные.

I wonder if there's a third concern

Интересно, нет ли и третьей опасности,

that some people here have already expressed,

о которой некоторые здесь уже говорили,

which is where, not governments, but big corporations control all our data.

когда не правительства, а крупные корпорации владеют нашими данными?

What do you call that,

Как бы ты это назвал

and how worried should we be about that?

и насколько нам об этом стоит беспокоиться?

Yuval Noah Harari: Well, in the end, there isn't such a big difference

Юваль Ной Харари: По большому счёту, нет особой разницы

between the corporations and the governments,

между корпорациями и правительством,

because, as I said, the questions is: Who controls the data?

потому что, как я уже говорил, вопрос в том, кто владеет данными.

This is the real government.

Они-то и есть реальная власть.

If you call it a corporation or a government --

Зовите их корпорацией или правительством —

if it's a corporation and it really controls the data,

если это корпорация, реально владеющая данными,

this is our real government.

то она и есть настоящее правительство.

So the difference is more apparent than real.

Поэтому разница здесь скорее мнимая, чем реальная.

CA: But somehow, at least with corporations,

КА: Но ведь в случае с корпорациями

you can imagine market mechanisms where they can be taken down.

должны же быть рыночные механизмы, которые могут их уничтожить.

I mean, if consumers just decide

То есть, если потребители вдруг решат,

that the company is no longer operating in their interest,

что компания больше не действует в их интересах,

it does open the door to another market.

это откроет дорогу к другим рынкам.

It seems easier to imagine that

Это легче себе представить,

than, say, citizens rising up and taking down a government

чем, скажем, бунт граждан с целью свержения правительства,

that is in control of everything.

которое всё контролирует.

YNH: Well, we are not there yet,

ЮНХ: Пока об этом рано говорить,

but again, if a corporation really knows you better than you know yourself --

но если корпорация знает вас лучше, чем вы знаете себя сами,

at least that it can manipulate your own deepest emotions and desires,

или хотя бы способна манипулировать вашими сокровенными желаниями

and you won't even realize --

без вашего ведома,

you will think this is your authentic self.

то вы поверите, что сами того хотите.

So in theory, yes, in theory, you can rise against a corporation,

В теории — да, вы можете восстать против корпорации

just as, in theory, you can rise against a dictatorship.

так же, как — опять же, в теории — можно восстать против диктатуры.

But in practice, it is extremely difficult.

Но на практике это чрезвычайно сложно.

CA: So in "Homo Deus," you argue that this would be the century

КА: В книге «Homo Deus» ты выдвигаешь гипотезу, что в этом столетии

when humans kind of became gods,

люди станут кем-то вроде богов

either through development of artificial intelligence

либо вследствие развития искусственного интеллекта,

or through genetic engineering.

либо посредством генетических манипуляций.

Has this prospect of political system shift, collapse

Повлияли ли на твоё видение будущего

impacted your view on that possibility?

эти опасения по поводу политического сдвига, кризиса?

YNH: Well, I think it makes it even more likely,

ЮНХ: На мой взгляд, такая возможность не только более вероятна,

and more likely that it will happen faster,

но и более вероятно, что она наступит быстрее,

because in times of crisis, people are willing to take risks

потому что в периоды кризиса люди идут на бóльшие риски,

that they wouldn't otherwise take.

чем в обычной ситуации.

And people are willing to try

Люди больше готовы экспериментировать

all kinds of high-risk, high-gain technologies.

с разного рода крайне рискованными, но многообещающими технологиями.

So these kinds of crises might serve the same function

Так что подобный кризис может иметь тот же эффект,

as the two world wars in the 20th century.

что и две мировые войны в XX веке.

The two world wars greatly accelerated

Обе мировые войны чрезвычайно ускорили

the development of new and dangerous technologies.

развитие новых и опасных технологий.

And the same thing might happen in the 21st century.

И то же самое может произойти в XXI веке.

I mean, you need to be a little crazy to run too fast,

Ведь надо же быть сумасшедшим, чтобы торопиться с такими вещами,

let's say, with genetic engineering.

как, например, генная инженерия.

But now you have more and more crazy people

Но сейчас всё больше и больше таких сумасшедших

in charge of different countries in the world,

оказываются во главе разных государств,

so the chances are getting higher, not lower.

поэтому и шансы возрастают, а не уменьшаются.

CA: So, putting it all together, Yuval, you've got this unique vision.

КА: Итак, подведём итог твоей уникальной точке зрения, Юваль.

Roll the clock forward 30 years.

Перемотаем время на 30 лет вперёд.

What's your guess -- does humanity just somehow scrape through,

Как по-твоему: сумеет ли человечество как-то выкарабкаться из этого

look back and say, "Wow, that was a close thing. We did it!"

и, оглядываясь назад, подумать: «Ну и ну, мы едва уцелели!»

Or not?

или нет?

YNH: So far, we've managed to overcome all the previous crises.

ЮНХ: До сих пор нам удавалось преодолеть все предыдущие кризисы.

And especially if you look at liberal democracy

Если вы считаете, глядя на либеральную демократию,

and you think things are bad now,

что она в плачевном состоянии,

just remember how much worse things looked in 1938 or in 1968.

то вспомните, насколько хуже обстояли дела в 1938 или 1968 годах.

So this is really nothing, this is just a small crisis.

И тогда сегодняшний кризис покажется совершенно незначительным.

But you can never know,

Однако нельзя сказать наверняка,

because, as a historian,

потому что как историк

I know that you should never underestimate human stupidity.

я знаю, что никогда нельзя недооценивать человеческую глупость.

(Laughter) (Applause)

(Смех) (Аплодисменты)

It is one of the most powerful forces that shape history.

Это одна из мощнейших сил, формирующих историю.

CA: Yuval, it's been an absolute delight to have you with us.

КА: Юваль, твоё появление здесь было настоящим подарком.

Thank you for making the virtual trip.

Спасибо за это виртуальное перемещение.

Have a great evening there in Tel Aviv.

Хорошего вечера в Тель-Авиве.

Yuval Harari!

Юваль Харари!

YNH: Thank you very much.

ЮНХ: Большое спасибо.

(Applause)

(Аплодисменты)