Why fascism is so tempting -- and how your data could power it | Yuval Noah Harari

翻訳: Machiko Garcia 校正: Tomoyuki Suzuki

Hello, everyone.

皆さん こんにちは

It's a bit funny, because I did write that humans will become digital,

確かに私は人間がいつか デジタルになると著書に書きましたが

but I didn't think it will happen so fast

こんなに早く しかも 自分自身がそうなるなんて

and that it will happen to me.

思いもしませんでした

But here I am, as a digital avatar,

ともかく デジタルアバターとして 私はここにいます

and here you are, so let's start.

それでは皆さん 始めましょう

And let's start with a question.

まずは質問させてください

How many fascists are there in the audience today?

本日お集まりの皆さんの中に ファシストの方はどれくらいいますか？

(Laughter)

（笑）

Well, it's a bit difficult to say,

少々答えにくいかもしれませんね

because we've forgotten what fascism is.

私たちがファシズムとは何かを 忘れているからです

People now use the term "fascist"

最近は「ファシスト」という言葉を

as a kind of general-purpose abuse.

多くの用途に使い過ぎています

Or they confuse fascism with nationalism.

あるいは ファシズムを ナショナリズムと混同しています

So let's take a few minutes to clarify what fascism actually is,

それでは 少し時間を頂いて ファシズムとは本当は何なのか

and how it is different from nationalism.

また ナショナリズムとの違いについて 明らかにしましょう

The milder forms of nationalism have been among the most benevolent

「穏やかな」ナショナリズムは 人間の生み出したものの中でも

最も善意に満ちた部類に入ります

of human creations.

Nations are communities of millions of strangers

国家とは お互いを良く知らない人々が

who don't really know each other.

何百万人も集まった共同体です

For example, I don't know the eight million people

例えば 私は 同じイスラエル国籍を持つ

who share my Israeli citizenship.

８百万人の人々のことを 知りません

But thanks to nationalism,

しかしナショナリズムのおかげで

we can all care about one another and cooperate effectively.

私たちはお互いを気にかけて 効果的に協力し合うことができます

This is very good.

これはとても良いことです

Some people, like John Lennon, imagine that without nationalism,

中にはジョン・レノンのように ナショナリズムの無い世の中は

the world will be a peaceful paradise.

平和なパラダイスになると 想像する人もいますが

But far more likely,

それよりも ナショナリズムがなければ

without nationalism, we would have been living in tribal chaos.

部族的なカオスの中で 生きる可能性がずっと高いでしょう

If you look today at the most prosperous and peaceful countries in the world,

現在 世界で最も繁栄していて 平和な国

countries like Sweden and Switzerland and Japan,

スウェーデンやスイス 日本のような国を見ると

you will see that they have a very strong sense of nationalism.

ナショナリズムの感覚を 強く持っている国だとわかります

In contrast, countries that lack a strong sense of nationalism,

逆に ナショナリズムの感覚が希薄な

like Congo and Somalia and Afghanistan,

コンゴやソマリア アフガニスタンのような国では

tend to be violent and poor.

暴力と貧困の傾向が見られます

So what is fascism, and how is it different from nationalism?

さてファシズムとは何で ナショナリズムとはどう違うのでしょう？

Well, nationalism tells me that my nation is unique,

ナショナリズムは 自分の国は特別であり

and that I have special obligations towards my nation.

自分は自国に対して特別な 義務を負っているという考え方です

Fascism, in contrast, tells me that my nation is supreme,

一方ファシズムは 自分の国こそ最も優れており

and that I have exclusive obligations towards it.

自分は自国に対してだけ 義務があるという考え方です

I don't need to care about anybody or anything other than my nation.

自分の国以外の誰も何事も 気にかける必要がないということです

Usually, of course, people have many identities

もちろん 一般的に見て 人それぞれ複数のアイデンティティがあり

and loyalties to different groups.

異なる集団に 忠誠心を抱いています

For example, I can be a good patriot, loyal to my country,

たとえば 私が善良な愛国者で 自分の国に忠誠心を持っているとして

and at the same time, be loyal to my family,

同時に 自分の家族や

my neighborhood, my profession,

近所の人たち 自分の仕事

humankind as a whole,

人類全体

truth and beauty.

真実や美に対しても 忠実かもしれません

Of course, when I have different identities and loyalties,

もちろん いろいろなアイデンティティや 忠誠心があることで

it sometimes creates conflicts and complications.

矛盾や問題が生じることもあります

But, well, who ever told you that life was easy?

しかし そもそも誰が 人生は単純なものだと言ったのでしょう？

Life is complicated.

人生は複雑なのです

Deal with it.

対処していくしかありません

Fascism is what happens when people try to ignore the complications

ファシズムは 人々が複雑性を無視し

and to make life too easy for themselves.

自分だけ楽して 生きようとする時に生まれます

Fascism denies all identities except the national identity

ファシズムは国民としての自己認識を別として 全てのアイデンティティを否定し

and insists that I have obligations only towards my nation.

個人は国に対してのみ 責任があるのだと主張します

If my nation demands that I sacrifice my family,

国が家族を犠牲にせよと 命令したら

then I will sacrifice my family.

家族を犠牲にし

If the nation demands that I kill millions of people,

国が何百万人もの人を 殺せと命じたら

then I will kill millions of people.

何百万人の人を殺すのです

And if my nation demands that I betray truth and beauty,

国が真実と美に 背を向けろと命じたら

then I should betray truth and beauty.

真実と美に背かなければなりません

For example, how does a fascist evaluate art?

例えば ファシストは芸術を どのように評価するでしょう？

How does a fascist decide whether a movie is a good movie or a bad movie?

映画の良し悪しは どのように判断するでしょう？

Well, it's very, very, very simple.

これは 非常に 非常に単純です

There is really just one yardstick:

モノサシは１つしかありません

if the movie serves the interests of the nation,

その映画が国の利益に 供するものであれば

it's a good movie;

それは良い映画で

if the movie doesn't serve the interests of the nation,

国の利益に反するものであれば

it's a bad movie.

それは悪い映画なのです

That's it.

それだけです

Similarly, how does a fascist decide what to teach kids in school?

同様に ファシストは 学校で教える内容をどう決めるのでしょう？

Again, it's very simple.

これもまた 非常に単純です

There is just one yardstick:

モノサシは１つです

you teach the kids whatever serves the interests of the nation.

何であれ国の利益に 供することを教えればいいのです

The truth doesn't matter at all.

真実かどうかは全く問題になりません

Now, the horrors of the Second World War and of the Holocaust remind us

第二次世界大戦と ホロコーストの恐怖は

of the terrible consequences of this way of thinking.

このような考え方が酷い結果を 招いたことを思い出させます

But usually, when we talk about the ills of fascism,

しかし ファシズムの邪悪さを 伝えようとする時

we do so in an ineffective way,

私たちの語り方は 効果的ではありません

because we tend to depict fascism as a hideous monster,

恐ろしいモンスターのように 描写するだけで

without really explaining what was so seductive about it.

ファシズムの何が 人をそれ程までに 惹きつけてしまうのかを説明していません

It's a bit like these Hollywood movies that depict the bad guys --

ある意味 ハリウッド映画の 悪役のように描いています

Voldemort or Sauron or Darth Vader --

ヴォルデモートやサウロン ダース・ベイダーなどのように

as ugly and mean and cruel.

醜く卑劣で残忍なものとしてです

They're cruel even to their own supporters.

悪役たちは自分を支持する人々 に対しても冷酷です

When I see these movies, I never understand --

私はそうした映画を見ると どうしても分からないのです

why would anybody be tempted to follow a disgusting creep like Voldemort?

ヴォルデモートのようなおぞましい悪人に 誰がついていきたいと思うのか

The problem with evil is that in real life,

「悪」という概念の 実世界での問題点は

evil doesn't necessarily look ugly.

必ずしも醜くは 見えないということです

It can look very beautiful.

とても美しく見えることもあります

This is something that Christianity knew very well,

キリスト教はこのことを よく理解しているので

which is why in Christian art, as [opposed to] Hollywood,

キリスト教の宗教画は ハリウッド映画とは違って

Satan is usually depicted as a gorgeous hunk.

たいていサタンを立派な男性美 として描いています

This is why it's so difficult to resist the temptations of Satan,

だからこそサタンの誘惑に 打ち勝つのは難しいのです

and why it is also difficult to resist the temptations of fascism.

ファシズムの魅力に打ち勝つのが 難しいのも同じです

Fascism makes people see themselves

ファシズムは人々に

as belonging to the most beautiful and most important thing in the world --

自分は世界で最も美しく最も大切なものに 属しているのだと思わせます

the nation.

国家のことです

And then people think,

すると人々はこう思います

"Well, they taught us that fascism is ugly.

「ファシズムは醜いものだと 教わりました

But when I look in the mirror, I see something very beautiful,

でも 鏡にはとても美しいものが 映っているから

so I can't be a fascist, right?"

私はファシストではないですよね？」

Wrong.

違います

That's the problem with fascism.

これがファシズムの問題なのです

When you look in the fascist mirror,

ファシストの目で鏡を見ると

you see yourself as far more beautiful than you really are.

自分が本来の姿より ずっと美しく見えるのです

In the 1930s, when Germans looked in the fascist mirror,

1930年代にドイツ人が ファシストの目で鏡を見た時

they saw Germany as the most beautiful thing in the world.

ドイツが世界の何よりも 美しく見えたはずです

If today, Russians look in the fascist mirror,

今 ロシア人が ファシストの目で鏡を見たら

they will see Russia as the most beautiful thing in the world.

ロシアが世界の何よりも 美しく見えるでしょう

And if Israelis look in the fascist mirror,

イスラエル人が ファシストの目で鏡を見れば

they will see Israel as the most beautiful thing in the world.

イスラエルが世界の何よりも 美しく見えるはずです

This does not mean that we are now facing a rerun of the 1930s.

これは1930年代の出来事が 繰り返されているという意味ではありません

Fascism and dictatorships might come back,

ファシズムや独裁が 再び起こるかもしれませんが

but they will come back in a new form,

それは 姿を変え

a form which is much more relevant

21世紀の新しい技術の現状に

to the new technological realities of the 21st century.

もっと即した形で復活することでしょう

In ancient times,

古代の世の中においては

land was the most important asset in the world.

土地は最も重要な資産でした

Politics, therefore, was the struggle to control land.

だから政略とは土地を 支配することでした

And dictatorship meant that all the land was owned by a single ruler

そして独裁とは全ての土地の所有権が １人の支配者

or by a small oligarch.

あるいは少数の寡頭制支配者に 属することを意味しました

And in the modern age, machines became more important than land.

近代になると 土地よりも 機械が重要になり

Politics became the struggle to control the machines.

機械を支配しようとする 政略に移りました

And dictatorship meant

よって独裁とは

that too many of the machines became concentrated

過剰な程 多くの機械が 政府や一握りのエリートの手に

in the hands of the government or of a small elite.

集中することを意味しました

Now data is replacing both land and machines

現在では データが最も重要な資産として 土地や機械に取って代わりつつあります

as the most important asset.

Politics becomes the struggle to control the flows of data.

今や政治とは データの流れを コントロールするために骨を折ることであり

And dictatorship now means

そして今や独裁とは

that too much data is being concentrated in the hands of the government

過剰な量のデータが 政府や一握りのエリートに

or of a small elite.

集中することを意味します

The greatest danger that now faces liberal democracy

自由民主主義が直面している 最大の危機は

is that the revolution in information technology

情報革命のせいで

will make dictatorships more efficient than democracies.

民主主義よりも独裁のほうが 効率が良くなってしまうことです

In the 20th century,

20世紀には

democracy and capitalism defeated fascism and communism

民主主義と資本主義が ファシズムと共産主義に勝利しましたが

because democracy was better at processing data and making decisions.

それは民主主義の方がデータ処理と 意思決定に優れていたからです

Given 20th-century technology,

20世紀のテクノロジーは

it was simply inefficient to try and concentrate too much data

多くのデータと 多大な権力を一手に集中させることに

and too much power in one place.

単に向いていなかったのです

But it is not a law of nature

しかし分散データ処理よりも

that centralized data processing is always less efficient

集中データ処理の方が 常に非効率だというのは

自然の理に反します

than distributed data processing.

With the rise of artificial intelligence and machine learning,

人工知能や機械学習の台頭により

it might become feasible to process enormous amounts of information

膨大な量の情報を

very efficiently in one place,

一ヶ所で効率的に処理し

to take all the decisions in one place,

一ヶ所で全ての決定を下すといったことも 可能になるかもしれません

and then centralized data processing will be more efficient

そうなれば 集中データ処理の方が

分散データ処理よりも 効率が良くなります

than distributed data processing.

And then the main handicap of authoritarian regimes

20世紀の独裁体制にとって

in the 20th century --

負担になっていたのは

their attempt to concentrate all the information in one place --

情報を一か所に集中する試みでしたが

it will become their greatest advantage.

それこそが最大の利点に なるかもしれません

Another technological danger that threatens the future of democracy

未来の民主主義を脅かす もう一つの技術面の脅威は

is the merger of information technology with biotechnology,

情報テクノロジーと バイオテクノロジーの融合です

which might result in the creation of algorithms

これにより自分よりももっと 自分のことを知っている

that know me better than I know myself.

アルゴリズムが生まれる 可能性があります

And once you have such algorithms,

このようなアルゴリズムが生まれると

an external system, like the government,

政府など外部のシステムが

cannot just predict my decisions,

私の意思決定を予見するだけでなく

it can also manipulate my feelings, my emotions.

私の感情や情動を操ることが できるようになります

A dictator may not be able to provide me with good health care,

独裁者は私に十分な医療制度を 提供できないかもしれませんが

but he will be able to make me love him

私が独裁者を愛し

and to make me hate the opposition.

敵対者を憎むように 仕向けることができます

Democracy will find it difficult to survive such a development

民主主義がこのような変化を 切り抜けるのは難しいでしょう

because, in the end,

なぜなら結局のところ

democracy is not based on human rationality;

民主主義とは人間の合理性ではなく

it's based on human feelings.

感情によって左右されるからです

During elections and referendums,

選挙や国民投票では

you're not being asked, "What do you think?"

「どう考えるか」ではなく

You're actually being asked, "How do you feel?"

「どう感じるか」を問われています

And if somebody can manipulate your emotions effectively,

そしてもし誰かが人の感情を 効果的に操作できるとしたら

democracy will become an emotional puppet show.

民主主義は感情を操る 人形劇になってしまいます

So what can we do to prevent the return of fascism

ファシズムの再来と

and the rise of new dictatorships?

新しい独裁の台頭を防ぐには どうすれば良いのでしょう

The number one question that we face is: Who controls the data?

私たちが直面する第一の問いは 「誰がデータを支配するのか」です

If you are an engineer,

あなたがエンジニアであれば

then find ways to prevent too much data

一部の人の手へのデータの集中を

from being concentrated in too few hands.

防ぐ方法を考えて下さい

And find ways to make sure

そして分散型のデータ処理が

集中データ処理と

the distributed data processing is at least as efficient

少なくとも同じくらいは 効率的であるようにしてください

as centralized data processing.

This will be the best safeguard for democracy.

これが民主主義にとって 最良の防御壁になります

As for the rest of us who are not engineers,

エンジニア以外の人々にとっては

the number one question facing us

目の前にある一番の問題は

is how not to allow ourselves to be manipulated

いかにして データを支配する者に 操られないようにするかです

by those who control the data.

The enemies of liberal democracy, they have a method.

自由民主主義の敵の やり方は

They hack our feelings.

私たちの感情を ハッキングすることです

Not our emails, not our bank accounts --

Eメールや銀行口座ではなく

they hack our feelings of fear and hate and vanity,

私たちの恐怖や憎しみ 虚栄心といった感情をハッキングし

and then use these feelings

次に こうした感情を利用して

to polarize and destroy democracy from within.

民主主義を二極化させ 内側から破壊します

This is actually a method

実はこれは

that Silicon Valley pioneered in order to sell us products.

シリコンバレーが商品を売るために 開発した手法です

But now, the enemies of democracy are using this very method

しかし今は全く同じ手法で 民主主義の敵が

to sell us fear and hate and vanity.

恐怖や憎しみや虚栄心を 売るのに使っています

They cannot create these feelings out of nothing.

こうした感情をゼロから 生み出すことはできません

So they get to know our own preexisting weaknesses.

私たちに内在している 弱さを見つけ出し

And then use them against us.

それを攻撃に使うのです

And it is therefore the responsibility of all of us

だからこそ私たち全員の責任において

to get to know our weaknesses

自分の弱さを認識し

and make sure that they do not become a weapon

それが民主主義の敵の手に渡って

in the hands of the enemies of democracy.

武器にされないように しなければなりません

Getting to know our own weaknesses

自分自身の弱さを知ることで

will also help us to avoid the trap of the fascist mirror.

ファシストの鏡という罠に かからずに済みます

As we explained earlier, fascism exploits our vanity.

既に説明した通り ファシズムは 私たちの虚栄心を利用します

It makes us see ourselves as far more beautiful than we really are.

私たちを実際よりも ずっと美しく見せるのです

This is the seduction.

それがファシズムの誘惑です

But if you really know yourself,

しかし自分のことをよく理解すれば

you will not fall for this kind of flattery.

こういったまやかしに 乗せられることもありません

If somebody puts a mirror in front of your eyes

誰かがあなたの前に鏡を置いたとして

that hides all your ugly bits and makes you see yourself

それがあなたの欠点を全て覆い隠し

as far more beautiful and far more important

自分を実際よりもずっと美しく

ずっと重要に見せる鏡だとしたら

than you really are,

just break that mirror.

壊すしかありません

Thank you.

ありがとうございました

(Applause)

（拍手）

Chris Anderson: Yuval, thank you.

（クリス・アンダーソン） ありがとうございました

Goodness me.

なんと またお会いできて 嬉しいですね

It's so nice to see you again.

So, if I understand you right,

もし私の理解が正しければ

you're alerting us to two big dangers here.

あなたは２つの危険性について 警鐘を鳴らしましたね

One is the possible resurgence of a seductive form of fascism,

１つは魅惑的に姿に変えた ファシズムが復活すること

but close to that, dictatorships that may not exactly be fascistic,

それからファシズムに似ているけど 厳密には異なる独裁主義が

but control all the data.

全てのデータを支配すること

I wonder if there's a third concern

３つ目の危険もあるのではと 危惧しています

that some people here have already expressed,

それは他のスピーカーが 話されたように

which is where, not governments, but big corporations control all our data.

政府ではなく 大企業が私たちのデータを 全て支配するというものです

What do you call that,

これを何と呼び

and how worried should we be about that?

また その危険性を どの程度憂慮すべきでしょうか？

Yuval Noah Harari: Well, in the end, there isn't such a big difference

（ユヴァル・ノア・ハラリ） 結局のところ 企業であれ政府であれ

between the corporations and the governments,

あまり大きな差はありません

because, as I said, the questions is: Who controls the data?

なぜなら お話しした通り 問題は 「データを支配するのか誰か」であって

This is the real government.

この支配者こそ 事実上の政府なのです

If you call it a corporation or a government --

それを企業と呼ぼうと 政府と呼ぼうとお構いなく

if it's a corporation and it really controls the data,

仮に企業が実際にデータを 支配するのなら

this is our real government.

その企業が事実上の 政府になります

So the difference is more apparent than real.

だから違いは 見かけだけのことなのです

CA: But somehow, at least with corporations,

（クリス）しかし企業だとしたら

you can imagine market mechanisms where they can be taken down.

市場原理が働いて その座を追われたりしないでしょうか

I mean, if consumers just decide

つまり 消費者が

that the company is no longer operating in their interest,

そんな企業には もう興味がないとし

it does open the door to another market.

他の市場にチャンスを 与えるということです

It seems easier to imagine that

国民が蜂起して

than, say, citizens rising up and taking down a government

全てを支配する政府を 転覆させるよりは

that is in control of everything.

想像しやすいと思うのですが

YNH: Well, we are not there yet,

（ユヴァル） 国民はまだそのレベルになく

but again, if a corporation really knows you better than you know yourself --

繰り返しますが 企業が人々のことを その人以上に知っていたら

at least that it can manipulate your own deepest emotions and desires,

少なくとも 心の奥深くにある 感情や欲望を操ることができて

and you won't even realize --

人々はそれに気づきもせず

you will think this is your authentic self.

「真の」自分の考えだと 思い込むことでしょう

So in theory, yes, in theory, you can rise against a corporation,

理論上は企業に対して 立ち上がることも可能です

just as, in theory, you can rise against a dictatorship.

それは理論上 独裁者に対して 蜂起が可能なのと同じです

But in practice, it is extremely difficult.

ただ現実には非常に難しいのです

CA: So in "Homo Deus," you argue that this would be the century

（クリス）『ホモ・デウス』の中で あなたは今世紀のうちに

when humans kind of became gods,

人類は人工知能の進歩か 遺伝子工学によって

either through development of artificial intelligence

or through genetic engineering.

神のようになると 述べていますね

Has this prospect of political system shift, collapse

その可能性に対するあなたの見解は 政治の体系が変化し崩壊するという

impacted your view on that possibility?

見方によって 影響を受けましたか？

YNH: Well, I think it makes it even more likely,

（ユヴァル）そうなれば 可能性は更に高まり

and more likely that it will happen faster,

しかも もっと早く 実現することでしょう

because in times of crisis, people are willing to take risks

なぜなら危機に際すると 人間は普段なら冒さないようなリスクさえ

that they wouldn't otherwise take.

積極的に冒そうとするからです

And people are willing to try

そしてハイリスクでハイリターンの

all kinds of high-risk, high-gain technologies.

あらゆる技術を試そうとします

So these kinds of crises might serve the same function

つまりこうした危機は20世紀に ２つの世界大戦がもたらしたのと

as the two world wars in the 20th century.

同じような役割を果たします

The two world wars greatly accelerated

２つの世界大戦は 新しくて危険な技術の進歩を

the development of new and dangerous technologies.

著しく加速させました

And the same thing might happen in the 21st century.

21世紀にも同じことが起こる 可能性があります

I mean, you need to be a little crazy to run too fast,

少しばかり たがを外すだけで 暴走し得るということです

let's say, with genetic engineering.

例えば遺伝子工学のことです

But now you have more and more crazy people

今の世の中では 常軌を逸した人が

in charge of different countries in the world,

様々な国で政権を握るケースが 増えています

so the chances are getting higher, not lower.

ですから危険性は高まっていると 考えられます

CA: So, putting it all together, Yuval, you've got this unique vision.

（クリス）ユヴァルさん 全体的に 非常にユニークな見方だと思います

Roll the clock forward 30 years.

時計を30年先に進めましょう

What's your guess -- does humanity just somehow scrape through,

あなたの予測では 人類は危機をギリギリすり抜け

look back and say, "Wow, that was a close thing. We did it!"

振り返って「ああ危なかった！ でも助かった！」と言うでしょうか

Or not?

それともその逆でしょうか？

YNH: So far, we've managed to overcome all the previous crises.

（ユヴァル）過去に人類は なんとか危機を回避してきました

And especially if you look at liberal democracy

特に自由民主主義を見ていると

and you think things are bad now,

現状を好ましくないと 思うかもしれませんが

just remember how much worse things looked in 1938 or in 1968.

思い返せば1938年や1968年は もっとひどかったわけで

So this is really nothing, this is just a small crisis.

だから今の状況は何てことない 小さな危機なのです

But you can never know,

だけど誰にも分かりはしません

because, as a historian,

歴史学者として言えるのは

I know that you should never underestimate human stupidity.

決して人間の愚かさを侮っては いけないということです

(Laughter) (Applause)

（笑）（拍手）

It is one of the most powerful forces that shape history.

人間の愚かさは歴史を形造ってきた 重要な要素の一つです

CA: Yuval, it's been an absolute delight to have you with us.

（クリス）ユヴァルさん ご登場いただき光栄でした

Thank you for making the virtual trip.

ヴァーチャルでお越しいただき ありがとう

Have a great evening there in Tel Aviv.

そちらテル・アヴィヴで 素敵な夜を

Yuval Harari!

ユヴァル・ハラリさんでした！

YNH: Thank you very much.

（ユヴァル）ありがとうございました

(Applause)

（拍手）