Why fascism is so tempting -- and how your data could power it | Yuval Noah Harari

Tradutor: Maricene Crus Revisor: Carolina Aguirre

Hello, everyone.

Olá a todos.

It's a bit funny, because I did write that humans will become digital,

É meio engraçado, porque escrevi que os humanos se tornarão digitais,

but I didn't think it will happen so fast

mas não achei que isso aconteceria tão rápido

and that it will happen to me.

e que aconteceria comigo!

But here I am, as a digital avatar,

Mas aqui estou eu, como um avatar digital

and here you are, so let's start.

e aí estão vocês, então vamos lá.

And let's start with a question.

Vamos começar com uma pergunta:

How many fascists are there in the audience today?

"Quantos fascistas temos na plateia hoje?"

(Laughter)

(Risos)

Well, it's a bit difficult to say,

Bem, é um pouco difícil dizer

because we've forgotten what fascism is.

porque esquecemos o que é o fascismo.

People now use the term "fascist"

As pessoas agora usam o termo "fascista"

as a kind of general-purpose abuse.

como um tipo de uso geral do abuso.

Or they confuse fascism with nationalism.

Ou confundem fascismo com nacionalismo.

So let's take a few minutes to clarify what fascism actually is,

Vamos usar alguns minutos pra esclarecer o que é o fascismo, na verdade,

and how it is different from nationalism.

e como ele é diferente do nacionalismo.

The milder forms of nationalism have been among the most benevolent

As formas mais brandas do nacionalismo têm estado entre algumas

of human creations.

das criações humanas mais benevolentes.

Nations are communities of millions of strangers

Nações são comunidades de milhões de estranhos

who don't really know each other.

que não se conhecem.

For example, I don't know the eight million people

Por exemplo, eu não conheço os 8 milhões de pessoas

who share my Israeli citizenship.

que compartilham a minha cidadania israelense.

But thanks to nationalism,

Mas graças ao nacionalismo,

we can all care about one another and cooperate effectively.

todos podemos nos preocupar uns com os outros

e cooperar de forma eficaz.

This is very good.

Isso é muito bom.

Some people, like John Lennon, imagine that without nationalism,

Algumas pessoas, como John Lennon, imaginam que sem nacionalismo,

the world will be a peaceful paradise.

o mundo será um paraíso pacífico.

But far more likely,

Mas, mais provavelmente,

without nationalism, we would have been living in tribal chaos.

sem nacionalismo, estaríamos vivendo no caos tribal.

If you look today at the most prosperous and peaceful countries in the world,

Se observarmos hoje os países mais prósperos e pacíficos do mundo,

countries like Sweden and Switzerland and Japan,

como a Suécia, Suíça e Japão,

you will see that they have a very strong sense of nationalism.

veremos que eles têm um forte senso de nacionalismo.

In contrast, countries that lack a strong sense of nationalism,

Em contraste, países que não têm um forte senso de nacionalismo,

like Congo and Somalia and Afghanistan,

como Congo, Somália e Afeganistão, tendem a ser violentos e pobres.

tend to be violent and poor.

So what is fascism, and how is it different from nationalism?

Então, o que é fascismo e como ele é diferente do nacionalismo?

Well, nationalism tells me that my nation is unique,

Bem, o nacionalismo me diz que minha nação é única

and that I have special obligations towards my nation.

e que tenho obrigações especiais com ela.

Fascism, in contrast, tells me that my nation is supreme,

Já o fascismo me diz que minha nação é suprema

and that I have exclusive obligations towards it.

e que tenho obrigações exclusivas com ela.

I don't need to care about anybody or anything other than my nation.

Não preciso me preocupar com ninguém ou com nada a não ser com minha nação.

Usually, of course, people have many identities

Normalmente, claro, as pessoas têm muitas identidades

and loyalties to different groups.

e lealdade a diferentes grupos.

For example, I can be a good patriot, loyal to my country,

Por exemplo, posso ser um grande patriota, fiel ao meu país

and at the same time, be loyal to my family,

e, ao mesmo tempo, ser fiel a minha família,

my neighborhood, my profession,

a minha vizinhança, minha profissão,

humankind as a whole,

à humanidade como um todo,

truth and beauty.

à verdade e à beleza.

Of course, when I have different identities and loyalties,

Mas quando temos diferentes identidades e lealdades,

it sometimes creates conflicts and complications.

isso pode criar conflitos e complicações.

But, well, who ever told you that life was easy?

Mas, quem disse que a vida é fácil?

Life is complicated.

A vida é complicada.

Deal with it.

Lidemos com isso.

Fascism is what happens when people try to ignore the complications

Fascismo é o que acontece quando as pessoas tentam ignorar as complicações

and to make life too easy for themselves.

e facilitar muito a própria vida delas.

Fascism denies all identities except the national identity

O fascismo nega todas as identidades, exceto a identidade nacional,

and insists that I have obligations only towards my nation.

e insiste que tenho obrigações somente com a minha nação.

If my nation demands that I sacrifice my family,

Se minha nação exige que eu sacrifique minha família,

then I will sacrifice my family.

então, vou sacrificar minha família.

If the nation demands that I kill millions of people,

Se a nação exige que eu mate milhões de pessoas,

then I will kill millions of people.

então vou matar milhões de pessoas.

And if my nation demands that I betray truth and beauty,

E se minha nação exige que eu traia a verdade e a beleza,

then I should betray truth and beauty.

devo trair a verdade e a beleza.

For example, how does a fascist evaluate art?

Por exemplo, como um fascista avalia arte?

How does a fascist decide whether a movie is a good movie or a bad movie?

Como um fascista decide se um filme é bom ou ruim?

Well, it's very, very, very simple.

É extremamente simples.

There is really just one yardstick:

Existe, na verdade, apenas um critério:

if the movie serves the interests of the nation,

se o filme serve aos interesses da nação,

it's a good movie;

é um bom filme;

if the movie doesn't serve the interests of the nation,

se não serve aos interesses da nação,

it's a bad movie.

é um filme ruim.

That's it.

É bem por aí.

Similarly, how does a fascist decide what to teach kids in school?

Do mesmo modo, como um fascista decide o que ensinar às crianças na escola?

Again, it's very simple.

De novo, é muito simples.

There is just one yardstick:

Existe apenas um critério:

you teach the kids whatever serves the interests of the nation.

você ensina às crianças o que serve aos interesses da nação.

The truth doesn't matter at all.

A verdade não importa em nada.

Now, the horrors of the Second World War and of the Holocaust remind us

Os horrores da Segunda Guerra Mundial e do Holocausto nos lembram

of the terrible consequences of this way of thinking.

das terríveis consequências deste raciocínio.

But usually, when we talk about the ills of fascism,

Mas, geralmente, ao falarmos sobre os males do fascismo,

we do so in an ineffective way,

fazemos isso de modo ineficaz,

because we tend to depict fascism as a hideous monster,

pois a tendência é descrever o fascismo como um monstro hediondo,

without really explaining what was so seductive about it.

sem realmente explicar o que havia de tão sedutor nele.

It's a bit like these Hollywood movies that depict the bad guys --

É um pouco como nos filmes de Hollywood que retratam os bandidos,

Voldemort or Sauron or Darth Vader --

Voldemort, Sauron ou Darth Vader,

as ugly and mean and cruel.

como feios, malignos e cruéis.

They're cruel even to their own supporters.

Eles são cruéis até mesmo com aqueles que os apoiam.

When I see these movies, I never understand --

Quando vejo esses filmes, nunca entendo:

why would anybody be tempted to follow a disgusting creep like Voldemort?

por que alguém ficaria tentado a seguir um asqueroso nojento como o Voldemort?

The problem with evil is that in real life,

O problema com o mal é que, na vida real,

evil doesn't necessarily look ugly.

o mal não parece necessariamente feio.

It can look very beautiful.

Ele pode parecer muito bonito.

This is something that Christianity knew very well,

E isso é algo que o cristianismo sabia muito bem,

which is why in Christian art, as [opposed to] Hollywood,

é por isso que na arte cristã, ao contrário de Hollywood,

Satan is usually depicted as a gorgeous hunk.

Satanás é geralmente representado como um homem lindo.

This is why it's so difficult to resist the temptations of Satan,

É por isso que fica tão difícil resistir às tentações de Satanás,

and why it is also difficult to resist the temptations of fascism.

e porque também fica difícil resistir às tentações do fascismo.

Fascism makes people see themselves

O fascismo faz com que as pessoas se vejam

as belonging to the most beautiful and most important thing in the world --

como pertencendo à coisa mais bela e mais importante do mundo:

the nation.

a nação.

And then people think,

E então elas pensam:

"Well, they taught us that fascism is ugly.

"Nos ensinaram que o fascismo é feio,

But when I look in the mirror, I see something very beautiful,

mas quando me olho no espelho, vejo algo muito bonito.

so I can't be a fascist, right?"

Não tem como eu ser um fascista, certo?"

Wrong.

Errado.

That's the problem with fascism.

Esse é o problema com o fascismo.

When you look in the fascist mirror,

Quando você se olha no espelho fascista,

you see yourself as far more beautiful than you really are.

se vê muito mais bonito do que realmente é.

In the 1930s, when Germans looked in the fascist mirror,

Na década de 1930, quando os alemães se olharam no espelho fascista,

they saw Germany as the most beautiful thing in the world.

viram a Alemanha como a coisa mais linda do mundo.

If today, Russians look in the fascist mirror,

Se os russos se olharem no espelho fascista hoje,

they will see Russia as the most beautiful thing in the world.

vão ver a Rússia como a coisa mais linda do mundo.

And if Israelis look in the fascist mirror,

E se os israelenses se olharem no espelho fascista,

they will see Israel as the most beautiful thing in the world.

vão ver Israel como a coisa mais linda do mundo.

This does not mean that we are now facing a rerun of the 1930s.

Não significa que estejamos enfrentando agora uma reprise da década de 1930.

Fascism and dictatorships might come back,

Fascismo e ditaduras podem voltar,

but they will come back in a new form,

mas vão voltar num novo formato,

a form which is much more relevant

que é bem mais relevante

to the new technological realities of the 21st century.

às novas realidades tecnológicas do século 21.

In ancient times,

Em tempos antigos,

land was the most important asset in the world.

a terra era o bem mais importante do mundo.

Politics, therefore, was the struggle to control land.

Política, portanto, era a luta para controlar as terras.

And dictatorship meant that all the land was owned by a single ruler

E ditadura significava que todas as terras pertenciam a um único governante

or by a small oligarch.

ou a uma pequena oligarquia.

And in the modern age, machines became more important than land.

E na era moderna, as máquinas tornaram-se mais importantes do que a terra.

Politics became the struggle to control the machines.

Política tornou-se a luta para controlar as máquinas.

And dictatorship meant

E ditadura significava

that too many of the machines became concentrated

que muitas das máquinas ficavam concentradas

in the hands of the government or of a small elite.

nas mãos do governo ou de uma pequena elite.

Now data is replacing both land and machines

Agora os dados estão substituindo tanto a terra quanto as máquinas

as the most important asset.

como o bem mais importante.

Politics becomes the struggle to control the flows of data.

Política se torna a luta para controlar os fluxos de dados.

And dictatorship now means

E ditadura agora significa

that too much data is being concentrated in the hands of the government

que muitos dados estão sendo concentrados nas mãos do governo

or of a small elite.

ou de uma pequena elite.

The greatest danger that now faces liberal democracy

O maior perigo que confronta a democracia liberal agora

is that the revolution in information technology

é que a revolução em tecnologia da informação

will make dictatorships more efficient than democracies.

tornará ditaduras mais eficientes do que as democracias.

In the 20th century,

No século 20,

democracy and capitalism defeated fascism and communism

a democracia e o capitalismo derrotaram o fascismo e o comunismo,

because democracy was better at processing data and making decisions.

pois a democracia era melhor

no processamento de dados e na tomada de decisões.

Given 20th-century technology,

Devido à tecnologia do século 20,

it was simply inefficient to try and concentrate too much data

tornou-se simplesmente ineficiente tentar concentrar muitos dados

and too much power in one place.

e muito poder num só lugar.

But it is not a law of nature

Mas não é uma lei da natureza

that centralized data processing is always less efficient

que processamento centralizado de dados seja sempre menos eficiente

than distributed data processing.

que o processamento distribuído de dados.

With the rise of artificial intelligence and machine learning,

Com o surgimento da IA e do aprendizado de máquina,

it might become feasible to process enormous amounts of information

talvez torne-se viável processar enormes quantidades de informação

very efficiently in one place,

muito eficientemente num lugar,

to take all the decisions in one place,

tomar todas as decisões num só lugar,

and then centralized data processing will be more efficient

e, assim, o processamento centralizado de dados será mais eficiente

than distributed data processing.

que o processamento distribuído de dados.

And then the main handicap of authoritarian regimes

E, então, a principal desvantagem de regimes autoritários

in the 20th century --

no século 20,

their attempt to concentrate all the information in one place --

a tentativa deles de concentrar todas as informações num só lugar,

it will become their greatest advantage.

se tornará a maior vantagem deles.

Another technological danger that threatens the future of democracy

Outro perigo tecnológico que ameaça o futuro da democracia

is the merger of information technology with biotechnology,

é a fusão da tecnologia da informação com a biotecnologia,

which might result in the creation of algorithms

o que pode resultar na criação de algoritmos

that know me better than I know myself.

que me conhecem melhor do que eu me conheço.

And once you have such algorithms,

E uma vez em posse desses algoritmos,

an external system, like the government,

um sistema externo, como o governo,

cannot just predict my decisions,

pode não apenas prever minhas decisões,

it can also manipulate my feelings, my emotions.

mas também pode manipular meus sentimentos, minhas emoções.

A dictator may not be able to provide me with good health care,

Um ditador pode não ser capaz de me fornecer boa assistência médica,

but he will be able to make me love him

mas será capaz de me fazer amá-lo

and to make me hate the opposition.

e me fazer odiar a oposição.

Democracy will find it difficult to survive such a development

Será difícil para a democracia sobreviver a tal desenvolvimento

because, in the end,

porque, no final,

democracy is not based on human rationality;

a democracia não é baseada na racionalidade humana,

it's based on human feelings.

mas em sentimentos humanos.

During elections and referendums,

Durante eleições e referendos,

you're not being asked, "What do you think?"

não estão te perguntando: "Qual é a sua opinião?"

You're actually being asked, "How do you feel?"

Na verdade, estão te perguntando: "Como você está se sentindo?"

And if somebody can manipulate your emotions effectively,

E se alguém puder manipular suas emoções efetivamente,

democracy will become an emotional puppet show.

a democracia se tornará um show emocional de marionetes.

So what can we do to prevent the return of fascism

Então, o que podemos fazer pra evitar o retorno do fascismo

and the rise of new dictatorships?

e o surgimento de novas ditaduras?

The number one question that we face is: Who controls the data?

A primeira questão que enfrentamos é: quem controla os dados?

If you are an engineer,

Se você for engenheiro,

then find ways to prevent too much data

encontre formas de evitar que muitos dados

from being concentrated in too few hands.

sejam concentrados nas mãos de poucos.

And find ways to make sure

E encontre formas de se certificar

the distributed data processing is at least as efficient

que o processamento distribuído de dados seja, pelo menos, tão eficiente

as centralized data processing.

quanto o processamento centralizado de dados.

This will be the best safeguard for democracy.

Esta será a melhor proteção para a democracia.

As for the rest of us who are not engineers,

Quanto ao restante de nós que não somos engenheiros,

the number one question facing us

a questão número um que enfrentamos

is how not to allow ourselves to be manipulated

é como não permitir sermos manipulados

by those who control the data.

por aqueles que controlam os dados.

The enemies of liberal democracy, they have a method.

Os inimigos da democracia liberal têm um método.

They hack our feelings.

Eles reprogramam nossos sentimentos.

Not our emails, not our bank accounts --

Não nossos e-mails, nem nossas contas bancárias.

they hack our feelings of fear and hate and vanity,

Eles reprogramam nossos sentimentos de medo, ódio e vaidade,

and then use these feelings

e depois usam esses sentimentos

to polarize and destroy democracy from within.

para polarizar e destruir a democracia a partir de dentro.

This is actually a method

Este é um método pioneiro,

that Silicon Valley pioneered in order to sell us products.

usado pelo Vale do Silício, para nos vender produtos.

But now, the enemies of democracy are using this very method

Mas agora, os inimigos da democracia estão usando esse mesmo método

to sell us fear and hate and vanity.

para nos vender medo, ódio e vaidade.

They cannot create these feelings out of nothing.

Eles não podem criar esses sentimentos do nada.

So they get to know our own preexisting weaknesses.

Eles aprendem a reconhecer nossas próprias fraquezas preexistentes,

And then use them against us.

e depois as usam contra nós.

And it is therefore the responsibility of all of us

Portanto, é nossa responsabilidade

to get to know our weaknesses

conhecermos nossas fraquezas

and make sure that they do not become a weapon

e garantirmos que elas não se tornem uma arma

in the hands of the enemies of democracy.

nas mãos dos inimigos da democracia.

Getting to know our own weaknesses

Conhecer nossas próprias fraquezas

will also help us to avoid the trap of the fascist mirror.

também nos ajudará a evitar a armadilha do espelho fascista.

As we explained earlier, fascism exploits our vanity.

Como expliquei anteriormente, o fascismo explora nossa vaidade

It makes us see ourselves as far more beautiful than we really are.

e isso faz com que nos vejamos bem mais bonitos do que realmente somos.

This is the seduction.

Essa é a sedução.

But if you really know yourself,

Mas se vocês realmente se conhecem,

you will not fall for this kind of flattery.

não vão cair por este tipo de bajulação.

If somebody puts a mirror in front of your eyes

Se colocarem um espelho a sua frente,

that hides all your ugly bits and makes you see yourself

que esconde o seu lado feio e faz com que se veja

as far more beautiful and far more important

muito mais bonito e mais importante

than you really are,

do que você realmente é,

just break that mirror.

simplesmente quebre esse espelho.

Thank you.

Obrigado.

(Applause)

(Aplausos)

Chris Anderson: Yuval, thank you.

Chris Anderson: Yuval, obrigado.

Goodness me.

Incrível!

It's so nice to see you again.

É muito bom te ver de novo.

So, if I understand you right,

Se entendi direito,

you're alerting us to two big dangers here.

você está nos alertando para dois grandes perigos:

One is the possible resurgence of a seductive form of fascism,

um deles é o possível ressurgimento de uma forma sedutora de fascismo,

but close to that, dictatorships that may not exactly be fascistic,

mas, junto a isso, ditaduras que podem não ser exatamente fascistas,

but control all the data.

mas que controlem todos os dados.

I wonder if there's a third concern

Eu me pergunto se existe uma terceira preocupação,

that some people here have already expressed,

que algumas pessoas aqui já expressaram,

which is where, not governments, but big corporations control all our data.

de que não os governos, mas grandes corporações controlam todos nossos dados.

What do you call that,

Como você chama isso, e deveríamos ficar preocupados com isso?

and how worried should we be about that?

Yuval Noah Harari: Well, in the end, there isn't such a big difference

Yuval Noah Harari: Bem, no final, não há uma diferença tão grande

between the corporations and the governments,

entre as corporações e os governos,

because, as I said, the questions is: Who controls the data?

pois, como eu disse, a pergunta é: quem controla os dados?

This is the real government.

Este é o verdadeiro governo.

If you call it a corporation or a government --

Se você chama de corporação ou governo...

if it's a corporation and it really controls the data,

se é uma corporação e realmente controla os dados,

this is our real government.

este é o nosso verdadeiro governo.

So the difference is more apparent than real.

Então a diferença é mais aparente do que real.

CA: But somehow, at least with corporations,

CA: Mas, de alguma forma, pelo menos com corporações,

you can imagine market mechanisms where they can be taken down.

podemos imaginar mecanismos de mercado nos quais eles possam ser retirados.

I mean, if consumers just decide

Se os consumidores decidirem

that the company is no longer operating in their interest,

que a empresa não está mais atendendo ao interesse deles,

it does open the door to another market.

isso abre a porta para outro mercado.

It seems easier to imagine that

Parece mais fácil imaginar isso

do que, digamos, cidadãos se rebelando e derrubando um governo

than, say, citizens rising up and taking down a government

that is in control of everything.

que esteja no controle de tudo.

YNH: Well, we are not there yet,

YNH: Ainda não chegamos lá,

but again, if a corporation really knows you better than you know yourself --

mas, novamente, se uma corporação te conhece melhor do que você se conhece,

at least that it can manipulate your own deepest emotions and desires,

ou pelo menos que ela possa manipular suas emoções e desejos mais profundos,

and you won't even realize --

e você nem vai perceber,

you will think this is your authentic self.

você achará que esse é o seu eu autêntico.

So in theory, yes, in theory, you can rise against a corporation,

Em teoria, sim, você pode se rebelar contra uma corporação,

just as, in theory, you can rise against a dictatorship.

assim como, em teoria, você pode se rebelar contra uma ditadura.

But in practice, it is extremely difficult.

Mas na prática, é extremamente difícil.

CA: So in "Homo Deus," you argue that this would be the century

CA: No livro "Homo Deus" você discute que este seria o século

when humans kind of became gods,

no qual humanos meio que se tornariam deuses,

either through development of artificial intelligence

quer seja pelo desenvolvimento da inteligência artificial

or through genetic engineering.

quer seja pela engenharia genética.

Has this prospect of political system shift, collapse

Essa perspectiva de mudança, de colapso do sistema político,

impacted your view on that possibility?

impactou a sua opinião sobre essa possibilidade?

YNH: Well, I think it makes it even more likely,

YNH: Acho que isso deixa ainda mais provável

and more likely that it will happen faster,

e muito provavelmente irá acontecer mais rápido,

because in times of crisis, people are willing to take risks

pois, em tempos de crise, as pessoas estão dispostas a assumir riscos

that they wouldn't otherwise take.

que não assumiriam em outra época.

And people are willing to try

E elas estão dispostas a tentar

all kinds of high-risk, high-gain technologies.

todo tipo de tecnologias de alto risco e de alto ganho.

So these kinds of crises might serve the same function

Então, esse tipo de crise pode ter a mesma função

as the two world wars in the 20th century.

que as duas guerras mundiais no século 20.

The two world wars greatly accelerated

Elas aceleraram muito o desenvolvimento de tecnologias novas e perigosas.

the development of new and dangerous technologies.

And the same thing might happen in the 21st century.

A mesma coisa pode acontecer no século 21.

I mean, you need to be a little crazy to run too fast,

Quero dizer, é preciso ser meio louco para acelerar muito, digamos,

let's say, with genetic engineering.

a engenharia genética.

But now you have more and more crazy people

Mas agora temos cada vez mais pessoas malucas

in charge of different countries in the world,

no comando de diferentes países do mundo,

so the chances are getting higher, not lower.

então as chances são maiores, não menores.

CA: So, putting it all together, Yuval, you've got this unique vision.

CA: Então, considerando tudo, Yuval, você tem uma visão única.

Roll the clock forward 30 years.

Adiante o relógio em 30 anos.

What's your guess -- does humanity just somehow scrape through,

Qual é o seu palpite: a humanidade de alguma forma passa raspando,

look back and say, "Wow, that was a close thing. We did it!"

olha para trás e diz: "Ufa, essa foi por pouco. Conseguimos!"

Or not?

Ou não?

YNH: So far, we've managed to overcome all the previous crises.

YNH: Até agora, conseguimos superar todas as crises anteriores.

And especially if you look at liberal democracy

E especialmente, se observarmos a democracia liberal

and you think things are bad now,

e acharmos que as coisas estão ruins agora

just remember how much worse things looked in 1938 or in 1968.

vamos nos lembrar do quanto pior estava tudo em 1938 ou em 1968.

So this is really nothing, this is just a small crisis.

Então, isso não é nada, é apenas uma pequena crise.

But you can never know,

Mas nunca se sabe,

because, as a historian,

pois, como historiador,

I know that you should never underestimate human stupidity.

sei que jamais deveríamos subestimar a estupidez humana.

(Laughter) (Applause)

(Risos) (Aplausos)

It is one of the most powerful forces that shape history.

É uma das forças mais poderosas que molda a história.

CA: Yuval, it's been an absolute delight to have you with us.

CA: Foi um imenso prazer ter você aqui conosco.

Obrigado por fazer a viagem virtual. Tenha uma ótima noite aí em Tel Aviv.

Thank you for making the virtual trip.

Have a great evening there in Tel Aviv.

Yuval Harari!

Yuval Harari!

YNH: Muito obrigado.

YNH: Thank you very much.

(Applause)

(Aplausos)