Why fascism is so tempting -- and how your data could power it | Yuval Noah Harari

Tradutor: Margarida Ferreira Revisora: Isabel Vaz Belchior

Hello, everyone.

Olá a todos.

It's a bit funny, because I did write that humans will become digital,

É engraçado, porque eu escrevi

que os seres humanos iriam tornar-se digitais

but I didn't think it will happen so fast

mas não julgava que isso acontecesse tão depressa

and that it will happen to me.

e que me acontecesse a mim.

But here I am, as a digital avatar,

Mas aqui estou, como um avatar digital

and here you are, so let's start.

e aí estão vocês, por isso, vamos começar.

And let's start with a question.

E vamos começar com uma pergunta.

How many fascists are there in the audience today?

Quantos fascistas há aqui nesta audiência?

(Laughter)

(Risos)

Well, it's a bit difficult to say,

É um pouco difícil calcular,

because we've forgotten what fascism is.

porque esquecemos o que é o fascismo.

People now use the term "fascist"

As pessoas agora usam o termo "fascista"

as a kind of general-purpose abuse.

como uma certa violência para todos os fins.

Or they confuse fascism with nationalism.

Ou confundem fascismo com nacionalismo.

So let's take a few minutes to clarify what fascism actually is,

Por isso, vamos gastar uns minutos a esclarecer o que é o fascismo

and how it is different from nationalism.

e como é diferente do nacionalismo.

The milder forms of nationalism have been among the most benevolent

As formas mais suaves de nacionalismo

encontram-se entre as criações humanas mais benignas.

of human creations.

Nations are communities of millions of strangers

As nações são comunidades de milhões de estranhos

who don't really know each other.

que não se conhecem uns aos outros.

For example, I don't know the eight million people

Por exemplo, eu não conheço os oito milhões de pessoas

who share my Israeli citizenship.

com quem partilho a cidadania de israelita.

But thanks to nationalism,

Mas, graças ao nacionalismo,

we can all care about one another and cooperate effectively.

todos nos preocupamos e cooperamos uns com os outros com eficácia.

This is very good.

Isso é muito bom.

Some people, like John Lennon, imagine that without nationalism,

Há pessoas, como John Lennon, que imaginam

que, sem nacionalismo, o mundo seria um paraíso pacífico.

the world will be a peaceful paradise.

But far more likely,

Mas, muito mais provavelmente,

without nationalism, we would have been living in tribal chaos.

sem nacionalismo, viveríamos num caos tribal.

If you look today at the most prosperous and peaceful countries in the world,

Se olharmos hoje para os países mais prósperos e pacíficos do mundo,

countries like Sweden and Switzerland and Japan,

países como a Suécia, a Suíça e o Japão,

you will see that they have a very strong sense of nationalism.

veremos que eles têm um forte sentimento de nacionalismo.

In contrast, countries that lack a strong sense of nationalism,

Em contraste, países que não possuem um forte sentimento de nacionalismo,

like Congo and Somalia and Afghanistan,

como o Congo, a Somália e o Afeganistão,

tend to be violent and poor.

têm tendência a ser violentos e pobres.

So what is fascism, and how is it different from nationalism?

Então, o que é o fascismo e qual é a sua diferença do nacionalismo?

Well, nationalism tells me that my nation is unique,

Bem, o nacionalismo diz-me que a minha nação é especial

and that I have special obligations towards my nation.

e que eu tenho obrigações especiais para com a minha nação.

Fascism, in contrast, tells me that my nation is supreme,

O fascismo, em contrapartida, diz-me que a minha nação é superior

and that I have exclusive obligations towards it.

e que eu tenho obrigações exclusivas para com ela.

I don't need to care about anybody or anything other than my nation.

Não preciso de me preocupar com ninguém nem com mais nada

a não ser com a minha nação.

Usually, of course, people have many identities

Normalmente, claro, as pessoas têm muitas identidades

and loyalties to different groups.

e fidelidades a diferentes grupos.

For example, I can be a good patriot, loyal to my country,

Por exemplo, eu posso ser bom patriota, leal ao meu país

and at the same time, be loyal to my family,

e, ao mesmo tempo, ser leal à minha família

my neighborhood, my profession,

aos meus vizinhos, à minha profissão,

humankind as a whole,

à humanidade, como um todo.

truth and beauty.

à verdade e à beleza.

Of course, when I have different identities and loyalties,

Claro que, quando tenho diferentes identidades e lealdades.

it sometimes creates conflicts and complications.

por vezes, isso cria conflitos e complicações.

But, well, who ever told you that life was easy?

Mas quem é que nos disse que a vida era fácil?

Life is complicated.

A vida é complicada.

Deal with it.

Temos que saber lidar com ela.

Fascism is what happens when people try to ignore the complications

O fascismo é o que acontece

quando as pessoas tentam ignorar as complicações

and to make life too easy for themselves.

e tornar a vida demasiado fácil.

Fascism denies all identities except the national identity

O fascismo nega todas as identidades à exceção da identidade nacional

and insists that I have obligations only towards my nation.

e insiste que eu só tenho obrigações para com a minha nação.

If my nation demands that I sacrifice my family,

Se a minha nação exigir que eu sacrifique a minha família,

then I will sacrifice my family.

então, eu sacrificarei a minha família.

If the nation demands that I kill millions of people,

Se a nação exigir que eu mate milhões de pessoas,

then I will kill millions of people.

então, eu matarei milhões de pessoas.

And if my nation demands that I betray truth and beauty,

Se a minha nação exigir que eu atraiçoe a verdade e a beleza,

then I should betray truth and beauty.

então, eu atraiçoarei a verdade e a beleza.

For example, how does a fascist evaluate art?

Por exemplo, como é que um fascista avalia a arte?

How does a fascist decide whether a movie is a good movie or a bad movie?

Como é que um fascista decide se um filme é bom ou mau?

Well, it's very, very, very simple.

É muito, muito, muito simples.

There is really just one yardstick:

Só há um critério.

if the movie serves the interests of the nation,

Se o filme serve os interesses da nação,

it's a good movie;

é um bom filme.

if the movie doesn't serve the interests of the nation,

Se o filme não serve os interesses da nação

it's a bad movie.

é um mau filme.

That's it.

É assim.

Similarly, how does a fascist decide what to teach kids in school?

Do mesmo modo, como é que um fascista

decide o que ensinar às crianças na escola?

Again, it's very simple.

Também é muito simples.

There is just one yardstick:

Só há um critério.

you teach the kids whatever serves the interests of the nation.

Ensina-se às crianças tudo o que serve os interesses da nação.

The truth doesn't matter at all.

A verdade não tem qualquer importância.

Now, the horrors of the Second World War and of the Holocaust remind us

Os horrores da II Guerra Mundial e do Holocausto

recordam-nos as terríveis consequências desta forma de pensar.

of the terrible consequences of this way of thinking.

But usually, when we talk about the ills of fascism,

Mas, habitualmente, quando falamos dos males do fascismo,

we do so in an ineffective way,

fazemo-lo de modo ineficaz

because we tend to depict fascism as a hideous monster,

porque temos tendência para descrever o fascismo como um monstro horrendo,

without really explaining what was so seductive about it.

sem explicar o que ele tem de tão sedutor.

It's a bit like these Hollywood movies that depict the bad guys --

É um pouco como aqueles filmes de Hollywood

que apresentam os maus da fita — Voldemort, Sauron ou Darth Vader —

Voldemort or Sauron or Darth Vader --

as ugly and mean and cruel.

como homens feios, maus e cruéis.

They're cruel even to their own supporters.

São cruéis até para os seus apaniguados.

When I see these movies, I never understand --

Quando vejo esses filmes, nunca percebo

why would anybody be tempted to follow a disgusting creep like Voldemort?

porque é que alguém se sinta tentado a seguir

um pulha abominável como Voldemort.

The problem with evil is that in real life,

O problema com o mal é que, na vida real,

evil doesn't necessarily look ugly.

o mal não é necessariamente feio.

It can look very beautiful.

Pode parecer muito belo.

This is something that Christianity knew very well,

É uma coisa que o cristianismo sabia bem

which is why in Christian art, as [opposed to] Hollywood,

e é por isso que na arte cristã, em oposição a Hollywood,

Satan is usually depicted as a gorgeous hunk.

Satã é normalmente representado como um tipo muito bonito.

This is why it's so difficult to resist the temptations of Satan,

É por isso que é muito difícil resistir às tentações de Satã

and why it is also difficult to resist the temptations of fascism.

e que também é difícil resistir às tentações do fascismo.

Fascism makes people see themselves

O fascismo faz com que as pessoas sintam que pertencem

as belonging to the most beautiful and most important thing in the world --

à coisa mais bela e mais importante do mundo,

the nation.

a nação.

And then people think,

Quando as pessoas pensam:

"Well, they taught us that fascism is ugly.

"Ensinaram-nos que o fascismo é horrível,

But when I look in the mirror, I see something very beautiful,

"mas, quando olho para o espelho, vejo uma coisa muito bela,

so I can't be a fascist, right?"

"não posso ser fascista, certo?"

Wrong.

Errado.

That's the problem with fascism.

É esse o problema com o fascismo.

When you look in the fascist mirror,

Quando nos vemos no espelho fascista,

you see yourself as far more beautiful than you really are.

vemo-nos muito mais belos do que somos na realidade.

In the 1930s, when Germans looked in the fascist mirror,

Nos anos 30, quando os alemães se viram no espelho do fascismo,

they saw Germany as the most beautiful thing in the world.

viram a Alemanha como a coisa mais bela do mundo.

If today, Russians look in the fascist mirror,

Se os russos olharem hoje para o espelho fascista,

they will see Russia as the most beautiful thing in the world.

verão a Rússia como a coisa mais bela do mundo.

And if Israelis look in the fascist mirror,

Se os israelitas olharem para o espelho fascista,

they will see Israel as the most beautiful thing in the world.

verão Israel como a coisa mais bela do mundo.

This does not mean that we are now facing a rerun of the 1930s.

Isso não significa que estamos a repetir o que se passou nos anos 30.

Fascism and dictatorships might come back,

O fascismo e as ditaduras podem voltar,

but they will come back in a new form,

mas voltarão numa forma nova,

a form which is much more relevant

uma forma muito mais relevante

to the new technological realities of the 21st century.

para as novas realidades tecnológicas do século XXI.

In ancient times,

Antigamente,

land was the most important asset in the world.

a terra era o valor mais importante do mundo.

Politics, therefore, was the struggle to control land.

Por isso, a política era a luta pelo controlo da terra.

And dictatorship meant that all the land was owned by a single ruler

Uma ditadura significava

que todas as terras pertenciam a um só governante

or by a small oligarch.

ou a uma pequena oligarquia.

And in the modern age, machines became more important than land.

Na idade moderna,

as máquinas passaram a ser mais importantes do que a terra.

Politics became the struggle to control the machines.

A política passou a ser a luta pelo controlo das máquinas,

And dictatorship meant

E a ditadura significava

that too many of the machines became concentrated

que havia demasiadas máquinas concentradas

in the hands of the government or of a small elite.

nas mãos do governo ou de uma pequena elite.

Now data is replacing both land and machines

Agora, os dados estão a substituir a terra e as máquinas

as the most important asset.

como os valores mais importantes.

Politics becomes the struggle to control the flows of data.

A política tornou-se a luta pelo controlo dos fluxos de dados.

And dictatorship now means

E a ditadura agora significa

that too much data is being concentrated in the hands of the government

que há demasiados dados concentrados nas mãos do governo

or of a small elite.

ou de uma pequena elite.

The greatest danger that now faces liberal democracy

O maior perigo que a democracia liberal enfrenta hoje

is that the revolution in information technology

é que a revolução na tecnologia da informação

will make dictatorships more efficient than democracies.

torne as ditaduras mais eficazes do que as democracias.

In the 20th century,

No século XX,

democracy and capitalism defeated fascism and communism

a democracia e o capitalismo derrotaram o fascismo e o comunismo,

because democracy was better at processing data and making decisions.

porque a democracia era melhor a processar informações e a tomar decisões.

Given 20th-century technology,

Dada a tecnologia do século XX

it was simply inefficient to try and concentrate too much data

era impossível concentrar demasiadas informações

and too much power in one place.

e demasiado poder num só local.

But it is not a law of nature

Mas não é uma lei da Natureza

that centralized data processing is always less efficient

que o processamento de dados centralizados seja sempre menos eficaz

than distributed data processing.

do que o processamento descentralizado de dados.

With the rise of artificial intelligence and machine learning,

Com o aumento da inteligência artificial e aprendizagem das máquinas,

it might become feasible to process enormous amounts of information

pode tornar-se possível processar enormes quantidades de informações

very efficiently in one place,

muito eficazmente num só local,

to take all the decisions in one place,

tomar todas as decisões num só local

and then centralized data processing will be more efficient

e, assim, o processamento centralizado de dados será mais eficaz

than distributed data processing.

do que o processamento descentralizado de dados.

And then the main handicap of authoritarian regimes

E, assim, a principal incapacidade dos regimes autoritários no século XX

in the 20th century --

their attempt to concentrate all the information in one place --

— a tentativa de concentrar todas as informações num só local —

it will become their greatest advantage.

tornar-se-á a sua maior vantagem.

Another technological danger that threatens the future of democracy

Outro perigo tecnológico que ameaça o futuro da democracia

is the merger of information technology with biotechnology,

é a fusão da tecnologia da informação com a biotecnologia,

which might result in the creation of algorithms

que pode resultar na criação de algoritmos

that know me better than I know myself.

que me conhecem melhor do que eu me conheço a mim mesmo,

And once you have such algorithms,

Quando tivermos esses algoritmos,

an external system, like the government,

um sistema exterior, como o governo,

cannot just predict my decisions,

pode prever as minhas decisões

it can also manipulate my feelings, my emotions.

e também pode manipular os meus sentimentos, as minhas emoções.

A dictator may not be able to provide me with good health care,

Um ditador pode não me proporcionar um bom sistema de saúde

but he will be able to make me love him

mas poderá fazer com que eu o adore

and to make me hate the opposition.

e fazer com que eu odeie a oposição.

Democracy will find it difficult to survive such a development

A democracia vai ter dificuldade em sobreviver a esta evolução

because, in the end,

porque, afinal de contas,

democracy is not based on human rationality;

a democracia não se baseia na racionalidade humana,

it's based on human feelings.

baseia-se nos sentimentos humanos.

During elections and referendums,

Nas eleições e nos referendos, ninguém vos pergunta:

you're not being asked, "What do you think?"

"O que é que pensas?"

You're actually being asked, "How do you feel?"

Pergunta: "Como te sentes?"

And if somebody can manipulate your emotions effectively,

Se for possível manipular eficazmente as nossas emoções,

democracy will become an emotional puppet show.

a democracia tornar-se-á num espetáculo emotivo de marionetas.

So what can we do to prevent the return of fascism

O que é que podemos fazer para impedir o regresso do fascismo

and the rise of new dictatorships?

e o aumento de novas ditaduras?

The number one question that we face is: Who controls the data?

A pergunta fundamental é: Quem controla as informações?

If you are an engineer,

Os engenheiros devem arranjar formas

then find ways to prevent too much data

de impedir que demasiadas informações

from being concentrated in too few hands.

se concentrem em meia dúzia de mãos.

And find ways to make sure

E arranjar formas de garantir

the distributed data processing is at least as efficient

que o processamento descentralizado de dados

seja, pelo menos, tão eficaz

as centralized data processing.

como o processamento centralizado de dados.

This will be the best safeguard for democracy.

Essa será a melhor salvaguarda para a democracia.

As for the rest of us who are not engineers,

Quanto a todos os que não são engenheiros,

the number one question facing us

a pergunta fundamental é:

is how not to allow ourselves to be manipulated

Como não permitir que sejamos manipulados

by those who control the data.

pelos que controlam as informações.

The enemies of liberal democracy, they have a method.

Os inimigos da democracia liberal têm um método.

They hack our feelings.

Apoderam-se dos nossos sentimentos,

Not our emails, not our bank accounts --

Não é dos nossos "e-mails", nem das nossas contas bancárias,

they hack our feelings of fear and hate and vanity,

apoderam-se dos nossos sentimentos de medo, de ódio, de vaidade

and then use these feelings

e, depois, usam esses sentimentos

to polarize and destroy democracy from within.

para polarizar e destruir a democracia, por dentro.

This is actually a method

Este é um método

that Silicon Valley pioneered in order to sell us products.

que a Silicon Valley foi a primeira a usar para nos vender produtos.

But now, the enemies of democracy are using this very method

Mas hoje, os inimigos da democracia estão a usar o mesmo método

to sell us fear and hate and vanity.

para nos vender o medo, o ódio e a vaidade.

They cannot create these feelings out of nothing.

Não podem criar esses sentimentos a partir do nada,

So they get to know our own preexisting weaknesses.

por isso, têm que conhecer as nossas fraquezas pré-existentes.

And then use them against us.

Depois, usam-nas contra nós.

And it is therefore the responsibility of all of us

Assim, somos todos responsáveis

to get to know our weaknesses

por conhecer as nossas fraquezas

and make sure that they do not become a weapon

e garantir que elas não se tornem uma arma

in the hands of the enemies of democracy.

nas mãos dos inimigos da democracia.

Getting to know our own weaknesses

Conhecer as nossas fraquezas

will also help us to avoid the trap of the fascist mirror.

também nos ajudará a evitar a armadilha do espelho fascista.

As we explained earlier, fascism exploits our vanity.

Como expliquei há bocado, o fascismo explora a nossa vaidade,

It makes us see ourselves as far more beautiful than we really are.

faz com que nos vejamos muito mais belos do que somos na realidade.

This is the seduction.

É essa a sedução.

But if you really know yourself,

Mas se nos conhecermos realmente,

you will not fall for this kind of flattery.

não cairemos nesse tipo de lisonja.

If somebody puts a mirror in front of your eyes

Se alguém puser um espelho à nossa frente,

that hides all your ugly bits and makes you see yourself

que esconda todos os nossos defeitos e faça com que nos vejamos

as far more beautiful and far more important

muito mais belos e muito mais importantes

than you really are,

do que somos na realidade,

just break that mirror.

temos que partir esse espelho.

Thank you.

Obrigado.

(Applause)

(Aplausos)

Chris Anderson: Yuval, thank you.

Chris Anderson: Yuval, obrigado.

Goodness me.

Meu Deus!

It's so nice to see you again.

É bom voltar a ver-te.

So, if I understand you right,

Então, se bem entendi,

you're alerting us to two big dangers here.

estás a alertar-nos para dois grandes perigos.

One is the possible resurgence of a seductive form of fascism,

Um é o possível regresso de uma forma sedutora do fascismo,

but close to that, dictatorships that may not exactly be fascistic,

e, junto com ele, ditaduras que não são propriamente fascistas

but control all the data.

mas controlam todas as informações.

I wonder if there's a third concern

Será que existe uma terceira preocupação

that some people here have already expressed,

que algumas pessoas aqui já exprimiram,

which is where, not governments, but big corporations control all our data.

que é não serem os governos,

mas as grandes empresas a controlar todos os nossos dados?

What do you call that,

O que é que chamas a isso

and how worried should we be about that?

e até que ponto nos devemos preocupar com isso?

Yuval Noah Harari: Well, in the end, there isn't such a big difference

Yuval Noah Harari: Não há grande diferença

between the corporations and the governments,

entre as empresas e os governos

because, as I said, the questions is: Who controls the data?

porque, como já disse, a questão é: Quem controla as informações?

This is the real government.

É esse o verdadeiro governo.

If you call it a corporation or a government --

Podemos chamar-lhe uma empresa ou um governo.

if it's a corporation and it really controls the data,

Se é uma empresa quem controla realmente as informações,

this is our real government.

ela é o nosso verdadeiro governo.

So the difference is more apparent than real.

Portanto, a diferença é mais aparente do que real.

CA: But somehow, at least with corporations,

CA: Mas, pelo menos, no que toca às empresas,

you can imagine market mechanisms where they can be taken down.

imaginamos mecanismos de mercado que podem ser adotados.

I mean, if consumers just decide

Ou seja, se os consumidores decidirem

that the company is no longer operating in their interest,

que a companhia já não funciona no interesse deles,

it does open the door to another market.

isso abre a porta a outro mercado.

It seems easier to imagine that

Parece mais fácil imaginar isso

than, say, citizens rising up and taking down a government

do que os cidadãos se revoltarem e derrubarem um governo

that is in control of everything.

que controla tudo.

YNH: Well, we are not there yet,

YNH: Bom, ainda lá não chegámos,

but again, if a corporation really knows you better than you know yourself --

mas, se uma empresa nos conhecer melhor do que nós nos conhecemos,

at least that it can manipulate your own deepest emotions and desires,

pode manipular as nossas emoções e desejos mais profundos,

and you won't even realize --

e nós nem sequer nos damos conta,

you will think this is your authentic self.

pensamos que isso é o nosso autêntico eu.

So in theory, yes, in theory, you can rise against a corporation,

Portanto, em teoria, podemos revoltar-nos contra uma empresa

just as, in theory, you can rise against a dictatorship.

tal como, em teoria, nos podemos revoltar contra uma ditadura.

But in practice, it is extremely difficult.

Mas, na prática, é extremamente difícil.

CA: So in "Homo Deus," you argue that this would be the century

CA: Em "Homo Deus", argumentas que este é o século

when humans kind of became gods,

em que os seres humanos se tornam como deuses

either through development of artificial intelligence

quer através da evolução da inteligência artificial

or through genetic engineering.

quer através da engenharia genética.

Has this prospect of political system shift, collapse

Esta perspetiva de mudança de sistema político desaparece

impacted your view on that possibility?

perante o impacto da tua visão dessa possibilidade?

YNH: Well, I think it makes it even more likely,

YNH: Penso que a torna ainda mais provável

and more likely that it will happen faster,

e, muito provavelmente, isso acontecerá mais cedo,

because in times of crisis, people are willing to take risks

porque em tempos de crise, as pessoas estão dispostas a correr riscos

that they wouldn't otherwise take.

que não correriam noutra situação.

And people are willing to try

As pessoas estão dispostas a experimentar

all kinds of high-risk, high-gain technologies.

todos os tipos de tecnologias de alto risco, de alto ganho.

So these kinds of crises might serve the same function

Por isso, este tipo de crises pode ter a mesma função

as the two world wars in the 20th century.

que as duas guerras mundiais no século XX.

The two world wars greatly accelerated

As duas guerras mundiais aceleraram muito

the development of new and dangerous technologies.

a evolução de tecnologias novas e perigosas.

And the same thing might happen in the 21st century.

O mesmo pode acontecer no século XXI.

I mean, you need to be a little crazy to run too fast,

Ou seja, é preciso sermos loucos para correr depressa demais,

let's say, with genetic engineering.

com a engenharia genética.

But now you have more and more crazy people

Mas temos cada vez mais pessoas loucas

in charge of different countries in the world,

responsáveis por diversos países no mundo,

so the chances are getting higher, not lower.

por isso, as hipóteses estão a aumentar e não a diminuir.

CA: So, putting it all together, Yuval, you've got this unique vision.

CA: Concluindo e resumindo, Yuval, tu tens essa visão única.

Roll the clock forward 30 years.

Mas agora avança 30 anos. O que é que prevês?

What's your guess -- does humanity just somehow scrape through,

A humanidade consegue ultrapassar, olhar para trás e dizer:

look back and say, "Wow, that was a close thing. We did it!"

"Uau! foi por pouco. Conseguimos!"

Or not?

Ou não?

YNH: So far, we've managed to overcome all the previous crises.

YNH: Até aqui, temos conseguido ultrapassar todas as crises anteriores.

And especially if you look at liberal democracy

Especialmente, se olharmos para a democracia liberal

and you think things are bad now,

e pensarmos que as coisas estão mal,

just remember how much worse things looked in 1938 or in 1968.

não nos esqueçamos de como as coisas eram muito piores em 1938 ou 1968.

So this is really nothing, this is just a small crisis.

Por isso, isto não é nada, é apenas uma pequena crise.

But you can never know,

Mas nunca se sabe

because, as a historian,

porque, enquanto historiador,

I know that you should never underestimate human stupidity.

sei que nunca devemos subestimar a estupidez humana.

(Laughter) (Applause)

(Risos e aplausos)

It is one of the most powerful forces that shape history.

É uma das forças mais poderosas que modela a História.

CA: Yuval, it's been an absolute delight to have you with us.

CA: Yuval, foi um grande prazer ter-te connosco.

Obrigado por teres feito a viagem virtual.

Thank you for making the virtual trip.

Have a great evening there in Tel Aviv.

Boa noite aí em Tel Aviv. Yuval Harari!

Yuval Harari!

YNH: Muito obrigado.

YNH: Thank you very much.

(Aplausos)

(Applause)