When technology can read minds, how will we protect our privacy? | Nita Farahany

Tradutor: Andreia Martins Revisora: Margarida Ferreira

In the months following the 2009 presidential election in Iran,

Nos meses depois da eleição presidencial de 2009 no Irão,

protests erupted across the country.

surgiram protestos por todo o país.

The Iranian government violently suppressed

O governo iraniano suprimiu violentamente

what came to be known as the Iranian Green Movement,

o que veio a ser conhecido como o Movimento Verde Iraniano,

even blocking mobile signals

chegando a bloquear os sinais de telemóvel

to cut off communication between the protesters.

para cortar a comunicação entre os manifestantes.

My parents, who emigrated to the United States in the late 1960s,

Os meus pais, que emigraram para os EUA no fim dos anos 60,

passaram lá um tempo substancial,

spend substantial time there,

where all of my large, extended family live.

onde vive toda a minha grande família.

When I would call my family in Tehran

Quando eu ligava à minha família em Teerão

during some of the most violent crackdowns of the protest,

durante algumas das repressões mais violentas dos protestos,

none of them dared discuss with me what was happening.

nenhum deles ousava falar comigo sobre o que estava a acontecer.

They or I knew to quickly steer the conversation to other topics.

Eles ou eu sabíamos rapidamente desviar a conversa para outros tópicos.

All of us understood what the consequences could be

Todos nós percebíamos quais poderiam ser as consequências

of a perceived dissident action.

de uma ação dissidente percetível.

But I still wish I could have known what they were thinking

Mas eu ainda desejo poder ter sabido o que eles pensavam

or what they were feeling.

ou o que estavam a sentir.

What if I could have?

E se eu pudesse ter sabido?

Or more frighteningly,

Ou mais assustador,

what if the Iranian government could have?

e se o governo iraniano pudesse?

Would they have arrested them based on what their brains revealed?

Tê-los-iam prendido com base no que os cérebros deles revelavam?

That day may be closer than you think.

Esse dia pode estar mais próximo do que pensam.

With our growing capabilities in neuroscience, artificial intelligence

Com as nossas capacidades crescentes em neurociência,

em inteligência artificial e em aprendizagem de máquinas,

and machine learning,

we may soon know a lot more of what's happening in the human brain.

podemos em breve saber muito mais sobre o que acontece no cérebro humano.

As a bioethicist, a lawyer, a philosopher

Como especialista em bioética, advogada, filósofa

and an Iranian-American,

e iraniana-americana,

I'm deeply concerned about what this means for our freedoms

estou profundamente preocupada

com o que isso significa para a nossa liberdade

and what kinds of protections we need.

e que tipo de proteções precisamos.

I believe we need a right to cognitive liberty,

Acredito que precisamos de um direito de liberdade cognitiva,

as a human right that needs to be protected.

como um direito humano que precisa de ser protegido.

If not, our freedom of thought,

Se assim não for, a liberdade de pensamento,

access and control over our own brains

do acesso e controlo do nosso cérebro

and our mental privacy will be threatened.

e a nossa privacidade mental será ameaçada.

Consider this:

Considerem isto:

the average person thinks thousands of thoughts each day.

uma pessoa comum tem milhares de pensamentos todos os dias.

As a thought takes form,

Assim que um pensamento ganha forma,

like a math calculation or a number, a word,

como um cálculo matemático ou um número, uma palavra,

neurons are interacting in the brain,

os neurónios estão a interagir no cérebro,

creating a miniscule electrical discharge.

a criar uma descarga elétrica minúscula.

When you have a dominant mental state, like relaxation,

Quando temos um estado mental dominante, como o relaxamento,

hundreds and thousands of neurons are firing in the brain,

centenas e milhares de neurónios estão a disparar no cérebro,

creating concurrent electrical discharges in characteristic patterns

criando descargas elétricas simultâneas em padrões característicos

that can be measured with electroencephalography, or EEG.

que podem ser medidos com um eletroencefalograma, ou EEG.

In fact, that's what you're seeing right now.

Na verdade, é isso que estão a ver agora.

You're seeing my brain activity that was recorded in real time

Estão a ver a minha atividade cerebral que foi registada em tempo real

with a simple device that was worn on my head.

com um aparelho simples que usei na minha cabeça.

What you're seeing is my brain activity when I was relaxed and curious.

O que estão a ver é a minha atividade cerebral quando estava relaxada e curiosa.

Para partilhar esta informação com vocês,

To share this information with you,

I wore one of the early consumer-based EEG devices

usei um dos primeiros aparelhos de EEG baseados no consumidor

like this one,

como este,

which recorded the electrical activity in my brain in real time.

que registou a atividade elétrica no meu cérebro em tempo real.

It's not unlike the fitness trackers that some of you may be wearing

Não é diferente dos aparelhos de "fitness" que alguns de vocês podem estar a usar

to measure your heart rate or the steps that you've taken,

para medir a vossa frequência cardíaca ou os passos que deram,

or even your sleep activity.

ou até mesmo o vosso sono.

It's hardly the most sophisticated neuroimaging technique on the market.

Não é a técnica de neuroimagem mais sofisticada no mercado,

But it's already the most portable

mas já é a mais portátil

and the most likely to impact our everyday lives.

e a mais provável de criar impacto no nosso dia a dia.

This is extraordinary.

Isto é extraordinário.

Through a simple, wearable device,

Através de um simples aparelho fácil de usar,

we can literally see inside the human brain

podemos literalmente ver dentro do cérebro humano

and learn aspects of our mental landscape without ever uttering a word.

e conhecer aspetos da nossa paisagem mental sem sequer dizer uma palavra.

While we can't reliably decode complex thoughts just yet,

Embora não possamos decifrar pensamentos complexos, por enquanto,

we can already gauge a person's mood,

já podemos avaliar o humor de uma pessoa,

and with the help of artificial intelligence,

e com a ajuda da inteligência artificial,

we can even decode some single-digit numbers

podemos descodificar alguns números de um só algarismo

or shapes or simple words that a person is thinking

ou formas ou palavras simples em que uma pessoa está a pensar

or hearing, or seeing.

a ouvir ou a ver.

Despite some inherent limitations in EEG,

Apesar de algumas limitações inerentes no EEG,

I think it's safe to say that with our advances in technology,

acho que é seguro dizer que, com os avanços na tecnologia,

more and more of what's happening in the human brain

cada vez mais coisas que estão a acontecer no cérebro humano

can and will be decoded over time.

vão ser descodificadas, com o tempo.

Already, using one of these devices,

Usando um destes aparelhos,

an epileptic can know they're going to have an epileptic seizure

um epilético já consegue saber que vai ter um ataque epilético

before it happens.

antes de ele acontecer.

A paraplegic can type on a computer with their thoughts alone.

Um paraplégico consegue escrever num computador só com o pensamento.

A US-based company has developed a technology to embed these sensors

Uma companhia baseada nos EUA desenvolveu uma tecnologia para embutir estes sensores

into the headrest of automobilies

no encosto de cabeça dos automóveis

so they can track driver concentration,

para poderem monitorizar a atenção do condutor,

distraction and cognitive load while driving.

a sua distração e carga cognitiva enquanto ele conduz.

Nissan, insurance companies and AAA have all taken note.

A Nissan, as companhias de seguro

e a Associação Automobilística Americana já tomaram notas.

You could even watch this choose-your-own-adventure movie

Podemos ver este filme "escolhe-a-tua-aventura"

"The Moment," which, with an EEG headset,

"The Moment", que, com um aparelho de EEG,

changes the movie based on your brain-based reactions,

muda o filme com base nas nossas reações cerebrais,

giving you a different ending every time your attention wanes.

dando-nos um final diferente cada vez que a nossa atenção diminui.

This may all sound great,

Isto pode parecer fantástico,

and as a bioethicist,

e como especialista em bioética,

I am a huge proponent of empowering people

sou uma grande fã de dar poder às pessoas

to take charge of their own health and well-being

para assumirem o controlo da sua saúde e bem-estar

by giving them access to information about themselves,

dando-lhes acesso a informações sobre elas mesmas,

including this incredible new brain-decoding technology.

incluindo estas novas tecnologias incríveis de descodificação cerebral.

But I worry.

Mas eu temo,

I worry that we will voluntarily or involuntarily give up

temo que, voluntária ou involuntariamente, vamos desistir

our last bastion of freedom, our mental privacy.

do nosso último bastião de liberdade, a nossa privacidade mental.

That we will trade our brain activity

Que troquemos a nossa atividade cerebral

for rebates or discounts on insurance,

por reduções ou descontos em seguros

or free access to social-media accounts ...

ou acesso livre a contas de redes sociais...

or even to keep our jobs.

ou até para manter o nosso emprego.

In fact, in China,

De facto, na China,

the train drivers on the Beijing-Shanghai high-speed rail,

os maquinistas do comboio de alta velocidade Pequim-Xangai,

the busiest of its kind in the world,

o mais movimentado deste género, no mundo,

are required to wear EEG devices

são obrigados a usar aparelhos de EEG

to monitor their brain activity while driving.

para monitorizar a sua atividade cerebral enquanto conduzem.

According to some news sources,

Segundo algumas fontes de notícias,

in government-run factories in China,

em fábricas do governo na China,

the workers are required to wear EEG sensors to monitor their productivity

os trabalhadores são obrigados a usar sensores de EGG

para monitorizar a sua produtividade

and their emotional state at work.

e o estado emocional no trabalho.

Workers are even sent home

Os trabalhadores até podem ser mandados para casa

if their brains show less-than-stellar concentration on their jobs,

se o cérebro deles demonstrar uma concentração imperfeita no trabalho

or emotional agitation.

ou uma agitação emocional.

It's not going to happen tomorrow,

Não vai acontecer amanhã,

but we're headed to a world of brain transparency.

mas estamos a caminhar para um mundo de transparência cerebral.

And I don't think people understand that that could change everything.

Eu acho que as pessoas não percebem que isso pode mudar tudo.

Everything from our definitions of data privacy to our laws,

Tudo desde as nossas definições de privacidade de dados às nossas leis,

to our ideas about freedom.

até às nossas ideias sobre liberdade.

In fact, in my lab at Duke University,

De facto, no meu laboratório na Universidade de Duke,

we recently conducted a nationwide study in the United States

recentemente realizámos um estudo a nível nacional nos EUA

to see if people appreciated

para ver se as pessoas reconhecem

the sensitivity of their brain information.

a vulnerabilidade das suas informações cerebrais

We asked people to rate their perceived sensitivity

Pedimos às pessoas para avaliarem a sua vulnerabilidade percetível

of 33 different kinds of information,

de 33 diferentes tipos de informações,

from their social security numbers

desde os seus números da segurança social

to the content of their phone conversations,

até ao conteúdo das conversas telefónicas,

their relationship history,

o seu histórico de relacionamentos,

their emotions, their anxiety,

as suas emoções, a sua ansiedade,

the mental images in their mind

as imagens mentais na sua mente

and the thoughts in their mind.

e os pensamentos na sua mente.

Shockingly, people rated their social security number as far more sensitive

Surpreendentemente, as pessoas avaliaram o seu número de segurança social

than any other kind of information,

como mais vulnerável do que qualquer outro tipo de informações

including their brain data.

incluindo os seus dados cerebrais.

I think this is because people don't yet understand

Acho que isto é porque as pessoas ainda não percebem

or believe the implications of this new brain-decoding technology.

ou não acreditam nas implicações desta nova tecnologia

de descodificação cerebral.

After all, if we can know the inner workings of the human brain,

Afinal, se podemos saber o funcionamento interno do cérebro humano,

our social security numbers are the least of our worries.

o nosso número de segurança social é a menor das nossas preocupações.

(Laughter)

Think about it.

Pensem nisso.

In a world of total brain transparency,

Num mundo de total transparência cerebral,

who would dare have a politically dissident thought?

quem se atreveria a ter um pensamento político dissidente?

Or a creative one?

Ou um pensamento criativo?

I worry that people will self-censor

Preocupa-me que as pessoas se vão autocensurar

in fear of being ostracized by society,

com medo de serem ostracizadas pela sociedade,

or that people will lose their jobs because of their waning attention

ou que as pessoas percam o seu emprego por causa do seu défice de atenção

or emotional instability,

ou instabilidade emocional,

or because they're contemplating collective action against their employers.

ou porque estão a contemplar ações coletivas contra os seus empregadores.

That coming out will no longer be an option,

Se isso acontecer, já não será uma opção,

because people's brains will long ago have revealed their sexual orientation,

porque o cérebro duma pessoa há muito teria revelado

a sua orientação sexual ou ideologia política

their political ideology

or their religious preferences,

ou preferência religiosa,

well before they were ready to consciously share that information

muito antes de ela estar pronta para partilhar essas informações

with other people.

com outras pessoas.

I worry about the ability of our laws to keep up with technological change.

Preocupa-me a capacidade de as nossas leis se manterem a par

da revolução tecnológica

Take the First Amendment of the US Constitution,

Pensem na Primeira Emenda da Constituição dos EUA,

which protects freedom of speech.

que protege a liberdade de expressão.

Does it also protect freedom of thought?

Também protege a liberdade de pensamento?

And if so, does that mean that we're free to alter our thoughts however we want?

Se sim, isso significa que estamos livres

para alterar os nossos pensamentos como quisermos?

Or can the government or society tell us what we can do with our own brains?

Ou pode o governo ou a sociedade dizer-nos

o que podemos ou não fazer com o nosso cérebro?

Can the NSA spy on our brains using these new mobile devices?

Pode a NSA espiar o nosso cérebro usando estes novos aparelhos?

Can the companies that collect the brain data through their applications

Podem as empresas que recolhem dados cerebrais através de aplicações

sell this information to third parties?

vender essas informações a terceiros?

Right now, no laws prevent them from doing so.

Agora mesmo, nenhuma lei as impede de o fazerem.

It could be even more problematic

Pode ser ainda mais problemático

in countries that don't share the same freedoms

em países que não partilham as mesmas liberdades

enjoyed by people in the United States.

desfrutadas pelas pessoas que vivem nos EUA.

What would've happened during the Iranian Green Movement

O que teria acontecido durante o Movimento Verde Iraniano

if the government had been monitoring my family's brain activity,

se o governo tivesse estado a monitorizar a atividade cerebral da minha família,

and had believed them to be sympathetic to the protesters?

e tivesse achado que eles simpatizavam com os protestantes?

Is it so far-fetched to imagine a society

Será rebuscado imaginar uma sociedade

in which people are arrested based on their thoughts

na qual as pessoas são presas por causa dos seus pensamentos

of committing a crime,

de praticarem um crime,

like in the science-fiction dystopian society in "Minority Report."

como na sociedade distópica de ficção científica em "Minority Report"?

Already, in the United States, in Indiana,

Já, nos EUA, em Indiana,

an 18-year-old was charged with attempting to intimidate his school

um jovem de 18 anos foi acusado da tentativa de intimidar a sua escola

by posting a video of himself shooting people in the hallways ...

ao publicar um vídeo em que ele disparava sobre pessoas nos corredores...

Except the people were zombies

exceto que as pessoas eram "zombies"

and the video was of him playing an augmented-reality video game,

e o vídeo era ele a jogar um videojogo de realidade aumentada,

all interpreted to be a mental projection of his subjective intent.

tudo interpretado como projeção mental da sua intenção subjetiva.

This is exactly why our brains need special protection.

Isto é exatamente o porquê de o nosso cérebro precisar de proteção especial.

If our brains are just as subject to data tracking and aggregation

Se o nosso cérebro está sujeito a processadores e agregação de dados

as our financial records and transactions,

como os nossos registos financeiros e transações,

if our brains can be hacked and tracked like our online activities,

se o nosso cérebro pode ser pirateado e rastreado

como a nossa atividade "online", os nossos telemóveis e aplicações,

our mobile phones and applications,

then we're on the brink of a dangerous threat to our collective humanity.

então estamos no limite de uma ameaça perigosa à nossa humanidade coletiva.

Before you panic,

Antes que entrem em pânico,

I believe that there are solutions to these concerns,

acredito que existem soluções para estas preocupações,

but we have to start by focusing on the right things.

mas temos de começar por nos focarmos nas coisas certas.

When it comes to privacy protections in general,

No que diz respeito a proteções de privacidade em geral,

I think we're fighting a losing battle

acho que estamos a lutar uma batalha já perdida

by trying to restrict the flow of information.

ao tentar restringir o circuito livre de informações.

Instead, we should be focusing on securing rights and remedies

Ao invés, devíamos focar-nos em garantir direitos e soluções

against the misuse of our information.

contra o mau uso das nossas informações.

If people had the right to decide how their information was shared,

Se as pessoas têm o direito de decidir como partilham as suas informações,

and more importantly, have legal redress

e, mais importante, têm direito a indemnização

if their information was misused against them,

se as suas informações forem mal usadas contra elas,

say to discriminate against them in an employment setting

por exemplo para as discriminar no local de trabalho

or in health care or education,

ou na saúde ou na educação,

this would go a long way to build trust.

isso levaria muito tempo a construir a confiança.

In fact, in some instances,

Na verdade, em algumas situações,

we want to be sharing more of our personal information.

queremos partilhar mais das nossas informações pessoais.

Studying aggregated information can tell us so much

Estudar informação agregada pode dizer-nos muito

about our health and our well-being,

sobre a nossa saúde e bem-estar,

but to be able to safely share our information,

mas para partilharmos de forma segura as nossas informações,

we need special protections for mental privacy.

precisamos de proteções especiais para a privacidade mental.

This is why we need a right to cognitive liberty.

É por isso que precisamos de um direito à liberdade cognitiva.

This right would secure for us our freedom of thought and rumination,

Este direito protegeria a nossa liberdade de pensamento e reflexão,

our freedom of self-determination,

a nossa liberdade de autodeterminação,

and it would insure that we have the right to consent to or refuse

e garantiria que temos o direito de consentir ou recusar

access and alteration of our brains by others.

o acesso e a alteração do nosso cérebro por outros.

This right could be recognized

Este direito poderia ser reconhecido

as part of the Universal Declaration of Human Rights,

como parte da Declaração Universal dos Direitos Humanos,

which has established mechanisms

que tem mecanismos estabelecidos

for the enforcement of these kinds of social rights.

para impor este tipo de direitos sociais.

During the Iranian Green Movement,

Durante o Movimento Verde Iraniano,

the protesters used the internet and good old-fashioned word of mouth

os protestantes usaram a Internet e a velha moda da palavra boca-a-boca

to coordinate their marches.

para coordenar as marchas.

And some of the most oppressive restrictions in Iran

E algumas das restrições mais opressivas no Irão

were lifted as a result.

foram levantadas em resultado disso.

But what if the Iranian government had used brain surveillance

Mas e se o governo iraniano tivesse usado vigilância cerebral

to detect and prevent the protest?

para detetar e impedir os protestos?

Would the world have ever heard the protesters' cries?

Teria o mundo ouvido os gritos dos protestantes?

The time has come for us to call for a cognitive liberty revolution.

Chegou a altura de começarmos uma revolução de liberdade cognitiva.

To make sure that we responsibly advance technology

Para garantir que desenvolvemos responsavelmente a tecnologia

that could enable us to embrace the future

que nos pode permitir receber o futuro

while fiercely protecting all of us from any person, company or government

enquanto nos protegemos intensamente de qualquer pessoa, empresa ou governo

that attempts to unlawfully access or alter our innermost lives.

que tente aceder ilegalmente ou alterar a nossa vida interior.

Thank you.

Obrigada.

(Applause)

(Aplausos)