When technology can read minds, how will we protect our privacy? | Nita Farahany

Tradutor: Carolina Aguirre Revisor: Maricene Crus

In the months following the 2009 presidential election in Iran,

Nos meses seguintes à eleição presidencial de 2009 no Irã,

protests erupted across the country.

protestos eclodiram em todo o país.

The Iranian government violently suppressed

O governo iraniano reprimiu violentamente

what came to be known as the Iranian Green Movement,

o que veio a ser conhecido como o Movimento Verde Iraniano,

even blocking mobile signals

bloqueando até os sinais de celular

to cut off communication between the protesters.

para cortar a comunicação entre os manifestantes.

My parents, who emigrated to the United States in the late 1960s,

Meus pais, que emigraram para os EUA no final dos anos 1960,

spend substantial time there,

passaram um tempo considerável lá,

where all of my large, extended family live.

onde toda minha imensa família vive.

When I would call my family in Tehran

Quando eu telefonava para a minha família em Teerã,

during some of the most violent crackdowns of the protest,

durante algumas das mais violentas repressões ao protesto,

none of them dared discuss with me what was happening.

ninguém ousava falar comigo sobre o que estava acontecendo.

They or I knew to quickly steer the conversation to other topics.

Sabíamos conduzir a conversa rapidamente para outros tópicos.

All of us understood what the consequences could be

Todos nós entendíamos quais eram as consequências

of a perceived dissident action.

de uma ação dissidente percebida.

But I still wish I could have known what they were thinking

Mas ainda assim eu gostaria de saber o que eles estavam pensando

or what they were feeling.

ou o que estavam sentindo.

What if I could have?

E se eu pudesse saber?

Or more frighteningly,

Ou mais assustadoramente,

what if the Iranian government could have?

e se o governo iraniano pudesse saber?

Would they have arrested them based on what their brains revealed?

Eles os teriam prendido com base no que os cérebros deles revelassem?

That day may be closer than you think.

Esse dia pode estar mais perto do que vocês pensam.

With our growing capabilities in neuroscience, artificial intelligence

Com nossas crescentes capacidades em neurociência, inteligência artificial

and machine learning,

e aprendizado de máquina,

we may soon know a lot more of what's happening in the human brain.

em breve saberemos muito mais sobre o que está acontecendo no cérebro humano.

As a bioethicist, a lawyer, a philosopher

Como bioeticista, advogada, filósofa

and an Iranian-American,

e iraniana-americana,

I'm deeply concerned about what this means for our freedoms

estou profundamente preocupada com o que isso significa para as nossas liberdades

and what kinds of protections we need.

e que tipo de proteções precisamos.

I believe we need a right to cognitive liberty,

Acredito que precisamos de um direito à liberdade cognitiva,

as a human right that needs to be protected.

como um direito humano que precisa ser protegido.

If not, our freedom of thought,

Senão, nossa liberdade de pensamento,

access and control over our own brains

acesso e controle sobre nossos cérebros,

and our mental privacy will be threatened.

e nossa privacidade mental será ameaçada.

Consider this:

Considerem isto:

the average person thinks thousands of thoughts each day.

uma pessoa comum tem milhares de pensamentos todos os dias.

As a thought takes form,

Ao pensarmos em algo,

like a math calculation or a number, a word,

como um cálculo matemático, um número ou uma palavra,

neurons are interacting in the brain,

neurônios interagem no cérebro,

creating a miniscule electrical discharge.

causando uma descarga elétrica minúscula.

When you have a dominant mental state, like relaxation,

Quando temos um estado mental dominante, como o relaxamento,

hundreds and thousands of neurons are firing in the brain,

centenas e milhares de neurônios disparam no cérebro,

creating concurrent electrical discharges in characteristic patterns

criando descargas elétricas concomitantes em padrões característicos

that can be measured with electroencephalography, or EEG.

que podem ser medidos com eletroencefalografia, ou EEG.

In fact, that's what you're seeing right now.

Na verdade, é isso que estão vendo agora.

You're seeing my brain activity that was recorded in real time

Estão vendo minha atividade cerebral que foi gravada em tempo real

with a simple device that was worn on my head.

com um dispositivo simples que foi usado na minha cabeça.

What you're seeing is my brain activity when I was relaxed and curious.

O que estão vendo é a minha atividade cerebral quando estava relaxada e curiosa.

To share this information with you,

Para compartilhar essas informações,

I wore one of the early consumer-based EEG devices

usei um dos primeiros dispositivos de EEG baseados no consumidor

like this one,

como este,

which recorded the electrical activity in my brain in real time.

que registrou a atividade elétrica no meu cérebro em tempo real.

It's not unlike the fitness trackers that some of you may be wearing

Não é diferente dos monitoramentos de atividades que podem estar usando

to measure your heart rate or the steps that you've taken,

para medir a frequência cardíaca ou os passos que vocês deram,

or even your sleep activity.

até mesmo a atividade do sono.

It's hardly the most sophisticated neuroimaging technique on the market.

Não é nem a técnica de neuroimagem mais sofisticada do mercado.

But it's already the most portable

Mas já é a mais portátil

and the most likely to impact our everyday lives.

e mais provável de impactar nossa vida cotidiana.

This is extraordinary.

Isso é extraordinário.

Through a simple, wearable device,

Através de um dispositivo simples e usável

we can literally see inside the human brain

podemos literalmente ver dentro do cérebro humano

and learn aspects of our mental landscape without ever uttering a word.

e descobrir aspectos do nosso ambiente mental sem sequer proferir uma palavra.

While we can't reliably decode complex thoughts just yet,

Embora não possamos decodificar de maneira confiável pensamentos complexos,

we can already gauge a person's mood,

já podemos avaliar o humor de uma pessoa

and with the help of artificial intelligence,

e, com a ajuda da inteligência artificial,

we can even decode some single-digit numbers

podemos até decodificar alguns números de um dígito,

or shapes or simple words that a person is thinking

formas ou palavras simples que uma pessoa está pensando,

or hearing, or seeing.

ouvindo ou vendo.

Despite some inherent limitations in EEG,

Apesar das limitações inerentes ao EEG,

I think it's safe to say that with our advances in technology,

acho que é seguro dizer que com nossos avanços em tecnologia,

more and more of what's happening in the human brain

cada vez mais do que está acontecendo no cérebro humano

can and will be decoded over time.

pode e será decodificado com o tempo.

Already, using one of these devices,

Usando um desses dispositivos,

an epileptic can know they're going to have an epileptic seizure

um epiléptico já pode saber que terá uma crise epiléptica

before it happens.

antes que isso aconteça.

A paraplegic can type on a computer with their thoughts alone.

Um paraplégico pode digitar no computador apenas com os pensamentos dele.

A US-based company has developed a technology to embed these sensors

Uma empresa norte-americana desenvolveu uma tecnologia para incorporar os sensores

into the headrest of automobilies

no encosto de cabeça dos automóveis

so they can track driver concentration,

para que possam monitorar a concentração do motorista,

distraction and cognitive load while driving.

a distração e a carga cognitiva durante a condução.

Nissan, insurance companies and AAA have all taken note.

A Associação Automobilística Americana, seguradoras e a Nissan prestaram atenção.

You could even watch this choose-your-own-adventure movie

Podemos até assistir a este filme do tipo "Escolha Sua Aventura":

"The Moment," which, with an EEG headset,

"The Moment" que com um fone de ouvido EEG

changes the movie based on your brain-based reactions,

muda o filme com base nas reações cerebrais,

giving you a different ending every time your attention wanes.

dando um final diferente toda vez que nossa atenção diminui.

This may all sound great,

Isso tudo pode parecer ótimo

and as a bioethicist,

e, como bioeticista,

I am a huge proponent of empowering people

sou uma grande defensora de capacitar as pessoas

to take charge of their own health and well-being

para tomarem conta da própria saúde e bem-estar,

by giving them access to information about themselves,

dando-lhes acesso a informações sobre si mesmos,

including this incredible new brain-decoding technology.

incluindo esta incrível tecnologia de decodificação do cérebro.

But I worry.

Mas eu me preocupo.

I worry that we will voluntarily or involuntarily give up

Me preocupo que abriremos mão, voluntariamente ou involuntariamente,

our last bastion of freedom, our mental privacy.

de nosso último bastião de liberdade, nossa privacidade mental.

That we will trade our brain activity

Que vamos trocar atividade cerebral

for rebates or discounts on insurance,

por abatimentos ou descontos em seguros,

or free access to social-media accounts ...

livre acesso a contas de redes sociais

or even to keep our jobs.

ou até para manter nossos empregos.

In fact, in China,

De fato, na China,

the train drivers on the Beijing-Shanghai high-speed rail,

os maquinistas do trem de alta velocidade Pequim-Xangai,

the busiest of its kind in the world,

o mais movimentado do tipo no mundo,

are required to wear EEG devices

são obrigados a usar dispositivos de EEG

to monitor their brain activity while driving.

para monitorar a atividade cerebral durante a condução.

According to some news sources,

Segundo algumas fontes jornalísticas,

in government-run factories in China,

em fábricas administradas pelo governo chinês,

the workers are required to wear EEG sensors to monitor their productivity

trabalhadores são obrigados a usar sensor de EEG para monitorar a produtividade

and their emotional state at work.

e o estado emocional deles no trabalho.

Workers are even sent home

Os funcionários são até mandados para casa

if their brains show less-than-stellar concentration on their jobs,

se o cérebro deles mostrar concentração menor do que excepcional no trabalho,

or emotional agitation.

ou agitação emocional.

It's not going to happen tomorrow,

Isso não vai acontecer amanhã,

but we're headed to a world of brain transparency.

mas estamos caminhando para um mundo de transparência cerebral.

And I don't think people understand that that could change everything.

E não acho que as pessoas entendam que isso poder mudar tudo.

Everything from our definitions of data privacy to our laws,

Tudo, desde nossas definições de privacidade de dados, nossas leis,

to our ideas about freedom.

até nossos conceitos de liberdade.

In fact, in my lab at Duke University,

Na verdade, no meu laboratório da Duke University,

we recently conducted a nationwide study in the United States

recentemente conduzimos um estudo de âmbito nacional nos EUA

to see if people appreciated

para ver se as pessoas compreendiam

the sensitivity of their brain information.

a vulnerabilidade da informação cerebral.

We asked people to rate their perceived sensitivity

Pedimos às pessoas que classificassem a vulnerabilidade percebida

of 33 different kinds of information,

em 33 tipos diferentes de informação,

from their social security numbers

desde o número do seguro social

to the content of their phone conversations,

até o conteúdo de conversas telefônicas,

their relationship history,

históricos de relacionamento,

their emotions, their anxiety,

emoções, ansiedade,

the mental images in their mind

imagens mentais

and the thoughts in their mind.

e pensamentos.

Shockingly, people rated their social security number as far more sensitive

Surpreendentemente, classificaram o número do seguro social como mais vulnerável

than any other kind of information,

do que qualquer outro tipo de informação,

including their brain data.

incluindo seus dados cerebrais.

I think this is because people don't yet understand

Eu acho que isso é porque as pessoas ainda não entendem

or believe the implications of this new brain-decoding technology.

ou acreditam nas implicações dessa nova tecnologia de decodificação cerebral.

After all, if we can know the inner workings of the human brain,

Afinal, se podemos conhecer o funcionamento interno do cérebro humano,

our social security numbers are the least of our worries.

nosso número de seguro social é a menor das preocupações.

(Laughter)

(Risos)

Think about it.

Pensem nisso.

In a world of total brain transparency,

Num mundo de total transparência cerebral,

who would dare have a politically dissident thought?

quem teria um pensamento politicamente dissidente?

Or a creative one?

Ou um pensamento criativo?

I worry that people will self-censor

Me preocupo que as pessoas se autocensurem

in fear of being ostracized by society,

com medo de serem excluídas da sociedade,

or that people will lose their jobs because of their waning attention

ou que percam o emprego por causa da diminuição da atenção

or emotional instability,

ou instabilidade emocional,

or because they're contemplating collective action against their employers.

ou porque elas estejam pensando em ações coletivas contra os empregadores.

That coming out will no longer be an option,

Que "se assumir" não seja mais uma opção,

because people's brains will long ago have revealed their sexual orientation,

porque o cérebro já tenha revelado há muito tempo a orientação sexual delas,

their political ideology

a ideologia política

or their religious preferences,

ou as preferências religiosas,

well before they were ready to consciously share that information

bem antes de estarem prontas para compartilhar essa informação

with other people.

com outras pessoas.

I worry about the ability of our laws to keep up with technological change.

Preocupo-me com a capacidade das leis de acompanharem as mudanças tecnológicas.

Take the First Amendment of the US Constitution,

Tomemos a Primeira Emenda da Constituição dos EUA,

which protects freedom of speech.

que protege a liberdade de expressão.

Does it also protect freedom of thought?

Protege também a liberdade de pensamento?

And if so, does that mean that we're free to alter our thoughts however we want?

Se assim for, significa que estamos livres pra mudar nosso pensamento como quisermos?

Or can the government or society tell us what we can do with our own brains?

Ou o governo e a sociedade podem dizer o que fazemos com nosso próprio cérebro?

Can the NSA spy on our brains using these new mobile devices?

A NSA pode espionar nossos cérebros usando esses novos dispositivos móveis?

Can the companies that collect the brain data through their applications

As empresas que coletam dados cerebrais através de aplicativos

podem vender esta informação a terceiros?

sell this information to third parties?

Right now, no laws prevent them from doing so.

No momento, nenhuma lei os impede de fazer isso.

It could be even more problematic

Pode ser ainda mais problemático

in countries that don't share the same freedoms

em países que não compartilham as mesmas liberdades

enjoyed by people in the United States.

desfrutadas pelas pessoas nos EUA.

What would've happened during the Iranian Green Movement

O que teria acontecido durante o Movimento Verde Iraniano

if the government had been monitoring my family's brain activity,

se o governo estivesse monitorando a atividade cerebral da minha família

and had believed them to be sympathetic to the protesters?

e acreditasse que eles apoiavam os manifestantes?

Is it so far-fetched to imagine a society

Será impossível imaginar uma sociedade

in which people are arrested based on their thoughts

em que as pessoas são presas com base nos pensamentos delas

of committing a crime,

de cometerem crimes,

like in the science-fiction dystopian society in "Minority Report."

como na sociedade distópica de ficção científica do filme "Minority Report"?

Already, in the United States, in Indiana,

Nos Estados Unidos, em Indiana,

an 18-year-old was charged with attempting to intimidate his school

um jovem de 18 anos foi acusado de tentar intimidar a escola dele

by posting a video of himself shooting people in the hallways ...

postando um vídeo de si mesmo atirando em pessoas nos corredores.

Except the people were zombies

Só que as pessoas eram zumbis

and the video was of him playing an augmented-reality video game,

e o vídeo era dele jogando um videogame de realidade aumentada,

all interpreted to be a mental projection of his subjective intent.

tudo interpretado como uma projeção mental da intenção subjetiva dele.

This is exactly why our brains need special protection.

É exatamente por isso que nossos cérebros precisam de proteção especial.

If our brains are just as subject to data tracking and aggregation

Se nossos cérebros são tão sujeitos ao rastreamento e agregação de dados

as our financial records and transactions,

quanto nossos registros financeiros e transações,

if our brains can be hacked and tracked like our online activities,

se podemos ser invadidos e rastreados como nossas atividades on-line,

our mobile phones and applications,

telefones celulares e aplicativos,

then we're on the brink of a dangerous threat to our collective humanity.

então estamos à beira de uma perigosa ameaça à nossa humanidade coletiva.

Before you panic,

Antes de entrarem em pânico,

I believe that there are solutions to these concerns,

acredito que existam soluções para essas preocupações,

but we have to start by focusing on the right things.

mas temos que começar nos concentrando nas coisas certas.

When it comes to privacy protections in general,

Quando se trata de proteções de privacidade em geral,

I think we're fighting a losing battle

acho que estamos numa batalha perdida

by trying to restrict the flow of information.

tentando limitar o fluxo de informações.

Instead, we should be focusing on securing rights and remedies

Em vez disso, devemos nos concentrar em garantir direitos e soluções

against the misuse of our information.

contra o uso indevido de informações.

If people had the right to decide how their information was shared,

Se as pessoas puderem decidir como as informações são compartilhadas,

and more importantly, have legal redress

e mais importante, tiverem reparação legal

if their information was misused against them,

se a informação delas for mal utilizada;

say to discriminate against them in an employment setting

por exemplo discriminando-as num ambiente de trabalho,

or in health care or education,

em cuidados de saúde ou educação;

this would go a long way to build trust.

isso contribuiria muito para a construção da confiança.

In fact, in some instances,

De fato, em alguns casos,

we want to be sharing more of our personal information.

nós queremos compartilhar mais informações pessoais.

Studying aggregated information can tell us so much

Estudar informação agregada pode nos dizer muito

about our health and our well-being,

sobre a nossa saúde e nosso bem-estar,

but to be able to safely share our information,

mas para poder compartilhar com segurança nossas informações,

we need special protections for mental privacy.

precisamos de proteções especiais para a privacidade mental.

This is why we need a right to cognitive liberty.

É por isso que precisamos do direito à liberdade cognitiva.

This right would secure for us our freedom of thought and rumination,

Esse direito asseguraria nossa liberdade de pensamento e reflexão,

our freedom of self-determination,

nossa liberdade de autodeterminação,

and it would insure that we have the right to consent to or refuse

e asseguraria que teríamos o direito de consentir ou recusar

access and alteration of our brains by others.

o acesso e alteração de nossos cérebros por outros.

This right could be recognized

Este direito pode ser reconhecido

as part of the Universal Declaration of Human Rights,

como parte da Declaração Universal dos Direitos Humanos,

which has established mechanisms

que estabeleceu mecanismos

for the enforcement of these kinds of social rights.

para a aplicação desse tipo de direitos sociais.

During the Iranian Green Movement,

Durante o Movimento Verde Iraniano,

the protesters used the internet and good old-fashioned word of mouth

os manifestantes usaram a internet e o bom e velho boca-a-boca

to coordinate their marches.

para coordenar as marchas.

And some of the most oppressive restrictions in Iran

E algumas das restrições mais opressivas no Irã

were lifted as a result.

surgiram como resultado.

But what if the Iranian government had used brain surveillance

Mas e se o governo iraniano tivesse usado a vigilância cerebral

to detect and prevent the protest?

para detectar e impedir o protesto?

Would the world have ever heard the protesters' cries?

O mundo teria ouvido os clamores dos manifestantes?

The time has come for us to call for a cognitive liberty revolution.

Chegou a hora de convocarmos uma revolução da liberdade cognitiva.

To make sure that we responsibly advance technology

Para ter certeza de que desenvolvemos a tecnologia com responsabilidade,

that could enable us to embrace the future

podendo nos permitir abraçar o futuro

while fiercely protecting all of us from any person, company or government

protegendo ferozmente a todos nós de qualquer pessoa, empresa ou governo

that attempts to unlawfully access or alter our innermost lives.

que tente acessar ou alterar ilegalmente nossa vida íntima.

Thank you.

Obrigada.

(Applause)

(Aplausos)