When technology can read minds, how will we protect our privacy? | Nita Farahany

Traductor: Alba Palazón Vicente Revisor: Lidia Cámara de la Fuente

In the months following the 2009 presidential election in Iran,

En los meses siguientes a la elección presidencial del 2009 en Irán,

protests erupted across the country.

las protestas estallaron por todo el país.

The Iranian government violently suppressed

El gobierno iraní reprimió violentamente

what came to be known as the Iranian Green Movement,

lo que fue conocido como el Movimiento Verde Iraní,

even blocking mobile signals

bloqueando incluso las señales telefónicas

to cut off communication between the protesters.

para cortar la comunicación entre los manifestantes.

My parents, who emigrated to the United States in the late 1960s,

Mis padres, quienes emigraron a los EE. UU. a finales de 1960,

spend substantial time there,

pasaron un tiempo considerable allí,

where all of my large, extended family live.

donde vive mi gran y extensa familia.

When I would call my family in Tehran

Cuando llamaba a mi familia en Teherán

during some of the most violent crackdowns of the protest,

durante una de las represiones más violenta a las protestas

none of them dared discuss with me what was happening.

ninguno de ellos se atrevió a hablar conmigo sobre lo que estaba pasando.

They or I knew to quickly steer the conversation to other topics.

Ellos y yo sabíamos cómo cambiar rápidamente de tema de conversación.

All of us understood what the consequences could be

Todos nosotros comprendimos qué consecuencias podrían derivar

of a perceived dissident action.

de una acción disidente detectada.

But I still wish I could have known what they were thinking

Pero todavía sigo deseando haber podido saber lo que ellos estaban pensando

or what they were feeling.

o lo que ellos estaban sintiendo.

What if I could have?

¿Y si hubiera podido?

Or more frighteningly,

O más terrible,

what if the Iranian government could have?

¿y si el gobierno iraní hubiera podido?

Would they have arrested them based on what their brains revealed?

¿Les hubieran arrestado basándose en lo que pensaban?

That day may be closer than you think.

Ese día puede estar más cerca de lo que piensan.

With our growing capabilities in neuroscience, artificial intelligence

Con nuestras crecientes capacidades en neurociencia, inteligencia artificial

and machine learning,

y aprendizaje automático,

we may soon know a lot more of what's happening in the human brain.

pronto tal vez podamos saber más de lo que pasa en el cerebro humano.

As a bioethicist, a lawyer, a philosopher

Como especialista en bioética, abogada, filósofa

and an Iranian-American,

y como iraní-estadounidense,

I'm deeply concerned about what this means for our freedoms

estoy muy preocupada sobre lo que esto significa para nuestras libertades

and what kinds of protections we need.

y qué tipo de protecciones necesitamos.

I believe we need a right to cognitive liberty,

Creo que necesitamos un derecho a la libertad cognitiva,

as a human right that needs to be protected.

como un derecho humano que necesita que lo protejan.

If not, our freedom of thought,

Si no, nuestra libertad de pensamiento,

access and control over our own brains

acceso y control sobre nuestras mentes

and our mental privacy will be threatened.

y nuestra privacidad mental estará amenazada.

Consider this:

Consideren esto:

the average person thinks thousands of thoughts each day.

la persona promedio tiene miles de pensamientos cada día.

As a thought takes form,

Cuando un pensamiento se forma,

like a math calculation or a number, a word,

como un cálculo matemático o un número, una palabra,

neurons are interacting in the brain,

las neuronas están interactuando en el cerebro,

creating a miniscule electrical discharge.

creando una minúscula descarga eléctrica.

When you have a dominant mental state, like relaxation,

Cuando tienes un estado mental dominante, como la relajación,

hundreds and thousands of neurons are firing in the brain,

cientos y miles de neuronas están ardiendo en el cerebro,

creating concurrent electrical discharges in characteristic patterns

creando descargas eléctricas simultáneas en unos patrones característicos

that can be measured with electroencephalography, or EEG.

que pueden medirse con encefalogramas o EEG.

In fact, that's what you're seeing right now.

De hecho, esto es lo que ven ahora mismo.

You're seeing my brain activity that was recorded in real time

Están viendo mi actividad mental que se grabó a tiempo real

with a simple device that was worn on my head.

con un simple dispositivo que me pusieron en la cabeza.

What you're seeing is my brain activity when I was relaxed and curious.

Lo que están viendo es mi actividad mental cuando estaba relajada y curiosa.

Para compartir esta información con Uds.,

To share this information with you,

I wore one of the early consumer-based EEG devices

llevé uno de estos dispositivos EEG hechos para el consumidor

like this one,

como este,

which recorded the electrical activity in my brain in real time.

el cuál grabó la actividad eléctrica de mi cerebro en tiempo real.

It's not unlike the fitness trackers that some of you may be wearing

No es tan diferente de los monitores de actividad que tal vez lleven puestos

to measure your heart rate or the steps that you've taken,

para medir su ritmo cardíaco o los pasos que han dado,

or even your sleep activity.

o incluso sus periodos de sueño.

It's hardly the most sophisticated neuroimaging technique on the market.

Es difícilmente la técnica de neuroimagen más sofisticada en el mercado.

But it's already the most portable

Pero ya es casi la más compatible

and the most likely to impact our everyday lives.

y la que probablemente tenga más impacto en nuestras vidas cotidianas.

This is extraordinary.

Es extraordinario.

Through a simple, wearable device,

A través de un simple y vestible dispositivo

we can literally see inside the human brain

podemos literalmente ver lo que hay dentro del cerebro humano

and learn aspects of our mental landscape without ever uttering a word.

y aprender aspectos de nuestro paisaje mental sin pronunciar una sola palabra.

While we can't reliably decode complex thoughts just yet,

Aunque aún no podemos descodificar de manera fiable los pensamientos complejos,

we can already gauge a person's mood,

ya podemos estimar el humor de una persona,

and with the help of artificial intelligence,

y con ayuda de la inteligencia artificial,

we can even decode some single-digit numbers

podemos incluso descodificar algunos números de un solo dígito

or shapes or simple words that a person is thinking

o formas o palabras simples que la persona está pensando

or hearing, or seeing.

o escuchando, o viendo.

Despite some inherent limitations in EEG,

A pesar de algunas limitaciones inherentes en EEG,

I think it's safe to say that with our advances in technology,

creo que se puede afirmar que con nuestros avances en tecnología,

more and more of what's happening in the human brain

más y más de lo que pasa en el cerebro humano

can and will be decoded over time.

puede y será descodificado con el tiempo.

Already, using one of these devices,

Ya, usando uno de estos dispositivos

una persona epiléptica puede saber si va a sufrir una convulsión epiléptica

an epileptic can know they're going to have an epileptic seizure

before it happens.

antes de que ocurra.

A paraplegic can type on a computer with their thoughts alone.

Una persona parapléjica sola

puede escribir sus pensamientos en una computadora.

A US-based company has developed a technology to embed these sensors

Una compañía de EE. UU. ha inventado una tecnología para incrustar estos sensores

into the headrest of automobilies

en el reposacabezas de los automóviles

so they can track driver concentration,

para poder monitorizar la concentración al volante,

distraction and cognitive load while driving.

la distracción y la carga cognitiva mientras se está conduciendo.

Nissan, insurance companies and AAA have all taken note.

Nissan, las compañías de seguros y AAA han tomado nota.

You could even watch this choose-your-own-adventure movie

Pueden ver incluso esta película de "elija su propia aventura"

"The Moment," which, with an EEG headset,

"The Moment", la que, con unos auriculares EEG,

changes the movie based on your brain-based reactions,

cambia basándose en las reacciones de su cerebro,

giving you a different ending every time your attention wanes.

dándole un final diferente cada vez que su atención mengua.

This may all sound great,

Esto puede sonar bien,

and as a bioethicist,

y como una especialista en bioética,

I am a huge proponent of empowering people

soy una gran defensora de autorizar a las personas

to take charge of their own health and well-being

a hacerse cargo de su propia salud y bienestar

by giving them access to information about themselves,

dándoles acceso a información sobre ellos mismos,

including this incredible new brain-decoding technology.

incluyendo esta tecnología nueva e increíble de descodificación de cerebros.

But I worry.

Pero me preocupo.

I worry that we will voluntarily or involuntarily give up

Me preocupa que voluntariamente o involuntariamente abandonemos

our last bastion of freedom, our mental privacy.

nuestro último bastión de libertad, nuestra intimidad mental.

That we will trade our brain activity

Que cambiemos nuestra actividad cerebral

for rebates or discounts on insurance,

para que nuestro seguro nos reembolse o nos descuente,

or free access to social-media accounts ...

o que haya acceso libre a las cuentas de las redes sociales...

or even to keep our jobs.

O Incluso que se use para nuestros trabajos.

In fact, in China,

De hecho, en China,

the train drivers on the Beijing-Shanghai high-speed rail,

los conductores del tren de alta velocidad de Beijing-Shanghái,

the busiest of its kind in the world,

uno de los más concurridos del mundo,

are required to wear EEG devices

se les demanda llevar dispositivos EEG

to monitor their brain activity while driving.

para monitorizar su actividad cerebral mientras conducen.

According to some news sources,

De acuerdo con algunas fuentes de noticias,

in government-run factories in China,

en las fábricas de China controladas por el gobierno,

the workers are required to wear EEG sensors to monitor their productivity

a los empleados se les pide que usen sensores EEG para ver su productividad

and their emotional state at work.

y su estado emocional en el trabajo.

Workers are even sent home

A los empleados incluso se les manda a casa

if their brains show less-than-stellar concentration on their jobs,

si sus cerebros muestras una concentración menos que estelar en sus trabajos,

or emotional agitation.

o si están mentalmente agitados.

It's not going to happen tomorrow,

Esto no va a pasar mañana,

but we're headed to a world of brain transparency.

pero nos dirigimos a un mundo de transparencia mental.

And I don't think people understand that that could change everything.

Y creo que la gente no entiende que eso podría cambiar todo.

Everything from our definitions of data privacy to our laws,

Todo desde nuestras definiciones de intimidad de datos a nuestras leyes,

to our ideas about freedom.

y a nuestras ideas sobre la libertad.

In fact, in my lab at Duke University,

De hecho, en mi laboratorio en la Universidad Duke,

we recently conducted a nationwide study in the United States

hace poco llevamos a cabo un estudio a nivel nacional en EE. UU.

to see if people appreciated

para ver si la gente era consciente

the sensitivity of their brain information.

de la sensibilidad de su información cerebral.

We asked people to rate their perceived sensitivity

Preguntamos a la gente para evaluar la sensibilidad que percibían

of 33 different kinds of information,

de 33 tipos diferentes de información,

from their social security numbers

desde sus números de la seguridad social

to the content of their phone conversations,

al contenido de sus conversaciones telefónicas,

their relationship history,

la historia de su relación,

their emotions, their anxiety,

sus emociones, sus ansiedades,

the mental images in their mind

las imágenes mentales de sus mentes

and the thoughts in their mind.

y sus pensamientos.

Shockingly, people rated their social security number as far more sensitive

Asombrosamente, la gente evaluó como más sensible su número de la seguridad social

than any other kind of information,

que otro tipo de información,

including their brain data.

incluyendo sus datos cerebrales.

I think this is because people don't yet understand

Creo que esto se debe a que la gente no entiende todavía

or believe the implications of this new brain-decoding technology.

o no cree en las implicaciones de esta tecnología que descodifica cerebros.

Después de todo, si podemos saber el funcionamiento interno del cerebro humano,

After all, if we can know the inner workings of the human brain,

our social security numbers are the least of our worries.

nuestros números de la seguridad social son lo último que debe preocuparnos.

(Laughter)

Think about it.

(Risas)

Piénsenlo.

In a world of total brain transparency,

En un mundo de total transparencia mental,

who would dare have a politically dissident thought?

¿quién se atrevería a tener un pensamiento político disidente?

Or a creative one?

¿O uno creativo?

I worry that people will self-censor

Me preocupa que la gente se autocensuraría

in fear of being ostracized by society,

por el miedo a ser excluidos por la sociedad,

or that people will lose their jobs because of their waning attention

o que la gente perdiera sus trabajos porque su atención mengua

or emotional instability,

o su inestabilidad emocional,

or because they're contemplating collective action against their employers.

o porque estén contemplando una acción colectiva contra sus empresas.

That coming out will no longer be an option,

Eso que viene no volverá a ser una opción,

because people's brains will long ago have revealed their sexual orientation,

porque los cerebros de la gente hará tiempo que habrán revelado su sexualidad,

their political ideology

su ideología política

or their religious preferences,

o sus preferencias religiosas,

well before they were ready to consciously share that information

mucho antes de que estén listos para compartir esa información conscientemente

with other people.

con otras personas.

I worry about the ability of our laws to keep up with technological change.

Me preocupa la habilidad de nuestras leyes para seguir al cambio tecnológico.

Take the First Amendment of the US Constitution,

Miren la primera Enmienda de la Constitución de EE. UU.,

which protects freedom of speech.

la que protege la libertad de expresión.

Does it also protect freedom of thought?

¿Protege también la libertad de pensar?

And if so, does that mean that we're free to alter our thoughts however we want?

Y si lo hace, ¿somos libres de cambiar nuestros pensamientos cuando queramos?

Or can the government or society tell us what we can do with our own brains?

¿O puede decirnos el gobierno y la sociedad qué hacer con nuestras mentes?

Can the NSA spy on our brains using these new mobile devices?

¿Puede la Seguridad Nacional espiar nuestras mentes usando teléfonos móviles?

Can the companies that collect the brain data through their applications

¿Las compañías que recogen los datos mentales a través de aplicaciones pueden

sell this information to third parties?

vender esa información a terceros?

Right now, no laws prevent them from doing so.

Ahora mismo, ninguna ley les prohíbe hacer eso.

It could be even more problematic

Puede ser incluso más problemático

in countries that don't share the same freedoms

en países que no comparten las mismas libertades que

enjoyed by people in the United States.

disfrutamos la gente en EE. UU.

What would've happened during the Iranian Green Movement

¿Qué hubiera pasado durante el Movimiento Verde Iraní

if the government had been monitoring my family's brain activity,

si el gobierno hubiera estado controlando la actividad cerebral de mi familia,

and had believed them to be sympathetic to the protesters?

y si hubieran pensado que ellos simpatizaban con los protestantes?

Is it so far-fetched to imagine a society

Es tan disparatado imaginar una sociedad

in which people are arrested based on their thoughts

en la que la gente es arrestada basándose en sus pensamientos

of committing a crime,

de cometer un crimen,

like in the science-fiction dystopian society in "Minority Report."

como en la sociedad de un mundo de ciencia ficción en "Minority Report".

Already, in the United States, in Indiana,

Ya, en EE. UU., en Indiana,

an 18-year-old was charged with attempting to intimidate his school

un joven de 18 años fue detenido por intentar amenazar a su universidad

by posting a video of himself shooting people in the hallways ...

publicando un vídeo suyo disparando a la gente en los pasillos...

Except the people were zombies

Excepto que la gente eran zombis

and the video was of him playing an augmented-reality video game,

y el vídeo era de él jugando un videojuego de realidad aumentada,

all interpreted to be a mental projection of his subjective intent.

todo fue interpretado como proyección mental de su intento subjetivo.

This is exactly why our brains need special protection.

Es por esto exactamente que nuestras mentes necesitan una protección especial.

If our brains are just as subject to data tracking and aggregation

Si nuestros cerebros son objeto de seguimiento y acumulación de datos

as our financial records and transactions,

como nuestros estados financieros y transacciones,

if our brains can be hacked and tracked like our online activities,

si se puede hackearlos y monitorizarlos como nuestra actividad en línea,

our mobile phones and applications,

nuestros teléfonos móviles y aplicaciones,

then we're on the brink of a dangerous threat to our collective humanity.

estamos al borde de una amenaza peligrosa para nuestra humanidad colectiva.

Before you panic,

Antes de que entren en pánico,

I believe that there are solutions to these concerns,

creo que hay soluciones a estas preocupaciones,

but we have to start by focusing on the right things.

pero tenemos que empezar por centrarnos en las cosas correctas.

When it comes to privacy protections in general,

Cuando se trata de la protección de la intimidad en general,

I think we're fighting a losing battle

creo que luchamos una batalla perdida

by trying to restrict the flow of information.

al intentar restringir el movimiento de información.

Instead, we should be focusing on securing rights and remedies

En vez de eso, debemos centrarnos en asegurar los derechos y remedios

against the misuse of our information.

contra el uso incorrecto de nuestra información.

If people had the right to decide how their information was shared,

Si la gente tiene derecho a decidir cómo se comparte su información,

and more importantly, have legal redress

y más importante, tiene una reparación legal

if their information was misused against them,

si su información se ha usado incorrectamente en su contra,

say to discriminate against them in an employment setting

digamos para discriminarlos en un marco laboral

or in health care or education,

o en una atención sanitaria o en educación,

this would go a long way to build trust.

esto ayudaría mucho a generar confianza.

In fact, in some instances,

De hecho, en algunas ocasiones,

we want to be sharing more of our personal information.

queremos compartir más nuestra información personal.

Studying aggregated information can tell us so much

Los estudios confirman que la información puede decirnos mucho

about our health and our well-being,

sobre nuestra salud y nuestro bienestar,

but to be able to safely share our information,

pero para ser capaces de compartir nuestra información con seguridad,

we need special protections for mental privacy.

necesitamos protecciones especiales para la intimidad mental.

This is why we need a right to cognitive liberty.

Es por eso que necesitamos el derecho a la libertad cognitiva.

This right would secure for us our freedom of thought and rumination,

Este derecho nos aseguraría nuestra libertad de pensamiento y reflexión,

our freedom of self-determination,

nuestra libertad de autodeterminación,

and it would insure that we have the right to consent to or refuse

y nos aseguraría el tener el derecho a acceder o rechazar

access and alteration of our brains by others.

el acceso y la alteración de nuestras mentes debido a otros.

This right could be recognized

Este derecho podría ser reconocido

as part of the Universal Declaration of Human Rights,

como parte de la Declaración Universal de los Derechos Humanos,

which has established mechanisms

la que establece mecanismos

for the enforcement of these kinds of social rights.

para la aplicación de este tipo de derechos sociales.

During the Iranian Green Movement,

Durante el Movimiento Verde Iraní,

the protesters used the internet and good old-fashioned word of mouth

los protestantes usaron internet y corrieron la voz a la vieja usanza

to coordinate their marches.

para coordinar sus manifestaciones.

And some of the most oppressive restrictions in Iran

Y algunas de las restricciones más opresivas en Irán

were lifted as a result.

surgieron como resultado de ello.

But what if the Iranian government had used brain surveillance

¿Pero y qué más da si el gobierno Iraní vigiló las mentes de la gente

to detect and prevent the protest?

para detectar y evitar las protestas?

Would the world have ever heard the protesters' cries?

¿Se habría enterado el mundo alguna vez de los gritos de los protestantes?

The time has come for us to call for a cognitive liberty revolution.

Ha llegado la hora de una revolución de la libertad cognitiva.

To make sure that we responsibly advance technology

Debemos asegurarnos de que la tecnología avanza de forma responsable

that could enable us to embrace the future

de manera que nos permita abrazar el futuro

while fiercely protecting all of us from any person, company or government

mientras nos protege ferozmente de cualquier persona, empresa o gobierno

that attempts to unlawfully access or alter our innermost lives.

que intente acceder o alterar ilegalmente nuestras vidas más íntimas.

Thank you.

Gracias.

(Applause)

(Aplausos)