When technology can read minds, how will we protect our privacy? | Nita Farahany

Traducteur: Jacqueline Altagracia Relecteur: Hélène Vernet

In the months following the 2009 presidential election in Iran,

Dans les mois qui ont suivi l'élection présidentielle de 2009 en Iran,

protests erupted across the country.

des manifestations ont éclaté dans tout le pays.

The Iranian government violently suppressed

Le gouvernement iranien a violemment réprimé

what came to be known as the Iranian Green Movement,

ce qui allait devenir le Mouvement Vert Iranien.

even blocking mobile signals

Ils ont même bloqué les signaux des portables

to cut off communication between the protesters.

afin de couper toute communication entre les manifestants.

My parents, who emigrated to the United States in the late 1960s,

Mes parents, émigrés aux États-Unis à la fin des années 1960,

spend substantial time there,

ont passé beaucoup de temps en Iran,

where all of my large, extended family live.

et c'est là où réside toute ma famille au sens large.

When I would call my family in Tehran

Lorsque j'appelais ma famille à Téhéran,

during some of the most violent crackdowns of the protest,

lors de la répression la plus violente de la protestation,

none of them dared discuss with me what was happening.

aucun d'eux n'osait discuter de ce qui se passait.

They or I knew to quickly steer the conversation to other topics.

Que ce soit eux ou moi, nous savions comment vite changer de conversation.

All of us understood what the consequences could be

Nous avions tous compris quelles pourraient être les conséquences

of a perceived dissident action.

d'une action perçue comme dissidente.

But I still wish I could have known what they were thinking

Mais j'aurais quand même souhaité savoir ce qu'ils pensaient

or what they were feeling.

ou ce qu'ils ressentaient.

What if I could have?

Et si j'avais pu ?

Or more frighteningly,

Ou, plus effrayant, et si le gouvernement iranien avait pu ?

what if the Iranian government could have?

Would they have arrested them based on what their brains revealed?

Les auraient-ils arrêtés en se basant sur ce que leur cerveau avait révélé ?

That day may be closer than you think.

Ce jour est peut-être plus proche que vous ne le pensez.

With our growing capabilities in neuroscience, artificial intelligence

Grace à nos progrès croissants en neuroscience,

en intelligence artificielle et en apprentissage machine,

and machine learning,

we may soon know a lot more of what's happening in the human brain.

nous allons bientôt en savoir beaucoup plus

sur ce qui se passe dans le cerveau humain.

As a bioethicist, a lawyer, a philosopher

En tant que bioéthicienne, avocat, philosophe,

and an Iranian-American,

et américano-iranienne,

I'm deeply concerned about what this means for our freedoms

je suis profondément préoccupée par ce que cela signifie pour nos libertés

and what kinds of protections we need.

et quels sont les types de protection dont nous avons besoin.

I believe we need a right to cognitive liberty,

Je crois que nous avons besoin d'un droit à la liberté cognitive,

as a human right that needs to be protected.

considéré comme un droit humain qui doit être protégé.

If not, our freedom of thought,

Sinon, notre liberté de penser,

access and control over our own brains

l'accès et le contrôle sur nos propres cerveaux,

and our mental privacy will be threatened.

et notre vie privée mentale, seront menacés.

Consider this:

Considèrez ceci : une personne ordinaire a des milliers de pensées chaque jour.

the average person thinks thousands of thoughts each day.

As a thought takes form,

Quand une pensée se forme, comme un calcul mathématique,

like a math calculation or a number, a word,

un nombre, ou un mot,

neurons are interacting in the brain,

les neurones interagissent dans le cerveau,

creating a miniscule electrical discharge.

et créent de minuscules décharges électriques.

When you have a dominant mental state, like relaxation,

Lorsque vous êtes dominé par un état mental, comme la relaxation,

hundreds and thousands of neurons are firing in the brain,

des centaines de milliers de neurones s'activent dans le cerveau,

creating concurrent electrical discharges in characteristic patterns

créant des décharges électriques simultanées

qui suivent des schémas caractéristiques,

that can be measured with electroencephalography, or EEG.

et qui peuvent être mesurées à l'aide d'un électroencéphalogramme ou EEG.

In fact, that's what you're seeing right now.

En fait, c'est ce que vous voyez en ce moment.

You're seeing my brain activity that was recorded in real time

Vous voyez mon activité cérébrale enregistrée en temps réel,

with a simple device that was worn on my head.

avec un simple appareil que je portais sur la tête.

What you're seeing is my brain activity when I was relaxed and curious.

Ce que vous voyez, c'est mon activité cérébrale

quand j'étais détendue et curieuse.

To share this information with you,

Pour pouvoir partager cette information avec vous,

I wore one of the early consumer-based EEG devices

j'ai porté l'un des premiers EEG destinés aux consommateurs, comme celui-ci,

like this one,

which recorded the electrical activity in my brain in real time.

qui enregistrait l'activité électrique dans mon cerveau en temps réel,

It's not unlike the fitness trackers that some of you may be wearing

un peu comme les traqueurs d'activité, portés peut-être par certains ici,

to measure your heart rate or the steps that you've taken,

qui mesurent votre fréquence cardiaque, ou le nombre de vos pas,

or even your sleep activity.

ou même votre activité durant le sommeil.

It's hardly the most sophisticated neuroimaging technique on the market.

Ce n'est pas la technique de neuroimagerie la plus sophistiquée du marché,

But it's already the most portable

mais c'est, d'ors et déjà, la plus portable

and the most likely to impact our everyday lives.

et la plus susceptible d'affecter notre vie quotidienne.

This is extraordinary.

C'est extraordinaire !

Through a simple, wearable device,

Grâce à un simple appareil portable,

we can literally see inside the human brain

nous pouvons littéralement « voir » à l'intérieur du cerveau humain

and learn aspects of our mental landscape without ever uttering a word.

et connaître les aspects de notre paysage mental

sans jamais dire un mot.

While we can't reliably decode complex thoughts just yet,

Même si nous ne pouvons pas correctement décoder des pensées complexes,

we can already gauge a person's mood,

nous pouvons déjà évaluer l'humeur d'une personne

and with the help of artificial intelligence,

et, grâce à l'intelligence artificielle,

we can even decode some single-digit numbers

nous pouvons même reconnaître certains nombres à un seul chiffre,

or shapes or simple words that a person is thinking

certaines formes ou mots simples

qu'une personne est en train de penser, d'entendre, ou de voir.

or hearing, or seeing.

Despite some inherent limitations in EEG,

Malgré certaines limitations inhérentes à l'EEG,

I think it's safe to say that with our advances in technology,

je pense qu'on peut raisonnablement dire que grâce à nos progrès technologiques,

more and more of what's happening in the human brain

de plus en plus de ce qui se passe dans le cerveau humain

can and will be decoded over time.

peut et sera décodé avec le temps.

Already, using one of these devices,

Actuellement, en utilisant un de ces appareils,

an epileptic can know they're going to have an epileptic seizure

un épileptique peut anticiper une crise épileptique avant qu'elle ne se produise ;

before it happens.

A paraplegic can type on a computer with their thoughts alone.

un paraplégique peut se servir d'un ordinateur

en utilisant seulement ses pensées.

A US-based company has developed a technology to embed these sensors

Une société basée aux États-Unis a développé une technologie

qui intègre ces capteurs dans l’appuie-tête des automobiles

into the headrest of automobilies

so they can track driver concentration,

et permet de surveiller la concentration du conducteur,

distraction and cognitive load while driving.

sa distraction et sa charge cognitive, pendant qu'il conduit.

Nissan, insurance companies and AAA have all taken note.

Nissan, des compagnies d'assurance et AAA ont tous pris acte.

You could even watch this choose-your-own-adventure movie

Vous pouvez même regarder un film « Choisis-ton-aventure »,

"The Moment," which, with an EEG headset,

tel que « The Moment », avec un casque EEG,

changes the movie based on your brain-based reactions,

qui modifie le film en fonction de vos réactions cérébrales,

giving you a different ending every time your attention wanes.

et vous donne une fin différente chaque fois que votre attention faiblit.

This may all sound great,

Tout cela peut sembler formidable

and as a bioethicist,

et, en tant que bioéthicien,

I am a huge proponent of empowering people

j'encourage ardemment les gens à se responsabiliser,

to take charge of their own health and well-being

à prendre en charge leur santé et leur bien-être

by giving them access to information about themselves,

en leur donnant accès à des informations sur eux-mêmes,

including this incredible new brain-decoding technology.

y compris cette incroyable technologie de décodage de l'activité cérébrale.

But I worry.

Mais, je m'inquiète.

I worry that we will voluntarily or involuntarily give up

Je crains que nous ne renoncions, volontairement ou involontairement,

our last bastion of freedom, our mental privacy.

à notre dernier bastion de liberté : notre vie privée mentale ;

That we will trade our brain activity

que nous ne vendions notre activité cérébrale

for rebates or discounts on insurance,

pour un rabais ou des réductions sur les assurances,

or free access to social-media accounts ...

ou pour un accès gratuit à des réseaux sociaux internet,

or even to keep our jobs.

ou même pour préserver notre emploi.

In fact, in China,

En fait, en Chine,

the train drivers on the Beijing-Shanghai high-speed rail,

les conducteurs de train, sur le TGV Beijing-Shanghai,

the busiest of its kind in the world,

le plus occupé de son genre dans le monde,

are required to wear EEG devices

sont tenus de porter des appareils EEG

to monitor their brain activity while driving.

pour surveiller leur activité cérébrale pendant qu'ils conduisent.

According to some news sources,

Selon certaines sources d'actualités,

in government-run factories in China,

dans certaines usines gouvernementales en Chine,

the workers are required to wear EEG sensors to monitor their productivity

les travailleurs doivent porter des capteurs EEG

pour observer leur productivité et leur état émotionnel au travail.

and their emotional state at work.

Workers are even sent home

Les travailleurs sont même renvoyés chez eux

if their brains show less-than-stellar concentration on their jobs,

si leur cerveau montre une concentration médiocre sur leur travail

or emotional agitation.

ou de l'agitation émotionnelle.

It's not going to happen tomorrow,

Cela ne va pas arriver demain,

but we're headed to a world of brain transparency.

mais nous nous dirigeons vers un monde de transparence cérébrale.

And I don't think people understand that that could change everything.

Et je ne pense pas que les gens comprennent que cela peut tout changer,

Everything from our definitions of data privacy to our laws,

de notre définition de la confidentialité des données,

à nos lois, en passant par nos idées sur la liberté.

to our ideas about freedom.

In fact, in my lab at Duke University,

En fait, dans mon laboratoire à l'Université Duke,

we recently conducted a nationwide study in the United States

Nous avons récemment mené une étude nationale, aux États-Unis,

to see if people appreciated

pour savoir si les gens appréciaient

the sensitivity of their brain information.

la nature délicate de leurs informations cérébrales.

We asked people to rate their perceived sensitivity

Nous leur avons demandé d'évaluer leur sensibilité

of 33 different kinds of information,

concernant 33 types différents d'information,

from their social security numbers

de leur numéro de sécurité sociale

to the content of their phone conversations,

au contenu de leurs conversations téléphoniques,

their relationship history,

à l’histoire de leurs relations,

their emotions, their anxiety,

à leurs émotions, leur anxiété,

the mental images in their mind

leurs images mentales et les pensées dans leur esprit.

and the thoughts in their mind.

Shockingly, people rated their social security number as far more sensitive

Étonnamment, les gens ont jugé leur numéro de sécurité sociale

beaucoup plus sensible que tout autre type d’information,

than any other kind of information,

including their brain data.

y compris leurs données cérébrales.

I think this is because people don't yet understand

Je pense que c'est parce que les gens

ne comprennent pas encore ou ne croient pas aux implications

or believe the implications of this new brain-decoding technology.

de cette nouvelle technologie de décodage des ondes cérébrales.

After all, if we can know the inner workings of the human brain,

En effet, si nous avons accès aux rouages internes du cerveau humain,

our social security numbers are the least of our worries.

nos numéros de sécurité sociale sont le moindre de nos soucis.

(Laughter)

(Rires)

Think about it.

Pensez-y.

In a world of total brain transparency,

Dans un monde de transparence totale du cerveau,

who would dare have a politically dissident thought?

qui oserait avoir une pensée politique dissidente ?

Or a creative one?

Ou une pensée créative ?

I worry that people will self-censor

Je crains que les gens ne s'autocensurent,

in fear of being ostracized by society,

de peur d'être mis au ban de la société,

or that people will lose their jobs because of their waning attention

ou que les gens ne perdent leur emploi

à cause de leur attention déclinante ou de leur instabilité émotionnelle,

or emotional instability,

or because they're contemplating collective action against their employers.

ou parce qu'ils envisagent une action collective contre leurs employeurs.

That coming out will no longer be an option,

Sortir de la norme ne sera plus possible,

because people's brains will long ago have revealed their sexual orientation,

parce que le cerveau des gens aura révélé depuis longtemps leur orientation sexuelle,

their political ideology

leur idéologie politique, ou leurs préférences religieuses,

or their religious preferences,

well before they were ready to consciously share that information

bien avant qu'ils ne soient prêts

à partager consciemment cette information avec les autres.

with other people.

I worry about the ability of our laws to keep up with technological change.

Je m'inquiète de la capacité de nos lois à suivre l'évolution technologique.

Take the First Amendment of the US Constitution,

Prenez le Premier amendement de la Constitution américaine,

which protects freedom of speech.

qui protège la liberté d'expression.

Does it also protect freedom of thought?

Protège-t-il également la liberté de pensée ?

And if so, does that mean that we're free to alter our thoughts however we want?

Si oui, sommes-nous libres de transformer nos pensées comme bon nous semble ?

Or can the government or society tell us what we can do with our own brains?

Ou bien le gouvernement ou la société peuvent-ils dicter

ce que nous pouvons faire de nos cerveaux ?

Can the NSA spy on our brains using these new mobile devices?

La NSA peut-elle espionner nos cerveaux avec ces nouveaux appareils mobiles ?

Can the companies that collect the brain data through their applications

Les entreprises qui collectent les données cérébrales via leurs applications

sell this information to third parties?

peuvent-elles vendre ces informations à des tiers ?

Right now, no laws prevent them from doing so.

À l'heure actuelle, aucune loi ne les empêche de le faire.

It could be even more problematic

C'est encore plus problématique dans des pays

in countries that don't share the same freedoms

qui ne partagent pas les mêmes libertés dont jouissent les citoyens américains.

enjoyed by people in the United States.

What would've happened during the Iranian Green Movement

Que se serait-il passé durant le Mouvement Vert Iranien,

if the government had been monitoring my family's brain activity,

si le gouvernement avait surveillé les activités cérébrales de ma famille

and had believed them to be sympathetic to the protesters?

et l'avait considérée favorable aux manifestants ?

Is it so far-fetched to imagine a society

Est-il si exagéré d'imaginer une société

in which people are arrested based on their thoughts

dans laquelle des gens sont arrêtés pour avoir pensé commettre un crime,

of committing a crime,

like in the science-fiction dystopian society in "Minority Report."

comme dans la société dystopique de science-fiction

de « Rapport Minoritaire » ?

Already, in the United States, in Indiana,

Déjà, aux États-Unis, dans l'Indiana,

an 18-year-old was charged with attempting to intimidate his school

un adolescent de 18 ans a été accusé d'avoir tenté d'intimider son école

by posting a video of himself shooting people in the hallways ...

en publiant une vidéo de lui en train de tirer sur des gens dans les couloirs...

Except the people were zombies

Sauf que les gens étaient des zombies

and the video was of him playing an augmented-reality video game,

et que la vidéo le figurait jouant à un jeu vidéo en réalité augmentée,

all interpreted to be a mental projection of his subjective intent.

le tout ayant été interprété

comme étant une projection mentale de son intention subjective.

This is exactly why our brains need special protection.

C'est justement pour ça que notre cerveau a besoin d'une protection spéciale.

If our brains are just as subject to data tracking and aggregation

Si nos cerveaux sont sujets au même suivi et à la même agrégation de données

as our financial records and transactions,

que nos données et transactions financières,

if our brains can be hacked and tracked like our online activities,

si nos cerveaux peuvent être piratés et surveillés

comme nos activités en ligne, nos téléphones et applications portables,

our mobile phones and applications,

then we're on the brink of a dangerous threat to our collective humanity.

nous sommes au bord d'une grave menace pour toute l'humanité.

Before you panic,

Pas de panique,

I believe that there are solutions to these concerns,

je pense qu'il existe des solutions à ces problèmes,

but we have to start by focusing on the right things.

mais d'abord, nous devons nous concentrer sur les choses importantes.

When it comes to privacy protections in general,

En ce qui concerne la protection de la vie privée en général,

I think we're fighting a losing battle

nous menons une bataille perdue

by trying to restrict the flow of information.

en essayant de limiter le flux d'informations.

Instead, we should be focusing on securing rights and remedies

Nous devrions plutôt nous concentrer sur la garantie des droits et recours

against the misuse of our information.

contre l'utilisation abusive de nos informations.

If people had the right to decide how their information was shared,

Si les gens pouvaient décider de la façon dont leurs informations sont partagées,

and more importantly, have legal redress

et, plus important encore, avoir un recours légal

if their information was misused against them,

en cas d'utilisation abusive de leurs informations,

say to discriminate against them in an employment setting

par exemple, en cas de discrimination

dans un contexte de travail, de santé ou d'éducation,

or in health care or education,

this would go a long way to build trust.

cela contribuerait grandement à créer de la confiance.

In fact, in some instances,

En fait, dans certains cas,

we want to be sharing more of our personal information.

nous souhaitons partager davantage nos renseignements personnels.

Studying aggregated information can tell us so much

L'étude des informations globales

peut nous en dire tant sur notre santé et notre bien-être !

about our health and our well-being,

but to be able to safely share our information,

Mais pour pouvoir partager nos informations en toute sécurité,

we need special protections for mental privacy.

nous avons besoin d'une protection spéciale de la vie privée mentale.

This is why we need a right to cognitive liberty.

Voilà pourquoi nous avons besoin d'un Droit à la Liberté Cognitive.

This right would secure for us our freedom of thought and rumination,

Ce droit protègerait notre liberté de penser et de ruminer,

our freedom of self-determination,

notre liberté de disposer de nous-mêmes,

and it would insure that we have the right to consent to or refuse

et il garantirait notre droit de consentir ou refuser

access and alteration of our brains by others.

l'accès et l'altération de notre cerveau par d'autres.

This right could be recognized

Ce droit pourrait être reconnu

as part of the Universal Declaration of Human Rights,

dans le cadre de la Déclaration Universelle des Droits de l'Homme,

which has established mechanisms

qui a mis en place des mécanismes

for the enforcement of these kinds of social rights.

permettant de faire respecter ce type de droits sociaux.

During the Iranian Green Movement,

Au cours du Mouvement Vert Iranien,

the protesters used the internet and good old-fashioned word of mouth

les manifestants ont utilisé Internet et le bon vieux bouche-à-oreille

to coordinate their marches.

pour coordonner leurs marches.

And some of the most oppressive restrictions in Iran

Et certaines des restrictions les plus oppressives en Iran

were lifted as a result.

ont été retirées en conséquence.

But what if the Iranian government had used brain surveillance

Que se serait-il passé si le gouvernement iranien

avait utilisé la surveillance de l'activité cérébrale

to detect and prevent the protest?

pour détecter et empêcher la manifestation ?

Would the world have ever heard the protesters' cries?

Le monde aurait-il jamais entendu les appels des manifestants ?

The time has come for us to call for a cognitive liberty revolution.

Le temps est venu pour nous d'appeler à une révolution de la liberté cognitive,

To make sure that we responsibly advance technology

pour veiller à ce que nous développions de façon responsable

that could enable us to embrace the future

une technologie qui nous permette d'embrasser l'avenir

while fiercely protecting all of us from any person, company or government

tout en nous protégeant tous farouchement

contre toute personne, entreprise ou gouvernement

that attempts to unlawfully access or alter our innermost lives.

qui tente d'accéder illégalement ou de modifier notre vie intérieure.

Thank you.

Merci.

(Applause)

(Applaudissements)