When technology can read minds, how will we protect our privacy? | Nita Farahany

Traduttore: Christian Roberti Revisore: Ludovica Harley

In the months following the 2009 presidential election in Iran,

In Iran, nei mesi successivi alle elezioni presidenziali del 2009,

protests erupted across the country.

scoppiarono proteste in tutto il paese.

The Iranian government violently suppressed

Il governo iraniano soppresse violentemente

what came to be known as the Iranian Green Movement,

quello che divenne poi noto come movimento verde iraniano.

even blocking mobile signals

Bloccarono anche le linee cellulari

to cut off communication between the protesters.

per tagliare le comunicazioni tra i manifestanti.

My parents, who emigrated to the United States in the late 1960s,

I miei genitori, emigrati negli USA alla fine degli anni '60,

spend substantial time there,

vi passano ancora molto tempo,

where all of my large, extended family live.

lì dove vive tutta la mia famiglia allargata.

When I would call my family in Tehran

Quando erano a Teheran e li chiamavo

during some of the most violent crackdowns of the protest,

durante le più violente repressioni della protesta,

none of them dared discuss with me what was happening.

nessuno di loro aveva il coraggio di dirmi ciò che stava accadendo.

They or I knew to quickly steer the conversation to other topics.

Sapevamo di dover cambiare prontamente l'argomento della discussione

All of us understood what the consequences could be

perché sapevamo quali sarebbero state le conseguenze,

of a perceived dissident action.

in caso ci avessero considerato come dissidenti.

But I still wish I could have known what they were thinking

Ma avrei voluto sapere cosa stavano realmente pensando,

or what they were feeling.

o cosa stavano provando.

What if I could have?

E se avessi potuto farlo?

Or more frighteningly,

O peggio,

what if the Iranian government could have?

se avesse potuto farlo il governo iraniano?

Would they have arrested them based on what their brains revealed?

Li avrebbero arrestati, scoprendo cosa pensavano veramente?

That day may be closer than you think.

Questa realtà potrebbe essere più vicina di quanto crediate.

With our growing capabilities in neuroscience, artificial intelligence

Con l'avanzare delle neuroscienze, dell'intelligenza artificiale

and machine learning,

e del machine learning,

we may soon know a lot more of what's happening in the human brain.

presto potremmo sapere molto di più su ciò che accade nel nostro cervello.

As a bioethicist, a lawyer, a philosopher

Da bioeticista, da avvocato, da filosofa

and an Iranian-American,

e da Iraniano-americana,

I'm deeply concerned about what this means for our freedoms

mi preoccupa molto ciò che potrebbe significare per la nostra libertà,

and what kinds of protections we need.

e anche sapere come possiamo proteggerci.

I believe we need a right to cognitive liberty,

Credo che necessitiamo di un diritto alla libertà cognitiva,

as a human right that needs to be protected.

che vada tutelato come un diritto umano.

If not, our freedom of thought,

Altrimenti, la nostra libertà di pensiero,

access and control over our own brains

il controllo che esercitiamo sul nostro cervello,

and our mental privacy will be threatened.

e la nostra privacy mentale saranno in pericolo.

Consider this:

Considerate questo fatto:

the average person thinks thousands of thoughts each day.

una persona comune ha migliaia di pensieri ogni giorno.

As a thought takes form,

Durante un pensiero,

like a math calculation or a number, a word,

come avviene similmente durante un calcolo matematico,

neurons are interacting in the brain,

i neuroni all'interno del cervello interagiscono,

creating a miniscule electrical discharge.

dando vita a minuscole scariche elettriche.

When you have a dominant mental state, like relaxation,

In uno stato mentale, come ad esempio il rilassamento,

hundreds and thousands of neurons are firing in the brain,

nel cervello vengono rilasciati centinaia di migliaia di neuroni,

creating concurrent electrical discharges in characteristic patterns

che creano scariche elettriche con determinate caratteristiche

that can be measured with electroencephalography, or EEG.

che possono essere misurate tramite elettroencelogramma, o EEG.

In fact, that's what you're seeing right now.

Ed è quello che state vedendo ora.

You're seeing my brain activity that was recorded in real time

State vedendo la mia attività cerebrale, registrata in tempo reale

with a simple device that was worn on my head.

con un semplice dispositivo da indossare sulla testa.

What you're seeing is my brain activity when I was relaxed and curious.

Questa è la mia attività cerebrale in uno stato di rilassamento e curiosità.

To share this information with you,

Per condividere questo con voi,

I wore one of the early consumer-based EEG devices

ho indossato uno dei primi dispositivi EEG per consumatori,

like this one,

proprio come questo,

which recorded the electrical activity in my brain in real time.

che ha registrato in tempo reale la mia attività cerebrale.

It's not unlike the fitness trackers that some of you may be wearing

Non è molto diverso da quei dispositivi per il fitness che indossate

to measure your heart rate or the steps that you've taken,

per misurare il battito cardiaco o quanti passi fate,

or even your sleep activity.

o addirittura il vostro sonno.

It's hardly the most sophisticated neuroimaging technique on the market.

Non è la più sofisticata tecnica di neuroimagining sul mercato.

But it's already the most portable

Ma è già la più portatile

and the most likely to impact our everyday lives.

e quella che più probabilmente impatterà le nostre vite.

This is extraordinary.

Questo è straordinario!

Through a simple, wearable device,

Attraverso un semplice dispositivo indossabile,

we can literally see inside the human brain

possiamo vedere letteralmente all'interno del cervello umano,

and learn aspects of our mental landscape without ever uttering a word.

ed imparare aspetti della nostra mente senza mai aver bisogno di aprire bocca.

While we can't reliably decode complex thoughts just yet,

Anche se non riusciamo ancora a decifrare con certezza pensieri complessi,

we can already gauge a person's mood,

possiamo già stimare l'umore di una persona,

and with the help of artificial intelligence,

e con l'aiuto dell'intelligenza artificiale,

we can even decode some single-digit numbers

possiamo addirittura decodificare dei numeri a cifra unica,

or shapes or simple words that a person is thinking

forme o semplici parole che una persona sta pensando,

or hearing, or seeing.

sentendo o vedendo.

Despite some inherent limitations in EEG,

Nonostante alcune limitazioni intrinseche dell'EEG,

I think it's safe to say that with our advances in technology,

credo si possa tranquillamente dire che con l'avanzare della tecnologia,

more and more of what's happening in the human brain

con il tempo saremo in grado di decodificare sempre di più

can and will be decoded over time.

quello che accade nel cervello umano.

Already, using one of these devices,

Già da ora, usando questi dispositivi,

an epileptic can know they're going to have an epileptic seizure

un epilettico può capire quando sta per avere una crisi

before it happens.

prima che accada.

A paraplegic can type on a computer with their thoughts alone.

Un paraplegico può scrivere al computer semplicemente usando i propri pensieri.

A US-based company has developed a technology to embed these sensors

Una compagnia americana ha sviluppato una tecnologia che integra questi sensori

into the headrest of automobilies

ai poggiatesta delle automobili,

so they can track driver concentration,

che così monitorano la concentrazione del guidatore,

distraction and cognitive load while driving.

le distrazioni e il carico cognitivo durante la guida.

Nissan, insurance companies and AAA have all taken note.

Nissan, le compagnie assicurative e l'AAA (ACI) ne hanno preso nota.

You could even watch this choose-your-own-adventure movie

Potreste addirittura guardare questo film a la "influenza-tu-ciò-che accade,

"The Moment," which, with an EEG headset,

"The Moment", che attraverso una cuffia EEG:

changes the movie based on your brain-based reactions,

cambia il film in base alle reazioni del vostro cervello,

giving you a different ending every time your attention wanes.

dandovi un finale diverso ogni volta che la vostra attenzione va a scemare.

This may all sound great,

Tutto ciò potrebbe sembrare fantastico

and as a bioethicist,

e, da bioetica,

I am a huge proponent of empowering people

sono una grande sostenitrice del dare alle persone il potere

to take charge of their own health and well-being

di potersi occupare della propria salute,

by giving them access to information about themselves,

dando loro accesso a queste informazioni su se stesse,

including this incredible new brain-decoding technology.

attraverso questa nuova ed incredibile tecnologia.

But I worry.

Ma ho paura.

I worry that we will voluntarily or involuntarily give up

Ho paura che che abbandoneremo, volontariamente o meno,

our last bastion of freedom, our mental privacy.

l'ultimo baluardo della nostra libertà, la nostra privacy mentale.

That we will trade our brain activity

Che baratteremo la nostra attività cerebrale,

for rebates or discounts on insurance,

con rimborsi o sconti sull'assicurazione,

or free access to social-media accounts ...

o per un libero accesso ai social media,

or even to keep our jobs.

o addirittura per non perdere il lavoro.

In fact, in China,

Difatti, in Cina,

the train drivers on the Beijing-Shanghai high-speed rail,

i macchinisti della ferrovia ad alta velocità della Pechino-Shanghai,

the busiest of its kind in the world,

nel suo genere la più attiva del mondo,

are required to wear EEG devices

sono tenuti ad indossare dispositivi EEG

to monitor their brain activity while driving.

per monitorare l'attività cerebrale alla guida.

According to some news sources,

Secondo alcune nuove fonti,

in government-run factories in China,

nelle fabbriche cinesi di proprietà del governo,

the workers are required to wear EEG sensors to monitor their productivity

gli operai devono indossare dispositivi EEG per monitorare la propria produttività

and their emotional state at work.

e il proprio stato emotivo.

Workers are even sent home

Vengono addirittura mandati a casa

if their brains show less-than-stellar concentration on their jobs,

se al lavoro il loro cervello mostra bassi livelli di concentrazione,

or emotional agitation.

o agitazione emotiva.

It's not going to happen tomorrow,

Non succederà nell'immediato,

but we're headed to a world of brain transparency.

ma siamo diretti verso un mondo di facile accesso alla mente.

And I don't think people understand that that could change everything.

E non credo che le persone capiscano che questo potrebbe cambiare tutto.

Everything from our definitions of data privacy to our laws,

Dalle nostre definizioni di privacy dei dati, fino alle nostre leggi

to our ideas about freedom.

e al nostro concetto di libertà.

In fact, in my lab at Duke University,

Al mio laboratorio della Duke University,

we recently conducted a nationwide study in the United States

abbiamo condotto di recente uno studio nazionale negli Stati Uniti,

to see if people appreciated

per vedere quanto la gente comprenda

the sensitivity of their brain information.

la sensibilità delle informazioni del cervello.

We asked people to rate their perceived sensitivity

Abbiamo chiesto alle persone di dare un valore alla sensibilità

of 33 different kinds of information,

di 33 diversi tipi di informazioni,

from their social security numbers

dal loro numero di previdenza sociale

to the content of their phone conversations,

fino al contenuto delle conversazioni telefoniche,

their relationship history,

informazioni sulle proprie relazioni,

their emotions, their anxiety,

sulle proprie ansie ed emozioni,

the mental images in their mind

sulle loro immagini mentali

and the thoughts in their mind.

e sui propri pensieri.

Shockingly, people rated their social security number as far more sensitive

Incredibilmente, il numero di previdenza sociale viene considerato più importante

than any other kind of information,

di qualsiasi altro tipo d'informazione,

including their brain data.

anche più dei propri dati cerebrali.

I think this is because people don't yet understand

Penso che sia così perché le persone non capiscono ancora,

or believe the implications of this new brain-decoding technology.

o non credono alle implicazioni di questa nuova tecnologia di decodifica cerebrale.

After all, if we can know the inner workings of the human brain,

In fondo, se possiamo conoscere i meccanismi insiti nel cervello,

our social security numbers are the least of our worries.

il numero di previdenza sociale sarà l'ultimo dei problemi.

(Laughter)

(Risate)

Think about it.

Pensateci.

In a world of total brain transparency,

In un mondo di piena trasparenza cerebrale,

who would dare have a politically dissident thought?

chi oserebbe intrattenere pensieri politicamente dissidenti?

Or a creative one?

O pensieri creativi?

I worry that people will self-censor

Ho paura che le persone si autocensurerebbero,

in fear of being ostracized by society,

per la paura di venire ostracizzate dalla società,

or that people will lose their jobs because of their waning attention

o che possano perdere il lavoro a causa di un calo di concentrazione

or emotional instability,

o di stabilità mentale,

or because they're contemplating collective action against their employers.

oppure perché contempleranno di scioperare contro i datori di lavoro.

That coming out will no longer be an option,

Che fare coming out non sarà più un'opzione,

because people's brains will long ago have revealed their sexual orientation,

in quanto il cervello rivelerà facilmente l'orientamento sessuale delle persone,

their political ideology

la loro ideologia politica

or their religious preferences,

o il loro credo religioso,

well before they were ready to consciously share that information

molto prima che si sia pronti pronti a condividere

with other people.

queste informazioni con altre persone.

I worry about the ability of our laws to keep up with technological change.

Ho paura che le nostre leggi non riescano a star dietro alla tecnologia.

Take the First Amendment of the US Constitution,

Come il Iº emendamento della costituzione americana,

which protects freedom of speech.

che protegge la libertà di parola.

Does it also protect freedom of thought?

Protegge anche la libertà di pensiero?

And if so, does that mean that we're free to alter our thoughts however we want?

E se sì, vuole dire che siamo liberi di cambiare i pensieri a piacimento?

Or can the government or society tell us what we can do with our own brains?

O possono il governo e la società dirci come dobbiamo usare il nostro cervello?

Can the NSA spy on our brains using these new mobile devices?

Può l'NSA spiare i nostri cervelli usando questi nuovi dispositivi?

Can the companies that collect the brain data through their applications

Possono le aziende che raccolgono queste informazioni

sell this information to third parties?

venderle a terzi?

Right now, no laws prevent them from doing so.

Ora come ora, non ci sono leggi che gli impedirebbero di farlo.

It could be even more problematic

Potrebbe essere ancora più problematico

in countries that don't share the same freedoms

nei paesi che non godono delle stesse libertà

enjoyed by people in the United States.

che vi sono negli Stati Uniti.

What would've happened during the Iranian Green Movement

Che sarebbe successo nel periodo del movimento verde iraniano

if the government had been monitoring my family's brain activity,

se il governo avesse monitorato l'attività cerebrale della mia famiglia,

and had believed them to be sympathetic to the protesters?

e li avesse etichettati come simpatizzanti dei dimostranti?

Is it so far-fetched to imagine a society

È così improbabile immaginare una società

in which people are arrested based on their thoughts

in cui le persone vengono arrestate per aver pensato

of committing a crime,

di commettere un crimine?

like in the science-fiction dystopian society in "Minority Report."

Come nella fantascientifica società distopica del film "Minority Report".

Already, in the United States, in Indiana,

Già, in Indiana, negli Stati Uniti,

an 18-year-old was charged with attempting to intimidate his school

un diciottenne è stato accusato di minacce verso la propria scuola

by posting a video of himself shooting people in the hallways ...

per aver pubblicato un video in cui sparava a persone per i corridoi.

Except the people were zombies

Queste persone però erano zombi,

and the video was of him playing an augmented-reality video game,

e il video proveniva da un videogioco a realtà aumentata.

all interpreted to be a mental projection of his subjective intent.

E ciò venne interpretato come proiezione delle sue reali intenzioni.

This is exactly why our brains need special protection.

Ed è per questo che i nostri cervelli necessitano di speciale protezione.

If our brains are just as subject to data tracking and aggregation

Se i nostri cervelli sono soggetti a un rilevamento di dati

as our financial records and transactions,

quanto lo sono i nostri dati e le transazioni finanziarie,

if our brains can be hacked and tracked like our online activities,

se possono venire hackerati e rilevati come le nostre attività online,

our mobile phones and applications,

come i nostri cellulari e le applicazioni,

then we're on the brink of a dangerous threat to our collective humanity.

allora siamo sull'orlo di una grave minaccia per tutta l'umanità.

Before you panic,

Prima di andare nel panico,

I believe that there are solutions to these concerns,

credo che comunque ci siano soluzioni a questi problemi,

but we have to start by focusing on the right things.

ma dobbiamo cominciare a focalizzarci sulle cose giuste.

When it comes to privacy protections in general,

Se si parla in generale di protezione della privacy,

I think we're fighting a losing battle

cercando di ridurre la circolazione dei dati,

by trying to restrict the flow of information.

stiamo combattendo una battaglia persa in partenza.

Instead, we should be focusing on securing rights and remedies

Invece, dovremmo concentrarci sulla creazione di diritti e di rimedi

against the misuse of our information.

contro l'uso improprio dei nostri dati.

If people had the right to decide how their information was shared,

Se le persone potessero decidere come vengono condivisi i loro dati,

and more importantly, have legal redress

e soprattutto, avere vie legali a cui ricorrere

if their information was misused against them,

in questi casi di uso improprio dei propri dati,

say to discriminate against them in an employment setting

come in casi di discriminazione in ambiente lavorativo,

or in health care or education,

sanitario o di istruzione,

this would go a long way to build trust.

questo sarebbe molto utile nel creare sicurezza.

In fact, in some instances,

Infatti, in certe circostanze,

we want to be sharing more of our personal information.

vorremmo condividere di più riguardo le nostre informazioni.

Studying aggregated information can tell us so much

Lo studio dei dati aggregati può rivelarci davvero tanto

about our health and our well-being,

riguardo alla nostra salute e al nostro benessere.

but to be able to safely share our information,

Ma per poter condividere i nostri dati in modo sicuro

we need special protections for mental privacy.

necessitiamo di una speciale protezione per la privacy mentale.

This is why we need a right to cognitive liberty.

Per questo quindi necessitiamo di diritti per la libertà cognitiva.

This right would secure for us our freedom of thought and rumination,

Questi diritti ci garantirebbero libertà di pensiero e riflessione,

our freedom of self-determination,

libertà di autodeterminazione,

and it would insure that we have the right to consent to or refuse

e ci assicurerebbero che abbiamo diritto di consentire o di rifiutare

access and alteration of our brains by others.

l'accesso e l'alterazione del nostro cervello da parte di altri.

This right could be recognized

Questo diritto potrebbe essere riconosciuto

as part of the Universal Declaration of Human Rights,

come parte della Dichiarazione Universale dei Diritti Umani,

which has established mechanisms

la quale ha stabilito dei meccanismi

for the enforcement of these kinds of social rights.

per il rafforzamento di questi tipi di diritti sociali.

During the Iranian Green Movement,

Al tempo del movimento verde iraniano,

the protesters used the internet and good old-fashioned word of mouth

i dimostranti usarono internet e il buon vecchio passaparola

to coordinate their marches.

per coordinare i loro cortei.

And some of the most oppressive restrictions in Iran

E alcune delle più repressive restrizioni iraniane

were lifted as a result.

vennero adottate a causa di questo.

But what if the Iranian government had used brain surveillance

E se il governo iraniano avesse controllato e sorvegliato le menti

to detect and prevent the protest?

per scoprire e prevenire le proteste?

Would the world have ever heard the protesters' cries?

Il mondo avrebbe mai udito le voci del movimento?

The time has come for us to call for a cognitive liberty revolution.

È arrivato il momento di chiedere una rivoluzione per la libertà cognitiva.

To make sure that we responsibly advance technology

Per assicurarci uno sviluppo tecnologico responsabile

that could enable us to embrace the future

che ci dia la possibilità di accogliere il futuro,

while fiercely protecting all of us from any person, company or government

e che protegga con tenacia tutti noi da ogni persona, compagnia o governo

that attempts to unlawfully access or alter our innermost lives.

che tenti illegittimamente di accedere o alterare le nostre vite nel più intimo.

Thank you.

Grazie.

(Applause)

(Applausi)