When technology can read minds, how will we protect our privacy? | Nita Farahany

Traducător: Claudia Pravat Corector: Cristina Nicolae

In the months following the 2009 presidential election in Iran,

În lunile care au urmat alegerilor prezidențiale din Iran, în 2009,

protests erupted across the country.

au izbucnit proteste în toată țara.

The Iranian government violently suppressed

Guvernul iranian a suprimat violent

what came to be known as the Iranian Green Movement,

ceea ce a ajuns să fie cunoscut sub numele de Mișcarea Verde Iraniană,

even blocking mobile signals

blocând rețeaua de telefonie mobilă

to cut off communication between the protesters.

pentru a opri comunicarea dintre demonstranți.

My parents, who emigrated to the United States in the late 1960s,

Părinții mei, emigrați în Statele Unite la sfârșitul anilor '60,

spend substantial time there,

petrec timp însemnat acolo,

where all of my large, extended family live.

unde se află întreaga mea familie.

When I would call my family in Tehran

Când îi sun la Teheran,

during some of the most violent crackdowns of the protest,

în timpul unei represiuni violente,

none of them dared discuss with me what was happening.

niciunul dintre ei nu îndrăznește să-mi spună ce se întâmplă.

They or I knew to quickly steer the conversation to other topics.

Și ei, și eu știm să schimbăm discuția către alte subiecte.

All of us understood what the consequences could be

Am înțeles cu toții care ar putea fi consecințele

of a perceived dissident action.

unei acțiuni considerate dizidente.

But I still wish I could have known what they were thinking

Dar tot îmi doresc să fi știut ce-au gândit

or what they were feeling.

sau ce-au simțit.

What if I could have?

Cum ar fi fost să pot?

Or more frighteningly,

Sau, mai îngrozitor,

what if the Iranian government could have?

dacă guvernul iranian ar fi putut?

Would they have arrested them based on what their brains revealed?

I-ar aresta pe baza informațiilor dezvăluite de creierul lor?

That day may be closer than you think.

Acea zi e mai aproape decât vă imaginați.

With our growing capabilities in neuroscience, artificial intelligence

Cu noile capacități ale neuroștiinței, ale inteligenței artificiale

and machine learning,

și ale învățării automate,

we may soon know a lot more of what's happening in the human brain.

s-ar putea să știm în curând mult mai mult din ceea ce se întâmplă în creierul uman.

As a bioethicist, a lawyer, a philosopher

Ca bioetician, avocat, filozof

and an Iranian-American,

și cetățean iranian și american,

I'm deeply concerned about what this means for our freedoms

sunt foarte îngrijorată de ce înseamnă acest lucru pentru libertățile noastre

and what kinds of protections we need.

și cum am putea să ne protejăm.

I believe we need a right to cognitive liberty,

Cred că avem nevoie de dreptul la libertate cognitivă,

as a human right that needs to be protected.

ca drept al omului ce trebuie protejat.

If not, our freedom of thought,

În caz contrar, libertatea de gândire

access and control over our own brains

accesul și controlul propriilor noastre creiere

and our mental privacy will be threatened.

și intimitatea noastră mintală vor fi în pericol.

Consider this:

Gândiți-vă la asta:

the average person thinks thousands of thoughts each day.

o persoană medie are mii de gânduri în fiecare zi.

As a thought takes form,

Când se formează un gând,

like a math calculation or a number, a word,

cum ar fi un calcul matematic, un număr sau un cuvânt,

neurons are interacting in the brain,

neuronii interacționează în creier,

creating a miniscule electrical discharge.

generând o minusculă descărcare electrică.

When you have a dominant mental state, like relaxation,

Când predomină o stare mintală, cum ar fi relaxarea,

hundreds and thousands of neurons are firing in the brain,

sute și mii de neuroni se activează în creier,

creating concurrent electrical discharges in characteristic patterns

generând descărcări electrice simultane în structurile caracteristice,

that can be measured with electroencephalography, or EEG.

care pot fi măsurate folosind electroencefalograful (EEG).

In fact, that's what you're seeing right now.

E, de fapt, ceea ce vedeți acum.

You're seeing my brain activity that was recorded in real time

Vedeți activitatea creierului meu, care a fost înregistrată în timp real

with a simple device that was worn on my head.

cu un dispozitiv simplu pe care l-am purtat pe cap.

What you're seeing is my brain activity when I was relaxed and curious.

Ce vedeți e activitatea creierului meu în stare de relaxare și curiozitate.

To share this information with you,

Pentru a împărtăși aceste informații,

I wore one of the early consumer-based EEG devices

am purtat unul dintre primele dispozitive EEG,

like this one,

ca acesta,

which recorded the electrical activity in my brain in real time.

care a înregistrat în timp real activitatea electrică din creierul meu.

It's not unlike the fitness trackers that some of you may be wearing

Nu este diferit de dispozitivele de fitness pe care le purtăm

to measure your heart rate or the steps that you've taken,

ca să măsurăm bătăile inimii sau pașii pe care îi facem

or even your sleep activity.

sau chiar somnul.

It's hardly the most sophisticated neuroimaging technique on the market.

Nu este deloc cea mai sofisticată tehnologie neuroimagistică de pe piață.

But it's already the most portable

Dar e deja cea mai portabilă

and the most likely to impact our everyday lives.

și cu cel mai mare impact asupra vieții noastre.

This is extraordinary.

Este nemaipomenit.

Through a simple, wearable device,

Printr-un simplu dispozitiv portabil,

we can literally see inside the human brain

putem vedea în interiorul creierului uman

and learn aspects of our mental landscape without ever uttering a word.

și îi putem descoperi caracteristicile fără a rosti niciun cuvânt.

While we can't reliably decode complex thoughts just yet,

Deși nu putem descifra încă gândurile complicate,

we can already gauge a person's mood,

putem măsura dispoziția cuiva

and with the help of artificial intelligence,

și, cu ajutorul inteligenței artificiale,

we can even decode some single-digit numbers

putem decodifica numere de o cifră,

or shapes or simple words that a person is thinking

forme sau cuvinte simple pe care cineva le gândește,

or hearing, or seeing.

le aude sau le vede.

Despite some inherent limitations in EEG,

În ciuda limitărilor firești ale EEG,

I think it's safe to say that with our advances in technology,

cred că se poate spune că odată cu progresul nostru în tehnologie,

more and more of what's happening in the human brain

tot mai mult din ce se întâmplă în creierul uman

can and will be decoded over time.

poate și va fi descifrat în timp.

Already, using one of these devices,

Deja, folosind un asemenea dispozitiv,

an epileptic can know they're going to have an epileptic seizure

o persoană cu epilepsie știe când va avea o criză

before it happens.

înainte ca ea să se întâmple.

A paraplegic can type on a computer with their thoughts alone.

O persoană paraplegică poate scrie pe calculator cu ajutorul gândului.

A US-based company has developed a technology to embed these sensors

O companie din America a dezvoltat o tehnologie ce integrează acești senzori

into the headrest of automobilies

în tetierele mașinilor,

so they can track driver concentration,

astfel încât să poată urmări concentrarea șoferului,

distraction and cognitive load while driving.

distragerea atenției și oboseala mintală în timp ce conduce.

Nissan, insurance companies and AAA have all taken note.

Nissan, companiile de asigurare și AAA țin seama de aceasta.

You could even watch this choose-your-own-adventure movie

Puteți chiar să vedeți acest film în care vă alegeți acțiunea,

"The Moment," which, with an EEG headset,

„Momentul”, care, cu o cască EEG,

changes the movie based on your brain-based reactions,

schimbă filmul pe baza reacțiilor din creierul vostru,

giving you a different ending every time your attention wanes.

oferindu-vă un alt final de fiecare dată când atenția voastră scade.

This may all sound great,

Toate acestea pot părea minunate

and as a bioethicist,

și, ca bioetician,

I am a huge proponent of empowering people

susțin posibilitatea oamenilor

to take charge of their own health and well-being

de a se ocupa de propria sănătate și bunăstare,

by giving them access to information about themselves,

oferindu-le acces la informații despre ei,

including this incredible new brain-decoding technology.

inclusiv la această excelentă tehnologie de descifrare a creierului.

But I worry.

Dar sunt îngrijorată.

I worry that we will voluntarily or involuntarily give up

Mi-e teamă că vom renunța, cu voie sau fără voie,

our last bastion of freedom, our mental privacy.

la ultimul bastion al libertății, intimitatea noastră mintală.

That we will trade our brain activity

Că vom oferi activitatea creierului

for rebates or discounts on insurance,

pentru promoții, reduceri la asigurare,

or free access to social-media accounts ...

sau acces liber la rețelele sociale,

or even to keep our jobs.

sau pentru a ne păstra locul de muncă.

In fact, in China,

În China,

the train drivers on the Beijing-Shanghai high-speed rail,

conductorii trenurilor de mare viteză de pe ruta Beijing-Shanghai,

the busiest of its kind in the world,

cea mai aglomerată de acest gen din lume,

are required to wear EEG devices

sunt obligați să poarte dispozitive EEG

to monitor their brain activity while driving.

ce urmăresc activitatea creierului în timp ce conduc.

According to some news sources,

Potrivit unor surse de știri,

in government-run factories in China,

în fabricile guvernamentale din China,

the workers are required to wear EEG sensors to monitor their productivity

muncitorii trebuie să poarte senzori EEG pentru a li se monitoriza productivitatea

and their emotional state at work.

și starea emoțională la locul de muncă.

Workers are even sent home

Unii dintre ei chiar sunt trimiși acasă

if their brains show less-than-stellar concentration on their jobs,

dacă creierul lor indică o concentrare mai scăzută la serviciu

or emotional agitation.

sau o stare de agitație emoțională.

It's not going to happen tomorrow,

Nu se va întâmpla mâine,

but we're headed to a world of brain transparency.

dar ne îndreptăm către o lume de transparență a creierului.

And I don't think people understand that that could change everything.

Și nu cred că oamenii înțeleg că asta ar putea schimba totul.

Everything from our definitions of data privacy to our laws,

De la ce înțelegem prin confidențialitatea datelor, a regulilor,

to our ideas about freedom.

până la ideea noastră de libertate.

In fact, in my lab at Duke University,

În laboratorul meu de la Universitatea Duke,

we recently conducted a nationwide study in the United States

am efectuat recent un studiu la nivel național,

to see if people appreciated

pentru a vedea dacă oamenii apreciază

the sensitivity of their brain information.

sensibilitatea informațiilor despre creier.

We asked people to rate their perceived sensitivity

Le-am cerut să evalueze cum percep sensibilitatea

of 33 different kinds of information,

a 33 de tipuri diferite de informații,

from their social security numbers

de la codul numeric personal

to the content of their phone conversations,

la conținutul unei convorbiri telefonice,

their relationship history,

istoricul relațiilor lor,

their emotions, their anxiety,

sentimentele, anxietatea,

the mental images in their mind

imaginile mintale

and the thoughts in their mind.

și gândurile din mintea lor.

Shockingly, people rated their social security number as far more sensitive

Surprinzător, oamenii își evaluează codul numeric personal mai mult

than any other kind of information,

decât orice alt tip de informație,

including their brain data.

chiar și despre creierul lor.

I think this is because people don't yet understand

Cred că asta se întâmplă deoarece oamenii nu înțeleg încă

or believe the implications of this new brain-decoding technology.

sau nu cred implicațiile tehnologiei de decodificare a creierului.

After all, if we can know the inner workings of the human brain,

La urma urmei, dacă știm cum funcționează creierul uman,

our social security numbers are the least of our worries.

codul numeric personal e ultima noastră grijă.

(Laughter)

(Râsete)

Think about it.

Gândiți-vă puțin.

In a world of total brain transparency,

Într-o lume de transparență absolută a creierului

who would dare have a politically dissident thought?

cine ar îndrăzni să aibă un gând dizident politic?

Or a creative one?

Sau unul creativ?

I worry that people will self-censor

Mi-e teamă că oamenii se vor auto-cenzura

in fear of being ostracized by society,

de frica de a fi ostracizați de societate,

or that people will lose their jobs because of their waning attention

sau că își vor pierde locul de muncă pentru că nu mai sunt atenți,

or emotional instability,

sunt instabili emoțional,

or because they're contemplating collective action against their employers.

sau gândesc să se organizeze împotriva angajatorului.

That coming out will no longer be an option,

Dezvăluirea orientării sexuale nu va mai fi o alegere,

because people's brains will long ago have revealed their sexual orientation,

deoarece creierul va putea spune orientarea sexuală,

their political ideology

ideologia politică

or their religious preferences,

sau preferințele religioase,

well before they were ready to consciously share that information

cu mult înainte ca cineva să poată să împărtășească aceste informații

with other people.

altor persoane.

I worry about the ability of our laws to keep up with technological change.

Mi-e teamă că legile nu vor ține pasul cu schimbările tehnologice.

Take the First Amendment of the US Constitution,

De exemplu primul amendament al Constituției SUA,

which protects freedom of speech.

care protejează libertatea de exprimare.

Does it also protect freedom of thought?

Protejează și libertatea de gândire?

And if so, does that mean that we're free to alter our thoughts however we want?

Dacă da, asta înseamnă că putem să ne schimbăm gândurile cum dorim?

Or can the government or society tell us what we can do with our own brains?

Sau guvernul și societatea ne pot dicta ce putem face cu propriul creier?

Can the NSA spy on our brains using these new mobile devices?

Poate NSA să ne spioneze creierul folosind noile dispozitive mobile?

Can the companies that collect the brain data through their applications

Companiile care folosesc aplicații ce colectează informații despre creier

sell this information to third parties?

pot să le vândă către terți?

Right now, no laws prevent them from doing so.

Acum nu există nicio lege care să le interzică asta.

It could be even more problematic

Ar putea fi și mai grav

in countries that don't share the same freedoms

în țările în care nu există aceleași libertăți

enjoyed by people in the United States.

de care se bucură Statele Unite.

What would've happened during the Iranian Green Movement

Ce s-ar fi întâmplat în timpul Mișcării Iraniene

if the government had been monitoring my family's brain activity,

dacă guvernul ar fi monitorizat creierele familiei mele

and had believed them to be sympathetic to the protesters?

și ar fi dedus că simpatizează cu protestatarii?

Is it so far-fetched to imagine a society

E atât de nefiresc să ne imaginăm o societate

in which people are arrested based on their thoughts

unde oamenii sunt arestați pentru că se gândesc să comită o infracțiune,

of committing a crime,

like in the science-fiction dystopian society in "Minority Report."

ca în societatea distopică SF din „Minority Report”.

Already, in the United States, in Indiana,

Deja în Statele Unite, în Indiana,

an 18-year-old was charged with attempting to intimidate his school

un tânăr de 18 ani a fost acuzat că încearcă să-și terorizeze școala

by posting a video of himself shooting people in the hallways ...

prin postarea unui video în care împușcă oameni pe culoare.

Except the people were zombies

Doar că oamenii erau zombii

and the video was of him playing an augmented-reality video game,

și video-ul era despre el jucând un joc de realitate augmentată,

all interpreted to be a mental projection of his subjective intent.

iar asta a fost interpretat ca fiind o proiecție mintală a intențiilor lui.

This is exactly why our brains need special protection.

Tocmai de aceea creierele noastre au nevoie de protecție specială.

If our brains are just as subject to data tracking and aggregation

Dacă creierul nostru e subiectul urmăririi și cumulării de informații

as our financial records and transactions,

la fel ca tranzacțiile și situația noastră financiară,

if our brains can be hacked and tracked like our online activities,

dacă creierul nostru poate fi atacat și urmărit precum activitatea online,

our mobile phones and applications,

telefonul mobil și aplicațiile,

then we're on the brink of a dangerous threat to our collective humanity.

atunci suntem la un pas de o gravă amenințare la adresa umanității.

Before you panic,

Înainte să vă panicați,

I believe that there are solutions to these concerns,

cred că există soluții la aceste probleme,

but we have to start by focusing on the right things.

dar trebuie să ne concentrăm pe ceea ce trebuie.

When it comes to privacy protections in general,

Când vine vorba de protecția intimității în general,

I think we're fighting a losing battle

cred că lupta noastră e în zadar,

by trying to restrict the flow of information.

dacă încercăm să oprim fluxul de informații.

Instead, we should be focusing on securing rights and remedies

În schimb, ar trebui să ne concentrăm pe garantarea de drepturi și măsuri

against the misuse of our information.

împotriva utilizării abuzive a informațiilor noastre.

If people had the right to decide how their information was shared,

Dacă oamenii ar putea să decidă cum sunt folosite informațiile lor

and more importantly, have legal redress

și chiar să primească despăgubiri

if their information was misused against them,

dacă au fost utilizate abuziv împotriva lor,

say to discriminate against them in an employment setting

de exemplu ca să-i discrimineze la locul de muncă,

or in health care or education,

în serviciile medicale sau educație,

this would go a long way to build trust.

ar fi un pas important pentru a consolida încrederea.

In fact, in some instances,

De fapt, în unele cazuri,

we want to be sharing more of our personal information.

dorim să împărtășim mai mult din informațiile personale.

Studying aggregated information can tell us so much

Studierea informațiilor cumulate ne poate spune multe

about our health and our well-being,

despre sănătatea și bunăstarea noastră,

but to be able to safely share our information,

dar pentru a putea folosi în siguranță informațiile noastre,

we need special protections for mental privacy.

avem nevoie de protecții speciale pentru intimitatea mintală.

This is why we need a right to cognitive liberty.

De aceea avem nevoie de dreptul la libertatea de gândire.

This right would secure for us our freedom of thought and rumination,

Acesta ne-ar asigura libertatea de gândire și reflectare,

our freedom of self-determination,

libertatea de autodeterminare

and it would insure that we have the right to consent to or refuse

și ar stabili că avem dreptul de a accepta sau refuza

access and alteration of our brains by others.

accesul și modificarea creierului nostru de către alții.

This right could be recognized

Acest drept ar putea fi recunoscut

as part of the Universal Declaration of Human Rights,

ca parte a Declarației Universale a Drepturilor Omului,

which has established mechanisms

care stabilește mecanismele

for the enforcement of these kinds of social rights.

pentru aplicarea acestor tipuri de drepturi sociale.

During the Iranian Green Movement,

În timpul Mișcării Iraniene,

the protesters used the internet and good old-fashioned word of mouth

protestatarii au folosit internetul și metoda viului grai

to coordinate their marches.

pentru a coordona demonstrațiile.

And some of the most oppressive restrictions in Iran

Iar cele mai opresive restricții din Iran

were lifted as a result.

au fost eliminate ca rezultat.

But what if the Iranian government had used brain surveillance

Dar dacă guvernul iranian ar fi utilizat supravegherea creierelor

to detect and prevent the protest?

pentru a detecta și împiedica protestul?

Would the world have ever heard the protesters' cries?

Ar fi auzit vreodată lumea strigătele demonstranților?

The time has come for us to call for a cognitive liberty revolution.

E vremea unei revoluții a libertății cognitive.

To make sure that we responsibly advance technology

Pentru a fi siguri că dezvoltăm în mod responsabil o tehnologie

that could enable us to embrace the future

care să ne pregătească pentru viitor,

while fiercely protecting all of us from any person, company or government

protejându-ne de orice altă persoană, companie sau guvern

that attempts to unlawfully access or alter our innermost lives.

ce încearcă să acceseze ilegal sau să modifice viața noastră cea mai intimă.

Thank you.

Vă mulțumesc!

(Applause)

(Aplauze)