When technology can read minds, how will we protect our privacy? | Nita Farahany

Fordító: Péter Pallós Lektor: Beatrix Turán

In the months following the 2009 presidential election in Iran,

A 2009-es iráni elnökválasztás utáni hónapokban

protests erupted across the country.

országszerte tiltakozások törtek ki.

The Iranian government violently suppressed

Az iráni kormány kegyetlenül elnyomta

what came to be known as the Iranian Green Movement,

a később Iráni Zöld Mozgalom néven ismertté vált tömörülést,

even blocking mobile signals

s még a mobilszolgáltatást is megszakította,

to cut off communication between the protesters.

gátolandó a tüntetők közti forgalmazást.

My parents, who emigrated to the United States in the late 1960s,

Az USA-ba 1960 végén bevándorolt szüleim

spend substantial time there,

jelentős időt töltenek ott,

where all of my large, extended family live.

ahol nagyobb családom él.

When I would call my family in Tehran

Amikor családomat hívtam Teheránban

during some of the most violent crackdowns of the protest,

a tüntetések legerőszakosabb leverése idején,

none of them dared discuss with me what was happening.

senki sem merte megvitatni az eseményeket velem.

They or I knew to quickly steer the conversation to other topics.

Mindegyikünk gyorsan másra terelte a beszélgetés témáját.

All of us understood what the consequences could be

Mindegyikünk tisztában volt

of a perceived dissident action.

egy lefülelt ellenzéki tevékenység következményeivel.

But I still wish I could have known what they were thinking

Ám mégis szerettem volna tudni,

hogy mit gondolnak és mit éreznek.

or what they were feeling.

What if I could have?

Mi van, ha tudhattam volna?

Or more frighteningly,

De ennél rémisztőbb:

what if the Iranian government could have?

mi van, ha a kormány tudhatta volna?

Would they have arrested them based on what their brains revealed?

Letartóztatták volna őket a fejükben járó gondolataikért?

That day may be closer than you think.

Közelebb járunk ehhez, mintsem gondolnák.

With our growing capabilities in neuroscience, artificial intelligence

Az idegtudomány, a mesterséges intelligencia

and machine learning,

és a gépi tanulás növekvő lehetőségeinek hála

we may soon know a lot more of what's happening in the human brain.

nemsokára sokkal többet tudhatunk arról, mi történik az emberi agyban.

As a bioethicist, a lawyer, a philosopher

Bioetikusként, jogászként, filozófusként

and an Iranian-American,

és iráni származású amerikaiként mélységesen nyugtalanít,

I'm deeply concerned about what this means for our freedoms

milyen hatással lesz ez a szabadságunkra,

and what kinds of protections we need.

és miféle védelemre lesz szükségünk.

I believe we need a right to cognitive liberty,

Úgy gondolom, jogunk van a kognitív szabadsághoz

as a human right that needs to be protected.

mint megvédendő emberi joghoz.

If not, our freedom of thought,

Különben gondolatszabadságunk,

access and control over our own brains

agyunk elérése és irányítása,

and our mental privacy will be threatened.

mentális magánéletünk veszélybe kerül.

Consider this:

Gondoljunk bele:

the average person thinks thousands of thoughts each day.

az átlagember fejében naponta ezernyi gondolat kering.

As a thought takes form,

Miközben a gondolat alakot ölt,

like a math calculation or a number, a word,

pl. egy matekszámítás, szám vagy szó,

neurons are interacting in the brain,

az agyban idegsejtek működnek együtt,

creating a miniscule electrical discharge.

csöppnyi villamos kisüléseket okozva.

When you have a dominant mental state, like relaxation,

Normál elmeállapotban, pl. pihenés esetén

hundreds and thousands of neurons are firing in the brain,

agysejtek ezrei tüzelnek,

creating concurrent electrical discharges in characteristic patterns

s eközben jellemző mintázatú villamos kisüléseket hoznak létre,

that can be measured with electroencephalography, or EEG.

amelyek EEG-vel mérhetők.

In fact, that's what you're seeing right now.

Ezt látják most.

You're seeing my brain activity that was recorded in real time

Fejemre helyezett egyszerű készülékkel

valós időben rögzített agytevékenységemet látják.

with a simple device that was worn on my head.

What you're seeing is my brain activity when I was relaxed and curious.

Pihenés közbeni agytevékenységemet látják, mikor épp érdeklődő vagyok.

To share this information with you,

Az információ továbbításához

I wore one of the early consumer-based EEG devices

egy korai, kereskedelemben kapható EEG-készüléket viseltem,

like this one,

ilyesfélét,

which recorded the electrical activity in my brain in real time.

amely valós időben rögzítette agyam elektromos tevékenységét.

It's not unlike the fitness trackers that some of you may be wearing

Hasonlók az egyesek által esetleg hordott fitnesz-karkötőkhöz,

to measure your heart rate or the steps that you've taken,

melyek a pulzusszámot, a megtett lépések számát

or even your sleep activity.

vagy az alvásunk minőségét mérik.

It's hardly the most sophisticated neuroimaging technique on the market.

Nem ez a piacon lévő legkifinomultabb idegi képalkotó technika.

But it's already the most portable

De már ez a legkönnyebben hordozható

and the most likely to impact our everyday lives.

és mindennapi életünkre valószínűleg majd hatást gyakorló változat.

This is extraordinary.

Egyszerűen elképesztő!

Through a simple, wearable device,

Egyszerű, viselhető készülékkel

we can literally see inside the human brain

szó szerint beleláthatunk az emberi agyba,

and learn aspects of our mental landscape without ever uttering a word.

mentalitásunkat föltérképezhetjük egyetlen szó kimondása nélkül.

While we can't reliably decode complex thoughts just yet,

Noha bonyolult gondolatokat még képtelenek vagyunk dekódolni,

we can already gauge a person's mood,

de már bemérhetjük valaki hangulatát,

and with the help of artificial intelligence,

és az MI segítségével dekódolhatunk

we can even decode some single-digit numbers

bizonyos egyjegyű számokat vagy alakzatokat

or shapes or simple words that a person is thinking

vagy egyszerű szavakat, melyekre a személy gondol,

or hearing, or seeing.

melyeket hall vagy lát.

Despite some inherent limitations in EEG,

Az EEG eleve meglévő korlátai dacára

I think it's safe to say that with our advances in technology,

úgy gondolom, hogy bizton mondhatjuk: a technika fejlődésével

more and more of what's happening in the human brain

az agyunkban lejátszódó folyamatokból

idővel egyre többet fogunk dekódolni.

can and will be decoded over time.

Already, using one of these devices,

E készülékek egyikével

an epileptic can know they're going to have an epileptic seizure

az epilepsziás jelzés kaphat közelgő rohamáról,

before it happens.

még a kitörése előtt.

A paraplegic can type on a computer with their thoughts alone.

A végtagbénult számítógépen írhat csupán gondolatai segítségével.

A US-based company has developed a technology to embed these sensors

Az egyik USA-székhelyű cég technológiát fejlesztett ki,

mely a fejtámlába épített érzékelőkkel

into the headrest of automobilies

követi nyomon a sofőr vezetés közbeni koncentráló-képességét,

so they can track driver concentration,

distraction and cognitive load while driving.

figyelem-elterelődését és kognitív terhelését.

Nissan, insurance companies and AAA have all taken note.

A Nissan, biztosítók és az AAA ezt már tudomásul vették.

You could even watch this choose-your-own-adventure movie

Megnézhetjük a The Moment c., "válassz magadnak kalandot" jellegű filmet,

"The Moment," which, with an EEG headset,

amely EEG-fejegység útján

changes the movie based on your brain-based reactions,

agyi reakcióink alapján változtatja a film végét,

giving you a different ending every time your attention wanes.

mikor figyelmünk lankad.

This may all sound great,

Ez remekül hangozhat,

and as a bioethicist,

és bioetikusként

I am a huge proponent of empowering people

nagy híve vagyok,

hogy az ember maga gondoskodjék egészségéről és jólétéről

to take charge of their own health and well-being

by giving them access to information about themselves,

a kellő információk birtokában,

including this incredible new brain-decoding technology.

beleértve ezt az új agydekódoló technikát.

But I worry.

De nyugtalan vagyok.

I worry that we will voluntarily or involuntarily give up

Nyugtalanít, hogy önkéntesen vagy önkéntelenül lemondunk

our last bastion of freedom, our mental privacy.

szabadságunk utolsó bástyájáról: mentális magánéletünkről.

That we will trade our brain activity

Hogy agytevékenységünket áruba bocsátjuk

for rebates or discounts on insurance,

biztosítási árengedmény vagy kedvezmény

or free access to social-media accounts ...

vagy ingyen közösségi médiafiókok

or even to keep our jobs.

vagy munkahelyünk megtartása reményében.

In fact, in China,

Kínában

the train drivers on the Beijing-Shanghai high-speed rail,

a Peking–Sanghaj expressz vezetőinek –

the busiest of its kind in the world,

ez a világ egyik legforgalmasabb vonata –

are required to wear EEG devices

kötelező EEG-készüléket hordaniuk,

to monitor their brain activity while driving.

amely vonatvezetés közbeni agytevékenységüket követi.

According to some news sources,

Egyes hírforrások szerint

in government-run factories in China,

kínai állami vállalatoknál

the workers are required to wear EEG sensors to monitor their productivity

a munkásoknak termelékenységüket s érzelmi állapotukat figyelő EEG-érzékelőket

and their emotional state at work.

kötelező viselniük.

Workers are even sent home

A dolgozókat még haza is küldik,

if their brains show less-than-stellar concentration on their jobs,

ha agyuk az elvártnál kevésbé összpontosít a munkára

or emotional agitation.

vagy érzelmileg zaklatottak.

It's not going to happen tomorrow,

Ez nem holnap köszönt be,

but we're headed to a world of brain transparency.

de az agyba való belelátás világába tartunk.

And I don't think people understand that that could change everything.

Kétlem, hogy az emberek fölfognák, hogy ez mindent megváltoztathat.

Everything from our definitions of data privacy to our laws,

Mindent – az adatvédelem fogalmától a törvényekig,

to our ideas about freedom.

a szabadságra vonatkozó eszmékig.

In fact, in my lab at Duke University,

A Duke Egyetemen lévő laboromban

we recently conducted a nationwide study in the United States

nemrég az USA-ra vonatkozó országos kutatást végeztünk,

to see if people appreciated

hogy megtudjuk,

értékelik-e az agyi információ bizalmas voltát az emberek.

the sensitivity of their brain information.

We asked people to rate their perceived sensitivity

Fölkértük őket, rangsorolják, hogy milyen mértékűnek érzik

of 33 different kinds of information,

33 információtípus bizalmas voltát,

from their social security numbers

tébészámuktól kezdve

to the content of their phone conversations,

telefon-beszélgetésük tartalmán,

their relationship history,

kapcsolataik történetén,

érzelmeiken, szorongásukon át

their emotions, their anxiety,

the mental images in their mind

agyukban megjelenő mentális képekig

and the thoughts in their mind.

és gondolatokig bezárólag.

Shockingly, people rated their social security number as far more sensitive

Döbbenetes, hogy tébészámukat sokkal bizalmasabbnak értékelték,

than any other kind of information,

mint más egyéb információkat,

including their brain data.

beleértve agyuk adatait.

I think this is because people don't yet understand

Szerintem azért, mert még nem értik

or believe the implications of this new brain-decoding technology.

vagy nem hiszik el az agydekódoló technika horderejét.

After all, if we can know the inner workings of the human brain,

Végtére is, ha rájövünk az emberi agy belső működésére,

our social security numbers are the least of our worries.

a tébészámunk izgat minket a legkevésbé.

(Laughter)

(Nevetés)

Think about it.

Gondoljanak bele!

In a world of total brain transparency,

Az agyba való teljes belelátás világában

who would dare have a politically dissident thought?

ki merészel majd ellenzéki gondolatot forgatni a fejében?

Or a creative one?

Vagy alkotó gondolatot?

I worry that people will self-censor

Az aggaszt, hogy az emberek majd öncenzúrához folyamodnak

in fear of being ostracized by society,

a társadalomból való kiközösítéstől tartva,

or that people will lose their jobs because of their waning attention

vagy mert félnek, lankadó figyelmük, érzelmi bizonytalanságuk miatt

or emotional instability,

elvesztik állásukat,

or because they're contemplating collective action against their employers.

vagy mert munkaadójuk ellen közös fellépést fontolgatnak.

That coming out will no longer be an option,

Az előbújás, a coming out ezentúl már nem jut szerephez,

because people's brains will long ago have revealed their sexual orientation,

mert az agy már rég elárulta az illető nemi orientációját,

their political ideology

politikai ideológiáját

or their religious preferences,

vagy vallási meggyőződését,

well before they were ready to consciously share that information

jóval azelőtt, hogy készen álltak

mással tudatosan megosztani az információt.

with other people.

I worry about the ability of our laws to keep up with technological change.

Nyugtalanít, hogy törvényeink képesek-e lépést tartani a műszaki változásokkal?

Take the First Amendment of the US Constitution,

Az USA alkotmányának első kiegészítése

which protects freedom of speech.

védi a szólásszabadságot.

Does it also protect freedom of thought?

De a gondolatszabadságot is védi?

And if so, does that mean that we're free to alter our thoughts however we want?

Ám ha így van is, tetszés szerint szabadon megváltoztathatjuk gondolatainkat?

Or can the government or society tell us what we can do with our own brains?

Vagy az állam vagy a társadalom írhatja elő, mit tehetünk az agyunkkal?

Can the NSA spy on our brains using these new mobile devices?

Fürkészheti-e agyunkat az NSA az új mobileszközökkel?

Can the companies that collect the brain data through their applications

Alkalmazásaikkal agyunk adatait gyűjtő cégek

sell this information to third parties?

eladhatják-e harmadik félnek az infót?

Right now, no laws prevent them from doing so.

Jelenleg ezt semmilyen törvény sem tiltja nekik.

It could be even more problematic

Ez még nagyobb gondot okozhat

in countries that don't share the same freedoms

azokban az országokban, amelyek nem vallják magukénak

enjoyed by people in the United States.

az USA-ban élvezett szabadságjogokat.

What would've happened during the Iranian Green Movement

Mi történt volna az Iráni Zöld Mozgalom idején,

if the government had been monitoring my family's brain activity,

ha az állam figyelte volna családom agytevékenységét,

and had believed them to be sympathetic to the protesters?

a tiltakozókkal rokonszenvezőnek minősítve őket?

Is it so far-fetched to imagine a society

Túlzás elképzelni olyan társadalmat,

in which people are arrested based on their thoughts

amelyben valakit letartóztatnak,

of committing a crime,

csak mert gondolt bűntett elkövetésére,

like in the science-fiction dystopian society in "Minority Report."

mint a Különvélemény c. sci-fi film jövőbeni társadalmában?

Already, in the United States, in Indiana,

Az USA Indiana államában már

an 18-year-old was charged with attempting to intimidate his school

iskolája megfélemlítésével vádoltak meg egy 18 évest,

by posting a video of himself shooting people in the hallways ...

aki videót posztolt ki magáról, melyben emberre lő az előcsarnokban...

Except the people were zombies

Noha az emberek zombik voltak,

and the video was of him playing an augmented-reality video game,

és a filmen az illető a kiterjesztett valóság videojátékkal játszik,

all interpreted to be a mental projection of his subjective intent.

mégis mindent szubjektív szándéka mentális kivetítéseként értékeltek.

This is exactly why our brains need special protection.

Agyunknak ezért kell különleges védelem.

If our brains are just as subject to data tracking and aggregation

Ha agyunk épp annyira adatkövetés és adatösszesítés tárgya,

as our financial records and transactions,

mint számlakivonataink és banki ügyleteink,

if our brains can be hacked and tracked like our online activities,

ha agyunkat meghekkelhetik s lekövethetik, mint internetes tevékenységeinket,

our mobile phones and applications,

mobiltelefonunkat és alkalmazásainkat,

then we're on the brink of a dangerous threat to our collective humanity.

akkor fajunk fenyegetettségének már a határán állunk.

Before you panic,

Mielőtt bepánikolnának,

I believe that there are solutions to these concerns,

közlöm, hogy van megoldás e félelmekre,

but we have to start by focusing on the right things.

de a lényeges dolgokkal kell kezdenünk.

When it comes to privacy protections in general,

A magánélet általános védelme ügyében

I think we're fighting a losing battle

szerintem vesztett csatát vívunk,

by trying to restrict the flow of information.

ha az információ-áramlást törekszünk korlátozni.

Instead, we should be focusing on securing rights and remedies

Helyette az információval való visszaélésekkel kapcsolatos jogok

és jogorvoslatok megerősítésére kell összpontosítanunk.

against the misuse of our information.

If people had the right to decide how their information was shared,

Ha meglenne a jogunk, hogy eldöntsük, mely rólunk szóló infót adunk közre,

and more importantly, have legal redress

vagy ami még fontosabb: jogorvoslat állna rendelkezésünkre,

if their information was misused against them,

ha az infót kárunkra használták,

say to discriminate against them in an employment setting

mondjuk, munkahelyen, egészségügyben

or in health care or education,

vagy oktatásban diszkrimináltak vele,

this would go a long way to build trust.

ez sokat segítene a bizalom kiépítésében.

In fact, in some instances,

Bizonyos esetekben

we want to be sharing more of our personal information.

több személyes adatot szeretnénk közreadni.

Studying aggregated information can tell us so much

Sokatmondók lehetnek

egészségünkről vagy jólétünkről szóló összegzett adataink,

about our health and our well-being,

but to be able to safely share our information,

de biztonságos közreadásukhoz

a mentális magánéletünk megóvásának különleges védelmére van szükség.

we need special protections for mental privacy.

This is why we need a right to cognitive liberty.

Ezért van szükség a kognitív szabadság jogára.

This right would secure for us our freedom of thought and rumination,

E jog megóvja számunkra a gondolat és az elmélkedés szabadságát,

our freedom of self-determination,

az önrendelkezés szabadságát,

and it would insure that we have the right to consent to or refuse

s ez megadja a jogát, hogy egyetértsünk vagy elutasítsuk,

access and alteration of our brains by others.

hogy mások hozzáférjenek agyunkhoz, és változtassanak rajta.

This right could be recognized

E jogot el kell ismernie

as part of the Universal Declaration of Human Rights,

az Egyetemes Emberi Jogok Nyilatkozatának,

which has established mechanisms

amely mechanizmusokat hozott létre

for the enforcement of these kinds of social rights.

az efféle társadalmi jogok alkalmazására.

During the Iranian Green Movement,

Az Iráni Zöld Mozgalom idején

the protesters used the internet and good old-fashioned word of mouth

az internetet és a jó öreg élőszót használták a tüntetők

to coordinate their marches.

felvonulásaik szervezésére.

And some of the most oppressive restrictions in Iran

Ennek eredményeként oldották föl Iránban

were lifted as a result.

a leginkább elnyomó korlátozásokat.

But what if the Iranian government had used brain surveillance

És ha az iráni kormány a tiltakozás földerítésére és megelőzésére

to detect and prevent the protest?

az agyak megfigyelését alkalmazta volna?

Would the world have ever heard the protesters' cries?

Meghallotta volna a világ a tiltakozók kiáltását?

The time has come for us to call for a cognitive liberty revolution.

Eljött az idő, hogy a kognitív szabadság forradalmát követeljük.

To make sure that we responsibly advance technology

Hogy biztosak legyünk: felelősségteljesen fejlesztjük a technikát,

that could enable us to embrace the future

amellyel magunkévá tehetjük a jövőt,

while fiercely protecting all of us from any person, company or government

miközben hevesen óvjuk mindannyiunkat bárkitől: személytől, cégtől, államtól,

that attempts to unlawfully access or alter our innermost lives.

mely megkísérli, hogy jogellenesen beavatkozzon legbensőbb életünkbe.

Thank you.

Köszönöm.

(Applause)

(Taps)