Your Right to Mental Privacy in the Age of Brain-Sensing Tech | Nita Farahany | TED

Prevodilac: Strahinja Tomic Lektor: Milenka Okuka

Today, we know and track virtually nothing that’s happening in our own brains.

Данас не знамо, нити пратимо готово ништа што се дешава у нашим мозговима.

But in a future that is coming much faster than you realize,

Међутим, у будућности која галопом долази, све ће се то променити.

all of that is about to change.

We're now familiar with sensors in our smart watches to our rings,

Сви смо упознати са сензорима у нашим паметним сатовима и прстеновима,

that track everything from our heartbeats to our footsteps, breaths,

који прате откуцаје срца, број корака,

удисаја, телесну температуру, па чак и наш сан.

body temperature, even our sleep.

Now, consumer neurotech devices are being sold worldwide

Сад, комерцијална неуротехнологија се продаје широм света

to enable us to track our own brain activity.

и омогућава нам да пратимо сопствену мождану активност.

As companies from Meta to Microsoft,

Компаније попут Мете и Мајкрософта, до Снепа, па чак и Епла,

Snap and even Apple

begin to embed brain sensors in our everyday devices

почињу да уграђују мождане сензоре у уређаје које свакодневно користимо,

like our earbuds, headphones, headbands, watches and even wearable tattoos,

попут слушалица, сатова, трака за косу, па чак и паметних тетоважа.

we're reaching an inflection point in brain transparency.

Приближавамо се преломној тачки наше мождане транспарентности.

And those are just some of the company names we're familiar with.

И ово су само неке компаније које су нам познате. Постоје још многе друге.

There are so many more.

Consumer neurotech devices are moving from niche products

Комерцијална неуротехнологија излази из уских ниша са ограниченом примењивошћу

with limited applications

to becoming the way in which we'll learn about our own brain activity,

и постаје начин на који сазнајемо о нашим можданим активностима,

our controller for virtual reality and augmented reality.

то је наша командна табла виртуелне и проширене реалности,

And one of the primary ways we'll interact

и један од главних начина интеракције са остатком наше технологије.

with all of the rest of our technology.

Even conservative estimates of the neurotech industry

Чак и конзервативне процене стављају индустрију неуротхенологије

put it at more than 38 billion dollars by 2032.

на преко 38 милијарди долара годишње до 2032. године.

This new category of technology presents unprecedented possibility,

Ова нова категорија технологије пружа могућности без преседана,

both good and bad.

како добре тако и лоше.

Consider how our physical health and well-being are increasing

Размислите како се наше физичко здравље и благостање стално повећава,

while neurological disease and suffering continue to rise.

док су неуролошке болести и патња у сталном порасту.

55 million people around the world are struggling with dementia,

Широм света, 55 милиона људи се бори са деменцијом,

with more than 60 to 70 percent of them suffering from Alzheimer's disease.

а 60 до 70 процената њих болује од Алцхајмера.

Nearly a billion people struggle with mental health

Скоро милијарду људи се бори са менталним здрављем и употребом наркотика.

and drug use disorders.

Depression affects more than 300 million.

Депресија погађа преко 300 милиона људи.

Consumer neurotech devices could finally enable us

Комерцијална неуротехнологија би нам могла омогућити

to treat our brain health and wellness

да се посветимо здрављу и благостању мозга

as seriously as we treat the rest of our physical well-being.

једнако озбиљно као што то радимо са остатком нашег физичког благостања.

But making our brains transparent to others

Али дозвољавање другима да имају увид у наше мозгове носи изузетне ризике.

also introduces extraordinary risks.

Which is why, before it's too late to do so,

Зато морамо да, пре него што буде прекасно,

we must change the basic terms of service for neurotechnology

променимо основне услове коришћења ове технологије у корист права појединаца.

in favour of individual rights.

I say this not just as a law professor who believes in the power of law,

Ово кажем, не само као професор права који верује у моћ права,

nor just a philosopher trying to flesh out norms,

нити као филозоф који покушава да разјасни те норме,

but as a mother who's been personally and profoundly impacted

него као мајка коју је дубоко и лично погододила

by the use of neurotechnology in my own life.

употреба ове технологије у мом животу.

On Mother's Day in 2017,

На Дан мајки 2017. године,

as my daughter Calista lay cradled in my arms,

љуљала сам моју ћерку Калисту у рукама

she took one last beautiful breath.

када је последњи пут удахнула ваздух.

After a prolonged hospitalization,

Након дуге хоспитализације, компликације и пратеће инфекције су јој узеле живот.

complications following infections claimed her life.

The harrowing trauma that she endured and we witnessed stretched into weeks.

Мучна траума коју је проживела, а ми јој сведочили се развукла у седмице.

And I was left with lasting trauma

А ја сам остала са трајном траумом

that progressed into post-traumatic stress disorder.

која је узнапредовала у пострауматски стресни поремећај.

Sleep escaped me for years.

Годинама нисам спавала. Сваки пут када бих затворила очи, све бих опет проживљавала,

As each time I closed my eyes, I relived everything,

from the first moments that I was pushed out of the emergency room

од првих тренутака када су ме изгурали из собе за хитне случајеве,

to her gut-wrenching cries.

па до њеног плача од којег се превће стомак.

Ultimately, it was the help of a talented psychologist,

На крају, кроз све то сам прошла захваљујући талентованом психологу

using exposure therapy,

који је користио терапију десензитизације

and my use of neurofeedback

и моју личну употребу можданих повратних информација

that enabled me to sleep through the night.

што ми је омогућило да поново спавам ноћу.

For others who are suffering from traumatic memories,

За све који болују од трауматских успомена

овај нови иновативни приступ који користи декодиране мождане повратне информације,

an innovative new approach using decoded neurofeedback,

or DecNef, may offer reprieve.

скраћено ДМПИ, може пружити олакшање.

This groundbreaking approach uses machine-learning algorithms

Овај револуционарни приступ користи алгоритме за машинско учење

to identify specific brain-activity patterns,

да препозна специфичне обрасце можданих активности,

including those associated with traumatic memories.

укључујући и оне повезане са труматичним успоменама.

Учесници онда играју игру која им тренира мозак да задрже мождане активности

Participants then play a game

that enables them to retrain their brain activity

on positive associations instead.

на позитивним асоцијацијама уместо на негативним.

If I had had DecNef available to me at the time,

Да ми је тада био доступан ДМПИ, можда бих се раније изборила са ПТСП-ом,

I might have overcome my PTSD more quickly

without having to relive every sound, terror and smell in order to do so.

и не бих морала поново да проживљавам сваки звук, мирис и сваки страх.

Нисам једина.

I'm not the only one.

Sarah described herself as being at the end of her life,

Сара је описала да је на крају свог живота, да га више не вреди живети,

no longer in a life worth living,

because of her severe and intractable depression.

све због тешке и неумољиве депресије.

Then, using implanted brain sensors

Онда, након уградње можданих сензора, који су јој ресетовали мождану активност,

that reset her brain activity like a pacemaker for the brain,

попут пејсмејкера за мозак, Сари се вратила воља за животом.

Sarah reclaimed her will to live.

While implanted neurotechnology advances have been extraordinary,

Иако су помаци у неуротехнолошким имплантима невереоватни,

it's the everyday brain sensors

верујем да ће свакодневни мождани сензори, уграђени у обичну технологију,

that are embedded in our ordinary technology

that I believe will impact the majority of our lives.

бити оно што ће највише утицати на наше животе.

Like the one third of adults

На пример, за трећину одраслих и четвртину деце, који живе са епилепсијом,

and nearly one quarter of children who are living with epilepsy

for whom conventional anti-seizure medications fail.

и којима конвенционални лекови против напада не помажу.

Now, researchers from Israel to Spain have developed brain sensors

Истраживачи од Израела до Шпаније развијају мождане сензоре

using the power of AI in pattern recognition

користећи моћ ВИ за препознавање образаца и комерцијалне електроенцефалографије

and consumer electroencephalography

to enable the detection of epileptic seizures minutes

који омогућавају откривање епилептичних напада од неколико минута до сат времена

to up to an hour before they occur,

пре него се десе, и шаљу обавештења на мобилне уређаје која могу спасити живот.

sending potentially life-saving alerts to a mobile device.

Regular use of brain sensors could even enable us

Редовна употреба можданих сензора нам може омогућити да откријемо најраније фазе

to detect the earliest stages

of the most aggressive forms of brain tumors, like glioblastoma,

чак и најагресивнијих можданих тумора, попут мултиформног глиобластома,

where early detection is crucial to saving lives.

где рано откривање значи разлику између живота и смрти.

The same could hold true for Parkinson's disease, to Alzheimer's,

Исто важи и за Паркиносона, Алцхајмера, трауматске повреде мозга,

traumatic brain injury, ADHD, and even depression.

поремећај хиперактивности и дефицита пажње, па чак и депресије.

We may even change our brains for the better.

Можда чак променимо и своје мозгове набоље.

The brain training game industry,

Индустрија игара за тренинг мозга,

worth a staggering 6.5 billion dollars in 2021,

процењена на запањујућих 6,5 милијарди долара у 2021. години,

was for years met with controversy

годинама је била контроверзна

because of unsupported scientific claims about their efficacy.

јер тврдње о њеној ефикасности нису биле научно поткрепљене.

But now some brain-training platforms like Cognizant have proven powerful

Али сада су се неке платформе за тренинг мозга попут Когнизанта доказале

in improving brain processing speeds, memory, reasoning

у побољшавању брзине обрађивања, памћења, расуђивања,

and even executive functioning when played repeatedly over time.

па чак и извршних функција када се играју дуже времена.

When paired with neurofeedback devices for learning reinforcement,

Када се упаре са МПИ уређајима за поткрепљивање учења,

this could revolutionize how we learn and adapt to change.

ово може да преокрене то како учимо и како се прилагођавамо променама.

Other breakthroughs could be transformational

Друга открића би могла да буду преображајна за људско искуство.

for the human experience.

Today, most human brain studies

Већина данашњих истраживања мозга се раде на веома малом броју учесника

are based on a very small number of participants

engaged in very specific tasks in a controlled laboratory environment.

који раде веома специфичне задатке у контролисаним лабораторијским условима.

With widespread use of brain sensors,

Распострањеном употребом можданих сензора

the data we could have to learn about the human brain

експоненцијално би се повећали подаци који би нам помогли да учимо о људском уму.

would exponentially increase.

Ако добијемо довољно велик скуп података, сакупљен у дужем временском периоду,

With sufficiently large datasets of long-term, real-world data

од људи из стварног света како раде свакодневне активности,

from people engaged in everyday activity,

we just might address everything from neurological disease and suffering

могли бисмо да откључамо сваку мистерију, од неуролошких болести и патње,

to creating transformational possibilities for the human experience.

па до стварања могућности да се цело људско искуство преобрази.

But all of this will only be possible

Међутим, ово неће бити могуће без поверљивости можданих података

if people can confidently share their brain data

without fear that it will be misused against them.

и без отклањања страха да ће ови подаци бити употребљени против нас.

You see, the brain data that will be collected

Видите, мождани подаци које ће ови уређаји производити и који ће се сакупљати

and generated by these devices

won't be collected in traditional laboratory environments

неће бити сакуљени у традиционалним, лабораторијским условима

or in clinical research studies run by physicians and scientists.

или клиничким истраживањима које спроводе доктори и научници.

Instead, it will be the sellers of these new devices,

Не, то ће радити продавци ових уређаја, исте оне компаније

the very companies who've been commodifying our personal data for years.

које годинама претварају наше личне податке у робу којом се тргује.

Which is why we can't go into this new era naive about the risks

Зато не можемо ући у ово ново доба неупућени у ризике

or complacent about the challenges

и бити несвесни изазова које сакупљање и дељење ових података носи.

that the collection and sharing our brain data will pose.

Scientific hurdles can and will be addressed in time,

Научне препреке се могу, и хоће, решити временом,

but the social hurdles will be the most challenging.

али друштвене препреке ће бити много изазовније.

Unlike the technologies of the past that track and hack the human brain,

За разлику од прошлих технологија које прате и хакују људски мозак,

brain sensors provide direct access to the part of ourselves

мождани сензори имају директан приступ делу нас који свесно заузадавамо,

that we hold back,

that we don't express through our words and our actions.

који не изражавамо кроз речи и дела.

Brain data in many instances will be more sensitive

Ови подаци ће у већини случајева бити много осетљивији од личних података,

than the personal data of the past,

because it reflects our feelings, our mental states, our emotions,

јер одражавају наша осећања, како свесна тако и несвесна, наше стање ума,

our preferences, our desires, even our very thoughts.

наше склоности, жеље, па чак и наше мисли.

I would never have wanted the data that was collected

Никада не бих пожелела да се ти подаци сакупљају

as I worked through the trauma of my personal loss

док сам пролазила кроз трауму и превазилазила лични губитак,

to have been commodified,

да их после неко претвори у робу и њима тргује, да их дели и анализира.

shared and analyzed by others.

These aren't just hypothetical risks.

Ово нису само хипотетички ризици.

Узмимо на пример Ентертек, компанију са седиштем у Хангџоу,

Take Entertek, a Hangzhou-based company,

who has collected millions of instances of brain activity data

који је сакупио милионе случајева можданих активности

as people have engaged in mind-controlled car racing,

док су људи управљали умом аутима за тркање, док су спавали, радили,

sleeping, working,

even using neurofeedback with their devices.

чак и док су употребљавали њихове уређаје кроз мождане повратне информације.

They've already entered into partnerships with other companies

Већ су формирали партнерства са другим фирмама о дељењу и анализи тих података.

to share and analyze that data.

Unless people have individual control over their brain data,

Ако појединци не буду имали контролу над својим можданим подацима,

it will be used for microtargeting or worse,

користиће их за миркотаргетирање и много горе ствари, а не за лечење деменције.

instead of treating dementia.

Like the employees worldwide

Почевши од запослених широм света који већ подлежу

who've already been subject to brain surveillance in the workplace

можданом надзору на радном месту где им се прати пажња и умор,

to track their attention and fatigue,

to governments, developing brain biometrics,

преко влада које развијају биометрију мозга за потврђивања идентитета на граници

to authenticate people at borders,

to interrogate criminal suspects' brains

и испитивања мозгова осумњичених за злочине,

до прављења оружја које може да дезоријентише и онеспособи људски мозак.

and even weapons that are being crafted

to disable and disorient the human brain.

Brain wearables will have not only read but write capabilities,

Носива неуротехнологија ће имати могућности да мења,

а не само да очитава способности,

creating risks that our brains can be hacked, manipulated,

што ствара опасност да ће неко моћи да хакује наш мозак, да манипулише нама,

and even subject to targeted attacks.

чак и да будемо мете циљаних напада.

We must act quickly to safeguard against the very real

Морамо брзо деловати да се заштитимо од веома стварне

and terrifying risks to our innermost selves.

и застрашујуће опасности по нас саме.

Recognizing a human right to cognitive liberty

Препознавање когнитивне слободе као људског права би нудило такву заштиту.

would offer those safeguards.

Cognitive liberty is a right from interference by others,

Когнитивна слобода би била наше право да се други не мешају,

but it is also a right to self-determination

али исто тако и наше право да одлучујемо о нашем мозгу

over our brains and mental experiences to enable human flourishing.

и томе како доживљавамо све оно што нам дозвољава индивидуални развој.

To achieve this,

Да бисмо ово постигли, треба да препознамо три повезана људска права

we need to recognize three interrelated human rights

and update our understanding of them

и да осавременимо схватање истих да бисмо осигурали право на менталну приватност

to secure to us a right to mental privacy,

to safeguard us from interference with our automatic reactions,

и успоставили брану од утицаја других на наше аутоматске реакције, осећања и мисли.

our emotions and our thoughts.

Freedom of thought as an absolute human right

Слобода мишљења је апсолутно људско право које гарантује да нам

to protect us from interception,

нико не може пресрести или управљати мислима, нити нас због њих кажњавати.

manipulation and punishment of our thoughts.

Право на самоопредељење гарантује

And self-determination

to secure self-ownership over our brains and mental experiences,

сигурну контролу над нашим умовима и духовним искуствима,

to access and change them if we want to do so.

те да им можемо приступити и мењати их само ако то желимо.

There are important efforts already underway

Учињени су значајни напори од стране држава широм света, од УН-a па до Унескоа,

from the UN to UNESCO, in nations worldwide,

over rights and regulations around neurotechnologies.

да се правно уреди област неуротехнологије.

But those rights need to be better aligned

Међутим, та права морају бити усклађенија са ширим скупом дигиталних права.

with a broader set of digital rights.

Cognitive liberty is an update to liberty in the digital age

Когнитивна слобода је само унапређење слободе у дигиталном добу

as an umbrella concept of human flourishing

као кровни концепт индивидуалног развоја широм дигиталних технологија.

across digital technologies.

Because the right way forward isn't through metaverse rights

Јер прави пут није кроз права метаверзума, права ВИ или неуротехнологије, или слично.

or AI rights

or neurotech rights and the like.

It's to recognize that these technologies don't exist in silos,

Него да препознамо да те технологије не постоје изоловано,

but in combination, affecting our brains and mental experiences.

него да заједно могу да утичу на наше мозгове и духовно искуство.

We are literally at a moment before.

Дословно нас тренутак дели од тога. И заиста мислим на тренутак.

And I mean a moment.

Consumer brain wearables have already arrived,

Комерцијална носива неуротехнологија је већ ту

and the commodification of our brains has already begun.

а претварање наших мозгова у робу је већ почело.

It's now just a question of scale.

Само је питање размере.

We haven't yet passed the inflection point

Нисмо још прошли тачку када ће други моћи

where most of our brains can be directly accessed and changed by others.

да директно приступе и мењају већи део нашег мозга.

But it is about to happen,

Међутим, то само што се није десило.

giving us a final moment to make a change

И последњи је тренутак да променимо нешто

so that we don't look back in a few years' time

да се не бисмо после пар година сећали и јадиковали над светом који смо изгубили.

and lament the world we've left behind.

We can and should be hopeful and deliberate

Можемо и требамо имати наду и истрајност у изборима које сада правимо

about the choices we make now

to secure a right to self-determination over our brains and mental experiences.

да осигурамо право на опредељење у вези с нашим мозговима и духовним искуствима.

The possibilities, if we do so,

Ако то учинимо, могућности су ограничене само нашом маштом.

are limited only by our imagination.

Thank you.

Хвала вам.

(Applause)

(Аплауз)