When technology can read minds, how will we protect our privacy? | Nita Farahany

Vertaald door: Rik Delaet Nagekeken door: Peter van de Ven

In the months following the 2009 presidential election in Iran,

Na de presidentsverkiezingen van 2009 in Iran

protests erupted across the country.

braken protesten uit in het hele land.

The Iranian government violently suppressed

De Iraanse regering onderdrukte met geweld

what came to be known as the Iranian Green Movement,

wat bekend zou worden als de Iraanse Groene Beweging

even blocking mobile signals

en blokkeerde zelfs signalen van mobielen

to cut off communication between the protesters.

om de communicatie tussen de demonstranten af te snijden.

My parents, who emigrated to the United States in the late 1960s,

Mijn ouders, die in de late jaren 60 naar de Verenigde Staten emigreerden,

spend substantial time there,

brachten daar veel tijd door,

where all of my large, extended family live.

bij mijn grote, uitgebreide familie.

When I would call my family in Tehran

Toen ik mijn familie in Teheran opbelde

during some of the most violent crackdowns of the protest,

tijdens de meest gewelddadige optredens tegen het protest,

none of them dared discuss with me what was happening.

durfde niemand met mij te spreken over wat er gebeurde.

They or I knew to quickly steer the conversation to other topics.

Zij en ik wisten hoe het gesprek snel op andere onderwerpen te brengen.

All of us understood what the consequences could be

We begrepen allemaal wat de gevolgen konden zijn

of a perceived dissident action.

van een vermeende dissidente actie.

But I still wish I could have known what they were thinking

Maar ik wou nog steeds dat ik had kunnen weten wat ze dachten

or what they were feeling.

of wat ze voelden.

What if I could have?

Wat als ik het gekund had?

Or more frighteningly,

Of nog beangstigender,

what if the Iranian government could have?

wat als de Iraanse regering het zou hebben gekund?

Would they have arrested them based on what their brains revealed?

Zouden ze hen hebben gearresteerd op basis van wat hun hersenen openbaarden?

That day may be closer than you think.

Die dag kan dichterbij zijn dan je denkt.

With our growing capabilities in neuroscience, artificial intelligence

Met onze groeiende mogelijkheden in de neurowetenschappen,

kunstmatige intelligentie en machinaal leren

and machine learning,

we may soon know a lot more of what's happening in the human brain.

kunnen we binnenkort veel meer weten van wat er in het menselijke brein omgaat.

As a bioethicist, a lawyer, a philosopher

Als bio-ethicus, advocaat, filosoof

and an Iranian-American,

en Iraans-Amerikaanse

I'm deeply concerned about what this means for our freedoms

ben ik zeer bezorgd over wat dit betekent voor onze vrijheden

and what kinds of protections we need.

en wat voor soort beveiligingen we nodig hebben.

I believe we need a right to cognitive liberty,

Ik geloof dat we recht hebben op cognitieve vrijheid,

as a human right that needs to be protected.

als een mensenrecht dat moet worden beschermd.

If not, our freedom of thought,

Zo niet, dan wordt onze vrijheid van gedachte,

access and control over our own brains

toegang en controle over onze eigen hersenen

and our mental privacy will be threatened.

en onze mentale privacy bedreigd.

Consider this:

Overweeg dit:

the average person thinks thousands of thoughts each day.

de gemiddelde persoon denkt elke dag duizenden gedachten.

As a thought takes form,

Als zich een gedachte aandient,

like a math calculation or a number, a word,

bijvoorbeeld een wiskundige berekening of een getal, een woord,

neurons are interacting in the brain,

interageren neuronen in de hersenen,

creating a miniscule electrical discharge.

met als gevolg een minuscule elektrische ontlading.

When you have a dominant mental state, like relaxation,

Bij een dominante mentale toestand, zoals ontspanning,

hundreds and thousands of neurons are firing in the brain,

vuren honderden en duizenden neuronen in de hersenen

creating concurrent electrical discharges in characteristic patterns

en creëren ze gelijktijdige elektrische ontladingen in karakteristieke patronen

that can be measured with electroencephalography, or EEG.

die kunnen worden gemeten met elektro-encefalografie of EEG.

In fact, that's what you're seeing right now.

In feite is dat wat je nu ziet.

You're seeing my brain activity that was recorded in real time

Je ziet mijn hersenactiviteit die in real time werd opgenomen

with a simple device that was worn on my head.

met een eenvoudig apparaat op mijn hoofd.

What you're seeing is my brain activity when I was relaxed and curious.

Wat je ziet is mijn hersenactiviteit terwijl ik ontspannen en nieuwsgierig was.

To share this information with you,

Om deze informatie met jullie te delen,

I wore one of the early consumer-based EEG devices

droeg ik een van de eerste EEG-apparaten voor consumenten,

like this one,

zoals dit hier,

which recorded the electrical activity in my brain in real time.

dat de elektrische activiteit in mijn hersenen

in real time registreerde.

It's not unlike the fitness trackers that some of you may be wearing

Een beetje als de fitness-trackers die sommigen van jullie dragen

to measure your heart rate or the steps that you've taken,

voor het meten van je hartslag of de stappen die je hebt gezet,

or even your sleep activity.

of zelfs je slaapactiviteit.

It's hardly the most sophisticated neuroimaging technique on the market.

Het is niet bepaald de meest geavanceerde neuro-imaging-techniek op de markt.

But it's already the most portable

Maar het is nu al de meest draagbare

and the most likely to impact our everyday lives.

en de meest waarschijnlijke om ons dagelijks leven te gaan beïnvloeden.

This is extraordinary.

Dit is buitengewoon.

Through a simple, wearable device,

Via een eenvoudig, draagbaar apparaat

we can literally see inside the human brain

kunnen we letterlijk in het menselijk brein kijken

and learn aspects of our mental landscape without ever uttering a word.

en aspecten van ons mentale landschap leren kennen

zonder zelfs een woord te uiten.

While we can't reliably decode complex thoughts just yet,

Hoewel we complexe gedachten nog niet betrouwbaar kunnen decoderen,

we can already gauge a person's mood,

kunnen we iemands stemming al peilen

and with the help of artificial intelligence,

en met behulp van kunstmatige intelligentie

we can even decode some single-digit numbers

kunnen we zelfs een aantal simpele dingen decoderen,

ééncijferige getallen of vormen of eenvoudige woorden,

or shapes or simple words that a person is thinking

die iemand denkt, hoort of ziet.

or hearing, or seeing.

Despite some inherent limitations in EEG,

Ondanks bepaalde inherente beperkingen van de EEG,

I think it's safe to say that with our advances in technology,

denk ik dat ik gerust kan zeggen dat met onze vooruitgang in de technologie,

more and more of what's happening in the human brain

meer en meer van wat er gebeurt in het menselijk brein

can and will be decoded over time.

na verloop van tijd kan en zal worden gedecodeerd.

Already, using one of these devices,

Nu al kan een epilepticus met een van deze apparaten

an epileptic can know they're going to have an epileptic seizure

een ​​epileptische aanval zien aankomen voordat hij gebeurt.

before it happens.

A paraplegic can type on a computer with their thoughts alone.

Een dwarslaesiepatiënt kan typen op een computer

door alleen maar te denken.

A US-based company has developed a technology to embed these sensors

Een Amerikaans bedrijf ontwikkelde een technologie

om deze sensoren in te bouwen in de hoofdsteunen van auto’s,

into the headrest of automobilies

so they can track driver concentration,

zodat ze de concentratie, de afleiding

distraction and cognitive load while driving.

en de cognitieve belasting van de bestuurder

tijdens het rijden kunnen volgen.

Nissan, insurance companies and AAA have all taken note.

Nissan, verzekeringsmaatschappijen en de Amerikaanse wegenwacht

hebben dit opgepikt.

You could even watch this choose-your-own-adventure movie

Je zou zelfs kunnen kijken

naar deze kies-je-eigen-avontuurfilm, ‘The Moment’,

"The Moment," which, with an EEG headset,

die met een EEG-headset

changes the movie based on your brain-based reactions,

de film verandert op basis van jouw hersenreacties,

giving you a different ending every time your attention wanes.

waardoor het einde telkens anders is als je aandacht verslapt.

This may all sound great,

Dat klinkt misschien allemaal geweldig,

and as a bioethicist,

en als bio-ethicus

I am a huge proponent of empowering people

ben ik een grote voorstander van het in staat stellen van mensen

to take charge of their own health and well-being

om hun eigen gezondheid en welzijn in handen te nemen

by giving them access to information about themselves,

door hen toegang tot informatie over zichzelf te geven,

including this incredible new brain-decoding technology.

met inbegrip van deze ongelooflijke nieuwe hersendecoderingstechnologie.

But I worry.

Maar ik maak me zorgen.

I worry that we will voluntarily or involuntarily give up

Ik ben bang dat we vrijwillig of onvrijwillig

ons laatste bastion van vrijheid zullen opgeven:

our last bastion of freedom, our mental privacy.

onze mentale privacy.

That we will trade our brain activity

Dat we onze hersenactiviteit zullen aanbieden

for rebates or discounts on insurance,

voor toeslagen of kortingen op verzekeringen,

or free access to social-media accounts ...

of gratis toegang tot sociale-media-accounts ...

or even to keep our jobs.

of zelfs om onze baan te behouden.

In fact, in China,

Het is nu al zo dat in China

the train drivers on the Beijing-Shanghai high-speed rail,

de treinbestuurders op de Beijing-Shanghai hogesnelheidstrein,

the busiest of its kind in the world,

de drukste dergelijke route in de wereld,

are required to wear EEG devices

EEG-sets dragen

to monitor their brain activity while driving.

om hun hersenactiviteit te controleren tijdens het rijden.

According to some news sources,

Volgens sommige nieuwsbronnen

in government-run factories in China,

moeten in door de regering gerunde fabrieken in China

the workers are required to wear EEG sensors to monitor their productivity

de werknemers EEG-sensoren dragen om hun productiviteit te controleren,

and their emotional state at work.

evenals hun emotionele toestand op het werk.

Workers are even sent home

Arbeiders worden zelfs naar huis gestuurd

if their brains show less-than-stellar concentration on their jobs,

als hun hersenen onvoldoende concentratie op hun werk vertonen

or emotional agitation.

of irritatie.

It's not going to happen tomorrow,

Het zal niet voor morgen zijn,

but we're headed to a world of brain transparency.

maar we zijn op weg naar een wereld van hersentransparantie.

And I don't think people understand that that could change everything.

En ik denk niet dat mensen doorhebben dat dat alles zou kunnen veranderen.

Everything from our definitions of data privacy to our laws,

Alles, van onze definities van de persoonlijke levenssfeer,

to our ideas about freedom.

tot onze wetten, tot onze ideeën over vrijheid.

In fact, in my lab at Duke University,

Als het daarover gaat, in mijn lab aan de Duke University

we recently conducted a nationwide study in the United States

deden we onlangs een landelijk onderzoek in de Verenigde Staten

to see if people appreciated

om te zien of mensen

de gevoeligheid van hun herseninformatie konden inschatten.

the sensitivity of their brain information.

We asked people to rate their perceived sensitivity

We vroegen mensen om hun vermeende gevoeligheid in te schatten

of 33 different kinds of information,

van 33 verschillende soorten informatie:

from their social security numbers

van hun sofinummers

to the content of their phone conversations,

tot de inhoud van hun telefoongesprekken,

their relationship history,

hun relatiegeschiedenis,

their emotions, their anxiety,

hun emoties, hun angst,

the mental images in their mind

de mentale beelden in hun hoofd

and the thoughts in their mind.

en de gedachten in hun hoofd.

Shockingly, people rated their social security number as far more sensitive

Schokkend genoeg beoordeelden mensen hun sofinummer

als veel gevoeliger dan elke andere vorm van informatie,

than any other kind of information,

including their brain data.

met inbegrip van hun hersendata.

I think this is because people don't yet understand

Ik denk dat dit komt omdat mensen nog geen inzicht of geloof hebben

or believe the implications of this new brain-decoding technology.

in de gevolgen van deze nieuwe hersendecoderingstechnologie.

After all, if we can know the inner workings of the human brain,

Als we de innerlijke werking van het menselijk brein gaan kennen,

our social security numbers are the least of our worries.

zullen onze sofinummers de minste van onze zorgen zijn.

(Laughter)

(Gelach)

Think about it.

Denk er over na.

In a world of total brain transparency,

Wie zou in een wereld van totale hersentransparantie

who would dare have a politically dissident thought?

een politiek dissidente gedachte durven hebben?

Or a creative one?

Of een creatieve?

I worry that people will self-censor

Ik ben bang dat mensen aan zelfcensuur zullen doen

in fear of being ostracized by society,

uit angst te worden verstoten door de maatschappij,

or that people will lose their jobs because of their waning attention

of dat de mensen hun baan kwijtraken door hun afnemende aandacht

or emotional instability,

of emotionele instabiliteit,

or because they're contemplating collective action against their employers.

of omdat ze denken aan collectieve actie tegen hun werkgevers.

That coming out will no longer be an option,

Uit de kast komen zal niet langer een optie zijn,

because people's brains will long ago have revealed their sexual orientation,

omdat hun hersenen al lang hun seksuele geaardheid zullen hebben geopenbaard,

their political ideology

of hun politieke ideologie

or their religious preferences,

of hun religieuze voorkeuren,

well before they were ready to consciously share that information

lang voordat ze klaar waren om die informatie bewust te delen

with other people.

met andere mensen.

I worry about the ability of our laws to keep up with technological change.

Ik maak me zorgen of onze wetten

de technologische veranderingen zullen kunnen bijbenen.

Take the First Amendment of the US Constitution,

Het eerste amendement van de Amerikaanse grondwet

which protects freedom of speech.

beschermt de vrijheid van meningsuiting.

Does it also protect freedom of thought?

Beschermt het ook de vrijheid van gedachten?

And if so, does that mean that we're free to alter our thoughts however we want?

En zo ja, mogen we dan ook onze gedachten veranderen als we dat willen?

Or can the government or society tell us what we can do with our own brains?

Of kan de overheid of de maatschappij

ons vertellen wat we kunnen doen met onze eigen hersenen?

Can the NSA spy on our brains using these new mobile devices?

Kan de NSA onze hersenen bespioneren met die nieuwe mobiele apparaten?

Can the companies that collect the brain data through their applications

Mogen bedrijven die hersengegevens kunnen verzamelen

sell this information to third parties?

die informatie aan derden verkopen?

Right now, no laws prevent them from doing so.

Nu zijn er geen wetten die hen dat beletten.

It could be even more problematic

Het zou nog meer problemen geven

in countries that don't share the same freedoms

in landen die niet dezelfde vrijheden hebben

enjoyed by people in the United States.

als die van de mensen in de Verenigde Staten.

What would've happened during the Iranian Green Movement

Wat zou er tijdens de Iraanse Groene Beweging zijn gebeurd

if the government had been monitoring my family's brain activity,

als de regering inzage had gehad in de hersenactiviteit van mijn familie

and had believed them to be sympathetic to the protesters?

en had besloten dat ze sympathie hadden voor de demonstranten?

Is it so far-fetched to imagine a society

Is het zo vergezocht om een ​​samenleving te bedenken

in which people are arrested based on their thoughts

waarin mensen worden opgepakt op basis van hun gedachten

over het plegen van een misdrijf,

of committing a crime,

like in the science-fiction dystopian society in "Minority Report."

zoals in de sciencefiction, dystopische samenleving in ‘Minority Report’.

Already, in the United States, in Indiana,

In de Verenigde Staten, in Indiana,

an 18-year-old was charged with attempting to intimidate his school

werd een 18-jarige al beschuldigd van een poging om zijn school te intimideren

by posting a video of himself shooting people in the hallways ...

door het plaatsen van een video van zichzelf

waarin hij mensen in de gangen neerschoot ...

Except the people were zombies

Behalve dat de mensen zombies waren

and the video was of him playing an augmented-reality video game,

en de video er een was

waarin hij een videogame met verhoogde realiteit speelde,

all interpreted to be a mental projection of his subjective intent.

allemaal geïnterpreteerd

als een mentale projectie van zijn subjectieve bedoelingen.

This is exactly why our brains need special protection.

Dit is precies de reden

waarom onze hersenen speciale bescherming nodig hebben.

If our brains are just as subject to data tracking and aggregation

Als onze hersenen net zo onderhevig zijn aan datatracking en -aggregatie

as our financial records and transactions,

als onze financiële administratie en transacties,

if our brains can be hacked and tracked like our online activities,

als onze hersenen gehackt en bijgehouden kunnen worden

zoals onze online-activiteiten,

our mobile phones and applications,

onze mobiele telefoons en toepassingen,

then we're on the brink of a dangerous threat to our collective humanity.

dan staan we aan de rand

van een gevaarlijke bedreiging voor onze gezamenlijke menselijkheid.

Before you panic,

Voordat je in paniek raakt:

I believe that there are solutions to these concerns,

ik geloof dat er oplossingen zijn voor deze problemen,

but we have to start by focusing on the right things.

maar we moeten beginnen door op de juiste dingen te focussen.

When it comes to privacy protections in general,

Als het gaat om bescherming van de privacy in het algemeen,

I think we're fighting a losing battle

denk ik dat we vechten tegen de bierkaai

by trying to restrict the flow of information.

door te proberen om de stroom van informatie te beperken.

Instead, we should be focusing on securing rights and remedies

In plaats daarvan moeten we ons richten

op het veiligstellen van rechten en rechtsmiddelen

against the misuse of our information.

tegen misbruik van onze informatie.

If people had the right to decide how their information was shared,

Als mensen mogen beslissen hoe hun informatie wordt gedeeld,

and more importantly, have legal redress

en nog belangrijker, wat hun rechten zijn

if their information was misused against them,

als hun informatie verkeerd tegen hen werd gebruikt,

say to discriminate against them in an employment setting

bijvoorbeeld bij discriminatie in een werkgelegenheidsgeschil

or in health care or education,

of in gezondheidszorg of onderwijs,

this would go a long way to build trust.

zou dat al een grote stap zijn om vertrouwen op te bouwen.

In fact, in some instances,

In feite willen we in sommige gevallen

we want to be sharing more of our personal information.

meer persoonlijke informatie delen.

Studying aggregated information can tell us so much

Het bestuderen van verzamelde informatie kan ons zoveel vertellen

about our health and our well-being,

over onze gezondheid en ons welzijn,

but to be able to safely share our information,

maar om onze informatie veilig te kunnen delen,

we need special protections for mental privacy.

hebben we speciale bescherming van onze mentale privacy nodig.

This is why we need a right to cognitive liberty.

Daarom hebben we het recht op cognitieve vrijheid nodig.

This right would secure for us our freedom of thought and rumination,

Dit recht zou voor ons onze vrijheid van denken en rumineren veiligstellen,

our freedom of self-determination,

onze vrijheid van zelfbeschikking,

and it would insure that we have the right to consent to or refuse

en het zou ons ervan verzekeren dat we het recht hebben

anderen al dan niet toestemming te geven onze hersenen in te zien of te wijzigen.

access and alteration of our brains by others.

This right could be recognized

Dit recht kan worden erkend als onderdeel

as part of the Universal Declaration of Human Rights,

van de Universele Verklaring van de Rechten van de Mens,

which has established mechanisms

die vastgestelde mechanismen heeft

for the enforcement of these kinds of social rights.

voor de handhaving van dit soort sociale rechten.

During the Iranian Green Movement,

Tijdens de Iraanse Groene Beweging

the protesters used the internet and good old-fashioned word of mouth

gebruikten de betogers het internet en goede ouderwetse mond-tot-mond-berichten

to coordinate their marches.

om hun marsen te coördineren.

And some of the most oppressive restrictions in Iran

Sommige van de meest onderdrukkende beperkingen in Iran

were lifted as a result.

werden als gevolg daarvan opgeheven.

But what if the Iranian government had used brain surveillance

Maar wat als de Iraanse regering hersensurveillance had gebruikt

to detect and prevent the protest?

om het protest op te sporen en te voorkomen?

Would the world have ever heard the protesters' cries?

Zou de wereld ooit de kreten van de demonstranten hebben gehoord?

The time has come for us to call for a cognitive liberty revolution.

De tijd is gekomen dat we pleiten voor een revolutie om cognitieve vrijheid.

To make sure that we responsibly advance technology

Om ervoor te zorgen dat we technologie op verantwoorde wijze zo bevorderen

that could enable us to embrace the future

dat we de toekomst kunnen omarmen

while fiercely protecting all of us from any person, company or government

en tegelijkertijd ons allemaal beschermen tegen personen, bedrijven of overheden

that attempts to unlawfully access or alter our innermost lives.

die zonder toestemming ons diepste wezen willen inzien of wijzigen.

Thank you.

Dank je.

(Applause)

(Applaus)