When technology can read minds, how will we protect our privacy? | Nita Farahany

Çeviri: Meltem Erdoğan Gözden geçirme: Ozay Ozaydin

In the months following the 2009 presidential election in Iran,

2009 yılında İran'da gerçekleşen başkanlık seçimlerini takip eden aylarda,

protests erupted across the country.

ülkenin dört bir yanında protestolar patlak verdi.

The Iranian government violently suppressed

İran hükûmeti bu protestoları şiddet kullanarak bastırdı,

what came to be known as the Iranian Green Movement,

sonradan buna İran Yeşil Hareketi adı verildi.

even blocking mobile signals

Cep telefonu sinyalleri bile bloke edilmişti,

to cut off communication between the protesters.

amaçları, protestocular arasındaki iletişimi engellemekti.

My parents, who emigrated to the United States in the late 1960s,

1960'ların sonuna doğru Birleşik Devletler'e göç eden ailem,

spend substantial time there,

bütün sülalemizin bulunduğu İran'da

where all of my large, extended family live.

hatırı sayılır bir süre geçirdiler.

When I would call my family in Tehran

Protestoların en şiddetli şekilde bastırıldığı dönemde,

during some of the most violent crackdowns of the protest,

Tahran'daki ailemi aradığımda

none of them dared discuss with me what was happening.

hiçbiri neler olup bittiğine dair yorum yapmaya cesaret edemiyordu.

They or I knew to quickly steer the conversation to other topics.

Ya onlar ya da ben lafı hızlıca başka konulara getiriyorduk.

All of us understood what the consequences could be

Hepimiz, fark edilecek herhangi bir muhalif hareketin sonuçlarının

of a perceived dissident action.

neler olabileceğini biliyorduk.

But I still wish I could have known what they were thinking

Ben yine de onların ne düşündüğünü ya da neler hissettiğini

or what they were feeling.

bilebilmek isterdim.

What if I could have?

Düşüncelerini bilmek nasıl olurdu?

Or more frighteningly,

Ya da daha korkuncu,

what if the Iranian government could have?

İran hükûmeti, ailemin düşüncelerini öğrenebilseydi ne olurdu?

Would they have arrested them based on what their brains revealed?

Sadece düşüncelerine dayanarak ailemi tutuklarlar mıydı?

That day may be closer than you think.

Bu, sandığınızdan daha kısa bir sürede gerçek olabilir.

With our growing capabilities in neuroscience, artificial intelligence

Nöroloji biliminde, yapay zekâda ve makine öğreniminde

and machine learning,

gelişmekte olan becerilerimiz sayesinde

we may soon know a lot more of what's happening in the human brain.

insan beyninde ne olup bittiği konusunda daha fazla bilgi sahibi olabileceğiz.

As a bioethicist, a lawyer, a philosopher

Bir biyoetik uzmanı, avukat, felsefeci

and an Iranian-American,

ve İran kökenli bir Amerikalı olarak

I'm deeply concerned about what this means for our freedoms

bu durumun özgürlüğümüz için ifade ettikleri ve ihtiyaç duyacağımız

and what kinds of protections we need.

koruma yöntemleri konusunda endişeliyim.

I believe we need a right to cognitive liberty,

Bence bilişsel özgürlük noktasında yeni bir hakkımız olması gerekiyor;

as a human right that needs to be protected.

korunması gereken bir insan hakkı.

If not, our freedom of thought,

Aksi takdirde düşünce özgürlüğümüz,

access and control over our own brains

beynimize erişim ve hakimiyetimiz

and our mental privacy will be threatened.

ve zihinsel mahremiyetimiz tehlikeye girecek.

Consider this:

Şöyle düşünün:

the average person thinks thousands of thoughts each day.

Ortalama bir insanın aklından gün boyunca binlerce şey geçer.

As a thought takes form,

Bir düşünce şekil alırken

like a math calculation or a number, a word,

matematiksel bir hesaplama ya da bir sayı, bir kelime gibi,

neurons are interacting in the brain,

beyindeki nöronlar birbirleriyle etkileşim halindedir,

creating a miniscule electrical discharge.

çok ufak boyutlarda elektriksel deşarj gerçekleşir.

When you have a dominant mental state, like relaxation,

Dinlenmek gibi daha yoğun bir ruh hali içindeyken

hundreds and thousands of neurons are firing in the brain,

beyninizdeki yüz binlerce nöron kıvılcım saçar

creating concurrent electrical discharges in characteristic patterns

ve beyin akımyazım, kısaca EEG ile ölçülebilen karakteristik düzenlerde

that can be measured with electroencephalography, or EEG.

eş zamanlı elektriksel deşarj gerçekleştirir.

In fact, that's what you're seeing right now.

Aslında, şu anda baktığınız şey tam olarak bu.

You're seeing my brain activity that was recorded in real time

Yalnızca kafama taktığım basit bir cihazla

with a simple device that was worn on my head.

gerçek-zamanlı beyin aktivitelerimi izlemektesiniz.

What you're seeing is my brain activity when I was relaxed and curious.

Bunlar, ben rahatken ve meraklıyken gerçekleşen beyin aktivitelerim.

Bu bilgiyi sizlerle paylaşmak için

To share this information with you,

I wore one of the early consumer-based EEG devices

pazara sürülecek EEG cihazlarının ilk modellerinden birini taktım,

like this one,

işte bunun gibi

which recorded the electrical activity in my brain in real time.

gerçek zamanlı olarak beynimdeki elektriksel aktiviteyi kayıt ediyordu.

It's not unlike the fitness trackers that some of you may be wearing

Akıllı bileklikler gibi değil, belki bazılarınızda vardır

to measure your heart rate or the steps that you've taken,

kalp ritminizi ve attığınız adımları sayan

or even your sleep activity.

ya da uyku aktivitenizi ölçen aletlerden değil.

It's hardly the most sophisticated neuroimaging technique on the market.

Pazardaki neredeyse en gelişmiş nörolojik görüntüleme tekniği.

But it's already the most portable

Aralarında en taşınabilir olanı

and the most likely to impact our everyday lives.

ve gündelik yaşantımızı en çok etkileme potansiyeli olanı bu.

This is extraordinary.

Bu sıra dışı bir şey.

Through a simple, wearable device,

Basit ve kafanıza geçirebileceğiniz bir cihazla

we can literally see inside the human brain

gerçek anlamda insan beyninin içini görebiliyor

and learn aspects of our mental landscape without ever uttering a word.

ve tek kelime etmeden zihinsel haritasını çıkarabiliyoruz.

While we can't reliably decode complex thoughts just yet,

Henüz karmaşık düşüncelerin şifrelerini çözemesek de

we can already gauge a person's mood,

bir insanın ruhsal durumunu ölçebiliyor

and with the help of artificial intelligence,

ve yapay zekanın da yardımıyla

we can even decode some single-digit numbers

bazı tek haneli sayıları, şekilleri

or shapes or simple words that a person is thinking

veya basit kelimeleri tespit edebiliyoruz.

Kişi bunları düşünüyor, duyuyor ya da görüyor olabilir.

or hearing, or seeing.

Despite some inherent limitations in EEG,

EEG'de başından beri var olan bazı engellere rağmen

I think it's safe to say that with our advances in technology,

teknolojideki gelişmelerle birlikte

more and more of what's happening in the human brain

insan beyninde neler olup bittiğini

can and will be decoded over time.

zamanla deşifre edebileceğimizi söyleyebilirim.

Already, using one of these devices,

Şu an bu aletlerden birini kullanarak

an epileptic can know they're going to have an epileptic seizure

epilepsisi olan bir kişi, epilepsi krizi geçireceğini

before it happens.

önceden anlayabiliyor.

A paraplegic can type on a computer with their thoughts alone.

Belden aşağısı felç olan bir kişi, sadece düşünerek bilgisayar kullanabiliyor.

A US-based company has developed a technology to embed these sensors

Birleşik Devletler'de bir şirket, bu sensörleri arabalarda

koltuk başlıklarının içine yerleştirecek bir teknoloji geliştirdi.

into the headrest of automobilies

so they can track driver concentration,

Böylelikle sürücünün konsantrasyonunu,

distraction and cognitive load while driving.

dikkatinin dağılmasını ve bilişsel yükünü takip edebiliyorlar.

Nissan, insurance companies and AAA have all taken note.

Nissan, sigorta şirketleri ve Amerikan Otomobil Birliği konuyla yakından ilgili.

You could even watch this choose-your-own-adventure movie

"Sonunu kendin belirle" filmi olan "The Moment"ı bile

"The Moment," which, with an EEG headset,

EEG başlığıyla izleyebilirsiniz.

changes the movie based on your brain-based reactions,

Film, sizin beyinsel tepkilerinize bağlı olarak değişiyor

giving you a different ending every time your attention wanes.

ve dikkatinizin azaldığı her an farklı bir son sunuyor.

This may all sound great,

Bu, kulağa harika gelebilir.

and as a bioethicist,

Bir biyoetik uzmanı olarak

I am a huge proponent of empowering people

ben de insanların sağlıkları ve iyilikleri için

to take charge of their own health and well-being

kendileri hakkında bilgiye erişmelerini sağlayarak

by giving them access to information about themselves,

onları güçlü kılmayı destekleyen insanlardan biriyim.

including this incredible new brain-decoding technology.

Bu yeni ve inanılmaz beyin deşifre teknolojisi de buna dâhil.

But I worry.

Fakat endişelerim var:

I worry that we will voluntarily or involuntarily give up

İsteyerek veya istemeden özgürlüğümüze ait son kaleyi de kaybetmekten korkuyorum,

our last bastion of freedom, our mental privacy.

yani zihin mahremiyetimizi.

That we will trade our brain activity

Belki de beyin aktivitelerimizi ticari şekillerde kullanırız;

for rebates or discounts on insurance,

sigortada indirim veya para iadesi almak için

or free access to social-media accounts ...

ya da sosyal medya hesaplarına ücretsiz erişim için,

or even to keep our jobs.

belki de işimizi kaybetmemek için.

In fact, in China,

Aslına bakarsanız Çin'de

dünyadaki en yoğun hatlardan biri olan Pekin-Şangay yüksek hızlı tren hattındaki

the train drivers on the Beijing-Shanghai high-speed rail,

the busiest of its kind in the world,

sürücülerin yolculuk esnasında

are required to wear EEG devices

beyin aktivitelerinin görüntülenmesi için

to monitor their brain activity while driving.

EEG cihazları takmaları gerekiyor.

According to some news sources,

Bazı haber kaynaklarına göre

in government-run factories in China,

Çin'de hükûmetin yönettiği fabrikalarda

the workers are required to wear EEG sensors to monitor their productivity

verimliliklerinin ve duygu durumlarının ölçülmesi için

işçilerin çalışırken EEG sensörleri takmaları gerek.

and their emotional state at work.

Workers are even sent home

Hatta beyinleri işe daha az odaklanmışsa

if their brains show less-than-stellar concentration on their jobs,

veya duygusal gerginlik gösteriyorsa

or emotional agitation.

işçiler işten çıkarılabiliyorlar.

It's not going to happen tomorrow,

Bahsettiklerim yarın olmayacak

but we're headed to a world of brain transparency.

fakat beyinlerimizin şeffaflaştığı bir dünyaya doğru ilerliyoruz

And I don't think people understand that that could change everything.

ve bence, insanlar bunun her şeyi değiştirebileceğini anlamıyorlar.

Everything from our definitions of data privacy to our laws,

Veri gizliliğinden tutun yasalara, özgürlük hakkındaki düşüncelerimize kadar

to our ideas about freedom.

her şeyin tanımı değişebilir.

In fact, in my lab at Duke University,

Duke Üniversitesi'ndeki laboratuvarımda

we recently conducted a nationwide study in the United States

yakın zamanda Birleşik Devletler çapında bir çalışma yürüttük.

to see if people appreciated

Amacımız, beyindeki bilgiler konusunda

the sensitivity of their brain information.

insanların hassasiyetini ölçmekti.

We asked people to rate their perceived sensitivity

Katılımcılardan kendi algılarına göre hassas olan otuz üç farklı bilgi türünü

of 33 different kinds of information,

puanlamalarını istedik.

from their social security numbers

Bunlar arasında sosyal güvenlik numaraları

to the content of their phone conversations,

telefon konuşmalarının içeriği,

their relationship history,

ilişki geçmişleri,

their emotions, their anxiety,

duyguları, endişeleri,

the mental images in their mind

kafalarındaki zihinsel imgeler

and the thoughts in their mind.

ve düşünceleri de vardı.

Shockingly, people rated their social security number as far more sensitive

Şaşırtıcı biçimde insanlar sosyal güvenlik numaralarını,

than any other kind of information,

beyinsel verileri dâhil

including their brain data.

diğer herhangi bir bilgiden daha özel addediyorlardı.

I think this is because people don't yet understand

Bunu sebebi, insanların yeni beyin deşifre teknolojisi sonuçlarını

or believe the implications of this new brain-decoding technology.

henüz anlayamamaları ya da buna inanamamaları diye düşünüyorum.

After all, if we can know the inner workings of the human brain,

Sonuçta insan beyninin içsel sürecini bilebilseydik

our social security numbers are the least of our worries.

sosyal güvenlik numaraları endişe edeceğimiz son şey olurdu.

(Laughter)

(Gülüşmeler)

Think about it.

Bir düşünün.

In a world of total brain transparency,

Beyinlerimizin tamamen şeffaf olduğu bir dünyada

who would dare have a politically dissident thought?

kim politik muhalif düşünceye cesaret ederdi?

Or a creative one?

Yaratıcı düşünmeye?

I worry that people will self-censor

Korkarım, insanlar toplum tarafından dışlanma korkusuyla

in fear of being ostracized by society,

kendilerine oto-sansür uygulayacaklar

or that people will lose their jobs because of their waning attention

ya da iş yerinde dikkat eksikliği, duygusal dengesizlik yüzünden

veya işverenlere karşı

or emotional instability,

or because they're contemplating collective action against their employers.

kolektif hareketler planladıkları için işlerinden olacaklar.

That coming out will no longer be an option,

Söz konusu grevler, artık seçenek olmaktan çıkacaklar

because people's brains will long ago have revealed their sexual orientation,

çünkü halihazırda insanların cinsel yönelimlerine,

their political ideology

politik ideolojilerine

or their religious preferences,

ya da dinsel tercihlerine dair bilgiyi

well before they were ready to consciously share that information

diğer insanlarla bilinçli şekilde paylaşmadan önce

with other people.

beyinleri bunları açık etmiş olacak.

I worry about the ability of our laws to keep up with technological change.

Yasalarımızın, teknolojik değişimi yakalama becerileri konusunda endişeliyim.

Take the First Amendment of the US Constitution,

Birleşik Devletler Yasasının Birinci Ek Maddesi,

which protects freedom of speech.

konuşma özgürlüğünü korumak için vardır.

Does it also protect freedom of thought?

Peki düşünce özgürlüğünü de koruyor mu?

And if so, does that mean that we're free to alter our thoughts however we want?

Öyleyse istediğimiz şekilde düşüncemizi tadil etmekte özgür müyüz?

Or can the government or society tell us what we can do with our own brains?

Yoksa beynimizle ne yapacağımızı bize hükûmet ya da toplum mu söyleyecek?

Can the NSA spy on our brains using these new mobile devices?

Ulusal Güvenlik Ajansı bu mobil cihazları kullanıp beynimizi mi gözetleyecek?

Can the companies that collect the brain data through their applications

Uygulamaları üzerinden beyinsel veri toplayan şirketler

sell this information to third parties?

bunları üçüncü şahıslara satabilecek mi?

Right now, no laws prevent them from doing so.

Şu an bizi bunlardan koruyacak bir yasa yok.

It could be even more problematic

Durum daha sorunlu hâle de gelebilir.

in countries that don't share the same freedoms

Mesela Birleşik Devletlerdeki insanların aksine

enjoyed by people in the United States.

aynı özgürlüğe sahip olmayan ülkelerde.

What would've happened during the Iranian Green Movement

Mesela İran'daki Yeşil Hareket esnasında hükumet ailemin beynini okuyabilseydi,

if the government had been monitoring my family's brain activity,

onların protestoculara sempati duyduğuna inansaydı

and had believed them to be sympathetic to the protesters?

acaba ne olurdu?

Is it so far-fetched to imagine a society

Tıpkı "Azınlık Raporu" filmindeki gibi

insanların suç işlemeye eğilimleri yüzünden tutuklandığı

in which people are arrested based on their thoughts

of committing a crime,

bir bilim kurgu

like in the science-fiction dystopian society in "Minority Report."

ve distopya toplumu düşünmek çok mu abartılı olur?

Already, in the United States, in Indiana,

Mesela Birleşik Devletler'deki Indiana Eyaleti'nde

an 18-year-old was charged with attempting to intimidate his school

insanları koridorda vurduğunu gösteren bir video yayınlayarak

by posting a video of himself shooting people in the hallways ...

okuldakileri korkutmaya çalışan on sekiz yaşında bir çocuk tutuklandı.

Except the people were zombies

Yalnız videodaki insanlar zombiydiler

and the video was of him playing an augmented-reality video game,

ve video aslında çocuk, artırılmış gerçeklik oyunu oynarken çekilmişti,

all interpreted to be a mental projection of his subjective intent.

bütün bunlar çocuğun niyetinin bir yansıması olarak değerlendirildi.

This is exactly why our brains need special protection.

İşte tam bu yüzden beyinlerimizin özellikle sakınılması gerek.

If our brains are just as subject to data tracking and aggregation

Beynimizin, finansal amaçlı veri takip

as our financial records and transactions,

ve toplama işlemine maruz kalması

if our brains can be hacked and tracked like our online activities,

veya cep telefonlarımız ve uygulamalardaki çevrimiçi eylemlerimiz gibi

our mobile phones and applications,

beynimize de izinsiz ulaşılması ve izlenmesi durumunda,

then we're on the brink of a dangerous threat to our collective humanity.

kolektif anlamda insanlığa karşı ciddi bir tehditle karşı karşıya olabiliriz.

Before you panic,

Siz paniklemeden önce şunu söyleyeyim:

I believe that there are solutions to these concerns,

Bu endişelere dair çözümlerin de olduğuna inanıyorum

but we have to start by focusing on the right things.

fakat işe doğru şeye odaklanarak başlamamız lazım.

When it comes to privacy protections in general,

Genel anlamda iş mahremiyetin korunmasına geldiğinde

I think we're fighting a losing battle

bilgi akışını sınırlandırmaya çalışıp

by trying to restrict the flow of information.

kaybedeceğimiz bir savaş veriyoruz.

Instead, we should be focusing on securing rights and remedies

Onun yerine, bilginin suistimaline karşı haklarımızı

ve yasal yolları korumaya odaklanmalıyız.

against the misuse of our information.

If people had the right to decide how their information was shared,

Mesela iş görüşmelerinde, eğitim veya sağlık hizmetlerinde,

and more importantly, have legal redress

şahsi bilgileri üzerinden ayrımcılık yapılmasına karşı,

if their information was misused against them,

insanlar bilgi paylaşıp paylaşmama hakkına sahip olsalar

say to discriminate against them in an employment setting

ve daha da önemlisi,

or in health care or education,

kanuni tazminat hakları olsa

this would go a long way to build trust.

güven ortamından bahsedebilirdik.

In fact, in some instances,

Aslında bazı durumlarda

we want to be sharing more of our personal information.

kişisel bilgilerimizi daha fazla paylaşma heveslisi olabiliyoruz.

Studying aggregated information can tell us so much

Birleştirilmiş veriler üzerinde çalışmak,

about our health and our well-being,

bize fiziksel ve zihinsel sağlığımız hakkında çok şey söyleyebilir.

but to be able to safely share our information,

Fakat bilgiyi güvenle paylaşabilmek için

we need special protections for mental privacy.

zihinsel mahremiyetimizi özellikle korumamız gerekiyor.

This is why we need a right to cognitive liberty.

Bu sebeple, bilişsel özgürlüğe dair haklara ihtiyacımız var.

This right would secure for us our freedom of thought and rumination,

Bu hak, düşünce ve otonomi özgürlüğümüz noktasında

our freedom of self-determination,

bize güven sağlayacak,

and it would insure that we have the right to consent to or refuse

böylelikle beynimize diğerlerinin erişimi ve müdahalesini

access and alteration of our brains by others.

kabul etme veya reddetme hakkına sahip olacağız.

This right could be recognized

Bu hak,

as part of the Universal Declaration of Human Rights,

Evrensel İnsan Hakları Beyannamesi'nin bir parçası olarak tanınabilir,

which has established mechanisms

ki bu beyanname de

for the enforcement of these kinds of social rights.

benzer sosyal hakların uygulanması için tesis edilen mekanizmaları oluşturdu.

During the Iranian Green Movement,

İran'daki Yeşil Hareket boyunca

the protesters used the internet and good old-fashioned word of mouth

eylem koordinasyonu için protestocular, interneti

to coordinate their marches.

ve eski usul söylenti yöntemini kullandılar.

And some of the most oppressive restrictions in Iran

Bunun bir sonucu olarak

İran'daki en baskıcı yasaklardan bazıları kaldırıldı.

were lifted as a result.

But what if the Iranian government had used brain surveillance

Peki ya İran hükûmeti, protestoları tespit etmek ve önlemek için

to detect and prevent the protest?

beyin gözetleme yöntemini kullansaydı?

Would the world have ever heard the protesters' cries?

Dünya, protestocuların sesini duyabilir miydi?

The time has come for us to call for a cognitive liberty revolution.

Hepimiz için bilişsel özgürlük hakkında yenilik talep etme zamanı geldi.

To make sure that we responsibly advance technology

Geleceği kucaklayarak teknolojiyi sorumluluk bilinciyle geliştirmek için

that could enable us to embrace the future

derinlerdeki düşüncelerimize yasa dışı yollarla ulaşmak

while fiercely protecting all of us from any person, company or government

veya bunları değiştirmek isteyen kişi, şirket veya devletlere karşı korunmak için

that attempts to unlawfully access or alter our innermost lives.

bunu yapmamız gerekiyor.

Thank you.

Teşekkürler.

(Applause)

(Alkış)