When technology can read minds, how will we protect our privacy? | Nita Farahany

المترجم: Amany Allam المدقّق: Riyad Almubarak

In the months following the 2009 presidential election in Iran,

في الأشهر التي تلت الانتخابات الرئاسية لعام 2009 في إيران،

protests erupted across the country.

اندلعت الاحتجاجات بجميع أنحاء البلاد.

The Iranian government violently suppressed

وقمعت الحكومة الإيرانية بعنف

what came to be known as the Iranian Green Movement,

ما أصبح يعرف باسم الحركة الإيرانية الخضراء،

even blocking mobile signals

حتى أنهم قاموا بحجب الاتصالات الخلوية

to cut off communication between the protesters.

لقطع الاتصال بين المحتجين.

My parents, who emigrated to the United States in the late 1960s,

يقضي والداي، اللذين هاجرا إلى أمريكا في أواخر الستينيات،

spend substantial time there,

الكثير من الوقت هناك،

where all of my large, extended family live.

حيث تعيش عائلتي الكبيرة.

When I would call my family in Tehran

وعندما كنت أتصل بعائلتي في طهران

during some of the most violent crackdowns of the protest,

أثناء بعض أعنف حملات القمع للاحتجاج،

none of them dared discuss with me what was happening.

لم يجرؤ أي منهم على مناقشة ما كان يحدث معي.

They or I knew to quickly steer the conversation to other topics.

فقد علمنا كيف نتفادى هذا الحديث.

All of us understood what the consequences could be

جميعنا أدركنا كيف يمكن أن تكون عاقبة

of a perceived dissident action.

الخروج على السلطة.

But I still wish I could have known what they were thinking

ولكني ما زلت أتمنى لو أمكنني أن أعرف ما كانوا يفكرون به،

or what they were feeling.

أو ما كانوا يشعرون به.

What if I could have?

ماذا لو أمكنني ذلك؟

Or more frighteningly,

أو الأكثر إرعابًا،

what if the Iranian government could have?

ماذا لو تمكنت الحكومة الإيرانية من ذلك؟

Would they have arrested them based on what their brains revealed?

هل سيتم اعتقالهم بسبب ما كشفته أدمغتهم؟

That day may be closer than you think.

ربما كان هذا اليوم أقرب مما تظنون.

With our growing capabilities in neuroscience, artificial intelligence

مع قدراتنا المتنامية في علم الأعصاب والذكاء الاصطناعي

and machine learning,

وتعلم الآلة،

we may soon know a lot more of what's happening in the human brain.

ربما سنعرف قريبًا الكثير مما يحدث في أدمغة البشر.

As a bioethicist, a lawyer, a philosopher

كخبيرة في أخلاقيات علم الأحياء ومحامية وفيلسوفة،

and an Iranian-American,

وأمريكية من أصل إيراني،

I'm deeply concerned about what this means for our freedoms

فإني معنية بتأثير ذلك على حريتنا

and what kinds of protections we need.

ونوع الحماية الذي نحتاجه.

I believe we need a right to cognitive liberty,

أعتقد أننا نحتاج إلى الحق في حرية الإدراك،

as a human right that needs to be protected.

كحق من حقوق الإنسان التي تحتاج إلى الحماية.

If not, our freedom of thought,

فإن لم نفعل، فإن حرية التفكير،

access and control over our own brains

والاستخدام والسيطرة على عقولنا

and our mental privacy will be threatened.

وخصوصيتنا العقلية ستصبح مهددة.

Consider this:

فكروا بذلك:

the average person thinks thousands of thoughts each day.

تراود الشخص العادي آلاف الأفكار كل يوم.

As a thought takes form,

وكلما تتشكل فكرة،

like a math calculation or a number, a word,

مثل إجراء حساب أو رقم أو كلمة،

neurons are interacting in the brain,

تتفاعل الخلايا العصبية في الدماغ،

creating a miniscule electrical discharge.

وتفرغ شحنة كهربية صغيرة.

When you have a dominant mental state, like relaxation,

وعندما تسيطر عليكم حالة عقلية، مثل الاسترخاء،

hundreds and thousands of neurons are firing in the brain,

تتوهج مئات الآلاف من الخلايا العصبية في الدماغ،

creating concurrent electrical discharges in characteristic patterns

لتفرغ شحنات كهربية متزامنة بأنماط مميزة

that can be measured with electroencephalography, or EEG.

يمكن قياسها باستخدام تخطيط كهرباء الدماغ.

In fact, that's what you're seeing right now.

في الواقع، هذا هو ما ترونه الآن.

You're seeing my brain activity that was recorded in real time

ما ترونه هو نشاط دماغي المسجل في الوقت الحقيقي

with a simple device that was worn on my head.

بجهاز بسيط ارتديته على رأسي.

What you're seeing is my brain activity when I was relaxed and curious.

ما ترونه هو نشاط دماغي عندما كنت مسترخية وفضولية.

To share this information with you,

لأشارك هذه المعلومات معكم،

I wore one of the early consumer-based EEG devices

ارتديت أحد أول أجهزة المستهلك لإجراء تخطيط كهرباء المخ

like this one,

مثل هذه،

which recorded the electrical activity in my brain in real time.

والتي سجلت النشاط الكهربي لدماغي في الوقت الحقيقي.

It's not unlike the fitness trackers that some of you may be wearing

وهي لا تشبه متعقب اللياقة البدنية الذي قد يرتديه بعضكم

to measure your heart rate or the steps that you've taken,

لقياس معدل ضربات القلب أو عدد الخطوات التي مشيتها،

or even your sleep activity.

أو حتى نشاط النوم.

It's hardly the most sophisticated neuroimaging technique on the market.

إنها بالكاد تقنية التصوير العصبي الأكثر تطوراً في السوق.

But it's already the most portable

لكنها الأكثر قابلية للنقل

and the most likely to impact our everyday lives.

والأكثر قدرة على التأثير على حياتنا اليومية.

This is extraordinary.

إنه لأمر مذهل.

Through a simple, wearable device,

عن طريق ارتداء جهاز بسيط،

we can literally see inside the human brain

يمكننا رؤية ما بداخل الدماغ البشري،

and learn aspects of our mental landscape without ever uttering a word.

وتعلم جوانب من المشهد العقلي لدينا دون أن ننطق بكلمة.

While we can't reliably decode complex thoughts just yet,

وبينما لا نستطيع فك رموز الأفكار المعقدة بدقة بعد،

we can already gauge a person's mood,

يمكننا بالفعل قياس مزاج الشخص،

and with the help of artificial intelligence,

وبمساعدة الذكاء الاصطناعي،

we can even decode some single-digit numbers

يمكننا حتى فك شفرة بعض الأعداد البسيطة،

or shapes or simple words that a person is thinking

أو الأشكال أو الكلمات البسيطة التي يفكر فيها الشخص،

or hearing, or seeing.

أو يسمعها، أو يراها.

Despite some inherent limitations in EEG,

وعلى الرغم من وجود بعض القيود الملازمة لتخطيط كهرباء المخ،

I think it's safe to say that with our advances in technology,

أعتقد أنه من الآمن أن نقول أنه من خلال تقدمنا التقني،

more and more of what's happening in the human brain

المزيد مما يحدث داخل العقل البشري

can and will be decoded over time.

سيتم كشفه في المستقبل.

Already, using one of these devices,

وبالفعل، باستخدام أحد هذه الأجهزة

an epileptic can know they're going to have an epileptic seizure

يمكن لمريض الصرع أن يتنبأ بإصابته بنوبة

before it happens.

قبل حدوثها.

A paraplegic can type on a computer with their thoughts alone.

ويمكن للمصاب بالشلل النصفي الكتابة على الحاسب باستخدام أفكاره فقط.

A US-based company has developed a technology to embed these sensors

طورت شركة أمريكية تقنية لتضمين هذه المستشعرات

into the headrest of automobilies

في مسند الرأس في السيارات

so they can track driver concentration,

حتى يتمكنوا من متابعة تركيز السائق،

distraction and cognitive load while driving.

والتشتت والحِمل المعرفي أثناء القيادة.

Nissan, insurance companies and AAA have all taken note.

لاحظت ذلك كل من (نيسان) وشركات التأمين والجمعية الأمريكية للسيارات.

You could even watch this choose-your-own-adventure movie

يمكنكم حتى مشاهدة فيلم مغامرة من اختياركم

"The Moment," which, with an EEG headset,

(ذا مومنت)، والذي يمكن بواسطة جهاز تخطيط كهرباء المخ

changes the movie based on your brain-based reactions,

تغييره بناء على رد فعل دماغك،

giving you a different ending every time your attention wanes.

مما يمنحك نهاية مختلفة في كل مرة يتناقص فيها انتباهك.

This may all sound great,

ربما يبدو كل هذا رائعًا،

and as a bioethicist,

وكمختصة في الأخلاقيات الحيوية

I am a huge proponent of empowering people

أناصر بشدة تمكين الناس

to take charge of their own health and well-being

لتولي مسؤولية صحتهم ورفاهيتهم

by giving them access to information about themselves,

من خلال تسهيل حصولهم على معلومات عن أنفسهم،

including this incredible new brain-decoding technology.

بما في ذلك هذه التقنية الجديدة الرائعة لفك تشفير الدماغ.

But I worry.

ولكنني قلقة.

I worry that we will voluntarily or involuntarily give up

أنا قلقة من أننا سوف نتخلى طوعًا أو كرهًا

our last bastion of freedom, our mental privacy.

عن معقلنا الأخير للحرية، وهو خصوصيتنا العقلية.

That we will trade our brain activity

وأننا سوف نبادل نشاطنا العقلي

for rebates or discounts on insurance,

مقابل خصومات على التأمين،

or free access to social-media accounts ...

أو استخدام وسائل الإعلام الاجتماعية مجانًا ...

or even to keep our jobs.

أو حتى للحفاظ على وظائفنا.

In fact, in China,

في الواقع، في الصين،

the train drivers on the Beijing-Shanghai high-speed rail,

سائقي القطارات على السكك الحديدية فائقة السرعة بين (بكين) و(شنغهاي)،

the busiest of its kind in the world,

وهي الأكثر ازدحامًا من نوعها في العالم،

are required to wear EEG devices

مطالبون بارتداء أجهزة تخطيط كهرباء المخ

to monitor their brain activity while driving.

لمتابعة نشاطهم العقلي أثناء القيادة.

According to some news sources,

ووفقًا لبعض المصادر الإخبارية،

in government-run factories in China,

في المصانع الحكومية في الصين،

the workers are required to wear EEG sensors to monitor their productivity

يطالب العمال بارتداء أجهزة تخطيط كهرباء المخ لمتابعة إنتاجيتهم

and their emotional state at work.

وحالتهم العاطفية في العمل.

Workers are even sent home

ويتم إرسال العمال إلى المنزل

if their brains show less-than-stellar concentration on their jobs,

إذا أظهرت أدمغتهم تركيزًا أقل من ممتاز على وظائفهم،

or emotional agitation.

أو إثارة عاطفية.

It's not going to happen tomorrow,

لن يحدث ذلك غدًا،

but we're headed to a world of brain transparency.

ولكننا نتجه إلى عالم شفافية الدماغ.

And I don't think people understand that that could change everything.

ولا أظن أن الناس يفهمون أن ذلك قد يغيّر كل شيء.

Everything from our definitions of data privacy to our laws,

كل شيء من تعريفنا لخصوصية البيانات، والقوانين،

to our ideas about freedom.

وفكرتنا عن الحرية.

In fact, in my lab at Duke University,

في الواقع، في مختبري في جامعة (ديوك)،

we recently conducted a nationwide study in the United States

أجرينا مؤخرًا دراسة على الصعيد الوطني في أمريكا

to see if people appreciated

لمعرفة ما إذا كان الناس يقدرون

the sensitivity of their brain information.

حساسية المعلومات في أدمغتهم.

We asked people to rate their perceived sensitivity

وطلبنا من الناس تقييم حساسيتهم المتصورة

of 33 different kinds of information,

لعدد 33 نوعًا مختلفًا من المعلومات،

from their social security numbers

من أرقام الضمان الاجتماعي الخاصة بهم،

to the content of their phone conversations,

إلى محتوى محادثاتهم الهاتفية،

their relationship history,

وتاريخ علاقاتهم،

their emotions, their anxiety,

وعواطفهم، وانفعالاتهم،

the mental images in their mind

والصور الذهنية في عقولهم،

and the thoughts in their mind.

والأفكار في أدمغتهم.

Shockingly, people rated their social security number as far more sensitive

ومن المثير للصدمة أن الناس قد قيموا رقم ضمانهم الاجتماعي كأكثر حساسية

than any other kind of information,

من أي نوع آخر من المعلومات،

including their brain data.

بما في ذلك البيانات عن أدمغتهم.

I think this is because people don't yet understand

وأظن أن ذلك يرجع إلى عدم فهم الناس

or believe the implications of this new brain-decoding technology.

أو تصديقهم لآثار تقنية فك شفرة الدماغ الجديدة.

After all, if we can know the inner workings of the human brain,

فبعد كل شيء، إن أمكننا معرفة ما يجري داخل العقل البشري،

our social security numbers are the least of our worries.

ستكون أرقام ضماننا الاجتماعي أقل همومنا.

(Laughter)

(ضحك)

Think about it.

فكروا بذلك.

In a world of total brain transparency,

في عالم تسوده شفافية العقل،

who would dare have a politically dissident thought?

من قد يجرؤ على تبني فكر منشق سياسيًا؟

Or a creative one?

أو فكر ابداعي؟

I worry that people will self-censor

أخشى أن يمارس الناس رقابة ذاتية

in fear of being ostracized by society,

خوفًا من النبذ المجتمعي،

or that people will lose their jobs because of their waning attention

أو أن يخسر الناس وظائفهم بسبب تضاؤل انتباههم

or emotional instability,

أو عدم استقرارهم العاطفي،

or because they're contemplating collective action against their employers.

أو لأنهم يضمرون تحركًا جماعيًا ضد أصحاب العمل.

That coming out will no longer be an option,

وأن لا يصبح الخروج متاحًا،

because people's brains will long ago have revealed their sexual orientation,

لأن أدمغة الناس قد كشفت منذ زمن بعيد توجههم الجنسي،

their political ideology

أو مذهبهم السياسي،

or their religious preferences,

أو مرجعيتهم الدينية،

well before they were ready to consciously share that information

قبل أن يصبحوا مستعدين لمشاركة هذه المعلومات

with other people.

مع أناس آخرين.

I worry about the ability of our laws to keep up with technological change.

أخشى أن لا تتمكن قوانيننا من مواكبة التغيّر التكنولوجي.

Take the First Amendment of the US Constitution,

خذوا التعديل الأول للدستور الأمريكي كمثال،

which protects freedom of speech.

الذي يحمي حرية التعبير.

Does it also protect freedom of thought?

هل يحمي حرية التفكير أيضًا؟

And if so, does that mean that we're free to alter our thoughts however we want?

وإن كان كذلك، فهل يعني أننا أحرار في تغيير أفكارنا كما نريد؟

Or can the government or society tell us what we can do with our own brains?

أو هل يمكن للحكومة أو المجتمع أن يخبرونا كيف نستخدم أدمغتنا؟

Can the NSA spy on our brains using these new mobile devices?

هل يمكن لناسا التجسس على أدمغتنا باستخدام هذه الأجهزة المحمولة؟

Can the companies that collect the brain data through their applications

هل يمكن للشركات التي تجمع بيانات الدماغ عبر تطبيقاتها

sell this information to third parties?

أن تبيع هذه المعلومات لطرف ثالث؟

Right now, no laws prevent them from doing so.

حتى الآن، لا يوجد قوانين تمنعهم من فعل ذلك.

It could be even more problematic

ويمكن أن تكون الأمور أكثر سوءًا

in countries that don't share the same freedoms

في الدول التي لا تشارك نفس الحريات

enjoyed by people in the United States.

التي يتمتع بها المواطنون في الولايات المتحدة.

What would've happened during the Iranian Green Movement

ما الذي كان سيحدث خلال الحركة الإيرانية الخضراء

if the government had been monitoring my family's brain activity,

إذا كانت الحكومة تراقب نشاط دماغ عائلتي،

and had believed them to be sympathetic to the protesters?

وأيقنت أنهم متعاطفون مع المحتجّين؟

Is it so far-fetched to imagine a society

هل يصعب تخيل مجتمع

in which people are arrested based on their thoughts

حيث يتم اعتقال الناس بسبب تفكيرهم

of committing a crime,

في ارتكاب جريمة،

like in the science-fiction dystopian society in "Minority Report."

كما هو الحال في مجتمع الخيال العلمي المرير في فيلم (ماينوريتي ريبورت).

Already, in the United States, in Indiana,

بالفعل، في الولايات المتحدة، في (إنديانا)،

an 18-year-old was charged with attempting to intimidate his school

تم اتهام شاب يبلغ من العمر 18 عامًا بمحاولة ترهيب مدرسته

by posting a video of himself shooting people in the hallways ...

عن طريق نشر فيديو لنفسه وهو يطلق النار على الناس في الممرات ...

Except the people were zombies

باستثناء أن الناس كانوا من الموتى الأحياء

and the video was of him playing an augmented-reality video game,

وكان الفيديو عنه وهو يلعب لعبة بالواقع المعزز،

all interpreted to be a mental projection of his subjective intent.

ما تم تفسيره كانعكاس لنواياه الشخصية.

This is exactly why our brains need special protection.

لهذا السبب تحتاج عقولنا إلى الحماية.

If our brains are just as subject to data tracking and aggregation

إذا كانت أدمغتنا عرضة لتتبع وتجميع البيانات

as our financial records and transactions,

كسجلاتنا ومعاملاتنا المالية،

if our brains can be hacked and tracked like our online activities,

إذا كان من الممكن اختراق أدمغتنا وتعقبها مثل أنشطتنا على الإنترنت،

our mobile phones and applications,

وهواتفنا المحمولة وتطبيقاتنا،

then we're on the brink of a dangerous threat to our collective humanity.

فنحن إذن على شفا تهديد خطير على إنسانيتنا الجماعية.

Before you panic,

وقبل أن تفزعوا،

I believe that there are solutions to these concerns,

أعتقد أن هناك حلول لهذه المخاوف،

but we have to start by focusing on the right things.

ولكن علينا أن نبدأ بالتركيز على الأمور الصحيحة.

When it comes to privacy protections in general,

عندما يتعلق الأمر بحماية الخصوصية بشكل عام،

I think we're fighting a losing battle

فأعتقد أننا نخوض معركة خاسرة

by trying to restrict the flow of information.

بمحاولة تقييد تدفق المعلومات.

Instead, we should be focusing on securing rights and remedies

بدلاً من ذلك، يجب أن نركز على ضمان الحقوق والإصلاحات

against the misuse of our information.

ضد إساءة استخدام معلوماتنا.

If people had the right to decide how their information was shared,

إذا كان لدى الأشخاص الحق في تقرير كيفية مشاركة معلوماتهم،

and more importantly, have legal redress

والأهم من ذلك، الحصول على تعويض قانوني

if their information was misused against them,

إذا تم استخدام معلوماتهم ضدهم،

say to discriminate against them in an employment setting

كأن يتم التمييز ضدهم في التوظيف

or in health care or education,

أو الرعاية الصحية أو التعليم،

this would go a long way to build trust.

فإن ذلك سيقطع شوطًا طويلًا لبناء الثقة.

In fact, in some instances,

في الواقع، في بعض الحالات،

we want to be sharing more of our personal information.

قد نرغب في مشاركة المزيد من معلوماتنا الشخصية.

Studying aggregated information can tell us so much

يمكن لدراسة المعلومات المجمّعة أن تخبرنا كثيرًا

about our health and our well-being,

عن صحتنا ورفاهيتنا،

but to be able to safely share our information,

ولكن لنكون قادرين على مشاركة معلوماتنا بأمان،

we need special protections for mental privacy.

فنحن بحاجة إلى حماية استثنائية للخصوصية العقلية.

This is why we need a right to cognitive liberty.

هذا هو سبب حاجتنا إلى الحق في حرية الإدراك.

This right would secure for us our freedom of thought and rumination,

هذا الحق سيضمن لنا حرية الفكر والتأمل،

our freedom of self-determination,

وحريتنا في تقرير المصير،

and it would insure that we have the right to consent to or refuse

وسيضمن لنا الحق في قبول أو رفض

access and alteration of our brains by others.

اختراق الآخرين لأدمغتنا أو تعديلها.

This right could be recognized

يمكن الاعتراف بهذا الحق

as part of the Universal Declaration of Human Rights,

كجزء من الإعلان العالمي لحقوق الإنسان،

which has established mechanisms

الذي أسس آليات

for the enforcement of these kinds of social rights.

لإنفاذ هذه الأنواع من الحقوق الاجتماعية.

During the Iranian Green Movement,

خلال الحركة الإيرانية الخضراء،

the protesters used the internet and good old-fashioned word of mouth

استخدم المتظاهرون الإنترنت وتناقل الأحاديث التقليدي

to coordinate their marches.

لتنظيم مسيراتهم.

And some of the most oppressive restrictions in Iran

وتم رفع بعض من أكثر القيود قمعًا في إيران

were lifted as a result.

كنتيجة لذلك.

But what if the Iranian government had used brain surveillance

لكن ماذا لو استخدمت الحكومة الإيرانية مراقبة الدماغ

to detect and prevent the protest?

للكشف عن الاحتجاج ومنعه؟

Would the world have ever heard the protesters' cries?

هل كان العالم سيسمع صرخات المتظاهرين؟

The time has come for us to call for a cognitive liberty revolution.

لقد حان الوقت لكي ندعو إلى ثورة في حرية الإدراك.

To make sure that we responsibly advance technology

للتأكد من أننا نقوم بتطوير التكنولوجيا بشكل مسؤول

that could enable us to embrace the future

يمكننا من احتضان المستقبل

while fiercely protecting all of us from any person, company or government

بينما نحمي أنفسنا بقوة من أي شخص أو شركة أو حكومة

that attempts to unlawfully access or alter our innermost lives.

تحاول اختراق أو تغيير حياتنا الداخلية بشكل محرم.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)