When technology can read minds, how will we protect our privacy? | Nita Farahany

תרגום: Zeeva Livshitz עריכה: Roni Weisman

In the months following the 2009 presidential election in Iran,

בחודשים שלאחר הבחירות לנשיאות באיראן ב-2009,

protests erupted across the country.

פרצו מחאות ברחבי המדינה.

The Iranian government violently suppressed

ממשלת איראן דיכאה באלימות

what came to be known as the Iranian Green Movement,

את מה שהוכר בשם "התנועה הירוקה האיראנית,"

even blocking mobile signals

אפילו חסמה את אותות הניידים

to cut off communication between the protesters.

כדי לנתק את התקשורת בין המפגינים.

My parents, who emigrated to the United States in the late 1960s,

הורי, שהיגרו לארה"ב בסוף שנות השישים,

spend substantial time there,

חיו שם הרבה שנים,

where all of my large, extended family live.

במקום שבו מתגוררת כל משפחתי המורחבת הגדולה.

When I would call my family in Tehran

כשטלפנתי למשפחתי בטהרן

during some of the most violent crackdowns of the protest,

במהלך כמה מפעולות הנגד האלימות ביותר אל מול המחאה,

none of them dared discuss with me what was happening.

איש מהם לא העז לדון איתי על מה שקורה.

They or I knew to quickly steer the conversation to other topics.

הם או אני ידענו לנווט את השיחה במהירות לנושאים אחרים.

All of us understood what the consequences could be

כולנו הבנו מה יכולות להיות התוצאות

of a perceived dissident action.

של פעולת התנגדות שנתפסת.

But I still wish I could have known what they were thinking

אבל עדיין רציתי לדעת על מה הם חושבים

or what they were feeling.

או מה הם מרגישים.

What if I could have?

מה לו יכולתי לדעת?

Or more frighteningly,

או יותר מפחיד,

what if the Iranian government could have?

מה היה קורה לו ממשלת איראן יכלה לדעת?

Would they have arrested them based on what their brains revealed?

האם היו עוצרים אותם על סמך מה שמוחותיהם חשפו?

That day may be closer than you think.

יום זה עשוי להיות קרוב יותר ממה שאתם חושבים.

With our growing capabilities in neuroscience, artificial intelligence

עם יכולותינו הגוברות במדעי המוח, בבינה מלאכותית

and machine learning,

ובלמידת מכונה,

we may soon know a lot more of what's happening in the human brain.

אנו עשויים בקרוב לדעת הרבה יותר על מה שקורה במוח האנושי.

As a bioethicist, a lawyer, a philosopher

כביו-אתיקאית, עורכת דין, פילוסופית

and an Iranian-American,

ואיראנית-אמריקאית,

I'm deeply concerned about what this means for our freedoms

אני מודאגת מאוד ממה שזה אומר על החירויות שלנו

and what kinds of protections we need.

ולאיזה סוג של הגנות אנחנו זקוקים.

I believe we need a right to cognitive liberty,

אני מאמינה שאנו זקוקים לזְכוּת לחירות ההכרה,

as a human right that needs to be protected.

כזכות אדם שצריכה להיות מוגנת.

If not, our freedom of thought,

אם לא, חופש המחשבה שלנו,

access and control over our own brains

גישה אל המוח שלנו ,שליטה עליו

and our mental privacy will be threatened.

יאיימו על הפרטיות השכלית שלנו.

Consider this:

חישבו על כך:

the average person thinks thousands of thoughts each day.

האדם הממוצע חושב אלפי מחשבות בכל יום.

As a thought takes form,

כשמחשבה לובשת צורה,

like a math calculation or a number, a word,

כגון חישוב מתמטי, מספר, או מילה,

neurons are interacting in the brain,

פועלים נוירונים במוח זה על זה,

creating a miniscule electrical discharge.

ויוצרים פריקה חשמלית זעירה.

When you have a dominant mental state, like relaxation,

כאשר אתם במצב נפשי בעל השפעה בולטת, כמו הרגעות,

hundreds and thousands of neurons are firing in the brain,

מאות ואלפי נוירונים יורים במוח,

creating concurrent electrical discharges in characteristic patterns

ויוצרים פריקות חשמליות בו-זמניות בדפוסים אופייניים

that can be measured with electroencephalography, or EEG.

שניתנים למדידה בעזרת אלקטרואנצפלוגרם, או EEG.

In fact, that's what you're seeing right now.

למעשה, זה מה שאתם רואים ממש עכשיו.

You're seeing my brain activity that was recorded in real time

אתם רואים את פעילות המוח שלי שנרשמה בזמן אמת

with a simple device that was worn on my head.

בעזרת מכשיר פשוט שהולבש על ראשי.

What you're seeing is my brain activity when I was relaxed and curious.

מה שאתם רואים זו פעילות המוח שלי כשהייתי רגועה וסקרנית.

To share this information with you,

כדי לשתף איתכם מידע זה,

I wore one of the early consumer-based EEG devices

לבשתי אחד מהתקני ה-EEG הראשונים המיועדים לצרכן

like this one,

כמו זה,

which recorded the electrical activity in my brain in real time.

שרשם את הפעילות החשמלית במוח שלי בזמן אמת.

It's not unlike the fitness trackers that some of you may be wearing

זה לא שונה בהרבה ממכשירי מעקב הכושר שכמה מכם אולי מרכיבים

to measure your heart rate or the steps that you've taken,

כדי למדוד את קצב הלב שלכם או את מספר הצעדים שהלכתם,

or even your sleep activity.

או אפילו את פעילות השינה שלכם.

It's hardly the most sophisticated neuroimaging technique on the market.

זו לא טכניקת הדמיית המוח הכי מתוחכמת בשוק.

But it's already the most portable

אבל היא כבר הכי ניידת

and the most likely to impact our everyday lives.

ובעלת הסיכוי הטוב ביותר להשפיע על חיי היומיום שלנו.

This is extraordinary.

זה יוצא מהכלל.

Through a simple, wearable device,

באמצעות מכשיר פשוט, לביש,

we can literally see inside the human brain

אנחנו יכולים ממש להסתכל לתוך המוח האנושי

and learn aspects of our mental landscape without ever uttering a word.

וללמוד היבטים של הנוף השכלי שלנו, מבלי להשמיע מילה אחת.

While we can't reliably decode complex thoughts just yet,

למרות שעדיין איננו יכולים לפענח מחשבות מורכבות באופן אמין,

we can already gauge a person's mood,

אנו כבר יכולים למדוד מצב רוח של אדם,

and with the help of artificial intelligence,

ובעזרת בינה מלאכותית,

we can even decode some single-digit numbers

אנחנו אפילו יכולים לפענח מספרים חד-ספרתיים אחדים

or shapes or simple words that a person is thinking

או צורות או מילים פשוטות שאדם חושב,

or hearing, or seeing.

או שומע, או רואה.

Despite some inherent limitations in EEG,

למרות כמה מגבלות הטבועות ב EEG,

I think it's safe to say that with our advances in technology,

אני חושבת שאפשר לומר בבטחה שעם ההתקדמות שלנו בטכנולוגיה,

more and more of what's happening in the human brain

יותר ויותר ממה שקורה במוח האנושי

can and will be decoded over time.

יכול ויהיה מפוענח במהלך הזמן.

Already, using one of these devices,

כבר עכשיו, באמצעות אחד המכשירים האלה,

an epileptic can know they're going to have an epileptic seizure

אדם אפילפטי יכול לצפות שהוא עומד לקבל התקף אפילפטי

before it happens.

לפני שזה יקרה.

A paraplegic can type on a computer with their thoughts alone.

משותק יכול להקליד על מחשב בעזרת מחשבותיו בלבד.

A US-based company has developed a technology to embed these sensors

חברה אמריקאית פיתחה טכנולוגיה להתקנת חיישנים אלה

into the headrest of automobilies

בתוך משענת הראש של מכוניות

so they can track driver concentration,

כך שהם יכולים לעקוב אחר רמת הריכוז של הנהג,

distraction and cognitive load while driving.

הסחת הדעת, ועומס הכרתי עליו בזמן הנהיגה.

Nissan, insurance companies and AAA have all taken note.

ניסן, חברות ביטוח, וטריפְּל-אֵיי התעניינו בזה.

You could even watch this choose-your-own-adventure movie

תוכלו אפילו לצפות בסרט מסוג "בחרו-את-ההרפתקה-שלכם",

"The Moment," which, with an EEG headset,

"הרגע", אשר, עם אזניות EEG,

changes the movie based on your brain-based reactions,

משנה את הסרט בהתאם לתגובות מבוססות-המוח שלכם,

giving you a different ending every time your attention wanes.

ומציגה בפניכם סוף שונה בכל פעם שתשומת הלב שלכם דועכת.

This may all sound great,

כל זה אולי נשמע נהדר,

and as a bioethicist,

וכביו-אתיקאית,

I am a huge proponent of empowering people

אני תומכת מאוד בהעצמת אנשים

to take charge of their own health and well-being

כדי שיקחו אחריות על הבריאות והרווחה שלהם

by giving them access to information about themselves,

על ידי מתן גישה למידע על עצמם,

including this incredible new brain-decoding technology.

כולל טכנולוגיה חדשה מדהימה זו של פענוח המוח.

But I worry.

אבל אני מודאגת.

I worry that we will voluntarily or involuntarily give up

אני מודאגת שמא נוותר מרצון או שלא מרצון

our last bastion of freedom, our mental privacy.

על מעוז החופש האחרון שלנו, על פרטיות שכלנו.

That we will trade our brain activity

שמא נסחר בפעילות המוח שלנו

for rebates or discounts on insurance,

תמורת החזרים כספיים או הנחות על ביטוח,

or free access to social-media accounts ...

או תמורת גישה חופשית לחשבונות מדיה חברתית ...

or even to keep our jobs.

או אפילו כדי לשמור על המשרות שלנו.

In fact, in China,

למעשה, בסין,

the train drivers on the Beijing-Shanghai high-speed rail,

נהגי הרכבת המהירה בקו בייג'ינג-שנחאי,

the busiest of its kind in the world,

העמוסה ביותר מסוגה בעולם,

are required to wear EEG devices

נדרשים להרכיב מכשירי EEG

to monitor their brain activity while driving.

כדי לנטר את פעילות המוח שלהם בזמן הנהיגה.

According to some news sources,

על פי כמה מקורות של חדשות,

in government-run factories in China,

במפעלים המנוהלים על ידי הממשלה בסין,

the workers are required to wear EEG sensors to monitor their productivity

העובדים נדרשים להרכיב חיישני EEG כדי לנטר את מידת היצרנות שלהם

and their emotional state at work.

ואת המצב הרגשי שלהם בעבודה.

Workers are even sent home

העובדים אפילו נשלחים הביתה

if their brains show less-than-stellar concentration on their jobs,

אם המוח שלהם מראה פחות מאשר ריכוז מיטבי בעבודתם,

or emotional agitation.

או טלטלה רגשית.

It's not going to happen tomorrow,

זה לא עומד לקרות מחר,

but we're headed to a world of brain transparency.

אבל אנחנו עומדים בפני עולם של שקיפות מוחית.

And I don't think people understand that that could change everything.

ואני לא חושבת שאנשים מבינים שזה יוכל לשנות הכל.

Everything from our definitions of data privacy to our laws,

הכל, החל מהגדרות פרטיות המידע שלנו עד לחוקים שלנו,

to our ideas about freedom.

ועד לרעיונות שלנו על חופש.

In fact, in my lab at Duke University,

למעשה, במעבדה שלי באוניברסיטת דיוק,

we recently conducted a nationwide study in the United States

ערכנו לאחרונה מחקר בהיקף-ארצי בארצות הברית

to see if people appreciated

כדי לראות אם אנשים מעריכים

the sensitivity of their brain information.

את רגישות המידע המוחי שלהם.

We asked people to rate their perceived sensitivity

ביקשנו מאנשים לדרג את רמת הרגישות על פי תפיסתם

of 33 different kinds of information,

של 33 סוגים שונים של מידע,

from their social security numbers

ממספרי הביטוח הלאומי שלהם

to the content of their phone conversations,

לתכנים של שיחות הטלפון שלהם,

their relationship history,

ההיסטוריה של מערכות היחסים שלהם,

their emotions, their anxiety,

הרגשות שלהם, החרדות שלהם,

the mental images in their mind

את הדימויים הנפשיים שבמוחם

and the thoughts in their mind.

ואת המחשבות בראשם.

Shockingly, people rated their social security number as far more sensitive

מדהים שאנשים דרגו את מספר הביטוח הלאומי שלהם כרגיש יותר

than any other kind of information,

מכל סוג אחר של מידע,

including their brain data.

כולל נתוני המוח שלהם.

I think this is because people don't yet understand

אני חושבת שזה בגלל שאנשים עדיין לא מבינים

or believe the implications of this new brain-decoding technology.

או מאמינים בהשלכות של טכנולוגיה חדשה זו לפענוח המוח.

After all, if we can know the inner workings of the human brain,

אחרי הכל, אם אנחנו יכולים להכיר את דרך פעולתו הפנימית של המוח האנושי

our social security numbers are the least of our worries.

מספרי הביטוח הלאומי שלנו הם הבעייה האחרונה שלנו.

(Laughter)

(צחוק)

Think about it.

חישבו על כך:

In a world of total brain transparency,

בעולם של שקיפות מוחית מוחלטת,

who would dare have a politically dissident thought?

מי יעז לחשוב מחשבה פוליטית כנגד השלטון?

Or a creative one?

או מחשבה יצירתית?

I worry that people will self-censor

אני חוששת שאנשים יצנזרו את עצמם

in fear of being ostracized by society,

מחשש שהחברה תנדה אותם,

or that people will lose their jobs because of their waning attention

או שאנשים יאבדו את מקום עבודתם בגלל תשומת לב דועכת

or emotional instability,

או חוסר יציבות רגשית,

or because they're contemplating collective action against their employers.

או בגלל שהם שוקלים פעולה קולקטיבית כנגד מעסיקיהם.

That coming out will no longer be an option,

שיציאה בהכרזה לא תהיה יותר בגדר אפשרות,

because people's brains will long ago have revealed their sexual orientation,

כי מוחם של האנשים כבר חשף מזמן את נטייתם המינית,

their political ideology

את האידאולוגיה הפוליטית שלהם

or their religious preferences,

או את ההעדפות הדתיות שלהם,

well before they were ready to consciously share that information

הרבה לפני שהם היו מוכנים לשתף במודע את המידע הזה

with other people.

עם אנשים אחרים.

I worry about the ability of our laws to keep up with technological change.

אני מודאגת לגבי יכולתם של החוקים שלנו לעקוב אחר השינוי הטכנולוגי.

Take the First Amendment of the US Constitution,

קחו את התיקון הראשון של החוקה האמריקנית,

which protects freedom of speech.

שמגן על חופש הביטוי.

Does it also protect freedom of thought?

האם הוא גם מגן על חופש המחשבה?

And if so, does that mean that we're free to alter our thoughts however we want?

ואם כן, האם זה אומר שאנחנו חופשיים לשנות את מחשבותינו ככל שנרצה?

Or can the government or society tell us what we can do with our own brains?

או שמא הממשלה או החברה יכולות לאמר לנו מה לעשות עם המוח שלנו?

Can the NSA spy on our brains using these new mobile devices?

האם ה- NSA יכול לרגל אחרי מוחנו באמצעות מכשירים ניידים חדשים אלה?

Can the companies that collect the brain data through their applications

האם חברות שאוספות את נתוני המוח באמצעות היישומים שלהן

sell this information to third parties?

יכולות למכור מידע זה לצד שלישי?

Right now, no laws prevent them from doing so.

נכון לעכשיו, אין חוקים שימנעו מהם לעשות זאת.

It could be even more problematic

זה יכול להיות אפילו יותר בעייתי

in countries that don't share the same freedoms

במדינות שאינן שותפות לאותן חירויות

enjoyed by people in the United States.

שאנשים מארה"ב נהנים מהן.

What would've happened during the Iranian Green Movement

מה היה קורה במהלך פעילות התנועה הירוקה האיראנית

if the government had been monitoring my family's brain activity,

לו הממשלה היתה מנטרת את הפעילות המוחית של משפחתי,

and had believed them to be sympathetic to the protesters?

והייתה מאמינה שהם אוהדים את המפגינים?

Is it so far-fetched to imagine a society

האם זה כל כך מופרך לדמיין חברה

in which people are arrested based on their thoughts

שבה אנשים נעצרים בהתבסס על המחשבות שלהם

of committing a crime,

לבצע פשע,

like in the science-fiction dystopian society in "Minority Report."

כמו החברה הדיסטופית בסרט המדע הבדיוני "דו"ח מיוחד".

Already, in the United States, in Indiana,

כבר היום, בארצות הברית, באינדיאנה,

an 18-year-old was charged with attempting to intimidate his school

בן 18 הואשם בניסיון לעורר פחד בביה"ס שלו

by posting a video of himself shooting people in the hallways ...

על ידי פרסום סרטון וידאו של עצמו יורה באנשים במסדרונות ...

Except the people were zombies

אלא שהאנשים היו זומבים

and the video was of him playing an augmented-reality video game,

והסרטון הראה אותו משחק במשחק וידאו עם מציאות רבודה,

all interpreted to be a mental projection of his subjective intent.

מה שפּוּרָש כ"הקרנה שכלית" של כוונתו האישית.

This is exactly why our brains need special protection.

זו בדיוק הסיבה לכך שהמוח שלנו זקוק להגנה מיוחדת.

If our brains are just as subject to data tracking and aggregation

אם המוח שלנו הינו נושא למעקב ולצבירה של נתונים

as our financial records and transactions,

בדיוק כמו הרשומות והעסקאות הפיננסיות שלנו,

if our brains can be hacked and tracked like our online activities,

אם המוח שלנו ניתן לפריצה ולמעקב כמו הפעילויות המקוונות שלנו,

our mobile phones and applications,

הטלפונים הניידים והיישומים שלנו,

then we're on the brink of a dangerous threat to our collective humanity.

אז אנחנו על ספו של איום מסוכן על האנושות הקולקטיבית שלנו.

Before you panic,

לפני שתיכנסו לפאניקה,

I believe that there are solutions to these concerns,

אני מאמינה שיש פתרונות לדאגות אלה,

but we have to start by focusing on the right things.

אבל אנחנו צריכים להתחיל להתמקד בדברים הנכונים.

When it comes to privacy protections in general,

כשזה מגיע להגנה על הפרטיות באופן כללי,

I think we're fighting a losing battle

אני חושבת שאנחנו נלחמים בקרב אבוד

by trying to restrict the flow of information.

בניסיון להגביל את זרימת המידע.

Instead, we should be focusing on securing rights and remedies

במקום זאת, עלינו להתמקד בהבטחת זכויות ותקנות

against the misuse of our information.

נגד שימוש לרעה במידע שלנו.

If people had the right to decide how their information was shared,

אם לאנשים היתה הזכות להחליט כיצד המידע שלהם ישותף,

and more importantly, have legal redress

וחשוב יותר, יזכו למענה של החוק

if their information was misused against them,

אם נעשה שימוש לרעה במידע שלהם,

say to discriminate against them in an employment setting

לדוגמה כדי להפלות אותם במסגרת תעסוקתית,

or in health care or education,

או בתחום הבריאות או החינוך,

this would go a long way to build trust.

זו תהיה דרך ארוכה כדי לבנות אמון.

In fact, in some instances,

למעשה, במקרים מסוימים

we want to be sharing more of our personal information.

אנחנו רוצים לשתף יותר מהמידע האישי שלנו.

Studying aggregated information can tell us so much

לימוד מידע מצטבר יכול לספר לנו כל כך הרבה

about our health and our well-being,

על הבריאות שלנו ועל רווחתנו,

but to be able to safely share our information,

אבל כדי שנהיה מסוגלים לשתף בבטחה את המידע שלנו,

we need special protections for mental privacy.

אנו זקוקים להגנות מיוחדות על הפרטיות השכלית.

This is why we need a right to cognitive liberty.

זו הסיבה שאנחנו צריכים שתהיה לנו זכות לחירות ההכרה.

This right would secure for us our freedom of thought and rumination,

זכות זו תבטיח לנו את חופש המחשבה וההגות שלנו,

our freedom of self-determination,

את חופש ההגדרה העצמית שלנו,

and it would insure that we have the right to consent to or refuse

והיא תבטיח שיש לנו את הזכות להסכים או לסרב

access and alteration of our brains by others.

לקבלת גישה אל המוח שלנו ולשינויו על ידי אחרים.

This right could be recognized

זכות זו יכולה להיות מוכרת

as part of the Universal Declaration of Human Rights,

כחלק מההצהרה האוניברסלית של זכויות האדם,

which has established mechanisms

אשר ביססה מנגנונים

for the enforcement of these kinds of social rights.

לאכיפה של זכויות חברתיות מסוג זה.

During the Iranian Green Movement,

בזמן התנועה הירוקה האיראנית,

the protesters used the internet and good old-fashioned word of mouth

המפגינים השתמשו באינטרנט ובשיטה המיושנת והטובה של הפצה מפה-לאוזן

to coordinate their marches.

כדי לתאם את הצעדות שלהם.

And some of the most oppressive restrictions in Iran

וכמה מההגבלות המדכאות ביותר באיראן

were lifted as a result.

הוסרו כתוצאה מכך.

But what if the Iranian government had used brain surveillance

אבל מה לו הממשלה האיראנית היתה משתמשת במעקב מוחי

to detect and prevent the protest?

כדי לאתר ולמנוע את המחאה?

Would the world have ever heard the protesters' cries?

האם העולם היה אי פעם שומע את קריאותיהם של המפגינים?

The time has come for us to call for a cognitive liberty revolution.

הגיע הזמן שנקרא למהפכת חירות של ההכרה.

To make sure that we responsibly advance technology

כדי להבטיח שאנחנו מקדמים באופן אחראי טכנולוגיה מתקדמת

that could enable us to embrace the future

שתאפשר לנו לאמץ את העתיד

while fiercely protecting all of us from any person, company or government

תוך הגנה עזה על כולנו מפני כל אדם, חברה או ממשלה

that attempts to unlawfully access or alter our innermost lives.

שמנסים באופן בלתי חוקי לגשת אל חיינו הפנימיים ביותר או לשנות אותם.

Thank you.

תודה.

(Applause)

(מחיאות כפיים)