Sebastian Deterding: What your designs say about you

מתרגם: Shlomo Adam מבקר: Ido Dekkers

We are today talking about moral persuasion:

אנחנו מדברים היום על שכנוע מוסרי.

What is moral and immoral in trying to change people's behaviors

מה מוסרי ומה לא מוסרי

כשמנסים לשנות התנהגות של אנשים

by using technology and using design?

באמצעות טכנולוגיה ועיצוב?

And I don't know what you expect,

ואני לא יודע למה אתם מצפים,

but when I was thinking about that issue,

אבל כשחשבתי על הנושא הזה,

I early on realized what I'm not able to give you are answers.

הבנתי כבר בהתחלה

שאין לי תשובות.

I'm not able to tell you what is moral or immoral,

אני לא יודע להגיד לכם מה מוסרי ומה לא

because we're living in a pluralist society.

מפני שאנחנו חיים בחברה פלורליסטית.

My values can be radically different from your values,

הערכים שלי יכולים להיות שונים בצורה קיצונית

משלכם.

which means that what I consider moral or immoral based on that

כלומר, מה שאני מחשיב לפיהם כמוסרי או לא מוסרי

might not necessarily be what you consider moral or immoral.

איננו בהכרח מה שאתם מחשיבים למוסרי או לא מוסרי.

אך גם הבנתי שיש דבר אחד שאני יכול לתת לכם.

But I also realized there is one thing that I could give you,

וזה מה שהבחור הזה שמאחורי נתן לעולם --

and that is what this guy behind me gave the world --

Socrates.

סוקרטס.

It is questions.

שאלות.

What I can do and what I would like to do with you

מה שאני יכול לעשות ומה שהייתי רוצה לעשות איתכם

הוא לתת לכם, כמו השאלה בהתחלה,

is give you, like that initial question,

סט של שאלות

a set of questions to figure out for yourselves,

כדי שתבינו בעצמכם,

layer by layer, like peeling an onion,

שכבה אחרי שכבה,

כמו קילוף בצל,

להגיע ללב של מה שאתם מאמינים

getting at the core of what you believe is moral or immoral persuasion.

שהוא שכנוע מוסרי או לא מוסרי.

And I'd like to do that with a couple of examples of technologies

וברצוני לעשות את זה עם כמה דוגמאות

של טכנולוגיות בהן נעשה שימוש במרכיבים של משחקים

where people have used game elements to get people to do things.

כדי לגרום לאנשים לעשות דברים.

אז הראשון הוא מאוד פשוט, שאלה מאוד ברורה מאליה

So it's at first a very simple, very obvious question

I would like to give you:

שברצוני להציג לכם:

What are your intentions if you are designing something?

מה הכוונות שלכם כשאתם מעצבים משהו?

And obviously, intentions are not the only thing,

וכמובן שכוונות הן לא הדבר היחיד,

אז הנה דוגמה נוספת לאחד היישומים האלה.

so here is another example for one of these applications.

There are a couple of these kinds of Eco dashboards right now --

יש כיום כמה סוגים כאלה של לוחות בקרה אקולוגיים --

לוחות-שעונים שבנויים במכוניות

dashboards built into cars --

which try to motivate you to drive more fuel-efficiently.

שמנסים להניע אתכם לנהוג בצורה שחוסכת יותר דלק.

This here is Nissan's MyLeaf,

זאת ה"ניסאן מייליף",

where your driving behavior is compared with the driving behavior

שבה הרגלי הנהיגה שלכם מושווים

לעומת הרגלי הנהיגה של אנשים אחרים,

of other people,

so you can compete for who drives a route the most fuel-efficiently.

אז אתם יכולים להתחרות מי נוהג

בצורה הכי חסכונית.

ומסתבר שהדברים האלה מאד אפקטיביים,

And these things are very effective, it turns out --

כל כך אפקטיביים שהם מניעים אנשים

so effective that they motivate people to engage in unsafe driving behaviors,

לפתח הרגלי נהיגה לא בטוחים--

like not stopping at a red light,

כמו לא לעצור באור אדום.

because that way you have to stop and restart the engine,

מפני שכך עליכם לעצור ולהפעיל שוב את המנוע,

וזה מנצל הרבה דלק, נכון?

and that would use quite some fuel, wouldn't it?

So despite this being a very well-intended application,

אז למרות שזהו יישום עם כוונה טובה,

obviously there was a side effect of that.

ברור שהיתה לו השפעה שלילית.

Here's another example for one of these side effects.

והנה עוד דוגמה להשפעה שלילית כזו.

Commendable: a site that allows parents to give their kids little badges

ראוי לשבח:

אתר שמאפשר להורים לתת לילדיהם עיטורים

for doing the things that parents want their kids to do,

על עשיית דברים שההורים רוצים שהילדים יעשו --

כמו לקשור את השרוכים.

like tying their shoes.

And at first that sounds very nice,

ובהתחלה זה נשמע נחמד מאד,

very benign, well-intended.

מאד נעים, מלא כוונות טובות.

אך מסתבר, אם מסתכלים במחקר שבדק את צורת החשיבה של אנשים,

But it turns out, if you look into research on people's mindset,

caring about outcomes,

שמתן חשיבות לתוצאות,

caring about public recognition,

מתן חשיבות להכרה חברתית,

caring about these kinds of public tokens of recognition

מתן חשיבות לאישורים החברתיים האלה

איננו בהכרח מועיל מאד

is not necessarily very helpful

for your long-term psychological well-being.

לבריאות הנפשית בטווח הארוך.

It's better if you care about learning something.

עדיף שיהיה חשוב לכם שילמדו משהו.

It's better when you care about yourself

עדיף שיהיה אכפת לכם מעצמכם

than how you appear in front of other people.

מאשר איך אתם נראים בעיני אחרים.

אז סוג אמצעי כזה בו משתמשים ליצירת מוטיבציה

So that kind of motivational tool that is used actually, in and of itself,

למעשה בעצמו

יוצר תופעות שליליות בטווח הארוך

has a long-term side effect,

in that every time we use a technology

כי בכל פעם שאנו משתמשים בטכנולוגיה

that uses something like public recognition or status,

שמנצלת משהו כמו הכרה חברתית או מעמד,

we're actually positively endorsing this

אנחנו למעשה מעודדים את זה

as a good and normal thing to care about --

כדבר טוב ונורמלי שיש לתת לו חשיבות --

that way, possibly having a detrimental effect

ובכך אולי גורמים לאפקט מזיק

on the long-term psychological well-being of ourselves as a culture.

על בריאותנו הנפשית כחברה לאורך זמן.

So that's a second, very obvious question:

אז הנה שאלה שניה ודי מובנת מאליה:

What are the effects of what you're doing --

מה ההשפעות של מה שאתם עושים?

the effects you're having with the device, like less fuel,

ההשפעות המושגות בעזרת המכשיר,

כמו פחות דלק,

as well as the effects of the actual tools you're using

כמו גם השפעות הכלים בהם משתמשים

to get people to do things --

כדי לגרום לאנשים לעשות דברים --

public recognition?

הכרה פומבית.

Now is that all -- intention, effect?

האם כל זה-- כוונה, תוצאה?

Well, there are some technologies which obviously combine both.

יש כמה טכנולוגיות

שמשלבות בבירור את שתיהן.

Both good long-term and short-term effects

השפעות לטווח ארוך וגם לטווח קצר

and a positive intention like Fred Stutzman's "Freedom,"

לצד כוונה חיובית כמו החופש לפי פרד סטוצמן,

where the whole point of that application is --

כשכל העניין ביישום הזה,

הוא, ובכן, אנחנו בדרך כלל מופצצים

well, we're usually so bombarded with constant requests by other people,

בשיחות ובבקשות של אנשים אחרים,

with this device,

עם ההתקן הזה אפשר לכבות את הקישוריות לאינטרנט

you can shut off the Internet connectivity of your PC of choice

בכל מחשב לזמן מוגדר מראש

for a pre-set amount of time,

to actually get some work done.

כדי שאפשר יהיה לעבוד בשקט.

And I think most of us will agree that's something well-intended,

ואני חושב שרובנו נסכים,

שיש בכך כוונה טובה

and also has good consequences.

וגם תוצאות טובות.

במילותיו של מישל פוקו,

In the words of Michel Foucault,

it is a "technology of the self."

"זו טכנולוגיה של העצמי."

It is a technology that empowers the individual

זו טכנולוגיה שנותנת כוח ליחיד

to determine its own life course,

לקבוע את דרך חייו,

to shape itself.

לעצב את עצמו.

But the problem is, as Foucault points out,

אבל הבעיה היא,

כמו שפוקו מראה,

that every technology of the self

שלכל טכנולוגיה של העצמי

has a technology of domination as its flip side.

יש מצד שני טכנולוגיה של שליטה.

As you see in today's modern liberal democracies,

כמו שרואים כיום בדמוקרטיות הליברליות,

החברה, המדינה,

the society, the state, not only allows us to determine our self,

לא רק מאפשרות לנו לקבוע מי אנחנו ולעצב את עצמנו,

to shape our self,

it also demands it of us.

הן גם תובעות את זה מאיתנו.

הן תובעות שנשפר את עצמנו,

It demands that we optimize ourselves,

that we control ourselves,

שנשלוט בעצמנו,

שננהל את עצמנו באופן רציף

that we self-manage continuously,

because that's the only way in which such a liberal society works.

מפני שזו הדרך היחידה

בה חברה ליברלית כזו פועלת.

These technologies want us to stay in the game

הטכנולוגיות האלו רוצות שנמשיך לשחק

that society has devised for us.

במשחק שהחברה אירגנה לנו.

They want us to fit in even better.

הם רוצים שנתאים עוד יותר את עצמנו.

They want us to optimize ourselves to fit in.

הם רוצים שנמטב את עצמנו כדי שנשתלב בו.

אני לא אומר שזה בהכרח רע .

Now, I don't say that is necessarily a bad thing;

אני רק חושב שהדוגמה הזו

I just think that this example points us to a general realization,

מובילה אותנו להבנה הכללית,

and that is: no matter what technology or design you look at,

שיהיו אשר יהיו הטכנולוגיה או העיצוב,

even something we consider as well-intended

גם אם זה מכוונות טובות או עם תוצאות טובות--

and as good in its effects as Stutzman's Freedom,

כמו החופש לפי סטוצמן --

comes with certain values embedded in it.

תמיד מוטמעים בתוכו ערכים מסוימים.

And we can question these values.

ואנחנו יכולים לפקפק בערכים האלו.

אנו יכולים לשאול: האם זה טוב

We can question: Is it a good thing

שכולנו כל הזמן משפרים את עצמנו

that all of us continuously self-optimize ourselves

to fit better into that society?

כדי להתאים טוב יותר לחברה?

Or to give you another example:

או דוגמה אחרת,

What about a piece of persuasive technology

מה דעתכם על איזו טכנולוגיה רבת-השפעה

שמשכנעת נשים מוסלמיות ללבוש את כיסויי הראש שלהן?

that convinces Muslim women to wear their headscarves?

Is that a good or a bad technology

האם זו טכנולוגיה טובה או רעה

מבחינת הכוונות או התוצאות שלה?

in its intentions or in its effects?

Well, that basically depends on the kind of values you bring to bear

ובכן, עקרונית זה תלוי

מהם הערכים לפיהם

to make these kinds of judgments.

עושים שיפוט כזה.

והנה שאלה שלישית:

So that's a third question:

What values do you use to judge?

באיזה ערכים אתם משתמשים כדי לשפוט?

And speaking of values:

ואם מדברים על ערכים,

I've noticed that in the discussion about moral persuasion online

הבחנתי שבדיון של שכנוע מוסרי ברשת,

and when I'm talking with people,

וכשאני מדבר עם אנשים,

more often than not, there is a weird bias.

רוב הפעמים יש הטיה מוזרה.

וההטיה הזו היא שאנחנו שואלים,

And that bias is that we're asking:

Is this or that "still" ethical?

האם זה או ההוא "עדיין" אתיים?

Is it "still" permissible?

האם זה "עדיין" תקין?

We're asking things like:

אנחנו שואלים שאלות כמו,

האם זה טופס התרומה של אוקספאם --

Is this Oxfam donation form,

where the regular monthly donation is the preset default,

בו התרומה החודשית הרגילה היא בררת המחדל

and people, maybe without intending it,

ואנשים, אולי בלי להתכוון,

are encouraged or nudged into giving a regular donation

מעודדים או נדחפים ככה

לתת תרומות קבועות במקום תרומה חד פעמית --

instead of a one-time donation,

is that "still' permissible?

האם זה עדיין תקין?

האם זה עדיין אתי?

Is it "still" ethical?

We're fishing at the low end.

אנחנו מגיעים לתחתית.

אבל למעשה, השאלה הזו

But in fact, that question, "Is it 'still' ethical?"

"האם זה עדיין אתי?"

היא רק דרך אחת להביט באתיקה.

is just one way of looking at ethics.

Because if you look at the beginning of ethics in Western culture,

מפני שאם אתם מביטים בהתחלה של האתיקה

בתרבויות מערביות,

אתם רואים רעיון שונה לגמרי

you see a very different idea of what ethics also could be.

של מה אתיקה יכולה להיות.

For Aristotle, ethics was not about the question,

לאריסטו, אתיקה לא היתה השאלה,

"Is that still good, or is it bad?"

האם זה עדיין טוב, או שזה רע?

Ethics was about the question of how to live life well.

אתיקה נגעה לשאלה של איך לחיות את החיים טוב.

והוא שם את זה במילה "ארטה,"

And he put that in the word "arête,"

שאנחנו, מהלטינית, תרגמנו את "סגולה."

which we, from [Ancient Greek], translate as "virtue."

אבל בעצם היא אומרת מצויינות.

But really, it means "excellence."

It means living up to your own full potential as a human being.

זה אומר לחיות ולמצות את הפוטנציאל המלא שלכם

כבני אדם.

And that is an idea that, I think,

וזה הרעיון

שאני חושב, שפול ריצ'ארד ביוקאנן הכניס באופן יפה למאמר

Paul Richard Buchanan put nicely in a recent essay,

where he said, "Products are vivid arguments

שם הוא אמר, "מוצרים הם ויכוחים ברורים

about how we should live our lives."

על איך אנחנו צריכים לחיות את חיינו."

העיצובים שלנו הם לא אתיים או לא-אתיים

Our designs are not ethical or unethical

in that they're using ethical or unethical means of persuading us.

בזה שהם משתמשים באמצעים אתיים או לא-אתיים כדי לשכנע אותנו.

They have a moral component

יש להם רכיב מוסרי

רק בסוג החזון והשאיפה של החיים הטובים

just in the kind of vision and the aspiration of the good life

שהם מציעים לנו.

that they present to us.

And if you look into the designed environment around us

ואם אתם מביטים לתוך הסביבות המעוצבות סביבנו

with that kind of lens,

עם עדשה מסוג כזה,

asking, "What is the vision of the good life

ושואלים, "מהו החזון של חיים טובים

that our products, our design, present to us?",

שהמוצרים שלנו, העיצובים שלנו, מציגים לנו?",

then you often get the shivers,

ואז הרבה פעמים אתם רועדים,

because of how little we expect of each other,

מכמה מעט ציפינו אחד מהשני,

of how little we actually seem to expect of our life,

מכמה מעט נראה שאנחנו מצפים

מחיינו ואיך החיים הטובים נראים.

and what the good life looks like.

אז זו השאלה הרביעית שהייתי רוצה להשאיר אתכם:

So that's a fourth question I'd like to leave you with:

What vision of the good life do your designs convey?

איזה חזון של החיים הטובים

העיצובים שלכם מעבירים?

And speaking of design,

ואם מדברים על עיצוב,

you'll notice that I already broadened the discussion,

אתם רואים שכבר הרחבתי את הדיון.

because it's not just persuasive technology that we're talking about here,

מפני שזה לא רק טכנולוגית שכנוע שאנחנו מדברים עליה פה,

זה כל פיסה של עיצוב שאתם מוציאים לעולם.

it's any piece of design that we put out here in the world.

I don't know whether you know

אני לא יודע אם אתם מכירים

the great communication researcher Paul Watzlawick who, back in the '60s,

את חוקר מתקשורת הגדול פול ווציטוויק

שבשנות ה60, טען

שאנחנו לא יכולים לא לתקשר.

made the argument that we cannot not communicate.

אפילו אם נבחר לשתוק,

Even if we choose to be silent, we chose to be silent,

אנחנו בוחרים לשתוק. אנחנו מתקשרים משהו בזה שאנחנו בוחרים לשתוק.

and we're communicating something by choosing to be silent.

And in the same way that we cannot not communicate,

ובאותה דרך שאנחנו לא יכולים לא לתקשר,

אנחנו לא יכולים לא לשכנע.

we cannot not persuade:

whatever we do or refrain from doing,

מה שלא נעשה או נמנע מלעשות,

whatever we put out there as a piece of design, into the world,

מה שלא נוציא החוצה כפיסת עיצוב

לעולם

יהיה לו מרכיב שכנועי.

has a persuasive component.

It tries to affect people.

הוא מנסה להשפיע על אנשים,

It puts a certain vision of the good life out there in front of us,

הו שם סוג של חזון של החיים הטובים

שם לפנינו.

שזה מה שפטר פול פרביק,

which is what Peter-Paul Verbeek,

the Dutch philosopher of technology, says.

הפילוסוף ההולנדי של הטכנולוגיה, אומר.

לא משנה אם אנחנו כמעצבים מתכוונים לזה או לא,

No matter whether we as designers intend it or not,

we materialize morality.

אנחנו ממשים מוסריות.

We make certain things harder and easier to do.

אנחנו הופכים דברים מסויימים לקשים או קלים יותר לעשיה.

We organize the existence of people.

אנחנו מארגנים את הקיום של אנשים.

We put a certain vision

אנחנו שמים סוג של חזון של מה טוב או מה רע

of what good or bad or normal or usual is

או נורמלי או רגיל לפני אנשים

in front of people,

by everything we put out there in the world.

על ידי כל דבר שאנחנו שמים שם בחוץ בעולם.

אפילו משהו רגיל כמו סט של כיסאות בית ספר

Even something as innocuous as a set of school chairs

is a persuasive technology,

הוא טכנולוגיה משכנעת.

מפני שזה מציג וממחיש

because it presents and materializes a certain vision of the good life --

סוג של חזון של החיים הטובים --

החיים הטובים בהם הוראה ולמידה והקשבה

a good life in which teaching and learning and listening

is about one person teaching, the others listening;

הם אדם אחד מלמד, והאחרים מקשיבים,

בהם זה נוגע, לימוד נעשה בישיבה,

in which it is about learning-is-done-while-sitting;

בה אתם לומדים בעצמכם,

in which you learn for yourself;

in which you're not supposed to change these rules,

בה אתם לא אמורים לשנות את החוקים האלה

because the chairs are fixed to the ground.

מפני שהכסאות מקובעים לרצפה.

And even something as innocuous as a single-design chair,

ואפילו משהו פשוט כמו כיסא מעוצב אחד --

like this one by Arne Jacobsen,

כמו זה של ארנה ג'ייקובסון --

is a persuasive technology,

בטכנולוגיה שיכנועית.

מפני, ששוב, זה מעביר את הרעיון של חיים טובים.

because, again, it communicates an idea of the good life:

a good life -- a life that you, as a designer, consent to by saying,

חיים טובים --

חים שאתם אומרים שאתם כמעצבים מסכימים

כשאתם אומרים, "בחיים הטובים,

"In a good life, goods are produced as sustainably or unsustainably

מוצרים מיוצרים כברי קיימא או לא ברי קיימא כמו הכיסא הזה.

as this chair.

Workers are treated as well or as badly

מתייחסים לעובדים טוב או רע

as the workers were treated that built that chair."

כמו שהתייחסו לעובדים שבנו את הכסא הזה."

The good life is a life where design is important

החיים הטובים הם חיים בהם עיצוב הוא חשוב

מפני שברור שמישהו השקיע את הזמן ואת הכסף

because somebody obviously took the time and spent the money

על סוג כזה של כיסא מעוצב היטב,

for that kind of well-designed chair;

where tradition is important,

שם מסורתי הוא חשוב

מפני שזה קלאסיקה מסורתית

because this is a traditional classic and someone cared about this;

ולמישהו היה אכפת מזה,

וכשיש משהו כמו צריכה ניכרת,

and where there is something as conspicuous consumption,

שם זה בסדר ונורמלי

where it is OK and normal to spend a humongous amount of money

לבזבז כמויות עצומות של כסף על כזה כיסא

on such a chair,

כדי לאותת לאנשים אחרים מה הסטטוס הסוציאלי שלכם.

to signal to other people what your social status is.

So these are the kinds of layers, the kinds of questions

אז אלה סוגים של שכבות, סוג השאלות

I wanted to lead you through today;

שרציתי להעביר אותכם דרכן היום --

השאלה של, מה הכוונות

the question of: What are the intentions that you bring to bear

שאתם מביאים כשאתם מעצבים משהו?

when you're designing something?

What are the effects, intended and unintended, that you're having?

מה ההשלכות, מכוונות או לא, שיש לכם?

מה הערכים בהם אתם משתמשים בהם

What are the values you're using to judge those?

כדי לשפוט את אלה?

מה המעלות, השאיפות

What are the virtues, the aspirations

that you're actually expressing in that?

שאתם מבטאים בזה?

And how does that apply,

ואיך זה משפיע,

not just to persuasive technology,

לא רק על טכנולוגיה שכנועית,

but to everything you design?

אלא לכל דבר שאתם מעצבים?

Do we stop there?

האם אנחנו עוצרים פה?

I don't think so.

אני לא חושב.

I think that all of these things are eventually informed

אני חושב שכל הדברים האלה הם בסופו של דבר מודעים

by the core of all of this,

על ידי כל זה --

and this is nothing but life itself.

וזה כלום חוץ מהחיים עצמם.

Why, when the question of what the good life is

למה, כשהשאלה של מה הם החיים הטובים

informs everything that we design,

מידעת כל דבר שנחנו מעצבים,

should we stop at design and not ask ourselves:

האם אנחנו עוצרים בעיצוב ולא שואלים את עצמנו,

How does it apply to our own life?

איך זה משפיע על החיים שלנו?

"Why should the lamp or the house be an art object,

"למה המנורה או הבית צריכים להיות אובייקט אומנות,

but not our life?"

אבל לא חיינו?"

as Michel Foucault puts it.

כמו שמישל פוקו אומר את זה.

Just to give you a practical example of Buster Benson.

רק לתת לכם דוגמה פרקטית של באסטר בנסון.

This is Buster setting up a pull-up machine

זה באסטר יושב על כיסא נמשך

at the office of his new start-up, Habit Labs,

במשרד של הסטארט אפ החדש שלו מעבדות ההרגל,

שם הם מנסים לבנות אפליקציות אחרות

where they're trying to build other applications like "Health Month"

כו חודש בריאות לאנשים.

for people.

ולמה הוא בונה משהו כזה?

And why is he building a thing like this?

Well, here is the set of axioms

ובכן הנה סט של אקסיומות

that Habit Labs, Buster's start-up, put up for themselves

שמעבדות ההרגל, הסטרט אפ של באסטר, העלו בעצמם

על איך הם רצו לעבוד יחד כצוות

on how they wanted to work together as a team

when they're building these applications --

כשהם בונים את האפליקציות האלה --

a set of moral principles they set themselves

סט של עקרונות מוסריים שהם יצרו בעצמם

לעבודה יחד --

for working together --

one of them being,

ואחד מהם היה,

"We take care of our own health and manage our own burnout."

"אנחנו דואגים לבריאות של עצמנו ומנהלים את סדר היום שלנו."

מפני שבסופו של דבר איך אתם יכולים לשאול את עצמכם

Because ultimately, how can you ask yourselves

and how can you find an answer on what vision of the good life

ואיך אתם יכולים למצוא את התשובה

על איזה חזון של חיים טובים

you want to convey and create with your designs

אתם רוצים להעביר וליצור עם העיצובים שלכם

without asking the question:

בלי לשאול את השאלה,

What vision of the good life do you yourself want to live?

איזה חזון של החיים הטובים

אתם עצמכם רוצים לחיות?

ועם זה, אני מודה לכם.

And with that,

I thank you.

(Applause)

(מחיאות כפיים)