Sebastian Deterding: What your designs say about you

Vertaald door: Christel Foncke Nagekeken door: Els De Keyser

We are today talking about moral persuasion:

We praten vandaag over morele overtuiging.

What is moral and immoral in trying to change people's behaviors

Wat is moreel en immoreel

aan gedrag van mensen veranderen

by using technology and using design?

via technologie en ontwerp?

And I don't know what you expect,

Ik weet niet wat jullie verwachten,

but when I was thinking about that issue,

maar toen ik hierover nadacht,

I early on realized what I'm not able to give you are answers.

besefte ik al snel

dat ik geen antwoorden heb.

I'm not able to tell you what is moral or immoral,

Ik kan niet zeggen wat moreel of immoreel is

because we're living in a pluralist society.

omdat onze maatschappij pluralistisch is.

My values can be radically different from your values,

Mijn waarden kunnen totaal verschillen

van die van jullie.

which means that what I consider moral or immoral based on that

Wat ik als moreel of immoreel beschouw,

might not necessarily be what you consider moral or immoral.

is niet noodzakelijk hetzelfde als jullie.

Maar er is één ding is dat ik jullie wel kan geven.

But I also realized there is one thing that I could give you,

Dat is wat de kerel achter mij aan de wereld gaf --

and that is what this guy behind me gave the world --

Socrates.

Socrates.

It is questions.

Dat zijn vragen.

What I can do and what I would like to do with you

Ik wil jullie graag,

zoals die oorspronkelijke vraag,

is give you, like that initial question,

een set vragen geven

a set of questions to figure out for yourselves,

om zelf te ontdekken,

layer by layer, like peeling an onion,

laag voor laag,

zoals je een ui pelt,

om naar de kern te gaan van

getting at the core of what you believe is moral or immoral persuasion.

je idee van morele of immorele overtuigingen.

And I'd like to do that with a couple of examples of technologies

Ik geef graag een paar voorbeelden

van technologieën die game-elementen gebruikten

where people have used game elements to get people to do things.

om mensen dingen te laten doen.

Mijn eerste vraag voor jullie ligt dus

So it's at first a very simple, very obvious question

I would like to give you:

voor de hand:

What are your intentions if you are designing something?

wat zijn jullie intenties als jullie iets ontwerpen?

And obviously, intentions are not the only thing,

Intenties zijn niet het enige.

Hier is nog een ander voorbeeld.

so here is another example for one of these applications.

There are a couple of these kinds of Eco dashboards right now --

Er bestaan eco-dashboarden,

die ingebouwd worden in auto's.

dashboards built into cars --

which try to motivate you to drive more fuel-efficiently.

Ze motiveren je om brandstof efficiënter te gebruiken.

This here is Nissan's MyLeaf,

Dit is MyLeaf van Nissan,

where your driving behavior is compared with the driving behavior

dat je bestuurderscapaciteiten vergelijkt met

die van andere mensen,

of other people,

so you can compete for who drives a route the most fuel-efficiently.

zodat je kan wedijveren om wie

het minste verbruikt.

Deze dingen zijn zeer effectief, zo blijkt:

And these things are very effective, it turns out --

ze motiveren mensen

so effective that they motivate people to engage in unsafe driving behaviors,

om onveilig te rijden

like not stopping at a red light,

en door te rijden bij rood.

because that way you have to stop and restart the engine,

Anders moet je stoppen en opnieuw starten

en dat zou teveel verbruiken, niet?

and that would use quite some fuel, wouldn't it?

So despite this being a very well-intended application,

Ondanks de goede bedoelingen van deze toepassing,

obviously there was a side effect of that.

was er duidelijk een neveneffect aan.

Here's another example for one of these side effects.

Hier nog een voorbeeld van neveneffecten.

Commendable: a site that allows parents to give their kids little badges

'Commendable' [Lovenswaardig]:

een website waarop ouders hun kinderen badges geven

for doing the things that parents want their kids to do,

in ruil voor gewenst gedrag --

zoals hun veters strikken.

like tying their shoes.

And at first that sounds very nice,

Op het eerste zicht lijkt dit heel mooi,

very benign, well-intended.

heel onschuldig, goedbedoeld.

Uit onderzoek naar de instelling van mensen blijkt echter

But it turns out, if you look into research on people's mindset,

caring about outcomes,

dat om het resultaat geven,

caring about public recognition,

erkenning van anderen belangrijk vinden,

caring about these kinds of public tokens of recognition

publieke blijken van erkenning belangrijk vinden,

op lange termijn niet noodzakelijk

is not necessarily very helpful

for your long-term psychological well-being.

je psychologisch welzijn bevordert.

It's better if you care about learning something.

Het is beter dat je graag iets bijleert.

It's better when you care about yourself

Het is beter dat je om jezelf geeft

than how you appear in front of other people.

dan om hoe je bij anderen overkomt.

Dat soort motivatie-instrument

So that kind of motivational tool that is used actually, in and of itself,

heeft eigenlijk

een neveneffect op lange termijn.

has a long-term side effect,

in that every time we use a technology

Iedere keer als we de technologie gebruiken

that uses something like public recognition or status,

om erkenning of status van anderen te krijgen,

we're actually positively endorsing this

ondersteunen we dit actief

as a good and normal thing to care about --

als iets goeds en normaals om belangrijk te vinden.

that way, possibly having a detrimental effect

Maar met mogelijk een schadelijk gevolg

on the long-term psychological well-being of ourselves as a culture.

voor ons psychologisch welbevinden als cultuur.

So that's a second, very obvious question:

Dus als tweede evidente vraag:

What are the effects of what you're doing --

wat zijn de effecten van wat jij doet?

the effects you're having with the device, like less fuel,

De effecten die je krijgt met het toestel,

zoals minder brandstof,

as well as the effects of the actual tools you're using

net zoals de effecten van de tools die je gebruikt

to get people to do things --

om mensen dingen te laten doen --

public recognition?

erkenning door anderen.

Now is that all -- intention, effect?

Is dat alles: intentie, effect?

Well, there are some technologies which obviously combine both.

Er zijn sommige technologieën

die beide combineren.

Both good long-term and short-term effects

Goede lange- en kortetermijneffecten.

and a positive intention like Fred Stutzman's "Freedom,"

Een positieve intentie, zoals Fred Stutsmans Freedom,

where the whole point of that application is --

waarbij het doel van de toepassing

is - we worden meestal overstelpt

well, we're usually so bombarded with constant requests by other people,

met telefoons en vragen van anderen.

with this device,

Met dit toestel kan je een bepaalde computer

you can shut off the Internet connectivity of your PC of choice

voor een bepaalde tijd volledig afsluiten van het internet

for a pre-set amount of time,

to actually get some work done.

om eindelijk wat werk te kunnen doen.

And I think most of us will agree that's something well-intended,

De meesten zullen zeggen

dat het goedbedoeld is

and also has good consequences.

en positieve gevolgen heeft.

In de woorden van Michel Foucault:

In the words of Michel Foucault,

it is a "technology of the self."

"Het is een technologie van het zelf."

It is a technology that empowers the individual

Het is een technologie die kracht geeft aan personen

to determine its own life course,

om zelf de koers van hun leven te bepalen,

to shape itself.

het zelf vorm te geven.

But the problem is, as Foucault points out,

Maar het probleem is,

zoals Foucault zegt,

that every technology of the self

dat iedere technologie van het zelf

has a technology of domination as its flip side.

een dominante technologie als keerzijde heeft.

As you see in today's modern liberal democracies,

In de huidige moderne liberale democratieën

bepaalt de maatschappij, de staat,

the society, the state, not only allows us to determine our self,

niet alleen ons zelf, geeft ons zelf vorm,

to shape our self,

it also demands it of us.

ze verlangt het ook van ons.

Ze vraagt dat we onze zelven optimaliseren,

It demands that we optimize ourselves,

that we control ourselves,

controleren,

dat we onszelf continu managen

that we self-manage continuously,

because that's the only way in which such a liberal society works.

omdat dat de enige manier is

waarop een liberale maatschappij werkt.

These technologies want us to stay in the game

De technologieën vragen dat we in het spel blijven

that society has devised for us.

dat de maatschappij voor ons gemaakt heeft.

They want us to fit in even better.

We moeten er steeds beter inpassen.

They want us to optimize ourselves to fit in.

Ze willen dat we onszelf optimaal inpassen.

Ik zeg niet dat dat altijd slecht is.

Now, I don't say that is necessarily a bad thing;

Ik denk dat dit voorbeeld

I just think that this example points us to a general realization,

wijst op een algemeen besef.

and that is: no matter what technology or design you look at,

Naar welke technologie je ook kijkt,

even something we consider as well-intended

zelfs al zijn het goedbedoelde en goede effecten --

and as good in its effects as Stutzman's Freedom,

zoals Stutzmans Freedom --

comes with certain values embedded in it.

ze heeft bepaalde inherente waarden.

And we can question these values.

We kunnen deze waarden in vraag stellen.

We kunnen vragen: is het goed

We can question: Is it a good thing

dat we onszelf voortdurend optimaliseren

that all of us continuously self-optimize ourselves

to fit better into that society?

om beter in de maatschappij te passen?

Or to give you another example:

Of om je een ander voorbeeld te geven:

What about a piece of persuasive technology

wat denk je van een technologie

die moslima's overtuigt om hun hoofddoek te dragen?

that convinces Muslim women to wear their headscarves?

Is that a good or a bad technology

Is dat goede of slechte technologie

in haar intenties of in effecten?

in its intentions or in its effects?

Well, that basically depends on the kind of values you bring to bear

Het hangt eigenlijk af

van het soort waarden die jij laat meetellen

to make these kinds of judgments.

om dit soort inschattingen te maken.

Dat brengt ons bij een derde vraag:

So that's a third question:

What values do you use to judge?

welke waarden gebruik jij om te oordelen?

And speaking of values:

Over waarden gesproken,

I've noticed that in the discussion about moral persuasion online

In de discussies over morele overtuigingen online,

and when I'm talking with people,

en wanneer ik met mensen spreek,

more often than not, there is a weird bias.

zie ik vaak een vreemde tendens.

De tendens is dat we vragen

And that bias is that we're asking:

Is this or that "still" ethical?

of dit of dat 'nog steeds' ethisch is.

Is it "still" permissible?

Is dit 'nog steeds' toegelaten?

We're asking things like:

We vragen dingen zoals:

is dit Oxfam-donatieformulier --

Is this Oxfam donation form,

where the regular monthly donation is the preset default,

waarop standaard een maandelijkse donatie is ingesteld

and people, maybe without intending it,

en die mensen, misschien zonder het te willen,

are encouraged or nudged into giving a regular donation

aanmoedigt of dwingt

regelmatig te doneren in plaats van één keer,

instead of a one-time donation,

is that "still' permissible?

is dat nog toegestaan?

Is dat nog ethisch?

Is it "still" ethical?

We're fishing at the low end.

We bekijken het eenzijdig.

Maar eigenlijk, die vraag

But in fact, that question, "Is it 'still' ethical?"

'Is het nog ethisch?'

is maar één manier van kijken naar ethiek.

is just one way of looking at ethics.

Because if you look at the beginning of ethics in Western culture,

Want als je naar het ontstaan van de ethiek

in de westerse cultuur zou kijken,

zou je een heel ander idee zien

you see a very different idea of what ethics also could be.

van wat ethiek ook kan zijn.

For Aristotle, ethics was not about the question,

Voor Aristoteles ging ethiek niet over de vraag

"Is that still good, or is it bad?"

of iets goed of slecht was.

Ethics was about the question of how to live life well.

Ethiek ging over de vraag hoe je goed kon leven.

Dat legde hij in het woord 'arete',

And he put that in the word "arête,"

dat we uit het [oud-Grieks] vertalen als 'deugd'.

which we, from [Ancient Greek], translate as "virtue."

Het betekent eigenlijk excellentie.

But really, it means "excellence."

It means living up to your own full potential as a human being.

Het betekent leven op je volle potentieel

als mens.

And that is an idea that, I think,

Dat idee

heeft Paul Richard Buchanan recent mooi verwoord in een essay:

Paul Richard Buchanan put nicely in a recent essay,

where he said, "Products are vivid arguments

"Producten zijn levende argumenten

about how we should live our lives."

over hoe we ons leven zouden moeten leiden."

Onze ontwerpen zijn niet ethisch of onethisch

Our designs are not ethical or unethical

in that they're using ethical or unethical means of persuading us.

omdat ze ethische of onethische overredingsmethodes gebruiken.

They have a moral component

Ze hebben een morele component

in de visie en de verwachting van het goede leven

just in the kind of vision and the aspiration of the good life

die ze ons aanbieden.

that they present to us.

And if you look into the designed environment around us

Als je met die lens kijkt naar onze ontworpen omgeving,

with that kind of lens,

Als je met die lens kijkt naar onze ontworpen omgeving,

asking, "What is the vision of the good life

en vraagt wat de visie is op het goede leven

that our products, our design, present to us?",

die onze producten, ons ontwerp, aan ons presenteert,

then you often get the shivers,

dan huiver je

because of how little we expect of each other,

hoe weinig we van elkaar verwachten

of how little we actually seem to expect of our life,

of hoe weinig we schijnen te verwachten

van ons leven en hoe het goede leven eruit ziet.

and what the good life looks like.

Dat is de vierde vraag die ik jullie wil meegeven:

So that's a fourth question I'd like to leave you with:

What vision of the good life do your designs convey?

welke visie van het goede leven

brengt jullie ontwerp over?

And speaking of design,

Om het over design te hebben,

you'll notice that I already broadened the discussion,

je merkt dat ik de discussie al opengetrokken heb.

because it's not just persuasive technology that we're talking about here,

Het gaat niet enkel overredingstechnologie,

het is elk stukje ontwerp dat we naar buiten brengen.

it's any piece of design that we put out here in the world.

I don't know whether you know

Ik weet niet of je de communicatiespecialist

the great communication researcher Paul Watzlawick who, back in the '60s,

Paul Watzlawick kent,

die, in de jaren 60 stelde

dat we niet niet kunnen communiceren.

made the argument that we cannot not communicate.

Zelfs als we kiezen om te zwijgen,

Even if we choose to be silent, we chose to be silent,

kiezen we. We communiceren door te zwijgen.

and we're communicating something by choosing to be silent.

And in the same way that we cannot not communicate,

Net zoals we niet niét kunnen communiceren,

kunnen we niet niét overtuigen.

we cannot not persuade:

whatever we do or refrain from doing,

Wat we ook doen of niet doen,

whatever we put out there as a piece of design, into the world,

welk ontwerp we ook naar buiten brengen

in de wereld,

het heeft een overredingscomponent.

has a persuasive component.

It tries to affect people.

Het probeert mensen te beïnvloeden.

It puts a certain vision of the good life out there in front of us,

Het geeft ons een zekere visie

op het goede leven.

Dat is wat Peter-Paul Verbeek,

which is what Peter-Paul Verbeek,

the Dutch philosopher of technology, says.

de Nederlandse technologiefilosoof, zegt.

Of we het als ontwerper bedoelen of niet,

No matter whether we as designers intend it or not,

we materialize morality.

we materialiseren moraliteit.

We make certain things harder and easier to do.

We maken dingen moeilijker of gemakkelijker om te doen.

We organize the existence of people.

We organiseren het bestaan van mensen.

We put a certain vision

We geven een bepaalde visie van wat goed of slecht,

of what good or bad or normal or usual is

normaal of gewoon is aan mensen

in front of people,

by everything we put out there in the world.

door alles wat we in de wereld zetten.

Zelfs iets onschuldigs als een set schoolstoelen

Even something as innocuous as a set of school chairs

is a persuasive technology,

is een overredingstechnologie.

Omdat het een bepaalde visie

because it presents and materializes a certain vision of the good life --

materialiseert en presenteert van het goede leven --

het goede leven waar onderwijzen, leren en luisteren

a good life in which teaching and learning and listening

is about one person teaching, the others listening;

gaat om één die onderwijst en de rest die luistert.

Waar het erom gaat dat leren, zittend gebeurt

in which it is about learning-is-done-while-sitting;

waarbij je voor jezelf leert,

in which you learn for yourself;

in which you're not supposed to change these rules,

waarbij je de regels niet mag veranderen,

because the chairs are fixed to the ground.

omdat de stoelen vastzitten aan de grond.

And even something as innocuous as a single-design chair,

Zelfs iets onschuldigs als één enkele design-stoel --

like this one by Arne Jacobsen,

zoals deze door Arne Jacobsen --

is a persuasive technology,

is een overredingstechnologie.

Hij communiceert een idee over het goede leven.

because, again, it communicates an idea of the good life:

a good life -- a life that you, as a designer, consent to by saying,

Een goed leven --

een leven waarmee je als ontwerper instemt,

door te zeggen: "In het goede leven

"In a good life, goods are produced as sustainably or unsustainably

worden producten even (on)duurzaam als deze stoel gemaakt.

as this chair.

Workers are treated as well or as badly

Arbeiders worden even goed of slecht behandeld

as the workers were treated that built that chair."

als zij die deze stoel gemaakt hebben.

The good life is a life where design is important

Het goede leven, waar ontwerp belangrijk is,

omdat iemand blijkbaar de tijd en het geld besteedde

because somebody obviously took the time and spent the money

aan dit soort goed ontworpen stoel,

for that kind of well-designed chair;

where tradition is important,

waar traditie belangrijk is

omdat dit een traditionele klassieker is

because this is a traditional classic and someone cared about this;

en iemand het belangrijk vond,

en waar er iets bestaat als opvallende consumptie

and where there is something as conspicuous consumption,

waar het oké en normaal is

where it is OK and normal to spend a humongous amount of money

om een gigantisch bedrag te besteden aan zo'n stoel

on such a chair,

om aan anderen te tonen wat je sociale status is.

to signal to other people what your social status is.

So these are the kinds of layers, the kinds of questions

Dit zijn de lagen, het soort vragen

I wanted to lead you through today;

waar ik jullie vandaag doorheen wilde leiden.

De vraag: wat zijn de intenties

the question of: What are the intentions that you bring to bear

die jullie laten meetellen als je iets ontwerpt?

when you're designing something?

What are the effects, intended and unintended, that you're having?

Wat zijn de effecten, gewild en ongewild, die je hebt?

Wat zijn de waarden die je gebruikt

What are the values you're using to judge those?

om die te beoordelen?

Wat zijn de deugden, de verwachtingen

What are the virtues, the aspirations

that you're actually expressing in that?

die je erin uitdrukt?

And how does that apply,

Hoe is dat van toepassing,

not just to persuasive technology,

niet alleen op overredingstechnologie,

but to everything you design?

maar op al wat je ontwerpt?

Do we stop there?

Stoppen we daar?

I don't think so.

Ik denk het niet.

I think that all of these things are eventually informed

Ik denk dat al deze dingen informatie halen

by the core of all of this,

uit de kern van dat alles --

and this is nothing but life itself.

en dat is het leven zelf.

Why, when the question of what the good life is

Als de vraag naar het goede leven

informs everything that we design,

alles bepaalt wat we ontwerpen,

should we stop at design and not ask ourselves:

moeten we dan stoppen met ontwerpen en onszelf niet afvragen

How does it apply to our own life?

hoe dit werkt in ons eigen leven?

"Why should the lamp or the house be an art object,

'Waarom zou de lamp of het huis een kunstwerk zijn

but not our life?"

maar ons leven niet?',

as Michel Foucault puts it.

zoals Michel Foucault zei.

Just to give you a practical example of Buster Benson.

Om jullie een praktisch voorbeeld van Buster Benson te geven.

This is Buster setting up a pull-up machine

Dit is Buster die een fitnessapparaat opzet

at the office of his new start-up, Habit Labs,

in zijn nieuwe kantoor Habit Labs

waar ze andere toepassingen proberen te bouwen,

where they're trying to build other applications like "Health Month"

zoals 'Health Month'.

for people.

Waarom bouwt hij zoiets?

And why is he building a thing like this?

Well, here is the set of axioms

Hier is een set axioma's

that Habit Labs, Buster's start-up, put up for themselves

die ze bij Habit Labs voor zichzelf opstelden

over hoe ze als team wilden samenwerken

on how they wanted to work together as a team

when they're building these applications --

terwijl ze deze dingen ontwerpen --

a set of moral principles they set themselves

een set morele principes die ze zichzelf oplegden

om samen te werken.

for working together --

one of them being,

Eén ervan:

"We take care of our own health and manage our own burnout."

we zorgen voor onze eigen gezondheid en onze eigen burn-out.

Want uiteindelijk, hoe kan je jezelf bevragen

Because ultimately, how can you ask yourselves

and how can you find an answer on what vision of the good life

en hoe kan je een antwoord vinden

over welke visie van het goede leven

you want to convey and create with your designs

je wil creëren en overbrengen met je ontwerpen,

without asking the question:

zonder de vraag te stellen

What vision of the good life do you yourself want to live?

welke visie van het goede leven

je zelf wil leven?

Daarmee dank ik jullie.

And with that,

I thank you.

(Applause)

(Applaus)