Sebastian Deterding: What your designs say about you

Sebastian Deterding: Was Ihr Design über Sie verrät

Übersetzung: Daniela Balogh Lektorat: Judith Matz

We are today talking about moral persuasion:

Wir sprechen heute über moralische Beeinflussung.

What is moral and immoral in trying to change people's behaviors

Was ist moralisch und unmoralisch

bei dem Versuch, das Verhalten von Menschen

by using technology and using design?

durch den Gebrauch von Technologie und Design zu verändern?

And I don't know what you expect,

Und ich weiß nicht, was Sie erwarten,

but when I was thinking about that issue,

aber als ich über dieses Thema nachgedacht habe,

I early on realized what I'm not able to give you are answers.

habe ich schon sehr früh gemerkt,

dass ich Ihnen keine Antworten darauf geben kann.

I'm not able to tell you what is moral or immoral,

Ich kann Ihnen nicht sagen, was moralisch oder unmoralisch ist,

because we're living in a pluralist society.

weil wir in einer pluralistischen Gesellschaft leben.

My values can be radically different from your values,

Meine Werte können grundlegend verschieden sein

von Ihren Werten.

which means that what I consider moral or immoral based on that

Das, was ich aufgrunddessen für moralisch oder unmoralisch halte,

might not necessarily be what you consider moral or immoral.

muss also nicht unbedingt das sein, was Sie als solches erachten.

Aber ich habe auch gemerkt, dass es eine Sache gibt, die ich Ihnen geben könnte.

But I also realized there is one thing that I could give you,

Und das ist das, was dieser Mann hinter mir der Welt gegeben hat –

and that is what this guy behind me gave the world --

Socrates.

Sokrates.

It is questions.

Das sind Fragen.

What I can do and what I would like to do with you

Was ich tun kann und was ich gerne mit Ihnen tun möchte,

ist, Ihnen, wie jene ursprüngliche Frage,

is give you, like that initial question,

eine Reihe von Fragen zu geben,

a set of questions to figure out for yourselves,

damit Sie für sich selbst herausfinden können,

layer by layer, like peeling an onion,

Schicht für Schicht,

wie beim Schälen einer Zwiebel,

damit Sie zum Kern dessen gelangen können,

getting at the core of what you believe is moral or immoral persuasion.

was Sie für moralische oder unmoralische Beeinflussung halten.

And I'd like to do that with a couple of examples of technologies

Und das würde ich gerne mit ein paar Beispielen

von Technologien tun, bei denen Spielelemente genutzt werden

where people have used game elements to get people to do things.

um Menschen dazu zu bringen, etwas zu tun.

Zuerst also eine sehr einfache, sehr offensichtliche Frage,

So it's at first a very simple, very obvious question

I would like to give you:

die ich Ihnen gerne geben möchte:

What are your intentions if you are designing something?

Was sind Ihre Absichten, wenn Sie etwas entwerfen?

And obviously, intentions are not the only thing,

Und natürlich sind die Absichten nicht das Einzige,

deshalb ist hier ein weiteres Beispiel für eine dieser Anwendungen.

so here is another example for one of these applications.

There are a couple of these kinds of Eco dashboards right now --

Es gibt gerade einige solcher Öko-Amaturenbretter –

also Amaturenbretter eingebaut in Autos,

dashboards built into cars --

which try to motivate you to drive more fuel-efficiently.

die den Fahrer dazu motivieren sollen, spritsparender zu fahren.

This here is Nissan's MyLeaf,

Das hier ist Nissans MyLeaf,

where your driving behavior is compared with the driving behavior

bei dem Ihr Fahrverhalten verglichen wird

mit dem Fahrverhalten anderer Menschen,

of other people,

so you can compete for who drives a route the most fuel-efficiently.

so dass Sie miteinander konkurrieren können,

wer am spritsparendsten fährt.

Und diese Dinge sind sehr effektiv, wie sich gezeigt hat,

And these things are very effective, it turns out --

so effektiv, dass sie die Menschen dazu motivieren,

so effective that they motivate people to engage in unsafe driving behaviors,

unsicheres Fahrverhalten an den Tag zu legen –

like not stopping at a red light,

wie zum Beispiel an einer roten Ampel nicht zu halten.

because that way you have to stop and restart the engine,

Denn ansonsten müssten Sie anhalten und den Motor neu starten,

und das würde ja einiges an Sprit verbrauchen, oder?

and that would use quite some fuel, wouldn't it?

So despite this being a very well-intended application,

Obwohl dies also eine sehr gutgemeinte Anwendung ist,

obviously there was a side effect of that.

gab es dabei offensichtlich einen Nebeneffekt.

Here's another example for one of these side effects.

Hier ist ein weiteres Beispiel für einen dieser Nebeneffekte.

Commendable: a site that allows parents to give their kids little badges

"Commendable":

Eine Seite, die es Eltern ermöglicht, Ihren Kindern kleine Abzeichen zu geben,

for doing the things that parents want their kids to do,

wenn sie die Dinge tun, die Eltern von ihren Kindern wollen –

wie etwa ihre Schuhe zuzubinden.

like tying their shoes.

And at first that sounds very nice,

Und zuerst hört sich das sehr nett an,

very benign, well-intended.

sehr harmlos, gutgemeint.

Die Forschung über die menschliche Denkweise zeigt,

But it turns out, if you look into research on people's mindset,

caring about outcomes,

dass die Sorge um Ergebnisse,

caring about public recognition,

die Sorge um öffentliche Anerkennung,

caring about these kinds of public tokens of recognition

die Sorge um diese öffentlichen Anzeichen von Bestätigung,

nicht zwangsläufig sehr hilfreich ist

is not necessarily very helpful

for your long-term psychological well-being.

für unser langfristiges psychologisches Wohlbefinden.

It's better if you care about learning something.

Es ist besser, wenn Sie sich darum bemühen, etwas zu lernen.

It's better when you care about yourself

Es ist besser, wenn Sie sich um sich selbst sorgen,

than how you appear in front of other people.

anstatt darüber, wie Sie vor anderen Menschen dastehen.

Also hat dieses Motivationswerkzeug, das benutzt wird,

So that kind of motivational tool that is used actually, in and of itself,

an sich tatsächlich

einen langfristigen Nebeneffekt,

has a long-term side effect,

in that every time we use a technology

indem jedes Mal, wenn wir eine Technologie benutzen,

that uses something like public recognition or status,

die so etwas wie öffentliche Anerkennung oder Status benutzt,

we're actually positively endorsing this

wir es tatsächlich geradezu gutheißen,

as a good and normal thing to care about --

dass es gut und normal ist, sich um so etwas zu bemühen –

that way, possibly having a detrimental effect

und das möglicherweise schädliche Auswirkungen

on the long-term psychological well-being of ourselves as a culture.

auf die langfristige psychologische Gesundheit für uns als Kultur hat.

So that's a second, very obvious question:

Also ist dies eine zweite, sehr offensichliche Frage:

What are the effects of what you're doing --

Was sind die Auswirkungen dessen, was Sie tun?

the effects you're having with the device, like less fuel,

Die Auswirkungen, die Sie aufgrund der Erfindung haben,

wie etwa weniger Kraftstoff,

as well as the effects of the actual tools you're using

als auch die Auswirkungen der eigentlichen Werkzeuge, die Sie benutzen,

to get people to do things --

um Menschen dazu zu bringen, etwas zu tun –

public recognition?

öffentliche Anerkennung.

Now is that all -- intention, effect?

Ist das nun alles – Absicht, Auswirkung?

Well, there are some technologies which obviously combine both.

Nun, es gibt einige Technologien,

die offensichtlich beides kombinieren.

Both good long-term and short-term effects

Sowohl gute kurz- als auch langfristige Auswirkungen

and a positive intention like Fred Stutzman's "Freedom,"

und eine positive Absicht, wie Fred Stutzmans "Freedom",

where the whole point of that application is --

wo der ganze Sinn der Anwendung darin besteht,

dass, nun ja, wir werden normalerweise so bombardiert

well, we're usually so bombarded with constant requests by other people,

mit Anrufen und Anfragen anderer Menschen,

with this device,

mit dieser Einrichtung können Sie die Internetverbindung

you can shut off the Internet connectivity of your PC of choice

eines PCs Ihrer Wahl für eine voreingestellte Zeit sperren,

for a pre-set amount of time,

to actually get some work done.

um tatsächlich etwas Arbeit erledigt zu bekommen.

And I think most of us will agree that's something well-intended,

Und ich denke, die meisten von uns sind sich einig,

nun, dass dies gutgemeint ist

and also has good consequences.

und auch gute Auswirkungen hat.

Mit den Worten Michel Foucaults:

In the words of Michel Foucault,

it is a "technology of the self."

"Es ist eine Technologie des Selbst".

It is a technology that empowers the individual

Es ist eine Technologie, die den Einzelnen dazu befähigt,

to determine its own life course,

seinen eigenen Lebensverlauf zu bestimmen,

to shape itself.

ihn selbst zu formen.

But the problem is, as Foucault points out,

Aber das Problem ist,

wie Foucault klar gemacht hat,

that every technology of the self

dass jede Technologie des Selbst

has a technology of domination as its flip side.

eine Technologie der Herrschaft als Kehrseite hat.

As you see in today's modern liberal democracies,

Wie Sie in heutigen modernen liberalen Demokratien sehen,

erlaubt die Gesellschaft, der Staat

the society, the state, not only allows us to determine our self,

uns nicht nur unser Selbst zu bestimmen, unser Selbst zu formen,

to shape our self,

it also demands it of us.

sondern er verlangt es auch von uns.

Er verlangt, dass wir uns selbst optimieren,

It demands that we optimize ourselves,

that we control ourselves,

dass wir uns kontrollieren,

dass wir uns ständig selbst in der Hand haben,

that we self-manage continuously,

because that's the only way in which such a liberal society works.

weil das der einzige Weg ist,

wie so eine liberale Gesellschaft funktioniert.

These technologies want us to stay in the game

Diese Technologien wollen, dass wir uns weiter an dem Spiel beteiligen,

that society has devised for us.

das die Gesellschaft für uns entwickelt hat.

They want us to fit in even better.

Sie wollen, dass wir noch besser hineinpassen.

They want us to optimize ourselves to fit in.

Sie wollen, dass wir uns selbst optimieren, um hineinzupassen.

Das ist nicht unbedingt etwas Schlechtes.

Now, I don't say that is necessarily a bad thing;

Ich denke nur, dass dieses Beispiel

I just think that this example points us to a general realization,

uns auf eine allgemeine Erkenntnis hinweist:

and that is: no matter what technology or design you look at,

Egal, welche Technologie oder welches Design Sie sich ansehen,

even something we consider as well-intended

sogar solche, die wir als gutgemeint und gut in ihren Auswirkungen ansehen –

and as good in its effects as Stutzman's Freedom,

wie Stutzmans Freedom –

comes with certain values embedded in it.

sie gehen mit gewissen eingebetteten Werten einher.

And we can question these values.

Und wir können diese Werte in Frage stellen.

Wir können fragen: Ist es eine gute Sache,

We can question: Is it a good thing

dass wir alle uns ständig selbst optimieren,

that all of us continuously self-optimize ourselves

to fit better into that society?

um besser in diese Gesellschaft zu passen?

Or to give you another example:

Oder, um Ihnen ein anderes Beispiel zu geben,

What about a piece of persuasive technology

was ist mit einer überzeugenden Technologie,

die muslimische Frauen überzeugt, ihre Kopftücher zu tragen?

that convinces Muslim women to wear their headscarves?

Is that a good or a bad technology

Ist das eine gute oder schlechte Technologie

in ihrer Intention oder ihren Auswirkungen?

in its intentions or in its effects?

Well, that basically depends on the kind of values you bring to bear

Nun, das hängt grundsätzlich

von der Art der Werte ab, die Sie zur Anwendung bringen

to make these kinds of judgments.

um diese Art von Urteil zu fällen.

So ist dies eine dritte Frage:

So that's a third question:

What values do you use to judge?

Welche Werte nutzen Sie um zu urteilen?

And speaking of values:

Und wo wir gerade von Werten sprechen,

I've noticed that in the discussion about moral persuasion online

ist mir aufgefallen, dass es bei Online-Diskussionen über moralische Beeinflussung

and when I'm talking with people,

und wenn ich mit Menschen spreche

more often than not, there is a weird bias.

meistens eine merkwürdige Tendenz gibt.

Und diese Tendenz ist, dass wir fragen:

And that bias is that we're asking:

Is this or that "still" ethical?

Ist dies oder das "noch" ethisch?

Is it "still" permissible?

Ist es "noch" zulässig?

We're asking things like:

Wir fragen Dinge wie:

Ist dieses Spendenformular von Oxfam –

Is this Oxfam donation form,

where the regular monthly donation is the preset default,

bei dem eine regelmäßige monatliche Spende der voreingestellte Standard ist

and people, maybe without intending it,

und Menschen, vielleicht ohne es zu beabsichtigen,

are encouraged or nudged into giving a regular donation

auf diese Weise ermutigt oder dazu gedrängt werden,

eine regelmäßige anstatt einer einmaligen Spende zu geben –

instead of a one-time donation,

is that "still' permissible?

ist das noch zulässig?

Ist das noch ethisch?

Is it "still" ethical?

We're fishing at the low end.

Wir bewegen uns am unteren Ende.

Aber tatsächlich ist die Frage

But in fact, that question, "Is it 'still' ethical?"

"Ist es noch ethisch?"

nur eine Art Ethik zu betrachten.

is just one way of looking at ethics.

Because if you look at the beginning of ethics in Western culture,

Denn wenn Sie sich die Anfänge der Ethik

in der westlichen Kultur ansehen,

dann sehen Sie eine völlig andere Idee davon,

you see a very different idea of what ethics also could be.

was Ethik auch sein könnte.

For Aristotle, ethics was not about the question,

Für Aristoteles ging es bei der Ethik nicht um die Frage,

"Is that still good, or is it bad?"

ist das noch gut, oder ist es schlecht?

Ethics was about the question of how to live life well.

Bei der Ethik ging es um die Frage, wie man das Leben gut leben kann.

Und dies hat er in das Wort "arete" gelegt,

And he put that in the word "arête,"

welches wir, aus dem Lateinischen, als "Tugend" übersetzen.

which we, from [Ancient Greek], translate as "virtue."

Aber tatsächlich bedeutet es Vortrefflichkeit.

But really, it means "excellence."

It means living up to your own full potential as a human being.

Es bedeutet, dass wir unser volles Potential

als menschliches Wesen erfüllen.

And that is an idea that, I think,

Und das ist eine Idee,

die, wie ich finde, Paul Richard Buchanan sehr nett in einem aktuellen Essay ausgedrückt hat,

Paul Richard Buchanan put nicely in a recent essay,

where he said, "Products are vivid arguments

in dem er sagt: "Produkte sind lebendige Argumente dafür,

about how we should live our lives."

wie wir unser Leben leben sollten."

Unsere Entwicklungen sind nicht ethisch oder unethisch

Our designs are not ethical or unethical

in that they're using ethical or unethical means of persuading us.

in dem Sinne, dass sie ethische oder unethische Mittel benutzen, um uns zu überzeugen.

They have a moral component

Sie haben eine moralische Komponente

gerade in der Art der Vision und dem Anspruch an das gute Leben,

just in the kind of vision and the aspiration of the good life

die sie uns präsentieren.

that they present to us.

And if you look into the designed environment around us

Und wenn Sie sich die gestaltete Umgebung um uns herum ansehen,

with that kind of lens,

mit dieser Art von Linse,

asking, "What is the vision of the good life

fragend: "Was ist die Vision des guten Lebens

that our products, our design, present to us?",

die unsere Produkte, unser Design, uns präsentieren?"

then you often get the shivers,

dann werden Sie oft Gänsehaut bekommen,

because of how little we expect of each other,

aufgrunddessen wie wenig wir von einander erwarten,

of how little we actually seem to expect of our life,

wie wenig wir tatsächlich zu erwarten scheinen

von unserem Leben und davon, wie ein gutes Leben aussieht.

and what the good life looks like.

Dies ist nun also die vierte Frage, die ich Ihnen überlassen möchte:

So that's a fourth question I'd like to leave you with:

What vision of the good life do your designs convey?

Welche Vision des guten Lebens

vermittelt Ihr Design?

And speaking of design,

Und wo wir gerade von Design sprechen:

you'll notice that I already broadened the discussion,

Ihnen fällt auf, dass ich die Diskussion bereits erweitert habe.

because it's not just persuasive technology that we're talking about here,

Weil wir hier nicht mehr nur über beeinflussende Technologie sprechen,

sondern über jedes Stück Design, das wir in diese Welt bringen.

it's any piece of design that we put out here in the world.

I don't know whether you know

Ich weiß nicht, ob Sie

the great communication researcher Paul Watzlawick who, back in the '60s,

den großen Kommunikationsforscher Paul Watzlawick kennen,

der damals in den 60ern die Meinung vertreten hat,

dass wir nicht nicht kommunizieren können.

made the argument that we cannot not communicate.

Selbst wenn wir wählen zu schweigen,

Even if we choose to be silent, we chose to be silent,

haben wir gewählt zu schweigen. Wir kommunizieren etwas indem wir wählen zu schweigen.

and we're communicating something by choosing to be silent.

And in the same way that we cannot not communicate,

Und auf die gleiche Art, wie wir nicht nicht kommunizieren können,

können wir nicht nicht beeinflussen.

we cannot not persuade:

whatever we do or refrain from doing,

Was immer wir tun oder unterlassen,

whatever we put out there as a piece of design, into the world,

was immer wir als ein Stück Design

in die Welt bringen,

hat eine beeinflussende Komponente.

has a persuasive component.

It tries to affect people.

Es versucht, die Menschen zu beeinflussen.

It puts a certain vision of the good life out there in front of us,

Es setzt uns eine Vision des guten Lebens

direkt vor die Nase.

Dies ist es, was Peter-Paul Verbeek,

which is what Peter-Paul Verbeek,

the Dutch philosopher of technology, says.

der niederländische Technikphilosoph, sagt.

Egal ob wir es als Designer beabsichtigen oder nicht,

No matter whether we as designers intend it or not,

we materialize morality.

wir materialisieren Moral.

We make certain things harder and easier to do.

Wir machen gewisse Dinge schwerer und leichter ausführbar.

We organize the existence of people.

Wir organisieren die Existenz von Menschen.

We put a certain vision

Wir setzten den Menschen eine Vision davon, was gut oder schlecht

of what good or bad or normal or usual is

oder normal oder gewöhnlich ist, vor die Nase

in front of people,

by everything we put out there in the world.

mit allem, was wir in die Welt bringen.

Selbst etwas so Harmloses wie eine Gruppe von Schulstühlen

Even something as innocuous as a set of school chairs

is a persuasive technology,

ist eine beeinflussende Technologie.

Weil es eine gewisse Vision

because it presents and materializes a certain vision of the good life --

vom guten Leben präsentiert und materialisiert –

das gute Leben, in dem es beim Lehren und Lernen und Zuhören

a good life in which teaching and learning and listening

is about one person teaching, the others listening;

darum geht, dass eine Person lehrt und die anderen zuhören,

in dem es darum geht, dass Lernen im Sitzen stattfindet,

in which it is about learning-is-done-while-sitting;

in dem du allein für dich lernst,

in which you learn for yourself;

in which you're not supposed to change these rules,

in dem du diese Regeln nicht ändern sollst,

because the chairs are fixed to the ground.

weil die Stühle auf dem Boden fixiert sind.

And even something as innocuous as a single-design chair,

Und sogar etwas so Harmloses wie ein einziger Designerstuhl –

like this one by Arne Jacobsen,

wie dieser hier von Arne Jacobsen –

is a persuasive technology,

ist eine beeinflussende Technologie.

Weil er, noch einmal, eine Idee vom guten Leben kommuniziert.

because, again, it communicates an idea of the good life:

a good life -- a life that you, as a designer, consent to by saying,

Ein gutes Leben –

ein Leben, von dem Sie sagen, dass Sie ihm als Designer zustimmen,

indem Sie sagen: "Im guten Leben

"In a good life, goods are produced as sustainably or unsustainably

werden Waren so nachhaltig oder nicht nachhaltig produziert wie dieser Stuhl.

as this chair.

Workers are treated as well or as badly

Arbeiter werden so gut oder schlecht behandelt,

as the workers were treated that built that chair."

wie die Arbeiter behandelt wurden, die diesen Stuhl gebaut haben."

The good life is a life where design is important

Das gute Leben ist ein Leben, in dem Design wichtig ist,

denn jemand hat sich offensichtlich die Zeit genommen und das Geld ausgegeben

because somebody obviously took the time and spent the money

für diese Art von formschönen Stuhl,

for that kind of well-designed chair;

where tradition is important,

in dem Tradition wichtig ist,

weil dies ein traditioneller Klassiker ist

because this is a traditional classic and someone cared about this;

und jemandem war dies wichtig,

und in dem es etwas wie auffallenden Konsum gibt,

and where there is something as conspicuous consumption,

wo es okay und normal ist,

where it is OK and normal to spend a humongous amount of money

einen gewaltigen Geldbetrag für so einen Stuhl auszugeben,

on such a chair,

um anderen Menschen den sozialen Status zu signalisieren.

to signal to other people what your social status is.

So these are the kinds of layers, the kinds of questions

Dies sind also die Schichten, die Arten von Fragen,

I wanted to lead you through today;

durch die ich Sie heute leiten wollte –

die Frage: Was sind die Absichten,

the question of: What are the intentions that you bring to bear

die zur Anwendung kommen, wenn Sie etwas entwerfen?

when you're designing something?

What are the effects, intended and unintended, that you're having?

Was sind Ihre Auswirkungen, beabsichtigte und unbeabsichtigte?

Welches sind die Werte, anhand derer

What are the values you're using to judge those?

Sie diese bewerten?

Was sind die Tugenden, die Bestrebungen,

What are the virtues, the aspirations

that you're actually expressing in that?

die Sie tatsächlich damit ausdrücken?

And how does that apply,

Und wie lässt sich das anwenden

not just to persuasive technology,

nicht nur auf beeinflussende Technologie,

but to everything you design?

sondern auf alles, was Sie entwerfen?

Do we stop there?

Hören wir hier auf?

I don't think so.

Ich denke nicht.

I think that all of these things are eventually informed

Ich denke, dass all diese Dinge letztendlich geprägt sind

by the core of all of this,

von dem Kern von alledem –

and this is nothing but life itself.

und dies ist nichts anderes als das Leben selbst.

Why, when the question of what the good life is

Warum also, wenn die Frage danach, was das gute Leben ist,

informs everything that we design,

alles prägt, was wir entwerfen,

should we stop at design and not ask ourselves:

sollten wir beim Design Halt machen und uns nicht fragen,

How does it apply to our own life?

wie wirkt sich das auf Ihr eigenes Leben aus?

"Why should the lamp or the house be an art object,

"Warum sollte die Lampe oder das Haus ein Kunstobjekt sein,

but not our life?"

aber nicht unser Leben?",

as Michel Foucault puts it.

wie Michel Foucault es ausdrückt.

Just to give you a practical example of Buster Benson.

Ich gebe Ihnen noch ein praktisches Beispiel von Buster Benson.

This is Buster setting up a pull-up machine

Dies ist Buster, wie er eine Klimmzug-Maschine

at the office of his new start-up, Habit Labs,

im Büro seines Neuunternehmens Habit Labs aufbaut,

in dem sie versuchen, andere Anwendungen

where they're trying to build other applications like "Health Month"

wie das Spiel Health Month für Menschen zu entwickeln.

for people.

Und warum baut er so etwas?

And why is he building a thing like this?

Well, here is the set of axioms

Nun, hier ist eine Reihe von Axiomen,

that Habit Labs, Buster's start-up, put up for themselves

die Habit Labs, Busters Neugründung, für sich selbst festgelegt hat

darüber, wie sie als Team zusammenarbeiten wollen,

on how they wanted to work together as a team

when they're building these applications --

wenn sie diese Anwendungen bauen –

a set of moral principles they set themselves

eine Reihe von moralischen Prinzipien, die sie selbst

für die Zusammenarbeit festgelegt haben –

for working together --

one of them being,

und eines davon lautet:

"We take care of our own health and manage our own burnout."

"Wir kümmern uns um unsere eigene Gesundheit und bewältigen unser eigenes Burnout."

Denn wie können Sie sich schließlich fragen

Because ultimately, how can you ask yourselves

and how can you find an answer on what vision of the good life

und wie können Sie eine Antwort darauf finden,

welche Vision des guten Lebens

you want to convey and create with your designs

Sie mit Ihrem Design vermitteln und erschaffen möchten,

without asking the question:

ohne sich die Frage zu stellen,

What vision of the good life do you yourself want to live?

welche Vision des guten Lebens

Sie selbst leben möchten?

Und damit danke ich Ihnen.

And with that,

I thank you.

(Applause)

(Applaus)