Damon Horowitz calls for a "moral operating system"

Damon Horowitz fordert ein "moralisches Betriebssystem"

Übersetzung: Karin Friedli Lektorat: Alex Boos

Power.

Macht.

That is the word that comes to mind.

Das ist das Wort, das einem in den Sinn kommt.

We're the new technologists.

Wir sind die neuen Technologen.

We have a lot of data, so we have a lot of power.

Wir haben viele Daten, also haben wir viel Macht.

How much power do we have?

Wieviel Macht haben wir?

Scene from a movie: "Apocalypse Now" -- great movie.

Eine Szene aus dem Film "Apocalypse Now" – toller Film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Wir müssen unseren Helden, Captain Willard, zur Mündung des Nung River kriegen,

so he can go pursue Colonel Kurtz.

damit er Colonel Kurtz verfolgen kann.

The way we're going to do this is fly him in and drop him off.

Wir werden das tun, indem wir ihn hinfliegen und abwerfen.

So the scene:

Also, die Szene:

the sky is filled with this fleet of helicopters carrying him in.

am Himmel die Helikopterflotte, die ihn hinbringt.

And there's this loud, thrilling music in the background,

Und da ist diese laute, mitreissende Musik im Hintergrund,

this wild music.

diese wilde Musik.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Das ist viel Macht.

That's the kind of power I feel in this room.

Das ist die Art von Macht, die ich in diesem Raum spüre.

That's the kind of power we have

Es ist die Art von Macht, die wir haben

because of all of the data that we have.

infolge all der Daten, die wir haben.

Let's take an example.

Lassen Sie uns ein Beispiel anschauen.

What can we do

Was können wir mit

with just one person's data?

den Daten einer einzelnen Person machen?

What can we do

Was können wir mit den Daten

with that guy's data?

dieses Mannes hier tun?

I can look at your financial records.

Ich kann mir Ihre Finanzbelege ansehen.

I can tell if you pay your bills on time.

Ich kann sagen, ob Sie Ihre Rechnungen pünktlich bezahlen.

I know if you're good to give a loan to.

Ich weiss, ob man Ihnen ein Darlehen geben sollte.

I can look at your medical records; I can see if your pump is still pumping --

Ich kann Ihre medizinische Akte einsehen, ob Ihre Pumpe noch pumpt –

see if you're good to offer insurance to.

sehen, ob wir Sie versichern sollten.

I can look at your clicking patterns.

Ich kann mir Ihre Klickmuster ansehen.

When you come to my website, I actually know what you're going to do already

Wenn Sie meine Website besuchen, dann weiss ich schon, was Sie tun werden,

because I've seen you visit millions of websites before.

weil ich Sie zuvor Millionen von Websites habe besuchen sehen.

And I'm sorry to tell you,

Und es tut mir Leid, Ihnen zu sagen,

you're like a poker player, you have a tell.

Sie sind wie ein Pokerspieler, Sie haben sich verraten.

I can tell with data analysis what you're going to do

Anhand der Datenanalyse kann ich sagen, was Sie tun werden,

before you even do it.

bevor Sie es überhaupt tun.

I know what you like. I know who you are,

Ich weiss, was Sie mögen. Ich weiss, wer Sie sind.

and that's even before I look at your mail

Sogar noch bevor ich Ihre Post ansehe

or your phone.

oder Ihr Telefon.

Those are the kinds of things we can do

All diese Dinge können wir tun

with the data that we have.

mit den Daten, die wir haben.

But I'm not actually here to talk about what we can do.

Aber ich bin nicht wirklich hier, um darüber zu sprechen, was wir tun können.

I'm here to talk about what we should do.

Ich bin hier, um darüber zu sprechen, was wir tun sollten.

What's the right thing to do?

Was ist das Richtige?

Now I see some puzzled looks

Ich sehe einige verwirrte Blicke, wie,

like, "Why are you asking us what's the right thing to do?

"Wieso fragen Sie uns, was das Richtige zu tun ist

We're just building this stuff. Somebody else is using it."

Wir bauen diese Dinge ja nur, jemand anders benutzt es."

Fair enough.

Schön und gut.

But it brings me back.

Aber das bringt mich zurück zu vorhin.

I think about World War II --

Ich denke an den zweiten Weltkriegt –

some of our great technologists then,

einige unserer grossen Technologen damals,

some of our great physicists,

einige unserer grossartigen Physiker,

studying nuclear fission and fusion --

die Kernspaltung und -fusion untersuchten –

just nuclear stuff.

nukleares Zeug halt.

We gather together these physicists in Los Alamos

Wir versammeln diese Physiker in Los Alamos,

to see what they'll build.

um zu sehen, was sie bauen.

We want the people building the technology

Wir wollen, dass die Menschen, welche die Technologie erschaffen,

thinking about what we should be doing with the technology.

darüber nachdenken, was wir mit der Technologie tun sollten.

So what should we be doing with that guy's data?

Was also sollten wir mit den Daten dieses Mannes tun?

Should we be collecting it, gathering it,

Sollten wir sie sammeln,

so we can make his online experience better?

so dass wir sein Online-Erlebnis besser machen können?

So we can make money?

So dass wir damit Geld verdienen können?

So we can protect ourselves

So dass wir uns vor ihm schützen können,

if he was up to no good?

wenn er Übles im Schilde führte?

Or should we respect his privacy,

Oder sollten wir seine Privatsphäre respektieren,

protect his dignity and leave him alone?

seine Würde schützen und ihn in Ruhe lassen?

Which one is it?

Was ist das Richtige?

How should we figure it out?

Wie sollten wir das rausfinden?

I know: crowdsource. Let's crowdsource this.

Ich weiss: Crowdsourcing. Lassen Sie uns das gemeinsam klären.

So to get people warmed up,

Um uns alle aufzuwärmen,

let's start with an easy question --

fangen wir mit einer einfachen Frage an –

something I'm sure everybody here has an opinion about:

etwas, wozu sicher jeder hier eine Meinung hat.

iPhone versus Android.

iPhone gegen Android.

Let's do a show of hands -- iPhone.

Zeigen Sie mir Ihre Hände – iPhone.

Uh huh.

Uh huh.

Android.

Android.

You'd think with a bunch of smart people

Man würde meinen, ein Haufen kluger Leute wie wir

we wouldn't be such suckers just for the pretty phones.

würde nicht wie die Trottel den hübschen Handys hinterherrennen.

(Laughter)

(Gelächter)

Next question,

Nächste Frage,

a little bit harder.

ein bisschen schwieriger.

Should we be collecting all of that guy's data

Sollten wir all die Daten dieses Mannes sammeln,

to make his experiences better

um sein Erlebnis besser zu machen

and to protect ourselves in case he's up to no good?

und uns zu schützen, falls er Schlechtes vor hat?

Or should we leave him alone?

Oder sollten wir ihn in Ruhe lassen?

Collect his data.

Seine Daten sammeln.

Leave him alone.

Ihn in Ruhe lassen.

You're safe. It's fine.

Sie sind sicher, alles ist gut.

(Laughter)

(Gelächter)

Okay, last question --

Ok, letzte Frage –

harder question --

schwierigere Frage –

when trying to evaluate

wenn wir versuchen herauszufinden,

what we should do in this case,

was wir in diesem Fall tun sollten,

should we use a Kantian deontological moral framework,

sollten wir einen deontologischen moralischen Massstab nach Kant anlegen

or should we use a Millian consequentialist one?

oder die Konsequentialitätslogik nach Mill?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Nicht so viele Stimmen.

(Laughter)

(Gelächter)

Yeah, that's a terrifying result.

Ja, das ist ein erschreckendes Resultat.

Terrifying, because we have stronger opinions

Erschreckend, weil wir eine gefestigtere Meinung

about our hand-held devices

über unsere Smartphones haben,

than about the moral framework

als über unseren moralischen Masstab,

we should use to guide our decisions.

den wir als Richtlinie für unsere Entscheidungen verwenden sollten.

How do we know what to do with all the power we have

Woher wissen wir, was wir mit unserer Macht anfangen sollen,

if we don't have a moral framework?

wenn wir keinen moralischen Masstab haben?

We know more about mobile operating systems,

Wir wissen mehr über mobile Betriebssysteme,

but what we really need is a moral operating system.

aber was wir wirklich brauchen, ist ein moralisches Betriebssystem.

What's a moral operating system?

Was ist ein moralisches Betriebssystem?

We all know right and wrong, right?

Wir alle kennen richtig und falsch, nicht wahr.

You feel good when you do something right,

Man fühlt sich gut, wenn man das Richtige tut,

you feel bad when you do something wrong.

man fühlt sich schlecht, wenn man das Falsche tut.

Our parents teach us that: praise with the good, scold with the bad.

Unsere Eltern lehren uns: das Gute loben, das Böse schelten.

But how do we figure out what's right and wrong?

Aber wie finden wir heraus, was richtig und was falsch ist?

And from day to day, we have the techniques that we use.

Jeden Tag folgen wir bestimmten Techniken, die wir verwenden.

Maybe we just follow our gut.

Vielleicht folgen wir einfach unserem Bauch.

Maybe we take a vote -- we crowdsource.

Vielleicht machen wir eine Abstimmung – lassen die Menge entscheiden.

Or maybe we punt --

Oder wir weichen aus –

ask the legal department, see what they say.

fragen die Rechtsabteilung und sehen, was die sagen.

In other words, it's kind of random,

In anderen Worten, es ist ziemlich zufällig,

kind of ad hoc,

sozusagen fallweise,

how we figure out what we should do.

wie wir herausfinden, was wir tun sollten.

And maybe, if we want to be on surer footing,

Und vielleicht, wenn wir einen sichereren Stand haben wollen,

what we really want is a moral framework that will help guide us there,

möchten wir wirklich einen moralischen Massstab haben, der uns dahin führt,

that will tell us what kinds of things are right and wrong in the first place,

der uns erst einmal sagt, welche Dinge richtig oder falsch sind

and how would we know in a given situation what to do.

und der uns wissen lässt, was in einer bestimmten Situation zu tun ist.

So let's get a moral framework.

Also lassen Sie uns einen moralischen Massstab finden.

We're numbers people, living by numbers.

Wir sind Zahlenleute, wir leben nach Zahlen.

How can we use numbers

Wie können wir Zahlen als Basis

as the basis for a moral framework?

für unseren moralischen Masstab verwenden?

I know a guy who did exactly that.

Ich kenne jemanden, der genau das getan hat.

A brilliant guy --

Ein brillianter Typ –

he's been dead 2,500 years.

er ist schon seit 2500 Jahren tot.

Plato, that's right.

Plato, genau.

Remember him -- old philosopher?

Erinnern Sie sich – alter Philosoph?

You were sleeping during that class.

Sie haben in dieser Schulstunde geschlafen.

And Plato, he had a lot of the same concerns that we did.

Und Plato hatte oft dieselben Sorgen wie wir.

He was worried about right and wrong.

Er sorgte sich um richtig und falsch.

He wanted to know what is just.

Er wollte wissen, was gerecht ist.

But he was worried that all we seem to be doing

Aber er war beunruhigt darüber, dass wir darüber

is trading opinions about this.

nur Meinungen auszutauschen scheinen.

He says something's just. She says something else is just.

Er sagt, etwas ist gerecht. Sie sagt, etwas anderes ist gerecht.

It's kind of convincing when he talks and when she talks too.

Beide sind ziemlich überzeugend.

I'm just going back and forth; I'm not getting anywhere.

Ich gehe hin und her, ich komme nirgends an.

I don't want opinions; I want knowledge.

Ich will keine Meinungen, ich will Wissen.

I want to know the truth about justice --

Ich will die Wahrheit über Gerechtigkeit wissen –

like we have truths in math.

so wie wir Wahrheiten in der Mathematik haben.

In math, we know the objective facts.

In der Mathematik kennen wir die objektiven Fakten.

Take a number, any number -- two.

Nehmen Sie irgendeine Zahl – zwei.

Favorite number. I love that number.

Lieblingszahl. Ich liebe diese Zahl.

There are truths about two.

Es gibt Wahrheiten über die Zwei.

If you've got two of something,

Wenn man zwei von etwas hat,

you add two more, you get four.

und man zwei dazu gibt, bekommt man vier.

That's true no matter what thing you're talking about.

Das ist wahr, egal worüber man spricht.

It's an objective truth about the form of two,

Es ist eine objektive Wahrheit über die Form der Zwei,

the abstract form.

die abstrakte Form.

When you have two of anything -- two eyes, two ears, two noses,

Wenn man zwei von irgendwas hat – zwei Augen, Ohren, Nasen,

just two protrusions --

zwei Bandscheibenleiden –

those all partake of the form of two.

all diese Dinge nehmen an der Form der Zwei teil.

They all participate in the truths that two has.

Sie sind ein Teil der Wahrheiten, die die Zwei hat.

They all have two-ness in them.

Sie haben alle Zwei-heit in sich.

And therefore, it's not a matter of opinion.

Und deshalb ist das keine Meinungsfrage.

What if, Plato thought,

Plato dachte also, was wäre,

ethics was like math?

wenn Ethik wie Mathematik wäre?

What if there were a pure form of justice?

Was, wenn es eine reine Form von Gerechtigkeit gäbe?

What if there are truths about justice,

Was, wenn es Wahrheiten über Gerechtigkeit gibt

and you could just look around in this world

und man sich einfach in der Welt umsehen könnte

and see which things participated,

und sehen, welche Dinge an dieser Form

partook of that form of justice?

von Gerechtigkeit teilhalben?

Then you would know what was really just and what wasn't.

Dann wüsste man, was wirklich gerecht wäre und was nicht.

It wouldn't be a matter

Es wäre dann keine Frage

of just opinion or just appearances.

von Meinung oder gerechter Erscheinung.

That's a stunning vision.

Das ist eine umwerfende Vision.

I mean, think about that. How grand. How ambitious.

Ich meine, denken Sie darüber nach. Wie grossartig, wie ehrgeizig.

That's as ambitious as we are.

So ehrgeizig, wie wir sind.

He wants to solve ethics.

Er will die Ethik lösen.

He wants objective truths.

Er will objektive Wahrheiten.

If you think that way,

Wenn man so darüber nachdenkt,

you have a Platonist moral framework.

hat man einen moralischen Massstab nach Plato.

If you don't think that way,

Wenn man nicht so denkt,

well, you have a lot of company in the history of Western philosophy,

nun, dann hat man viel Gesellschaft in der Geschichte der westlichen Philosophie,

because the tidy idea, you know, people criticized it.

denn diese ordentliche Idee – wissen Sie, sie wurde kritisiert.

Aristotle, in particular, he was not amused.

Besonders Aristoteles war nicht erfreut.

He thought it was impractical.

Er fand das sehr unpraktisch.

Aristotle said, "We should seek only so much precision in each subject

Aristoteles sagte, "Wir sollten nur soviel Präzision in jedem Thema suchen,

as that subject allows."

wie es dieses Thema erlaubt."

Aristotle thought ethics wasn't a lot like math.

Aristoteles fand, Ethik sei überhaupt nicht wie Mathematik.

He thought ethics was a matter of making decisions in the here-and-now

Er dachte, Ethik sei eine Frage von Entscheidungen im Hier und Jetzt,

using our best judgment

unter Verwendung unseres besten Urteilsvermögens

to find the right path.

um den richtigen Weg zu finden.

If you think that, Plato's not your guy.

Wenn Sie das denken, ist Plato nicht Ihr Mann.

But don't give up.

Aber geben Sie nicht auf.

Maybe there's another way

Vielleicht gibt es einen anderen Weg,

that we can use numbers as the basis of our moral framework.

wie wir Zahlen als Grundlage für unseren moralischen Massstab verwenden können.

How about this:

Wie wäre es damit:

What if in any situation you could just calculate,

Was, wenn man in jeder Situation einfach rechnen könnte,

look at the choices,

sich die Wahlmöglichkeiten ansehen,

measure out which one's better and know what to do?

messen, welche die bessere ist und wissen, was tun?

That sound familiar?

Klingt das vertraut?

That's a utilitarian moral framework.

Das ist ein utilitaristischer moralischer Massstab.

John Stuart Mill was a great advocate of this --

John Stuart Mill war ein grosser Verfechter davon –

nice guy besides --

ein guter Mann übrigens –

and only been dead 200 years.

und erst seit 200 Jahren tot.

So basis of utilitarianism --

Die Grundlage des Utilitarianismus –

I'm sure you're familiar at least.

ich bin sicher, damit sind Sie zumindest vertraut.

The three people who voted for Mill before are familiar with this.

Die drei Leute, die vorhin für Mill gestimmt haben, sind damit vertraut.

But here's the way it works.

Aber so funktioniert es.

What if morals, what if what makes something moral

Was, wenn die Moral, das was etwas moralisch macht,

is just a matter of if it maximizes pleasure

nur eine Frage davon ist, ob es Vergnügen maximiert

and minimizes pain?

und Schmerz minimiert?

It does something intrinsic to the act.

Es fügt der Tat etwas intrinsisches hinzu.

It's not like its relation to some abstract form.

Es ist nicht wie ihre Beziehung zu einer abstrakten Form.

It's just a matter of the consequences.

Es ist eine Frage der Konsequenzen.

You just look at the consequences

Man sieht sich die Konsequenzen an

and see if, overall, it's for the good or for the worse.

und ob es, über alles gesehen, zum Guten oder zum Schlechten ist.

That would be simple. Then we know what to do.

Das wäre einfach. Dann wüssten wir, was zu tun ist.

Let's take an example.

Lassen Sie uns ein Beispiel machen.

Suppose I go up

Nehmen wir an, ich gehe hier hoch

and I say, "I'm going to take your phone."

und ich sage, "Ich nehme jetzt Ihr Telefon."

Not just because it rang earlier,

Nicht, weil es vorhin geklingelt hat,

but I'm going to take it because I made a little calculation.

ich nehme es, weil ich eine kleine Berechnung gemacht habe.

I thought, that guy looks suspicious.

Ich dachte mir, dieser Typ sieht verdächtig aus.

And what if he's been sending little messages to Bin Laden's hideout --

Und was, wenn er Nachrichten an Bin Ladens Versteck geschickt hat –

or whoever took over after Bin Laden --

oder an wen auch immer, der nach Bin Laden übernommen hat –

and he's actually like a terrorist, a sleeper cell.

und er ist tatsächlich sowas wie ein Terrorist, eine Schläferzelle.

I'm going to find that out, and when I find that out,

Ich werde das herausfinden, und wenn ich es herausfinde,

I'm going to prevent a huge amount of damage that he could cause.

werde ich eine grosse Menge Schaden verhindern, den er anrichten könnte.

That has a very high utility to prevent that damage.

Es hat einen sehr hohen Nutzen, diesen Schaden zu verhindern.

And compared to the little pain that it's going to cause --

Und verglichen mit dem kleinen Schmerz, den es verursachen wird –

because it's going to be embarrassing when I'm looking on his phone

denn es wird unangenehm sein, wenn ich mir sein Telefon ansehe

and seeing that he has a Farmville problem and that whole bit --

und sehe dass er ein Farmville-Problem und all das hat –

that's overwhelmed

das wird überstrahlt

by the value of looking at the phone.

vom Wert, sich das Telefon anzusehen.

If you feel that way,

Wenn Sie so fühlen,

that's a utilitarian choice.

ist das eine utiliaristische Wahl.

But maybe you don't feel that way either.

Aber vielleicht fühlen Sie auch nicht so.

Maybe you think, it's his phone.

Vielleicht denken Sie, es ist sein Telefon.

It's wrong to take his phone

Es ist falsch, sein Telefon zu nehmen,

because he's a person

denn er ist eine Person

and he has rights and he has dignity,

und er hat Rechte und seine Würde,

and we can't just interfere with that.

und wir können das nicht einfach beeinträchtigen.

He has autonomy.

Er ist autonom.

It doesn't matter what the calculations are.

Es spielt keine Rolle, wie die Berechnungen sind.

There are things that are intrinsically wrong --

Es gibt Dinge, die intrinsisch falsch sind –

like lying is wrong,

wie es falsch ist, zu lügen

like torturing innocent children is wrong.

oder unschuldige Kinder zu quälen.

Kant was very good on this point,

Kant war in diesem Punkt sehr gut,

and he said it a little better than I'll say it.

und er sagte es ein bisschen besser, als ich es sagen werde.

He said we should use our reason

Er sagte, wir sollten unsere Vernunft benutzen,

to figure out the rules by which we should guide our conduct,

um die Regeln herauszufinden, die unser Verhalten bestimmen.

and then it is our duty to follow those rules.

Und dann ist es unsere Pflicht, diesen Regeln zu folgen.

It's not a matter of calculation.

Es ist keine Frage von Berechnung.

So let's stop.

Also lassen Sie uns aufhören.

We're right in the thick of it, this philosophical thicket.

Wir sind mitten drin in diesem philosophischen Gewühl.

And this goes on for thousands of years,

Und das geht schon seit Tausenden von Jahren so,

because these are hard questions,

denn das sind schwierige Fragen

and I've only got 15 minutes.

und ich habe nur 15 Minuten.

So let's cut to the chase.

Also lassen Sie uns auf den Punkt kommen.

How should we be making our decisions?

Wie sollten wir unsere Entscheidungen treffen?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

ist es Plato, Aristoteles, Kant oder Mill?

What should we be doing? What's the answer?

Was sollten wir tun? Was ist die Antwort?

What's the formula that we can use in any situation

Was ist die Formel, die wir in jeder Situation benutzen können,

to determine what we should do,

um festzulegen, was wir tun sollten,

whether we should use that guy's data or not?

ob wir die Daten dieses Mannes verwenden sollten oder nicht?

What's the formula?

Was ist die Formel'

There's not a formula.

Es gibt keine Formel.

There's not a simple answer.

Es gibt keine einfache Antwort.

Ethics is hard.

Ethik ist schwierig.

Ethics requires thinking.

Ethik verlangt Denkarbeit.

And that's uncomfortable.

Und das ist unbequem.

I know; I spent a lot of my career

Ich weiss, ich habe einen grossen Teil meiner Karriere damit verbracht,

in artificial intelligence,

mich mit künstlicher Intelligenz zu beschäftigen,

trying to build machines that could do some of this thinking for us,

zu versuchen, Maschinen zu bauen, die etwas von dieser Arbeit für uns tun könnten,

that could give us answers.

die uns Antworten geben könnten.

But they can't.

Aber sie können es nicht.

You can't just take human thinking

Man kann nicht einfach menschliches Denken nehmen,

and put it into a machine.

und es in eine Maschine stecken.

We're the ones who have to do it.

Wir sind diejenigen, die es tun müssen.

Happily, we're not machines, and we can do it.

Glücklicherweise sind wir keine Maschinen.

Not only can we think,

Wir können nicht nur denken,

we must.

wir müssen.

Hannah Arendt said,

Hannah Arendt sagte,

"The sad truth

"Die traurige Wahrheit ist,

is that most evil done in this world

dass das meiste Böse, was auf dieser Welt getan wird,

is not done by people

nicht von Menschen getan wird,

who choose to be evil.

die sich dazu entscheiden, schlecht zu sein.

It arises from not thinking."

Es kommt dadurch, dass sie nicht nachdenken."

That's what she called the "banality of evil."

Das ist es, was wir die "Banalität des Bösen" nennen.

And the response to that

Und die Antwort darauf ist,

is that we demand the exercise of thinking

dass wir Übung im Denken verlangen

from every sane person.

von jeder normalen Person.

So let's do that. Let's think.

Also lassen Sie uns das tun. Lassen Sie uns nachdenken.

In fact, let's start right now.

Lassen Sie uns jetzt gleich damit anfange.

Every person in this room do this:

Jede Person in diesem Raum tut das folgende:

think of the last time you had a decision to make

denken Sie an das letzte Mal, als Sie eine Entscheidung treffen mussten

where you were worried to do the right thing,

und sich darum sorgten, das Richtige zu tun,

where you wondered, "What should I be doing?"

wo Sie sich gefragt haben, "Was sollte ich tun?"

Bring that to mind,

Rufen Sie sich das in Erinnerung.

and now reflect on that

Und jetzt reflektieren Sie das

and say, "How did I come up that decision?

und sagen sich, "Wie kam ich zu meiner Entscheidung?"

What did I do? Did I follow my gut?

Was habe ich getan? Habe ich auf meinen Bauch gehört?

Did I have somebody vote on it? Or did I punt to legal?"

Habe ich jemanden abstimmen lassen? Oder habe ich es auf den Rechtsdienst abgeschoben?

Or now we have a few more choices.

Jetzt haben wir noch einige Möglichkeiten mehr.

"Did I evaluate what would be the highest pleasure

"Habe ich untersucht, was das meiste Vergnügen zur Folge hat,

like Mill would?

wie Mill es tun würde?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Oder habe ich wie Kant meine Vernunft benutzt, um herauszufinden, was intrinsisch richtig ist?"

Think about it. Really bring it to mind. This is important.

Denken Sie darüber nach. Rufen Sie es sich richtig in Erinnerung. Das ist wichtig.

It is so important

Es ist so wichtig,

we are going to spend 30 seconds of valuable TEDTalk time

dass wir 30 Sekunden wertvoller TEDTalk-Zeit darauf verwenden werden,

doing nothing but thinking about this.

nichts anderes zu tun, als darüber nachzudenken.

Are you ready? Go.

Sind Sie bereit? Los.

Stop. Good work.

Stopp. Gute Arbeit.

What you just did,

Was Sie gerade getan haben,

that's the first step towards taking responsibility

ist der erste Schritt dazu, Verantwortung dafür zu übernehmen,

for what we should do with all of our power.

was wir mit all unserer Macht tun sollten.

Now the next step -- try this.

Jetzt der nächste Schritt – versuchen Sie das.

Go find a friend and explain to them

Gehen Sie zu einem Freund und erklären Sie ihm,

how you made that decision.

wie Sie diese Entscheidung gefällt haben.

Not right now. Wait till I finish talking.

Nicht jetzt. Warten Sie, bis ich fertig gesprochen habe.

Do it over lunch.

Tun Sie es in der Mittagspause.

And don't just find another technologist friend;

Und finden Sie nicht einfach einen anderen Freund aus der Technologie,

find somebody different than you.

finden Sie jemanden, der anders ist als Sie.

Find an artist or a writer --

Finden Sie einen Künstler oder einen Autoren –

or, heaven forbid, find a philosopher and talk to them.

oder, Gott bewahre, finden Sie einen Philosophen und sprechen Sie mit ihm.

In fact, find somebody from the humanities.

Tatsächlich sollten Sie einen Geisteswissenschaftler finden.

Why? Because they think about problems

Warum? Weil sie anders über Probleme nachdenken,

differently than we do as technologists.

als wir das als Technologen tun.

Just a few days ago, right across the street from here,

Vor einigen Tagen waren hier auf der anderen Strassenseite

there was hundreds of people gathered together.

Hunderte von Menschen versammelt.

It was technologists and humanists

Es gab Technologen und Geisteswissenschaftler

at that big BiblioTech Conference.

an dieser grossen BiblioTech Konferenz.

And they gathered together

Sie kamen zusammen,

because the technologists wanted to learn

weil die Technologen lernen wollten,

what it would be like to think from a humanities perspective.

wie es wäre, aus einer geisteswissenschaftlichen Perspektive zu denken.

You have someone from Google

Da hat man dann jemanden von Google,

talking to someone who does comparative literature.

im Gespräch mit jemandem der Literaturvergleiche macht.

You're thinking about the relevance of 17th century French theater --

Man denkt über die Relevant des Französischen Theaters im 17. Jahrhundert nach –

how does that bear upon venture capital?

wie kommt das gegen Venture Kapital an?

Well that's interesting. That's a different way of thinking.

Das ist interessant. Das ist eine andere Art zu denken.

And when you think in that way,

Wenn man auf diese Weise nachdenkt,

you become more sensitive to the human considerations,

wird man sensibler für menschliche Überlegungen,

which are crucial to making ethical decisions.

die entscheidend für ethische Entscheidungen sind.

So imagine that right now

Stellen Sie sich vor, dass Sie genau jetzt

you went and you found your musician friend.

losgegangen sind und Ihren Musikerfreund getroffen haben.

And you're telling him what we're talking about,

Sie erzählen ihm, worüber wir hier sprechen,

about our whole data revolution and all this --

über unsere ganze Datenrevolution und all das –

maybe even hum a few bars of our theme music.

vielleicht summen Sie sogar ein paar Takte unserer Titelmusik.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Ihr Musikerfreund wird Sie stoppen und sagen,

"You know, the theme music

"Weisst Du, diese Titelmusik

for your data revolution,

für Eure Datenrevolution,

that's an opera, that's Wagner.

das ist eine Oper, das ist Wagner.

It's based on Norse legend.

Sie basiert auf einer nordischen Legende.

It's Gods and mythical creatures

Es geht um Götter und mystische Kreaturen,

fighting over magical jewelry."

die um magische Juwelen kämpfen."

That's interesting.

Das ist interessant.

Now it's also a beautiful opera,

Es ist auch eine wunderschöne Oper.

and we're moved by that opera.

Und die Oper bewegt uns.

We're moved because it's about the battle

Wir sind bewegt, weil es um die Schlacht geht

between good and evil,

zwischen Gut und Böse,

about right and wrong.

zwischen Richtig und Falsch.

And we care about right and wrong.

Richtig und Falsch sind wichtig für uns.

We care what happens in that opera.

Was in dieser Oper geschieht, ist wichtig für uns.

We care what happens in "Apocalypse Now."

Was in "Apocalypse Now" geschieht, ist wichtig für uns.

And we certainly care

Und auf jeden Fall ist es wichtig für uns,

what happens with our technologies.

was mit unseren Technologien geschieht.

We have so much power today,

Wir haben heute soviel Macht,

it is up to us to figure out what to do,

es liegt an uns, herauszufinden, was zu tun ist.

and that's the good news.

Und das sind gute Neuigkeiten.

We're the ones writing this opera.

Wir sind diejenigen, die die Oper schreiben.

This is our movie.

Das ist unser Film.

We figure out what will happen with this technology.

WIr finden heraus, was mit dieser Technologie geschieht.

We determine how this will all end.

Wir legen fest, wie das alles enden wird.

Thank you.

Dankeschön.

(Applause)

(Applaus)