Damon Horowitz calls for a "moral operating system"

Vertaald door: Kyon Adriaans Nagekeken door: Els De Keyser

Power.

Macht.

That is the word that comes to mind.

Dat is het woord waaraan ik moet denken.

We're the new technologists.

We zijn de nieuwe technologen.

We have a lot of data, so we have a lot of power.

We hebben een heleboel data, dus we hebben een heleboel macht.

How much power do we have?

Hoeveel macht hebben we?

Scene from a movie: "Apocalypse Now" -- great movie.

Scène uit een film: "Apocalypse Now" -- geweldige film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

We moeten onze held, Kap. Willard, bij de monding van de Nung rivier krijgen

so he can go pursue Colonel Kurtz.

zodat hij achter Kol. Kurtz aan kan gaan.

The way we're going to do this is fly him in and drop him off.

We gaan dat doen door hem er naartoe te vliegen en af te zetten.

So the scene:

Dus de scène:

the sky is filled with this fleet of helicopters carrying him in.

de horizon is gevuld met een vloot helikopters die hem brengt.

And there's this loud, thrilling music in the background,

Er is luide, spannende muziek op de achtergrond,

this wild music.

ruige muziek.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Dat is een heleboel macht.

That's the kind of power I feel in this room.

Dat is het soort macht dat ik in deze ruimte voel.

That's the kind of power we have

Dat is het soort macht dat wij hebben

because of all of the data that we have.

door alle data die we hebben.

Let's take an example.

Laten we een voorbeeld nemen.

What can we do

Wat kunnen we doen

with just one person's data?

met de data van maar één persoon?

What can we do

Wat kunnen we doen

with that guy's data?

met de data van die kerel?

I can look at your financial records.

Ik kan je financiële gegevens bekijken.

I can tell if you pay your bills on time.

Ik kan zeggen of jij je rekeningen op tijd betaalt.

I know if you're good to give a loan to.

Ik weet of je kredietwaardig bent.

I can look at your medical records; I can see if your pump is still pumping --

Ik kan je medische gegevens bekijken, ik kan zien of je rikketik nog tikt --

see if you're good to offer insurance to.

zien of je we je een verzekering kunnen aanbieden.

I can look at your clicking patterns.

Ik kan je klikpatronen bekijken.

When you come to my website, I actually know what you're going to do already

Wanneer je op mijn website komt, weet ik eigenlijk al wat je gaat doen,

because I've seen you visit millions of websites before.

want hiervoor heb ik je miljoenen websites zien bezoeken.

And I'm sorry to tell you,

En het spijt me dat ik het je zeg,

you're like a poker player, you have a tell.

je bent als een pokerspeler, je hebt een "tell".

I can tell with data analysis what you're going to do

Ik kan door middel van data-analyse zeggen wat je gaat doen

before you even do it.

zelfs voordat je het doet.

I know what you like. I know who you are,

Ik weet wat je leuk vindt. Ik weet wie je bent.

and that's even before I look at your mail

En dat is nog voordat ik naar je post kijk

or your phone.

of naar je telefoon.

Those are the kinds of things we can do

Dat is het soort dingen dat we kunnen doen

with the data that we have.

met de data die we hebben.

But I'm not actually here to talk about what we can do.

Maar ik ben eigenlijk niet hier om te praten over wat we kúnnen doen.

I'm here to talk about what we should do.

Ik ben hier om te praten over wat we zouden moeten doen.

What's the right thing to do?

Wat is het juiste om te doen?

Now I see some puzzled looks

Nu zie ik wat verbaasde blikken:

like, "Why are you asking us what's the right thing to do?

"Waarom vraag je ons wat het juiste is om te doen?

We're just building this stuff. Somebody else is using it."

We bouwen dit spul alleen. Iemand anders gebruikt het."

Fair enough.

Niets mis mee.

But it brings me back.

Maar het laat me terugdenken.

I think about World War II --

Ik denk aan de Tweede Wereldoorlog --

some of our great technologists then,

sommige van onze grootse technologen toen,

some of our great physicists,

sommige van onze grootse natuurkundigen

studying nuclear fission and fusion --

die kernsplijting en kernfusie bestudeerden --

just nuclear stuff.

nucleaire dingen.

We gather together these physicists in Los Alamos

We brengen deze natuurkundigen bijeen in Los Alamos

to see what they'll build.

om te zien wat zij gaan maken.

We want the people building the technology

We willen dat de mensen die de technologie ontwikkelen,

thinking about what we should be doing with the technology.

nadenken over wat we zouden moeten doen met de technologie.

So what should we be doing with that guy's data?

Dus wat zouden we moeten doen met de data van die kerel?

Should we be collecting it, gathering it,

Moeten we ze inzamelen, verzamelen,

so we can make his online experience better?

zodat we zijn online belevenis beter kunnen maken?

So we can make money?

Zodat we geld kunnen verdienen?

So we can protect ourselves

Zodat we onszelf kunnen beschermen

if he was up to no good?

wanneer hij iets slechts van plan zou zijn?

Or should we respect his privacy,

Of moeten we zijn privacy respecteren,

protect his dignity and leave him alone?

zijn waardigheid beschermen en hem met rust laten?

Which one is it?

Welke van de twee is het?

How should we figure it out?

Hoe zouden we daar achter kunnen komen?

I know: crowdsource. Let's crowdsource this.

Ik weet het: "crowdsourcen". Laten we dit "crowdsourcen".

So to get people warmed up,

Laten we, om op te warmen,

let's start with an easy question --

beginnen met een makkelijke vraag --

something I'm sure everybody here has an opinion about:

iets waar iedereen hier wel een mening over heeft:

iPhone versus Android.

iPhone versus Android.

Let's do a show of hands -- iPhone.

Laten we handen tellen -- iPhone.

Uh huh.

Uh huh.

Android.

Android.

You'd think with a bunch of smart people

Je zou denken dat met een groep slimme mensen

we wouldn't be such suckers just for the pretty phones.

we niet zo'n zwakte zouden hebben voor de mooie telefoons.

(Laughter)

(Gelach)

Next question,

Volgende vraag,

a little bit harder.

een beetje moeilijker.

Should we be collecting all of that guy's data

Zouden we de data van die kerel moeten inzamelen

to make his experiences better

om zijn belevenissen te verbeteren

and to protect ourselves in case he's up to no good?

en onszelf te beschermen wanneer hij iets slechts van plan is?

Or should we leave him alone?

Of moeten we hem met rust laten?

Collect his data.

Verzamel zijn data.

Leave him alone.

Laat hem met rust.

You're safe. It's fine.

Je zit veilig. Het is al goed.

(Laughter)

(Gelach)

Okay, last question --

Oké, laatste vraag --

harder question --

moeilijkere vraag --

when trying to evaluate

wanneer we proberen te beoordelen

what we should do in this case,

wat we zouden moeten doen in dit geval,

should we use a Kantian deontological moral framework,

moeten we dan een kantiaans, deontologisch ethisch kader gebruiken,

or should we use a Millian consequentialist one?

of een milliaans, consequentialistisch kader?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Niet zoveel stemmen als net.

(Laughter)

(Gelach)

Yeah, that's a terrifying result.

Ja, dat is een verschikkelijk resultaat.

Terrifying, because we have stronger opinions

Verschrikkelijk, omdat we een sterkere mening hebben

about our hand-held devices

over onze mobiele apparaten

than about the moral framework

dan over het ethisch kader

we should use to guide our decisions.

dat we zouden moeten gebruiken om richting te geven aan onze beslissingen.

How do we know what to do with all the power we have

Hoe weten we wat we moeten doen met al de macht die we hebben

if we don't have a moral framework?

als we geen ethish kader hebben?

We know more about mobile operating systems,

We weten meer over mobiele besturingssystemen,

but what we really need is a moral operating system.

maar wat we echt nodig hebben is een ethisch besturingssysteem.

What's a moral operating system?

Wat is een ethisch besturingssysteem?

We all know right and wrong, right?

We weten allemaal wat goed of fout is.

You feel good when you do something right,

Je voelt je goed wanneer je iets goed doet,

you feel bad when you do something wrong.

je voelt je slecht wanneer je iets fout doet.

Our parents teach us that: praise with the good, scold with the bad.

Onze ouders leren ons dat: wie zoet is krijgt lekkers, wie stout is de roe.

But how do we figure out what's right and wrong?

Maar hoe kunnen we bepalen wat goed en fout is?

And from day to day, we have the techniques that we use.

In onze dagelijkse routine gebruiken we daar bepaalde technieken voor.

Maybe we just follow our gut.

Misschien gaan we op ons gevoel af.

Maybe we take a vote -- we crowdsource.

Misschien houden we een stemming -- we "crowdsourcen".

Or maybe we punt --

Of misschien geven we het op --

ask the legal department, see what they say.

vraag het de juridische afdeling, kijk wat zij zeggen.

In other words, it's kind of random,

Met andere woorden, het is wat willekeurig,

kind of ad hoc,

nogal ad hoc,

how we figure out what we should do.

hoe we bepalen wat we zouden moeten doen.

And maybe, if we want to be on surer footing,

Als we meer houvast willen,

what we really want is a moral framework that will help guide us there,

is onze echte nood misschien een ethisch kader dat ons kan leiden,

that will tell us what kinds of things are right and wrong in the first place,

dat ons zegt welke soort dingen goed en fout zijn op de eerste plaats,

and how would we know in a given situation what to do.

en hoe we in een bepaalde situatie kunnen weten wat te doen.

So let's get a moral framework.

Dus laten we een ethisch kader verkrijgen.

We're numbers people, living by numbers.

We zijn cijfermensen, we leven met cijfers.

How can we use numbers

Hoe kunnen we cijfers gebruiken

as the basis for a moral framework?

als basis voor een ethisch kader?

I know a guy who did exactly that.

Ik ken een man die precies dat heeft gedaan,

A brilliant guy --

Een briljante kerel --

he's been dead 2,500 years.

hij is al 2.500 jaar dood.

Plato, that's right.

Plato, juist.

Remember him -- old philosopher?

Herinner je hem -- oude filosoof?

You were sleeping during that class.

Je lag te slapen tijdens die les.

And Plato, he had a lot of the same concerns that we did.

Plato was bezorgd over veelal dezelfde dingen zoals wij.

He was worried about right and wrong.

Hij bekommerde zich over goed en slecht.

He wanted to know what is just.

Hij wilde weten wat juist is.

But he was worried that all we seem to be doing

Maar het verontrustte hem dat het enige wat we lijken te doen,

is trading opinions about this.

het uitwisselen van meningen is.

He says something's just. She says something else is just.

Hij zegt iets wat juist is. Zij zegt iets anders wat juist is.

It's kind of convincing when he talks and when she talks too.

Wat hij zegt klinkt overtuigend en wat zij zegt ook.

I'm just going back and forth; I'm not getting anywhere.

Ik ga alleen heen en weer; zo kom ik nergens.

I don't want opinions; I want knowledge.

Ik wil geen meningen, ik wil kennis.

I want to know the truth about justice --

Ik wil de waarheid weten over rechtvaardigheid --

like we have truths in math.

zoals we waarheden kennen in de wiskunde.

In math, we know the objective facts.

In de wiskunde kennen we de objectieve feiten.

Take a number, any number -- two.

Neem een getal, welk getal dan ook -- twee.

Favorite number. I love that number.

Favoriete getal. Ik hou van dat getal.

There are truths about two.

Er zijn waarheden over twee.

If you've got two of something,

Als je twee van iets hebt,

you add two more, you get four.

en je doet er twee bij, dan krijg je vier.

That's true no matter what thing you're talking about.

Dat is waar ongeacht het ding waarover je het hebt.

It's an objective truth about the form of two,

Het is een objectieve waarheid over de Idee van twee,

the abstract form.

de abstracte vorm.

When you have two of anything -- two eyes, two ears, two noses,

Wanneer je twee dingen hebt van iets -- twee ogen, twee oren, twee neuzen,

just two protrusions --

gewoon twee uitsteeksels --

those all partake of the form of two.

dan hebben die alle deel aan de Idee van twee.

They all participate in the truths that two has.

Ze nemen alle deel aan de waarheden die twee heeft.

They all have two-ness in them.

Ze hebben alle tweeheid in zich.

And therefore, it's not a matter of opinion.

En daarom is het geen kwestie van mening.

What if, Plato thought,

Wat als, dacht Plato,

ethics was like math?

ethiek zou zijn zoals wiskunde?

What if there were a pure form of justice?

Wat als er een zuivere Idee van rechtvaardigheid zou zijn?

What if there are truths about justice,

Wat als er waarheden zijn over rechtvaardigheid,

and you could just look around in this world

en je gewoon zou kunnen rondkijken in deze wereld

and see which things participated,

en zien welke dingen,

partook of that form of justice?

deel hebben aan die Idee van rechtvaardigheid?

Then you would know what was really just and what wasn't.

Dan zou je weten wat echt juist is en wat niet.

It wouldn't be a matter

Het zou geen zaak zijn

of just opinion or just appearances.

van gewoon een mening of gewoon schijn.

That's a stunning vision.

Dat is een sensationele visie.

I mean, think about that. How grand. How ambitious.

Ik bedoel, stel je eens voor. Hoe groots. Hoe ambitieus.

That's as ambitious as we are.

Dat is zo ambitieus als wij zijn.

He wants to solve ethics.

Hij wil ethiek oplossen.

He wants objective truths.

Hij wil objectieve waarheden.

If you think that way,

Als je zo denkt,

you have a Platonist moral framework.

heb je een platonisch ethisch kader.

If you don't think that way,

Als je niet zo denkt,

well, you have a lot of company in the history of Western philosophy,

nou, dan heb je veel gezelschap in de geschiedenis van de westerse filosofie,

because the tidy idea, you know, people criticized it.

omdat er veel kritiek kwam op het aardige idee.

Aristotle, in particular, he was not amused.

Aristoteles in het bijzonder, werd er niet vrolijk van.

He thought it was impractical.

Hij vond het onpraktisch.

Aristotle said, "We should seek only so much precision in each subject

Aristoteles zei: "We moeten voor elk onderwerp maar zoveel precisie nastreven

as that subject allows."

als het onderwerp toelaat."

Aristotle thought ethics wasn't a lot like math.

Aristoteles vond niet dat ethiek vergelijkbaar was met wiskunde.

He thought ethics was a matter of making decisions in the here-and-now

Hij dacht dat ethiek een zaak was van beslissingen nemen in het hier en nu

using our best judgment

zo goed mogelijk oordelen

to find the right path.

om het juiste pad te vinden.

If you think that, Plato's not your guy.

Als je dat denkt, dan is Plato niet jouw man.

But don't give up.

Maar geef niet op.

Maybe there's another way

Misschien is er een andere manier

that we can use numbers as the basis of our moral framework.

om getallen te gebruiken als de basis voor ons ethisch kader.

How about this:

Stel je voor:

What if in any situation you could just calculate,

wat als, in welke situatie ook, je gewoon zou kunnen berekenen,

look at the choices,

de keuzes bekijken,

measure out which one's better and know what to do?

afwegen welke beter is en weten wat te doen?

That sound familiar?

Dat klinkt bekend?

That's a utilitarian moral framework.

Dat is een utilitaristisch ethisch kader.

John Stuart Mill was a great advocate of this --

John Stuart Mill was hier een pleitbezorger van --

nice guy besides --

aardige kerel trouwens --

and only been dead 200 years.

en pas 200 jaar dood.

So basis of utilitarianism --

Dus de basis van utilitarisme --

I'm sure you're familiar at least.

Ik weet zeker dat je er minstens bekend mee bent.

The three people who voted for Mill before are familiar with this.

De drie mensen die eerder voor Mill stemden zijn hier bekend mee.

But here's the way it works.

Het werkt zo.

What if morals, what if what makes something moral

Wat als fatsoen, wat als dat wat iets zedelijk maakt,

is just a matter of if it maximizes pleasure

slechts een kwestie is van of het plezier maximaliseert

and minimizes pain?

en pijn minimaliseert?

It does something intrinsic to the act.

Het heeft een intrinsiek effect op de handeling.

It's not like its relation to some abstract form.

Het is niet zoals haar relatie tot een abstracte vorm.

It's just a matter of the consequences.

Het is enkel een zaak van de consequenties.

You just look at the consequences

Je kijkt simpelweg naar de consequenties

and see if, overall, it's for the good or for the worse.

en ziet of het, in totaliteit, ten goede of ten kwade is.

That would be simple. Then we know what to do.

Dat zou simpel zijn. Dan weten we wat te doen.

Let's take an example.

Laten we een voorbeeld nemen.

Suppose I go up

Stel dat ik een stap verder ga

and I say, "I'm going to take your phone."

en ik zeg: "Ik ga jouw telefoon afnemen."

Not just because it rang earlier,

Niet enkel omdat deze daarnet overging,

but I'm going to take it because I made a little calculation.

maar ik ga hem afnemen omdat ik een kleine berekening heb gemaakt.

I thought, that guy looks suspicious.

Ik dacht: die kerel ziet verdacht uit.

And what if he's been sending little messages to Bin Laden's hideout --

Wat als hij berichtjes aan het sturen is naar Bin Ladens schuilplaats --

or whoever took over after Bin Laden --

of wie het ook overgenomen heeft na Bin Laden --

and he's actually like a terrorist, a sleeper cell.

en hij is eigenlijk een terrorist, een "sleeper cell".

I'm going to find that out, and when I find that out,

Ik ga daar achter komen, en wanneer ik daar achter kom,

I'm going to prevent a huge amount of damage that he could cause.

ga ik een enorme hoeveelheid schade voorkomen die hij zou kunnen veroorzaken.

That has a very high utility to prevent that damage.

Dat heeft erg veel nut om die schade te voorkomen.

And compared to the little pain that it's going to cause --

Vergeleken met de geringe pijn die het gaat aanrichten --

because it's going to be embarrassing when I'm looking on his phone

want het zal gênant zijn wanneer ik zijn telefoon bekijk

and seeing that he has a Farmville problem and that whole bit --

en zie dat hij een "Farmville" probleem heeft en de hele mikmak --

that's overwhelmed

dat is niets vergeleken

by the value of looking at the phone.

met de waarde van het bekijken van de telefoon.

If you feel that way,

Als je het daar mee eens bent,

that's a utilitarian choice.

dan is dat een utilitaristische keuze.

But maybe you don't feel that way either.

Maar misschien ben je het daar ook niet mee eens.

Maybe you think, it's his phone.

Misschien denk je: het is zijn telefoon.

It's wrong to take his phone

Het is verkeerd om zijn telefoon te pakken,

because he's a person

want hij is een persoon

and he has rights and he has dignity,

en hij heeft rechten en hij heeft waardigheid,

and we can't just interfere with that.

en we kunnen daar niet zomaar inbreuk op maken.

He has autonomy.

Hij heeft autonomie.

It doesn't matter what the calculations are.

Het maakt niet uit wat de berekeningen zijn.

There are things that are intrinsically wrong --

Er zijn dingen die intrinsiek verkeerd zijn --

like lying is wrong,

zoals liegen verkeerd is,

like torturing innocent children is wrong.

zoals het martelen van onschuldige kinderen verkeerd is.

Kant was very good on this point,

Kant was erg sterk op dit punt,

and he said it a little better than I'll say it.

en hij zei het iets beter dan hoe ik het zeg.

He said we should use our reason

Hij zei dat we onze rede moeten gebruiken

to figure out the rules by which we should guide our conduct,

om tot de regels te komen waarmee we ons gedrag dienen te sturen.

and then it is our duty to follow those rules.

En dan is het onze plicht

It's not a matter of calculation.

om die regels te volgen. Het is geen zaak van berekening.

So let's stop.

Dus laten we stoppen.

We're right in the thick of it, this philosophical thicket.

We zitten er midden in, in deze filosofische wirwar.

And this goes on for thousands of years,

En dit gaat zo duizenden jaren door,

because these are hard questions,

want dit zijn lastige vragen,

and I've only got 15 minutes.

en ik heb maar 15 minuten.

So let's cut to the chase.

Laten we ons beperken tot de hoofdvraag.

How should we be making our decisions?

Hoe moeten we onze beslissingen nemen?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Is het Plato, is het Aristoteles, is het Kant, is het Mill?

What should we be doing? What's the answer?

Wat moeten we doen? Wat is het antwoord?

What's the formula that we can use in any situation

Wat is de formule die we kunnen gebruiken

to determine what we should do,

in elke situatie om te bepalen wat we moeten doen,

whether we should use that guy's data or not?

of we die kerel zijn data moeten gebruiken of niet?

What's the formula?

Wat is de formule?

There's not a formula.

Er is geen formule.

There's not a simple answer.

Er is geen simpel antwoord.

Ethics is hard.

Ethiek is moeilijk.

Ethics requires thinking.

Ethiek vereist denkwerk.

And that's uncomfortable.

En dat is ongemakkelijk.

I know; I spent a lot of my career

Ik weet het. Tijdens mijn carrière heb ik me veel beziggehouden

in artificial intelligence,

met kunstmatige intelligentie,

trying to build machines that could do some of this thinking for us,

geprobeerd om machines te bouwen die wat van dit denken voor ons kunnen doen,

that could give us answers.

die ons antwoorden kunnen geven.

But they can't.

Maar ze kunnen het niet.

You can't just take human thinking

Je kunt niet zomaar menselijk denken nemen

and put it into a machine.

en het in een machine stoppen.

We're the ones who have to do it.

Wij zijn degenen die het moeten doen.

Happily, we're not machines, and we can do it.

Gelukkig zijn wij geen machines en kunnen we het doen.

Not only can we think,

Niet alleen kunnen we denken,

we must.

we moeten.

Hannah Arendt said,

Hannah Arendt zei:

"The sad truth

"De trieste waarheid

is that most evil done in this world

is dat het meeste kwaad in deze wereld

is not done by people

niet is gedaan door mensen

who choose to be evil.

die kiezen om slecht te zijn.

It arises from not thinking."

Het komt voort uit niet denken."

That's what she called the "banality of evil."

Dat is wat zij noemde "de banaliteit van het kwaad".

And the response to that

De reactie daarop

is that we demand the exercise of thinking

is dat we elk weldenkend persoon

from every sane person.

verzoeken om na te denken.

So let's do that. Let's think.

Dus laten we dat doen. Laten we nadenken.

In fact, let's start right now.

Sterker nog, laten we nu meteen beginnen.

Every person in this room do this:

Iedereen in deze ruimte, doe dit:

think of the last time you had a decision to make

denk aan de laatste keer dat je een beslissing moest nemen

where you were worried to do the right thing,

waarbij je bezorgd was om het juiste te doen,

where you wondered, "What should I be doing?"

waarbij je jezelf afvroeg: "Wat zou ik moeten doen?"

Bring that to mind,

Neem dat in gedachten.

and now reflect on that

Reflecteer daar nu over

and say, "How did I come up that decision?

en zeg: "Hoe kwam ik tot die beslissing?

What did I do? Did I follow my gut?

Wat heb ik gedaan? Volgde ik mijn intuïtie?

Did I have somebody vote on it? Or did I punt to legal?"

Liet ik erover stemmen? Of schoof ik het af naar juridisch?"

Or now we have a few more choices.

We hebben nu een paar keuzes extra.

"Did I evaluate what would be the highest pleasure

"Heb ik beoordeeld wat

like Mill would?

het meeste plezier zou opleveren zoals Mill zou doen?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Of heb ik, zoals Kant, de rede gebruikt om erachter te komen wat intrinsiek goed was?"

Think about it. Really bring it to mind. This is important.

Denk erover. Hou het goed in gedachten. Dit is belangrijk.

It is so important

Het is zo belangrijk

we are going to spend 30 seconds of valuable TEDTalk time

dat we 30 seconden waardevolle TEDTalk tijd gaan besteden

doing nothing but thinking about this.

aan niets anders dan hierover denken.

Are you ready? Go.

Ben je er klaar voor? Start.

Stop. Good work.

Stop. Goed werk.

What you just did,

Wat je zojuist deed,

that's the first step towards taking responsibility

dat is de eerste stap richting het nemen van verantwoordelijkheid

for what we should do with all of our power.

voor wat we moeten doen met al onze macht.

Now the next step -- try this.

Nu de volgende stap -- probeer dit.

Go find a friend and explain to them

Ga naar een vriend en leg hem uit

how you made that decision.

hoe je die beslissing genomen hebt.

Not right now. Wait till I finish talking.

Niet nu meteen. Wacht tot ik klaar ben met praten.

Do it over lunch.

Doe het tijdens de lunch.

And don't just find another technologist friend;

En ga niet weer naar een vriend-technoloog;

find somebody different than you.

zoek iemand, anders dan jezelf.

Find an artist or a writer --

Zoek een artiest of een schrijver --

or, heaven forbid, find a philosopher and talk to them.

of, god verhoede, ga naar een filosoof en praat met hem.

In fact, find somebody from the humanities.

Ga naar iemand van de geesteswetenschappen.

Why? Because they think about problems

Waarom? Omdat zij anders over problemen nadenken

differently than we do as technologists.

dan dat wij doen als technologen.

Just a few days ago, right across the street from here,

Pas een paar dagen geleden zijn hier aan de overkant van de straat,

there was hundreds of people gathered together.

honderden mensen samengekomen.

It was technologists and humanists

Het waren technologen en humanisten

at that big BiblioTech Conference.

bij die grote BiblioTech-conferentie.

And they gathered together

Zij kwamen samen

because the technologists wanted to learn

omdat de technologen wilden leren

what it would be like to think from a humanities perspective.

hoe het zou zijn om te denken vanuit een geesteswetenschappelijk perspectief.

You have someone from Google

Je hebt iemand van Google

talking to someone who does comparative literature.

die praat met iemand die bezig is met vergelijkende literatuurwetenschap.

You're thinking about the relevance of 17th century French theater --

Je denkt over de relevantie van 17e-eeuws Frans theater --

how does that bear upon venture capital?

wat heeft dat te maken met durfkapitaal?

Well that's interesting. That's a different way of thinking.

Dat is interessant. Dat is een andere manier van denken.

And when you think in that way,

En als je op die manier denkt,

you become more sensitive to the human considerations,

dan word je gevoeliger voor de menselijke overwegingen,

which are crucial to making ethical decisions.

die cruciaal zijn voor het maken van ethische beslissingen.

So imagine that right now

Stel je dus voor dat je op dit moment

you went and you found your musician friend.

je vriend-muzikant was gaan opzoeken.

And you're telling him what we're talking about,

Je vertelt hem waar wij het over hebben,

about our whole data revolution and all this --

over onze hele datarevolutie en alles --

maybe even hum a few bars of our theme music.

misschien neurie je zelf een paar maten van onze herkenningsmelodie.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Je vriend-muzikant

"You know, the theme music

zal je onderbreken en zeggen: "Weet je,

for your data revolution,

de herkenningsmelodie voor jouw datarevolutie,

that's an opera, that's Wagner.

dat is een opera,

It's based on Norse legend.

dat is Wagner. Het is gebaseerd op een Noordse mythe.

It's Gods and mythical creatures

Het zijn goden en mythische wezens

fighting over magical jewelry."

die strijden om magische juwelen."

That's interesting.

Dat is interessant.

Now it's also a beautiful opera,

Het is ook een mooie opera.

and we're moved by that opera.

En we zijn ontroerd door die opera.

We're moved because it's about the battle

We zijn ontroerd omdat het over een strijd gaat

between good and evil,

tussen goed en kwaad,

about right and wrong.

over juist en fout.

And we care about right and wrong.

En we geven om juist en fout.

We care what happens in that opera.

We geven om wat er gebeurt in die opera.

We care what happens in "Apocalypse Now."

We geven om wat er gebeurt in "Apocalypse Now."

And we certainly care

En we geven zeker om

what happens with our technologies.

wat er gebeurt met onze technologieën.

We have so much power today,

We hebben zo veel macht vandaag.

it is up to us to figure out what to do,

Het is aan ons om uit te zoeken wat te doen.

and that's the good news.

En dat is het goede nieuws.

We're the ones writing this opera.

Wij zijn degenen die deze opera schrijven.

This is our movie.

Dit is onze film.

We figure out what will happen with this technology.

Wij maken uit wat er zal gebeuren met deze technologie.

We determine how this will all end.

Wij bepalen hoe dit alles gaat aflopen.

Thank you.

Dank u.

(Applause)

(Applaus)