Damon Horowitz calls for a "moral operating system"

Damon Horowitz en appelle à un « système d'exploitation moral »

Traducteur: Hugo Wagner Relecteur: Timothée Parrique

Power.

Le pouvoir.

That is the word that comes to mind.

C'est le mot qui vient à l'esprit.

We're the new technologists.

Nous sommes les nouveaux technologues.

We have a lot of data, so we have a lot of power.

Nous avons beaucoup de données, donc nous avons beaucoup de pouvoir.

How much power do we have?

Quelle quantité de pouvoir avons-nous ?

Scene from a movie: "Apocalypse Now" -- great movie.

Une scène du film "Apocalypse Now" -- un grand film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Nous devons amener notre héros, le capitaine Willard, à l'embouchure de la rivière Nung,

so he can go pursue Colonel Kurtz.

pour qu'il puisse poursuivre le colonel Kurtz.

The way we're going to do this is fly him in and drop him off.

Pour cela, nous allons le transporter en hélico et le déposer.

So the scene:

Dans cette scène :

the sky is filled with this fleet of helicopters carrying him in.

le ciel est rempli de cette flotte d'hélicoptères qui le transportent.

And there's this loud, thrilling music in the background,

Il y a cette musique bruyante et palpitante en fond,

this wild music.

cette musique effrénée.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

C'est un grand pouvoir.

That's the kind of power I feel in this room.

C'est le genre de pouvoir que je ressens dans cette pièce.

That's the kind of power we have

C'est le genre de pouvoir que nous avons

because of all of the data that we have.

grâce à toutes les données que nous possédons.

Let's take an example.

Prenons un exemple.

What can we do

Que pouvons-nous faire

with just one person's data?

avec les données d'une seule personne ?

What can we do

Que pouvons-nous faire

with that guy's data?

avec les données de ce type ?

I can look at your financial records.

Je peux regarder vos registres financiers.

I can tell if you pay your bills on time.

Je peux vous dire si vous payez vos factures à temps.

I know if you're good to give a loan to.

Je sais alors si je peux vous faire un prêt.

I can look at your medical records; I can see if your pump is still pumping --

Je peux regarder votre dossier médical, je peux voir si votre cœur fonctionne bien --

see if you're good to offer insurance to.

voir si je peux vous proposer une assurance.

I can look at your clicking patterns.

Je peux regarder où vous cliquez sur Internet.

When you come to my website, I actually know what you're going to do already

Quand vous visitez mon site, je sais déjà ce que vous allez faire,

because I've seen you visit millions of websites before.

parce que je vous ai vu visiter des millions de sites auparavant.

And I'm sorry to tell you,

Je suis désolé de vous dire,

you're like a poker player, you have a tell.

vous êtes comme un joueur de poker, vous avez des manies.

I can tell with data analysis what you're going to do

Je peux dire grâce à l'analyse de données ce que vous allez faire

before you even do it.

avant même que vous ne le fassiez.

I know what you like. I know who you are,

Je sais ce que vous aimez. Je sais qui vous êtes.

and that's even before I look at your mail

Et cela avant même que je regarde votre courrier

or your phone.

ou votre téléphone.

Those are the kinds of things we can do

Ce sont le genre de choses que nous pouvons faire

with the data that we have.

avec les données que nous avons.

But I'm not actually here to talk about what we can do.

Mais je ne suis pas là pour parler de ce que nous pouvons faire.

I'm here to talk about what we should do.

Je suis ici pour parler de ce que nous devrions faire.

What's the right thing to do?

Quelle est la bonne chose à faire ?

Now I see some puzzled looks

Je vois des regards perplexes

like, "Why are you asking us what's the right thing to do?

comme « Pourquoi nous demandez-vous quelle est la bonne chose à faire ?

We're just building this stuff. Somebody else is using it."

On ne fait que construire ce truc. Quelqu'un d'autre l'utilise. »

Fair enough.

Très bien.

But it brings me back.

Mais ça me ramène en arrière.

I think about World War II --

Je pense à la deuxième guerre mondiale --

some of our great technologists then,

certains de nos grands technologues de l'époque,

some of our great physicists,

certains de nos grands physiciens,

studying nuclear fission and fusion --

qui étudiaient la fission et la fusion nucléaires --

just nuclear stuff.

juste des trucs nucléaires.

We gather together these physicists in Los Alamos

Nous rassemblons ces physiciens ensemble à Los Alamos

to see what they'll build.

pour voir ce qu'ils vont construire.

We want the people building the technology

Nous voulons que les personnes qui construisent la technologie

thinking about what we should be doing with the technology.

pensent à ce que nous devrions faire avec la technologie.

So what should we be doing with that guy's data?

Que devrions-nous donc faire avec les données de ce type ?

Should we be collecting it, gathering it,

Devrions-nous les collecter, les rassembler,

so we can make his online experience better?

pour optimiser son surf sur Internet ?

So we can make money?

Pour faire de l'argent ?

So we can protect ourselves

Pour que nous puissions nous protéger

if he was up to no good?

s'il a de mauvaises intentions ?

Or should we respect his privacy,

Ou devrions-nous respecter son intimité,

protect his dignity and leave him alone?

protéger sa dignité et le laisser tranquille ?

Which one is it?

Que fait-on ?

How should we figure it out?

Comment décidons-nous ?

I know: crowdsource. Let's crowdsource this.

Je sais : la participation citoyenne. Faisons du crowdsourcing.

So to get people warmed up,

Pour donner de l'entrain aux gens,

let's start with an easy question --

commençons par une question facile --

something I'm sure everybody here has an opinion about:

une chose sur laquelle tout le monde ici a une idée, j'en suis sûr :

iPhone versus Android.

iPhone contre Android.

Let's do a show of hands -- iPhone.

Levez vos mains pour l'iPhone.

Uh huh.

Uh huh.

Android.

Android.

You'd think with a bunch of smart people

Je pensais qu'une assemblée de gens intelligents

we wouldn't be such suckers just for the pretty phones.

ne succomberait pas si facilement aux jolis téléphones.

(Laughter)

(Rires)

Next question,

Question suivante.

a little bit harder.

Un peu plus difficile.

Should we be collecting all of that guy's data

Devrions-nous collecter toutes les données de ce type

to make his experiences better

pour optimiser son surf sur Internet

and to protect ourselves in case he's up to no good?

et pour nous protéger au cas où il aurait de mauvaises intentions ?

Or should we leave him alone?

Ou devrions-nous le laisser tranquille ?

Collect his data.

Rassembler ses données.

Leave him alone.

Le laisser tranquille.

You're safe. It's fine.

Vous êtes hors de danger, c'est bon.

(Laughter)

(Rires)

Okay, last question --

Bien, dernière question --

harder question --

plus difficile --

when trying to evaluate

quand on essaye d'estimer

what we should do in this case,

ce que nous devrions faire dans cette situation,

should we use a Kantian deontological moral framework,

devrions-nous utiliser le système moral déontologique de Kant,

or should we use a Millian consequentialist one?

ou bien le système moral conséquentialiste de Mill ?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Pas autant de voix.

(Laughter)

(Rires)

Yeah, that's a terrifying result.

Oui, c'est un résultat terrifiant.

Terrifying, because we have stronger opinions

Terrifiant, parce que nous avons des opinions plus fortes

about our hand-held devices

sur nos appareils téléphones

than about the moral framework

que sur les systèmes moraux

we should use to guide our decisions.

que nous devrions utiliser pour orienter nos décisions.

How do we know what to do with all the power we have

Que faire de tout le pouvoir que nous avons

if we don't have a moral framework?

si nous n'avons pas de système moral ?

We know more about mobile operating systems,

Nous en savons davantage sur les systèmes d'exploitation de nos téléphones,

but what we really need is a moral operating system.

alors que ce dont nous avons vraiment besoin est d'un système d'exploitation moral.

What's a moral operating system?

Qu'est-ce qu'un système d'exploitation moral ?

We all know right and wrong, right?

Nous connaissons tous le bien et le mal.

You feel good when you do something right,

Vous vous sentez bien quand vous faites quelque chose de juste,

you feel bad when you do something wrong.

vous vous sentez mal quand vous faites le mal.

Our parents teach us that: praise with the good, scold with the bad.

Nos parents nous l'apprennent : louer le bien, réprimander le mal.

But how do we figure out what's right and wrong?

Mais comment savoir ce qui est bien et ce qui est mal ?

And from day to day, we have the techniques that we use.

De jour en jour, nous utilisons des techniques.

Maybe we just follow our gut.

Peut-être que nous suivons simplement notre instinct.

Maybe we take a vote -- we crowdsource.

Peut-être que nous procédons à un vote -- le crowdsourcing.

Or maybe we punt --

Ou peut-être que nous nous déchargeons --

ask the legal department, see what they say.

nous demandons le service juridique, voir ce qu'ils en pensent.

In other words, it's kind of random,

En d'autres mots, c'est plutôt aléatoire,

kind of ad hoc,

c'est plutôt ad hoc,

how we figure out what we should do.

la façon dont nous décidons de ce que nous devrions faire.

And maybe, if we want to be on surer footing,

Peut-être que si nous voulons adopter une position plus sûre,

what we really want is a moral framework that will help guide us there,

ce que nous voulons vraiment est un système moral qui nous aidera à nous y orienter,

that will tell us what kinds of things are right and wrong in the first place,

qui nous dira qu'est-ce qui est bien et qu'est-ce qui est mal dès le départ,

and how would we know in a given situation what to do.

et comment savoir quoi faire dans une situation donnée.

So let's get a moral framework.

Prenons donc un cadre moral.

We're numbers people, living by numbers.

Nous vivons dans un monde de chiffres.

How can we use numbers

Comment pouvons-nous utiliser les chiffres

as the basis for a moral framework?

comme base d'un système moral ?

I know a guy who did exactly that.

Je connais quelqu'un qui a fait exactement cela,

A brilliant guy --

quelqu'un de brillant --

he's been dead 2,500 years.

il est mort il y a 2 500 ans.

Plato, that's right.

Platon, c'est exact.

Remember him -- old philosopher?

Vous vous rappelez de lui -- le vieux philosophe ?

You were sleeping during that class.

Vous dormiez pendant les cours.

And Plato, he had a lot of the same concerns that we did.

Platon partageait beaucoup de nos préoccupations.

He was worried about right and wrong.

Il se préoccupait du bien et du mal.

He wanted to know what is just.

Il voulait savoir ce qui était juste.

But he was worried that all we seem to be doing

Mais il s'inquiétait que tout ce que nous semblons faire,

is trading opinions about this.

c'est échanger des opinions sur le sujet.

He says something's just. She says something else is just.

Il me dit que quelque chose est juste. Elle me dit qu'autre chose est juste.

It's kind of convincing when he talks and when she talks too.

Les deux sont plutôt convaincants quand ils parlent.

I'm just going back and forth; I'm not getting anywhere.

Je fais des allers retours ; je n'avance pas.

I don't want opinions; I want knowledge.

Je ne veux pas d'opinions, je veux de la connaissance.

I want to know the truth about justice --

Je veux connaître la vérité sur la justice --

like we have truths in math.

comme on connait les vérités mathématiques.

In math, we know the objective facts.

En maths, on connait les faits concrets.

Take a number, any number -- two.

Prenez un chiffre, n'importe lequel -- deux.

Favorite number. I love that number.

Mon chiffre préféré. J'adore ce chiffre.

There are truths about two.

Il y a des vérités sur le chiffre deux.

If you've got two of something,

Si vous avez une chose en deux exemplaires,

you add two more, you get four.

vous en ajoutez deux, vous en obtenez quatre.

That's true no matter what thing you're talking about.

C'est vrai pour n'importe quelle chose.

It's an objective truth about the form of two,

c'est une vérité objective sur la forme du chiffre deux,

the abstract form.

la forme abstraite.

When you have two of anything -- two eyes, two ears, two noses,

Quand vous avez une chose en deux exemplaires -- deux yeux, deux oreilles, deux nez,

just two protrusions --

juste deux éléments --

those all partake of the form of two.

ils participent tous à la forme du chiffre deux.

They all participate in the truths that two has.

Ils participent aux vérités intrinsèques du chiffre deux.

They all have two-ness in them.

Il y a du chiffre deux en chacun d'eux.

And therefore, it's not a matter of opinion.

Par conséquent, ça ne dépend pas de l'opinion.

What if, Plato thought,

Et si, Platon se disait,

ethics was like math?

l'étique était comme les maths ?

What if there were a pure form of justice?

Et s'il y avait une forme pure de justice ?

What if there are truths about justice,

Et s'il y avait des vérités sur la justice,

and you could just look around in this world

et que vous pouviez simplement regarder le monde

and see which things participated,

et voir les choses qui y participent,

partook of that form of justice?

qui prennent part à cette forme de justice ?

Then you would know what was really just and what wasn't.

Vous sauriez alors ce qui est vraiment juste et ce qui ne l'est pas.

It wouldn't be a matter

Ça ne dépendrait pas

of just opinion or just appearances.

d'un simple jugement ou d'un simple aspect.

That's a stunning vision.

C'est une vision stupéfiante.

I mean, think about that. How grand. How ambitious.

Je veux dire, pensez-y. C'est magnifique. C'est ambitieux.

That's as ambitious as we are.

C'est aussi ambitieux que nous.

He wants to solve ethics.

Nous voulons résoudre les problèmes d'éthique.

He wants objective truths.

Nous voulons des vérités objectives.

If you think that way,

Si vous pensez de cette façon,

you have a Platonist moral framework.

vous avez un système moral platonicien.

If you don't think that way,

Si vous ne pensez pas de cette façon,

well, you have a lot of company in the history of Western philosophy,

eh bien, vous n'êtes pas seul dans l'histoire de la philosophie occidentale,

because the tidy idea, you know, people criticized it.

parce que cette jolie idée -- vous savez, les gens l'ont critiquée.

Aristotle, in particular, he was not amused.

Aristote, en particulier, n'a pas apprécié.

He thought it was impractical.

Il pensait que c'était infaisable en pratique.

Aristotle said, "We should seek only so much precision in each subject

Aristote disait : « Nous ne devrions chercher qu'autant d'exactitude dans un sujet

as that subject allows."

que celui-ci nous le permet. »

Aristotle thought ethics wasn't a lot like math.

Aristote pensait que l'éthique n'était pas vraiment comme les maths.

He thought ethics was a matter of making decisions in the here-and-now

Il pensait que l'éthique consistait à prendre des décision ici et maintenant

using our best judgment

en utilisant notre meilleur jugement

to find the right path.

pour trouver le droit chemin.

If you think that, Plato's not your guy.

Si vous pensez cela, Platon n'est pas votre homme.

But don't give up.

Mais n'abandonnez pas.

Maybe there's another way

Peut-être y a-t-il un autre moyen

that we can use numbers as the basis of our moral framework.

pour utiliser les nombres comme base de notre système moral.

How about this:

Que diriez-vous de ceci :

What if in any situation you could just calculate,

et si dans n'importe quelle situation, vous pouviez simplement calculer,

look at the choices,

examiner les possibilités,

measure out which one's better and know what to do?

évaluer laquelle est la meilleure et savoir quoi faire ?

That sound familiar?

Cela vous dit quelque chose ?

That's a utilitarian moral framework.

C'est un système moral utilitariste.

John Stuart Mill was a great advocate of this --

John Stuart Mill en était un grand partisan --

nice guy besides --

un type bien par ailleurs --

and only been dead 200 years.

et il n'est mort que depuis 200 ans.

So basis of utilitarianism --

Donc les fondements de l'utilitarisme --

I'm sure you're familiar at least.

je suis sûr que vous les connaissez.

The three people who voted for Mill before are familiar with this.

Les trois personnes qui ont voté pour Mill tout à l'heure savent ce que c'est.

But here's the way it works.

Mais voilà comment ça fonctionne.

What if morals, what if what makes something moral

Et si la morale, si ce qui rend quelque chose moral,

is just a matter of if it maximizes pleasure

n'était qu'un calcul de plaisir maximum

and minimizes pain?

et de douleur minimum ?

It does something intrinsic to the act.

C'est intrinsèque au fait.

It's not like its relation to some abstract form.

Ça n'a pas de rapport avec sa forme abstraite.

It's just a matter of the consequences.

C'est juste fonction des conséquences.

You just look at the consequences

Vous regardez simplement les conséquences,

and see if, overall, it's for the good or for the worse.

et vous voyez si, globalement, c'est pour le meilleur ou pour le pire.

That would be simple. Then we know what to do.

Ce serait simple. Nous saurions ensuite quoi faire.

Let's take an example.

Prenons un exemple.

Suppose I go up

Imaginez que je vienne

and I say, "I'm going to take your phone."

et je dise : « Je vais vous prendre votre téléphone. »

Not just because it rang earlier,

Pas parce qu'il a sonné tout à l'heure,

but I'm going to take it because I made a little calculation.

mais parce que j'ai fait un petit calcul.

I thought, that guy looks suspicious.

Je pensais que ce type avait l'air suspect.

And what if he's been sending little messages to Bin Laden's hideout --

Et s'il était en train d'envoyer des messages à la planque de Ben Laden --

or whoever took over after Bin Laden --

ou de n'importe qui ayant pris la relève de Ben Laden --

and he's actually like a terrorist, a sleeper cell.

c'est en fait un terroriste, une cellule dormante.

I'm going to find that out, and when I find that out,

Je vais m'en rendre compte, et quand ce sera fait,

I'm going to prevent a huge amount of damage that he could cause.

je vais éviter d'énormes dégâts qu'il pourrait causer.

That has a very high utility to prevent that damage.

L'intérêt est très grand d'éviter les dégâts,

And compared to the little pain that it's going to cause --

comparé au moindre mal qu'il y aurait

because it's going to be embarrassing when I'm looking on his phone

si je le gêne en regardant dans son téléphone

and seeing that he has a Farmville problem and that whole bit --

pour découvrir qu'il ne faisait que jouer à Farmville --

that's overwhelmed

c'est écrasé

by the value of looking at the phone.

par l'utilité d'examiner son téléphone.

If you feel that way,

Si vous pensez comme cela,

that's a utilitarian choice.

c'est un choix utilitariste.

But maybe you don't feel that way either.

Mais peut-être que vous ne pensez pas non plus comme ça.

Maybe you think, it's his phone.

Peut-être que vous vous dites : c'est son téléphone.

It's wrong to take his phone

C'est mal de prendre son téléphone,

because he's a person

parce que c'est un individu

and he has rights and he has dignity,

et il a des droits et il a une dignité,

and we can't just interfere with that.

et nous ne pouvons pas interférer avec ça.

He has autonomy.

Il est autonome.

It doesn't matter what the calculations are.

Peut importe les calculs.

There are things that are intrinsically wrong --

Ces choses sont intrinsèquement mauvaises --

like lying is wrong,

comme mentir est mal,

like torturing innocent children is wrong.

de même que torturer des enfants innocents est mal.

Kant was very good on this point,

Kant était vraiment bon sur ce sujet,

and he said it a little better than I'll say it.

et il le disait un peu mieux que je vais le dire.

He said we should use our reason

Il disait que nous devrions utiliser notre raison

to figure out the rules by which we should guide our conduct,

pour décider des règles selon lesquelles nous devrions orienter notre conduite.

and then it is our duty to follow those rules.

Il est ensuite de notre devoir de suivre ces règles.

It's not a matter of calculation.

Ça n'a rien à voir avec des calculs.

So let's stop.

Arrêtons-nous.

We're right in the thick of it, this philosophical thicket.

Nous sommes au cœur de cet enchevêtrement philosophique.

And this goes on for thousands of years,

Et le débat perdure depuis des milliers d'années,

because these are hard questions,

parce que ce sont des questions difficiles,

and I've only got 15 minutes.

et je n'ai que 15 minutes.

So let's cut to the chase.

Alors allons droit au but.

How should we be making our decisions?

Comment devrions-nous prendre nos décisions ?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Selon Platon, en accord avec Aristote, ou bien Kant, ou Mill ?

What should we be doing? What's the answer?

Que devrions-nous faire ? Quelle est la réponse ?

What's the formula that we can use in any situation

Quelle est la formule que nous pouvons utiliser dans n'importe quelle situation

to determine what we should do,

pour déterminer ce que nous devrions faire ?

whether we should use that guy's data or not?

Si nous devrions utiliser les données de ce type ou pas ?

What's the formula?

Quelle est la formule ?

There's not a formula.

Il n'y a pas de formule.

There's not a simple answer.

Il n'y a pas de réponse simple.

Ethics is hard.

L'éthique, c'est difficile.

Ethics requires thinking.

L'éthique exige une réflexion.

And that's uncomfortable.

C'est inconfortable.

I know; I spent a lot of my career

Je sais ; j'ai passé une grande partie de ma carrière

in artificial intelligence,

dans l'intelligence artificielle,

trying to build machines that could do some of this thinking for us,

à essayer de construire des machines qui puissent réfléchir là-dessus pour nous,

that could give us answers.

qui puissent nous donner des réponses.

But they can't.

Mais elles ne le peuvent pas.

You can't just take human thinking

Vous ne pouvez pas simplement prendre la pensée humaine

and put it into a machine.

et la mettre dans une machine.

We're the ones who have to do it.

Nous devons le faire par nous-mêmes.

Happily, we're not machines, and we can do it.

Heureusement, nous ne sommes pas des machines, et nous pouvons le faire.

Not only can we think,

Nous pouvons non seulement penser,

we must.

mais nous le devons.

Hannah Arendt said,

Hannah Arendt disait :

"The sad truth

« La triste vérité

is that most evil done in this world

est que la plupart du mal fait en ce monde

is not done by people

n'est pas fait par des gens

who choose to be evil.

qui ont choisi de faire le mal.

It arises from not thinking."

Il surgit de l'inexistence d'une réflexion. »

That's what she called the "banality of evil."

C'est ce qu'elle appelait « la banalité du mal. »

And the response to that

La réponse à cela

is that we demand the exercise of thinking

est que nous réclamons l'exercice de pensée

from every sane person.

à toute personne sensée.

So let's do that. Let's think.

Faisons-donc cela. Pensons.

In fact, let's start right now.

En fait, commençons dès maintenant.

Every person in this room do this:

Tout le monde dans la salle :

think of the last time you had a decision to make

pensez à la dernière fois que vous avez dû prendre une décision

where you were worried to do the right thing,

où vous étiez préoccupés de faire ce qui est juste,

where you wondered, "What should I be doing?"

où vous vous êtes demandés : « Que devrais-je faire ? »

Bring that to mind,

Pensez à cela.

and now reflect on that

Réfléchissez maintenant à cela

and say, "How did I come up that decision?

et demandez-vous : « Comment ais-je pris cette décision ?

What did I do? Did I follow my gut?

Qu'est-ce que j'ai fait ? Est-ce que j'ai suivi mon instinct ?

Did I have somebody vote on it? Or did I punt to legal?"

Est-ce que j'ai fait procéder à un vote ? Ou est-ce que j'ai fait appel au service juridique ? »

Or now we have a few more choices.

Ou bien nous avons d'autres choix maintenant.

"Did I evaluate what would be the highest pleasure

« Est-ce que j'ai estimé ce qui procurerait le plus de plaisir,

like Mill would?

comme Mill l'aurait fait ?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Ou comme Kant, ai-je utilisé ma raison pour décider de ce qui était intrinsèquement juste ?

Think about it. Really bring it to mind. This is important.

Pensez-y. Vraiment. C'est important.

It is so important

C'est si important

we are going to spend 30 seconds of valuable TEDTalk time

que nous allons passer 30 précieuses secondes de mon intervention à TED

doing nothing but thinking about this.

à ne rien faire d'autre que d'y penser.

Are you ready? Go.

Vous êtes prêts ? Allez-y.

Stop. Good work.

Arrêtez. Bon travail.

What you just did,

Ce que vous venez de faire,

that's the first step towards taking responsibility

c'est le premier pas vers la prise de responsabilité

for what we should do with all of our power.

concernant ce que nous devrions faire avec tout ce pouvoir.

Now the next step -- try this.

La prochaine étape : essayez ceci.

Go find a friend and explain to them

Allez trouver un ami et expliquez-lui

how you made that decision.

comment vous avez pris cette décision.

Not right now. Wait till I finish talking.

Pas tout de suite. Attendez que j'ai terminé de parler.

Do it over lunch.

Faites-le au déjeuner.

And don't just find another technologist friend;

N'allez pas simplement trouver un autre ami technologue ;

find somebody different than you.

trouvez quelqu'un de différent.

Find an artist or a writer --

Trouvez un artiste ou un écrivain --

or, heaven forbid, find a philosopher and talk to them.

ou, Dieu vous en préserve, trouvez un philosophe et parlez leur.

In fact, find somebody from the humanities.

En fait, trouvez quelqu'un dans les sciences humaines.

Why? Because they think about problems

Pourquoi ? Parce qu'ils pensent aux problèmes

differently than we do as technologists.

d'une manière différente à nous les technologues.

Just a few days ago, right across the street from here,

Il y a juste quelques jours, de l'autre côté de la rue ici,

there was hundreds of people gathered together.

il y avait un rassemblement de centaines de personnes.

It was technologists and humanists

C'était des technologues et des humanistes

at that big BiblioTech Conference.

à la grande BiblioTech Conférence.

And they gathered together

Ils étaient rassemblés

because the technologists wanted to learn

parce que les technologues voulaient apprendre

what it would be like to think from a humanities perspective.

ce que cela faisait de penser du point de vue des sciences sociales.

You have someone from Google

Vous avez quelqu'un de chez Google

talking to someone who does comparative literature.

qui parle à quelqu'un qui fait de la littérature comparée.

You're thinking about the relevance of 17th century French theater --

Vous vous demandez quel est l'intérêt du théâtre français du 17ème siècle --

how does that bear upon venture capital?

quel est le lien avec le capital-risque ?

Well that's interesting. That's a different way of thinking.

Eh bien, c'est intéressant. C'est une manière de penser différente.

And when you think in that way,

Quand vous pensez de cette façon,

you become more sensitive to the human considerations,

vous devenez plus sensible aux considérations humaines,

which are crucial to making ethical decisions.

ce qui est crucial pour prendre des décisions éthiques.

So imagine that right now

Imaginez maintenant

you went and you found your musician friend.

que vous avez trouvé votre ami musicien.

And you're telling him what we're talking about,

Vous lui racontez ce dont on parle,

about our whole data revolution and all this --

sur notre révolution des données et tout ça --

maybe even hum a few bars of our theme music.

vous fredonnez peut-être quelques notes de notre thème musical.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Votre ami musicien va vous interrompre et vous dire :

"You know, the theme music

« Tu sais, le thème musical

for your data revolution,

pour ta révolution des données,

that's an opera, that's Wagner.

c'est un opéra, c'est Wagner.

It's based on Norse legend.

C'est basé sur une légende nordique.

It's Gods and mythical creatures

Ce sont des dieux et des créatures mythologiques

fighting over magical jewelry."

qui se battent pour des bijoux magiques. »

That's interesting.

C'est intéressant.

Now it's also a beautiful opera,

C'est aussi un magnifique opéra.

and we're moved by that opera.

Nous sommes émus par cet opéra.

We're moved because it's about the battle

Nous sommes émus parce que c'est sur la bataille

between good and evil,

entre le bien et le mal,

about right and wrong.

le juste et l'injuste.

And we care about right and wrong.

Et nous nous préoccupons du juste et de l'injuste.

We care what happens in that opera.

Nous nous soucions de ce qui se passe dans cet opéra.

We care what happens in "Apocalypse Now."

Nous nous soucions de ce qui se passe dans "Apocalypse Now".

And we certainly care

Et nous nous préoccupons certainement

what happens with our technologies.

de ce qui se passe avec nos technologies.

We have so much power today,

Nous avons tant de pouvoir aujourd'hui,

it is up to us to figure out what to do,

ça ne dépend que de nous de savoir ce qu'on en fait.

and that's the good news.

C'est la bonne nouvelle.

We're the ones writing this opera.

Nous sommes ceux qui écrivent cet opéra.

This is our movie.

C'est notre film.

We figure out what will happen with this technology.

Nous décidons ce qui va arriver avec cette technologie.

We determine how this will all end.

Nous déterminons comment tout cela va finir.

Thank you.

Merci.

(Applause)

(Applaudissements)