Damon Horowitz calls for a "moral operating system"

Damon Horowitz brega por un "sistema operativo moral"

Traductor: Veronica Vera Revisor: Sebastian Betti

Power.

Poder.

That is the word that comes to mind.

Esa es la palabra que viene a la mente.

We're the new technologists.

Somos los nuevos tecnólogos.

We have a lot of data, so we have a lot of power.

Tenemos gran cantidad de información, así que tenemos mucho poder.

How much power do we have?

¿Cuánto poder tenemos?

Scene from a movie: "Apocalypse Now" -- great movie.

Escena de la película: "Apocalipsis Now" -- excelente película.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Tenemos que llevar a nuestro héroe, el capitán Willard, a la desembocadura del río Nung

so he can go pursue Colonel Kurtz.

para que pueda perseguir al coronel Kurtz.

The way we're going to do this is fly him in and drop him off.

Para esto, lo vamos a transportar volando y lo dejamos en el lugar.

So the scene:

En esta escena

the sky is filled with this fleet of helicopters carrying him in.

el cielo está repleto de helicópteros que lo llevan.

And there's this loud, thrilling music in the background,

Hay de fondo una música fuerte y emocionante,

this wild music.

una música desenfrenada.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Hay mucha potencia.

That's the kind of power I feel in this room.

La clase de potencia que siento en esta sala.

That's the kind of power we have

Es el poder que nos da

because of all of the data that we have.

toda la información que tenemos.

Let's take an example.

Pongamos un ejemplo:

What can we do

¿Qué podemos hacer

with just one person's data?

con la información de una sola persona?

What can we do

¿Qué podemos hacer

with that guy's data?

con la información de ese señor?

I can look at your financial records.

Puedo mirar sus registros financieros.

I can tell if you pay your bills on time.

Puedo decir si paga sus cuentas puntualmente.

I know if you're good to give a loan to.

Sé si reúne las condiciones para que le den un préstamo.

I can look at your medical records; I can see if your pump is still pumping --

Puedo ver su historia clínica, puedo ver si aún late su corazón;

see if you're good to offer insurance to.

ver si está bien para que le ofrezcan un seguro.

I can look at your clicking patterns.

Puedo observar sus hábitos en Internet.

When you come to my website, I actually know what you're going to do already

Cuando viene a mi sitio web, en realidad ya sé lo que va a hacer,

because I've seen you visit millions of websites before.

porque lo he visto visitar millones de sitios web antes.

And I'm sorry to tell you,

Y lamento decirlo,

you're like a poker player, you have a tell.

eres como un jugador de póquer, tienes esa manía.

I can tell with data analysis what you're going to do

Analizando datos puedo decir lo que vas a hacer

before you even do it.

aún antes que lo hagas.

I know what you like. I know who you are,

Sé lo que te gusta. Sé quién eres.

and that's even before I look at your mail

Incluso antes de mirar tu correo

or your phone.

o tu teléfono.

Those are the kinds of things we can do

Ese es el tipo de cosas que podemos hacer

with the data that we have.

con los datos que tenemos.

But I'm not actually here to talk about what we can do.

Pero en realidad no estoy aquí para hablar de lo que podemos hacer.

I'm here to talk about what we should do.

Estoy aquí para hablar de lo que debemos hacer.

What's the right thing to do?

¿Cuál es la acción correcta?

Now I see some puzzled looks

Veo algunas miradas desconcertadas

like, "Why are you asking us what's the right thing to do?

como diciendo, "¿Por qué nos preguntas qué es lo correcto?

We're just building this stuff. Somebody else is using it."

Nosotros hacemos. Son otros los que la usan".

Fair enough.

Es cierto.

But it brings me back.

Pero esto me lleva al pasado.

I think about World War II --

Pienso en la Segunda Guerra Mundial --

some of our great technologists then,

algunos de nuestros grandes tecnólogos de entonces,

some of our great physicists,

algunos de los grandes físicos,

studying nuclear fission and fusion --

estudiaban la fisión y la fusión nuclear --

just nuclear stuff.

cuestiones nucleares.

We gather together these physicists in Los Alamos

Reunimos a estos físicos en Los Álamos

to see what they'll build.

para ver que construían.

We want the people building the technology

Queremos que la gente que desarrolla tecnología

thinking about what we should be doing with the technology.

piense qué deberíamos hacer nosotros con ella.

So what should we be doing with that guy's data?

Entonces, ¿qué deberíamos hacer con los datos de ese señor?

Should we be collecting it, gathering it,

¿Deberíamos recolectar, reunir los datos,

so we can make his online experience better?

para mejorar su experiencia en línea?

So we can make money?

¿Para ganar dinero?

So we can protect ourselves

¿Para protegernos nosotros mismos

if he was up to no good?

si no se comporta bien?

Or should we respect his privacy,

¿O deberíamos respetar su privacidad,

protect his dignity and leave him alone?

proteger su dignidad y dejarlo en paz?

Which one is it?

¿Qué hacemos?

How should we figure it out?

¿Cómo debemos decidir?

I know: crowdsource. Let's crowdsource this.

Ya sé: colaboración pública. Vamos a resolver esto juntos.

So to get people warmed up,

Para entrar en calor,

let's start with an easy question --

comencemos con una pregunta fácil --

something I'm sure everybody here has an opinion about:

algo sobre lo que estoy seguro que todos aquí tienen una opinión:

iPhone versus Android.

iPhone versus Android.

Let's do a show of hands -- iPhone.

Levanten las manos por el iPhone.

Uh huh.

Ajá.

Android.

Android.

You'd think with a bunch of smart people

Uno pensaría que un grupo de gente inteligente

we wouldn't be such suckers just for the pretty phones.

o sucumbiría tan fácil ante unos lindos teléfonos.

(Laughter)

(Risas)

Next question,

Siguiente pregunta,

a little bit harder.

un poco más difícil.

Should we be collecting all of that guy's data

¿Deberíamos recolectar toda los datos de ese hombre

to make his experiences better

para ofrecerle una mejor experiencia

and to protect ourselves in case he's up to no good?

y para protegernos en caso de que trame algo malo?

Or should we leave him alone?

¿O deberíamos dejarlo en paz?

Collect his data.

Recolectar sus datos.

Leave him alone.

Dejarlo en paz.

You're safe. It's fine.

Estás a salvo. Está bien.

(Laughter)

(Risas)

Okay, last question --

Bien, última pregunta --

harder question --

más difícil --

when trying to evaluate

Al tratar de evaluar

what we should do in this case,

lo que deberíamos hacer en este caso,

should we use a Kantian deontological moral framework,

¿deberíamos usar un sistema moral deontológico kantiano,

or should we use a Millian consequentialist one?

o un sistema consecuencionalista milliano?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

No hay tantos votos.

(Laughter)

(Risas)

Yeah, that's a terrifying result.

Sí, ese es un resultado aterrador.

Terrifying, because we have stronger opinions

Es aterrador porque tenemos opiniones más firmes

about our hand-held devices

sobre nuestros aparatos portátiles

than about the moral framework

que sobre el sistema moral

we should use to guide our decisions.

que debería guiar nuestras decisiones.

How do we know what to do with all the power we have

¿Cómo sabemos qué hacer con todo el poder que tenemos

if we don't have a moral framework?

si no tenemos un sistema moral?

We know more about mobile operating systems,

Sabemos más sobre los sistemas operativos móviles,

but what we really need is a moral operating system.

pero lo que realmente necesitamos es un sistema operativo moral.

What's a moral operating system?

¿Qué es un sistema operativo moral?

We all know right and wrong, right?

Todos sabemos lo que es correcto e incorrecto.

You feel good when you do something right,

Te sientes bien cuando haces algo correcto,

you feel bad when you do something wrong.

te sientes mal cuando haces algo incorrecto.

Our parents teach us that: praise with the good, scold with the bad.

Nuestros padres nos enseñan que se alaba lo bueno y se regaña lo malo.

But how do we figure out what's right and wrong?

Pero, ¿cómo podemos averiguar qué es lo correcto y lo incorrecto?

And from day to day, we have the techniques that we use.

Y, día a día, tenemos las técnicas que utilizamos.

Maybe we just follow our gut.

Tal vez solo seguimos nuestro instinto.

Maybe we take a vote -- we crowdsource.

Tal vez votamos --consultamos la opinión pública.

Or maybe we punt --

O tal vez apostamos --

ask the legal department, see what they say.

preguntamos al departamento legal, vemos lo que dicen.

In other words, it's kind of random,

En otras palabras, es un poco aleatorio,

kind of ad hoc,

improvisamos,

how we figure out what we should do.

la forma de averiguar lo que debemos hacer.

And maybe, if we want to be on surer footing,

Y, tal vez, si queremos sentirnos más seguros,

what we really want is a moral framework that will help guide us there,

lo que realmente queremos es un sistema moral que nos oriente,

that will tell us what kinds of things are right and wrong in the first place,

que nos diga en primer lugar que tipo de cosas están bien y mal,

and how would we know in a given situation what to do.

y cómo sabemos qué hacer en una situación dada.

So let's get a moral framework.

Entonces tengamos un sistema moral.

We're numbers people, living by numbers.

Somos seres que trabajamos con números, vivimos por los números.

How can we use numbers

¿Cómo podemos usar los números

as the basis for a moral framework?

como base para un sistema moral?

I know a guy who did exactly that.

Conozco a un hombre que hizo exactamente eso,

A brilliant guy --

Un hombre brillante --

he's been dead 2,500 years.

murió hace 2500 años.

Plato, that's right.

Platón, exacto.

Remember him -- old philosopher?

¿Lo recuerdan? ¿un viejo filósofo?

You were sleeping during that class.

Se durmieron durante esa clase.

And Plato, he had a lot of the same concerns that we did.

Y Platón se planteó muchas de estas preocupaciones que tenemos.

He was worried about right and wrong.

Se preocupaba por lo correcto y lo incorrecto.

He wanted to know what is just.

Quería saber qué era lo justo.

But he was worried that all we seem to be doing

Pero le preocupaba que todo lo que parecíamos hacer

is trading opinions about this.

era intercambiar opiniones sobre el tema.

He says something's just. She says something else is just.

Él dice que algo es lo justo. Ella dice que otra cosa es lo justo.

It's kind of convincing when he talks and when she talks too.

Ambos suenan convincentes.

I'm just going back and forth; I'm not getting anywhere.

Vamos y volvemos sin llegar a ningún lado.

I don't want opinions; I want knowledge.

No quiero opiniones, quiero conocimiento.

I want to know the truth about justice --

Quiero saber la verdad sobre la justicia --

like we have truths in math.

tal como tenemos verdades en matemáticas.

In math, we know the objective facts.

En matemáticas conocemos los hechos objetivos.

Take a number, any number -- two.

Tomen un número, cualquier número -- el 2.

Favorite number. I love that number.

Mi número favorito. Me encanta ese número.

There are truths about two.

Hay verdades sobre el 2.

If you've got two of something,

Si tienen 2 de algo,

you add two more, you get four.

y agregan 2 más, tienen 4.

That's true no matter what thing you're talking about.

Eso es verdad sin importar qué estén hablando.

It's an objective truth about the form of two,

Es una verdad objetiva sobre la forma del 2,

the abstract form.

la forma abstracta.

When you have two of anything -- two eyes, two ears, two noses,

Cuando se tiene 2 de cualquier cosa - 2 ojos, 2 oídos, 2 narices,

just two protrusions --

2 protuberancias --

those all partake of the form of two.

todos ellos participan de la forma del 2.

They all participate in the truths that two has.

Todos participan de las verdades del 2.

They all have two-ness in them.

Todos tienen la dualidad.

And therefore, it's not a matter of opinion.

Y por lo tanto, no es una cuestión de opinión.

What if, Plato thought,

Platón pensaba: ¿y si

ethics was like math?

la ética fuese como la matemática?

What if there were a pure form of justice?

¿Y si hubiera una forma pura de justicia?

What if there are truths about justice,

¿Y si hay verdades acerca de la justicia,

and you could just look around in this world

y si pudiéramos mirar el mundo

and see which things participated,

y ver las cosas que la componen,

partook of that form of justice?

que forman parte de la justicia?

Then you would know what was really just and what wasn't.

Entonces podría saberse lo que realmente es justo y lo que no.

It wouldn't be a matter

No sería una cuestión

of just opinion or just appearances.

de simple opinión o apariencias.

That's a stunning vision.

Esa es una visión asombrosa.

I mean, think about that. How grand. How ambitious.

Quiero decir, piénsenlo. Es magnífico y ambicioso.

That's as ambitious as we are.

Tan ambicioso como nosotros.

He wants to solve ethics.

Él quiere resolver la ética.

He wants objective truths.

Quiere verdades objetivas.

If you think that way,

Si piensas de esa forma,

you have a Platonist moral framework.

tienes un sistema moral platónico.

If you don't think that way,

Si no piensas de esa forma,

well, you have a lot of company in the history of Western philosophy,

bien, tienes mucha compañía en la historia de la filosofía occidental,

because the tidy idea, you know, people criticized it.

porque, ya saben, esta linda idea fue criticada.

Aristotle, in particular, he was not amused.

Aristóteles, en particular, no la compartía.

He thought it was impractical.

Le resultaba poco práctico.

Aristotle said, "We should seek only so much precision in each subject

Aristóteles dijo: "En cada asunto solo debemos buscar el nivel de precisión

as that subject allows."

que ese asunto permite".

Aristotle thought ethics wasn't a lot like math.

Aristóteles pensaba que la ética no era como la matemática.

He thought ethics was a matter of making decisions in the here-and-now

Él pensaba que la ética es una cuestión de tomar decisiones aquí y ahora

using our best judgment

usando nuestro mejor juicio

to find the right path.

para encontrar el camino correcto.

If you think that, Plato's not your guy.

Si piensan eso, Platón no es la persona a seguir.

But don't give up.

Pero no se rindan.

Maybe there's another way

Tal vez hay otra manera

that we can use numbers as the basis of our moral framework.

de usar los números como base de nuestro sistema moral.

How about this:

¿Qué tal si

What if in any situation you could just calculate,

ante cada situación simplemente pudieran calcular,

look at the choices,

mirar las opciones,

measure out which one's better and know what to do?

medir cuál es mejor y saber qué hacer?

That sound familiar?

¿Les suena familiar?

That's a utilitarian moral framework.

Ese es un sistema moral utilitarista.

John Stuart Mill was a great advocate of this --

John Stuart Mill fue un gran defensor de esto --

nice guy besides --

además de un tipo genial --

and only been dead 200 years.

y murió hace solo 200 años.

So basis of utilitarianism --

Así, la base del utilitarismo --

I'm sure you're familiar at least.

Seguro que al menos están familiarizados.

The three people who voted for Mill before are familiar with this.

Las 3 personas que votaron por Mill antes están familiarizados con esto.

But here's the way it works.

Esto es así:

What if morals, what if what makes something moral

¿Qué pasa si la moral, lo que hace que algo sea moral,

is just a matter of if it maximizes pleasure

es solo una cuestión de maximizar el placer

and minimizes pain?

y minimizar el dolor?

It does something intrinsic to the act.

Se trata de algo intrínseco al acto.

It's not like its relation to some abstract form.

No se trata de una relación con alguna forma abstracta.

It's just a matter of the consequences.

Es sólo una cuestión de consecuencias.

You just look at the consequences

Buscamos sólo en las consecuencias

and see if, overall, it's for the good or for the worse.

y vemos si en el todo, son positivas o negativas.

That would be simple. Then we know what to do.

Eso sería simple. Entonces sabríamos que hacer.

Let's take an example.

Pongamos un ejemplo.

Suppose I go up

Supongamos que voy

and I say, "I'm going to take your phone."

y digo, "Voy a tomar tu teléfono".

Not just because it rang earlier,

No sólo porque sonó antes,

but I'm going to take it because I made a little calculation.

sino que lo voy a tomar porque hice un pequeño cálculo.

I thought, that guy looks suspicious.

Pensé, ese tipo parece sospechoso.

And what if he's been sending little messages to Bin Laden's hideout --

Y qué tal si ha estado enviando mensajes a la guarida de Bin Laden --

or whoever took over after Bin Laden --

o quien haya reemplazado a Bin Laden -

and he's actually like a terrorist, a sleeper cell.

Y en realidad es un terrorista, una célula latente.

I'm going to find that out, and when I find that out,

Voy a averiguarlo, y cuando lo descubra,

I'm going to prevent a huge amount of damage that he could cause.

voy a evitar el enorme daño que podría causar.

That has a very high utility to prevent that damage.

Eso va a ser muy útil para evitar ese daño.

And compared to the little pain that it's going to cause --

Y comparado con el pequeño dolor que va a causar --

because it's going to be embarrassing when I'm looking on his phone

porque va a ser vergonzoso cuando vea su teléfono móvil

and seeing that he has a Farmville problem and that whole bit --

y vea que tiene un problema con Farmville y todo lo demás -

that's overwhelmed

eso es minimizado

by the value of looking at the phone.

por el valor de mirar su teléfono.

If you feel that way,

Si consideran ese camino,

that's a utilitarian choice.

esa es una opción utilitarista.

But maybe you don't feel that way either.

Pero tal vez tampoco consideren esa opción.

Maybe you think, it's his phone.

Tal vez piensen, es su teléfono.

It's wrong to take his phone

No está bien tomar su teléfono,

because he's a person

porque él es una persona

and he has rights and he has dignity,

y tiene derechos y dignidad,

and we can't just interfere with that.

y simplemente no podemos interferir en eso.

He has autonomy.

Él tiene autonomía.

It doesn't matter what the calculations are.

No importa cuáles sean los cálculos.

There are things that are intrinsically wrong --

Hay cosas que intrínsecamente están mal --

like lying is wrong,

como mentir está mal.

like torturing innocent children is wrong.

torturar a niños inocentes está mal.

Kant was very good on this point,

Kant era muy bueno en este punto,

and he said it a little better than I'll say it.

y planteaba esto un poco mejor de lo que yo lo haré.

He said we should use our reason

Decía que deberíamos usar nuestro razonamiento

to figure out the rules by which we should guide our conduct,

para decidir las reglas que deberían guiar nuestra conducta.

and then it is our duty to follow those rules.

Y luego es nuestro deber seguir esas reglas.

It's not a matter of calculation.

No es una cuestión de cálculos.

So let's stop.

Así que detengámonos.

We're right in the thick of it, this philosophical thicket.

Estamos justo en el centro de esta maraña filosófica.

And this goes on for thousands of years,

Esto continuó durante miles de años,

because these are hard questions,

porque son preguntas difíciles,

and I've only got 15 minutes.

y solo tengo 15 minutos.

So let's cut to the chase.

Por lo tanto, vamos directo al grano.

How should we be making our decisions?

¿Cómo debemos tomar nuestras decisiones?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

¿De acuerdo a Platón, a Aristóteles, a Kant, a Mill?

What should we be doing? What's the answer?

¿Qué debemos hacer? ¿Cuál es la respuesta?

What's the formula that we can use in any situation

¿Cuál es la fórmula que podemos usar en cualquier situación

to determine what we should do,

para determinar qué debemos hacer,

whether we should use that guy's data or not?

sea que debamos o no usar la información de ese hombre?

What's the formula?

¿Cuál es la fórmula?

There's not a formula.

No hay fórmula.

There's not a simple answer.

No hay una respuesta simple.

Ethics is hard.

La ética es algo difícil.

Ethics requires thinking.

Requiere reflexión.

And that's uncomfortable.

Y eso es incómodo.

I know; I spent a lot of my career

Lo sé; pasé gran parte de mi carrera

in artificial intelligence,

en inteligencia artificial,

trying to build machines that could do some of this thinking for us,

tratando de construir máquinas que pudiesen pensar algunas de estas cuestiones por nosotros,

that could give us answers.

que pudiesen darnos respuestas.

But they can't.

Pero ellas no pueden.

You can't just take human thinking

No se puede tomar el pensamiento humano

and put it into a machine.

y ponerlo dentro de una máquina.

We're the ones who have to do it.

Somos nosotros quienes debemos hacerlo.

Happily, we're not machines, and we can do it.

Felizmente, no somos máquinas y podemos hacerlo.

Not only can we think,

Y no sólo podemos pensar,

we must.

debemos hacerlo.

Hannah Arendt said,

Hannah Arendt dijo:

"The sad truth

"La triste verdad

is that most evil done in this world

es que el mayor daño hecho en este mundo

is not done by people

no lo causan las personas

who choose to be evil.

que eligen ser malas.

It arises from not thinking."

Surge de la falta de pensamiento".

That's what she called the "banality of evil."

Es lo que ella llamaba la "banalidad del mal".

And the response to that

Y la respuesta a eso

is that we demand the exercise of thinking

es que demandamos el ejercicio del pensamiento

from every sane person.

de cada persona sana.

So let's do that. Let's think.

Así que hagámoslo. Pensemos.

In fact, let's start right now.

De hecho, empecemos ahora mismo.

Every person in this room do this:

Cada persona de esta sala haga esto:

think of the last time you had a decision to make

piensen en la última vez que tuvieron que tomar una decisión

where you were worried to do the right thing,

donde estuvieron preocupados por hacer lo correcto,

where you wondered, "What should I be doing?"

donde se preguntaron, "¿Qué debo hacer?"

Bring that to mind,

Recuerden ese momento.

and now reflect on that

Y ahora reflexionen en eso

and say, "How did I come up that decision?

y digan: "¿Cómo llegué a esa decisión?

What did I do? Did I follow my gut?

¿Qué hice? ¿Seguí mi intuición?

Did I have somebody vote on it? Or did I punt to legal?"

¿Pedí la votación de alguien? ¿Pedí opinión legal?"

Or now we have a few more choices.

O, ahora, tenemos algunas opciones más.

"Did I evaluate what would be the highest pleasure

"¿Evalué cuál sería el mayor de los placeres

like Mill would?

como lo haría Mill?

Or like Kant, did I use reason to figure out what was intrinsically right?"

O al igual que Kant, ¿usé la razón para decidir qué era intrínsecamente correcto?"

Think about it. Really bring it to mind. This is important.

Piensen en esto. Recuerden. Esto es importante.

It is so important

Es tan importante

we are going to spend 30 seconds of valuable TEDTalk time

que vamos a usar 30 segundos del valioso tiempo de TED

doing nothing but thinking about this.

nada más que para pensar en esto.

Are you ready? Go.

¿Están listos? Vamos.

Stop. Good work.

Paren. Buen trabajo.

What you just did,

Lo que acaban de hacer,

that's the first step towards taking responsibility

es el primer paso en el sentido de asumir responsabilidad

for what we should do with all of our power.

por lo que debemos hacer con todo nuestro poder.

Now the next step -- try this.

Ahora el siguiente paso -- prueben esto.

Go find a friend and explain to them

Busquen un amigo y explíquenle

how you made that decision.

cómo tomaron esa decisión.

Not right now. Wait till I finish talking.

Ahora no. Esperen el final de la charla.

Do it over lunch.

Durante el almuerzo.

And don't just find another technologist friend;

Y no lo hagan con otro amigo tecnólogo;

find somebody different than you.

encuentren alguien diferente a ustedes.

Find an artist or a writer --

Encuentren un artista o un escritor --

or, heaven forbid, find a philosopher and talk to them.

o, Dios nos libre, encuentren un filósofo y hablen con ellos.

In fact, find somebody from the humanities.

De hecho, encuentren alguien de las humanidades.

Why? Because they think about problems

¿Por qué? Porque ellos piensan en los problemas

differently than we do as technologists.

de forma diferente a como lo hacemos los tecnólogos.

Just a few days ago, right across the street from here,

Hace unos días, aquí en frente, al otro lado de la calle,

there was hundreds of people gathered together.

había cientos de personas reunidas.

It was technologists and humanists

Eran tecnólogos y humanistas

at that big BiblioTech Conference.

en una conferencias sobre Bibliotecas Tecnológicas.

And they gathered together

Y ellos se reunieron

because the technologists wanted to learn

porque los tecnólogos querían aprender

what it would be like to think from a humanities perspective.

cómo era pensar desde una perspectiva humanista.

You have someone from Google

Hay alguien de Google

talking to someone who does comparative literature.

hablando con alguien que hace literatura comparada.

You're thinking about the relevance of 17th century French theater --

Están pensando sobre la relevancia del teatro francés del siglo XVII --

how does that bear upon venture capital?

¿cómo se relaciona eso con el capital de riesgo?

Well that's interesting. That's a different way of thinking.

Bien eso es interesante. Es una forma de pensar diferente.

And when you think in that way,

Y cuando piensan de esa forma,

you become more sensitive to the human considerations,

se vuelven más sensibles a las cuestionas humanas,

which are crucial to making ethical decisions.

lo cual es crucial para tomar decisiones éticas.

So imagine that right now

Entonces, imaginen que ahora mismo

you went and you found your musician friend.

van y encuentran a su amigo músico.

And you're telling him what we're talking about,

Y le cuentan lo que estuvimos hablando,

about our whole data revolution and all this --

sobre la revolución de la información y todo eso --

maybe even hum a few bars of our theme music.

incluso tarareando algunas partes de nuestro tema:

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Bueno, su amigo músico los detendrá y dirá:

"You know, the theme music

"Sabes, la música de fondo

for your data revolution,

para tu revolución de la información,

that's an opera, that's Wagner.

es una ópera, es Wagner.

It's based on Norse legend.

Se basa en la mitología nórdica.

It's Gods and mythical creatures

Son dioses y criaturas míticas

fighting over magical jewelry."

luchando por joyas mágicas".

That's interesting.

Eso es interesante.

Now it's also a beautiful opera,

También es una ópera hermosa.

and we're moved by that opera.

Y esa ópera nos emociona.

We're moved because it's about the battle

Nos emociona porque es sobre la lucha

between good and evil,

entre el bien y el mal,

about right and wrong.

sobre lo correcto y lo incorrecto.

And we care about right and wrong.

Y nos importa lo que lo correcto y lo incorrecto.

We care what happens in that opera.

Nos importa lo que pasa en la ópera.

We care what happens in "Apocalypse Now."

Nos importa lo que pasa en "Apocalipsis Now".

And we certainly care

Y sin duda que nos importa

what happens with our technologies.

lo que pasa con nuestras tecnologías.

We have so much power today,

Hoy tenemos mucho poder,

it is up to us to figure out what to do,

depende de nosotros decidir qué hacer.

and that's the good news.

Y esa es la buena noticia.

We're the ones writing this opera.

Somos nosotros los que escribimos esta ópera.

This is our movie.

Es nuestra película.

We figure out what will happen with this technology.

Nosotros decidimos lo que pasará con esta tecnología.

We determine how this will all end.

Nosotros determinamos cómo terminará todo esto.

Thank you.

Gracias.

(Applause)

(Aplausos)