Damon Horowitz calls for a "moral operating system"

Damon Horowitz clama por um "sistema operacional moral"

Tradutor: Thiago Bello Revisor: Wesley Oliveira

Power.

Poder.

That is the word that comes to mind.

Esta é a palavra que vem à mente.

We're the new technologists.

Nós somos os novos tecnólogos.

We have a lot of data, so we have a lot of power.

Nós temos uma grande quantidade de informação, então temos uma grande quantidade de poder.

How much power do we have?

Quanto poder nós temos?

Scene from a movie: "Apocalypse Now" -- great movie.

Cena do filme "Apocalypse Now" -- excelente filme.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Nós temos que levar o nosso heroi, Capitão Willard, para a foz do Rio Nung

so he can go pursue Colonel Kurtz.

na perseguição ao Coronel Kurtz.

The way we're going to do this is fly him in and drop him off.

A forma que faremos isso é levá-lo e deixá-lo em solo seguro.

So the scene:

Então a cena começa:

the sky is filled with this fleet of helicopters carrying him in.

o céu está coberto de helicópteros transportando o nosso heroi.

And there's this loud, thrilling music in the background,

E ao fundo há aquela música estrondosa, excitante

this wild music.

e selvagem.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Isto é muito poder.

That's the kind of power I feel in this room.

Este é o tipo de poder que sinto nesta sala.

That's the kind of power we have

Este é o tipo de poder que nós é dado

because of all of the data that we have.

por causa de toda a informação que temos.

Let's take an example.

Vejamos um exemplo.

What can we do

O que podemos fazer

with just one person's data?

com a informação de apenas uma pessoa?

What can we do

O que podemos fazer

with that guy's data?

com a informação deste cara?

I can look at your financial records.

Posso analisar seus rastros bancários.

I can tell if you pay your bills on time.

Posso dizer se você paga suas contas em dia.

I know if you're good to give a loan to.

Sei se você pode receber um empréstimo.

I can look at your medical records; I can see if your pump is still pumping --

Posso observar seus registros médicos, posso ver se seu coração continua batendo --

see if you're good to offer insurance to.

ver se vale a pena oferecer um seguro a você.

I can look at your clicking patterns.

Posso observar seu padrão de navegação.

When you come to my website, I actually know what you're going to do already

Quando você vem a meu site, eu já sei o que você vai fazer,

because I've seen you visit millions of websites before.

pois já vi você visitar milhões de sites anteriormente.

And I'm sorry to tell you,

E sinto muito em dizer a você,

you're like a poker player, you have a tell.

você é como jogador de poker, você tem uma forma de se expressar.

I can tell with data analysis what you're going to do

Posso falar, com análise da informação, o que você vai fazer

before you even do it.

antes mesmo que o faça.

I know what you like. I know who you are,

Eu sei o que você gosta. Eu sei o que você é.

and that's even before I look at your mail

Mesmo antes de checar o seu e-mail

or your phone.

ou o seu telefone.

Those are the kinds of things we can do

Estas são coisas que podemos fazer

with the data that we have.

com todas as informações que temos.

But I'm not actually here to talk about what we can do.

Mas eu não estou aqui para falar sobre o que podemos fazer.

I'm here to talk about what we should do.

Estou aqui para falar sobre o que deveriamos fazer.

What's the right thing to do?

Qual a coisa certa a fazer?

Now I see some puzzled looks

Agora vejo algumas pessoas intrigadas

like, "Why are you asking us what's the right thing to do?

como, "Porque você está nos perguntando qual a coisa certa a fazer?

We're just building this stuff. Somebody else is using it."

Nós apenas estamos criando essas coisas. Outras pessoas estão usando."

Fair enough.

Bastante justo.

But it brings me back.

Mas isto faz com que eu relembre.

I think about World War II --

Penso a respeito da Segunda Guerra Mundial --

some of our great technologists then,

alguns de nossos maiores tecnólogos da época,

some of our great physicists,

alguns de nossos maiores físicos,

studying nuclear fission and fusion --

estudando fissão e fusão nuclear --

just nuclear stuff.

apenas assuntos nucleares.

We gather together these physicists in Los Alamos

Nós reunimos aqueles físicos em Los Alamos

to see what they'll build.

para ver o que eles construiriam.

We want the people building the technology

Nós queremos pessoas construindo a tecnologia

thinking about what we should be doing with the technology.

pensando no que deveriamos fazer com essa tecnologia.

So what should we be doing with that guy's data?

Então, o que deveriamos fazer com as informações deste cara?

Should we be collecting it, gathering it,

Devemos coletá-la e juntá-la

so we can make his online experience better?

para que possamos fazer a sua experiência online ainda melhor?

So we can make money?

Podemos fazer dinheiro?

So we can protect ourselves

Podemos nos proteger

if he was up to no good?

se ele não era capaz de nada bom?

Or should we respect his privacy,

Ou devemos respeitar a sua privacidade,

protect his dignity and leave him alone?

proteger a sua dignidade e deixá-lo em paz?

Which one is it?

Qual dessas alternativas?

How should we figure it out?

Como podemos descobrir?

I know: crowdsource. Let's crowdsource this.

Eu sei: crowdsource. Vamos fazer crowdsource disto.

So to get people warmed up,

Então, para aquecer todo mundo,

let's start with an easy question --

vamos começar com uma simples questão --

something I'm sure everybody here has an opinion about:

algo que eu tenho certeza que todos tem uma opinião formada sobre o tema:

iPhone versus Android.

iPhone contra Android.

Let's do a show of hands -- iPhone.

Vamos levantar as mãos -- iPhone.

Uh huh.

Aham.

Android.

Android.

You'd think with a bunch of smart people

Você poderia pensar que em um grupo de pessoas inteleligentes

we wouldn't be such suckers just for the pretty phones.

nós não seríamos tão tolos em escolher somente os telefones bonitos.

(Laughter)

(Risos)

Next question,

Próxima pergunta,

a little bit harder.

um pouco mais complicada.

Should we be collecting all of that guy's data

Deveríamos coletar a informação desta pessoa

to make his experiences better

para tornar suas experiências ainda melhor

and to protect ourselves in case he's up to no good?

e nos proteger em caso dela não capaz de nada bom?

Or should we leave him alone?

Ou devemos deixá-lo em paz?

Collect his data.

Coletar seus dados.

Leave him alone.

Deixá-lo em paz.

You're safe. It's fine.

Você está segura. Está tudo bem.

(Laughter)

(Risos)

Okay, last question --

Tudo bem, última pergunta --

harder question --

uma pergunta mais difícil --

when trying to evaluate

quando tentamos avaliar

what we should do in this case,

o que deveríamos fazer neste caso,

should we use a Kantian deontological moral framework,

deveríamos utilizar uma estrutura moral deontológica Kantiana

or should we use a Millian consequentialist one?

ou devemos utilizar a ética consequencialista de Stuart Mill?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Sem muitos votos.

(Laughter)

(Risos)

Yeah, that's a terrifying result.

Sim, este é um resultado terrível.

Terrifying, because we have stronger opinions

Terrível pois temos opiniões mais fortes

about our hand-held devices

a respeito de nossos dispositivos portáteis

than about the moral framework

do que a respeito da estrutura moral

we should use to guide our decisions.

que deveríamos usar para guiar nossas decisões.

How do we know what to do with all the power we have

Como sabemos o que fazer com o poder que temos

if we don't have a moral framework?

se não temos uma estrutura moral definida?

We know more about mobile operating systems,

Sabemos muito sobre sistemas operacionais de celulares,

but what we really need is a moral operating system.

mas o que nós realmente precisamos é um sistema operacional moral.

What's a moral operating system?

O que é um sistema operacional moral?

We all know right and wrong, right?

Todos nós sabemos o que é certo e errado, certo.

You feel good when you do something right,

Você se sente bem quando faz alguma coisa correta,

you feel bad when you do something wrong.

você se sente mau quando faz algo incorreto.

Our parents teach us that: praise with the good, scold with the bad.

Nossos pais nos ensinam isso: enalteça os bons e repreenda os maus.

But how do we figure out what's right and wrong?

Mas como sabemos o que é certo ou errado?

And from day to day, we have the techniques that we use.

No nosso dia a dia temos as técnicas que nós usamos.

Maybe we just follow our gut.

Talvez nós apenas seguimos nossa razão interior.

Maybe we take a vote -- we crowdsource.

Talvez nós apenas votemos -- nós fazemos crowd source.

Or maybe we punt --

Ou talvez nós jogamos --

ask the legal department, see what they say.

pergunte ao departamento jurídico, veja o que eles dizem.

In other words, it's kind of random,

Em outras palavras, isto se dá aleatoriamente,

kind of ad hoc,

meio ad hoc,

how we figure out what we should do.

a maneira como resolvemos o que deveríamos fazer.

And maybe, if we want to be on surer footing,

E talvez, se nós queremos estar em terra firme,

what we really want is a moral framework that will help guide us there,

o que na verdade nós queremos é uma estrutura moral que nos guie,

that will tell us what kinds of things are right and wrong in the first place,

que nos diga que tipo de ações são certas ou erradas primeiramente,

and how would we know in a given situation what to do.

e o que nós faríamos em uma determinada situação.

So let's get a moral framework.

Então vamos criar uma estrutura moral.

We're numbers people, living by numbers.

Nós somos pessoas que vivem com números.

How can we use numbers

Como podemos usar números

as the basis for a moral framework?

como a base para a estrutura moral?

I know a guy who did exactly that.

Conheço um cara que fez exatamente isso,

A brilliant guy --

um cara brilhante --

he's been dead 2,500 years.

que morreu a 2500 anos atrás.

Plato, that's right.

Platão, exatamente.

Remember him -- old philosopher?

Lembra-se dele -- velho fil

You were sleeping during that class.

Você estava dormindo durante a aula.

And Plato, he had a lot of the same concerns that we did.

Platão possuia várias preocupações parecidas com as nossas.

He was worried about right and wrong.

Ele estava preocupado sobre o certo e o errado.

He wanted to know what is just.

Ele queria saber o que era justo.

But he was worried that all we seem to be doing

Mas ele estava preocupado com o fato de que tudo o que parecíamos estar fazendo

is trading opinions about this.

era trocar opiniões a respeito disto.

He says something's just. She says something else is just.

Ele diz que algo é justo. Ela diz que algo é justo.

It's kind of convincing when he talks and when she talks too.

É meio que convincente quando ele fala e quando ela fala, também.

I'm just going back and forth; I'm not getting anywhere.

Estou somente indo e voltando; Não estou indo a lugar algum.

I don't want opinions; I want knowledge.

Eu não quero opiniões, eu quero conhecimento.

I want to know the truth about justice --

Eu quero saber a verdade sobre a justiça --

like we have truths in math.

como nós temos verdades na matemática.

In math, we know the objective facts.

Na matemática, sabemos os fatos exatos.

Take a number, any number -- two.

Pegue um número, qualquer número -- 2.

Favorite number. I love that number.

Número favorito. Adoro esse número.

There are truths about two.

Existem verdades sobre o número dois.

If you've got two of something,

Se você tem duas unidades de alguma coisa,

you add two more, you get four.

e você adiciona mais dois, você tem quatro.

That's true no matter what thing you're talking about.

Isto é verdade, não importando sobre o quê você está falando.

It's an objective truth about the form of two,

É uma verdade objetiva sobre o dois,

the abstract form.

a forma abstrata.

When you have two of anything -- two eyes, two ears, two noses,

Quando você tem dois itens de algo -- dois olhos, duas orelhas, dois narizes,

just two protrusions --

somente duas projeções --

those all partake of the form of two.

todos parte do mesmo dois.

They all participate in the truths that two has.

Eles todos fazem parte das verdades que o dois tem.

They all have two-ness in them.

Todos tem as particularidades do dois.

And therefore, it's not a matter of opinion.

E então, isto não diz respeito a opiniões de cada um.

What if, Plato thought,

E caso, Platão pensou,

ethics was like math?

ética fosse como matemática?

What if there were a pure form of justice?

E se existiesse a pura forma da justiça?

What if there are truths about justice,

E se existissem verdades sobre a justiça,

and you could just look around in this world

e você pudesse somente olhar o mundo ao seu redor

and see which things participated,

e enxergar que coisas participam,

partook of that form of justice?

são parte integrante desta forma de justiça?

Then you would know what was really just and what wasn't.

Então você saberia o que de fato era justo e o que não era.

It wouldn't be a matter

Isso não seria uma questão

of just opinion or just appearances.

de mera opinião ou aparências.

That's a stunning vision.

Esta é uma visão impressionante.

I mean, think about that. How grand. How ambitious.

Quero dizer, pense sobre isso. O quão grande. O quão ambicioso.

That's as ambitious as we are.

Isso é tão ambicioso quanto nós somos.

He wants to solve ethics.

Ele quer solucionar a ética.

He wants objective truths.

Ele quer verdades objetivas.

If you think that way,

Se pensar dessa forma,

you have a Platonist moral framework.

você tem uma estrutura moral platônica.

If you don't think that way,

Se você não pensa dessa forma,

well, you have a lot of company in the history of Western philosophy,

bem, você tem muita companhia na história da filosofia Ocidental,

because the tidy idea, you know, people criticized it.

por causa dessa precisa ideia -- você sabe, as pessoas criticam isso.

Aristotle, in particular, he was not amused.

Aristóteles, em particular, não era tão impressionado por isso.

He thought it was impractical.

Ele achava que isto era impraticável.

Aristotle said, "We should seek only so much precision in each subject

Aristóteles disse, "Só devemos buscar precisão em um determinado assunto

as that subject allows."

até o ponto em que este assunto permite."

Aristotle thought ethics wasn't a lot like math.

Aristóteles não achava que a ética era como a matemática.

He thought ethics was a matter of making decisions in the here-and-now

Ele acreditava que a ética era uma questão de tomar decisões aqui e agora,

using our best judgment

utilizando nosso melhor julgamento

to find the right path.

para achar o caminho certo.

If you think that, Plato's not your guy.

Se pensar assim, Platão não é o seu cara.

But don't give up.

Mas não desista.

Maybe there's another way

Talvez exista um outro caminho

that we can use numbers as the basis of our moral framework.

que possamos utilizar os números como base para a nossa estrutura moral.

How about this:

Que tal isso:

What if in any situation you could just calculate,

E se em qualquer situação você pudesse simplesmente calcular,

look at the choices,

observar as opções,

measure out which one's better and know what to do?

mensurar qual a melhor e saber o que fazer?

That sound familiar?

Isso soa familiar?

That's a utilitarian moral framework.

Essa é uma estrutura moral utilitarista.

John Stuart Mill was a great advocate of this --

John Stuart Mill era um grande defensor disto --

nice guy besides --

um excelente cara --

and only been dead 200 years.

e só morreu a cerca de 200 anos.

So basis of utilitarianism --

Então, à base do utilitarismo --

I'm sure you're familiar at least.

eu tenho certeza que você é familiar.

The three people who voted for Mill before are familiar with this.

As três pessoas que votaram a favor de Mill anteriormente são familiares com isso.

But here's the way it works.

Mas aqui está a forma que isso funciona.

What if morals, what if what makes something moral

E se a moral, e se o que faz com que algo seja moral,

is just a matter of if it maximizes pleasure

seja somente uma questão de maximizar o prazer

and minimizes pain?

e minimizar a dor?

It does something intrinsic to the act.

Isso é algo intrínseco ao ato.

It's not like its relation to some abstract form.

Não é algo relacionado a uma forma abstrata.

It's just a matter of the consequences.

É só uma questão de saber as consequências.

You just look at the consequences

Você somente observa as consequências

and see if, overall, it's for the good or for the worse.

e vê se, de maneira geral, isto é para melhorar algo ou para piorar.

That would be simple. Then we know what to do.

Isso seria simples. Assim saberíamos o que fazer.

Let's take an example.

Vamos tomar um exemplo.

Suppose I go up

Digamos que eu levante

and I say, "I'm going to take your phone."

e diga, "Vou pegar seu telefone."

Not just because it rang earlier,

Não somente porque ele tocou anteriormente,

but I'm going to take it because I made a little calculation.

mas pegarei isso pois eu fiz um pequeno cálculo.

I thought, that guy looks suspicious.

Eu pensei, esse cara parece suspeito.

And what if he's been sending little messages to Bin Laden's hideout --

E se ele está mandando mensagens para o esconderijo de Bin Laden --

or whoever took over after Bin Laden --

ou quem quer que seja quem assumiu depois de Bin Laden --

and he's actually like a terrorist, a sleeper cell.

e ele é, na verdade, um terrorista, um agente infiltrado.

I'm going to find that out, and when I find that out,

Eu descobrirei isto e quando eu descobrir isto,

I'm going to prevent a huge amount of damage that he could cause.

eu evitaria uma grande quantidade de danos que ele poderia causar.

That has a very high utility to prevent that damage.

Esta foi uma ação muito útil para prevenir o dano.

And compared to the little pain that it's going to cause --

E comparado ao pequeno dano que isso vai causar --

because it's going to be embarrassing when I'm looking on his phone

pois vai ser embaraçoso eu olhar seu telefone

and seeing that he has a Farmville problem and that whole bit --

e ver que ele tem um problema na sua Farmville --

that's overwhelmed

isso é superado

by the value of looking at the phone.

pelo valor de olhar o telefone.

If you feel that way,

Se você se sente dessa forma,

that's a utilitarian choice.

essa é uma escolha utilitarista.

But maybe you don't feel that way either.

Mas talvez você também não se sinta assim.

Maybe you think, it's his phone.

Talvez você pense, esse é o telefone dele.

It's wrong to take his phone

É errado pegar seu telefone,

because he's a person

pois ele é uma pessoa

and he has rights and he has dignity,

ele tem direitos e tem dignidade,

and we can't just interfere with that.

e não podemos interferir nisto.

He has autonomy.

Ele tem autonomia.

It doesn't matter what the calculations are.

Não interessa que cálculos eu fiz.

There are things that are intrinsically wrong --

Existem coisas que são intrínsecamente erradas -

like lying is wrong,

como mentir é errado,

like torturing innocent children is wrong.

como torturar crianças inocentes é errado.

Kant was very good on this point,

Kant era muito bom nesse sentido,

and he said it a little better than I'll say it.

e ele disse um pouco melhor do que eu direi.

He said we should use our reason

Ele disse que deveríamos utilizar nossa razão

to figure out the rules by which we should guide our conduct,

para enteder as regrar pelas quais nós deveríamos guiar a nossa conduta.

and then it is our duty to follow those rules.

E então seria o nosso dever seguir essas regras.

It's not a matter of calculation.

Isto não é uma questão de cálculo.

So let's stop.

Então vamos parar.

We're right in the thick of it, this philosophical thicket.

Nós estamos no âmago disto, no núcleo filosófico disto.

And this goes on for thousands of years,

E isto continua por milhares de anos,

because these are hard questions,

pois estas são questões difíceis,

and I've only got 15 minutes.

e só tenho 15 minutos.

So let's cut to the chase.

Então vamos direto ao ponto.

How should we be making our decisions?

Como deveríamos tomar nossa decisão?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Pelo pensamento de Platão, Aristóteles, Kant ou Mill?

What should we be doing? What's the answer?

O que deveríamos fazer? Qual a resposta?

What's the formula that we can use in any situation

Qual a fórmula que podemos utilizar em qualquer situação

to determine what we should do,

e determinar o que devemos fazer,

whether we should use that guy's data or not?

se devemos utilizar os dados deste cara ou não?

What's the formula?

Qual a fórmula?

There's not a formula.

Não há nenhuma fórmula.

There's not a simple answer.

Não há uma resposta simples.

Ethics is hard.

Ética é difícil.

Ethics requires thinking.

Ética requer pensamento.

And that's uncomfortable.

E isto é desconfortável.

I know; I spent a lot of my career

Eu sei; Eu gastei muito de minha carreira

in artificial intelligence,

na intelgência artificial,

trying to build machines that could do some of this thinking for us,

tentando criar máquinas que poderiam fazer boa parte desse pensar por nós,

that could give us answers.

que poderia nos dar respostas.

But they can't.

Mas elas não podem.

You can't just take human thinking

Você não pode pegar o pensamento humano

and put it into a machine.

e colocar uma uma máquina.

We're the ones who have to do it.

Nós que devemos fazer isto.

Happily, we're not machines, and we can do it.

Felizmente, não somos máquinas, e podemos fazer isso.

Not only can we think,

Não apenas podemos,

we must.

devemos.

Hannah Arendt said,

Hannah Arendt disse,

"The sad truth

"A triste verdade

is that most evil done in this world

é que a maioria do mal feito nesse mundo

is not done by people

não é feito por pessoas

who choose to be evil.

que escolheram serem más.

It arises from not thinking."

Isso emerge do não pensar."

That's what she called the "banality of evil."

Isto é o que ela chamou de "banalidade do mal."

And the response to that

E a resposta a isso

is that we demand the exercise of thinking

é que necessitamos do exercício do pensar

from every sane person.

de toda pessoa sã.

So let's do that. Let's think.

Então vamos fazer isto. Vamos pensar.

In fact, let's start right now.

De fato, vamos começar agora mesmo.

Every person in this room do this:

Todos nesta sala façam isso:

think of the last time you had a decision to make

pense na última vez que você teve que tomar uma decisão,

where you were worried to do the right thing,

quando você estava preocupado em fazer a coisa certa,

where you wondered, "What should I be doing?"

quando você pensou, "O que eu devo fazer?"

Bring that to mind,

Traga isso à mente.

and now reflect on that

Agora reflita sobre isso

and say, "How did I come up that decision?

e diga, "Como cheguei a essa conclusão?"

What did I do? Did I follow my gut?

O que eu fiz? Eu segui meu eu interior?

Did I have somebody vote on it? Or did I punt to legal?"

Fiz uma votação sobre isso? Ou eu apostei no que era legal?

Or now we have a few more choices.

Agora nós temos algumas outras opções.

"Did I evaluate what would be the highest pleasure

"Eu avaliei o que traria as maiores vantagens,

like Mill would?

como Mill faria?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Ou como Kant, eu usei a razão para imaginar o que estava intrinsecamente correto?

Think about it. Really bring it to mind. This is important.

Pense sobre isto. Traga isso à sua mente. Isto é importante.

It is so important

Isto é tão importante

we are going to spend 30 seconds of valuable TEDTalk time

que gastaremos 30 segundos valiosos do TEDTalk

doing nothing but thinking about this.

fazendo nada, somente pensando a respeito disto.

Are you ready? Go.

Está pronto? Vai.

Stop. Good work.

Pare. Bom trabalho.

What you just did,

O que você acabou de fazer,

that's the first step towards taking responsibility

este é o primeiro passo em direção a tomar responsabilidae

for what we should do with all of our power.

para aquilo que podemos fazer com o nosso poder.

Now the next step -- try this.

Agora o próximo passo -- tente isto.

Go find a friend and explain to them

Procure um amigo e explique a ele

how you made that decision.

como você tomou essa decisão.

Not right now. Wait till I finish talking.

Não agora. Espere que eu termine a palstra.

Do it over lunch.

Faça isso no almoço.

And don't just find another technologist friend;

E não o faça com outro amigo da área de tecnologia.

find somebody different than you.

Ache alguém diferente de você.

Find an artist or a writer --

Ache um artista ou escritor --

or, heaven forbid, find a philosopher and talk to them.

ou, que os céus proibam, ache um filósofo e fale com ele sobre isso.

In fact, find somebody from the humanities.

Na verdade, ache alguém da área de humanas.

Why? Because they think about problems

Porquê? Pois eles pensam sobre problemas

differently than we do as technologists.

diferente de como pensamos enquanto tecnólogos.

Just a few days ago, right across the street from here,

Alguns dias atrás, logo do outro lado da rua,

there was hundreds of people gathered together.

havia centemas de pessoas juntas.

It was technologists and humanists

eram pessoas da área de tecnologia e humanas

at that big BiblioTech Conference.

na gramde Conferência BiblioTech.

And they gathered together

Eles estavam juntos

because the technologists wanted to learn

pois os tecnólogos queriam aprender

what it would be like to think from a humanities perspective.

como seria pensar sobre a perspectiva da área humana.

You have someone from Google

Você tem alguém do Google

talking to someone who does comparative literature.

conversando com alguém que faz literatura comparativa.

You're thinking about the relevance of 17th century French theater --

Você está pensando sobre a relevância do teatro francês do século XVII --

how does that bear upon venture capital?

o que isto tem a ver com capital de risco?

Well that's interesting. That's a different way of thinking.

Isso é interessante. Esta é uma diferente forma de pensar.

And when you think in that way,

E quando você pensa dessa forma,

you become more sensitive to the human considerations,

você se torna mais sensível para as considerações humanas,

which are crucial to making ethical decisions.

que são cruciais para a tomada de decisões éticas.

So imagine that right now

Então imagine que agora mesmo

you went and you found your musician friend.

você encontrasse seu amigo músico.

And you're telling him what we're talking about,

E você dissesse para ele sobre o que estamos falando,

about our whole data revolution and all this --

sobre nossa revolução de dados e tudo isso --

maybe even hum a few bars of our theme music.

talvez até cantarolasse algo da nossa música tema.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Bem, seu amigo músico pararia e diria,

"You know, the theme music

"Sabe, a música tema

for your data revolution,

de sua revolução de dados,

that's an opera, that's Wagner.

é uma ópera escrita por Wagner.

It's based on Norse legend.

É baseada nas lendas Nórdicas.

It's Gods and mythical creatures

Seus deuses e criaturas míticas

fighting over magical jewelry."

lutando por joias mágicas."

That's interesting.

Isto é interessante.

Now it's also a beautiful opera,

É também uma linda ópera.

and we're moved by that opera.

E somos movidos pela ópera.

We're moved because it's about the battle

Somos movidos pois é sobre uma batalha

between good and evil,

entre o bem e o mal,

about right and wrong.

entre o certo e o errado.

And we care about right and wrong.

E nos importamos com o bem e o mal.

We care what happens in that opera.

Nos importamos com o que acontece na ópera.

We care what happens in "Apocalypse Now."

Nos importamos com o que acontece no "Apocalypse Now."

And we certainly care

E com certeza nos importamos

what happens with our technologies.

com o que acontece com nossas tecnologias.

We have so much power today,

Temos tanto poder hoje,

it is up to us to figure out what to do,

e é nossa responsabilidade entender o que fazer.

and that's the good news.

Essa é a boa notícia.

We're the ones writing this opera.

Nós somos as pessoas escrevendo a ópera.

This is our movie.

Este é o nosso filme.

We figure out what will happen with this technology.

Nós dizemos o que acontecerá com essa tecnologia.

We determine how this will all end.

Nós determinamos como tudo isso irá acabar.

Thank you.

Obrigado.

(Applause)

(Aplausos)