Damon Horowitz calls for a "moral operating system"

Translator: Teddy Budiwan Reviewer: Anggriawan Sugianto

Power.

Kekuatan.

That is the word that comes to mind.

Itulah kata yang terlintas di pikiran.

We're the new technologists.

Kita adalah teknolog baru.

We have a lot of data, so we have a lot of power.

Kita punya banyak data, jadi kita punya kekuatan yang besar.

How much power do we have?

Seberapa besar kekuatan yang kita miliki?

Scene from a movie: "Apocalypse Now" -- great movie.

Adegan dari film: "Apocalypse Now" -- film yang bagus.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Kita harus mengeluarkan pahlawan kita, Kapten Willard, menuju pangkal sungai Nung

so he can go pursue Colonel Kurtz.

agar ia dapat mengejar Kolonel Kurtz.

The way we're going to do this is fly him in and drop him off.

Caranya adalah menerbangkannya dan menjatuhkannya di lokasi.

So the scene:

Beginilah adegannya:

the sky is filled with this fleet of helicopters carrying him in.

Langit dipenuhi oleh armada helikopter yang membawanya.

And there's this loud, thrilling music in the background,

Lalu ada musik latar belakang yang mendebarkan

this wild music.

musik yang keren.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Itu kekuatan yang besar.

That's the kind of power I feel in this room.

Itulah yang kurasakan di ruangan ini.

That's the kind of power we have

Itulah kekuatan yang kita rasakan

because of all of the data that we have.

karena banyaknya data yang kita miliki.

Let's take an example.

Mari ambil contoh.

What can we do

Apa yang dapat kita lakukan

with just one person's data?

dengan data satu orang saja?

What can we do

Apa yang dapat kita lakukan

with that guy's data?

dengan datanya?

I can look at your financial records.

Saya dapat melihat catatan keuanganmu.

I can tell if you pay your bills on time.

Saya dapat tahu apakah Anda membayar tagihan Anda tepat waktu.

I know if you're good to give a loan to.

Saya tahu apakah Anda kandidat kredit yang baik.

I can look at your medical records; I can see if your pump is still pumping --

Melalui catatan medis Anda, saya tahu apakah jantung Anda masih berfungsi baik --

see if you're good to offer insurance to.

apakah Anda masih layak untuk ditawari produk asuransi.

I can look at your clicking patterns.

Saya dapat melihat pola klikmu.

When you come to my website, I actually know what you're going to do already

Kalau Anda mengunjungi situs saya, saya tahu apa yang akan Anda lakukan,

because I've seen you visit millions of websites before.

karena saya sudah melihat Anda mengunjungi jutaan situs sebelumnya.

And I'm sorry to tell you,

Sayangnya,

you're like a poker player, you have a tell.

Anda seperti pemain poker, saya tahu kelemahan Anda.

I can tell with data analysis what you're going to do

Dengan analisa data saya tahu apa yang akan Anda lakukan

before you even do it.

bahkan sebelum Anda melakukannya.

I know what you like. I know who you are,

Saya tahu apa yang Anda suka. Saya tahu siapa Anda.

and that's even before I look at your mail

Bahkan sebelum saya melihat surat Anda

or your phone.

atau telpon Anda.

Those are the kinds of things we can do

Itu adalah hal yang dapat kita lakukan

with the data that we have.

dengan data yang kita miliki.

But I'm not actually here to talk about what we can do.

Namun saya tidak akan berbicara mengenai apa yang dapat kita lakukan.

I'm here to talk about what we should do.

Saya ingin berbicara mengenai apa yang sebaiknya kita lakukan.

What's the right thing to do?

Apa yang tepat perlu dilakukan?

Now I see some puzzled looks

Saya melihat wajah-wajah yang bingung

like, "Why are you asking us what's the right thing to do?

seperti, “Mengapa Anda bertanya pada kami apa yang sebaiknya dilakukan?

We're just building this stuff. Somebody else is using it."

Kami hanya membuatnya. Orang lain yang memakainya.”

Fair enough.

Mungkin ada benarnya.

But it brings me back.

Tapi itu mengingatkan saya.

I think about World War II --

Saya terpikir mengenai Perang Dunia 2 --

some of our great technologists then,

beberapa teknolog terhandal kita,

some of our great physicists,

ahli fisika terhebat,

studying nuclear fission and fusion --

mempelajari nuklir fisi dan fusi --

just nuclear stuff.

hanya nuklir saja.

We gather together these physicists in Los Alamos

Kita mengumpulkan ahli fisika itu di Los Alamos

to see what they'll build.

untuk memperhatikan apa yang dapat mereka buat.

We want the people building the technology

Kita ingin orang yang membuat teknologi berpikir

thinking about what we should be doing with the technology.

apa yang sebaiknya kita lakukan dengan teknologi.

So what should we be doing with that guy's data?

Apa yang seharusnya kita lakukan dengan data orang itu?

Should we be collecting it, gathering it,

Haruskah kita mengumpulkannya

so we can make his online experience better?

untuk membuat pengalaman online-nya lebih baik?

So we can make money?

Agar kita dapat menghasilkan uang?

So we can protect ourselves

Agar kita dapat melindungi diri kita sendiri

if he was up to no good?

bila ia berniat tidak baik?

Or should we respect his privacy,

Atau apakah kita sebaiknya menghormati privasinya,

protect his dignity and leave him alone?

melindungi harga dirinya dan membiarkannya?

Which one is it?

Yang manakah?

How should we figure it out?

Bagaimana cara kita menentukannya?

I know: crowdsource. Let's crowdsource this.

Saya tahu: suara terbanyak. Mari kita lakukan itu.

So to get people warmed up,

Sebagai pemanasan,

let's start with an easy question --

mari kita mulai dengan pertanyaan yang mudah --

something I'm sure everybody here has an opinion about:

semua orang pasti punya pendapat mengenai hal ini:

iPhone versus Android.

iPhone melawan Android.

Let's do a show of hands -- iPhone.

Coba tunjuk tangan -- siapa yang memakai iPhone.

Uh huh.

Oke.

Android.

Android.

You'd think with a bunch of smart people

Saya pikir karena kita orang pintar

we wouldn't be such suckers just for the pretty phones.

kita tidak akan terbujuk oleh ponsel yang cantik saja.

(Laughter)

(Tertawa)

Next question,

Selanjutnya,

a little bit harder.

sedikit lebih sulit.

Should we be collecting all of that guy's data

Apakah sebaiknya kita mengumpulkan data orang itu

to make his experiences better

untuk membuat pengalamannya lebih baik

and to protect ourselves in case he's up to no good?

dan melindungi kita kalau ia berniat tidak baik?

Or should we leave him alone?

Atau membiarkannya?

Collect his data.

Kumpulkan datanya.

Leave him alone.

Biarkan saja.

You're safe. It's fine.

Anda aman. Tidak apa-apa.

(Laughter)

(Tertawa)

Okay, last question --

Baiklah, pertanyaan terakhir --

harder question --

yang lebih sulit --

when trying to evaluate

saat mencoba mengevaluasi

what we should do in this case,

apa yang sebaiknya kita lakukan,

should we use a Kantian deontological moral framework,

apakah sebaiknya kita menggunakan kerangka moral deontologis Kant

or should we use a Millian consequentialist one?

atau konsekuensialis Mill?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Tidak banyak yang memilih.

(Laughter)

(Tertawa)

Yeah, that's a terrifying result.

Ya, itu hasil yang mengerikan.

Terrifying, because we have stronger opinions

Mengerikan, karena kita punya pendapat yang lebih kuat

about our hand-held devices

mengenai ponsel kita

than about the moral framework

dibandingkan dengan kerangka moral

we should use to guide our decisions.

yang sebaiknya kita gunakan untuk memandu keputusan kita.

How do we know what to do with all the power we have

Bagaimana kita tahu apa yang harus dilakukan dengan kekuatan yang kita punya

if we don't have a moral framework?

kalau kita tidak punya kerangka moral?

We know more about mobile operating systems,

Kita tahu banyak mengenai sistem operasi bergerak,

but what we really need is a moral operating system.

tapi yang lebih kita butuhkan adalah sistem operasi moral.

What's a moral operating system?

Apakah sistem operasi moral itu?

We all know right and wrong, right?

Kita semua tahu hal yang benar dan hal yang salah, bukan?

You feel good when you do something right,

Anda merasa senang kalau melakukan sesuatu yang benar,

you feel bad when you do something wrong.

Anda merasa tidak enak kalau melakukan sesuatu yang salah.

Our parents teach us that: praise with the good, scold with the bad.

Orang tua kita mengajarkan: Memuji yang benar, menegur yang salah.

But how do we figure out what's right and wrong?

Bagaimana kita menentukan mana yang benar dan salah?

And from day to day, we have the techniques that we use.

Dari hari ke hari, kita memiliki teknik yang kita gunakan.

Maybe we just follow our gut.

Mungkin kita hanya akan mengikuti insting kita saja.

Maybe we take a vote -- we crowdsource.

Mungkin kita mengambil suara -- kita melakukan voting.

Or maybe we punt --

Mungkin kita menebak –

ask the legal department, see what they say.

tanya bagian hukum, apa pendapat mereka.

In other words, it's kind of random,

Dengan kata lain, cara kita adalah acak

kind of ad hoc,

dan ad hoc.

how we figure out what we should do.

bagaimana kita menentukan apa yang harus kita lakukan.

And maybe, if we want to be on surer footing,

Mungkin bila kita ingin lebih pasti,

what we really want is a moral framework that will help guide us there,

apa yang kita inginkan adalah kerangka moral yang membimbing kita,

that will tell us what kinds of things are right and wrong in the first place,

yang akan memberitahu kita mana yang benar dan mana yang salah,

and how would we know in a given situation what to do.

dan bagaimana kita menentukan bila situasinya tiba.

So let's get a moral framework.

Mari kita menentukan kerangka moral.

We're numbers people, living by numbers.

Kita adalah masyarakat angka, hidup dengan angka.

How can we use numbers

Dapatkah kita menggunakan angka

as the basis for a moral framework?

sebagai landasan dari kerangka moral?

I know a guy who did exactly that.

Saya tahu orang yang melakukannya,

A brilliant guy --

orang yang pintar --

he's been dead 2,500 years.

ia sudah meninggal 2500 tahun yang lalu.

Plato, that's right.

Plato, ya benar.

Remember him -- old philosopher?

Ingatkah tentang dia - ahli filsafat kuno?

You were sleeping during that class.

Mungkin Anda tertidur di kelas saat guru Anda menerangkan hal ini.

And Plato, he had a lot of the same concerns that we did.

Plato mengkhawatirkan hal yang sama.

He was worried about right and wrong.

Ia khawatir terhadap hal yang benar dan salah.

He wanted to know what is just.

Ia ingin tahu apa itu keadilan.

But he was worried that all we seem to be doing

Namun ia khawatir apa yang kita lakukan

is trading opinions about this.

hanyalah bertukar pikiran mengenai hal ini.

He says something's just. She says something else is just.

Ia bilang sesuatu itu adil. Menurutnya itu hal yang lain.

It's kind of convincing when he talks and when she talks too.

Sangat meyakinkan ketika ia dan ia berbicara.

I'm just going back and forth; I'm not getting anywhere.

Saya hanya mondar mandir; Saya tidak mencapai kesimpulan apapun.

I don't want opinions; I want knowledge.

Saya tidak ingin pendapat, saya ingin pengetahuan.

I want to know the truth about justice --

Saya ingin tahu mengenai keadilan --

like we have truths in math.

seperti kita mengenal matematika.

In math, we know the objective facts.

Dalam matematika, kita mengenal fakta objektif.

Take a number, any number -- two.

Pilihlah satu angka, angka apa saja – dua.

Favorite number. I love that number.

Angka kesukaanku. Saya suka angka itu.

There are truths about two.

Ada kebenaran mengenai angka dua.

If you've got two of something,

Kalau Anda punya dua sesuatu,

you add two more, you get four.

lalu Anda tambahkan dua lagi, Anda akan memperoleh empat.

That's true no matter what thing you're talking about.

Itu benar, tidak peduli apapun yang sedang Anda bicarakan.

It's an objective truth about the form of two,

Ada kebenaran yang objektif mengenai bentuk dari angka dua,

the abstract form.

dari bentuk abstraknya.

When you have two of anything -- two eyes, two ears, two noses,

Kalau Anda punya dua semuanya – dua mata, dua telinga, dua hidung,

just two protrusions --

hanya dua tonjolan –

those all partake of the form of two.

semua itu adalah bentuk dari dua.

They all participate in the truths that two has.

Mereka memiliki kebenaran yang sama dengan dua.

They all have two-ness in them.

Mereka memiliki ke-”dua”-an di dalam mereka.

And therefore, it's not a matter of opinion.

Karena itu, hal ini tidak terkait dengan pendapat.

What if, Plato thought,

Plato berpikir,

ethics was like math?

bagaimana bila etika itu seperti matematika?

What if there were a pure form of justice?

Bagaimana bila ada bentuk murni dari keadilan?

What if there are truths about justice,

Bagaimana bila ada kebenaran mengenai keadilan,

and you could just look around in this world

dan Anda dapat melihat dunia

and see which things participated,

dan langsung tahu mana

partook of that form of justice?

yang memiliki nilai keadilan tersebut?

Then you would know what was really just and what wasn't.

Anda akan tahu mana yang adil dan mana yang tidak.

It wouldn't be a matter

Ini tidak lagi menjadi masalah pendapat

of just opinion or just appearances.

dan penampilan.

That's a stunning vision.

Itu adalah impian yang hebat.

I mean, think about that. How grand. How ambitious.

Bayangkanlah. Betapa mulianya. Betapa ambisiusnya.

That's as ambitious as we are.

Ia seambisius kita.

He wants to solve ethics.

Ia ingin memecahkan etika.

He wants objective truths.

Ia ingin kebenaran yang objektif.

If you think that way,

Kalau Anda berpikir seperti itu,

you have a Platonist moral framework.

Anda memiliki kerangka moral Platonis.

If you don't think that way,

Bila Anda tidak berpikir seperti itu,

well, you have a lot of company in the history of Western philosophy,

banyak yang seperti Anda di sejarah Filsafat Barat,

because the tidy idea, you know, people criticized it.

karena banyak yang mengkritik ide rapi itu.

Aristotle, in particular, he was not amused.

Terutama Aristoteles. Ia tidak suka pada ide itu.

He thought it was impractical.

Menurutnya ide itu tidak praktis.

Aristotle said, "We should seek only so much precision in each subject

Aristoteles berkata, “Kita sebaiknya hanya mencari presisi dari setiap subjek

as that subject allows."

sejauh kemampuan subjek tersebut.”

Aristotle thought ethics wasn't a lot like math.

Menurut Aristoteles, etika tidak seperti matematika.

He thought ethics was a matter of making decisions in the here-and-now

Menurutnya etika adalah pengambilan keputusan pada saat ini

using our best judgment

menggunakan pertimbangan terbaik kita pada saat itu

to find the right path.

dalam mencari jalan yang benar.

If you think that, Plato's not your guy.

Bila Anda setuju dengan cara itu, Anda tidak sependapat dengan Plato.

But don't give up.

Jangan menyerah.

Maybe there's another way

Mungkin ada cara lain

that we can use numbers as the basis of our moral framework.

untuk kita menggunakan angka sebagai landasan dari kerangka moral kita.

How about this:

Bagaimana dengan ini:

What if in any situation you could just calculate,

Bagaimana bila dalam situasi apapun Anda dapat melakukan perhitungan,

look at the choices,

melihat pilihan,

measure out which one's better and know what to do?

mempertimbangkan mana yang baik dan tahu apa yang harus dilakukan?

That sound familiar?

Apakah itu terdengar lazim?

That's a utilitarian moral framework.

Itu adalah kerangka moral utilitarian.

John Stuart Mill was a great advocate of this --

John Stuart Mill adalah pendukung gagasan itu –

nice guy besides --

orang yang baik –

and only been dead 200 years.

baru meninggal 200 tahun yang lalu.

So basis of utilitarianism --

Jadi landasan dari utilitarianime –

I'm sure you're familiar at least.

saya yakin Anda sudah tahu.

The three people who voted for Mill before are familiar with this.

Tiga orang yang memilih Mill sebelumnya lazim dengan hal ini.

But here's the way it works.

Begini caranya.

What if morals, what if what makes something moral

Bagaimana bila moral, bagaimana bila penentu yang hal bermoral

is just a matter of if it maximizes pleasure

adalah sesuatu yang bersifat memaksimalkan kesenangan

and minimizes pain?

dan meminimalkan penderitaan?

It does something intrinsic to the act.

Ini menyebabkan sesuatu yang intrinsik terhadap perbuatan itu.

It's not like its relation to some abstract form.

Ini tidak seperti hubungannya dengan bentuk abstrak tertentu.

It's just a matter of the consequences.

Ini hanyalah masalah konsekuensi.

You just look at the consequences

Anda hanya melihat konsekuensinya saja,

and see if, overall, it's for the good or for the worse.

apakah secara keseluruhan ia baik atau buruk.

That would be simple. Then we know what to do.

Ini lebih mudah. Dengan demikian kita tahu apa yang harus dilakukan.

Let's take an example.

Mari ambil contoh.

Suppose I go up

Misalnya saya berkata,

and I say, "I'm going to take your phone."

"Saya akan mengambil ponselmu."

Not just because it rang earlier,

Bukan karena ponsel itu berbunyi,

but I'm going to take it because I made a little calculation.

tapi karena saya sudah membuat sedikit perhitungan.

I thought, that guy looks suspicious.

Saya kira Anda terlihat mencurigakan.

And what if he's been sending little messages to Bin Laden's hideout --

Bagaimana jika ia sudah mengirim SMS ke persembunyian Bin Laden,

or whoever took over after Bin Laden --

atau siapapun penerusnya,

and he's actually like a terrorist, a sleeper cell.

dan ternyata ia teroris, mata-mata kelompok rahasia.

I'm going to find that out, and when I find that out,

Saya akan cari tahu, dan bila saya tahu,

I'm going to prevent a huge amount of damage that he could cause.

saya akan mencegah kerusakan yang dapat diakibatkannya.

That has a very high utility to prevent that damage.

Hal itu memiliki nilai yang tinggi untuk mencegah kerusakan.

And compared to the little pain that it's going to cause --

Dibandingkan dengan sedikit kesakitan yang akan terjadi --

because it's going to be embarrassing when I'm looking on his phone

karena memalukan ketika saya melihat ponselnya

and seeing that he has a Farmville problem and that whole bit --

dan ternyata ia ketagihan Farmville dan sejenisnya,

that's overwhelmed

itu tidak sebanding

by the value of looking at the phone.

dengan nilai dari melihat ponselnya.

If you feel that way,

Bila Anda berpendapat seperti itu,

that's a utilitarian choice.

itu adalah pilihan utilitarian.

But maybe you don't feel that way either.

Namun mungkin Anda juga tidak berpendapat demikian.

Maybe you think, it's his phone.

Mungkin menurut Anda itu adalah ponselnya.

It's wrong to take his phone

Mengambil ponselnya adalah tindakan yang salah

because he's a person

karena ia adalah manusia

and he has rights and he has dignity,

dengan hak dan harga diri,

and we can't just interfere with that.

kita tidak dapat mengganggu hal itu.

He has autonomy.

Ia punya otonomi.

It doesn't matter what the calculations are.

Tidak peduli apapun perhitungannya.

There are things that are intrinsically wrong --

Ada banyak yang hal yang salah secara intrinsik --

like lying is wrong,

seperti berbohong adalah salah,

like torturing innocent children is wrong.

menganiaya anak kecil adalah salah.

Kant was very good on this point,

Kant sangat bagus menerangkan hal ini,

and he said it a little better than I'll say it.

lebih baik dariku.

He said we should use our reason

Katanya kita harus menggunakan akal

to figure out the rules by which we should guide our conduct,

untuk mencari peraturan yang mengatur tindakan kita.

and then it is our duty to follow those rules.

Juga, ini adalah tugas kita untuk mengikuti peraturannya.

It's not a matter of calculation.

Ini bukan perkara perhitungan.

So let's stop.

Jadi sudahlah.

We're right in the thick of it, this philosophical thicket.

Kita berada di tengah-tengahnya.

And this goes on for thousands of years,

Ini berlangsung selama ribuan tahun.

because these are hard questions,

Karena ini adalah pertanyaan yang sulit

and I've only got 15 minutes.

dan saya hanya punya 15 menit.

So let's cut to the chase.

Mari langsung saja.

How should we be making our decisions?

Bagaimana seharusnya kita mengambil keputusan?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Apakah dengan Plato, Aristoteles, Kant, Mill?

What should we be doing? What's the answer?

Apa yang seharusnya kita lakukan? Apakah jawabannya?

What's the formula that we can use in any situation

Apakah rumus yang dapat kita gunakan dalam situasi apapun

to determine what we should do,

untuk menentukan apa yang harus kita lakukan,

whether we should use that guy's data or not?

apakah kita sebaiknya menggunakan data orang itu atau tidak?

What's the formula?

Apakah rumusnya?

There's not a formula.

Tidak ada rumusnya.

There's not a simple answer.

Tidak ada jawaban yang sederhana.

Ethics is hard.

Etika itu sulit

Ethics requires thinking.

Etika memerlukan pemikiran.

And that's uncomfortable.

Dan itu tidak nyaman.

I know; I spent a lot of my career

Saya tahu: Saya menjalankan karir saya

in artificial intelligence,

di bidang kecerdasan buatan,

trying to build machines that could do some of this thinking for us,

mencoba membangun mesin yang dapat berpikir untuk kita,

that could give us answers.

yang dapat memberikan kita jawaban.

But they can't.

Tapi mereka tidak dapat melakukannya.

You can't just take human thinking

Anda tidak dapat memindahkan pemikiran manusia

and put it into a machine.

ke dalam mesin.

We're the ones who have to do it.

Kita harus melakukan pemikiran itu sendiri.

Happily, we're not machines, and we can do it.

Untungnya, kita bukan mesin dan kita dapat melakukannya.

Not only can we think,

Kita bukan hanya mampu berpikir,

we must.

kita harus berpikir.

Hannah Arendt said,

Hannah Arendt berkata,

"The sad truth

“Kebenaran yang menyedihkan

is that most evil done in this world

adalah kebanyakan kejahatan yang terjadi di dunia ini

is not done by people

tidak dilakukan oleh orang

who choose to be evil.

yang berniat jahat.

It arises from not thinking."

Kejahatan muncul dari tidak berpikir.”

That's what she called the "banality of evil."

Ia menyebutnya “kelumrahan dalam kejahatan.”

And the response to that

Respon terhadap hal itu

is that we demand the exercise of thinking

adalah kita menginginkan pemikiran

from every sane person.

dari setiap manusia yang waras.

So let's do that. Let's think.

Mari kita lakukan hal itu. Mari kita berpikir.

In fact, let's start right now.

Mari mulai sekarang juga.

Every person in this room do this:

Untuk setiap orang di ruangan ini, mari kita lakukan hal ini:

think of the last time you had a decision to make

Pikirkan saat terakhir Anda harus memutuskan

where you were worried to do the right thing,

mana yang benar,

where you wondered, "What should I be doing?"

saat Anda bertanya, “Apa yang harus saya lakukan?"

Bring that to mind,

Pikirkan kembali saat itu.

and now reflect on that

Kini ingat kembali

and say, "How did I come up that decision?

dan katakan, “Kenapa saya bisa memutuskan hal tersebut?

What did I do? Did I follow my gut?

Apa yang saya lakukan? Apakah saya mengikuti insting?

Did I have somebody vote on it? Or did I punt to legal?"

Apakah saya menyuruh seseorang untuk memilih? Apakah saya bertanya ke orang hukum?

Or now we have a few more choices.

Kini kita punya lebih banyak pilihan.

"Did I evaluate what would be the highest pleasure

“Apakah saya mengevaluasi apa yang memberikan kesenangan tertinggi

like Mill would?

seperti Mill?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Atau seperti Kant, apakah saya menggunakan logika untuk mencari apa yang secara intrinsik adalah benar?"

Think about it. Really bring it to mind. This is important.

Pikirkan hal itu. Pikirkan dengan baik. Ini penting.

It is so important

Ini sangat penting

we are going to spend 30 seconds of valuable TEDTalk time

hingga kita akan menghabiskan waktu 30 detik dari waktu TEDTalk yang berharga ini

doing nothing but thinking about this.

untuk melakukan itu saja.

Are you ready? Go.

Anda siap? Mulai.

Stop. Good work.

Berhenti. Bagus.

What you just did,

Apa yang Anda lakukan barusan,

that's the first step towards taking responsibility

itu adalah langkah pertama dalam mengambil tanggung jawab

for what we should do with all of our power.

terhadap apa yang kita miliki dengan kekuatan kita.

Now the next step -- try this.

Kini langkah selanjutnya – coba ini.

Go find a friend and explain to them

Carilah teman dan terangkan pada mereka

how you made that decision.

bagaimana proses Anda mengambil keputusan tersebut.

Not right now. Wait till I finish talking.

Tidak usah sekarang. Tunggu hingga saya selesai berbicara.

Do it over lunch.

Lakukan saat makan siang.

And don't just find another technologist friend;

Jangan mencari teman tekonolog lainnya;

find somebody different than you.

carilah seseorang yang berbeda darimu.

Find an artist or a writer --

Carilah seniman atau penulis --

or, heaven forbid, find a philosopher and talk to them.

atau, amit-amit, carilah seorang filsuf dan berbicara pada mereka.

In fact, find somebody from the humanities.

Carilah seseorang dari gerakan kemanusiaan.

Why? Because they think about problems

Mengapa? Karena mereka memikirkan masalah

differently than we do as technologists.

secara berbeda dengan kita sebagai teknolog.

Just a few days ago, right across the street from here,

Beberapa hari yang lalu, di seberang jalan dari sini,

there was hundreds of people gathered together.

ada beberapa ratus orang berkumpul.

It was technologists and humanists

Itu adalah teknolog dan humanis

at that big BiblioTech Conference.

dari BiblioTech Conference.

And they gathered together

Mereka berkumpul

because the technologists wanted to learn

karena teknolog ingin belajar

what it would be like to think from a humanities perspective.

cara berpikir melalui perspektif seorang humanis.

You have someone from Google

Ada perwakilan dari Google

talking to someone who does comparative literature.

yang akan melakukan studi banding.

You're thinking about the relevance of 17th century French theater --

Anda berpikir mengenai relevasi dari teater Prancis di abad ke-17 --

how does that bear upon venture capital?

bagaimana pengaruhnya terhadap modal ventura?

Well that's interesting. That's a different way of thinking.

Itu menarik. Itu adalah cara berpikir yang berbeda.

And when you think in that way,

Ketika Anda berpikir dengan cara itu,

you become more sensitive to the human considerations,

Anda menjadi lebih sensitif terhadap pertimbangan manusia,

which are crucial to making ethical decisions.

yang sangat penting dalam mengambil keputusan yang etis.

So imagine that right now

Bayangkan saat ini Anda pergi

you went and you found your musician friend.

dan Anda sudah menemukan teman musisi Anda.

And you're telling him what we're talking about,

Anda ceritakan padanya apa yang kita bicarakan sekarang,

about our whole data revolution and all this --

mengenai revolusi data kita dan semua ini –

maybe even hum a few bars of our theme music.

mungkin Anda nyanyikan beberapa bar dari musik tema kita.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Teman musisi Anda akan menyela dan berkata,

"You know, the theme music

"Musik tema

for your data revolution,

untuk revolusi datamu,

that's an opera, that's Wagner.

itu opera, itu Wagner.

It's based on Norse legend.

Itu diambil berdasarkan legenda Norwegia.

It's Gods and mythical creatures

Itu mengenai para dewa dan makhluk mitos

fighting over magical jewelry."

yang memperebutkan perhiasan gaib.”

That's interesting.

Itu menarik.

Now it's also a beautiful opera,

Itu adalah opera yang menarik.

and we're moved by that opera.

Dan kita terharu terharu dengan opera itu.

We're moved because it's about the battle

Kita terharu karena ada pertempuran

between good and evil,

antara baik dan jahat,

about right and wrong.

antara benar dan salah.

And we care about right and wrong.

Dan kita peduli terhadap benar dan salah.

We care what happens in that opera.

Kita peduli tentang apa yang terjadi di opera itu.

We care what happens in "Apocalypse Now."

Kita peduli dengan apa yang terjadi di "Apocalypse Now."

And we certainly care

Kita peduli

what happens with our technologies.

dengan apa yang terjadi dengan teknologi kita.

We have so much power today,

Kita punya banyak kekuatan saat ini,

it is up to us to figure out what to do,

apa yang akan dilakukan dengan kekuatan itu tergantung pada kita.

and that's the good news.

Itu adalah berita baiknya.

We're the ones writing this opera.

Kita yang menulis opera ini.

This is our movie.

Ini adalah film kita.

We figure out what will happen with this technology.

Kita akan menentukan apa yang akan terjadi dengan teknologi kita.

We determine how this will all end.

Kita yang menentukan akhir dari semua ini.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)