Damon Horowitz calls for a "moral operating system"

Damon Horowitz bir "ahlaki işletim sistemi" çağrısı yapıyor

Çeviri: Kutay Erbayat Gözden geçirme: Çağrı Mert Bakırcı

Power.

Güç

That is the word that comes to mind.

Akla gelen kelime bu.

We're the new technologists.

Biz yeni teknoloji uzmanlarıyız.

We have a lot of data, so we have a lot of power.

Çok fazla verimiz var, bu yüzden de çok fazla güce sahibiz.

How much power do we have?

Peki, ne kadar gücümüz var?

Scene from a movie: "Apocalypse Now" -- great movie.

Bir filmden sahne, "Apocalypse Now (Kıyamet)" -- harika bir film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Kahramanımızı yani Kaptan Willard'ı Nung Nehri'nin ağzına götürmemiz gerek

so he can go pursue Colonel Kurtz.

o da böylece Albay Kurtz'u takip edebilecek.

The way we're going to do this is fly him in and drop him off.

Bunu yapmak için de, onu oraya uçurup iniş yaptıracağız.

So the scene:

Ve sahne:

the sky is filled with this fleet of helicopters carrying him in.

gökyüzü onu oraya taşıyan helikopter filosuyla doludur.

And there's this loud, thrilling music in the background,

Ve arkada şu yüksek sesli, heyecanlı müzik çalar.

this wild music.

Şu çılgınca parça.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

İşte bu büyük bir güç.

That's the kind of power I feel in this room.

Benim bu salonda hissettiğim türden güç.

That's the kind of power we have

Bu, elimizdeki tüm o veriler sayesinde

because of all of the data that we have.

bizde olan türden bir güç.

Let's take an example.

Bir örnek ele alalım.

What can we do

Sadece bir kişinin verileriyle

with just one person's data?

ne yapabiliriz?

What can we do

Mesela şuradaki adamın

with that guy's data?

verileriyle ne yapabiliriz?

I can look at your financial records.

Finansal kayıtlarına bakabilirim.

I can tell if you pay your bills on time.

Faturalarını zamanında ödeyip ödemediğini söyleyebilirim.

I know if you're good to give a loan to.

Borç vermeye uygun olup olmadığını öğrenebilirim.

I can look at your medical records; I can see if your pump is still pumping --

Tıbbi kayıtlarına bakıp, kalbinin sağlam olup olmadığını görebilir --

see if you're good to offer insurance to.

böylece sigorta teklif etmeye uygun mu görebilirim.

I can look at your clicking patterns.

İnternet eğilimlerine bakabilirim.

When you come to my website, I actually know what you're going to do already

İnternet sayfama geldiğinde, aslında ne yapacağını önceden biliyorum.

because I've seen you visit millions of websites before.

çünkü milyonlarca internet sayfasını ziyaret edişini gördüm

And I'm sorry to tell you,

Ve üzgünüm ama,

you're like a poker player, you have a tell.

tıpkı bir poker oyuncusu gibisin, bunu söylemek zorundayım.

I can tell with data analysis what you're going to do

Veri analizleri ile ne yapacağını sana

before you even do it.

sen daha yapmadan söyleyebilirim.

I know what you like. I know who you are,

Nelerden hoşlandığını, kim olduğunu biliyorum.

and that's even before I look at your mail

Hem de daha e-postana bakmadan önce bile

or your phone.

ya da telefonuna.

Those are the kinds of things we can do

İşte bunlar elimizdeki verilerle

with the data that we have.

yapabileceğimiz türden şeyler.

But I'm not actually here to talk about what we can do.

Ama aslında neler yapabileceğimiz hakkında konuşmak için burada değilim.

I'm here to talk about what we should do.

Neler yapmamız gerektiği hakkında konuşmak için buradayım.

What's the right thing to do?

Yapılacak doğru şey ne?

Now I see some puzzled looks

Şaşkın bakışlar görüyorum

like, "Why are you asking us what's the right thing to do?

sanki, "Bize doğru olanın ne olduğunu neden soruyorsun?

We're just building this stuff. Somebody else is using it."

Bu zımbırtıyı biz sadece geliştiriyoruz. Onu başkaları kullanıyor.” dercesine

Fair enough.

Peki, öyle olsun.

But it brings me back.

Ama bu beni geçmişe götürüyor.

I think about World War II --

II. Dünya Savaşını düşünüyorum da --

some of our great technologists then,

büyük teknoloji uzmanlarımızın bazıları,

some of our great physicists,

büyük fizikçilerimizin bazıları,

studying nuclear fission and fusion --

nükleer fisyon ve füzyon üzerine çalışıyorlar --

just nuclear stuff.

sadece nükleer şeyler üzerine.

We gather together these physicists in Los Alamos

Ne üreteceklerini görmek için tüm bu fizikçileri Los Alamos'ta

to see what they'll build.

bir araya getiriyoruz.

We want the people building the technology

Teknolojiyi üreten insanlar

thinking about what we should be doing with the technology.

teknolojiyle ne yapmamız gerektiğini düşünen insanlar olsun istiyoruz.

So what should we be doing with that guy's data?

Peki şu adamın verileriyle bizim ne yapmamız gerekiyor?

Should we be collecting it, gathering it,

Onları toplamalı, derlemeli miyiz,

so we can make his online experience better?

ki böylece onun internet deneyimini iyileştirebilelim?

So we can make money?

Böylece para kazanabilelim?

So we can protect ourselves

Böylece eğer iyi biri değilse

if he was up to no good?

kendimizi koruyabilelim?

Or should we respect his privacy,

Yoksa mahremiyetine saygı duymalı,

protect his dignity and leave him alone?

itibarını korumalı ve onu rahat mı bırakmalıyız?

Which one is it?

Hangisi?

How should we figure it out?

Bunu nasıl anlayabiliriz?

I know: crowdsource. Let's crowdsource this.

Ben biliyorum: Kitle kaynak. Bunu kitle kaynakla çözelim.

So to get people warmed up,

Öyleyse biraz ısınmak üzere,

let's start with an easy question --

kolay bir soru ile başlayalım --

something I'm sure everybody here has an opinion about:

buradaki herkesin bir fikri olduğuna emin olduğum bir şeyle:

iPhone versus Android.

iPhone’a karşı Android.

Let's do a show of hands -- iPhone.

Haydi el kaldırarak gösterelim – iPhone diyenler.

Uh huh.

A-ha

Android.

Android.

You'd think with a bunch of smart people

Bir grup zeki insan olarak bizim

we wouldn't be such suckers just for the pretty phones.

o kadar da güzel telefon budalası olmayacağımızı düşünebilirsiniz.

(Laughter)

(Gülüşmeler)

Next question,

Sıradaki soru,

a little bit harder.

birazcık daha zor

Should we be collecting all of that guy's data

Oradaki adamın deneyimlerini iyileştirmek için

to make his experiences better

ve eğer o iyi biri değilse kendimizi korumak için

and to protect ourselves in case he's up to no good?

onun tüm verilerini toplamalı mıyız?

Or should we leave him alone?

Yoksa onu rahat mı bırakmalıyız?

Collect his data.

Verileri toplayalım diyenler.

Leave him alone.

Rahat bırakalım.

You're safe. It's fine.

Güvendesiniz. Sorun yok.

(Laughter)

(Gülüşmeler)

Okay, last question --

Tamam, son soru --

harder question --

daha zor bir soru --

when trying to evaluate

böyle durumları değerlendirmeye çalışırken

what we should do in this case,

sizce ne yapmalıyız,

should we use a Kantian deontological moral framework,

Kantçı deontolojik bir ahlak çerçevesi mi kullanmalıyız,

or should we use a Millian consequentialist one?

yoksa Mill tarzı bir sonuççuluk mu kullanmalıyız?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Pek fazla oy yok.

(Laughter)

(Gülüşmeler)

Yeah, that's a terrifying result.

Evet, bu endişe verici bir sonuç.

Terrifying, because we have stronger opinions

Endişe verici, çünkü taşınabilir cihazlarımız hakkında,

about our hand-held devices

kararlarımızı yönlendirirken kullanmamız gereken

than about the moral framework

ahlaki çerçeve hakkında olduğundan

we should use to guide our decisions.

daha güçlü fikirlerimiz var.

How do we know what to do with all the power we have

Elimizdeki tüm bu güç ile ne yapacağımızı,

if we don't have a moral framework?

eğer bir ahlaki çerçevemiz yoksa nasıl bilebiliriz ki?

We know more about mobile operating systems,

Taşınabilir işletim sistemleri hakkında çok şey bilirken,

but what we really need is a moral operating system.

aslında gerçek ihtiyacımız olan şey bir ahlaki işletim sistemi.

What's a moral operating system?

Nedir ahlaki işletim sistemi?

We all know right and wrong, right?

Doğru ve yanlışın ne olduğunu biliyoruz, değil mi?

You feel good when you do something right,

Doğru bir şey yaptığında kendini iyi hissedersin,

you feel bad when you do something wrong.

Yanlış bir şey yaptığında kendini kötü hissedersin.

Our parents teach us that: praise with the good, scold with the bad.

Ebeveynlerimiz bize şunu öğretir: iyiyi yücelt, kötünün dersini ver.

But how do we figure out what's right and wrong?

Ama neyin doğru neyin yanlış olduğunu nasıl anlayacağız?

And from day to day, we have the techniques that we use.

Günbegün kullandığımız tekniklerimiz var.

Maybe we just follow our gut.

Belki sadece kalbimizin sesini dinliyoruz.

Maybe we take a vote -- we crowdsource.

Belki oylama yapıyoruz – kitle kaynak kullanıyoruz

Or maybe we punt --

Belki kumar oynuyoruz --

ask the legal department, see what they say.

Hukukçulara sorup, ne dediklerine bakıyoruz.

In other words, it's kind of random,

Bir başka deyişle, ne yapmamız gerektiğini nasıl bulduğumuz,

kind of ad hoc,

bir bakıma rastlantısal,

how we figure out what we should do.

bir bakıma da “ad hoc” (niyete mahsus)

And maybe, if we want to be on surer footing,

Ve belki de, daha güvenilir bir temelde olmak istiyorsak

what we really want is a moral framework that will help guide us there,

gerçekte istediğimiz, bizi orada yönlendirmede yardım edecek,

that will tell us what kinds of things are right and wrong in the first place,

ilk etapta bize neyin doğru neyin yanlış olduğunu söyleyecek,

and how would we know in a given situation what to do.

ve belli bir durumda ne yapacağımızı nasıl bileceğimize yardım edecek ahlaki bir çerçevedir.

So let's get a moral framework.

Öyleyse bir ahlaki çerçeve edinelim.

We're numbers people, living by numbers.

Biz sayılarla yaşayan, çok sayıda kişiyiz.

How can we use numbers

Ahlaki bir çerçeveye temel olacak şekilde,

as the basis for a moral framework?

sayıları nasıl kullanabiliriz?

I know a guy who did exactly that.

Ben tam olarak bunu yapan birini tanıyorum,

A brilliant guy --

Parlak zekâlı bir adam --

he's been dead 2,500 years.

2.500 yıl önce öldü.

Plato, that's right.

Platon, evet doğru.

Remember him -- old philosopher?

Hatırladınız mı – hani şu eski filozof?

You were sleeping during that class.

O sırada derste uyuyordunuz.

And Plato, he had a lot of the same concerns that we did.

Ve Platon, bizim sahip olduğumuz aynı kaygılara çokça sahipti.

He was worried about right and wrong.

Doğru ve yanlış hakkında meraklıydı.

He wanted to know what is just.

Neyin adil olduğunu bilmek istiyordu.

But he was worried that all we seem to be doing

Ama bu konuda tüm yaptığımızın bu konuda fikir alışverişi

is trading opinions about this.

yapıyormuşuz gibi göründüğünden endişeliydi.

He says something's just. She says something else is just.

Birine göre bir şey adilken, diğerine göre başka bir şey adil.

It's kind of convincing when he talks and when she talks too.

Onun anlattığı da bunun anlattığı da bir bakıma ikna edici.

I'm just going back and forth; I'm not getting anywhere.

Bir ileri bir geri gidiyorum bu şekilde, bir yere vardığım yok.

I don't want opinions; I want knowledge.

Artık fikir istemiyorum, bilgi birikimi istiyorum.

I want to know the truth about justice --

Adalet hakkındaki gerçeği bilmek istiyorum --

like we have truths in math.

tıpkı matematikte gerçekliklerimizin olduğu gibi.

In math, we know the objective facts.

Matematikte tarafsız olguları bilebiliriz.

Take a number, any number -- two.

Bir sayı al, herhangi bir sayı -- iki

Favorite number. I love that number.

En sevdiğim sayıdır. Bayılırım bu sayıya.

There are truths about two.

İki hakkında gerçekler vardır.

If you've got two of something,

Herhangi bir şeyden iki tanesine sahipseniz,

you add two more, you get four.

buna iki tane daha eklediğinizde, dört elde edersiniz.

That's true no matter what thing you're talking about.

Neden bahsettiğiniz fark etmez, her şey için doğrudur.

It's an objective truth about the form of two,

Bu iki olma biçimi hakkında, bu soyut biçim hakkında

the abstract form.

tarafsız bir olgudur.

When you have two of anything -- two eyes, two ears, two noses,

Herhangi bir şeyden iki tanesine sahipsen – iki göz, iki kulak, burun delikleri

just two protrusions --

sadece iki çıkıntı --

those all partake of the form of two.

tüm bunlar iki biçiminde yerini alır.

They all participate in the truths that two has.

İkinin sahip olduğu tüm gerçeklere ortak olur.

They all have two-ness in them.

Hepsinde sahip oldukları bir "ikilik" vardır.

And therefore, it's not a matter of opinion.

Ve dolayısıyla, bu bir kanaat meselesi değildir.

What if, Plato thought,

Peki ya Platon, etiğin

ethics was like math?

matematik gibi olduğunu düşünseydi?

What if there were a pure form of justice?

Ya adaletin saf bir biçimi varsa?

What if there are truths about justice,

Ya adalet hakkında gerçeklikler varsa,

and you could just look around in this world

ve yalnızca dünyaya şöyle bir bakınarak

and see which things participated,

nelerin bu gerçeğe ortak olup,

partook of that form of justice?

bu adalet biçiminde yerini aldığını görebilseydik?

Then you would know what was really just and what wasn't.

Böylece gerçekte neyin adil olup neyin olmadığını bilebilirdik.

It wouldn't be a matter

Sadece kanaat veya sadece

of just opinion or just appearances.

kalıplardan ibaret olmazdı.

That's a stunning vision.

Bu çarpıcı bir görüş.

I mean, think about that. How grand. How ambitious.

Yani, bir düşünsenize. Ne kadar muazzam. Ne kadar hırslı.

That's as ambitious as we are.

Tıpkı bizim kadar hırslı.

He wants to solve ethics.

Etiği çözmek istiyor.

He wants objective truths.

Tarafsız gerçeklikler istiyor.

If you think that way,

Eğer bu şekilde düşünüyorsanız,

you have a Platonist moral framework.

Platonist bir ahlaki çerçeveniz var demektir.

If you don't think that way,

Eğer böyle düşünmüyorsanız,

well, you have a lot of company in the history of Western philosophy,

öyleyse, batı felsefesinde pek çok fikir ortağınız var demektir,

because the tidy idea, you know, people criticized it.

çünkü bu hatrı sayılır fikri – bilirsiniz, insanlar bunu eleştirdi.

Aristotle, in particular, he was not amused.

Aristo, bundan özellikle memnun kalmadı.

He thought it was impractical.

O bunun kullanışsız olduğunu düşünüyordu.

Aristotle said, "We should seek only so much precision in each subject

Aristo şöyle dedi, “Bizler herhangi bir konuda, ancak o konunun bize izin verdiği miktarda

as that subject allows."

kesinlik arayabiliriz”

Aristotle thought ethics wasn't a lot like math.

Aristo etiğin matematiğe pek benzemediğini düşünüyordu.

He thought ethics was a matter of making decisions in the here-and-now

Etiğin, anlık bir karar verirken doğru yolu bulmak üzere, en iyi şekilde

using our best judgment

hüküm verme yetimizi kullanma meselesi

to find the right path.

olduğunu düşünüyordu.

If you think that, Plato's not your guy.

Eğer, Platon sizin adamınız değilse,

But don't give up.

yine de pes etmeyin.

Maybe there's another way

Belki, ahlaki çerçevemizde

that we can use numbers as the basis of our moral framework.

sayıları temel alarak kullanabileceğimiz başka bir yol vardır.

How about this:

Şuna ne dersiniz:

What if in any situation you could just calculate,

Ya herhangi bir durumda hesaplamalar yapıp,

look at the choices,

seçeneklere bakıp,

measure out which one's better and know what to do?

hangisinin daha iyi olduğunu ölçerek ne yapacağınızı bilebilirseniz?

That sound familiar?

Bu tanıdık geliyor mu?

That's a utilitarian moral framework.

İşte bu faydacı ahlak çerçevesi.

John Stuart Mill was a great advocate of this --

John Stuart Mill bunun en büyük savunucusuydu --

nice guy besides --

ayrıca iyi bir adamdı --

and only been dead 200 years.

ve sadece 200 yıl önce öldü.

So basis of utilitarianism --

Dolayısıyla faydacılığın temeli --

I'm sure you're familiar at least.

En azından aşina olduğunuza eminim.

The three people who voted for Mill before are familiar with this.

Başlarda Mill için el kaldırmış üç kişi için bunlar tanıdıktır.

But here's the way it works.

Ama işte bu şekilde çalışır.

What if morals, what if what makes something moral

Ya ahlak kuralları, yani bir şeyin ahlaklı olmasını sağlayanlar,

is just a matter of if it maximizes pleasure

onların sadece hazzı çoğaltması ve acıyı azaltması

and minimizes pain?

ile ilgiliyse?

It does something intrinsic to the act.

Eyleme içkin bir şey.

It's not like its relation to some abstract form.

Soyut bir biçim ile olan ilişkisi gibi değil.

It's just a matter of the consequences.

Ortaya çıkan sonuçlarla ilgili bir şey.

You just look at the consequences

Sadece sonuçlara bakıyorsunuz

and see if, overall, it's for the good or for the worse.

ve eylemin iyi veya kötü olduğunu görüyorsunuz.

That would be simple. Then we know what to do.

Böylesi basit olurdu. Böylece ne yapacağımızı bilebiliriz.

Let's take an example.

Bir örnek ele alalım.

Suppose I go up

İyice ileri gittiğimi varsayalım

and I say, "I'm going to take your phone."

diyorum ki, “Telefonunu alacağım”

Not just because it rang earlier,

Zamansız çaldığı için değil ama,

but I'm going to take it because I made a little calculation.

onu alacağım çünkü küçük bir hesaplama yaptım.

I thought, that guy looks suspicious.

Bu adamın şüpheli göründüğünü düşündüm.

And what if he's been sending little messages to Bin Laden's hideout --

Ya Bin Ladin’in saklandığı yere küçük mesajlar gönderip duruyorsa --

or whoever took over after Bin Laden --

veya Bin Ladin’den sonra yerine geçen her kimse --

and he's actually like a terrorist, a sleeper cell.

ve bu adam aslında bir terörist, emir bekleyen bir saldırgan.

I'm going to find that out, and when I find that out,

Ben bunu ortaya çıkartacağım, ve bunu yaptığımda,

I'm going to prevent a huge amount of damage that he could cause.

sebep olabileceği muazzam boyuttaki zararı önlemiş olacağım.

That has a very high utility to prevent that damage.

Hasar önleme konusunda çok büyük faydası var bunun.

And compared to the little pain that it's going to cause --

Ve sebep olacağı azıcık ıstırabı, kıyasladığımda --

because it's going to be embarrassing when I'm looking on his phone

çünkü telefonuna bakıp aslında Farmville’de küçük bir problemi olduğunu

and seeing that he has a Farmville problem and that whole bit --

gördüğümde bu biraz utanç verici olacak --

that's overwhelmed

bu benim telefona

by the value of looking at the phone.

bakmamın değeri karşısında hiçbir şey olmayacak.

If you feel that way,

Eğer bu şekilde düşünüyorsanız,

that's a utilitarian choice.

bu faydacı bir seçimdir.

But maybe you don't feel that way either.

Ama belki, bu şekilde de düşünmüyorsunuz.

Maybe you think, it's his phone.

Belki de sizce, bu onun telefonu.

It's wrong to take his phone

Bu adamın telefonunu almamız yanlış bir şey,

because he's a person

çünkü o bir birey,

and he has rights and he has dignity,

onun kişisel hakları ve bir itibarı var,

and we can't just interfere with that.

ve biz bunlara öylece müdahale edemeyiz.

He has autonomy.

Onun bir özyönetimi var.

It doesn't matter what the calculations are.

Hesaplamaların ne olduğu mühim değil.

There are things that are intrinsically wrong --

İçkin olarak yanlış olan şeyler vardır --

like lying is wrong,

mesela yalan söylemek yanlıştır,

like torturing innocent children is wrong.

mesela masum çocuklara işkence etmek yanlıştır.

Kant was very good on this point,

Kant bu noktada çok iyidi,

and he said it a little better than I'll say it.

ve benim ifade edeceğimden biraz daha iyisini söyledi.

He said we should use our reason

O, davranışlarımızı yönlendirmemiz gereken kuralları belirlemek için

to figure out the rules by which we should guide our conduct,

idrakımızı kullanmamız gerektiğini söyledi.

and then it is our duty to follow those rules.

Sonrasında bu kuralları takip etmek bizim görevimiz.

It's not a matter of calculation.

Bu hesaplanacak bir şey değil.

So let's stop.

Öyleyse şimdi duralım.

We're right in the thick of it, this philosophical thicket.

Bu meselenin felsefi çalılıklarında dolaşmakta haklıyız.

And this goes on for thousands of years,

Ve bu binlerce yıldır sürüyor,

because these are hard questions,

çünkü bunlar zor sorular,

and I've only got 15 minutes.

ve benim yalnızca 15 dakikam var.

So let's cut to the chase.

Öyleyse sadede gelelim.

How should we be making our decisions?

Kararlarımızı nasıl vermeliyiz?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Platon mu, Aristo mu, Kant mı, yoksa Mill mi?

What should we be doing? What's the answer?

Ne yapmalıyız? Cevap ne?

What's the formula that we can use in any situation

O adamın verilerini kullanıp kullanmama konusunda

to determine what we should do,

ne yapmamız gerektiğini belirlemek için,

whether we should use that guy's data or not?

Her durumda kullanabileceğimiz türden formül ne?

What's the formula?

Nedir bunun formülü?

There's not a formula.

Böyle bir formül yok.

There's not a simple answer.

Basit bir cevap yok.

Ethics is hard.

Etik zordur.

Ethics requires thinking.

Etik düşünmeyi gerektirir.

And that's uncomfortable.

Ve bu tatsız bir durum.

I know; I spent a lot of my career

Biliyorum, kariyerimin çoğunu

in artificial intelligence,

yapay zeka için kullandım,

trying to build machines that could do some of this thinking for us,

bizim için düşünme işinin bir kısmını yapabilecek, bize cevaplar verebilecek

that could give us answers.

makineler üretmeye çalışmakta.

But they can't.

Ama yapamıyorlar.

You can't just take human thinking

Gidip insan düşüncesini alıp

and put it into a machine.

aynen bir makineye yerleştiremiyorsunuz.

We're the ones who have to do it.

Bu işi yapması gereken bizleriz.

Happily, we're not machines, and we can do it.

Şükür ki biz makine değiliz ve biz bunu yapabiliyoruz.

Not only can we think,

Sadece düşünmeyi becermekle kalmıyoruz,

we must.

buna mecburuz.

Hannah Arendt said,

Hannah Arendt şöyle söylüyor,

"The sad truth

“Acı gerçek şu ki

is that most evil done in this world

dünyadaki kötülüklerin çoğu

is not done by people

kötü olmayı seçen kişiler

who choose to be evil.

tarafından yapılmıyor.

It arises from not thinking."

Düşünmemekten kaynaklanıyor.”

That's what she called the "banality of evil."

Bu, onun “kötülüğün bayağılığı” dediği şey.

And the response to that

Ve buna verilecek karşılık,

is that we demand the exercise of thinking

aklı başında her insan tarafından düşünme tatbikine

from every sane person.

gereksinim duymamız.

So let's do that. Let's think.

Öyleyse yapalım. Haydi düşünelim.

In fact, let's start right now.

Gerçekten, şimdi başlayalım.

Every person in this room do this:

Bu salondaki herkes şunu yapsın:

think of the last time you had a decision to make

karar vermenizi gerektiren son zamanı düşünün

where you were worried to do the right thing,

doğru olanı yapmak için kaygılandığınız,

where you wondered, "What should I be doing?"

Ne yapmalıyım acaba?” diye merak ettiğiniz.

Bring that to mind,

Aklınıza getirin.

and now reflect on that

Ve şimdi üzerine kafa yorun

and say, "How did I come up that decision?

deyin ki, “Bu karara nasıl vardım?”

What did I do? Did I follow my gut?

Ne yaptım? Kalbimin sesini mi dinledim?

Did I have somebody vote on it? Or did I punt to legal?"

Birilerinin kanaatine mi sundum? Bir hukukçuya mı danıştım?

Or now we have a few more choices.

Veya artık birkaç tercihimiz daha var.

"Did I evaluate what would be the highest pleasure

“En çok hazzı verecek şeye göre mi değerlendirme yaptım,

like Mill would?

Mill’in yapacağı gibi?”

Or like Kant, did I use reason to figure out what was intrinsically right?"

Yoksa Kant gibi, içkin doğruyu bulmak için sağduyumu mu kullandım?

Think about it. Really bring it to mind. This is important.

Bunu bir düşünün. Gerçekten aklınızda canlandırın. Bu önemli.

It is so important

Bu öylesine önemli ki

we are going to spend 30 seconds of valuable TEDTalk time

değerli TEDTalk zamanımızın 30 saniyesini buna harcayacağız

doing nothing but thinking about this.

hiçbir şey yapmayıp, sadece bunun hakkında düşüneceğiz.

Are you ready? Go.

Hazır mısınız? Başla.

Stop. Good work.

Tamam dur. Güzel.

What you just did,

Az önce yaptığınız,

that's the first step towards taking responsibility

gücümüzle ne yapmamız gerektiği konusunda

for what we should do with all of our power.

sorumluluk alma yolunda ilk adımdı.

Now the next step -- try this.

Şimdi bir sonraki adım – şunu deneyin.

Go find a friend and explain to them

Gidip bir arkadaşınızı bulun ve ona

how you made that decision.

bu kararı nasıl aldığınızı anlatın.

Not right now. Wait till I finish talking.

Şimdi değil. Konuşmamızı bitirene kadar bekleyin.

Do it over lunch.

Öğle yemeğinden sonra yapın.

And don't just find another technologist friend;

Ve gidip yine bir teknoloji uzmanı bulmayın;

find somebody different than you.

sizden farklı olan birini bulun.

Find an artist or a writer --

Bir sanatçı veya yazar bulun --

or, heaven forbid, find a philosopher and talk to them.

veya tanrı göstermesin, bir felsefeci bulup onunla konuşun.

In fact, find somebody from the humanities.

Hakikaten, beşeri bilimlerden birini bulun.

Why? Because they think about problems

Niye? Çünkü onlar sorunlar hakkında

differently than we do as technologists.

biz teknoloji uzmanlarından farklı düşünür.

Just a few days ago, right across the street from here,

Birkaç gün önce, buranın karşı sokağında,

there was hundreds of people gathered together.

yüzlerce insan toplanmıştı.

It was technologists and humanists

Teknoloji uzmanları ve hümanistler,

at that big BiblioTech Conference.

şu büyük BiblioTech konferansındaydı.

And they gathered together

Bir araya geldiler

because the technologists wanted to learn

çünkü teknoloji uzmanları, beşeri bilimler perspektifiyle

what it would be like to think from a humanities perspective.

düşünmenin nasıl bir şey olduğunu öğrenmek istiyordu.

You have someone from Google

Google'da çalışan birini

talking to someone who does comparative literature.

karşılaştırmalı edebiyat üzerine çalışan biri ile konuşurken buluyordunuz.

You're thinking about the relevance of 17th century French theater --

Şimdi 17inci yüzyıl Fransız tiyatrosunu düşünüyorsunuz --

how does that bear upon venture capital?

bunun risk sermayesi ile nasıl bir ilgisi olabilir?

Well that's interesting. That's a different way of thinking.

Evet ilginç. Bu farklı bir düşünme şekli.

And when you think in that way,

Ve bu şekilde düşündüğünüzde,

you become more sensitive to the human considerations,

insani hususlara karşı daha duyarlı hale geliyorsunuz,

which are crucial to making ethical decisions.

ki bunlar etik kararlar alırken oldukça can alıcı.

So imagine that right now

Öylese şimdi şunu hayal edin

you went and you found your musician friend.

gittiniz ve müzisyen bir arkadaşınızı buldunuz.

And you're telling him what we're talking about,

Ona hakkında konuştuğumuz şeyi anlatıyorsunuz,

about our whole data revolution and all this --

tüm bu veri devrimini ve tüm bunları --

maybe even hum a few bars of our theme music.

hatta belki şu parçamızdan birkaç ölçü mırıldanıyorsunuz.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Müzisyen arkadaşınız sizi durdurup şunu söyleyecek,

"You know, the theme music

“Hani şu müzik parçası var ya

for your data revolution,

şu veri devrimi için,

that's an opera, that's Wagner.

işte o bir opera, bir Wagner eseri.

It's based on Norse legend.

İskandinav efsaneleri üzerine.

It's Gods and mythical creatures

Tanrılar ve mitsel yaratıklar

fighting over magical jewelry."

sihirli mücevherler için savaşıyorlar.”

That's interesting.

Bu enteresan.

Now it's also a beautiful opera,

Ayrıca güzel de bir opera.

and we're moved by that opera.

Biz bu opera ile duygulanıyoruz.

We're moved because it's about the battle

Duygulanıyoruz, çünkü bu opera iyi ile kötü arasında

between good and evil,

doğru ile yanlış arasında

about right and wrong.

geçen bir savaş hakkında yazılmış.

And we care about right and wrong.

Ve biz doğru ile yanlışı önemsiyoruz.

We care what happens in that opera.

Biz o operada ne olduğunu önemsiyoruz.

We care what happens in "Apocalypse Now."

Biz “Kıyamet” filminde ne olduğunu önemsiyoruz.

And we certainly care

Ve biz kesinlikle teknolojimizle

what happens with our technologies.

neler olduğunu önemsiyoruz.

We have so much power today,

Bugün çok fazla gücümüz var,

it is up to us to figure out what to do,

ne yapacağımızı belirlemek bizim elimizde.

and that's the good news.

Ve işte iyi haber de bu.

We're the ones writing this opera.

Burada bu operayı yazanlar bizleriz.

This is our movie.

Bu bizim filmimiz.

We figure out what will happen with this technology.

Bu teknoloji ile neler olacağını biz belirliyoruz.

We determine how this will all end.

Nasıl biteceğini biz belirliyoruz.

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)