Damon Horowitz calls for a "moral operating system"

Fordító: Orsolya Szemere Lektor: Laszlo Kereszturi

Power.

Erő.

That is the word that comes to mind.

Ez a szó jut eszembe.

We're the new technologists.

Mi vagyunk az új technológus szakemberek.

We have a lot of data, so we have a lot of power.

Rengeteg adatunk van, így nagy a hatalmunk!

How much power do we have?

Mekkora a hatalmunk?

Scene from a movie: "Apocalypse Now" -- great movie.

Jelenet egy filmből: "Apokalipszis most" -- nagyszerű film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

El kell vinnünk hősünket, Willard Kapitányt a Nung folyó torkolatához,

so he can go pursue Colonel Kurtz.

hogy elkaphassa Kurtz ezredest.

The way we're going to do this is fly him in and drop him off.

Úgy fogjuk ezt véghezvinni, hogy beröpítjük, majd ledobjuk.

So the scene:

Tehát a jelenet:

the sky is filled with this fleet of helicopters carrying him in.

az égbolt alig látszik a helikopter flottától, ami őt szállítja.

And there's this loud, thrilling music in the background,

És itt van ez a hangos, balsejtelmű zene a háttérben,

this wild music.

ez a vad zene.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Na ez rengeteg erő!

That's the kind of power I feel in this room.

Ez az az erő, amit ebben a helységben is érzékelek.

That's the kind of power we have

Ez az az erő, amink van

because of all of the data that we have.

a sok adat eredményeképpen, amink van.

Let's take an example.

Vegyünk egy példát.

What can we do

Mit tehetünk

with just one person's data?

egyetlen ember adataival?

What can we do

Mit tehetünk

with that guy's data?

annak a srácnak az adataival?

I can look at your financial records.

Megnézhetem a pénzügyi nyilvántartásaidat.

I can tell if you pay your bills on time.

Megmondhatom, hogy időben fizeted-e ki a számláidat.

I know if you're good to give a loan to.

Tudom, hogy olyan vagy-e, akinek érdemes kölcsönt adni.

I can look at your medical records; I can see if your pump is still pumping --

Megnézhetem az orvosi feljegyzéseidet, hogy a szíved pumpál-e még --

see if you're good to offer insurance to.

hogy vajon érdemes-e neked biztosítást ajánlani.

I can look at your clicking patterns.

Meg tudom nézni a választási szokásaidat.

When you come to my website, I actually know what you're going to do already

Amikor a weboldalamra lépsz, akkor már gyakorlatilag tudom, mit fogsz ott tenni,

because I've seen you visit millions of websites before.

mert láttam, ahogy többmillió weboldalt végigböngésztél.

And I'm sorry to tell you,

És sajnálom, hogy ezt kell mondjam,

you're like a poker player, you have a tell.

de olyan vagy, mint egy pókerjátékos, lebuktál.

I can tell with data analysis what you're going to do

Meg tudom mondani adatelemzéssel, hogy

before you even do it.

mit fogsz tenni, még mielőtt megtennéd.

I know what you like. I know who you are,

Tudom, mit szeretsz. Tudom, ki vagy.

and that's even before I look at your mail

És mindezt még azelőtt, hogy megnéztem

or your phone.

volna a levelezésedet, vagy a telefonodat!

Those are the kinds of things we can do

Ilyesféléket vagyunk képesek leolvasni

with the data that we have.

azon adatok alapján, amik vannak.

But I'm not actually here to talk about what we can do.

De valójában nem azért vagyok itt, hogy arról beszéljek, mit tehetünk.

I'm here to talk about what we should do.

Azért vagyok itt, hogy arról beszéljek, hogy mit kéne tennünk.

What's the right thing to do?

Mi a helyes cselekedet?

Now I see some puzzled looks

Most látok néhány zavarodott tekintetet,

like, "Why are you asking us what's the right thing to do?

azaz, "Miért kérdezi tőlünk, hogy mi a helyes cselekedet?

We're just building this stuff. Somebody else is using it."

Mi csak építjük ezeket a cuccokat! Valaki más meg használja!

Fair enough.

Persze, igaz.

But it brings me back.

De ez megint visszavezet oda.

I think about World War II --

A II. világháborúra gondolok --

some of our great technologists then,

néhány akkori nagy szakemberünkre,

some of our great physicists,

néhány nagy fizikusunkra,

studying nuclear fission and fusion --

akik nukleáris maghasadást és fúziót tanulmányoztak --

just nuclear stuff.

csak nukleáris dolgokat.

We gather together these physicists in Los Alamos

Összejövünk ezekkel a fizikusokkal Los Alamosban,

to see what they'll build.

hogy megnézzük, mit fognak összehozni.

We want the people building the technology

Azt akarjuk, hogy az emberek építsenek technológiákat,

thinking about what we should be doing with the technology.

miközben arra gondolunk, hogy mit kéne tennünk ezzel a technológiával.

So what should we be doing with that guy's data?

Nos, mit kezdenénk a srác adataival?

Should we be collecting it, gathering it,

Összeszednénk, összegyűjtenénk,

so we can make his online experience better?

azért, hogy az internetes élményei jobbak legyenek?

So we can make money?

Hogy pénzt csináljunk belőle?

So we can protect ourselves

Hogy meg tudjuk védeni magunkat ellene,

if he was up to no good?

ha valami rosszban törné a fejét?

Or should we respect his privacy,

Vagy tartsuk tiszteletben a magánszféráját,

protect his dignity and leave him alone?

és méltóságát és hagyjuk békén?

Which one is it?

Na, melyik legyen?

How should we figure it out?

Hogy találjuk ki?

I know: crowdsource. Let's crowdsource this.

Tudom már: közvélemény kutatás. Csináljuk azt!

So to get people warmed up,

A bemelegítés kedvéért

let's start with an easy question --

kezdjünk egy könnyű kérdéssel --

something I'm sure everybody here has an opinion about:

valami olyannal, amiről itt szerintem mindenkinek

iPhone versus Android.

van véleménye: iPhone és Android.

Let's do a show of hands -- iPhone.

Emeljék fel a kezüket, akik iPhone-ra szavaznak.

Uh huh.

Aha.

Android.

Android.

You'd think with a bunch of smart people

Az ember azt gondolná, hogy ennyi okos ember

we wouldn't be such suckers just for the pretty phones.

nem mind balek, hogy a szép telefont válassza!

(Laughter)

(Nevetés)

Next question,

Következő kérdés,

a little bit harder.

egy kicsit nehezebb.

Should we be collecting all of that guy's data

Azért gyűjtsük össze a srác adatait,

to make his experiences better

hogy az élményeit színesítsük,

and to protect ourselves in case he's up to no good?

és megvédjük magunkat, ha rosszat akarna?

Or should we leave him alone?

Vagy hagyjuk meg magának?

Collect his data.

Gyűjtsük az adatait.

Leave him alone.

Hagyjuk magának.

You're safe. It's fine.

Biztonságban vannak. Minden OK.

(Laughter)

(Nevetés)

Okay, last question --

OK, utolsó kérdés --

harder question --

nehezebb kérdés --

when trying to evaluate

amikor próbáljuk mérlegelni, hogy

what we should do in this case,

vajon mit tegyünk egy ilyen esetben,

should we use a Kantian deontological moral framework,

a Kant-féle etikai erkölcs keretében,

or should we use a Millian consequentialist one?

vagy a Mill-féle következetes gondolkodásmód szerint járjunk el?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Most nincs annyi szavazat.

(Laughter)

(Nevetés)

Yeah, that's a terrifying result.

Hát igen, na ez ijesztő eredmény.

Terrifying, because we have stronger opinions

Azért ijesztő, mert határozottabb véleményünk

about our hand-held devices

van a kézzelfogható eszközeinkkel kapcsolatban,

than about the moral framework

mint az erkölcsi keretekkel kapcsolatban,

we should use to guide our decisions.

amiket útmutatóul kéne használnunk a döntéseinkhez.

How do we know what to do with all the power we have

Honnan tudhatnánk akkor, hogy mit kezdjünk az összes

if we don't have a moral framework?

rendelkezésünkre álló erővel, ha nincs erkölcsi keretünk?

We know more about mobile operating systems,

Többet tudunk a mobilok operációs rendszeréről,

but what we really need is a moral operating system.

de amire igazán szükségünk lenne, az egy erkölcsi operációs rendszer.

What's a moral operating system?

Mi az az erkölcsi operációs rendszer?

We all know right and wrong, right?

Mind tudjuk, mi a jó és a rossz, igaz?

You feel good when you do something right,

Jól érezzük magunkat, amikor valami jót teszünk,

you feel bad when you do something wrong.

rosszul érezzük magunkat, amikor valami rosszat teszünk.

Our parents teach us that: praise with the good, scold with the bad.

Szüleink tanítják ezt: dicséret jár, ha jók vagyunk, szidás, ha rosszak.

But how do we figure out what's right and wrong?

De mi alapján döntjük el, mi a jó és a rossz?

And from day to day, we have the techniques that we use.

És napról napra különféle technikákat használunk ennek érdekében.

Maybe we just follow our gut.

Előfordul, hogy csak a hasunkra ütünk.

Maybe we take a vote -- we crowdsource.

Lehet, hogy szavazatokat számlálunk -- közvélemény kutatást végzünk.

Or maybe we punt --

Vagy hazardírozunk --

ask the legal department, see what they say.

megkérdezzük a jogi osztályt, lássuk, mit mondanak ők.

In other words, it's kind of random,

Más szóval, elég esetleges,

kind of ad hoc,

eléggé ad hoc,

how we figure out what we should do.

az, ahogy kitaláljuk, mit is tegyünk.

And maybe, if we want to be on surer footing,

És lehet, hogy ha biztosabb alapokat akarunk,

what we really want is a moral framework that will help guide us there,

akkor valójában egy erkölcsi keretet szeretnénk, ami segít eligazodni,

that will tell us what kinds of things are right and wrong in the first place,

ami megmondaná, hogy melyek azok a dolgok, amik elsőkézből jók, vagy rosszak,

and how would we know in a given situation what to do.

és hogyan tudhatjuk meg egy adott szituban, hogy mit tegyünk.

So let's get a moral framework.

Határozzunk meg akkor egy erkölcsi keretet.

We're numbers people, living by numbers.

A számok emberei vagyunk, számok szerint

How can we use numbers

élünk. Hogyan használhatjuk fel a számokat

as the basis for a moral framework?

az erkölcsi keret alapjául?

I know a guy who did exactly that.

Ismerek egy srácot, aki éppen ezt tette,

A brilliant guy --

nagyszerű srác --

he's been dead 2,500 years.

már 2500 éve meghalt.

Plato, that's right.

Plátón, igen.

Remember him -- old philosopher?

Emlékeznek rá -- ókori filozófusra?

You were sleeping during that class.

Aludtak az alatt az óra alatt.

And Plato, he had a lot of the same concerns that we did.

Nos, Plátónnak hasonló aggályai voltak, mint nekünk.

He was worried about right and wrong.

Ő is a jó és rossz kérdése miatt aggodalmaskodott.

He wanted to know what is just.

Tudni akarta, mi az igazságos.

But he was worried that all we seem to be doing

De nehezményezte, hogy úgy tűnik, mindössze

is trading opinions about this.

annyit teszünk ezügyben, hogy véleményekkel kereskedünk.

He says something's just. She says something else is just.

Az egyik azt mondja, ez az igazságos. A másik a másikra szavaz.

It's kind of convincing when he talks and when she talks too.

Az is meggyőző, ha az egyik beszél, de az is, ha a másik beszél.

I'm just going back and forth; I'm not getting anywhere.

Így csak oda-vissza dőlök; sehova sem jutok!

I don't want opinions; I want knowledge.

Nem véleményeket akarok, hanem tudást!

I want to know the truth about justice --

Tudni akarom az igazat az igazsággal kapcsolatban --

like we have truths in math.

mint ahogy a matekban is vannak igazságok.

In math, we know the objective facts.

Matekban ismerjük az objektív tényeket.

Take a number, any number -- two.

Vegyünk egy számot, bármelyiket -- kettő.

Favorite number. I love that number.

A kedvencem. Imádom ezt a számot.

There are truths about two.

Vannak igazságok a kettővel kapcsolatban.

If you've got two of something,

Ha van két akármid,

you add two more, you get four.

és hozzáadsz még kettőt, akkor négyed lesz.

That's true no matter what thing you're talking about.

Ez így igaz, teljesen mindegy, miről beszélünk.

It's an objective truth about the form of two,

Ez egy objektív igazság a kettő formájával kapcsolatban,

the abstract form.

az elvont formájával kapcsolatban.

When you have two of anything -- two eyes, two ears, two noses,

Ha van két akármid -- két szem, két fül, két orr,

just two protrusions --

csak két kiálló valamid --

those all partake of the form of two.

akkor azok együtt teszik ki a kettő alakját.

They all participate in the truths that two has.

Ketten együtt vesznek részt abban az igazságban, amivel a kettő bír.

They all have two-ness in them.

Mindegyikükben benne van a kettő-ség.

And therefore, it's not a matter of opinion.

Ez tehát nem vélemény kérdése.

What if, Plato thought,

Mi van akkor, ha Platón szerint

ethics was like math?

az etika is olyan, mint a matek?

What if there were a pure form of justice?

Mi van akkor, ha létezik az igazságosság tiszta formában?

What if there are truths about justice,

Ha vannak igazságok az igazságossággal kapcsolatban?

and you could just look around in this world

és csak egyszerűen körbe kéne nézni a világban

and see which things participated,

és meglátnánk, mely dolgok alkotják,

partook of that form of justice?

vesznek részt az igazságosság megformálásában?

Then you would know what was really just and what wasn't.

Akkor tudnánk, mi az, ami tényleg igazságos, és mi nem.

It wouldn't be a matter

Nem lenne többé pusztán

of just opinion or just appearances.

vélemény, vagy külső megjelenés függvénye.

That's a stunning vision.

Ez egy lélegzetelállító jövőkép.

I mean, think about that. How grand. How ambitious.

Gondolják csak el, milyen nagyszabású, nagyratörő elképzelés!

That's as ambitious as we are.

Olyan nagyratörő, amilyenek mi vagyunk.

He wants to solve ethics.

Meg akarja oldani az erkölcs kérdését.

He wants objective truths.

Objektív igazságokat akar.

If you think that way,

Ha ilyen elvek mentén gondolkozol,

you have a Platonist moral framework.

akkor Plátóni erkölcsi kereteket alkalmazol.

If you don't think that way,

Ha nem így gondolkozol,

well, you have a lot of company in the history of Western philosophy,

nos, akkor sok kísérőd lesz a Nyugati filozófia történetéből,

because the tidy idea, you know, people criticized it.

mert minél rendezettebb egy elképzelés -- tudjuk, annál többen kritizálják.

Aristotle, in particular, he was not amused.

Arisztotelész különösképpen, egyáltalán nem volt lenyűgözve.

He thought it was impractical.

Szerinte ez járhatatlan, megvalósíthatatlan.

Aristotle said, "We should seek only so much precision in each subject

Arisztotelész azt mondta: "Csak annyi pontosságot keressünk mindenben,

as that subject allows."

amennyit az a téma megenged!"

Aristotle thought ethics wasn't a lot like math.

Arisztotelész szerint az etika egyáltalán nem olyan, mint a matek.

He thought ethics was a matter of making decisions in the here-and-now

Szerinte az erkölcs az itt-és-most döntésekről szól,

using our best judgment

számításba véve tőlünk telhető legjobb ítélkezést,

to find the right path.

a járható út megtalálása érdekében.

If you think that, Plato's not your guy.

Ha így gondolkodsz, akkor Plátón nem a te figurád,

But don't give up.

de azért ne add fel!

Maybe there's another way

Talán van egy másik mód arra, hogy

that we can use numbers as the basis of our moral framework.

felhasználhassuk a számokat erkölcsi keretünk alapjaként.

How about this:

Mit szóltok ehhez:

What if in any situation you could just calculate,

Mi van akkor, ha bármely helyzetben ki tudnák számolni

look at the choices,

számításba véve a választási lehetőségeket,

measure out which one's better and know what to do?

ki tudnák mérni, melyik a jobb, és akkor mit lehet tenni?

That sound familiar?

Ismerősen hangzik?

That's a utilitarian moral framework.

Ez az utilitárius erkölcsi keret.

John Stuart Mill was a great advocate of this --

John Stuart Mill nagy támogatója volt ennek --

nice guy besides --

jó srácok vannak mellettünk --

and only been dead 200 years.

és csak 200 éve halott.

So basis of utilitarianism --

Tehát az utilitarizmus alapja --

I'm sure you're familiar at least.

biztos vagyok benne, hogy legalább fogalmatok van róla.

The three people who voted for Mill before are familiar with this.

Az a 3 ember, aki az előbb rá szavazott, legalábbis ismeri.

But here's the way it works.

De megmutatom, hogy működik ez.

What if morals, what if what makes something moral

Mi van akkor, ha az tesz valamit erkölcsössé,

is just a matter of if it maximizes pleasure

csak annak a függvénye, hogy az örömet maximalizálja,

and minimizes pain?

és a fájdalmat minimalizálja?

It does something intrinsic to the act.

Ennek valamiféle lényegi hatása van a cselekedetre.

It's not like its relation to some abstract form.

Nem olyan, mint az elvont dolgokkal való kapcsolat.

It's just a matter of the consequences.

Hanem csak a következmény a lényeges.

You just look at the consequences

Csak megnézzük a következményeket,

and see if, overall, it's for the good or for the worse.

és megnézzük, hogy összességében jót okoz, vagy rosszat.

That would be simple. Then we know what to do.

Ez igen egyszerű lenne. Akkor tudnánk, mit

Let's take an example.

kell tenni. Vegyünk egy példát.

Suppose I go up

Tegyük fel, fogom magam

and I say, "I'm going to take your phone."

és azt mondom, "Elveszem a telefonodat!".

Not just because it rang earlier,

Nem csak azért, mert nemrég csörgött,

but I'm going to take it because I made a little calculation.

hanem azért is, mert végeztem egy kis számítást.

I thought, that guy looks suspicious.

Szerintem a srác gyanús.

And what if he's been sending little messages to Bin Laden's hideout --

És mi van, ha Bin Laden rejtekhelyére küldözget sms-eket --

or whoever took over after Bin Laden --

vagy akárki is vette át az uralmat Bin Laden után --

and he's actually like a terrorist, a sleeper cell.

és tisztára mintha valami terrorista lenne, egy alvó sejt.

I'm going to find that out, and when I find that out,

Ezt akarom megvizsgálni, és miközben ezt vizsgálom

I'm going to prevent a huge amount of damage that he could cause.

persze meg is spórolok egy csomó veszélyt, amit ő jelenthet.

That has a very high utility to prevent that damage.

Ennek a veszélynek a megelőzése nagyon nagy haszonnal bír.

And compared to the little pain that it's going to cause --

És összehasonlítva azzal a kis fájdalommal, amit okoz --

because it's going to be embarrassing when I'm looking on his phone

mert persze az kínos lesz, amikor a telefonját vizsgálgatom,

and seeing that he has a Farmville problem and that whole bit --

és azt találom, hogy csak Farmville-es

that's overwhelmed

problémái akadnak, meg ilyesmik -- ez eltörpül

by the value of looking at the phone.

a telefon átvilágításának értékessége mellett.

If you feel that way,

Ha így érzed magad,

that's a utilitarian choice.

na akkor ez az utilitárius választás.

But maybe you don't feel that way either.

De lehet, hogy még ez sem a te érzésed szerint való.

Maybe you think, it's his phone.

Lehet, hogy úgy gondolod: ez az ő telefonja.

It's wrong to take his phone

Nem helyes elvenni a telefonját,

because he's a person

mert ő is egy személy,

and he has rights and he has dignity,

és vannak jogai, meg méltósága,

and we can't just interfere with that.

és abba nem szabad csak úgy egyszerűen beleavatkozni.

He has autonomy.

Önrendelkezési joga van.

It doesn't matter what the calculations are.

Tök mindegy, mit számítunk ki.

There are things that are intrinsically wrong --

Vannak dolgok, amik alapvetően nem helyesek --

like lying is wrong,

mint például hazudni helytelen,

like torturing innocent children is wrong.

ártatlan gyermekeket kínozni is helytelen.

Kant was very good on this point,

Kant ebben nagyon jó volt,

and he said it a little better than I'll say it.

és egy kicsit jobban adta elő, mint ahogyan én fogom.

He said we should use our reason

Azt mondta, arra kéne használjuk az értelmünket,

to figure out the rules by which we should guide our conduct,

hogy kitaláljuk, mely szabályokat vegyük útmutatóul a viselkedésünkhöz.

and then it is our duty to follow those rules.

És akkor a mi feladatunk azon szabályok követése.

It's not a matter of calculation.

Nem számítás kérdése.

So let's stop.

Na álljunk akkor meg.

We're right in the thick of it, this philosophical thicket.

Benne vagyunk a sűrűjében, a filozófia erdejében.

And this goes on for thousands of years,

És így megy ez évezredeken át,

because these are hard questions,

mert ezek kemény kérdések,

and I've only got 15 minutes.

nekem viszont csak 15 percem van.

So let's cut to the chase.

Vágjuk rövidre!

How should we be making our decisions?

Hogyan hozzuk meg akkor a döntéseinket?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Plátón szerint, vagy Arisztotelész, Kant, ill. Mill szerint?

What should we be doing? What's the answer?

Mit tegyünk? Mi a válasz?

What's the formula that we can use in any situation

Melyik az a képlet, amit minden helyzetben használhatunk

to determine what we should do,

annak meghatározására, hogy mit tegyünk,

whether we should use that guy's data or not?

hogy hasznosítsuk annak a srácnak az adatait, avagy ne?

What's the formula?

Mi a szabály?

There's not a formula.

Nincs szabály!

There's not a simple answer.

Nincs egyszerű válasz!

Ethics is hard.

Az erkölcs kemény dió.

Ethics requires thinking.

Az erkölcshöz gondolkodásra van szükség.

And that's uncomfortable.

Márpedig ez kényelmetlen.

I know; I spent a lot of my career

Tudom; karrierem nagy részében

in artificial intelligence,

a mesterséges intelligenciával foglalkoztam,

trying to build machines that could do some of this thinking for us,

próbáltam olyan gépezeteket alkotni, amik elvégezhetnék

that could give us answers.

e gondolkodás egy részét helyettünk, amik válaszokat adhatnának.

But they can't.

De nem tudják megtenni.

You can't just take human thinking

Nem lehet egyszerűen csak fogni

and put it into a machine.

az emberi gondolkodást és betenni egy gépbe.

We're the ones who have to do it.

Nekünk magunknak kell ezt megtenni.

Happily, we're not machines, and we can do it.

Nagy örömünkre, nem vagyunk gépek, és meg tudjuk tenni.

Not only can we think,

Nemcsak hogy tudunk gondolkodni,

we must.

de kell is gondolkodnunk!

Hannah Arendt said,

Hannah Arendt szerint:

"The sad truth

"A szomorú igazság az, hogy

is that most evil done in this world

a világban a legtöbb szörnyű tett

is not done by people

nem abból következik, hogy vannak,

who choose to be evil.

akik a gonoszság mellett döntenek.

It arises from not thinking."

Hanem abból, hogy vannak, akik nem gondolkodnak!"

That's what she called the "banality of evil."

Ez az, amit így nevezett: "a gonosz banalitása".

And the response to that

És erre az a válasz, hogy

is that we demand the exercise of thinking

felszólítunk minden egyes épelméjű embert

from every sane person.

arra, hogy művelje a gondolkodást!

So let's do that. Let's think.

Úgyhogy akkor most tegyük is meg! Gondolkozzunk.

In fact, let's start right now.

Tényleg, próbáljuk meg most azonnal.

Every person in this room do this:

Mindenki itt a teremben, csináljuk együtt:

think of the last time you had a decision to make

idézd fel, mikor legutóbb valamivel kapcsolatban döntést kellett hoznod,

where you were worried to do the right thing,

amikor aggodalmaskodtál, vajon megtalálod-e a helyes választást,

where you wondered, "What should I be doing?"

amikor így töprengtél: "Mit is tegyek?"

Bring that to mind,

Idézd fel ezt!

and now reflect on that

És most, töprengj el rajta,

and say, "How did I come up that decision?

és tedd fel a kérdést: "Végül is hogyan tudtam dönteni?

What did I do? Did I follow my gut?

Mit is tettem? Vajon a megérzésemre hallgattam?

Did I have somebody vote on it? Or did I punt to legal?"

Vagy megszavaztattam? Jogszabályok szerint jártam el?"

Or now we have a few more choices.

Vagy van még néhány választási lehetőség.

"Did I evaluate what would be the highest pleasure

"Számításba vettem, mi adná a legnagyobb örömet,

like Mill would?

mint ahogy Mill tenné? Vagy Kantot követve használtam

Or like Kant, did I use reason to figure out what was intrinsically right?"

az okfejtést annak kiszámítására, mi az eredendően jó?

Think about it. Really bring it to mind. This is important.

Gondoljuk csak végig. Tényleg idézzük fel. Nagyon fontos.

It is so important

Annyira fontos, hogy

we are going to spend 30 seconds of valuable TEDTalk time

eltöltünk 30 másodpercnyi értékes TEDTalk időt

doing nothing but thinking about this.

azzal, hogy semmi mást nem teszünk, csak ezt gondoljuk végig!

Are you ready? Go.

Készen álltok? Rajt!

Stop. Good work.

Állj. Szép volt.

What you just did,

Amit most csináltunk, az az első lépés

that's the first step towards taking responsibility

a felelősségvállalás felé: hogy mit is kezdjünk

for what we should do with all of our power.

az összes rendelkezésünkre álló erővel.

Now the next step -- try this.

Namost a következő lépés -- próbáljuk meg ezt.

Go find a friend and explain to them

Kerekedjetek fel és keressetek egy barátot,

how you made that decision.

akinek elmesélitek, hogyan jutottatok erre a döntésre.

Not right now. Wait till I finish talking.

Nem most azonnal. Várjátok meg, amíg

Do it over lunch.

befejezem az előadást. Csináljátok ebédidőben.

And don't just find another technologist friend;

És ne csak egy másik szakembertársat keressetek;

find somebody different than you.

keressetek valaki tőletek különbözőt.

Find an artist or a writer --

Keressetek egy művészt, vagy egy írót --

or, heaven forbid, find a philosopher and talk to them.

vagy ne adj' isten, egy filozófust és beszéljetek azzal!

In fact, find somebody from the humanities.

Kereshettek egy bölcsészt is.

Why? Because they think about problems

Miért? Mert ők máshogy közelítenek a problémákhoz,

differently than we do as technologists.

mint mi technológus szakemberként.

Just a few days ago, right across the street from here,

Épp néhány nappal ezelőtt, itt az utca túloldalán

there was hundreds of people gathered together.

sok száz ember gyűlt össze.

It was technologists and humanists

Technológus szakemberek és bölcsészek

at that big BiblioTech Conference.

azon a nagy Biblio Tech Konferencián.

And they gathered together

És azért gyűltek össze,

because the technologists wanted to learn

mert a technológusok meg akarták tudni, hogy

what it would be like to think from a humanities perspective.

milyen lenne bölcsész szemszögből nézni a dolgokat.

You have someone from Google

Valaki a Google-től, egy összehasonlító irodalomtudománnyal

talking to someone who does comparative literature.

foglalkozó szakemberrel beszélgetett.

You're thinking about the relevance of 17th century French theater --

A 17. századi Francia színház vonatkozásában gondolkozol --

how does that bear upon venture capital?

mi köze lehet ennek a kockázati tőkéhez?

Well that's interesting. That's a different way of thinking.

Na ez érdekes! Ez aztán egy másfajta gondolkodás!

And when you think in that way,

És amikor ilyesféleképen gondolkodunk,

you become more sensitive to the human considerations,

érzékenyebbé válunk az emberi tényezők iránt,

which are crucial to making ethical decisions.

amik alapvetően fontosak az erkölcsi döntéseknél.

So imagine that right now

Képzeld el akkor most azt,

you went and you found your musician friend.

hogy mentél és kerestél mondjuk egy zenész kollégát.

And you're telling him what we're talking about,

És most elmondod neki, amiről itt most beszélünk,

about our whole data revolution and all this --

az egész adatforradalmasítást, meg ilyesmiket --

maybe even hum a few bars of our theme music.

akár dúdolj is el valamennyit az indulónkból.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Akkor pedig a zenész megállít téged és azt mondja,

"You know, the theme music

"Tudod az adatforradalmatok

for your data revolution,

indulója egy opera,

that's an opera, that's Wagner.

Wagner operájából való.

It's based on Norse legend.

Egy norvég legenda az alapja.

It's Gods and mythical creatures

Arról szól, hogy Isten és mindenféle

fighting over magical jewelry."

mítikus lények bűvös ékszerekért harcolnak."

That's interesting.

Na ez érdekes.

Now it's also a beautiful opera,

De gyönyörű opera is egyben.

and we're moved by that opera.

És nagyon meg is hat bennünket.

We're moved because it's about the battle

Azért hat meg, mert a jó és a rossz

between good and evil,

közti viadalról szól,

about right and wrong.

a helyesről és helytelenről.

And we care about right and wrong.

És mi törődünk ezekkel!

We care what happens in that opera.

Számít, hogy mi történik abban az operában!

We care what happens in "Apocalypse Now."

Számít, hogy mi történik az "Apokalipszis most"-ban.

And we certainly care

És különösképpen számít, hogy mi történik

what happens with our technologies.

a saját technológiáinkkal!

We have so much power today,

Olyan óriási hatalmunk van manapság,

it is up to us to figure out what to do,

rajtunk múlik, hogy mit döntünk, mit tegyünk vele!

and that's the good news.

És ez a jó hír.

We're the ones writing this opera.

Mi magunk írjuk az operát!

This is our movie.

Ez a mi filmünk!

We figure out what will happen with this technology.

Mi találjuk ki, mi történjen ezzel a technológiával!

We determine how this will all end.

Mi szabjuk meg, hogy ez az egész hogyan végződjön!

Thank you.

Köszönöm.

(Applause)

(Taps)