Damon Horowitz calls for a "moral operating system"

Translator: Anna Karina Carlsson Reviewer: Martin Hassel

Power.

Makt.

That is the word that comes to mind.

Det er ordet jeg kommer å tenke på.

We're the new technologists.

Vi er de nye teknologene.

We have a lot of data, so we have a lot of power.

Vi har mye data, så vi har mye makt.

How much power do we have?

Hvor mye makt har vi?

Scene from a movie: "Apocalypse Now" -- great movie.

Scene fra en film: "Apocalypse Now" -- storartet film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Vi må sende vår helt, Kapt. Willard, til munningen av Nung-floden

so he can go pursue Colonel Kurtz.

slik at han kan forfølge Oberst Kurtz.

The way we're going to do this is fly him in and drop him off.

Måten vi skal gjøre det på er å fly ham inn og slippe ham ut.

So the scene:

Så, scenen:

the sky is filled with this fleet of helicopters carrying him in.

himmelen er fylt med denne flåten av helikoptre som tar ham inn.

And there's this loud, thrilling music in the background,

Og det er den der høye, spennende musikken i bakgrunnen,

this wild music.

vill musikk.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Det er mye makt.

That's the kind of power I feel in this room.

Det er den typen makt jeg kjenner i dette rommet.

That's the kind of power we have

Det er den typen makt vi har

because of all of the data that we have.

gjennom all den data som vi har.

Let's take an example.

La oss ta et eksempel.

What can we do

Hva vi kan gjøre

with just one person's data?

med kun en persons data?

What can we do

Hva kan vi gjøre

with that guy's data?

med den fyrens data?

I can look at your financial records.

Jeg kan se på dine finanser.

I can tell if you pay your bills on time.

Jeg kan si om du betaler dine regninger i tide.

I know if you're good to give a loan to.

Jeg vet om du er verdt å innvilge lån til.

I can look at your medical records; I can see if your pump is still pumping --

Jeg kan se på din medisinske journal, jeg kan se om pumpen din fortsatt pumper --

see if you're good to offer insurance to.

se om du er verdt å tilby forsikring til.

I can look at your clicking patterns.

Jeg kan se på ditt klikkemønster.

When you come to my website, I actually know what you're going to do already

Når du kommer inn på min webside, kan jeg faktisk vite hva du har tenkt å gjøre allerede,

because I've seen you visit millions of websites before.

for jeg har sett deg besøke milliontalls websider tidligere.

And I'm sorry to tell you,

Og jeg beklager å si det,

you're like a poker player, you have a tell.

du er som en pokerspiller, du avslører deg.

I can tell with data analysis what you're going to do

Jeg kan med dataanalyse si hva du kommer til å gjøre

before you even do it.

før du faktisk gjør det.

I know what you like. I know who you are,

Jeg vet hva du liker. Jeg vet hvem du er.

and that's even before I look at your mail

Og det er til og med før jeg kikker på dine e-poster

or your phone.

eller din telefon.

Those are the kinds of things we can do

Det er slike ting vi kan gjøre

with the data that we have.

med det datamateriell vi har.

But I'm not actually here to talk about what we can do.

Men, jeg er egentlig ikke her for å prate om hva vi kan gjøre.

I'm here to talk about what we should do.

Jeg er her for å prate om hva vi burde gjøre.

What's the right thing to do?

Hva er det riktige å gjøre?

Now I see some puzzled looks

Nå ser jeg noen rådville uttrykk

like, "Why are you asking us what's the right thing to do?

som, "Hvorfor spør du oss om hva som er det riktige å gjøre?

We're just building this stuff. Somebody else is using it."

Vi bygger jo bare tingene. Noen andre bruker dem.

Fair enough.

Sant nok.

But it brings me back.

Men det bringer meg tilbake.

I think about World War II --

Jeg tenker på andre verdenskrigen --

some of our great technologists then,

noen av våre fantastiske teknologer da,

some of our great physicists,

noen av våre fantastiske fysikere,

studying nuclear fission and fusion --

som studerte kjernefysisk fisjon og fusjon --

just nuclear stuff.

bare kjernefysiske ting.

We gather together these physicists in Los Alamos

Vi samler sammen disse fysikerne i Los Alamos

to see what they'll build.

for å se hva de kan bygge.

We want the people building the technology

Vi vil at menneskene som bygger teknologien

thinking about what we should be doing with the technology.

skal tenke på hva vi burde gjøre med teknologien.

So what should we be doing with that guy's data?

Så hva burde vi gjøre med den fyrens data?

Should we be collecting it, gathering it,

Burde vi samle det inn, registrere det,

so we can make his online experience better?

slik at vi kan gjøre hans opplevelse online bedre.

So we can make money?

Slik at vi kan tjene penger?

So we can protect ourselves

Slik at vi kan beskytte oss selv

if he was up to no good?

hvis han var ute etter å gjøre ugagn.

Or should we respect his privacy,

Eller, burde vi respektere hans privatliv,

protect his dignity and leave him alone?

beskytte hans verdighet og la ham være i fred?

Which one is it?

Hvilken er det?

How should we figure it out?

Hvordan finner vi det ut?

I know: crowdsource. Let's crowdsource this.

Jeg vet: avstemning. La oss stemme på dette.

So to get people warmed up,

Så, som oppvarming,

let's start with an easy question --

la oss starte med et lett spørsmål --

something I'm sure everybody here has an opinion about:

noe jeg er sikker på at alle her har en mening om:

iPhone versus Android.

iPhone versus Android.

Let's do a show of hands -- iPhone.

Strekk opp handa -- iPhone.

Uh huh.

Aha.

Android.

Android.

You'd think with a bunch of smart people

Man skulle tro, med en masse smarte mennesker,

we wouldn't be such suckers just for the pretty phones.

at vi ikke bare var svake for de fineste telefonene.

(Laughter)

(Latter)

Next question,

Neste spørsmål,

a little bit harder.

littegrann vanskeligere.

Should we be collecting all of that guy's data

Burde vi samle inn alt av den fyrens data

to make his experiences better

for å gjøre hans opplevelse bedre

and to protect ourselves in case he's up to no good?

og for å beskytte oss selv hvis han er uærlig?

Or should we leave him alone?

Eller burde vi la ham være i fred?

Collect his data.

Samle inn data.

Leave him alone.

La ham være i fred.

You're safe. It's fine.

Dere er sikker. Det går bra.

(Laughter)

(Latter)

Okay, last question --

Ok, siste spørsmål --

harder question --

vanskeligere spørsmål --

when trying to evaluate

når man skal evaluere

what we should do in this case,

hva man burde gjøre i dette tilfellet,

should we use a Kantian deontological moral framework,

burde vi bruke et Kantiansk deontologisk moralsk rammeverk,

or should we use a Millian consequentialist one?

eller burde vi bruke et Mill-konsekvensialistisk?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Ikke like mange stemmer.

(Laughter)

(Latter)

Yeah, that's a terrifying result.

Ja, det er et skremmende resultat.

Terrifying, because we have stronger opinions

Skremmende fordi vi har sterkere meninger

about our hand-held devices

om våre håndholdte enheter

than about the moral framework

enn om vårt moralske rammeverk

we should use to guide our decisions.

vi burde bruke for å veilede våre beslutninger.

How do we know what to do with all the power we have

Hvordan vet vi hva vi skal gjøre med all den makt vi har

if we don't have a moral framework?

hvis vi ikke har et moralsk rammeverk?

We know more about mobile operating systems,

Vi vet mer om mobile operativsystem,

but what we really need is a moral operating system.

men hva vi egentlig trenger er et moralsk operativsystem.

What's a moral operating system?

Hva er et moralsk operativsystem?

We all know right and wrong, right?

Vi kjenner alle riktig og galt, ikke sant.

You feel good when you do something right,

Det føles bra når du gjør noe riktig,

you feel bad when you do something wrong.

det føles dårlig når du gjør noe galt.

Our parents teach us that: praise with the good, scold with the bad.

Våre foreldre lær oss: ros med det gode, ris med det gale.

But how do we figure out what's right and wrong?

Men hvordan finner vi ut hva som er rett og galt?

And from day to day, we have the techniques that we use.

Og fra dag til dag, vi har teknikkene vi bruker.

Maybe we just follow our gut.

Kanskje vi bare følger magefølelsen.

Maybe we take a vote -- we crowdsource.

Kanskje vi stemmer -- vi tar en avstemning.

Or maybe we punt --

Eller vi tar sjansen --

ask the legal department, see what they say.

spør jussavdelingen, ser hva de sier.

In other words, it's kind of random,

Med andre ord, det er ganske tilfeldig,

kind of ad hoc,

ganske ad hoc,

how we figure out what we should do.

hvordan vi finner ut hva vi burde gjøre.

And maybe, if we want to be on surer footing,

Og kanskje, hvis vi vil være på sikrere grunn,

what we really want is a moral framework that will help guide us there,

hva vi egentlig vil ha er et moralsk rammeverk som kan guide oss dit,

that will tell us what kinds of things are right and wrong in the first place,

som forteller oss hvilke ting som er rette og gale i utgangspunktet,

and how would we know in a given situation what to do.

og hvordan vi skal kunne vite i enhver situasjon hva vi skal gjøre.

So let's get a moral framework.

Så la oss skaffe oss et moralsk rammeverk.

We're numbers people, living by numbers.

Vi er siffer-mennesker, vi lever av tall.

How can we use numbers

Hvordan kan vi bruke tall

as the basis for a moral framework?

som basis for et moralsk rammeverk?

I know a guy who did exactly that.

Jeg kjenner en fyr som gjorde nøyaktig det,

A brilliant guy --

En genial fyr --

he's been dead 2,500 years.

han har vært død i 2500 år.

Plato, that's right.

Platon, det stemmer.

Remember him -- old philosopher?

Husker dere ham -- gammel filosof?

You were sleeping during that class.

Dere sov i den timen.

And Plato, he had a lot of the same concerns that we did.

Og Platon, han hadde mange av de samme bekymringene som vi hadde.

He was worried about right and wrong.

Han var bekymret over rett og galt.

He wanted to know what is just.

Han ville vite hva som er rettferdig.

But he was worried that all we seem to be doing

Men han var bekymret over at alt vi så ut til å gjøre

is trading opinions about this.

var å utbytte synspunkter om dette.

He says something's just. She says something else is just.

Han sier at noe er rettferdig. Hun sier at noe annet er rettferdig.

It's kind of convincing when he talks and when she talks too.

Det er ganske overbevisende når han snakker og når hun snakker også.

I'm just going back and forth; I'm not getting anywhere.

Jeg går bare frem og tilbake; jeg kommer ingen vei.

I don't want opinions; I want knowledge.

Jeg vil ikke ha synspunkter, jeg vil ha kunnskap.

I want to know the truth about justice --

Jeg vil ha sannheten om rettferdighet --

like we have truths in math.

som vi har sannheter i matematikk.

In math, we know the objective facts.

Innenfor matematikk vet vi objektive fakta.

Take a number, any number -- two.

Ta et tall, hvilket som helst -- to.

Favorite number. I love that number.

Favorittall. Jeg elsker det tallet.

There are truths about two.

Det finnes sannheter om to.

If you've got two of something,

Hvis du har to av noe,

you add two more, you get four.

du legger til to til, så får du fire.

That's true no matter what thing you're talking about.

Det er sant uansett hva slags ting du snakker om.

It's an objective truth about the form of two,

Det er en objektiv sannhet om formen av to,

the abstract form.

den abstrakte formen.

When you have two of anything -- two eyes, two ears, two noses,

Når du har to av noe -- to øyer, to ører, to neser,

just two protrusions --

bare to utspring --

those all partake of the form of two.

de tar alle formen av to.

They all participate in the truths that two has.

De er alle med i sannheten som to har.

They all have two-ness in them.

De har alle en to-het i seg.

And therefore, it's not a matter of opinion.

Og derfor er det ikke et spørsmål om synspunkter.

What if, Plato thought,

Enn hvis, tenkte Platon,

ethics was like math?

etikk var som matematikk?

What if there were a pure form of justice?

Enn hvis det fantes en ren form for rettferdighet?

What if there are truths about justice,

Enn hvis det finnes sannheter om rettferdighet,

and you could just look around in this world

og du bare kan se deg rundt i verden

and see which things participated,

og se hvilke ting som tilhørte,

partook of that form of justice?

var en del av den formen for rettferdighet?

Then you would know what was really just and what wasn't.

Da hadde du visst hva som virkelig var rettferdig og hva som ikke var det.

It wouldn't be a matter

Det hadde ikke blitt et spørsmål

of just opinion or just appearances.

om bare synspunkter eller fremtreden.

That's a stunning vision.

Det er en oppsiktsvekkende visjon.

I mean, think about that. How grand. How ambitious.

Jeg mener, tenk på det. Så flott. Så ambisiøst.

That's as ambitious as we are.

Det er så ambisiøse vi er.

He wants to solve ethics.

Han vil løse etikken.

He wants objective truths.

Han ønsker objektiv sannhet.

If you think that way,

Hvis du tenker på den måten.

you have a Platonist moral framework.

har du et platonsk moralsk rammeverk.

If you don't think that way,

Hvis du ikke tenker på den måten,

well, you have a lot of company in the history of Western philosophy,

vel, da har du mye selskap fra vestens historiske filosofi,

because the tidy idea, you know, people criticized it.

siden en så ryddig idé -- du vet, folk kritiserte den.

Aristotle, in particular, he was not amused.

Aristoteles, spesielt, han var ikke fornøyd.

He thought it was impractical.

Han mente det var upraktisk.

Aristotle said, "We should seek only so much precision in each subject

Aristoteles sa, "Vi burde søke kun så mye presisjon i ethvert emne,

as that subject allows."

som det emnet tillater."

Aristotle thought ethics wasn't a lot like math.

Aristoteles mente etikk ikke var som matematikk.

He thought ethics was a matter of making decisions in the here-and-now

Han mente etikk var et spørsmål om å ta beslutning i øyeblikket

using our best judgment

gjennom å bruke vårt beste skjønn

to find the right path.

for å finne den rette veien.

If you think that, Plato's not your guy.

Hvis du tenker sånn er ikke Platon din type.

But don't give up.

Men ikke gi opp.

Maybe there's another way

Kanskje finnes det en annen måte

that we can use numbers as the basis of our moral framework.

vi kan bruke tall på som en basis for vårt moralske rammeverk.

How about this:

Hva med dette:

What if in any situation you could just calculate,

Enn hvis du, i enhver situasjon, kunne beregne,

look at the choices,

se på valgmulighetene,

measure out which one's better and know what to do?

måle opp hvilken som er bedre og vite hva man skal gjøre?

That sound familiar?

Høres dette kjent ut?

That's a utilitarian moral framework.

Det er et utilitaristisk moralsk rammeverk.

John Stuart Mill was a great advocate of this --

John Stuart Mill var en stor advokat for dette --

nice guy besides --

hyggelig fyr foresten --

and only been dead 200 years.

og har kun vær død i 200 år.

So basis of utilitarianism --

Så grunnleggende utilitarisme --

I'm sure you're familiar at least.

det er sikkert litt kjent.

The three people who voted for Mill before are familiar with this.

De tre personene som stemte for Mill tidligere kjenner til dette.

But here's the way it works.

Men her er måten det fungerer på.

What if morals, what if what makes something moral

Enn hvis moral, enn hvis det som gjør noe moralsk,

is just a matter of if it maximizes pleasure

bare er et spørsmål om hvorvidt det maksimerer nytelse

and minimizes pain?

og minimerer smerte?

It does something intrinsic to the act.

Det tilfører noe inneboende til handlingen.

It's not like its relation to some abstract form.

Det er ikke dens relasjon til noen abstrakt form.

It's just a matter of the consequences.

Det er bare et spørsmål om konsekvenser.

You just look at the consequences

Du ser på konsekvensene

and see if, overall, it's for the good or for the worse.

og ser om de, overordnet, gjør det bedre eller verre.

That would be simple. Then we know what to do.

Det hadde vært enkelt. Da vet vi hva vi skal gjøre.

Let's take an example.

La oss ta et eksempel.

Suppose I go up

La oss si at jeg går opp

and I say, "I'm going to take your phone."

og sier, "Jeg tenker å ta din telefon."

Not just because it rang earlier,

Ikke bare fordi den ringte tidligere,

but I'm going to take it because I made a little calculation.

men jeg tenker ta den fordi jeg har gjort et lite regnestykke.

I thought, that guy looks suspicious.

Jeg tenkte, den fyren ser mistenkelig ut.

And what if he's been sending little messages to Bin Laden's hideout --

Og hva om han har sendt noen små meldinger til Bin Ladens gjemmested --

or whoever took over after Bin Laden --

eller hvem som nå tok over etter Bin Laden --

and he's actually like a terrorist, a sleeper cell.

og han er faktisk som en terrorist, en 'hvilende'.

I'm going to find that out, and when I find that out,

Jeg skal finne det ut, og når jeg har funnet det ut,

I'm going to prevent a huge amount of damage that he could cause.

så skal jeg forhindre en enorm mengde skader som han kunne ha skapt.

That has a very high utility to prevent that damage.

Det har en veldig høy nytteverdi å forhindre den skaden.

And compared to the little pain that it's going to cause --

Og sammenlignet med den lille smerten det kommer å forårsake --

because it's going to be embarrassing when I'm looking on his phone

fordi det kommer til å bli pinlig når jeg ser på telefonen hans

and seeing that he has a Farmville problem and that whole bit --

og ser at han har et Farmville-problem og alt det der --

that's overwhelmed

det blir overgått

by the value of looking at the phone.

av verdien av å se på den telefonen.

If you feel that way,

Hvis du føler det på den måten,

that's a utilitarian choice.

så er det et utilitaristisk valg

But maybe you don't feel that way either.

Men kanskje føler du det ikke på den måten heller.

Maybe you think, it's his phone.

Kanskje tenker du, det er hans telefon.

It's wrong to take his phone

Det er galt å ta hans telefon,

because he's a person

fordi han er en person

and he has rights and he has dignity,

og han har rettigheter og han har verdighet,

and we can't just interfere with that.

og vi kan ikke bare forstyrre det.

He has autonomy.

Han har autonomi.

It doesn't matter what the calculations are.

Det spiller ingen rolle hva regnestykket er.

There are things that are intrinsically wrong --

Det finnes ting som er grunnlegende galt --

like lying is wrong,

slik som å lyve er galt,

like torturing innocent children is wrong.

som å torturere uskyldige barn er galt.

Kant was very good on this point,

Kant var veldig bra på det punktet,

and he said it a little better than I'll say it.

og han sa det litt bedre enn jeg sier det.

He said we should use our reason

Han sa at vi skulle bruke vårt fornuft

to figure out the rules by which we should guide our conduct,

til å finne ut de reglene som skal styre vår adferd.

and then it is our duty to follow those rules.

Og da er det vår plikt å følge disse reglene.

It's not a matter of calculation.

Det er ikke et spørsmål om beregning.

So let's stop.

Så la oss stoppe.

We're right in the thick of it, this philosophical thicket.

Vi er midt i smørøyet her, i dette filosofiske kaoset.

And this goes on for thousands of years,

Og dette fortsetter i tusenvis av år,

because these are hard questions,

fordi dette er vanskelige spørsmål,

and I've only got 15 minutes.

og jeg har bare 15 minutter.

So let's cut to the chase.

Så la oss komme til saken.

How should we be making our decisions?

Hvordan burde vi ta våre beslutninger?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Er det Platon, er det Aristoteles, er det Kant, er det Mill?

What should we be doing? What's the answer?

Hva burde vi gjøre? Hva er svaret?

What's the formula that we can use in any situation

Hva er formelen som vi kan bruke i enhver situasjon

to determine what we should do,

for å avgjøre hva vi burde gjøre,

whether we should use that guy's data or not?

hvis vi burde bruke denne fyrens data eller ikke?

What's the formula?

Hva er formelen?

There's not a formula.

Det finnes ingen formel.

There's not a simple answer.

Det finnes ikke et enkelt svar.

Ethics is hard.

Etikk er vanskelig.

Ethics requires thinking.

Etikk krever tenkning.

And that's uncomfortable.

Og det er ukomfortabelt.

I know; I spent a lot of my career

Jeg vet; Jeg tilbragte mye av min karriere

in artificial intelligence,

innenfor kunstig intelligens,

trying to build machines that could do some of this thinking for us,

og forsøkte bygge maskiner som kunne gjøre noe av denne tenkningen for oss,

that could give us answers.

som kunne gi oss svar.

But they can't.

Men det kan de ikke.

You can't just take human thinking

Du kan ikke bare ta menneskelig tenkning

and put it into a machine.

og putte den inn i en maskin.

We're the ones who have to do it.

Det er vi som må gjøre det.

Happily, we're not machines, and we can do it.

Heldigvis, vi er ikke maskiner, og vi kan gjøre det.

Not only can we think,

Ikke bare kan vi tenke,

we must.

vi må.

Hannah Arendt said,

Hannah Arendt sa,

"The sad truth

"Den triste sannheten

is that most evil done in this world

er at den verste ondskapen i denne verden

is not done by people

ikke kommer fra mennesker

who choose to be evil.

som velger å være onde.

It arises from not thinking."

Den kommer fra å ikke tenke."

That's what she called the "banality of evil."

Det er hva hun kaller "ondskapens banalitet."

And the response to that

Og responsen på det

is that we demand the exercise of thinking

er at vi krever øvelse i å tenke

from every sane person.

fra enhver fornuftig person.

So let's do that. Let's think.

Så la oss gjøre det. La oss tenke.

In fact, let's start right now.

Faktisk, la oss starte akkurat nå.

Every person in this room do this:

Alle personer i dette rommet gjør følgende:

think of the last time you had a decision to make

tenk på den siste gangen dere skulle ta en beslutning

where you were worried to do the right thing,

hvor dere var bekymret over å gjøre det riktige,

where you wondered, "What should I be doing?"

hvor dere lurte på, "Hva burde jeg gjøre?"

Bring that to mind,

Ha det i tankene.

and now reflect on that

Og nå reflekter rundt det

and say, "How did I come up that decision?

og si, "Hvordan kom jeg frem til den beslutningen?

What did I do? Did I follow my gut?

Hva gjorde jeg? Fulgte jeg magefølelsen?

Did I have somebody vote on it? Or did I punt to legal?"

Fikk jeg noen til å stemme om det? Eller tok jeg sjansen på rettssystemet?

Or now we have a few more choices.

Eller nå har vi noen fler muligheter.

"Did I evaluate what would be the highest pleasure

"Vurderte jeg hva som hadde gitt den høyeste nytelsen

like Mill would?

som Mill hadde gjort?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Eller som Kant, brukte jeg fornuftet for å finne ut hva som var grunnleggende riktig?"

Think about it. Really bring it to mind. This is important.

Tenk på det. Virkelig ha det i tankene. Dette er viktig.

It is so important

Det er så viktig

we are going to spend 30 seconds of valuable TEDTalk time

at vi skal bruke 30 sekunder av verdifull TEDTalk-tid

doing nothing but thinking about this.

og ikke gjøre noe annet enn å tenke på det.

Are you ready? Go.

Er dere klare? Nå.

Stop. Good work.

Stopp. Bra jobba.

What you just did,

Hva dere nettopp gjorde,

that's the first step towards taking responsibility

er det første trinnet mot å ta ansvar

for what we should do with all of our power.

for hva vi burde gjøre med all vår makt.

Now the next step -- try this.

Nå til neste trinn -- prøv dette.

Go find a friend and explain to them

Let opp en venn og forklar for dem

how you made that decision.

hvordan du tok den beslutningen.

Not right now. Wait till I finish talking.

Ikke akkurat nå. Vent til jeg har snakket ferdig.

Do it over lunch.

Gjør det i lunsjen.

And don't just find another technologist friend;

Og finn ikke bare en annen teknologvenn;

find somebody different than you.

finn noen som er annerledes enn du.

Find an artist or a writer --

Finn en artist eller en forfatter --

or, heaven forbid, find a philosopher and talk to them.

eller, Gud forby, finn en filosof og snakk med dem.

In fact, find somebody from the humanities.

Forresten, finn noen fra humaniora.

Why? Because they think about problems

Hvorfor? Fordi de tenker på problem

differently than we do as technologists.

annerledes enn vi gjør som teknologer.

Just a few days ago, right across the street from here,

For bare et par dager siden, rett over gaten herfra,

there was hundreds of people gathered together.

var det hundrevis av mennesker sammen.

It was technologists and humanists

Det var teknologer og humanister

at that big BiblioTech Conference.

på den der BiblioTech-konferansen.

And they gathered together

Og de samlet seg sammen

because the technologists wanted to learn

fordi teknologene ville lære seg

what it would be like to think from a humanities perspective.

hvordan det ville være å tenke fra et humanistisk perspektiv.

You have someone from Google

Du har noen fra Google

talking to someone who does comparative literature.

som snakker med noen som gjør komparativ litteratur.

You're thinking about the relevance of 17th century French theater --

Du tenker på relevansen av fransk teater fra 1600-tallet --

how does that bear upon venture capital?

hvordan innvirker det på risikokapital?

Well that's interesting. That's a different way of thinking.

Vel, det er interessant. Det er en annen måte å tenke på.

And when you think in that way,

Og når du tenker på den måten,

you become more sensitive to the human considerations,

blir du mer følsom for menneskelige hensyn,

which are crucial to making ethical decisions.

som er avgjørende for å ta etiske beslutninger.

So imagine that right now

Så forestill deg akkurat nå

you went and you found your musician friend.

du gikk og du fant en musikkvenn.

And you're telling him what we're talking about,

Og du forteller ham hva vi snakker om,

about our whole data revolution and all this --

om hele vår datarevolusjon og alt dette --

maybe even hum a few bars of our theme music.

kanskje til og med nynner noen strofer fra vår temasang.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Vel, din musikkvenn vill stoppe deg og si,

"You know, the theme music

"Du vet, den temasangen

for your data revolution,

for din datarevolusjon,

that's an opera, that's Wagner.

det er en opera, det er Wagner.

It's based on Norse legend.

Den er basert på Norrøn legende.

It's Gods and mythical creatures

Det er guder og mytiske skapninger

fighting over magical jewelry."

som sloss over magiske smykker."

That's interesting.

Det er interessant.

Now it's also a beautiful opera,

Nå er det også en vakker opera.

and we're moved by that opera.

Og vi blir rørt av den operaen

We're moved because it's about the battle

Vi blir rørt fordi det handler om kampen

between good and evil,

mellom godt og ondt,

about right and wrong.

om rett og galt.

And we care about right and wrong.

Og vi bryr oss om rett og galt.

We care what happens in that opera.

Vi bryr oss om hva som skjer i den operaen.

We care what happens in "Apocalypse Now."

Vi bryr oss om hva som skjer i "Apocalypse Now."

And we certainly care

Og vi bryr oss virkelig om

what happens with our technologies.

hva som skjer med vår teknologi.

We have so much power today,

Vi har så mye makt i dag,

it is up to us to figure out what to do,

at det er opp til oss å finne ut hva vi skal gjøre.

and that's the good news.

Og det er de gode nyhetene.

We're the ones writing this opera.

Vi er de som skriver den her operaen.

This is our movie.

Dette er vår film.

We figure out what will happen with this technology.

Vi finner ut hva som skal skje med denne teknologien.

We determine how this will all end.

Vi bestemmer hvordan dette vil ende.

Thank you.

Tusen takk.

(Applause)

(Applaus)