Damon Horowitz calls for a "moral operating system"

Traduttore: Laura 劳拉 Leotta Revisore: Alice de Carli Enrico

Power.

Potere.

That is the word that comes to mind.

Questa è la parola che viene in mente.

We're the new technologists.

Noi siamo i nuovi tecnologi.

We have a lot of data, so we have a lot of power.

Abbiamo molti dati, quindi abbiamo molto potere.

How much power do we have?

Quanto potere abbiamo?

Scene from a movie: "Apocalypse Now" -- great movie.

Scena di un film: "Apocalypse Now" - gran bel film.

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Dobbiamo portare il nostro eroe, il Capitan Willard, alla foce del fiume Nung

so he can go pursue Colonel Kurtz.

così che possa seguire le tracce del Colonnello Kurtz.

The way we're going to do this is fly him in and drop him off.

Riusciremo a farlo trasportandolo in volo e facendolo scendere.

So the scene:

Eccoci alla scena:

the sky is filled with this fleet of helicopters carrying him in.

il cielo è gremito dalla flotta di elicotteri incaricati di trasportarlo.

And there's this loud, thrilling music in the background,

C'è questa musica ad alto volume ed avvincente di sottofondo,

this wild music.

questa musica selvaggia.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Molto potente.

That's the kind of power I feel in this room.

Questo è il tipo di potenza che percepisco in questa sala.

That's the kind of power we have

Questo è il tipo di potere che abbiamo

because of all of the data that we have.

grazie a tutti i dati di cui disponiamo.

Let's take an example.

Facciamo un esempio.

What can we do

Cosa possiamo fare

with just one person's data?

con i dati di una sola persona?

What can we do

Cosa possiamo fare

with that guy's data?

con i dati di quel ragazzo?

I can look at your financial records.

Posso guardare i tuoi estratti conto.

I can tell if you pay your bills on time.

Posso dirti se paghi le bollette in tempo.

I know if you're good to give a loan to.

So se posso concederti un prestito.

I can look at your medical records; I can see if your pump is still pumping --

Posso dare un'occhiata ai tuoi referti medici, vedere se il tuo cuore batte ancora -

see if you're good to offer insurance to.

vedere se è conveniente assicurarti.

I can look at your clicking patterns.

Posso vedere come visiti i siti Internet.

When you come to my website, I actually know what you're going to do already

Quando visiti il mio sito, so già esattamente cosa farai,

because I've seen you visit millions of websites before.

perché ti ho visto visitare altri milioni di siti prima del mio.

And I'm sorry to tell you,

E mi dispiace dirtelo,

you're like a poker player, you have a tell.

sei come un giocatore di poker, lanci dei segnali.

I can tell with data analysis what you're going to do

Grazie all'analisi dei dati posso predire cosa farai

before you even do it.

prima ancora che tu lo faccia.

I know what you like. I know who you are,

So cosa ti piace. So chi sei.

and that's even before I look at your mail

E questo anche prima che io dia un'occhiata alla tua posta

or your phone.

o al tuo telefono.

Those are the kinds of things we can do

Quelle sono le cose che siamo in grado di fare

with the data that we have.

con i dati a nostra disposizione.

But I'm not actually here to talk about what we can do.

Ma in realtà non sono qui per parlarvi di ciò che possiamo fare.

I'm here to talk about what we should do.

Sono qui per parlarvi di ciò che dovremmo fare.

What's the right thing to do?

Qual è la cosa giusta da fare?

Now I see some puzzled looks

Ora vedo degli sguardi interrogativi

like, "Why are you asking us what's the right thing to do?

tipo: "Perchè chiedi a noi quale sia la cosa giusta da fare?

We're just building this stuff. Somebody else is using it."

Noi mettiamo solo insieme questa roba. Qualcun altro la sta usando."

Fair enough.

Mi sembra giusto.

But it brings me back.

Ma questo mi fa ricordare...

I think about World War II --

Penso alla Seconda Guerra Mondiale -

some of our great technologists then,

alcuni dei nostri più grandi tecnologi di allora,

some of our great physicists,

alcuni dei nostri più grandi fisici,

studying nuclear fission and fusion --

che studiavano la fissione e fusione nucleare -

just nuclear stuff.

solo roba nucleare.

We gather together these physicists in Los Alamos

Noi riuniamo insieme questi fisici a Los Alamos

to see what they'll build.

per vedere cosa costruiranno.

We want the people building the technology

Vogliamo che le persone che creano la tecnologia

thinking about what we should be doing with the technology.

pensino anche a come dovremmo utilizzarla.

So what should we be doing with that guy's data?

Per cui cosa dovremmo farci con i dati di quel ragazzo?

Should we be collecting it, gathering it,

Dovremmo raccoglierli, metterli insieme,

so we can make his online experience better?

così da migliorare il tempo che passa su Internet?

So we can make money?

Così poterci guadagnare?

So we can protect ourselves

Così da poterci proteggere

if he was up to no good?

nel caso facesse qualcosa di male?

Or should we respect his privacy,

O dovremmo rispettare la sua privacy,

protect his dignity and leave him alone?

proteggere la sua dignità e lasciarlo in pace?

Which one is it?

Quale dovremmo scegliere?

How should we figure it out?

Come facciamo a deciderlo?

I know: crowdsource. Let's crowdsource this.

Lo so: sentiamo il pubblico. Sentiamo il pubblico a riguardo.

So to get people warmed up,

Perciò per mettervi a vostro agio,

let's start with an easy question --

cominciamo con una domanda semplice -

something I'm sure everybody here has an opinion about:

qualcosa su cui tutti qui hanno di certo un'opinione:

iPhone versus Android.

iPhone oppure Android.

Let's do a show of hands -- iPhone.

Alzate le mani - iPhone.

Uh huh.

Uh uh.

Android.

Android.

You'd think with a bunch of smart people

Penserete che con delle persone intelligenti

we wouldn't be such suckers just for the pretty phones.

non ci faremmo trarre in inganno solo dai cellulari belli all'apparenza.

(Laughter)

(Risate)

Next question,

Ok, prossima domanda,

a little bit harder.

un po' più difficile.

Should we be collecting all of that guy's data

Dovremmo raccogliere tutti i dati di quel ragazzo

to make his experiences better

per migliorare il tempo che trascorre su Internet

and to protect ourselves in case he's up to no good?

e proteggerci nel caso in cui avesse cattive intenzioni?

Or should we leave him alone?

O dovremmo lasciarlo in pace?

Collect his data.

Raccogliere i suoi dati.

Leave him alone.

Lasciarlo in pace.

You're safe. It's fine.

Sei fuori pericolo. Va tutto bene.

(Laughter)

(Risate)

Okay, last question --

Ok, ultima domanda -

harder question --

più difficile -

when trying to evaluate

quando proviamo a valutare

what we should do in this case,

cosa dovremmo fare in questo caso,

should we use a Kantian deontological moral framework,

dovremmo utilizzare una struttura morale ispirata alla deontologia kantiana,

or should we use a Millian consequentialist one?

o dovremmo usarne una consequenzialistica milliana?

Kant.

Kant.

Mill.

Mill.

Not as many votes.

Non altrettanti voti.

(Laughter)

(Risate)

Yeah, that's a terrifying result.

Sì, è un risultato spaventoso.

Terrifying, because we have stronger opinions

Spaventoso perché abbiamo opinioni più chiare

about our hand-held devices

rispetto ai nostri cellulari

than about the moral framework

che non per la struttura morale di riferimento

we should use to guide our decisions.

che dovremmo utilizzare per guidare le nostre decisioni.

How do we know what to do with all the power we have

Come possiamo sapere che farne di tutto il potere che abbiamo

if we don't have a moral framework?

se non abbiamo una struttura morale?

We know more about mobile operating systems,

Ne sappiamo di più dei sistemi operativi dei cellulari,

but what we really need is a moral operating system.

ma ciò che davvero ci occorre è un sistema operativo morale.

What's a moral operating system?

Che cos'è un sistema operativo morale?

We all know right and wrong, right?

Tutti sappiamo cosa è giusto e cosa è sbagliato, vero?

You feel good when you do something right,

Ci si sente bene quando si fa qualcosa di buono,

you feel bad when you do something wrong.

ci si sente in colpa quando si fa qualcosa di sbagliato.

Our parents teach us that: praise with the good, scold with the bad.

I nostri genitori ci insegnano a: lodare il giusto, rimproverare l'errore.

But how do we figure out what's right and wrong?

Ma come facciamo a distinguere tra giusto e sbagliato?

And from day to day, we have the techniques that we use.

Di giorno in giorno, abbiamo delle tecniche che utilizziamo.

Maybe we just follow our gut.

Forse usiamo semplicemente il nostro intuito.

Maybe we take a vote -- we crowdsource.

Forse la mettiamo ai voti - l'opinione della maggioranza.

Or maybe we punt --

O forse ci affidiamo alla legge -

ask the legal department, see what they say.

chiediamo all'ufficio legale e vediamo che ne pensano.

In other words, it's kind of random,

In altre parole, è un po' casuale,

kind of ad hoc,

un po' improvvisato,

how we figure out what we should do.

il modo in cui decidiamo cosa sia meglio fare.

And maybe, if we want to be on surer footing,

E forse, se vogliamo avere basi per agire più solide,

what we really want is a moral framework that will help guide us there,

ciò che davvero vogliamo è una struttura morale che ci aiuti e ci indirizzi,

that will tell us what kinds of things are right and wrong in the first place,

che per prima cosa ci dica cosa è giusto e cosa è sbagliato,

and how would we know in a given situation what to do.

e come fare a sapere come comportarci in una determinata situazione.

So let's get a moral framework.

Allora troviamo una struttura morale di riferimento.

We're numbers people, living by numbers.

Siamo persone che usano i numeri, che vivono con i numeri.

How can we use numbers

Come possiamo usare i numeri

as the basis for a moral framework?

come base per una struttura morale di riferimento?

I know a guy who did exactly that.

Conosco un ragazzo che ha fatto esattamente questo.

A brilliant guy --

Un ragazzo brillante -

he's been dead 2,500 years.

è morto da 2.500 anni.

Plato, that's right.

Platone, esatto.

Remember him -- old philosopher?

Ve lo ricordate - il vecchio filosofo?

You were sleeping during that class.

Stavate dormendo in quella lezione?

And Plato, he had a lot of the same concerns that we did.

Platone, anche lui si è interrogato su molte delle domande che ci siamo posti noi.

He was worried about right and wrong.

Anche lui meditava su cosa è giusto e cosa è sbagliato.

He wanted to know what is just.

Voleva sapere cosa fosse giusto.

But he was worried that all we seem to be doing

Ma temeva che tutto ciò che facciamo

is trading opinions about this.

non fosse altro che scambiarci opinioni a riguardo.

He says something's just. She says something else is just.

Secondo lui questo è giusto. Secondo lei è giusta un'altra cosa.

It's kind of convincing when he talks and when she talks too.

Lui è piuttosto convincente quando parla...

I'm just going back and forth; I'm not getting anywhere.

..ma anche lei! Vado avanti e indietro; non sto andando da nessuna parte.

I don't want opinions; I want knowledge.

Non voglio opinioni, voglio conoscenza.

I want to know the truth about justice --

Voglio sapere la verità riguardo alla giustizia -

like we have truths in math.

come le verità che abbiamo in matematica.

In math, we know the objective facts.

In matematica, abbiamo i fatti oggettivi.

Take a number, any number -- two.

Prendete un numero, un numero qualsiasi - 2.

Favorite number. I love that number.

Il mio numero preferito. Amo quel numero.

There are truths about two.

Ci sono delle verità sul 2.

If you've got two of something,

Se avete 2 unità di qualcosa,

you add two more, you get four.

e gliene aggiungete altre 2, ottenete 4.

That's true no matter what thing you're talking about.

È vero a prescindere da qualsiasi sia l'ambito di discussione.

It's an objective truth about the form of two,

È una verità oggettiva sulla forma del 2,

the abstract form.

la forma astratta.

When you have two of anything -- two eyes, two ears, two noses,

Quando avete 2 unità di qualsiasi cosa -- 2 occhi, 2 orecchie, 2 nasi,

just two protrusions --

solo 2 protuberanze -

those all partake of the form of two.

tutte prendono parte alla forma del 2.

They all participate in the truths that two has.

Tutte condividono le verità che ha il 2.

They all have two-ness in them.

Hanno la du-alità in loro.

And therefore, it's not a matter of opinion.

E quindi, non si tratta di opinioni.

What if, Plato thought,

Platone pensò: e se

ethics was like math?

l'etica fosse come la matematica?

What if there were a pure form of justice?

E se ci fosse una forma pura di giustizia?

What if there are truths about justice,

E se ci fossero delle verità sulla giustizia,

and you could just look around in this world

e ci si potesse semplicemente guardare attorno in questo mondo

and see which things participated,

per vedere quali cose hanno preso parte a tali verità,

partook of that form of justice?

hanno condiviso quella forma di giustizia?

Then you would know what was really just and what wasn't.

A quel punto si saprebbe cosa era realmente giusto e cosa non lo era.

It wouldn't be a matter

Non sarebbe un problema

of just opinion or just appearances.

di opinioni o di impressioni su ciò che è giusto.

That's a stunning vision.

È una visione che lascia di stucco.

I mean, think about that. How grand. How ambitious.

Voglio dire, pensateci. Quant'è grandioso, ambizioso.

That's as ambitious as we are.

Tanto ambizioso quanto lo siamo noi.

He wants to solve ethics.

Vuole risolvere l'etica.

He wants objective truths.

Vuole verità oggettive.

If you think that way,

Se la pensate in quel modo,

you have a Platonist moral framework.

avete una struttura morale platonica.

If you don't think that way,

Se non la pensate in quel modo,

well, you have a lot of company in the history of Western philosophy,

beh, avete molta compagnia nella storia della filosofia occidentale,

because the tidy idea, you know, people criticized it.

perché questa notevole idea - sapete, la gente l'ha criticata.

Aristotle, in particular, he was not amused.

Aristotele, in particolare, non ne era entusiasta.

He thought it was impractical.

La riteneva poco pratica.

Aristotle said, "We should seek only so much precision in each subject

Aristotele diceva, "Dovremmo richiedere in ciascun campo tanta precisione

as that subject allows."

quanta ne permette la natura dell'oggetto".

Aristotle thought ethics wasn't a lot like math.

Aristotele pensava che l'etica non fosse come la matematica.

He thought ethics was a matter of making decisions in the here-and-now

Pensava che l'etica fosse più una questione legata al prendere decisioni al momento,

using our best judgment

usando il nostro giudizio

to find the right path.

per capire la giusta direzione da prendere.

If you think that, Plato's not your guy.

Se la pensate così, Platone non fa per voi.

But don't give up.

Ma non arrendetevi.

Maybe there's another way

Forse esiste un altro modo grazie a cui

that we can use numbers as the basis of our moral framework.

possiamo usare i numeri come base per il nostro sistema di riferimento morale.

How about this:

Cosa ne dite di questo:

What if in any situation you could just calculate,

come sarebbe se in ogni situazione poteste semplicemente prevedere,

look at the choices,

vagliare le possibilità,

measure out which one's better and know what to do?

giudicare quale sia la migliore e sapere cosa fare?

That sound familiar?

Vi suona familiare?

That's a utilitarian moral framework.

Questo è un sistema di riferimento utilitaristico.

John Stuart Mill was a great advocate of this --

John Stuart Mill ne è stato un gran difensore -

nice guy besides --

oltre ad essere un bravo ragazzo -

and only been dead 200 years.

ed è morto solo 200 anni fa.

So basis of utilitarianism --

Almeno con le basi dell'utilitarismo

I'm sure you're familiar at least.

sono sicuro che abbiate familiarità:

The three people who voted for Mill before are familiar with this.

le tre persone che prima hanno votato per Mill ne hanno familiarità.

But here's the way it works.

Ma ecco come funziona.

What if morals, what if what makes something moral

Come sarebbe se la moralità, ciò che rende qualcosa morale,

is just a matter of if it maximizes pleasure

fosse solo una questione di massimizzazione del piacere

and minimizes pain?

e minimizzazione del dolore?

It does something intrinsic to the act.

È qualcosa di intrinseco all'azione.

It's not like its relation to some abstract form.

Non è come la relazione che intrattiene con qualche forma astratta.

It's just a matter of the consequences.

È solo una questione di conseguenze.

You just look at the consequences

Vagliate solo le conseguenze

and see if, overall, it's for the good or for the worse.

e giudicate se, in generale, propende per il meglio o il peggio.

That would be simple. Then we know what to do.

Sarebbe semplice. A quel punto sappiamo cosa fare.

Let's take an example.

Facciamo un esempio.

Suppose I go up

Supponiamo che io me ne esca

and I say, "I'm going to take your phone."

dicendo "Prenderò il tuo telefono."

Not just because it rang earlier,

Non perché prima abbia squillato,

but I'm going to take it because I made a little calculation.

ma lo prenderò perché ho fatto qualche piccola previsione.

I thought, that guy looks suspicious.

Ho pensato: "quel ragazzo ha un'aria sospetta.

And what if he's been sending little messages to Bin Laden's hideout --

E se avesse mandato dei messaggini al nascondiglio di Bin Landen? -

or whoever took over after Bin Laden --

o chiunque abbia preso il posto di Bin Landen -

and he's actually like a terrorist, a sleeper cell.

e fosse davvero un terrorista, una cellula dormiente?

I'm going to find that out, and when I find that out,

Lo scoprirò, e quando l'avrò scoperto,

I'm going to prevent a huge amount of damage that he could cause.

impedirò il danno enorme che potrebbe causare".

That has a very high utility to prevent that damage.

È davvero un gran vantaggio prevenire quel danno.

And compared to the little pain that it's going to cause --

E a paragone del piccolo dolore che la mia azione causerà -

because it's going to be embarrassing when I'm looking on his phone

perché sarà imbarazzante quando andrò a sbirciare sul suo cellulare

and seeing that he has a Farmville problem and that whole bit --

e vedrò che ha solo un problema con Farmville e altre cose del genere -

that's overwhelmed

quest'imbarazzo sarà superato

by the value of looking at the phone.

dal valore che avrà avuto l'aver controllato il suo cellulare.

If you feel that way,

Se la pensate in questo modo

that's a utilitarian choice.

avete fatto una scelta utilitaristica.

But maybe you don't feel that way either.

Ma forse non la pensate neanche in quel modo.

Maybe you think, it's his phone.

Forse pensate: "è il suo cellulare.

It's wrong to take his phone

È sbagliato prendere il suo cellulare,

because he's a person

perché è una persona

and he has rights and he has dignity,

e come tale ha i suoi diritti e la sua dignità,

and we can't just interfere with that.

e noi semplicemente non possiamo interferire.

He has autonomy.

Ha la propria autonomia.

It doesn't matter what the calculations are.

Non importa quali siano le previsioni:

There are things that are intrinsically wrong --

ci sono cose intrinsecamente sbagliate -

like lying is wrong,

così com'è sbagliato mentire,

like torturing innocent children is wrong.

così com'è sbagliato torturare bambini innocenti".

Kant was very good on this point,

Kant era molto ferrato su questo punto

and he said it a little better than I'll say it.

e si è espresso un po' meglio di quanto lo farò io.

He said we should use our reason

Lui diceva che dovremmo usare la ragione

to figure out the rules by which we should guide our conduct,

per capire le regole su cui basare il nostro comportamento.

and then it is our duty to follow those rules.

E a quel punto è nostro obbligo morale attenerci a quelle regole.

It's not a matter of calculation.

Non è una questione di previsione.

So let's stop.

Fermiamoci un attimo.

We're right in the thick of it, this philosophical thicket.

Siamo nel bel mezzo di questa coltre filosofica.

And this goes on for thousands of years,

E questo va avanti ormai da migliaia di anni,

because these are hard questions,

perché queste sono domande difficili,

and I've only got 15 minutes.

e io ho solo 15 minuti a disposizione.

So let's cut to the chase.

Andiamo dritti al dunque.

How should we be making our decisions?

In che modo dovremmo prendere le nostre decisioni?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Dovremmo ragionare come Platone, Aristotele, Kant o Mill?

What should we be doing? What's the answer?

Cosa dovremmo fare? Qual è la risposta?

What's the formula that we can use in any situation

Qual è la formula che possiamo utilizzare in qualsiasi situazione

to determine what we should do,

per determinare cosa dovremmo fare,

whether we should use that guy's data or not?

se è giusto utilizzare i dati di quel ragazzo o no?

What's the formula?

Qual è la formula?

There's not a formula.

Non esiste una formula.

There's not a simple answer.

Non esiste una risposta semplice.

Ethics is hard.

L'etica è difficile.

Ethics requires thinking.

L'etica richiede riflessione.

And that's uncomfortable.

E ciò crea disagio.

I know; I spent a lot of my career

Lo so: ho passato gran parte della mia carriera

in artificial intelligence,

occupandomi di intelligenza artificiale,

trying to build machines that could do some of this thinking for us,

provando a costruire macchine in grado di fare un po' di queste riflessioni per noi,

that could give us answers.

in grado di darci delle risposte.

But they can't.

Ma non possono.

You can't just take human thinking

Semplicemente non si può prendere il pensiero umano

and put it into a machine.

e metterlo in una macchina.

We're the ones who have to do it.

Siamo noi che dobbiamo pensare.

Happily, we're not machines, and we can do it.

La buona notizia è che non siamo macchine e possiamo farlo.

Not only can we think,

Non solo possiamo pensare,

we must.

ma dobbiamo.

Hannah Arendt said,

Hannah Arendt diceva,

"The sad truth

"La triste verità

is that most evil done in this world

è che la maggior parte del male in questo mondo

is not done by people

non è causato da persone

who choose to be evil.

che vogliono essere deliberatamente cattive.

It arises from not thinking."

Nasce dal non pensare affatto".

That's what she called the "banality of evil."

Questo è ciò che lei ha chiamato "la banalità del male".

And the response to that

E in risposta a ciò

is that we demand the exercise of thinking

pretendiamo che qualsiasi persona sana

from every sane person.

sfrutti la propria capacità di riflettere.

So let's do that. Let's think.

E allora facciamolo. Pensiamo.

In fact, let's start right now.

Anzi, iniziamo proprio adesso.

Every person in this room do this:

Ognuno di voi qui presente faccia questo:

think of the last time you had a decision to make

pensate all'ultima volta che avete dovuto prendere una decisione

where you were worried to do the right thing,

per cui vi siete preoccupati di quale fosse la cosa giusta,

where you wondered, "What should I be doing?"

e vi siete chiesti, "Cosa dovrei fare?"

Bring that to mind,

Fate riaffiorare questo ricordo.

and now reflect on that

Adesso rifletteteci

and say, "How did I come up that decision?

e rispondete, "Come sono giunto alla mia decisione?

What did I do? Did I follow my gut?

Cosa ho fatto? Ho seguito l'istinto?

Did I have somebody vote on it? Or did I punt to legal?"

Ho fatto votare qualcuno? O mi sono attenuto alla legge?"

Or now we have a few more choices.

Adesso abbiamo un po' più di scelta.

"Did I evaluate what would be the highest pleasure

"Ho valutato quale sarebbe stato il piacere maggiore

like Mill would?

come avrebbe fatto Mill?

Or like Kant, did I use reason to figure out what was intrinsically right?"

O come Kant, ho utilizzato la ragione per capire cosa fosse intrinsecamente giusto?"

Think about it. Really bring it to mind. This is important.

Pensateci. Davvero, fate uno sforzo di memoria. È importante.

It is so important

È così importante

we are going to spend 30 seconds of valuable TEDTalk time

che perderemo ben 30 preziosi secondi del mio tempo qui a TEDTalk

doing nothing but thinking about this.

facendo nulla, se non pensare a questo.

Are you ready? Go.

Siete pronti? Via.

Stop. Good work.

Stop. Ottimo lavoro.

What you just did,

Quello che avete appena fatto

that's the first step towards taking responsibility

è il primo passo verso l'assunzione di responsabilità

for what we should do with all of our power.

per ciò che dovremmo fare con tutto il nostro potere.

Now the next step -- try this.

Ecco il prossimo passo - provate a far questo.

Go find a friend and explain to them

Andate da un amico e spiegategli

how you made that decision.

come avete preso la vostra decisione.

Not right now. Wait till I finish talking.

Non adesso. Aspettate la fine di questo intervento.

Do it over lunch.

Fatelo a pranzo.

And don't just find another technologist friend;

E non andate a parlare con qualche altro amico tecnologo;

find somebody different than you.

trovate qualcuno diverso da voi.

Find an artist or a writer --

Cercate un arista o uno scrittore -

or, heaven forbid, find a philosopher and talk to them.

oppure, Dio ce ne scampi, trovate un filosofo e parlategli.

In fact, find somebody from the humanities.

Insomma, trovate qualcuno del settore umanistico.

Why? Because they think about problems

Perché? Perché il loro approccio ai problemi

differently than we do as technologists.

è diverso rispetto a quello di noi tecnologi.

Just a few days ago, right across the street from here,

Proprio qualche giorno fa, proprio qui davanti,

there was hundreds of people gathered together.

c'erano centinaia di persone radunate.

It was technologists and humanists

Erano tecnologi e umanisti

at that big BiblioTech Conference.

che partecipavano alla grande conferenza BiblioTech.

And they gathered together

E si sono riuniti tutti insieme

because the technologists wanted to learn

perché i tecnologi volevano capire

what it would be like to think from a humanities perspective.

come sarebbe stato pensare da un punto di vista umanistico.

You have someone from Google

Qualcuno che lavorava per Google

talking to someone who does comparative literature.

parlava con qualcuno che studiava letteratura comparata.

You're thinking about the relevance of 17th century French theater --

Pensate alla rilevanza del teatro francese del 17esimo secolo -

how does that bear upon venture capital?

come influisce sul capitale di rischio?

Well that's interesting. That's a different way of thinking.

Beh, è interessante. È un modo diverso di pensare.

And when you think in that way,

E quando ragionate in quel modo,

you become more sensitive to the human considerations,

diventate più sensibili alle considerazioni umane,

which are crucial to making ethical decisions.

che sono indispensabili per prendere decisioni etiche.

So imagine that right now

Immaginate che proprio questo momento

you went and you found your musician friend.

voi uscite e trovate il vostro amico musicista.

And you're telling him what we're talking about,

E mentre gli raccontate di cosa stiamo parlando,

about our whole data revolution and all this --

di tutta la nostra rivoluzione dei dati e via di seguito -

maybe even hum a few bars of our theme music.

potreste anche accennargli un paio di battute della nostra musica di sottofondo.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Beh, il vostro amico musicista vi interrompe e vi dice,

"You know, the theme music

"Sai, la musica

for your data revolution,

per la vostra rivoluzione dei dati,

that's an opera, that's Wagner.

è un'opera, è Wagner.

It's based on Norse legend.

È basata su una leggenda norrena.

It's Gods and mythical creatures

Parla di dei e creature mitiche

fighting over magical jewelry."

che si battono per dei gioielli magici".

That's interesting.

Interessante.

Now it's also a beautiful opera,

Adesso è anche una bella opera.

and we're moved by that opera.

E ci sentiamo commossi da quest'opera.

We're moved because it's about the battle

Ci sentiamo commossi perché si tratta di una lotta

between good and evil,

tra il bene e il male,

about right and wrong.

tra ciò che è giusto e ciò che è sbagliato.

And we care about right and wrong.

E a noi importa di ciò è giusto e ciò che è sbagliato.

We care what happens in that opera.

Ci importa di ciò che accade in quell'opera.

We care what happens in "Apocalypse Now."

Ci importa di ciò che accade in "Apocalypse Now".

And we certainly care

E sicuramente ci importa

what happens with our technologies.

di ciò che accade con le tecnologie che usiamo.

We have so much power today,

Abbiamo così tanto potere al giorno d'oggi,

it is up to us to figure out what to do,

dipende esclusivamente da noi capire cosa farne.

and that's the good news.

E qui arriva la buona notizia.

We're the ones writing this opera.

Siamo noi a scrivere quest'opera.

This is our movie.

Questo è il nostro film.

We figure out what will happen with this technology.

Siamo noi a decidere cosa ne sarà di questa tecnologia.

We determine how this will all end.

Saremo noi a determinare il finale di tutto questo.

Thank you.

Grazie.

(Applause)

(Applausi)