Machine intelligence makes human morals more important | Zeynep Tufekci

Traduttore: Federico MINELLE Revisore: Rachael Gwinn

So, I started my first job as a computer programmer

Ho iniziato il mio primo lavoro come programmatrice di computer

in my very first year of college --

nel mio primo anno di college -

basically, as a teenager.

sostanzialmete un'adolescente.

Soon after I started working,

Subito dopo ho cominciato a lavorare, scrivendo software in una azienda,

writing software in a company,

a manager who worked at the company came down to where I was,

un manager che lavorava nell'azienda mi venne a trovare dove stavo,

and he whispered to me,

e mi susssurrò,

"Can he tell if I'm lying?"

"Può lui dirmi se sto mentendo?"

There was nobody else in the room.

Non c'era nessun altro nella stanza.

"Chi può dire se stai mentendo? E perché sussurriamo?"

"Can who tell if you're lying? And why are we whispering?"

The manager pointed at the computer in the room.

Il manager indicò il computer nella stanza.

"Can he tell if I'm lying?"

"Può lui dirmi se sto mentendo?"

Well, that manager was having an affair with the receptionist.

Ebbene, quel manager aveva una relazione con la segretaria alla reception.

(Laughter)

(Risate)

Ed ero ancora una adolescente.

And I was still a teenager.

So I whisper-shouted back to him,

Così gli sussurrai-urlai,

"Yes, the computer can tell if you're lying."

"Si, il computer può dire se stai mentendo."

(Risate)

(Laughter)

Well, I laughed, but actually, the laugh's on me.

Bene, io risi, ma in effetti, la risata era nei mei confronti.

Nowadays, there are computational systems

Oggi, vi sono sistemi di calcolo

that can suss out emotional states and even lying

che possono scoprire gli stati emotivi e pure la menzogna

from processing human faces.

tramite la elaborazione dei volti umani.

Advertisers and even governments are very interested.

I pubblicitari ed anche i governi sono molto interessati.

Sono diventata programmatrice di computer

I had become a computer programmer

because I was one of those kids crazy about math and science.

perchè ero uno di quei giovani pazzi per matematica e scienze

But somewhere along the line I'd learned about nuclear weapons,

Ma lungo il mio percorso ho imparato a conoscere le armi nucleari,

e mi sono proprio preoccupata dell'etica della scienza.

and I'd gotten really concerned with the ethics of science.

Ero preoccupata.

I was troubled.

However, because of family circumstances,

Tuttavia, a causa della mia situazione familiare,

I also needed to start working as soon as possible.

dovevo iniziare a lavorare al più presto.

So I thought to myself, hey, let me pick a technical field

Così mi sono detta, hey, scegliamo un settore tecnico

where I can get a job easily

dove posso trovare facilmente un lavoro

and where I don't have to deal with any troublesome questions of ethics.

e dove non devo aver a che fare con qualche fastidiosa questione etica.

Così ho scelto i computer.

So I picked computers.

(Laughter)

(Risate)

Well, ha, ha, ha! All the laughs are on me.

Bene, ah, ah! Tutti ridono di me.

Ora, gli scienziati del computer costruicono piattaforme

Nowadays, computer scientists are building platforms

that control what a billion people see every day.

che controllano ciò che un miliardo di persone vedono ogni giorno.

Stanno sviluppando auto che potrebbero decidere chi investire.

They're developing cars that could decide who to run over.

They're even building machines, weapons,

Stanno anche costruendo macchine, armi,

that might kill human beings in war.

che possono uccidere persone in guerra.

It's ethics all the way down.

C'è sempre l'etica alla fine.

Machine intelligence is here.

L'intelligenza delle macchine è qui.

We're now using computation to make all sort of decisions,

Ora utilizziamo il computer per prendere ogni tipo di decisioni,

but also new kinds of decisions.

ma anche nuovi tipi di decisioni.

We're asking questions to computation that have no single right answers,

Stiamo ponendo al computer domande che non hanno una sola risposta giusta,

that are subjective

che sono soggettive

and open-ended and value-laden.

e sono aperte e cariche di valore.

Domandiamo cose come,

We're asking questions like,

"Who should the company hire?"

"Chi dovrebbe essere assunto?"

"Quale update e di quale amico dovrebbe essere mostrato?"

"Which update from which friend should you be shown?"

"Which convict is more likely to reoffend?"

"Quale pregiudicato sarà più probabilmente recidivo?"

"Which news item or movie should be recommended to people?"

"Quale notizia o film dovrebbe essere consigliato alla gente?"

Look, yes, we've been using computers for a while,

Certo, stiamo usando il computer da un po',

but this is different.

ma questo è diverso.

This is a historical twist,

Questa è un svolta storica,

because we cannot anchor computation for such subjective decisions

perchè non possiamo poggiarci sul computer per queste decisioni soggettive

the way we can anchor computation for flying airplanes, building bridges,

allo stesso modo in cui si usa il computer per far volare gli aerei, costruire ponti,

going to the moon.

andare sulla luna.

Are airplanes safer? Did the bridge sway and fall?

Sono più sicuri gli aerei? Vacillano e cadono i ponti?

There, we have agreed-upon, fairly clear benchmarks,

Qui abbiamo chiari livelli di riferimento, su cui concordiamo,

and we have laws of nature to guide us.

ed abbiamo le leggi naturali per guidarci.

We have no such anchors and benchmarks

Non abbiamo tali riferimenti per decidere

for decisions in messy human affairs.

nelle complicate faccende umane.

To make things more complicated, our software is getting more powerful,

Per rendere le cose più complicate, il software sta diventando più potente,

but it's also getting less transparent and more complex.

ma anche meno trasparente e più complesso.

Recently, in the past decade,

Recentemente, nell'ultima decennio,

complex algorithms have made great strides.

algoritmi complessi hanno fatto notevoli passi avanti.

They can recognize human faces.

Possono riconoscere le facce umane.

They can decipher handwriting.

Possono decifrare la scrittura manuale.

They can detect credit card fraud

possono individuare le frodi sulle carte di credito e bloccare lo spam

and block spam

and they can translate between languages.

e possono tradurre le lingue.

They can detect tumors in medical imaging.

Possono individuare i tumori nelle diagnostica per immagini.

They can beat humans in chess and Go.

Possono battere gli umani a scacchi e nel GO

Much of this progress comes from a method called "machine learning."

Molti di questi progressi derivano dal metodo di "apprendimento automatico".

L'apprendimento automatico è diverso dalla tradizionale programmazione,

Machine learning is different than traditional programming,

where you give the computer detailed, exact, painstaking instructions.

dove si danno al computer istruzioni dettagliate, precise ed accurate.

It's more like you take the system and you feed it lots of data,

Sembra di più come se forniste al sistema molti dati,

including unstructured data,

Inclusi dati non strutturati,

like the kind we generate in our digital lives.

del tipo che generiamo nella nostre vite digitali.

And the system learns by churning through this data.

E il sistema impara maneggiando quei dati.

And also, crucially,

Ed anche, crucialmente,

these systems don't operate under a single-answer logic.

quei sistemi non lavorano con la logica di una sola risposta.

They don't produce a simple answer; it's more probabilistic:

Non forniscono una semplice risposta; è piuttosto probabilistica:

"This one is probably more like what you're looking for."

"Questo è probabilmente quello che state cercando."

Ora, la parte positiva è: questo metodo è veramente potente.

Now, the upside is: this method is really powerful.

Il capo sistema AI di Google lo ha chiamato

The head of Google's AI systems called it,

"the unreasonable effectiveness of data."

"la irragionevole efficacia dei dati."

The downside is,

La parte negativa è,

we don't really understand what the system learned.

non capiamo veramente cosa il sistema ha imparato.

In fact, that's its power.

Infatti, questa è la sua forza.

This is less like giving instructions to a computer;

Ciò è meno simile a dare istruzioni ad un computer;

it's more like training a puppy-machine-creature

è più simile all'istruire un cucciolo-macchina

we don't really understand or control.

che noi non capiamo o controlliamo veramente

So this is our problem.

Questo è il nostro problema.

It's a problem when this artificial intelligence system gets things wrong.

Il problema è quando questi sistemi di intelligenza artificiale lavorano male.

It's also a problem when it gets things right,

Vi è anche il problema di quando lavorano bene,

because we don't even know which is which when it's a subjective problem.

perchè non sappiamo chi è chi quando il problema è soggettivo.

We don't know what this thing is thinking.

Non sappiamo come il computer ragioni.

So, consider a hiring algorithm --

Così, considerate un algoritmo per le assunzioni--

un sistema per assumere la gente, usando l'apprendimento automatico.

a system used to hire people, using machine-learning systems.

Un tale sistema sarebbe stato formato sui dati dei precedenti assunti

Such a system would have been trained on previous employees' data

and instructed to find and hire

e istruito per trovare ed assumere

people like the existing high performers in the company.

le persone simili a quelli più performanti in azienda.

Sounds good.

Sembra giusto. Una volta ho partecipato ad una conferenza

I once attended a conference

che coinvolgeva i responsabili delle Risorse Umane e i manager aziendali,

that brought together human resources managers and executives,

high-level people,

persone ad alto livello, che usavano questo sistema per assumere.

using such systems in hiring.

They were super excited.

Erano super entusiasti.

They thought that this would make hiring more objective, less biased,

Pensavano che ciò avrebbe portato ad assunzioni più oggettive, meno distorte,

and give women and minorities a better shot

e dato alle donne e alle minoranze una migliore opportunità

against biased human managers.

rispetto a manager umani influenzabili.

And look -- human hiring is biased.

E guarda - le assunzioni fatte dagli uomini sono distorte.

Lo so.

I know.

I mean, in one of my early jobs as a programmer,

Voglio dire, in uno dei miei primi lavori, come programmatrice,

my immediate manager would sometimes come down to where I was

la manager da cui dipendevo qualche volta scendeva dove stavo

really early in the morning or really late in the afternoon,

molto presto alla mattina o molto tardi nel pomeriggio,

e mi diceva, "Zeynep, andiamo a pranzo!"

and she'd say, "Zeynep, let's go to lunch!"

I'd be puzzled by the weird timing.

Ero perplessa per la strana tempistica.

It's 4pm. Lunch?

Sono le 4 del pomeriggio. Pranzo?

Ero al verde, ed è un pranzo gratis. Quindi andavo sempre.

I was broke, so free lunch. I always went.

I later realized what was happening.

Più tardi capii cosa stava accadendo.

My immediate managers had not confessed to their higher-ups

La manager da cui dipendevo non aveva confessato ai livelli superiori

that the programmer they hired for a serious job was a teen girl

che il programmatore da lei assunto per un importante lavoro era adolescente

who wore jeans and sneakers to work.

che indossava jeans e sneaker al lavoro.

Lavoravo bene, solo sembravo sbagliata,

I was doing a good job, I just looked wrong

and was the wrong age and gender.

ed era l'età e genere sbagliato.

Così asssumere senza considerare genere e razza

So hiring in a gender- and race-blind way

certainly sounds good to me.

certamante mi sembra giusto.

Ma con questi sistemi, è più complicato, ed ecco perchè:

But with these systems, it is more complicated, and here's why:

Currently, computational systems can infer all sorts of things about you

Ad oggi, i sistemi di calcolo possono desumere qualsiasi cosa su di voi

from your digital crumbs,

dalle vostre briciole digitali,

even if you have not disclosed those things.

pur se non avete reso pubbliche quelle cose.

They can infer your sexual orientation,

Possono desumere il vostro orientamento sessuale,

your personality traits,

caratteristiche personali,

your political leanings.

orientamento politico.

They have predictive power with high levels of accuracy.

Hanno potenza predittiva con alto livello di accuratezza.

Remember -- for things you haven't even disclosed.

Ricordate -- per cose che non avete mai dichiarato.

This is inference.

Questa è l'inferenza.

I have a friend who developed such computational systems

Ho un'amica che ha sviluppato un sistema di elaborazione

to predict the likelihood of clinical or postpartum depression

per predire la probabilità della depressione postpartum

from social media data.

dai dati delle reti sociali.

The results are impressive.

Risultati impressionanti!

Her system can predict the likelihood of depression

Il suo sistema può predire la probabilità della depressione

months before the onset of any symptoms --

mesi prima dell'insorgere di un qualsiasi sintomo --

months before.

mesi prima.

No symptoms, there's prediction.

Nessun sintomo, ma c'è predizione.

She hopes it will be used for early intervention. Great!

Lei spera che sarà usato per anticipare un intervento. Ottimo!

But now put this in the context of hiring.

Ma ora consideratelo in una assunzione.

Così a quella conferenza dei manager delle risorse umane,

So at this human resources managers conference,

ho avvicinato un manager di alto livello in una grande azienda,

I approached a high-level manager in a very large company,

and I said to her, "Look, what if, unbeknownst to you,

e le ho detto, "Guarda, che succederebbe se, alla tua insaputa,

your system is weeding out people with high future likelihood of depression?

il vostro sistema elimina le persone con un'alta probabilità di depressione?

They're not depressed now, just maybe in the future, more likely.

Non sono depresse ora, magari forse in futuro, più probabilmente.

What if it's weeding out women more likely to be pregnant

Che succederebbe se eliminasse le donne più probabilmente incinte

in the next year or two but aren't pregnant now?

nei prossimi uno o due anni ma che non lo sono ora?

What if it's hiring aggressive people because that's your workplace culture?"

E se assumeste persone aggressive perchè questa è la vostra cultura aziendale?"

Non potete parlarne guardando solo alle quote di genere.

You can't tell this by looking at gender breakdowns.

Those may be balanced.

Queste si possono bilanciare.

And since this is machine learning, not traditional coding,

E dato che ciò è apprendimento automatico, non programmazione tradizionale,

there is no variable there labeled "higher risk of depression,"

non c'è alcuna variabile di codifica etichettata "alto rischio di depressione",

"higher risk of pregnancy,"

"maggior rischio di gravidanza,"

"aggressive guy scale."

"gradazione di maschio aggressivo."

Not only do you not know what your system is selecting on,

Non solo non sapete su cosa il vostro sistema basi la selezione,

you don't even know where to begin to look.

ma neppure sapete dove cominciare a guardare.

E' una "scatola nera".

It's a black box.

It has predictive power, but you don't understand it.

Ha una potenza predittiva ma non la capite.

"What safeguards," I asked, "do you have

"Quali garanzie," chiesi, "avete

to make sure that your black box isn't doing something shady?"

per essere sicuri che la scatola nera non sta facendo qualcosa losco?"

She looked at me as if I had just stepped on 10 puppy tails.

Mi ha guardato come se avessi schiacciato la coda a 10 cuccioli.

(Laughter)

(Risate)

Mi fissò e disse,

She stared at me and she said,

"I don't want to hear another word about this."

"Non voglio sentire altro su questo."

And she turned around and walked away.

E si girò andandosene via.

Considerate - non era maleducata.

Mind you -- she wasn't rude.

It was clearly: what I don't know isn't my problem, go away, death stare.

Era chiaro: quello che non so non è un mio problema. Va via, sguardo assassino.

(Laughter)

(Risate)

Look, such a system may even be less biased

Vedete, un tale sistema può anche essere meno influenzata

than human managers in some ways.

in molti modi rispetto ai manager umani.

And it could make monetary sense.

E potrebbe avere senso economico.

But it could also lead

Ma può anche portare

to a steady but stealthy shutting out of the job market

a una stabile, ma furtiva chiusura dal mercato del lavoro

di gente più a rischio di depressione.

of people with higher risk of depression.

Is this the kind of society we want to build,

Questo è il tipo di società che vogliamo costruire,

without even knowing we've done this,

senza neppure sapere che lo abbiamo fatto,

because we turned decision-making to machines we don't totally understand?

poichè abbiamo lasciato la decisione a macchine che non comprendiamo del tutto?

Another problem is this:

Un altro problema è questo:

these systems are often trained on data generated by our actions,

quei sistemi sono spesso addestrati con dati generati dalle nostre azioni,

human imprints.

di impronta umana.

Well, they could just be reflecting our biases,

Bene, possono proprio riflettere le nostre distorsioni o pregiudizi,

e questi sistemi si portano dietro i nostri pregiudizi

and these systems could be picking up on our biases

and amplifying them

e li amplificano

and showing them back to us,

e ce li rispecchiano,

while we're telling ourselves,

mentre ci diciamo,

"We're just doing objective, neutral computation."

"Stiamo facendo solo elaborazioni oggettive e neutrali."

Researchers found that on Google,

Ricerche effettuate su Google trovano,

che è meno probabile vengano mostrati alle donne avvisi per lavori ben pagati.

women are less likely than men to be shown job ads for high-paying jobs.

And searching for African-American names

E cercando nomi di Afro-Americani

è più probabile trovare avvisi alludenti a storie criminali,

is more likely to bring up ads suggesting criminal history,

even when there is none.

anche quando non ce ne sono.

Such hidden biases and black-box algorithms

Questi sono i pregiudizi nascosti e gli algoritmi a scatola nera

that researchers uncover sometimes but sometimes we don't know,

che i ricercatori talvolta scoprono ma che altre volte non conosciamo,

can have life-altering consequences.

possono avere la conseguenza di alterare la vita.

In Wisconsin, a defendant was sentenced to six years in prison

In Wisconsin, un accusato è stato condannato a sei anni di prigione

per aver eluso la polizia.

for evading the police.

You may not know this,

Si può non saperlo,

ma gli algoritmi sono sempre più usati per prendere decisioni giudiziarie.

but algorithms are increasingly used in parole and sentencing decisions.

Egli voleva sapere: come è stato calcolato il punteggio?

He wanted to know: How is this score calculated?

It's a commercial black box.

Ma è una scatola nera sul mercato

The company refused to have its algorithm be challenged in open court.

L'azienda si è rifiutata di far verificare il suo algoritmo in una corte pubblica.

But ProPublica, an investigative nonprofit, audited that very algorithm

Ma ProPublica, associazione investigativa non-profit, ha verificato quell'algoritmo

with what public data they could find,

con i dati pubblici disponibili,

and found that its outcomes were biased

trovando che i risultati erano influenzati

and its predictive power was dismal, barely better than chance,

e la sua potenza predittiva era niente più di una possibilità,

and it was wrongly labeling black defendants as future criminals

e che era sbagliato etichettare accusati neri come futuri criminali

at twice the rate of white defendants.

a livello doppio degli accusati bianchi.

So, consider this case:

Così considerate questo caso:

questa donna è in ritardo nel prelevare la sua figlioccia

This woman was late picking up her godsister

from a school in Broward County, Florida,

da scuola nella Contea di Broward, Florida,

running down the street with a friend of hers.

correndo per la strada con un suo amico.

Vedono una bici da ragazzo non bloccata ed uno scooter in una veranda

They spotted an unlocked kid's bike and a scooter on a porch

and foolishly jumped on it.

e stupidamente vi saltano su.

As they were speeding off, a woman came out and said,

Come stavano scappando via, una donna uscì fuori e disse,

"Hey! That's my kid's bike!"

"Ehi, quella bicicletta è mia!"

They dropped it, they walked away, but they were arrested.

Essi la lascarono, andarono via, ma furono arrestati.

Aveva sbagliato, era stata sciocca, ma era appena diventata diciottenne.

She was wrong, she was foolish, but she was also just 18.

She had a couple of juvenile misdemeanors.

Fu condannata per un paio di crimini giovanili.

Meanwhile, that man had been arrested for shoplifting in Home Depot --

Nel frattempo, quell'uomo fu arrestato per furto di merce al Home Depot --

merce per 85 dollari di valore, un simile piccolo crimine.

85 dollars' worth of stuff, a similar petty crime.

But he had two prior armed robbery convictions.

Ma lui aveva due precedenti condanne per rapina a mano armata

But the algorithm scored her as high risk, and not him.

Ma l'algoritmo aveva valutato lei ad alto rischio, non lui.

Two years later, ProPublica found that she had not reoffended.

Due anni dopo, ProPublica trovò che lei non era stata recidiva.

It was just hard to get a job for her with her record.

Ma le fu duro trovare lavoro, visti i precedenti.

He, on the other hand, did reoffend

Lui, d'altra parte, fu recidivo

and is now serving an eight-year prison term for a later crime.

ed ora è in prigione per 8 anni a causa di un successivo crimine.

Chiaramente, ci bisogna verificare le scatole nere

Clearly, we need to audit our black boxes

and not have them have this kind of unchecked power.

per non dare loro questo incontrollato potere.

(Applausi)

(Applause)

Le verifiche sono importanti, ma da sole non risolvono tutti i problemi.

Audits are great and important, but they don't solve all our problems.

Take Facebook's powerful news feed algorithm --

Prendete l'algoritmo di Facebook per caricare le news--

sapete, quello che riordina tutto e decide cosa mostrarvi

you know, the one that ranks everything and decides what to show you

from all the friends and pages you follow.

da tutti gli amici e le pagine seguite.

Should you be shown another baby picture?

Dovrebbe mostrarvi un'altra foto di bimbo?

(Laughter)

(Risate)

A sullen note from an acquaintance?

Una nota imbronciata da un conoscente?

An important but difficult news item?

Una importante ma scabrosa notizia?

There's no right answer.

Non c'è una risposta giusta.

Facebook optimizes for engagement on the site:

Facebook ottimizza per attraervi al loro sito:

likes, shares, comments.

i like, condividi, commenti

Nell'agosto 2014,

In August of 2014,

protests broke out in Ferguson, Missouri,

proteste scoppiarono a Ferguson, Missouri, dopo l'uccisione di

after the killing of an African-American teenager by a white police officer,

un ragazzo Afro-Americano da parte di un poliziotto bianco,

in circostanze oscure.

under murky circumstances.

The news of the protests was all over

La notizia delle proteste era presente

sul mio caricatore Twitter non filtrato da algoritmi,

my algorithmically unfiltered Twitter feed,

but nowhere on my Facebook.

ma nulla sul mio Facebook.

Was it my Facebook friends?

Era a causa dei miei amici su Facebook?

I disabled Facebook's algorithm,

Ho disabilitato l'algoritmo di Facebook,

which is hard because Facebook keeps wanting to make you

che non è facile, poichè Facebook vuole mantenervi

come under the algorithm's control,

sotto il controllo dell'algoritmo,

and saw that my friends were talking about it.

e vidi che i miei amici parlavano di questo.

It's just that the algorithm wasn't showing it to me.

Era proprio l'algoritmo che non me lo mostrava.

I researched this and found this was a widespread problem.

Ho approfondito ed ho trovato che è un problema diffuso.

The story of Ferguson wasn't algorithm-friendly.

La storia di Ferguson non è facile per l'algoritmo.

Non è likable.

It's not "likable."

Who's going to click on "like?"

Chi sta cliccando su "like?"

It's not even easy to comment on.

Non è neppure facile da commentarsi.

Without likes and comments,

Senza like e commenti,

l'algoritmo tende a mostrare la notizia ad ancora meno persone,

the algorithm was likely showing it to even fewer people,

so we didn't get to see this.

così non riusciamo a vederla.

Instead, that week,

Invece, questa settimana,

Facebook's algorithm highlighted this,

l'algoritmo di Facebook ha evidenziato

which is the ALS Ice Bucket Challenge.

questo: il ALS Ice Bucket Challenge.

Worthy cause; dump ice water, donate to charity, fine.

Causa benefica; svuota acqua ghiacciata, dona alla beneficenza, bene.

But it was super algorithm-friendly.

Ottimo per agevolare l'algoritmo.

The machine made this decision for us.

Una decisione automatica è stata presa per noi

A very important but difficult conversation

Una conversazione molto importante ma scabrosa

might have been smothered,

può essere moderata,

had Facebook been the only channel.

essendo Facebook l'unica via trasmissiva.

Ora, infine, quei sistemi possono sbagliare

Now, finally, these systems can also be wrong

in ways that don't resemble human systems.

in modi che non somigliano a sistemi umani.

Do you guys remember Watson, IBM's machine-intelligence system

Vi ricordate Watson, la macchina intelligente di IBM

that wiped the floor with human contestants on Jeopardy?

che ha spazzato via i contendenti umani a Jeopardy?

Era un grande giocatore.

It was a great player.

But then, for Final Jeopardy, Watson was asked this question:

Ma poi, alla finale di Jeopardy, fu posta questa domanda a Watson:

"Its largest airport is named for a World War II hero,

"Il suo più grande aeroporto è intitolato a un eroe della II Guerra Mondiale,

its second-largest for a World War II battle."

il suo secondo più grande a una sua battaglia."

(Hums Final Jeopardy music)

(Musica della finale di Jeopardy)

Chicago.

Chicago.

The two humans got it right.

I due umani risposero bene.

Watson, on the other hand, answered "Toronto" --

Watson, da altra parte, rispose "Toronto" --

per una città nella categoria USA!

for a US city category!

The impressive system also made an error

L'impressionante sistema aveva sbagliato

that a human would never make, a second-grader wouldn't make.

come un umano non avrebbbe mai fatto, neppure un alunno delle elementari.

Our machine intelligence can fail

L'intelligenza automatica può sbagliare

in ways that don't fit error patterns of humans,

in modi non paragonabili con l'approccio dell'errore umano,

in modi che non ci aspetteremmo e per i quali siamo preparati.

in ways we won't expect and be prepared for.

Sarebbe pessimo non ottenere un lavoro per il quale si è qualificati,

It'd be lousy not to get a job one is qualified for,

but it would triple suck if it was because of stack overflow

ma sarebbe tre volte peggio se fosse causato da un errore software

in some subroutine.

in qualche sua subroutine.

(Laughter)

(Risate)

In May of 2010,

Nel maggio 2010,

a flash crash on Wall Street fueled by a feedback loop

una crisi improvvisa a Wall Street, alimentata da un erroneo ciclo di calcolo

in Wall Street's "sell" algorithm

nell'algoritmo di "vendi" di Wall Street

wiped a trillion dollars of value in 36 minutes.

ha spazzato via un valore di un trilione di dollari in 36 minuti.

I don't even want to think what "error" means

Non voglio pensare cosa significhi "errore"

in the context of lethal autonomous weapons.

nel contesto di armi letali autonome.

So yes, humans have always made biases.

Si certo, gli umani sono sempre parziali.

Decision makers and gatekeepers,

I decisori e controllori,

in courts, in news, in war ...

nelle corti, nei notiziari, in guerra ...

they make mistakes; but that's exactly my point.

commettono errori; ma questo è proprio il mio punto.

We cannot escape these difficult questions.

non possiamo sfuggire a queste difficili domande.

We cannot outsource our responsibilities to machines.

Non possiamo delegare le nostre responsabilità alle macchine.

(Applause)

(Applausi)

L'intelligenza artificiale non ci dà un permesso di "uscire dall'etica" gratis.

Artificial intelligence does not give us a "Get out of ethics free" card.

Data scientist Fred Benenson calls this math-washing.

Lo scienziato sui dati Fred Benenson lo chiama "pulizia matematica".

Necessitiamo del contrario.

We need the opposite.

We need to cultivate algorithm suspicion, scrutiny and investigation.

Verso gli algoritmi occorre coltivare la diffidenza, verifica e indagine.

Occorre essere sicuri che di sia una responsabilità sugli algoritmi,

We need to make sure we have algorithmic accountability,

auditing and meaningful transparency.

metodi di verifica e una comprensibile trasparenza.

È necessario accettare che portare matematica ed elaborazione

We need to accept that bringing math and computation

to messy, value-laden human affairs

in relazioni umane caotiche e di valore,

does not bring objectivity;

non aggiunge obiettività;

piuttosto, la complessità degli affari umani invade gli algoritmi.

rather, the complexity of human affairs invades the algorithms.

Si, possiamo e dovremmo usare il calcolo

Yes, we can and we should use computation

per aiutarci nel decidere meglio.

to help us make better decisions.

But we have to own up to our moral responsibility to judgment,

Ma dobbiamo mantenere la responsabilità morale del giudizio,

e usare algoritmi dentro quel contesto,

and use algorithms within that framework,

non come gli strumenti per abdicare e dare in outsource

not as a means to abdicate and outsource our responsibilities

le nostre responsibilità a qualcun altro come fra umani.

to one another as human to human.

Machine intelligence is here.

La intelligenza delle macchine è qui.

Significa che dobbiamo tenerci più forti

That means we must hold on ever tighter

ai valori ed etica umani.

to human values and human ethics.

Grazie.

Thank you.

(Applausi)

(Applause)