We're building a dystopia just to make people click on ads | Zeynep Tufekci

Traduttore: antonio parlato Revisore: Anna Cristiana Minoli

So when people voice fears of artificial intelligence,

Quando la gente dà voce alle paure legate all'intelligenza artificiale,

very often, they invoke images of humanoid robots run amok.

molto spesso evoca immagini di robot umanoidi usciti fuori controllo.

You know? Terminator?

Avete presente Terminator?

You know, that might be something to consider,

Potrebbe essere una possibilità da considerare,

but that's a distant threat.

ma si tratta di una minaccia remota.

Or, we fret about digital surveillance

Oppure, ci agitiamo per il controllo digitale

with metaphors from the past.

usando metafore del passato.

"1984," George Orwell's "1984,"

"1984" di George Orwell

it's hitting the bestseller lists again.

è di nuovo tra i bestseller.

It's a great book,

È un gran libro,

but it's not the correct dystopia for the 21st century.

ma non è la corretta distopia da applicare al 21esimo secolo.

What we need to fear most

Ciò che dobbiamo temere

is not what artificial intelligence will do to us on its own,

non è cosa l'intelligenza artificiale possa fare di per sé,

but how the people in power will use artificial intelligence

ma come le persone di potere potranno utilizzarla

to control us and to manipulate us

per controllarci e manipolarci

in novel, sometimes hidden,

in modi nuovi, talvolta nascosti,

subtle and unexpected ways.

sottili e inaspettati.

Much of the technology

Gran parte della tecnologia

that threatens our freedom and our dignity in the near-term future

che mette a rischio la nostra libertà e dignità nel futuro imminente

is being developed by companies

viene sviluppato da aziende

in the business of capturing and selling our data and our attention

che guadagnano catturando e rivendendo i nostri dati e attenzione

to advertisers and others:

a inserzionisti e altre entità:

Facebook, Google, Amazon,

Facebook, Google, Amazon,

Alibaba, Tencent.

Alibaba, Tencent.

Now, artificial intelligence has started bolstering their business as well.

Ora l'intelligenza artificiale comincia a rafforzare il loro business.

And it may seem like artificial intelligence

E sembrerebbe che l'intelligenza artificiale

is just the next thing after online ads.

sia il passo successivo alla pubblicità online.

It's not.

Non lo è.

It's a jump in category.

È un salto di categoria.

It's a whole different world,

È un mondo totalmente differente,

and it has great potential.

con un grosso potenziale.

It could accelerate our understanding of many areas of study and research.

Potrebbe accelerare la nostra comprensione in molte aree di studio e di ricerca.

But to paraphrase a famous Hollywood philosopher,

Ma per parafrasare un famoso filosofo di Hollywood,

"With prodigious potential comes prodigious risk."

"Da un grande potenziale derivano grandi rischi"

Now let's look at a basic fact of our digital lives, online ads.

Guardiamo a un fatto semplice delle nostre vite digitali, la pubblicità.

Right? We kind of dismiss them.

Giusto? Tendiamo a ignorarle.

They seem crude, ineffective.

Sembrano rozze, di scarso effetto.

We've all had the experience of being followed on the web

Tutti abbiamo avuto la sensazione di essere inseguiti sul web

by an ad based on something we searched or read.

da pubblicità basate su cose che abbiamo cercato o letto.

You know, you look up a pair of boots

Lo sapete, cercate un paio di stivali

and for a week, those boots are following you around everywhere you go.

e per giorni, questi stivali vi seguiranno dovunque andiate.

Even after you succumb and buy them, they're still following you around.

Persino quando cedete e li acquistate, continueranno a seguirvi ancora.

We're kind of inured to that kind of basic, cheap manipulation.

Siamo quasi abituati a questo tipo di manipolazione grossolana.

We roll our eyes and we think, "You know what? These things don't work."

Alziamo gli occhi e pensiamo, "Sai? Queste cose non funzionano."

Except, online,

Tranne che, online,

the digital technologies are not just ads.

le tecnologie digitali non sono solo pubblicità.

Now, to understand that, let's think of a physical world example.

Per capire meglio, prendiamo un esempio del mondo fisico.

You know how, at the checkout counters at supermarkets, near the cashier,

Sapete che nei supermercati, proprio vicino alle casse

there's candy and gum at the eye level of kids?

trovate dolci e gomme ad altezza occhi di bambino?

That's designed to make them whine at their parents

È fatto apposta per farli piagnucolare

just as the parents are about to sort of check out.

proprio mentre i genitori stanno per pagare alla cassa.

Now, that's a persuasion architecture.

Questa è architettura persuasiva.

It's not nice, but it kind of works.

Non è bella, ma funziona.

That's why you see it in every supermarket.

E infatti la vedete in tutti i supermarket.

Now, in the physical world,

Nel mondo reale,

such persuasion architectures are kind of limited,

queste architetture persuasive sono un po' limitate,

because you can only put so many things by the cashier. Right?

perché si può caricare fino a un certo punto l'angolo della cassa.

And the candy and gum, it's the same for everyone,

Inoltre dolci e gomme, sono uguali per tutti,

even though it mostly works

anche se funziona di più

only for people who have whiny little humans beside them.

per le persone che hanno piccoli bimbi frignanti accanto.

In the physical world, we live with those limitations.

Nel mondo fisico, viviamo con queste limitazioni.

In the digital world, though,

Nel mondo digitale, invece,

persuasion architectures can be built at the scale of billions

le architetture persuasive possono essere costruite

su larghissima scala

and they can target, infer, understand

e possono colpire, dedurre, capire

and be deployed at individuals

essere su misura per singoli individui

one by one

uno per uno

by figuring out your weaknesses,

scoprendo le debolezze,

and they can be sent to everyone's phone private screen,

e possono essere inviate sugli schermi privati dei nostri telefoni,

so it's not visible to us.

così da non essere visibili.

And that's different.

E questo è differente.

And that's just one of the basic things that artificial intelligence can do.

Questa è una delle cose basilari che l'intelligenza artificiale può fare.

Now, let's take an example.

Facciamo un esempio.

Let's say you want to sell plane tickets to Vegas. Right?

Poniamo caso vogliate vendere voli verso Las Vegas, ok?

So in the old world, you could think of some demographics to target

Nel vecchio mondo, potreste pensare a un target demografico da colpire

based on experience and what you can guess.

basato sull'esperienza e su alcune supposizioni.

You might try to advertise to, oh,

Avreste diretto la pubblicità

men between the ages of 25 and 35,

a uomini tra i 25 e i 35,

or people who have a high limit on their credit card,

o persone con un plafond alto nelle carte di credito

or retired couples. Right?

o coppie in pensione.Giusto?

That's what you would do in the past.

Questo è ciò che avreste fatto ieri.

With big data and machine learning,

Grazie a Big Data e Machine Learning,

that's not how it works anymore.

non funziona più così.

So to imagine that,

Per aiutarvi a capire,

think of all the data that Facebook has on you:

pensate a tutti i dati che Facebook ha su di voi:

every status update you ever typed,

tutti gli aggiornamenti che avete scritto,

every Messenger conversation,

tutte le chat su Messenger,

every place you logged in from,

i posti da cui vi siete collegati,

all your photographs that you uploaded there.

tutte le foto che avete aggiunto.

If you start typing something and change your mind and delete it,

Se cominciate a scrivere qualcosa e poi ci ripensate e cancellate,

Facebook keeps those and analyzes them, too.

Facebook conserva e analizza anche quello.

Increasingly, it tries to match you with your offline data.

Prova sempre di più a collegarvi con i vostri dati offline.

It also purchases a lot of data from data brokers.

E compra pure dei dati da altri fornitori esterni.

It could be everything from your financial records

Dati di varia natura come movimenti finanziari

to a good chunk of your browsing history.

o la storia delle pagine che avete visitato.

Right? In the US, such data is routinely collected,

Negli Stati Uniti questi dati vengono raccolti con regolarità,

collated and sold.

esaminati e rivenduti.

In Europe, they have tougher rules.

In Europa le leggi sono più restrittive.

So what happens then is,

Quindi, ciò che accade

by churning through all that data, these machine-learning algorithms --

macinando tutti questi dati, gli algoritmi "machine learning"

that's why they're called learning algorithms --

proprio per questo sono chiamati algoritmi di "apprendimento"

they learn to understand the characteristics of people

apprendono come capire le caratteristiche della gente

who purchased tickets to Vegas before.

che ha comprato in precedenza biglietti per Las Vegas

When they learn this from existing data,

Così come imparano dai dati esistenti,

they also learn how to apply this to new people.

imparano anche come applicarlo a nuove persone.

So if they're presented with a new person,

Quindi quando si trovano davanti un nuovo soggetto

they can classify whether that person is likely to buy a ticket to Vegas or not.

possono classificarlo e dire se vorrebbe o meno un biglietto per Las Vegas

Fine. You're thinking, an offer to buy tickets to Vegas.

Bene. Starete pensando, un'offerta su un volo per Las Vegas.

I can ignore that.

Posso ignorarla.

But the problem isn't that.

Ma non è quello il problema.

The problem is,

Il problema è

we no longer really understand how these complex algorithms work.

che non riusciamo più a capire come funzionano questi algoritmi complessi

We don't understand how they're doing this categorization.

non capiamo come facciano questa categorizzazione.

It's giant matrices, thousands of rows and columns,

Sono matrici giganti, con migliaia di righe e colonne,

maybe millions of rows and columns,

forse milioni di righe e colonne,

and not the programmers

e né i programmatori

and not anybody who looks at it,

né nessuno di quelli che ha accesso,

even if you have all the data,

anche se possiede tutti i dati,

understands anymore how exactly it's operating

capisce più come stia funzionando esattamente

any more than you'd know what I was thinking right now

non più di quanto voi potreste capire a cosa sto pensando ora

if you were shown a cross section of my brain.

se vi fosse mostrata una sezione del mio cervello.

It's like we're not programming anymore,

È come se non programmassimo più,

we're growing intelligence that we don't truly understand.

ma accresciamo un'intelligenza che non riusciamo a capire davvero.

And these things only work if there's an enormous amount of data,

Tutto questo funziona solo attraverso un'enorme quantità di dati,

so they also encourage deep surveillance on all of us

cosicché viene favorito un controllo approfondito su tutti noi

so that the machine learning algorithms can work.

per far funzionare gli algoritmi di apprendimento

That's why Facebook wants to collect all the data it can about you.

Per questo Facebook vuole raccogliere tutti i vostri dati.

The algorithms work better.

L'algoritmo funziona meglio.

So let's push that Vegas example a bit.

Spingiamo ancora di più l'esempio di Las Vegas.

What if the system that we do not understand

E se questo sistema che non riusciamo a comprendere

was picking up that it's easier to sell Vegas tickets

avesse imparato che è più semplice vendere biglietti per Las Vegas

to people who are bipolar and about to enter the manic phase.

a persone bipolari e sul punto di entrare nella fase maniacale.

Such people tend to become overspenders, compulsive gamblers.

Queste persone tendono a spendere di più e a diventare scommettitori compulsivi.

They could do this, and you'd have no clue that's what they were picking up on.

Potrebbero pescare da quel bacino e nessuno potrebbe mai saperlo.

I gave this example to a bunch of computer scientists once

Ho fatto questo esempio a un gruppo di ingegneri, una volta

and afterwards, one of them came up to me.

e subito dopo, uno di loro è venuto da me.

He was troubled and he said, "That's why I couldn't publish it."

Era turbato e mi disse, "ecco perché non posso pubblicarlo"

I was like, "Couldn't publish what?"

E io, "Non pubblicare cosa?"

He had tried to see whether you can indeed figure out the onset of mania

Aveva provato a vedere se fosse possibile comprendere uno stato maniacale

from social media posts before clinical symptoms,

dai post sui social media prima dei sintomi clinici,

and it had worked,

e aveva funzionato,

and it had worked very well,

aveva funzionato benissimo,

and he had no idea how it worked or what it was picking up on.

e lui non aveva idea di come funzionasse e cosa stesse pescando.

Now, the problem isn't solved if he doesn't publish it,

Il problema non si risolve se lui non pubblica il software,

because there are already companies

perché ci sono già aziende

that are developing this kind of technology,

che stanno sviluppando questo tipo di tecnologia,

and a lot of the stuff is just off the shelf.

e una buona parte è già disponibile.

This is not very difficult anymore.

Non è più una cosa complicata.

Do you ever go on YouTube meaning to watch one video

Andate mai su YouTube con l'idea di guardare un video

and an hour later you've watched 27?

e un'ora dopo ne avete guardati 27?

You know how YouTube has this column on the right

Sapete che YouTube ha questa colonna sulla destra

that says, "Up next"

che dice "Prossimi video"

and it autoplays something?

e poi ne parte in automatico un altro?

It's an algorithm

È un algoritmo

picking what it thinks that you might be interested in

che sceglie qualcosa che pensa possa interessarvi

and maybe not find on your own.

che magari non trovate da soli.

It's not a human editor.

Non è un editor umano.

It's what algorithms do.

Lo fa un algoritmo.

It picks up on what you have watched and what people like you have watched,

Studia quello che avete guardato voi e le persone simili a voi

and infers that that must be what you're interested in,

e desume quello che potrebbe interessarvi,

what you want more of,

cosa vorreste di più,

and just shows you more.

e ve ne mostra di più.

It sounds like a benign and useful feature,

Sembra una funzionalità innocua e utile

except when it isn't.

tranne quando non lo è.

So in 2016, I attended rallies of then-candidate Donald Trump

Nel 2016, ho partecipato a raduni dell'allora candidato Donald Trump

to study as a scholar the movement supporting him.

per studiare accademicamente il movimento che lo supportava.

I study social movements, so I was studying it, too.

Studio movimenti sociali, così studiavo anche quello.

And then I wanted to write something about one of his rallies,

Volevo scrivere qualcosa su uno di quei raduni,

so I watched it a few times on YouTube.

e l'ho guardato qualche volta su YouTube.

YouTube started recommending to me

YouTube ha cominciato a raccomandarmi

and autoplaying to me white supremacist videos

e a far partire video sui suprematisti bianchi

in increasing order of extremism.

in crescente ordine di estremismo.

If I watched one,

Ne guardavo uno,

it served up one even more extreme

me ne proponeva uno ancora più estremo

and autoplayed that one, too.

che partiva in automatico.

If you watch Hillary Clinton or Bernie Sanders content,

Se guardi contenuti di Hillary Clinton o di Bernie Sanders

YouTube recommends and autoplays conspiracy left,

YouTube raccomanda e fa partire video cospirazionisti di sinistra,

and it goes downhill from there.

e da lì sempre più giù.

Well, you might be thinking, this is politics, but it's not.

Bene, potreste pensare, questa è politica. Ma non lo è.

This isn't about politics.

Non si tratta di politica.

This is just the algorithm figuring out human behavior.

Si tratta di un algoritmo che ha compreso la natura umana.

I once watched a video about vegetarianism on YouTube

Una volta ho guardato un video sul vegetarianismo su YouTube

and YouTube recommended and autoplayed a video about being vegan.

e YouTube mi ha consigliato un video sull'essere vegani.

It's like you're never hardcore enough for YouTube.

È come se non ci credete mai abbastanza per YouTube

(Laughter)

(Risate)

So what's going on?

Allora cosa succede?

Now, YouTube's algorithm is proprietary,

Anche se l'algoritmo di YouTube è proprietario

but here's what I think is going on.

ecco cosa penso stia accadendo.

The algorithm has figured out

L'algoritmo ha capito

that if you can entice people

che se puoi attrarre la gente

into thinking that you can show them something more hardcore,

a pensare che puoi mostrargli qualcosa di ancora più spinto,

they're more likely to stay on the site

la gente rimarrà sul sito con maggiore probabilità

watching video after video going down that rabbit hole

guardando video dopo video scendendo giù nella tana del coniglio

while Google serves them ads.

mentre Google mostra le pubblicità.

Now, with nobody minding the ethics of the store,

Mentre nessuno si accorge dei risvolti etici,

these sites can profile people

questi siti possono profilare persone

who are Jew haters,

che odiano gli ebrei,

who think that Jews are parasites

che pensano che gli ebrei siano parassiti

and who have such explicit anti-Semitic content,

e chi ha contenuti antisemiti così espliciti,

and let you target them with ads.

e vi consente

di usarli come bersaglio per le pubblicità.

They can also mobilize algorithms

Possono anche sguinzagliare gli algoritmi

to find for you look-alike audiences,

per trovare per voi gruppi di utenti simili,

people who do not have such explicit anti-Semitic content on their profile

gente che sebbene non mostri contenuti antisemiti così espliciti

but who the algorithm detects may be susceptible to such messages,

viene riconosciuta dall'algoritmo come sensibile a questo tipo di messaggi,

and lets you target them with ads, too.

e vi fa bersagliare anche loro.

Now, this may sound like an implausible example,

Questo potrebbe sembrare un esempio poco plausibile,

but this is real.

però è davvero reale.

ProPublica investigated this

ProPublica ha investigato

and found that you can indeed do this on Facebook,

e scoperto che è possibile farlo davvero su Facebook

and Facebook helpfully offered up suggestions

e che Facebook amichevolmente ha dato suggerimenti

on how to broaden that audience.

su come espandere quest'audience.

BuzzFeed tried it for Google, and very quickly they found,

BuzzFeed ha provato a farlo con Google, e ha subito scoperto

yep, you can do it on Google, too.

che sì, si può fare anche su Google.

And it wasn't even expensive.

E che non era nemmeno caro.

The ProPublica reporter spent about 30 dollars

Il giornalista di ProPublica ha speso circa 30 dollari

to target this category.

per colpire questa categoria.

So last year, Donald Trump's social media manager disclosed

Il Social Media Manager di Trump ha rivelato che l'anno scorso

that they were using Facebook dark posts to demobilize people,

hanno utilizzato i post nascosti di Facebook per smobilitare la gente,

not to persuade them,

non per persuaderla,

but to convince them not to vote at all.

ma per convincerla di non votare affatto.

And to do that, they targeted specifically,

E per farlo, hanno preso come target specifico

for example, African-American men in key cities like Philadelphia,

per esempio, uomini afroamericani in città chiave come Philadelphia

and I'm going to read exactly what he said.

e ora vi leggo esattamente quello che ha detto.

I'm quoting.

Sto citando.

They were using "nonpublic posts

Stavano utilizzando, "Post non pubblici

whose viewership the campaign controls

la cui audience è controllata nella campagna

so that only the people we want to see it see it.

in modo tale che solo gente che noi vogliamo che veda, vedrà.

We modeled this.

L'abbiamo costruita così.

It will dramatically affect her ability to turn these people out."

Questo aumenterà enormemente la capacità di spegnere queste persone."

What's in those dark posts?

Cosa c'era in questi post nascosti?

We have no idea.

Non ne abbiamo la minima idea.

Facebook won't tell us.

Facebook non ce lo dirà.

So Facebook also algorithmically arranges the posts

L'algoritmo di Facebook dispone i post

that your friends put on Facebook, or the pages you follow.

che i vostri amici o le pagine che seguite pubblicano.

It doesn't show you everything chronologically.

Non ve li mostra in ordine cronologico.

It puts the order in the way that the algorithm thinks will entice you

L'algoritmo li riordina in modo tale che vi inducano

to stay on the site longer.

a stare più a lungo sul sito.

Now, so this has a lot of consequences.

E questo ha molte conseguenze.

You may be thinking somebody is snubbing you on Facebook.

Potreste pensare che qualcuno vi stia ignorando su Facebook.

The algorithm may never be showing your post to them.

L'algoritmo potrebbe non mostrare mai i vostri post.

The algorithm is prioritizing some of them and burying the others.

L'algoritmo dà priorità ad alcuni di loro e seppellisce gli altri.

Experiments show

Esperimenti mostrano

that what the algorithm picks to show you can affect your emotions.

che ciò che l'algoritmo sceglie di mostrarvi può influenzare le vostre emozioni.

But that's not all.

E non è tutto.

It also affects political behavior.

Può influenzare il comportamento politico.

So in 2010, in the midterm elections,

Così nel 2010, durante le elezioni di metà mandato,

Facebook did an experiment on 61 million people in the US

Facebook ha fatto un esperimento su 61 milioni di americani

that was disclosed after the fact.

che è stato reso pubblico subito dopo.

So some people were shown, "Today is election day,"

Ad alcuni veniva mostrata "Oggi è il giorno delle elezioni",

the simpler one,

la più semplice,

and some people were shown the one with that tiny tweak

mentre ad altri veniva mostrata quella con una piccola variazione

with those little thumbnails

con le piccole foto

of your friends who clicked on "I voted."

degli amici che hanno cliccato su "Ho votato".

This simple tweak.

Questa semplice modifica.

OK? So the pictures were the only change,

Ok? Le foto erano l'unica modifica,

and that post shown just once

e quei post mostrati una volta sola

turned out an additional 340,000 voters

hanno portato altri 340 000 votanti

in that election,

in quella elezione,

according to this research

secondo questa ricerca,

as confirmed by the voter rolls.

come confermato dalle liste degli elettori.

A fluke? No.

Una coincidenza? No.

Because in 2012, they repeated the same experiment.

Perché nel 2012, hanno ripetuto lo stesso esperimento.

And that time,

E quella volta,

that civic message shown just once

quel messaggio civico mostrato una sola volta

turned out an additional 270,000 voters.

ha portato altri 270 000 votanti.

For reference, the 2016 US presidential election

Per la cronaca, nel 2016 le elezioni presidenziali negli USA

was decided by about 100,000 votes.

sono state decise da circa 100 000 voti.

Now, Facebook can also very easily infer what your politics are,

Facebook può anche dedurre le vostre inclinazioni politiche

even if you've never disclosed them on the site.

anche se non le avete mai esposte esplicitamente.

Right? These algorithms can do that quite easily.

Gli algoritmi possono farlo facilmente.

What if a platform with that kind of power

Cosa accade se una piattaforma con questo tipo di potere

decides to turn out supporters of one candidate over the other?

decide di "spegnere" i sostenitori di un candidato in favore dell'altro?

How would we even know about it?

Come potremmo mai accorgercene?

Now, we started from someplace seemingly innocuous --

Siamo partiti da qualcosa che sembrava innocuo -

online adds following us around --

le pubblicità che ci seguono dappertutto -

and we've landed someplace else.

e siamo arrivati a qualcos'altro.

As a public and as citizens,

Come pubblico e come cittadini,

we no longer know if we're seeing the same information

non sappiamo più se stiamo guardando le stesse informazioni

or what anybody else is seeing,

o cosa stiano vedendo gli altri

and without a common basis of information,

e senza una base comune d'informazione

little by little,

a poco a poco,

public debate is becoming impossible,

il dibattito pubblico sta diventando impossibile,

and we're just at the beginning stages of this.

e siamo appena agli stadi iniziali di tutto questo.

These algorithms can quite easily infer

Questi algoritmi possono facilmente dedurre

things like your people's ethnicity,

cose come l'etnia,

religious and political views, personality traits,

il pensiero politico e religioso, la personalità

intelligence, happiness, use of addictive substances,

l'intelligenza, la felicità, l'uso di sostanze che danno dipendenza

parental separation, age and genders,

le separazioni dei genitori, l'età e i sessi,

just from Facebook likes.

solo dai like messi su Facebook.

These algorithms can identify protesters

Questi algoritmi possono identificare i manifestanti

even if their faces are partially concealed.

anche se le loro facce sono parzialmente nascoste.

These algorithms may be able to detect people's sexual orientation

Questi algoritmi possono essere capaci di capire l'orientamento sessuale

just from their dating profile pictures.

solo dalla foto di profilo nei siti d'incontri.

Now, these are probabilistic guesses,

Certo, queste sono sempre deduzioni probabilistiche,

so they're not going to be 100 percent right,

quindi non arrivano a una precisione del 100 per cento

but I don't see the powerful resisting the temptation to use these technologies

ma non credo che chi ha potere resista alla tentazione di usare queste tecnologie

just because there are some false positives,

solo perché esiste qualche falso positivo,

which will of course create a whole other layer of problems.

cosa che produrrà un'altra serie di problemi.

Imagine what a state can do

Immaginate cosa possa fare uno stato

with the immense amount of data it has on its citizens.

con l'immensa quantità di dati che possiede sui propri cittadini.

China is already using face detection technology

La Cina sta già utilizzando tecnologie di riconoscimento facciale

to identify and arrest people.

per identificare e arrestare persone.

And here's the tragedy:

Ed ecco la tragedia:

we're building this infrastructure of surveillance authoritarianism

costruiamo questa infrastruttura di controllo autoritario

merely to get people to click on ads.

solo per ottenere clic sulle pubblicità.

And this won't be Orwell's authoritarianism.

E questo non sarà un autoritarismo alla Orwell.

This isn't "1984."

Questo non è "1984".

Now, if authoritarianism is using overt fear to terrorize us,

Se l'autoritarismo utilizza evidenti meccanismi del terrore per spaventarci,

we'll all be scared, but we'll know it,

saremo spaventati, ma sapremo perché,

we'll hate it and we'll resist it.

odieremo e resisteremo.

But if the people in power are using these algorithms

Ma se le persone con potere usano questo algoritmi

to quietly watch us,

per osservarci placidamente,

to judge us and to nudge us,

per giudicarci e per spingerci,

to predict and identify the troublemakers and the rebels,

per predire e identificare i piantagrane e i ribelli,

to deploy persuasion architectures at scale

per costruire un'architettura della persuasione su larga scala

and to manipulate individuals one by one

e per manipolare gli individui uno ad uno

using their personal, individual weaknesses and vulnerabilities,

utilizzando le loro debolezze e vulnerabilità individuali,

and if they're doing it at scale

e se lo fanno su larga scala

through our private screens

attraverso i nostri schermi privati

so that we don't even know

cosicché non sappiamo neppure

what our fellow citizens and neighbors are seeing,

quello che i nostri concittadini e vicini stanno vedendo,

that authoritarianism will envelop us like a spider's web

questo autoritarismo ci avvolgerà come tela di ragno

and we may not even know we're in it.

senza che ce ne rendiamo conto.

So Facebook's market capitalization

La capitalizzazione di borsa di Facebook

is approaching half a trillion dollars.

sta raggiungendo il mezzo trilione di dollari.

It's because it works great as a persuasion architecture.

È perché funziona benissimo come architettura persuasiva.

But the structure of that architecture

Ma la struttura di questa architettura

is the same whether you're selling shoes

è la stessa sia che voi vendiate scarpe

or whether you're selling politics.

o che stiate vendendo politica.

The algorithms do not know the difference.

L'algoritmo non ne conosce la differenza.

The same algorithms set loose upon us

Questi stessi algoritmi che vengono scatenati su di noi

to make us more pliable for ads

per renderci più malleabili alle pubblicità

are also organizing our political, personal and social information flows,

organizzano i nostri flussi d'informazione politica, personale e sociale

and that's what's got to change.

e questo è ciò che dovrebbe cambiare.

Now, don't get me wrong,

Non mi fraintendete,

we use digital platforms because they provide us with great value.

usiamo le piattaforme digitali perché ci forniscono grande valore.

I use Facebook to keep in touch with friends and family around the world.

Uso Facebook per tenere contatti con amici e familiari in tutto il mondo.

I've written about how crucial social media is for social movements.

Ho scritto di come siano importanti i social media per i movimenti sociali.

I have studied how these technologies can be used

Ho studiato come queste tecnologie possono essere utilizzate

to circumvent censorship around the world.

per aggirare la censura nel mondo.

But it's not that the people who run, you know, Facebook or Google

Non credo che le persone che guidano Facebook e Google

are maliciously and deliberately trying

stiano maliziosamente e deliberatamente tentando

to make the country or the world more polarized

di rendere il paese o il mondo più polarizzati

and encourage extremism.

incoraggiando gli estremismi.

I read the many well-intentioned statements

Ho letto molte frasi piene di buone intenzioni

that these people put out.

pronunciate da queste persone.

But it's not the intent or the statements people in technology make that matter,

Ma non sono le intenzioni o le frasi di costoro a fare differenza,

it's the structures and business models they're building.

ma le strutture e i modelli di business che costoro stanno costruendo.

And that's the core of the problem.

E questo è il nocciolo del problema.

Either Facebook is a giant con of half a trillion dollars

O Facebook è una truffa gigante da mezzo trilione di dollari

and ads don't work on the site,

dove le pubblicità non funzionano

it doesn't work as a persuasion architecture,

e non funziona come un'architettura persuasiva

or its power of influence is of great concern.

o il suo potere d'influenza è fonte di grande preoccupazione.

It's either one or the other.

O l'uno, o l'altro.

It's similar for Google, too.

Per Google la storia è simile.

So what can we do?

Quindi, cosa possiamo fare?

This needs to change.

Serve un cambiamento.

Now, I can't offer a simple recipe,

Quindi. Non posso offrire una ricetta semplice,

because we need to restructure

perché dobbiamo ristrutturare per intero

the whole way our digital technology operates.

il modo in cui opera la tecnologia digitale.

Everything from the way technology is developed

Tutto: dal modo in cui la tecnologia viene sviluppata

to the way the incentives, economic and otherwise,

alla maniera in cui gli incentivi, economici o di altro tipo,

are built into the system.

sono costruiti dentro il sistema.

We have to face and try to deal with

Dobbiamo confrontarci e occuparci

the lack of transparency created by the proprietary algorithms,

della mancanza di trasparenza creata dagli algoritmi proprietari,

the structural challenge of machine learning's opacity,

la sfida strutturale dell'opacità del "machine learning",

all this indiscriminate data that's being collected about us.

tutti questi dati su di noi che vengono raccolti indiscriminatamente.

We have a big task in front of us.

Abbiamo un grande compito di fronte a noi.

We have to mobilize our technology,

Dobbiamo mobilitare la nostra tecnologia,

our creativity

la nostra creatività

and yes, our politics

e sì, la nostra politica

so that we can build artificial intelligence

così da costruire un'intelligenza artificiale

that supports us in our human goals

che ci supporti negli obiettivi umani

but that is also constrained by our human values.

ma che sia anche vincolata dai nostri valori umani.

And I understand this won't be easy.

Capisco che non sarà semplice.

We might not even easily agree on what those terms mean.

Potremmo non accordarci facilmente sul significato di questi termini.

But if we take seriously

Ma se prendiamo seriamente

how these systems that we depend on for so much operate,

come operano questi sistemi da cui dipendiamo così tanto,

I don't see how we can postpone this conversation anymore.

non vedo come possiamo rimandare ancora questa discussione.

These structures

Queste strutture

are organizing how we function

stanno organizzando il modo in cui funzioniamo

and they're controlling

e stanno controllando

what we can and we cannot do.

ciò che possiamo e non possiamo fare.

And many of these ad-financed platforms,

Molte piattaforme

che si finanziano con pubblicità.

they boast that they're free.

si vantano di essere gratuite.

In this context, it means that we are the product that's being sold.

In questo contesto, significa che noi siamo i prodotti da vendere.

We need a digital economy

Serve un'economia digitale

where our data and our attention

dove i nostri dati e la nostra attenzione

is not for sale to the highest-bidding authoritarian or demagogue.

non sono venduti al miglior offerente autoritario o demagogo.

(Applause)

(Applausi)

So to go back to that Hollywood paraphrase,

Così, tornando indietro a quella parafrasi di Hollywood,

we do want the prodigious potential

noi vogliamo che il potenziale prodigioso

of artificial intelligence and digital technology to blossom,

dell'intelligenza artificiale e della tecnologia digitale fiorisca,

but for that, we must face this prodigious menace,

ma per farlo, dobbiamo affrontare questa grande minaccia,

open-eyed and now.

con occhi aperti e ora.

Thank you.

Grazie.

(Applause)

(Applausi)