We're building a dystopia just to make people click on ads | Zeynep Tufekci

Translator: Antoni Rafel Rotger Prats Reviewer: Anna Comas-Quinn

So when people voice fears of artificial intelligence,

Quant la gent parla de la por a la intel·ligència artificial,

very often, they invoke images of humanoid robots run amok.

molt sovint imaginen robots humanoides fora de control.

You know? Terminator?

Us sona Terminator?

You know, that might be something to consider,

Això s'hauria de tenir en consideraciò,

but that's a distant threat.

però és una amenaça remota.

Or, we fret about digital surveillance

O ens preocupem per la vigilància digital

with metaphors from the past.

amb metàfores del passat.

"1984," George Orwell's "1984,"

"1984", el "1984" de George Orwell,

it's hitting the bestseller lists again.

està tornant a les llistes dels més venuts.

It's a great book,

És un llibre genial,

but it's not the correct dystopia for the 21st century.

però no és la distòpia correcta pel segle XXI.

What we need to fear most

El que hem de témer més

is not what artificial intelligence will do to us on its own,

no és el que la intel·ligència artificial ens farà per si sola,

but how the people in power will use artificial intelligence

sinó com la gent poderosa emprarà la intel·ligència artificial

to control us and to manipulate us

per a controlar-nos i manipular-nos

in novel, sometimes hidden,

en nous, a vegades ocults,

subtle and unexpected ways.

subtils i inesperats mitjans.

Much of the technology

Molta de la tecnologia

that threatens our freedom and our dignity in the near-term future

que amenaça la nostra llibertat i la nostra dignitat en un futur proper

is being developed by companies

està sent desenvolupada per companyies

in the business of capturing and selling our data and our attention

encarregades de recopilar i vendre la nostra informació i la nostra atenció

to advertisers and others:

als anunciants i altres:

Facebook, Google, Amazon,

Facebook, Google, Amazon,

Alibaba, Tencent.

Alibaba, Tencent.

Now, artificial intelligence has started bolstering their business as well.

La indústria d'intel·ligència artificial també ha començat a reforçar-se.

And it may seem like artificial intelligence

Pot semblar que la intel·ligència artificial

is just the next thing after online ads.

vindrà just després dels anuncis en línea.

It's not.

No serà així.

It's a jump in category.

És d'un tipus diferent.

It's a whole different world,

És un món ben distint,

and it has great potential.

i té un gran potencial.

It could accelerate our understanding of many areas of study and research.

Podria accelerar el nostre coneixement sobre moltes àrees d'estudi i recerca.

But to paraphrase a famous Hollywood philosopher,

Però, parafrasejant un famós filòsof de Hollywood,

"With prodigious potential comes prodigious risk."

"Un potencial prodigiós porta un risc prodigiós."

Now let's look at a basic fact of our digital lives, online ads.

Considerem un fet bàsic de les nostres vides digitals, els anuncis en línea.

Right? We kind of dismiss them.

No els donem importància.

They seem crude, ineffective.

Semblen bàsics, poc efectius.

We've all had the experience of being followed on the web

Tots hem tingut l'experiència de ser seguits per la web

by an ad based on something we searched or read.

per anuncis basats en quelcom que buscàrem o llegírem.

You know, you look up a pair of boots

Cerques unes botes

and for a week, those boots are following you around everywhere you go.

i durant una setmana les botes et segueixen per tot arreu.

Even after you succumb and buy them, they're still following you around.

Fins i tot després de sucumbir i comprar-les, encara et segueixen.

We're kind of inured to that kind of basic, cheap manipulation.

Estem acostumats a aquesta manipulació bàsica i barata.

We roll our eyes and we think, "You know what? These things don't work."

Ens resignem i pensem, "Saps què? Aquestes coses no funcionen."

Except, online,

Encara que, en línea,

the digital technologies are not just ads.

la tecnologia digital no només són anuncis.

Now, to understand that, let's think of a physical world example.

Per entendre-ho pensem en un exemple del món físic.

You know how, at the checkout counters at supermarkets, near the cashier,

Sabeu que en els estants dels supermercats, devora el caixer,

there's candy and gum at the eye level of kids?

hi ha dolços i xiclets a l'alçada visual dels nens?

That's designed to make them whine at their parents

Està pensat per a que demanin als pares

just as the parents are about to sort of check out.

just quan els pares estàn acabant de pagar.

Now, that's a persuasion architecture.

Això és una arquitectura de persuasió.

It's not nice, but it kind of works.

No és agradable, però funciona.

That's why you see it in every supermarket.

Per això la veus en tots els supermercats.

Now, in the physical world,

En el món físic,

such persuasion architectures are kind of limited,

aquestes arquitectures persuasives són limitades,

because you can only put so many things by the cashier. Right?

perquè només pots posar un nombre limitat de coses al costat del caixer, no?

And the candy and gum, it's the same for everyone,

I els dolços i els xiclets són iguals per a tothom,

even though it mostly works

encara que sol funcionar

only for people who have whiny little humans beside them.

només per persones amb humans petits i consentits al seu costat.

In the physical world, we live with those limitations.

En el món físic, vivim amb aquestes limitacions.

In the digital world, though,

En el món digital, en canvi,

persuasion architectures can be built at the scale of billions

les arquitectures persuasives es construeixen en magnituts de bilions

and they can target, infer, understand

i poden abordar, deduir, entendre

and be deployed at individuals

i ser usades amb individus

one by one

un per un

by figuring out your weaknesses,

descobrint les teves debilitats,

and they can be sent to everyone's phone private screen,

i es poden enviar a la pantalla privada de qualsevol mòbil,

so it's not visible to us.

així no és visible per nosaltres.

And that's different.

I això és diferent.

And that's just one of the basic things that artificial intelligence can do.

Aquesta és una de les coses bàsiques que la intel·ligència artificial fa.

Now, let's take an example.

Analitzem un exemple.

Let's say you want to sell plane tickets to Vegas. Right?

Imaginem que vols vendre bitllets d'avió a Las Vegas.

So in the old world, you could think of some demographics to target

En el món antic, podies pensar alguns sectors demogràfics que abordar

based on experience and what you can guess.

basats en l'experiència i en el que pots adivinar.

You might try to advertise to, oh,

Podies intentar crear anuncis per a

men between the ages of 25 and 35,

homes entre els 25 i 35 anys,

or people who have a high limit on their credit card,

o gent que té un límit alt a la targeta de crèdit,

or retired couples. Right?

o parelles retirades, no?

That's what you would do in the past.

Això és el que es feia en el passat.

With big data and machine learning,

Amb les dades massives i l'aprenentatge automàtic,

that's not how it works anymore.

ja no funciona així.

So to imagine that,

Així que imagineu-ho,

think of all the data that Facebook has on you:

penseu en tota la informació que Facebook té de tu:

every status update you ever typed,

cada actualització de l'estat que hagis teclejat,

every Messenger conversation,

cada conversació per Messenger,

every place you logged in from,

cada lloc des d'on hagis accedit,

all your photographs that you uploaded there.

totes les fotografies que hi hagis pujat.

If you start typing something and change your mind and delete it,

Si comences a escriure alguna cosa i canvies d'opinió i ho esborres,

Facebook keeps those and analyzes them, too.

Facebook ho guarda i també ho analitza.

Increasingly, it tries to match you with your offline data.

Cada cop més, intenta relacionar-te amb la teva informació fora de línea.

It also purchases a lot of data from data brokers.

També compra molta informació dels recol·lectors d'informació.

It could be everything from your financial records

Podria ser qualsevol cosa des del teu historial financer

to a good chunk of your browsing history.

fins a l'historial de navegació.

Right? In the US, such data is routinely collected,

Als Estats Units aquesta informació és recopilada rutinàriament,

collated and sold.

ordenada i venuda.

In Europe, they have tougher rules.

A Europa tenen lleis més estrictes.

So what happens then is,

Així que el que passa és que,

by churning through all that data, these machine-learning algorithms --

recercant entre tota la informació, els algoritmes d'aprenentatge automàtic --

that's why they're called learning algorithms --

per això es diuen algoritmes d'aprenentatge --

they learn to understand the characteristics of people

aprenen a entendre les característiques de la gent

who purchased tickets to Vegas before.

que va comprar bitllets a Las Vegas anteriorment.

When they learn this from existing data,

Quan ho aprenen de la informació existent,

they also learn how to apply this to new people.

també aprenen a aplicar-ho a gent nova.

So if they're presented with a new person,

Així que si es troben amb una persona nova,

they can classify whether that person is likely to buy a ticket to Vegas or not.

poden deduir si és probable que aquella persona compri bitllets a Las Vegas o no.

Fine. You're thinking, an offer to buy tickets to Vegas.

Molt bé. Esteu pensant: "una oferta per comprar bitllets a Las Vegas,

I can ignore that.

la puc ignorar".

But the problem isn't that.

Però aquest no és el problema.

The problem is,

El problema és,

we no longer really understand how these complex algorithms work.

que ja no acabem d'entendre com funcionen aquests algoritmes tan complexes.

We don't understand how they're doing this categorization.

No entenem com realitzen aquesta categorització.

It's giant matrices, thousands of rows and columns,

Són matrius gegants, milers de files i columnes,

maybe millions of rows and columns,

potser milions de files i columnes,

and not the programmers

i ni els programadors

and not anybody who looks at it,

ni algú que ho observi,

even if you have all the data,

ni si tinguessiu la informació

understands anymore how exactly it's operating

podríeu entendre com funciona exactament,

any more than you'd know what I was thinking right now

no més que el que podrieu saber del que ara estic pensant

if you were shown a cross section of my brain.

si us mostrassin una secció representativa del meu cervell.

It's like we're not programming anymore,

És com si ja no programàssim,

we're growing intelligence that we don't truly understand.

estem creant intel·ligència que ja no acabem d'entendre.

And these things only work if there's an enormous amount of data,

I aquestes coses només funcionen si hi ha una enorme quantitat d'informació,

so they also encourage deep surveillance on all of us

així que també motiven que ens vigilin a tots minuciosament,

so that the machine learning algorithms can work.

perquè els algoritmes automàtics funcionin.

That's why Facebook wants to collect all the data it can about you.

Per això Facebook vol recopilar tota la informació que pugui.

The algorithms work better.

Els algoritmes funcionen millor.

So let's push that Vegas example a bit.

Exprimim l'exemple de Las Vegas una mica.

What if the system that we do not understand

I si el sistema que no entenem

was picking up that it's easier to sell Vegas tickets

descobrís que és més fàcil vendre bitllets a Las Vegas

to people who are bipolar and about to enter the manic phase.

a gent bipolar i a punt d'entrar en fase de mania?

Such people tend to become overspenders, compulsive gamblers.

Aquesta gent tendeix a tornar-se malgastadora, jugadors compulsius.

They could do this, and you'd have no clue that's what they were picking up on.

Ho podrien fer, i no tindries ni idea que s'estan basant en això.

I gave this example to a bunch of computer scientists once

Una vegada vaig posar aquest exemple a un grup d'informàtics

and afterwards, one of them came up to me.

i després un d'ells va apropar-se.

He was troubled and he said, "That's why I couldn't publish it."

Estava preocupat i va dir: "Per això no ho podia publicar."

I was like, "Couldn't publish what?"

Jo vaig dir: "Publicar el què?"

He had tried to see whether you can indeed figure out the onset of mania

Havia intentat veure si es pot descobrir l'inici de la mania

from social media posts before clinical symptoms,

amb publicacions a la xarxa abans que amb símptomes clínics,

and it had worked,

i havia funcionat,

and it had worked very well,

havia funcionat molt bé,

and he had no idea how it worked or what it was picking up on.

i no tenia ni idea de com funcionava o en què es fixaven.

Now, the problem isn't solved if he doesn't publish it,

El problema no es solucionarà encara que no ho publiqui,

because there are already companies

perquè ja hi ha companyies

that are developing this kind of technology,

que ja estàn desenvolupant aquest tipus de tecnologia,

and a lot of the stuff is just off the shelf.

i moltes coses són per a un ús general.

This is not very difficult anymore.

Això ja no és tan difícil.

Do you ever go on YouTube meaning to watch one video

Alguna vegada entres a YouTube a mirar un vídeo

and an hour later you've watched 27?

i després d'una hora n'has mirat 27?

You know how YouTube has this column on the right

Saps que YouTube té la columna a la dreta

that says, "Up next"

que diu: "Següent"

and it autoplays something?

i reprodueix quelcom automàticament?

It's an algorithm

És un algoritme

picking what it thinks that you might be interested in

elegint el que creu que et pot interessar

and maybe not find on your own.

i potser no trobis tu mateix.

It's not a human editor.

No és un editor humà.

It's what algorithms do.

És el que fan el algoritmes.

It picks up on what you have watched and what people like you have watched,

Es fixa en el que has mirat i el que la gent com tu ha mirat,

and infers that that must be what you're interested in,

i dedueix que allò deu ser el que t'interessa,

what you want more of,

que en vols més,

and just shows you more.

i simplement te'n posa més.

It sounds like a benign and useful feature,

Sembla una característica benigna i útil,

except when it isn't.

excepte quan no ho és.

So in 2016, I attended rallies of then-candidate Donald Trump

El 2016 vaig anar a mítings del candidat Donald Trump

to study as a scholar the movement supporting him.

a estudiar acadèmicament el moviment de suport.

I study social movements, so I was studying it, too.

Estudio moviments socials, així que també ho vaig estudiar.

And then I wanted to write something about one of his rallies,

I després vaig voler escriure alguna cosa sobre un dels seus mítings,

so I watched it a few times on YouTube.

i el vaig mirar alguns cops per YouTube.

YouTube started recommending to me

YouTube em va començar a recomanar

and autoplaying to me white supremacist videos

i a reproduir vídeos de supremacia blanca

in increasing order of extremism.

en un ordre progressiu d'extremisme.

If I watched one,

Si en mirava un,

it served up one even more extreme

me'n mostrava un d'encara més extrem

and autoplayed that one, too.

i també me'l reproduïa.

If you watch Hillary Clinton or Bernie Sanders content,

Si mires continguts de Hillary Clinton o Bernie Sanders,

YouTube recommends and autoplays conspiracy left,

YouTube et recomana i reprodueix conspiració d'esquerres,

and it goes downhill from there.

i des d'allà empitjora.

Well, you might be thinking, this is politics, but it's not.

Podríeu pensar que això és política, però no ho és.

This isn't about politics.

No es tracta de política.

This is just the algorithm figuring out human behavior.

És l'algoritme desxifrant el comportament humà.

I once watched a video about vegetarianism on YouTube

Una vegada vaig mirar un vídeo sobre vegetarianisme al YouTube

and YouTube recommended and autoplayed a video about being vegan.

i YouTube em va recomanar i reproduir un vídeo sobre ser vegà.

It's like you're never hardcore enough for YouTube.

És com si per YouTube mai fossis suficientment radical.

(Laughter)

(Rialles)

So what's going on?

Què està passant, doncs?

Now, YouTube's algorithm is proprietary,

L'algoritme de YouTube està patentat,

but here's what I think is going on.

però us diré el que crec que està passant.

The algorithm has figured out

L'algoritme ha descobert

that if you can entice people

que si pots convèncer a la gent

into thinking that you can show them something more hardcore,

que els pots mostrar coses més radicals,

they're more likely to stay on the site

és més probable que romanguin a la web

watching video after video going down that rabbit hole

mirant vídeo rere vídeo caiguent pel forat del conill

while Google serves them ads.

mentre Google els envia anuncis.

Now, with nobody minding the ethics of the store,

Com no hi ha ningú que es preocupi per l'ètica del lloc,

these sites can profile people

aquestes pàgines poden crear perfils de persones

who are Jew haters,

que odien als jueus,

who think that Jews are parasites

que pensen que els jueus són paràsits

and who have such explicit anti-Semitic content,

i que tenen un contingut explícitament antisemita,

and let you target them with ads.

i et deixen atacar-los amb anuncis.

They can also mobilize algorithms

També poden mobilitzar algoritmes

to find for you look-alike audiences,

per trobar-te audiències similars,

people who do not have such explicit anti-Semitic content on their profile

gent que no té contingut antisemita tan explícit en el seu perfil

but who the algorithm detects may be susceptible to such messages,

però que l'algoritme pensa que poden ser susceptibles a aquest tipus de missatges,

and lets you target them with ads, too.

així que també ataquem-los amb anuncis.

Now, this may sound like an implausible example,

Això pot semblar un exemple poc probable,

but this is real.

però és real.

ProPublica investigated this

ProPublica ho va investigar

and found that you can indeed do this on Facebook,

i va descobrir que pots fer això a Facebook,

and Facebook helpfully offered up suggestions

i Facebook t'ofereix de bona voluntat suggerències

on how to broaden that audience.

de com augmentar aquest públic.

BuzzFeed tried it for Google, and very quickly they found,

BuzzFeed ho intentà amb Google, i tot d'una varen veure,

yep, you can do it on Google, too.

que sí, també es pot fer amb Google.

And it wasn't even expensive.

Ni tan sols fou car.

The ProPublica reporter spent about 30 dollars

El reporter de ProPublica va gastar uns 30 dòlars

to target this category.

per abordar aquesta categoria.

So last year, Donald Trump's social media manager disclosed

L'any passat, el director de xarxes socials de Donald Trump va revelar

that they were using Facebook dark posts to demobilize people,

que empraven publicacions amagades de Facebook per desmobilitzar a la gent,

not to persuade them,

no per persuadir-los,

but to convince them not to vote at all.

sinó pero convencer-los que no votessin.

And to do that, they targeted specifically,

I per fer-ho, abordaven específicament,

for example, African-American men in key cities like Philadelphia,

per exemple, homes afroamericans en ciutats importants com Filadèlfia,

and I'm going to read exactly what he said.

i llegiré exactament el que va dir.

I'm quoting.

Estic citant.

They were using "nonpublic posts

Usaven "publicacions privades

whose viewership the campaign controls

l'audiència de les quals la campanya controla

so that only the people we want to see it see it.

perquè només la gent que volem que ho vegi, ho vegi.

We modeled this.

Ho vam modelar.

It will dramatically affect her ability to turn these people out."

Afectarà dràsticament la seva habilitat perquè participi aquesta gent."

What's in those dark posts?

Què hi ha en aquestes publicacions amagades?

We have no idea.

No en tenim ni idea.

Facebook won't tell us.

Facebook no ens ho diu.

So Facebook also algorithmically arranges the posts

Facebook també organitza algorítmicament les publicacions

that your friends put on Facebook, or the pages you follow.

que els teus amics posen a Facebook, o de les pàgines que segueixes.

It doesn't show you everything chronologically.

No t'ho mostra tot cronològicament.

It puts the order in the way that the algorithm thinks will entice you

Ordena la manera en que l'algoritme creu que et pot convèncer

to stay on the site longer.

per quedar-te a la pàgina més temps.

Now, so this has a lot of consequences.

Això té moltes consequències.

You may be thinking somebody is snubbing you on Facebook.

Podeu pensar que algú us està ignorant a Facebook.

The algorithm may never be showing your post to them.

L'algoritme podria no mostrar-los mai la teva publicació.

The algorithm is prioritizing some of them and burying the others.

L'algoritme en prioritza algunes i n'amaga d'altres.

Experiments show

Els experiments mostren

that what the algorithm picks to show you can affect your emotions.

que el que l'algoritme elegeix mostrar-te pot afectar les teves emocions.

But that's not all.

Però això no és tot.

It also affects political behavior.

També afecta el comportament polític.

So in 2010, in the midterm elections,

El 2010, en les eleccions parcials,

Facebook did an experiment on 61 million people in the US

Facebook va fer un experiment a 61 milions de persones al Estats Units

that was disclosed after the fact.

que es va revelar després.

So some people were shown, "Today is election day,"

A algunes persones els van mostrar: "Avui són les eleccions,"

the simpler one,

el més simple,

and some people were shown the one with that tiny tweak

i a alguns els en van mostrar un amb la lleugera modificació

with those little thumbnails

de les imatges en miniatura

of your friends who clicked on "I voted."

dels teus amics que clicaren a "He votat".

This simple tweak.

Una simple modificació.

OK? So the pictures were the only change,

D'acord? Les imatges foren l'únic canvi,

and that post shown just once

i la publicació mostrada només un cop

turned out an additional 340,000 voters

va fer participar 340.000 votants més

in that election,

en aquelles eleccions,

according to this research

d'acord amb aquesta investigació

as confirmed by the voter rolls.

i confirmat per les llistes de votants.

A fluke? No.

Casualitat? No.

Because in 2012, they repeated the same experiment.

Perquè el 2012, repetiren el mateix experiment.

And that time,

I aquella vegada,

that civic message shown just once

aquell missatge cívic mostrat només una vegada

turned out an additional 270,000 voters.

va fer participar 270.000 votants més.

For reference, the 2016 US presidential election

Per tenir una referència, les eleccions presidencials als Estats Units de 2016

was decided by about 100,000 votes.

es varen decidir per uns 100.000 vots.

Now, Facebook can also very easily infer what your politics are,

Facebook també pot deduir fàcilment la teva orientació política,

even if you've never disclosed them on the site.

encara que mai l'hagis revelat a la pàgina.

Right? These algorithms can do that quite easily.

Aquests algoritmes ho poden fer fàcilment.

What if a platform with that kind of power

I si una plataforma amb aquest tipus de poder

decides to turn out supporters of one candidate over the other?

decideix que participin més seguidors d'un candidat que de l'altre?

How would we even know about it?

Com ens n'assebentaríem?

Now, we started from someplace seemingly innocuous --

Hem començat des d'un lloc aparentment innocu --

online adds following us around --

anuncis online que ens segueixen arreu --

and we've landed someplace else.

i hem acabat en un lloc diferent.

As a public and as citizens,

Com a públic i com a ciutadans,

we no longer know if we're seeing the same information

ja no sabem si estem veient la mateixa informació

or what anybody else is seeing,

o el que algú altre està veient,

and without a common basis of information,

i sense una base d'informació comuna,

little by little,

a poc a poc,

public debate is becoming impossible,

el debat públic s'està tornant impossible,

and we're just at the beginning stages of this.

i això són només les fases inicials de tot això.

These algorithms can quite easily infer

Aquests algoritmes poden deduir fàcilment

things like your people's ethnicity,

coses com l'etnicitat de la gent,

religious and political views, personality traits,

orientació religiosa i política, trets personals,

intelligence, happiness, use of addictive substances,

intel·ligència, felicitat, ús de substàncies addictives,

parental separation, age and genders,

separació parental, edat i gènere,

just from Facebook likes.

només pels "m'agrada" a Facebook.

These algorithms can identify protesters

Aquests algoritmes poden identificar els manifestants

even if their faces are partially concealed.

encara que les seves cares estiguin parcialment cobertes.

These algorithms may be able to detect people's sexual orientation

Aquests algoritmes podrien ser capaços de detectar l'orientació sexual de la gent

just from their dating profile pictures.

només per la foto de perfil de les seves cites.

Now, these are probabilistic guesses,

Això són només suposicions probables,

so they're not going to be 100 percent right,

així que no seran 100% correctes,

but I don't see the powerful resisting the temptation to use these technologies

però no m'imagino als poderosos resistint la temptació d'usar aquestes tecnologies

just because there are some false positives,

només perquè hi ha alguns falsos positius,

which will of course create a whole other layer of problems.

que és clar que afegiran una altra capa als problemes.

Imagine what a state can do

Imagina el que un estat pot fer

with the immense amount of data it has on its citizens.

amb la quantitat d'informació que té dels ciutadans.

China is already using face detection technology

La Xina ja està usant tecnologia de detecció facial

to identify and arrest people.

per a identificar i arrestar persones.

And here's the tragedy:

I aquí ve la tragèdia:

we're building this infrastructure of surveillance authoritarianism

estem construint aquesta infraestructura de vigilància autoritària

merely to get people to click on ads.

merament per fer que la gent cliqui anuncis.

And this won't be Orwell's authoritarianism.

I això no serà l'autoritarisme d'Orwell.

This isn't "1984."

AIxò no és "1984".

Now, if authoritarianism is using overt fear to terrorize us,

Si l'autoritarisme empra obertament la por per espantar-nos,

we'll all be scared, but we'll know it,

ens espantarem, però ho sabrem,

we'll hate it and we'll resist it.

ho odiarem i ens resistirem.

But if the people in power are using these algorithms

Però si la gent en el poder empra aquests algoritmes

to quietly watch us,

per observar-nos en silenci,

to judge us and to nudge us,

per jutjat-nos i influir-nos,

to predict and identify the troublemakers and the rebels,

per a predir i identificar els problemàtics i els rebels,

to deploy persuasion architectures at scale

per aplicar arquitectures de persuassió a escala

and to manipulate individuals one by one

i manipular els individus un a un

using their personal, individual weaknesses and vulnerabilities,

emprant les seves debilitats i vulnerabilitats personals i individuals,

and if they're doing it at scale

i si ho fan a escala

through our private screens

a través de les pantalles privades

so that we don't even know

perqué ni tan sols sapiguem

what our fellow citizens and neighbors are seeing,

el que els nostres conciutadans i veïns estan veient,

that authoritarianism will envelop us like a spider's web

aquest autoritarisme ens envoltarà com una teranyina

and we may not even know we're in it.

i potser no sabrem que estem a dins.

So Facebook's market capitalization

Per això la capitalització de mercat per part de Facebook

is approaching half a trillion dollars.

s'acosta al trilió i mig de dòlars.

It's because it works great as a persuasion architecture.

Es deu a que funciona de meravella com a arquitectura persuasiva.

But the structure of that architecture

Però l'estructura d'aquesta arquitectura

is the same whether you're selling shoes

és la mateix estiguis venent sabates

or whether you're selling politics.

o venent política.

The algorithms do not know the difference.

Els algoritmes no saben la diferència.

The same algorithms set loose upon us

Els mateixos algoritmes que ens apliquen

to make us more pliable for ads

per fer-nos més manipulables per part dels anuncis

are also organizing our political, personal and social information flows,

també organitzen els nostres fluxes d'informació política, personal i social,

and that's what's got to change.

i això és el que ha de canviar.

Now, don't get me wrong,

No em malinterpreteu,

we use digital platforms because they provide us with great value.

empram plataformes digitals perquè ens aporten molt.

I use Facebook to keep in touch with friends and family around the world.

Jo faig servir Facebook per contactar amb amics i família arreu del món.

I've written about how crucial social media is for social movements.

He escrit sobre l'enorme pes de les xarxes socials en els moviments socials.

I have studied how these technologies can be used

He estudiat com aquestes tecnologies es podem emprar

to circumvent censorship around the world.

per evitar la censura arreu del món.

But it's not that the people who run, you know, Facebook or Google

Però no és que els directors de Facebook o Google

are maliciously and deliberately trying

estiguin intentant maliciosament i deliberadament

to make the country or the world more polarized

fer el país o el món més polaritzat

and encourage extremism.

i animar l'extremisme.

I read the many well-intentioned statements

Vaig llegir moltes declaracions ben intencionades

that these people put out.

que aquesta gent va fer.

But it's not the intent or the statements people in technology make that matter,

Però no són la intenció o les declaracions de la gent a la tecnologia el que importa,

it's the structures and business models they're building.

són les estructures i els models de negoci que estan construint.

And that's the core of the problem.

I això és el nucli del problema.

Either Facebook is a giant con of half a trillion dollars

O Facebook és una estafa gegant d'un trilió i mig de dòlars

and ads don't work on the site,

i els anuncis no funcionen a la pàgina,

it doesn't work as a persuasion architecture,

i no funciona com a estructura persuasiva,

or its power of influence is of great concern.

o el seu poder d'influència ens hauria de preocupar.

It's either one or the other.

És una o l'altra.

It's similar for Google, too.

És similar en el cas de Google.

So what can we do?

Què podem fer?

This needs to change.

Això ha de canviar.

Now, I can't offer a simple recipe,

No puc oferir una recepta única,

because we need to restructure

perquè necessitem reestructurar

the whole way our digital technology operates.

per complet la manera com la tecnologia digital opera.

Everything from the way technology is developed

Des de la manera com la tecnologia es desenvolupa

to the way the incentives, economic and otherwise,

fins a la manera com els incentius, tant econòmics com d'altres,

are built into the system.

s'encaixen en el sistema.

We have to face and try to deal with

Ho hem d'afrontar i intentar lidiar amb

the lack of transparency created by the proprietary algorithms,

la manca de transparència creada pels algoritmes patentats,

the structural challenge of machine learning's opacity,

el repte estructural de l'opacitat de l'aprenentatge automàtic,

all this indiscriminate data that's being collected about us.

tota aquesta informació indiscriminada que estan recollint.

We have a big task in front of us.

Tenim una gran tasca al davant.

We have to mobilize our technology,

Hem de mobilitzar la nostra tecnologia,

our creativity

la nostra creativitat

and yes, our politics

i sí, la nostra política

so that we can build artificial intelligence

per a que puguem construir intel·ligència artificial

that supports us in our human goals

que ens ajudi amb els objectius humans

but that is also constrained by our human values.

però que estigui restringida pels nostres valors humans.

And I understand this won't be easy.

I entenc que això no serà fàcil.

We might not even easily agree on what those terms mean.

Potser ni tan sols ens posarem d'acord amb facilitat sobre aquest termes.

But if we take seriously

Però si ens prenem seriosament

how these systems that we depend on for so much operate,

com aquests sistemes, dels que depenem tant, funcionen

I don't see how we can postpone this conversation anymore.

no veig com podem seguir posposant aquesta conversació.

These structures

Aquestes estructures

are organizing how we function

estan organitzant com funcionem

and they're controlling

i estan controlant

what we can and we cannot do.

el que podem i no podem fer.

And many of these ad-financed platforms,

I moltes plataformes finançades per anuncis,

they boast that they're free.

presumeixen de que són lliures.

In this context, it means that we are the product that's being sold.

En aquest context significa que nosaltres som el producte que s'està venent.

We need a digital economy

Necessitem una economia digital

where our data and our attention

on la nostra informació i la nostra atenció

is not for sale to the highest-bidding authoritarian or demagogue.

no sigui venuda a l'autoritari o al demagog que aposti més fort.

(Applause)

(Aplaudiments)

So to go back to that Hollywood paraphrase,

Així que per tornar a la paràfrasi de Hollywood,

we do want the prodigious potential

sí que volem un potencial prodigiós

of artificial intelligence and digital technology to blossom,

d'intel·ligència artificial i tecnologia que floreixi,

but for that, we must face this prodigious menace,

però per això, hem de fer front a aquesta amenaça prodigiosa,

open-eyed and now.

amb els ulls oberts i ara.

Thank you.

Gràcies.

(Applause)

(Aplaudiments)