The moral bias behind your search results | Andreas Ekström

Traducător: Cristina Nicolae Corector: Lorena Ciutacu

So whenever I visit a school and talk to students,

Când vizitez o şcoală şi le vorbesc elevilor,

I always ask them the same thing:

le pun această întrebare:

Why do you Google?

De ce daţi căutare pe Google?

Why is Google the search engine of choice for you?

De ce preferaţi Google?

Strangely enough, I always get the same three answers.

Surprinzător, mereu primesc aceleaşi trei răspunsuri:

One, "Because it works,"

Primul: „Pentru că funcţionează.”

which is a great answer; that's why I Google, too.

E un răspuns excelent; de-asta folosesc și eu Google.

Two, somebody will say,

Al doilea, cineva va zice:

"I really don't know of any alternatives."

„Nu știu alternative.”

It's not an equally great answer and my reply to that is usually,

Nu e o variantă la fel de bună, iar răspunsul meu e de obicei:

"Try to Google the word 'search engine,'

„Încearcă ‘motor de căutare’ pe Google,

you may find a couple of interesting alternatives."

poate găseşti câteva alternative interesante.”

And last but not least, thirdly,

Iar a treia variantă de răspuns -

inevitably, one student will raise her or his hand and say,

inevitabil, un elev va ridica mâna şi va zice:

"With Google, I'm certain to always get the best, unbiased search result."

„Cu Google, sunt sigur că voi obţine cel mai bun rezultat imparţial.”

Certain to always get the best, unbiased search result.

Sigur că se obţine cel mai bun rezultat imparţial.

Now, as a man of the humanities,

Ca om al ştiinţelor umane,

albeit a digital humanities man,

deși unul al științelor umane digitale,

that just makes my skin curl,

mă cutremur când aud asta,

even if I, too, realize that that trust, that idea of the unbiased search result

chiar dacă şi eu realizez că încrederea în ideea unei căutări imparţiale

is a cornerstone in our collective love for and appreciation of Google.

stă la baza admiraţiei şi iubirii noastre colective pentru Google.

I will show you why that, philosophically, is almost an impossibility.

Am să vă demonstrez de ce asta este aproape o imposibilitate filosofică.

But let me first elaborate, just a little bit, on a basic principle

Mai întâi, permiteți-mi să vorbesc despre un principiu fundamental

behind each search query that we sometimes seem to forget.

ce stă la baza fiecărei căutări, dar de care uităm adesea.

So whenever you set out to Google something,

Atunci când daţi o căutare pe Google,

start by asking yourself this: "Am I looking for an isolated fact?"

începeţi prin a vă întreba: „Caut un fapt izolat?"

What is the capital of France?

Care este capitala Franţei?

What are the building blocks of a water molecule?

Din ce e alcătuită o moleculă de apă?

Great -- Google away.

Super - căutaţi în voie.

There's not a group of scientists who are this close to proving

Nu există niciun grup de specialişti aproape de a demostra

that it's actually London and H30.

că e vorba, de fapt, depre Londra şi H3O.

You don't see a big conspiracy among those things.

Nu vedem nicio conspiraţie în aceste lucruri.

We agree, on a global scale,

Suntem de acord global

what the answers are to these isolated facts.

cu răspunsurile la aceste fapte izolate.

But if you complicate your question just a little bit and ask something like,

Dar dacă aveţi o întrebare puţin mai complicată precum:

"Why is there an Israeli-Palestine conflict?"

„De ce există un conflict palestino-israelian?”,

You're not exactly looking for a singular fact anymore,

nu mai sunteţi în căutarea unui fapt singular,

you're looking for knowledge,

sunteţi în căutare de cunoştinţe,

which is something way more complicated and delicate.

ceva mult mai complicat şi mai delicat.

And to get to knowledge,

Pentru a ajunge la cunoştinţe,

you have to bring 10 or 20 or 100 facts to the table

trebuie să incluzi 10, 20 sau 100 de fapte în ecuaţie,

and acknowledge them and say, "Yes, these are all true."

să le confirmi şi să spui: „Da, toate astea sunt adevăruri.”

But because of who I am,

Însă datorită identităţii mele,

young or old, black or white, gay or straight,

tânăr sau bătrân, negru sau alb, gay sau hetero,

I will value them differently.

le voi evalua diferit.

And I will say, "Yes, this is true,

Și voi spune: „Da, asta e adevărat,

but this is more important to me than that."

dar acest lucru e mai important decât acela."

And this is where it becomes interesting,

În acea clipă lucrurile devin interesante,

because this is where we become human.

fiindcă atunci devenim umani.

This is when we start to argue, to form society.

Atunci începem să dezbatem, să formăm societatea.

And to really get somewhere, we need to filter all our facts here,

Iar pentru a putea ajunge undeva, trebuie să filtrăm totul aici,

through friends and neighbors and parents and children

prin prieteni şi vecini, părinţi şi copii,

and coworkers and newspapers and magazines,

colegi de muncă, ziare şi reviste,

to finally be grounded in real knowledge,

ca să avem la final o bază reală de cunoaştere,

which is something that a search engine is a poor help to achieve.

un lucru la care motoarele de căutare nu prea ne ajută.

So, I promised you an example just to show you why it's so hard

Deci v-am promis un exemplu pentru a demonstra dificultatea

to get to the point of true, clean, objective knowledge --

de a ajunge la o cunoştere adevărată, curată şi obiectivă -

as food for thought.

luaţi-o ca şi temă de gândire.

I will conduct a couple of simple queries, search queries.

O să efectuez două căutări simple.

We'll start with "Michelle Obama,"

Începem cu „Michelle Obama”,

the First Lady of the United States.

Prima Doamnă a Statelor Unite.

And we'll click for pictures.

Şi o să căutăm imagini.

It works really well, as you can see.

După cum vedeţi, funcţionează foarte bine.

It's a perfect search result, more or less.

E mai mult sau mai puţin un rezultat perfect al căutării.

It's just her in the picture, not even the President.

Nici măcar preşedintele nu apare în imagini, doar ea.

How does this work?

Cum funcţionează asta?

Quite simple.

Destul de simplu.

Google uses a lot of smartness to achieve this, but quite simply,

Google foloseşte multă inteligenţă

pentru a obține asta, dar, în principal,

they look at two things more than anything.

e atent la două lucruri:

First, what does it say in the caption under the picture on each website?

Mai întâi, ce titlu au imaginile de pe fiecare site?

Does it say "Michelle Obama" under the picture?

Scrie „Michelle Obama” sub imagine?

Pretty good indication it's actually her on there.

Acesta ar fi un indiciu bun că e ea în imagine.

Second, Google looks at the picture file,

Apoi, Google se uită la fişierul imagine,

the name of the file as such uploaded to the website.

numele fişierului aşa cum a fost el încărcat pe Internet.

Again, is it called "MichelleObama.jpeg"?

Din nou, se numeşte imaginea „MichelleObama.jpeg”?

Pretty good indication it's not Clint Eastwood in the picture.

Dacă da, cel mai probabil nu e Clint Eastwood în ea.

So, you've got those two and you get a search result like this -- almost.

Deci avem aceste două criterii şi obţinem acest rezultat - aproape.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

În 2009, Michelle Obama a fost victima unei campanii rasiste.

where people set out to insult her through her search results.

Oamenii doreau să o insulte prin rezultatele la căutările numelui ei.

There was a picture distributed widely over the Internet

O anumită imagine s-a răspândit larg pe Internet,

where her face was distorted to look like a monkey.

una în care faţa ei e făcută să semene cu o maimuţă.

And that picture was published all over.

Imaginea a fost publicată peste tot.

And people published it very, very purposefully,

Oamenii o publicau cu intenţia clară de a fi prima

to get it up there in the search results.

la rezultatele de căutare.

They made sure to write "Michelle Obama" in the caption

S-au asigurat să pună titlul “Michelle Obama”

şi să încarce imaginea

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

ca “MichelleObama.jpeg” sau ceva similar.

You get why -- to manipulate the search result.

Aţi înţeles de ce:

să manipuleze rezultatele.

And it worked, too.

Şi a mers.

So when you picture-Googled for "Michelle Obama" in 2009,

Astfel, dacă în 2009 căutaţi “Michelle Obama” pe Google imagini

that distorted monkey picture showed up among the first results.

acea imagine distorsionată apărea printre primele rezultate.

Now, the results are self-cleansing,

Dar, rezultatele căutărilor se auto-corectează,

and that's sort of the beauty of it,

în aceasta constă de fapt frumuseţea lor,

because Google measures relevance every hour, every day.

pentru că Google le măsoară relevanţă în fiecare oră, fiecare zi.

However, Google didn't settle for that this time,

În acest caz însă, Google nu s-a mulţumit doar cu atât.

they just thought, "That's racist and it's a bad search result

A zis: “Asta e rasism şi un rezultat de căutare prost.

and we're going to go back and clean that up manually.

O să curăţăm rezultatele manual.

We are going to write some code and fix it,"

O să codăm ceva şi o să rezolvăm problema.

which they did.

Şi au reuşit.

And I don't think anyone in this room thinks that was a bad idea.

Nu cred că se afla cineva aici care să creadă că a fost o idee rea.

Me neither.

Nici eu nu cred.

But then, a couple of years go by,

Însă după doi ani,

and the world's most-Googled Anders,

cel mai căutat Anders de pe Google,

Anders Behring Breivik,

anume Anders Behring Breivik,

did what he did.

a făcut ce a făcut.

This is July 22 in 2011,

E 22 iulie 2011,

and a terrible day in Norwegian history.

o zi înfiorătoare în istoria Norvegiei.

This man, a terrorist, blew up a couple of government buildings

Acest individ, un terorist, a atacat două clădiri guvernamentale

walking distance from where we are right now in Oslo, Norway

aproape de locul unde ne aflăm acum în Oslo, Norvegia

and then he traveled to the island of Utøya

Apoi a călătorit în insula Utøya

and shot and killed a group of kids.

unde a împuşcat mortal un grup de copii.

Almost 80 people died that day.

Aproape 80 de persoane au murit atunci.

And a lot of people would describe this act of terror as two steps,

Mulţi ar zice ca actul terorist a avut două etape,

that he did two things: he blew up the buildings and he shot those kids.

că teroristul a comis două fapte: a detonat clădirile şi a ucis copiii.

It's not true.

Nu este adevărat.

It was three steps.

Au fost trei etape.

He blew up those buildings, he shot those kids,

A detonat clădirile, a împușcat acei copii

and he sat down and waited for the world to Google him.

apoi a stat şi a aşteptat ca lumea să îl caute pe Google.

And he prepared all three steps equally well.

A pregătit toţi cei trei paşi la fel de atent.

And if there was somebody who immediately understood this,

Cineva a înţeles imediat acest lucru,

un dezvoltator web suedez, un expert

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

în optimizarea motoarelor de căutare

din Stockholm, pe nume Nikke Lindqvist.

He's also a very political guy

El este şi activ politic,

and he was right out there in social media, on his blog and Facebook.

prezent pe reţele de socializare, pe blogul lui şi pe Facebook.

And he told everybody,

A spus tuturor:

"If there's something that this guy wants right now,

“Ceea ce îşi doreşte acest om cel mai mult acum

it's to control the image of himself.

este să îşi controleze imaginea publică.

Let's see if we can distort that.

Să vedem dacă reuşim să încurcăm asta,

Let's see if we, in the civilized world, can protest against what he did

dacă noi, lumea civilizată, reuşim să protestăm împotriva a ceea ce a făcut

through insulting him in his search results."

prin a-l insulta în rezultatele lui de căutare.

And how?

Dar cum?

He told all of his readers the following,

Le-a spus cititorilor lui următoarele:

"Go out there on the Internet,

Intraţi pe internet,

find pictures of dog poop on sidewalks --

şi găsiţi imagini cu excremente de câine pe trotuar,

find pictures of dog poop on sidewalks --

publish them in your feeds, on your websites, on your blogs.

publicaţi-le în postările, blogurile şi site-urile voastre.

Make sure to write the terrorist's name in the caption,

Asiguraţi-vă să scrieţi numele teroristului în titlu,

make sure to name the picture file "Breivik.jpeg."

asiguraţi-vă să denumiţi fişierul “Breivik.jpeg.”

Let's teach Google that that's the face of the terrorist."

Haideţi să-l învăţăm pe Google că aceasta e faţa unui terorist.

And it worked.

Şi a funcţionat.

Two years after that campaign against Michelle Obama,

La doi ani după campania împotriva lui Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

campania de manipulare împotriva lui Anders Breivik a funcţionat.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Câteva săptămâni după incidentul din 22 iulie, căutarea imaginii lui

you'd see that picture of dog poop high up in the search results,

dădea în fruntea rezultatelor imagini cu excremente de câine,

as a little protest.

în semn de protest.

Strangely enough, Google didn't intervene this time.

Straniu, de această dată Google nu a intervenit.

They did not step in and manually clean those search results up.

Nu au acţionat să cureţe manual acele rezultate de căutare.

So the million-dollar question,

Deci întrebarea fundamentală:

is there anything different between these two happenings here?

Există vreo diferenţă între cele două campanii prezentate?

Is there anything different between what happened to Michelle Obama

Există vreo diferenţă între ce a păţit Michelle Obama şi Anders Breivik?

and what happened to Anders Behring Breivik?

Of course not.

Desigur că nu.

It's the exact same thing,

Este exact aceeaşi situaţie

yet Google intervened in one case and not in the other.

Dar Google a intervenit

într-un caz, nu şi în celălalt.

Why?

De ce?

Because Michelle Obama is an honorable person, that's why,

Pentru că Michelle Obama este o persoană onorabilă,

and Anders Behring Breivik is a despicable person.

iar Anders Behring Breivik este demn de dispreţ.

See what happens there?

Înţelegeţi ce se întâmplă?

An evaluation of a person takes place

Are loc o evaluare a persoanei,

and there's only one power-player in the world

şi există un singur actor de putere în lume autorizat să facă asta,

with the authority to say who's who.

să decidă:

“Ne place de tine, nu ne place de tine.

"We like you, we dislike you.

We believe in you, we don't believe in you.

Credem în tine, dar nu în tine.

You're right, you're wrong. You're true, you're false.

Tu ai dreptate, tu nu.

Tu ești adevat, tu fals.

Tu eşti Obama, tu eşti Breivik.

You're Obama, and you're Breivik."

That's power if I ever saw it.

Asta da putere.

So I'm asking you to remember that behind every algorithm

Așadar vă îndemn să ţineti cont că în spatele fiecărui algoritm

is always a person,

se află o persoană,

a person with a set of personal beliefs

cineva cu un set de valori personale

that no code can ever completely eradicate.

pe care nici un cod nu îl poate elimina complet.

And my message goes out not only to Google,

Mesajul meu nu este îndreptat nu doar către Google,

but to all believers in the faith of code around the world.

ci către toţi cei cred în soarta codurilor.

You need to identify your own personal bias.

Trebuie să vă identificaţii propriile voastre prejudecăţi

You need to understand that you are human

trebuie să înţelegeţi că sunteţi oameni

and take responsibility accordingly.

şi să vă asumaţi responsabilitatea corespunzător.

And I say this because I believe we've reached a point in time

Şi spun asta fiindcă cred că am ajuns într-o etapă în care

when it's absolutely imperative

este absolut imperativ

that we tie those bonds together again, tighter:

să înnodăm din nou mai strâns acea legătură

the humanities and the technology.

dintre ştiinţele umane şi tehnologie,

Tighter than ever.

mai strâns ca niciodată.

And, if nothing else, to remind us that that wonderfully seductive idea

Măcar ca să ne amintească că acea idee atât de atrăgătoare

of the unbiased, clean search result

a unui rezultat de căutare imparţial, curat

is, and is likely to remain, a myth.

este, şi probabil va rămâne, un mit.

Thank you for your time.

Vă mulţumesc pentru timpul acordat.

(Applause)

(Aplauze)