The moral bias behind your search results | Andreas Ekström

Translator: Sintija Jakubovska Reviewer: Ilze Garda

So whenever I visit a school and talk to students,

Ikreiz, apmeklējot kādu skolu un runājot ar skolēniem,

I always ask them the same thing:

es vienmēr uzdodu to pašu jautājumu –

Why do you Google?

kāpēc jūs izmantojat Google?

Why is Google the search engine of choice for you?

Kāpēc jūs dodat priekšroku Google meklētājprogrammai?

Strangely enough, I always get the same three answers.

Dīvainā kārtā es allaž saņemu tās pašas trīs atbildes.

One, "Because it works,"

Pirmā: „Jo tā darbojas.”

which is a great answer; that's why I Google, too.

Tā ir lieliska atbilde; tāpēc arī es izmantoju Google.

Two, somebody will say,

Kā otro atbildi kāds min:

"I really don't know of any alternatives."

„Es nezinu nevienu alternatīvu.”

It's not an equally great answer and my reply to that is usually,

Tā nav tikpat lieliska atbilde, un es uz to parasti atbildu:

"Try to Google the word 'search engine,'

„Ierakstiet Google vārdu „meklētājprogramma”,

you may find a couple of interesting alternatives."

un jūs atradīsiet dažas interesantas alternatīvas.”

And last but not least, thirdly,

Visbeidzot, trešā atbilde –

inevitably, one student will raise her or his hand and say,

kāds noteikti pacels roku, sakot:

"With Google, I'm certain to always get the best, unbiased search result."

„Izmantojot Google, esmu drošs, ka vienmēr iegūšu vislabāko, objektīvāko rezultātu.”

Certain to always get the best, unbiased search result.

Drošs, ka vienmēr iegūs labāko, objektīvāko meklēšanas rezultātu.

Now, as a man of the humanities,

Kā humanitāro zinātņu cilvēkam,

albeit a digital humanities man,

tiesa, digitālo humanitāro zinātņu cilvēkam,

that just makes my skin curl,

man no tā vienkārši uzmetas zosāda,

even if I, too, realize that that trust, that idea of the unbiased search result

pat ja es saprotu, ka uzticība, ideja par objektīviem meklēšanas rezultātiem

is a cornerstone in our collective love for and appreciation of Google.

ir pamats mūsu kopīgajai patikai un pozitīvajam Google novērtējumam.

I will show you why that, philosophically, is almost an impossibility.

Es jums parādīšu, kāpēc tas, filozofiski raugoties, ir gandrīz neiespējami.

But let me first elaborate, just a little bit, on a basic principle

Tomēr vispirms es nedaudz paskaidrošu pamatprincipu

behind each search query that we sometimes seem to forget.

ikvienam meklēšanas vaicājumam, ko mēs reizēm aizmirstam.

So whenever you set out to Google something,

Ikreiz, kad vēlaties kaut ko atrast Google,

start by asking yourself this: "Am I looking for an isolated fact?"

no sākuma pajautājiet sev: „Vai es meklēju faktu?”

What is the capital of France?

Kas ir Francijas galvaspilsēta?

What are the building blocks of a water molecule?

Kāda ir ūdens molekulas formula?

Great -- Google away.

Lieliski – meklējiet to Google.

There's not a group of scientists who are this close to proving

Nav zinātnieku grupas, kas gatavotos pierādīt,

that it's actually London and H30.

ka tā patiesībā ir Londona un H30.

You don't see a big conspiracy among those things.

Šajos jautājumos nav īpašu domstarpību.

We agree, on a global scale,

Visa pasaule ir vienisprātis par atbildēm uz šiem atsevišķajiem faktiem.

what the answers are to these isolated facts.

But if you complicate your question just a little bit and ask something like,

Ja jūs uzdodat nedaudz sarežģītāku jautājumu, piemēram,

"Why is there an Israeli-Palestine conflict?"

kas izraisīja Izraēlas un Palestīnas konfliktu,

You're not exactly looking for a singular fact anymore,

jūs vairs nemeklējat atsevišķu faktu,

you're looking for knowledge,

jūs meklējat zināšanas,

which is something way more complicated and delicate.

kas ir daudz sarežģītākas un smalkākas.

And to get to knowledge,

Lai gūtu zināšanas,

you have to bring 10 or 20 or 100 facts to the table

jāapkopo 10, 20 vai 100 fakti

and acknowledge them and say, "Yes, these are all true."

un jāapstiprina, ka, jā, tie visi ir patiesi.

But because of who I am,

Ņemot vērā, vai esmu jauns vai vecs, baltādains vai melnādains,

young or old, black or white, gay or straight,

homoseksuāls vai heteroseksuāls, es tos vērtēšu atšķirīgi.

I will value them differently.

And I will say, "Yes, this is true,

Es teikšu: „Jā, tā ir patiesība, bet šis fakts man ir svarīgāks nekā tas.”

but this is more important to me than that."

And this is where it becomes interesting,

Ar to sākas interesantais,

because this is where we become human.

jo šajā brīdī mēs esam cilvēciskas būtnes.

This is when we start to argue, to form society.

Mēs sākam diskutēt, veidot sabiedrību.

And to really get somewhere, we need to filter all our facts here,

Lai gūtu skaidrību, mums jāfiltrē visi mūsu fakti

through friends and neighbors and parents and children

caur draugiem un kaimiņiem, vecākiem un bērniem,

and coworkers and newspapers and magazines,

kolēģiem, avīzēm un žurnāliem,

to finally be grounded in real knowledge,

lai visbeidzot gūtu patiesas zināšanas,

which is something that a search engine is a poor help to achieve.

ko meklētājprogramma nespēj pilnvērtīgi nodrošināt.

So, I promised you an example just to show you why it's so hard

Es solīju parādīt piemēru, lai jūs redzētu, kāpēc ir tik grūti

to get to the point of true, clean, objective knowledge --

gūt patiesas, tīras, objektīvas zināšanas.

as food for thought.

Tā jums būs viela pārdomām.

I will conduct a couple of simple queries, search queries.

Es veikšu dažus vienkāršus vaicājumus – meklēšanas vaicājumus.

We'll start with "Michelle Obama,"

Es sākšu ar „Mišelu Obamu”, ASV pirmo lēdiju.

the First Lady of the United States.

And we'll click for pictures.

Es noklikšķinu uz attēliem.

It works really well, as you can see.

Kā redzat, tas darbojas ļoti labi.

It's a perfect search result, more or less.

Tas vairāk vai mazāk ir ideāls meklēšanas rezultāts.

It's just her in the picture, not even the President.

Attēlos ir tikai viņa, tajos nav redzams pat prezidents.

How does this work?

Kā tas darbojas?

Quite simple.

Tas ir visai vienkārši.

Google uses a lot of smartness to achieve this, but quite simply,

Google izmanto daudz viltību, lai to panāktu, bet, vienkāršāk sakot,

they look at two things more than anything.

uzmanība tiek pievērsta galvenokārt diviem faktoriem.

First, what does it say in the caption under the picture on each website?

Pirmkārt, kas ir teikts attēla parakstā katrā tīmekļa vietnē?

Does it say "Michelle Obama" under the picture?

Vai zem attēla ir rakstīts „Mišela Obama”?

Pretty good indication it's actually her on there.

Tā ir visai laba norāde, ka attēlā redzama viņa.

Second, Google looks at the picture file,

Otrkārt, Google apskata attēla failu –

the name of the file as such uploaded to the website.

tīmekļa vietnē augšupielādētā faila nosaukumu.

Again, is it called "MichelleObama.jpeg"?

Vai tā nosaukums ir „MichelleObama.jpeg”?

Pretty good indication it's not Clint Eastwood in the picture.

Tā ir visai ticama norāde, ka attēlā nav Klints Īstvuds.

So, you've got those two and you get a search result like this -- almost.

Ar šiem diviem faktoriem jūs gandrīz iegūstat šādu meklēšanas rezultātu.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

2009. gadā Mišela Obama bija rasistu kampaņas upure –

where people set out to insult her through her search results.

cilvēki mēģināja viņu aizvainot caur viņas meklēšanas rezultātiem.

There was a picture distributed widely over the Internet

Internetā tika plaši izplatīts attēls,

where her face was distorted to look like a monkey.

kurā viņas seja bija izkropļota, lai atgādinātu pērtiķi.

And that picture was published all over.

Šis attēls tika publicēts visur.

And people published it very, very purposefully,

Cilvēki attēlu publicēja tīšām, lai tas parādītos meklēšanas rezultātos.

to get it up there in the search results.

They made sure to write "Michelle Obama" in the caption

Parakstā viņi norādīja „Mišela Obama”,

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

un augšupielādētā attēla nosaukums bija „MichelleObama.jpeg” vai kas tamlīdzīgs,

You get why -- to manipulate the search result.

lai manipulētu ar meklēšanas rezultātiem.

And it worked, too.

Tas arī izdevās.

So when you picture-Googled for "Michelle Obama" in 2009,

Ja jūs 2009. gadā Google meklējāt attēlu „Mišela Obama”,

that distorted monkey picture showed up among the first results.

pirmo rezultātu starpā parādījās izkropļotais pērtiķa attēls.

Now, the results are self-cleansing,

Notiek arī rezultātu pašattīrīšanās,

and that's sort of the beauty of it,

un tas ir lieliski,

jo Google izvērtē atbilstību ik stundu, ik dienu.

because Google measures relevance every hour, every day.

However, Google didn't settle for that this time,

Tomēr šajā gadījumā Google to nedarīja,

they just thought, "That's racist and it's a bad search result

viņi nodomāja: „Tas ir rasistiski, šis ir neatbilstošs rezultāts,

and we're going to go back and clean that up manually.

tāpēc mēs atgriezīsimies un veiksim manuālu tīrīšanu.

We are going to write some code and fix it,"

Mēs uzrakstīsim kodu un savedīsim šo kārtībā.”

which they did.

Un to viņi arī izdarīja.

And I don't think anyone in this room thinks that was a bad idea.

Diez vai kāds šajā telpā uzskata, ka tā bija slikta ideja.

Me neither.

Es arī ne.

But then, a couple of years go by,

Tad pagāja daži gadi,

and the world's most-Googled Anders,

un visvairāk Google meklētais Annešs,

Anders Behring Breivik,

Annešs Bērings-Breivīks,

did what he did.

izdarīja to, ko izdarīja.

This is July 22 in 2011,

Tas notika 2011. gada 22. jūlijā,

and a terrible day in Norwegian history.

un tā bija šausmīga diena Norvēģijas vēsturē.

This man, a terrorist, blew up a couple of government buildings

Šis vīrietis, terorists, uzspridzināja divas valdības ēkas,

walking distance from where we are right now in Oslo, Norway

kas atrodas pavisam netālu no mums, Oslo, Norvēģijā.

and then he traveled to the island of Utøya

Pēc tam viņš devās uz Ūtejas salu,

kur nošāva vairākus bērnus.

and shot and killed a group of kids.

Almost 80 people died that day.

Todien nomira gandrīz 80 cilvēki.

And a lot of people would describe this act of terror as two steps,

Daudzi cilvēki teiktu, ka šim teroraktam bija divi soļi –

that he did two things: he blew up the buildings and he shot those kids.

viņš uzspridzināja ēkas un nošāva bērnus.

It's not true.

Tā nav patiesība.

It was three steps.

Kopumā bija trīs soļi.

He blew up those buildings, he shot those kids,

Viņš uzspridzināja ēkas, nošāva bērnus

and he sat down and waited for the world to Google him.

un gaidīja, kad pasaule sāks meklēt viņu Google.

And he prepared all three steps equally well.

Viņš bija vienlīdz labi sagatavojis visus trīs soļus.

And if there was somebody who immediately understood this,

To nekavējoties saprata

zviedru tīmekļa izstrādātājs,

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

meklētājprogrammu optimizācijas speciālists Stokholmā, Nike Lindkvists.

He's also a very political guy

Viņu ļoti interesē arī politika,

and he was right out there in social media, on his blog and Facebook.

un tobrīd viņš bija sociālajos tīklos – savā emuārā un Facebook.

And he told everybody,

Viņš visiem paziņoja:

"If there's something that this guy wants right now,

„Šis cilvēks šobrīd vēlas vienu –

kontrolēt savu tēlu.

it's to control the image of himself.

Let's see if we can distort that.

Paskatīsimies, vai mēs varam to mainīt,

Let's see if we, in the civilized world, can protest against what he did

vai mēs, civilizētā pasaule, varam protestēt pret viņa nodarīto,

through insulting him in his search results."

aizvainojot viņu meklēšanas rezultātos.”

And how?

Kā tas notika?

He told all of his readers the following,

Viņš mudināja visus savus lasītājus:

"Go out there on the Internet,

„Atveriet internetu,

find pictures of dog poop on sidewalks --

atrodiet attēlus ar suņa kaku uz ietves,

find pictures of dog poop on sidewalks --

– atrodiet attēlus ar suņa kaku uz ietves, –

publish them in your feeds, on your websites, on your blogs.

publicējiet tos savās plūsmās, tīmekļa vietnēs, emuāros.

Make sure to write the terrorist's name in the caption,

Ierakstiet aprakstā terorista vārdu,

make sure to name the picture file "Breivik.jpeg."

nodēvējiet attēla failu „Breivik.jpeg”.

Let's teach Google that that's the face of the terrorist."

Iemācīsim Google, ka tā ir terorista patiesā seja.”

And it worked.

Tas izdevās.

Two years after that campaign against Michelle Obama,

Divus gadus pēc kampaņas pret Mišelu Obamu

this manipulation campaign against Anders Behring Breivik worked.

šī manipulācijas kampaņa pret Annešu Bēringu-Breivīku nostrādāja.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Ja Zviedrijā meklējāt viņa attēlu

vēl vairākas nedēļas pēc 22. jūlija notikumiem,

you'd see that picture of dog poop high up in the search results,

rezultātu augšgalā parādījās suņa kaku attēls –

as a little protest.

kā neliels protests.

Strangely enough, Google didn't intervene this time.

Dīvainā kārtā šoreiz Google neiesaistījās.

They did not step in and manually clean those search results up.

Viņi neķērās pie darba un neveica manuālu šo rezultātu dzēšanu.

So the million-dollar question,

Tāpēc lielais jautājums ir –

is there anything different between these two happenings here?

vai šie divi gadījumi kaut kādā ziņā atšķiras?

Is there anything different between what happened to Michelle Obama

Vai ir jebkāda atšķirība starp gadījumu ar Mišelu Obamu

un Annešu Bēringu-Breivīku?

and what happened to Anders Behring Breivik?

Of course not.

Protams, ka nav.

It's the exact same thing,

Šie gadījumi ir identiski,

yet Google intervened in one case and not in the other.

tomēr vienā gadījumā Google iesaistījās, bet otrā – ne.

Why?

Kāpēc?

Because Michelle Obama is an honorable person, that's why,

Mišela Obama ir cienījams cilvēks,

and Anders Behring Breivik is a despicable person.

bet Annešs Bērings-Breivīks – riebumu izraisošs cilvēks.

See what happens there?

Vai saprotat?

An evaluation of a person takes place

Cilvēks tiek novērtēts,

and there's only one power-player in the world

un pasaulē ir tikai viens varenais,

with the authority to say who's who.

kuram ir tiesības noteikt, kāds kurš ir.

"We like you, we dislike you.

„Tu mums patīc, bet tu – ne.

We believe in you, we don't believe in you.

Mēs tev ticam, bet tev – ne.

You're right, you're wrong. You're true, you're false.

Tev ir taisnība, tev – ne. Tu esi patiess, tu – ne.

Tu esi Obama, un tu esi Breivīks.”

You're Obama, and you're Breivik."

That's power if I ever saw it.

Tā manā skatījumā ir vara.

So I'm asking you to remember that behind every algorithm

Tāpēc atcerieties, ka katru algoritmu

is always a person,

vienmēr veido cilvēks,

a person with a set of personal beliefs

cilvēks ar personīgajiem uzskatiem,

that no code can ever completely eradicate.

ko neviens kods nevar pilnībā iznīdēt.

And my message goes out not only to Google,

Mans vēstījums vērsts ne vien uz Google,

but to all believers in the faith of code around the world.

bet arī uz visiem cilvēkiem pasaulē, kas uzticas kodam.

You need to identify your own personal bias.

Jums jāidentificē pašiem savs objektivitātes trūkums.

You need to understand that you are human

Jums jāsaprot, ka esat cilvēciskas būtnes,

and take responsibility accordingly.

un attiecīgi jāuzņemas atbildība.

And I say this because I believe we've reached a point in time

Es to saku, jo ticu, ka ir pienācis brīdis,

when it's absolutely imperative

kad pilnīgi noteikti jāatjauno un jāpadara vēl ciešāka saikne

that we tie those bonds together again, tighter:

the humanities and the technology.

starp humanitārajam zinātnēm un tehnoloģiju.

Tighter than ever.

Ciešāka nekā jebkad.

And, if nothing else, to remind us that that wonderfully seductive idea

Mums vismaz jāatceras, ka brīnišķīgi vilinošā ideja

of the unbiased, clean search result

par objektīviem, tīriem meklēšanas rezultātiem

is, and is likely to remain, a myth.

ir un visticamāk paliks tikai mīts.

Thank you for your time.

Paldies par uzmanību.

(Applause)

(Aplausi)