The moral bias behind your search results | Andreas Ekström

Kääntäjä: Anita Parttimaa Oikolukija: Ulla Vainio

So whenever I visit a school and talk to students,

Kun käyn koulussa puhumassa opiskelijoille,

I always ask them the same thing:

kysyn heiltä aina saman kysymyksen:

Why do you Google?

Miksi googlaat?

Why is Google the search engine of choice for you?

Miksi valitset hakukoneeksesi Googlen?

Strangely enough, I always get the same three answers.

Merkillistä, että saan aina kolme samaa vastausta.

One, "Because it works,"

Yksi: "Koska se toimii",

which is a great answer; that's why I Google, too.

mikä on hyvä vastaus; siksi minäkin googlaan.

Two, somebody will say,

Kaksi, joku sanoo:

"I really don't know of any alternatives."

"En tiedä mitään vaihtoehtoja."

It's not an equally great answer and my reply to that is usually,

Se ei ole yhtä hyvä vastaus, ja yleensä vastaan:

"Try to Google the word 'search engine,'

"Yritä googlata sanalla 'hakukone',

you may find a couple of interesting alternatives."

saatat löytää pari mielenkiintoista vaihtoehtoa."

And last but not least, thirdly,

Ja viimeisenä, vaan ei vähäisimpänä, kolmanneksi,

inevitably, one student will raise her or his hand and say,

väistämättä, yksi opiskelija nostaa kätensä ja sanoo:

"With Google, I'm certain to always get the best, unbiased search result."

"Googlella voin olla varma, että saan aina parhaan ja puolueettoman hakutuloksen."

Certain to always get the best, unbiased search result.

Varma, että saa aina parhaan, puolueettoman hakutuloksen.

Now, as a man of the humanities,

Humanistina,

albeit a digital humanities man,

vaikkakin digitaalisena humanistina,

that just makes my skin curl,

tuo nostaa karvani pystyyn,

even if I, too, realize that that trust, that idea of the unbiased search result

vaikka minäkin ymmärrän, että luottamus, idea puolueettomasta hakutuloksesta,

is a cornerstone in our collective love for and appreciation of Google.

on kollektiivisesti rakastamamme Googlen arvostuksen kulmakivi.

I will show you why that, philosophically, is almost an impossibility.

Näytän teille kuinka tämä on filosofisesti lähes mahdotonta.

But let me first elaborate, just a little bit, on a basic principle

Haluan kuitenkin ensin hieman tarkentaa pääperiaatetta

behind each search query that we sometimes seem to forget.

jokaisen haun takana, joka näyttää joskus unohtuvan.

So whenever you set out to Google something,

Aina kun ryhdyt googlaamaan jotain,

start by asking yourself this: "Am I looking for an isolated fact?"

aloita kysymällä itseltäsi: "Etsinkö yksittäistä faktaa?"

What is the capital of France?

Mikä on Ranskan pääkaupunki?

What are the building blocks of a water molecule?

Mistä osista vesimolekyyli muodostuu?

Great -- Google away.

Hyvä -- googlaa pois.

There's not a group of scientists who are this close to proving

Ei ole ryhmää tiedemiehiä, joka on juuri todistamaisillaan,

that it's actually London and H30.

että itse asiassa Lontoo ja H30.

You don't see a big conspiracy among those things.

Et löydä suuria salaliittoja näiden asioiden tiimoilta.

We agree, on a global scale,

Olemme globaalisti samaa mieltä

what the answers are to these isolated facts.

näistä yksittäisistä faktoista.

But if you complicate your question just a little bit and ask something like,

Mutta jos kysymyksesi on vähän mutkikkaampi, kuten:

"Why is there an Israeli-Palestine conflict?"

"Mistä Israelin ja Palestiinan konflikti johtuu?"

You're not exactly looking for a singular fact anymore,

Et olekaan enää etsimässä yksittäistä faktatietoa,

you're looking for knowledge,

olet etsimässä tietämystä,

which is something way more complicated and delicate.

joka on paljon monimutkaisempaa ja hienosyisempää.

And to get to knowledge,

Saavuttaaksesi tiedon

you have to bring 10 or 20 or 100 facts to the table

sinun on tuotava pöydälle 10 tai 20 tai 100 faktaa

and acknowledge them and say, "Yes, these are all true."

ja myöntää: "Kyllä, nämä kaikki ovat totta."

But because of who I am,

Mutta riippuen siitä kuka olen,

young or old, black or white, gay or straight,

nuori vai vanha, tumma vai valkoinen, homo vai hetero,

I will value them differently.

arvotan ne eri tavalla.

And I will say, "Yes, this is true,

Ja sanon, "Kyllä, totta,

but this is more important to me than that."

mutta tämä on minulle tärkeämpää kuin tuo."

And this is where it becomes interesting,

Tässä kohtaa asiat käyvät mielenkiintoisiksi,

because this is where we become human.

koska mukaan tulee ihmisyytemme.

This is when we start to argue, to form society.

Tässä kohtaa alamme kiistellä, muodostaen yhteiskunnan.

And to really get somewhere, we need to filter all our facts here,

Ja päästäksemme johonkin tulokseen, meidän täytyy suodattaa kaikki faktat,

through friends and neighbors and parents and children

ystävien, naapureiden, vanhempien, lasten,

and coworkers and newspapers and magazines,

työkavereiden, sanoma- ja aikakauslehtien,

to finally be grounded in real knowledge,

löytääksemme lopulta oikean tiedon,

which is something that a search engine is a poor help to achieve.

johonkin, jonka saavuttamisessa hakukone on kehno apuri.

So, I promised you an example just to show you why it's so hard

Lupasin näyttää teille esimerkin, miksi on niin vaikeaa

to get to the point of true, clean, objective knowledge --

saavuttaa oikea, puhdas, objektiivinen tieto --

as food for thought.

antaa ajattelun aihetta.

I will conduct a couple of simple queries, search queries.

Aion tehdä pari yksinkertaista hakukyselyä.

We'll start with "Michelle Obama,"

Aloitamme haulla "Michelle Obama",

the First Lady of the United States.

Yhdysvaltain ensimmäinen nainen.

And we'll click for pictures.

Ja klikkaamme kuvahakuun.

It works really well, as you can see.

Toimii oikein hyvin, kuten näette.

It's a perfect search result, more or less.

Enemmän tai vähemmän täydellinen hakutulos.

It's just her in the picture, not even the President.

Juuri hän on näissä kuvissa, ei näy edes presidenttiä.

How does this work?

Miten tämä toimii?

Quite simple.

Aika yksinkertaisesti.

Google uses a lot of smartness to achieve this, but quite simply,

Google käyttää yksinkertaista nokkeluutta saavuttaakseen tämän,

they look at two things more than anything.

he etsivät ennen muuta kahta asiaa.

First, what does it say in the caption under the picture on each website?

Ensinnäkin, mitä on kuvan alla kuvatekstissä kullakin sivulla?

Does it say "Michelle Obama" under the picture?

Lukeeko kuvan alla "Michelle Obama"?

Pretty good indication it's actually her on there.

Melko hyvä merkki, että siinä todella on hän.

Second, Google looks at the picture file,

Toiseksi Google tutkii kuvatiedostoa,

the name of the file as such uploaded to the website.

nimeä, jolla tiedosto on ladattu nettisivulle.

Again, is it called "MichelleObama.jpeg"?

Jälleen, onko se nimetty "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Aika hyvä merkki siitä, ettei kuva esitä Clint Eastwoodia.

So, you've got those two and you get a search result like this -- almost.

Näiden kahden tiedon varassa pääset tällaiseen tulokseen -- melkein.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Vuonna 2009 Michelle Obama joutui uhriksi rasistiseen kampanjaan,

where people set out to insult her through her search results.

jossa ihmiset ryhtyivät häpäisemään häntä hakutulosten kautta.

There was a picture distributed widely over the Internet

Internetissä jaeltiin laajasti kuvaa,

where her face was distorted to look like a monkey.

jossa hänen kasvonsa oli vääristetty näyttämään apinalta.

And that picture was published all over.

Tuota kuvaa oli julkaistu ympäriinsä.

And people published it very, very purposefully,

Ihmiset julkaisivat sitä hyvin, hyvin tietoisesti,

to get it up there in the search results.

saadakseen sen hakutulosten kärkeen.

They made sure to write "Michelle Obama" in the caption

He varmistivat, että kuvatekstissä luki "Michelle Obama"

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

ja että kuva tuli ladatuksi tidostonimellä "MichelleObama.jpeg", tai vastaavalla.

You get why -- to manipulate the search result.

Ymmärrätte miksi -- manipuloidakseen hakutuloksia.

And it worked, too.

Ja se myös toimi.

So when you picture-Googled for "Michelle Obama" in 2009,

Kun googlasit vuonna 2009 kuvahaulla "Michelle Obama",

that distorted monkey picture showed up among the first results.

tuo vääristynyt apinan kuva ilmaantui ensimmäisten hakutulosten joukkoon.

Now, the results are self-cleansing,

Nyt tulokset ovat puhdistuneet,

and that's sort of the beauty of it,

ja tässä on tavallaan asian kauneus,

because Google measures relevance every hour, every day.

koska Google arvioi tulosten relevanssia joka tunti, joka päivä.

However, Google didn't settle for that this time,

Tuolloin Google ei kuitenkaan ratkaissut asiaa näin,

they just thought, "That's racist and it's a bad search result

vaan he ajattelivat: "Tuo on rasistista ja hakutulos on huono

and we're going to go back and clean that up manually.

ja puhdistamme sen manuaalisesti.

We are going to write some code and fix it,"

Kirjoitamme vähän koodia ja korjaamme sen."

which they did.

Niin he tekivätkin.

And I don't think anyone in this room thinks that was a bad idea.

En usko kenekään tässä huoneessa ajattelevan, että se oli huono idea.

Me neither.

En minäkään.

But then, a couple of years go by,

Sitten muutama vuosi sitten,

and the world's most-Googled Anders,

maailman googlatuin Anders,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

teki mitä teki.

This is July 22 in 2011,

Heinäkuun 22. päivä vuonna 2011,

and a terrible day in Norwegian history.

Norjan historian hirvittävin päivä.

This man, a terrorist, blew up a couple of government buildings

Tämä mies, terroristi, räjäytti pari hallintorakennusta

walking distance from where we are right now in Oslo, Norway

kävelymatkan päässä siitä, missä nyt olemme Oslossa, Norjassa

and then he traveled to the island of Utøya

sitten hän suuntasi Utøyan saarelle

and shot and killed a group of kids.

ja ampui ja tappoi joukon lapsia.

Almost 80 people died that day.

Lähes 80 ihmistä kuoli sinä päivänä.

And a lot of people would describe this act of terror as two steps,

Useat ihmiset kuvailisivat tätä terroritekoa kaksivaiheisena,

that he did two things: he blew up the buildings and he shot those kids.

että hän teki kaksi asiaa: hän räjäytti rakennuksia ja ampui nuo lapset.

It's not true.

Se ei ole totta.

It was three steps.

Vaiheita oli kolme.

He blew up those buildings, he shot those kids,

Hän räjäytti rakennukset, ampui lapset,

and he sat down and waited for the world to Google him.

ja istui odottamaan, että maailma googlaisi häntä.

And he prepared all three steps equally well.

Hän valmisteli kaikki kolme vaihetta yhtä huolellisesti.

And if there was somebody who immediately understood this,

Tämän ymmärsi välittömästi

it was a Swedish web developer,

ruotsalainen web-kehittäjä,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

hakukone optimointiin erikoistunut Nikke Lindqvist Tukholmasta.

He's also a very political guy

Hän on myös hyvin poliittinen kaveri

and he was right out there in social media, on his blog and Facebook.

ja hän oli oikeassa sosiaalisessa mediassa, blogissaan ja Facebookissa.

And he told everybody,

Hän kertoi kaikille:

"If there's something that this guy wants right now,

"Juuri nyt tämä kaveri haluaa

it's to control the image of himself.

hallita kuvaa itsestään.

Let's see if we can distort that.

Katsotaanpa voimmeko vääristää sitä.

Let's see if we, in the civilized world, can protest against what he did

Katsotaan voiko sivistynyt maailma protestoida sitä vastaan, mitä hän teki,

through insulting him in his search results."

halventamalla häntä koskevia hakutuloksia."

And how?

Miten?

He told all of his readers the following,

Hän kehoitti lukijoita seuraavasti.

"Go out there on the Internet,

"Mene internetiin,

find pictures of dog poop on sidewalks --

etsi kuvia koiran kakasta jalkakäytävällä --

find pictures of dog poop on sidewalks --

etsi kuvia koiran kakasta jalkakäytävällä --

publish them in your feeds, on your websites, on your blogs.

julkaise niitä syötteissäsi, nettisivuillasi, blogissasi.

Make sure to write the terrorist's name in the caption,

Varmista, että kuvatekstissä on terroristin nimi,

make sure to name the picture file "Breivik.jpeg."

varmista, että kuvatiedoston nimi on "Breivik.jpeg".

Let's teach Google that that's the face of the terrorist."

Opetetaanpa Googlelle, että nuo ovat terroristin kasvot."

And it worked.

Ja se toimi.

Two years after that campaign against Michelle Obama,

Kaksi vuotta Michelle Obamaa vastaan suunnatun kampanjan jälkeen,

this manipulation campaign against Anders Behring Breivik worked.

tämä manipulaatiokampanja Anders Behring Breivikiä vastaan toimi.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Jos googlasit kuvia hänestä Ruotsissa viikkoja 22.7. tapahtumien jälkeen,

you'd see that picture of dog poop high up in the search results,

näit hakutulosten kärjessä kuvan koirankakasta,

as a little protest.

kuin pienenä protestina.

Strangely enough, Google didn't intervene this time.

Kumma kyllä, Google ei puuttunut tähän tällä kertaa.

They did not step in and manually clean those search results up.

He eivät tulleet väliin ja puhdistaneet manuaalisesti hakutuloksia.

So the million-dollar question,

Miljoonan dollarin kysymys,

is there anything different between these two happenings here?

onko näiden kahden tapahtuman välillä mitään eroa?

Is there anything different between what happened to Michelle Obama

Onko mitään eroa siinä, mitä tapahtui Michelle Obamalle

and what happened to Anders Behring Breivik?

ja mitä tapahtui Anders Behring Breivikille?

Of course not.

Ei tietenkään.

It's the exact same thing,

Se on täsmälleen sama asia,

yet Google intervened in one case and not in the other.

vaikka Google puuttuikin näistä vain toiseen tapaukseen.

Why?

Miksi?

Because Michelle Obama is an honorable person, that's why,

Koska Michelle Obama on kunnioitettava henkilö,

and Anders Behring Breivik is a despicable person.

ja Anders Behring Breivik on halveksittava henkilö.

See what happens there?

Mitä tapahtui?

An evaluation of a person takes place

Kyseessä on henkilön arvottaminen,

and there's only one power-player in the world

ja maailmassa on vain yksi voimakas toimija,

with the authority to say who's who.

jolla on valta sanoa kuka on kuka.

"We like you, we dislike you.

"Pidämme sinusta, emme pidä sinusta.

We believe in you, we don't believe in you.

Uskomme sinuun, emme usko sinua.

You're right, you're wrong. You're true, you're false.

Olet oikeassa, olet väärässä. Olet totta, olet epäaito.

You're Obama, and you're Breivik."

Sinä olet Obama ja sinä olet Breivik."

That's power if I ever saw it.

Se vasta on voimaa.

So I'm asking you to remember that behind every algorithm

Joten pyydän teitä muistamaan, että jokaisen hakualgoritmin takana

is always a person,

on aina ihminen,

a person with a set of personal beliefs

ihminen henkilökohtaisine uskomuksineen,

that no code can ever completely eradicate.

eikä niitä voida koskaan täysin poistaa koodista.

And my message goes out not only to Google,

Viestini ei ole tarkoitettu pelkästään Googlelle,

but to all believers in the faith of code around the world.

vaan kaikille koodiuskovaisille ympäri maailmaa.

You need to identify your own personal bias.

Sinun täytyy tunnistaa omat ennakkoasenteesi.

You need to understand that you are human

Sinun tulee ymmärtää olevasi ihminen

and take responsibility accordingly.

ja kantaa siitä vastuu.

And I say this because I believe we've reached a point in time

Sanon tämän, koska uskon, että olemme saavuttaneet pisteen,

when it's absolutely imperative

jossa on ehdottoman välttämätöntä

that we tie those bonds together again, tighter:

sovittaa yhteen uudestaan, lujemmin:

the humanities and the technology.

ihmisyys ja teknologia.

Tighter than ever.

Lujemmin kuin koskaan.

And, if nothing else, to remind us that that wonderfully seductive idea

Ja muistuttaakseni meitä siitä, että ihanan houkutteleva ajatus

of the unbiased, clean search result

puolueettomasta, puhtaasta hakutuloksesta

is, and is likely to remain, a myth.

on myytti ja todennäköisesti pysyy sellaisena.

Thank you for your time.

Kiitos ajastanne.

(Applause)

(Suosionosoituksia)