The moral bias behind your search results | Andreas Ekström

Fordító: Péter Pallós Lektor: Júlia Martonosi

So whenever I visit a school and talk to students,

Amikor iskolákban diákokkal beszélgetek,

I always ask them the same thing:

mindig ugyanazt kérdem tőlük:

Why do you Google?

Miért gugliztok?

Why is Google the search engine of choice for you?

Miért a Google-t választjátok keresőmotornak?

Strangely enough, I always get the same three answers.

Elég furcsa, hogy mindig ugyanazt a 3 választ hallom.

One, "Because it works,"

Az első: "Mert működik."

which is a great answer; that's why I Google, too.

Remek válasz; én is ezért guglizom.

Two, somebody will say,

A második, van aki így felel:

"I really don't know of any alternatives."

"Nem ismerek másokat."

It's not an equally great answer and my reply to that is usually,

Ez már nem olyan pompás válasz, s azt szoktam felelni rá:

"Try to Google the word 'search engine,'

"Írd be a Google-ba a 'keresőmotor'-t,

you may find a couple of interesting alternatives."

és egy csomó más érdekeset is találhatsz.

And last but not least, thirdly,

Végül, de nem utoljára, a harmadik.

inevitably, one student will raise her or his hand and say,

Az egyik diák jelentkezik, és így szól:

"With Google, I'm certain to always get the best, unbiased search result."

"A Google mindig a legjobb, tárgyilagos keresési eredményt adja."

Certain to always get the best, unbiased search result.

Biztos benne, hogy mindig a legjobb, elfogulatlan eredményt kapja.

Now, as a man of the humanities,

Humán területről jövök,

albeit a digital humanities man,

noha digitálisan humán területről,

that just makes my skin curl,

de ebbe beleborzongok.

even if I, too, realize that that trust, that idea of the unbiased search result

Még akkor is, ha tudom, hogy a bizalom, a tárgyilagos eredmény

is a cornerstone in our collective love for and appreciation of Google.

a Google iránti közös szerelmünk és elismerésünk alapja.

I will show you why that, philosophically, is almost an impossibility.

Ki fogom mutatni, hogy ez filozófiailag miért csaknem lehetetlen.

But let me first elaborate, just a little bit, on a basic principle

Először kifejtem, csak futólag, mi az összes keresőkérdés alapelve,

behind each search query that we sometimes seem to forget.

amelyről hajlamosak vagyunk elfeledkezni.

So whenever you set out to Google something,

Amikor a Google-nak föladunk valamit,

start by asking yourself this: "Am I looking for an isolated fact?"

kérdezzük meg magunktól: "Egyedi tényt keresek?"

What is the capital of France?

Mi Franciaország fővárosa?

What are the building blocks of a water molecule?

Mik a vízmolekulák építőkövei?

Great -- Google away.

Ragyogó — akkor guglizhatunk.

There's not a group of scientists who are this close to proving

Nincs tudós, aki bebizonyíthatná,

that it's actually London and H30.

hogy a helyes válasz: London és H30.

You don't see a big conspiracy among those things.

Ezekben a dolgokban nincs nagy összeesküvés.

We agree, on a global scale,

Az egész világon elfogadják,

what the answers are to these isolated facts.

hogy mi a válasz az egyedi tényeket illetően.

But if you complicate your question just a little bit and ask something like,

De ha egy kicsit bonyolítjuk a kérdést, és ilyesmit kérdezünk:

"Why is there an Israeli-Palestine conflict?"

Miért az izraeli-palesztin ellentét?

You're not exactly looking for a singular fact anymore,

Most már nem egyedi tényt keresünk,

you're looking for knowledge,

hanem tudást,

which is something way more complicated and delicate.

amely valahogy bonyolultabb és kényesebb.

And to get to knowledge,

Hogy tudáshoz jussunk,

you have to bring 10 or 20 or 100 facts to the table

10-20 vagy 100 tényt kell táblázatba foglalnunk,

and acknowledge them and say, "Yes, these are all true."

nyugtáznunk őket, és kijelenteni: "Igen, ez mind igaz."

But because of who I am,

De mert vagyok, aki vagyok,

young or old, black or white, gay or straight,

ifjú vagy öreg, fekete vagy fehér, meleg vagy sem,

I will value them differently.

másként értékelem őket.

And I will say, "Yes, this is true,

S azt mondom: "Ez igaz,

but this is more important to me than that."

de emez fontosabb nekem, mint az."

And this is where it becomes interesting,

Itt válik az ügy érdekessé,

because this is where we become human.

mert itt mutatkozik meg emberi mivoltunk.

This is when we start to argue, to form society.

Ennél a pontnál kezdünk vitázni, társadalmat létrehozni.

And to really get somewhere, we need to filter all our facts here,

S hogy valamire jussunk, meg kell szűrnünk a tényeket

through friends and neighbors and parents and children

barátokon, szomszédokon, szülőkön és gyerekeken,

and coworkers and newspapers and magazines,

munkatársakon és újságokon keresztül,

to finally be grounded in real knowledge,

hogy véglegesen megalapozzuk a tudásunkat,

which is something that a search engine is a poor help to achieve.

ezzel pedig a keresőmotor nem tud megbirkózni.

So, I promised you an example just to show you why it's so hard

Egy példát ígértem, hogy megmutassam, miért nehéz

to get to the point of true, clean, objective knowledge --

eljutni a valódi, tiszta és objektív tudáshoz,

as food for thought.

ami a gondolkodást táplálja.

I will conduct a couple of simple queries, search queries.

Végzek egy pár egyszerű keresést.

We'll start with "Michelle Obama,"

Kezdjük ezzel: "Michelle Obama",

the First Lady of the United States.

az USA First Ladyje.

And we'll click for pictures.

Képekre kattinthatunk.

It works really well, as you can see.

Elég jól működik, láthatják.

It's a perfect search result, more or less.

Többé-kevésbé tökéletes eredmény.

It's just her in the picture, not even the President.

Ő van a képen, nem az elnök.

How does this work?

Hogy működik?

Quite simple.

Nagyon egyszerűen.

Google uses a lot of smartness to achieve this, but quite simply,

Ennek elérésére a Google sok ügyes, de egyszerű fogást alkalmaz:

they look at two things more than anything.

leginkább két dolgot figyelnek.

First, what does it say in the caption under the picture on each website?

Az első: mi a képaláírás az egyes weboldalakon?

Does it say "Michelle Obama" under the picture?

A "Michelle Obama"?

Pretty good indication it's actually her on there.

Akkor elég jó az esélyünk, hogy ő van a képen.

Second, Google looks at the picture file,

A második: a Google megnézi a képfájlt,

the name of the file as such uploaded to the website.

milyen fájlnévvel töltötték fel a weboldalra.

Again, is it called "MichelleObama.jpeg"?

A fájlnév "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Akkor nagyon valószínű, hogy nem Clint Eastwood van a képen.

So, you've got those two and you get a search result like this -- almost.

Ha ez a kettő megvan, akkor megvan a keresés eredménye. Majdnem.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

2009-ben Michelle Obama egy rasszista kampány áldozata volt,

where people set out to insult her through her search results.

amelyben keresési eredményekkel akarták őt gyalázni.

There was a picture distributed widely over the Internet

Az interneten egy képet terjesztettek,

where her face was distorted to look like a monkey.

amelyen az arcát majompofává torzították.

And that picture was published all over.

A képet mindenhol leközölték.

And people published it very, very purposefully,

Nagyon-nagyon céltudatosan terjesztették,

to get it up there in the search results.

hogy az eredményekben megjelenjen.

They made sure to write "Michelle Obama" in the caption

Elintézték, hogy a képaláírás "Michelle Obama" legyen,

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

s azt is, hogy "MichelleObama.jpeg" vagy hasonló névvel töltsék fel.

You get why -- to manipulate the search result.

Értik, miért: hogy manipulálják a kereséseket

And it worked, too.

Működött is.

So when you picture-Googled for "Michelle Obama" in 2009,

Amikor 2009-ben Michelle Obama képét gugliztuk,

that distorted monkey picture showed up among the first results.

az első eredmények között az a torz majomkép jelent meg.

Now, the results are self-cleansing,

Az eredmények tisztítják magukat,

and that's sort of the beauty of it,

s ez benne a szép,

because Google measures relevance every hour, every day.

mert a Google óránként, naponta méri a fontosságot.

However, Google didn't settle for that this time,

De ezúttal a Google tovább lépett,

they just thought, "That's racist and it's a bad search result

és megállapította: "Ez rasszista ügy, nem jó keresési eredmény.

and we're going to go back and clean that up manually.

Azért manuálisan megtisztítjuk.

We are going to write some code and fix it,"

Programot kell írnunk, és az egészet meg kell javítanunk."

which they did.

Így is tettek.

And I don't think anyone in this room thinks that was a bad idea.

Nem hiszem, hogy a jelen lévők azt gondolnák, hogy ez helytelen lett volna.

Me neither.

Én sem.

But then, a couple of years go by,

De egy pár év múlva

and the world's most-Googled Anders,

a világ legtöbbet guglizott Anderse,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

elkövette, amit elkövetett.

This is July 22 in 2011,

2011. július 22-e

and a terrible day in Norwegian history.

a norvég történelem iszonyatos napja.

This man, a terrorist, blew up a couple of government buildings

Ez a terrorista férfi fölrobbantott egy csomó kormányépületet,

walking distance from where we are right now in Oslo, Norway

járótávolságra tőlünk, itt a norvégiai Oslóban,

and then he traveled to the island of Utøya

azután elment az Utøya szigetre,

and shot and killed a group of kids.

és lelőtt egy csomó gyereket.

Almost 80 people died that day.

Közel 80-an haltak meg aznap.

And a lot of people would describe this act of terror as two steps,

Sokak szerint ez a rémtett két lépésből állt:

that he did two things: he blew up the buildings and he shot those kids.

Breivik fölrobbantotta az épületeket, és lelőtte a gyerekeket.

It's not true.

Nem így van.

It was three steps.

Három lépésből.

He blew up those buildings, he shot those kids,

Fölrobbantotta a házakat, lelőtte a gyerekeket,

and he sat down and waited for the world to Google him.

aztán leült, és várta, hogy a világ őt guglizza.

And he prepared all three steps equally well.

Mindhárom lépést egyformán jól előkészítette.

And if there was somebody who immediately understood this,

Ha volt valaki, aki ezt rögvest fölfogta,

it was a Swedish web developer,

az egy svéd webfejlesztő volt,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

egy stockholmi keresőmotor-szakértő, Nikke Lindqvist.

He's also a very political guy

A fiú benne van a politikában,

and he was right out there in social media, on his blog and Facebook.

rögtön megjelent a közösségi médiában, a blogján és a Facebookon.

And he told everybody,

Mindenkihez szólt:

"If there's something that this guy wants right now,

"Most Breivik arra vágyik,

it's to control the image of himself.

hogy irányítsa a képe megjelenését.

Let's see if we can distort that.

Nézzük meg, eltorzíthatjuk-e.

Let's see if we, in the civilized world, can protest against what he did

Nézzük, hogy a civilizált világ képes-e tiltakozni a tette ellen úgy,

through insulting him in his search results."

hogy a keresési eredményein keresztül a becsületébe gázol."

And how?

Hogyan?

He told all of his readers the following,

Nikke azt mondta minden olvasójának:

"Go out there on the Internet,

"Menjetek fel az internetre,

find pictures of dog poop on sidewalks --

keressetek kutyaszaros képeket —,

find pictures of dog poop on sidewalks --

keressetek kutyaszaros képeket —,

publish them in your feeds, on your websites, on your blogs.

tegyétek közzé őket a honlapotokon és blogotokon,

Make sure to write the terrorist's name in the caption,

feltétlenül írjátok a kép alá a terrorista nevét,

make sure to name the picture file "Breivik.jpeg."

a képnek adjátok a "Breivik.jpeg" fájlnevet.

Let's teach Google that that's the face of the terrorist."

Tanítsuk meg a Google-t, hogy ilyen a terrorista pofája."

And it worked.

A dolog bevált.

Two years after that campaign against Michelle Obama,

Két évvel a Michelle Obama elleni kampány után

this manipulation campaign against Anders Behring Breivik worked.

az Anders Behring Breivik elleni manipulációs kampány működött.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Ha Breivik képére keresnek rá Svédországból július 22-e után,

you'd see that picture of dog poop high up in the search results,

az eredmények tömve lesznek kutyaszaros képekkel,

as a little protest.

a tiltakozás apró jeleként.

Strangely enough, Google didn't intervene this time.

Furcsa módon, a Google nem emelt ezúttal kifogást.

They did not step in and manually clean those search results up.

Nem avatkoztak közbe, és nem tisztították meg a kereséseket.

So the million-dollar question,

A millió dolláros kérdés jön:

is there anything different between these two happenings here?

van-e különbség a két esemény között?

Is there anything different between what happened to Michelle Obama

Van-e különbség a Michelle Obama

and what happened to Anders Behring Breivik?

és a Breivikkel történtek között?

Of course not.

Természetesen nincs.

It's the exact same thing,

Teljesen egyformák,

yet Google intervened in one case and not in the other.

ám a Google az egyik esetben közbelépett, de a másikban nem.

Why?

Miért?

Because Michelle Obama is an honorable person, that's why,

Mert Michelle Obama tiszteletre méltó személy,

and Anders Behring Breivik is a despicable person.

míg Anders Behring Breivik aljas gazember.

See what happens there?

Mi történik?

An evaluation of a person takes place

A személyt értékeljük,

and there's only one power-player in the world

és csak egy valódi tekintély létezik,

with the authority to say who's who.

aki megmondja: ki kicsoda.

"We like you, we dislike you.

"Magát szeretjük, magát meg nem.

We believe in you, we don't believe in you.

Magában hiszünk, de magában nem.

You're right, you're wrong. You're true, you're false.

Igaza van, nincs igaza. Maga igaz ember, maga hamis.

You're Obama, and you're Breivik."

Maga Obama, maga pedig Breivik."

That's power if I ever saw it.

Ha jól látom, ez a hatalom.

So I'm asking you to remember that behind every algorithm

Arra kérem önöket, tartsák észben, hogy minden algoritmus mögött

is always a person,

mindig ott egy ember,

a person with a set of personal beliefs

aki telve van személyes meggyőződéssel,

that no code can ever completely eradicate.

s nincs program, amely azt semmissé tehetné.

And my message goes out not only to Google,

Mondandóm nemcsak a Google-ra vonatkozik,

but to all believers in the faith of code around the world.

hanem mindenkire a világon, aki programokban hisz.

You need to identify your own personal bias.

El kell dönteniük, mi a személyes elfogultságuk.

You need to understand that you are human

Meg kell érteniük, hogy emberek,

and take responsibility accordingly.

és ennek megfelelő felelősséget viselnek.

And I say this because I believe we've reached a point in time

Ezt azért hangsúlyozom, mert meggyőződésem:

when it's absolutely imperative

ott tartunk, hogy szükségszerű

that we tie those bonds together again, tighter:

szorosabbra fűzni

the humanities and the technology.

a humanitás és a technológia kötelékét.

Tighter than ever.

Szorosabbra, mint eddig bármikor.

And, if nothing else, to remind us that that wonderfully seductive idea

Ha más nem is, de ez figyelmeztessen bennünket,

of the unbiased, clean search result

hogy az elfogulatlanul tiszta keresési eredmények

is, and is likely to remain, a myth.

csodásan csábító elve csak mítosz, — és az is marad.

Thank you for your time.

Köszönöm a figyelmet.

(Applause)

(Taps)