The moral bias behind your search results | Andreas Ekström

Μετάφραση: Nick Nicolaou Επιμέλεια: Ioannis Papacheimonas

So whenever I visit a school and talk to students,

Όποτε επισκέπτομαι ένα σχολείο και μιλάω σε μαθητές,

I always ask them the same thing:

πάντα τους κάνω την ίδια ερώτηση:

Why do you Google?

Γιατί αναζητείτε στο Google;

Why is Google the search engine of choice for you?

Γιατί το Google είναι η μηχανή αναζήτησης της επιλογής σας;

Strangely enough, I always get the same three answers.

Παράξενα, παίρνω πάντα τις ίδιες τρεις απαντήσεις.

One, "Because it works,"

Πρώτον, «Επειδή δουλεύει,»

which is a great answer; that's why I Google, too.

που είναι καλή απάντηση, γι' αυτό αναζητώ κι εγώ στο Google.

Two, somebody will say,

Δεύτερον, κάποιος θα πει,

"I really don't know of any alternatives."

«Δεν γνωρίζω κι άλλες εναλλακτικές μηχανές αναζήτησης.»

It's not an equally great answer and my reply to that is usually,

Δεν είναι η πιο καλή απάντηση και συνήθως απαντώ,

"Try to Google the word 'search engine,'

«Ψάξε 'μηχανή αναζήτησης' στο Google

you may find a couple of interesting alternatives."

και ίσως βρείς καμιά ενδιαφέρουσα εναλλακτική.»

And last but not least, thirdly,

Τρίτο και τελευταίο,

inevitably, one student will raise her or his hand and say,

σίγουρα κάποιος μαθητής θα σηκώσει το χέρι και θα πεί,

"With Google, I'm certain to always get the best, unbiased search result."

«Με το Google είναι βέβαιος ότι θα πάρω το πιο αμερόληπτο αποτέλεσμα αναζήτησης.»

Certain to always get the best, unbiased search result.

Πάντα βέβαιος να πάρει το πιο καλό, αμερόληπτο αποτέλεσμα αναζήτησης.

Now, as a man of the humanities,

Ως άτομο ανθρωπιστικών επιστημών,

albeit a digital humanities man,

μολονότι ψηφιακών ανθρωπιστικών επιστημών,

that just makes my skin curl,

αυτό με κάνει να ανατριχιάζω,

even if I, too, realize that that trust, that idea of the unbiased search result

έστω αν κι εγώ πιστεύω ότι η ιδέα του αμερόληπτου αποτελέσματος αναζήτησης

is a cornerstone in our collective love for and appreciation of Google.

είναι ακρογωνιαίος λίθος της αγάπης και εκτίμησης μας για τη Google.

I will show you why that, philosophically, is almost an impossibility.

Θα σας δείξω φιλοσοφικά, ότι αυτή η ιδέα είναι αδύνατη.

But let me first elaborate, just a little bit, on a basic principle

Αλλά πρώτα να εξηγήσω λίγο μια βασική αρχή

behind each search query that we sometimes seem to forget.

την οποία ξεχνάμε όταν κάνουμε μία αναζήτηση.

So whenever you set out to Google something,

Όποτε αναζητήσεις κάτι στο Google,

start by asking yourself this: "Am I looking for an isolated fact?"

ρώτα πρώτα τον εαυτό σου: «Ψάχνω για ένα συγκεκριμένο γεγονός;»

What is the capital of France?

π.χ. Ποια είναι η πρωτεύουσα της Γαλλίας;

What are the building blocks of a water molecule?

Ποια είναι τα δομικά στοιχεία ενός μορίου νερού;

Great -- Google away.

Ωραία τότε - αναζήτησε στο Google.

There's not a group of scientists who are this close to proving

Δεν υπάρχει ομάδα επιστημόνων που κοντεύουν να αποδείξουν

that it's actually London and H30.

ότι είναι το Λονδίνο ή Η30 αντίστοιχα.

You don't see a big conspiracy among those things.

Δεν βλέπεις κάποια συνωμοσία σε αυτά τα πράγματα.

We agree, on a global scale,

Συμφωνούμε, σε όλη την υφήλιο,

what the answers are to these isolated facts.

ποιες είναι οι απαντήσεις σε αυτά τα γεγονότα.

But if you complicate your question just a little bit and ask something like,

Αλλά αν περιπλέξεις λίγο την ερώτηση και ρωτήσεις κάτι σαν,

"Why is there an Israeli-Palestine conflict?"

«Γιατί υπάρχει η κρίση Ισραήλ-Παλαιστίνης;»

You're not exactly looking for a singular fact anymore,

Δεν ψάχνεις πια για ένα απλό γεγονός,

you're looking for knowledge,

ψάχνεις για γνώση,

which is something way more complicated and delicate.

που είναι κάτι πιο πολύπλοκο κι ευαίσθητο.

And to get to knowledge,

Και για να φτάσεις στη γνώση,

you have to bring 10 or 20 or 100 facts to the table

πρέπει να φέρεις 10 ή 20 ή 100 γεγονότα στο τραπέζι

and acknowledge them and say, "Yes, these are all true."

να τα αναγνωρίσεις και να πεις, «Ναι, αυτά όλα είναι αληθινά.»

But because of who I am,

Αλλά εξαιτίας αυτού που είμαι,

young or old, black or white, gay or straight,

νέος ή γέρος, μαύρος ή άσπρος, ομοφυλόφιλος ή όχι,

I will value them differently.

θα τα αξιολογήσω διαφορετικά.

And I will say, "Yes, this is true,

Θα πω, «Ναι, αυτό είναι αλήθεια,

but this is more important to me than that."

αλλά αυτό είναι πιο σημαντικό από αυτό.»

And this is where it becomes interesting,

Και εδώ είναι που γίνεται πιο ενδιαφέρον,

because this is where we become human.

επειδή εδώ είναι που γινόμαστε ανθρώπινοι.

This is when we start to argue, to form society.

Εδώ αρχίζουμε να συζητούμε, να σχηματίζουμε κοινωνία.

And to really get somewhere, we need to filter all our facts here,

Και για να φτάσουμε κάπου, χρειάζεται να φιλτράρουμε τα γεγονότα εδώ,

through friends and neighbors and parents and children

μεταξύ φίλων και γειτόνων, γονιών και παιδιών,

and coworkers and newspapers and magazines,

συναδέλφων, εφημερίδων και περιοδικών,

to finally be grounded in real knowledge,

για να καταλήξουμε τελικά σε αληθινή γνώση,

κάτι που μια μηχανή αναζήτησης δεν μπορεί να διεκπεραιώσει σωστά.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Λοιπόν, σας υποσχέθηκα ένα παράδειγμα να σας δείξω γιατί είναι δύσκολο

to get to the point of true, clean, objective knowledge --

να φτάσεις στο σημείο να πάρεις αληθινή, καθαρή, αντικειμενική γνώση -

as food for thought.

σαν τροφή για σκέψη.

I will conduct a couple of simple queries, search queries.

Θα κάνω κανα δυο αναζητήσεις

We'll start with "Michelle Obama,"

Θα αρχίσω με «Μισέλ Ομπάμα»,

the First Lady of the United States.

την Πρώτη Κυρία των Η.Π.Α.

And we'll click for pictures.

Και θα κάνουμε κλικ για εικόνες.

It works really well, as you can see.

Δουλεύει καλά, όπως βλέπετε.

It's a perfect search result, more or less.

Είναι σχεδόν τέλειο αποτέλεσμα αναζήτησης.

It's just her in the picture, not even the President.

Μόνο αυτή είναι στην εικόνα, ούτε καν ο Πρόεδρος.

How does this work?

Πως γίνεται αυτό;

Quite simple.

Αρκετά απλά.

Google uses a lot of smartness to achieve this, but quite simply,

Το Google δουλεύει έξυπνα για να το πετύχει, αλλά βασικά,

they look at two things more than anything.

κοιτά κυρίως για δύο στοιχεία.

First, what does it say in the caption under the picture on each website?

Πρώτο, τι λέει στη λεζάντα της εικόνας σε κάθε ιστοσελίδα;

Does it say "Michelle Obama" under the picture?

Γράφει «Μισέλ Ομπάμα» κάτω από την εικόνα;

Pretty good indication it's actually her on there.

Αρκετά καλή ένδειξη ότι θα είναι αυτή.

Second, Google looks at the picture file,

Δεύτερο, το Google κοιτάζει το αρχείο της εικόνας,

the name of the file as such uploaded to the website.

το όνομα του αρχείου που ανέβηκε στην ιστοσελίδα.

Again, is it called "MichelleObama.jpeg"?

Πάλι, ονομάζεται "MichelleObama.jpeg";

Pretty good indication it's not Clint Eastwood in the picture.

Αρκετά καλή ένδειξη ότι δεν είναι ο Κλιντ Ιστγούντ στην εικόνα.

So, you've got those two and you get a search result like this -- almost.

Οπότε έχεις αυτά τα δύο και παίρνεις αποτέλεσμα σαν αυτό - σχεδόν.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Το 2009 η Μισέλ Ομπάμα ήταν θύμα ρατσιστικής εκστρατείας,

where people set out to insult her through her search results.

όπου άτομα θέλανε να την προσβάλουν μέσω των αποτελεσμάτων αναζήτησης.

There was a picture distributed widely over the Internet

Διαδόθηκε μία εικόνα στο Διαδίκτυο

where her face was distorted to look like a monkey.

που έδειχνε τη φάτσα της σαν πιθήκου.

And that picture was published all over.

Και η εικόνα αυτή διαδόθηκε παντού.

Και άτομα την διέδωσαν με επιτήδειο σκοπό,

And people published it very, very purposefully,

to get it up there in the search results.

να φαίνεται στα αποτελέσματα αναζήτησης.

They made sure to write "Michelle Obama" in the caption

Γράφανε «Μισέλ Ομπάμα» στη λεζάντα

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

και ανεβάζανε την εικόνα με όνομα «MichelleObama.jpeg» ή κάτι παρόμοιο.

You get why -- to manipulate the search result.

Για να παραποιήσουν το αποτέλεσμα αναζήτησης.

And it worked, too.

Και το καταφέρανε.

So when you picture-Googled for "Michelle Obama" in 2009,

Οπότε αν αναζητούσες «Μισέλ Ομπάμα» στο Google το 2009,

that distorted monkey picture showed up among the first results.

η παραποιημένη εικόνα εμφανιζόταν στα πρώτα αποτελέσματα.

Now, the results are self-cleansing,

Τα αποτελέσματα καθαρίζονται αυτόματα,

and that's sort of the beauty of it,

και είναι κάπως ωραίο αυτό,

because Google measures relevance every hour, every day.

επειδή η Google μετρά σχετικότητα κάθε ώρα, κάθε ημέρα.

However, Google didn't settle for that this time,

Ωστόσο η Google δεν το δέχτηκε αυτή τη φορά,

they just thought, "That's racist and it's a bad search result

σκεφτήκανε, «Είναι ρατσιστικό και κακό αποτέλεσμα αναζήτησης

and we're going to go back and clean that up manually.

και θα πρέπει να το καθαρίσουμε ιδιοχειρώς.

We are going to write some code and fix it,"

Θα γράψουμε κώδικα και θα το φτιάξουμε,»

which they did.

το οποίο και έκαναν.

And I don't think anyone in this room thinks that was a bad idea.

Δε νομίζω κανείς σε αυτό το δωμάτιο να πιστεύει ότι αυτό ήταν κακή ιδέα.

Me neither.

Ούτε κι εγώ.

But then, a couple of years go by,

Αλλά μετά, περνάνε δύο χρόνια

and the world's most-Googled Anders,

και ο πιο αναζητούμενος Άντερς,

Anders Behring Breivik,

ο Άντερς Μπέριγκ Μπρέιβικ,

did what he did.

έκανε αυτό που έκανε.

This is July 22 in 2011,

Ήταν 22 Ιουλίου του 2011,

and a terrible day in Norwegian history.

μια τραγική μέρα στην ιστορία της Νορβηγίας.

This man, a terrorist, blew up a couple of government buildings

Αυτός ο άνθρωπος, ένας τρομοκράτης, ανατίναξε κάποια κυβερνητικά γραφεία

walking distance from where we are right now in Oslo, Norway

πολύ κοντά από όπου είμαστε τώρα εδώ στο Όσλο της Νορβηγίας

and then he traveled to the island of Utøya

και μετά πήγε στο νησί της Ούτεγα,

and shot and killed a group of kids.

πυροβόλησε και σκότωσε μια ομάδα παιδιών.

Almost 80 people died that day.

Περίπου 80 άτομα σκοτώθηκαν τότε.

And a lot of people would describe this act of terror as two steps,

Πολλά άτομα περιέγραψαν την ιστορία ως δύο βήματα,

that he did two things: he blew up the buildings and he shot those kids.

ότι έκανε δύο πράματα: ανατίναξε τα κτίρια και σκότωσε τα παιδιά.

It's not true.

Δεν είναι αλήθεια αυτό.

It was three steps.

Ήταν τρία βήματα.

He blew up those buildings, he shot those kids,

Ανατίναξε τα κτίρια, σκότωσε τα παιδιά,

and he sat down and waited for the world to Google him.

μετά περίμενε τον κόσμο να τον αναζητήσει στο Google.

And he prepared all three steps equally well.

Προετοίμασε και τα τρία βήματα εξίσου καλά.

And if there was somebody who immediately understood this,

Κι αν κάποιος το κατάλαβε αυτό αμέσως,

it was a Swedish web developer,

ήταν ένας Σουηδός,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

προγραμματιστής ιστοσελίδων στην Στοκχόλμη, ονόματι Νίκκι Λίντκβιστ.

He's also a very political guy

Ήταν κιόλας ένα πολιτικό άτομο

and he was right out there in social media, on his blog and Facebook.

και ήταν στα κοινωνικά μέσα, την ιστοσελίδα του και στο Facebook.

And he told everybody,

Κι έλεγε σε όλους,

"If there's something that this guy wants right now,

«Αν υπάρχει κάτι που αυτός θέλει τώρα,

it's to control the image of himself.

είναι να ελέγξει την εικόνα του εαυτού του.

Let's see if we can distort that.

Ας δούμε αν μπορούμε να το αλλάξουμε αυτό.

Let's see if we, in the civilized world, can protest against what he did

Ας δούμε, στον πολιτισμένο κόσμο, αν μπορούμε να διαμαρτυρηθούμε σε αυτό

through insulting him in his search results."

με το να τον προσβάλουμε μέσω των αποτελεσμάτων αναζήτησης.»

And how?

Και πώς;

He told all of his readers the following,

Είπε στους αναγνώστες του τα ακόλουθα,

"Go out there on the Internet,

«Πάτε στο Διαδίκτυο,

find pictures of dog poop on sidewalks --

βρείτε εικόνες με περιττώματα σκύλων στα πεζοδρόμια,

find pictures of dog poop on sidewalks --

βρείτε εικόνες με περιττώματα σκύλων,

publish them in your feeds, on your websites, on your blogs.

διαδώστε τις στις ιστοσελίδες σας.

Make sure to write the terrorist's name in the caption,

Σιγουρευτείτε να γράψετε το όνομα του τρομοκράτη στη λεζάντα,

make sure to name the picture file "Breivik.jpeg."

σιγουρευτείτε να ονομάσετε το αρχείο «Breivik.jpeg».

Let's teach Google that that's the face of the terrorist."

Ας μάθουμε στο Google ότι αυτή είναι η φάτσα του τρομοκράτη."

And it worked.

Και δούλεψε.

Two years after that campaign against Michelle Obama,

Δύο χρόνια μετά την εκστρατεία κατά της Μισέλ Ομπάμα,

this manipulation campaign against Anders Behring Breivik worked.

η εκστρατεία αυτή κατά του Αντερς Μπέριγκ Μπρέιβικ δούλεψε.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Αν αναζητούσες εικόνα του στο Google μετά το συμβάν, από την Σουηδία,

you'd see that picture of dog poop high up in the search results,

θα έβλεπες τις εικόνες με τα περιττώματα στα πρώτα αποτελέσματα αναζήτησης,

as a little protest.

σαν μικρή διαμαρτυρία.

Strangely enough, Google didn't intervene this time.

Κατά παράξενο λόγο, η Google δεν επενέβηκε αυτή τη φορά.

They did not step in and manually clean those search results up.

Δεν καθαρίσανε ιδιοχειρώς τα αποτελέσματα αναζήτησης.

So the million-dollar question,

Οπότε η μεγάλη ερώτηση είναι,

is there anything different between these two happenings here?

υπάρχει διαφορά μεταξύ αυτών των δύο περιπτώσεων;

Is there anything different between what happened to Michelle Obama

Διαφέρει αυτό που έγινε στην Μισέλ Ομπάμα

and what happened to Anders Behring Breivik?

από αυτό που έγινε στον Άντερς Μπρέιβικ;

Of course not.

Φυσικά όχι.

It's the exact same thing,

Είναι ακριβώς το ίδιο πράμα,

yet Google intervened in one case and not in the other.

όμως η Google επενέβηκε στην μια περίπτωση κι όχι στην άλλη.

Why?

Γιατί;

Because Michelle Obama is an honorable person, that's why,

Επειδή η Μισέλ Ομπάμα είναι έντιμο άτομο, για αυτό.

and Anders Behring Breivik is a despicable person.

Κι ο Άντερς Μπέριγκ Μπρέιβικ είναι ποταπός άνθρωπος.

See what happens there?

Βλέπετε τι συμβαίνει εδώ;

An evaluation of a person takes place

Γίνεται μια αξιολόγηση ατόμου

and there's only one power-player in the world

και υπάρχει μόνο ένας δυνατός παίκτης στον κόσμο

with the authority to say who's who.

με την εξουσία να πει ποιος είναι ποιος.

"We like you, we dislike you.

«Συμπαθούμε εσένα, εσένα όχι.

We believe in you, we don't believe in you.

Πιστεύουμε σε εσένα, σε σένα όχι.

You're right, you're wrong. You're true, you're false.

Έχεις δίκιο, άδικο. Είσαι σωστός, λάθος.

Είσαι η Ομπάμα, είσαι ο Μπρέιβικ.»

You're Obama, and you're Breivik."

That's power if I ever saw it.

Αυτό είναι δύναμη κατά τη γνώμη μου.

So I'm asking you to remember that behind every algorithm

Σας ζητώ λοιπόν να θυμάστε ότι πίσω από κάθε αλγόριθμο

is always a person,

υπάρχει πάντα ένα άτομο,

a person with a set of personal beliefs

ένα άτομο με δικές του πεποιθήσεις,

τις οποίες κανένας κώδικας δεν μπορεί πλήρως να εξαλείψει.

that no code can ever completely eradicate.

And my message goes out not only to Google,

Και το μήνυμα μου δεν πάει μόνο στην Google,

but to all believers in the faith of code around the world.

αλλά σε όλους παγκόσμια που πιστεύουν στον κώδικα.

Πρέπει να προσδιορίσετε τις δικές σας προκαταλήψεις.

You need to identify your own personal bias.

Πρέπει να καταλάβετε ότι είστε άνθρωποι

You need to understand that you are human

και να αναλογιστείτε τις ευθύνες σας.

and take responsibility accordingly.

And I say this because I believe we've reached a point in time

Και το λέω αυτό γιατί πιστεύω φτάσαμε σε ένα σημείο

when it's absolutely imperative

όπου είναι απόλυτα αναγκαίο

that we tie those bonds together again, tighter:

να δέσουμε αυτά τα δύο μαζί πάλι, σφικτά:

the humanities and the technology.

τις ανθρωπιστικές επιστήμες και την τεχνολογία.

Tighter than ever.

Πιο σφικτά από ποτέ.

And, if nothing else, to remind us that that wonderfully seductive idea

Αν μη τι άλλο, για να θυμόμαστε ότι η θαυμάσια σαγηνευτική ιδέα

of the unbiased, clean search result

του αμερόληπτου, καθαρού αποτελέσματος αναζήτησης

is, and is likely to remain, a myth.

είναι και μάλλον θα παραμείνει ένας μύθος.

Thank you for your time.

Ευχαριστώ για τον χρόνο.

(Applause)

(Χειροκρότημα)