The moral bias behind your search results | Andreas Ekström

מתרגם: Roni Ravia מבקר: Sigal Tifferet

So whenever I visit a school and talk to students,

בכל פעם שאני מבקר בבית ספר ומדבר עם תלמידים,

I always ask them the same thing:

אני תמיד שואל אותם את אותה שאלה:

Why do you Google?

למה אתם משתמשים בגוגל?

Why is Google the search engine of choice for you?

למה גוגל הוא מנוע החיפוש המועדף עליכם?

Strangely enough, I always get the same three answers.

באופן מוזר, אני תמיד מקבל את אותן 3 תשובות:

One, "Because it works,"

הראשונה: ״כי הוא עובד״,

which is a great answer; that's why I Google, too.

שזו תשובה מצויינת, זו גם הסיבה שבגללה אני משתמש בגוגל.

Two, somebody will say,

שנית, מישהו יאמר:

"I really don't know of any alternatives."

״אני לא מכיר חלופה אחרת״.

It's not an equally great answer and my reply to that is usually,

זוהי תשובה פחות טובה ותגובתי לתשובה כזו היא בדרך כלל:

"Try to Google the word 'search engine,'

״נסה לערוך חיפוש בגוגל של המילה ׳מנוע חיפוש׳,

you may find a couple of interesting alternatives."

אולי תמצא כמה חלופות מעניינות״.

And last but not least, thirdly,

ואחרונה חביבה, התשובה השלישית,

inevitably, one student will raise her or his hand and say,

באופן בלתי נמנע אחד או אחת מהתלמידים ירימו את ידם ויאמרו:

"With Google, I'm certain to always get the best, unbiased search result."

״עם גוגל אני בטוח שתמיד אקבל את תוצאת החיפוש הבלתי משוחדת הטובה ביותר״.

Certain to always get the best, unbiased search result.

בטוח שתמיד אקבל את תוצאת החיפוש הבלתי משוחדת הטובה ביותר.

Now, as a man of the humanities,

ובכן, כאדם אנושי

albeit a digital humanities man,

-- ליתר דיוק, אדם אנושי דיגיטלי --

that just makes my skin curl,

תשובה זו גורמת לי הרגשת אי נוחות,

even if I, too, realize that that trust, that idea of the unbiased search result

אף שאני מבין שהאמון הזה, הרעיון הזה של מנוע חיפוש בלתי משוחד

is a cornerstone in our collective love for and appreciation of Google.

הוא אבן היסוד של רגשות האהבה וההערכה שכולנו רוחשים לגוגל.

I will show you why that, philosophically, is almost an impossibility.

אני אראה לכם למה רעיון זה, מבחינה פילוסופית, הינו כמעט בלתי אפשרי.

But let me first elaborate, just a little bit, on a basic principle

אבל ראשית הרשו לי לפרט קצת, על העיקרון הבסיסי

behind each search query that we sometimes seem to forget.

שמאחורי כל שאילתת חיפוש, עיקרון שאנו לפעמים נוטים לשכוח.

So whenever you set out to Google something,

אז בכל פעם שאתם עורכים חיפוש בגוגל,

start by asking yourself this: "Am I looking for an isolated fact?"

שאלו את עצמיכם: ״האם אני מחפש אחר עובדה מבוססת״?

What is the capital of France?

מהי בירת צרפת?

What are the building blocks of a water molecule?

ממה מורכבת מולקולת מים?

Great -- Google away.

נהדר - חפשו בגוגל.

There's not a group of scientists who are this close to proving

זה לא שישנה קבוצת מדענים שקרובים להוכיח

that it's actually London and H30.

שהתשובות הן לונדון ו-H3O.

You don't see a big conspiracy among those things.

אינכם רואים קונספירציות מטורפות סביב נושאים שכאלה.

We agree, on a global scale,

ישנה הסכמה כוללת,

what the answers are to these isolated facts.

על התשובות לעובדות מבוססות מסוג זה.

But if you complicate your question just a little bit and ask something like,

אבל אם תסבכו קלות את שאלתכם ותשאלו משהו כמו:

"Why is there an Israeli-Palestine conflict?"

״מדוע קיים סכסוך ישראלי-פלסטינאי״?

You're not exactly looking for a singular fact anymore,

כבר אינכם מחפשים אחר עובדה בודדת,

you're looking for knowledge,

הנכם מחפשים אחר ידע,

which is something way more complicated and delicate.

שהוא דבר הרבה יותר עדין ומורכב.

And to get to knowledge,

ובכדי לרכוש ידע,

you have to bring 10 or 20 or 100 facts to the table

יש לאסוף 10, 20 או 100 עובדות,

and acknowledge them and say, "Yes, these are all true."

להכיר בקיומן ולומר: ״כן, כל העובדות האלה נכונות״.

But because of who I am,

אבל בגלל מי שאני,

young or old, black or white, gay or straight,

צעיר או זקן, שחור או לבן, הומו או סטרייט,

I will value them differently.

אני אעריך אותן באופן שונה.

And I will say, "Yes, this is true,

ואומר: ״כן, זו עובדה נכונה,

but this is more important to me than that."

אבל העובדה הזו חשובה יותר מהעובדה ההיא״ .

And this is where it becomes interesting,

וכאן זה נהיה מעניין.

because this is where we become human.

כי כאן אנו הופכים לאנושיים,

This is when we start to argue, to form society.

כאן אנו מתחילים להתווכח, לרקום חברה.

And to really get somewhere, we need to filter all our facts here,

ובכדי לעשות עבודה טובה, יש לסנן את כל העובדות שאספנו,

through friends and neighbors and parents and children

מחברים ושכנים והורים וילדים

and coworkers and newspapers and magazines,

וקולגות ועיתונים ומגזינים,

to finally be grounded in real knowledge,

על מנת לרכוש ידע אמיתי,

which is something that a search engine is a poor help to achieve.

וזה משהו שקשה להשיג באמצעות מנוע חיפוש.

So, I promised you an example just to show you why it's so hard

אז, הבטחתי לכם דוגמה רק כדי להדגים לכם כמה זה קשה

to get to the point of true, clean, objective knowledge --

לרכוש ידע אמיתי, נקי ואובייקטיבי --

as food for thought.

כחומר למחשבה.

I will conduct a couple of simple queries, search queries.

אני אנסה שתי שאילתות חיפוש פשוטות.

We'll start with "Michelle Obama,"

נתחיל עם ״מישל אובמה״,

the First Lady of the United States.

הגברת הראשונה של ארה״ב.

And we'll click for pictures.

ונלחץ על תמונות.

It works really well, as you can see.

זה עובד מאוד יפה כפי שאתם רואים.

It's a perfect search result, more or less.

תוצאת חיפוש מושלמת פחות או יותר.

It's just her in the picture, not even the President.

היא לבדה בתמונה, אפילו בלי הנשיא.

How does this work?

כיצד זה עובד?

Quite simple.

פשוט למדי.

Google uses a lot of smartness to achieve this, but quite simply,

אנשי גוגל משתמשים בהרבה חוכמה להשגת תוצאה זו, אבל אם לפשט זאת,

they look at two things more than anything.

הם מסתכלים בעיקר על שני דברים.

First, what does it say in the caption under the picture on each website?

ראשית, מה כתוב בכותרת שמתחת לתמונה בכל אתר?

Does it say "Michelle Obama" under the picture?

האם כתוב ״מישל אובמה״ מתחת לתמונה?

Pretty good indication it's actually her on there.

זה מצביע כמעט בודאות על כך שזאת אכן היא בתמונה.

Second, Google looks at the picture file,

שנית, גוגל בוחן את קובץ התמונה,

the name of the file as such uploaded to the website.

שם הקובץ שהועלה על האתר.

Again, is it called "MichelleObama.jpeg"?

שוב, האם הוא נקרא ״מישל אובמה.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

סיכוי די גבוה שאין זו תהיה תמונה של קלינט איסטווד.

So, you've got those two and you get a search result like this -- almost.

אז בזכות שני אלה פחות או יותר, מתקבלת תוצאת חיפוש שכזו.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

ובכן, ב-2009, מישל אובמה הייתה קורבן של מסע תעמולה גזעני,

where people set out to insult her through her search results.

שבו אנשים ניסו להשמיצה דרך תוצאות שאילתת החיפוש של שמה.

There was a picture distributed widely over the Internet

הייתה תמונה שהופצה באתרי אינטרנט רבים

where her face was distorted to look like a monkey.

שבה פנייה עוותו בכדי שתדמה לקוף.

And that picture was published all over.

ותמונה זו פורסמה באינסוף מקומות.

And people published it very, very purposefully,

ואנשים פרסמו תמונה זו עם כוונה ברורה

to get it up there in the search results.

לגרום לה להגיע לראש דפי תוצאות החיפוש.

They made sure to write "Michelle Obama" in the caption

הם וידאו שיהיה כתוב ״מישל אובמה״ בכותרת

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

והם וידאו שהתמונה תועלה בקובץ בשם ״מישל אובמה.jpeg" או משהו דומה.

You get why -- to manipulate the search result.

אתם מבינים למה -- על מנת לתמרן את תוצאות החיפוש.

And it worked, too.

וזה אכן עבד.

So when you picture-Googled for "Michelle Obama" in 2009,

אז בשנת 2009 כשחיפשתם בגוגל תמונות של מישל אובמה,

that distorted monkey picture showed up among the first results.

תמונת הקוף המעוותת הופיעה בראש דפי תוצאות החיפוש.

Now, the results are self-cleansing,

אבל תוצאות החיפוש מתנקות בעצמן.

and that's sort of the beauty of it,

וזה בעצם היופי שבהן,

because Google measures relevance every hour, every day.

כי גוגל מודד רלוונטיות בכל שעה בכל יום נתון.

However, Google didn't settle for that this time,

אבל בגוגל לא הסכימו עם תוצאה זו,

they just thought, "That's racist and it's a bad search result

הם חשבו לעצמם: ״זוהי גזענות, זוהי אינה תוצאת חיפוש רצוייה

and we're going to go back and clean that up manually.

ואנו נמחק אותה באופן ידני.

We are going to write some code and fix it,"

נכתוב איזה קוד ונתקן את תוצאות החיפוש״.

which they did.

וכך הם עשו.

And I don't think anyone in this room thinks that was a bad idea.

ואינני חושב שמישהו כאן בחדר זה חושב שזה היה רעיון גרוע.

Me neither.

גם אני לא חושב כך.

But then, a couple of years go by,

אבל אז, חלפו כשנתיים,

and the world's most-Googled Anders,

והאנדרס הכי פופולרי בחיפוש בגוגל,

Anders Behring Breivik,

אנדרס ברינג בריוויק,

did what he did.

עשה מה שעשה.

This is July 22 in 2011,

ב-22 ליולי 2011,

and a terrible day in Norwegian history.

יום נוראי בהיסטוריה של נורבגיה.

This man, a terrorist, blew up a couple of government buildings

אדם זה, טרוריסט, פוצץ שני בניינים ממשלתיים

walking distance from where we are right now in Oslo, Norway

מרחק הליכה ממקום המצאותנו ברגע זה באוסלו שבנורבגיה,

and then he traveled to the island of Utøya

ואז הוא נסע לאי אוטייה,

and shot and killed a group of kids.

וירה למוות בקבוצת ילדים.

Almost 80 people died that day.

כמעט 80 איש מתו באותו יום.

And a lot of people would describe this act of terror as two steps,

הרבה אנשים יתארו מעשה טרור זה בשני שלבים,

that he did two things: he blew up the buildings and he shot those kids.

הוא עשה שני דברים: פוצץ את הבניינים וירה בילדים.

It's not true.

זה לא נכון.

It was three steps.

היו שלושה שלבים.

He blew up those buildings, he shot those kids,

הוא פוצץ את הבניינים, ירה בילדים,

and he sat down and waited for the world to Google him.

ואז הוא ישב וחיכה שהעולם יבצע עליו חיפוש בגוגל.

And he prepared all three steps equally well.

והוא תכנן ביסודיות כל אחד משלבים אלה.

And if there was somebody who immediately understood this,

ומי שעלה על זה באופן מיידי,

it was a Swedish web developer,

היה מתכנת אינטרנט שוודי,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

מומחה משטוקהולם לקידום אתרים במנועי חיפוש בשם ניקה לינדקוויסט.

He's also a very political guy

הוא גם אדם מאוד פוליטי,

and he was right out there in social media, on his blog and Facebook.

והוא יצא כנגד זה במיידיות במדיה החברתית, בבלוג ובדף הפייסבוק שלו.

And he told everybody,

והוא אמר לכולם:

"If there's something that this guy wants right now,

״אם יש דבר אחד שהאיש הזה רוצה מאוד כרגע,

it's to control the image of himself.

זה לשלוט בתדמית שלו.

Let's see if we can distort that.

בואו ונראה אם אנו יכולים לעוות את תדמית זו.

Let's see if we, in the civilized world, can protest against what he did

בואו ונראה אם אנו, האנשים התרבותיים, יכולים למחות כנגד מעשיו

through insulting him in his search results."

על ידי שנשמיץ אותו דרך תוצאות שאילתת החיפוש של שמו״.

And how?

וכיצד?

He told all of his readers the following,

הוא אמר לכל קוראיו:

"Go out there on the Internet,

״ערכו חיפוש באינטרנט,

find pictures of dog poop on sidewalks --

מצאו תמונות של קקי של כלב על מדרכה --

find pictures of dog poop on sidewalks --

מצאו תמונות של קקי של כלב על מדרכה --

publish them in your feeds, on your websites, on your blogs.

פרסמו אותן בדפי המדייה החברתית שלכם, באתר הבית שלכם, בבלוג שלכם,

Make sure to write the terrorist's name in the caption,

ודאו ששמו של הטרוריסט נמצא בכותרת,

make sure to name the picture file "Breivik.jpeg."

ודאו ששם הקובץ של התמונה הוא ״בריוויק.jpeg".

Let's teach Google that that's the face of the terrorist."

בואו נלמד את מנוע החיפוש של גוגל שכך נראה הטרוריסט״.

And it worked.

וזה עבד.

Two years after that campaign against Michelle Obama,

שנתיים לאחר מסע התעמולה כנגד מישל אובמה,

this manipulation campaign against Anders Behring Breivik worked.

מסע התעמולה המניפולטיבי הזה כנגד אנדרס ברינג בריוויק עבד.

If you picture-Googled for him weeks after the July 22 events from Sweden,

אם ערכתם חיפוש של תמונות שלו בגוגל, שבועות לאחר מאורעות ה-22 ליולי, משוודיה,

you'd see that picture of dog poop high up in the search results,

הייתם רואים תמונות קקי של כלב, בראש דף תוצאות החיפוש,

as a little protest.

כמחאה קטנה.

Strangely enough, Google didn't intervene this time.

באופן מוזר, אנשי גוגל לא התערבו הפעם.

They did not step in and manually clean those search results up.

הם החליטו שלא למחוק ידנית את תוצאות החיפוש הללו.

So the million-dollar question,

אז שאלת מיליון הדולר היא:

is there anything different between these two happenings here?

האם יש שוני בין שני המקרים שלפנינו?

Is there anything different between what happened to Michelle Obama

האם יש שוני בין מה שקרה למישל אובמה

and what happened to Anders Behring Breivik?

לבין מה שקרה לאנדרס ברינג בריוויק?

Of course not.

ודאי שלא.

It's the exact same thing,

זה בדיוק אותו דבר.

yet Google intervened in one case and not in the other.

ובכל זאת, גוגל התערב במקרה אחד ולא בשני.

Why?

למה?

Because Michelle Obama is an honorable person, that's why,

כי מישל אובמה היא אדם מכובד, זו הסיבה.

and Anders Behring Breivik is a despicable person.

ואנדרס ברינג בריוויק הוא אדם נבזה.

See what happens there?

אתם מבינים מה קרה פה?

An evaluation of a person takes place

קרה פה תהליך הערכה של אדם,

and there's only one power-player in the world

ויש בעולם רק גורם בר-כח אחד,

with the authority to say who's who.

עם הסמכות לומר מי הוא מי.

"We like you, we dislike you.

״אנו אוהבים אותך, אנו שונאים אותך.

We believe in you, we don't believe in you.

אנו מאמינים בך, אנחנו לא מאמינים בך.

You're right, you're wrong. You're true, you're false.

אתה צודק, אתה טועה. אתה אמיתי, אתה שקרי.

את אובמה ואתה בריוויק״.

You're Obama, and you're Breivik."

That's power if I ever saw it.

זהו בברור שימוש בכח.

So I'm asking you to remember that behind every algorithm

אז אני מבקש מכם לזכור שמאחורי כל אלגוריתם

is always a person,

תמיד מסתתר אדם,

a person with a set of personal beliefs

אדם עם אמונות אישיות

that no code can ever completely eradicate.

שאף קוד בעולם לא מסוגל לעקרן.

And my message goes out not only to Google,

והמסר שלי מכוון לא רק לגוגל,

but to all believers in the faith of code around the world.

אלא לכל מאמיני דת הקוד ברחבי העולם.

You need to identify your own personal bias.

אתם צריכים להכיר בנטיות שלכם.

You need to understand that you are human

אתם צריכים להבין שאתם אנושיים

and take responsibility accordingly.

ולקחת אחריות בהתאם.

And I say this because I believe we've reached a point in time

ואני אומר זאת כי אני מאמין שהגענו לנקודה בזמן

when it's absolutely imperative

שבה בהחלט חייבים

that we tie those bonds together again, tighter:

להדק מחדש את הקשרים, ביתר חוזקה:

the humanities and the technology.

אנושיות וטכנולוגיה.

Tighter than ever.

הדוקים יותר מתמיד.

And, if nothing else, to remind us that that wonderfully seductive idea

ולהזכיר לעצמינו מעל לכל שהרעיון הנפלא והמפתה הזה

of the unbiased, clean search result

של תוצאת חיפוש נקייה ובלתי משוחדת

is, and is likely to remain, a myth.

הינו, וודאי ישאר, אגדה.

Thank you for your time.

תודה על שהקדשתם מזמנכם.

(Applause)

(מחיאות כפיים)