Beware online "filter bubbles" | Eli Pariser

מתרגם: Yubal Masalker מבקר: Ido Dekkers

Mark Zuckerberg,

מארק צוקרברג,

a journalist was asking him a question about the news feed.

עיתונאי שאל אותו על עדכון חדשות שוטף.

And the journalist was asking him,

הוא שאל אותו,

"Why is this so important?"

"מדוע זה כה חשוב?"

And Zuckerberg said,

וצוקרברג ענה

"A squirrel dying in your front yard

שסנאי גוסס בחזית ביתנו

may be more relevant to your interests right now

עשוי להיות יותר רלוונטי לאינטרסים המיידיים שלנו

than people dying in Africa."

מאשר אנשים גוססים באפריקה.

And I want to talk about

אז ברצוני לדבר על

what a Web based on that idea of relevance might look like.

איך אינטרנט המתבסס על הרעיון הנ"ל עשוי להיראות.

So when I was growing up

כאשר גדלתי

in a really rural area in Maine,

באזור כפרי במיין,

the Internet meant something very different to me.

האינטרנט היה בשבילי משהו אחר לגמרי.

It meant a connection to the world.

הוא היה עבורי קשר לעולם.

It meant something that would connect us all together.

הוא היה עבורי משהו העשוי לקשר את כולנו ביחד.

And I was sure that it was going to be great for democracy

והייתי בטוח שהוא הולך להיות נפלא בשביל הדמוקרטיה

and for our society.

והחברה שלנו.

But there's this shift

אבל מול עינינו מתחולל שינוי

in how information is flowing online,

באופן בו המידע זורם ברשת,

and it's invisible.

והשינוי הוא בלתי נראה.

And if we don't pay attention to it,

ואם לא נשים לב לזה,

it could be a real problem.

זו עלולה להיות בעיה רצינית.

So I first noticed this in a place I spend a lot of time --

בפעם הראשונה הבחנתי בזה היכן שאני מבלה המון זמן --

my Facebook page.

דף הפייסבוק שלי.

I'm progressive, politically -- big surprise --

אני ליברל מבחינה פוליטית -- איזו הפתעה --

but I've always gone out of my way to meet conservatives.

אבל תמיד עשיתי הכל כדי לפגוש שמרנים.

I like hearing what they're thinking about;

אני אוהב לשמוע על מה הם חושבים;

I like seeing what they link to;

אני אוהב לראות עם מה הם מקושרים;

I like learning a thing or two.

אני אוהב ללמוד דברים חדשים.

And so I was surprised when I noticed one day

ולכן הופתעתי כאשר הבחנתי יום אחד

that the conservatives had disappeared from my Facebook feed.

שהשמרנים נעלמו מעדכוני הפייסבוק שלי.

And what it turned out was going on

ומה שהתברר הוא

was that Facebook was looking at which links I clicked on,

שפייסבוק עקבה אחריי -- על איזה קישורים אני מקליק,

and it was noticing that, actually,

והיא שמה לב שבעצם

I was clicking more on my liberal friends' links

אני מקליק יותר על קישורים של

than on my conservative friends' links.

חברים ליברליים מאשר אלו של חברים שמרניים.

And without consulting me about it,

ומבלי להתייעץ איתי על כך,

it had edited them out.

היא סיננה אותם החוצה.

They disappeared.

הם נעלמו.

So Facebook isn't the only place

אבל פייסבוק אינה המקום היחיד

that's doing this kind of invisible, algorithmic

אשר מבצע סוג כזה של עריכה

editing of the Web.

אלגוריתמית בלתי נראית ברשת.

Google's doing it too.

גם גוגל עושה את זה.

If I search for something, and you search for something,

אם אני מחפש משהו, ואתם מחפשים משהו,

even right now at the very same time,

אפילו עכשיו, בו-זמנית,

we may get very different search results.

אנו עשויים לקבל תוצאות חיפוש מאוד שונות.

Even if you're logged out, one engineer told me,

גם כאשר יוצאים מהמערכת, סיפר לי מהנדס אחד,

there are 57 signals

ישנם 57 סימנים

that Google looks at --

שגוגל עוקבת אחריהם --

everything from what kind of computer you're on

כל דבר החל מאיזה מחשב אנו משתמשים

to what kind of browser you're using

דרך באיזה דפדפן משתמשים

to where you're located --

ועד למקום בו אנו נמצאים --

that it uses to personally tailor your query results.

והיא משתמשת בהם כדי לתפור לנו את תוצאות חיפושנו.

Think about it for a second:

תחשבו על זה שניה:

there is no standard Google anymore.

אין יותר גוגל זהה לכולם.

And you know, the funny thing about this is that it's hard to see.

ומה שמצחיק בכל זה הוא שקשה להבחין בזה.

You can't see how different your search results are

אי-אפשר לראות כמה שונים תוצאות החיפוש שלך

from anyone else's.

מאלו של מישהו אחר.

But a couple of weeks ago,

אבל לפני כמה שבועות,

I asked a bunch of friends to Google "Egypt"

ביקשתי ממספר חברים לחפש בגוגל "מצרים"

and to send me screen shots of what they got.

ולשלוח לי צילומי מסך של התוצאות שלהם.

So here's my friend Scott's screen shot.

אז הנה צילום מסך של חברי סקוט.

And here's my friend Daniel's screen shot.

וזה של חברי דניאל.

When you put them side-by-side,

כאשר מניחים אותם זה לצד זה,

you don't even have to read the links

אין אפילו צורך לקרוא מה כתוב בתוצאות

to see how different these two pages are.

כדי לראות עד כמה שונים שני העמודים.

But when you do read the links,

אבל כאשר קוראים את התוצאות,

it's really quite remarkable.

זה באמת די מוזר.

Daniel didn't get anything about the protests in Egypt at all

דניאל לא קיבל שום דבר על ההפגנות במצרים

in his first page of Google results.

בעמוד הראשון של התוצאות.

Scott's results were full of them.

אבל התוצאות שסקוט קיבל מלאות בהן.

And this was the big story of the day at that time.

וזה היה אז ה-סיפור של אותו יום.

That's how different these results are becoming.

זה כמה שהתוצאות נעשות שונות.

So it's not just Google and Facebook either.

אבל זה לא רק גוגל ופייסבוק.

This is something that's sweeping the Web.

זה משהו שסוחף איתו את כל הרשת.

There are a whole host of companies that are doing this kind of personalization.

יש מגוון של חברות אשר מבצעות סינון אישי כזה.

Yahoo News, the biggest news site on the Internet,

"חדשות יאהו", אתר החדשות הכי גדול ברשת,

is now personalized -- different people get different things.

הוא עכשיו בעל סינון אישי -- כל אחד מקבל משהו אחר.

Huffington Post, the Washington Post, the New York Times --

"הפינגטון פוסט", ה"וושינגטון פוסט", ה"ניו-יורק טיימס" --

all flirting with personalization in various ways.

כולם מפלרטטים עם סינונים אישיים באופנים שונים.

And this moves us very quickly

וזה לוקח אותנו במהירות

toward a world in which

אל עולם שבו

the Internet is showing us what it thinks we want to see,

האינטרנט מראה לנו את מה שנדמה לו שאנו רוצים לראות,

but not necessarily what we need to see.

אבל לא בהכרח את מה שאנו צריכים לראות.

As Eric Schmidt said,

כפי שאריק שמידט אמר,

"It will be very hard for people to watch or consume something

"יהיה זה בלתי אפשרי לאנשים לראות או לצרוך משהו

that has not in some sense

שבמובן מסויים

been tailored for them."

לא נתפר עבורם."

So I do think this is a problem.

לכן אני סבור שזו אכן בעיה.

And I think, if you take all of these filters together,

ואני חושב שאם נוטלים את כל המסננים ביחד,

you take all these algorithms,

נוטלים את כל האלגוריתמים הללו,

you get what I call a filter bubble.

מקבלים את מה שאני מכנה בועת סינון.

And your filter bubble is your own personal,

ובועת הסינון שלך היא עולם המידע האישי

unique universe of information

והמיוחד שלך

that you live in online.

שאתה חי בו ברשת.

And what's in your filter bubble

ומה שבתוך בועת הסינון שלך

depends on who you are, and it depends on what you do.

תלוי במי שאתה, וזה תלוי במה שאתה עושה.

But the thing is that you don't decide what gets in.

אבל העניין הוא שאינך מחליט מה נכנס לתוכה.

And more importantly,

ויותר חשוב,

you don't actually see what gets edited out.

אינך רואה את מה שמסננים החוצה.

So one of the problems with the filter bubble

את אחת הבעיות

was discovered by some researchers at Netflix.

של בועות הסינון גילו כמה חוקרים מנטפליקס.

And they were looking at the Netflix queues, and they noticed something kind of funny

הם היו מסתכלים בטורי נטפליקס והם שמו לב לדבר מצחיק

that a lot of us probably have noticed,

שרבים מאיתנו בטח שמו לב אליו,

which is there are some movies

והוא שיש כמה סרטים

that just sort of zip right up and out to our houses.

שמגיעים במהירות היישר לביתינו.

They enter the queue, they just zip right out.

הם נכנסים לתור ונפתחים מייד לפנינו.

So "Iron Man" zips right out,

כך ש-"Iron man" נפתח מייד,

and "Waiting for Superman"

ו-"Waiting for Superman"

can wait for a really long time.

יכול לחכות ממש הרבה זמן.

What they discovered

מה שהם מצאו

was that in our Netflix queues

היה שבטורי הנטפליקס שלנו

there's this epic struggle going on

מתנהל מאבק איתנים

between our future aspirational selves

בין העצמי העתידי, השאפתני שלנו

and our more impulsive present selves.

לבין העצמי היותר אימפולסיבי שלנו השייך להווה.

You know we all want to be someone

אנו כולנו שואפים להיות זה

who has watched "Rashomon,"

שראה כבר את "Rashomon",

but right now

אבל ברגע זה ממש

we want to watch "Ace Ventura" for the fourth time.

אנו רוצים לצפות ב-"Ace Ventura" בפעם הרביעית.

(Laughter)

(צחוק)

So the best editing gives us a bit of both.

אז העריכה המוצלחת ביותר נותנת לנו קצת משניהם.

It gives us a little bit of Justin Bieber

היא נותנת לנו קצת מג'סטין ביבר

and a little bit of Afghanistan.

וקצת מאפגניסטן.

It gives us some information vegetables;

היא נותנת לנו קצת מידע על ירקות,

it gives us some information dessert.

וקצת מידע על קינוח.

And the challenge with these kinds of algorithmic filters,

והקושי עם מסננים אלגוריתמיים כאלה,

these personalized filters,

עם המסננים הללו המותאמים אישית,

is that, because they're mainly looking

הוא שבגלל שהם מסתכלים בעיקר

at what you click on first,

על מה שאנו מקליקים עליו ראשון,

it can throw off that balance.

זה יכול להפר את האיזון.

And instead of a balanced information diet,

ואז במקום דיאטת מידע מאוזנת,

you can end up surrounded

נמצא את עצמנו מוקפים

by information junk food.

בג'נק-פוד של מידע.

What this suggests

כל זה מצביע על כך

is actually that we may have the story about the Internet wrong.

שאנו מפספסים את כל מטרת האינטרנט.

In a broadcast society --

בחברה מבוססת שידורים --

this is how the founding mythology goes --

כך על-פי מיתוס ההיווסדות --

in a broadcast society,

בחברה מבוססת שידורים,

there were these gatekeepers, the editors,

היו אלה שומרי-הסף, העורכים,

and they controlled the flows of information.

והם שלטו על ברז המידע.

And along came the Internet and it swept them out of the way,

ואז בא האינטרנט וניפנף אותם הצידה,

and it allowed all of us to connect together,

וזה איפשר לנו להתחבר זה לזה,

and it was awesome.

וזה היה פשוט נפלא.

But that's not actually what's happening right now.

אבל לא זה מה שקורה כעת.

What we're seeing is more of a passing of the torch

מה שאנו עדים לו זה העברת המפתחות

from human gatekeepers

משומרי-סף אנושיים

to algorithmic ones.

לשומרי-סף אלגוריתמיים.

And the thing is that the algorithms

והעניין הוא שהאלגוריתמים

don't yet have the kind of embedded ethics

חסרים עדיין את האתיקה הפנימית

that the editors did.

שהיתה לעורכים.

So if algorithms are going to curate the world for us,

כך שאם האלגוריתמים הולכים לנהל לנו את העולם,

if they're going to decide what we get to see and what we don't get to see,

אם הם הולכים להחליט מה נזכה לראות ומה לא נזכה,

then we need to make sure

אז עלינו לוודא

that they're not just keyed to relevance.

שהם לא מכווננים רק לפי מידת הרלוונטיות.

We need to make sure that they also show us things

עלינו לוודא שהם גם מראים לנו דברים

that are uncomfortable or challenging or important --

שאינם נוחים או שהם מאתגרים או שהם חשובים --

this is what TED does --

זה מה ש-TED עושה --

other points of view.

נקודות מבט שונות.

And the thing is, we've actually been here before

והעניין הוא שכבר היינו בסרט הזה

as a society.

כחברה.

In 1915, it's not like newspapers were sweating a lot

ב-1915, זה לא שלעיתונים היה יותר מדי איכפת

about their civic responsibilities.

מהאחריות האזרחית שלהם.

Then people noticed

ואז אנשים שמו לב

that they were doing something really important.

שהעיתונים עושים משהו באמת חשוב.

That, in fact, you couldn't have

שלמעשה, קשה לקיים

a functioning democracy

דמוקרטיה מתפקדת

if citizens didn't get a good flow of information,

אם אזרחים לא זוכים לזרם שוטף ויעיל של מידע.

that the newspapers were critical because they were acting as the filter,

שהעיתונים היו דבר קריטי, היות והם פעלו בתור מסננים,

and then journalistic ethics developed.

וכך התפתחה אתיקה עיתונאית.

It wasn't perfect,

היא לא היתה מושלמת,

but it got us through the last century.

אבל היא ליוותה אותנו בכל המאה שעברה.

And so now,

ועכשיו,

we're kind of back in 1915 on the Web.

אנו שוב בחזרה במין אותו מצב של 1915, אבל ברשת.

And we need the new gatekeepers

ואנו צריכים ששומרי-הסף החדשים

to encode that kind of responsibility

יקודדו את האחריות הזו,

into the code that they're writing.

בתוך התוכנות שהם כותבים.

I know that there are a lot of people here from Facebook and from Google --

אני יודע שיש כאן הרבה אנשים מפייסבוק וגוגל --

Larry and Sergey --

לארי וסרגיי --

people who have helped build the Web as it is,

אנשים שתרמו לבניית הרשת כפי שהיא,

and I'm grateful for that.

ואני אסיר-תודה על כך.

But we really need you to make sure

אבל אנו באמת צריכים שאתם תוודאו

that these algorithms have encoded in them

שבתוך האלגוריתמים הללו יקודדו

a sense of the public life, a sense of civic responsibility.

גם המודעות לציבור, המודעות לאחריות אזרחית.

We need you to make sure that they're transparent enough

אנו צריכים שאתם תבטיחו שהם יהיו שקופים מספיק

that we can see what the rules are

כדי שנוכל לראות מה הם הכללים

that determine what gets through our filters.

אשר קובעים מה יעבור את הסינון.

And we need you to give us some control

ואנו צריכים שתתנו לנו שליטה מסויימת,

so that we can decide

כך שנוכל להחליט

what gets through and what doesn't.

מה יעבור ומה לא.

Because I think

כי אני סבור

we really need the Internet to be that thing

שאנו באמת צריכים שהאינטרנט יהיה הדבר

that we all dreamed of it being.

שכולנו חלמנו שהוא יהיה.

We need it to connect us all together.

אנו צריכים שהוא יחבר את כולנו זה לזה.

We need it to introduce us to new ideas

אנו צריכים שהוא יביא לפנינו רעיונות חדשים

and new people and different perspectives.

ואנשים חדשים ונקודות מבט שונות.

And it's not going to do that

וזה לא יוכל לקרות

if it leaves us all isolated in a Web of one.

אם זה ישאיר את כולנו מבודדים ברשת השייכת ליחיד.

Thank you.

תודה לכם.

(Applause)

(מחיאות כפיים)