The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

תרגום: Shlomo Adam עריכה: Ido Dekkers

I'm James.

אני ג'יימס.

I'm a writer and artist,

אני סופר ואמן,

and I make work about technology.

והיצירות שלי עוסקות בטכנולוגיה.

I do things like draw life-size outlines of military drones

למשל, מתווה בגודל אמיתי של מזל"ט צבאי

in city streets around the world,

ברחובות ערים בעולם,

so that people can start to think and get their heads around

כדי לעורר אנשים לחשוב ולהבין

these really quite hard-to-see and hard-to-think-about technologies.

את הטכנולוגיות האלה, שרחוקות מהעין ומהלב.

I make things like neural networks that predict the results of elections

אני גם יוצר דברים כמו רשתות עצביות שחוזות תוצאות של בחירות

based on weather reports,

על יסוד דיווחי מזג אוויר,

כי מסקרנות אותי האפשרויות הממשיות שטמונות בטכנולגיות החדשות והמשונות האלה.

because I'm intrigued about

what the actual possibilities of these weird new technologies are.

Last year, I built my own self-driving car.

בשנה שעברה בניתי מכונית אוטונומית,

But because I don't really trust technology,

אבל היות שאינני סומך על הטכנולוגיה,

I also designed a trap for it.

תכננתי גם מלכודת עבורה.

(Laughter)

(צחוק)

And I do these things mostly because I find them completely fascinating,

ואני עושה דברים אלה בעיקר כי הם לגמרי מרתקים אותי,

but also because I think when we talk about technology,

אבל גם משום שכאשר אנו מדברים על טכנולוגיה,

we're largely talking about ourselves

זה בד"כ עוסק בעצמנו ובאופן הבנתנו את העולם.

and the way that we understand the world.

So here's a story about technology.

אז הרי לכם סיפור על טכנולוגיה.

This is a "surprise egg" video.

זהו סרטון "ביצת הפתעה" (surprise egg).

It's basically a video of someone opening up loads of chocolate eggs

בעקרון, הוא מראה מישהו שפותח המון ביצי שוקולד

and showing the toys inside to the viewer.

ומראה לצופה את הצעצועים שבתוכן.

That's it. That's all it does for seven long minutes.

זה הכל. זה כל מה שקורה במשך שבע דקות תמימות.

And I want you to notice two things about this.

ואני רוצה שתשימו לב לשני דברים בו.

First of all, this video has 30 million views.

קודם כל, לסרטון הזה יש 30 מיליון צפיות.

(Laughter)

(צחוק)

And the other thing is,

והדבר הנוסף הוא,

it comes from a channel that has 6.3 million subscribers,

הוא מוקרן בערוץ של 6.3 מיליון מנויים,

that has a total of eight billion views,

וצפיות בסך שמונה מיליארד,

and it's all just more videos like this --

והוא מכיל רק סרטונים כמו זה -

30 million people watching a guy opening up these eggs.

30 מיליון אנשים צופים במישהו שפותח את הביצים האלה.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

נשמע משונה, אבל אם תחפשו "ביצי הפתעה" ביו-טיוב,

it'll tell you there's 10 million of these videos,

התוצאה תהיה 10 מיליון סרטונים כאלה,

and I think that's an undercount.

ולדעתי, אלה אינם כולם, ויש הרבה, הרבה יותר כאלה.

I think there's way, way more of these.

If you keep searching, they're endless.

אם תמשיכו לחפש, תגלו שהכמות היא אינסופית.

There's millions and millions of these videos

יש מיליונים רבים של סרטונים כאלה

in increasingly baroque combinations of brands and materials,

עם עוד ועוד צירופים בארוקיים של מותגים וחומרים,

and there's more and more of them being uploaded every single day.

ועוד ועוד כאלה מועלים לרשת בכל יום ויום.

Like, this is a strange world. Right?

עולם מוזר, נכון?

But the thing is, it's not adults who are watching these videos.

אבל העניין הוא, שלא מבוגרים צופים בסרטונים האלה,

It's kids, small children.

אלא ילדים, ילדים קטנים.

These videos are like crack for little kids.

הסרטונים האלה הם כמו קראק לילדים קטנים.

There's something about the repetition,

יש משהו בחזרתיות,

the constant little dopamine hit of the reveal,

במנת הדופמין הקבועה של רגע החשיפה,

that completely hooks them in.

שממכר אותם לגמרי.

And little kids watch these videos over and over and over again,

וילדים קטנים צופים בסרטונים האלה שוב ושוב ושוב,

and they do it for hours and hours and hours.

במשך שעות על גבי שעות.

And if you try and take the screen away from them,

ואם תנסו לנתק אותם מהמסך הם יצרחו ויצרחו ויצרחו.

they'll scream and scream and scream.

If you don't believe me --

אם אינכם מאמינים לי - וראיתי בקהל אנשים שמנידים בראשם -

and I've already seen people in the audience nodding --

אם אינכם מאמינים לי, מיצאו מישהו עם ילדים קטנים ושאלו אותו,

if you don't believe me, find someone with small children and ask them,

ויתברר שהוא מכיר את סרטוני ביצי ההפתעה.

and they'll know about the surprise egg videos.

So this is where we start.

אז נתחיל מזה.

It's 2018, and someone, or lots of people,

השנה היא 2018 ומישהו, או הרבה אנשים,

are using the same mechanism that, like, Facebook and Instagram are using

משתמשים באותו מנגנון שבו משתמשים "פייסבוק" ו"אינסטגרם"

to get you to keep checking that app,

שגורם לכם לבדוק כל הזמן את היישומון,

and they're using it on YouTube to hack the brains of very small children

והם משתמשים בזה ב"יו-טיוב" כדי להיכנס למוח של ילדים קטנים מאד

in return for advertising revenue.

בתמורה להכנסות מפרסומות.

At least, I hope that's what they're doing.

לפחות, זה מה שהם עושים, אני מקווה.

I hope that's what they're doing it for,

אני מקווה שזאת המטרה שלהם,

because there's easier ways of making ad revenue on YouTube.

כי יש דרך קלה יותר להרוויח ב"יו-טיוב" מפרסומות.

You can just make stuff up or steal stuff.

אפשר פשוט להמציא או לגנוב דברים.

So if you search for really popular kids' cartoons

אז אם תחפשו קומיקס לילדים פופולרי באמת

like "Peppa Pig" or "Paw Patrol,"

כמו "פפר פיג" או "פאו פטרול",

you'll find there's millions and millions of these online as well.

תמצאו ברשת גם מהם מיליונים רבים.

Of course, most of them aren't posted by the original content creators.

ברור שאף לא אחד מהם הועלה בידי יוצרי התוכן המקוריים.

They come from loads and loads of different random accounts,

הם מגיעים מהמוני חשבונות אקראיים,

and it's impossible to know who's posting them

ואי-אפשר לדעת מי מעלה אותם

או מהם המניעים שלהם.

or what their motives might be.

Does that sound kind of familiar?

נשמע לכם מוכר?

Because it's exactly the same mechanism

זהו הרי בדיוק אותו המנגנון של מרבית השירותים הדיגיטליים שלנו:

that's happening across most of our digital services,

אי-אפשר לדעת מניין מגיע המידע הזה.

where it's impossible to know where this information is coming from.

It's basically fake news for kids,

מדובר בעקרון בחדשות כוזבות לילדים,

and we're training them from birth

ואנו מאמנים אותם מילדות

to click on the very first link that comes along,

להקליק על הקישור הראשון שמופיע,

regardless of what the source is.

ולא משנה מה מקורו.

That's doesn't seem like a terribly good idea.

זה לא נראה רעיון טוב במיוחד.

Here's another thing that's really big on kids' YouTube.

הנה עוד משהו ב"יו-טיוב" שעובד יפה על ילדים.

This is called the "Finger Family Song."

זה קרוי "שיר משפחת האצבעות".

I just heard someone groan in the audience.

שמעתי שוב מישהו גונח בקהל.

זהו "שיר משפחת האצבעות".

This is the "Finger Family Song."

This is the very first one I could find.

זה הכי מוקדם שמצאתי.

It's from 2007, and it only has 200,000 views,

הוא מ-2007, ויש לו רק 200,000 צפיות,

which is, like, nothing in this game.

שזה כלום,

But it has this insanely earwormy tune,

אבל יש לו מנגינה מטמטמת עד טירוף,

which I'm not going to play to you,

ואני לא אשמיע לכם אותה,

כי היא תיצרב לכם במוח

because it will sear itself into your brain

in the same way that it seared itself into mine,

כפי שנצרבה אצלי,

and I'm not going to do that to you.

ולא אעולל לכם את זה.

But like the surprise eggs,

אבל כמו ביצי ההפתעה,

it's got inside kids' heads

זה נכנס לראש של הילדים וגרם להם להתמכר.

and addicted them to it.

So within a few years, these finger family videos

אז בתוך כמה שנים סרטוני משפחת האצבעות

החלו להופיע בכל מקום,

start appearing everywhere,

and you get versions in different languages

עם גרסאות בשפות שונות

with popular kids' cartoons using food

עם דמויות מוכרות מקומיקס ילדים שמשתמשות באוכל

or, frankly, using whatever kind of animation elements

ובעצם, כל פריט אנימציה שיש בסביבה.

you seem to have lying around.

And once again, there are millions and millions and millions of these videos

ושוב, יש מיליונים על מיליונים על מיליוני סרטונים כאלה

available online in all of these kind of insane combinations.

שאפשר למצוא ברשת בכל שילוב מטורף.

And the more time you start to spend with them,

וככל שמבזבזים עליהם יותר זמן,

the crazier and crazier you start to feel that you might be.

כך מתחילים להרגיש יותר ויותר מטורפים.

And that's where I kind of launched into this,

וכאן בערך נכנסתי לזה אני,

that feeling of deep strangeness and deep lack of understanding

עם הרגשה של זרות עמוקה וחוסר-הבנה עמוק

of how this thing was constructed that seems to be presented around me.

איך הדבר הזה נבנה ומוגש לכולם מסביבי.

Because it's impossible to know where these things are coming from.

כי אי-אפשר לדעת מניין הדברים האלה באים.

כאילו, מי יוצר אותם?

Like, who is making them?

Some of them appear to be made of teams of professional animators.

חלקם נראים כאילו נוצרו ע"י צוותי אמני הנפשה מקצועיים,

Some of them are just randomly assembled by software.

חלקם - כאילו הורכבו באופן אקראי ע"י תוכנה,

Some of them are quite wholesome-looking young kids' entertainers.

חלקם נראים כמו בידור ילדים מועיל,

And some of them are from people

וחלקם מגיעים מאנשים שברור שאסור להרשות להם להתקרב לילדים.

who really clearly shouldn't be around children at all.

(צחוק)

(Laughter)

And once again, this impossibility of figuring out who's making this stuff --

ושוב, חוסר האפשרות לגלות מי עושה את זה --

like, this is a bot?

תוכנה רובוטית? אדם? טרול?

Is this a person? Is this a troll?

What does it mean that we can't tell the difference

מה המשמעות של חוסר יכולתנו להבדיל יותר בין הדברים האלה?

between these things anymore?

And again, doesn't that uncertainty feel kind of familiar right now?

ושוב, האם חוסר הוודאות הזה מוכר?

So the main way people get views on their videos --

השיטה העיקרית שבה אנשים משיגים צפיות בסרטונים שלהם --

and remember, views mean money --

וזיכרו, צפיות שוות כסף --

is that they stuff the titles of these videos with these popular terms.

היא לדחוס בכותרות הסרטונים מונחים פופולריים.

So you take, like, "surprise eggs"

אתם לוקחים למשל את "ביצי הפתעה"

and then you add "Paw Patrol," "Easter egg,"

ואז אתם מוסיפים "פאו פטרול", "ביצת פסחא," מה שזה לא יהיה,

or whatever these things are,

כל מיני מלים ממשחקי מחשב פופולריים,

all of these words from other popular videos into your title,

ובסוף מתקבלת תערובת לשונית חסרת-פשר

until you end up with this kind of meaningless mash of language

that doesn't make sense to humans at all.

שבכלל אינה מובנת לבני-אדם.

Because of course it's only really tiny kids who are watching your video,

כי כמובן, רק ילדים צופים בסרטון שלכם,

and what the hell do they know?

ומה הם מבינים בכלל מהחיים שלהם?

Your real audience for this stuff is software.

הקהל האמיתי של הדברים האלה הוא תוכנה,

It's the algorithms.

האלגוריתם,

It's the software that YouTube uses

התוכנה שבה משתמשת "יו-טיוב"

to select which videos are like other videos,

כדי לבחור אילו סרטונים דומים לאחרים,

to make them popular, to make them recommended.

כדי להפיץ אותם ולהמליץ עליהם.

And that's why you end up with this kind of completely meaningless mash,

ולכן אתם מקבלים תערובת מלים בלתי-מובנת לחלוטין

both of title and of content.

גם בכותרת וגם בתוכן.

But the thing is, you have to remember,

אבל עליכם לזכור

there really are still people within this algorithmically optimized system,

שעדיין יש אנשים בתוך המערכת ממוטבת-האלגוריתם הזאת,

people who are kind of increasingly forced to act out

אנשים שנאלצים יותר ויותר לגלם

את הצירופים היותר ויותר מוזרים של מלים,

these increasingly bizarre combinations of words,

like a desperate improvisation artist responding to the combined screams

כמו אמן אלתור נואש שמגיב לצעקותיהם

של מיליון פעוטים בבת-אחת.

of a million toddlers at once.

There are real people trapped within these systems,

יש אנשים אמיתיים שלכודים בתוך המערכות האלה,

and that's the other deeply strange thing about this algorithmically driven culture,

וזה הדבר המוזר להפליא השני בתרבות מבוססת האלגוריתמים הזאת,

because even if you're human,

כי אפילו אם אתה אנושי,

מתישהו אתה נאלץ להתנהג כמו מכונה רק כדי לשרוד.

you have to end up behaving like a machine

just to survive.

וגם, בעברו השני של הצג,

And also, on the other side of the screen,

there still are these little kids watching this stuff,

עדיין ישנם ילדים קטנים שצופים בדברים האלה,

stuck, their full attention grabbed by these weird mechanisms.

הם תקועים שם

והמנגנונים המוזרים האלה לוכדים את מלוא תשומת ליבם.

And most of these kids are too small to even use a website.

ורוב הילדים האלה קטנים מכדי לדעת אפילו להשתמש באתר אינטרנט.

They're just kind of hammering on the screen with their little hands.

הם רק חובטים במסך בידיהם הקטנות.

And so there's autoplay,

לשם כך הומצא ה"אוטופליי", הניגון האוטומטי,

where it just keeps playing these videos over and over and over in a loop,

שממשיך להקרין את הסרטונים האלה שוב ושוב ושוב,

ללא הרף, במשך שעות על גבי שעות.

endlessly for hours and hours at a time.

And there's so much weirdness in the system now

ויש היום כל-כך הרבה מוזרות במערכת,

that autoplay takes you to some pretty strange places.

שה"אוטופליי" לוקח אתכם למקומות משונים למדי.

This is how, within a dozen steps,

וכך, בתוך שנים-עשר שלבים,

you can go from a cute video of a counting train

אתם יכולים להגיע מסרטון חמוד של רכבת מספרים

to masturbating Mickey Mouse.

למיקי מאוס מאונן.

Yeah. I'm sorry about that.

כן. סליחה על זה.

This does get worse.

וזה הולך ונעשה גרוע יותר.

This is what happens

זה מה שקורה

when all of these different keywords,

כשכל מילות המפתח השונות,

all these different pieces of attention,

כל פיסות תשומת הלב השונות,

this desperate generation of content,

הפקת התוכן הנואשת הזאת,

all comes together into a single place.

הכל מתחבר באותו המקום.

This is where all those deeply weird keywords come home to roost.

לכאן מגיעות לקנן כל מילות המפתח המוזרות מאד.

You cross-breed the finger family video

מכליאים את סרטון משפחת האצבעות

with some live-action superhero stuff,

עם סרט מצולם של גיבור-על,

you add in some weird, trollish in-jokes or something,

מוסיפים כמה בדיחות טרוליות מוזרות או משהו כזה,

and suddenly, you come to a very weird place indeed.

ולפתע אתם מגיעים למקום משונה בהחלט.

The stuff that tends to upset parents

הדברים האלה, שמעצבנים את ההורים,

is the stuff that has kind of violent or sexual content, right?

הם אלה שיש בהם תוכן מיני או אלים כלשהו, נכון?

Children's cartoons getting assaulted,

דמות מקומיקס ילדים שמותקפת,

getting killed,

שנרצחת,

weird pranks that actually genuinely terrify children.

מעשי קונדס מוזרים שממש מפחידים ילדים.

What you have is software pulling in all of these different influences

מדובר בעצם בתוכנה שמושכת אליה כל מיני השפעות

to automatically generate kids' worst nightmares.

כדי ליצור באופן אוטומטי את הסיוט הכי נורא לילדים.

And this stuff really, really does affect small children.

והדברים האלה באמת ובתמים משפיעים על ילדים קטנים.

Parents report their children being traumatized,

הורים מדווחים על ילדים מוכי טראומה,

becoming afraid of the dark,

ילדים שפוחדים מהחושך,

becoming afraid of their favorite cartoon characters.

שפוחדים מדמויות הקומיקס האהובות שלהם.

If you take one thing away from this, it's that if you have small children,

אם תלמדו היום לקח אחד בלבד, הרי זה שאם יש לכם ילדים קטנים,

keep them the hell away from YouTube.

הרחיקו אותם ככל האפשר מ"יו-טיוב".

(Applause)

(מחיאות כפיים)

But the other thing, the thing that really gets to me about this,

אבל הדבר הנוסף, מה שממש מרגיז אותי בקשר לזה,

is that I'm not sure we even really understand how we got to this point.

הוא שאני לא בטוח שאנו בכלל יודעים איך הגענו למצב הזה.

We've taken all of this influence, all of these things,

צירפנו ביחד את כל ההשפעה הזאת, את כל הדברים האלה,

and munged them together in a way that no one really intended.

ועוללנו נזק שאיש לא התכוון לעולל.

And yet, this is also the way that we're building the entire world.

ועם זאת, ככה גם אנו בונים את העולם כולו.

אנו לוקחים את כל הנתונים האלה,

We're taking all of this data,

a lot of it bad data,

הרבה מהם נתונים רעים,

a lot of historical data full of prejudice,

המון נתונים היסטוריים מלאי דעות קדומות,

full of all of our worst impulses of history,

מלאים בכל הדחפים ההיסטוריים הכי גרועים שלנו,

and we're building that into huge data sets

ואנו הופכים את זה למערכי נתונים ענקיים

and then we're automating it.

ומכניסים לזה אוטומציה

And we're munging it together into things like credit reports,

ומשסים את הנזק הזה בדברים כמו דיווחי אשראי,

into insurance premiums,

פרמיות ביטוח,

into things like predictive policing systems,

דברים כמו מערכות חיזוי מדיניות,

into sentencing guidelines.

הנחיות שיפוט,

This is the way we're actually constructing the world today

כך בעצם אנו בונים היום את העולם על יסוד נתונים אלה.

out of this data.

And I don't know what's worse,

ואינני יודע מה גרוע יותר,

that we built a system that seems to be entirely optimized

שאנו בונים מערכת שכנראה ממוטבת כולה

for the absolute worst aspects of human behavior,

לפי ההיבטים הכי גרועים בהתנהגות האנושית,

or that we seem to have done it by accident,

או שככל הנראה, עשינו את זה בטעות,

without even realizing that we were doing it,

מבלי להבין אפילו שאנו עושים זאת,

because we didn't really understand the systems that we were building,

בגלל שלא באמת הבנו את המערכות שאנו בונים,

and we didn't really understand how to do anything differently with it.

ולא באמת הבנו איך לעשות משהו שונה.

There's a couple of things I think that really seem to be driving this

לדעתי יש כמה דברים שכנראה מניעים את זה

הכי חזק ב"יו-טיוב",

most fully on YouTube,

והראשון הוא הפרסום,

and the first of those is advertising,

which is the monetization of attention

הפיכת תשומת-הלב למטבע

בלי שום משתנים נוספים,

without any real other variables at work,

any care for the people who are actually developing this content,

בלי שום התייחסות לאנשים שמפתחים את התוכן,

the centralization of the power, the separation of those things.

ריכוז הכוח, ההפרדה של הדברים האלה.

And I think however you feel about the use of advertising

ולדעתי, תחשבו מה שתחשבו על השימוש בפרסום כדי לקדם דברים,

to kind of support stuff,

המראה של גברים מבוגרים בחיתולים שמתגלגלים בחול

the sight of grown men in diapers rolling around in the sand

in the hope that an algorithm that they don't really understand

בתקווה שאיזה אלגוריתם שהם לא ממש מבינים

ישלם להם על זה

will give them money for it

suggests that this probably isn't the thing

אומר שכנראה לא זה הדבר

that we should be basing our society and culture upon,

שעליו עלינו לבסס את החברה והתרבות שלנו,

ולא זו הדרך לממן אותן.

and the way in which we should be funding it.

And the other thing that's kind of the major driver of this is automation,

והמניע החזק הנוסף מאחורי זה הוא האוטומציה:

להטמיע את כל הטכנולוגיה הזאת

which is the deployment of all of this technology

מיד כשהיא מגיעה, ללא שום פיקוח,

as soon as it arrives, without any kind of oversight,

and then once it's out there,

וברגע שהבעיות מתגלות,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

להרים ידיים ולומר, "זה לא אנחנו. זאת הטכנולוגיה."

Like, "We're not involved in it."

כאילו, "אנו לא מעורבים בזה."

That's not really good enough,

זה לא מספיק טוב,

because this stuff isn't just algorithmically governed,

כי האלגוריתם לא רק מנהל את הדברים האלה;

it's also algorithmically policed.

האלגוריתם גם קובע את המדיניות.

When YouTube first started to pay attention to this,

כש"יו-טיוב" החלה להבחין בזה,

the first thing they said they'd do about it

הדבר הראשון שהם עשו בעניין

was that they'd deploy better machine learning algorithms

היה להטמיע אלגוריתמים טובים יותר של למידת מכונה

to moderate the content.

כדי למתן את התוכן.

אז למידת מכונה, כפי שיאמר לכם כל מומחה,

Well, machine learning, as any expert in it will tell you,

is basically what we've started to call

מבוססת על מה שהתחלנו לכנות

"תוכנה שאיננו מבינים באמת איך היא עובדת."

software that we don't really understand how it works.

ואני חושב שכבר יש לנו מספיק מזה.

And I think we have enough of that already.

אסור שנשאיר דברים כאלה לבינה המלאכותית

We shouldn't be leaving this stuff up to AI to decide

שתקבע מה מתאים ומה לא.

what's appropriate or not,

because we know what happens.

כי ברור לנו מה יקרה: היא תתחיל לצנזר דברים אחרים.

It'll start censoring other things.

היא תתחיל לצנזר תוכן קווירי.

It'll start censoring queer content.

היא תתחיל לצנזר התבטאויות פומביות לגיטימיות.

It'll start censoring legitimate public speech.

What's allowed in these discourses,

את מה שמותר בדיונים האלה

it shouldn't be something that's left up to unaccountable systems.

אסור להשאיר לכל מיני מערכות שאי-אפשר להאשים.

It's part of a discussion all of us should be having.

זהו חלק מהדיון שכולנו צריכים לנהל.

But I'd leave a reminder

אבל אשאיר לכם תזכורת

that the alternative isn't very pleasant, either.

לכך שגם החלופה אינה הכי נעימה.

YouTube also announced recently

"יו-טיוב" גם הכריזו לאחרונה

that they're going to release a version of their kids' app

על שחרור גירסה של היישומון שלהם לילדים

שבו ניטור התוכן ייעשה כולו בידי בני-אדם.

that would be entirely moderated by humans.

Facebook -- Zuckerberg said much the same thing at Congress,

"פייסבוק" - צוקרברג אמר משהו דומה בקונגרס,

when pressed about how they were going to moderate their stuff.

כשלחצו עליו עם השאלה איך בדעתו לנטר את התוכן.

He said they'd have humans doing it.

הוא אמר שיש להם אנשים שעושים את זה.

ובפועל, זה אומר

And what that really means is,

שבמקום שהפעוטים יהיו הראשונים שרואים את הדברים האלה,

instead of having toddlers being the first person to see this stuff,

יהיו אלה עובדי קבלן לא-אמינים בשכר-רעב

you're going to have underpaid, precarious contract workers

ללא סיוע נפשי נאות, שגם הם יינזקו מזה.

without proper mental health support

being damaged by it as well.

(צחוק)

(Laughter)

ולדעתי, כולנו מסוגלים להתעלות על זה.

And I think we can all do quite a lot better than that.

(Applause)

(מחיאות כפיים)

הרעיון שמסכם באמת את שני הדברים האלה, בעיני,

The thought, I think, that brings those two things together, really, for me,

is agency.

הוא אוטונומיות:

It's like, how much do we really understand -- by agency, I mean:

כמה באמת אנו מבינים-- ב"אוטונומיות" כוונתי היא:

how we know how to act in our own best interests.

איך אנו יודעים לנהוג לפי מיטב האינטרסים שלנו.

Which -- it's almost impossible to do

ואת זה כמעט ואי-אפשר לעשות

in these systems that we don't really fully understand.

במערכות האלה, שאותן איננו לגמרי מבינים.

חוסר-שוויון בכוח מוביל תמיד לאלימות.

Inequality of power always leads to violence.

And we can see inside these systems

ובמערכות האלה אנו יכולים לראות

that inequality of understanding does the same thing.

שחוסר-שוויון בהבנה עושה אותו דבר.

If there's one thing that we can do to start to improve these systems,

אם יש דבר אחד שנוכל לעשות כדי לשפר את המערכות האלה,

it's to make them more legible to the people who use them,

הוא להפוך אותן למובנות יותר לאנשים שמשתמשים בהן,

כדי שלכולנו תהיה הבנה משותפת לגבי מה שבאמת קורה כאן.

so that all of us have a common understanding

of what's actually going on here.

The thing, though, I think most about these systems

אבל העניין העיקרי, לדעתי, במערכות האלה,

is that this isn't, as I hope I've explained, really about YouTube.

הוא - ואני מקווה שהסברתי זאת בקשר ל"יו-טיוב" -

It's about everything.

שזה מתייחס להכל.

These issues of accountability and agency,

סוגיות הנשיאה באחריות והאוטונומיות האישית,

of opacity and complexity,

של העמימות והמורכבות,

of the violence and exploitation that inherently results

של האלימות והניצול שנובעים מעצם העובדה

שהכוח מרוכז בידיים מועטות --

from the concentration of power in a few hands --

these are much, much larger issues.

אלה סוגיות הרבה יותר נרחבות.

And they're issues not just of YouTube and not just of technology in general,

הסוגיות האלה לא נוגעות רק ל"יו-טיוב" ולא רק לטכנולוגיה בכלל,

והן אפילו לא חדשות; הן מלוות אותנו כבר המון זמן.

and they're not even new.

They've been with us for ages.

But we finally built this system, this global system, the internet,

אבל סוף-סוף בנינו את המערכת הזאת, המערכת הגלובלית הזאת, האינטרנט,

that's actually showing them to us in this extraordinary way,

שמציגה אותן בפנינו בצורה ברורה להפליא,

making them undeniable.

מבלי שנוכל להתכחש להן.

Technology has this extraordinary capacity

לטכנולוגיה יש היכולת הנפלאה

to both instantiate and continue

גם להמחיש וגם להמשיך

all of our most extraordinary, often hidden desires and biases

את כל רצונותינו והטיותינו הכי גדולים, והסמויים לעתים קרובות ,

ולקודד אותם אל העולם כולו,

and encoding them into the world,

but it also writes them down so that we can see them,

אבל היא גם מתעדת אותם כדי שנוכל לראותם,

so that we can't pretend they don't exist anymore.

כדי שלא נוכל עוד להעמיד פנים כאילו אינם קיימים.

We need to stop thinking about technology as a solution to all of our problems,

עלינו להפסיק לראות בטכנולוגיה פתרון לכל בעיותינו,

אלא להיעזר בה כדי לראות אל הבעיות האלה,

but think of it as a guide to what those problems actually are,

so we can start thinking about them properly

כדי שנוכל להתחיל לחשוב עליהן כמו שצריך

ולהתחיל לטפל בהן.

and start to address them.

Thank you very much.

תודה רבה לכם.

(Applause)

(מחיאות כפיים)

Thank you.

תודה.

(Applause)

(מחיאות כפיים)

Helen Walters: James, thank you for coming and giving us that talk.

הלן וולטרס: ג'יימס, תודה שבאת ותודה על ההרצאה הזאת.

זה מעניין:

So it's interesting:

כשחושבים על סרטים שבהם הרובוטים משתלטים על העולם,

when you think about the films where the robotic overlords take over,

it's all a bit more glamorous than what you're describing.

הכל קצת יותר זוהר ממה שאתה מתאר.

אבל אני תוהה - בסרטים האלה מתגבשת תנועת התקוממות.

But I wonder -- in those films, you have the resistance mounting.

Is there a resistance mounting towards this stuff?

האם ישנה תנועת התקוממות נגד הדברים האלה?

האם אתה רואה סימנים חיוביים, ניצני התנגדות כלשהם?

Do you see any positive signs, green shoots of resistance?

James Bridle: I don't know about direct resistance,

ג'יימס בריידל: אני לא יודע מה עם התקוממות ישירה,

because I think this stuff is super long-term.

כי לדעתי מדובר בדברים מאד ותיקים.

לדעתי זה אפוי בתרבות שלנו באופן עמוק מאד.

I think it's baked into culture in really deep ways.

A friend of mine, Eleanor Saitta, always says

ידידה שלי, אלינור סאיטה, אומרת תמיד

that any technological problems of sufficient scale and scope

שכל בעיה טכנולוגית מעל לגודל והיקף מסוימים

are political problems first of all.

היא קודם כל בעיה פוליטית.

So all of these things we're working to address within this

אז כל הדברים האלה שאנו מנסים להתייחס אליהם

are not going to be addressed just by building the technology better,

לא ייפתרו סתם בבניית טכנולוגיה טובה יותר,

אלא דרך שינוי התרבות שיוצרת את הטכנולוגיות האלה.

but actually by changing the society that's producing these technologies.

So no, right now, I think we've got a hell of a long way to go.

אז לא. כרגע יש לפנינו דרך ארוכה מאד.

But as I said, I think by unpacking them,

אבל כפי שאמרתי, אני חושב שאם נפרק אותן,

אם נסביר אותן ונדבר עליהן בכנות גמורה,

by explaining them, by talking about them super honestly,

נוכל לפחות להתחיל את התהליך.

we can actually start to at least begin that process.

HW: And so when you talk about legibility and digital literacy,

ה"וו: אז כשאתה מדבר על מובנות ועל אוריינות דיגיטלית,

I find it difficult to imagine

אני מתקשה לדמיין

that we need to place the burden of digital literacy on users themselves.

שנעביר את נטל האוריינות הדיגיטלית אל המשתמשים עצמם.

But whose responsibility is education in this new world?

אבל מיהם האחראים לחינוך בעולם החדש הזה?

JB: Again, I think this responsibility is kind of up to all of us,

ג'"ב: שוב, לדעתי האחריות מוטלת על כולנו,

that everything we do, everything we build, everything we make,

במובן זה, שכל מה שאנו עושים, בונים ויוצרים

needs to be made in a consensual discussion

צריך להיעשות מתוך דיון והסכמה

with everyone who's avoiding it;

עם כל מי שנמנעים מכך;

that we're not building systems intended to trick and surprise people

שלא נבנה מערכות שנועדו להכשיל ולהפתיע אנשים

into doing the right thing,

ולגרום להם לעשות את מה שנכון,

but that they're actually involved in every step in educating them,

אלא שהם יהיו מעורבים בכל שלב של החינוך שלהם,

because each of these systems is educational.

כי כל אחת מהמערכות האלה היא חינוכית.

That's what I'm hopeful about, about even this really grim stuff,

לכן יש בי תקווה, גם אם המצב באמת עגום,

that if you can take it and look at it properly,

שאם נוכל לבחון את זה כמו שצריך,

זה כשלעצמו דבר חינוכי

it's actually in itself a piece of education

that allows you to start seeing how complex systems come together and work

שמאפשר לנו להתחיל לראות איך מערכות מורכבות משתלבות ופועלות

ואולי להצליח ליישם ידע זה במקומות אחרים בעולם.

and maybe be able to apply that knowledge elsewhere in the world.

HW: James, it's such an important discussion,

ה"וו: ג'יימס, זהו נושא חשוב ביותר,

and I know many people here are really open and prepared to have it,

ואני יודעת שרבים כאן פתוחים ונכונים לדבר עליו,

אז תודה לך על שפתחת בשבילנו את הבוקר.

so thanks for starting off our morning.

ג'"ב: תודה רבה. להתראות!

JB: Thanks very much. Cheers.

(מחיאות כפיים)

(Applause)