The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

المترجم: Dalia Taha المدقّق: Shaymaa Ayman

I'm James.

أنا جيمس.

I'm a writer and artist,

أنا كاتب وفنان،

and I make work about technology.

وأعمل في مجال التكنولوجيا.

I do things like draw life-size outlines of military drones

وأرسم بالحجم الطبيعي هيكل الطائرات العسكرية بدون طيار

in city streets around the world,

في شوارع المدينة حول العالم،

so that people can start to think and get their heads around

لكي يبدأ الناس في التفكير والفهم

these really quite hard-to-see and hard-to-think-about technologies.

ومن الصعب جدا الرؤية والتفكير في التكنولوجيا

I make things like neural networks that predict the results of elections

صنعت أشياءً مثل الشبكات العصبية التي تُنبئ بنتيجة الانتخابات

based on weather reports,

اعتمادا على تقارير الطقس،

because I'm intrigued about

لأني مفتون بـ

what the actual possibilities of these weird new technologies are.

ماهية الإمكانيات الفعلية لهذه التكنولوجيا الجديدة والغريبة.

Last year, I built my own self-driving car.

السنة الماضية، بنيت سيارتي الذاتية القيادة.

But because I don't really trust technology,

ولكن لأني لا أثق بالتكنولوجيا،

I also designed a trap for it.

صممت أيضا فخًّا لها.

(Laughter)

(ضحك)

And I do these things mostly because I find them completely fascinating,

وأفعل هذه الأمور غالبا لأني أجدها رائعة تماما،

but also because I think when we talk about technology,

ولكن أيضا لأني أظن عندما نتحدث عن التكنولوجيا،

we're largely talking about ourselves

نتحدث بشكل كبير عن أنفسنا

and the way that we understand the world.

وطريقة فهمنا للعالم.

So here's a story about technology.

وهنا قصة عن التكنولوجيا.

This is a "surprise egg" video.

هذا هو فيديو "بيض المفاجآت".

It's basically a video of someone opening up loads of chocolate eggs

إنه أساسا فيديو عن شخص ما يفتح الكثير من بيض الشيكولاتة

and showing the toys inside to the viewer.

ويُظهر الألعاب التي بداخلها للمشاهد.

That's it. That's all it does for seven long minutes.

وهذا هو. هذا كل شيء فعله ذلك طوال 7 دقائق.

And I want you to notice two things about this.

وأودُّ أن تلاحظوا أمرين بشأنه.

First of all, this video has 30 million views.

أولا: هذا الفيديو حظى بـ 30 مليون مشاهدة.

(Laughter)

(ضحك)

And the other thing is,

والشيء الآخر هو،

it comes from a channel that has 6.3 million subscribers,

بثّته قناة تحظى بـ 6,3 مليون مشترك،

that has a total of eight billion views,

ليبلغ الإجمالي 8 مليار مشاهدة،

and it's all just more videos like this --

والأمر كله مجرد الكثير من الفيديوهات مثلها

30 million people watching a guy opening up these eggs.

30 مليون شخص يشاهدون رجلا يفتح هذه البيضات.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

يبدو الأمر غريبا، ولكن إذا بحثنا عن "بيض المفاجآت" على اليوتيوب

it'll tell you there's 10 million of these videos,

ستجد هناك 10 مليون من هذه الفيديوهات،

and I think that's an undercount.

وأظن إنها أقل من الأرقام الفعلية.

I think there's way, way more of these.

أظن أن هناك الكثير منها للغاية.

If you keep searching, they're endless.

إذا واصلت البحث، ستجد عددًا لا نهائيًا منها.

There's millions and millions of these videos

هناك الملايين من هذه الفيديوهات

in increasingly baroque combinations of brands and materials,

بمزيج مفصّل ومتزايد من الماركات والمواد،

and there's more and more of them being uploaded every single day.

وهناك المزيد والمزيد منهم يتم تحميلهم كل يوم.

Like, this is a strange world. Right?

هذا عالم غريب، أليس كذلك؟

But the thing is, it's not adults who are watching these videos.

ولكن الأمر هو أن البالغين ليسوا مَن يشاهدوا هذه الفيديوهات.

It's kids, small children.

إنهم الأطفال الصغار.

These videos are like crack for little kids.

وهذه الفيديوهات يدمِنُها الأطفال الصغار.

There's something about the repetition,

هناك خطبٌ ما حول التكرار،

the constant little dopamine hit of the reveal,

ويكشف لنا الدوبامين المستمر الحقيقة،

that completely hooks them in.

أنها تجذبهم تماما لها.

And little kids watch these videos over and over and over again,

والصغار يشاهدون هذه الفيديوهات مرارًا وتكرارًا،

and they do it for hours and hours and hours.

ويستغرقون ساعات طويلة في مشاهدتها.

And if you try and take the screen away from them,

وإذا حاولت إبعاد الشاشة عنهم

they'll scream and scream and scream.

ستتوالى صرخاتهم.

If you don't believe me --

إذا لم تصدقني ــ

and I've already seen people in the audience nodding --

ولقد شاهدت أشخاصا بالفعل بين الجمهور يومئون برأسهم ــ

if you don't believe me, find someone with small children and ask them,

إذا لم تصدقني، أجد شخصا لديه أطفالا واسألهم،

and they'll know about the surprise egg videos.

وستجدهم يعرفون أمر فيديوهات بيض المفاجآت.

So this is where we start.

ومن هنا بدأنا.

It's 2018, and someone, or lots of people,

إنه عام 2018، وشخصا ما، أو الكثير منهم،

are using the same mechanism that, like, Facebook and Instagram are using

يستخدمون نفس الآلية، التي يستخدمها الفيس بوك والانستجرام

to get you to keep checking that app,

لتستمر في تفقد ذلك التطبيق،

and they're using it on YouTube to hack the brains of very small children

ويستخدمونها على اليوتيوب لتخترق عقول صغار الأطفال

in return for advertising revenue.

في مقابل عائدات الإعلانات.

At least, I hope that's what they're doing.

على الأقل، هذا ما آمل أنهم يفعلونه.

I hope that's what they're doing it for,

آمل أن هذا ما يفعلونه لأجل ذلك،

because there's easier ways of making ad revenue on YouTube.

لأن هناك طرق أسهل للحصول على عائدات الإعلانات على اليوتيوب.

You can just make stuff up or steal stuff.

يمكنك صنع أشياء أو سرقة أشياء.

So if you search for really popular kids' cartoons

لذا إذا بحثت عن أفلام الكرتون المشهورة للأطفال

like "Peppa Pig" or "Paw Patrol,"

ك"بيبا الخنزير"

أو "دوريات المخالب"

you'll find there's millions and millions of these online as well.

وستجد هناك الملايين والملايين منها أون لاين أيضا.

Of course, most of them aren't posted by the original content creators.

ومعظمها، بالطبع، لم ينشرها منشئي المحتوى الأصلي.

They come from loads and loads of different random accounts,

جاءت من تحميلات من حسابات مختلفة وعشوائية،

and it's impossible to know who's posting them

ومن المستحيل معرفة مَن ينشرهم

or what their motives might be.

أو ما هي دوافعهم.

Does that sound kind of familiar?

أهذا يبدو مألوفاً؟

Because it's exactly the same mechanism

لأنها بالضبط نفس الآلية

that's happening across most of our digital services,

التي تحدث في معظم خدماتنا الرقمية،

where it's impossible to know where this information is coming from.

حيث من المستحيل معرفة من أين تأتي هذه المعلومات.

It's basically fake news for kids,

إنها بالتأكيد أخبار مزيفة للأطفال،

and we're training them from birth

ونحن ندرّّبهم منذ ولادتهم

to click on the very first link that comes along,

على النقر على أول رابط يظهر أمامهم،

regardless of what the source is.

دون النظر إلى مصدره.

That's doesn't seem like a terribly good idea.

وهذا لا يبدو كفكرة جيدة للغاية.

Here's another thing that's really big on kids' YouTube.

وهنا شيء آخر خطير بالفعل على الأطفال على اليوتيوب.

This is called the "Finger Family Song."

يدعى "أغنية عائلة الأصابع".

I just heard someone groan in the audience.

سمعت للتو شخصا يتأوَّه بين الجمهور.

This is the "Finger Family Song."

هذه هي "أغنية عائلة الأصابع".

This is the very first one I could find.

وهذا أول فيديو تمكّنت من إيجاده.

It's from 2007, and it only has 200,000 views,

منذ عام 2007، ولديه فقط 200 ألف مشاهدة،

which is, like, nothing in this game.

ولا يمثل شيئا بالنسبة للمشاهدات الحالية.

But it has this insanely earwormy tune,

ولكن لها تأثير النغمات التي تتردد في الأذهان،

which I'm not going to play to you,

ولن أُشغِّله لكم،

because it will sear itself into your brain

لأنها ستؤثر على عقولكم

in the same way that it seared itself into mine,

بنفس الطريقة التي أثرت بها على عقلي،

and I'm not going to do that to you.

ولن أفعل ذلك بكم.

But like the surprise eggs,

ولكن مثل بيض المفاجآت،

it's got inside kids' heads

اخترقت عقول الأطفال

and addicted them to it.

وجعلتهم يدمنونها.

So within a few years, these finger family videos

لذا في خلال بضع سنوات، فيديوهات عائلة الأصابع

start appearing everywhere,

بدأت تظهر في كل مكان،

and you get versions in different languages

وتجد نسخ بمختلف اللغات

with popular kids' cartoons using food

بجانب أفلام كارتون الأطفال التي تستخدم الطعام

or, frankly, using whatever kind of animation elements

أو، صراحةً، تستخدم أي نوع من الرسوم المتحركة

you seem to have lying around.

التي تبدو أنها توجد حولنا.

And once again, there are millions and millions and millions of these videos

ومرة أخرى، هناك الملايين والملايين من هذه الفيديوهات

available online in all of these kind of insane combinations.

متاحة أون لاين في جميع هذه المجموعات الجنونية نوعا ما

And the more time you start to spend with them,

وكلما قضيت وقتا أطول في مشاهدتها،

the crazier and crazier you start to feel that you might be.

ربما بدأ إحساسك بالجنون.

And that's where I kind of launched into this,

ومن هنا بدأت أتعمّق فيها

that feeling of deep strangeness and deep lack of understanding

ذلك الشعور بالغرابة الشديدة والقصور في الفهم

of how this thing was constructed that seems to be presented around me.

حول كيفية إنشاء هذا الشيء الذي يبدو أنه يُقدَّم حولي.

Because it's impossible to know where these things are coming from.

لأنه من المستحيل أن تعرف مصدر هذه الأشياء.

Like, who is making them?

مثل، مَن الذي يصنعهم؟

Some of them appear to be made of teams of professional animators.

والبعض منهم صنعهم فريق من إخصائيي رسوم متحركة محترفين.

Some of them are just randomly assembled by software.

والبرمجيات جمّعتها بشكل عشوائي.

Some of them are quite wholesome-looking young kids' entertainers.

وبعض منهم يبدو مفيدا تماما لتسلية الصغار.

And some of them are from people

وبعضهم أشخاصاً

who really clearly shouldn't be around children at all.

لا ينبغي أن يكونوا بجوار الأطفال نهائياً.

(Laughter)

(ضحك)

And once again, this impossibility of figuring out who's making this stuff --

ومرة أخرى، تعذّر اكتشاف صانع هذه الأمور ــ

like, this is a bot?

مثل، هل هو إنسان آلي؟

Is this a person? Is this a troll?

هل هو شخص؟ أم غولاً؟

What does it mean that we can't tell the difference

ماذا يعني ذلك أننا لا يمكننا معرفة الاختلاف

between these things anymore?

بين هذه الأمور بعد الآن؟

And again, doesn't that uncertainty feel kind of familiar right now?

ومجددا، أليس ذلك الشك يبدو مألوفاً الآن؟

So the main way people get views on their videos --

فالسبيل الأساسي ليحصل الناس على نسب مشاهدة لفيديوهاتهم

and remember, views mean money --

وتذكر، مشاهدات تعني نقود ــ

is that they stuff the titles of these videos with these popular terms.

هي أنهم يُعنْوِنون هذه الفيديوهات بأسماء مشهورة.

So you take, like, "surprise eggs"

مثل "بيض المفاجآت"

and then you add "Paw Patrol," "Easter egg,"

وأضف "دوريات المخالب"، و"بيض شم النسيم"

or whatever these things are,

أو أيا من هذه الأشياء،

all of these words from other popular videos into your title,

جميعها كلمات من فيديوهات أخرى مشهورة لتظهر في عنوانك،

until you end up with this kind of meaningless mash of language

حتى تنتهي بهذا النوع من مزيج عديم الجدوى للغة

that doesn't make sense to humans at all.

لا تجدي نفعا لجميع البشر.

Because of course it's only really tiny kids who are watching your video,

لأن بالطبع الصغار فقط هم الذين يشاهدون الفيديو الخاص بك،

and what the hell do they know?

وماذا يعرفون بحق الجحيم؟

Your real audience for this stuff is software.

فجمهورك الحقيقي لهذه الأشياء هي البرمجيات.

It's the algorithms.

إنها الخوارزميات.

It's the software that YouTube uses

إنها البرمجيات التي يستخدمها اليوتيوب

to select which videos are like other videos,

لاختيار أي الفيديوهات التي تشبه الفيديوهات الأخرى،

to make them popular, to make them recommended.

لإشهارها، وتزكيتها.

And that's why you end up with this kind of completely meaningless mash,

ولهذا السبب ينتهي بك الأمر إلى هذا المزيج عديم الجدوى تماما،

both of title and of content.

سواء من حيث العنوان أو المحتوى.

But the thing is, you have to remember,

ولكن عليك أن تتذكر،

there really are still people within this algorithmically optimized system,

أن لا زال هناك أشخاص في هذا النظام المثالي الذي يعمل بشكل لوغاريتمي،

people who are kind of increasingly forced to act out

أشخاصاً يتزايد اضطرارهم لتمثيل

these increasingly bizarre combinations of words,

هذا المزيج الغريب والمتزايد من الكلمات،

like a desperate improvisation artist responding to the combined screams

مثل فنان ارتجالي يائس يرد على الصرخات المجتمعة

of a million toddlers at once.

لملايين الأطفال في آنٍ واحد.

There are real people trapped within these systems,

هناك أشخاص حقيقيون محاصرون بين هذه الأنظمة،

and that's the other deeply strange thing about this algorithmically driven culture,

والشيء الآخر الشديد الغرابة حول هذه الثقافة المدارة بالشكل اللوغاريتمي،

because even if you're human,

لأنه حتى ولو كنت إنساناً،

you have to end up behaving like a machine

سينتهي بك الأمر لتتصرّف كالآلة

just to survive.

فقط لتبقى حيّا.

And also, on the other side of the screen,

وأيضا، على الجانب الآخر من الشاشة،

there still are these little kids watching this stuff,

لازال يوجد هؤلاء الأطفال وهم يشاهدون هذه الفيديوهات،

stuck, their full attention grabbed by these weird mechanisms.

يُعيرون اهتمامهم بالكامل لهذه الآليات الغريبة.

And most of these kids are too small to even use a website.

ومعظم هؤلاء الأطفال صغار للغاية لاستخدام أي موقع.

They're just kind of hammering on the screen with their little hands.

إنهم فقط يطرقون بأيديهم الصغيرة على الشاشة.

And so there's autoplay,

وهناك تشغيل تلقائي،

where it just keeps playing these videos over and over and over in a loop,

حيث تستمر في عرض هذه الفيديوهات مرارًا وتكرارًا في حلقة

endlessly for hours and hours at a time.

لا نهائية لمدة ساعات طويلة في كل مرة.

And there's so much weirdness in the system now

هناك أشياء غريبة للغاية في النظام الآن

that autoplay takes you to some pretty strange places.

فيأخذك التشغيل التلقائي إلى أماكن غريبة جدا.

This is how, within a dozen steps,

وهكذا، من خلال عشرات الخطوات،

you can go from a cute video of a counting train

يمكنك التنقل من فيديو لطيف لقطار عد الأرقام

to masturbating Mickey Mouse.

لاستمناء ميكي ماوس.

Yeah. I'm sorry about that.

نعم. أنا آسف لذلك.

This does get worse.

والأمر يزداد سوءأ.

This is what happens

وهذا ما يحدث

when all of these different keywords,

عندما كل هذه الكلمات الدلالية المختلفة،

all these different pieces of attention,

وكل الأشكال المختلفة من الاهتمام،

this desperate generation of content,

وهذا الإنتاج المحبط للمحتوى،

all comes together into a single place.

تواجدوا جميعا في مكان واحد.

This is where all those deeply weird keywords come home to roost.

هذا هو المكان التي تأتي فيه كل الكلمات الأساسية الغريبة للغاية لتستقر.

You cross-breed the finger family video

وتمزج فيديو عائلة الأصابع

with some live-action superhero stuff,

ببعض أمور الأبطال الخوارق الحقيقيين،

you add in some weird, trollish in-jokes or something,

وتضيف بعض المزحات الاستفزازية أو أي شيء

and suddenly, you come to a very weird place indeed.

وفجأة، تجد نفسك في موقع غريب للغاية.

The stuff that tends to upset parents

الأمور التي تُغضب الآباء

is the stuff that has kind of violent or sexual content, right?

هي الأمور التي تحتوي على مشاهد عنيفة أو جنسية، أليس كذلك؟

Children's cartoons getting assaulted,

أفلام كارتون لأطفال يتعرضون للاعتداء،

getting killed,

يتعرضون للقتل،

weird pranks that actually genuinely terrify children.

مقالب غريبة تُرعب الأطفال بالفعل.

What you have is software pulling in all of these different influences

فليس لديك إلا برمجيات محاطة بكل هذه التأثيرات المختلفة.

to automatically generate kids' worst nightmares.

لتخلق تلقائيا أسوأ كوابيس الأطفال.

And this stuff really, really does affect small children.

وهذه الأمور بالفعل تؤثر على الأطفال.

Parents report their children being traumatized,

وأفاد آباء أن أطفالهم قد تعرضوا لصدمة نفسية،

becoming afraid of the dark,

أصبحوا يخشوْن الظلام،

becoming afraid of their favorite cartoon characters.

يخْشَوْن شخصيات أفلام الكارتون المفضلة لديهم.

If you take one thing away from this, it's that if you have small children,

والدرس المستفاد من هذه الفيديوهات، هو لو أن لديك أطفالا صغارا،

keep them the hell away from YouTube.

أبعدهم عن اليوتيوب بحق الجحيم.

(Applause)

(تصفيق)

But the other thing, the thing that really gets to me about this,

ولكن السبب الذي جعلني أستعرض هذه الفيديوهات،

is that I'm not sure we even really understand how we got to this point.

هو أنني لست متأكدا كيف نصل بالفعل إلى هذه النقطة.

We've taken all of this influence, all of these things,

لقد أخذنا كل هذه التأثيرات، وكل هذه الأمور،

and munged them together in a way that no one really intended.

وغيّرناها معا بطريقة لا يقصدها أحد بالفعل.

And yet, this is also the way that we're building the entire world.

ومع ذلك، هذه هي الطريقة التي نبني بها العالم بأكمله.

We're taking all of this data,

نأخد كل هذه البيانات،

a lot of it bad data,

الكثير من البيانات السيئة،

a lot of historical data full of prejudice,

الكثير من البيانات التاريخية المليئة بالتحيُّز،

full of all of our worst impulses of history,

مليئة بكل دوافعنا السيئة في التاريخ،

and we're building that into huge data sets

وننشئ ذلك في مجموعات ضخمة من البيانات

and then we're automating it.

ونجعله أتوماتيكيا.

And we're munging it together into things like credit reports,

وغيّرنا هذه البيانات معا إلى أشياءٍ مثل تقارير الجدارة الائتمانية،

into insurance premiums,

إلى أقساط التأمين،

into things like predictive policing systems,

إلى أشياء مثل الأنظمة التنبئية لحفظ الأمن،

into sentencing guidelines.

إلى المبادئ التوجيهية لإصدار الأحكام.

This is the way we're actually constructing the world today

هذه هي الطريقة التي نبني بها بالفعل العالم اليوم

out of this data.

بعيداً عن هذه البيانات.

And I don't know what's worse,

ولا أعرف ما هو الأسوأ،

that we built a system that seems to be entirely optimized

فنبني نظاما يبدو مثاليا بالكامل

for the absolute worst aspects of human behavior,

لأسوأ الجوانب تماما لسلوك الإنسان،

or that we seem to have done it by accident,

أو كما يبدو أننا قمنا بذلك بالصدفة،

without even realizing that we were doing it,

دون حتى أن ندرك ما كنا نفعله،

because we didn't really understand the systems that we were building,

لأننا لم ندرك تماما الأنظمة التي قمنا بإنشائها،

and we didn't really understand how to do anything differently with it.

ولم نفهم تماما كيفية فعل أي شيء بصورة مختلفة بها.

There's a couple of things I think that really seem to be driving this

هناك أمرين أظن أنهما يتحكمان بهذا على ما يبدو

most fully on YouTube,

تحديدا على اليوتيوب،

and the first of those is advertising,

الأمر الأول هو الإعلانات،

which is the monetization of attention

التي تجني الأرباح من جذب الانتباه

without any real other variables at work,

دون أي جهد حقيقي مبذول،

any care for the people who are actually developing this content,

أي اهتمام للناس الذين يطوِّرون بالفعل هذا المحتوى،

the centralization of the power, the separation of those things.

تمركز القوى، وعزل تلك الأمور.

And I think however you feel about the use of advertising

وأظن مهما كان شعورك حول استخدام الإعلانات

to kind of support stuff,

لدعم تلك الأمور،

the sight of grown men in diapers rolling around in the sand

منظر رجل بالغ يرتدي حفاض يتقلّب في الرمال

in the hope that an algorithm that they don't really understand

على أمل أن اللوغاريتم الذي لا يفهموه تماما

will give them money for it

سيجنون الأموال من جراء ذلك

suggests that this probably isn't the thing

ويشير إلى أن ربما ليس هذا الأمر

that we should be basing our society and culture upon,

الذي يجب علينا أن نبني به مجتمعنا وثفافتنا،

and the way in which we should be funding it.

والطريقة التي يجب علينا تمويله من خلالها.

And the other thing that's kind of the major driver of this is automation,

والأمر الآخر هو المحرك الرئيسي لهذا هو التشغيل التلقائي،

which is the deployment of all of this technology

الذي يعتبر الموزّع لكل هذه التكنولوجيا

as soon as it arrives, without any kind of oversight,

بمجرد وصولها، مع عدم وجود أي نوع من أنواع الرقابة،

and then once it's out there,

ثم بمجرد ظهورها هناك،

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

كأننا نرفع أيدينا ونمضي "ونلقي باللوم على التكنولوجيا."

Like, "We're not involved in it."

كأننا "لم نكن شركاء في ذلك."

That's not really good enough,

وذلك ليس جيدا بما يكفي،

because this stuff isn't just algorithmically governed,

لأن هذه الأمور لا يتم التحكم بها بشكل لوغاريتمي فقط،

it's also algorithmically policed.

بل أيضا يتم حمايتها بشكل لوغاريتمي.

When YouTube first started to pay attention to this,

حينما بدأ اليوتيوب أن يولي اهتمامه لهذه الأمور،

the first thing they said they'd do about it

أول شيء قالوه ليفعلوا شيئا حياله

was that they'd deploy better machine learning algorithms

كان أنهم سينشرون آلة أفضل على دراية باللوغاريتمات

to moderate the content.

لتعديل المحتوى.

Well, machine learning, as any expert in it will tell you,

قدرة الآلة على التعلم، كأي خبير في هذا المجال سيخبرك،

is basically what we've started to call

هي أساسا ما بدأنا تسميته

software that we don't really understand how it works.

بالبرامجيات التي لا ندرك بالفعل كيف تعمل.

And I think we have enough of that already.

وأظن أن لدينا بالفعل قدر كاف منها.

We shouldn't be leaving this stuff up to AI to decide

ولم يجدر بنا أن نترك الأمر برمته للذكاء الاصطناعي لكي يقرر

what's appropriate or not,

ما هو مناسب أم غير مناسب،

because we know what happens.

لأننا نعرف ما يحدث.

It'll start censoring other things.

سيبدأ بمراقبة الأشياء الأخرى.

It'll start censoring queer content.

سيبدأ بفرض رقابة على المحتوى الغريب.

It'll start censoring legitimate public speech.

سيبدأ بفرض رقابة على الخطاب العام المشروع.

What's allowed in these discourses,

وما هو مسموح في هذه المحادثات،

it shouldn't be something that's left up to unaccountable systems.

ولا ينبغي أن يُترك الأمر برمته لأنظمة غير مسؤولة.

It's part of a discussion all of us should be having.

إنها جزء من مناقشة يجب أن نشارك بها جميعا.

But I'd leave a reminder

ولكن سأترك تذكِرة

that the alternative isn't very pleasant, either.

أن البديل ليس مبهجا للغاية أيضا.

YouTube also announced recently

وأعلن اليوتيوب مؤخرا

that they're going to release a version of their kids' app

أنهم سيطلقون نسخة من تطبيقهم الخاص بالأطفال

that would be entirely moderated by humans.

الذي سيعدّله البشر بالكامل.

Facebook -- Zuckerberg said much the same thing at Congress,

الفيس بوك... تحدّث زوكربيرج كثيرا عن نفس الشيء في الكونجرس،

when pressed about how they were going to moderate their stuff.

عندما أعرب عن كيفية تعديل محتواهم.

He said they'd have humans doing it.

قال إن لديهم أشخاصا يقومون بذلك.

And what that really means is,

وما يعنيه ذلك الكلام هو أن

instead of having toddlers being the first person to see this stuff,

بدلا من أن يكون الأطفال الصغار هم أول من يشاهدوا هذا المحتوى،

you're going to have underpaid, precarious contract workers

سيكون هناك موظفين بأجر يعملون بعقد مؤقت

without proper mental health support

بدون دعم مناسب للصحة العقلية

being damaged by it as well.

التي ستتضرّر بسببها أيضا.

(Laughter)

(ضحك)

And I think we can all do quite a lot better than that.

أظن أنه يمكننا جميعا أن نعمل أفضل كثيرا من ذلك.

(Applause)

(تصفيق)

The thought, I think, that brings those two things together, really, for me,

أظن أن الفكر الذي يجمع هذه الأمور معا، بالنسبة لي،

is agency.

هو الوكالة.

It's like, how much do we really understand -- by agency, I mean:

كأننا نحدد مقدار ما ندركه بالفعل... حسب الوكالة، أعني:

how we know how to act in our own best interests.

كيف نعرف كيفية التصرُّف في مصالحنا الفضلي.

Which -- it's almost impossible to do

التي ... من المستحيل القيام بذلك

in these systems that we don't really fully understand.

في هذه الأنظمة التي لا نفهمها تماما.

Inequality of power always leads to violence.

عدم التكافؤ في ميزان القوى يؤدي دائما إلى العنف.

And we can see inside these systems

ويمكننا رؤية داخل هذه الأنظمة

that inequality of understanding does the same thing.

أن انعدام المساواة في الفهم يؤدي أيضا لنفس النتيجة.

If there's one thing that we can do to start to improve these systems,

إذا كان هناك شيئا ما يمكننا فعله للبدء في تحسين هذه الأنظمة،

it's to make them more legible to the people who use them,

هو أن نوضحها بشكل أفضل للناس الذين يستخدمونها،

so that all of us have a common understanding

لكي نحظى جميعا بفهم موحد

of what's actually going on here.

لما يجري هنا بالفعل.

The thing, though, I think most about these systems

الأمر هو أنه، على الرغم من أنني أفكر كثيرا في هذه الأنظمة،

is that this isn't, as I hope I've explained, really about YouTube.

ليس فقط عن اليوتيوب كما آمل أني قد شرحت ذلك.

It's about everything.

ولكنه عن كل شيء.

These issues of accountability and agency,

هذه القضايا المتعلقة بالمسؤولية والوكالة،

of opacity and complexity,

ومعدل الشفافية والتعقيد،

of the violence and exploitation that inherently results

والعنف والاستغلال الذي ينتج تلقائيا

from the concentration of power in a few hands --

عن تمركز القوى بين أياد قليلة...

these are much, much larger issues.

هذه القضايا أكبر بكثير.

And they're issues not just of YouTube and not just of technology in general,

إنها قضايا ليست متعلقة باليوتيوب فحسب، وليست متعلقة بالتكنولوجيا عموما،

and they're not even new.

وليست حتى جديدة.

They've been with us for ages.

إنها تتواجد معنا منذ قرون.

But we finally built this system, this global system, the internet,

ولكن في النهاية بنينا هذا النظام، هذا النظام العالمي، الإنترنت،

that's actually showing them to us in this extraordinary way,

الذي قدمهم إلينا بالفعل بطريقة رائعة،

making them undeniable.

بشكل لا يمكن إنكاره.

Technology has this extraordinary capacity

التكنولوجيا لديها هذه القدرة الرائعة

to both instantiate and continue

لتنشئ مثيلا وتستمر

all of our most extraordinary, often hidden desires and biases

في عرض كل رغباتنا الأكثر غرابة وغالبا ما تكون رغبات وتحيّزات خفية

and encoding them into the world,

وترميزهم إلى العالم،

but it also writes them down so that we can see them,

ولكن تدوّنهم أيضا لكي نتمكن من رؤيتهم،

so that we can't pretend they don't exist anymore.

ولا يمكننا التظاهر بعدم وجودها بعد الآن.

We need to stop thinking about technology as a solution to all of our problems,

نحتاج أن نكف عن التفكير في التكنولوجيا كحل لكل مشاكلنا،

but think of it as a guide to what those problems actually are,

ولكن نفكر فيها كدليل لمعرفة ما هي تلك المشاكل بالفعل،

so we can start thinking about them properly

لكي نبدأ بالتفكير فيهم بشكل مناسب

and start to address them.

ونبدأ في مواجهتهم.

Thank you very much.

شكرا جزيلا لكم.

(Applause)

(تصفيق)

Thank you.

شكرا لكم.

(Applause)

(تصفيق)

Helen Walters: James, thank you for coming and giving us that talk.

شكرا لك يا جيمس لقدومك وتقديمك لهذه المحادثة لنا.

So it's interesting:

هذا مثير للاهتمام:

when you think about the films where the robotic overlords take over,

حينما تفكر في الأفلام التي يسيطر فيها الإنسان الآلي ويصبح الحاكم،

it's all a bit more glamorous than what you're describing.

إنها أكثر إبهارا قليلا عما تصفه.

But I wonder -- in those films, you have the resistance mounting.

ولكن أتساءل... في تلك الأفلام، نرى تصاعد المقاومة.

Is there a resistance mounting towards this stuff?

أيوجد تصاعد للمقاومة ضد هذه الأمور؟

Do you see any positive signs, green shoots of resistance?

أترى أي إشارات إيجابية، أي بوادر للمقاومة؟

James Bridle: I don't know about direct resistance,

لا أعرف عن المقاومة المباشرة،

because I think this stuff is super long-term.

لأن هذه الأمور طويلة الأمد للغاية.

I think it's baked into culture in really deep ways.

أظن أنها يتم غرسها في ثقافتنا بطرق عميقة للغاية.

A friend of mine, Eleanor Saitta, always says

وتقول صديقتي "إلينورسايتا" دائما

that any technological problems of sufficient scale and scope

أي مشاكل تكنولوجية بحجم ونطاق كافٍ

are political problems first of all.

هي مشاكل سياسية في المقام الأول.

So all of these things we're working to address within this

لذا، كل هذه الأمور التي نعمل للتصدي لها في هذا النطاق

are not going to be addressed just by building the technology better,

لن يتم التصدي لها فقط بإنشاء تكنولوجيا أفضل،

but actually by changing the society that's producing these technologies.

ولكن بتغير المجتمع بالفعل الذي يُنتج هذه التكنولوجيات.

So no, right now, I think we've got a hell of a long way to go.

لذا أقول لا، ليس الآن، أظن أن لدينا طريق طويل للغاية للمضي فيه.

But as I said, I think by unpacking them,

ولكن كما قلت، أظن بإظهارهم،

by explaining them, by talking about them super honestly,

وبتوضيحهم، وبالتحدّث عنهم بصراحة مطلقة،

we can actually start to at least begin that process.

يمكننا البدء على الأقل بهذه الخطوات.

HW: And so when you talk about legibility and digital literacy,

وعندما تتحدّث عن سهولة القراءة والمعرفة الرقمية،

I find it difficult to imagine

أجد صعوبة في تخيُّل

that we need to place the burden of digital literacy on users themselves.

أننا نحتاج إلي أن نضع عِبء المعرفة الرقمية على عاتق المستخدمين.

But whose responsibility is education in this new world?

ولكن على مَن تقع مسؤولية التعليم في هذا العالم الجديد؟

JB: Again, I think this responsibility is kind of up to all of us,

مرة أخرى، أظن أنها مسؤوليتنا جميعا،

that everything we do, everything we build, everything we make,

فكل شيء نفعله، وكل شيء نبنيه، ونصنعه،

needs to be made in a consensual discussion

يحتاج أن يتم في مناقشة توافقية

with everyone who's avoiding it;

مع كل شخص يتجنبها؛

that we're not building systems intended to trick and surprise people

لأننا لا ننشئ أنظمة بغرض خداع ومفاجأة الناس

into doing the right thing,

لفعل الصواب،

but that they're actually involved in every step in educating them,

ولكن نحن بالفعل مشاركون في كل خطوة في تعليمهم،

because each of these systems is educational.

لأن كل نظام من هذه النظم يُعد تعليميًا.

That's what I'm hopeful about, about even this really grim stuff,

ولهذا السبب أنا متفائل بشأنه، وحتى بشأن هذه الأمور المُروّعة،

that if you can take it and look at it properly,

التي إذا أخذتها وأمعنت النظر فيها،

it's actually in itself a piece of education

ستجدها بالفعل قطعة تعليمية

that allows you to start seeing how complex systems come together and work

التي تسمح لك ببدء رؤية كم الأنظمة المعقدة التي تجتمع معا وتعمل

and maybe be able to apply that knowledge elsewhere in the world.

وربما تُطبق تلك المعرفة في أي مكان آخر في العالم.

HW: James, it's such an important discussion,

إنها مناقشة هامة يا جيمس،

and I know many people here are really open and prepared to have it,

وأعرف الكثير من الأشخاص منفتحين للغاية ومستعدين للحصول عليه،

so thanks for starting off our morning.

لذا، شكرا لأنك بدأت صباحنا بشيء جيد.

JB: Thanks very much. Cheers.

شكرا لكم جزيلا. هتاف.

(Applause)

(تصفيق)