The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Translator: Leila Ataei Reviewer: sadegh zabihi

I'm James.

جیمز هستم.

I'm a writer and artist,

نویسنده و هنرمندم،

and I make work about technology.

و کارم درباره فناوری است.

I do things like draw life-size outlines of military drones

کارهایی مثل کشیدن هواپیماهای بدون سرنشین نظامی در مقیاس واقعی را در

in city streets around the world,

خیابان‌های شهرهای جهان انجام می‌دهم.

so that people can start to think and get their heads around

تا مردم شروع به فکر کردن به مسائل فناوری کنند

these really quite hard-to-see and hard-to-think-about technologies.

I make things like neural networks that predict the results of elections

ابزاری مثل شبکه‌های عصبی می‌سازم که نتایج انتخابات را بر اساس

based on weather reports,

گزارش‌های هواشناسی پیش بینی می‌کند،

because I'm intrigued about

چون علاقمندم بفهمم

what the actual possibilities of these weird new technologies are.

امکانات واقعی این فناوری‌های عجیب جدید چیست؟

Last year, I built my own self-driving car.

پارسال، اولین ماشین خودران خود را ساختم.

But because I don't really trust technology,

اما چون حقیقتا به فناوری اعتماد ندارم،

I also designed a trap for it.

یک تله نیز برایش طراحی کردم.

(Laughter)

(خنده)

And I do these things mostly because I find them completely fascinating,

و این کارها را برای این انجام می‌دهم که برایم خیلی جالبند،

but also because I think when we talk about technology,

و فکر می‌کنم که وقتی درباره فناوری حرف می‌زنیم

we're largely talking about ourselves

در واقع عمدتا درباره خودمان

and the way that we understand the world.

و نحوه درک خود از جهان اطراف صحبت می‌کنیم.

So here's a story about technology.

خوب، داستانی از فناوری را تعریف می‌کنم.

This is a "surprise egg" video.

این ویدئویی درباره تخم مرغ شانسی است.

It's basically a video of someone opening up loads of chocolate eggs

در واقع این ویدئو شخصی است که کلی تخم مرغ شانسی را باز کرده و

and showing the toys inside to the viewer.

اسباب‌بازی داخل آن را نشان بیننده می‌دهد.

That's it. That's all it does for seven long minutes.

فقط همین. این کل چیزی است که طی ۷ دقیقه انجام می‌دهد.

And I want you to notice two things about this.

و از شما می خواهم که به دو چیز در مورد این ویدئو توجه کنید.

First of all, this video has 30 million views.

نخست، این ویدئو ۳۰ میلیون بار دیده شده است.

(Laughter)

(خنده)

And the other thing is,

و مورد بعدی این‌ که،

it comes from a channel that has 6.3 million subscribers,

این ویدئو از کانالی است که ۶/۳ میلیون عضو دارد،

that has a total of eight billion views,

که در مجموع ۸ میلیارد بازدید شده است.

and it's all just more videos like this --

و ویدیوهای مشابه اینطوری زیادند--

30 million people watching a guy opening up these eggs.

۳۰ میلیون نفر به تماشای شخصی که در حال بازکردن تخم مرغ شانسی است نشسته‌اند.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

بنظر عجیب است، اما اگر در یوتیوب تخم مرغ شانسی را جستجو کنید،

it'll tell you there's 10 million of these videos,

متوجه خواهید شد که ۱۰ میلیون از این ویدئوها وجود دارد،

and I think that's an undercount.

که فکر می‌کنم این رقم

I think there's way, way more of these.

بسیار بسیار بالاتر باشد.

If you keep searching, they're endless.

با ادامه جستجو متوجه می‌شوید که پایان ندارد.

There's millions and millions of these videos

میلیون‌ها میلیون از این ویدئوها

in increasingly baroque combinations of brands and materials,

که ترکیب عجیب و غربی از برندها و مواد هستند وجود دارد.

and there's more and more of them being uploaded every single day.

و هرروز هم تعداد بیشتری بارگذاری می‌شوند.

Like, this is a strange world. Right?

دنیای عجیبی است. نه؟

But the thing is, it's not adults who are watching these videos.

اما مساله این است که که مخاطب این ویدئوها

It's kids, small children.

بزگسالان نیستند، بلکه کودکان هستند.

These videos are like crack for little kids.

این ویدئوها مثل هروپین برای کودکان است.

There's something about the repetition,

این تکرار ویدئوها مانند

the constant little dopamine hit of the reveal,

ترشح دوپامین،

that completely hooks them in.

آنها را گیر می‌اندازد.

And little kids watch these videos over and over and over again,

و کودکان این ویدئوها را بارها و بارها و

and they do it for hours and hours and hours.

بارها و ساعت‌ها و ساعت‌ها تماشا می‌کنند.

And if you try and take the screen away from them,

و اگر آنها را از این کار باز دارید،

they'll scream and scream and scream.

جیغ و فریاد خواهند کرد.

If you don't believe me --

اگر حرفم را باور ندارید--

and I've already seen people in the audience nodding --

و بعضی از شما را می‌بینم که سر تایید تکان می‌دهید--

if you don't believe me, find someone with small children and ask them,

اگر باور ندارید، افرادی که بچه دارند را پیدا کنید و از آنها بپرسید

and they'll know about the surprise egg videos.

تا به شما درباره این تخم‌مرغ شانسی‌ها بگویند.

So this is where we start.

خوب این شروع کار ما است.

It's 2018, and someone, or lots of people,

سال ۲۰۱۸ است، و اشخاص یا خیلی از مردم

are using the same mechanism that, like, Facebook and Instagram are using

از ابزارهایی شبیه فیسبوک و اینستاگرم استفاده می کنند تا

to get you to keep checking that app,

شما را وادار به چک کردن آن اپلیکیشن کنند،

and they're using it on YouTube to hack the brains of very small children

و از آن در یوتیوب استفاده می‌کنند تا مغز کودکان را برای

in return for advertising revenue.

درآمد ناشی از تبلیغات شستشو دهند.

At least, I hope that's what they're doing.

حداقل، کاری است که امیدوارم انجام دهند.

I hope that's what they're doing it for,

امیدوارم دنبال این باشند،

because there's easier ways of making ad revenue on YouTube.

بدلیل اینکه راه‌های ساده تری برای کسب درآمد از تبلیغ در یوتیوب وجود دارد.

You can just make stuff up or steal stuff.

شما می‌توانید محتوا تولید کنید یا بدزدید.

So if you search for really popular kids' cartoons

بنابراین اگر دنبال کارتون‌های واقعا مشهور کودکان مثل

like "Peppa Pig" or "Paw Patrol,"

«پپاپیگ» یا «پاو پترول» باشید،

you'll find there's millions and millions of these online as well.

میلیون‌ها و میلیون‌ها از این‌ها را نیز انلاین پیدا کنید.

Of course, most of them aren't posted by the original content creators.

البته بیشتر آنها توسط خالقشان پست نشده‌اند.

They come from loads and loads of different random accounts,

بلکه توسط بسیاری از حسابهای مختلف هستند

and it's impossible to know who's posting them

که پیدا کردن و پی بردن به انگیزه‌شان

or what their motives might be.

غیرممکن است.

Does that sound kind of familiar?

آیا به نظرتان آشنا نیست؟

Because it's exactly the same mechanism

چون همان مکانیزمی است که در بیشتر

that's happening across most of our digital services,

سرویس‌های دیجیتال استفاده می‌شود،

where it's impossible to know where this information is coming from.

که غیر ممکن است بتوان منبع را یافت.

It's basically fake news for kids,

اساسا اخبار دروغ برای کودکان هستند،

and we're training them from birth

و ما نیز از بدو تولد به کودکان می‌آموزیم

to click on the very first link that comes along,

که روی اولین لینکی که می‌بینند کلیک کنند،

regardless of what the source is.

بدون توجه به منبع آن.

That's doesn't seem like a terribly good idea.

به نظر ایده جالبی نمی‌آید.

Here's another thing that's really big on kids' YouTube.

از برنامه‌های محبوب دیگر برای کودکان در یوتیوب،

This is called the "Finger Family Song."

ترانه خانواده انگشتی است.

I just heard someone groan in the audience.

ناله یکی از حضار را شنیدم.

This is the "Finger Family Song."

این ترانه خانواده انگشتی است.

This is the very first one I could find.

یکی از اولین نمونه‌ها که پیدا کردم.

It's from 2007, and it only has 200,000 views,

سال ۲۰۰۷ ساخته شده، و فقط ۲۰۰٫۰۰۰ بار دیده شده است،

which is, like, nothing in this game.

که رقم بسیار پایینی است.

But it has this insanely earwormy tune,

اما نوای بسیار گوش نوازی دارد،

which I'm not going to play to you,

که نمی‌خواهم اینجا پخش کنم،

because it will sear itself into your brain

چون کرم مغز شما خواهد شد

in the same way that it seared itself into mine,

همانطور که برای من اتفاق افتاد.

and I'm not going to do that to you.

و نمی‌خواهم برای شما تکرار شود.

But like the surprise eggs,

اما همانند تخم مرغ شانسی،

it's got inside kids' heads

داخل مغز کودکان نفوذ کرده

and addicted them to it.

و آنها را معتاد کرده است.

So within a few years, these finger family videos

بنابراین بزودی، ویدئوهای خانواده انگشتی

start appearing everywhere,

همه جا ظاهر شدند،

and you get versions in different languages

و به زبان‌های مختلف با

with popular kids' cartoons using food

کارتونهای مشهور کودکان با استفاده از غذا

or, frankly, using whatever kind of animation elements

یا راستش هر عنصر انیمیشنی موجود

you seem to have lying around.

در اطراف خواهد بود.

And once again, there are millions and millions and millions of these videos

میلیون‌ها میلیون از این ویدئوها با

available online in all of these kind of insane combinations.

ترکیب‌های متفاوت روی اینترنت موجود است.

And the more time you start to spend with them,

و هرقدر وقت بیشتری با آنها صرف کنید،

the crazier and crazier you start to feel that you might be.

احساس دیوانگی بیشتری خواهید داشت.

And that's where I kind of launched into this,

و این جا است که من به این موضوع علاقه‌مند شدم،

that feeling of deep strangeness and deep lack of understanding

احساس غریبگی عمیق و درک ناقص چگونگی

of how this thing was constructed that seems to be presented around me.

تولید آن من را احاطه کرده بود.

Because it's impossible to know where these things are coming from.

چون غیرممکن است که بدانید این چیزها از کجا می‌آیند؟

Like, who is making them?

مثلا سازنده‌شان کیست؟

Some of them appear to be made of teams of professional animators.

بعضی از آنها توسط تیمی از انیماتورهای حرفه‌ای ساخته شده‌اند.

Some of them are just randomly assembled by software.

بعضی از آنها توسط نرم‌افزار سرهم شده‌اند.

Some of them are quite wholesome-looking young kids' entertainers.

بعضی از آنها سرگرم کننده‌های سالمی برای کودکان هستند.

And some of them are from people

اما بعضی را افرادی تهیه می‌کنند

who really clearly shouldn't be around children at all.

که به هیچ عنوان نباید اطراف کودکان باشند.

(Laughter)

(خنده)

And once again, this impossibility of figuring out who's making this stuff --

و دوباره، این عدم امکان فهمیدن منبع ساخت این ویدئوها است--

like, this is a bot?

مثل این که بات باشد؟

Is this a person? Is this a troll?

یا شخص و یا ترول؟

What does it mean that we can't tell the difference

این یعنی ما نمی‌توانیم تفاوت

between these things anymore?

بین این‌ها را دیگر بیابیم؟

And again, doesn't that uncertainty feel kind of familiar right now?

و دوباره، آیا این عدم اطمینان آشنا نیست؟

So the main way people get views on their videos --

بنابراین اصلی‌ترین راهی که این ویدئوها بازدید شوند،

and remember, views mean money --

و یادتان باشد،‌ بازدید یعنی پول --

is that they stuff the titles of these videos with these popular terms.

این است که نام‌های معروف برای آنها انتخاب شود.

So you take, like, "surprise eggs"

مثل تخم‌ مرغ شانسی و بعد افزودن

and then you add "Paw Patrol," "Easter egg,"

نامهای دیگر، مثل پاو‌پاترول، تخم مرغ عید پاک،

or whatever these things are,

یا هر چیز دیگری که هست،

all of these words from other popular videos into your title,

همه این‌ها از ویدئوهای محبوب در عنوان می‌آید

until you end up with this kind of meaningless mash of language

تا که ملغمه بی‌سروته‌ای از کلمه‌ها سرهم شود

that doesn't make sense to humans at all.

که برای انسان‌ها مفهومی ندارد.

Because of course it's only really tiny kids who are watching your video,

چون البته که بچه‌های کوچک تنها تماشاچی این ویدئوها هستند

and what the hell do they know?

و آنها هم از همه جا بی‌خبرند.

Your real audience for this stuff is software.

مخاطب حقیقی شما برای این محتواها نرم‌افزارها هستند.

It's the algorithms.

الگوریتم‌ها.

It's the software that YouTube uses

نرم‌افزاری که یوتیوب استفاده می‌کند

to select which videos are like other videos,

تا انتخاب کند کدام ویدئوها مثل سایر ویدئوها هستند،

to make them popular, to make them recommended.

کدام را محبوب کند، کدام را توصیه کند.

And that's why you end up with this kind of completely meaningless mash,

و برای همین به آن ملغمه کاملا بی‌سر و ته ختم می‌شود،

both of title and of content.

هم در محتوا و هم در عنوان.

But the thing is, you have to remember,

اما نکته‌ای که باید به خاطر بسپارید:

there really are still people within this algorithmically optimized system,

واقعا هنوز بین این سیستم الگوریتمی بهینه شده آدم‌هایی هستند

people who are kind of increasingly forced to act out

که به طرز فزاینده‌ای وادارشده‌اند

these increasingly bizarre combinations of words,

این ترکیب رو به رشد غریب از واژه‌ها،

like a desperate improvisation artist responding to the combined screams

مثل هنرمند بداهه‌پرداز مستاصلی که به فریادهای یکی شده

of a million toddlers at once.

میلیون‌ها کودک نوپا هم زمان جواب دهد.

There are real people trapped within these systems,

آدم‌های واقعی در این سیستم‌ها به دام افتادند،

and that's the other deeply strange thing about this algorithmically driven culture,

و این چیز واقعا عجیب دیگری است درباره فرهنگ نشات گرفته از الگوریتم،

because even if you're human,

چون حتی اگر انسان باشی،

you have to end up behaving like a machine

براب بقاء داشتن باید دست آخر مثل

just to survive.

ماشین رفتار کنی.

And also, on the other side of the screen,

و هنوز در آن سوی پرده

there still are these little kids watching this stuff,

این خردسالان هستند که این محتوا را می‌بینند،

stuck, their full attention grabbed by these weird mechanisms.

در حالی که کل توجه آنها با این مکانیزم‌های عجیب جلب می‌شود.

And most of these kids are too small to even use a website.

و اکثر این کودکان حتی برای استفاده از یوتیوب خیلی کوچکند.

They're just kind of hammering on the screen with their little hands.

با دستهای کوچک خود به صفحه می‌کوبند.

And so there's autoplay,

و خب این پخش خودکار هست،

where it just keeps playing these videos over and over and over in a loop,

که به پخش این ویدئوها پشت سر هم در این بدون وقفه

endlessly for hours and hours at a time.

برای ساعت‌های متوالی ادامه می‌دهد.

And there's so much weirdness in the system now

و الان در سیستم چنان چیزهایی غریبی هست

that autoplay takes you to some pretty strange places.

که حالت پخش خودکار شما را به جاهای عجیب می‌برد.

This is how, within a dozen steps,

اینطوری است که طی چند مرحله

you can go from a cute video of a counting train

می‌توانید از یک ویدئوی بامزه از قطار شماری

to masturbating Mickey Mouse.

به میکی‌موسی برسید که خودارضایی می‌کند.

Yeah. I'm sorry about that.

بله. متاسفم درباره آن.

This does get worse.

تازه بدتر هم می‌شود.

This is what happens

اتفاقی که می‌افتد این است

when all of these different keywords,

وقتی همه این کلیدواژه‌های مختلف،

all these different pieces of attention,

همه این تکه‌های مختلف توجه،

this desperate generation of content,

این نسل متاصل محتوا،

all comes together into a single place.

همه در یک جا گرد می‌آید.

This is where all those deeply weird keywords come home to roost.

اینجاست که همه آن کلیدواژه‌های عمیقا عجیب تاوان این ندانم کاری را می‌دهند.

You cross-breed the finger family video

ویدئوی خانواده انگشتی را با برخی

with some live-action superhero stuff,

چیزهای ابر-قهرمانی زنده پیوند می‌زنید،

you add in some weird, trollish in-jokes or something,

به آن امثال شوخی‌های ترولی‌وار عجیب را اضافه می‌کنید

and suddenly, you come to a very weird place indeed.

و ناگهان راستش از جای عجیبی سر در می‌آورید.

The stuff that tends to upset parents

چیزهایی که موجب برافروختگی والدین می‌شود

is the stuff that has kind of violent or sexual content, right?

بنوعی حاوی محتوا خشونت آمیز یا جنسی هستند، درست است؟

Children's cartoons getting assaulted,

کارتون‌های کودکان که مورد آزار قرار می‌گیرند،

getting killed,

کشته می‌شوند،

weird pranks that actually genuinely terrify children.

شوخی‌های عجیب که در واقع کودکان را می‌ترساند.

What you have is software pulling in all of these different influences

آنچه دارید نرم‌افزاری است همه انواع این تاثیرات مختلف را گرد می‌آورد

to automatically generate kids' worst nightmares.

تا بطور خودکار بدترین کابوس‌های کودکان را تولید کنند.

And this stuff really, really does affect small children.

و این چیزها واقعا واقعا روی بچه‌های کوچک تاثیر می‌گذارد.

Parents report their children being traumatized,

والدین از آسیب‌های روحی فرزندان خود گزارش می‌دهند،

becoming afraid of the dark,

ترسیدن‌شان از تاریکی،

becoming afraid of their favorite cartoon characters.

ترسیدن‌شان از شخصیت‌های محبوب کارتونی خود.

If you take one thing away from this, it's that if you have small children,

اگر قرار به کار بردن یک نکته باشید

keep them the hell away from YouTube.

بچه‌های کوچک را از یوتیوب دور نگه دارید.

(Applause)

(تشویق)

But the other thing, the thing that really gets to me about this,

اما نکته دیگری که واقعا من را درگیر خودش کرده

is that I'm not sure we even really understand how we got to this point.

این است که من مطمئن نیستم ما حتی واقعا بفهمیم چطور به این نکته رسیدیم.

We've taken all of this influence, all of these things,

ما همه تاثیرات این چیزها را لحاظ کرده‌ایم

and munged them together in a way that no one really intended.

و چنان ملغمه‌ای درست کرده‌ایم که کسی واقعا قصدش را نداشته است.

And yet, this is also the way that we're building the entire world.

و هنوز با این روش به ساخت دنیا ادامه می‌دهیم.

We're taking all of this data,

همه این داده‌ها را بر می‌داریم،

a lot of it bad data,

کلی داده‌های بد،

a lot of historical data full of prejudice,

کلی داده‌های تاریخی سرشار از تعصب،

full of all of our worst impulses of history,

سرشار از بدترین محرک‌های ما در تاریخ،

and we're building that into huge data sets

و ما از آنها مجموعه‌ای عظیم از داده‌ها می‌سازیم

and then we're automating it.

و بعد آنها را خودکار می‌کنیم

And we're munging it together into things like credit reports,

و آنها در قالب گزارش‌های اعتباری،

into insurance premiums,

به حق بیمه و چیزهایی مثل

into things like predictive policing systems,

سیستم‌های سیاست‌گذاری پیشگویانه، و خط مشی‌های محکوم کننده

into sentencing guidelines.

ترکیب می‌کنیم.

This is the way we're actually constructing the world today

این دقیقا همان روشی است که ما جهان امروز

out of this data.

را از داده‌ها می‌سازیم.

And I don't know what's worse,

و نمی‌دانم که کدام بدتر است،

that we built a system that seems to be entirely optimized

که سیستمی بسازیم که ظاهرا برای بدترین زوایای

for the absolute worst aspects of human behavior,

رفتار بشر بهینه باشد

or that we seem to have done it by accident,

یا که ظاهرا این کار را انجام داده ایم،

without even realizing that we were doing it,

آن هم ندانسته،

because we didn't really understand the systems that we were building,

چون واقعا سیستم‌هایی که می‌ساختیم را نمی‌فهمیدند،

and we didn't really understand how to do anything differently with it.

و واقعا نمی‌فهمیدیم چه کار متفاوتی با آن انجام دهیم.

There's a couple of things I think that really seem to be driving this

فکر می‌کنم چند مورد هست که واقعا به نظر می‌رسد که با تمام قدرت

most fully on YouTube,

در یوتیوب محرک هستند،

and the first of those is advertising,

و اول از همه تبلیغات است،

which is the monetization of attention

که از توجه پول در می‌آورد

without any real other variables at work,

بدون هیچ متغیر واقعی دیگری دراین بین،

any care for the people who are actually developing this content,

بدون توجه به آدمهایی که در واقع این محتوا را تولید می‌کنند،

the centralization of the power, the separation of those things.

متمرکز کردن قدرت، تمایز دادن این چیزها.

And I think however you feel about the use of advertising

و اگر چه شاید این حس را داشته باشید که استفاده از تبلیغات بنوعی

to kind of support stuff,

برای حمایت از چیزهاست،

the sight of grown men in diapers rolling around in the sand

تصویر مردان بالغ در پوشک که در ماسه می‌غلتند

in the hope that an algorithm that they don't really understand

به امید الگوریتمی که آنها واقعا نمی‌فهمند

will give them money for it

پول برای آن می‌دهند

suggests that this probably isn't the thing

نشان می‌دهد که این شاید چیزی نیست

that we should be basing our society and culture upon,

که باید اجتماع و فرهنگ خود را بر پایه آن بگذاریم،

and the way in which we should be funding it.

و روش سرمایه‌گذاری ما در آن.

And the other thing that's kind of the major driver of this is automation,

و نکته دیگر این است که محرک دیگر اصلی برای آن اتوماسیون است

which is the deployment of all of this technology

که بکارگیری انواع این فناوری‌ها است

as soon as it arrives, without any kind of oversight,

و وقتی بدون هیچ دوراندیشی عرضه می‌شوند

and then once it's out there,

و قابل دسترس می‌شوند،

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

مثل این می‌ماند که دست در هوا تکان داده و بگوییم،‌ «کار ما نیست. تقصیر فناوریه.»

Like, "We're not involved in it."

یا «ما که دخالتی نداریم.»

That's not really good enough,

که واقعا به حد کافی خوب نیست،

because this stuff isn't just algorithmically governed,

چون این چیزها صرفا اگوریتمی مدیریت نمی‌شوند،

it's also algorithmically policed.

بلکه الگوریتمی هم سیاست‌گذاری می‌شوند.

When YouTube first started to pay attention to this,

وقتی یوتیوب اولین بار شروع به توجه کردن به این کرد،

the first thing they said they'd do about it

اولین کاری که گفتند در این باره انجام دادند

was that they'd deploy better machine learning algorithms

به کارگیر الگوریتم‌های بهتر یادگیری ماشین بود

to moderate the content.

برای تعدیل محتوا.

Well, machine learning, as any expert in it will tell you,

خب، یادگیری ماشین، همانطور هر متخصص فعال در آن به شما خواهد گفت،

is basically what we've started to call

اساسا چیزی را نرم‌افزار نامیدیم

software that we don't really understand how it works.

که درک واقعی از کارکردش نداریم.

And I think we have enough of that already.

و فکر کنم الان بحد کافی از آن داریم.

We shouldn't be leaving this stuff up to AI to decide

نباید اینها را برای تصمیم‌گیری درست یا غلطی

what's appropriate or not,

به هوش مصنوعی محول کرد،

because we know what happens.

چون می‌دانیم چطور می‌شود.

It'll start censoring other things.

بقیه چیزها را سانسور می‌کند.

It'll start censoring queer content.

محتوا دگرباش‌ها را سانسور خواهد کرد.

It'll start censoring legitimate public speech.

سخنرانی‌های عمومی مشروع را سانسور می‌کند.

What's allowed in these discourses,

محتوای مجاز در این گفت و شنودها نباید

it shouldn't be something that's left up to unaccountable systems.

به سیستم‌های بازخواست نشدنی محول گردد.

It's part of a discussion all of us should be having.

باید بخشی از بحثی باشد که همه ما مشارکت داریم.

But I'd leave a reminder

اما بگذارید یادآوری کنم

that the alternative isn't very pleasant, either.

که جایگزین حتی خیلی دلچسب هم نیست.

YouTube also announced recently

یوتیوب اخیرا اعلام کرد

that they're going to release a version of their kids' app

که قصد انتشار نسخه‌ای از برنامه کاربردی کودکان را دارند

that would be entirely moderated by humans.

که تماما از سوی انسان‌ها اداره می‌شود.

Facebook -- Zuckerberg said much the same thing at Congress,

فیس‌بوک -- زوکربرگ تقریبا چیزی مشابه را در کنگره گفت،

when pressed about how they were going to moderate their stuff.

وقتی درباره نحوه تعدیل محتوای‌شان تحت فشار قرار گرفت،

He said they'd have humans doing it.

گفت آدمها را برای انجامش دارند.

And what that really means is,

و معنی واقعی آن این است که

instead of having toddlers being the first person to see this stuff,

بجای داشتن نوپاهایی که اولین بیننده این برنامه‌ها باشند،

you're going to have underpaid, precarious contract workers

کارکنان قراردادی متزلزل کم درآمد

فاقد حمایت سلامت روان مناسب را خواهید داشت

without proper mental health support

being damaged by it as well.

که از آن آسیب هم در امان نمی‌مانند.

(Laughter)

(خنده)

And I think we can all do quite a lot better than that.

و فکر می‌کنم می‌توانیم عملکرد بهتری داشته باشیم.

(Applause)

(تشویق)

The thought, I think, that brings those two things together, really, for me,

به اعتقاد من چیزی که بتواند این دو را واقعا یکجا داشته باشد برای شخص من

is agency.

نمایندگی است.

It's like, how much do we really understand -- by agency, I mean:

مثلا چقدر ما واقعا می فهمیم--

how we know how to act in our own best interests.

چطور می‌دانیم که چطور در جهت نفع اعلای خود عمل کنیم.

Which -- it's almost impossible to do

که-- تقریبا انجامش در این سیستم‌هایی

in these systems that we don't really fully understand.

که واقعا کامل نمی‌فهمیم غیرممکن است.

Inequality of power always leads to violence.

نابرابری در قدرت همواره منتهی به خشونت می‌گردد.

And we can see inside these systems

و می‌بینیم که داخل این سیستم‌ها

that inequality of understanding does the same thing.

که نابرابری از فهم نیز همین کار را می‌کند.

If there's one thing that we can do to start to improve these systems,

اگر برای شروع چیزی باشد که برای بهبود این سیستم‌ها انجام دهیم،

it's to make them more legible to the people who use them,

که آنها را برای کاربرهای آنها خواناتر کند،

so that all of us have a common understanding

بنابراین همه ما درک مشترکی از آنچه واقعا

of what's actually going on here.

رخ می‌دهد داریم.

The thing, though, I think most about these systems

چیزی که اگر چه فکر می‌کنم درباره اکثر این سیستم‌ها اینطور نیست

is that this isn't, as I hope I've explained, really about YouTube.

که البته امیدوارم به درستی درباره یوتیوب آن را درست توضیح داده باشم.

It's about everything.

شامل همه چیز است.

These issues of accountability and agency,

این مسائل مسئولیت‌پذیری و پویایی،

of opacity and complexity,

ابهام و پیچیدگی،

of the violence and exploitation that inherently results

خشونت و استثمار که ذاتا منجر به

from the concentration of power in a few hands --

تمرکز قدرت در دستانی معدود می‌شوند --

these are much, much larger issues.

این‌ها مسائل خیلی خیلی بزرگتری هستند.

And they're issues not just of YouTube and not just of technology in general,

و این‌ها صرفا مسائل یوتیوب و فناوری در کل نیستند،

and they're not even new.

و حتی چیز تازه‌ای نیستند.

They've been with us for ages.

سال‌ها با ما بوده‌اند.

But we finally built this system, this global system, the internet,

اما سرانجام این سیستم را ساختیم،‌ این سیستم جهانی، اینترنت،

that's actually showing them to us in this extraordinary way,

که در واقع آنها را به شیوه‌ای خارق‌العاده نشان می‌دهد،

making them undeniable.

آنها را غیرقابل انکار می‌کند.

Technology has this extraordinary capacity

فناوری این ظرفیت خارق‌العاده را دارد

to both instantiate and continue

که همه آن استثنایی‌ترین تعصب‌ها و امیال ما

all of our most extraordinary, often hidden desires and biases

که اغلب پنهان هستند را معرفی کرده و ادامه می‌دهد

and encoding them into the world,

و آنها را در این دنیا رمزگذاری می‌کند،

but it also writes them down so that we can see them,

اما همچنین آنها را یادداشت می‌کند بنابراین می‌توانیم آنها را ببینیم،

so that we can't pretend they don't exist anymore.

پس نمی‌توانیم وانمود کنیم که وجود ندارند.

We need to stop thinking about technology as a solution to all of our problems,

باید از این تفکر که فناوری راه‌حل همه مشکلات ما است دست بکشیم،

but think of it as a guide to what those problems actually are,

بلکه به آن بعنوان راهنمایی برای آنچه واقعا این مشکلات هستند فکر کنیم،

so we can start thinking about them properly

تا بتوانیم درباره آنها به درستی فکر کرده

and start to address them.

و مورد خطاب قرار دهیم.

Thank you very much.

خیلی متشکرم.

(Applause)

(تشویق)

Thank you.

متشکرم.

(Applause)

(تشویق)

Helen Walters: James, thank you for coming and giving us that talk.

هلن والترز: جیمز، متشکرم برای آمدنت به اینجا و سخنرانی که کردی.

So it's interesting:

بنابراین جالب است:

when you think about the films where the robotic overlords take over,

وقتی به فیلم‌هایی فکر می‌کنی،

it's all a bit more glamorous than what you're describing.

از آنچه شرح دادی کم باشکوه‌تر است.

But I wonder -- in those films, you have the resistance mounting.

اما فکر می کنم-- در آن فیلم‌ها با افزایش مقاومت مواجه هستیم.

Is there a resistance mounting towards this stuff?

آیا مقاومتی در برابر این چیزها در حال شکل گرفتن است؟

Do you see any positive signs, green shoots of resistance?

آیا هیچ علامت مثبتی می‌بینی، هیچی اثری از بهبودی در مقاومت؟

James Bridle: I don't know about direct resistance,

جیمز بریدل: چیزی درباره مقاومت مستقیم نمی‌دانم،

because I think this stuff is super long-term.

چون فکر می‌کنم این چیزها واقعا طولانی مدت هستند.

I think it's baked into culture in really deep ways.

فکر می‌کنم عمیقا در فرهنگ ما جا افتادند.

A friend of mine, Eleanor Saitta, always says

الئنورسایتا یکی از دوستانم همیشه می‌گوید

that any technological problems of sufficient scale and scope

که مشکلات فناوری با هر مقیاس و دامنه‌ای

are political problems first of all.

اول از همه مشکلات سیاسی هستند.

So all of these things we're working to address within this

بنابراین همه آنچه تلاش داریم در این بازه خطاب قرار دهیم

are not going to be addressed just by building the technology better,

صرف با بهتر ساختن فناوری اصلاح نمی‌شود،

but actually by changing the society that's producing these technologies.

بلکه درواقع تغییر جامعه‌ای که این فناوری‌ها را تولید می‌کند لازم است.

So no, right now, I think we've got a hell of a long way to go.

پس همین حالا فکر می‌کنم که راه لعنتی درازی در پیش داریم.

But as I said, I think by unpacking them,

همانطور که گفتم، با پرده برداشتن از آنها،

by explaining them, by talking about them super honestly,

با توضیح دادن، صحبت صادقانه داشتن درباره آنها

we can actually start to at least begin that process.

می‌توانیم حداقل این روند را آغاز کنیم.

HW: And so when you talk about legibility and digital literacy,

ه و: و بنابراین وقتی درباره سواد دیجیتالی و خوانایی صحبت می‌کنید،

I find it difficult to imagine

برایم دشوار است که تصور کنم

that we need to place the burden of digital literacy on users themselves.

لازم باشد بار سواد دیجیتال را بر دوش خود کاربرها بگذاریم.

But whose responsibility is education in this new world?

اما آموزش و تربیت در این جهان جدید مسئولیت چه کسی است؟

JB: Again, I think this responsibility is kind of up to all of us,

ج ب: دوباره، فکر می‌کنم این مسئولیت به نوعی به همه ما بستگی دارد،

that everything we do, everything we build, everything we make,

هر کاری که می‌کنیم، هر چیزی که می‌سازیم، هرآنچه می‌سازیم،

needs to be made in a consensual discussion

لازم است به بحث جمعی با اشخاصی دارد

with everyone who's avoiding it;

که از آن اجتناب می کنند.

that we're not building systems intended to trick and surprise people

که سیستم‌هایی نمی‌سازیم که تمایل به کلک زدن و شگفت‌زده کردن آدمها

into doing the right thing,

برای انجام کار درست دارند،

but that they're actually involved in every step in educating them,

اما این که آنها به راستی در هر گامی در تعلیم آنها دخیل هستند،

because each of these systems is educational.

چون هریک از این سیستم‌ها آموزشی هستند.

That's what I'm hopeful about, about even this really grim stuff,

چیزی که برایش امیدوارم، حتی این چیزهای واقعا ناراحت کننده،

that if you can take it and look at it properly,

که اگر بخواهید نگاه حسابی به‌ آنها بیندازید،

it's actually in itself a piece of education

خودش در واقع آموزش محسوب می‌شود

that allows you to start seeing how complex systems come together and work

که به شما امکان می‌دهد ببینید چطور سیستم‌های پیچیده با هم شروع به کار می کنند

and maybe be able to apply that knowledge elsewhere in the world.

و احتمالا قادر خواهید بود آن را در جاهای دیگر دنیا اعمال کنید.

HW: James, it's such an important discussion,

ه و: جمیز، بحث خیلی مهمی است،

and I know many people here are really open and prepared to have it,

و می دانم که خیلی از آدمهای حاضر در اینجا واقعا مشتاق و آماده‌اند،

so thanks for starting off our morning.

خیلی ممنون که آغازگر جلسه صبح ما بودی.

JB: Thanks very much. Cheers.

ج ب: خیلی خیلی متشکرم.

(Applause)

(تشویق)